Информационная безопасность ой как нужна. Но без профессионалов её не будет

«Крымские известия», г. Симферополь, Республика Крым

Фото: severpost.ru

Президентский указ «О мерах по обеспечению ускоренного развития отрасли информационных технологий в Российской Федерации», подписанный в начале марта, конечно же, появился не вдруг. Санкционное давление в этом секторе вкупе с мощнейшим противостоянием на информационном поле, безусловно, послужили катализаторами процессов в отечественной IT-сфере. Но единственной причиной они не являются. Аккумулировать в стране лучших программистов, создавать свои новейшие разработки и использовать их в безграничной области компьютерного применения, осуществить, наконец, импортозамещение программного обеспечения — задача, актуальная вне зависимости от любых внешних факторов. Прикладное значение этой работы несомненно, и важно — не просто идти в ногу со временем, но и быть на шаг впереди.

Вот, например, тема борьбы с противоправным контентом и фейками на слуху буквально у всех и каждого. Что это такое и чем грозит при использовании, уже закреплено законодательно и разъяснено гражданам. Но как можно выявить соответствующие посты, видео и тексты в необъятной интернет-паутине? С помощью искусственного интеллекта, поясняют завкафедрой компьютерной инженерии и моделирования Физтеха КФУ им. В. И. Вернадского Виктор Милюков и доценты Марина Руденко и Ростислав Михерский.

Против экстремистского контента

— Идея распознавания противоправного контента родилась на кафедре давно, — рассказывает М. Руденко. — На практике в анализе изображений и видео хорошо себя зарекомендовали алгоритмы, основанные на искусственных нейронных сетях. В нашем случае речь идёт о распознавании различных экстремистских символов, флагов, логотипов, иных надписей, принадлежащих организациям, деятельность которых запрещена законом. Инструменты, разыскивающие на изображениях эти символы, позволяют с большой вероятностью соотнести аккаунт человека или размещённый контент с деятельностью той или иной экстремистской организации. При этом базу поиска можно дополнять и дообучать, более того, чем больше в ней примеров, тем лучше система обучается сама и становится эффективнее.

— Допустим, известно, что законом запрещено использовать фотографии Гитлера, за исключением определённых исследований. Мы можем настроить программу и проанализировать все страницы сети «ВКонтакте» на предмет того, где есть это изображение. Потом последует анализ: в каком качестве оно там появилось — с целью сатиры, разоблачения или поддержки? Это уже задача экспертов-правоведов, которые проводят более глубокое исследование и дают оценку, наша же — найти механизм детектирования и защиты, — дополняет Виктор Милюков. — Если вручную просматривать сотни тысяч страниц соцсети в поисках противоправных символов, сложно даже представить, сколько потребуется времени. Робот же может изучить их за несколько секунд — проштудировать видео, тексты, контексты и выдать на суд экспертам, условно говоря, 127 подозрительных страниц.

Проблема разоблачения фейков сложнее. В этом случае предстоит «прошерстить» миллионы сайтов, на которых могут присутствовать фрагменты соответствующей картинки, фото или видео, и идентифицировать их. Для разоблачения фейков зачастую необходимо сопоставить фото, сделанные в разное время в разных местах, использованные несколько раз, или обнаружить редактирование картинки. Задача экспертов — используя компьютерную выборку, доказать, что фото или видео смонтировано, либо представленный на нём человек в то же самое время находился совершенно в другом месте, или обратить внимание на иные визуальные несоответствия, например, наличие зелёных деревьев на фото, заявленном как февральское. Для разоблачения ложных, постановочных и заведомо сфабрикованных изображений, говорит В. Милюков, нужно не только найти информацию, но и привлечь специалистов по компьютерной графике для окончательного разоблачения фейка.

Искусственная иммунная система — средство защиты нового уровня

Другим удивительным способом выявления запрещённого контента может стать система, построенная на алгоритмах, работающих по принципу действия иммунной системы человеческого организма. Звучит фантастически, но Ростислав Михерский в нашем КФУ занимается её созданием и уже достиг определённых результатов. Существует некий математический аппарат, который в работе чем-то похож на то, что происходит в нашем организме, когда антитела борются, например, с вирусами.

Такая система обучается гораздо быстрее, чем применяемые на практике искусственные нейронные сети, поясняет Р. Михерский. С её помощью можно успешно распознавать и классифицировать как изображения, так и тексты. Например, в университете провели анализ авторства романа «Тихий Дон».

— Были версии, что автором этого произведения является не Михаил Шолохов, а Фёдор Крюков. Мы обучили систему на произведениях обоих авторов и на проверку предложили «Тихий Дон». Система дала однозначный ответ: это произведение Шолохова, — рассказывает Р. Михерский. — Данную методику можно использовать и для других задач, в частности, поиска противоправного контента в текстовых сообщениях в социальных сетях. Достаточно указать некоторое количество примеров обычных сообщений и противоправных, и система сама научится отличать их друг от друга. При этом контент с ярко выраженными призывами можно выявлять сразу, а чтобы определить завуалированный, потребуются дополнительное обучение и большие объёмы данных.

Система имеется — нужно внедрение

Искусственный интеллект не пропустит запрещённую в РФ экстремистскую символику в сети. *Запрещённая в РФ организация.— Обычно ПО разрабатывается в течение нескольких лет. Мы занялись данной проблемой осенью прошлого года и уже готовы дать и установить соответствующее программное обеспечение, допустим, в школе или в вузе. Файлы с изображением экстремистского контента у детей на устройствах будут просто блокироваться, они их не увидят, — рассказывает руководитель разработчиков. — Уверен, аналогичные вещи сейчас делают в десятках научных центров на территории России. Вероятно, своё ПО есть в спецслужбах, но его не удастся использовать в гражданском секторе (в школах, институтах или дома) для защиты от случайного просмотра запрещённого контента. Наша система для этого подходит, ждём заинтересованности потенциальных потребителей в получении конечного продукта. Для этого должны быть решение, допустим, Минобразования Крыма, и некоторая грантовая поддержка, чтобы мы могли довести свой продукт до качественного промышленного изделия, настроить под потребности конкретного направления. Очевидно, что свои разработки будут стоить в несколько раз дешевле, чем ПО, которое будет поступать в республику из других научных центров. К тому же на рынке пока таких решений нет.

Можно ли все проблемы решить с помощью запретов и закрытий?

Этот философский вопрос всплыл в разговоре с учёными физтеха не случайно: лирики и физики всегда здесь неплохо друг друга понимали. И сейчас тоже нашли общий язык.

— Нет, это вопрос очень деликатный, тонко настраиваемый, — уверен В. Милюков. — Допустим, вы придумали новый скальпель и вам говорят, почему же вы не можете с его помощью сразу все болезни вылечить? Да потому, что это специализированный инструмент, созданный под определённые проблемы, и иных задач перед ним не ставится. Есть ещё вопросы воспитания, идеологии, объединяющей национальной идеи — в корне изменить протекающие в обществе процессы можно, только используя всё в комплексе. А информационное противостояние у нас будет длительное и очень острое, так что инструменты понадобятся самые разные.

— Не нужно теряться в иллюзиях, что вы свободны, — вы уже несвободны в информационном пространстве, — добавляет М. Руденко. — Вы находитесь в среде, навязанной извне, в информационной оболочке, созданной под вас. Отсюда таргетированная реклама, всевозможные ссылки, настроенные с учётом вашего цифрового следа. Вам кажется, что можно на это не вестись, но это всего лишь иллюзия. При этом, если закрыть информацию там, где обществу необходима защита, ничего страшного не случится. Сработает, как было с сигаретами: запретили рекламу — и через какое-то время дети перестали ими интересоваться. Конечно, на взрослых людей это не повлияло, но и цель такая не ставилась. По факту потребление табака действительно снизилось.

Программистам куда у нас дорога?

Ещё несколько лет назад методы создания искусственного интеллекта зачастую вызывали сомнения, сейчас же направление развивается с колоссальной скоростью. На кафедре компьютерной инженерии и моделирования каждый третий студент защищает дипломную работу по искусственному интеллекту с использованием нейронных сетей, искусственной иммунной системы и пр. Виктор Милюков три года говорит о необходимости открытия новой специальности, позволяющей выпускать для Крыма «ювелиров» в сфере компьютерной безопасности. Такой запрос существует, подготовлены и специалисты, кафедра заручилась поддержкой крупнейших российских компаний — вендоров и органов власти, но вопрос пока не решается.

— «Безопасников» в России не хватает — минимум 50%, особенно в области компьютерной безопасности, в связи с последними событиями будет ещё больше. Но самая большая проблема не в студентах, а в преподавателях. Имеющиеся кадры не обеспечат стране нужное количество молодых специалистов. Преподаватель на кафедре, даже если работает на полторы ставки и подрабатывает в выходные, всё равно получает в 3—4 раза меньше, чем в бизнесе. Там огромное число заказов, вкладываются бюджетные средства, непрерывно растёт зарплата. А тут, как только мы выращиваем хорошего программиста, рядом оказывается кто-то из бизнеса и вырывает его с корнем из научной среды. Руководство КФУ понимает ситуацию и предпринимает усилия, чтобы лучшие выпускники оставались работать в университете, но действенных механизмов для этого пока нет. Ситуацию необходимо менять, и тогда столь нужный стране рывок в этом направлении можно будет обеспечить.

В. Краснопольская

0 лайков