Противодействие распространению дезинформации искусственным интеллектом: в чем решение

На конференции от Института Инновационного управления эксперты обсудили распространение дезинформации технологиями ИИ и предложили способы противодействия дипфейкам и ИПСО.

Об этом пишет Рубрика.

В чем проблема?

Дезинформация — мощный инструмент для деморализации, распространения измены и продвижения антиукраинских нарративов.

По словам соучредительницы Stopfake Ольги Юрковой, пропагандисты активно используют искусственный интеллект, чтобы создавать дипфейки и распространять дезинформацию в соцсетях через новообразованные "паблики". Пропаганда направлена на то, чтобы вызвать негативные эмоции, нажать на слабые точки, например, коррупция, и деморализовать украинское общество.

"Тема дезинформации является одной из важнейших в деятельности Министерства как после начала полномасштабного вторжения, так и до этого. Это топ приоритет для нас", — сказал заместитель Министра культуры и информационной политики Тарас Шевченко.

Какое решение?

📌 Принять закон об искусственном интеллекте.

Он урегулирует действия искусственного интеллекта и обяжется соблюдать определенные нормы и акты. Европарламент уже одобрил проект текста будущего закона о регулировании ИИ, однако он сможет вступить в силу не ранее 2026 года. Именно поэтому Евросоюз планирует заключать добровольные временные пакты с технологическими компаниями.

📌 Повысить медиаграмотность украинцев и привлекать пользователей жаловаться на фейки в соцсетях.

Заместитель директора Центра демократии и верховенства права Игорь Раскладной рассказал, что аккаунты обычных пользователей могут сотрудничать с платформой, оставляя жалобы на ложный контент. Система заблокирует дезинформацию благодаря обращениям пользователей.

Если же пользователи будут распространять фейк на своих страницах, то это лишь ускорит распространение дезинформации: 

"Главный распространитель дезинформации — это обычный потребитель, который в соцсети давит кнопку «распространить», затем это подхватывает кто-то другой и фейк или дезинформация распространяются очень стремительно в режиме реального времени. Это очень опасно, и как раз на этом моменте важно остановить распространение дезинформации", — отметила Ольга Юркова.

Как это работает?

📌 Закон об искусственном интеллекте.

Европарламент одобрил, что закон будет регулировать ИИ в соответствии с уровнем риска: чем выше он для прав или здоровья людей, тем больше обязательств. Список высокого риска — сфера образования, критической инфраструктуры, общественного порядка и управления миграцией.

Также будет установлено особое требование — маркировать контент, созданный ИИ. Она применима к генеративным системам, которые могут писать тексты, создавать изображения, аудио и медиафайлы. Google DeepMind уже тестирует инструмент SynthID, который будет маркировать неотделимыми водяными знаками изображения, созданные ШИ.

📌 Повышение уровня медиаграмотности.

На дискуссии предложили ввести курс медиаграмотности в старших классах, на которых учащиеся научатся работать с соц.сетями и проверять источник информации. Также отметили важность проведения открытых тренингов, конференций для повышения уровня критического мышления и внимательности украинцев.

"Война дала людям понять, что информационная безопасность — это физическая безопасность , и они стали интересоваться ею больше. Но не совсемм правильно говорить, что люди стали гораздо более медиаграмотными, они больше обращают на это внимание. Я думаю, что нам еще много работать, но то, что у общества есть желание работать над этим — это уже большой значительный шаг", — отметила руководительница национального проекта по медиаграмотности "Фильтр" Валерия Ковтун.

Напомним, что украинские разработчики на базе Искусственного Интеллекта создали платформу Mantis Analytics, умеющую мониторить, анализировать события и выявлять манипуляции в информационном пространстве.

Кроме того, Центр национального сопротивления представил комикс под названием "Время русные всплывает", на основе книги, созданной с помощью искусственного интеллекта.