Противодействие распространению дезинформации искусственным интеллектом: в чем решение
На конференции от Института Инновационного управления эксперты обсудили распространение дезинформации технологиями ИИ и предложили способы противодействия дипфейкам и ИПСО.
Об этом пишет Рубрика.
В чем проблема?
Дезинформация — мощный инструмент для деморализации, распространения измены и продвижения антиукраинских нарративов.
По словам соучредительницы Stopfake Ольги Юрковой, пропагандисты активно используют искусственный интеллект, чтобы создавать дипфейки и распространять дезинформацию в соцсетях через новообразованные "паблики". Пропаганда направлена на то, чтобы вызвать негативные эмоции, нажать на слабые точки, например, коррупция, и деморализовать украинское общество.
"Тема дезинформации является одной из важнейших в деятельности Министерства как после начала полномасштабного вторжения, так и до этого. Это топ приоритет для нас", — сказал заместитель Министра культуры и информационной политики Тарас Шевченко.
Какое решение?
📌 Принять закон об искусственном интеллекте.
Он урегулирует действия искусственного интеллекта и обяжется соблюдать определенные нормы и акты. Европарламент уже одобрил проект текста будущего закона о регулировании ИИ, однако он сможет вступить в силу не ранее 2026 года. Именно поэтому Евросоюз планирует заключать добровольные временные пакты с технологическими компаниями.
📌 Повысить медиаграмотность украинцев и привлекать пользователей жаловаться на фейки в соцсетях.
Заместитель директора Центра демократии и верховенства права Игорь Раскладной рассказал, что аккаунты обычных пользователей могут сотрудничать с платформой, оставляя жалобы на ложный контент. Система заблокирует дезинформацию благодаря обращениям пользователей.
Если же пользователи будут распространять фейк на своих страницах, то это лишь ускорит распространение дезинформации:
"Главный распространитель дезинформации — это обычный потребитель< i>, который в соцсети давит кнопку «распространить», затем это подхватывает кто-то другой и фейк или дезинформация распространяются очень стремительно в режиме реального времени. Это очень опасно, и как раз на этом моменте важно остановить распространение дезинформации", — отметила Ольга Юркова.
Как это работает?
📌 Закон об искусственном интеллекте.
Европарламент одобрил, что закон будет регулировать ИИ в соответствии с уровнем риска: чем выше он для прав или здоровья людей, тем больше обязательств. Список высокого риска — сфера образования, критической инфраструктуры, общественного порядка и управления миграцией.
Также будет установлено особое требование — маркировать контент, созданный ИИ. Она применима к генеративным системам, которые могут писать тексты, создавать изображения, аудио и медиафайлы. Google DeepMind уже тестирует инструмент SynthID, который будет маркировать неотделимыми водяными знаками изображения, созданные ШИ.
📌 Повышение уровня медиаграмотности.
На дискуссии предложили ввести курс медиаграмотности в старших классах, на которых учащиеся научатся работать с соц.сетями и проверять источник информации. Также отметили важность проведения открытых тренингов, конференций для повышения уровня критического мышления и внимательности украинцев.
"Война дала людям понять, что информационная безопасность — это физическая безопасность , и они стали интересоваться ею больше. Но не совсемм правильно говорить, что люди стали гораздо более медиаграмотными, они больше обращают на это внимание. Я думаю, что нам еще много работать, но то, что у общества есть желание работать над этим — это уже большой значительный шаг", — отметила руководительница национального проекта по медиаграмотности "Фильтр" Валерия Ковтун.
Напомним, что украинские разработчики на базе Искусственного Интеллекта создали платформу Mantis Analytics, умеющую мониторить, анализировать события и выявлять манипуляции в информационном пространстве.
Кроме того, Центр национального сопротивления представил комикс под названием "Время русные всплывает", на основе книги, созданной с помощью искусственного интеллекта.
Если вы нашли ошибку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter.
