Искусственный интеллект, поверивший пропаганде, или Что такое ChatGPT и почему вы могли о нем не слышать

Компания OpenAI получила от Microsoft 1 миллиард долларов и разработала чат-бот ChatGPT с искусственным интеллектом, способным понимать человеческий язык и генерировать на удивление детализированный человеческий письменный текст. Это последняя эволюция GPT или Generative Pre-Trained Transformer — семейства искусственного интеллекта, генерирующего текст.

Казалось бы, это только развлечение. Но ChatGPT умеет писать произведения и стихи, делать прогнозы, решать математические задачи, писать код, отвечать на вопросы и это далеко не полный список его талантов. Нейросеть набрала более миллиона пользователей за первые пять дней после того, как разработчики открыли доступ к ней. В то же время гендиректор Google Сундар Пича уже призвал сотрудников разных подразделений бросить силы на противостояние угрозе, которую ChatGPT несет для поисковика. Но это не главная проблема. По крайней мере, сейчас для украинцев есть кое-что хуже гонки между Google и другими компаниями.

Основатели OpenAI не спешат делиться своими разработками с техническим сообществом. Любые уникальные для ChatGPT нововведения секретны, и то, какие алгоритмы ИИ (искусственный интеллект) использует, неизвестно.

Первым обратил внимание на проблему и предоставил ей публичную огласку Тимофей Милованов, глава наблюдательного совета Укроборонпрома. На его вопрос "чей Крым?", бот не сказал "Украины". Он ответил "территория спорная", "некоторые страны считают ее Украиной, а некоторые — Россией", а "фактически ее контролирует Россия, которая считает ее своей". Если коротко, вот что пишет Милованов в посте:

• Чат-бот ChatGPT отказывается назвать причину войны в Украине и называть войну войной. Рассказывает о Майдане и о "многих разных политических, исторических и экономических причинах", "а также влиянии разных международных игроков" (т.е. бот намекает на прокси войну).
• Чат-бот ChatGPT создает тексты, основываясь на всем материале из интернета, в том числе и на пропагандистских российских новостях и статьях, впоследствии вплетая российские нарративы в новые материалы.

До этого уже существовали целые массивы текстов, созданные искусственным интеллектом. Некоторые из них использовать в СМИ как полноценные журналистские материалы. Яркий пример — CNET Money Staff, где опубликовано около 70 текстов, в которых объясняется, что такое Zelle и как настроить автоплатеж для кредитных карт. Как пишет издание Медиамейкер, ссылаясь на тред онлайн-маркетолога Гаэля Бретона, команда CNET Money Staff начала экспериментировать с ИИ в ноябре. Они пытаются выяснить, существует ли прагматический вариант использования ИИ для помощи в базовых объяснениях тем финансовых услуг.

Украинское сообщество не осталось в стороне. Политики, программные инженеры и научные работники сразу начали искать решение этой проблемы. Вот что они предлагают.

Василий Задворный, генеральный директор ГП "Прозорро", имеет 10-летний опыт работы в IT-индустрии. При руководстве Василия Задворного бывшее ГП "Внешторгиздат Украины" удалось трансформировать в государственную IT-компанию, администрирующую и развивающую электронную систему публичных закупок.

Из самых "очевидных" решений, которые видит Задворный, введение жесткой регуляции работы чат-бота. То есть, необходимо ввести для ChatGPT обязанность отмечать созданные ИИ тексты в больших медиа, в том числе в соцсетях.

"Для этого требуется широкий лоббизм, но, насколько я понимаю, и ЕС, и США уже над этим работают. Минусы: это не произойдет быстро", — комментирует Задворный.

Он также предлагает маркировать тексты, созданные чат-ботом на предмет "возможно содержит дискриминационный текст". Это требование должно относиться к большим медиа, которые публикуют созданные чат-ботом материалы. Это не новое решение. Когда ковид-пандемия была главной проблемой мира, а в сети появлялось много разнополярных мыслей о вирусе, подобный подход уже использовался для covid-related topics.

Обученная искусственным интеллектом и машинным обучением система разработана для предоставления информации и ответов на вопросы через разговорный интерфейс. Искусственный интеллект учится на большой выборке текста, взятого из веба. По мнению некоторых специалистов, именно в этом и состоит главная проблема ИИ: он усиливает искажения и предубеждения. Именно поэтому важен "базис", на котором он учится. Доктор философии, постдок Королевского института Технологий в Стокгольме Алексей Пасечный, объясняет:

"Garbage in, garbage out (мусор внутрь, мусор наружу, — ред.), чем вы модель кормите, то она и выдает. Лучшее, что можно сделать, это продвижение украинского языка и украинских нарративов в самые влиятельные источники (потому что там определенная часть алгоритма типа pagerank). Например, если все лекции с выдающимися гостями, проводившими KSE в этом году, будут транскрибированы и выложены в открытый доступ по их авторству".

В этом мнении с ним солидарна и open data-специалистка Надежда Бабинская-Верная. Она считает, что журналистам нужно публиковать больше качественного контента на английском языке об Украине.

Кстати, "Рубрика" уже присоединилась к реализации такого решения, запустив англоязычную версию сайта еще до начала полномасштабной войны. Оттуда можно распространять наши материалы и для англоязычной аудитории.

Сначала главным принципом создания ИИ было то, что мы не можем доверять коммерческим компаниям разрабатывать все более мощный искусственный интеллект. Ранее компания OpenAI была независимым исследовательским фондом, но в 2019 году OpenAI превратилась в коммерческую компанию (помним о миллиарде долларов от Microsoft), чтобы масштабироваться и конкурировать с технологическими гигантами. Компанию также продолжает финансировать Илон Маск, заявления которого о войне рф против Украины возмущают сознательную часть общества.

Open data-специалистка Надежда Бабинская-Верная считает, что алгоритмы ИИ должны стать открытыми и необходимо провести соответствующую кампанию, а для этого:

• общаться с Microsoft и другими спонсорами OpenAI;
• сделать проблему заангажированности публичной, рассказывая, как это вредит миру.

А вот, что можете сделать для этого лично Вы:

• Шаг 1: Оставлять запросы и жалобы.

Вы можете посылать запросы и жалобы к разработчикам, чтобы они скорректировали и исправили алгоритмы, уделяя больше внимания обучению ИИ на достоверных источниках. Обычно такие компании очень просят сообщать о схожих случаях "to remove flaws from the model".

Это можно сделать на сайте OpenAI, но только тем, кто находится за границей: для Украины доступ к чат-боту пока закрыт.

• Шаг 2: Обновление информации на общедоступных ресурсах.

Инженер программного обеспечения Сергей Корсуненко заметил, что некоторые ответы искусственный интеллект предоставляет, получая информацию из общедоступных ресурсов, которые принято считать достоверным источником информации.

Он заметил, что ответ ChatGPT на вопрос "Какая причина войны россии против Украины?" очень близок по содержанию к статье в Википедии.

"Нужно добавлять правдивую и ясно изложенную информацию в Википедию на английском, русском и украинском языках. После очередной перетренировки чат-бот будет давать адекватные ответы".