Исследования показали, что искусственный интеллект терпит неудачу в грамматике

Как показало исследование ученых Берлинского университета имени Гумбольдта, Автономного университета Барселоны (UAB) и Каталонского института исследований и перспективных исследований (ICREA), искусственный интеллект хуже справляется с распознаванием грамматических ошибок, чем человек.

Об этом Techxplore,  передает Рубрика.

Ученые выяснили, что люди распознают грамматические ошибки в предложении, в то время как искусственный интеллект (ИИ) этого не делает.

В исследовании использовали два чата GPT3 и ChatGPT на основе GP3.5.

И людям, участвовавшим в эксперименте, и языковым моделям задавали очень простой вопрос:

"Есть ли это предложение грамматически правильно?"

Люди отвечали правильно, в то время как ШИ давали много неправильных ответов.

Ученые обнаружили, что приложения ИИ в основном используют стандартную стратегию ответа "да", независимо от того, правильный ответ или нет.

"Результат удивляет, поскольку эти системы "обучаются" на основе того, что грамматически правильно в языке, а что нет", – объясняет научная сотрудница Виттория Дентелла, руководившая исследованием.

Посредством процесса обучения этим моделям приводятся примеры предложений, которые грамматически неправильно построены, а затем предоставляется правильная версия. У людей это происходит не так.

Таким образом, исследование показывает, что между людьми и искусственным интеллектом существует двойное несоответствие.

Люди не имеют доступа к "негативным доказательствам". Но искусственный интеллект не может распознать простые грамматические ошибки, тогда как люди могут мгновенно и без труда.

"Разработка полезных и безопасных инструментов искусственного интеллекта может быть очень полезной, но мы должны знать об их умении грамматики, как мы это сделали в нашем исследовании, имеет жизненно важное значение", – говорит профессор- исследовательница ICREA Эвелина Лейвада.

Как подытоживает Виттория Дентелла, результаты исследования свидетельствуют о том, что нужно критически задуматься над тем, действительно ли ИИ имеют языковые навыки, подобные человеческим.

В настоящее время многие страны пытаются приспособить ИИ в военных целях. Также искусственный интеллект может помочь в гуманитарном разминировании территории Украины.

Напомним, Пентагон намерен провести специальные исследования по защите данных для нейросетей.

В Пентагоне не могут обойтись без ИИ, но заявляют, что его использование должно быть крайне осторожным, а данные многократно перепроверены.