Дослідження показали, що штучний інтелект зазнає невдачі в граматиці

Як показало дослідження вчених Берлінського університету імені Гумбольдта, Автономного університету Барселони (UAB) та Каталонського інституту досліджень та перспективних досліджень (ICREA), штучний інтелект гірше справляється з розпізнанням граматичних помилок, ніж людина.

Про це пише Techxplore, передає Рубрика.

Вчені з'ясували, що люди розпізнають граматичні помилки в реченні, тоді як штучний інтелект (ШІ) цього не робить.

У дослідженні використали два чати GPT3 і ChatGPT на основі GP3.5.

І людям, які брали участь в експерименті, і мовним моделям ставили дуже просте запитання:

"Чи є це речення граматично правильним?"

Люди відповідали правильно, тоді як ШІ давали багато неправильних відповідей.

Вчені виявили, що додатки ШІ здебільшого використовують стандартну стратегію відповіді "так", незалежно від того, правильна відповідь чи ні.

"Результат дивує, оскільки ці системи "навчаються" на основі того, що граматично правильно в мові, а що ні", – пояснює наукова співробітниця Вітторія Дентелла, яка керувала дослідженням.

За допомогою процесу навчання цим моделям наводяться приклади речень, які граматично неправильно побудовані, а потім надається правильна версія. У людей це відбувається не так.

Таким чином дослідження показує, що між людьми та штучним інтелектом існує подвійна невідповідність.

Люди не мають доступу до "негативних доказів". Але штучний інтелект не може розпізнати прості граматичні помилки, тоді як люди можуть миттєво і без зусиль.

"Розробка корисних і безпечних інструментів штучного інтелекту може бути дуже корисною, але ми повинні знати про їхні  зуміння граматики, як ми це зробили в нашому дослідженні, має життєво важливе значення", – каже професорка-дослідниця ICREA Евеліна Лейвада.

Як підсумовує Вітторія Дентелла, результати дослідження свідчать про те, що потрібно критично замислитися над тим, чи дійсно ШІ мають мовні навички, подібні до людських.

Зазначимо, що нині багато країн намагаються пристосувати ШІ у військових цілях. Також штучний інтелект може допомогти в гуманітарному розмінуванні території України.

Нагадаємо, Пентагон має намір провести спеціальні дослідження щодо захисту даних для нейромереж.

У Пентагоні не можуть обійтися без ШІ, але заявляють, що його використання має бути вкрай обережним, а дані багато разів перевірені ще раз.