OpenAI изменила политику ChatGPT, позволив использовать свои технологии в военных целях
Достовірність даних для навчання ШІ дуже важлива для Пентагону. Фото: Steve Stover
Компания OpenAI сняла запрет на использование искусственного интеллекта в военных целях, фактически позволив им использовать свои технологии.
Об этом сообщает издание Intercept, пишет Рубрика.
До 10 января 2024 года страница "Политики использования" OpenAI составляла пункт о запрете на использование искусственного интеллекта для "деятельности, имеющей высокий риск физического вреда".
Это положение предотвращало, в частности, применение технологий для "разработки оружия" и "по военному делу".
Обновленная политика сохраняет запрет на использование услуг Open AI, "чтобы нанести вред себе или другим" – этот пункт до сих пор не позволяет применять ИИ для "разработки оружия", впрочем, общий запрет на использование "в военном деле" исчезла.
По словам компании, политику переписали для того, чтобы сделать документ более "чётким" и "читаемым", новая редакция содержит много других существенных изменений в формулировке.
"Принцип "не навреди другим" широк, но легко понятен во многих контекстах. Кроме того, мы конкретно привели в качестве ярких примеров разработку оружия и ранения других", — сказала OpenAI изданию.
Представитель компании Нико Феликс отказался сказать, охватывает ли такой размытый запрет на "нанесение ущерба другим" любое использование Chat GPT в военных целях, отметив:
"Компания запрещает, в том числе и военным, любое применение технологий для разработки или использования оружия, нанесение ранений другим, уничтожение чьей-либо собственности или совершение несанкционированных действий, нарушающих безопасность любой службы или системы.
Технологии OpenAI до сих пор нельзя использовать для прямого убийства, в том числе и в военных целях.
К примеру, ChatGPT не может маневрировать беспилотниками или запускать ракету.
Однако существует значительное количество смежных задач, где можно применить ChatGPT и другие языковые модели: например, написание кода или обработка заказов в госзакупках.
В Минобороны оценили умение ИИ, изобразившее персонажей Гарри Поттера на службе в ВСУ
Американские военные уже используют ШИ-технологии для документооборота, а Национальное агентство геопространственной разведки даже не скрывает использования ChatGPT для помощи своим аналитикам.
Эксперты считают, что OpenAI постепенно меняет свою позицию против ведения бизнеса с военными.
К тому же Microsoft, которая является крупным оборонным подрядчиком, уже инвестировала в OpenAI $13 миллиардов и активно использует программные инструменты компании.
Военные по всему миру стремятся использовать методы машинного обучения, чтобы получить преимущество.
Пентагон все еще размышляет, чем ему могут быть полезны ChatGPT и другие крупные языковые модели.
ШИ учатся на необъятном массиве книг, статей и других веб-данных. И хотя ответы таких языковых моделей, как ChatGPT, в большинстве своем очень убедительны, их формулировки приспособлены для общего понимания, но не для твердого осознания реальности.
Поэтому результаты, которые дает искусственный интеллект, часто страдают от так называемых галлюцинаций, когда точность под большим вопросом.
Впрочем, способность языковых моделей быстро обрабатывать информацию или по крайней мере симулировать анализ делает их чрезвычайно привлекательными для оборонных ведомств, нагруженных данными.
В Пентагоне уже прозвучало беспокойство тенденцией языковых моделей давать в ответах явные фактические ошибки и другие искажения, а также рисками для безопасности, которые могут возникнуть с использованием ChatGPT для анализа секретных данных.
В то же время Пентагон по-прежнему стремится использовать инструменты искусственного интеллекта. Об этом в ноябре прошлого года заявила заместитель министра обороны Кэтлин Гикс.
"Искусственный интеллект является ключевой частью комплексного подхода к инновациям, ориентированному на бойца, который мы с министром обороны Ллойдом Остином развиваем с самого начала", — заявила Гикс.
Впрочем, она предупредила, что большинство современных предложений "еще технически недостаточно зрелые, чтобы отвечать нашим требованиям и нравственным принципам".
Использование искусственного интеллекта военными
Против Китая действуют системные экспортные ограничения США, охватывающие, в частности, сужение поставок в КНР современных технологий, таких как в сфере ИИ.
В настоящее время многие страны пытаются приспособить ИИ в военных целях. Также искусственный интеллект может помочь гуманитарному разминированию территории Украины.
Напомним, Пентагон намерен провести специальные исследования по защите данных для нейросетей.
В Пентагоне не могут обойтись без ИИ, но заявляют, что его использование должно быть крайне осторожным, а данные многократно перепроверены.
Министерство обороны США намерено развернуть тысячи автономных транспортных средств с искусственным интеллектом до 2026 года, чтобы не отставать от Китая.
Кроме того, страны-члены Альянса AUKUS (трехсторонний оборонный пакт, образованный Австралией, Великобританией и США – ред.) будут использовать искусственный интеллект, морские дроны и космические радары для поиска военных подводных лодок Китая в Тихом океане.
А украинское министерство экономики считает, что искусственный интеллект может помочь в гуманитарном разминировании территории Украины.
Если вы нашли ошибку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter.
