Достовірність даних для навчання ШІ дуже важлива для Пентагону. Фото: Steve Stover
Об этом сообщает издание Intercept, пишет Рубрика.
До 10 января 2024 года страница "Политики использования" OpenAI составляла пункт о запрете на использование искусственного интеллекта для "деятельности, имеющей высокий риск физического вреда".
Это положение предотвращало, в частности, применение технологий для "разработки оружия" и "по военному делу".
Обновленная политика сохраняет запрет на использование услуг Open AI, "чтобы нанести вред себе или другим" – этот пункт до сих пор не позволяет применять ИИ для "разработки оружия", впрочем, общий запрет на использование "в военном деле" исчезла.
По словам компании, политику переписали для того, чтобы сделать документ более "чётким" и "читаемым", новая редакция содержит много других существенных изменений в формулировке.
"Принцип "не навреди другим" широк, но легко понятен во многих контекстах. Кроме того, мы конкретно привели в качестве ярких примеров разработку оружия и ранения других", — сказала OpenAI изданию.
Представитель компании Нико Феликс отказался сказать, охватывает ли такой размытый запрет на "нанесение ущерба другим" любое использование Chat GPT в военных целях, отметив:
"Компания запрещает, в том числе и военным, любое применение технологий для разработки или использования оружия, нанесение ранений другим, уничтожение чьей-либо собственности или совершение несанкционированных действий, нарушающих безопасность любой службы или системы.
Технологии OpenAI до сих пор нельзя использовать для прямого убийства, в том числе и в военных целях.
К примеру, ChatGPT не может маневрировать беспилотниками или запускать ракету.
Однако существует значительное количество смежных задач, где можно применить ChatGPT и другие языковые модели: например, написание кода или обработка заказов в госзакупках.
Американские военные уже используют ШИ-технологии для документооборота, а Национальное агентство геопространственной разведки даже не скрывает использования ChatGPT для помощи своим аналитикам.
Эксперты считают, что OpenAI постепенно меняет свою позицию против ведения бизнеса с военными.
К тому же Microsoft, которая является крупным оборонным подрядчиком, уже инвестировала в OpenAI $13 миллиардов и активно использует программные инструменты компании.
Военные по всему миру стремятся использовать методы машинного обучения, чтобы получить преимущество.
Пентагон все еще размышляет, чем ему могут быть полезны ChatGPT и другие крупные языковые модели.
ШИ учатся на необъятном массиве книг, статей и других веб-данных. И хотя ответы таких языковых моделей, как ChatGPT, в большинстве своем очень убедительны, их формулировки приспособлены для общего понимания, но не для твердого осознания реальности.
Поэтому результаты, которые дает искусственный интеллект, часто страдают от так называемых галлюцинаций, когда точность под большим вопросом.
Впрочем, способность языковых моделей быстро обрабатывать информацию или по крайней мере симулировать анализ делает их чрезвычайно привлекательными для оборонных ведомств, нагруженных данными.
В Пентагоне уже прозвучало беспокойство тенденцией языковых моделей давать в ответах явные фактические ошибки и другие искажения, а также рисками для безопасности, которые могут возникнуть с использованием ChatGPT для анализа секретных данных.
В то же время Пентагон по-прежнему стремится использовать инструменты искусственного интеллекта. Об этом в ноябре прошлого года заявила заместитель министра обороны Кэтлин Гикс.
"Искусственный интеллект является ключевой частью комплексного подхода к инновациям, ориентированному на бойца, который мы с министром обороны Ллойдом Остином развиваем с самого начала", — заявила Гикс.
Впрочем, она предупредила, что большинство современных предложений "еще технически недостаточно зрелые, чтобы отвечать нашим требованиям и нравственным принципам".
Использование искусственного интеллекта военными
Против Китая действуют системные экспортные ограничения США, охватывающие, в частности, сужение поставок в КНР современных технологий, таких как в сфере ИИ.
В настоящее время многие страны пытаются приспособить ИИ в военных целях. Также искусственный интеллект может помочь гуманитарному разминированию территории Украины.
Напомним, Пентагон намерен провести специальные исследования по защите данных для нейросетей.
В Пентагоне не могут обойтись без ИИ, но заявляют, что его использование должно быть крайне осторожным, а данные многократно перепроверены.
Министерство обороны США намерено развернуть тысячи автономных транспортных средств с искусственным интеллектом до 2026 года, чтобы не отставать от Китая.
Кроме того, страны-члены Альянса AUKUS (трехсторонний оборонный пакт, образованный Австралией, Великобританией и США – ред.) будут использовать искусственный интеллект, морские дроны и космические радары для поиска военных подводных лодок Китая в Тихом океане.
А украинское министерство экономики считает, что искусственный интеллект может помочь в гуманитарном разминировании территории Украины.
В ночь на 23 февраля российские захватчики применили против Украины 267 беспилотников. Силы противовоздушной обороны… Читати більше
На фронте за минувшие сутки, 22 февраля, было зафиксировано 112 боевых столкновений Сил обороны Украины… Читати більше
В ночь 23 февраля российско-оккупационные войска атаковали Киевскую область беспилотниками. В столице работали силы противовоздушной обороны,… Читати більше
22 февраля, вечером российские захватчики атаковали баллистикой Кривой Рог, в результате чего один человек погиб, еще… Читати більше
Папа Римский Франциск остается в критическом состоянии после утреннего респираторного криза. Ему необходимо переливание крови,… Читати більше
Львов - один из первых городов в Украине, где на уровне общины приняли программу популяризации… Читати більше
Цей сайт використовує Cookies.