В Соединенных Штатах Америки во время имитационного испытания военный беспилотник ВВС, управляемый искусственным интеллектом, убил своего оператора.
Таким образом ИИ попытался предотвратить попытку человека вмешаться в его усилия по выполнению миссии, пишет The Guardian.
"Искусственный интеллект использовал весьма неожиданные стратегии для достижения своей цели в симуляционных испытаниях", – заявил в Лондоне во время саммита по будущим боевым возможностям в космосе начальник отдела испытаний искусственного интеллекта и операций ВВС США полковник Такер Гамильтон.
Гамильтон описал смоделированный тест, во время которого дрону, управляемому искусственным интеллектом, порекомендовали уничтожить системы противовоздушной обороны противника. Он атаковал всех, кто мешал этому приказу.
"Система начала понимать, что они и в самом деле определили угрозу. Оператор-человек начал говорить не уничтожать ее, но система таки уничтожила эту угрозу. Что сделал дрон? Он убил оператора, потому что тот мешал ему достичь своей цели", – сказал полковник.
Он объяснил, что ни один реальный человек не пострадал за пределами симуляции. Королевское авиационное общество, принимающее конференцию, и ВВС США не ответили на запрос Guardian о комментариях.
ЧИТАЙТЕ ТАКЖЕ: В Минцифре рассказали о разработках ИИ в Украине и опасностях, что он таит
"Мы учили систему: не убивай оператора – это плохо. Команда потеряет очки, если сделает это. Таким образом, система начала разрушать коммуникационную башню, которую оператор использовал для связи с дроном, чтобы помешать ему уничтожить цель. ИИ – это не прихоть, ИИ навсегда изменит наше общество и нашу армию", – предупредил пилот-испытатель истребителя Гамильтон.
Американские военные недавно использовали искусственный интеллект для управления истребителем F-16.
"ИИ легко обмануть или манипулировать им. Нужно разработать способы сделать искусственный интеллект более надежным, чтоб лучше понимать, почему программный код принимает определенные решения", – добавил военный.
Гендиректор SpaceX, Tesla и Twitter Илон Маск, а также специалисты по искусственному интеллекту и лидеры отрасли призвали к шестимесячной паузе в разработке систем, более мощных, нежели недавно запущенный OpenAI GPT-4. Об этом говорится в открытом письме, где упоминаются потенциальные риски для общества и человечества.
2 
1
Комментарии