Дрон ВВС США «убил» своего оператора во время учебного полёта

Дрон ВВС США, управляемый искусственным интеллектом, «убил» своего оператора во время учебного полёта. Нейросеть решила, что американский военный — одна из угроз, которую необходимо ликвидировать ради выполнения поставленной задачи.

Об этой истории рассказал полковник армии Соединённых Штатов Такер Гамильтон на саммите по будущим боевым воздушным и космическим возможностям в Лондоне. Заявил: беспилотнику поставили задачу уничтожать системы ПВО условного противника и запустили в небо. После стали проверять нейросеть — сначала отдавали приказ о ликвидации цели, потом отменяли его.

В какой-то момент искусственный интеллект психанул и перестал слушаться — развернулся и открыл огонь по коммуникационной вышке через которую командир отдавал приказы. Одна из возможных причин, почему машина так поступила, — восприняла человека за помеху. Когда об этом стало известно местным СМИ, американские главнокомандующие заявили, что слова Гамильтона вырвали из контекста. И вообще, скайнет за нас.