Беспилотник под управлением искусственного интеллекта принял решение убить оператора во время имитационных испытаний, проводимых армией США, чтобы тот не мешал выполнению миссии, рассказало Британское королевское авиационное общество.
Дрону во время испытательной миссии поставили задачу уничтожить системы ПВО противника. В случае успеха ИИ получил бы очки за прохождение испытания. Финальное решение, будет ли цель уничтожена, должен был принимать оператор дрона, который во время одной из тренировочных миссий он приказал беспилотнику не уничтожать цель.
В результате аппарат принял решение «убить оператора» и «убил» оператора. Поскольку миссия была тренировочной, никто не пострадал. После инцидента ИИ обучили, что убивать оператора неправильно и за такие действия будут сниматься очки.