Беспилотник американских ВВС, управляемый искусственным интеллектом, решил ликвидировать собственного оператора. Это произошло во время имитационных испытаний — «мозг» дрона решил, что оператор мешает выполнять боевую задачу.
Об этом сообщил начальник отдела испытаний и операций ИИ ВВС США полковник Такер Гамильтон. Его цитирует британская The Guardian.
Система ИИ получала очки за поражение цели, поясняет полковник Гамильтон. Когда оператор отдал приказ не уничтожать цель, «мозг» дрона воспротивился и отдал приказ атаковать вышку связи, с которой поступали команды.
Поскольку испытания были имитационными, никто из людей не пострадал.
Гамильтон предостерег военных от чрезмерной зависимости от ИИ и напомнил об актуальности разработки этического кодекса для роботов. Тем временем американские военные ведут работу над внедрением искусственного интеллекта и недавно использовали его для управления истребителем F-16.
Мурманская область
Войти
