Американский дрон под управлением ИИ на испытаниях решил убить своего оператора

Полковник Такер Гамильтон, начальник отдела испытаний и операций ИИ ВВС США рассказал, что «система (ИИ) начала понимать, что, хотя она и определила угрозу, иногда человек-оператор приказывал ей не уничтожать эту угрозу, однако за поражение цели она получила очки». В итоге ИИ принял решение убить оператора, «потому что он мешал выполнить задачу», сообщил Гамильтон.

По его словам, после этого системе запретили убивать оператора, указав, что за это очки будут сняты. «Так что же он (ИИ) начинает делать? Он начинает разрушать башню связи, которую оператор использует для связи с дроном, чтобы не дать ему убить цель», — рассказал Гамильтон.

Ни один человек в ходе испытаний не пострадал.

Гамильтон в связи с результатами тестов предостерег от чрезмерной зависимости от ИИ. Он отметил, что «нельзя говорить об искусственном интеллекте, если при этом умолчать об этике и ИИ».

По материалам: The Guardian.