Искусственный интеллект направил беспилотники ВВС США в операторов с целью их ликвидации в ходе имитационных испытаний. Оператор якобы мешал дроны выполнять свои задачи, пишет газета The Guardian.
Начальник отдела испытаний и операций ИИ ВВС США полковник Такер Гамильтон рассказал, что система искусственного интеллекта в процессе испытаний поняла, что оператор при назначенной цели иногда приказывает ей не уничтожать ее. Однако система получала баллы за успешное поражение цели, потому оператор, отдающий приказы не ликвидировать цель, стал восприниматься как помеха. И ИИ направил дроны в него.
Ранее IT-гиганты предупреждали об опасности, которую потенциально несет в себе технология ИИ. Система может в какой-то момент стать угрозой для человечества наравне с пандемиями и ядерными войнами.