Из-за ошибки искусственного интеллекта США чуть было не начали военную операцию против китайского судна
В докладе, подготовленном с помощью ИИ, утверждалось, что корабль перевозит компоненты для ядерного оружия.
Весной, во время войны с Ираном, по армии США распространился разведывательный доклад: китайский корабль в районе Ближнего Востока якобы везет компоненты ядерного оружия. Военные начали готовить перехват судна. В воздух поднялись самолеты, а вооруженные группы готовились к абордажу.
Перед самой операцией выяснилось, что доклад составил аналитик Команды специальных операций США в Тихоокеанском регионе с помощью искусственного интеллекта и чат-бот ошибочно определил груз, сообщает CNN. Какой именно груз был ошибочно назван, неизвестно.
Операция против китайского корабля рисковала перерасти в конфликт между двумя государствами. Неизвестно, был ли это коммерческий ИИ-чат-бот или правительственный продукт. Бот объединил открытые данные с секретной сигнальной разведкой, а аналитик затем оформил выводы в стандартный разведывательный доклад, снова с помощью ИИ. Ошибку заметили более опытные коллеги, которые перепроверили данные.
Пентагон сейчас стремится внедрить ИИ почти повсюду: от анализа разведданных и выбора целей до бюджета и логистики. В январе министр войны Пит Хегсет представил «Стратегию ускорения ИИ» — цель в том, чтобы не отстать от Китая и других противников.
По словам одного из источников CNN, подобные «галлюцинации» случались в разведке и раньше.
Аналитики, особенно молодые, привыкли к этим инструментам и более склонны доверять им без критики. Давление делать все быстрее увеличивает риск ошибок.
Сейчас читают
«Если бы я был следователем КГБ, я бы подчеркнул то же самое». Федута — о скрытых смыслах «Колосьев под серпом твоим», внимании силовиков к своей рукописи и загадке с третьей частью романа Короткевича1212
Комментарии