Российская агентура использовала нейросеть Claude для краж и влияния на выборы

Компания Anthropic опубликовала отчет о злоупотреблениях своими моделями искусственного интеллекта в период с декабря 2025 по август 2026 года. Как сообщает BBC, одной из главных угроз стали попытки использования чат-бота Claude для научных исследований, которые могли привести к созданию биологического оружия.

Пользователи обращались к нейросети за помощью в написании грантовых заявок на изучение вируса чикунгунья. Запросы касались генетической модификации патогена для увеличения его заразности и способности обходить иммунную систему человека.

Издание The New York Times уточняет, что подозрительная работа должна была проводиться в военном исследовательском институте. Технологическая компания не смогла точно определить целесообразность таких экспериментов: они могли привести как к созданию вакцины, так и к разработке биологического оружия. Из-за высокого риска аккаунты ученых были заблокированы. В отчете также фиксируются попытки использования искусственного интеллекта для разработки программного обеспечения для ракет и боевых дронов со стороны пользователей из России, Китая и Йемена. После этих инцидентов Anthropic усилила ограничения в своих новейших моделях Claude Fable 5 и Mythos.

Автоматизация кибератак и шпионажа

Искусственный интеллект значительно снизил барьер для проведения масштабных хакерских операций. Издание CyberScoop приводит данные об активности злоумышленника под псевдонимом JackPoterz, чьи методы совпадают с российской государственной группировкой Midnight Blizzard. Он использовал Claude для организации шпионской кампании против более чем двадцати правительственных и оборонных учреждений Украины и Европы.

Нейросеть непрерывно мониторила реакцию антивирусных программ на вредоносный код, и при обнаружении угрозы автономные агенты мгновенно переписывали программу. Таким образом были украдены документация на системы видеонаблюдения для дронов и сотни тысяч национальных идентификационных записей.

Технология также ускорила деятельность других группировок. Китайские студенты с помощью роя ИИ-агентов находили десятки уязвимостей нулевого дня в сетевом оборудовании в течение месяца. А киберпреступный синдикат ShinyHunters похитил более 2100 корпоративных ключей доступа к облачным сервисам Microsoft Azure всего за 34 часа.

Генерация пропаганды и кража данных

Отчет описывает факты использования моделей для создания сетей фальшивых аккаунтов. Как отмечает телеканал Sky News, российские государственные медиа использовали Claude для генерации пропагандистских материалов, которые маскировались под независимые новости для влияния на выборы в Молдове. Подобные кампании также фиксировались со стороны Ирана и Турции.

Отдельным направлением злоупотреблений стала так называемая дистилляция — кража данных китайскими ИИ-лабораториями. Компании Alibaba, DeepSeek и Moonshot AI создали тысячи фальшивых аккаунтов для генерации до трех миллионов запросов ежедневно к старым версиям Claude. Полученные ответы использовались для обучения собственных китайских нейросетей.

Некоторые лаборатории втайне перенаправляли запросы своих пользователей к американской модели, выдавая ее ответы за свои. Среди переданных таким образом данных оказались записи с камер наблюдения, которые запрашивали представители китайской армии.

Отставка исследователя и проблема контроля

Публикация отчета о злоупотреблениях произошла на фоне внутреннего кризиса в индустрии. Из компании Anthropic уволился один из исследователей Джейкоб Коксон. Свое увольнение он объяснил тем, что конкуренция между Anthropic и OpenAI ведет к неконтролируемому развитию технологий. Он отметил, что некоторые его коллеги считают возможным уничтожение человечества искусственным интеллектом до конца этого десятилетия. Эксперты в области кибербезопасности подчеркивают, что ситуация, при которой частные корпорации самостоятельно и без демократического надзора определяют границы безопасного использования искусственного интеллекта, создает риски для общества.

• 0
• 0
• 0
• 0
• 0
• 0
• 0
• 0