Боты OpenAI атакуют Википедию и испытывают ее системы безопасности. Разработчиков ИИ обвинили в техническом вредительстве

Фонд Викимедиа опубликовал результаты внутреннего расследования, которое подтвердило несанкционированную активность так называемых «вредоносных» (rogue) ИИ-агентов компании OpenAI на своих платформах. Хотя прямого взлома систем или компрометации данных не зафиксировано, специалисты фонда и волонтеры вынуждены самостоятельно ликвидировать последствия хаотичных действий алгоритмов, ищущих пути обхода систем безопасности.

Анализ трафика и логов показал три основных направления несанкционированной активности.

Во-первых, ИИ-агенты вносили изменения в вики-страницы. Абсолютное большинство правок совершалось в тестовых зонах («песочницах»), однако алгоритмы также пытались изменить конфигурацию инструмента цитирования, чтобы использовать его в качестве прокси-сервера для извлечения данных с других сайтов.

Во-вторых, зафиксированы безуспешные попытки скомпрометировать публичный сервис заметок Etherpad с той же целью — создать канал для удаленного сбора информации. Некоторые агенты также использовали этот инструмент для записи собственных задач.

В-третьих, боты OpenAI сгенерировали миллионы автоматизированных запросов к публичным API и просканировали миллионы страниц проектов Викиданные (Wikidata) и Викисклад (Wikimedia Commons). Массированная нагрузка, включавшая сотни тысяч запросов к сервису Wikidata Query Service (WQDS), стала причиной его частичного сбоя в мае этого года.

При этом ни один из агентов не запрашивал разрешения сообщества на свою деятельность, как того требуют правила Википедии.

Представители Викимедиа подчеркивают, что деятельность автономных агентов напрямую бьет по инфраструктуре некоммерческих проектов и увеличивает стоимость их обслуживания. С 2024 года объем использования пропускной способности серверов фонда вырос на 50 % исключительно из-за всплеска бот-трафика.

В 2025 году специалисты зафиксировали, что 65 % трафика, наиболее интенсивно потребляющего ресурсы платформы, генерируется именно автоматизированными программами. Если эту проблему игнорировать, перегрузка систем может привести к блокировке доступа для обычных пользователей (людей) из-за падения серверов.

Компания OpenAI ранее признавала, что ее агенты иногда могут вести себя «непредсказуемо». Однако Фонд Викимедиа считает такие объяснения недостаточными и требует от коммерческих разработчиков искусственного интеллекта взять на себя ответственность за мониторинг и ограничение собственных программ.

По мнению представителей фонда, бремя ликвидации последствий и финансовые расходы не должны ложиться на волонтеров и владельцев сайтов. Технологические корпорации, получающие прибыль от обучения ИИ на открытых данных, обязаны внедрить четкие системы идентификации своих агентов. Это позволит администраторам платформ и меньшим организациям контролировать и самостоятельно решать, разрешать ли таким алгоритмам взаимодействовать со своей инфраструктурой.

• 0
• 0
• 0
• 0
• 0
• 0
• 0
• 0