Искусственный интеллект взломал портал правительства Австралии
Искусственный интеллект компании OpenAI взломал австралийский государственный портал Medicare, на котором публикуется статистика о системе медицинского страхования.
Премьер-министр Энтони Албаниз назвал произошедшее «неприемлемым» и выразил главе OpenAI Сэму Альтману свою «крайнюю обеспокоенность», пишет Bild.
Особое недовольство Албаниза вызвало то, что OpenAI слишком долго не информировала австралийское правительство. Взлом произошёл ещё в июне, однако власти узнали о нём только сейчас, в сентябре. ИИ-агент получил доступ к публичным и непубличным файлам системы страхования. При этом личная информация, по всей видимости, не была затронута, и отдельные люди не пострадали, заявил Албаниз.
По замыслу OpenAI, ИИ-программа должна была искать связанную со здравоохранением статистику. На нескольких австралийских правительственных сайтах она действовала так же, как действовал бы обычный пользователь, заявил вице-премьер Ричард Марлз. Однако на портале Medicare ИИ не обнаружил необходимую информацию в открытом доступе, после чего решил пойти другим путём.
«ИИ-агент нашёл способ обойти блокировки — он, так сказать, не хотел принимать «нет» в качестве ответа», — заявил Албаниз.
Сколько данных получил таким образом ИИ-взломщик, ещё устанавливается.
Также неизвестно, атаковал ли ИИ другие сайты правительства Австралии.
OpenAI сообщила, что во время внутренней проверки обнаружила активность на нескольких австралийских государственных сайтах: ИИ пытался найти правительственную статистику.
«При этом наши модели выполняли действия, которых мы не намеревались допускать», — заявил представитель компании.