Крупнейшие страны мира подписали декларацию о катастрофической опасности искусственного интеллекта
На первом международном саммите по безопасности искусственного интеллекта, который прошел в Великобритании, 28 стран мира признали, что искусственный интеллект представляет катастрофическую опасность для человечества.
Первый международный саммит по безопасности искусственного интеллекта (ИИ) с участием США, Китая, Евросоюза, Австралии, Саудовской Аравии, а также таких лиц, как Илон Маск (владелец SpaceX, Tesla и социальной сети X), Бретт Смит (президент компании Microsoft), Демис Хассабис (глава Google DeepMind), Сэм Альтман (генеральный директор компании Open AI) был посвящен поиску способов минимизации угроз искусственного интеллекта на международном уровне.
Выступая в кулуарах саммита Илон Маск отметил, что новые разработки, такие, как система Frontier AI, может стать умнее людей в выполнении ряда задач.
«Впервые мы имеем ситуацию, когда есть что-то, что будет умнее самого умного человека <…> и мне не понятно, сможем ли мы действительно контролировать такую вещь», — цитирует The Gardian слова Илона Маска.
В декларации, которая была опубликована 1 ноября, отмечено, что вместе с рядом положительных влияний,
«искусственный интеллект создает значительные риски, включая повседневную жизнь. <…> Существует вероятность нанесения серьезного, даже катастрофического ущерба, <…> который обусловлен наиболее значительными возможностями моделей ИИ».
В этой связи страны-участницы договорились о совместном поиске способов контроля за дальнейшим развитием искусственного интеллекта, чтобы «гарантировать, что преимущества технологии могут быть использованы ответственно».
Однако, как отмечает The Gardian, пока существует лишь минимальное согласие относительно того, как могут выглядеть глобальные правила относительно искусственного интеллекта и кто должен их составлять. В этой сфере очевидна конкуренция между Великобританией и США.
Некоторые политики в правительстве Великобритании надеялись на то, что специальная межправительственная целевая группа по искусственному интеллекту получит дополнительные полномочия по тестированию новых моделей ИИ со всего мира перед тем, как они будут выпущены для широкого использования.
Пока что до этого не дошло. Возможно, более конкретные шаги будут выработаны на следующих саммитах, которые теперь будут происходить каждые шесть месяцев.
Читайте еще:
Искусственный интеллект в офисе не добавляет работникам счастья
Искусственный интеллект: как Google планирует перехватить лидерство в этой области
Искусственный интеллект помог прочитать таблички с клинописью, которым пять тысяч лет
Комментарии
ИИ - в президенты!
В суды и в менты!