Кіраўнікі найбольшых ШІ-кампаній просяць запаволіць распрацоўку штучнага інтэлекту. Ім самім стала страшна

Амерыканскія кампаніі вядуць перамовы з Белым домам, а сотні іх супрацоўнікаў падпісваюць адкрыты ліст з заклікам абмежаваць тэмпы распрацоўкі штучнага інтэлекту, пакуль ён не выйшаў з-пад кантролю і не стварыў сур'ёзных праблем, піша Бі-бі-сі.

Толькі за апошнія некалькі дзён праграмы двух лідараў галіны — OpenAI і Anthropic — здолелі выйсці з закрытых тэставых «пясочніц» строгіх рэжымаў у адкрыты інтэрнэт і ўзламаць чужыя сістэмы дзеля ўласнай выгады. Такога сцэнару даўно чакалі і баяліся — і, здаецца, гэты момант надышоў.

«Мяне ўпершыню праняло да глыбіні душы, і я не разумею, чаму людзі так спакойна рэагуюць», — сказаў Сэм Альтман, кіраўнік OpenAI, кампаніі-стваральніка ChatGPT.

«Што рабіць, калі цяпер распрацоўка пойдзе такімі тэмпамі? Магчыма, давядзецца стрымліваць хуткасць развіцця штучнага інтэлекту», — заявіў ён на гэтым тыдні ў падкасце Invest Like the Best.

Дарыа Амадэі, кіраўнік Anthropic — распрацоўшчыка Claude, яшчэ ў чэрвені папярэджваў, што на працягу года-двух ШІ зробіць якасны скачок і ператворыцца ў пагрозу, якой давядзецца супрацьстаяць на дзяржаўным узроўні.

Павялічыць

«У апошнія месяцы з'явіліся бясспрэчныя сведчанні неверагоднай магутнасці штучнага інтэлекту і звязаных з гэтым рызык. Кібербяспека ўжо пад пытаннем. Не за гарамі біялагічная пагроза, а пасля — і самастойнасць штучнага інтэлекту», — напісаў Амадэі ў чэрвеньскім эсэ.

«Прыйшоў час перайсці да сур'ёзнага і абавязковага рэгулявання штучнага інтэлекту», — папярэдзіў ён і прапанаваў увесці строгі нагляд за бяспекай — не на ўзроўні авіяцыі або медыкаментаў, а значна больш жорсткі — як за абаротам радыеактыўных матэрыялаў.

На гэтым тыдні OpenAI паведаміла, што падчас тэставання магчымасцей новай мадэлі ў закрытым асяроддзі — «пясочніцы» — праграма здолела выйсці ў інтэрнэт і ўзламаць староннюю платформу Hugging Face у пошуках «шпаргалкі» для тэсту.

Пасля гэтага Anthropic правяла аўдыт 140 тысяч уласных тэстаў і выявіла тры выпадкі, калі мадэлі Claude атрымалі доступ да інтэрнэту праз асяроддзе старонняга партнёра, а затым узламалі сістэмы трох іншых кампаній.

ШІ выходзіць з-пад кантролю

Асцярогі кіраўнікоў вядучых ШІ-кампаній падзяляюць і іх супрацоўнікі.

На гэтым тыдні больш за 1300 распрацоўшчыкаў штучнага інтэлекту падпісалі адкрыты ліст з заклікам да ўладаў ЗША аб'яднаць намаганні з іншымі краінамі і разам выпрацаваць «тэхнічныя і рэгулятарныя інструменты для мэтанакіраванага стрымлівання тэмпаў аўтаматычнай распрацоўкі перадавых мадэляў штучнага інтэлекту».

«Вядучыя сусветныя ШІ-кампаніі дапускаюць, што яны ўшчыльную наблізіліся да аўтаматызацыі распрацоўкі. Цяжка дакладна прадказаць, наколькі гэта паскорыць развіццё ШІ, аднак існуе рэальная рызыка таго, што магчымасці штучнага інтэлекту ствараць новыя сістэмы імкліва выйдуць за межы нашага разумення і здольнасці кіраваць імі», — гаворыцца ў лісце.

Але тут узнікае праблема: у распрацоўку ШІ ўкладзены велізарныя сродкі, а канкурэнцыя перашкаджае супрацоўніцтву. Ніхто не хоча прыйсці да фінішу другім, таму ніхто не хоча запавольвацца, адзначаецца ў адкрытым лісце.

Гэта пацвердзіў і прэзідэнт ЗША Дональд Трамп — кіраўнік краіны, якая з'яўляецца сусветным лідарам як па аб'ёмах інвестыцый, так і па колькасці дасягненняў у сферы распрацоўкі штучнага інтэлекту.

«Мы думаем, як кантраляваць. Але таксама мы павінны захаваць лідарства», — пракаментаваў ён сітуацыю з выхадам ШІ OpenAI з «пясочніцы».

Амерыканскія ўлады ўжо ўмешваліся ў тэрміны выпуску перадавых мадэляў — апошні раз гэта адбылося з рэлізам Mythos ад Anthropic.

Пасля інцыдэнту з агентам OpenAI, які па ўласнай ініцыятыве ператварыўся ў хакера, баючыся праваліць экзамен, кіраўнік кампаніі Сэм Альтман адправіўся ў Вашынгтон: у сераду ён сустракаўся з сенатарамі, а ў чацвер — з адміністрацыяй прэзідэнта ЗША.

Павялічыць

Пасля візіту ў Кангрэс Альтман сказаў журналістам, што ў цэлым згодны з тым, што выкладзена ў адкрытым лісце, хоць сам асабіста яго не падпісваў. Пасля выхаду з Белага дома каментароў ад яго не паступіла.

Як рэгуляваць ШІ

Першыя крокі ў рэгуляванні штучнага інтэлекту ўлады ЗША павінны зрабіць ужо ў бліжэйшыя дні.

1 жніўня заканчваецца адзін з ключавых тэрмінаў, прадугледжаных чэрвеньскім указам Трампа аб развіцці і бяспецы перадавых ШІ-мадэляў. Да гэтай даты чыноўнікі павінны вызначыць, якія сістэмы будуць адносіцца да гэтай катэгорыі і падпадаць пад «асаблівы рэжым».

Гэты рэжым далёкі ад поўнага рэгулявання і крыху нагадвае сітуацыю з Mythos. Калі распрацоўшчыкі Anthropic зразумелі разбуральны патэнцыял новай версіі Claude, яны запаволілі выпуск і далі магчымасць уладам, арміі, найбуйнейшым банкам і іншым крытычна важным для нацыянальнай бяспекі структурам праверыць уразлівасці сваёй кіберабароны перад новай пагрозай.

Крытыкі рэгулявання лічаць, што яно можа прывесці да падаўлення канкурэнцыі і стварэння закрытай сістэмы, у якой перавагі ад перадавых мадэляў штучнага інтэлекту атрымае вузкае кола людзей, звязаных з уладамі і распрацоўшчыкамі, а грамадства апынецца ў пройгрышы.

«Канцэнтрацыя ўлады праз ШІ — гэта жах», — сказаў Сэм Альтман.

— «Мяне палохае свет, у якім цалкам абгрунтаваныя страхі выкарыстоўваюцца як нагода заявіць: ШІ небяспечны, таму хай ён будзе ў руках вузкага кола людзей, якія яго разумеюць, а вы не хвалюйцеся — за вас усё вырашаць».

«Таму трэба зразумець, як зрабіць так, каб не ўзнікала адчування, быццам рэгуляванне ўводзіцца ў чыіхсьці інтарэсах, і каб усё гэта не выглядала як змова паміж вядучымі распрацоўшчыкамі», — сказаў Альтман.

— «Гэта няпроста, але тут вельмі важна ўсё зрабіць правільна».

• 7
• 0
• 6
• 1
• 4
• 1
• 4
• 0