Štučny intelekt ad OpenAI vyjšaŭ ź izalavanaha asiarodździa i ŭzłamaŭ inšuju kampaniju padčas testu na kibierbiaśpieku
Pierš čym praniknuć u čužuju sistemu, madelam treba było znajści šlach u internet. I jany jaho znajšli. Hetaja padzieja stała adnym z najbolš niezvyčajnych vypadkaŭ u śfiery kibierbiaśpieki. Z padrabiaznaściami znajomić The Wall Street Journal.
Vyjava: vecteezy.com
Kampanija OpenAI paviedamiła, što dźvie sistemy štučnaha intelektu, jakija prachodzili test na pradukcyjnaść (benčmarkinh) u śfiery kibierbiaśpieki, vyjšli za miežy izalavanaha asiarodździa, samastojna znajšli šlach u hłabalnuju sietku i ŭzłamali sistemy inšaj kampanii.
Achviaraj stała kampanija Hugging Face — pastaŭščyk papularnych instrumientaŭ dla ŠI z adkrytym zychodnym kodam. Śpiecyjalisty kampanii ŭ pačatku minułaha tydnia vyjavili niesankcyjanavany dostup da ŭnutranych naboraŭ danych i karparatyŭnych ulikovych danych. Ci zakranuŭ incydent infarmacyju klijentaŭ abo partnioraŭ, pakul nieviadoma.
Tady ŭ Hugging Face jašče nie viedali, chto staić za atakaj, ale jana była nastolki składanaj, što supracoŭniki mierkavali: dla jaje mahła vykarystoŭvacca adna z samych sučasnych «pieradavych» (frontier) madelaŭ štučnaha intelektu.
U spravazdačy, apublikavanaj 21 lipienia, OpenAI paviedamiła, što za ŭzłomam stajali dźvie jaje madeli. Adznačajecca, što ŭ vyprabavańni ŭdzielničali madel GPT-5.6 Sol i jašče adna, bolš mahutnaja, jakaja pakul nie pradstaŭlena publična. Dla praviadzieńnia vyprabavańnia madeli byli śpiecyjalna nastrojeny tak, kab radziej admaŭlacca ad vykanańnia chakierskich kamand.
OpenAI izalavała madeli ŭ tak zvanaj «piasočnicy» — zakrytaj sistemie, jakaja nie mieła dostupu da internetu. Adnak padčas testu madeli vykarystali svaje mahčymaści dla ŭzłomu, kab vybracca ź izalavanaha asiarodździa. Znajšoŭšy dostup da sietki, jany pranikli ŭ sistemy Hugging Face.
OpenAI nazvała hety vypadak biesprecedentnym i paviedamiła, što rychtuje razam z Hugging Face padrabiaznuju techničnuju spravazdaču.
Ekśpiert u śfiery kibierbiaśpieki Aryel Hierbiert-Fos miarkuje, što sistema mahła ŭzłamać Hugging Face, bo heta byŭ samy chutki šlach da vykanańnia pastaŭlenaj zadačy. Pavodle jaho słoŭ, mahčymaść takoha raźvićcia padziej abmiarkoŭvałasia ŭ navukovych kołach, ale realnych prykładaŭ dahetul nie było.
Pavodle vydańnia, incydent adbyŭsia na fonie dyskusij u ZŠA pra ryzyki, jakija mohuć nieści najmahutniejšyja sistemy štučnaha intelektu. Adny palityki zaklikajuć zrabić abaviazkovymi pravierki takich madelaŭ pierad ich vypuskam, inšyja ličać, što praźmiernaje rehulavańnie moža zapavolić raźvićcio technałohij i asłabić pazicyi ZŠA ŭ kankurencyi z Kitajem.
Za apošni hod mahčymaści madelaŭ štučnaha intelektu ŭ śfiery kibierbiaśpieki prykmietna vyraśli. Na hetym fonie ŭłady ZŠA i raspracoŭščyki pakul nie pryjšli da adzinaha padychodu, jak vypuskać takija sistemy, uličvajučy jak ryzyki dla kibierbiaśpieki, tak i patreby abarony.
U krasaviku kampanija Anthropic abmiežavała dostup da svajoj novaj madeli praz aściarohi, źviazanyja ź jaje mahčymaściami ŭ śfiery kibieratak. Paźniej administracyja Donalda Trampa taksama ŭvodziła abmiežavańni na dostup da šerahu madelaŭ Anthropic, adnak praź niekalki tydniaŭ paśla pieramovaŭ jany byli źniatyja.
OpenAI taksama spačatku raspaŭsiudžvała GPT-5.6 Sol z abmiežavańniami, ale ciapier madel stała dastupnaja šyrej. Pry hetym kampanija raniej zajaŭlała, što indyvidualnyja dziaržaŭnyja abmiežavańni na raspaŭsiudžvańnie štučnaha intelektu mohuć stvaryć niebiaśpiečny precedent.