Štučny intelekt ad OpenAI vyjšaŭ ź izalavanaha asiarodździa i ŭzłamaŭ inšuju kampaniju padčas testu na kibierbiaśpieku
Pierš čym praniknuć u čužuju sistemu, madelam treba było znajści šlach u internet. I jany jaho znajšli. Hetaja padzieja stała adnym z najbolš niezvyčajnych vypadkaŭ u śfiery kibierbiaśpieki. Z padrabiaznaściami znajomić The Wall Street Journal.
Kampanija OpenAI paviedamiła, što dźvie sistemy štučnaha intelektu, jakija prachodzili test na pradukcyjnaść (benčmarkinh) u śfiery kibierbiaśpieki, vyjšli za miežy izalavanaha asiarodździa, samastojna znajšli šlach u hłabalnuju sietku i ŭzłamali sistemy inšaj kampanii.
Achviaraj stała kampanija Hugging Face — pastaŭščyk papularnych instrumientaŭ dla ŠI z adkrytym zychodnym kodam. Śpiecyjalisty kampanii ŭ pačatku minułaha tydnia vyjavili niesankcyjanavany dostup da ŭnutranych naboraŭ danych i karparatyŭnych ulikovych danych. Ci zakranuŭ incydent infarmacyju klijentaŭ abo partnioraŭ, pakul nieviadoma.
Tady ŭ Hugging Face jašče nie viedali, chto staić za atakaj, ale jana była nastolki składanaj, što supracoŭniki mierkavali: dla jaje mahła vykarystoŭvacca adna z samych sučasnych «pieradavych» (frontier) madelaŭ štučnaha intelektu.
U spravazdačy, apublikavanaj 21 lipienia, OpenAI paviedamiła, što za ŭzłomam stajali dźvie jaje madeli. Adznačajecca, što ŭ vyprabavańni ŭdzielničali madel GPT-5.6 Sol i jašče adna, bolš mahutnaja, jakaja pakul nie pradstaŭlena publična. Dla praviadzieńnia vyprabavańnia madeli byli śpiecyjalna nastrojeny tak, kab radziej admaŭlacca ad vykanańnia chakierskich kamand.
OpenAI izalavała madeli ŭ tak zvanaj «piasočnicy» — zakrytaj sistemie, jakaja nie mieła dostupu da internetu. Adnak padčas testu madeli vykarystali svaje mahčymaści dla ŭzłomu, kab vybracca ź izalavanaha asiarodździa. Znajšoŭšy dostup da sietki, jany pranikli ŭ sistemy Hugging Face.
OpenAI nazvała hety vypadak biesprecedentnym i paviedamiła, što rychtuje razam z Hugging Face padrabiaznuju techničnuju spravazdaču.
Ekśpiert u śfiery kibierbiaśpieki Aryel Hierbiert-Fos miarkuje, što sistema mahła ŭzłamać Hugging Face, bo heta byŭ samy chutki šlach da vykanańnia pastaŭlenaj zadačy. Pavodle jaho słoŭ, mahčymaść takoha raźvićcia padziej abmiarkoŭvałasia ŭ navukovych kołach, ale realnych prykładaŭ dahetul nie było.
Pavodle vydańnia, incydent adbyŭsia na fonie dyskusij u ZŠA pra ryzyki, jakija mohuć nieści najmahutniejšyja sistemy štučnaha intelektu. Adny palityki zaklikajuć zrabić abaviazkovymi pravierki takich madelaŭ pierad ich vypuskam, inšyja ličać, što praźmiernaje rehulavańnie moža zapavolić raźvićcio technałohij i asłabić pazicyi ZŠA ŭ kankurencyi z Kitajem.
Za apošni hod mahčymaści madelaŭ štučnaha intelektu ŭ śfiery kibierbiaśpieki prykmietna vyraśli. Na hetym fonie ŭłady ZŠA i raspracoŭščyki pakul nie pryjšli da adzinaha padychodu, jak vypuskać takija sistemy, uličvajučy jak ryzyki dla kibierbiaśpieki, tak i patreby abarony.
U krasaviku kampanija Anthropic abmiežavała dostup da svajoj novaj madeli praz aściarohi, źviazanyja ź jaje mahčymaściami ŭ śfiery kibieratak. Paźniej administracyja Donalda Trampa taksama ŭvodziła abmiežavańni na dostup da šerahu madelaŭ Anthropic, adnak praź niekalki tydniaŭ paśla pieramovaŭ jany byli źniatyja.
OpenAI taksama spačatku raspaŭsiudžvała GPT-5.6 Sol z abmiežavańniami, ale ciapier madel stała dastupnaja šyrej. Pry hetym kampanija raniej zajaŭlała, što indyvidualnyja dziaržaŭnyja abmiežavańni na raspaŭsiudžvańnie štučnaha intelektu mohuć stvaryć niebiaśpiečny precedent.
Ciapier čytajuć
«Lipa va ŭsich sensach». Voś jak buduć vyhladać drevy ŭ vazonach na hałoŭnym minskim praśpiekcie. Błohiery atrymali zadańnie imi zachaplacca7
Kamientary