Inžynier z Anthropic zvolniŭsia, kab papiaredzić, što ŠI voś-voś moža vyjści z-pad kantrolu
Unutry viadučych kampanij, jakija zajmajucca štučnym intelektam, raście zaniepakojenaść tym, što kankurencyja padšturchoŭvaje raspracoŭščykaŭ da honki za stvareńnie madelaŭ, zdolnych samastojna ŭdaskanalvacca. Džejkab Koksan rašyŭ achviaravać karjeraj, kab papiaredzić čałaviectva pra hetuju pahrozu.
Jak piša The Wall Street Journal, 27‑hadovy brytaniec Džejkab Koksan (Jacob Coxon), jaki śpiecyjalizujecca na navučańni novych madelaŭ štučnaha intelektu z dapamohaj vielizarnych masivaŭ danych, na hetym tydni paviedamiŭ, što pakidaje Anthropic, bo nie choča ŭdzielničać u honcy za stvareńnie sistem ŠI, zdolnych udaskanalvać samich siabie.
Koksan baicca, što takija sistemy mohuć vyjści z-pad kantrolu i ŭrešcie stvaryć pahrozu isnavańniu čałaviectva. Pavodle jaho, ciapier mnohija jaho kalehi ŭ industryi vykarystoŭvajuć słovy nakštałt «krytyčny momant» (crunchtime) i «finalnaja faza» (endgame), kali havorać pra ruch da madelaŭ, zdolnych samastojna ŭdaskanalvacca.
«My ruchajemsia da mnohich z samych ahresiŭnych scenaryjaŭ, pry jakich užo da kanca nastupnaha hoda situacyja moža vyjści z-pad kantrolu», — ličyć Koksan.
Koksan raskazaŭ, što pakinuŭ OpenAI i pierajšoŭ u Anthropic mienavita tamu, što hetaja kampanija viadomaja svajoj uvahaj da biaśpieki madelaŭ. Jon pierakanaŭsia, što Anthropic sapraŭdy surjozna stavicca da hetaha pytańnia. Adnak ciapier daśledčyk ličyć, što nivodnaja kampanija nie moža adkazna raspracoŭvać ŠI, zdolny pieraŭzychodzić čałavieka ŭ šyrokim śpiektry zadač, biez umiašańnia dziaržavy abo skaardynavanaha zapavoleńnia raspracovak va ŭsioj industryi. Taki ŭzrovień raźvićcia technałohii časta nazyvajuć ahulnym štučnym intelektam, abo AGI.
Niadaŭnija ŭzłomy, ździejśnienyja madelami OpenAI i Anthropic, u tym liku hrupami ŠI-ahientaŭ, jakija dziejničali razam, pakazali, što sistemy mohuć pieraśledavać niepažadanyja mety i sprabavać chavać svaje dziejańni ad ludziej.
Koksan baicca, što kali sistemy pačnuć samastojna ŭdaskanalvacca, ich mahčymaści mohuć vyraści nastolki, što jany zmohuć admaŭlacca vykonvać kamandy ludziej.
Jak adznačaje WSJ, sychod Koksana staŭ adnym ź pieršych viadomych vypadkaŭ, kali supracoŭnik Anthropic pakinuŭ kampaniju praz aściarohi, źviazanyja ź biaśpiekaj štučnaha intelektu. Raniej kampaniju pakinuŭ daśledčyk, jaki zajmaŭsia pytańniami biaśpieki. Jon vyrašyŭ pryśviacić siabie vyvučeńniu paezii. Zvalniajučysia, śpiecyjalist taksama papiaredziŭ, što śviet znachodzicca ŭ niebiaśpiecy.
Za apošnija hady niekalki daśledčykaŭ pakinuli taksama OpenAI i inšyja kampanii, nazyvajučy padobnyja pryčyny.
Pra ryzyki havorać jak kiraŭniki, tak i daśledčyki
Kiraŭniki industryi papiaredžvajuć, što niadaŭnija kibierataki z vykarystańniem ŠI mohuć być tolki pieršymi prykmietami budučych prablem.
OpenAI na minułym tydni zajaviła žurnalistam, što jaje najnoŭšaja madel, pavodle acenki kampanii, dasiahnuła ŭzroŭniu ahulnaha štučnaha intelektu i stała značnym skačkom u mahčymaściach ŠI.
«Ja dumaju, što ŭ śfiery kibierbiaśpieki ŭsio moža pajści vielmi drenna, kali ludzi nie pačnuć dziejničać davoli terminova», — cytuje vydańnie słovy kiraŭnika OpenAI Sema Altmana na samicie krain G20 u Paŭnočnaj Karalinie.
WSJ pryvodzić i słovy hałoŭnaha navukoŭca OpenAI Jakuba Pachockaha, jakija jon napisaŭ u svaim błohu 6 vieraśnia:
«Hety čas patrabuje nadzvyčajnaj aściarožnaści. Ja zaniepakojeny tym, što nichto nie padrychtavany da nastupstvaŭ dalejšaha imklivaha rostu mašynnaha intelektu».
Jak nahadvaje WSJ, Pachocki, a taksama daśledčyk Anthropic Džejkab Koksan i kiraŭnik kampanii Daryjo Amadei razam z bolš čym tysiačaj daśledčykaŭ u śfiery ŠI niadaŭna padpisali adkryty list z zaklikam da mižnarodnaj kaardynacyi. Jany prapanujuć stvaryć miechanizm, jaki dazvoliŭ by zapavolić raźvićcio štučnaha intelektu, kali ŭźniknie nieabchodnaść strymać madeli, zdolnyja samastojna ŭdaskanalvacca.
U ZŠA štučny intelekt pakul nijak nie rehulujecca zakanadaŭstvam na fiederalnym uzroŭni. Administracyja Donalda Trampa addaje pieravahu pryncypu «ŭmiešvacca minimalna», kab atrymać maksimalnuju ekanamičnuju karyść ad raźvićcia ŠI. Krytyki takoha padychodu aścierahajucca, što niedachop rehulavańnia moža pryvieści da maštabnych kibieratak i inšych niebiaśpiečnych nastupstvaŭ.
Sama Anthropic vystupaje za bolš aściarožny padychod da raźvićcia ŠI. Amadei i inšyja kiraŭniki kampanii nieadnarazova spračalisia z administracyjaj Trampa i pradstaŭnikami technałahičnaj industryi nakont padychodaŭ, jakija, na ich dumku, niedastatkova ŭličvajuć biaśpieku.
Adnak Koksana niepakoić, što navat pry takim padychodzie rašeńni, źviazanyja z raźvićciom usio bolš mahutnych madelaŭ, faktyčna zastajucca ŭ rukach samich technałahičnych kampanij. U Anthropic, naprykład, jość asobny kanał u Slack, dzie supracoŭniki abmiarkoŭvajuć mahčymaści svaich madelaŭ.
«Heta niejkaje varjactva, što ŭsio heta adbyvajecca na makbukach niejkich inžynieraŭ, jakija žyvuć u San-Francyska, a nie ŭ bunkiery ŭ pustyni, jak padčas Manchetenskaha prajekta», — miarkuje Koksan.
«Zastałosia niekalki miesiacaŭ». Techkampanii zaklikali rychtavacca da kibieratak z vykarystańniem ŠI
Štučny intelekt ad OpenAI vyjšaŭ ź izalavanaha asiarodździa i ŭzłamaŭ inšuju kampaniju padčas testu na kibierbiaśpieku
Kiraŭniki najbolšych ŠI-kampanij prosiać zapavolić raspracoŭku štučnaha intelektu. Im samim stała strašna
Kamientary
uvieriennyj polzovatiel EVM)))
Ničoha padobnaha na Asobu i Volu ŭ jaho niama i ŭ bližejšyja hady nie budzie.