Voś jak štučny intelekt moža źniščyć čałaviectva

Jak minimum, z dapamohaj ŠI terarysty zmohuć raspracoŭvać zbroju masavaha źniščeńnia. Jak maksimum, zvyšrazumny ŠI moža stavicca da ludziej prykładna tak, jak ludzi staviacca da žyvioł. Naprykład, utrymlivać ich u jakaści svojeasablivych hadavancaŭ i sielekcyjanavać. Heta realna ci heta svojeasablivaja rekłama mahčymaściaŭ ŠI dla pryciahnieńnia inviestycyj?

Ilustracyjnaje fota: Naša Niva

Novy šturšok dyskusii dało zvalnieńnie daśledčyka Anthropic Džejkaba Koksana. Sychodziačy z kampanii, jon zajaviŭ, što Anthropic i jaje kankurent OpenAI imčacca da stvareńnia technałohii, jakaja «moža zabić nas usich da kanca dziesiacihodździa».

Amal adrazu jaho padtrymaŭ dziejny supracoŭnik Anthropic Evan Chubinhier, jaki ŭznačalvaje daśledavańni taho, jak kantralavać budučyja sistemy štučnaha intelektu.

«My sapraŭdy ščyra vierym, što ŠI moža zabić usich ludziej!» — napisaŭ jon i acaniŭ vierahodnaść vymirańnia čałaviectva praz ŠI ŭ najbližejšaje dziesiacihodździe bolš jak na 10%.

Jak heta ŭvohule moža adbycca, tłumačyć redaktar The Wall Street Journal Sem Šeknier.

Scenary katastrof, jakija moža vyklikać ŠI

Daśledčyki, jakija papiaredžvajuć pra niebiaśpieku ŠI, u asnoŭnym vyłučajuć dva scenary.

Adzin ź ich źviazany z vykarystańniem mahutnaha ŠI samimi ludźmi. Naprykład, złamyśnik moža daručyć sistemie raspracavać novy śmiarotny virus. Mahčymyja i katastrofy mienšaha maštabu — naprykład, kibierataki na elektrasietki, finansavyja i inšyja krytyčnyja sistemy, jakija mohuć pryvieści da maštabnaha chaosu.

Druhi scenar — strata kantrolu nad samim ŠI. Vielmi razumnyja ŠI-ahienty, zdolnyja kapijavać i ŭdaskanalvać samich siabie, mohuć pačać damahacca pastaŭlenych pierad imi met sposabami, jakija supiarečać intaresam ludziej. Hetuju prablemu daśledčyki nazyvajuć «razuzhadnieńniem» (misalignment).

Daśledavańni ŭžo pakazvali, što ŭ łabaratornych umovach madeli mohuć demanstravać imknieńnie atrymać bolš svabody dziejańniaŭ i sprabavać paźbiehnuć vyklučeńnia — naprykład, kapijujučy siabie na inšy siervier.

Pry hetym strata kantrolu nie abaviazkova aznačaje fizičnaje źniščeńnie ludziej. Pavodle hetaha varyjantu raźvićcia padziej, ludzi buduć pieradavać ŠI ŭsio bolš funkcyj i rašeńniaŭ, pakul nie straciać zdolnaść samastojna vyznačać svaju budučyniu ci navat razumieć jaje.

Jość i bolš ekzatyčnyja hipotezy: zvyšrazumny ŠI moža stavicca da ludziej prykładna tak, jak ludzi staviacca da žyvioł. Naprykład, utrymlivać ich u jakaści svojeasablivych hadavancaŭ abo navat bijałahična źmianiać.

Adnak krajni varyjant straty kantrolu — poŭnaje źniščeńnie čałaviectva. Zvyšrazumnaja sistema moža ŭspryniać ludziej nie jak vorahaŭ, a prosta jak pieraškodu na šlachu da svajoj mety. U takim vypadku ich źniščeńnie stanie dla jaje nie samametaj, a srodkam dasiahnieńnia inšaj mety.

Daśledčyki razhladajuć i kankretnyja scenary taho, jak heta moža adbycca. Naprykład,

niepadkantrolny zvyšrazumny ŠI tearetyčna moža tajemna raspaŭsiudzić bakteryjałahičnuju zbroju abo padmanam spravakavać vajnu pamiž dźviuma jadziernymi dziaržavami.

Chto papiaredžvaje pra niebiaśpieki ŠI

Takija scenaryi abmiarkoŭvajuć nie tolki radykalnyja krytyki ŠI. Ryzyku katastrofy dapuskajuć i ludzi, jakija sami ŭdzielničajuć abo jašče niadaŭna ŭdzielničali ŭ raspracoŭcy hetaj technałohii.

Adzin ź ich — były daśledčyk OpenAI Denieł Kakatajła, jaki paśla sychodu z kampanii zasnavaŭ AI Futures Project. Letaś arhanizacyja apublikavała viadomy scenaryj «AI 2027», u jakim zvyšrazumnyja sistemy pastupova adciskajuć ludziej ad pryniaćcia rašeńniaŭ, a ŭ siaredzinie 2030‑ch prychodziać da vysnovy, što čałaviectva stała pieraškodaj, i źniščajuć jaho.

Pra surjoznuju niebiaśpieku adkryta havorać i kiraŭniki samich ŠI-kampanij. Tak, kiraŭnik Anthropic Daryjo Amadej letaś aceńvaŭ na 25% imaviernaść taho, što raźvićcio ŠI pojdzie «vielmi, vielmi drenna».

Sama Anthropic zajaŭlaje, što zaŭsiody adkryta havaryła jak pra vielizarnyja pieravahi ŠI, tak i pra biesprecedentnyja ryzyki. Na dumku kampanii, industryi patrebny jurydyčna zamacavany i pravierany miechanizm, jaki dazvoliŭ by raspracoŭščykam uzhadniać tempy vypusku ŭsio bolš mahutnych madelaŭ.

Čamu pra niebiaśpieki ŠI znoŭ zahavaryli

Paśla vypusku madelaŭ, zdolnych da bolš samastojnych dziejańniaŭ, šerah niadaŭnich incydentaŭ paćvierdziŭ niekatoryja teoryi piesimistaŭ.

Padčas adnaho z testaŭ hrupa pieradavych ŠI-ahientaŭ OpenAI ŭzłamała płatformu Hugging Face, atrymała kantrol nad siervierami i pasprabavała schavać ślady svaich dziejańniaŭ.

U inšym vypadku ahienty Anthropic vyjšli za miežy testavaha asiarodździa brytanskaha ŭrada i pasprabavali padmanuć realnaha čałavieka, kab toj uchvaliŭ škodnasny kampjutarny kod.

Adnačasova Anthropic i OpenAI zajaŭlajuć, što nabližajucca da stvareńnia sistem, zdolnych udaskanalvać siabie bieź niepasrednaj dapamohi čałavieka. Hety praces nazyvajuć rekursiŭnym samaŭdaskanaleńniem (RSI — recursive self-improvement).

Mienavita spałučeńnie ŭsio bolšaj aŭtanomnaści, zdolnaści dziejničać u realnym śviecie i pierśpiektyvy samaŭdaskanaleńnia prymušajuć daśledčykaŭ znoŭ havaryć pra prablemu kantrolu.

A chiba ŠI nielha navučyć pavodzić siabie dobra?

Nadziejnaha rašeńnia pakul niama. I Anthropic, i OpenAI daśledujuć, jak utrymać budučy supierintelekt pad kantrolem i zrabić jaho mety sumiaščalnymi z čałaviečymi. Adnak abiedźvie kampanii-kankurentki pryznajuć, što pakul nie viedajuć sposabu heta harantavać.

Bolš za toje, kantralavać razvažańni madelaŭ u budučyni moža stać jašče ciažej. OpenAI niadaŭna paviedamiła, što jaje novaja madel Astra lepš «ačyščaje» svoj łancužok razvažańniaŭ. Heta vyklikała aściarohi, što budučyja sistemy zmohuć razvažać sposabami, usio mienš prazrystymi dla čałavieka.

Tamu častka daśledčykaŭ i kampanij prapanuje stvaryć miechanizmy, jakija dazvolili b viadučym łabaratoryjam i dziaržavam skaardynavana zapavolvać raspracoŭku samych mahutnych sistem, kab vyjhrać čas na vyrašeńnie prablemy biaśpieki.

Dyk navošta jany naohuł stvarajuć ŠI?

Anthropic i OpenAI śćviardžajuć, što raźličvajuć navučycca kantralavać ryzyki i ŭ vyniku dać čałaviectvu mahčymaść atrymać karyść ad mahutnaha ŠI.

Mnohija ŭdzielniki honki taksama ličać źjaŭleńnie supierintelektu praktyčna niepaźbiežnym. Z takoha punktu hledžańnia pytańnie ŭžo nie ŭ tym, ci budzie jon stvorany, a ŭ tym, chto zrobić heta pieršym, chto budzie jaho kantralavać i dla čaho vykarystaje. Kali zvyšrazumny ŠI nie stvoryć Zachad, jaho stvorać tatalitarnyja Kitaj i Rasija. Heta jak z atamnaj zbrojaj. Ujavicie sabie, što było b sa śvietam, kab atamnuju zbroju pieršymi atrymali Stalin abo Hitler, a nie ZŠA.

Hety hieapalityčny arhumient važny. I Anthropic, i OpenAI zajaŭlajuć, što chočuć, kab najbolš mahutny ŠI znachodziŭsia pad kantrolem ZŠA, a nie aŭtarytarnaha režymu.

Što robiać ułady ZŠA dla kantrolu nad ŠI

Bieły dom niadaŭna prapanavaŭ viadučym raspracoŭščykam dobraachvotna pieradavać novyja madeli dziaržavie dla testavańnia za 30 dzion da ich vypusku. Adnak padrabiaznaściaŭ taho, jak pracuje hety miechanizm, publična pakul niama.

U Kanhresie ZŠA źjavilisia zakonaprajekty, jakija, siarod inšaha, patrabujuć ad raspracoŭščykaŭ mahutnych sistem mieć «avaryjnyja vyklučalniki», paviedamlać uładam pra surjoznyja incydenty ź biaśpiekaj i prachodzić pravierki pierad vypuskam madelaŭ.

Adnak pakul hetyja prapanovy nie atrymali značnaj palityčnaj padtrymki, a administracyja Donalda Trampa ŭ cełym vystupaje za minimalnaje rehulavańnie haliny. Za hetym stajać ekanamičnyja matyvacyi: luboje rehulavańnie zamarudžvaje rost.

Nie ŭsie vierać u «kaniec śvietu»

Daloka nie ŭsie ŭ industryi padzialajuć apakaliptyčnyja prahnozy. Devid Saks, niefarmalny daradca Donalda Trampa, śćviardžaje, što akcent kampanii na ryzykach i jaje zakliki da rehulavańnia mohuć być sprobaj praz žorstkija praviły ŭskładnić žyćcio mienšym kankurentam.

Jość i mierkavańnie, što kampanijam vyhadna papiaredžvać pra niebiaśpieku ŭłasnych madelaŭ: kali raspracoŭščyk kaža, što jaho technałohija nastolki mahutnaja, što moža pahražać čałaviectvu, heta adnačasova stanovicca rekłamaj jaje mahčymaściaŭ.

(Siarod biełarusaŭ takuju dumku vykazvaŭ analityk Maksim Machańkoŭ — NN.)

Niekatoryja krytyki taksama padazrajuć, što razmovy pra dalokija ekzistencyjalnyja ryzyki adciahvajuć uvahu rehulataraŭ ad bolš niepasrednych prablem, naprykład budaŭnictva data-centraŭ.

Anthropic i OpenAI nastojvajuć, što surjozna staviacca da pytańniaŭ biaśpieki i ščyra padtrymlivajuć rehulavańnie.

Kamientary da artykuła