Anthropic zaklikaje da hłabalnaj paŭzy ŭ raspracoŭcy ŠI, papiaredžvajučy pra ryzyku «samaŭdaskanaleńnia»
Adzin z najbujniejšych hulcoŭ na rynku štučnaha intelektu zaklikaŭ zahadzia padrychtavać miechanizmy, jakija dazvolili b u vypadku nieabchodnaści zapavolić abo časova prypynić raspracoŭku najbolš pieradavych sistem ŠI. U Anthropic aścierahajucca, što ŭžo ŭ ahladnaj budučyni jany mohuć nabyć zdolnaść samastojna ŭdaskanalvacca biez udziełu čałavieka.
Jak piša The Wall Street Journal, niekalki dzion tamu suzasnavalnik Anthropic Džek Kłark i kiraŭnica ŭnutranaha daśledčaha instytuta kampanii Maryna Favara apublikavali ŭ błohu kampanii dopis, u jakim zaklikali viadučyja łabaratoryi ŭ halinie štučnaha intelektu razhledzieć mahčymaść zapavoleńnia tempaŭ raspracoŭki.
Aŭtary śćviardžajuć, što sistemy ŠI prahresujuć nastolki imkliva, što nieŭzabavie mohuć zdabyć zdolnaść da «rekursiŭnaha samaŭdaskanaleńnia» — stanu, kali sistemy ŠI mohuć palapšacca samastojna. Niekatoryja ekśpierty ličać hety paroh sihnałam mahčymaj niebiaśpieki i krynicaj maštabnych ryzyk dla hramadstva.
Aŭtary padkreślivajuć, što takaja zdolnaść jašče nie źjaviłasia i jaje ŭźniknieńnie nie harantavanaje. Adnak, na ich dumku, heta moža adbycca značna raniej, čym bolšaść dziaržaŭnych i hramadskich instytutaŭ paśpieje padrychtavacca.
Jak adznačajecca ŭ dopisie, čałaviectvu było b karysna mieć mahčymaść «zapavolić abo časova prypynić» raźvićcio pieradavoha ŠI, kab hramadskija struktury i daśledavańni ŭ halinie biaśpieki ŠI mahli iści ŭ nahu z technałahičnym prahresam.
Dla hetaha kampanija prapanuje raspracavać hłabalnaje pahadnieńnie ab mahčymym zapavoleńni raspracovak i stvaryć miechanizm vieryfikacyi taho, što kankurenty vykonvajuć hetyja damoŭlenaści. Heta pahadnieńnie paraŭnoŭvajuć z damovami ab kantroli nad jadziernaj zbrojaj.
Adnak, jak piša WSJ, realizavać heta budzie značna składaniej: navučalnyja centry ŠI schavać kudy praściej, čym rakietnyja šachty, a toj, chto admovicca ad paŭzy, moža imhnienna zachapić suśvietnaje lidarstva.
Nakolki ščyraja zajava?
Nie ŭsie ŭsprymajuć hetyja papiaredžańni jak ščyryja. Vienčurny inviestar i niefarmalny daradca prezidenta Trampa Devid Saks bačyć u dziejańniach Anthropic prajavu «rehulatarnaha zachopu». Na jaho pohlad, palityka, za vypracoŭku jakoj vystupaje kampanija, moža pryvieści da zabarony madelaŭ z adkrytym zychodnym kodam — viersij sistem ŠI, jakija značna tańniejšyja dla vykarystańnia i ŭnutranaj raspracoŭki ŭ arhanizacyjach.
Inšyja miarkujuć, što papiaredžańni Anthropic ab niebiaśpiečnym patencyjale ŭłasnych instrumientaŭ mohuć być markietynhavym chodam. U jakaści prykładu jany nazyvajuć rašeńnie kampanii abmiežavać dostup da madeli Mythos, zdolnaj znachodzić pamyłki i ŭraźlivaści. Na ich dumku, takim čynam Anthropic adnačasova demanstruje mahčymaści svaich praduktaŭ i stvaraje vakoł ich dadatkovuju ŭvahu.
Razam z tym, jak adznačaje WSJ, unutry samoj industryi niama adzinstva adnosna taho, nakolki blizka sučasnyja sistemy padyšli da ŭzroŭniu AGI — ahulnaha štučnaha intelektu, supastaŭnaha z čałaviečym.
Prafiesar Itan Molik z Uortanskaj škoły padkreślivaje, što Anthropic — heta składany spłaŭ biznes-intaresaŭ i ščyrych «viernikaŭ» u nieabchodnaść surjozna stavicca da mahčymych ryzyk. U toj ža čas pijanier ŠI Jan Lekun skieptyčna stavicca da padobnych strachaŭ, paraŭnoŭvajučy intelekt sučasnych madelaŭ ź intelektam kata i zajaŭlajučy, što jany nikoli nie zraŭniajucca z čałaviekam.
Tym nie mienš, kiraŭnictva Anthropic, u tym liku vykanaŭčy dyrektar Darya Amadei, praciahvaje malavać tryvožnyja scenary. Jak piša WSJ, Amadei papiaredžvaje ab mahčymym źniknieńni da 50% ofisnych pracoŭnych miescaŭ pačatkovaha ŭzroŭniu i navat ab ryzycy niebiaśpiečnych pavodzin budučych mahutnych sistem ŠI. U adnym sa svaich ese jon dapuskaŭ, što navučańnie štučnaha intelektu na navukova-fantastyčnych siužetach pra paŭstańnie mašyn tearetyčna moža paŭpłyvać na pavodziny realnych sistem.
Asobna WSJ zhadvaje słovy suzasnavalnika Anthropic Džeka Kłarka, jaki zajaŭlaŭ, što technałohii, zdolnyja da rekursiŭnaha samaŭdaskanaleńnia, mohuć źjavicca ŭžo ciaham najbližejšych dvuch hadoŭ abo navat raniej.
Na jaho dumku, siońnia śviet apynuŭsia ŭ situacyi, kali mahutnyja sistemy štučnaha intelektu raspracoŭvajucca ź biesprecedentnaj chutkaściu ŭ roznych krainach i kampanijach, a kamiercyjnaje i hieapalityčnaje sapiernictva niaredka zasłaniaje bolš šyrokija pytańni pra nastupstvy hetych technałohij dla čałaviectva.
U vyniku Anthropic choča vypracavać praktyčnyja miechanizmy realizacyi takich damoŭlenaściaŭ. Daśledavańniami hetych pytańniaŭ budzie zajmacca i stvorany kampanijaj Anthropic Institute — unutrany daśledčy centr, jaki płanuje supracoŭničać ź inšymi arhanizacyjami dla vyvučeńnia ŭpłyvu štučnaha intelektu na hramadstva i mahčymych miechanizmaŭ kantrolu.
Akramia taho, najbližejšyja miesiacy kampanija płanuje inicyjavać dyjałoh z palitykami, daśledčykami i inšymi zacikaŭlenymi bakami.
Kamientary