«Čas, jaki patrabuje nadzvyčajnaj aściarožnaści». Polski vunderkind, jaki staŭ hałoŭnym navukoŭcam OpenAI, patłumačyŭ, čamu mienavita zaraz ŠI moža vyrvacca z-pad kantrolu

U pačatku svajho ese Jakub Pachocki zhadvaje, što jašče ŭ 2023 hodzie vyniki daśledavańniaŭ OpenAI pierakanali jaho: navučańnie madelaŭ razvažać možna maštabavać. Užo tady daśledčyk pryjšoŭ da vysnovy, što pry jaho žyćci mohuć źjavicca mašyny, istotna razumniejšyja za čałavieka.

Ciapier, abapirajučysia na ŭnutranyja vyniki OpenAI, Pachocki ličyć, što takija tempy raźvićcia ŠI mohuć zachavacca i pryvieści da rekursiŭnaha samaŭdaskanaleńnia, kali ŠI budzie adyhryvać usio bolšuju rolu ŭ stvareńni nastupnych pakaleńniaŭ sistem.

«Heta čas, jaki patrabuje nadzvyčajnaj aściarožnaści», — papiaredžvaje Pachocki.

Sačyć za dumkami ŠI stanovicca ciažej

Pachocki padkreślivaje, što sučasny ŠI chutčej «hadujuć», čym prajektujuć. U vyniku raspracoŭščyki atrymlivajuć nadzvyčaj składanuju sistemu, pryncypy pracy jakoj sami nie mohuć da kanca zrazumieć.

Pry hetym mašynny intelekt farmujecca zusim inakš, čym ludski, tamu nielha raźličvać, što jon sam pa sabie zasvoić čałaviečyja pryncypy i kaštoŭnaści. Adsiul uźnikaje prablema «ŭzhadnieńnia» (alignment): jak zrabić tak, kab ŠI dziejničaŭ u adpaviednaści z metami i kaštoŭnaściami ludziej.

Adnym z hałoŭnych sposabaŭ kantrolu OpenAI ličyć manitorynh łancužka razvažańniaŭ. Ideja ŭ tym, što daśledčyki mohuć nazirać nie tolki za vynikam dziejańniaŭ madeli, ale i za tym, jak jana da jaho pryjšła, i tak zaŭvažać patencyjna niebiaśpiečnyja namiery.

OpenAI raźličvała, što, kali nie ŭmiešvacca niepasredna ŭ praces razvažańnia madeli, u jaje nie budzie stymułu chavać u im patencyjna niebiaśpiečnyja namiery. Adnak ciapier taki sposab kantrolu stanovicca mienš nadziejnym.

Novyja madeli pracujuć u bolš składanym asiarodździ, uzajemadziejničajuć ź ludźmi i inšymi sistemami ŠI, karystajucca źniešnimi instrumientami. Akramia taho, jany ŭsio lepš umiejuć analizavać i źmianiać ułasny praces razvažańniaŭ, a častku zadač mohuć vykonvać bieź vidavočnaj vierbalizacyi svaich dumak.

Tamu adnym z hałoŭnych abmiežavańniaŭ dalejšaha raźvićcia ŠI, na dumku daśledčyka, moža stać pytańnie, ci zmohuć ludzi dastatkova nadziejna kantralavać usio bolš mahutnyja sistemy.

Spynić raspracoŭku taksama niebiaśpiečna

Tut uźnikaje paradoks. Kali raspracoŭščyki nie ŭpeŭnienyja, što zmohuć kantralavać bolš razumnyja madeli, čamu prosta nie spynić ich stvareńnie?

Najmacniejšym arhumientam za praciah raspracoŭki Pachocki nazyvaje nieabchodnaść abaraniacca ad inšych sistem ŠI. Madeli ŭžo stanoviacca nadzvyčaj mocnymi ŭ pošuku ŭraźlivaściaŭ i ŭzłomie kampjutarnych sistem. U budučyni takija ahienty zmohuć atrymlivać dostup da amal luboj niedastatkova abaronienaj infrastruktury i niepasredna ŭpłyvać na jaje pracu.

Daśledčyk taksama papiaredžvaje, što z rostam samastojnaści ŠI budzie ŭsio ciažej adździalić złoŭžyvańnie im z boku čałavieka ad niebiaśpiečnych dziejańniaŭ samich ahientaŭ. Takija sistemy zmohuć padmanvać ludziej, damaŭlacca ź imi abo šantažavać ich. Jašče adna pahroza — vykarystańnie ŠI dla stvareńnia niebiaśpiečnych technałohij, naprykład štučnych patahienaŭ.

Ale tut uźnikaje paradoks. Dla abarony ad niebiaśpiečnaha ŠI taksama spatrebicca mahutny ŠI. Takija sistemy zmohuć abaraniać krytyčnuju infrastrukturu, supraćstajać niebiaśpiečnym ahientam i raspracoŭvać novyja srodki abarony. Mienavita heta navukoviec nazyvaje najmacniejšym arhumientam za praciah raspracoŭki ŭsio bolš razumnych madelaŭ.

Pavialičyć

«Honka luboj canoj» nie maje sensu

Adnak patreba ŭ mahutnym ŠI dla abarony nie aznačaje, što jaho raźvićcio treba paskarać luboj canoj. Naadvarot, dalejšaje naroščvańnie mahčymaściaŭ sistem, na dumku Pachockaha, pavinna zaležać ad upeŭnienaści ŭ ich biaśpiecy. Kali takoj upeŭnienaści niama, tempy raźvićcia treba zapavolvać.

Isnujučyja dobraachvotnyja miechanizmy, takija jak Ramačnaja prahrama hatoŭnaści (Preparedness Framework) OpenAI i Palityka adkaznaha maštabavańnia (Responsible Scaling Policy) Anthropic, jon prapanuje pastupova pieratvaryć u ahulnyja abaviazkovyja standarty biaśpieki. Kantralavać ich vykanańnie mahli b niezaležnyja aŭdytary, dziaržaŭnyja orhany abo mižnarodnyja struktury.

Pachocki čakaje i spadziajecca, što dobraachvotnaje zapavolvańnie raspracoŭki stanie zvyčajnaj praktykaj, pakul takija standarty nie buduć vypracavanyja. Bo, pavodle jaho ciapierašniaj acenki, nivodnaja łabaratoryja jašče nie vyrašyła prablemy «ŭzhadnieńnia» i manitorynhu nastolki dobra, kab doŭha i adkazna praciahvać naroščvać mahutnaść ŠI na maksimalnaj chutkaści.

Hałoŭnaje — pakinuć budučyniu ludziam

Pry hetym Pachocki nie ličyć dalejšaje raźvićcio ŠI vyklučna pahrozaj. Biaśpiečnyja sistemy mohuć paskoryć navukovyja adkryćci, dapamahčy stvarać novyja mietady lekavańnia i prynieści vialiki ekanamičny dabrabyt.

Ale najbližejšyja niekalki hadoŭ jon ličyć asabliva važnymi. Čałaviectvu treba zachavać ułasnuju subjektnaść u śviecie, dzie bolšaść zadač zmohuć vykonvać mašyny, i nie dapuścić nadzvyčajnaj kancentracyi ŭłady, kali pracu tysiač śpiecyjalistaŭ zmohuć vykanać niekalki čałaviek z mahutnym kampjutaram.

35‑hadovy Jakub Pachocki naradziŭsia ŭ Hdańsku i prajaviŭ nieardynarny talent prahramista jašče ŭ školnyja hady. Vyšejšuju adukacyju jon atrymaŭ u ZŠA, doktarskuju dysiertacyju abaraniŭ u Carnegie Mellon, pracavaŭ u Harvardzie. Da OpenAI jon dałučyŭsia ŭ 2017 hodzie.

• 7
• 1
• 1
• 0
• 0
• 0
• 0
• 0