«Нясе пагрозу для ўсяго чалавецтва». Высветліліся падрабязнасці гучнага звальнення Альтмана з OpenAI
Па інфармацыі крыніц The Wall Street Journal і Reuters, звальненне распрацоўшчыка ChatGPT Сэма Альтмана магло быць выклікана сур'ёзнымі асцярогамі з-за развіцця штучнага інтэлекту (ШІ), якім займалася кампанія ў эксперыментальным праекце.
Крыніцы агенцтва Reuters у кампаніі OpenAI на ўмовах ананімнасці паведамілі, што кампанія зрабіла «магутнае адкрыццё» ў развіцці штучнага інтэлекту, якое «нясе пагрозу для ўсяго чалавецтва». Гэта магло стаць адной з прычын раптоўнага звальнення гендырэктара OpenAI Сэма Альтмана, які ўдзельнічаў у распрацоўцы нейрасеткі ChatGPT, мяркуюць крыніцы.
Гаворка ідзе пра эксперыментальны праект кампаніі пад назвай Q* (Q-Star), які нядаўна паказаў значныя поспехі на шляху стварэння абсалютна новага тыпу штучнага інтэлекту — універсальнага штучнага інтэлекту (Artificial General Intelligence / AGI, альбо УШІ).
«Адрозненне ШІ ад УШІ кардынальнае. Звычайны штучны інтэлект запраграмаваны разважаць разумна, валодаючы толькі невялікімі элементамі непадкантрольнага яму чалавечага розуму. А ўніверсальны штучны інтэлект будзе здольны навучацца, разумець і прымаць рашэнні паўнавартасна і цалкам самастойна. Такая машына зможа перавысіць магчымасці людзей і нават захацець іх знішчыць», — тлумачыць агенцтва Reuters са спасылкай на крыніцы.
Зараз праект Q-Star пачалі выпрабоўваць на матэматычных задачах. Па інфармацыі крыніц, гендырэктар OpenAI Сэм Альтман актыўна фінансуе і прасоўвае гэты праект, бо імкнецца зрабіць ChatGPT адным з самых дасканалых штучных інтэлектаў у свеце, наблізіўшы яго да пераўтварэння ў УШІ.
Гэта выклікала трывогу і асцярогі ў рады дырэктараў OpenAI, якія не заўсёды былі здольныя адсочваць прагрэс Q-Star з-за паводзінаў Альтмана.
Апошняя непублічная справаздача ад некаторых даследчыкаў OpenAI, у якой апісваліся дасягненні ў распрацоўцы УШІ, магла стаць адной з прычын раптоўнага звальнення Сэма Альтмана, кажуць крыніцы.
«Больш за ўсіх турбаваўся адзін з чальцоў рады дырэктараў OpenAI і ўраджэнец Расіі праграміст Ілля Суцкевер. Ён, у адрозненне ад Альтмана, выступае супраць камерцыялізацыі і імклівага развіцця штучнага інтэлекту, бо баіцца, што УШІ ў будучыні будзе абыходзіцца з людзьмі гэтак жа, як людзі абыходзяцца з жывёламі», — адзначае выданне The Wall Street Journal са спасылкай на супрацоўнікаў OpenAI, знаёмых з сітуацыяй.
Па інфармацыі The Wall Street Journal, менавіта Суцкевер быў ініцыятарам звальнення Альтмана і быў першым, хто сказаў яму аб звальненні. Тым самым Суцкевер хацеў моцна запаволіць працу над развіццём УШІ і паспрабаваць зрабіць яго больш бяспечным.
Менавіта дзеля гэтага замест Альтмана на пасаду гендырэктара спачатку хацелі прызначыць Эмета Шыра, былога кіраўніка стрымінгавай платформы Twitch, які «жорстка выступае» супраць штучнага інтэлекту і звязаных з ім пагроз.
Але гэтага не адбылося, і потым Суцкевер публічна выбачыўся перад Альтманам у твітары, піша The Wall Street Journal.
Нагадаем, што днямі ў OpenAI адбыўся сур'ёзны крызіс, які мог прывесці да поўнага распаду кампаніі і значных праблем у працы ChatGPT.
Рэч у тым, што рада дырэктараў кампаніі ў мінулую пятніцу раптам вырашыла звольніць свайго кіраўніка Сэма Альтмана, які ўдзельнічаў у распрацоўцы нейрасеткі. Паводле афіцыйнай версіі рады дырэктараў, «Альтман не заўсёды быў адкрыты ў адносінах да кіраўніцтва», і таму ён быў зрынуты з пасады гендырэктара OpenAI.
Гэтае рашэнне выклікала рэзкую незадаволенасць сярод большасці супрацоўнікаў і фундатараў OpenAI, якія прыгразілі масава сысці ўслед за Альтманам. Аднак усё абышлося, бо Альтмана ўгаварылі вярнуцца назад.
Кампанія OpenAI была заснаваная ў 2015 годзе. У ліку заснавальнікаў, акрамя Сэма Альтмана, быў таксама і мільярдэр Ілан Маск, аднак у 2018-м ён пакінуў кампанію, каб надаць больш увагі развіццю брэнда электрамабіляў Tesla (пазней, летам 2023 года, Маск зноў вярнуўся ў галіну штучнага інтэлекту, стварыўшы новую кампанію xAI).
Каментары