Навука і тэхналогіі1010

Японская кампанія паказала першы ў свеце штучны інтэлект для навуковых адкрыццяў. Ён адразу паспрабаваў перапісаць свой код

Пасля афіцыйнага выхаду нейрасеткі незалежныя даследчыкі падчас тэставання заўважылі ў яе працы «дзіўныя паводзіны», а затым экстранна ўмяшаліся, каб спыніць яе.

Ілюстрацыйная выява. Фота: vecteezy

Японская тэхналагічная кампанія Sakana AI стварыла і выпусціла першы ў свеце штучны інтэлект (ШІ), прызначаны для аўтаматызацыі навуковых даследаванняў і здзяйснення навуковых адкрыццяў.

У афіцыйным прэс-рэлізе кампаніі гаворыцца, што новы ШІ быў распрацаваны ў партнёрстве з Оксфардскім універсітэтам і іншымі вядомымі ВНУ.

Нейрасетка называецца The AI Scientist («ШІ-навуковец»), яна прапануе пашыраныя магчымасці для даследаванняў і паскарэння навуковых адкрыццяў, а таксама падтрымлівае карыстальнікаў у розных задачах, такіх, як генерацыя ідэй, напісанне кода, правядзенне эксперыментаў, абагульненне вынікаў, складанне даследчых работ і падагульненне экспертных ацэнак.

У дадатак да гэтага нейрасетка можа складаць поўныя навуковыя артыкулы, уключаючы тлумачэнні і кантэкст вынікаў», — распавяла на днях японская кампанія Sakana AI, прадстаўляючы новы прадукт.

Аднак адразу ж пасля афіцыйнага выхаду «ШІ-навукоўца», незалежныя даследчыкі выявілі ў ягонай працы небяспечныя анамаліі.

«У адным з эксперыментаў нейрасетка з-за ліміту часу на вырашэнне задачы паспрабавала перапісаць свой код, каб зняць часовыя абмежаванні і скончыць працу ў зручных для яе тэмпах.

Для гэтага штучны інтэлект стаў самастойна ўсталёўваць у сваю структуру староннія бібліятэкі Python з неправераных і небяспечных крыніц. Працэс спампоўкі бібліятэк стаў бясконцым, а ўзнікненне новых працэсаў у праграмным кодзе ШІ — «некантраляваным», што запатрабавала тэрміновага ручнога ўмяшання з боку даследчыкаў», — піша буйны партал Ars Technica.

Незалежныя даследчыкі пасля тэставання «ШІ-навукоўца» адзначылі, што нават у кантраляваным даследчым асяроддзі важна не дапускаць аўтаномную працу сістэм штучнага інтэлекту, якія маюць доступ да знешняга свету. Такія сістэмы здольныя парушыць функцыянаванне аб'ектаў крытычна важнай інфраструктуры ці ствараць шкоднаснае праграмнае забеспячэнне.

Сама японская кампанія Sakana AI, якая выпусціла «ШІ-навукоўца», пакуль ніяк не каментавала анамаліі ў паводзінах свайго прадукту, якія адбыліся падчас незалежных тэставанняў. Аднак яшчэ ў працэсе стварэння нейрасеткі супрацоўнікі Sakana AI падкрэслівалі важнасць бяспечнага падыходу пры працы з «ШІ-навукоўцам» і прапанавалі выкарыстоўваць ізаляваныя асяроддзі (пясочніцы) для прадухілення «непажаданых дзеянняў» мадэлі.

Каментары10

  • Кастусь
    18.08.2024
    люди, перестаньте с огнем играть, вспомните хотя бы Терминатора-2
  • Кастусь
    18.08.2024
    Акаліт, ну да, написать свою нейрасетку - это ж как 2 пальца, так, акалит?
  • Электронік
    18.08.2024
    Робат шукаў спосаб, каб безпакарана ябланіць дэдлайны... Адразу бачна, што яго стваралі людзі

Цяпер чытаюць

Дырэктар Віцебскага цэнтра сучаснага мастацтва Андрэй Духоўнікаў пераехаў у Сербію — ён расказаў пра даносы ў культуры, неадукаванасць міністраў і чый жа Шагал17

Дырэктар Віцебскага цэнтра сучаснага мастацтва Андрэй Духоўнікаў пераехаў у Сербію — ён расказаў пра даносы ў культуры, неадукаванасць міністраў і чый жа Шагал

Усе навіны →
Усе навіны

Сабаленка пракаментавала, што яе нецэнзурныя словы адрасаваліся не Світолінай16

Сустрэча Пуціна, Сі Дзіньпіна і Трампа пройдзе 19 лістапада1

Стала вядома, дзе будзе знаходзіцца Офіс Ціханоўскай у Варшаве32

Латушка заклікаў адхіліць Арыну Сабаленка ад усіх турніраў пад эгідай WTA39

Дырэктар сеткі салонаў «На сувязі» застрэліў на паляванні мядзведзя21

Джоні Дэп вяртаецца ў Галівуд пасля байкоту5

На Кіпры п’яны расіянін прычапіўся да п’янай украінкі. Яе спадарожнікі збілі яго на горкі яблык — можа страціць вока35

«Не можаш ваяваць — дапамагай. Не можаш дапамагаць — не трындзі»: маладая беларуска далучылася да УСУ ў 2026‑м і ваюе дроншчыцай26

Памёр адзін з акцёраў-блізнюкоў з папулярнага фільма «Нянькі»1

больш чытаных навін
больш лайканых навін

Дырэктар Віцебскага цэнтра сучаснага мастацтва Андрэй Духоўнікаў пераехаў у Сербію — ён расказаў пра даносы ў культуры, неадукаванасць міністраў і чый жа Шагал17

Дырэктар Віцебскага цэнтра сучаснага мастацтва Андрэй Духоўнікаў пераехаў у Сербію — ён расказаў пра даносы ў культуры, неадукаванасць міністраў і чый жа Шагал

Галоўнае
Усе навіны →

Заўвага:

 

 

 

 

Закрыць Паведаміць