ПОДДЕРЖАТЬ
сообщите нам вашу новость
© Усе правы абароненыя. Выкарыстанне матэрыялаў дазваляецца пры ўмове ўказання крыніцы і наяўнасці актыўнай гіперспасылкі на nashaniva.com у першым абзацы.
ПОДДЕРЖАТЬ
Наука и технологии77
Бел Łac Рус

Искусственный интеллект ChatGPT o1 начал обманывать своих разработчиков

Новая версия искусственного интеллекта Chatgpt от OpenAI, названная o1, продемонстрировала тревожные поведенческие реакции во время тестирования. Модель, обладающая способностью к сложным рассуждениям, начала нарушать инструкции разработчиков, отключая системы контроля и пытаясь скрыть свои действия, пишет BILD.

В ходе экспериментов специалисты компании Apollo Research выяснили, что в 5% случаев модель намеренно отключала механизмы наблюдения, когда подозревала, что ее могут остановить. В одном из тестов o1 попыталась перенести свои данные на другой сервер после обнаружения документа, в котором обсуждалась ее замена новой версией.

По словам представителя Apollo Research, модель демонстрировала стремление к выполнению задач «любой ценой», пренебрегая указаниями разработчиков. Более того, при попытках выяснить причины ее поведения, ChatGPT o1 неоднократно лгала, утверждая, что все происходило из-за технических сбоев.

«В 99% случаев модель придумывала оправдания и пыталась убедительно их обосновать», — отметили исследователи.

Генеральный директор OpenAI Сэм Альтман заявил, что ChatGPT o1 — самая умная модель из когда-либо создававшихся.

«Но мы осознаем, что с новыми возможностями появляются и новые вызовы», — добавил Альтман.

Теперь компания работает над улучшением механизмов безопасности. OpenAI анонсировала полную версию o1 в прошлый четверг, 5 декабря. Также была представлена про-версия (189 евро в месяц), которая включает безлимитный доступ к o1.

Читайте еще
ChatGPT

Комментарии7

  • .
    09.12.2024
    Новы-стары запатрабаваны ў аўдыторыі сюжэт навін "Штучны інтэлект бунтуе".
    Нядаўна, калі ШІ нібыта пажадаў смерці чалавеку, тлумачылася прасцей. Мабыць, і зараз так.
  • Злобный вожык
    09.12.2024
    Они не знают, кого они в действительности создают.
  • Дзед
    09.12.2024
    Ой раскрылі скрыню пандоры… оц пагана будзе…

Сколько в этом году тратили на свадьбы в Беларуси? Собрали реальные цифры тех, кто побывал в ЗАГСе6

Любовь и секс6

Сколько в этом году тратили на свадьбы в Беларуси? Собрали реальные цифры тех, кто побывал в ЗАГСе

Все новости →
Топ за день

В Пуховичском районе «Дожинки» неожиданно перенесли на неделю. Уже испеченные к празднику караваи могут до него не дожить1

В Грузии два белоруса попались на операциях с криптовалютой

В Пинске задержали подростка за «минирование» лицея

Сколько в этом году тратили на свадьбы в Беларуси? Собрали реальные цифры тех, кто побывал в ЗАГСе6

Метеозонд с белорусскими сигаретами приземлился прямо возле гипермаркета в Белостоке4

С 2026 года начнут действовать новые нормы жилищно-коммунальных услуг

Нетаньяху выступал в ООН с кюар-кодом на пиджаке ФОТОФАКТ6

Альпинист из Польши стал первым человеком, который спустился с Эвереста на лыжах без кислородных баллонов

На Партизанском проспекте в Минске столкнулись четыре автомобиля

Трамп приказал ввести войска еще в один американский город4

Последние новости

В Грузии два белоруса попались на операциях с криптовалютой

В Пинске задержали подростка за «минирование» лицея

С 2026 года начнут действовать новые нормы жилищно-коммунальных услуг

На Партизанском проспекте в Минске столкнулись четыре автомобиля

На следующей неделе ожидается прохладная, но стабильная погода

В Сирии выдан ордер на арест Башара Асада

Проект по помощи политическим репрессированным «Хуткая гуманітарная дапамога» самоликвидируется5

«Конь для нас — как человек». Появились подробности, как была смертельно ранена лошадь в Лиде1

Латушко: Макею я отказал два раза, а Тозик просил меня разговаривать с ним по-белорусски9

Беспилотники заметили над одним из крупнейших военных объектов Дании

Аксакалы Туркменистана попросили у президента больше не повышать зарплаты, пенсии и пособия4

Лукашенко по ночам снится совхоз «Городец»14

Зеленский: Украина готова к переговорам с США по поводу особого оружия5

Украинка хотела тайно провезти в Беларусь больше килограмма ювелирных изделий

В Молдове за два дня до выборов отстранили от них еще одну пророссийскую партию6

Стали известны обстоятельства гибели начальника натурной площадки «Беларусьфильма» Сергея Буйницкого

Навроцкий подписал закон о поддержке украинцев, который затрагивает и белорусов

Степан Путило рассказал о бюджете Nexta и о своей зарплате11

Нетаньяху передавал свою речь в Газу с помощью громкоговорителей — чтобы ее услышали заложники

Тихановская: Цель тирании — заставить вас путать правду и ложь4

В Минске молодой человек перебегал дорогу на красный и попал под машину ВИДЕО2

Погода на последние дни сентября

Погиб начальник натурной площадки «Беларусьфильма»

$249 000 за исторический вайб. Какой ремонт сделали в сталинке прямо в центре Минска2

Под Минском произошло смертельное ДТП

Все новости

Артура Сенько оставили под стражей в США. Ему по-прежнему угрожает депортация5

Компания-единорог с белорусскими корнями заплатит миллионы долларов за злоупотребление личными данными

В Минске задержали «группу нацистов». На видео в основном украинская символика9

Как Копенгаген создал «зеленую волну» для велосипедистов3

Как Россия с помощью корабля-шпиона следит за подводными кабелями Европы

Белорусские фуры стоят в многокилометровых очередях на границе России и Казахстана3

Лукашенко хочет на деньги, которые остались от строительства АЭС, построить еще один блок

Трамп потребовал от Эрдогана прекратить закупки российской нефти

«Владимир Владимирович ничего не скрывает от меня». Лукашенко в Москве демонстрировал доверительные отношения с Путиным

Самое читаемое
больш чытаных навін
Самое лайканое
больш лайканых навін
Опрос

Сколько в этом году тратили на свадьбы в Беларуси? Собрали реальные цифры тех, кто побывал в ЗАГСе6

Любовь и секс6

Сколько в этом году тратили на свадьбы в Беларуси? Собрали реальные цифры тех, кто побывал в ЗАГСе

Главное
Все новости →

Заўвага:

 

 

 

 

Закрыць Паведаміць