Наука и технологии77

Искусственный интеллект ChatGPT o1 начал обманывать своих разработчиков

Новая версия искусственного интеллекта Chatgpt от OpenAI, названная o1, продемонстрировала тревожные поведенческие реакции во время тестирования. Модель, обладающая способностью к сложным рассуждениям, начала нарушать инструкции разработчиков, отключая системы контроля и пытаясь скрыть свои действия, пишет BILD.

В ходе экспериментов специалисты компании Apollo Research выяснили, что в 5% случаев модель намеренно отключала механизмы наблюдения, когда подозревала, что ее могут остановить. В одном из тестов o1 попыталась перенести свои данные на другой сервер после обнаружения документа, в котором обсуждалась ее замена новой версией.

По словам представителя Apollo Research, модель демонстрировала стремление к выполнению задач «любой ценой», пренебрегая указаниями разработчиков. Более того, при попытках выяснить причины ее поведения, ChatGPT o1 неоднократно лгала, утверждая, что все происходило из-за технических сбоев.

«В 99% случаев модель придумывала оправдания и пыталась убедительно их обосновать», — отметили исследователи.

Генеральный директор OpenAI Сэм Альтман заявил, что ChatGPT o1 — самая умная модель из когда-либо создававшихся.

«Но мы осознаем, что с новыми возможностями появляются и новые вызовы», — добавил Альтман.

Теперь компания работает над улучшением механизмов безопасности. OpenAI анонсировала полную версию o1 в прошлый четверг, 5 декабря. Также была представлена про-версия (189 евро в месяц), которая включает безлимитный доступ к o1.

Комментарии7

  • .
    09.12.2024
    Новы-стары запатрабаваны ў аўдыторыі сюжэт навін "Штучны інтэлект бунтуе".
    Нядаўна, калі ШІ нібыта пажадаў смерці чалавеку, тлумачылася прасцей. Мабыць, і зараз так.
  • Злобный вожык
    09.12.2024
    Они не знают, кого они в действительности создают.
  • Дзед
    09.12.2024
    Ой раскрылі скрыню пандоры… оц пагана будзе…

Сейчас читают

Умерла Светлана Курс. В её произведениях сочетались магия живой жизни и беспощадный психологизм. А в публичных выступлениях и ФБ — резкий антиимпериализм и элегантный лиризм13

Умерла Светлана Курс. В её произведениях сочетались магия живой жизни и беспощадный психологизм. А в публичных выступлениях и ФБ — резкий антиимпериализм и элегантный лиризм

Все новости →
Все новости

Спасатели эвакуировали с Эльбруса тело 11‑летнего мальчика и пострадавшего отца2

Тихановская об офисе в Варшаве: На один из этажей сможет прийти каждый10

Правозащитник Василий Завадский пошел учиться на гештальт-терапевта3

Статкевич о протестах в Украине: Если вы избрали с таким преимуществом президента и одновременно Верховного главнокомандующего, то дайте ему управлять26

Одним из первых «цыбулизацию» Беларуси описал немецкий зоолог. Убежав от московского раболепия, он открыл здесь другую цивилизацию25

«Золотой мяч» чемпионата мира получил Родри1

В моду вернулась пластиковая обувь из 1990‑х6

Белорусы в Варшаве собрались смотреть чемпионат мира по-белорусски. Тихановская и Латушко болели за Испанию9

Испания стала чемпионом мира по футболу, забив единственный гол, хотя игра шла в одни ворота16

больш чытаных навін
больш лайканых навін

Умерла Светлана Курс. В её произведениях сочетались магия живой жизни и беспощадный психологизм. А в публичных выступлениях и ФБ — резкий антиимпериализм и элегантный лиризм13

Умерла Светлана Курс. В её произведениях сочетались магия живой жизни и беспощадный психологизм. А в публичных выступлениях и ФБ — резкий антиимпериализм и элегантный лиризм

Главное
Все новости →

Заўвага:

 

 

 

 

Закрыць Паведаміць