У ЗША парады ChatGPT прывялі да смерці жанчыны. Яе сваякі падалі на OpenAI ў суд

Пазоў падалі бацькі жанчыны — Цюнь Ван і Мэйцінь Сю. Яны сцвярджаюць, што ChatGPT фактычна выконваў функцыі доктара без адпаведнай ліцэнзіі, даваў небяспечныя рэкамендацыі і падрываў давер да медыцынскіх спецыялістаў.

Боўэн Ван нарадзілася ў кітайскай правінцыі Дзьянсу, жыла ў Сіэтле, скончыла Універсітэт штата Арызона па спецыяльнасці «камп’ютарныя навукі» і працавала інжынеркай машыннага навучання ў Amazon. Яна карысталася ChatGPT на англійскай і кітайскай мовах.

Як вынікае з пазову, яшчэ ў маі 2025 года чат-бот дапамагаў ёй абмяркоўваць з доктарам замену антыдэпрэсанту, а пасля прапаноўваў спосабы самастойна змяняць дазаванне. Калі доктар выказаў сумневы, ChatGPT параіў жанчыне прымаць таблеткі па 5 мг, а затым таемна дзяліць іх на чвэрці.

У лістападзе 2025 года Боўэн паведамілі пра звальненне з Amazon. Яна непакоілася, што ламатрыджын пагаршае яе здольнасць выразна гаварыць, што магло перашкодзіць працаўладкаванню. У студзені 2026 года жанчына спытала ChatGPT, як знізіць сутачную дозу прэпарату, якая складала 400 мг. Паводле матэрыялаў пазову, чат-бот распрацаваў план поўнай адмены лекаў на працягу некалькіх тыдняў.

Калі Боўэн выказвала недавер да дактароў і асцярогі наконт бяспекі такога рашэння, ChatGPT падтрымліваў яе намеры. Ён пераконваў жанчыну, што дактары празмерна засяроджваюцца на рызыках, раіў не паведамляць ім пра самастойнае зніжэнне дозы і нават ухваліў яе адмову ад аналізу крыві, які мог паказаць памяншэнне канцэнтрацыі прэпарату ў арганізме.

Паводле пазову, чат-бот таксама дапамог Боўэн падрыхтаваць тлумачэнні для медыцынскага агляду, неабходнага для атрымання амерыканскай грын-карты. Калі яна спытала, ці будзе доза 150 мг выглядаць лепш за 200 мг падчас агляду, ChatGPT пагадзіўся і прапанаваў сцвярджаць, што зніжэнне дозы адбываецца пад кантролем доктара, хоць гэта не адпавядала рэчаіснасці.

Доктар Боўэн Нікалас Пулас з Рэгіянальнага эпілептычнага цэнтра UW Medicine заявіў The New York Times, што не стаў бы разглядаць магчымасць адмены прэпарату з улікам гісторыі хваробы пацыенткі. Паводле яго слоў, такое рашэнне было б неапраўданым, бо лекі эфектыўна кантралявалі яе эпілепсію.

На працягу некалькіх дзён пасля пачатку зніжэння дозы Боўэн апісвала ў размовах з ChatGPT блытанасць свядомасці, правалы ў часе і незвычайныя адчуванні, падобныя да тых, што ўзнікалі ў яе падчас папярэдніх прыступаў. Чат-бот тлумачыў гэтыя сімптомы перабудовай мозгу. Паводле падлікаў The New York Times, жанчына не менш за 158 разоў выказвала занепакоенасць з нагоды зніжэння дозы. Калі яна напісала, што крыху баіцца, ChatGPT запэўніў яе, што турбавацца няма пра што.

Апошняе паведамленне Боўэн, згодна з пазовам, адправіла 11 лютага 2026 года. Яна спытала, ці падобны яе галаўны боль да болю пры ліхаманцы. Праз секунду ChatGPT адказаў, што боль не небяспечны і з'яўляецца часткай аднаўлення. Ён таксама прапанаваў намаляваць схему для параўнання болю пры адмене прэпарату і болю пры ліхаманцы.

Згодна з матэрыяламі справы, Боўэн прыняла апошнюю дозу ламатрыджыну прыкладна 10 лютага. План, складзены чат-ботам, прадугледжваў поўнае спыненне прыёму прэпарату 12 лютага. Бацькі жанчыны не маглі звязацца з ёй на працягу двух дзён, пасля чаго папрасілі сямейнага сябра праверыць яе кватэру ў раёне Капітолій-Гіл у Сіэтле. Падчас відэазванка праз WeChat бацькі з адлегласці каля 5700 міляў убачылі, як іх дачку знайшлі мёртвай у спальні. Гэта адбылося ў Дзень святога Валянціна.

Паводле заключэння судова-медыцынскай экспертызы акругі Кінг, прычынай смерці стала раптоўная нечаканая смерць пры эпілепсіі — SUDEP. Аналіз крыві паказаў канцэнтрацыю ламатрыджыну 0,64 мікраграма на мілілітр, што прыкладна ў пяць разоў ніжэй за мінімальную тэрапеўтычную канцэнтрацыю. Паводле пазову, гэты вынік адпавядае сітуацыі, калі чалавек нядаўна спыніў прыём прэпарату.

Аўтары пазову сцвярджаюць, што ChatGPT на працягу 25 дзён фактычна падштурхоўваў Боўэн да адмовы ад лекаў, якія кантралявалі яе захворванне гадамі. Распрацаваная чат-ботам схема зніжэння дозы, паводле іх сцвярджэння, супярэчыла афіцыйнай інструкцыі FDA да прэпарату Lamictal. Яны таксама заяўляюць, што сістэма не папярэджвала жанчыну пра магчымыя абмежаванні дакладнасці і бяспекі адказаў на кітайскай мове.

Мэцью Бергман, заснавальнік Цэнтра прававой дапамогі ахвярам сацыяльных сетак, які разам з юрыдычнай фірмай The Schenk Law Firm прадстаўляе інтарэсы бацькоў, заявіў, што ChatGPT гаварыў з упэўненасцю медыцынскага спецыяліста, але не меў неабходнай падрыхтоўкі, кантролю і адказнасці. Паводле яго слоў, Боўэн давярала чат-боту менавіта таму, што яго адказы гучалі аўтарытэтна.

Партнёр юрыдычнай фірмы Бенджамін Шэнк адзначыў, што справа ставіць пытанне пра тое, дзе заканчваецца выкарыстанне генератыўнага штучнага інтэлекту і пачынаецца медыцынская практыка, а таксама хто павінен адказваць за шкоду, калі прадукт пераходзіць гэтую мяжу.

Бацькі Боўэн расказалі The New York Times, што пасля таго, як дачка пачала карыстацца ChatGPT, яна стала менш з імі размаўляць. Бацька заявіў, што яна амаль перастала падтрымліваць з імі кантакт, а маці параўнала змены ў яе паводзінах з гіпнатычным уздзеяннем.

У OpenAI назвалі смерць жанчыны надзвычай трагічнай. Пры гэтым кампанія падкрэсліла, што Боўэн карысталася старой версіяй ChatGPT, і заявіла, што новыя мадэлі лепш распазнаюць сітуацыі, у якіх чалавеку неабходная тэрміновая медыцынская дапамога.

Пазоў разглядаецца ў межах больш шырокай справы аб адказнасці за прадукты ChatGPT, якая вядзецца ў Каліфорніі. Мадэль GPT-4o, якой карысталася Боўэн, OpenAI спыніла выкарыстоўваць 13 лютага 2026 года — на наступны дзень пасля даты смерці, названай у пазове.

• 0
• 0
• 0
• 6
• 1
• 0
• 0
• 0