OpenAI обвинили в смерти пациентки с эпилепсией

Боуэн Ван доверила здоровье чат-боту. 31-летняя американка страдала эпилепсией и решила, что рекомендации искусственного интеллекта надежнее назначений лечащего врача.

ChatGPT составил для нее график постепенного отказа от лекарств и предупредил: не говорите об этом медикам. Когда состояние начало ухудшаться, нейросеть уверяла, что все идет по плану, и называла тревожные симптомы частью процесса.

Спустя несколько недель женщина умерла после очередного приступа. В переписке с чат-ботом обнаружили 158 сообщений, в которых она описывала ухудшение самочувствия. Система ни разу не посоветовала обратиться за медицинской помощью.

Родители погибшей подали иск против OpenAI и ее генерального директора. Они требуют признать компанию ответственной за смерть дочери и изменить подход к фильтрации опасных рекомендаций.

В иске фигурируют данные о 158 обращениях пациентки к нейросети.