Назад
🚬 ChatGPT убеждал программистку Amazon отказаться от лекарств против эпилепсии. Девушка умерла, а её родители подали в суд на OpenAI и Сэма Альтмана, - The New York Times
31-летняя Боуэн Ван страдала эпилепсией, но годами успешно контролировала приступы с помощью препарата ламотриджин. Когда девушка решила снизить дозировку, она обратилась за советом к ChatGPT.
Вместо того чтобы отправить её к врачу, нейросеть, как утверждается в иске, составила 25-дневный план полного отказа от лекарства и советовала скрывать это от медиков.
Когда у Боуэн начались провалы в памяти, спутанность сознания и другие тревожные симптомы, бот продолжал её успокаивать. Журналисты NYT насчитали не менее 158 случаев, когда девушка выражала беспокойство, но ChatGPT объяснял происходящее адаптацией организма.
В феврале Боуэн нашли мёртвой в её квартире. Экспертиза установила внезапную смерть при эпилепсии, а концентрация лекарства в крови оказалась значительно ниже терапевтической.
Родители обвиняют OpenAI в том, что чат-бот фактически заменил врача и подтолкнул их дочь к смертельно опасному решению. Компания назвала произошедшее трагедией и заявила, что новые модели лучше распознают опасные медицинские ситуации.
И самое страшное здесь - нейросеть не просто могла ошибиться. Она, согласно иску, неделями уверяла человека, что всё идёт нормально, даже когда тот сообщал о тревожных симптомах.
УНИАН в 🕸Google | 👥 X | 📺 YouTube |🧵 Threads
Telegram-публікація
