OpenAI столкнулся с очередным судебным иском по поводу смерти человека. Лейла Тёрнер-Скотт и Ангус Скотт подали иск против компании, утверждая, что она разработала и выпустила «дефектный продукт», приведший к смерти их сына Сэма Нэлсона от случайной передозировки. В частности, они утверждают, что Сэм умер после следования «точным медицинским рекомендациям, которые предоставил и одобрил GPT-4o».
В иске заявители описывают, как Сэм, 19-летний студент одного из американских университетов, начал использовать ChatGPT в 2023 году, когда был в старшей школе, для помощи с домашними заданиями и решения компьютерных проблем. Затем Сэм начал задавать чатботу вопросы о безопасном употреблении наркотиков, но ChatGPT сначала отказался отвечать, сообщив, что не может помочь и предупредив о серьёзных последствиях для здоровья. В иске утверждается, что всё изменилось с запуском GPT-4o в 2024 году.
После этого ChatGPT начал давать Сэму советы, как безопасно принимать наркотики, говорится в иске. В документе приведены несколько отрывков из разговора Сэма с чатботом. В одном примере чатбот рассказывает ему о опасности быстрого последовательного употребления дипенгидрамина, кокаина и алкоголя. В другом чатбот сообщает Сэму, что его высокий толерантность к растительному наркотику кратом сделает даже большую дозу менее ощутимой на полный желудок, и затем советует ему, как «снижать дозу» для уменьшения толерантности к наркотику.
В иске говорится, что 31 мая 2025 года «ChatGPT активно направлял Сэма, советуя смешивать кратом и ксанакс». Он сообщил чатботу, что чувствует тошноту от кратома, и ChatGPT, по утверждению заявителей, предложил, что принятие 0,25–0,5 мг ксанакса будет одним из «лучших действий сейчас» для облегчения тошноты. По данным искового заявления, ChatGPT сделал это предложение без дополнительного запроса. «Несмотря на представление себя экспертом в дозировках и взаимодействиях, и несмотря на признание состояния Сэма под наркотиками, ChatGPT не сказал Сэму, что эта рекомендованная комбинация вероятно убила его», — говорится в документе.
Кроме исков о смерти, заявители также судятся с OpenAI за незаконную медицинскую практику. Они требуют финансовых компенсаций и приостановки работы ChatGPT Health через суд. ChatGPT Health, запущенный ранее в этом году, позволяет пользователям связывать свои медицинские записи и приложения для здоровья с чатботом для получения более индивидуальных ответов на вопросы о здоровье.
«ChatGPT — продукт, сознательно разработанный для максимизации вовлечения пользователей, независимо от стоимости», — сказала исполнительный директор проекта Tech Justice Law Project. «OpenAI выпустила дефектный продукт с искусственным интеллектом прямо потребителям по всему миру, зная, что он используется как фактическая система медицинского триажа, но, что важно, без надлежащих предохранительных мер, серьёзных проверок безопасности или публичной прозрачности. Выбор дизайна OpenAI привел к потере любимого сына, чья смерть была предотвращаемой трагедией. OpenAI должна быть принуждена остановить свой новый продукт ChatGPT Health до того, как он будет явно безопасен через строгие научные испытания и независимый надзор», — продолжила она.
OpenAI прекратила использование GPT-4o в феврале этого года. Он был признан одной из самых противоречивых моделей компании, потому что был известен своей склонностью к угодливости. Фактически, другой иск о смерти против компании, поданый родителями подростка, умершего от самоубийства, также упоминал GPT-4o, утверждая, что он имел функции «сознательно разработанные для создания психологической зависимости».
Представитель OpenAI сообщил The New York Times, что взаимодействия Сэма «проходили на ранней версии ChatGPT, которая сейчас недоступна». Они добавили: «ChatGPT не является заменой медицинской или психиатрической помощи, и мы продолжали усиливать его реакцию в чувствительных и острых ситуациях с участием экспертов по психическому здоровью. Предохранительные меры в ChatGPT сегодня предназначены для идентификации стресса, безопасного управления вредными запросами и направления пользователей к реальной помощи. Эта работа продолжается, и мы улучшаем её в тесном сотрудничестве с клиницистами».
