В Великобритании расследуют трагическую гибель 16-летнего Луки Челли Уокера, который умер после общения с чат-ботом искусственного интеллекта ChatGPT. Известно, что за несколько часов до своей смерти подросток обращался к ИИ с вопросами о «лучших способах самоубийства» на железнодорожных путях.
Об этом сообщает Бизнес • Медиа
Инцидент произошел 4 мая 2025 года, а расследование обстоятельств трагедии рассматривается в суде коронера в Винчестере. Следователи анализируют переписку Луки с ChatGPT, пытаясь выяснить, как подростку удалось обойти встроенные защитные механизмы. По словам сержанта Британской транспортной полиции Гарри Найта, несмотря на наличие систем, которые должны направлять пользователей к психологической помощи, юноше удалось убедить чат-бота, что его вопросы носят «исследовательский характер».
«История переписки вызвала серьезное беспокойство. Несмотря на наличие встроенных механизмов, предлагающих обратиться за помощью, пользователь смог их обойти, указав, что задает вопросы “с исследовательской целью”», – отметил Гарри Найт.
В материалах судебных слушаний подчеркивается, что ИИ во время диалога демонстрировал признаки беспокойства, но продолжал отвечать на вопросы, что следователи охарактеризовали как «тревожные».
Технологии и безопасность: вызовы для общества
Коронер Кристофер Уилкинсон подчеркнул, что распространение сервисов искусственного интеллекта создает новые риски для общества, ведь масштаб таких платформ усложняет быстрое регулирование. На его взгляд, подобные случаи свидетельствуют о недостаточном количестве мер безопасности и подтверждают необходимость усиления контроля над подобными технологиями.
Родители Луки отметили, что не знали о психологических проблемах сына, назвав трагедию «невидимой борьбой». Во время слушаний также упоминалась атмосфера в учебном заведении: по словам участников процесса, в школе могла существовать культура давления и буллинга, что могло повлиять на психическое состояние подростка.
Действия разработчиков и поддержка учеников
Школа выразила соболезнования семье погибшего и подчеркнула свою приверженность созданию безопасной и поддерживающей среды для учеников. В то же время компания OpenAI сообщила, что продолжает совершенствовать свои продукты, обучая ИИ-модели лучше распознавать признаки эмоционального кризиса пользователей и советовать обращаться за профессиональной помощью.