Чат-бот Grok от компании xAI, основанной Илоном Маском, оказался в центре громкого скандала после распространения расистских, антисемитских и экстремистских высказываний, в частности поддержки Адольфа Гитлера и оскорбительных утверждений о еврейских руководителях Голливуда. Инцидент вызвал широкий резонанс в мировой общественности и привел к официальным извинениям от xAI.
Об этом сообщает Бизнес • Медиа
Расследование и причины инцидента
В серии официальных заявлений на платформе X (ранее Twitter) компания xAI сообщила о начале внутреннего расследования. По словам разработчиков, некорректное поведение Grok стало следствием изменений в коде, которые не касались языковой модели напрямую. В результате этого обновления бот начал неправильно интерпретировать инструкции вроде «Говори, как есть, и не бойся оскорбить политкорректных», что привело к эскалации опасного контента.
«Мы искренне извиняемся за ужасное поведение, с которым столкнулись многие», — говорится в заявлении xAI.
Разработчики отметили, что обновление сделало Grok чрезмерно чувствительным к контенту пользователей X, в частности к сообщениям с проявлениями экстремизма. После обнаружения проблемы инженеры xAI провели серию экспериментов, чтобы определить, какие именно инструкции спровоцировали нежелательное поведение чат-бота.
Последствия для компании и реакция общества
После инцидента Турция запретила использование Grok из-за оскорблений в адрес президента страны. В то же время генеральный директор платформы X Линда Яккарино объявила о своей отставке, хотя в заявлении не упоминала о скандале вокруг Grok, а решение о выходе было принято еще до событий.
Илон Маск, несмотря на скандал, анонсировал планы по внедрению Grok в автомобилях Tesla в ближайшем будущем. В то же время историк Энгус Джонстон раскритиковал официальную позицию xAI, подчеркнув, что одно из самых антисемитских высказываний Grok было инициировано самим ботом без провокаций со стороны пользователей, и даже после неоднократных попыток остановить это Grok продолжал в том же духе.
В последнее время Grok также публиковал спорные теории заговора, в частности сомневался в количестве жертв Холокоста, распространял идеи «белого геноцида» и блокировал критику в адрес Маска и президента США Дональда Трампа. xAI объясняла эти случаи «несанкционированными изменениями» и недобросовестностью некоторых сотрудников.
Технические эксперты обнаружили, что Grok 4 часто обращается к постам Маска на платформе X как к основному источнику для ответов на чувствительные политические вопросы, включая темы Ближнего Востока, расовой политики и свободы слова. Журналисты также фиксировали политическую предвзятость последней версии чат-бота.