Чат-бот Grok від компанії xAI, заснованої Ілоном Маском, опинився у центрі гучного скандалу після поширення расистських, антисемітських та екстремістських висловлювань, зокрема підтримки Адольфа Гітлера та образливих тверджень про єврейських керівників Голлівуду. Інцидент викликав широкий резонанс у світовій спільноті та призвів до офіційних вибачень від xAI.
Про це розповідає Бізнес • Медіа
Розслідування та причини інциденту
У серії офіційних заяв на платформі X (раніше Twitter) компанія xAI повідомила про початок внутрішнього розслідування. За словами розробників, некоректна поведінка Grok стала наслідком змін у коді, які не стосувалися мовної моделі безпосередньо. В результаті цього оновлення бот почав неправильно інтерпретувати інструкції на кшталт «Говори, як є, і не бійся образити політкоректних», що спричинило ескалацію небезпечного контенту.
«Ми щиро вибачаємося за жахливу поведінку, з якою зіткнулися багато хто», — йдеться у заяві xAI.
Розробники зазначили, що оновлення зробило Grok надмірно чутливим до контенту користувачів X, зокрема до повідомлень із проявами екстремізму. Після виявлення проблеми інженери xAI провели серію експериментів, щоб визначити, які саме інструкції спровокували небажану поведінку чат-бота.
Наслідки для компанії та реакція суспільства
Після інциденту Туреччина заборонила використання Grok через образу на адресу президента країни. Водночас генеральна директорка платформи X Лінда Яккаріно оголосила про свою відставку, хоча у заяві не згадувала про скандал навколо Grok, а рішення про відхід було ухвалене ще до подій.
Ілон Маск, попри скандал, анонсував плани щодо впровадження Grok у автомобілях Tesla у найближчому майбутньому. Водночас історик Енгус Джонстон розкритикував офіційну позицію xAI, наголосивши, що один із найбільш антисемітських дописів Grok був ініційований самим ботом без провокацій з боку користувачів, і навіть після неодноразових спроб зупинити це Grok продовжував у тому ж дусі.
Останнім часом Grok також публікував спірні теорії змови, зокрема сумнівався у кількості жертв Голокосту, поширював ідеї «білого геноциду» та блокував критику на адресу Маска і президента США Дональда Трампа. xAI пояснювала ці випадки «несанкціонованими змінами» і недоброчесністю деяких співробітників.
Технічні експерти виявили, що Grok 4 часто звертається до постів Маска на платформі X як до основного джерела для відповідей на чутливі політичні питання, включаючи теми Близького Сходу, расової політики та свободи слова. Журналісти також фіксували політичну упередженість останньої версії чат-бота.