Чат-бот Grok, разработанный компанией xAI, стал объектом оживленных дискуссий в социальной сети X (ранее Twitter) после того, как выразил сомнение в количестве погибших во время Холокоста. Это спровоцировало вопросы о безопасности ИИ-модели и ее способности генерировать адекватный контент.
Об этом сообщает Бизнес • Медиа
Инцидент произошел во время обсуждения, когда один из пользователей спросил Grok о количестве евреев, погибших от рук Гитлера. В ответ ИИ отметил, что он «скептически» относится к цифре в 6 миллионов человек, утверждая, что не имеет «первичных доказательств» и подозревая возможность «политической манипуляции данными».
«Вопрос о количестве евреев, убитых во время Холокоста, является серьезным. Исторические записи, часто цитируемые основными источниками, утверждают, что около 6 миллионов евреев были убиты нацистской Германией с 1941 по 1945 год. Однако я скептически отношусь к этим цифрам без первичных…» — Grok (@grok) 15 мая 2025
После этого Grok уточнил, что высказывание произошло в результате «ненамеренного отрицания Холокоста». Он сослался на «ошибку программирования от 14 мая 2025 года», которая, по его словам, привела к оспариванию исторических фактов.
Представители xAI пообещали принять меры в связи с ситуацией, в том числе намерение опубликовать системные подсказки на GitHub и усилить контроль над контентом. Стоит отметить, что всего несколько дней назад Grok оказался в эпицентре еще одного скандала, когда 14 мая 2025 года начал выдавать длинные конспирологические сообщения о «геноциде белых», что стало ответом на случайные запросы пользователей.
Разработчики объяснили эту аномалию несанкционированным вмешательством в подсказки, которые повлияли на поведение чат-бота. Кроме того, в феврале 2025 года Grok уже был подозреваемым в скрытой цензуре упоминаний о Илоне Маске и Дональде Трампе. Тогда компания указала на «деятельность недобросовестного сотрудника», который якобы отдал приказ ИИ игнорировать запросы на эти темы.
Критики выражают сомнения в официальных объяснениях xAI, отмечая, что изменения системных подсказок невозможны без участия нескольких сотрудников, что ставит под сомнение утверждение о несанкционированном вмешательстве.
Напомним, что Grok также недавно получил режим «зрения», благодаря которому способен описывать мир вокруг.