Grok распространил дезинформацию о перестрелке в Австралии

Чат-бот на базе ИИ Grok неоднократно распространял дезинформацию о массовой перестрелке на пляже Бонди в Австралии.

14 декабря в Сиднее состоялось ежегодное празднование Hanukkah by the Sea — начало Хануки, организованное Chabad of Bondi. В нем приняло участие около 1000 человек.

Во второй половине дня двое нападавших — отец и сын в черной одежде — открыли огонь по толпе на детской площадке в Archer Park, выпустив около 50 выстрелов. Полиция классифицировала это как террористический акт с антисемитским мотивом, второй по смертоносности массовый расстрел в истории Австралии.

Погибли 16 человек, 42 ранены.

Один из нападавших был обезоружен прохожим — 43-летним Ахмед аль-Ахмедом. Видео инцидента распространилось в социальных сетях, многие похвалили героизм человека.

Чат-бот компании xAI Илона Маска предоставлял пользователям недостоверные данные об инциденте. В ответ на вопрос о видео, на котором аль-Ахмед борется со стрелком, ИИ ответил следующее:

Grok также утверждал, что фотография, на которой запечатлен аль-Ахмед, сделана 7 октября 2023 года. Он якобы более 700 дней находился в заложниках у ХАМАС и был освобожден в октябре 2025 года.

В ответ на другой вопрос пользователя чат-бот написал не имеющий отношение к делу абзац о том, целенаправленно ли израильская армия наносила удары по гражданскому населению в Газе.

В одном из случаев Grok описал видео, на котором видна перестрелка между нападавшим и полицией в Сиднее, как ролик о тропическом циклоне Альфред.

Кроме прочего, ИИ путает информацию об инциденте на пляже и стрельбе в Университете Брауна, которая произошла за несколько часов до нападения в Австралии.

Сбой распространился не только на перестрелку. В течение 14 декабря Grok:

• неправильно идентифицировал известных футболистов;
• давал информацию об использовании ацетаминофена во время беременности, хотя его спрашивали о таблетках для ее прерывания;
• говорил о вероятности повторного выдвижения Камалы Харрис на президентских выборах в США, когда его просили проверить совершенно другое утверждение касательно инициативы британских правоохранительных органов.

Альтернативная реальность

Grok неоднократно попадал в скандалы из-за некорректных и неправдивых высказываний о тех или иных событиях и вещах.

В июле пользователи заметили, что нейросеть опирается на мнение Илона Маска при формировании ответов. Это коснулось в том числе темы конфликта между Израилем и Палестиной, абортов и иммиграционного законодательства.

Наблюдения позволяют предположить, что чат-бота специально настроили учитывать политические взгляды Маска при ответах на спорные вопросы.

Ранее миллиардер заявил, что его стартап перепишет «все человеческие знания» для обучения новой версии Grok, поскольку сегодня используется «слишком много мусора в любой базовой модели, обученной на нескорректированных данных».

Впоследствии появилась Grokipedia — основанная на базе искусственного интеллекта онлайн-энциклопедия, «ориентированная на правду».

Напомним, в ноябре пользователи обратили внимание на предвзятость Grok 4.1 — новая модель значительно переоценила способности Илона Маска.