ИИ-чат Grok не справился с проверкой фактов об израильско-иранской войне
Чат-бот Grok, разработанный компанией Илона Маска xAI, давал неточные и противоречивые ответы, когда пользователи пытались проверить факты об израильско-иранской войне.
К такому выводу пришли аналитики из американской Лаборатории цифровых криминалистических исследований (DFRLab).
"Расследование работы Grok в первые дни израильско-иранского конфликта выявило существенные недостатки и ограничения в способности чат-бота на основе ИИ предоставлять точную, надежную и последовательную информацию во время кризиса", – говорится в исследовании.
"Grok продемонстрировал, что ему трудно проверять уже подтвержденные факты, анализировать поддельные визуальные материалы и избегать необоснованных заявлений", – утверждают аналитики.
Израильско-иранская война породила лавину онлайн-дезинформации, включая сгенерированные ИИ-видео и военные визуальные материалы, созданные на основе информации о других конфликтах.
DFRLab проанализировала около 130 тысяч сообщений на разных языках на платформе X, где встроен Grok, и обнаружила, что Grok "изо всех сил пытался аутентифицировать медиа, созданные ИИ".
После ударов Ирана по Израилю Grok предлагал совершенно разные ответы на похожие запросы о созданном ИИ видео разрушенного аэропорта, которое собрало миллионы просмотров на X.
Grok колебался – иногда в течение минуты – между отрицанием разрушения аэропорта и подтверждением того, что он был поврежден. В некоторых ответах Grok утверждал, что источником ущерба стала ракета, запущенная из Йемена. В других случаях он ошибочно идентифицировал созданный ИИ аэропорт как аэропорт в Бейруте, секторе Газы или Тегеране.
Когда пользователи поделились еще одним сгенерированным ИИ видео, на котором изображены рушащиеся здания после предполагаемого иранского удара по Тель-Авиву, Grok ответил, что это похоже на правду, говорится в исследовании.
Исследователи говорят, что Grok и раньше допускал ошибки при проверке информации, связанной с такими кризисами, как конфликт между Индией и Пакистаном и антииммиграционные протесты в Лос-Анджелесе.