BBC о "фейковом Холокосте" в соцсетях: кто и сколько на этом зарабатывал

На сайте BBC опубликована статья, посвященная проблеме "фейкового Холокоста" – распространению в соцсетях фальшивой информации о жертвах Катастрофы европейского еврейства, созданной с помощью искусственного интеллекта. Авторы: Кристина Фёльк и Кевин Нгуйен.

Newsru.co.il неоднократно писал об этой проблеме, начиная с мая 2025 года. Кроме того, мы публиковали материал фактчекерского проекта "Проверено" по теме, в этой публикации рассказывалось о том, как нейросети (и изъяны в программах монетизации Facebook) помогают жуликам зарабатывать на любителях истории и почему само устройство соцсетей не мешает таким махинациям, а поощряет их.

В материале BBC приведены некоторые дополнительные данные. В публикации, в частности, говорится: "BBC удалось отследить многие такие изображения до аккаунтов сети создателей контента из Пакистана, которые тесно кооперируются, обсуждая, как зарабатывать в Facebook. Они "играют" на программе монетизации контента Meta (CM) – системе, которая платит пользователям за высокие показатели охватов и просмотров. Один из аккаунтов под именем Abdul Mughees, указавший местом проживания Пакистан, выкладывал скриншоты с утверждением, что заработал 20 тысяч долларов на схемах монетизации соцсетей, включая Meta. В другой публикации видно, что за четыре месяца этот аккаунт якобы набрал более 1,2 млрд просмотров контента".

Среди множества постов Abdul Mughees в Facebook – несколько ИИ-снимков вымышленных жертв Холокоста и фальшивые истории, в том числе о ребёнке, "спрятавшемся под половицами", или о "младенце, оставленном на железнодорожных путях у концлагеря". Анализ онлайн-активности этого аккаунта и десятков ему подобных показывает: они публикуют почти исключительно "AI slop" – изображения и тексты, созданные ИИ, разбрасываемые по соцсетям.

Аушвиц стал популярной темой для "исторических" страниц и групп. Некоторые из них – с названиями вроде Timeless Tales ("Вневременные истории") и History Haven ("Убежище истории") – делали более 50 постов в день, отмечает BBC.

Редакция Newsru.co.il с мая наблюдала огромное количество фальшивых постов о Холокосте в этих группах, но мы не указывали их названия, чтобы не делать им дополнительной рекламы. Попытки жалоб на эти группы в администрацию Facebook результата не имели. Группы существуют до сих пор, в них публикуются "исторические" материалы разной степени достоверности. Из группы Timeless Tales до сих пор не удалены фальшивые публикации про Холокост.

Корпорация Meta, владеющая Facebook, заверяет, что не поощряет намеренную публикацию ложных историй, включая истории о Холокосте, однако ее система вознаграждает посты с высоким вовлечением. BBC обнаружила аккаунты с "AI slop", помимо Пакистана, в Индии, Вьетнаме, Таиланде и Нигерии.

Редакция BBC пообщалась с пакистанцем по имени Фазал Рахман, который участвует в нескольких схемах монетизации контента и утверждает, что это стало его единственным источником дохода. По его словам, сам он не создает изображений на тему Холокоста и изначально не знал, что означает это слово, но работает в тех же Facebook-группах, что и те, кто занимается подобным. По словам Рахмана, страница Facebook с 300 тысячами подписчиков может приносить владельцу около 1000 долларов в месяц, если на ней публикуется "премиальный контент", ориентированный на аудиторию из Великобритании, США и Европы. По его оценке, западные просмотры стоят в восемь раз дороже, чем азиатские. Поэтому тема "жертв Холокоста" столь привлекательна для создателей фальшивого ИИ-контента – она ориентирована на Запад, а не на Азию, хотя контент создается в основном в Азии и в Африке.

BBC пишет о пошаговых видеоинструкциях, как с помощью популярных ИИ-моделей генерировать непрерывный поток фальшивых "исторических" изображений и текстов. В одном ролике автор попросил чат-бот ИИ перечислить ключевые исторические события, которые можно использовать для создания контента, – среди ответов был назван Холокост.

Редакция BBC обратилась в Meta по поводу ряда профилей, публиковавших фальшивый ИИ-контент на тему Холокоста. Несколько профилей и групп были удалены, включая те, на которые в июне указывал Мемориал Аушвица, отмечается в публикации.

По наблюдениям Newsru.co.il, после множества публикаций в СМИ на тему "фальшивого Холокоста", активность создателей ИИ-контента на эту тему заметно снизилась, многие (но не все) страницы с таким контентом действительно были удалены.

Доктор Роберт Уильямс из Международного альянса в память о Холокосте (IHRA) заявил BBC: есть риск, что распространение фейковых историй о Шоа поможет сформироваться ощущению, будто история Холокоста вымышленна. Не исключено, что цель некоторых распространителей фейков – не только заработок, но и дискредитация памяти о Холокосте, отмечала ранее редакция Newsru.co.il.