Мошенники на Facebook зарабатывают на поддельных публикациях с изображениями жертв Холокоста

Мошенники на Facebook зарабатывают на поддельных публикациях с изображениями жертв Холокоста
Мошенники на Facebook зарабатывают на поддельных публикациях с изображениями жертв Холокоста
Русскоязычные фактчекеры провели расследование, в ходе которого обнаружили более десятка страниц на Facebook, публикующих изображения и вымышленные истории жертв Холокоста, созданные искусственным интеллектом.

Вероятно, это делается для заработка через программы монетизации контента от Meta.

Когда пользователи Facebook видят в ленте портреты якобы жертв Холокоста — с именами, возрастом и трагической судьбой — они часто воспринимают это как акты памяти. Однако, по данным проекта фактчекинга Provereno («Проверено»), существует множество изображений и биографий, которые полностью вымышлены и сгенерированы с помощью ИИ.

Распространение подобных постов, по-видимому, подогревается функцией монетизации Facebook, и уже было осуждено Аушвицким музеем как «глубокое неуважение к памяти тех, кто пострадал и был убит» в нацистском лагере смерти.

В прошлом месяце русскоязычный израильский сайт Newsru.Co.Il изучил волну подозрительных постов, посвящённых Холокосту — большинство сопровождалось портретом якобы жертвы и короткой биографией. Многие включали эмоциональные детали вроде «любила играть на скрипке» или «пела брату колыбельные» — то, что крайне сложно, а чаще всего невозможно, проверить.

Сайт установил, что многие изображения были созданы ИИ, а тексты — вымышлены. В отдельных случаях настоящие фотографии жертв Холокоста, ранее опубликованные музеем Аушвица, были изменены с помощью нейросетей. Имена из израильского архива Яд Вашем сопровождались вымышленными датами рождения, названиями городов и описаниями гибели.

Хотя Newsru.Co.Il не называл конкретные страницы, Provereno выявил более дюжины Facebook-страниц, распространяющих фальшивые, созданные ИИ биографии жертв Холокоста.

По данным Provereno, главной мотивацией этих страниц является прибыль.

Они могут зарабатывать деньги через закрытую программу Meta — Performance Bonus, которая вознаграждает за активность на публичных постах. Provereno подсчитал, что один пост со страницы 90’s History с изображением вымышленной жертвы Холокоста, получивший 9600 лайков, 1300 комментариев и около 1000 репостов, мог принести около 77 долларов дохода — при минимальных затратах на создание.

Спустя несколько дней после публикации расследования Newsru.Co.Il музей Аушвица выступил с заявлением, осуждающим такие публикации за подрыв «исторической правды».

«Особенно тревожно, что они копируют реальные данные — имена, даты, факты из наших постов — и совмещают их с поддельными изображениями, созданными ИИ, вводя аудиторию в заблуждение», — заявили в музее. — «Мы решительно осуждаем такие действия и призываем всех, кто заинтересован в сохранении памяти об Аушвице, проверять источники и противостоять распространению искажённого исторического контента».

Платежи за фейки

В своём заявлении музей назвал страницу 90’s History одной из тех, кто распространяет контент о Холокосте, созданный ИИ. Хотя другие страницы, исследованные Provereno, публиковали аналогичные посты, они, похоже, не связаны между собой. Некоторые ранее управлялись другими администраторами.

До весны 2024 года 90’s History якобы контролировалась противопожарным управлением штата Теннесси, США. Эта и другая подобная страница — Historical Snapshots — утверждают, что принадлежат зарегистрированным в США компаниям Star Groups LLC и Being Master LLC. Однако Provereno не нашёл упоминаний о таких компаниях в американских реестрах. Более того, Historical Snapshots фактически управляется из Мьянмы.

Несмотря на это, обе страницы получили от Meta статус «проверенных», что вызывает вопросы к системе проверки со стороны компании.

Meta не ответила на запрос Provereno до публикации материала.

Другие страницы с аналогичным контентом, по информации Provereno, управляются из таких стран, как Австралия, Нигерия, Иран и Индия.

Хотя точное время появления первых таких постов определить сложно, Provereno зафиксировал резкий рост публикаций с апреля–мая 2025 года. Большинство из них использовали имена и изображения из базы Яд Вашем, дополняя их вымышленными историями, созданными ИИ.

Фактчекеры выяснили, что эти страницы публиковали от 10 до 50 постов в день — объёмы, указывающие на автоматизацию как создания, так и публикации контента. Хотя участие в программе монетизации Meta не подтверждено публично, Provereno обнаружил несколько признаков, что страницы всё же извлекают прибыль.

Все исследованные страницы были зарегистрированы или кардинально переформатированы после запуска программы Performance Bonus.

По одной из оценок, приведённых Provereno, почти каждый четвёртый пост в Facebook между 2023 и ноябрём 2024 года был создан с помощью ИИ. С момента запуска ChatGPT в конце 2022 года этот показатель вырос более чем в четыре раза.

Тем временем Meta свернула программу проверки фактов сторонними организациями в США, объявив, что заменит её системой, аналогичной «Community Notes» на платформе X (бывший Twitter).

Эта система уже работает в США, однако, как выяснило Provereno, ни один из просмотренных ими постов о жертвах Холокоста, сгенерированных ИИ, не был помечен или откорректирован сообществом.


Распечатать
19 июня 2025 Иран провёл испытание новой ракеты средней дальности
19 июня 2025 Разлив нефти, связанный с российским "теневым флотом", представляет угрозу для экосистемы Оманского залива
19 июня 2025 В Кремле прокомментировали заявление Трампа о его недавнем разговоре с Путиным
19 июня 2025 Германия, Франция и Великобритания собираются начать ядерные переговоры с Ираном в Женеве
19 июня 2025 Йеменская полиция перехватила большую партию каптагона, связав её с финансированием хуситов
19 июня 2025 Кадры с протестов внезапно попали в эфир иранского телевидения
19 июня 2025 Трамп объявил о внеочередном собрании по ситуации между Ираном и Израилем
19 июня 2025 Павел Дуров составил завещание из-за угроз со стороны влиятельных оппонентов
19 июня 2025 Иранская ракета, нацеленная на Израиль, была перехвачена в воздушном пространстве над Ираком
19 июня 2025 Трамп одобрил планы нападения на Иран, но временно приостановил их
19 июня 2025 Коррупционный гигант Кайшев: бывший премьер КЧР рискует потерей миллиардов и своей репутации
19 июня 2025 Netflix открывает свои собственные тематические парки, подобные Диснейлендам
19 июня 2025 Путин предложил план урегулирования конфликта между Ираном и Израилем
18 июня 2025 Владимир Кайшев может потерять агрофирму, молочный комбинат и недвижимость
18 июня 2025 Администрация Иркутска не обращает внимания на протесты, вызванные изъятием земли для строительства школы и дороги
18 июня 2025 В Словении распространяется мошенничество с поддельными продажами на Facebook
18 июня 2025 Физический труд остается безопасной профессией на фоне развития ИИ, - Джеффри Хинтон
18 июня 2025 Дорожный клан Дорошенко получил миллиарды на контрактах в Краснодарском крае
18 июня 2025 Китай увеличивает запасы нефти из-за нестабильной ситуации на Ближнем Востоке
18 июня 2025 Мальчик в Виннице чуть не потерял руку, спасая кота