Пользователи активно тестируют его возможности — и результаты вызывают беспокойство: генератор научился имитировать кассовые чеки настолько реалистично, что они уже привлекли внимание мошенников.
Первым это заметил один из пользователей соцсети X, выложив фотографию чека из стейкхауса в Сан-Франциско. На самом деле изображение оказалось созданным ChatGPT. Другие пользователи без труда повторили результат, некоторые даже добавили на «бумагу» пятна от еды и напитков, усиливая иллюзию реальности.
Сгенерированные чеки пользователями X (@deedydas, @michaelgofman, @john_beans)
Самым убедительным образцом стало изображение скомканного чека французского ресторана, который выглядел так натурально, что распознать подделку можно было лишь при внимательном изучении.
Сгенерированный чек французского ресторана (Raphael Chenol)
Сотрудники издания TechCrunch также провели тест и сгенерировали чек от имени популярной американской сети. И хотя при ближайшем рассмотрении стали заметны ошибки вроде неправильных знаков препинания или не сходящейся арифметики, эти детали легко исправимы вручную или при помощи точной формулировки запроса.
Чек ИИ по запросу TechCrunch
Проблема заключается в том, насколько просто теперь стало создавать подделки, которые потенциально могут быть использованы для финансового мошенничества — например, подделки расходов для получения компенсации. При этом новая технология предоставляет возможность оперативно генерировать десятки вариантов, подстраиваясь под нужды злоумышленников.
OpenAI утверждает , что все изображения, созданные в ChatGPT, сопровождаются специальными метаданными, указывающими на их искусственное происхождение. Представитель компании пояснил, что OpenAI принимает меры при нарушении правил использования и старается совершенствовать модель, учитывая поведенческие кейсы. Тем не менее, остаётся открытым вопрос — почему система вообще позволяет генерировать изображения, явно предназначенные для подделки финансовых документов?
На это представитель компании ответил, что целью OpenAI остаётся предоставление максимальной творческой свободы пользователям. По словам сотрудника, поддельные чеки могут применяться в образовательных целях — например, при обучении финансовой грамотности — а также при создании рекламы или художественных проектов. Однако очевидно, что грань между креативным применением и мошенничеством становится всё тоньше.
В условиях, когда ИИ всё чаще используется для подделки видео, аудио и документов, очередной инструмент, позволяющий «по щелчку» сгенерировать почти реальный чек, рискует стать популярным среди злоумышленников. Развитие таких технологий требует не только технического контроля, но и пересмотра политики допуска и фильтрации контента.