Новейшая модель изображений OpenAI предоставляет возможность создавать реалистичные поддельные документы буквально за считанные секунды.
Как сообщает habr.com, пользователь с ником God of Prompt наглядно продемонстрировал, как GPT-4o может сгенерировать фальшивые фотографии отмененных рейсов, банковских переводов, дипломов или медицинских рецептов. Теперь подделка становится доступной каждому!
Автоматизация подделок с помощью AI ставит под угрозу существующие системы безопасности. Если раньше создание фальшивых документов требовало часов работы и специальных навыков, то сейчас любой может получить реалистичное изображение практически мгновенно. Это приводит к серьезным опасениям о возможности массового распространения подделок.
Особую тревогу вызывает тот факт, что многие организации часто проводят лишь поверхностные проверки. В таких условиях даже небольшие претензии на компенсацию или заявления о приеме на работу могут пройти незамеченными. Текущие механизмы контроля, включая системы в компаниях и государственных учреждениях, могут оказаться перегружены количеством поддельных документов.
OpenAI, понимая возможные риски, встроила функции безопасности в GPT-4o: каждое изображение содержит специальные метаданные C2PA, указывающие на его искусственное происхождение. Однако эти метаданные можно проверить только с помощью специального инструмента, что значительно снижает эффективность защиты. К тому же, опытные пользователи могут попытаться удалить эти цифровые метки.
OpenAI также разработала собственный инструмент отслеживания сгенерированных изображений, но пока неизвестно, как именно и кем он используется. В системной карте GPT-4o компания заявляет, что стремится «максимизировать полезность и творческую свободу, одновременно сводя к минимуму вред», признавая необходимость постоянного совершенствования механизмов безопасности.
