ChatGPT теперь умеет очень правдоподобно подделывать документы
Фото: соцсеть Х / God of Prompt
Как сообщает The Decoder, новейшая модель искусственного интеллекта от OpenAI, GPT-4o, продемонстрировала впечатляющие возможности в создании реалистичных изображений. Однако вместе с этим возникли серьезные опасения в сфере кибербезопасности: технология позволяет генерировать поддельные документы за секунды, значительно упрощая процесс их создания.
Пользователь социальной сети X под ником «God of Prompt» опубликовал примеры, демонстрирующие возможности GPT-4o. Среди них — правдоподобные изображения отмененных авиарейсов, банковских транзакций, университетских дипломов и даже медицинских рецептов. Такие фальшивки ранее требовали серьезных навыков работы в графических редакторах и занимали много времени, но теперь процесс стал практически мгновенным.
Вместо часов работы профессионалов теперь любой человек может создать убедительный поддельный документ за считанные секунды.
God of Prompt, пользователь X
Увеличившееся количество подобных подделок может серьезно нагрузить существующие системы проверки. Особенно это касается случаев, когда организации проводят лишь поверхностную верификацию, например, при обработке небольших страховых выплат, проверке истории арендных платежей или первичном отборе кандидатов на работу. Действующие механизмы контроля в компаниях и государственных учреждениях могут попросту не справиться с потоком поддельных документов. Даже если системы обнаружения сохранят прежнюю эффективность, сам рост объема фальсификаций неизбежно приведет к тому, что часть из них останется незамеченной.
В OpenAI уверяют, что предусмотрели меры защиты от злоупотреблений. Все изображения, созданные с помощью GPT-4o, содержат встроенные метаданные C2PA, указывающие на их искусственное происхождение. Однако проблема в том, что для обнаружения этих метаданных необходимы специальные инструменты, которыми пока пользуется далеко не каждый. Кроме того, опытные пользователи могут найти способы удаления цифровых маркеров, делая подделки еще более сложными для выявления.
Для облегчения проверки OpenAI также разработала внутренний инструмент для отслеживания изображений, созданных с помощью GPT-4o. Однако пока неясно, кто, когда и с какой целью его использует.
OpenAI, системная карта GPT-4o
Разработчики OpenAI заявляют, что вопросы безопасности требуют постоянного контроля и доработки. Они подчёркивают, что их ключевая цель — «создать инструменты, которые будут полезны и удобны для пользователей, но не приведут к серьёзным негативным последствиям». Тем не менее эксперты обращают внимание на рост числа поддельных документов, который может стать серьёзной проблемой для современных механизмов проверки подлинности.
