OpenAI сотрудничает с Meta для маркировки изображений, созданных ИИ, с целью повышения прозрачности.

OpenAI объявила об обновлении своего флагманского приложения ChatGPT и интегрированного генератора изображений DALL-E 3. Это обновление вводит новую систему метаданных, позволяющую пользователям и организациям идентифицировать изображения, созданные ИИ.

Это заявление сделано вскоре после аналогичной инициативы Meta, направленной на пометку изображений, созданных с помощью ее генератора Imagine, доступного на платформах Instagram, Facebook и Threads.

По данным OpenAI, новые метаданные, основанные на спецификациях C2PA, позволят любому — как контент-платформам, так и дистрибьюторам — распознавать изображения, созданные с помощью ее продуктов. Обновление уже доступно для веб-пользователей и будет запущено для всех мобильных пользователей до 12 февраля.

Кроме того, OpenAI запустила сайт под названием Content Credentials, где пользователи могут загружать изображения для проверки их статуса как созданных ИИ. Однако эта функция действует только для изображений, созданных после сегодняшней даты; ранее созданные изображения не будут содержать новые метаданные.

Что такое C2PA?

Коалиция по подтверждению происхождения и подлинности контента (C2PA) — это совместная инициатива, созданная в феврале 2021 года для разработки технических стандартов, направленных на сертификацию источника и истории медиа-контента. Поддерживаемая ведущими компаниями, такими как Adobe, Microsoft и The New York Times, ее цель заключается в борьбе с дезинформацией и мошенничеством в интернете. В январе 2022 года C2PA выпустила свои первоначальные технические стандарты для встраивания метаданных в изображения, созданные ИИ, раскрывающие их происхождение при определенных условиях.

Недавние события, включая распространение нежелательных дипфейков с участием знаменитостей и пользователей соцсетей, подчеркнули срочность работы C2PA. Ранее в этом году OpenAI взяла на себя обязательство применять стандарты C2PA для борьбы с дезинформацией в преддверии выборов 2024 года.

Как OpenAI внедряет C2PA

OpenAI встраивает метаданные — в виде электронной "подписи" — в файлы изображений, созданных ИИ. Однако компания признает на своем сайте поддержки, что эти метаданные могут быть случайно или преднамеренно удалены. Например, большинство социальных платформ удаляют метаданные из загруженных изображений, а действия, такие как снятие скриншота, могут также их уничтожить. Таким образом, отсутствие метаданных не является определенным индикатором того, было ли изображение создано с помощью ChatGPT или DALL-E 3.

Кроме того, эти метаданные не видны пользователям без доступа к описанию файла. В отличие от этого, Meta разрабатывает публичную схемую маркировки ИИ, которая включает визуальные идентификаторы, такие как эмодзи с блестками, для явной отметки изображений, созданных ИИ. Эта функция еще находится на стадии дизайна и начнет внедрение в ближайшие месяцы, основываясь на стандартах C2PA наряду со Стандартом метаданных фото IPTC.

Эта инициатива подчеркивает стремление обеих компаний к прозрачности и подлинности в контенте, созданном ИИ, отражая растущие опасения по поводу дезинформации и цифровой целостности.