OpenAI 與 Meta 合作標註 AI 生成的圖片以提升透明度

Home AI新聞 OpenAI 與 Meta 合作標註 AI 生成的圖片以提升透明度

OpenAI 宣布其旗艦應用程式 ChatGPT 及整合 AI 圖像生成器 DALL-E 3 進行更新。這次更新引入了新的元數據標籤，使使用者和組織能夠識別 AI 生成的圖像。該公告緊隨 Meta 的類似舉措之後，Meta 旨在標記其分開生成器 Imagine 創建的 AI 圖像，該功能適用於 Instagram、Facebook 和 Threads 等平台。

根據 OpenAI 的說法，新的元數據依據 C2PA 規範，將使任何內容平台和分發者都能識別其產品生成的圖像。此更新已於網站用戶上線，並將於 2 月 12 日前推送到所有行動用戶。

此外，OpenAI 還推出了一個名為 Content Credentials 的網站，讓用戶上傳圖像以驗證其 AI 生成身份，但此功能僅適用於今日之後創建的圖像；之前生成的圖像不包括新元數據。

C2PA 是什麼？

內容來源及真實性聯盟（C2PA）是一個於 2021 年 2 月成立的合作倡議，旨在制定技術標準，認證媒體內容的來源和歷史。該倡議由 Adobe、Microsoft 和 The New York Times 等知名公司資助，使命是打擊虛假信息和網絡內容欺詐。2022 年 1 月，C2PA 發布了嵌入 AI 生成圖像元數據的初步技術標準，揭示其來源。

最近的事件，包括涉及名人和社交媒體用戶的非自願深度偽造內容的擴散，強調了 C2PA 工作的緊迫性。OpenAI 今年早些時候承諾應用 C2PA 標準，以減輕 2024 年選舉前的虛假信息問題。

OpenAI 如何實施 C2PA

OpenAI 正在將元數據（以電子「簽名」的形式）嵌入 AI 生成的圖像文件中。然而，公司在其幫助網站上承認，這些元數據可能會無意中或故意被移除。例如，大多數社交媒體平台會從上傳的圖像中剝離元數據，而截屏等操作也會消除它。因此，元數據的缺失並不絕對表明某個圖像是由 ChatGPT 或 DALL-E 3 創建的。

此外，這些元數據對用戶來說並不直觀需要訪問文件描述才能查看。相比之下，Meta 正在開發一個公共 AI 標籤方案，包括視覺標識（如閃爍的 emoji），以明確標示 AI 生成的圖像。Meta 的功能仍在設計中，將在未來幾個月逐步推出，依賴於 C2PA 標準和 IPTC 照片元數據標準。

這一舉措凸顯了兩家公司對 AI 生成內容透明度和真實性的承諾，反映了對虛假信息和數字完整性日益增長的關注。

介紹「Smaug-72B」：開源人工智慧解決方案的領軍者

Cimba.AI正式啟動，獲得125萬美元的種子前期資金，旨在協助企業開發人工智能代理。