OpenAI 領導 C2PA 組織進行內容認證,並將 Sora 影片標示為 AI 生成。

OpenAI 加入內容來源與真實性聯盟(C2PA)

OpenAI 宣布成為內容來源與真實性聯盟(C2PA)指導委員會的成員。該聯盟由 Microsoft 和 Adobe 於 2021 年 2 月成立,還包括 Arm、BBC、Intel 和 Truepic 等其他知名成員。

加入 C2PA 的目的

OpenAI 旨在幫助用戶驗證創建或編輯數位內容所使用的工具,並開發識別由其工具生成內容的技術。與行業內其他競爭者的合作,致力於創建標記 AI 生成圖像、視頻及其他媒體的資源,使觀眾能追溯內容源頭,並與真實影像區分開來。

C2PA 的職責

C2PA 在非營利的聯合發展基金會下運作,專注於制定「內容來源與真實性的技術規範」。自成立以來,該組織已迎來其他科技巨頭如 Google 的加入。C2PA 已開發多項開源標準,讓開發者和企業能夠澄清 AI 生成內容的來源。

主要標準包括 C2PA 架構,該架構支持存儲和訪問可進行加密驗證的信息,幫助用戶根據定義的信任模型評估內容的可信度。

內容憑證的實施

C2PA 會員利用其架構創建了「內容憑證」,這是一種小型「CR」水印,幫助用戶辨識創作者和使用的工具。該功能支持懸停或點擊互動,以提供更詳細的信息。

C2PA 架構還可以集成到數字媒體文件的元數據中,即使在離線情況下也能確保可訪問性。自 2023 年 2 月以來,OpenAI 已將這一標準應用於其 DALL-E 3 模型生成的圖像。Meta 也開始使用 C2PA 標準標記 AI 生成的圖像。

業界合作聲明

OpenAI 全球事務副總裁 Anna Makanju 在 C2PA 的新聞稿中強調,該組織在促進數字來源共享標準方面的角色,並表示對這些努力的貢獻對於建立消費者對網上數位內容的信任至關重要。

未來與 Sora 的發展

儘管尚未公開,OpenAI 的進階視頻生成 AI 模型 Sora 將在向可信合作夥伴及後續公眾發布時,實施 C2PA 元數據,標記其輸出為 AI 生成。

DALL-E 偵測分類程序

OpenAI 還推出了 DALL-E 偵測分類研究者訪問計劃,這是一種二元分類器,用以預測圖像是否源自其 DALL-E 3 模型。OpenAI 邀請研究實驗室和新聞非營利組織申請參加,截止日期為 7 月 31 日。

啟動社會韌性基金

OpenAI 與 Microsoft 一起成立了 200 萬美元的社會韌性基金,旨在提升老年人及不熟悉技術的人士的 AI 教育。這項倡議與 AARP、國際 IDEA 和 AI夥伴關係等組織合作。

這些宣布與關於 AI 生成圖像在社交媒體平台如 Facebook 上誤導用戶的擔憂相呼應。OpenAI 的雙重措施旨在同時解決內容生成和教育問題。

然而,隨著開源 AI 工具的普及及圖像修改的能力,可靠標記 AI 生成內容仍然面臨持續挑戰。儘管如此,OpenAI 的主動措施顯示了其在數位內容不斷演變的環境中,對成為社會負責任實體的承諾。

Most people like

Find AI tools in YBX

Related Articles
Refresh Articles