Meta將在Facebook、Instagram和Threads上標記AI生成的內容

Home AI新聞 Meta將在Facebook、Instagram和Threads上標記AI生成的內容

今天，Meta宣布計劃在Facebook、Instagram及Threads上識別和標記AI生成的內容，儘管該公司警告「尚無法識別所有AI生成的內容」。此舉緊隨著Twitter上Taylor Swift的色情AI深度偽造圖像的病毒性擴散，引發粉絲、立法者及全球媒體的強烈反彈。Meta此時面臨日益增加的壓力，要求其管理AI生成的圖像和操控視頻，特別是在2024年美國大選之前。

Meta全球事務總裁Nick Clegg表示，「目前仍是AI生成內容擴散的初期階段。」他指出，隨著AI使用的增長，「社會將展開關於如何識別合成和非合成內容的辯論。」Clegg強調，Meta將持續監控發展情況，與行業夥伴合作，並與政府和公民社會進行討論。

Meta的舉措與行業最佳實踐相符，這體現在其與AI夥伴關係組織（PAI）的合作中，共同建立識別AI生成內容的標準。當平台檢測到AI生成的標準指標時，計劃標記用戶上傳的圖像。自AI圖像服務啟動以來，使用Meta AI創建的照片寫實圖像已標記為「想像中的AI」。

Clegg強調，Meta目前的方法代表了技術能力的前沿。「我們正在全力以赴開發分類器，自動檢測AI生成的內容，即使沒有隱形標記的情況下，」他指出，同時也努力保護隱形水印免於被移除或篡改。

此公告是Meta更廣泛努力的一部分，旨在有效識別和標記AI生成的內容，並利用隱形水印等技術。2023年7月，七家科技公司承諾採取具體措施來增強AI安全性，包括水印技術，Google DeepMind則推出了SynthID的測試版，該技術將不可察覺的數字水印直接嵌入圖像中。

然而，專家警告，無論是可見水印還是隱藏水印都不是萬無一失的。馬里蘭大學的計算機科學教授指出，「目前我們沒有任何可靠的水印技術——我們已經破解了所有水印。」Feizi及其團隊展示了不法分子如何輕易地移除水印或錯誤地添加到人類創建的圖像中，導致內容標籤不準確。

Hugging Face的首席倫理科學家Margaret Mitchell強調，雖然隱形水印並不能作為識別AI生成內容的終極解決方案，但它們對尋求AI內容「營養標籤」的合規創作者來說是有價值的工具。她強調了解內容來源的重要性：「知道內容的來源及其演變過程對於追蹤同意、信譽和補償至關重要。」

Mitchell對水印技術的潛力表示期待，並認識到雖然AI存在不足之處，但整體技術仍然前景可期。「在近期圍繞AI能力的討論中，認識到更大的圖景是至關重要的，」她總結道。

Elemind 獲得 1200 萬美元資金，推出提升大腦功能及改善睡眠品質的神經科技可穿戴設備

人工智能提升安全性的八大潛在機會

Most people like

AIMusics.Net

7.7K

輕鬆探索並創作引人入勝的 AI 生成音樂。釋放您的創意，利用為音樂愛好者和製作人設計的創新工具，幫助您發現獨特的聲音，徹底改變您的音樂體驗。今天就進入人工智慧的世界，提升您的作品！

AI 音樂 AI Design Generator

LessonPlans.ai

29.9K

探索 LessonPlans.ai，這是一個創新的 AI 驅動平臺，旨在為教育工作者創建高品質、定制化的教學計劃。這個平台非常適合尋求提升課程的教師，它簡化了教學計劃的制定流程，節省時間與精力，同時確保提供引人入勝且有效的學習體驗。

AI 課程計畫生成器 AI Content Generator

Aidemia

35.8K

Aidemia是一個創新的AI驅動平台，旨在製作個性化的教育內容並激發創意靈感。

人工智慧 AI Content Generator

Storybooks

59K

故事書是一個專門的平台，提供個性化的插圖睡前故事，旨在培養對閱讀的熱愛並加強親子之間的連結。

睡前故事 AI Story Writing

Find AI tools in YBX