白宮聲明:打擊與人工智慧相關的圖像性暴力
今天,白宮宣布了幾家主要人工智慧公司的承諾,旨在減少圖像性虐待的創建與傳播。參與的公司包括Adobe、Anthropic、Cohere、Common Crawl、Microsoft和OpenAI,這些公司已列出其策略,以防止平台生成非自願的親密圖片(NCII)及打擊兒童性虐待材料(CSAM)。
這些公司承諾:
- "負責任地獲取數據集,並保護其不受圖像性虐待的影響。"
此外,除了Common Crawl之外,其他公司將:
- "在開發過程中納入反饋迴路和迭代壓力測試,以防止AI模型生成圖像性虐待內容。"
- "在適當情況下,從AI訓練數據集中移除裸體圖片。"
儘管這項承諾是自願的,並未對不合規者施加新的可執行要求或處罰,但這對於解決一個重大議題而言,仍然是積極的一步。
值得注意的是,白宮公告中缺少了Apple、Amazon、Google和Meta等主要科技公司的身影。然而,許多技術和人工智慧公司正獨立增強對NCII受害者的支持,旨在遏制深偽圖像和視頻的擴散。像StopNCII這樣的倡議正在與多家公司合作,統一應對以消除此類有害內容,同時許多企業正在開發專有工具,方便在其平台上舉報AI生成的圖像性虐待。
如果您懷疑自己是非自願親密圖片分享的受害者,可以在[此處]向StopNCII提出案件。如果您未滿十八歲,您可以在[此處]向NCMEC報告。