Civitai 創辦人倡導開源解決方案，並淡化對 AI 假冒色情內容的擔憂

賈斯汀·邁爾：在開源AI中航行挑戰與機遇

賈斯汀·邁爾，開源AI平台Civitai的創始人，近期在愛達荷州波伊西經歷了一個動盪的年份，正在應對個人與職業上的雙重挑戰。

Civitai於一年前成立，旨在支持一個專注於發現、創造和分享模型及影像生成內容的社群，利用流行的文本生成影像工具Stable Diffusion。在這短短的一年內，Civitai從一個員工僅四人的初創公司，擁有不到100,000名用戶，迅速擴展至15名成員，並從安德森·霍洛威茲獲得500萬美元的資金支持。該平台每月吸引1,000萬獨立訪客，並上傳了數百萬張影像和模型。

然而，邁爾面臨了重大的困境，其中包括他女兒在Civitai融資公告同週被診斷為1型糖尿病。此外，Civitai也遭到404媒體的批評報導，指控該平台助長“AI色情市場”、從非自願的AI色情中獲利，並為真實個體創造深度偽造的獎勵。

在專訪中，邁爾強調這些報導誤解了Civitai的主要用戶群與設計意圖。他形容當前情況為“艱難且令人悲傷”，並強調Civitai主要關注社群驅動的AI技術正面應用。

邁爾表示，Civitai已投入大量資源進行內容管理，將一半的團隊專注於安全措施。“我們竭力確保安全，但創新的快速變化使得每日調整至關重要，”他解釋說。

Civitai是LoRA模型的聚集平台，LoRA模型是用於AI藝術創作的精調模型。大多數用戶利用Civitai進行創意活動，範圍從同人小說到時尚。“去年的推出時，我們有50個模型，現在每天有500個模型上線，”他指出。

雖然404媒體的指控令人關切，邁爾澄清這些報導通常依賴過時數據。他反駁有關60%內容為不當內容的說法，強調目前的該類內容不到20%。

Civitai還推出了一個安全中心，概述其政策，包括禁止對未成年人的所有照片寫實及性描繪，並運用亞馬遜識別技術進行自動內容檢測。

從熱情專案到平台

Civitai最初作為邁爾在接觸Midjourney後的熱情專案，促使他關注Stable Diffusion社群。他設想創建一個用戶能輕鬆分享和瀏覽AI模型的空間。Civitai於去年11月正式啟動，迅速獲得關注，至1月用戶數突破100,000，3月更達到100萬。

Civitai的目標是降低開源生成AI的入門門檻，為渴望探索技術的愛好者提供服務，而無需深入的機器學習知識。“我們在消費者工具如Midjourney和企業解決方案如Hugging Face之間取得平衡，”邁爾解釋道。

解決不當內容問題

邁爾意識到不當內容是普遍問題，並理解從一開始就準備應對潛在濫用的必要性。雖然該平台可以限制不當內容，但他選擇了一種更平衡的方式來促進社群發展，認識到技術的改進往往源於多元的使用案例。

邁爾將這種方式比作新約中的雜草比喻，暗示打壓不當內容可能壓制創新。“推動這些邊界的社群對整體AI技術的發展作出貢獻，”他強調。

針對獎勵指控與社群報告

最近，404媒體也提出了關於對真實個體的深度偽造提出“獎勵”的擔憂。邁爾澄清，這些獎勵實際上是服務請求，用戶可以尋求針對特定需求的AI模型。這些項目在創作者選擇公開之前均為私密狀態，確保遵從內容管理指導方針。

該公司的政策鼓勵社群報告不當內容，並以虛擬貨幣Buzz獎勵用戶，以維護安全的環境。

然而，鑒於Civitai的開源性，一旦模型被下載，該平台無法控制其在不同系統上的後續使用，這彰顯內容調控的局限性。

持續改善的承諾

儘管面臨挑戰，邁爾仍致力於完善Civitai，並促進安全的AI使用。針對最近的發展，公司推出了一系列措施，幫助個人從生成内容中移除其肖像。

隨著AI的迅速演變，Civitai積極與監管機構合作，確保公共安全，同時促進創新。邁爾希望利用這項技術為社會帶來正面影響，包括為青少年糖尿病研究基金會發起的假日慈善活動，因他女兒的病情而深感關懷。

“我們非常重視保持平台的安全性，”他強調，並重申Civitai致力於讓AI技術更具可及性，同時應對各種挑戰。“我們每天努力確保良好的用戶體驗，並致力於持續改進。”