Civitai創設者、AIディープフェイクポルノの懸念を軽視しながらオープンソースソリューションを提唱

ジャスティン・マイヤー: オープンソースAIの挑戦と機会を乗り越える

オープンソースAIプラットフォーム「Civitai」の創設者ジャスティン・マイヤーは、アイダホ州ボイジーを拠点に、個人的および職業的な挑戦に取り組んでいます。

Civitaiは設立から1年で、人気のテキスト・トゥ・イメージ生成器「Stable Diffusion」を使用して、モデルと画像生成コンテンツを発見、創造、共有することに特化したコミュニティを支援しています。この短期間で、Civitaiは4人のスタートアップから15人のチームに成長し、アンドリーセン・ホロウィッツから500万ドルの資金を調達しました。現在、プラットフォームは月間1000万人のユニークビジターを引き付け、何百万もの画像やモデルがアップロードされています。

しかし、マイヤーは大きな挫折にも直面しました。彼の娘が1型糖尿病と診断されたのが、Civitaiの資金調達発表と同じ週でした。さらに、Civitaiは404メディアから批判的な報道の対象にもなり、「AIポルノマーケットプレイス」を可能にし、同意のないAIポルノに利益を与え、実在の人物のディープフェイクバウンティを作成したと主張されています。

独占インタビューの中で、マイヤーはこの報道がCivitaiの主なユーザーベースと意図する用途を誤解させていると主張しました。彼はこの状況を「困難で悲しい」と表現し、Civitaiは主にコミュニティ主導でのAI技術のポジティブな応用にフォーカスしていると強調しました。

マイヤーは、Civitaiがコンテンツのモデレーションに多くのリソースを投入し、チームの半分が安全対策に従事していると述べました。「私たちは安全性を確保するために懸命に取り組んでいますが、イノベーションの速いペースが日々の適応を必要としています」と彼は説明しました。

Civitaiは、AIアート生成に使用される微調整されたモデルであるLoRAモデルの愛好者向けプラットフォームとして機能しています。多くのユーザーは、ファンフィクションからファッションまで、創造的な活動にCivitaiを利用しています。「昨年のローンチから50モデルで始まりましたが、今では毎日500モデルが追加されています」と彼は述べました。

404メディアからの主張は懸念材料ですが、マイヤーはこれらがしばしば古いデータに基づいていることを明らかにしました。彼は、コンテンツの60%がNSFWであるという主張を否定し、現在の投稿コンテンツの20%未満しかそのカテゴリに該当しないと主張しました。

Civitaiはまた、未成年者の写真リアルで性的な描写を一切禁止する方針を含む安全センターを設立しました。このセンターは、Amazon Rekognitionを利用して自動コンテンツ検出を行います。

情熱を超えたプラットフォームへ

Civitaiは、マイヤーがMidjourneyに触発されてStable Diffusionコミュニティへの関心を抱いたことから始まりました。ユーザーが簡単にAIモデルを共有し、閲覧できるスペースを想像しました。Civitaiは昨年11月に正式にローンチされ、ユーザーベースは1月には10万人、3月には100万人に達しました。

Civitaiは、オープンソースの生成AIへの参入障壁を下げ、広範な機械学習の知識がなくても技術を探求したいホビイストに奉仕しています。「私たちは、Midjourneyのような消費者向けツールとHugging Faceのような企業向けソリューションのバランスを取っています」と彼は説明しました。

NSFWコンテンツへの配慮

NSFWコンテンツが一般的な問題であることを認識し、マイヤーは初めから潜在的な誤用に備える必要性を理解しています。プラットフォームがNSFWコンテンツを制限することは可能ですが、彼はコミュニティの発展を促すためによりバランスの取れたアプローチを選びました。これは、技術の向上がさまざまな使用例から生じることが多いからです。

彼はこのアプローチを新約聖書の「雑草のたとえ」に喩え、不適切なコンテンツを抑圧することがイノベーションを阻害する可能性があると示唆しました。「これらの限界を押し上げるコミュニティは、AI技術全体に利益をもたらす進展に寄与しています」と彼は強調しました。

バウンティの疑惑とコミュニティ報告

404メディアの最近の報道では、実在の個人のディープフェイクに関する「バウンティ」が懸念されました。マイヤーは、これらのバウンティが特定のニーズに合わせたAIモデルを尋ねるサービスリクエストとして機能することを明らかにしました。これらのリストは、作成者が公開するかどうかを選ぶまで非公開で、コンテンツガイドラインに従ったモデレーションが行われます。

同社の方針では、不適切なコンテンツのコミュニティ報告を促進しており、ユーザーは安全な環境を維持するために努力することで、サイト内通貨「Buzz」で報酬を得ることができます。しかし、Civitaiのオープンソース性から、モデルがダウンロードされると、異なるシステムでのその後の使用を制御できないという制約があります。

継続的な改善へのコミットメント

多くの課題がある中で、マイヤーはCivitaiの改善と安全なAI利用の促進に尽力しています。最近の展開を受けて、会社は生成されたコンテンツから自分の肖像を削除したい個人向けの措置を導入しました。

AIが急速に進化する中、Civitaiはイノベーションを促進しつつ、公共の安全を確保するために規制当局と積極的に協力しています。マイヤーは、AIを良い方向へ活用することを目指し、娘の病気に触発されて小児糖尿病研究財団のためのホリデーチャリティドライブを企画しています。「私たちは安全なプラットフォームを維持することを非常に重視しています」と彼は述べ、Civitaiの目標がAIのアクセスを容易にし、継続的な挑戦に対処することを強調しました。「私たちは、前向きなユーザー体験を確保し続けるために努力しており、継続的な改善にコミットしています。」