Metaが発表したパープルラマ：安全な生成AIの新時代を切り開く

Meta、AIセキュリティ強化のために「パープルラマ」イニシアチブを発表

生成AI開発における強固なセキュリティフレームワークの必要性が高まる中、Metaは新たに「パープルラマ」イニシアチブを発表しました。この革新的なプログラムは、サイバーセキュリティの「パープルチーミング」という概念に触発され、攻撃（レッドチーム）と防御（ブルーチーム）の戦略を融合させ、AI技術の信頼を高め、攻撃リスクを軽減することを目的としています。

パープルチーミングとは

パープルラマイニシアチブは、攻撃と防御の手法を組み合わせて、潜在的なサイバーセキュリティの脅威を評価、特定し、軽減することを目指します。「パープル」という用語は、攻撃と防御戦略の調和を象徴しており、MetaのAIシステムの安全性と信頼性へのコミットメントを強調しています。

Metaが今このイニシアチブを発表した理由

「パープルラマは、Metaにとって重要な進展です。IBM AIアライアンスへの参加を経て、AIモデルの信頼性とガバナンスを重視し、委員会の活動が終わる前から能動的にツールやフレームワークを導入しています」と、コンステレーションリサーチ社の副社長であるアンディ・トゥライ氏は最近のインタビューで述べました。

Metaの発表は、「生成AIがチャットボットから画像生成器に至るまで急速な革新を促進する中で、AI安全性の協力を推進し、新興技術への信頼を高めようとしている」ことを強調しています。このイニシアチブは、責任ある生成AI開発に向けた重要な転換点を示し、AIコミュニティ全体の協力や包括的なベンチマーク、ガイドライン、ツールを特徴としています。イニシアチブの重要な目標の一つは、ホワイトハウスの責任あるAI開発のコミットメントに沿ったリソースを生成AI開発者に提供することです。

パープルラマイニシアチブにおける主要ツール

Metaは、「サイバーセックエバル」を導入し、大規模言語モデル（LLM）のための詳細なサイバーセキュリティ評価ベンチマークを提供しました。また、「ラマガード」という効果的な入力/出力フィルタリング用の安全クラスifierも発表しています。さらに、実装のベストプラクティスを示す「責任ある利用ガイド」も公開されました。

協力：AIセキュリティの礎

Metaのクロスコラボレーションに対するコミットメントは、AI開発戦略の基盤です。この目標を達成するのは業界の競争が激しいため難しいですが、Metaは新たに設立されたAIアライアンスから、AMD、AWS、Google Cloud、Hugging Face、IBM、Intel、Lightning AI、Microsoft、MLCommons、NVIDIA、Scale AIなどのパートナーと成功裏に関与し、オープンソースコミュニティに利用できるツールを強化しています。

トゥライ氏は、「Metaはアライアンス外の業界リーダー—AWS、Google、Microsoft、NVIDIA—とも協力を目指していることが注目に値します」と述べました。

信頼構築のための重要な取り組み

企業のCIOやCISO、CEOにとって、このような協力の姿勢は生成AIへの信頼を高め、モデルの生成・展開に対するDevOps投資を正当化する上で重要です。競争相手でさえも共通の利益のために協力できることを示すことで、Metaとそのパートナーはソリューションの信頼性を高める機会を得ています。信頼は、販売と同じく、時間をかけた一貫した行動によって築かれます。

有望なスタートだがさらなる行動が必要

「提案されたツールセットは、LLM開発者がセキュリティリスクを評価し、安全でないコード出力を検証し、モデルが悪意のあるサイバー攻撃に利用されるのを防ぐための支援を目的としています。これは称賛すべき第一歩ですが、さらなる取り組みが求められています」とトゥライ氏はアドバイスしています。