ラッソ・セキュリティ、画期的な大規模言語モデル(LLM)のセキュリティソリューションを発表

大規模言語モデルとサイバーセキュリティの脆弱性

大規模言語モデル（LLM）はその高度な技術にもかかわらず、サイバーセキュリティの問題において驚くほどの naïveté を示しています。巧妙なプロンプトの連鎖により、これらのモデルは機密情報を漏洩させたり、悪意のあるコードを生成したり、偏った結果を出力することがあります。これは重大な倫理的懸念を引き起こします。

Lasso Securityの共同創設者でCEOのエラッド・シュルマンは、この危険性に警鐘を鳴らしています。「LLMは強力ですが、無条件に信頼すべきではありません。高度な機能があるため、多くのセキュリティ脆弱性にさらされています。」Lasso Securityは、Entrée CapitalとSamsung Nextから600万ドルの種資金を調達し、これらの課題に取り組むことを目指しています。「LLMの革命は、クラウドやインターネットの革命を合わせたものを越える可能性があります。大きな進展には大きなリスクが伴います。」

セキュリティの懸念：ジェイルブレイキング、データ漏洩、データポイズニング

LLMは競争優位を求める企業にとって不可欠な存在となっていますが、その会話的で非構造的な性質は悪用されるリスクを高めています。プロンプトインジェクションやジェイルブレイキングといった手法を用いてプロンプトを操作することで、モデルはトレーニングデータや機密情報を漏洩します。

リスクは意図的な攻撃に限りません。サムスンがデータ漏洩を受けて生成AIツールを禁止したように、従業員による誤用の可能性も示しています。シュルマンは、「LLM生成コンテンツはプロンプト入力に影響を受けるため、ユーザーはモデルの追加機能に意図せずアクセスできるかもしれません。」と指摘します。

データポイズニングも重大な懸念事項です。改ざんされたトレーニングデータは、セキュリティや倫理基準を損なうバイアスをもたらす可能性があります。さらに、LLMの出力が適切に検証されていない場合、深刻な脆弱性につながります。OWASPによると、監視されていない出力は、クロスサイトスクリプティング（XSS）、クロスサイトリクエストフォージェリ（CSRF）、リモートコード実行などの深刻な脅威にさらされる可能性があります。

OWASPは、サービスを過負荷させるモデル拒否サービス攻撃や、ソフトウェアサプライチェーン内のサードパーティコンポーネントから生じる脆弱性など、さらなる懸念事項を強調しています。

過剰な依存に対する警戒

専門家は、情報のためにLLMに過度に依存する危険性を強調しています。これは誤情報やセキュリティ侵害を引き起こす可能性があります。たとえば、「パッケージの幻覚」と呼ばれる過程で、開発者が特定のコードパッケージをLLMに提案させた結果、架空の推奨を受けることがあります。悪意のある者はこの幻覚を悪用して有害なコードを作成し、企業のシステムへアクセスします。

シュルマンは、「この誤用は、開発者がAI駆動の推奨に依存している信頼を利用しています。」と警告します。

LLMのインタラクション監視によるセキュリティ強化

Lassoの技術は、従業員とBardやChatGPTなどのLLMとのインタラクションを傍受し、GrammarlyやIDEプラグインのようなツールとの統合を行います。可視化層を確立することで、LassoはLLMとのデータの送受信をキャッチし、異常を特定するために高度な脅威検出技術を採用しています。

シュルマンは、組織が使用しているLLMツールを特定し、用途や目的を分析することを提案します。「これにより、必要な保護策について重要な議論が促進されます。」と述べています。

Lasso Securityの主要機能

- シャドウAIの発見：アクティブなツールやユーザー、インサイトの特定。

- LLMデータフロー監視：組織内外の全データ伝送の追跡およびログ記録。

- リアルタイム検出とアラート：潜在的な脅威への即時の洞察。

- ブロックと保護：すべてのプロンプトと生成された出力がセキュリティポリシーに準じていることを保証。

- ユーザーフレンドリーなダッシュボード：LLMのインタラクションの監視と管理を簡素化。

セキュリティを考慮した技術活用

Lassoは、特定の機能に集中するのではなく、LLMセキュリティに特化した包括的なスイートを提供しており、他にはない価値を提供します。シュルマンは、「セキュリティチームはすべてのLLMインタラクションを管理でき、カスタマイズされたポリシーを作成して実施できます。」と述べています。

組織は、LLM技術を安全に活用する必要があります。禁止は持続可能ではありません。「リスク管理戦略がなければ、生成型AIを採用しない企業は競争上の不利を被ることになります。」とシュルマンは説明します。最終的に、Lassoは組織が先端技術を活用しつつ、そのセキュリティ体制を損なうことなく必要なセキュリティツールを提供することを目指しています。