シャドウAIの制御: ジェネレーティブAIを活用したセキュリティとパフォーマンス向上の戦略的展開

シャドーAIの理解とIT部門への課題

シャドーAIは、生成AIサービスの展開と管理を担うIT部門にとって重大な課題となっています。驚くべきことに、企業の45%が生成AIの使用に関する正式なポリシーを持っていないため、リスクにさらされています。

大規模言語モデル（LLM）が普及し、利用しやすくなる中で、IT担当者はさまざまな公共クラウドプロバイダーや特化したAPIからLLMやGPUサービスに簡単にアクセスできるようになりました。このアクセスの容易さにより、知識労働者はノートパソコンやモバイルデバイス上のユーザーフレンドリーなインターフェースを使って、自分自身のデジタルアシスタントを生成することができるようになっています。

シャドーAIの台頭

現在のシャドーAIの状況は、SaaSアプリケーションや公共クラウドサービスの登場に似ており、ITリーダーは承認なしでソフトウェアを調達するビジネスユニットや開発者と対峙しています。IT部門はしばしば、シャドーITの制限を試みるか、従業員が好むアプリケーションとの間で気まずい合意を形成することで応じてきました。

同時に、クラウド消費が制御不能になり、誤設定や過剰提供による余分なコストが発生しました。ITは投資をビジネス価値と比較するようになり、クラウド支出の最適化が重視されるようになりました。

多くのアプリケーションがオンプレミスや別のクラウド環境の方がパフォーマンスが良い可能性があるため、ITの負荷を再調整することが不可欠となっています。一部のクラウドベンダーがデータ転送手数料を再考している中で、ITリーダーは戦略の見直しを進めています。

公共クラウドは迅速なアプリケーションテストやスケーリングに優れた環境ですが、無許可のワークロードに対する脆弱性も高まります。

AIガバナンスのナビゲート

AI機能の民主化は、ITリーダーにとってガバナンスのジレンマを引き起こします。課題がある中でも、CEOは生成AIサービスの導入に前向きであり、完全な取り消しは現実的ではありません。そのため、ITリーダーは予算制約を考慮に入れつつ、従業員の生成AIイニシアチブを支援するためのバランスを見つけなければなりません。

理想的なAI利用ケースの特定

これを実現するために、ITリーダーはビジネスエグゼクティブと協力して最適な生成AI利用ケースを特定する必要があります。このプロセスでは、両者が妥協し、ITはサービスオプションを絞り、ツールを標準化することが求められます。各利用ケースは、ローカルまたはホスト環境でのコスト効果とパフォーマンスを評価する必要があります。一部のアプリケーションは公共クラウド環境で優れた性能を発揮するかもしれませんが、多くはオンプレミスでの監視とセキュリティの向上により恩恵を受けます。

例えば、オープンソースのLLMを利用したデータ取得強化生成（RAG）をオンプレミスで行うと、公共クラウドリソースやAPIベースのサービスよりも経済的であることが多いと、Enterprise Strategy Group（ESG）の最近の調査で明らかになっています。ESGのテストでは、以下の結果が得られました：

- オープンソースのMistral 7BモデルをAWS EC2でテストした場合、38%から48%のコスト効率があり、ユーザー数が増えるほど節約が増加しました。

- 70億パラメータのMeta Llama 2インスタンスとAWS EC2を比較した結果、69%から75%のコスト優位性が見られました。

- Llama 2（70Bパラメータ）をOpenAIのGPT-4 Turboと50,000の企業ユーザーでテストした結果、81%から88%のコスト効率が示されました。

生成AIサービスをオンプレミスで展開することはシャドーAIを完全に排除するわけではありませんが、その影響を軽減する助けになります。社内でモデルを監視することで、ITチームは予想外の出力に起因する問題に対処しやすくなり、AIの取り組みを組織のデータに沿って整合させることの重要性が強調されます。

成功のための共同作業

企業は、公共クラウド、プライベートクラウド、エッジロケーションなど、さまざまな環境で生成AIワークロードを運用する可能性が高くなります。LLMをどこに展開するかを決定することは複雑であり、信頼できるパートナーであるDell Technologiesが、AI最適化サーバーや最新のクライアントデバイス、プロフェッショナルサービスを提供することで、重要なサポートを行います。

シャドーAIは重大な課題ですが、正しい戦略とパートナーシップにより、企業は責任ある生成AIフレームワークを構築することができます。適切なパートナーが将来の道を照らしてくれます。