2023年の年末が近づく中、生成AIの開発は加速しており、冬のホリデーシーズンに見られる通常の slowdownを超えています。本日、テクノロジーの巨人であるMicrosoftの先端研究部門が、Phi-2という小型言語モデル(SML)を発表しました。この革新的なテキスト生成AIは、ノートパソコンやモバイルデバイスでの使用に適したコンパクトな設計です。
Phi-2は、27億パラメータ(人工ニューロン間の接続)を備えており、7億パラメータを有するMetaのLlama 2-7Bや同じく7億パラメータのMistral-7Bと同等の性能を発揮します。また、Phi-2は、Googleの新モデルGemini Nano 2と比較しても優れた成果を上げており、Gemini Nano 2が500万パラメータ多いにもかかわらず、Phi-2は生成する応答がより少ない毒性や偏見で済んでいます。
さらに、MicrosoftはGoogleの物議を醸したデモ映像を引き合いに出しました。このデモでは、次期モデルGemini Ultraが複雑な物理問題を解決し、生徒の間違いを修正する様子が描かれていました。興味深いことに、Phi-2もこれらの物理の課題に対して正確な解答を示し、Gemini Ultraよりもはるかに小型にもかかわらず適切な解決策を提示しました。
ただし、現在Phi-2には重要な制限があります。それは、このモデルが研究目的のための特別なMicrosoftリサーチライセンスの下でのみ使用が許可されており、商業利用は明示的に禁止されていることです。そのため、企業はこのモデルを基に製品を開発することができない状況です。