PrismMLは、Qualcommのプロセッサを搭載したスマートグラス等のウェアラブルデバイス向けに、最適化された超小型LLM（大規模言語モデル）の提供を開始しました。この技術により、クラウドへの通信に頼らず、デバイス単体で高度なAI推論が可能になります。
発表された技術は、エッジデバイス上での動作を前提に設計された軽量モデルです。処理能力に制約のあるスマートグラス環境下においても、音声や視覚情報を活用したリアルタイムなAI支援を、低レイテンシで提供します。
従来、LLMの動作にはサーバーサイドでの演算が必須でしたが、PrismMLはモデルの極小化技術を用いることで、スマートフォンやスマートグラスのチップセット上で直接推論を実行します。Qualcommのプラットフォームとの深い統合により、電力消費と処理性能のバランスを最適化している点が特徴です。
PrismMLは今後、対応するウェアラブルデバイスの拡大を図り、デバイス上でのプライベートなAI体験の普及を目指します。特に機密性が高くプライバシー保護が厳格に求められる業務向けスマートグラス市場などでの活用が期待されます。