Appleが、WWDC25において、サードパーティがAppleのLLMをアプリに組み込める「Foundation Models Framework」を発表し、それに関するセッション「Meet the Foundation Models framework」「Deep dive into the Foundation Models framework」「Code-along: Bring on-device AI to your app using the Foundation Models framework」「Explore prompt design & safety for on-device foundation models」などを公開しています。

Foundation Modelsフレームワークは、Appleのデバイス内大規模言語モデルへのアクセスを提供します。

このモデルはApple Intelligenceの基盤となり、ユースケースに特化したインテリジェントなタスクの実行を支援します。

テキストベースのデバイス内モデルは、リクエストに適した新しいテキストを生成するためのパターンを識別し、特殊なタスクを実行するためにユーザーが記述したコードを呼び出すかどうかを判断します。

デバイス上で動作するLLMの設計について、このモデルはデバイス上で動作し、要約、分類、マルチターン会話、テキスト作成、テキスト修正、テキストからのタグ生成など、多くの一般的な言語タスクに使用できます。

ただし、この大規模な言語モデルはポケットに収まるように最適化・圧縮されている点に注意が必要です。

デバイス上で動作するモデルは約30億のパラメータで構成されています。30億という数値は、他の尺度から見ても依然として巨大な機械学習モデルです。

Appleのデバイス上で動作するモデルは約30億のパラメータで構成されています。30億という数値は、他の尺度から見ても依然として巨大な機械学習モデルです。

ChatGPTのような、サーバーベースの場合は約1000億以上のパラメータで構成されていて、この規模の違いにより、デバイス上のLLMでは、大規模なサーバーベースのLLMが実行できるすべての機能を実行できるわけではありません。

次に、システムモデルは規模が小さいため、世界に関する知識が限られています。例えば、モデルはトレーニング日以降に発生した最近の出来事について認識できません。モデルがベーグルのような特定のトピックについて知識を持っていることを徹底的に検証しない限り、システムモデルを事実として利用しないよう説明しています。

次に、幻覚の影響を理解することが不可欠です。モ​​デルが知らない知識については、幻覚を起こす可能性があります。これは専門用語で、答えを完全に捏造することを意味します。指示など、事実が重要な場面では、幻覚によって人々を誤解させるリスクを冒さないでください。

事実の生成にシステム言語モデルに依存するのは避けてください。事実を生成したい場合は、プロンプトに検証済みの情報を記述し、モデルに提供することを検討してください。また、新しいプロンプトを作成する場合は、モデルの出力を徹底的にファクトチェックしてください。

現時点では、このモデルの特別な機能である「ガイド付き生成」を利用することで、多くの状況で信頼性を向上させることができます。Foundation Models Frameworkでは、ガイド付き生成によって、文字列、数値、配列、あるいはユーザーが定義したカスタムデータ構造など、モデルが生成するデータの種類を制御できます。

アプリが不適切なコンテンツを生成しないようにしてください。Foundation Modelsフレームワークのガードレールがそれらをブロックします。

Appleのスタックの基盤となるレイヤーは、Foundation Modelsフレームワークに組み込まれたガードレールです。モデルへの指示に安全性を追加します。

これらの指示はプロンプトよりも優先されます。また、モデルへのプロンプトにユーザー入力をどのように組み込むかを制御するために、アプリを設計する必要があります。