Appleが、WWDC26において「Core AIについて」を公開しています。

AIはかつてないスピードで 進化していて、以前は実現不可能と思われていた 新しいモデルや機能が 次々と登場しています。 Appleが提供する「Core AI」はその勢いを活かし、さらに発展させるために構築されました。

Core AIはワークロードに向けてゼロから構築されており、高度なAI機能を構築するために必要な高性能な推論を提供します。

Core AIはオンデバイスの Apple Intelligenceを動かす推論フレームワークで、アプリ独自のインテリジェンスに同じ力をもたらします。 Core AIは単なるフレームワークでは ありません。

モデルデプロイのライフサイクル全体をカバーする完全なテクノロジーセットで、モデルの最適化とコンバージョンからデバッグおよびアプリへの 統合まで対応します。

より広範なテクノロジーセットは 一般的なML エンジニアリングワークフローに 自然に溶け込み、使い慣れたPythonとPyTorchの基盤を活用してモデルのオーサリング最適化そしてコンバージョンを行います。

Core AIはきめ細かな推論管理やモデルの特化からカスタムGPUカーネルまで広範なカスタマイズもサポートします。

これらすべてが新しいデベロッパ ツールチェーンと緊密に統合されており、事前コンパイル 専用のCore AI Instruments そして強力なビジュアルデバッガが テンソル値を元のPythonソースコードまで 直接トレースできます。

Core AIはニーズと利用可能なコンピューティングに合わせてスケールします。

小規模な話者分離モデルで ライブ会議中の発言者を識別したい場合もスピーカー分離モデルで対応できます。

ユーザーがカメラを任意のものに向けて質問を投げかけ、大規模なビジョン言語モデルで 即座に回答を得たい場合も、または複雑なマルチステップタスクを700億パラメータのLLMが動かす強力なエージェントアシスタントに任せる場合 Core AIが対応します。

すべてAppleデバイス上でローカルに動作し、サーバー不要でトークンコストもかかりません。

AIモデルをアプリに同梱する場合それはモデルのソース表現であり任意のAppleデバイスで実行できます。

ただしアプリ内でモデルを実際に読み込んで実行するにはアプリが動作するデバイス向けに特化する必要があります。

モデルが読み込まれるとすでに特化されてキャッシュされているかどうかが確認されます。

特化プロセスは非常に大きなモデルの場合かなりの時間がかかる場合があり、2回目以降はキャッシュから高速に読み込まれますが初回は計画を立てる必要があるかもしれません。