AIチャットアプリ「Pal Chat」を開発しているPallav Agarwal氏が、AppleがWWDC25で発表したサードパーティがAppleのLLMをアプリに組み込める「Foundation Models Framework」を使用したチャットアプリ「Apple-Intelligence-Chat」をGitHubで公開しています。

Liquid GlassデザインでのUIを通して、触覚フィードバックによるリアルタイムストリーミングテキスト生成が可能です。

Foundation Models FrameworkによるローカルLLMは、約30億のパラメータで構成されたモデルを使用しているため、2年前の生成系AIレベルの性能ですが、無料で使えるのは面白そうです。

macOS Sequoia 15.4以降で動作する「Xcode 26」と、Apple Intelligenceがオンになった「iOS 26」がインストールされたiPhoneが必要ですが、Xcode 26のiOS 26シミュレーターでも動作させることができます。

テストした結果では、カットオフは2023年10月とされていて、Appleが実装するLLM自体は、倫理的制限などがあるものの、ゼロから生成することが可能なことが確認出来ています。

今後、Metal 4を使用したバーチャルキャラクターを加えたFoundation Models Frameworkを使用したAiチャットアプリが出てきそうな予感がします。