llama.cpp搭載のローカルLLMアプリ。Hugging Faceで見つけた好きなGGUFを、その場で落としてiPhoneの中で動かすことができます。Gemma 4、Qwen3.5など動作確認済みの29モデルは、推奨設定まで調整済みで、選ぶだけですぐ使えます。写真・音声・動画の添付に対応しています。
AIでチャットは、インターネット接続なしでも動作するローカルAIチャットアプリです。
会話はすべてあなたのiPhone・iPadの中だけで処理されます。入力した内容や添付、AIの返答が外部のサーバーに送信されることはありません。機内モードでも使い続けられます。クラウドAIのサブスクリプションや通信環境に縛られず、自分の端末で選んだモデルを使えるアプリです。
■ 使い方はシンプルに3ステップ
1. アプリ内のモデル一覧から、端末に合ったAIモデルを選ぶ
(迷ったら、端末のメモリに応じて自動で選ばれる「おすすめ」でOK)
2. モデルをダウンロード(数百MB〜数GB、Wi-Fi推奨)
3. あとは話しかけるだけ。ダウンロード済みのモデルはすぐに使えます
■ 自分の端末で動く、自分で選べるAIモデル
Hugging Face上で公開されているGGUF形式のオープンモデル(Gemma、Qwenなど)をアプリ内から検索してダウンロードし、そのまま端末上で動かせます。一覧ではモデルごとに推定メモリ消費から「動作可能 / メモリに余裕なし / 動作不可」を判定して表示するので、重くて使えないモデルを落とす失敗を防げます。
■ 対応済みモデル (v1.0.22 時点)
設定の「対応済みモデル」に、動作確認済みモデルのダウンロードリンクを収録しています。
推奨設定(Temperatureなど)は調整済みで、選ぶだけで使えます。切り替えるとTemperatureも自動で推奨値になります。
・推奨: Google Gemma 4 (E2B / E4B)、Alibaba Qwen3.5 4B / Qwen3.5 0.8B
・その他の対応済み: NVIDIA Nemotron 3.5 Bolt E4B / Nemotron 3 Nano 4B、Microsoft Phi-4 mini、
IBM Granite 4.2 3B、Prism ML Bonsai 8B / Bonsai 27B / Ternary Bonsai 2 9B / 4B / 27B(27Bは12GB機専用)、
LiquidAI LFM3 Omni 2B / LFM3 1.7B / LFM2.5 2.6B / LFM2.5 1.2B JP、Shanghai AI Lab Agents-A1 4B、
XHToken Spark-X2.6 4B / 1.7B / Spark-X2.5 4B / 1.7B、Mistral AI Ministral 3 3B、
Hugging Face SmolLM3 3B、Google Gemma 3 1B、LLM-jp 3.1 1.8B、
OpenBMB MiniCPM5 2B、MBZUAI IFM K2-Horizon 3.7B / K2-Horizon 0.9B
一覧は随時追加しています。ここに無いGGUFも試せます。
■ 画像・音声・動画を添付できます
Gemma 4 E2B / E4B、Nemotron 3.5 Bolt E4B、LFM3 Omni 2Bでは、写真や音声ファイルを添付して、写っているものや話している内容を質問できます。「ファイル」アプリ、写真ライブラリ、他のアプリからの共有で受け取れます。動画は音声を取り出して渡し、LFM3 Omni 2Bでは映像も読み取ります。
■ 応答の挙動を細かく調整できます
・システムプロンプト: AIの性格や口調、答え方を指定。
・Temperature: 0.0(正確・一貫)〜2.0(創造的)の間で応答のばらつきを調整。
・コンテキストサイズ: 2K〜32K(メモリ12GBの端末では64Kまで)。一度に扱える会話や文書の長さを、応答速度とのバランスで選べます。大きなモデルでは端末のメモリに合わせて安全な長さへ自動調整し、画面に表示します。
・長文優先 / 会話継続優先: 長い文書を一度に読ませたいか、テンポの良いやり取りを続けたいかで、メモリの使い方を切り替えます。
■ 生成を速くする仕組み (実験的機能)
本体のモデルと一緒に、小さな「先読み用」のモデルを動かして生成を速くする仕組みに対応しています。3つの方式があり、いずれか1つを選んで使います。
・MTP(Multi-Token Prediction): Gemma 4シリーズは配布元の小さなモデルを併用。Ternary Bonsai 2 9B / 4Bは名前にMTPを含むGGUFを選ぶと使えます。
・DFlash: Qwen3.5 4B、Spark-X2.6向け。専用の小さなモデルを別途取得して併用します。
・Speculative Decoding: 本体と語彙が同じ小さなモデル(例: Qwen3.5 4Bと0.8B)を自分で選んで併用します。
いずれも初期状態では無効で、組み合わせによっては遅くなることもあります。使えない場合は理由を画面に表示します。
■ プライバシー優先の設計
・会話履歴と添付ファイルは端末内に暗号化して保存され、外部には送信されません。iPhoneのバックアップに含まれ、機種変更でも会話を引き継げます。
・アカウント登録やサインインは不要です。
・広告やトラッキングはありません。
■ このiPhoneが、あなたのAIサーバーになる
サーバーモードをオンにすると、iPhone/iPadがOpenAI互換のAPIサーバーとして動き、同じネットワークの別の端末(別の「AIでチャット」やOpenAI互換クライアント)から、この端末でロード中のモデルを使えます。
・対応API: /v1/chat/completions(ストリーミング/一括)、/v1/models、/props(コンテキストサイズの取得)
・max_tokensなどクライアントの生成指定を尊重。温度が未指定なら使用中のモデルの推奨値で応えます
・ブラウザから使える簡易チャット画面も内蔵(同じネットワークのPCから、ファイル添付も可)
・APIキー認証に対応(未設定なら同一ネットワーク内から認証なしで使えます)
■ 自分のサーバーに接続することも(上級者向け)
同じネットワーク(自宅LAN)やVPN(Tailscale等)経由で、自分が運用するOpenAI互換の推論サーバー(llama-server など)に接続し、端末単体では動かせない大きなモデルも使えます。
・接続先はプロファイルとして複数保存(APIキーはKeychainに保存)
・接続テストでサーバーのコンテキストサイズを自動取得(4K〜256Kの手動指定も可)。長いファイル添付はこの値に合わせて送られます
・思考(reasoning)対応モデルでは「思考中…」の進行を文字数つきで表示。停止するとサーバー側の生成も止まります
・接続できるのはTailscale(*.ts.net)・プライベートIP・.localのホストのみ。誤って公開インターネット上のサーバーへ会話が送られることはありません
■ 主な機能
・ローカルLLMとのチャット(ストリーミング応答、Markdown表示、コードブロック表示)
・回答の言語は入力に合わせて自動で切り替わります
・会話ごとの履歴管理、検索、ピン留め、タイトル編集、削除、Markdownエクスポート
・テキストファイル・PDF等の添付と内容の読み込み(対応モデルでは画像・音声・動画も)
・文書の添付は全文をそのまま渡します。収まらないほど長い場合だけ関連の薄い箇所を省き、画面でお知らせします。2問目以降は添付し直す必要はありません
・添付したファイルは「ファイル」アプリの中からいつでも確認可能
・以前ダウンロードしたモデルは、機種変更後に一覧から取り直せます
・iPadは2カラム表示、iPhone Duoは開閉に合わせた配置
■ 動作環境の目安と制限事項
端末のメモリ(RAM)によって、使えるモデルの大きさが変わります。
・12GB(iPhone 18 Pro Maxなど): 8B〜9Bクラスや27Bの1.75bit量子化(Ternary Bonsai 2)も動作し、コンテキストサイズは64Kまで選べます
・8GB(iPhone 15 Pro以降など): 対応済みモデルのすべてが動作します。Gemma 4 E2B、Qwen3.5 4Bを推奨
・6GB: Gemma 4 E2B、Qwen3.5 4B(軽めの量子化)など、2.5GB前後までのモデル
・4GB: LFM2.5 1.2B JP、LLM-jp 3.1 1.8B、Gemma 3 1B、Spark-X2.5 1.7B、MiniCPM5 2B、K2-Horizon 0.9B、Qwen3.5 0.8Bなどの1〜2Bクラス
・3GB: Qwen3.5 0.8B、LFM2.5 1.2B JP。または「自分のサーバーに接続」で別の端末のモデルを使えます
動くモデルは一覧の判定で確認できます。
他のアプリでメモリに余裕がないときは、理由を表示して読み込まないか、一時的に解放して案内します。その場合は他のアプリを終了するか、端末を再起動してください。
モデルのダウンロードには数GBのストレージと通信を要します(その時だけインターネット接続が必要)。
AIの応答は誤りや古い情報を含むことがあります。専門的な判断が必要な内容は、必ず一次情報をご確認ください。
AIでチャットは、会話を自分の端末の中だけで行いたい方、様々なGGUFモデルをiPhone/iPadで試したい方向けのアプリです。
■ 英語表示に対応しました
・「対応済みモデル」の各モデルの説明を見直し、英語表示にも対応しました。
■ モデルを動かすエンジンを更新しました
・端末内で動く llama.cpp を最新版に更新しました。動作の仕組みは変わりません。
バージョン1.0.22
データの収集なし
デベロッパはこのアプリからデータを収集しません。