
EdgeBox
工具程式
僅適用於 iPhone
免費 · 專為 iPhone 設計
iPhone
GGUF 格式的模型适用于 本地 LLM 推理,主要用途如下:
推理、问答、摘要、角色扮演、代码推理、数学、逻辑推理、多语言、指令跟随
在手机端部署和运行 AI 大模型(如 Llama、Gemma、Qwen 等)可以让用户在离线环境下使用 AI 进行聊天、翻译、推理等任务。以下是基本流程和技术要点:
1. 选取适合的 AI 模型
轻量级模型:如 Qwen-1.5B、Phi-3.5-mini、Gemma-2B 等,适用于手机端。
量化模型(GGUF 格式):如 Q4_K、Q6_K、Q8_0,降低计算需求,减少存储占用。
多任务支持:支持问答、推理、代码生成、翻译等。
2. 手机端优化
存储需求:优化后的模型大小一般在 1GB~4GB 之间。
计算资源:使用低精度推理(Q4_K、Q5_K)减少 CPU/GPU 计算压力。
多线程优化:提升推理速度,降低延迟。
3. 应用场景
离线 AI 助手:无需联网即可进行智能对话。
本地文档处理:摘要、翻译、问答等任务。
代码生成与分析:帮助开发者在手机端编写和优化代码。
評分與評論
此App未收到足夠的評分或評論以顯示概況。
開發者建宇 陈表明App的私隱慣例或包括下列資料的處理。詳情請參閲 開發者的私隱政策 。
不收集資料
開發者不會從此 App 收集任何資料。
輔助使用
開發者尚未表示此 App 支援哪些輔助使用功能。 進一步了解
資料
- 供應商
- 建宇 陈
- 大小
- 27.3 MB
- 類別
- 工具程式
- 相容性
須使用 iOS 14.0 或以上版本。
- iPhone
須使用 iOS 14.0 或以上版本。 - iPod touch
須使用 iOS 14.0 或以上版本。 - Mac
須使用 macOS 11.0 或以上版本及配備 Apple M1 或以上版本晶片的 Mac。
- 語言
- 英文
- 年齡分級
4+
- 4+
- 版權
- © 2025 DeepEdge. All rights reserved.