LLM Farm 4+
Artem Savkin
Conçu pour iPad
-
- Gratuit
Captures d’écran
Description
LLMFarm is an iOS and MacOS app to work with large language models (LLM). It allows you to load different LLMs with certain parameters.
# Features
* Various inferences
* Various sampling methods
* Metal
* Model setting templates
# Inferences
* LLaMA
* GPTNeoX
* Replit
* GPT2 + Cerebras
* Starcoder(Santacoder)
* RWKV
* Falcon
* MPT
* Bloom
* StableLM-3b-4e1t
* Qwen
* Gemma
* Phi
* Mamba
* Others
# Multimodal
* LLaVA 1.5 models
* Obsidian
* Bunny
* MobileVLM 1.7B/3B models
Note: For Falcon, Alpaca, GPT4All, Chinese LLaMA / Alpaca and Chinese LLaMA-2 / Alpaca-2, Vigogne (French), Vicuna, Koala, OpenBuddy (Multilingual), Pygmalion/Metharme, WizardLM, Baichuan 1 & 2 + derivations, Aquila 1 & 2, Mistral AI v0.1, Refact, Persimmon 8B, MPT, Bloom select llama inferece in model settings.
Sampling methods
* Temperature (temp, tok-k, top-p)
* Tail Free Sampling (TFS)
* Locally Typical Sampling
* Mirostat
* Greedy
* Grammar
Nouveautés
Version 1.3.9
Changes:
* llama.cpp updated to b3837
* Added support for llama 3.2, 3.1, RWKV, MiniCPM(2.5, 2.6, 3), Chameleon models
* Added Metal support for Mamba
* Added Llama 3.2 download links (working with LLaMa3 Instruct template)
* Added Phi 3.5 download links (working with Phi 3 template)
* Added Bunny template and download link
* Some metal improvements
* Fixed some errors for gemma2, DeepSeek-V2, ChatGLM4, llama 3.1, T5, TriLMs, BitNet models
* Fixed some other errors
Notes et avis
Confidentialité de l’app
Le développeur Artem Savkin a indiqué que le traitement des données tel que décrit ci‑dessous pouvait figurer parmi les pratiques de l’app en matière de confidentialité. Pour en savoir plus, consultez la politique de confidentialité du développeur.
Données non collectées
Le développeur ne collecte aucune donnée avec cette app.
Les pratiques en matière de confidentialité peuvent varier, notamment en fonction des fonctionnalités que vous utilisez ou de votre âge. En savoir plus
Informations
- Fournisseur
- Artem Savkin
- Taille
- 349,5 Mo
- Catégorie
- Outils de développement
- Compatibilité
-
- iPhone
- Nécessite iOS 16.0 ou version ultérieure.
- iPad
- Nécessite iPadOS 16.0 ou version ultérieure.
- Mac
- Nécessite macOS 13.0 ou une version ultérieure et un Mac doté d’une puce Apple M1 ou une version ultérieure.
- Apple Vision
- Nécessite visionOS 1.0 ou version ultérieure.
- Langues
-
Anglais
- Âge
- 4+
- Copyright
- © Artem Savkin
- Prix
- Gratuit