LLM Farm 4+
Artem Savkin
Conçu pour iPad
-
- Gratuit
Captures d’écran
Description
LLMFarm is an iOS and MacOS app to work with large language models (LLM). It allows you to load different LLMs with certain parameters.
# Features
* Various inferences
* Various sampling methods
* Metal
* Model setting templates
* LoRA adapters support
* LoRA FineTune and Export
# Inferences
* LLaMA
* GPTNeoX
* Replit
* GPT2 + Cerebras
* Starcoder(Santacoder)
* RWKV (20B tokenizer)
* Falcon
* MPT
* Bloom
* StableLM-3b-4e1t
* Qwen
* Gemma
* Phi
* Mamba
* Others
# Multimodal
* LLaVA 1.5 models
* Obsidian
* MobileVLM 1.7B/3B models
Note: For Falcon, Alpaca, GPT4All, Chinese LLaMA / Alpaca and Chinese LLaMA-2 / Alpaca-2, Vigogne (French), Vicuna, Koala, OpenBuddy (Multilingual), Pygmalion/Metharme, WizardLM, Baichuan 1 & 2 + derivations, Aquila 1 & 2, Mistral AI v0.1, Refact, Persimmon 8B, MPT, Bloom select llama inferece in model settings.
Sampling methods
* Temperature (temp, tok-k, top-p)
* Tail Free Sampling (TFS)
* Locally Typical Sampling
* Mirostat
* Greedy
* Grammar (dont work with GGJTv3)
Nouveautés
Version 1.3.0
Changes:
* LLaMA.cpp updated to b3190
* Added support for DeepseekV2, GPTNeoX (Pythia and others)
* Added support for Markdown formatting
* Added support for using history in Shortcuts
* Added Flash Attention support
* Added NPredict option
* Save/Load context state. Now it is possible to continue the dialog with the model even after the program is reopened.
* Chat settings such as sampling are now applied without reloading the chat.
* Skip tokens option. Allows you to specify tokens that will not be displayed in the results. May be useful for phi3 and qwen.
* Metal and CPU inference improvements
* Sampling and eval improvements
* Some fixes for phi-3 and MiniCPM
* Fixed some errors
* Added Qwen template
Notes et avis
Downloads don’t work
Hello,
Too bad, the downloads don’t work… Impossible to get the models.
Confidentialité de l’app
Le développeur Artem Savkin a indiqué que le traitement des données tel que décrit ci‑dessous pouvait figurer parmi les pratiques de l’app en matière de confidentialité. Pour en savoir plus, consultez la politique de confidentialité du développeur.
Données non collectées
Le développeur ne collecte aucune donnée avec cette app.
Les pratiques en matière de confidentialité peuvent varier, notamment en fonction des fonctionnalités que vous utilisez ou de votre âge. En savoir plus
Informations
- Fournisseur
- Le fournisseur Artem Savkin ne s’est pas identifié comme commerçant de cette app. Si vous achetez des biens et services dans l’Espace économique européen, le droit des consommateurs ne s’applique pas aux contrats entre vous et le fournisseur.
- Taille
- 19,9 Mo
- Catégorie
- Outils de développement
- Compatibilité
-
- iPhone
- Nécessite iOS 16.0 ou version ultérieure.
- iPad
- Nécessite iPadOS 16.0 ou version ultérieure.
- Mac
- Nécessite macOS 13.0 ou une version ultérieure et un Mac doté d’une puce Apple M1 ou une version ultérieure.
- Apple Vision
- Nécessite visionOS 1.0 ou version ultérieure.
- Langues
-
Anglais
- Âge
- 4+
- Copyright
- © Artem Savkin
- Prix
- Gratuit