LLM Farm 4+
Artem Savkin
Designad för iPad
-
- Gratis
Skärmavbilder
Beskrivning
LLMFarm is an iOS and MacOS app to work with large language models (LLM). It allows you to load different LLMs with certain parameters.
# Features
* Various inferences
* Various sampling methods
* Metal
* Model setting templates
* LoRA adapters support
* LoRA FineTune and Export
# Inferences
* LLaMA
* GPTNeoX
* Replit
* GPT2 + Cerebras
* Starcoder(Santacoder)
* RWKV (20B tokenizer)
* Falcon
* MPT
* Bloom
* StableLM-3b-4e1t
* Qwen
* Gemma
* Phi
* Mamba
* Others
# Multimodal
* LLaVA 1.5 models
* Obsidian
* MobileVLM 1.7B/3B models
Note: For Falcon, Alpaca, GPT4All, Chinese LLaMA / Alpaca and Chinese LLaMA-2 / Alpaca-2, Vigogne (French), Vicuna, Koala, OpenBuddy (Multilingual), Pygmalion/Metharme, WizardLM, Baichuan 1 & 2 + derivations, Aquila 1 & 2, Mistral AI v0.1, Refact, Persimmon 8B, MPT, Bloom select llama inferece in model settings.
Sampling methods
* Temperature (temp, tok-k, top-p)
* Tail Free Sampling (TFS)
* Locally Typical Sampling
* Mirostat
* Greedy
* Grammar (dont work with GGJTv3)
Nyheter
Version 1.3.0
Changes:
* LLaMA.cpp updated to b3190
* Added support for DeepseekV2, GPTNeoX (Pythia and others)
* Added support for Markdown formatting
* Added support for using history in Shortcuts
* Added Flash Attention support
* Added NPredict option
* Save/Load context state. Now it is possible to continue the dialog with the model even after the program is reopened.
* Chat settings such as sampling are now applied without reloading the chat.
* Skip tokens option. Allows you to specify tokens that will not be displayed in the results. May be useful for phi3 and qwen.
* Metal and CPU inference improvements
* Sampling and eval improvements
* Some fixes for phi-3 and MiniCPM
* Fixed some errors
* Added Qwen template
Appintegritet
Utvecklaren Artem Savkin har angett att appens integritetsrutiner kan inkludera hantering av data enligt beskrivningen nedan. Det finns mer information i utvecklarens integritetspolicy.
Data samlas inte in
Utvecklaren samlar inte in några data från den här appen.
Sekretessriktlinjer kan variera, till exempel utifrån de funktioner du använder eller din ålder. Läs mer
Information
- Leverantör
- Artem Savkin har inte identifierat sig som en näringsidkare för den här appen. Om du är en konsument i det Europeiska ekonomiska samarbetsområdet (EES) gäller inte konsumenträttigheter för avtal mellan dig och leverantören.
- Storlek
- 19,9 MB
- Kategori
- Utvecklarverktyg
- Kompatibilitet
-
- iPhone
- Kräver iOS 16.0 eller senare.
- iPad
- Kräver iPadOS 16.0 eller senare.
- Mac
- Kräver macOS 13.0 eller senare och en Mac med Apple M1‑chip eller senare.
- Apple Vision
- Kräver visionOS 1.0 eller senare.
- Språk
-
engelska
- Ålder
- 4+
- Copyright
- © Artem Savkin
- Pris
- Gratis