![](/assets/artwork/1x1-42817eea7ade52607a760cbee00d1495.gif)
LLM Farm 4+
Artem Savkin
Diseñada para iPad
-
- Gratis
Capturas de pantalla
Descripción
LLMFarm is an iOS and MacOS app to work with large language models (LLM). It allows you to load different LLMs with certain parameters.
# Features
* Various inferences
* Various sampling methods
* Metal
* Model setting templates
* LoRA adapters support
* LoRA FineTune and Export
# Inferences
* LLaMA
* GPTNeoX
* Replit
* GPT2 + Cerebras
* Starcoder(Santacoder)
* RWKV (20B tokenizer)
* Falcon
* MPT
* Bloom
* StableLM-3b-4e1t
* Qwen
* Gemma
* Phi
* Mamba
* Others
# Multimodal
* LLaVA 1.5 models
* Obsidian
* MobileVLM 1.7B/3B models
Note: For Falcon, Alpaca, GPT4All, Chinese LLaMA / Alpaca and Chinese LLaMA-2 / Alpaca-2, Vigogne (French), Vicuna, Koala, OpenBuddy (Multilingual), Pygmalion/Metharme, WizardLM, Baichuan 1 & 2 + derivations, Aquila 1 & 2, Mistral AI v0.1, Refact, Persimmon 8B, MPT, Bloom select llama inferece in model settings.
Sampling methods
* Temperature (temp, tok-k, top-p)
* Tail Free Sampling (TFS)
* Locally Typical Sampling
* Mirostat
* Greedy
* Grammar (dont work with GGJTv3)
Novedades
Versión 1.3.0
Changes:
* LLaMA.cpp updated to b3190
* Added support for DeepseekV2, GPTNeoX (Pythia and others)
* Added support for Markdown formatting
* Added support for using history in Shortcuts
* Added Flash Attention support
* Added NPredict option
* Save/Load context state. Now it is possible to continue the dialog with the model even after the program is reopened.
* Chat settings such as sampling are now applied without reloading the chat.
* Skip tokens option. Allows you to specify tokens that will not be displayed in the results. May be useful for phi3 and qwen.
* Metal and CPU inference improvements
* Sampling and eval improvements
* Some fixes for phi-3 and MiniCPM
* Fixed some errors
* Added Qwen template
Privacidad de la app
Artem Savkin, que desarrolló esta app, indicó que entre las prácticas de privacidad de la app, pueden incluirse el manejo de datos que se describe a continuación. Para obtener detalles, consulta la política de privacidad del desarrollador.
No se recopilan datos
El desarrollador no recopila ningún dato en esta app.
Las prácticas de privacidad pueden variar; por ejemplo, según tu edad o las funciones que uses. Obtén detalles
Información
- Vendedor
- Artem Savkin
- Tamaño
- 19.9 MB
- Categoría
- Para desarrolladores
- Compatibilidad
-
- iPhone
- Requiere iOS 16.0 o posterior.
- iPad
- Requiere iPadOS 16.0 o posterior.
- Mac
- Requiere macOS 13.0 o posterior y una Mac con el chip M1 de Apple o posterior.
- Apple Vision
- Requiere visionOS 1.0 o posterior.
- Idiomas
-
Inglés
- Edad
- 4+
- Copyright
- © Artem Savkin
- Precio
- Gratis