LLM Farm 4+

Artem Savkin

Diseñado para iPad

    • Gratis

Capturas de pantalla

Descripción

LLMFarm is an iOS and MacOS app to work with large language models (LLM). It allows you to load different LLMs with certain parameters.

# Features
* Various inferences
* Various sampling methods
* Metal
* Model setting templates
* LoRA adapters support
* LoRA FineTune and Export

# Inferences
* LLaMA
* GPTNeoX
* Replit
* GPT2 + Cerebras
* Starcoder(Santacoder)
* RWKV (20B tokenizer)
* Falcon
* MPT
* Bloom
* StableLM-3b-4e1t
* Qwen
* Gemma
* Phi
* Mamba
* Others

# Multimodal
* LLaVA 1.5 models
* Obsidian
* MobileVLM 1.7B/3B models

Note: For Falcon, Alpaca, GPT4All, Chinese LLaMA / Alpaca and Chinese LLaMA-2 / Alpaca-2, Vigogne (French), Vicuna, Koala, OpenBuddy (Multilingual), Pygmalion/Metharme, WizardLM, Baichuan 1 & 2 + derivations, Aquila 1 & 2, Mistral AI v0.1, Refact, Persimmon 8B, MPT, Bloom select llama inferece in model settings.

Sampling methods
* Temperature (temp, tok-k, top-p)
* Tail Free Sampling (TFS)
* Locally Typical Sampling
* Mirostat
* Greedy
* Grammar (dont work with GGJTv3)

Novedades

Versión 1.2.0

Changes:
* Added shortcuts support
* llama.cpp updated to b2864
* Some llama-3, Command-R fixes
* Added llama3 instruct template
* Fixed a bug that could cause the application to crash if the system prompt format is incorrect
* Fix memory bug in grammar parser
* Fixed some other bugs

Privacidad de la app

El desarrollador, Artem Savkin, ha indicado que las prácticas de privacidad de la app pueden incluir la gestión de datos descrita a continuación. Para obtener más información, consulta la política de privacidad del desarrollador.

No se recopilan datos

El desarrollador no recopila ningún dato en esta app.

Las prácticas de privacidad pueden variar, por ejemplo, dependiendo de tu edad o de las funciones que uses. Más información

También te puede interesar

Enchanted LLM
Para desarrolladores
AWS IoT Sensors
Para desarrolladores
ChatOnMac.com — AI Chat Bots
Para desarrolladores
Jellycuts
Para desarrolladores
Server: Host Files Locally
Para desarrolladores
Device Info Tool
Para desarrolladores