LLM Farm 4+

Artem Savkin

Conçu pour iPad

    • 5,0 • 1 note
    • Gratuit

Captures d’écran

Description

LLMFarm is an iOS and MacOS app to work with large language models (LLM). It allows you to load different LLMs with certain parameters.

# Features
* Various inferences
* Various sampling methods
* Metal
* Model setting templates
* LoRA adapters support
* LoRA FineTune and Export

# Inferences
* LLaMA
* GPTNeoX
* Replit
* GPT2 + Cerebras
* Starcoder(Santacoder)
* RWKV (20B tokenizer)
* Falcon
* MPT
* Bloom
* StableLM-3b-4e1t
* Qwen
* Gemma
* Phi
* Mamba
* Others

# Multimodal
* LLaVA 1.5 models
* Obsidian
* MobileVLM 1.7B/3B models

Note: For Falcon, Alpaca, GPT4All, Chinese LLaMA / Alpaca and Chinese LLaMA-2 / Alpaca-2, Vigogne (French), Vicuna, Koala, OpenBuddy (Multilingual), Pygmalion/Metharme, WizardLM, Baichuan 1 & 2 + derivations, Aquila 1 & 2, Mistral AI v0.1, Refact, Persimmon 8B, MPT, Bloom select llama inferece in model settings.

Sampling methods
* Temperature (temp, tok-k, top-p)
* Tail Free Sampling (TFS)
* Locally Typical Sampling
* Mirostat
* Greedy
* Grammar (dont work with GGJTv3)

Nouveautés

Version 1.2.0

Changes:
* Added shortcuts support
* llama.cpp updated to b2864
* Some llama-3, Command-R fixes
* Added llama3 instruct template
* Fixed a bug that could cause the application to crash if the system prompt format is incorrect
* Fix memory bug in grammar parser
* Fixed some other bugs

Notes et avis

5,0 sur 5
1 note

1 note

Confidentialité de l’app

Le développeur Artem Savkin a indiqué que le traitement des données tel que décrit ci‑dessous pouvait figurer parmi les pratiques de l’app en matière de confidentialité. Pour en savoir plus, consultez la politique de confidentialité du développeur.

Données non collectées

Le développeur ne collecte aucune donnée avec cette app.

Les pratiques en matière de confidentialité peuvent varier, notamment en fonction des fonctionnalités que vous utilisez ou de votre âge. En savoir plus

Vous aimerez peut-être aussi

Enchanted LLM
Outils de développement
ChatOnMac.com — AI Chat Bots
Outils de développement
AWS IoT Sensors
Outils de développement
Server: Host Files Locally
Outils de développement
Jellycuts
Outils de développement
Device Info Tool
Outils de développement