LLM Farm 4+
Artem Savkin
Розроблено для iPad
-
- Безкоштовно
Знімки екрана
Опис
LLMFarm is an iOS and MacOS app to work with large language models (LLM). It allows you to load different LLMs with certain parameters.
# Features
* Various inferences
* Various sampling methods
* Metal
* Model setting templates
* LoRA adapters support
* LoRA FineTune and Export
# Inferences
* LLaMA
* GPTNeoX
* Replit
* GPT2 + Cerebras
* Starcoder(Santacoder)
* RWKV (20B tokenizer)
* Falcon
* MPT
* Bloom
* StableLM-3b-4e1t
* Qwen
* Gemma
* Phi
* Mamba
* Others
# Multimodal
* LLaVA 1.5 models
* Obsidian
* MobileVLM 1.7B/3B models
Note: For Falcon, Alpaca, GPT4All, Chinese LLaMA / Alpaca and Chinese LLaMA-2 / Alpaca-2, Vigogne (French), Vicuna, Koala, OpenBuddy (Multilingual), Pygmalion/Metharme, WizardLM, Baichuan 1 & 2 + derivations, Aquila 1 & 2, Mistral AI v0.1, Refact, Persimmon 8B, MPT, Bloom select llama inferece in model settings.
Sampling methods
* Temperature (temp, tok-k, top-p)
* Tail Free Sampling (TFS)
* Locally Typical Sampling
* Mirostat
* Greedy
* Grammar (dont work with GGJTv3)
Що нового
Версія 1.1.1
Changes:
* llama.cpp updated to b2717
* Phi3, Mamba(CPU only), Gemma, StarCoder2, GritLM, Command-R, MobileVLM_V2, qwen2moe models
* IQ1_S, IQ2_S, IQ2_M, IQ3_S, IQ4_NL, IQ4_XS quntization support
* Performance improvements
* Fixed crash when EOS option is on
* Fixed image orientation
* Added warning about creating a chat without a selected model
Приватність програми
Розробник (Artem Savkin) зазначив, що до процедур забезпечення приватності програми може входити обробка даних, як це описано нижче. Докладніші відомості наведено на сторінці політики приватності розробника.
Дані не збираються
Розробник не збирає жодних даних із цієї програми.
Процедури роботи з конфіденційною інформацією можуть відрізнятися з урахуванням, наприклад, вашого віку або функцій, якими ви користуєтеся. Докладніше
Інформація
- Постачальник
- Artem Savkin
- Розмір
- 18,4 МБ
- Категорія
- Інструменти розробника
- Сумісність
-
- iPhone
- Потрібна iOS 16.0 чи новішої версії.
- iPad
- Потрібна iPadOS 16.0 чи новішої версії.
- Mac
- Потрібні macOS 13.0 або новішої версії та Mac із чіпом Apple M1 або новішої версії.
- Apple Vision
- Потрібна visionOS 1.0 чи новішої версії.
- Мови
-
Англійська
- Вікова категорія
- 4+
- Copyright
- © Artem Savkin
- Ціна
- Безкоштовно