LLM Farm 4+
Artem Savkin
Разработано для iPad
-
- Бесплатно
Снимки экрана
Описание
LLMFarm is an iOS and MacOS app to work with large language models (LLM). It allows you to load different LLMs with certain parameters.
# Features
* Various inferences
* Various sampling methods
* Metal
* Model setting templates
* LoRA adapters support
* LoRA FineTune and Export
# Inferences
* LLaMA
* GPTNeoX
* Replit
* GPT2 + Cerebras
* Starcoder(Santacoder)
* RWKV (20B tokenizer)
* Falcon
* MPT
* Bloom
* StableLM-3b-4e1t
* Qwen
* Gemma
* Phi
* Mamba
* Others
# Multimodal
* LLaVA 1.5 models
* Obsidian
* MobileVLM 1.7B/3B models
Note: For Falcon, Alpaca, GPT4All, Chinese LLaMA / Alpaca and Chinese LLaMA-2 / Alpaca-2, Vigogne (French), Vicuna, Koala, OpenBuddy (Multilingual), Pygmalion/Metharme, WizardLM, Baichuan 1 & 2 + derivations, Aquila 1 & 2, Mistral AI v0.1, Refact, Persimmon 8B, MPT, Bloom select llama inferece in model settings.
Sampling methods
* Temperature (temp, tok-k, top-p)
* Tail Free Sampling (TFS)
* Locally Typical Sampling
* Mirostat
* Greedy
* Grammar (dont work with GGJTv3)
Что нового
Версия 1.1.1
Changes:
* llama.cpp updated to b2717
* Phi3, Mamba(CPU only), Gemma, StarCoder2, GritLM, Command-R, MobileVLM_V2, qwen2moe models
* IQ1_S, IQ2_S, IQ2_M, IQ3_S, IQ4_NL, IQ4_XS quntization support
* Performance improvements
* Fixed crash when EOS option is on
* Fixed image orientation
* Added warning about creating a chat without a selected model
Оценки и отзывы
Good application
Interesting application. Sometimes it crashes, but it fulfills its task. I use it to generate prompts for stable diffusion.
Ответ разработчика ,
Thank you for your feedback, it means a lot to me.
Конфиденциальность приложения
Разработчик Artem Savkin указал, что в соответствии с политикой конфиденциальности приложения данные могут обрабатываться так, как описано ниже. Подробные сведения доступны в политике конфиденциальности разработчика.
Сбор данных не ведется
Разработчик не ведет сбор данных в этом приложении.
Конфиденциальные данные могут использоваться по-разному в зависимости от вашего возраста, задействованных функций или других факторов. Подробнее
Информация
- Провайдер
- Artem Savkin
- Размер
- 18,4 МБ
- Категория
- Разработчикам
- Совместимость
-
- iPhone
- Требуется iOS 16.0 или новее.
- iPad
- Требуется iPadOS 16.0 или новее.
- Mac
- Требуется macOS 13.0 или новее и компьютер Mac с чипом Apple M1 или новее.
- Apple Vision
- Требуется visionOS 1.0 или новее.
- Языки
-
английский
- Возраст
- 4+
- Copyright
- © Artem Savkin
- Цена
- Бесплатно