LLM Farm 4+

Artem Savkin

Dirancang untuk iPad

    • Gratis

Jepretan Layar

Deskripsi

LLMFarm is an iOS and MacOS app to work with large language models (LLM). It allows you to load different LLMs with certain parameters.

# Features
* Various inferences
* Various sampling methods
* Metal
* Model setting templates

# Inferences
* LLaMA
* GPTNeoX
* Replit
* GPT2 + Cerebras
* Starcoder(Santacoder)
* RWKV
* Falcon
* MPT
* Bloom
* StableLM-3b-4e1t
* Qwen
* Gemma
* Phi
* Mamba
* Others

# Multimodal
* LLaVA 1.5 models
* Obsidian
* Bunny
* MobileVLM 1.7B/3B models

Note: For Falcon, Alpaca, GPT4All, Chinese LLaMA / Alpaca and Chinese LLaMA-2 / Alpaca-2, Vigogne (French), Vicuna, Koala, OpenBuddy (Multilingual), Pygmalion/Metharme, WizardLM, Baichuan 1 & 2 + derivations, Aquila 1 & 2, Mistral AI v0.1, Refact, Persimmon 8B, MPT, Bloom select llama inferece in model settings.

Sampling methods
* Temperature (temp, tok-k, top-p)
* Tail Free Sampling (TFS)
* Locally Typical Sampling
* Mirostat
* Greedy
* Grammar

Yang Baru

Versi 1.4.0

Changes:
* llama.cpp updated to b3982
* Added RAG support for pdf documents
* Chat settings UI improvements
* Added text summarization shortcut
* Some metal improvemets
* Added support for Chameleon
* Fixed a bug causing the message copy dialog to be missing on some devices.
* Fixed some other errors

Privasi App

Pengembang, Artem Savkin, menunjukkan bahwa praktik privasi app dapat menyertakan penanganan data sebagaimana yang dijelaskan di bawah. Untuk informasi lebih lanjut, lihat kebijakan privasi pengembang.

Data Tidak Dikumpulkan

Pengembang tidak akan mengumpulkan data apa pun dari app ini.

Praktik privasi mungkin bervariasi, misalnya, praktik privasi berdasarkan fitur yang digunakan atau usia Anda. Pelajari Lebih Lanjut

Anda Juga Mungkin Menyukai

Enchanted LLM
Alat Pengembang
ChatOnMac.com — AI Chat Bots
Alat Pengembang
Changes for Linear
Alat Pengembang
Jellycuts
Alat Pengembang
AWS IoT Sensors
Alat Pengembang
Server: Host Files Locally
Alat Pengembang