LLM Farm 4+

Artem Savkin

Được thiết kế cho iPad

    • Miễn phí

Ảnh Chụp Màn Hình

Miêu tả

LLMFarm is an iOS and MacOS app to work with large language models (LLM). It allows you to load different LLMs with certain parameters.

# Features
* Various inferences
* Various sampling methods
* Metal
* Model setting templates
* LoRA adapters support
* LoRA FineTune and Export

# Inferences
* LLaMA
* GPTNeoX
* Replit
* GPT2 + Cerebras
* Starcoder(Santacoder)
* RWKV (20B tokenizer)
* Falcon
* MPT
* Bloom
* StableLM-3b-4e1t
* Qwen
* Gemma
* Phi
* Mamba
* Others

# Multimodal
* LLaVA 1.5 models
* Obsidian
* MobileVLM 1.7B/3B models

Note: For Falcon, Alpaca, GPT4All, Chinese LLaMA / Alpaca and Chinese LLaMA-2 / Alpaca-2, Vigogne (French), Vicuna, Koala, OpenBuddy (Multilingual), Pygmalion/Metharme, WizardLM, Baichuan 1 & 2 + derivations, Aquila 1 & 2, Mistral AI v0.1, Refact, Persimmon 8B, MPT, Bloom select llama inferece in model settings.

Sampling methods
* Temperature (temp, tok-k, top-p)
* Tail Free Sampling (TFS)
* Locally Typical Sampling
* Mirostat
* Greedy
* Grammar (dont work with GGJTv3)

Có gì Mới

Phiên bản 1.3.4

* Added Gemma2, T5, JAIS, Bitnet support, GLM(3,4), Mistral Nemo
* Added OpenELM support (270M only so far)
* Added the ability to change the styling of chat messages.
* Added a built-in demo chat for new users. (The ChatML template is used)
* Some detokenizer fixes
- LoRa and FineTune are temporarily disabled due to the need for code refactoring due to a large number of errors.

Quyền Riêng Tư Của Ứng Dụng

Nhà phát triển, Artem Savkin, đã cho biết rằng phương thức đảm bảo quyền riêng tư của ứng dụng có thể bao gồm việc xử lý dữ liệu như được mô tả ở bên dưới. Để biết thêm thông tin, hãy xem chính sách quyền riêng tư của nhà phát triển.

Dữ Liệu Không Được Thu Thập

Nhà phát triển không thu thập bất kỳ dữ liệu nào từ ứng dụng này.

Phương thức đảm bảo quyền riêng tư có thể khác nhau, chẳng hạn như dựa trên các tính năng bạn sử dụng hoặc độ tuổi của bạn. Tìm hiểu thêm.

Có Thể Bạn Cũng Thích

Enchanted LLM
Công Cụ Nhà Phát Triển
ChatOnMac.com — AI Chat Bots
Công Cụ Nhà Phát Triển
Jellycuts
Công Cụ Nhà Phát Triển
AWS IoT Sensors
Công Cụ Nhà Phát Triển
Changes for Linear
Công Cụ Nhà Phát Triển
Server: Host Files Locally
Công Cụ Nhà Phát Triển