Private LLM - Local AI Chatbot 17+

Désormais avec des modèles basés sur Llama 3.2 1B, Llama 3.2 3B et Gemma 2 9B.

Rencontrez Private LLM : Votre assistant IA sécurisé et hors ligne pour macOS

Private LLM apporte des capacités d'IA avancées directement sur votre iPhone, iPad et Mac — tout en gardant vos données privées et hors ligne. Avec un achat unique et sans abonnement, vous bénéficiez d'un assistant IA personnel qui fonctionne entièrement sur votre appareil.

Caractéristiques principales :

- Fonctionnalité IA locale : Interagissez avec un chatbot IA sophistiqué sans avoir besoin de connexion Internet. Vos conversations restent sur votre appareil, garantissant une confidentialité totale.

- Large gamme de modèles IA : Choisissez parmi divers modèles LLM open-source tels que Llama 3.2, Llama 3.1, Google Gemma 2, Microsoft Phi-3, Mistral 7B et StableLM 3B. Chaque modèle est optimisé pour le matériel iOS et macOS grâce à la quantification avancée OmniQuant, offrant des performances supérieures par rapport aux méthodes de quantification traditionnelles RTN.

- Intégration avec Siri et Raccourcis : Créez des workflows pilotés par l'IA sans écrire de code. Utilisez les commandes Siri et les raccourcis Apple pour améliorer la productivité dans des tâches comme l'analyse et la génération de texte.

- Pas d'abonnements ni de connexions : Profitez d'un accès complet avec un achat unique. Pas besoin d'abonnements, de comptes ou de clés API. De plus, avec le partage familial, jusqu'à six membres de la famille peuvent utiliser l'application.

- Services de langage IA sur macOS : Utilisez des outils alimentés par l'IA pour la correction grammaticale, la synthèse et plus encore dans diverses applications macOS et dans plusieurs langues.

- Performances supérieures avec OmniQuant : Bénéficiez du processus de quantification avancé OmniQuant, qui préserve la distribution des poids du modèle pour des réponses plus rapides et plus précises, surpassant les applications utilisant des techniques de quantification standard.

Familles de modèles prises en charge :

- Modèles basés sur Llama 3.2
- Modèles basés sur Llama 3.1
- Modèles basés sur Phi-3
- Modèles basés sur Google Gemma 2
- Modèles basés sur Mixtral 8x7B
- Modèles basés sur CodeLlama 13B
- Modèles basés sur Solar 10.7B
- Modèles basés sur Mistral 7B
- Modèles basés sur StableLM 3B
- Modèles basés sur Yi 6B
- Modèles basés sur Yi 34B

Pour une liste complète des modèles pris en charge, y compris les spécifications détaillées, veuillez visiter privatellm.app/models.

Private LLM est une meilleure alternative aux applications wrappers génériques llama.cpp et MLX comme Ollama, LLM Farm, LM Studio, RecurseChat, etc. sur trois fronts :
1. Private LLM utilise un moteur d'inférence plus rapide basé sur mlc-llm.
2. Tous les modèles dans Private LLM sont quantifiés en utilisant l'algorithme de quantification OmniQuant de pointe, tandis que les applications concurrentes utilisent une quantification naïve par approximation au plus proche.
3. Private LLM est une application entièrement native construite avec C++, Metal et Swift, tandis que de nombreuses applications concurrentes sont des applications basées sur Electron (gonflées).

Optimisé pour les Mac Apple Silicon avec la puce Apple M1 ou plus récente, Private LLM pour macOS offre les meilleures performances. Les utilisateurs sur les anciens Mac Intel sans eGPU peuvent rencontrer des performances réduites.