Private LLM - Local AI Chatbot 17+

Secure Private AI Chatbot

Numen Technologies Limited

    • 9,99 €

Description

Discover Private LLM, your secure, private AI assistant for iPhone, iPad, and macOS. Designed to boost your productivity and creativity while ensuring your privacy, Private LLM is a one-time purchase offering a universe of AI capabilities without subscriptions. Our chatbot utilizes cutting-edge on-device AI to keep your interactions confidential and completely offline, compatible with all your Apple devices.

Why Choose Private LLM?

- Diverse AI Models at Your Command: Select from a wide array of open-source LLM model families such as Google Gemma 2B, Mixtral 8x7B, Mistral 7B, Llama 2 (7B, 13B, and 33B), CodeLlama 13B, Solar 10.7B, and Phi 2 3B. Customize your AI experience for creative brainstorming, coding assistance, or daily inquiries.

- Seamless Siri & Shortcuts Integration: Enhance your AI interactions with Siri commands and customizable Shortcuts, making your digital assistant more integrated and accessible within your Apple ecosystem.

- Customizable System Prompts: Fine-tune your AI's responses and interactions to your liking with customizable system prompts, catering to your specific needs and preferences.

- Complete Privacy and Security: Private LLM confines your conversations to your device, providing unparalleled privacy. Our on-device AI enables powerful computing without data compromise or the need for an internet connection.

- Family Sharing & Offline Functionality: A one-time purchase that supports Family Sharing. Download models as needed and enjoy full AI assistant functionality, even offline.

- System Wide Grammar Correction and Summarization: Offering grammar correction, summarization, text shortening, and rephrasing within any app on your Mac.

Private LLM is more than a chatbot; it's an all-encompassing AI companion that respects your privacy while offering versatile, on-demand assistance. Whether for creative writing, solving complex programming issues, or general inquiries, Private LLM adapts to your needs, ensuring your data remains secure and on your device. Embark on a journey with Private LLM today and elevate your productivity and creative projects with the most private AI assistant for macOS and iOS devices.

Leveraging state-of-the-art Omniquant quantized models, Private LLM is a native Mac app that surpasses others with superior text generation, faster performance, and deeper integration compared to apps using generic baseline RTN quantized models like Ollama and LMStudio.

Supported Model Families:

- Google Gemma Based Models
- Mixtral 8x7B Based Models
- Llama 33B Based Models
- Llama 2 13B Based Models
- CodeLlama 13B Based Models
- Llama 2 7B Based Models
- Solar 10.7B Based Models
- Phi 2 3B Based Models
- Mistral 7B Based Models
- StableLM 3B Based Models
- Yi 6B Based Models
- Yi 34B Based Models

For a full list of supported models, including detailed specifications, please visit our website.

Optimized for Apple Silicon Macs with the Apple M1 chip or later, Private LLM for macOS delivers the best performance. Users on older Intel Macs without eGPUs may experience reduced performance.

What’s New

Version 1.8.6

- Support for downloading a 4-bit OmniQuant quantized version of the Meta-Llama-3-70B-Instruct model on Apple Silicon Macs with 48GB or more RAM.
- Support for downloading a 4-bit OmniQuant quantized version of the new Phi-3-Mini based kappa-3-phi-abliterated model on all Macs.
- Stability improvements and bug fixes.

Ratings and Reviews

4.0 out of 5
7 Ratings

7 Ratings

Duchnouk ,

Très prometteur !

Fonctionne très bien sur mon mac M3 mais :
A quand l'ajout de LLM customisés?

Et surtout !

Quand pourrons nous injecter un fichier .doc ou .pdf ?

Developer Response ,

Merci pour votre commentaire ! Si vous utilisez un Mac M3 avec 32 Go de RAM ou plus, veuillez essayer le modèle Mixtral téléchargeable. Vous pouvez télécharger environ deux douzaines de LLMs sur l'application, et nous en ajoutons constamment d'autres. De plus, vous pouvez personnaliser le "prompt système" dans les paramètres pour personnaliser les LLMs. Nous travaillons sur la fonctionnalité de discussion avec les PDF. Veuillez essayer notre application iOS, elle est téléchargeable gratuitement pour toute personne ayant acheté l'application macOS.

Gegeokotcha ,

L’apps ne fonctionne pas !

Installer sur un MacBook Air il chauffe comme un dingue on pourrait faire cuire un œuf dessus et bien entendu l’application ne fonctionne pas !!!!! Un message d’erreur s’affiche !!! Bref 9.99€ à rembourser !!! Par ailleurs mon mac possède la version logiciel OSX SONOMA 14.0

Même combat sur mon iPhone 13 mini celui chauffe et l’apps s’arrête toute seule !!! Mon iPhone possède l’IOS 17.0.3 !!!!

Je vous demande le remboursement immédiat ! Merci

Developer Response ,

Nous avons déjà répondu à la revue de ce client sur l'App Store Mac. Pour tout le monde qui lit ceci, il est important de mentionner que le client possède un ancien MacBook Air Intel avec 8 GB de RAM.
8 GB de RAM en soi n'est pas un problème. Le problème est que la version macOS requise par notre application nécessite environ 5 GB de RAM pour fonctionner, et si les utilisateurs ont plusieurs applications en arrière-plan qui occupent toute la mémoire, le rendu souffre énormément.
Ce qui n'est pas mentionné ici est que nous avons eu de nombreux échanges par e-mail avec le client et que nous avons essayé de résoudre les problèmes avec lui, puis enfin nous avons même recommandé au client de demander un remboursement d'Apple et de se rendre sur reportaproblem.apple.com.

KellProd ,

Nul

L'application ne fonctionne pas correctement en français sur macos, la version iPad et iPhone présente des problèmes de performance.

Developer Response ,

Merci pour votre retour. Nous avons déjà été contactés par vous auparavant. Il est important de noter ici que votre ordinateur est un ancien MacBook Air Intel avec 8 Go de RAM.
Malheureusement, la performance de l'application sur les Mac Intel n'est pas très bonne en raison du manque d'unité mémoire. De plus, macOS sur les machines Intel est plus avide en mémoire que sur les Macs Apple Silicon. Nous avons entendu de nombreux clients heureux d'utiliser notre application sur des Macs Apple Silicon avec 8 Go de RAM. Nous agirons sur votre feedback et supprimerons le support des Mac Intel dans la version suivante de notre application.

App Privacy

The developer, Numen Technologies Limited, indicated that the app’s privacy practices may include handling of data as described below. For more information, see the developer’s privacy policy.

Data Not Collected

The developer does not collect any data from this app.

Privacy practices may vary based on, for example, the features you use or your age. Learn More

Supports

  • Family Sharing

    Up to six family members can use this app with Family Sharing enabled.

You Might Also Like

YourChat
Productivity
Local Brain
Productivity
MLC Chat
Productivity
Vanessa LLM
Productivity
Private LLM - Offline AI
Productivity
Patagonia AI - Private LLM
Productivity