Private LLM - Local AI Chatbot 17+

Chatbot de IA Privado y Seguro

Numen Technologies Limited

    • 9,99 €

Capturas de pantalla

Descripción

Descubre Private LLM, tu asistente de IA seguro y privado para iPhone, iPad y macOS. Diseñado para impulsar tu productividad y creatividad mientras asegura tu privacidad, Private LLM es una compra única que ofrece un universo de capacidades de IA sin suscripciones. Nuestro chatbot utiliza IA de vanguardia en el dispositivo para mantener tus interacciones confidenciales y completamente fuera de línea, compatible con todos tus dispositivos Apple.

¿Por qué elegir Private LLM?

- Diversos modelos de IA a tu mando: Selecciona de una amplia gama de familias de modelos LLM de código abierto como Google Gemma 2B, Mixtral 8x7B, Mistral 7B, Llama 2 (7B, 13B y 33B), CodeLlama 13B, Solar 10.7B y Phi 2 3B. Personaliza tu experiencia de IA para el brainstorming creativo, asistencia de codificación o consultas diarias.

- Integración fluida con Siri y Shortcuts: Mejora tus interacciones de IA con comandos de Siri y Shortcuts personalizables, haciendo a tu asistente digital más integrado y accesible dentro de tu ecosistema Apple.

- Prompts de sistema personalizables: Ajusta las respuestas e interacciones de tu IA a tu gusto con prompts de sistema personalizables, atendiendo a tus necesidades y preferencias específicas.

- Completa privacidad y seguridad: Private LLM confina tus conversaciones a tu dispositivo, proporcionando una privacidad sin igual. Nuestra IA en el dispositivo permite una computación potente sin compromiso de datos o necesidad de una conexión a internet.

- Family Sharing y funcionalidad offline: Una compra única que admite Family Sharing. Descarga modelos según sea necesario y disfruta de la funcionalidad completa del asistente de IA, incluso sin conexión.

- Corrección de gramática y resumen en todo el sistema: Ofrece corrección de gramática, resumen, acortamiento de textos y reformulación dentro de cualquier aplicación en tu Mac.

Private LLM es más que un chatbot; es un compañero de IA integral que respeta tu privacidad mientras ofrece asistencia versátil y bajo demanda. Ya sea para escritura creativa, solución de problemas de programación complejos o consultas generales, Private LLM se adapta a tus necesidades, asegurando que tus datos permanezcan seguros y en tu dispositivo. Embárcate en un viaje con Private LLM hoy y eleva tu productividad y proyectos creativos con el asistente de IA más privado para dispositivos macOS y iOS.

Aprovechando los modelos cuantizados de última generación Omniquant, Private LLM es una aplicación nativa de Mac que supera a otras con una generación de texto superior, un rendimiento más rápido y una integración más profunda en comparación con aplicaciones que utilizan modelos cuantizados RTN genéricos como Ollama y LMStudio.

Modelos compatibles:

- Modelos basados en Google Gemma
- Modelos basados en Mixtral 8x7B
- Modelos basados en Llama 33B
- Modelos basados en Llama 2 13B
- Modelos basados en CodeLlama 13B
- Modelos basados en Llama 2 7B
- Modelos basados en Solar 10.7B
- Modelos basados en Phi 2 3B
- Modelos basados en Mistral 7B
- Modelos basados en StableLM 3B
- Modelos basados en Yi 6B
- Modelos basados en Yi 34B

Para obtener una lista completa de los modelos compatibles, incluyendo especificaciones detalladas, por favor visite nuestro sitio web.

Optimizado para Macs con Apple Silicon M1 o posterior, Private LLM para macOS ofrece el mejor rendimiento. Los usuarios de Macs Intel antiguos sin eGPUs pueden experimentar un rendimiento reducido.

Novedades

Versión 1.8.7

- Soporte para descargar una versión cuantizada OmniQuant de 3 bits del modelo Meta-Llama-3-70B-Instruct en Macs de Apple Silicon con 48GB o más de RAM.
- Mejoras en la estabilidad y correcciones de errores.

Si tiene algún comentario o pregunta, ¡nos encantaría escucharlo! Numen Technologies ofrece soporte técnico gratuito; puede enviarnos un correo electrónico: support@numen.ie, enviarnos un mensaje en nuestro Discord, o twittearnos @private_llm. Si encuentra útil Private LLM, agradeceríamos una reseña en la App Store. Su reseña ayudará a otras personas a encontrar Private LLM.

Valoraciones y reseñas

3,0 de 5
2 valoraciones

2 valoraciones

Slice313 ,

Nice

The developer is very active and is currently adding many improvements.

Respuesta del desarrollador ,

Thanks for your feedback! Please email us or message us on Twitter or Discord if there are any specific features or models that you'd like to have in our app.

Govorkaya ,

Too slow

Well maybe it's my 8GB mac, but this LLM is writing one word every 15 seconds, it's impossible to use.

Respuesta del desarrollador ,

LLM inference is quite memory intensive, but the 7B parameter model needs about 4.5GB of memory and works well on 8GB Macs. If it’s taking 15 seconds per word, it’s very likely that you have background apps that’s consuming most of the already scarce memory on your 8GB Mac and macOS is resorting to using swap memory, which is an order of magnitude slower than RAM. Please check for memory hungry apps using the Memory tab on Activity Monitor and close them before using Private LLM. Also, we aspire to delight our users with the app’s user experience, and if that’s not the case for any reason, please feel free to avail a refund by visiting reportaproblem.apple.com.

womo ,

Unusable

In its current iteration, it's simply unusuable. I get mostly nonsensical strings of seemingly associated text (not even proper sentences). For example:

<human> What is your name?
<bot> My name is Sora. And yes indeed - there were many times where even though they had no reason not do something else than stay home from school/work because their parents would say "it'll only take half hour" (or whatever) while actually taking more time then expected anyway....

Respuesta del desarrollador ,

Our app has evolved a lot since you left this review. We now have a bigger 7B parameter model by default and also an option to download WizardLM 13B parameter model for users using Apple Silicon Macs with 13GB of RAM or more. Would you be open to trying our app again?

Privacidad de la app

El desarrollador, Numen Technologies Limited, ha indicado que las prácticas de privacidad de la app pueden incluir la gestión de datos descrita a continuación. Para obtener más información, consulta la política de privacidad del desarrollador.

No se recopilan datos

El desarrollador no recopila ningún dato en esta app.

Las prácticas de privacidad pueden variar, por ejemplo, dependiendo de tu edad o de las funciones que uses. Más información

Compatibilidad

  • En familia

    Hasta seis miembros de la familia pueden usar esta app si está activado En familia.

También te puede interesar

YourChat
Productividad
Local Brain
Productividad
Private LLM - Offline AI
Productividad
MLC Chat
Productividad
Vanessa LLM
Productividad
LLM: Answering Machine
Productividad