Perplexity lanza un agente de IA local que mantiene los datos fuera de la nube

Perplexity lanzó el martes Portable Computer, una nueva versión de su plataforma de IA agentica diseñada para ejecutarse completamente en el hardware del usuario, enviando datos a la nube solo con permiso explícito. El producto representa un impulso hacia una IA centrada en la privacidad en un momento en que la mayoría de los asistentes dirigen todas las consultas a través de servidores remotos.

Cómo funciona

Portable Computer integra un modelo de IA local, un motor de inferencia, herramientas de agente, conectores de aplicaciones y un entorno de ejecución de código aislado en un solo sistema que opera en la máquina del usuario. Cada tarea comienza localmente. Si el modelo en el dispositivo encuentra un paso que requiere un razonamiento más avanzado, solicita permiso al usuario antes de enviar ese paso específico a un modelo de frontera basado en la nube. Los archivos y datos confidenciales pueden permanecer en el dispositivo en todo momento.venturebeat+2

En el lanzamiento, los usuarios pueden elegir entre un modelo Qwen de 27 mil millones de parámetros o la variante propia de Perplexity, PPLX 27B, y se espera que el Nemotron 3.5 Lightning de Nvidia se añada próximamente. Los usuarios también pueden utilizar su propio modelo y servidor de inferencia. El trabajo completado localmente no consume créditos de facturación; solo los pasos enviados a la nube cuentan para el uso.tomsguide

Hardware y disponibilidad

El software requiere hardware de Nvidia con al menos 24GB de VRAM. Se lanza primero en Linux, soportando Nvidia DGX Spark, así como máquinas con DGX OS o Ubuntu en hardware ARM o x64. El soporte para Windows está programado para septiembre, mientras que la disponibilidad en macOS no ha sido anunciada.zdnet+1

Portable Computer está disponible para los suscriptores de Perplexity Pro, Max, Enterprise Pro y Enterprise Max. Perplexity desarrolló el producto en asociación con Nvidia ↗ 8.74%, basándose en la plataforma de supercomputadora de escritorio DGX Spark.venturebeat+1

Privacidad frente a practicidad

El modelo de enrutamiento híbrido intenta resolver una tensión en la IA local: los modelos más pequeños en el dispositivo pueden manejar tareas sencillas como extraer información de archivos PDF o ejecutar comandos de shell, pero tienen dificultades con el razonamiento complejo que los grandes modelos en la nube manejan bien. En lugar de obligar a los usuarios a elegir entre privacidad y capacidad, Portable Computer permite que el sistema escale selectivamente, pero solo con la aprobación del usuario.tomsguide

Los requisitos de hardware significan que este lanzamiento inicial es más relevante para entusiastas de la IA, desarrolladores y empresas que ya poseen sistemas Nvidia de gama alta en lugar de consumidores típicos. Aun así, como señaló Tom's Guide, el producto "ofrece un vistazo de cómo podría ser un asistente de IA más privado una vez que el hardware necesario para ejecutarlo sea más asequible".tomsguide