Pocket Lab, que bate récords, reduce una supercomputadora de inteligencia artificial al tamaño de un banco de energía
Hemos recorrido un largo camino desde computadoras del tamaño de una habitación hasta PC elegantes computadora Sentados cómodamente en nuestros escritorios. Los avances en informática han impulsado factores de forma más pequeños y una mayor eficiencia. El Mac mini, por ejemplo, ilustra cuán compactas se han vuelto las PC modernas. Pero la pregunta sigue siendo: ¿qué tan pequeño puede ser un dispositivo informático potente? el último Récords Mundiales Guinness La certificación proporciona una respuesta sorprendente.
La startup estadounidense de tecnología profunda Tiiny AI lanzó Pocket Lab, oficialmente certificado como “la supercomputadora personal de inteligencia artificial más pequeña del mundo”. El dispositivo del tamaño de la palma de la mano no es más grande que un banco de energía típico y es capaz de ejecutar modelos de lenguajes grandes (LLM) con hasta 120 mil millones de parámetros completamente en el dispositivo, sin depender de servidores en la nube o GPU externas.
Diseñador: SIDA embarazada
El objetivo principal de Pocket Lab es hacer que la inteligencia artificial avanzada sea personal y privada. Los sistemas tradicionales de IA a menudo dependen de la infraestructura de la nube, lo que puede generar preocupaciones sobre la privacidad de los datos, la latencia y las emisiones de carbono asociadas con las grandes granjas de servidores. Pocket Lab resuelve estos problemas al permitir la computación con inteligencia artificial completamente fuera de línea. Todo el procesamiento, el almacenamiento de datos y la inferencia se producen localmente en el dispositivo, lo que reduce la dependencia de una conexión a Internet o de los recursos de la nube.
A pesar de sus dimensiones compactas de 14,2 × 8 × 2,53 cm y su peso de aproximadamente 300 gramos, este mini superordenador ofrece una potencia informática impresionante. El sistema funciona dentro de un rango de consumo de energía típico de 65 vatios, que es comparable al de una computadora de escritorio tradicional, pero aún puede admitir una amplia gama de cargas de trabajo de inteligencia artificial. La arquitectura de hardware combina una CPU ARMv9.2 de 12 núcleos con un módulo heterogéneo personalizado que contiene una unidad de procesamiento neuronal (NPU) dedicada para lograr un rendimiento informático de IA de aproximadamente 190 TOPS (tera operaciones por segundo). Esta configuración está respaldada por una memoria LPDDR5X de 80 GB y un SSD de 1 TB, lo que permite que los modelos grandes de IA se ejecuten de manera eficiente sin la necesidad de aceleradores externos.
La capacidad de Pocket Lab para ejecutar de manera eficiente modelos grandes en un paquete tan pequeño está respaldada por dos tecnologías clave. TurboSparse mejora la eficiencia de la inferencia y reduce la sobrecarga computacional mediante una activación escasa a nivel de neuronas al tiempo que conserva la inteligencia del modelo. PowerInfer es un motor de inferencia heterogéneo de código abierto con una gran base de desarrolladores que distribuye dinámicamente cargas de trabajo entre CPU y NPU, brindando un rendimiento de clase de servidor con un consumo de energía y un costo mucho menores que las soluciones tradicionales basadas en GPU.
De hecho, Pocket Lab admite una amplia gama de ecosistemas de herramientas y modelos de inteligencia artificial de código abierto. Los usuarios pueden implementar LLM populares como GPT-OSS, Llama, Qwen, DeepSeek, Mistral y Phi, así como marcos de agentes y herramientas de automatización, todos los cuales se pueden instalar con un solo clic. Esta amplia compatibilidad de software extiende la utilidad del dispositivo más allá de los aficionados y aficionados a desarrolladores, investigadores, profesionales y estudiantes.
Pocket Lab también enfatiza la privacidad y la memoria personal a largo plazo al almacenar todos los datos e interacciones del usuario localmente mediante cifrado de nivel bancario. Esta característica contrasta con muchos servicios de inteligencia artificial basados en la nube que guardan datos en servidores remotos. Tiiny AI planea mostrar Pocket Lab en CES 2026, pero no ha revelado todos los detalles sobre el precio o la fecha de lanzamiento.
