En un gran salto para el procesamiento de la IA Edge, NTT Corporation ha anunciado un innovador chip de inferencia de IA que puede procesar un video 4K en tiempo real a 30 cuadros por segundo, utilizando menos de 20 vatios de potencia. Este nuevo chip de integración a gran escala (LSI) es el primero en el mundo en lograr una inferencia de video AI de alto rendimiento en entornos limitados con energía, lo que lo convierte en un avance para las aplicaciones de computación de borde.
Revelado durante NTT’s Actualización 2025 Summit en San Francisco, el chip está diseñado específicamente para la implementación en dispositivos de borde: hardware ubicado físicamente cerca de la fuente de datos, como drones, cámaras inteligentes y sensores. A diferencia de los sistemas de IA tradicionales que dependen de la computación en la nube para la inferencia, este chip trae potentes capacidades de IA directamente al borde, reduciendo drásticamente la latencia y eliminando la necesidad de transmitir un video de ultra alta definición a los servidores de nubes centralizados para el análisis.
Edge Computing versus computación en la nube: por qué importa
En la computación en la nube tradicional, los datos de dispositivos como drones o cámaras se envían a centros de datos remotos, a menudo ubicados a cientos o miles de millas de distancia, donde se procesa y analiza. Si bien este enfoque ofrece potencia de cálculo prácticamente ilimitada, introduce retrasos debido a la transmisión de datos, lo que es problemático para aplicaciones en tiempo real como navegación autónoma, monitoreo de seguridad y toma de decisiones en vivo.
Por el contrario, la computación de borde procesa datos localmente, en o cerca del dispositivo. Esto reduce la latencia, conserva el ancho de banda y permite ideas en tiempo real incluso en entornos con conectividad a Internet limitada o intermitente. También mejora la privacidad y la seguridad de los datos al minimizar la necesidad de transmitir datos confidenciales a través de las redes públicas.
El nuevo chip AI de NTT abarca completamente esta filosofía de primer borde: el análisis de video 4K en tiempo real que figura directamente dentro del dispositivo, sin depender de la nube.
Una nueva era para la IA en tiempo real en drones y dispositivos
Con este chip instalado, un dron puede detectar personas u objetos desde hasta 150 metros (492 pies), el límite de altitud legal para los drones en Japón. Esa es una mejora dramática sobre los sistemas de IA en tiempo real tradicionales, que generalmente se limitan a un rango de 30 metros debido a una menor resolución o velocidad de procesamiento.
Este avance permite una gran cantidad de nuevos casos de uso, que incluyen:
-
Inspecciones de infraestructura En lugares difíciles de alcanzar
-
Respuesta a desastres en áreas con conectividad limitada
-
Monitoreo agrícola a través de campos anchos
-
Seguridad y vigilancia sin enlaces ascendentes de nubes constantes
Todo esto se logra con un chip que consume menos de 20 vatios, dramáticamente más bajos que los cientos de vatios requeridos por los servidores de IA con GPU, que no son prácticos para los sistemas móviles o con baterías.
Dentro del chip: motor de inferencia de IA patentado de NTT
El rendimiento del LSI depende del motor de inferencia AI personalizado de NTT, que garantiza resultados precisos y de alta velocidad y minimiza el uso de energía. Las innovaciones clave incluyen:
-
Correlación entre marco: Al comparar marcos de video secuenciales, el chip reduce los cálculos redundantes, mejorando la eficiencia.
-
Control dinámico de precisión de bits: Esta técnica ajusta la precisión numérica requerida sobre la mosca, utilizando menos bits para tareas más simples, conservando energía sin comprometer la precisión.
-
Ejecución nativa de yolov3: El chip admite la ejecución directa de Solo miras una vez v3uno de los algoritmos de detección de objetos en tiempo real más rápido en el aprendizaje automático.
Estas características combinadas permiten que el chip entregue un rendimiento de IA robusto en entornos que anteriormente se consideran demasiado limitados por el ancho de potencia o de banda para la inferencia avanzada.
Camino hacia la comercialización y la visión de iown
NTT planea comercializar el chip dentro del año fiscal 2025 a través de su empresa operativa, NTT Innovative Devices Corporation.
Los investigadores ya están explorando su integración en la innovadora red óptica e inalámbrica (IOWN), la visión de infraestructura de próxima generación de NNTT destinada a revisar la columna vertebral digital de la sociedad moderna. Dentro de la infraestructura (DCI) centrada en los datos de IOWN, el ChIP aprovecharía la red de fotónicos para la red de latencia ultra baja, comunicación de alta velocidad, complementando la potencia de procesamiento local que aporta a los dispositivos de borde.
NTT también está colaborando con NTT Data, Inc. para combinar las capacidades del chip con su tecnología de cifrado basado en atributos (ABE), que permite un control de acceso seguro y de grano fino sobre datos confidenciales. Juntas, estas tecnologías admitirán aplicaciones de IA que requieren velocidad y seguridad, como en la atención médica, las ciudades inteligentes y los sistemas autónomos.
Un legado de innovación y una visión para el futuro
Este chip de inferencia de IA es la última demostración de la misión de NTT de potenciar una sociedad sostenible e inteligente a través de una profunda innovación tecnológica. Como líder mundial con más de $ 92 mil millones en ingresos, 330,000 empleados y $ 3.6 mil millones en I + D anual, NTT atiende a más del 75% de las compañías de Fortune Global 100 y millones de consumidores en 190 países.
Ya sea que se trate de drones volando más allá de la línea de visión visual, las cámaras que detectan eventos en tiempo real sin dependencia de la nube, o obtienen flujos de datos con cifrado basado en atributos, el nuevo chip de NTT prepara el escenario para la próxima frontera en IA en el borde, donde la inteligencia se encuentra con la inmediato.
