Liderando la Revolución de la
Tecnología de IA Generativa
La IA generativa está impulsando la próxima ola de innovación en semiconductores.
Como líder de la industria en el desarrollo de productos de sistemas en chip de alto rendimiento y con alta eficiencia energética, en MediaTek ya estamos incorporando a nuestro diverso ecosistema de productos los beneficios de nuestros potentes procesadores de IA diseñados internamente.
Ahora exportamos más de 2,000 millones de chips en dispositivos conectados cada año, muchos de los cuales contienen nuestros procesadores de IA, lo que nos convierte en uno de los proveedores de IA de vanguardia del mundo. Con nuestro amplio alcance en el mercado, encontrará nuestras tecnologías de IA en dispositivos domésticos, educativos, empresariales, móviles y vehículos.
IA híbrida de MediaTek: borde y nube
MediaTek está en una posición única para impulsar y respaldar la adopción de aplicaciones y tecnologías de IA generativa, ya sea que se implementen en la nube, en el borde en los dispositivos o como un enfoque híbrido que aprovecha tanto la nube como el borde.
El ecosistema integral de IA de MediaTek
El ecosistema de IA de MediaTek incluye hardware, herramientas de desarrollo y un kit de desarrollo de software (SDK).
Los desarrolladores de software tienen acceso a herramientas y algoritmos integrales, mientras que MediaTek NeuroPilot permite una estrategia de escritura única e implementación en todas partes que simplifica el desarrollo de aplicaciones en toda la gama de productos de MediaTek.
La unidad de procesamiento de IA de MediaTek
Las Unidades de Procesamiento de IA (APU) de MediaTek son tan importantes como las CPU y GPUs dentro de nuestro sistema en chips.
Las APU de MediaTek proporcionan una arquitectura muy eficiente para implementar la aceleración de IA en dispositivos de borde, como teléfonos inteligentes, tabletas, IA + IoT, televisores inteligentes, SoCs de red y más.
Utilizando cinco redes neuronales comunes como punto de referencia, las curvas de potencia/rendimiento promedio muestran que el Acelerador de Aprendizaje Profundo (DLA) de MediaTek ofrece una eficiencia energética 27 veces mayor en comparación con una CPU típica y una eficiencia energética 15 veces mayor en comparación con una GPU típica.
En 2023, MediaTek lanzó su arquitectura de IA de próxima generación, que está diseñada específicamente para acelerar la IA generativa basada en modelos transformadores. Su diseño altamente flexible puede escalar el rendimiento con unidades de cómputo, uso de energía, ancho de banda de memoria y capacidad de memoria según los requisitos de la aplicación, ya sea en un SoC de teléfono inteligente o en un superchip en escala de centro de datos.
Tecnologías APU de MediaTek
La APU de MediaTek es un procesador multinúcleo altamente escalable que puede contener núcleos MDLA y MVPU en cantidades variables, según los requisitos de la aplicación.
Cada APU de MediaTek contiene lo siguiente:
- Programador multinúcleo basado en hardware.
- Un motor DMA dedicado que realiza la fusión de capas profundas y la compresión de datos para reducir la demanda de ancho de banda DRAM.
- Inteligencia de poder y conciencia de la memoria compartida.
- MediaTek diseñó Network on Processor para la comunicación entre núcleos de baja latencia.
Acelerador de aprendizaje profundo de MediaTek (MDLA)
- Alto rendimiento, programable y versátil, con una arquitectura MAC de bajo consumo que puede realizar la reutilización de datos en una amplia gama de aplicaciones NN.
- Diseñado para manejar diferentes tipos de redes, incluyendo:
- (a) Redes neuronales convolucionales
- (b) Redes neuronales recurrentes
- (c) Modelos largos de memoria a corto plazo y
- (d) representaciones móviles de codificadores bidireccionales a partir de transformadores (BERT)
- Supports INT4/INT8/INT16, FP16, BF16 and mixed precision to further reduce power consumption.
- Inter subsystem direction communication with the ISP and DPU (display) minimizes latency and power consumption.
Unidad de procesamiento de visión (MVPU) de MediaTek
- DSP de propósito general optimizado para aplicaciones de visión artificial (CV) y redes neuronales (NN).
- El mejor equilibrio entre potencia y rendimiento para aplicaciones de procesamiento visual como fotografía, videografía y reproducción de secuencias de vídeo.
MediaTek NeuroPilot SDK
MediaTek NeuroPilot es un conjunto de herramientas de software y API para que los clientes y desarrolladores optimicen sus aplicaciones basadas en IA para su uso en los SoC MediaTek.
Ambas herramientas están disponibles en versiones locales y en la nube, incluidos modelos de aprendizaje profundo previamente entrenados que pueden acelerar aún más el desarrollo. NeuroPilot es compatible con muchos marcos de IA convencionales, incluidos TensorFlow, Caffe, ONNX y transformadores, y también funciona con los sistemas operativos Linux y Android. Durante la etapa posterior al silicio, los desarrolladores pueden implementar su modelo de IA entrenado en su plataforma para medir directamente el rendimiento.
Eficiencia en su núcleo
NeuroPilot también ofrece optimización con reconocimiento de plataformas. Con NeuroPilot, una aplicación comprenderá el hardware SoC en el que opera, enviando las tareas de IA a la unidad de procesamiento más adecuada, ya sea la CPU, GPU, APU o DSP.
Además, cuando sea necesario, NeuroPilot incluso adoptará la computación heterogénea para combinar las fortalezas de múltiples unidades de procesamiento y así proporcionar los mejores resultados, por ejemplo, usar una GPU y una APU juntas en el renderizado de gráficos 3D AI-VRS, AI-HDR o el escalado de super resolución.
MediaTek Research es un equipo de investigación especializado en IA que incluye reconocidos investigadores con diversos antecedentes en ciencias de la computación, ingeniería, matemáticas y física. Nuestra visión es superar los límites de lo que es posible en la Inteligencia Artificial (IA) y el Aprendizaje Automático (ML), que, creemos, pueden desbloquear nuevas oportunidades, descubrimientos y avances que darán forma a nuestro futuro.