El entrenamiento de modelos de inteligencia artificial más o menos avanzados requiere a menudo importantes recursos. Los modelos complejos significan millones de dólares en infraestructura. IBM ha creado tecnología para reducir el costo y el tiempo de capacitación. Y, por supuesto, ahorrar dinero.
La corporación presentó un prototipo de un nuevo coprocesador de inteligencia artificial de 7 nm de eficiencia energética. El uso del chip puede aumentar la eficiencia de los sistemas de entrenamiento en más de 7 veces. Automóviles autónomos, conversión de texto a voz, visión artificial, desarrollo de fármacos, drones de entrega: las aplicaciones de la IA son infinitas en la actualidad. Para implementar estos proyectos a gran escala, se necesitan estas tecnologías.
En la mayoría de los núcleos de computación, procesadores y SoC, afilados para el aprendizaje automático, los modos de bits bajos se utilizan con mayor frecuencia: FP16 e INT8. La precisión de 8 bits es simplemente redundante en este caso. IBM ha desarrollado un prototipo de un nuevo chip de inteligencia artificial para estos sistemas periféricos.
¿Qué tiene de interesante el coprocesador?
Chip de 4 núcleos. El
chip de origen está diseñado con una tecnología de proceso de 7 nm. Son posibles diferentes escenarios para usar el chip:
- En modo de 4 bits para tareas comunes. La tecnología le permite lograr resultados comparables a los del modo de 8 bits.
- En modo de 2 bits para tareas de inferencia. En este caso, a veces la precisión se reduce en un pequeño porcentaje, pero el rendimiento es 4 veces mayor en comparación con el modo de 8 bits.
- Modo híbrido para diferentes tipos de tareas.
Principales características del chip:
- Tecnología de proceso de 7 nm basada en EUV;
- uso de formato híbrido FP8 con HFP8;
- Gestión de energía de IA para aceleradores de hardware;
- adaptación a cargas elevadas permanentemente, lo que garantiza un alto rendimiento de las aplicaciones.
Fuente
Ámbito de aplicación de la novedad:
- formación de modelos a gran escala en la nube;
- mejorar la seguridad y la privacidad;
- Aumente la potencia de cálculo en entornos híbridos sin gastar demasiada energía.
IBM cree que el coprocesador será aplicable en visión artificial, sistemas de reconocimiento de voz y procesamiento de lenguaje natural para varias aplicaciones en la nube para detectar transacciones financieras fraudulentas. Además, los desarrolladores de vehículos autónomos, sistemas de videovigilancia y teléfonos móviles pueden beneficiarse del uso del chip.
