Huawei Technologies introdujo un software de código abierto que, según afirmó, puede mejorar significativamente la tasa de utilización de los chips de inteligencia artificial, marcando el último esfuerzo de las empresas chinas para lograr capacidades de capacitación en IA de clase mundial incluso sin acceso a los últimos procesadores Nvidia.
Flex:ai, que agrupa y organiza procesadores para obtener más rendimiento, llegó como parte del esfuerzo de Huawei para desarrollar un ecosistema informático autosuficiente superando las deficiencias de China en los conjuntos de chips individuales.
Construido sobre una plataforma de código abierto llamada Kubernetes, el software es un sistema de orquestación para unidades de procesamiento gráfico (GPU), unidades de procesamiento neuronal (NPU) y otros aceleradores de diferentes fabricantes de chips.
Podría cortar una sola tarjeta en múltiples unidades informáticas virtualizadas, permitiendo que varias cargas de trabajo de IA se ejecuten en paralelo, según Huawei.
El sistema también puede agrupar procesadores inactivos de diferentes nodos y redistribuir su potencia a tareas de IA.
Kubernetes, ahora una columna vertebral de la infraestructura de IA, es un sistema de código abierto que coordina grandes flotas de aplicaciones en contenedores. La contenedorización es una técnica que facilita el despliegue y la escala de modelos de IA en diferentes servidores y clústeres de GPU.
Flex:ai fue diseñado para mejorar el uso de recursos informáticos y fue parte del esfuerzo de Huawei para acelerar la «democratización de la IA» liberando el potencial de la infraestructura de IA y el código abierto y Flex:ai será de código abierto a través de la comunidad de desarrolladores ModelEngine de Huawei.
El software llega a medida que las empresas tecnológicas chinas recurren cada vez más a la optimización de software para compensar el acceso limitado a los chips más avanzados, y a medida que el auge de la IA crea grupos extensos de aceleradores que necesitan formas más inteligentes y automatizadas para ejecutarse de manera eficiente.
0
0
44
