Icono del sitio TransMedia

Chips Huawei Ascend aún dependen de los modelos IA de NVIDIA y China se preocupa por estancamiento

 

 

Los modelos de inteligencia artificial más avanzados de China todavía se están entrenando en chips Nvidia, (LLM), ya que el costo prohibitivamente alto de cambiar a semiconductores locales continúa obstaculizando el impulso de China por la autosuficiencia.

Mientras que el hardware doméstico sigue avanzando, el cambio de la arquitectura del chip presenta un fuerte cuello de botella de ingeniería.

Según los analistas, la formación de LLM en chips Nvidia por ahora sigue siendo la norma entre los desarrolladores chinos de IA y uno de los principales obstáculos radica en el ecosistema de software.

La plataforma Compute Unified Device Architecture (CUDA) de Nvidia ha sido durante mucho tiempo el estándar de la industria para el desarrollo de IA.

Por el contrario, la alternativa de Huawei, la arquitectura informática para redes neuronales requiere que los desarrolladores reescriban y optimicen grandes cantidades de código, según un investigador de IA involucrado en el desarrollo de modelos.

«Las canalizaciones de capacitación existentes dependen de CUDA. el cual  no puede ejecutarse directamente en Ascend y requiere una extensa reescritura y  la migración de los flujos de trabajo existentes a los chips Ascend de Huawei podría agregar al menos un 50 por ciento en tiempo y costos para su equipo.

El tiempo necesario para cambiar el tipo de chip en un sistema dependería de la apertura de un modelo y de la madurez del ecosistema circundante.

Para los modelos de código abierto como DeepSeek de China y sus versiones destiladas, la capacitación en chips Ascend podría llevar de dos a tres ingenieros aproximadamente un mes más que en los sistemas basados en Nvidia, ya que los desarrolladores podrían aprovechar el soporte existente del ecosistema.

Entrenar un modelo como Kimi K3 de Moonshot AI, que solo ha lanzado sus pesos, los parámetros subyacentes que codifican su inteligencia, en lugar de su código fuente, podría requerir un equipo de unos 10 ingenieros más de seis meses de trabajo adicional, dijo el ingeniero.

La continua dependencia de Nvidia destaca los desafíos que enfrentan los esfuerzos de China para reducir la dependencia de la oferta occidental, mientras que los laboratorios chinos se apresuran a avanzar en sus capacidades de IA.

Sistemas como DeepSeek-V4 y Kimi K3 de Moonshot se han adaptado con éxito para plataformas chinas como Huawei y Alibaba Group Holding. Ni DeepSeek ni Moonshot han revelado qué chips de IA utilizaron para entrenar a sus modelos.

Según se informa, Kimi K3 se entrenó en chips Nvidia, incluidos los procesadores Blackwell avanzados, según un informe de julio del medio estadounidense The Information, que también dijo que las empresas chinas de IA seguían confiando en el hardware de Nvidia para entrenar modelos de frontera, a pesar de los esfuerzos para expandir las alternativas nacionales.

Algunos equipos chinos han comenzado a usar chips locales para la capacitación en IA. En junio, Meituan lanzó LongCat-2.0, un modelo de 1,6 billones de parámetros que, dijo, estaba completamente entrenado y ejecutado en un clúster de potencia informática doméstica de 50.000 tarjetas, sin nombrar al proveedor.

Please follow and like us:
0
0
44
Salir de la versión móvil