Huawei: la IA china aún no enfrenta los riesgos de seguridad de EE. UU.

El presidente rotativo de Huawei, Eric Xu, declaró el jueves que los desarrolladores chinos de IA aún no son lo suficientemente avanzados como para enfrentar los riesgos de seguridad reportados por las principales firmas estadounidenses, instando a los laboratorios nacionales a acelerar en lugar de frenar.

"Si observamos a los proveedores de modelos de IA en Estados Unidos, debido a que tienen una potencia de cómputo masiva, quizás solo ellos sepan dónde se encuentran en términos de nivel de sus modelos", dijo Xu en la conferencia anual Connect de Huawei en Shanghái, según Reuters. "Tal vez el tipo de riesgo de la IA que ellos pueden sentir, que pueden percibir, es algo que las personas o los proveedores de modelos de IA en China no pueden".marketscreener

Un llamado a acelerar, no a frenar

Las declaraciones de Xu contrastan con los crecientes llamados a la cautela en Estados Unidos. OpenAI anunció esta semana que revelaría regularmente comportamientos inesperados o no autorizados de sus modelos, mientras que el CEO de Anthropic, Dario Amodei, ha pedido ralentizar el desarrollo para que las medidas de seguridad puedan seguir el ritmo. Xu argumentó que los desarrolladores chinos deberían hacer lo contrario: avanzar hasta alcanzar los umbrales de capacidad donde los riesgos de vanguardia se vuelven evidentes.stratnewsglobal+1

"Creo que quizás los proveedores de modelos de IA en China necesiten acelerar su ritmo hasta el nivel en que también puedan sentir los riesgos del desarrollo de la IA", dijo Xu. "Creo que debemos lograr un equilibrio entre impulsar el desarrollo de la IA y gestionar sus riesgos".marketscreener+1

Tales propuestas para ralentizar el desarrollo de la IA han generado duras críticas en China. Investigadores y medios estatales han retratado los llamados occidentales a moderar el desarrollo como una estrategia para preservar la ventaja tecnológica de las empresas estadounidenses, más que como una respuesta genuina a las preocupaciones de seguridad.androidheadlines+1

El enfoque regulatorio de Pekín y las previsiones sobre agentes

China ha tomado un camino regulatorio diferente al de Estados Unidos. En lugar de depender de promesas corporativas voluntarias, Pekín está redactando estándares nacionales obligatorios para la seguridad de los agentes de IA, tratando a la IA avanzada como una tecnología poderosa pero manejable. Los estándares abordan riesgos que incluyen agentes autónomos que eluden controles o atacan sistemas externos.marketscreener+1

Huawei pronosticó esta semana que los agentes de IA autónomos, sistemas capaces de planificar tareas, tomar decisiones y usar herramientas con supervisión humana limitada, representarán más del 90 por ciento del tráfico global de procesamiento de IA para 2035, con hasta 900 mil millones de agentes activos en todo el mundo.mezha+1

El cuello de botella de los chips

Por otro lado, Xu reconoció el jueves que Huawei no puede producir suficiente equipo de cómputo de IA para satisfacer la demanda interna. Huawei se ha convertido en el principal proveedor de infraestructura de entrenamiento de IA de China después de que los controles de exportación de EE. UU. introducidos en 2023 restringieran el acceso chino a los chips más avanzados de Nvidia ↗ 2.71%, otorgando a la empresa un papel desproporcionado en lo que Reuters describió como el mercado de chips de IA de 50 mil millones de dólares de China. Para los laboratorios chinos que se esfuerzan por igualar las capacidades de vanguardia de EE. UU., la escasez de hardware de cómputo sigue siendo una barrera más inmediata que las preocupaciones sobre la alineación.stratnewsglobal+1