Una pantalla de teléfono que muestra una bandera china, sobre un fondo estilizado que muestra un chip de IA y los circuitos relacionados.

Fuente de la imagen,Sopa via Getty Images
Información del artículo
Autor,Jack Lauy Autor,Tony HanTítulo del autor,Unidad Global de China de BBC News

Mientras la inteligencia artificial avanza a una velocidad de vértigo, algunos de los líderes más destacados del sector han advertido en términos contundentes sobre la amenaza potencial que podría representar.

Dario Amodei, director ejecutivo de Anthropic, ha sostenido que debería reducirse el ritmo de desarrollo, una idea que apoyan los máximos responsables de dos empresas rivales de IA, Sam Altman, de OpenAI, y Elon Musk.

Otras figuras de Silicon Valley han llegado a sugerir que esta tecnología podría algún día amenazar la supervivencia de la humanidad.

Sin embargo, los esfuerzos por abordar estos riesgos se complican por la intensa rivalidad entre las dos principales superpotencias mundiales en materia de IA: China y Estados Unidos.

Como competidores estratégicos, ambos países suelen analizar los avances en IA desde la óptica de la seguridad nacional y la ventaja económica, lo que pone en duda la posibilidad de una cooperación significativa.

«Si la comunidad internacional espera que el diálogo entre Estados Unidos y China sobre estas cuestiones desemboque en un acuerdo vinculante, se verá decepcionada», señala Ilaria Carrozza, investigadora principal del Instituto de Investigación para la Paz de Oslo (PRIO).

IA «bajo control humano»
China tiene grandes planes para la IA y visualiza un futuro en el que esta tecnología se integre en todos los ámbitos de la sociedad y la economía, desde la agricultura y la sanidad hasta el sector militar.

No obstante, el gobierno también lleva tiempo advirtiendo sobre sus riesgos.

Desde entonces, China ha exigido que se etiquete el contenido generado por IA en las redes sociales, ha prohibido las parejas virtuales basadas en IA para menores y ha vetado el uso de deepfakes (vídeos manipulados) para difundir desinformación.

Las agencias gubernamentales y los asesores políticos chinos gozan de una «considerable autoridad para definir los términos de un desarrollo aceptable» en comparación con sus homólogos estadounidenses, señala el profesor Zeng Jinghan, de la City University de Hong Kong, que ha participado en conversaciones informales entre Estados Unidos y China sobre IA.

Para abordar la preocupación de que la IA pueda descontrolarse, el presidente chino, Xi Jinping, advirtió en julio que la tecnología «debe permanecer siempre bajo control humano».

Estas declaraciones se produjeron durante un acto de la Organización Mundial de Cooperación en Inteligencia Artificial, una iniciativa global creada por China para fomentar el diálogo internacional sobre la gobernanza de la IA.

En su marco más reciente sobre seguridad de la IA, publicado en septiembre, la Administración del Ciberespacio —el organismo regulador de internet de China — afirmó que eran necesarias políticas proactivas para evitar que la IA amenazara la «supervivencia y el desarrollo de la humanidad».

¿Una tecnología gobernable?
Si bien sus autoridades reconocen el riesgo de que la IA escape al control humano, en China la preocupación de que suponga una amenaza existencial para la humanidad ocupa un lugar mucho menos destacado en el debate que en Estados Unidos.

Pekín considera este riesgo una cuestión más entre las muchas que deben abordarse mediante políticas gubernamentales.

«La gobernanza de la IA en China cumple varios objetivos simultáneamente: fomentar el desarrollo económico, gestionar los riesgos tecnológicos y sociales, y mantener la autoridad política», explica el profesor Zeng.

Shaoshan Liu, director del Instituto de Inteligencia Artificial y Robótica para la Sociedad de Shenzhen, reafirma esta idea.

«Los debates en China tienden a centrarse más en la capacidad de control, el uso indebido y las consecuencias sociales, mientras que en Estados Unidos han pasado a estar dominados por escenarios hipotéticos de pérdida de control o de extinción», asevera.

Las preocupaciones de los funcionarios chinos sobre los riesgos que plantea la IA se ven matizadas por la convicción de que esta tecnología será un motor crucial de crecimiento, en un momento en que la economía de China se está desacelerando.

Los modelos de IA de gigantes tecnológicos chinos como Tencent, Alibaba, Baidu y ByteDance compiten a nivel mundial.

Algunos de los modelos más avanzados provienen de empresas emergentes o start-ups, como 01.AI, DeepSeek, MiniMax, Moonshot AI y Z.ai.

Las empresas no respondieron a las solicitudes de comentarios.

Liu afirma que Pekín intenta lograr un equilibrio entre fomentar la industria china de la IA y abordar los riesgos emergentes.

«Eso es muy distinto a afirmar que la tecnología debe dejar de avanzar», señala.

«Quien gane en IA, será el vencedor»
Más allá de las prioridades internas de China, existen otras consideraciones geopolíticas.

El presidente de EE.UU., Donald Trump, ha descrito el desarrollo de la IA como una carrera de alto riesgo contra China.

«Llevamos ventaja a China en IA… y, francamente, quiero que siga siendo así, porque quien gane en IA, será el vencedor», ha declarado.

En un artículo publicado en septiembre en una revista estatal, el máximo responsable de inteligencia de China, Chen Yixin, también planteó el desarrollo de la IA en términos geopolíticos, calificandolo de un «nuevo escenario de rivalidad estratégica entre las grandes potencias».

Aunque los llamados a frenar el desarrollo de la IA han provenido mayoritariamente de figuras del sector tecnológico estadounidense —y no de funcionarios gubernamentales— la competencia geopolítica ha hecho que Pekín reciba esas solicitudes con cautela.

En agosto, poco antes de que Amodei advirtiera sobre los riesgos de la IA, los medios estatales chinos acusaron al cofundador de Anthropic de alinear a su empresa con los intereses geopolíticos de Estados Unidos.

«El pensamiento de Amodei ha evolucionado, pasando de ‘mi país tiene la razón’ a ‘todos aquellos que no cooperen deben ser reprimidos'», publicó Yuyuantantian, una cuenta en redes sociales gestionada por la cadena estatal CCTV.

Primer plano de perfil de Dario Amodei, con gafas redondas negras y una chaqueta de traje azul, sobre un fondo azul.Fuente de la imagen,Reuters
Pie de foto,Amodei cree que una mayor ventaja de Estados Unidos en IA podría alentar a China a respaldar un desarrollo más lento de la IA.
El reciente llamado de Amodei a ralentizar el desarrollo provocó nuevas críticas en los medios estatales chinos, que destacaron las sugerencias del director ejecutivo de Anthropic de obstaculizar el progreso del gigante asiático en IA.

A pesar de la desconfianza reinante, existe la esperanza de que la cumbre entre Xi Jinping y Donald Trump, prevista para finales de este mes en Washington D.C., pueda conducir a algún tipo de acuerdo.

Según Reuters, los funcionarios chinos consideran la IA un punto clave de la agenda.

El uso indebido de la IA por parte de actores no estatales o los ciberataques a infraestructuras facilitados por la IA podrían ofrecer cierto margen para un entendimiento bilateral, señala la investigadora Iliana Carrozza, del PRIO.

Sin embargo, la posibilidad de un acuerdo explícito sobre la velocidad de desarrollo de la IA se considera de momento descartada.

«Lo que probablemente sí pueda gestionarse a nivel bilateral son aquellas áreas en las que un acuerdo no requiera verificación ni la revelación de secretos comerciales», afirma.

Y considera que «es poco probable que ambas partes acuerden algo que limite la velocidad a la que cualquiera de ellas desarrolla modelos de IA».