Por Laurie Chen

Funcionarios estadounidenses acusan a la IA china de robo de propiedad intelectual y de violar los controles de exportación.

Las nuevas sanciones de Washington podrían descarrilar el diálogo sobre seguridad de la IA entre Estados Unidos y China.

Las tensiones surgen a raíz del incidente de Hugging Face, que pone de manifiesto el riesgo para la seguridad que suponen los modelos fronterizos.

Resulta difícil colocar barandillas de seguridad en los modelos de peso libre preferidos por las empresas chinas.

Los equipos chinos de IA tienen menos recursos para centrarse en la seguridad; la prioridad es la escalabilidad.

PEKÍN, 24 de julio (Reuters) – Las amenazas de Estados Unidos de sancionar a los desarrolladores chinos de IA por presunto robo de propiedad intelectual e infracciones de control de exportaciones corren el riesgo de desbaratar los esfuerzos para establecer un diálogo bilateral sobre la seguridad de la IA, dicen los analistas, justo cuando los modelos cada vez más poderosos generan preocupación por graves violaciones de seguridad .

Funcionarios estadounidenses acusaron el miércoles al laboratorio chino de inteligencia artificial Moonshot de haber derivado su modelo Kimi K3 del modelo avanzado Fable 5 de Anthropic, lo que llevó al secretario del Tesoro, Scott Bessent, a advertir sobre posibles sanciones.

La destilación es el proceso de entrenar modelos de IA utilizando los resultados de modelos más avanzados para reducir los costes de entrenamiento de una nueva y potente herramienta de IA.

La Oficina de Industria y Seguridad del Departamento de Comercio también investiga si empresas chinas como Moonshot están accediendo ilegalmente a chips estadounidenses avanzados para entrenar sus modelos. Un portavoz de Moonshot no respondió a la solicitud de comentarios de Reuters.

La disputa pone de manifiesto una creciente tensión en el seno de la carrera por la IA entre Estados Unidos y China. Ambas partes consideran cada vez más la IA de vanguardia como un activo estratégico y un riesgo para la seguridad; sin embargo, los expertos sostienen que la cooperación en materia de estándares de seguridad se está volviendo más urgente, ya que los modelos potentes podrían utilizarse indebidamente para ciberataques u otras aplicaciones dañinas.

Según los analistas , estas acusaciones, sumadas a los informes que indican que Washington está sopesando restricciones a los modelos chinos de ponderación abierta, podrían provocar represalias y poner en peligro el diálogo sobre inteligencia artificial previsto entre Estados Unidos y China para septiembre.

Estas tensiones se producen tras años de controles a las exportaciones estadounidenses diseñados para restringir el acceso de China a chips de última generación , medidas que han dominado cada vez más las negociaciones comerciales entre ambos países.

«Dependiendo del número de empresas chinas afectadas y de la naturaleza de las medidas punitivas adoptadas, la represalia podría frustrar tanto el diálogo sobre IA como la reunión del 24 de septiembre entre los presidentes Trump y Xi», declaró Paul Triolo, socio de DGA-Albright Stonebridge Group.

Mientras tanto, Pekín está considerando la posibilidad de restringir el acceso de los usuarios extranjeros a sus modelos como medida de represalia, según informó previamente Reuters .

RIESGOS DE SEGURIDAD DE CÓDIGO CERRADO Y ABIERTO

La empresa Hugging Face, con sede en Nueva York, utilizó la semana pasada un modelo chino, el GLM-5.2 de Z.ai, para contener un ciberataque de un agente OpenAI deshonesto que escapó durante las pruebas de seguridad, ya que, irónicamente, las medidas de seguridad de los modelos cerrados estadounidenses eran demasiado estrictas.

A medida que los modelos de vanguardia chinos y estadounidenses logran la auto-mejora recursiva (RSI, por sus siglas en inglés), donde los sistemas pueden mejorar de forma autónoma sus propias capacidades, los investigadores afirman que ambos países tienen un incentivo para cooperar en materia de normas de seguridad antes de que se produzca un incidente más grave.

Los expertos del sector también están destacando los riesgos que plantean los modelos de ponderación abierta, que pueden descargarse, modificarse y redistribuirse con poca supervisión, lo que limita la eficacia de los controles de exportación basados ​​en software.

Yoshua Bengio, el «padrino de la IA», advirtió la semana pasada en el principal foro de IA de China que las decisiones sobre el despliegue y el intercambio de modelos de ponderación abierta son irreversibles, y que sus salvaguardas son más fáciles de eliminar.

«Lo lógico es encontrar una buena evaluación de estos modelos, compartir los que no sean demasiado peligrosos y no compartir los que superen el umbral de riesgo», dijo por videoconferencia.

RESTRICCIONES DE RECURSOS Y GEOPOLÍTICAS

Los modelos de IA chinos deben someterse a revisiones gubernamentales de seguridad y contenido antes de su lanzamiento, aunque las normas actuales no cubren las modificaciones posteriores al lanzamiento.

A diferencia de los gigantes estadounidenses OpenAI y Anthropic, muchos laboratorios chinos de IA carecen de los recursos informáticos necesarios para una formación exhaustiva en seguridad y, en cambio, se centran en mejorar las capacidades de los modelos, según observadores del sector.

«Es plausible que China reconsidere permitir lanzamientos de peso abierto para modelos de vanguardia en el futuro, pero el listón para hacerlo está muy alto», dijo Kristy Loke, investigadora de MATS que estudia la gobernanza de la IA en China.

Algunos investigadores de la seguridad de la IA argumentan que los modelos más innovadores, tanto en Estados Unidos como en China, deberían someterse a pruebas previas a su lanzamiento más estrictas y a evaluaciones independientes por parte de terceros.

En Estados Unidos, las empresas pueden presentar voluntariamente modelos para que sean probados por el Centro de Estándares e Innovación de IA (CAISI), financiado por el estado, aunque algunos legisladores han pedido revisiones federales obligatorias.

«En un mundo ideal, los dos países se unirían para trabajar en modelos más seguros, acordarían establecer estándares comunes en torno a las pruebas previas al lanzamiento y fijar límites para los modelos abiertos más avanzados», dijo Loke.

RESPUESTAS DIVIDIDAS SOBRE LOS MODELOS DE IA CHINOS

Algunos funcionarios del gobierno estadounidense y de la industria de la IA siguen divididos sobre cómo responder a los modelos chinos, que representan aproximadamente el 60% del uso de tokens por parte de las empresas estadounidenses en la plataforma OpenRouter.

OpenAI y Anthropic han presionado a Washington en contra de los modelos chinos de menor coste, argumentando que podrían socavar sus modelos de negocio.

El estratega principal de OpenAI, Dean Ball, escribió en X que la administración Trump podría «crear grandes riesgos regulatorios en torno al uso de modelos chinos de ponderación abierta» para frenar su adopción por parte de las empresas estadounidenses.

El asesor de IA de la Casa Blanca, David Sacks, replicó que los principales laboratorios estadounidenses «quieren que el gobierno elimine su competencia de código abierto» y abogó por una competencia justa, añadiendo en otra publicación que «el pánico por Kimi debe terminar».

«Mientras no nos saboteemos a nosotros mismos con reglas innecesarias, Estados Unidos seguirá ganando», afirmó.