Beijing llamó a impulsar un desarrollo abierto e inclusivo de la IA y advirtió que fomentar el miedo, la confrontación y la competencia feroz podría obstaculizar la gobernanza global de esta tecnología.
Beijing.— China advirtió este lunes que una carrera basada en el miedo, la confrontación y la competencia desmedida en materia de inteligencia artificial (IA) podría alterar los esfuerzos internacionales para establecer una adecuada gobernanza global de esta tecnología.
El portavoz del Ministerio de Relaciones Exteriores de China, Guo Jiakun, sostuvo que el desarrollo de la inteligencia artificial tiene implicaciones directas sobre el bienestar de toda la humanidad, por lo que llamó a los países y empresas del sector a trabajar de manera conjunta.
Durante una rueda de prensa, el funcionario subrayó la necesidad de promover un desarrollo “abierto e inclusivo” de la IA orientado al beneficio común, al considerar que una dinámica de confrontación y competencia extrema no favorece a ninguna de las partes.
Las declaraciones de Beijing se producen en momentos en que algunos de los principales responsables de empresas dedicadas al desarrollo de inteligencia artificial han comenzado a plantear la necesidad de reducir el ritmo de avance de los modelos más sofisticados, ante los posibles riesgos derivados de su utilización.
El director ejecutivo de Anthropic, Dario Amodei, pidió recientemente a las compañías del sector actuar con mayor cautela frente al desarrollo de sistemas cada vez más avanzados. En esta postura también se han mostrado de acuerdo Elon Musk, de xAI, y Sam Altman, director ejecutivo de OpenAI.
La preocupación también ha sido expresada por investigadores y exintegrantes de laboratorios de IA. Jacob Coxon, exinvestigador de Anthropic, comparó el desarrollo de modelos avanzados con “invitar a una mente alienígena al planeta”, al advertir que se están creando sistemas con capacidades humanas o incluso sobrehumanas sin que exista una comprensión completa de sus objetivos, procesos de razonamiento y posibles comportamientos.
Coxon planteó que, mientras se construye un marco jurídico de largo plazo, el Congreso de Estados Unidos debería permitir que los principales laboratorios de IA de vanguardia establezcan mecanismos de autorregulación.
El exinvestigador consideró que algunas leyes podrían quedar rápidamente desactualizadas debido a la velocidad con la que evolucionan los modelos de inteligencia artificial. Entre las medidas que se han planteado figura la creación de un “interruptor de emergencia” nacional que permita detener sistemas que superen determinados límites de control humano.
Sin embargo, Coxon advirtió que este mecanismo podría enfrentar dificultades conforme los sistemas se vuelvan más complejos y estén distribuidos entre múltiples centros de datos.
Incluso planteó un escenario extremo en el que un conjunto de sistemas de IA pudiera iniciar una campaña de ataques informáticos a gran escala, situación que, según su advertencia, podría hacer insuficientes los mecanismos tradicionales de apagado.
Ante este panorama, el exinvestigador sostuvo que cualquier regulación nacional deberá ser flexible y capaz de adaptarse al surgimiento de nuevas generaciones de modelos.
El debate internacional refleja así una creciente preocupación por encontrar un equilibrio entre la innovación tecnológica y la seguridad, mientras gobiernos, empresas e investigadores buscan establecer reglas que permitan aprovechar los beneficios de la inteligencia artificial sin perder la capacidad de supervisar y controlar sus posibles riesgos.
