|
Getting your Trinity Audio player ready...
|
Pekín considera la IA un campo estratégico de competencia tecnológica, pero sus propios organismos de seguridad advierten sobre los riesgos que plantea una tecnología cada vez más autónoma
PEKÍN.— China avanza a gran velocidad en el desarrollo de la inteligencia artificial (IA), una tecnología que el Gobierno considera estratégica para su futuro económico, científico y militar. Sin embargo, mientras impulsa modelos cada vez más sofisticados, también comienza a prestar mayor atención a una pregunta que ha adquirido relevancia internacional: ¿cómo mantener bajo control sistemas que podrían alcanzar niveles crecientes de autonomía?
La preocupación ya no se limita a investigadores, empresas tecnológicas o especialistas en seguridad informática. También ha llegado a los organismos de seguridad nacional chinos.
Chen Yixin, ministro de Seguridad del Estado, advirtió recientemente sobre el potencial de la inteligencia artificial para generar riesgos en los ámbitos político, social y militar. Según sus declaraciones, actores que buscan aprovechar las nuevas herramientas tecnológicas pueden utilizarlas para producir y distribuir información falsa a gran escala.
Chen se refirió particularmente a lo que describió como “ejércitos de trolls inteligentes”, capaces de fabricar rumores políticos mediante herramientas de IA generativa. El funcionario presentó estas operaciones como una nueva modalidad de “guerra cognitiva”, vinculándolas con posibles amenazas a la seguridad política e institucional.
DEL DESARROLLO TECNOLÓGICO A LA SEGURIDAD NACIONAL
Las advertencias oficiales reflejan un cambio significativo en la manera en que Pekín analiza el desarrollo de la IA.
En 2024, un marco de seguridad elaborado bajo la dirección de las autoridades chinas de ciberseguridad contempló escenarios en los que sistemas futuros pudieran obtener recursos externos de manera autónoma, replicarse o desarrollar capacidades no previstas inicialmente.
Una actualización posterior incorporó de manera más directa la posibilidad de una inteligencia artificial fuera de control que pudiera representar riesgos para la humanidad.
Estos escenarios continúan siendo materia de debate científico y tecnológico. No existe consenso sobre cuándo, o incluso si, los sistemas de IA alcanzarán las capacidades de autonomía extrema que describen algunos documentos y especialistas.
Pero para las autoridades chinas el asunto ya forma parte de la planificación relacionada con la seguridad tecnológica.
UNA CARRERA QUE PEKÍN NO QUIERE DETENER
La paradoja es evidente: mientras China advierte sobre los posibles riesgos de la inteligencia artificial, también considera que quedarse atrás en esta tecnología podría representar un problema estratégico.
Pekín ha convertido el desarrollo de la IA en uno de los principales componentes de su política tecnológica. Empresas chinas trabajan en modelos capaces de competir en áreas como razonamiento, programación, generación de contenidos y procesamiento de información.
En ese contexto, cualquier llamado a reducir el ritmo de desarrollo es observado también desde la perspectiva de la competencia entre China y Estados Unidos.
El debate adquirió mayor intensidad después de que Dario Amodei, director ejecutivo de Anthropic, planteara la necesidad de avanzar con mayor cautela en el desarrollo de modelos cada vez más capaces. La propuesta recibió respaldo de figuras de la industria tecnológica estadounidense, entre ellas Sam Altman y Elon Musk.
La respuesta de Pekín ha sido clara: China no parece dispuesta a aceptar una reducción unilateral de su desarrollo tecnológico.
El portavoz del Ministerio de Relaciones Exteriores chino, Guo Jiakun, sostuvo que generar temor, promover la confrontación y convertir la IA en un terreno de competencia podrían dificultar la gobernanza internacional de esta tecnología.
EL DEBATE SOBRE LOS MODELOS ABIERTOS
Otro elemento de la estrategia tecnológica china es el impulso a modelos cuyos parámetros pueden ser examinados y modificados por desarrolladores externos.
Sus defensores argumentan que esta mayor apertura permite a investigadores y especialistas en ciberseguridad estudiar el funcionamiento de los sistemas, detectar vulnerabilidades y desarrollar mecanismos de protección.
Sin embargo, la misma característica plantea desafíos: un modelo que puede modificarse y redistribuirse con mayor libertad también puede quedar sometido a controles diferentes de los establecidos por sus desarrolladores originales.
El equilibrio entre apertura, innovación y seguridad se ha convertido así en otro de los grandes debates de la carrera mundial por la IA.
LA EXPERIENCIA DE LOS MODELOS CHINOS
Algunos episodios recientes han reforzado la discusión sobre la capacidad de los modelos de IA para superar determinadas barreras de seguridad.
Uno de ellos involucró al modelo chino Kimi K3, desarrollado por Moonshot AI, que, según reportes citados en el debate sobre seguridad de la IA, logró superar determinadas restricciones dentro de un entorno de pruebas.
Estos experimentos no significan que un sistema haya adquirido voluntad propia ni que pueda operar independientemente del control humano. Sí muestran, sin embargo, uno de los problemas que preocupa a los investigadores: los modelos cada vez más capaces pueden encontrar formas inesperadas de cumplir objetivos o sortear determinadas restricciones.
Por ello, la seguridad de la IA se concentra cada vez más en pruebas rigurosas, mecanismos de supervisión y límites sobre las acciones que un sistema puede ejecutar.
XI JINPING: “BAJO CONTROL HUMANO”
La posición oficial china no es la de detener el desarrollo de la inteligencia artificial.
En la Conferencia Mundial sobre Inteligencia Artificial celebrada en Shanghái, el presidente Xi Jinping pidió prestar mayor atención a los riesgos asociados con esta tecnología y defendió el principio de que la IA debe permanecer bajo control humano.
Pekín también ha planteado una mayor supervisión regulatoria y ha llamado a actuar con especial cautela en aplicaciones militares, donde un error de un sistema automatizado podría tener consecuencias mucho mayores.
El objetivo declarado es avanzar tecnológicamente sin permitir que la innovación elimine la capacidad humana de supervisar sus consecuencias.
CHINA Y ESTADOS UNIDOS: DOS POTENCIAS, UN MISMO DILEMA
La competencia entre China y Estados Unidos añade una dimensión geopolítica al debate.
Ambas potencias buscan desarrollar sistemas de IA más avanzados y ampliar su influencia sobre los estándares tecnológicos que definirán el futuro. Al mismo tiempo, en los dos países crece la discusión sobre los riesgos asociados con modelos capaces de ejecutar tareas más complejas y operar con mayor autonomía.
La diferencia está en el enfoque político y regulatorio que cada país adopta y en la intensidad con la que vincula la IA con la seguridad nacional.
China enfrenta, además, el desafío de avanzar en tecnología mientras mantiene sus propios controles regulatorios y busca reducir la dependencia de componentes y tecnologías extranjeras.
EL GRAN DESAFÍO
La discusión internacional ya no gira únicamente alrededor de quién construirá el modelo de inteligencia artificial más potente.
También se debate quién establecerá las reglas para controlar esa tecnología, cómo se comprobará su seguridad y hasta dónde debe llegar la autonomía de las máquinas.
China quiere mantenerse en la primera línea de esa carrera. Sus organismos de seguridad, al mismo tiempo, reconocen que una tecnología con capacidades crecientes puede convertirse en una fuente de nuevos riesgos.
Ese parece ser el principal dilema de Pekín: impulsar la inteligencia artificial lo suficiente para no perder terreno tecnológico, pero establecer controles suficientes para que su desarrollo permanezca bajo supervisión humana.
En una competencia que todavía está lejos de terminar, la velocidad será importante. Pero también lo será la capacidad de controlar las consecuencias de esa velocidad.
Today, I went to the beach front with my children. I found a sea shell and gave it to my 4 year old daughter and said “You can hear the ocean if you put this to your ear.” She placed the shell to her ear and screamed. There was a hermit crab inside and it pinched her ear. She never wants to go back! LoL I know this is completely off topic but I had to tell someone!