Los modelos de inteligencia artificial est谩n mejorando tan r谩pido que pronto podr铆an ser capaces de desarrollarse a s铆 mismos sin intervenci贸n humana. Por eso, Anthropic advierte a la industria: es necesario crear un 鈥減edal de freno鈥� o las empresas correr谩n el riesgo de perder el control sobre sus creaciones.
Los sistemas de IA capaces de progresar por s铆 mismos 鈥攗n proceso conocido como 鈥渁utomejora recursiva completa鈥濃�� podr铆an aportar grandes beneficios a la ciencia y la atenci贸n sanitaria, pero tambi茅n plantean enormes riesgos para la humanidad, seg煤n una publicaci贸n en el blog de Marina Favaro, l铆der del Anthropic Institute, y Jack Clark, cofundador de Anthropic.
鈥淟a automejora recursiva completa tambi茅n podr铆a aumentar el riesgo de que los humanos pierdan el control sobre los sistemas de IA鈥�, escribieron. 鈥淪i los sistemas son capaces de construir totalmente a sus propios sucesores, la forma en que los protegemos, los supervisamos y moldeamos su comportamiento cobra mucha m谩s importancia鈥�.
Advierten que la industria est谩 mucho m谩s cerca de lograr una IA capaz de automejorarse de lo que se esperaba anteriormente. Por ello, las empresas tecnol贸gicas deber铆an considerar ralentizar o pausar el desarrollo de IA de vanguardia para dar tiempo a los investigadores a comprender mejor los posibles da帽os sociales que podr铆a desencadenar una IA de este tipo. Asimismo, se帽alaron que los investigadores deber铆an crear mecanismos que permitan a los humanos intervenir si la situaci贸n se descontrola.
En una aparici贸n en CNN el jueves por la noche, Clark inst贸 a la industria a dotarse de un 鈥減edal de freno鈥�.
鈥淪i miro el coche que conducimos, lo 煤nico que tengo es un acelerador. No tengo pedal de freno y, seguramente, en alg煤n momento del futuro querremos tener esa opci贸n鈥�, declar贸 a Anderson Cooper durante una entrevista.
Cooper mencion贸 el ejemplo de las pel铆culas de ciencia ficci贸n en las que la IA se rebela para acabar con los seres humanos y pregunt贸 si eso es lo que preocupa a Clark.
鈥淪铆, aqu铆 tambi茅n leemos y vemos ciencia ficci贸n, as铆 que somos muy conscientes de ello鈥�, respondi贸 Clark. 鈥溌緾贸mo se mantiene el control sobre flotas de cient铆ficos que son mucho, mucho m谩s grandes y r谩pidas que las que hemos tenido antes?鈥�
La incapacidad para validar, verificar y confiar en el comportamiento de la IA supone un riesgo importante para su desarrollo, a帽adi贸. Esta advertencia surge despu茅s de que Anthropic iniciara los tr谩mites para una oferta p煤blica inicial (OPI) de sus acciones, un paso que podr铆a permitirle recaudar decenas de miles de millones de d贸lares de inversores para acelerar la construcci贸n de los centros de datos y los sistemas inform谩ticos necesarios para la IA. Por su parte, SpaceX 鈥攓ue adem谩s de sus operaciones con cohetes y sat茅lites cuenta con una divisi贸n de IA鈥� se prepara para protagonizar la pr贸xima semana la que ser铆a la mayor OPI de la historia, con una recaudaci贸n prevista de US$ 75.000 millones.
Que grandes empresas de IA como Anthropic, SpaceX y OpenAI colaboren para idear mecanismos de freno podr铆a parecer contradictorio en un sector competitivo donde hay en juego miles de millones, o incluso billones, de d贸lares. Sin embargo, tal cooperaci贸n es posible, insisti贸 Clark.
鈥淵a hemos hecho esto antes. En plena Guerra Fr铆a, y en situaciones de gran tensi贸n entre pa铆ses rivales, se encontraron formas de estabilizar ciertos aspectos de la carrera armament铆stica nuclear鈥�, declar贸 Clark a CNN. 鈥淭odo esto ya se ha realizado en otros 谩mbitos, y es posible que debamos hacer lo mismo en el campo de la IA鈥�.
The-CNN-Wire
™ & © 2026 Cable News Network, Inc., a Warner Bros. Discovery Company. All rights reserved.
