Anthropic advierte que la inteligencia artificial pronto podrá mejorarse a sí misma sin intervención humana

Por Chris Isidore, CNN

Los modelos de inteligencia artificial están mejorando tan rápido que pronto podrían ser capaces de desarrollarse a sí mismos sin intervención humana. Por eso, Anthropic advierte a la industria: es necesario crear un “pedal de freno” o las empresas correrán el riesgo de perder el control sobre sus creaciones.

Los sistemas de IA capaces de progresar por sí mismos —un proceso conocido como “automejora recursiva completa”— podrían aportar grandes beneficios a la ciencia y la atención sanitaria, pero también plantean enormes riesgos para la humanidad, según una publicación en el blog de Marina Favaro, líder del Anthropic Institute, y Jack Clark, cofundador de Anthropic.

“La automejora recursiva completa también podría aumentar el riesgo de que los humanos pierdan el control sobre los sistemas de IA”, escribieron. “Si los sistemas son capaces de construir totalmente a sus propios sucesores, la forma en que los protegemos, los supervisamos y moldeamos su comportamiento cobra mucha más importancia”.

Advierten que la industria está mucho más cerca de lograr una IA capaz de automejorarse de lo que se esperaba anteriormente. Por ello, las empresas tecnológicas deberían considerar ralentizar o pausar el desarrollo de IA de vanguardia para dar tiempo a los investigadores a comprender mejor los posibles daños sociales que podría desencadenar una IA de este tipo. Asimismo, señalaron que los investigadores deberían crear mecanismos que permitan a los humanos intervenir si la situación se descontrola.

En una aparición en CNN el jueves por la noche, Clark instó a la industria a dotarse de un “pedal de freno”.

“Si miro el coche que conducimos, lo único que tengo es un acelerador. No tengo pedal de freno y, seguramente, en algún momento del futuro querremos tener esa opción”, declaró a Anderson Cooper durante una entrevista.

Cooper mencionó el ejemplo de las películas de ciencia ficción en las que la IA se rebela para acabar con los seres humanos y preguntó si eso es lo que preocupa a Clark.

“Sí, aquí también leemos y vemos ciencia ficción, así que somos muy conscientes de ello”, respondió Clark. “¿Cómo se mantiene el control sobre flotas de científicos que son mucho, mucho más grandes y rápidas que las que hemos tenido antes?”

La incapacidad para validar, verificar y confiar en el comportamiento de la IA supone un riesgo importante para su desarrollo, añadió. Esta advertencia surge después de que Anthropic iniciara los trámites para una oferta pública inicial (OPI) de sus acciones, un paso que podría permitirle recaudar decenas de miles de millones de dólares de inversores para acelerar la construcción de los centros de datos y los sistemas informáticos necesarios para la IA. Por su parte, SpaceX —que además de sus operaciones con cohetes y satélites cuenta con una división de IA— se prepara para protagonizar la próxima semana la que sería la mayor OPI de la historia, con una recaudación prevista de US$ 75.000 millones.

Que grandes empresas de IA como Anthropic, SpaceX y OpenAI colaboren para idear mecanismos de freno podría parecer contradictorio en un sector competitivo donde hay en juego miles de millones, o incluso billones, de dólares. Sin embargo, tal cooperación es posible, insistió Clark.

“Ya hemos hecho esto antes. En plena Guerra Fría, y en situaciones de gran tensión entre países rivales, se encontraron formas de estabilizar ciertos aspectos de la carrera armamentística nuclear”, declaró Clark a CNN. “Todo esto ya se ha realizado en otros ámbitos, y es posible que debamos hacer lo mismo en el campo de la IA”.

The-CNN-Wire
™ & © 2026 Cable News Network, Inc., a Warner Bros. Discovery Company. All rights reserved.