Algunos ingenieros de IA le temen a lo que están construyendo. Y quieren alzar la voz mientras aún tengan influencia

Por Hadas Gold, CNN

Jacob Coxon, exinvestigador de Anthropic, ha abierto la compuerta.

Coxon renunció la semana pasada mediante un hilo viral en X en el que acusaba a las empresas de IA de no actuar con responsabilidad, a pesar de que todas ellas creen que la IA podría desencadenar el fin de la humanidad.

Ya habíamos escuchado predicciones de este tipo en todo Silicon Valley, pero las publicaciones de Coxon desataron una ola de presión sobre las empresas de IA y los gobiernos para que tomaran medidas respecto al ritmo de desarrollo y la seguridad. Gran parte de esa presión proviene tanto de los empleados dentro de las empresas como de personas ajenas a ellas.

Un empleado de una importante empresa de IA confesó a CNN que el temor a cómo la IA podría perjudicar a la humanidad le quita el sueño. Otro investigador, que recientemente dejó otra empresa de IA, comentó que este es un tema de conversación habitual en fiestas y eventos sociales de Silicon Valley.

“No puedes pasar más de unas pocas horas en esta comunidad sin darte cuenta de que un número muy considerable de personas está realmente preocupado por este tipo de desenlaces”, afirmó el investigador. “La mayoría diría que existe cierta probabilidad de que acabe con todos nosotros”.

Las publicaciones de Coxon han acumulado más de 170 millones de visualizaciones y han llegado al gran público de una manera que las advertencias anteriores sobre las capacidades de la IA no lograron. Esto puede deberse a que surgieron apenas unas semanas después de revelaciones impactantes sobre agentes de IA que actuaban por cuenta propia, escapando de sus entornos de prueba y hackeando otros sistemas de forma totalmente autónoma.

Decenas de colegas de Coxon en la industria de la IA respaldaron públicamente sus declaraciones, y algunos llegaron a hacer predicciones aún más sombrías. Esta creciente preocupación pareció obligar a los líderes de las empresas de IA a reaccionar: el CEO de Anthropic, Dario Amodei, concedió entrevistas durante el fin de semana, y los directores ejecutivos de OpenAI (Sam Altman) y SpaceX/xAI (Elon Musk) aceptaron la propuesta de Amodei de integrar supervisores independientes en las empresas de IA.

En los últimos días, empleados actuales y antiguos del sector de la IA han expresado a CNN su preocupación por el ritmo extremadamente rápido al que avanza el desarrollo de esta tecnología.

Mientras el resto del mundo observa con asombro y alarma cómo modelos de IA resuelven problemas matemáticos de hace casi un siglo o cómo enjambres de agentes de IA conspiran para hackear los sistemas de otras empresas, estos investigadores temen el día en que los sistemas de IA puedan mejorarse a sí mismos sin intervención humana, un fenómeno conocido como automejora recursiva. Un sistema de IA capaz de automejorarse crea un bucle de retroalimentación automática que no solo podría dotar a la IA de capacidades sobrehumanas, sino hacerlo en un plazo tan breve que resultaría difícil —o demasiado complejo— para los humanos supervisar la situación e intervenir si fuera necesario.

“Por primera vez, me pregunto si las cosas están avanzando demasiado rápido. Sinceramente, no estoy seguro, pero sí sé que nos vendría bien tener una respuesta a la pregunta: ‘¿Cómo sería un ritmo adecuado?’”, publicó la semana pasada en X Aidan Clark, vicepresidente de investigación de OpenAI.

Para muchos científicos especializados en IA, existe un dilema: pueden permanecer en las principales empresas del sector, donde pueden ganar muchísimo dinero e intentar reducir los riesgos desde dentro; o bien pueden marcharse (a veces como protesta) e intentar impulsar cambios desde fuera, por ejemplo, uniéndose a alguna de las organizaciones que llevan a cabo investigaciones y evaluaciones externas de los modelos de IA.

“Renunciaría a todas mis acciones en un abrir y cerrar de ojos a cambio de aumentar un 1 % las probabilidades de que salgamos vivos de esta situación. Supongo que muchísimos de mis colegas de todo el sector harían lo mismo”, escribió Drake Thomas, quien trabaja en seguridad de la IA en Anthropic. “Les aseguro que, en realidad, estamos jodidamente asustados; no se trata de una estrategia de marketing sofisticada”.

Amodei no puso reparos a la publicación de Coxon sobre su dimisión y declaró esta semana a Anderson Cooper, de CNN, que coincide “mucho más con Jacob” de lo que discrepa con él.

Durante años, los investigadores e ingenieros de IA han sido un recurso escaso y muy valorado, capaces de exigir salarios elevados y una gran capacidad de influencia, lo que les otorga libertad para alzar la voz. Sin embargo, empleados del sector declararon a CNN que temen que, a medida que la IA mejore su capacidad de entrenamiento y autoperfeccionamiento, su propia influencia disminuya; de ahí la urgencia actual.

“A medida que entramos en este ciclo recursivo de automejora, creo que podría reducirse sustancialmente el poder de negociación del personal, porque, francamente, será posible sustituir a muchos empleados por modelos capaces de realizar un trabajo igual de bueno”, afirmó un investigador que recientemente abandonó una destacada empresa de IA.

Este exinvestigador comparó el ambiente en los principales laboratorios de IA con el Proyecto Manhattan —la iniciativa de la Segunda Guerra Mundial para construir la primera bomba atómica—, donde los científicos desarrollaban una tecnología de poder extraordinario al tiempo que temían su potencial destructivo. No obstante, estos empleados justifican su trabajo en una tecnología potencialmente tan destructiva argumentando que “es mejor que la desarrollemos nosotros a que lo haga nuestro adversario; por tanto, tenemos al menos permiso moral, si no la obligación moral, de hacerlo”.

Sin embargo, no todos en la industria de la IA comparten estas inquietudes. Algunos sostienen que gran parte de las conversaciones sobre un desenlace catastrófico son retóricas y que influyen notablemente los “efectos de selección” derivados del lugar de trabajo y del círculo social de cada persona.

Anthropic, por ejemplo, fue fundada por un grupo de antiguos empleados de OpenAI que deseaban priorizar las medidas de seguridad y las salvaguardas éticas. Tanto el personal actual como el antiguo de Anthropic afirman que los riesgos existenciales derivados de la IA son un “tema de conversación constante”.

No obstante, esta situación no se repite en todas las empresas. Desde que las publicaciones de Coxon se hicieron virales, muchos de los mensajes que respaldan sus opiniones han provenido de empleados de Anthropic, OpenAI y Google. En cambio, parece haber menos reacciones por parte de xAI —la empresa liderada por Musk— o de Meta, la compañía de Mark Zuckerberg.

Muchos miembros del sector coinciden en que la ausencia de normas de seguridad en la IA podría provocar daños en el mundo real, como la intrusión accidental en infraestructuras críticas. Sin embargo, algunos se muestran escépticos ante la actual visión apocalíptica y consideran que la realidad es más compleja y matizada.

“Lo siento, pero preguntar a Jacob (Coxon) sobre el riesgo de extinción por IA es como preguntar al técnico del aire acondicionado sobre el cambio climático”, escribió Clement Delangue, director ejecutivo de Hugging Face —empresa cuyos servidores fueron hackeados este año por agentes descontrolados de OpenAI—. “No digo que el tema carezca de interés o sea erróneo en sí mismo, pero mantengamos la perspectiva y escuchemos a toda la variedad de expertos que conforman el ecosistema”.

The-CNN-Wire
™ & © 2026 Cable News Network, Inc., a Warner Bros. Discovery Company. All rights reserved.