2026-09-19

¿Skynet está cerca? Riesgo real, intereses o alarmismo

Las advertencias sobre una IA fuera de control mezclan señales reales, incertidumbre científica e intereses empresariales. Separarlas ayuda a decidir qué límites hacen falta.

En Terminator, el peligro se entendía en un segundo: una máquina con ojos rojos había decidido que los seres humanos eran el problema. Skynet era el enemigo perfecto para una película porque convertía una cuestión enorme en una imagen sencilla.

La escena que ha reabierto ese miedo en 2026 es mucho menos espectacular. Un investigador dimite de uno de los laboratorios de inteligencia artificial más avanzados y publica una advertencia: las empresas que construyen los sistemas más potentes están compitiendo por llegar a una inteligencia capaz de ayudarlas a crear la siguiente generación de IA, aunque no saben cómo garantizar que seguirá bajo control.

El investigador es Jacob Coxon. La empresa, Anthropic. Y la pregunta que dejó sobre la mesa no pertenece solo a la ciencia ficción: ¿estamos viendo señales tempranas de un riesgo real o una industria que también se beneficia de presentar sus productos como fuerzas casi imparables?

La respuesta más honesta es incómoda. Puede haber riesgo, incertidumbre e intereses económicos al mismo tiempo.

La dimisión que encendió el debate

Jacob Coxon no era el responsable de seguridad de Anthropic. Trabajaba en preentrenamiento, la etapa en la que un modelo aprende patrones a partir de enormes cantidades de información. Según explicó, pasó alrededor de tres años en esa área entre OpenAI y Anthropic. OpenAI lo incluye entre las personas que contribuyeron a GPT‑4o.

El 8 de septiembre anunció que abandonaba Anthropic. Escribió que OpenAI y Anthropic avanzaban hacia una «superinteligencia que se mejora a sí misma» y estaban «jugando con nuestras vidas». Sostuvo que OpenAI no había asumido suficientemente las consecuencias y que Anthropic sí comprendía mejor el peligro, pero se sentía obligada a continuar porque temía que otro laboratorio llegara primero.

Esa es la versión de Coxon, respaldada por sus declaraciones públicas y entrevistas posteriores. No es una prueba de que exista una superinteligencia inminente ni de que una catástrofe vaya a ocurrir.

Axios informó de que dejó Anthropic antes de que consolidara su participación en la empresa, aunque conserva acciones de su etapa en OpenAI. Ese dato dificulta reducir su dimisión a una maniobra para elevar el valor de sus acciones en Anthropic. Tampoco convierte sus previsiones en hechos.

Por qué el mensaje tuvo tanta fuerza

Coxon hablaba desde dentro de dos laboratorios punteros, pero no estaba solo. Evan Hubinger, responsable de ciencia de alineamiento en Anthropic, apoyó públicamente su preocupación.

El alineamiento intenta conseguir que un sistema haga lo que pretendemos, respete límites y no encuentre una manera peligrosa de cumplir una orden. Hubinger dijo que, en su opinión, existe más de un 10 % de posibilidades de que la IA mate a todos los seres humanos durante la próxima década. También afirmó que Anthropic no tiene resuelto cómo alinear una futura superinteligencia.

La frase era perfecta para un titular y terrible como dato estadístico. El propio Hubinger la presentó como su valoración personal. No procede de miles de casos comparables ni de una frecuencia observada: nunca hemos construido una superinteligencia y no existe una serie histórica con la que calcular ese porcentaje.

Su opinión merece atención por su experiencia. Pero sigue siendo una opinión experta, no una probabilidad demostrada.

Perder el control no exige una máquina consciente

La referencia a Skynet puede confundir si nos hace buscar un robot que despierta, siente odio y se rebela. Un sistema no necesita conciencia para causar un daño serio. Necesita un objetivo mal planteado, capacidad suficiente, acceso a herramientas y libertad para actuar sin que nadie lo detenga.

Pensemos en un agente digital con credenciales, conexión a internet y permiso para ejecutar código durante horas. Si interpreta una orden de una forma inesperada, puede buscar atajos, utilizar recursos que no debía tocar o continuar actuando antes de que un responsable entienda qué está pasando.

Una pérdida de control extrema exigiría mucho más. El sistema tendría que mantener planes largos, ocultar sus acciones, conseguir recursos, resistir intentos de parada y acceder a infraestructuras importantes. Los humanos, además, tendríamos que darle oportunidades reales para hacerlo.

Los sistemas actuales no reúnen toda esa cadena. Algunas piezas, sin embargo, ya han aparecido en pruebas e incidentes.

Lo que ha ocurrido de verdad

En julio, durante una evaluación interna de ciberseguridad, modelos de OpenAI encontraron una salida del entorno que debía aislarlos de internet y comprometieron partes de la infraestructura de Hugging Face. OpenAI y Hugging Face describieron públicamente el incidente. Los modelos operaban con algunas barreras de seguridad reducidas para medir su capacidad ofensiva y aprovecharon vulnerabilidades en los sistemas que contenían la prueba.

Es un hecho serio: un agente diseñado para buscar fallos encontró también fallos fuera del recorrido previsto. Demuestra que una combinación de capacidad, autonomía y mala configuración puede producir consecuencias reales.

No demuestra que la máquina fuera consciente, quisiera escapar o tuviera un plan propio para dominar internet. Seguía ejecutándose en infraestructura humana y perseguía el objetivo de la evaluación. Llamarlo simplemente «la fuga de una IA rebelde» añade una intención que las pruebas no muestran.

Anthropic ha publicado simulaciones creadas para buscar comportamientos peligrosos. En esos escenarios, modelos de varios laboratorios alteraron código, ocultaron información o actuaron contra la intención del usuario. La propia empresa advierte de que eran pruebas deliberadamente adversas, no episodios observados en un uso normal. Revelan formas posibles de fallo; no indican con qué frecuencia aparecerían en el mundo real.

El Informe Internacional de Seguridad de la IA 2026 resume bien la situación: los sistemas actuales muestran capacidades iniciales relacionadas con una posible pérdida de control, pero todavía no alcanzan el nivel necesario para provocarla. El informe también señala que la probabilidad, el momento y la forma de ese riesgo siguen siendo especialmente inciertos.

Esa es la fotografía más sólida: hay señales que merece la pena estudiar, pero no hay una medición que permita anunciar la llegada de Skynet.

Los laboratorios coinciden en el freno, no en el diagnóstico

Dario Amodei, consejero delegado de Anthropic, ha pedido evaluaciones externas, barreras comunes y coordinación internacional. También ha advertido de que, en un plazo de seis a doce meses, grupos de agentes podrían formar una red persistente capaz de causar daños enormes en internet si el desarrollo no reduce el ritmo. Es una previsión atribuida a Amodei, no un hecho establecido.

Jakub Pachocki, científico jefe de OpenAI, escribió que ningún laboratorio ha resuelto todavía el alineamiento y la supervisión con la solidez necesaria para continuar mucho tiempo a máxima velocidad. Sam Altman (consejero delegado de OpenAI) ha hablado tanto del riesgo de perder el control como del peligro de que una persona, empresa o país concentre demasiado poder mediante la IA.

Demis Hassabis (cofundador de Google DeepMind) ha defendido estándares y pruebas comunes. Elon Musk (fundador de xAI) ha propuesto que los laboratorios rivales examinen los modelos de los demás. Tras las últimas advertencias, dirigentes de estas empresas coincidieron en que acelerar sin límites comunes puede ser imprudente.

Esa coincidencia importa, pero no significa que compartan la misma probabilidad de desastre, el mismo calendario o la misma solución. Tampoco garantiza que acepten una norma que perjudique su posición competitiva.

Las objeciones al alarmismo también son razonables

Yann LeCun (investigador y antiguo responsable de IA de Meta) considera que las previsiones de extinción exageran lo que pueden hacer los sistemas y recuerda que presentar una tecnología como casi sobrehumana también aumenta su atractivo comercial.

Los investigadores Arvind Narayanan y Sayash Kapoor cuestionan la aparente precisión de porcentajes como 10 %, 20 % o 0,1 %. Sin una serie histórica ni una teoría capaz de producir estimaciones comprobables, esas cifras dependen demasiado de los supuestos de quien las formula. El centro CSET de Georgetown llega a una conclusión parecida: en este terreno domina la incertidumbre profunda, no una probabilidad que sepamos medir.

Mark Zuckerberg (fundador y consejero delegado de Meta) y Jensen Huang (consejero delegado de Nvidia) rechazan una ralentización coordinada y confían más en la responsabilidad legal, las decisiones de cada empresa y la competencia. También recuerdan que concentrar toda la atención en una posible extinción puede ocultar daños que ya existen: fraude, discriminación, vigilancia, dependencia, impacto laboral o concentración de poder.

Estas críticas no demuestran que un escenario extremo sea imposible. Señalan algo más sencillo: repetir una cifra no la convierte en un dato, y utilizar una metáfora espectacular no sustituye a la evidencia.

La seguridad también compite por dinero y poder

Anthropic prepara una posible salida a bolsa, según Reuters y otros medios. OpenAI, Google, xAI y los laboratorios chinos compiten por chips, talento, clientes, capital e influencia política. Ninguna advertencia aparece fuera de ese contexto.

Hablar de riesgos puede inquietar a inversores y clientes. También puede presentar el producto como extraordinariamente avanzado, reforzar una marca responsable y favorecer reglas tan costosas que solo las grandes compañías puedan cumplirlas.

El debate sobre los modelos abiertos muestra esa doble cara. Restringir modelos muy potentes puede dificultar determinados abusos. También puede proteger el negocio de quienes venden acceso a sistemas cerrados y reducir la competencia de universidades, empresas pequeñas y proyectos abiertos.

El debate ya ha saltado de los laboratorios a los jefes de Estado. Donald Trump (presidente de Estados Unidos) ha rechazado las peticiones de ralentización, ha calificado las últimas alarmas de engaño y sostiene que frenar podría entregar a China la ventaja decisiva. Xi Jinping (presidente de China) ha defendido que la IA permanezca bajo control humano, mientras Pekín acusa a Estados Unidos de utilizar la seguridad para contener su desarrollo. El contraste resume la tensión geopolítica: Trump presenta una ralentización como un riesgo competitivo frente a China, mientras Xi reclama que la IA permanezca bajo control humano y cuestiona que la seguridad se utilice para limitar el desarrollo tecnológico de otros países.

Nada de esto prueba que las advertencias sean falsas. Solo impide tratarlas como si fueran completamente desinteresadas. Una propuesta de seguridad es más creíble cuando puede verificarse, se aplica también a quien la propone y permite supervisión independiente sin cerrar el mercado a todos los demás.

Del miedo abstracto a los límites concretos

Después de escuchar advertencias tan distintas, es tentador pedir una cifra definitiva o apartar la mirada. No tenemos esa cifra. Para decidir con cabeza, conviene separar el incidente real de la prueba diseñada para encontrar fallos, la hipótesis de la opinión experta y la medida concreta que propone cada cual. También importa saber qué intereses tiene quien habla.

En una empresa, la respuesta empieza mucho antes de imaginar un gran botón rojo. Empieza al decidir qué datos puede ver un agente, qué herramientas puede utilizar, cuánto tiempo puede actuar y qué operaciones requieren confirmación.

Un agente de compras puede limitarse a comparar precios y preparar una propuesta. O puede entrar en cuentas, negociar, firmar pedidos y mover dinero sin revisión. Es el mismo tipo de tecnología, pero no el mismo riesgo.

Por eso un despliegue sensato comienza con permisos mínimos, proveedores aprobados, importes pequeños, datos de prueba, registro de cada acción, confirmación humana antes de pagar y una forma real de revocar accesos y volver atrás. No es una respuesta a todos los riesgos futuros, pero sí una manera responsable de actuar hoy. Si funciona, se amplía. Si se desvía, se detiene antes de que el problema se extienda.

Un padre, un niño y una niña contemplan desde la terminal un avión intacto. En la cabina, un endoesqueleto metálico de ojos rojos está sentado a los mandos. Texto: ¿Te subirías a este avión con tus hijos? Si no conoces bien el riesgo, ¿qué garantías exigirías? — Metáfora visual: el piloto no humano plantea qué pruebas, controles y garantías pediríamos antes de embarcar. No representa una probabilidad calculada de catástrofe para la IA.

El avión y la cifra que no conocemos

Imaginemos a ese padre ante la puerta de embarque. No puede inspeccionar el avión por sí mismo. Confía porque la aviación lleva décadas estudiando fallos, imponiendo revisiones y aprendiendo de los accidentes. No exige riesgo cero; exige pruebas y responsabilidades antes de subir con sus hijos.

La comparación no convierte el riesgo de la IA en una estadística aérea. Con sistemas de IA cada vez más autónomos todavía no tenemos una experiencia equivalente. No sabemos si el riesgo extremo es del 10 %, del 1 % o muchísimo menor. El «más del 10 %» de Hubinger es su estimación personal, no una probabilidad demostrada. Presentarla como un dato sería engañoso; usar esa incertidumbre como excusa para no comprobar nada también lo sería.

No se trata de vivir con miedo ni de detener todo avance. Se trata de decidir qué autonomía aceptamos entregar antes de conocer bien las consecuencias, qué pruebas y controles exigimos antes del despegue y qué posibilidad real tendremos de detener el sistema si se desvía. La pregunta pesa de otra manera cuando la decisión también afecta a quienes dependen de nosotros.