Anthropic pide una pausa global en IA ante el riesgo de sistemas fuera de control

La empresa de inteligencia artificial Anthropic, desarrolladora de los influyentes modelos Claude, ha lanzado una seria advertencia a la comunidad tecnológica global, solicitando una pausa coordinada en el desarrollo de los sistemas de IA más avanzados. En una publicación del 4 de junio de 2026, la compañía alertó sobre la proximidad de un umbral crítico conocido como "mejora recursiva de sí misma" (RSI), un escenario en el que la IA podría comenzar a perfeccionar sus propias capacidades de forma autónoma y exponencial, con el riesgo de una pérdida de control humano.

El Fantasma de la Automejora Recursiva

El concepto central de la preocupación de Anthropic es la RSI, una idea teorizada por primera vez por el matemático I.J. Good en 1965. Describe un punto de inflexión en el que un sistema de IA se vuelve lo suficientemente inteligente como para modificar y mejorar su propio código, creando un sucesor más capaz, que a su vez crearía otro aún mejor, desencadenando una "explosión de inteligencia". Lo que antes era ciencia ficción, argumenta Anthropic, se está convirtiendo en una posibilidad tangible.

Para respaldar su llamado, la empresa reveló un dato interno impactante: más del 80% del código que se añade a su propia base de código ya es generado por su IA, Claude. Este nivel de automatización en la investigación y desarrollo acelera el progreso a un ritmo sin precedentes, pero también acerca peligrosamente el horizonte donde la supervisión humana se vuelve insuficiente.

Un Debate Recurrente sobre el Control

La propuesta de Anthropic no es la primera de su tipo. En marzo de 2023, una carta abierta firmada por más de mil expertos y figuras de la industria, incluido Elon Musk y el cofundador de Apple, Steve Wozniak, ya pedía una pausa de seis meses en el entrenamiento de sistemas más potentes que GPT-4, citando "grandes riesgos para la humanidad". Aquella carta instaba a los laboratorios a utilizar el tiempo para desarrollar protocolos de seguridad y gobernanza más robustos.

Anthropic recupera este espíritu y lo lleva un paso más allá, comparando la necesidad de un acuerdo global con los tratados de control de armas nucleares de la Guerra Fría. Sin embargo, la propia compañía reconoce la enorme dificultad de implementar y, sobre todo, verificar una pausa de esta naturaleza. Una acción unilateral es inviable; si una empresa se detiene, sus competidores, tanto comerciales como geopolíticos, podrían simplemente tomar la delantera.

El Complejo Tablero Geopolítico y Comercial

La viabilidad de una pausa choca con la intensa competencia entre los gigantes de la IA como Google, OpenAI y la propia Anthropic, así como las tensiones geopolíticas, principalmente con China. Funcionarios estadounidenses y ejecutivos tecnológicos han argumentado previamente que frenar el desarrollo podría ceder una ventaja estratégica crucial. Esta carrera descontrolada, según los críticos, deja la seguridad en un segundo plano.

Las posturas de los principales actores son complejas. Mientras Anthropic ha llegado a ser designada como un "riesgo para la cadena de suministro" por el Pentágono por negarse a eliminar salvaguardas en el uso militar de su IA, OpenAI ha adoptado acuerdos con el Departamento de Defensa estadounidense. Esta divergencia de estrategias muestra la profunda tensión entre los principios éticos y las presiones del mercado y la seguridad nacional.

El llamado de Anthropic reabre así una herida fundamental en la industria tecnológica: ¿quién es responsable de controlar una tecnología que pronto podría controlarse a sí misma? La propuesta de una pausa, aunque difícil de ejecutar, obliga a reguladores, inversores y al público a confrontar las inmensas implicaciones de una inteligencia que avanza más rápido que nuestra capacidad para comprenderla y gestionarla.