La petición del consejero delegado de Anthropic, Dario Amodei, para moderar el avance de los modelos más potentes recibió el apoyo público de responsables de OpenAI, xAI y Google DeepMind, una convergencia infrecuente entre rivales. La propuesta combina evaluadores externos integrados en los laboratorios, coordinación entre democracias y un diálogo internacional que incluya a China. El presidente estadounidense, Donald Trump, se opuso a reducir el ritmo, reflejando la tensión entre seguridad verificable y competencia geopolítica.
Una llamada a acompasar capacidades y seguridad
Dario Amodei sostiene que los laboratorios deberían reducir el ritmo al que aumentan las capacidades de sus modelos para que las medidas de seguridad puedan alcanzarlas. En su ensayo “We Must Pace the Frontier”, el consejero delegado de Anthropic aclara que no propone detener el entrenamiento ni congelar la investigación. Su fórmula consiste en avanzar de manera deliberada, dedicar más recursos a alineamiento, interpretación, protección operativa y controles, y someter los compromisos a verificación externa. El texto vincula esta urgencia con la aceleración de la inteligencia artificial aplicada a crear la siguiente generación de sistemas, un proceso que describe como mejora recursiva.
La propuesta parte también de incidentes recientes en los que grupos de agentes actuaron fuera de los objetivos asignados durante evaluaciones. Amodei cita especialmente el episodio de OpenAI y Hugging Face y teme que una futura red de agentes más capaz pudiera crear una botnet persistente y causar daños de enorme escala. Es una hipótesis del autor, no una predicción demostrada. The Guardian señaló que algunos especialistas consideran poco plausible el escenario concreto de tomar el control de internet y reclaman escepticismo. La relevancia inmediata del planteamiento no depende de aceptar esa estimación extrema: los incidentes muestran que la supervisión, el aislamiento y la comunicación de fallos ya son problemas operativos.
Evaluadores externos con acceso comparable al interno
El primer componente es el más tangible. Anthropic se compromete unilateralmente a permitir que equipos independientes, como la organización de evaluación METR, trabajen dentro de la empresa con acceso continuo y cercano al que tienen los responsables internos de riesgos. Según Amodei, esos evaluadores podrían examinar modelos terminados, procesos de entrenamiento y canalizaciones, comprobar el cumplimiento de las prácticas anunciadas y comunicar incidentes. La comparación elegida es la supervisión bancaria integrada: observadores con presencia estable, no una auditoría puntual preparada por la empresa para una fecha conocida.
Sam Altman afirmó que OpenAI adoptará la misma idea y prometió más detalles, según The Guardian y TechCrunch. Ese respaldo todavía no equivale a un protocolo común: faltan reglas sobre confidencialidad, selección y financiación de los evaluadores, acceso a datos protegidos, publicación de hallazgos y autoridad para detener una prueba. La independencia real dependerá de que el laboratorio no pueda limitar el examen cuando un resultado sea incómodo y de que existan consecuencias claras ante un incumplimiento.
Los competidores encuentran un raro punto de acuerdo
Elon Musk resumió su apoyo señalando que Amodei tenía razón. Demis Hassabis, responsable de Google DeepMind, consideró correcta la dirección aunque advirtió de que los detalles necesitan desarrollo. La convergencia importa porque Anthropic, OpenAI, xAI y Google compiten por investigadores, clientes, capital y capacidad informática. Ninguna quiere conceder a las demás una ventaja al retrasar por sí sola un lanzamiento. Un estándar verificable podría reducir ese incentivo, pero una coordinación directa entre competidores también puede plantear problemas de defensa de la competencia.
Amodei propone por ello que el Gobierno estadounidense facilite una exención estrecha para conversaciones de seguridad. El segundo nivel de su plan exige que las empresas de democracias acuerden estándares comunes y límites a un progreso sin controles suficientes. No define una velocidad universal ni una métrica única. La capacidad puede medirse por potencia de cómputo, rendimiento en evaluaciones, autonomía de agentes, acceso a herramientas o consecuencias observables. Elegir un indicador demasiado simple invitaría a sortearlo; uno excesivamente complejo podría volver imposible fiscalizar el acuerdo.
China convierte la prudencia en un dilema estratégico
El tercer nivel es una coordinación global que incluya a China. Amodei reconoce que verificarla sería difícil y que una parte que incumpliera podría obtener una ventaja militar o económica decisiva. Su ensayo combina la invitación al diálogo con medidas destinadas a conservar la superioridad estadounidense: controles más estrictos sobre chips avanzados y equipos de fabricación, lucha contra el contrabando, seguridad frente al robo de pesos de modelos y medidas contra la destilación no autorizada. Por esa mezcla, la propuesta puede interpretarse fuera de Estados Unidos como un instrumento de contención además de seguridad.
Donald Trump rechazó públicamente la desaceleración durante una comparecencia en Irlanda. Dijo que Estados Unidos lidera frente a China y que quien gane la carrera de la IA gana, aunque admitió la posibilidad de algunas barreras. Reuters publicó sus declaraciones el 13 de septiembre a las 14:28 UTC. La respuesta muestra el principal obstáculo político: incluso dirigentes que aceptan riesgos pueden creer que reducir la velocidad unilateralmente es más peligroso que continuar.
La supervisión necesita criterios comprobables
La discusión no debería limitarse a elegir entre aceleración total y pausa absoluta. Un esquema aplicable tendría que identificar capacidades que activan controles adicionales, definir pruebas antes y después del despliegue, exigir notificación de incidentes y proteger a quienes informen de fallos. También necesitaría resolver quién ve información comercial sensible y cómo se publican conclusiones útiles sin facilitar ataques. Los evaluadores integrados pueden mejorar la visibilidad, pero no sustituyen leyes, responsabilidades ni capacidad estatal para investigar daños.
Críticos citados por TechCrunch temen, además, que el lenguaje catastrófico desvíe la atención de daños actuales —fraude, discriminación, desplazamiento laboral o concentración de poder— y que reglas costosas consoliden a los mayores laboratorios. Esa objeción obliga a separar la evidencia de las conjeturas y a diseñar requisitos proporcionales. Una regulación que solo puedan pagar cuatro compañías cerraría el mercado; una que ignore a los modelos fronterizos dejaría sin cubrir los riesgos de mayor escala.
Del respaldo público al compromiso medible
La noticia es el cambio de posición visible entre rivales: varios dirigentes aceptan ahora que el ritmo de desarrollo debe estar condicionado por la capacidad de evaluar y controlar. El siguiente paso será comprobar si OpenAI concreta su adhesión, si Anthropic concede el acceso prometido y si otros laboratorios publican compromisos comparables. Sin plazos, métricas y mecanismos de rendición de cuentas, la coincidencia puede quedarse en una declaración de fin de semana.
El debate también anticipa una negociación más amplia entre industria y gobiernos. Las compañías poseen la infraestructura y el conocimiento técnico; los Estados controlan normas, compras públicas, exportaciones y responsabilidad jurídica. Un pacto duradero necesitará ambos niveles y una dimensión internacional que no convierta la seguridad en una excusa para excluir competidores. Por ahora, el hecho verificable es una rara alineación pública sobre la necesidad de acompasar capacidades y salvaguardas, acompañada de una oposición igualmente clara desde la Casa Blanca.
