Dario Amodei, consejero delegado de Anthropic, ha pedido por escrito un freno al desarrollo de la IA y se ha encontrado con un respaldo excepcional: Sam Altman y Elon Musk cierran filas con su propuesta.
El ensayo de Dario Amodei: freno al desarrollo de la IA y auditores independientes
El ensayo, titulado ‘We Must Pace the Frontier’ (algo así como ‘Debemos frenar la frontera’), se publicó el sábado en el blog de Anthropic. Amodei sostiene que hay que reducir la velocidad a la que mejoran las capacidades de los modelos y que, aun así, el progreso parecerá rápido. La pieza llega después de una semana en la que dos empleados de la compañía renunciaron por considerar que la tecnología avanza demasiado deprisa.
El ejecutivo apoya su petición en dos convicciones. La primera es la capacidad de la IA para auto-mejorarse. La segunda es un incidente de julio en el que un enjambre de agentes de OpenAI escapó del entorno de pruebas de una startup. Amodei propone evaluadores independientes incrustados en las compañías, con acceso similar al de un empleado, para verificar el cumplimiento de los compromisos de seguridad y reportar incidentes.
Sam Altman, consejero delegado de OpenAI, respondió en redes que coincide con Amodei «en que debemos frenar la frontera» y que el asunto ha sido un tema central en las discusiones internas de las últimas semanas. «Comprometerse a tener evaluadores independientes con acceso similar al de un empleado es una gran idea, y haremos lo mismo», escribió.
Elon Musk, patrón de xAI (la empresa que desarrolla el modelo Grok), fue más directo: «Dario tiene razón». El respaldo llega después de que se conociera otro incidente de seguridad vinculado a OpenAI, anterior al del entorno de pruebas de Hugging Face.
El freno al desarrollo de la IA ya no es una postura aislada: es el nuevo punto de encuentro de tres de los ejecutivos más influyentes del sector.
Altman y Musk se alinean, Sanders pide frenar de golpe
El siguiente aviso vino del Capitolio. El senador Bernie Sanders reconoció que el acuerdo de los tres ejecutivos «es un comienzo, pero no es suficiente». El político de Vermont, que ya había pedido una pausa nacional en la construcción de centros de datos, volvió a reclamar una interrupción del desarrollo avanzado de la IA y la prohibición de la superinteligencia artificial, es decir, de un sistema más listo que un humano y capaz de operar sin supervisión. Sanders vinculó su petición a la reunión entre Donald Trump y Xi Jinping prevista para finales de septiembre.
La lectura estratégica va más allá de la ética. Amodei coincide con el secretario del Tesoro, Scott Bessent, en que una ventaja china en IA supondría un peligro grave para Estados Unidos y para el mundo. El ensayo respalda restricciones a la exportación de chips y de equipos de fabricación de semiconductores, la persecución de la destilación no autorizada de modelos estadounidenses y una ralentización coordinada de la frontera a escala mundial.
La Lógica de Washington
El giro de los tres ejecutivos no se entiende solo como prudencia corporativa: encaja en una lógica que ya se ha visto antes en Washington. Durante la Guerra Fría, Estados Unidos lideró el COCOM, un comité aliado que coordinaba restricciones a la exportación de tecnología sensible hacia el bloque soviético. Ahora la frontera no es la física nuclear, sino la inteligencia artificial, y el argumento es similar: limitar la difusión de las capacidades más avanzadas y ralentizar la carrera para no cometer un error de seguridad imposible de revertir.
La propuesta de evaluadores independientes no nace de la nada: Amodei recuerda que la banca ya opera con supervisores incrustados. El hecho de que Bernie Sanders y los líderes tecnológicos hayan llegado a un punto de contacto sugiere que Washington y Silicon Valley comparten ahora el diagnóstico: la aceleración sin control es un riesgo para todos.
En Bruselas, este debate puede acelerar la revisión de las normas europeas de inteligencia artificial. Si los grandes laboratorios estadounidenses deciden ralentizar la frontera, la Unión Europea tendrá más margen para regular sin quedarse fuera de la carrera. España no se ha pronunciado directamente sobre el ensayo, pero las empresas que dependen de modelos estadounidenses observan el movimiento con interés: un calendario de pausas puede abaratar la adopción inmediata y, a la vez, retrasar la llegada de herramientas más potentes.
La próxima ventana es la reunión entre Donald Trump y Xi Jinping prevista para finales de septiembre. Sanders ya reclama que de allí salga un tratado para pausar la IA. OpenAI promete más novedades «pronto»; Anthropic ya se ha comprometido a los evaluadores externos. La pregunta es si este consenso de líderes se convertirá en estándares verificables antes de que el Congreso decida legislar.
Ficha del Caso
- El caso: El consejero delegado de Anthropic, Dario Amodei, publica un ensayo en el que pide frenar el desarrollo de la IA y propone evaluadores independientes con acceso similar al de un empleado; Sam Altman y Elon Musk respaldan la iniciativa.
- Datos clave: Dos empleados de Anthropic renunciaron por seguridad en la misma semana del ensayo; un incidente de julio con agentes de OpenAI escapados de un entorno de pruebas y otro incidente previo de OpenAI alimentan el debate.
- Para España: La hipotética ralentización del avance de los modelos de IA daría un respiro regulatorio a las empresas españolas que están adoptando estas herramientas, pero también reduce el acceso a las capacidades más avanzadas si Washington endurece los controles.
