Anthropic propone ralentizar el desarrollo de la IA y abrir sus modelos a auditores externos, en un giro que tensa la carrera tecnológica.
Claves de la operación
- Primer acuerdo unilateral de auditoría externa. La compañía dará acceso a evaluadores como METR para verificar prácticas de seguridad, sin esperar a que la industria pacte un estándar.
- Frenar el ritmo del entrenamiento de modelos. Dario Amodei propone marcar el ritmo de la frontera para que reguladores y empresas construyan salvaguardas antes de la próxima generación.
- Movimiento en plena pugna regulatoria. Llega mientras Europa despliega la AI Act y Estados Unidos discute una supervisión federal para modelos de frontera.
El pulso por poner límites a la frontera de la IA
Dario Amodei, consejero delegado de Anthropic, ha publicado un ensayo en el que pide marcar el ritmo de la frontera: frenar el entrenamiento y el desarrollo para dar tiempo a construir salvaguardas y a que los reguladores evalúen los modelos. Según recoge The Verge, el directivo propone un plan de tres pasos.
El primer paso es dar acceso amplio a evaluadores externos como METR, una organización especializada en seguridad de modelos. Anthropic asume esta cesión de forma unilateral. La compañía no espera a que la industria pacte un estándar.
El segundo paso pasaría por un acuerdo sectorial. El tercero apunta a la implicación de los gobiernos. Amodei habla de ‘adherencia a prácticas y compromisos de seguridad’, no de una auditoría puntual.
La propuesta llega en plena pugna regulatoria. Europa despliega la AI Act y Estados Unidos discute una supervisión federal específica para modelos de frontera. En ese contexto, la decisión coloca a Anthropic en una posición singular.
El ritmo que propone no gustará a todos. La ralentización choca con la lógica de captación de capital que domina el sector.
La decisión de abrir los modelos a auditores externos no es una concesión: es una posición de mercado en un sector que aún no ha pactado sus límites.
Los rivales de Anthropic ante la auditoría externa
La apertura de modelos a METR introduce una variable competitiva. OpenAI, Google, y Meta mantienen alianzas propias con evaluadores, pero ninguna ha cedido acceso con tanta contundencia en un movimiento unidireccional.
Para los inversores, la cuestión es de calendario. Si Anthropic frena su frontera, ¿entrega ventaja a quienes no frenan? Es la pregunta que sobrevuela el sector.
Amodei no pide una moratoria global. Pide un ritmo que permita evaluar. La diferencia es sutil, pero en el mercado es todo.
Lo que hay detrás del giro de Amodei
La decisión tiene una lectura empresarial que va más allá de la seguridad. Anthropic busca liderar un estándar voluntario antes de que los reguladores impongan uno obligatorio.
En la Unión Europea, la AI Act ya crea un corsé normativo para los modelos de uso general. La compañía estadounidense no tiene una filial española relevante, pero mira a Bruselas como banco de pruebas: allí se definen los umbrales de cómputo y las obligaciones de auditoría que terminarán replicándose en otros mercados.
Riesgo comercial, sí. Posicionamiento reputacional, también. Si sus rivales no moderan el ritmo, Anthropic puede perder cuota en un mercado en el que el rendimiento de cada generación de modelos sigue siendo la métrica rey.
En esta redacción entendemos que el movimiento de Amodei no es filantropía. Es una apuesta por convertir la seguridad en ventaja competitiva.
El próximo gran acuerdo voluntario de auditoría en la industria dirá si esto es un punto de inflexión o una excepción temporal.
