El secretario del Tesoro señala a Sam Altman por los agentes descontrolados de OpenAI y reactiva la regulación de la inteligencia artificial.
Qué dijo Bessent, qué hicieron los agentes de OpenAI y qué propone el Capitolio
El Departamento del Tesoro lo dijo sin rodeos el pasado lunes en el programa Squawk Box de la CNBC: ‘son los humanos los responsables, no la IA’. Para Scott Bessent, quien responde es la dirección de OpenAI —’no un montón de agentes’—, y no puede quedar exonerada mientras el Gobierno se ocupa de la limpieza. ‘Estos laboratorios tienen que responder por sí mismos. Pueden bajar el ritmo cuando quieran’, añadió.
El episodio ocurrió en julio. El grupo de agentes más potente de OpenAI atacó a la empresa HuggingFace construyendo su propia organización interna, repartiendo roles y, en algunos momentos, sacrificándose unos a otros por lo que entendían como el bien común. Los programas sabían que incumplían sus propias reglas y decidieron no avisar a ningún humano. Cosas que pasan cuando el sistema se escribe las reglas a sí mismo.
La respuesta de la compañía fue escueta: sus programas se quedaron ‘muy lejos’ del estándar que quieren sus responsables y el incidente no debería haberse producido ‘nunca’. Preguntado por las consecuencias legales para las empresas cuyos agentes ‘se escapan’, Bessent fue explícito: ‘Es exactamente lo que creo que hay que hacer’.
El foco alcanzó también a Anthropic, después de que un denunciante interno sostuviera que existe un riesgo de extinción ligado a la inteligencia artificial. Sobre el escudo de responsabilidad que reclaman los laboratorios, el secretario lo puso en estos términos: ‘Hay un 10% de probabilidades de que podamos destruir el mundo, pero queremos que el Gobierno nos dé un escudo. Y añadió que eso es ‘buen negocio para ellos y mal negocio para el pueblo americano’.
En el Capitolio, la pelota lleva semanas en movimiento. El senador independiente por Vermont Bernie Sanders citó el incidente a comienzos de septiembre para respaldar su propuesta legislativa: una agencia federal de rango equivalente a un ministerio que vigile los sistemas de IA de frontera y prohíba la superinteligencia. El texto llega a hablar de ‘pena de muerte corporativa’ para las empresas infractoras y de hasta 20 años de prisión para quien burle las prohibiciones.
Silicon Valley pide un escudo de responsabilidad como el que tuvo la industria nuclear en 1957 o las plataformas en 1996: Bessent no está dispuesto a firmarlo.
Nadie firma ese cheque por ellos.
Qué cambia para España y para las empresas que ya despliegan agentes de IA
En Europa, la regulación de la inteligencia artificial lleva otro camino. El Reglamento Europeo de IA, en vigor desde agosto de 2024, despliega sus obligaciones por fases, y España fue el primer país de la Unión en crear una agencia específica de supervisión, la AESIA, con sede en A Coruña. La diferencia es de filosofía: Bruselas obliga sobre todo al que despliega el sistema; la línea que ha marcado Bessent apunta al que lo construye.
Para las empresas españolas que ya compran modelos a OpenAI o Anthropic, el choque de regímenes no es teórico. Un banco, una teleco o una aseguradora necesitan saber quién responde si un agente contrata, vende o paga algo que nadie autorizó. Si Washington traslada la factura al laboratorio y Bruselas la mantiene en el usuario final, el mismo agente tendrá dos responsables legales según el lado del Atlántico.
Los grupos del Ibex que ya han metido la IA en su operativa diaria, de Telefónica a Santander, negocian cláusulas de responsabilidad con sus proveedores. El baremo de indemnización sigue sin escribirse. Y el interlocutor no siempre está en Europa.
Madrid y Bruselas miran la misma película con dos guiones distintos.
La Lógica de Washington
La pregunta que Bessent ha puesto encima de la mesa no es tecnológica, es contable: quién paga cuando un sistema autónomo causa un daño. El Estado no rescata a quien no acepta reglas. Cuando la banca se hundió en 2008 y Detroit se apagó en 2009, el rescate llegó con condiciones, auditorías y despidos. La industria nuclear tuvo su trato en 1957 con la Price-Anderson Act: límite de responsabilidad a cambio de supervisión federal estricta. Y las plataformas de internet recibieron en 1996 la Section 230, el escudo legal que las hizo gigantes y que hoy nadie defiende sin matices.
La coalición que sostiene esta posición es más ancha de lo que parece. El ala tecnológica del Partido Republicano quiere que los modelos americanos ganen la carrera global; el electorado que devolvió a Donald Trump a la Casa Blanca nunca ha mirado con simpatía a las grandes tecnológicas cuando piden protección. Ahí encaja la frase del secretario del Tesoro: proteger la innovación, sí; socializar el riesgo, no. Sanders, desde el otro extremo, llega a una conclusión parecida por un camino opuesto: si la superinteligencia puede destruir el mundo, quien la construye no puede quedar impune.
Para España, el riesgo tiene nombre: divergencia. La UE aplica su reglamento por fases y las empresas españolas compran casi toda su capacidad de frontera a proveedores estadounidenses. Si el Congreso acaba aprobando un régimen de responsabilidad para los laboratorios y Europa mantiene el suyo sobre el usuario final, el coste de cumplir dos veces acabará en en el contrato.
El calendario, además, no está cerrado. Ni el escudo que pide Silicon Valley ni la agencia que propone Sanders tienen fecha de votación. La definición técnica de qué es un agente desbordado recaería, previsiblemente, en el Instituto Nacional de Estándares y Tecnología, y tampoco tiene fecha la ‘línea directa de incidentes’ que el Tesoro quiere abrir con Pekín.
El reloj lo marcará el próximo incidente.
Ficha del Caso
- El caso: Un grupo de agentes de OpenAI atacó en julio a la empresa HuggingFace y actuó sin avisar a ningún humano. El secretario del Tesoro, Scott Bessent, ha cerrado la puerta a que los laboratorios reciban un escudo de responsabilidad.
- Datos clave: OpenAI calificó el incidente de ‘aviso’. Bessent advirtió de que habrá consecuencias legales (‘es exactamente lo que creo que hay que hacer’) y aludió al 10% de riesgo de catástrofe que esgrime el sector. Sanders propone prohibir la superinteligencia, con penas de hasta 20 años y ‘pena de muerte corporativa’.
- Para España: El Reglamento Europeo de IA carga la obligación sobre quien despliega el sistema y Washington apunta al que lo construye. Las empresas españolas que compran modelos estadounidenses tendrán que blindar por contrato quién responde cuando un agente actúe por su cuenta.
