La advertencia de Bill Gates en CNN dejó una frase incómoda: la superinteligencia es ‘más peligrosa’ que las drogas.
El fundador de Microsoft lo dijo el domingo en el programa State of the Union, ante Jake Tapper. No hablaba de ciencia ficción, sino de los próximos doce meses.
La superinteligencia —el término que Donald Trump y buena parte de la industria han adoptado para rebautizar la inteligencia artificial avanzada— traerá, según él, ‘muchas sorpresas negativas’. El diagnóstico apunta al corto plazo, no a un futuro lejano.
Qué dijo Gates, palabra por palabra, y por qué incomoda a Silicon Valley
Tapper le preguntó si sus tesis encajan en la etiqueta de ‘doomerismo’ que el consejero delegado de OpenAI, Sam Altman, aplica a quienes anticipan los peores escenarios. Gates no la rechazó de plano: ‘Todos los líderes responsables de la IA, incluido Sam Altman, incluido Dario Amodei, están diciendo al mundo que esto es muy preocupante’.
Después llegó la comparación que va a circular durante semanas. ‘La forma en que eso se articula como escenarios negativos puede exagerarse’, concedió. Cuando la gente actúa como si toda la humanidad estuviera en riesgo de forma inminente, eso va demasiado lejos. Pero comparado con los coches, los aviones o los fármacos —cosas que me alegra que tengamos capacidad regulatoria para mantener a la gente segura— esto es más peligroso que cualquiera de ellas’. Gates coloca la superinteligencia por encima de los coches, los aviones y los fármacos.
El frente que más le preocupa no es el modelo que se rebela. Es el delito. ‘El que probablemente veremos con más dramatismo durante el próximo año son los ciberataques’, señaló, porque existe un modelo de negocio conocido: se amenaza con provocar una disrupción, se mueve el mercado o se pide un rescate. ‘El verdadero peligro ahora mismo no es que la IA se esté descontrolando’, añadió. ‘Queda a años vista. Es gente mala usando la IA’. El riesgo inmediato no es la máquina rebelde, sino la máquina en manos equivocadas.
La brecha no está en los modelos que ya existen: está en que cualquiera puede desactivar sus protecciones y volverlos contra el resto.
De la etiqueta ‘superinteligencia’ al pacto de seguridad que se negocia en Washington
No es una voz aislada. El consejero delegado de Anthropic, Dario Amodei, firmó el 12 de septiembre una carta en la que pedía frenar el desarrollo para que la supervisión alcance a la tecnología.
Gates ya había escrito el 26 de agosto que esta es una tecnología sin precedentes que exige una respuesta global sin precedentes. En Washington, la etiqueta oficial ha cambiado: la Casa Blanca habla de super intelligence y negocia con los grandes consejeros delegados tecnológicos un marco de seguridad voluntario.
La duda que sobrevuela es si esa etiqueta sirve para regular o para vender mejor el producto. En Silicon Valley conviven dos relatos: el que promete rentabilidad inmediata y el que avisa de riesgos civilizatorios. Gates ha elegido el segundo.
España juega en otra liga regulatoria. Mientras Washington apuesta por la autorregulación y la velocidad, la Unión Europea despliega su Ley de IA por fases y España cuenta con la Agencia Española de Supervisión de la Inteligencia Artificial, con sede en A Coruña.
Las empresas que operan a ambos lados del Atlántico —Santander o BBVA, entre otras— tendrán que cumplir el estándar europeo sin perder acceso al ecosistema americano.
La Lógica de Washington
Para entender por qué la Casa Blanca no cierra la puerta a la superinteligencia hay que mirar el problema que intenta resolver. No es la seguridad. Es la carrera. El objetivo declarado es que Estados Unidos gane la década de la IA frente a China, y en esa lógica cualquier norma federal se lee como una desventaja competitiva frente a Pekín.
El precedente es más antiguo de lo que parece. En 1997, la administración de Bill Clinton consagró la autorregulación de internet con su Marco para el Comercio Electrónico Global. Estados Unidos renunció a a regular y ganó la década digital. Con la IA, Washington repite el manual: preferir un acuerdo voluntario a una ley que el Congreso tardaría años en aprobar.
La coalición que sostiene esta línea cruza los dos partidos. El Partido Republicano invoca la competitividad; buena parte del Partido Demócrata teme que regular en exceso deje la infraestructura en manos de dos o tres empresas. El resultado: un Congreso que lleva tres años sin aprobar una ley integral de IA.
Queda una incógnita que Gates no resuelve. Ningún pacto voluntario repone salvaguardas que se pueden desactivar con un clic. La próxima ventana de decisión está en Bruselas, con la revisión de la aplicación de la Ley de IA, y en Washington, donde sigue pendiente una norma federal de transparencia de modelos. Mientras ambas orillas se miran, el reloj corre para España: cada trimestre sin estándar común es un trimestre de incertidumbre para las empresas que operan a los dos lados del Atlántico.
Ficha del Caso
- El caso: Bill Gates advierte en CNN de que la inteligencia artificial avanzada, rebautizada como superinteligencia, es más peligrosa que los coches, los aviones o los fármacos.
- Datos clave: Gates señala los ciberataques como el riesgo más visible del próximo año; Anthropic pidió el 12 de septiembre frenar el desarrollo; la Casa Blanca negocia un pacto de seguridad voluntario con los grandes tecnológicos.
- Para España: la Agencia Española de Supervisión de la IA y la Ley europea fijan un estándar distinto al americano, lo que obliga a Santander, BBVA, Telefónica e Inditex a operar con dos marcos regulatorios simultáneos.
