La Fiscalía de San Francisco ha enviado cartas de cese y desistimiento a Apple y Google exigiendo la retirada de 13 aplicaciones de inteligencia artificial que permiten generar imágenes de desnudos no consentidos. La presión legal contra las plataformas se intensifica mientras los deepfakes explícitos proliferan sin control y las víctimas —mayoritariamente mujeres— ven su imagen desnudada sin haber dado permiso.
Claves de la operación
- La Fiscalía identifica 13 apps de ‘nudify’ en las dos grandes tiendas. Ocho están en la App Store de Apple y cinco en Google Play. Todas se comercializan como herramientas de intercambio de rostros, pero permiten crear desnudos falsos con un solo clic.
- Las plataformas han obtenido millones de dólares en comisiones. La oficina del fiscal calcula que Apple y Google han recaudado cifras millonarias a través de los pagos dentro de estas aplicaciones, lo que las convierte, a su juicio, en parte del negocio.
- Apple responde con la retirada de tres apps y la revisión de otras cuatro. Google asegura que ya ha eliminado cientos de aplicaciones con funcionalidades similares, incluidas las cinco señaladas en las cartas.
El lucrativo negocio de las apps que ‘desnudan’ fotos
Las aplicaciones señaladas —con nombres genéricos de intercambio de caras— han construido un modelo de ingresos muy rentable. Muchas ofrecen una primera transformación gratuita y luego cobran suscripciones semanales o por uso para eliminar marcas de agua o generar imágenes de mayor calidad. Apple y Google se llevan entre un 15 % y un 30 % de cada transacción, una comisión que, multiplicada por los millones de descargas, justifica la acusación de la Fiscalía: las plataformas no solo alojan el contenido, sino que participan del beneficio.
La propia oficina del fiscal califica la práctica de «ilegal, dañina y completamente inaceptable» y sostiene que las empresas están «ayudando e incitando» a la venta de imágenes explícitas generadas por inteligencia artificial. El argumento es claro: si las plataformas ganan dinero con estas apps, su papel no es pasivo. En esta redacción consideramos que la línea entre la intermediación y la complicidad se difumina cuando los ingresos son recurrentes y conocidos.
La respuesta de las plataformas: retiradas selectivas y cuentas bajo amenaza
Apple ha confirmado a MacRumors que ya ha eliminado tres de las aplicaciones citadas en la carta y está en proceso de cerrar las cuentas de desarrollador correspondientes. Además, mantiene conversaciones con otros cuatro estudios para que subsanen las violaciones de sus directrices o serán retirados. La compañía subraya que las apps de «nudifización» están prohibidas en su App Store y que ha rechazado y eliminado proactivamente muchas de ellas, incluso cuando los usuarios las han denunciado a través de sus herramientas de reporte.
Google, por su parte, ha declarado al medio WIRED que ha borrado «cientos» de aplicaciones con funciones de desnudo por infringir sus políticas, incluyendo las cinco mencionadas en las cartas. Sin embargo, la Fiscalía de San Francisco no se conforma con medidas puntuales: exige que ambas compañías corten toda relación con los desarrolladores implicados y dejen de cobrar comisiones por los pagos integrados. De lo contrario, advierte, se expondrían a acciones legales.
Las comisiones millonarias que generan las apps de desnudo convierten a las plataformas en un actor más del negocio, no en un simple escaparate.
Lo que se juega en Europa y en España
El cruce de cartas en California tiene réplicas inmediatas al otro lado del Atlántico. La Ley de Servicios Digitales (DSA) europea obliga desde 2024 a las plataformas a retirar contenidos ilegales y a evaluar los riesgos sistémicos de sus sistemas algorítmicos. La Comisión Europea ya ha abierto expedientes a varias big tech por no actuar con suficiente diligencia, y un movimiento como el de San Francisco podría inspirar requerimientos similares desde Bruselas, Madrid o cualquier capital.
En España, la Agencia Española de Protección de Datos y el Ministerio de Igualdad llevan meses estudiando cómo encajar los deepfakes sexuales en el marco de la Ley de garantía integral de la libertad sexual. Aunque no hay una prohibición explícita de la generación de estos contenidos, la difusión de imágenes íntimas sin consentimiento ya es delito. La presión sobre Apple y Google podría acelerar una regulación que, hasta ahora, ha ido por detrás de la tecnología.
Observamos, además, una tendencia que trasciende las fronteras: las autoridades locales —ya sea la Fiscalía de San Francisco, la AEPD o el regulador irlandés— están cada vez más dispuestas a responsabilizar a las plataformas por lo que ocurre en sus tiendas de aplicaciones. El mensaje es nítido: si los ingresos están vinculados a contenidos dañinos, la vigilancia debe ser proporcional al beneficio. No hacerlo puede salir caro. Y, en el caso de Apple y Google, las cifras que manejan no admiten excusas.
