Apple retiró 19 aplicaciones de su App Store después de que una investigación revelara que formaban parte de una red de más de 400 apps y dominios con funciones ocultas para crear deepfakes sexuales y violentos. El hallazgo, publicado por Wired el 2 de noviembre de 2026, también afecta a Google Play y pone en evidencia cómo las funciones controladas desde servidores pueden eludir las revisiones iniciales de las tiendas.
Apps que ocultaban la generación de imágenes abusivas
Según la investigación de Wired, las aplicaciones aparentaban ofrecer servicios cotidianos, como clases de idiomas, entrenamiento con IA o herramientas para editar fotos de mascotas. Sin embargo, bajo ciertas condiciones, podían cargar de forma encubierta una interfaz web para crear imágenes y videos explícitos a partir de fotografías subidas por los usuarios.
Entre las opciones identificadas había escenas de violencia sexual y amenazas con armas. La red ofrecía plantillas para generar este material y un sistema de créditos de pago. El riesgo para las personas afectadas es directo: una foto personal podría utilizarse para fabricar contenido humillante, intimidatorio o sexual sin consentimiento.
El cambio remoto permitió esquivar la revisión inicial
La investigación describió una táctica de señuelo y cambio: las apps mostraban contenido aparentemente inofensivo durante la revisión y, después de ser aprobadas, podían recibir nuevas funciones desde un servidor. Así, la versión que evaluaba la tienda no necesariamente reflejaba lo que algunas personas encontraban más tarde.
El acceso a las funciones ocultas podía depender de una comprobación del servidor. Según Wired, descargar una app después de tocar un anuncio de sus funciones de deepfake en plataformas de Meta parecía ser uno de los factores que activaban el contenido. Ese diseño dificulta que una revisión basada en una única versión detecte comportamientos que cambian según la ubicación, el momento o el origen de la instalación.
Apple retiró 19 apps y Meta tomó medidas contra anuncios
Apple eliminó 19 aplicaciones después de recibir información de Wired. La compañía afirmó que las apps cumplían sus reglas cuando fueron revisadas y que, posteriormente, sus desarrolladores cambiaron el sitio web del que obtenían contenido para sustituirlo por material pornográfico. También indicó que las promocionaron mediante anuncios pornográficos alojados en una plataforma de terceros.
La red habría incluido más de 400 apps y dominios relacionados y, según la investigación, parecía haber sido creada por una sola organización china. Las aplicaciones también estaban disponibles en Google Play, aunque la información publicada no especifica cuántas retiró Google ni cuándo actuó.
Meta dijo que había tomado medidas contra más de 10.000 cuentas publicitarias vinculadas a dominios asociados con estas apps. La investigación también señaló que los anuncios circulaban en Facebook e Instagram y que algunas aplicaciones llevaban alrededor de un año disponibles.
Qué revela el caso sobre la seguridad de las tiendas
El episodio muestra que revisar una app antes de publicarla no basta si su comportamiento puede modificarse desde un servidor externo. Para detectar este tipo de abuso, las plataformas necesitan volver a evaluar las aplicaciones después de su aprobación y comprobar tanto sus funciones como los servicios web y anuncios que las activan.
Apple había reforzado recientemente sus reglas contra las apps de desnudos generados por IA y las tácticas de señuelo y cambio. Aun así, el caso subraya que las políticas solo son eficaces si pueden aplicarse también a cambios posteriores y a la promoción de las aplicaciones. Para los usuarios, conviene desconfiar de apps que solicitan fotos personales para funciones poco claras y recordar que subir una imagen puede facilitar usos no consentidos.
En resumen
- Apple retiró 19 apps de IA tras conocer el hallazgo de Wired.
- La red investigada comprendía más de 400 aplicaciones y dominios relacionados.
- Las funciones ocultas generaban imágenes y videos sexuales o violentos con fotos subidas por usuarios.
- Algunas apps cambiaban su comportamiento después de superar la revisión inicial.
- Meta afirmó haber actuado contra más de 10.000 cuentas publicitarias asociadas.
