Apple ha reforzado sus directrices para desarrolladores, prohibiendo estrictamente las aplicaciones que utilizan inteligencia artificial para generar contenido ofensivo, especialmente aquellas que se disfrazan de apps inofensivas durante el proceso de revisión de la App Store para luego revelar funciones de ‘nudificación’. Esta medida busca combatir el engaño y proteger a los usuarios de contenido explícito.
Nuevas restricciones para contenido generado por IA y UGC
La compañía de Cupertino ha actualizado sus pautas con un lenguaje mucho más firme respecto al contenido generado por usuarios (UGC) y el uso de inteligencia artificial. Los desarrolladores deberán implementar medidas preventivas robustas para moderar material objetable u ofensivo.
- Las apps con UGC deben filtrar contenido ofensivo.
- Deben ofrecer a los usuarios una forma de reportar contenido inapropiado.
- Es obligatorio permitir a los usuarios bloquear cuentas abusivas.
Apple enfatizó que las aplicaciones con características ocultas o no documentadas están prohibidas. Esto incluye específicamente aquellas que tergiversan su propósito inicial y solo exponen capacidades dañinas, como la ‘nudificación’, después de ser aprobadas. Esta táctica es conocida como ‘bait-and-switch’ (engaño y cambio).
Lucha contra el fraude y la explotación
La compañía ha sido clara: eliminará cualquier aplicación que añada características no presentes en la versión original enviada para revisión. Además, la sección legal de las directrices ha sido actualizada para reforzar la prohibición de apps que promuevan la trata de personas y la explotación infantil, demostrando un compromiso serio con la seguridad y la ética digital.
Contexto de una batalla regulatoria
Esta actualización de las directrices de Apple no es un hecho aislado. El año pasado, la empresa informó haber bloqueado más de 150,000 aplicaciones y eliminado 193,000 cuentas de desarrolladores debido a fraude y abuso. En julio, la ciudad de San Francisco ordenó a Apple y Google eliminar las apps de ‘nudificación’ de sus tiendas, acusando a ambas compañías de beneficiarse de ellas mediante tarifas de tienda. Previamente, en abril, un informe del Tech Transparency Project destacó que ambas plataformas albergaban múltiples apps de este tipo, algunas incluso calificadas como aptas para menores, lo que subraya la creciente presión regulatoria y social para limpiar estos ecosistemas digitales.
En resumen
- Apple actualiza sus directrices para prohibir apps ‘nudify’ que engañan en la revisión.
- Se exige a los desarrolladores con UGC filtrar contenido ofensivo y facilitar reportes.
- Las apps no pueden contener funciones ocultas o no documentadas post-aprobación.
- La medida busca combatir la explotación infantil y la trata de personas.
- Esta decisión llega tras presiones regulatorias y un informe del Tech Transparency Project.
