Apple endurece las normas de la App Store contra las apps de IA que generan desnudos

Apple revisó sus directrices de revisión de la App Store el viernes 16 de octubre. La actualización deja claro que las aplicaciones deben prevenir y eliminar activamente las imágenes íntimas no consensuadas, incluidas las creadas con herramientas de IA. Apple también endureció sus normas contra las aplicaciones que engañan al usuario al ocultar funciones tras pasar la revisión. Los cambios llegan tras un año de informes sobre aplicaciones de IA que generaban desnudos y lograban eludir el proceso de revisión de Apple.

Qué ha cambiado

El anuncio de Apple para desarrolladores señala que los requisitos de moderación de contenido bajo la norma 1.2 "ahora cubren explícitamente las imágenes íntimas no consensuadas, incluyendo aquellas generadas mediante herramientas de IA". Los desarrolladores que carezcan de salvaguardas adecuadas, o que no corrijan las infracciones tras ser notificados, corren el riesgo de incumplir el Código de Conducta del Desarrollador y perder su lugar en la App Store. La redacción revisada de la norma 1.2 ahora abarca a las aplicaciones que permiten a los usuarios "crear, generar, subir, compartir o contribuir de otro modo" con contenido, informó 9to5Mac.9to5mac.com+1

La nueva norma 2.5.19 establece que las aplicaciones no deben incluir "funciones ocultas, inactivas o no documentadas". Añade que intentar ocultar dichas funciones en el binario de una aplicación "mediante ofuscación de código u otros métodos" es motivo para eliminar la aplicación y cancelar la cuenta del desarrollador, según las directrices actualizadas. Apple afirma que la norma aclara una política de larga data que solía estar bajo la norma 2.3.1. TECHi señaló que la referencia a la ofuscación de código no aparecía en la versión del 11 de octubre de las directrices.developer.apple.com+2

Apple vincula la norma a las aplicaciones que "solo revelan capacidades dañinas, como la generación de desnudos, después de su aprobación", informó MacRumors. Apple también actualizó la Sección 5. Las aplicaciones que faciliten la trata de personas o la explotación infantil, incluido el material de abuso sexual infantil, "serán eliminadas de la App Store y bloqueadas de la distribución alternativa", afirmó la empresa.developer.apple.com+1

Presión creciente

En enero, el Tech Transparency Project encontró docenas de aplicaciones de IA para generar desnudos en la App Store. En abril, un informe de seguimiento descubrió que las sugerencias de búsqueda y los anuncios de Apple dirigían a los usuarios hacia dichas aplicaciones. En julio, las autoridades de San Francisco ordenaron a Apple eliminar ocho aplicaciones, informó 9to5Mac. Tras un informe que alegaba que Apple y Google promocionaban estas aplicaciones, Apple dijo a CNET que había eliminado 15 aplicaciones señaladas y advertido a otros seis desarrolladores. Apple también se enfrentó a peticiones para retirar X y Grok de la App Store después de que Grok fuera utilizado para crear imágenes sexualizadas de mujeres y menores.cnet.com+1

Las afirmaciones de Apple sobre la aplicación de normas

Apple asegura que impidió que más de 150.000 aplicaciones con problemas de seguridad llegaran a los clientes el año pasado y canceló más de 193.000 cuentas de desarrolladores por fraude y abuso. Culpa a "actores malintencionados, en algunos casos operaciones de fraude coordinadas", que ocultan contenido dañino hasta después de que la aplicación es aprobada. "No dudamos en eliminar aplicaciones y cancelar las cuentas de los desarrolladores responsables cuando infringen estas directrices", escribió Apple.developer.apple.com