Apple ha actualizado su política de moderación de App Store para impedir el uso de aplicaciones, incluidas herramientas de IA, para crear imágenes íntimas no consentidas o contenido "desnudo". La empresa ahora requiere que desarrolladores de aplicaciones con contenido generado por el usuario filtren activamente dicho material, proporcionen herramientas de reporte y bloqueo, y eviten la subida de imágenes explícitas. Los desarrolladores también deben eliminar cualquier contenido ofensivo que escape de los filtros.
El incumplimiento de implementar salvaguardas adecuadas o de corregir violaciones después de notificación puede resultar en la eliminación de la App Store y el Programa de Desarrolladores de Apple. Apple también aclaró que las aplicaciones que utilizan tácticas de "cambio y mordaza" —que tergiversan su propósito durante el análisis para ocultar capacidades de desnudo— serán eliminadas y sus desarrolladores prohibidos del programa. La actualización fortalece el largamente prohibido por Apple contenido pornográfico al extender la responsabilidad a material generado por IA.
Fuente: Engadget · Resumido por HeadlinesBriefing