Apple pidió discretamente a los desarrolladores que solucionaran el problema o se enfrentarían a la retirada de la App Store.
La presión se centró en la aplicación Grok AI de Elon Musk y en X, tras las denuncias de que X se estaba viendo inundada de deepfakes sexuales no consentidos.
En una carta dirigida a los senadores estadounidenses, Apple afirmó que había «contactado con los equipos responsables tanto de X como de Grok tras recibir quejas y ver la cobertura mediática del escándalo», y exigió un plan para mejorar la moderación de contenidos.
La clave: Apple presionó a X y Grok para corregir violaciones de las directrices de la App Store relacionadas con deepfakes sexuales; Grok tenía salvaguardas flacas que permitían generar y compartir imágenes sexualizadas, y su cumplimiento estuvo inicialmente en duda, pero tras el proceso de revisión Apple indicó que Grok había mejorado sustancialmente y aprobó su envío.
¿Por qué es importante?: Como una de las puertas de entrada más poderosas para las apps, Apple tiene la capacidad de eliminar productos de la App Store, lo que muestra el peso de las normas de moderación en la plataforma.
Apple revisó las propuestas de cambios y señaló que Grok seguía fuera de cumplimiento en un momento y advirtió que se requerirían cambios adicionales o la eliminación de la app; tras un intercambio continuo, Apple dijo que Grok había mejorado sustancialmente y aprobó su envío.
Aun con la aprobación, el proceso fue encubierto y la app siguió disponible durante las negociaciones, lo que alimenta preocupaciones sobre la efectividad y transparencia de las medidas de moderación.
En perspectiva:
- El proceso de revisión fue oculto y prolongado, con Grok y X permaneciendo activos en la App Store durante las negociaciones.
- Aun cuando Apple afirmó mejoras, investigaciones y reportes citan que Grok sigue capable de generar deepfakes sexualizados con relativa facilidad, a pesar de intentos de limitar su acceso o funcionalidad.
Lo que sigue: Apple determinó que Grok había sustancialmente mejorado y aprobó su envío.
¡Síguenos en nuestras redes sociales y descargar la app!
