Un alarmante incremento de aplicaciones conocidas como «nudify» ha sido detectado en internet. Estas herramientas utilizan inteligencia artificial para crear imágenes falsas de desnudos o contenido sexual explícito sin consentimiento. Meta, la empresa detrás de plataformas como Facebook e Instagram, ha reafirmado su compromiso con la protección de sus usuarios contra este tipo de abusos, fortaleciendo sus políticas existentes y tomando medidas legales para combatir estas prácticas.
Meta ha establecido normas estrictas contra las imágenes íntimas no consensuadas y actualizó sus políticas más de un año atrás para prohibir la promoción de aplicaciones nudify. Han estado eliminando anuncios y cuentas de Facebook e Instagram que promuevan estos servicios, además de bloquear enlaces hacia sitios que los alojen, y restringiendo términos de búsqueda relacionados en sus plataformas.
Recientemente, Meta ha anunciado que emprenderá acciones legales contra el desarrollador Joy Timeline HK Limited, responsable de las aplicaciones CrushAI. Han presentado una demanda en Hong Kong para impedir que esta empresa siga anunciando sus aplicaciones en plataformas de Meta tras intentos continuos de evadir sus procesos de revisión de anuncios.
Para combatir eficazmente estas aplicaciones en todo el internet, Meta también ha decidido compartir información sobre estos servicios con otras empresas tecnológicas a través del programa Lantern de la Tech Coalition. Desde marzo, han compartido más de 3,800 URLs únicas que violan sus normas, ayudando a otras compañías a investigar y tomar medidas.
La lucha contra estas aplicaciones ha revelado un espacio desafiante, donde los responsables constantemente evolucionan sus tácticas para evitar ser detectados. Algunos utilizan imágenes inofensivas en sus anuncios para evitar los mecanismos de detección de desnudos, mientras otros crean rápidamente nuevos dominios para sustituir los que son bloqueados. En respuesta, Meta ha desarrollado nueva tecnología que identifica y elimina estos anuncios incluso sin imágenes de desnudos y ha trabajado con expertos externos para mejorar sus sistemas de detección.
Meta apoya la legislación efectiva que combate el abuso de imágenes íntimas, ya sean reales o generadas por inteligencia artificial, y colabora con iniciativas como StopNCII.org y el Acta TAKE IT DOWN de EE. UU., que representa un paso importante en esta lucha. Además, sigue respaldando leyes que permiten a los padres supervisar las descargas de aplicaciones de sus hijos, facilitando la prevención de la obtención de apps nudify por menores.
Fuente: Zona de prensa de Meta.
