Meta demanda a empresa por publicitar en sus plataformas aplicaciones de IA que «desnudan» personas

Las aplicaciones publicitadas permitían crear desnudos falsos de personas sin autorización, lo que representa una violación grave a la privacidad y a las normas de la compañía de Mark Zuckerberg.

Tras la publicación de una investigación de CBS News, que reveló la presencia de cientos de anuncios en plataformas como Facebook, Instagram, Messenger y Threads, que promocionaban aplicaciones de IA generativa capaces de desnudar personas sin su consentimiento, Meta presentó este miércoles una demanda en Hong Kong contra Joy Timeline HK Limited, empresa señalada como responsable de estas aplicaciones.

Según la compañía, la aplicación publicitada, conocida como CrushAI, utiliza IA para generar imágenes falsas de desnudos a partir de fotografías de personas, lo que representa una violación a la privacidad y a las normas comunitarias de sus plataformas. La empresa denunció que estas apps contribuyen a la difusión de contenido íntimo no consensuado y podrían facilitar situaciones de acoso y daños reputacionales.

En su demanda, Meta solicita a la justicia que impida a Joy Timeline HK Limited seguir promocionando estas apps dentro de sus redes sociales. Además, busca reforzar la prohibición de este tipo de contenido en sus plataformas mediante bloqueos preventivos y mejoras para detectar anuncios similares de forma más eficiente.

La compañía de Mark Zuckerberg sostiene que en ocasiones anteriores este tipo de publicidad ya había sido eliminado repetidamente por infringir sus normas. Sin embargo, Joy Timeline HK Limited intentó en múltiples oportunidades eludir el proceso de revisión de anuncios de Meta y continuó publicando estas aplicaciones.

Meta intensifica sus acciones contra las apps «nudify»
En un comunicado oficial, Meta informó que ya ha eliminado cientos de anuncios, suspendido cuentas relacionadas y bloqueado URLs asociadas a estas aplicaciones. La compañía también aseguró que está trabajando en el desarrollo de herramientas más avanzadas para detectar nuevas variantes de estos anuncios, que suelen evadir los sistemas de control mediante la creación de nuevas cuentas y dominios.

El caso ocurre en un contexto de creciente preocupación global sobre el uso de la IA generativa para la creación de imágenes íntimas no consentidas. Otras compañías como Apple, Google y Discord han implementado restricciones similares y han bloqueado este tipo de aplicaciones en sus plataformas y tiendas digitales.

Por el momento, la demanda presentada por Meta sigue en proceso y no se ha emitido una resolución judicial. La empresa reafirmó su compromiso de proteger a sus usuarios y de tomar medidas legales contra aquellos que utilicen sus servicios para promover actividades que vulneren la privacidad y seguridad de las personas.

Fuente: Diario RPP.