Imagen: Unsplash.
- Meta Platforms y NCMEC lanzaron una nueva plataforma para frenar la propagación de fotos o videos íntimos de menores de edad en internet.
- La plataforma Take It Down permitirá que menores de edad y sus padres reporten fotos íntimas que hayan sido publicadas en línea para ser bajadas.
- Las redes sociales de Meta son algunas de las que tienen mayores casos de contenido de abuso sexual infantil.
Meta Platforms y el Centro Nacional para Niños Desaparecidos y Explotados (NCMEC, por sus siglas en inglés) anunciaron Take It Down, una nueva plataforma que ayudará a evitar que fotos íntimas de menores de edad se publiquen en redes sociales como Facebook e Instagram.
La plataforma (financiada por Meta) permitirá que menores de edad y sus padres reporten cualquier contenido íntimo (desde fotos a videos) que hayan sido publicadas en línea para que sea eliminado.
El sistema se basa en fotos almacenadas localmente; sin embargo, ambas organizaciones aseguran que la plataforma protege la privacidad de los menores de edad.
Además de las plataformas de Meta, OnlyFans y la empresa matriz de Pornhub, MindGeek, también están agregando esta tecnología a sus servicios.
Take It Down busca brindar mayor protección a los menores de edad que usan redes sociales de Meta
Las personas pueden entrar a TakeItDown.NCMEC.org/es y seguir las instrucciones para bajar este tipo de contenido. Después de un breve cuestionaro, el sistema que buscará proactivamente videos o fotos íntimas en las aplicaciones participantes. Luego, la plataforma asignará un código numérico único (o hash) a este contenido de manera privada y directamente desde el dispositivo de la persona que haga el reporte.
Take It Down permite a las personas enviar al NCMEC únicamente el hash, en lugar del contenido reportado en sí. Este hash codifica las imágenes o videos de manera que ya no se pueden ver, produciendo hashes que son huellas digitales seguras.
Una vez que este código se envía al NCMEC, empresas como Meta pueden utilizarlo para encontrar copias de la imagen o video, retirarlos y evitar que se publiquen en sus aplicaciones en un futuro.
Meta señala que esto tampoco es solo para menores de 18 años. Los padres pueden actuar en nombre de un niño y los adultos pueden borrar las imágenes que se les tomaron cuando eran más pequeños.
Evuentalmente se espera integrar Take It Down a Facebook e Instagram para que los usuarios puedan denunciar con mayor facilidad contenidos que vayan en contra de las políticas de las plataformas.
Take It Down se basa en plataformas como StopNCII —lanzada por NCMEC y con South West Grid for Learning en 2021— que ayuda a los adultos a detener la difusión de sus imágenes íntimas en línea, una práctica comúnmente conocida como «porno de venganza».
Las redes sociales de Meta son algunas de las que tienen mayores casos de contenido de abuso sexual infantil
A pesar de que las redes sociales de Meta no permiten contenidos o comportamientos que exploten a menores de edad —incluida la publicación de fotos íntimas o actividades de «sextorsión»—, la compañía de Mark Zuckerberg no ha sido realmente eficiente en eliminar su propagación.
De acuerdo con un análisis de Comparitech, Facebook registró 73.3 millones de piezas de contenido bajo «desnudez infantil y explotación sexual» del primer al tercer trimestre de 2022; solo 4 millones menos que el total general de 2021 de 77.5 millones.
A s su vez, según los últimos informes de transparencia Facebook, 44% de este contenido (32.4 millones) se marcó en el tercer trimestre de 2022 y 30% (22.3 millones) en el segundo trimestre de 2022. En Instagram se registraron 6.08 millones de piezas de contenido de este tipo del primer al tercer trimestre de 2022; en 2021 fue de 8,38 millones.
Meta actualmente se encuentra bajo la presión de los fiscales generales estadounidenses y otros organismos gubernamentales para demostrar que protege a los menores de edad en sus plataformas. Esto explotó desde que surgieron las acusaciones de la denunciante Frances Haugen de que la compañía minimizó la investigación sobre los efectos que Instagram tiene en la salud mental de los menores de edad.
