El software que publicó la firma es gratis y mucho más eficiente que otras herramientas como PhotoDNA
Desafortunadamente, la pornografía infantil no deja de ser noticia de Internet, y por esta razón, las grandes compañías del sector deben enfrentar tal acontecimiento y enfocar sus esfuerzos para eliminarlo.
Para solucionar esto, lo ideal es que un grupo de moderadores demuestre y estudien todo el contenido gráfico que se sube a diferentes sitios webs y servicios con el propósito de eliminar todo el que viole las normas de uso y acceda en el campo de los abusos sexuales a niños y niñas.
Desde el día de hoy, afortunadamente, ese arduo trabajo será más rápido, y sobre todo, eficaz. Google presentó una herramienta que, con IA, ayudará a revelar este tipo de contenido prohibido y creará un importante paso hacia adelante acorde a los sistemas de detección de CSAM (Children Sexual Abuse Material).
Y es que PhotoDNA, un software que hizo Microsoft y que usan las firmas como Facebook o Twitter enfoca su utilidad en revelar todo contenido que sea ilegal o restringido y borrarlo para así impedir que se publique las dos redes sociales.
Sin embargo, el nuevo proyecto de Google iría más lejos y ayudaría a descubrir el material que sea controversial y recalcaría, de entre todas las fotos y videos, aquel que se pudiera considerar como pornografía infantil o CSAM.
De esta manera se podría disminuir el proceso y hacer que, dependiendo siempre de los moderadores humanos, estos tengan un trabajo más placentero. Uno de los moderadores aseveró que la función de IA le ha autorizado «catalogar un 700 % más del material con abusos sexuales a niños un mismo periodo».
Como es lógico, la IA no podrá reemplazar el trabajo humano que es necesario para este tipo de problemas. Fred Langford, delegado de la Internet Watch Foundation, afirmó en charlas con The Verge que en una ocasión en el que «el trabajo que hacemos los humanos yendo a través del contenido y diciendo ‘sí’, ‘no’, ‘sí’, ‘no'», esta función será útil en el proceso de selección.
A pesar de que, es obvio, que el trabajo humano es esencial en trabajos de detección y filtrado, Langford acota que «es muy probable que estemos a uno o dos años de poder fabricar herramientas 100 % automatizadas» para este tipo de trabajos.