Microsoft desarrolla una herramienta que analiza los chats para prevenir el abuso infantil

En un intento por hacer que Internet sea seguro para los niños, el gigante tecnológico Microsoft, con sede en Redmond, ha desarrollado una herramienta que ayuda a detectar y denunciar a los depredadores en línea que explotan a los niños. El proyecto tiene el nombre en código Proyecto Artemis y el desarrollo del proyecto comenzó en noviembre de 2018 en un “360 Cross-Industry Hackathon” de Microsoft.

Desde 2018, la compañía ha colaborado con The Meet Group, Roblox, Kik y Thorn para desarrollar la herramienta que evalúa y califica las conversaciones de texto. Las empresas que incorporan la herramienta pueden establecer un límite de valor de calificación, cruzando lo que marcaría el mensaje y requeriría moderación humana.

Esta herramienta reducirá significativamente la carga de trabajo de los moderadores humanos. Las empresas de servicios calificadas pueden integrar esta herramienta de forma gratuita a través de Thorn, una organización sin fines de lucro centrada en la creación de herramientas para proteger a los niños del abuso sexual.

Al comentar sobre esto, Courtney Gregoire, directora de seguridad digital de Microsoft, dijo: “El Proyecto Artemisa es un importante paso adelante, pero de ninguna manera es una panacea. La explotación y el abuso sexual infantil en línea y la detección de la preparación infantil en línea son problemas graves. Pero no nos desanima la complejidad y la complejidad de estos problemas. Por el contrario, estamos poniendo la herramienta a disposición en este momento para invitar a más contribuciones y el compromiso de otras empresas y organizaciones de tecnología con el objetivo de la mejora y el refinamiento continuos ".

La compañía afirma que ha estado usando la herramienta para escanear chats que podrían provocar abuso sexual en la plataforma Xbox y ahora Microsoft también planea implementar lo mismo en Skype.