A Microsoft lança ferramenta para procurar por 'cuidados pessoais' em bate-papos on-line


  

A Microsoft lançou uma nova ferramenta para identificar predadores de crianças que cuidam de crianças por abuso em bate-papos online. O Projeto Artemis, baseado em uma técnica que a Microsoft vem usando no Xbox, agora será disponibilizado para outras empresas on-line com funções de bate-papo. Chega no momento em que várias plataformas estão lidando com predadores de crianças que têm como alvo crianças por abuso sexual, iniciando conversas nas janelas de bate-papo.

Artemis trabalha reconhecendo palavras e padrões de fala específicos e sinalizando mensagens suspeitas para revisão por um moderador humano. O moderador determina se a situação deve ser escalada entrando em contato com a polícia ou com outros agentes da lei. Se um moderador encontrar um pedido de exploração sexual infantil ou imagens de abuso infantil, o Centro Nacional para Crianças Desaparecidas e Exploradas será notificado para novas ações.

“Às vezes gritamos nas plataformas – e há abuso em todas as plataformas que têm bate-papo on-line – mas devemos aplaudi-las por implantar mecanismos”, diz Julie Cordua, CEO da organização tecnológica sem fins lucrativos Thorn, que trabalha para evitar abuso sexual online de crianças. "Se alguém disser 'oh, não temos abuso', eu direi a eles 'bem, você está olhando?'"

Em dezembro de o New York Times descobriu que plataformas de bate-papo on-line eram “campos de caça” férteis para predadores de crianças que cuidam de suas vítimas primeiro fazendo amizade com elas e depois se insinuando em um vida da criança, online e offline. A maioria das principais plataformas está lidando com alguma medida de abuso por crianças predadoras, incluindo o Xbox Live da Microsoft. Em 2017, como observou o Times um homem foi condenado a 15 anos de prisão por ameaçar crianças com estupro e assassinato pelo bate-papo do Xbox Live.

A detecção de políticas e abuso sexual infantil online pode variar muito de empresa para empresa, com muitas das empresas envolvidas com possíveis violações de privacidade, Times relatou . Em 2018, o Facebook anunciou um sistema para capturar predadores que verifica se alguém entra em contato rapidamente com muitas crianças e com que frequência elas são bloqueadas. Mas o Facebook também tem acesso a muito mais dados sobre seus usuários do que outras plataformas.

A ferramenta da Microsoft é importante, de acordo com Thorn, porque está disponível para qualquer empresa que usa bate-papo e ajuda a definir um padrão da indústria para a aparência da detecção e monitoramento de predadores, ajudando no desenvolvimento de futuras ferramentas de prevenção. As conversas são difíceis de monitorar quanto ao potencial abuso infantil, porque pode haver muitas nuances em uma conversa, diz Cordua.

Os predadores de crianças podem espreitar nas salas de bate-papo online para encontrar vítimas como se estivessem offline, mas com acesso muito mais imediato, diz Elizabeth Jeglic, professora de psicologia na Faculdade de Justiça Criminal John Jay, em Nova York, que possui escreveu extensivamente sobre a proteção de crianças contra abuso sexual on-line, em particular, a prática freqüentemente sutil de se arrumar. "Dentro de 30 minutos, eles podem estar conversando sexualmente com uma criança", diz ela. "Pessoalmente, é mais difícil ter acesso a uma criança, mas on-line um predador pode entrar, testar as águas e, se não funcionar, vá em frente e vá para a próxima vítima."

Ele não para com uma plataforma, acrescenta Cordua. "Eles tentam isolar a criança e os seguem em várias plataformas, para que possam ter vários pontos de exploração", diz ela. Um predador pode pedir uma foto à criança e depois aumentar as demandas dos vídeos, aumentando o nível do conteúdo sexual. “A criança é atormentada por culpa e medo, e é por isso que o predador atravessa as plataformas: ele pode dizer 'oh, eu conheço todos os seus amigos no Facebook, se você não me enviar um vídeo, enviarei a primeira foto para todos na sua escola secundária. ””

A Artemis está em desenvolvimento há mais de 14 meses, diz a Microsoft, a partir de novembro de 2018, no Microsoft 360 360 Cross-Industry Hackathon da Microsoft, que foi co-patrocinado por dois grupos de proteção infantil, o WePROTECT Global Alliance e Child Dignity Alliance . Uma equipe incluindo Roblox, Kik, Thorn e The Meet Group trabalhou com a Microsoft no projeto. Foi liderado por Hany Farid, que desenvolveu a ferramenta PhotoDNA para detectar e relatar online imagens de exploração sexual infantil.

Alguns detalhes sobre como a ferramenta Artemis funcionará na prática, no entanto, não são claros e provavelmente variam dependendo de qual plataforma está sendo usada. Não foi especificado se a Artemis funcionaria com programas de bate-papo que usam criptografia de ponta a ponta ou que medidas serão tomadas para evitar possíveis PTSD entre moderadores .

Thorn administrará o programa e administrará o licenciamento e o suporte para integrar as empresas participantes, diz a Microsoft.

Cordua diz que enquanto Artemis tem algumas limitações iniciais – atualmente só funciona em inglês – a ferramenta é um grande passo na direção certa. Como cada empresa que usa a ferramenta pode personalizá-la para seu próprio público (os bate-papos nas plataformas de jogos obviamente variam dos aplicativos sociais), haverá muitas oportunidades para adaptar e refinar o funcionamento da ferramenta. E, diz ela, trata-se de plataformas de tempo que se afastam das práticas fracassadas de autopoliciamento e em direção à prevenção pró-ativa de cuidados e abusos de crianças.

Em seu blog, a Microsoft acrescenta que a ferramenta Artemis “não é de forma alguma uma panacéia”, mas é um primeiro passo para detectar a preparação on-line de crianças por predadores sexuais, o que chama de problemas “pesados”.

"O primeiro passo é precisar melhorar a identificação de onde isso está acontecendo", diz Cordua. “Mas todas as empresas que hospedam qualquer bate-papo ou vídeo devem fazer isso ou são cúmplices em permitir o abuso de crianças em suas plataformas.”



Source link