Ubisoft e Riot Games estão trabalhando juntas para combater chats tóxicos

A Ubisoft e a Riot Games estão se unindo em um novo projeto de pesquisa que visa reduzir os chats tóxicos no jogo.

O novo projeto, chamado “Zero Harm in Comms”, será dividido em duas fases principais. Para a primeira fase, a Ubisoft e a Riot tentarão criar uma estrutura que permita compartilhar, coletar e marcar dados de forma a proteger a privacidade. É um primeiro passo crítico para garantir que as empresas não mantenham dados que contenham informações de identificação pessoal, e se a Ubisoft e a Riot descobrirem que não podem fazer isso, “o projeto para”, Yves Jacquier, diretor executivo da Ubisoft La Forge, disse em entrevista ao The Verge.

Depois que essa estrutura de proteção à privacidade for estabelecida, a Ubisoft e a Riot planejam criar ferramentas que usam IA treinada pelos conjuntos de dados para tentar detectar e mitigar “comportamentos disruptivos”, de acordo com um comunicado à imprensa.

Tradicionalmente, a detecção de intenções prejudiciais depende de “tecnologias baseadas em dicionário”, onde você tem uma lista de palavras escritas de maneiras diferentes que podem ser usadas para determinar se uma mensagem pode ser ruim, de acordo com Jacquier. Com esta parceria, a Ubisoft e a Riot estão tentando usar o processamento de linguagem natural para extrair o significado geral de uma frase, mas levando em consideração o contexto da discussão, disse ele.

O objetivo, se tudo funcionar bem, é que os jogadores vejam menos mensagens tóxicas nos chats. Ambas as empresas operam grandes jogos multijogador, então elas ganham muito com a redução de mensagens prejudiciais no bate-papo – se as pessoas se sentirem seguras jogando seus jogos, provavelmente irão jogar mais deles. E a Riot já monitora as comunicações de voz como parte de seus esforços para combater comportamentos perturbadores.

Mas Jacquier enfatizou que esse trabalho é de pesquisa, e “não é como um projeto que vai ser entregue em algum momento… é bem mais complexo do que isso”. E como vimos antes, a IA até agora não provou ser a bala de prata para moderação de conteúdo.

A Ubisoft e a Riot compartilharão “os aprendizados da fase inicial do experimento” no próximo ano, “não importa o resultado”, de acordo com o comunicado à imprensa.