Por que uma importante empresa de moderação de conteúdo encerrou o negócio em vez de corrigir seus problemas

[ad_1]

  

Ontem, quando tentei resolver a decisão do Twitter de proibir anúncios políticos recebi uma dica tentadora de uma nova fonte. A Cognizant, a empresa de serviços profissionais que eu passei a maior parte deste ano investigando sobre as terríveis condições de seus locais de trabalho, estava saindo dos negócios de moderação de conteúdo.

Para minha surpresa, a dica acabou sendo verdadeira . A empresa anunciou em uma teleconferência na quarta-feira, sem mencionar os nomes do Facebook, Google ou qualquer de seus outros clientes. Mais tarde naquele dia, o Facebook me forneceu uma declaração de Arun Chandra, vice-presidente de operações em escala da empresa.

"Respeitamos a decisão da Cognizant de sair de alguns de seus serviços de revisão de conteúdo para plataformas de mídia social", disse Chandra. "Os revisores de conteúdo têm sido inestimáveis ​​para manter nossas plataformas seguras – e trabalharemos com nossos parceiros durante essa transição para garantir que não haja impacto em nossa capacidade de revisar conteúdo e manter as pessoas seguras".

Como chegamos aqui?

Como escrevi em The Verge :

Em fevereiro, The Verge publicou uma investigação sobre as condições de trabalho no local da empresa em Phoenix . Os moderadores do local descreveram o diagnóstico de síndrome de estresse pós-traumático após serem submetidos a um ataque diário de imagens gráficas e perturbadoras. Outros disseram que adotaram pontos de vista marginais depois de ver vídeos sobre teorias da conspiração regularmente. Vários funcionários que relatam temer por sua segurança após serem ameaçados por colegas de trabalho.

Um relatório de acompanhamento em junho focou em um site em Tampa, FL onde moderadores quebraram seus acordos de não divulgação para descrever um padrão de maus-tratos por parte dos gerentes. Eles descreveram o trabalho em escritórios que geralmente eram sujos e onde casos de assédio sexual resultaram em várias queixas arquivadas na Comissão de Igualdade de Oportunidades de Emprego.

A Cognizant pretende concluir seus contratos, que começarão a ser encerrados em 1º de março e serão encerrados durante o restante de 2020. Ambos os sites que visitei estão fechando como resultado do anúncio da Cognizant ontem, afetando mais de 6.000 funcionários em todo o mundo.

A razão oficial da Cognizant para sair do negócio é que "esse subconjunto de trabalho não está alinhado à visão estratégica da empresa", o que pode significar qualquer coisa. A Bloomberg, citando vários analistas, disse que ao longo do tempo a empresa piorou nas vendas – particularmente na atração de negócios digitais como plataformas de tecnologia. (Ele ainda obteve US $ 499 milhões em lucros no último trimestre, nas costas de milhares de funcionários, ganhando US $ 15 por hora.) O Business Standard relatou que a Cognizant ganhava entre US $ 240 milhões e US $ 270 milhões anualmente com a moderação do conteúdo.

Um memorando do CEO Brian Humphries para todos os funcionários que alguém me enviou informou que, embora milhares de empregos fossem eliminados, a Cognizant faria uma doação destinada a estimular o desenvolvimento de sistemas de aprendizado de máquina que podem substituir o trabalho. moderadores humanos:

Embora pretendamos sair deste trabalho, reconhecemos que a limpeza da web de conteúdo censurável é uma causa digna e em que as empresas têm um papel a desempenhar. Por esse motivo, decidimos alocar US $ 5 milhões para financiar pesquisas destinadas a aumentar o nível e a sofisticação de algoritmos e automação, reduzindo assim a exposição dos usuários a conteúdo censurável.

Não ficou claro onde a Cognizant planeja fazer essa doação.

O Facebook disse que compensaria a perda aumentando o número de moderadores que trabalha em um site no Texas, que é operado pela Genpact.

O Twitter não me disse o quanto dependia da Cognizant, mas uma porta-voz disse: “A equipe está nisso e está trabalhando nas mudanças para garantir que estamos apoiando as pessoas que fazem esse trabalho e, ao mesmo tempo, priorizando manter as pessoas ligadas. Twitter seguro. ”

O Google, que usa o Cognizant para serviços de moderação na Polônia e na Índia, entre outros lugares, não respondeu ao meu pedido de comentário.

Os moderadores dos quais ouvi falar no dia anterior reagiram de várias maneiras: com raiva por perder o emprego, chocados com a súbita divulgação do anúncio e com alívio pelo fato de os locais onde eles foram traumatizados desaparecerem.

"É um alívio mental e espiritual", disse-me um ex-moderador do site de Tampa. "Ainda tenho pesadelos com o conteúdo, mas isso acabará desaparecendo."

Uma fonte que trabalhou como gerente me disse que acreditava que a Cognizant agiu para reduzir sua responsabilidade legal no momento em que os fornecedores estão começando a enfrentar processos de ex-moderadores que agora têm PTSD, juntamente com um uma série de queixas de assédio sexual.

Em um nível, a saída da Cognizant do negócio de moderação provavelmente não mudará muito nas grandes plataformas de tecnologia. Existem muitos outros fornecedores para escolher – e enquanto as empresas oferecerem contratos de US $ 200 milhões, como o Facebook tinha para a Cognizant, sempre haverá.

Ainda assim, a medida fala da grave dificuldade desse trabalho e do grave tributo que leva dia a dia a milhares de pessoas. O preço foi tão alto que uma grande empresa de consultoria decidiu deixar o negócio em vez de trabalhar para desenvolver uma correção. Talvez parecesse que não podia, dadas as restrições que as plataformas colocam. (O Facebook ditou quase tudo no contrato da Cognizant, até a decoração do escritório.)

Há um ano, Vice chamou a moderação de conteúdo no Facebook de “ o trabalho impossível. ” Nesta semana, a Cognizant anunciou que havia, de fato, achado o trabalho impossível. Não é apenas o Facebook que entra na cabeça às vezes. Acontece que seus fornecedores também.

Obrigado

Obrigado a todos que vieram a The Glass Room esta semana por me ouvir falar com Clara Tsao sobre os muitos desafios da moderação de conteúdo. Como no evento da semana passada, eu me diverti muito conhecendo muitos leitores de boletins pessoalmente e ouvindo suas perguntas.

A Glass Room, aliás, é uma exibição fenomenal e gratuita sobre dados e sociedade que é muito mais divertida de navegar do que parece. Os destaques incluem um Rolodex impresso de desculpas históricas de Mark Zuckerberg, uma máquina onde você pode comprar seguidores do Instagram e um armário cheio de "conjuntos de dados vazios" – coisas que devemos acompanhar, mas não o fazemos. É facilmente acessível a partir do BART e Muni, e vai até domingo. Não perca – e, se você comparecer ou não, convido você a assistir a minha conversa com Clara aqui .

A proporção

Hoje, em notícias que podem afetar a percepção pública das grandes plataformas de tecnologia.

Tendência: YouTubers arrecadaram mais de US $ 10 milhões como parte de um levantamento de fundos para plantar árvores em todo o mundo, graças a doações de Elon Musk e Susan Wojcicki . A meta é arrecadar US $ 20 milhões até o final do ano.

Tendências em ascensão : O Twitter está melhorando a superfície de tweets abusivos usando o aprendizado de máquina e a suspensão dessas contas, de acordo com seu último relatório de transparência . No entanto, é preocupante: as demandas legais dos países aumentaram 67%.

Tendência para baixo : Um golpe de âmbito nacional Airbnb envolvendo listagens e avaliações falsas mostra como é fácil tirar proveito dos padrões comunitários da empresa e das políticas de aplicação negligentes . Moderação de conteúdo – não é apenas para plataformas sociais!

Governando

A empresa israelense de vigilância cibernética NSO Group invadiu o WhatsApp para espionar as principais autoridades do governo em 20 municípios – um grupo muito mais amplo do que o relatado anteriormente. As notícias podem ter amplas conseqüências políticas e diplomáticas, afirma Christopher Bing e Raphael Satter na Reuters:

Nos últimos anos, pesquisadores de segurança cibernética descobriram produtos NSO usados ​​contra uma ampla gama de alvos, incluindo manifestantes em países sob regime autoritário. O uso dessas ferramentas para atingir políticos de alto nível, no entanto, é menos compreendido.

Um grupo de pesquisa independente que trabalha com o WhatsApp, chamado CitizenLab, disse que pelo menos 100 das vítimas são jornalistas e dissidentes, não criminosos.

O WhatsApp informou que enviou notificações de aviso aos usuários afetados no início desta semana.

"É um segredo aberto que muitas tecnologias marcadas para investigações policiais são usadas para espionagem estatal e política", disse John Scott-Railton, pesquisador sênior do CitizenLab.

O WhatsApp está processando a NSO por violar a Lei de fraudes e abusos de computadores . É uma nova aplicação do CFAA, que normalmente é usada para punir as pessoas que violam os computadores das empresas e não dos clientes. Eu espero que dê certo! (Andy Greenberg / Wired )

Em outro lugar, um dia após o processo, o Facebook aparentemente excluiu as contas dos funcionários da NSO por violarem os termos de serviço da plataforma . (Dan Goodin / Ars Technica )

Os políticos locais em Washington continuam exibindo anúncios no Facebook e Google mesmo depois que as empresas os proibiram de fazê-lo no ano passado . O estado possui algumas das mais rigorosas leis de financiamento de campanhas no país, mas a aplicação não tem sido fácil. (Makena Kelly / The Verge )

A ACLU processou o Departamento de Justiça e o FBI pelo uso da tecnologia de reconhecimento facial . Eles estão argumentando que as agências implementaram secretamente uma tecnologia de vigilância nacional que ameaça a privacidade e os direitos civis dos americanos. (Drew Harwell / The Washington Post )

Metade do país vota em máquinas fabricadas pela ES&S . A empresa teve repetidas controvérsias sobre a perda de votos e máquinas defeituosas . Eles mantiveram seu domínio devido à falta de regulamentação e supervisão. Soa familiar? (Jessica Huseman / ProPublica )

Algumas pessoas estão sugerindo que os EUA precisam de uma lei sobre discurso de ódio . A idéia é que a Primeira Emenda foi projetada para uma era pré-Internet e não é mais suficiente para este país. (Por outro lado, a Primeira Emenda é boa.) (Richard Stengel / The Washington Post )

Aaron Sorkin, roteirista de The Social Network e Steve Jobs, escreveu um artigo no The New York Times pedindo Mark Zuckerberg para repensar sua posição em permitir políticos a mentir em anúncios no Facebook . Essa tomada absolutamente amaldiçoada foi ofuscada por pessoas que apontam que os filmes de Sorkin são fictícios, tornando sua santidade mais do que um pouco rica. (Aaron Sorkin / The New York Times )

A confiança dos americanos nas notícias locais está sendo explorada por redes de sites de impostores que promovem agendas ideológicas . Alguns são apoiados por think tanks conservadores. (Brendan Nyhan / The New York Times )

O desenvolvedor do popular software de edição de texto e código Notepad ++ lançou uma edição "Free Uyghur" para promover a conscientização sobre a perseguição das minorias étnicas na China. O projeto foi inundado imediatamente com spam chinês. (Colin Lecher / The Verge )

Os funcionários da empresa de visualização de dados Tableau realizaram um comício em Seattle, pedindo à liderança para romper os laços com o ICE e a Alfândega e proteção de fronteiras . Este é o mais recente de uma série de protestos de funcionários sobre contratos governamentais com a ICE. (Monica Nickelsburg / GeekWire )

Indústria

Uma perigosa cura do câncer falso continua a florescer em grupos no Facebook . O "pomada negra" queima na pele humana, mas o Facebook diz que os grupos não violam as diretrizes da comunidade. Relatórios de Katie Notopoulos no BuzzFeed )

Mesmo quando o Facebook reprimiu os anti-vaxxers e os vendedores ambulantes de óleo de cobra, uma forma particularmente grotesca de tratamento falso para o câncer floresceu em grupos privados no Facebook. O bálsamo preto, uma pasta preta cáustica que se alimenta da carne, é entusiasticamente recomendado em grupos dedicados como uma cura para o câncer de pele e mama – e para outros tipos de câncer quando ingerido em forma de pílula. Existe até um grupo dedicado a aplicar a pasta em animais de estimação.

Um porta-voz do Facebook disse ao BuzzFeed News que esses grupos não violam as diretrizes da comunidade. Neste verão, lançou uma iniciativa para tratar de "alegações de saúde exageradas ou sensacionais" e rebaixou esse conteúdo no News Feed, semelhante à maneira como lida com a clickbait. Mas não está claro como define o que é uma alegação de saúde "sensacional". Citando a privacidade dos usuários, o Facebook não quis dizer se havia rebaixado os grupos de pomadas negras no Feed de notícias.

Mortos Os usuários do Facebook poderiam superar os vivos em 50 anos de acordo com pesquisa do Oxford Internet Institute. Se os usuários continuarem a aumentar 13% a cada ano, haverá 4,9 bilhões de usuários mortos até 2100. Estou ansioso para ser um deles.

Dr. Susan Desmond-Hellmann, CEO da Fundação Bill e Melinda Gates, está deixando o conselho de administração do Facebook . Ela disse em um comunicado que vai se concentrar em sua saúde e família.

Um documento confidencial da Sidewalk Labs revelou a visão fundamental da empresa de desenvolvimento urbano associada ao Google . Isso incluía ter o poder de cobrar seus próprios impostos sobre a propriedade e rastrear e prever os movimentos das pessoas. Parece um destino turístico divertido! (Tom Cardoso e Josh O’Kane / The Globe and Mail )

Sarah Emerson rastreou uma bateria AmazonBasics de volta ao seu ponto de origem . A empresa historicamente tem sido ferozmente secreta sobre sua presença corporativa, mascarando suas operações através de uma rede discreta de fornecedores terceirizados. (Sarah Emerson / OneZero )

E finalmente …

Normalmente, não sou eu que chamo algo de "palmas épicas" – mas, pelos padrões discretos de Mark Zuckerberg, devo dizer que isso se qualifica. Em resposta às críticas de Aaron Sorkin no New York Times, Zuckerberg simplesmente citou o próprio roteiro de Sorkin para The American President :

Deus, sinto falta daquela versão de Sorkin.

Fale conosco

Envie-nos dicas, comentários, perguntas e fornecedores de moderação de conteúdo alternativo: [email protected] e [email protected] .

[ad_2]

Source link



Deixe uma resposta