A proibição de deepfakes do Facebook tem algumas soluções óbvias


  

Estamos acostumados às redes sociais aguardando até que o dano já tenha sido causado antes de anunciar um esforço de limpeza. Quando se trata da mídia sintética conhecida como "deepfakes", elas estão notavelmente à frente da curva. Em novembro, o Twitter anunciou um projeto de política sobre deepfakes e começou a solicitar contribuições do público . E na segunda-feira à noite, o Facebook anunciou que proibiria certas fotos e vídeos manipulados da plataforma . Aqui está a postagem do blog de Monika Bickert, vice-presidente de gerenciamento global de políticas do Facebook:

No futuro, removeremos a mídia manipulada enganosa se ela atender aos seguintes critérios :

– Foi editado ou sintetizado – além de ajustes de clareza ou qualidade – de maneiras que não são aparentes para uma pessoa comum e provavelmente levariam alguém a pensar que um sujeito do vídeo disse palavras que na verdade não disseram . E:

– É o produto da inteligência artificial ou do aprendizado de máquina que mescla, substitui ou sobrepõe conteúdo a um vídeo, fazendo com que pareça autêntico.

Esta política não se estende ao conteúdo que é paródia ou sátira, ou vídeo que foi editado apenas para omitir ou alterar a ordem das palavras.

A decisão vem antes de uma audiência planejada na quarta-feira sobre desinformação na qual Bickert está programado para falar.

A mudança representa um avanço significativo no momento em que as ansiedades por falhas profundas e seu papel potencial na formação das eleições de 2020 estão em alta. A tecnologia está melhorando constantemente: vê essas empresas vendendo pessoas sintéticas (mas convincentes) para preencher aplicativos de namoro . Não é difícil imaginar uma campanha inescrupulosa postando vídeos sintéticos no Facebook ou Instagram do oponente dizendo ou fazendo algo que eles não fizeram. A partir de hoje, isso é oficialmente contra a política.

Notavelmente – e contra o que o Facebook disse inicialmente – a política se aplicará a anúncios e postagens regulares. Crie um vídeo falso de seu oponente batendo um selo de bebê e o Facebook abrirá (mais uma) exceção à política contra discursos políticos de verificação de fatos em anúncios e remova qualquer coisa que seja falsa.

Ainda assim, algumas dúvidas persistiram. Nina Jankowicz, que tem um livro publicado este ano sobre operações de desinformação russas, disse que está "ainda mais preocupada com falsificações baratas do que falsas profundas. Vídeos e imagens grosseiramente editados e deliberadamente enganosos ainda são eficazes e ainda são permitidos na maioria das plataformas. ”

O que é uma farsa barata? Algo parecido com este vídeo de trabalhadores da campanha fazendo uma dança brega em apoio ao candidato à presidência Michael Bloomberg . Na verdade, eles não são trabalhadores de campanha – são membros da platéia de um programa de improviso que filma um pouco para um comediante, que o compartilhou em um perfil do Twitter que ele havia editado para fazer parecer que ele trabalhava para a Bloomberg. O estratagema foi exposto relativamente rápido, mas muitas pessoas ainda o caíram.

Há todo tipo de maneira de enganar pessoas assim. Você também pode pegar um vídeo antigo e marcar uma nova data ou tweetá-lo como se fosse novo. Você pode Photoshop. Você não precisa de um laboratório de mídia de última geração para causar estragos. Essa é uma das razões pelas quais, mesmo com a melhoria da tecnologia, as operações de informação ainda não pareciam muito interessadas em deepfakes, como meu colega Russell Brandom escreveu no ano passado . "O upload de um vídeo manipulado por algoritmos provavelmente atrairá a atenção de filtros automatizados, enquanto a edição convencional de filmes e mentiras óbvias não", escreveu Brandom. "Por que correr o risco?"

Há uma última solução alternativa para a nova regra do Facebook: comédia. Por uma boa razão, o Facebook permite que as pessoas publiquem sátira e paródia. Infelizmente, essa regra é frequentemente explorada por fornecedores de notícias falsas e outros sites hábeis em ultrapassar a linha entre comédia e desinformação. Na semana passada, após o ataque militar no Irã, um artigo intitulado "Democratas pedem que as bandeiras voem a meia haste para sofrer a morte de Soleimani" foi publicado em um site chamado Babylon Bee . A partir daí, foi compartilhado mais de 660.000 vezes no Facebook .

Certamente algumas das pessoas que compartilharam o artigo sabiam que a Babylon Bee é um site satírico . Mas leia os comentários na postagem original do Facebook e você verá que muitos parecem acreditar que o artigo é real. No design achatado do Feed de notícias, onde todos os artigos compartilhados têm o mesmo peso, pode ser difícil dizer.

Todos esses asteriscos ajudam a explicar por que Os políticos democratas parecem pouco impressionados com a proibição dos deepfakes do Facebook . "O Facebook quer que você pense que o problema é a tecnologia de edição de vídeo, mas o problema real é a recusa do Facebook em impedir a disseminação da desinformação", disse uma porta-voz da deputada Nancy Pelosi, a estrela inconsciente de uma famosa enganadora (embora vídeo viral não muito profundo) no ano passado.

A campanha de Joe Biden atingiu uma nota semelhante: “A política do Facebook não chega à questão central de como sua plataforma está sendo usada para espalhar a desinformação, mas sim como profissionalmente essa desinformação é criada.”

Ainda assim, a ação de segunda-feira não impede a empresa de abordar algumas dessas nuances no caminho. E quanto mais vemos esse tipo de coisa em 2020, suspeito que sim. Enquanto isso, uma das grandes plataformas estabeleceu pelo menos um baluarte contra o infocalipse – embora sua força dependa inteiramente da força com que o Facebook a defende. Política, como sempre, é o que você aplica.

Atualização

Antes do intervalo, relatei aqui que o Pinterest cortou os benefícios de férias dos empreiteiros forçando-os a trabalhar durante o feriado, se quisessem ser pagos durante a semana de Natal. Depois que publiquei esse artigo, os funcionários ficaram chateados e a empresa inverteu o curso. Afinal, os contratantes obtiveram a semana paga, assim como os funcionários de tempo integral do Pinterest. "Percebemos que nossa comunicação sobre essa mudança pode ter chegado tarde demais no ano para que as pessoas planejem adequadamente para esta temporada de festas", me disse um porta-voz. "

Não há muito mais a dizer aqui, exceto que o jornalismo é o melhor trabalho do mundo e não deixe ninguém nunca lhe dizer a diferença.

A proporção

Hoje, em notícias que podem afetar a percepção pública das grandes plataformas de tecnologia.

Tendências em ascensão : As angariações de fundos no Facebook geraram US $ 37 milhões para alívio de incêndio na Austrália, diz a empresa. Somente o arrecadador de fundos do ator Celeste Barber levantou US $ 30 milhões de 1,1 milhão de pessoas e agora é o maior arrecadador de fundos da história do Facebook.

Tendências para os lados: O Facebook está montando uma nova equipe de engenharia em Cingapura para se concentrar em seus lucrativos negócios de publicidade na China . A notícia chega quando o CEO Mark Zuckerberg aumentou as críticas ao país por questões de direitos humanos.

Tendência para os lados: As ações do Google atingiram seu recorde histórico ontem, fechando em US $ 1.397,81 por ação . Aparentemente, os investidores não se incomodam com a investigação antitruste em andamento na empresa, bem como com a inquietação dos funcionários.

Governando

O FBI solicitou Apple para ajudar a desbloquear dois iPhones vinculados a um tiroteio na Estação Aérea Naval em Pensacola, Flórida, no mês passado . A Apple disse que está cooperando com o governo e já entregou todos os dados em seu poder. Aqui está o que a empresa disse a Pete Williams na NBC:

"Temos o maior respeito pela aplicação da lei e sempre trabalhamos cooperativamente para ajudar em suas investigações", afirmou a Apple em comunicado. "Quando o FBI solicitou informações nossas sobre esse caso, há um mês, fornecemos a eles todos os dados em nossa posse e continuaremos a apoiá-los com os dados que temos disponíveis."

Um policial disse que há um problema adicional com um dos iPhones pertencentes a Alshamrani, que foi morto por um deputado durante o ataque : Ele aparentemente disparou uma rodada no telefone, complicando ainda mais esforços para desbloqueá-lo.

Um memorando vazado do Facebook mostra o executivo de longa data Andrew “Boz” Bosworth disse aos funcionários que a empresa tem o dever moral de não inclinar a balança contra o presidente Trump nas eleições de 2020 . Kevin Roose, Sheera Frenkel e Mike Isaac de The New York Times têm a colher:

Em um post sinuoso de 2.500 palavras, intitulado "Pensamentos para 2020", Bosworth analisou questões como polarização política, interferência russa e o tratamento do Facebook pela mídia. Ele fez uma avaliação franca das deficiências do Facebook nos últimos anos, dizendo que a empresa estava "atrasada" para resolver os problemas de segurança de dados, desinformação e interferência estrangeira. E ele acusou a esquerda de exagerar, dizendo que, quando se tratava de chamar as pessoas de nazistas, "acho que meus colegas liberais também são um pouco, bem, liberais".

Boz então compartilhou o memorando na íntegra de sua própria página no Facebook . Leia.

A Casa Branca divulgou 10 princípios que as agências federais devem considerar ao elaborar leis e regras para o uso da inteligência artificial no setor privado mas enfatizaram que uma das principais preocupações deveria limitar o "alcance excessivo" regulatório. (James Vincent / The Verge )

A eleição de 2020 é provavelmente o evento mais esperado na história dos EUA quando se trata de segurança digital . A Rússia ainda representa uma ameaça massiva, assim como o Irã e a China. Os especialistas também alertam que não são apenas as eleições gerais que estão em risco – as primárias também serão um alvo. (Joseph Marks / The Washington Post )

Especialistas alertam que os Estados Unidos precisam estar preparados para a retaliação cibernética do Irã, que emprega táticas diferentes da Rússia . O Irã passou anos construindo um aparato de influência on-line que usa sites e artigos falsos destinados a imitar notícias reais e desaparecer rapidamente. (Sara Fischer / Axios )

Sonos processou Google buscando danos financeiros e proibindo a venda de alto-falantes, smartphones e laptops do Google nos Estados Unidos . A Sonos acusou o Google de violar cinco de suas patentes, incluindo a tecnologia que permite que os alto-falantes sem fio se conectem e se sincronizem. (Jack Nicas e Daisuke Wakabayashi / The New York Times )

Um pesquisador mergulhou nas narrativas em torno da morte de Qassem Soleimani um dos principais comandantes iranianos, em uma das plataformas de mídia social mais populares do Irã, Telegram



Source link