Sexo, mentiras e vigilância: algo está errado com a guerra contra o tráfico sexual

Texto de @violetblue para Engadget, tradução por Monique Prada

Fato: a censura sexual é um mercado lucrativo em ascensão.

As maiores empresas do Vale do Silício se associaram a uma única organização de combate ao tráfico sexual – ela mantém um canal de coleta de dados, é parceira da Palantir e ajuda o departamento de segurança pública a fiscalizar e rastrear profissionais do sexo sem o seu consentimento. Grandes sites como Facebook, Twitter, Snapchat e outros estão trabalhando com uma organização sem fins lucrativos chamada Thorn (“defensores digitais de crianças”) cujos métodos, talvez previsivelmente, são duvidosos.

A Thorn oferece às empresas de internet a “Safer”, sua ferramenta de moderação de conteúdo e, para uso legal, uma ferramenta à parte de mineração de dados e perfil de usuários chamada “Spotlight”. Ambas as ferramentas usam fontes de dados e inteligência artificial para automatizar a vigilância sobre conteúdo sexual. Dos 31 parceiros sem fins lucrativos da Thorn, 27 visam pessoas adultas e prometem abolir o trabalho sexual consensual sob a bandeira de salvar crianças do tráfico sexual.

“A partir de nosso trabalho sobre o tráfico sexual infantil, detectamos que esse crime frequentemente se apresenta dentro do campo mais amplo do trabalho sexual, que inclui o trabalho sexual consensual entre adultos”, disse por e-mail a CEO da Thorn, Julie Cordua, ao Engadget. “Nós também percebemos que as razões pelas quais as pessoas fazem sexo por dinheiro são complexas e variadas. Este é um campo com muitas nuances. Nossos programas são projetados especificamente para canalizar recursos muito limitados para o resgate de crianças que estão sendo exploradas para fins sexuais através do tráfico de pessoas, não para adultos que consentem. “

Antes que Engadget entrasse em contato com a Thorn para que comentasse este artigo, seu site listava parcerias com revendedores de dados, web scrapers e identity brokers, incluindo Connotate, Trusona, Trade Desk, Laxdaela e 41st Parameter (Experian). Quando questionada sobre suas relações com os parceiros, recentemente removidos, Cordua disse ao Engadget que nossas consultas lembraram a Thorn que sua página de “parcerias” “estava desatualizada”.

“Por que você não trabalha com a Thorn?”

No dia 23 de maio, nos luxuosos escritórios do Patreon em San Francisco, os participantes da Conferência sobre Conteúdo Sexual e Proteção Infantil se mostraram alarmados. A Conferência contou com apresentações da Internet Watch Foundation sobre a remoção de material de exploração infantil online, especialistas em registros de agressores sexuais, psicólogos que atuam com a prevenção de pedofilia, pessoas envolvidas em trabalho sexual consensual e muito mais.

Uma das razões pelas quais ficamos alarmados foi a natureza perturbadora do que estávamos lá para discutir: os fatos e fatores sobre exploração sexual infantil online.

A outra razão culminou em uma apresentação feita pela advogada Cathy Gellis na Seção 230, sobre o conteúdo online e a lei. Em referência à ação judicial movida por grupos de direitos humanos sobre a lei FOSTA, aprovada pelo governo federal dos EUA, as coisas ficaram especialmente graves quando Gellis descreveu o que aconteceu desde a aprovação e implementação da lei em abril de 2018.

Assim como os parceiros sem fins lucrativos de Thorn, a FOSTA declara que o trabalho sexual consensual entre adultos é a mesma coisa que o tráfico sexual infantil. Quando uma mulher faz sexo consensual para fins de arte ou lucro, seu discurso online sobre o assunto é agora interpretado como um crime na Internet comparável a traficar crianças para fins sexuais. Você pode dizer que a lei FOSTA não “acredita em mulheres”. Seus partidários, não. As principais plataformas de internet, que não são conhecidas exatamente por levarem em conta as experiências de usuárias do sexo feminino, correram para implementar as restrições da FOSTA.

No entanto, a implementação da FOSTA foi um tiro que saiu totalmente pela culatra. De acordo com um novo artigo da Fordham Law School, a fusão feita pela FOSTA do trabalho sexual consensual entre adultos com o tráfico de pessoas faz com que esta seja “uma lei hostil com um alto custo humano”. Afirma:

Apenas um mês após a promulgação da FOSTA, treze profissionais do sexo foram dadas como desaparecidas e duas foram mortas por suicídio. Trabalhadoras do sexo que operam de forma independente enfrentaram um aumento tremendo e imediato em solicitações indesejadas de indivíduos que ofereciam ou exigiam traficá-las. Numerosas outras foram estupradas, agredidas e tornadas sem-teto ou incapazes de alimentar seus filhos. Esses notórios atos de violência e devastação econômica são diretamente atribuíveis à promulgação da FOSTA.

Enquanto isso, policiais reclamaram que suas investigações sobre casos de tráfico sexual foram “cegados” – eles não têm mais anúncios para intimação, registros digitais para produzir para promotores e pistas que poderiam levá-los a cenas de crime cheias de evidências , como quartos de hotel.

Até mesmo o Departamento de Justiça pediu que o Comitê Judiciário da Câmara mudasse o foco da lei FOSTA para os traficantes, e não seguisse focando em casos em que “há interesse federal mínimo”, como o trabalho sexual consensual. Esse pedido foi ignorado.

Na conferência de proteção à criança, Gellis disse que os críticos alegam que a FOSTA tornou mais difícil identificar o tráfico sexual, além de apagar a discussão sobre a prevenção do abuso sexual infantil e silenciar os profissionais do sexo.

Sabemos que as pessoas estão sendo prejudicadas por todos os lados pela FOSTA, disse Gellis, “mas todos foram perseguidos nas sombras”. Vítimas não puderam ser encontradas.

A sala, lotada de especialistas, funcionários de empresas da internet, engenheiros e formuladores de políticas, ficou paralisada.

O EFF das organizações de proteção infantil online

A conferência de proteção à criança foi organizada pela Prostasia Foundation. Francamente, fiquei surpresa com o fato de a imprensa ter sido convidada, já que geralmente essas reuniões com empresas de internet são mantidas a portas fechadas. Fez mais sentido quando o organizador, o diretor executivo da Prostasia, Jeremy Malcolm, me informou sobre a política “Chatham House Rule” do evento (embora pudéssemos atribuir notas aos apresentadores).

“Produtores de conteúdo sexual legítimo para maiores de 18 anos são frequentemente estigmatizados pela associação com produtores de pornografia infantil”, Malcolm disse ao Engadget via e-mail, “e esta reunião é em grande parte sobre traçar uma linha entre essas duas coisas e dizer NÃO, elas são coisas diferentes”.

Malcolm acrescentou: “Pessoas como profissionais do sexo e artistas de entretenimento adulto estão realmente entre os mais fortes opositores do abuso sexual infantil. Mas eles raramente são ouvidos, porque outros grupos de proteção infantil têm uma agenda de trabalho antipornografia e anti-sexo mais ampla, que silencia vozes minoritárias — especialmente pessoas LGBTQ +, pessoas kinky e profissionais do sexo. “

Malcolm é membro do Grupo Consultivo Multissetorial do Fórum de Governança da Internet das Nações Unidas e foi analista de Políticas Globais Sênior da EFF. Ele explicou que a abordagem da Prostasia é um desafio para outras organizações digitais de proteção à criança. “Nosso objetivo é essencialmente ser um cão de guarda desses grupos”, disse Malcolm, “além de ter nossa própria agenda positiva de prevenção do abuso infantil, baseada em dados científicos e não no estigma”.

Eu gosto de “observar os observadores” mais do que a maioria, mas me perguntei sobre o que Malcolm estava falando. Acontece que as organizações antitráfico são um mercado lucrativo cheio de charlatões que enganaram empresas tão grandes quanto o Google por anos e se deram bem com isso.

No final de 2011, o Google fez uma doação corporativa de U$ 11,5 milhões para “acabar com a escravidão moderna”. Os três grupos financiados pelo Google foram a Missão Internacional de Justiça, o Polaris Project e o Not for Sale.

Missão Internacional de Justiça é um grupo cristão evangélico conservador. O Polaris Project define o tráfico sexual, em seu trabalho denominado “Escravidão Moderna”, como algo que inclui acompanhantes, funcionários de clubes de strip-tease, cam girls e prostitutas. Not for Sale mantém uma Escola Abolicionista que faz “palestras e aulas para ensinar sobre os muitos aspectos do tráfico, como investigações, cuidados posteriores, assistência médica e justiça bíblica”.

Todas as três — IJM, Polaris Project e Not For Sale — foram totalmente desmontadas por usar fatos inventados e dados falsificados no Relatório Especial de 2015 da Truthout: Dinheiro e Mentiras em ONGs contra o Tráfico Humano. Truthout escreveu: “No mundo das organizações antitráfico, dinheiro e mentiras andam profundamente – talvez inextricavelmente – amarrados. As falsas alegações, encaminhadas como fato, são muitas. Assim como o dinheiro gasto e recebido a serviço dessas reivindicações – mais de meio bilhão de dólares nos últimos anos. Até onde sabemos.”

“Quando você trabalha neste meio, você sabe que histórias fabricadas são usadas por todos para obter financiamentos”, disse Pierre Legros — ex-marido de Somaly Mam, ativista que caiu em desgraça por fraudar dados sobre tráfico sexual humano – à GlobalPost em 2015.

Assim, o interesse da Prostasia em se tornar um cão de guarda da EFF para essas organizações sem fins lucrativos é justificável. No entanto, de acordo com Malcolm, o alcance da Prostasia em muitas plataformas importantes da Internet foi confrontado com “bem, por que você simplesmente não trabalha com a Thorn?”

Dois web scrapers e meio

Ouvi falar pela primeira vez sobre a Thorn quando seu fundador, Ashton Kutcher, testemunhou em seu nome em 2017 perante o Comitê de Relações Exteriores do Senado dos EUA — e a imprensa denunciou Kutcher e Thorn por apresentarem números de tráfico sexual que não batiam.

Antes disso, eu já tinha conhecimento da encarnação anterior da Thorn como DNA Foundation, que foi jogada ao fogo em 2011 por… você adivinhou: dados imprecisos sobre estatísticas de tráfico sexual. A organização afirmou que “100.000 a 300.000 crianças estão se prostituindo a cada ano”. Mas uma investigação de dois meses usando dados policiais mostrou que houve 8.263 detenções nos Estados Unidos por trabalho sexual com menores de idade nos últimos dez anos.

De qualquer forma, desde então, a Thorn se voltou para a análise de big data.

Thorn geralmente não gosta de falar sobre o que seus produtos Safer ou Spotlight fazem. Seu site diz: “A Safer é uma solução completa para ajudar a impedir que o material de abuso sexual infantil se espalhe por toda a plataforma. Deixa você, sua empresa e seus usuários mais seguros.”

O white paper da Safer, intitulado “Proteção de Plataforma 101” , menciona seus módulos de hash, correspondência, relatórios e aplicação da lei. A CEO da Thorn, Julie Cordua, descreveu a Safer como uma “plataforma de moderação de conteúdo” e disse ao Engadget:

A Safer foi especificamente projetada para impedir a disseminação de material de abuso sexual infantil (CSAM, legalmente chamado de pornografia infantil) e não se cruza com o nosso trabalho sobre tráfico sexual infantil.

Oferecemos um módulo para que as empresas possam fazer hash de suas imagens (em seu próprio ambiente, para que os dados não sejam expostos) e enviar hashes ao nosso serviço para saltar contra uma lista de hashes de imagens/vídeos confirmadamente contendo abuso sexual infantil para que eles possam detectar se estão em hospedagem de pornografia infantil ilegal e, em seguida, tomar medidas (por exemplo, remoção, relatórios). Esse tipo de detecção ajuda a interromper a disseminação viral desse conteúdo, interrompe a revitimização das crianças através do compartilhamento do material e pode levar à identificação das crianças nessas imagens/vídeos.

Spotlight é outro produto da Thorn. Atualmente, e de acordo com as informações publicamente disponíveis, o Spotlight rastreia sites e fóruns; sua descrição diz que “o Spotlight foi construído a partir de um arquivo de dados de milhões de registros de anúncios de acompanhantes e dados de fórum coletados de vários sites”.

Então, “o Spotlight pega essa enorme quantidade de dados e a transforma em um recurso para facilitar a aplicação da lei”. Além disso, “a ferramenta permite que um funcionário pesquise ou filtre anúncios de acompanhantes com base no número de telefone, e-mail, palavras-chave, idade, localização”.

A Guerra contra o Sexo se transforma na Guerra contra a Privacidade

Vamos ser claros sobre algumas coisas. O alcance explosivo da lei FOSTA é mortal e se expande com o tempo. Se a Safer opera exatamente como Thorn afirma, então isso é bom, é um trabalho crucial que vale a pena apoiar. Mas o Spotlight é aterrorizante e praticamente baseado em ações abusivas. E a Thorn apoiou a FOSTA.

Talvez possamos entender melhor a Thorn a partir de saber com quem trabalha, sobre os recursos em seu site e seus parceiros sem fins lucrativos. Porque eles realmente apoiaram a FOSTA.

O site da Thorn publicou uma postagem sobre sobreviventes de tráfico de pessoas feita por Stephany Powell (parceira da Thorn Journey Out). Sobre o tema do trabalho sexual consensual, Journey Out afirma inequivocamente que há uma “percepção” falsa de que o trabalho sexual possa ser uma escolha da mulher. Quase todas as organizações sem fins lucrativos com quem Thorn se alia sentem o mesmo e publicizam isso. Tanto sobre mulheres que consentem, ou qualquer devaneio sobre mulheres sendo aquelas que controlam seus corpos.

O preocupante é que a Thorn e seus parceiros, como o Polaris Project, estão trabalhando de perto com empresas como a Palantir para rastrear as profissionais do sexo e todas as pessoas com quem entram em contato. Palantir Sabe Tudo Sobre Você descreve como a Palantir até agora escapou de uma decisão sobre se suas ferramentas são ilegais ou não:

“Os defensores das liberdades civis estão buscando um caso para contestar a constitucionalidade do uso de Palantir”, escreveu a Bloomberg, “mas os promotores e os agentes de imigração têm tido o cuidado de não citar o software em documentos probatórios”. Paromita Shah, diretor associado do National Immigration Project do National Lawyers Guild, disse à Bloomberg: “Palantir vive desse segredo.” E assim, por extensão, o fazem Thorn e Polaris Project.

A Thorn é hoje a principal organização entre as principais empresas da Internet a “combater o tráfico sexual” e material de exploração infantil. Fez parcerias com o Google, o Facebook, o Twitter, o Tumblr, o Snapchat, o Pinterest, o Imgur, o IAC (Match, Tinder, OkCupid) e outras empresas que definem políticas sociais e reúnem uma quantidade enorme de dados confidenciais de usuários.

O Engadget entrou em contato com o Google, o Facebook e o Twitter, questionando sobre seu relacionamento com a Thorn, e não recebeu nenhuma resposta até a ocasião desta publicação. Perguntamos a todos os três gigantes da internet se eles usaram os produtos Safer ou Spotlight da Thorn e se a Thorn os orientou sobre as políticas de conteúdo.

O Facebook parece ter um relacionamento especial com a Thorn, que a empresa de mídia social carinhosamente chama de “relacionamento de longa data”, e inclui colaboração conjunta em hackathons. Como alguns podem lembrar, o Facebook empurrou a FOSTA para amenizar as críticas dos legisladores. Embora qualquer um que se preocupe com o que o Facebook e a Thorn possam fazer com sua privacidade saiba que o uso de qualquer plataforma pertencente ao Facebook é como balançar uma sacola repleta de granadas de mão.

De qualquer forma, o que nós aprendemos hoje? Bem, por um lado, a abordagem de terra arrasada para incitar a censura sexual – FOSTA – está funcionando tão bem quanto a “guerra às drogas”. Por outro lado, nós deveríamos saber que a guerra contra o sexo era um mercado lucrativo em expansão.

Não pretendo menosprezar o trabalho daqueles que impedem a disseminação de material de abuso infantil. Gostaria apenas de exortá-los veementemente a não idolatrar mais trapaceiros do que os que já temos.