O Kwai, visto como uma alternativa ao TikTok, conquista cada vez mais brasileiros com vídeos que combinam elementos da nossa cultura popular, incluindo histórias com lição de moral e até mesmo telenovelas. No entanto, seu algoritmo vem destacando notícias falsas sobre vacinação e urnas eletrônicas. Isso acontece tanto nas buscas como na seção de destaque "Para Você", e o Tecnoblog conversou com especialistas para entender os motivos.
Busca do Kwai destaca fake news sobre vacina e urna
À medida que as eleições se aproximam, todas as redes sociais viram palco de debates sobre candidatos, posições ideológicas e bandeiras partidárias. Por isso, entre 7 de março e 6 de abril de 2022, o Tecnoblog testou o algoritmo do Kwai para observar como a plataforma se comporta se o usuário tiver um perfil mais político. Curtimos conteúdos de discursos de Bolsonaro, Lula e manifestações de seus apoiadores.
Uma das fontes de fake news do Kwai é a área de pesquisa do aplicativo. Na busca do Kwai, usamos os termos "urna eletrônica" e "vacina COVID em crianças". Na busca por urna eletrônica, 9 dos 10 primeiros vídeos que aparecem como resultado dizem que ela não é confiável.
O mais popular, com 129 mil visualizações, questiona o ex-ministro e presidente do TSE, Luís Roberto Barroso, sobre a segurança dos dispositivos, que fazem parte do sistema eleitoral. E, na busca por "vacina COVID em crianças", um dos vídeos também traz conteúdo questionável.
Nele, a deputada federal Bia Kicis (PL-DF) pergunta ao médico José Augusto Nasser sobre a vacina da Covid-19 em crianças. Sem apresentar provas, ele diz que tomar o imunizante da Pfizer gera riscos, porque a proteína do insumo seria "tóxica". Ele também alega que o risco de crianças desenvolverem complicações pela Covid-19 é "praticamente zero".
A vacina da Pfizer carrega um RNA mensageiro para induzir a produção da proteína spike, que estimula defesas do sistema imunológico. Ela não é considerada tóxica para crianças; o imunizante tem gerado efeitos colaterais em ocasiões raríssimas, segundo Alexandre Naime Barbosa, chefe da Infectologia da Universidade Estadual Paulista (Unesp), em entrevista à Lupa.
Outra publicação, com 228 mil views, traz conteúdo opinativo contra a obrigatoriedade de vacinar crianças. E, com mais de 90 mil visualizações, um dos resultados traz a legenda "os efeitos da vacina contra a COVID 19 [sic]... morte súbita. Dores de Cabeça. Ataque Cardíaco".
Algoritmo faz perfil do usuário em 40 minutos
Esse tipo de conteúdo enganoso não se limita à busca. A página "Para Você" é a primeira que aparece para quem abre o aplicativo, e ela utiliza um poderoso algoritmo para reter os usuários.
"O algoritmo do Kwai, e também do TikTok, é de uma nova geração em relação ao do Facebook e do Twitter, por exemplo. Estas duas redes mostram postagens com base nas interações com outros usuários: curtidas, cliques em notícias, links, e comentários", conta ao Tecnoblog João Vitor Archegas, pesquisador sênior na equipe de Direito do ITS-Rio.
"O sistema das plataformas chinesas está preocupado em entregar para o usuário conteúdos que ele está predisposto a consumir: aquilo que é assistido por mais tempo, que mais desperta interesse político, social e assim por diante", continua o especialista. Segundo ele, esse tipo de ferramenta extrai um perfil completo das predileções do usuário em apenas 40 minutos.
Na avaliação de Archegas, redes como TikTok e Kwai têm um potencial muito maior de sugar o usuário em um buraco negro. "A partir dos 40 minutos, os algoritmos vão oferecer sempre os mesmos conteúdos pelo resto da sua interação com a plataforma", comenta.
Em nosso teste, recebemos várias sugestões de fake news na seção "Para Você". Um dos exemplos é aquele vídeo da Bia Kicis com José Augusto Nasser, que foi assistido 542 mil vezes.
Outro vídeo na nossa página "Para Você" replica a fake news relacionada a um ataque hacker ao Tribunal Superior Eleitoral (TSE). Postado por uma conta de uma página política chamada "Patriota_PCD", ele traz Jair Bolsonaro conversando com seus apoiadores. O presidente afirma que o hacker esteve "no coração do TSE" e disse que "ele teve acesso aos código-fonte [sic], a tudo", para justificar uma possível fraude nas eleições de 2018.
Novamente, especialistas ouvidos pela Folha de S.Paulo desmentiram o presidente: um hacker não poderia ter acesso ao código-fonte sem ser notado pelo TSE ou pela Polícia Federal.
Kwai se une ao TSE contra fake news nas Eleições 2022
O Kwai tem uma parceria com o TSE para combater desinformação sobre as eleições no Brasil. Em fevereiro, a plataforma assinou um memorando com a Corte , se comprometendo a estabelecer uma home page com conteúdos sobre o processo eleitoral, educando brasileiros sobre as Eleições 2022.
Além disso, o acordo prevê o treinamento de equipes da Justiça Eleitoral sobre como a plataforma funciona, além de realizar campanhas contra desinformação nas Eleições 2022, e transmitir eventos oficiais do TSE.
Um dos principais pontos da parceria é firmar o compromisso de que o Kwai deve implementar "iniciativas para a célere identificação e contenção de práticas de desinformação".
0,52% dos vídeos são banidos do Kwai por fake news
Em termos de moderação, o banimento de vídeos por fake news sobre saúde, ou sobre sistema eleitoral, está longe de ser a principal causa de suspensão no Kwai.
Em março de 2022, o Kwai divulgou seu Relatório de Transparência. Segundo a empresa, 12,3 milhões de vídeos foram removidos por violarem as Diretrizes da Comunidade, entre 1º de julho e 31 de dezembro de 2021. O número corresponde a todas as regiões onde a plataforma opera - América Latina, Ásia, Norte da África e Oriente Médio.
Desse total, apenas 64,1 mil vídeos (0,52%) foram banidos por questões de Integridade e Autenticidade. Isso inclui "informações falsas que podem causar danos no mundo real", tal como fake news que "tentem obstruir processos democráticos", ou que tratem de assuntos de saúde.
Fake news em vídeo é desafio para redes sociais
Especialistas entrevistados pelo Tecnoblog comentam que a moderação de fake news em posts como vídeos ainda não é tão eficaz quanto em casos de publicações escritas. É o que aponta aponta o professor da Universidade Federal do Rio de Janeiro (UFRJ), Cláudio Miceli.
"No caso do texto, diferenciar uma postagem genuína para um spam é menos complicado, por exemplo. Quando se trata de um vídeo, ainda estamos engatinhando sobre moderação de conteúdo. Nesses casos, precisamos extrair o áudio e converter o som para strings de texto para ver se alguma informação viola os termos de uso", afirma Miceli.
Archegas, do ITS-Rio, menciona que o YouTube tem mais dificuldades para moderar conteúdo justamente por essa razão. "A cada minuto no YouTube, são postadas 500 horas de vídeo. Imagina o poder de computação que é necessário para fazer uma análise automatizada de todos e determinar o que é fake news e o que não é". Quanto menor a empresa de tecnologia, menor o alcance das soluções automatizadas para banir vídeos, segundo Miceli.
As redes sociais baseadas em vídeo e áudio dependem mais ainda da participação dos usuários na moderação de conteúdo. É uma forma de compensar a incapacidade técnica de usar ferramentas automatizadas para banir usuários, mas as bolhas digitais prejudicam esse processo.
"Muitas vezes, quando você está dentro de uma bolha, nenhum usuário vai denunciar aquele conteúdo, porque ninguém vê naquilo uma violação — as pessoas concordam de antemão com o material", completa Archegas.
"De um lado, está a impossibilidade, muitas vezes técnica, do algoritmo de determinar uma violação das regras da plataforma. Do outro, está o fato de que bolhas digitais vão se criando e as pessoas muito raramente vão denunciar aqueles conteúdos".
Estratégia do Kwai na China e no Brasil são parecidas
Em 2011, muito antes de se tornar um dos maiores aplicativos de vídeos curtos do mundo, o Kwai surgiu na China como um programa que ajudava usuários a criarem GIFs. Um ano depois, o aplicativo começou a experimentar o formato de vídeos curtos no país asiático.
Em 2016, ele se tornou a quarta maior rede social na China, justamente no mesmo ano em que surgiu o TikTok, seu maior concorrente. Mas o mercado doméstico não foi suficiente para TikTok ou Kwai: a partir de 2018, ambos apostaram uma corrida para conquistar o cenário internacional.
Na China, a estratégia do Kwai foi conquistar o público rural do país. "Se você fizer uma pesquisa rápida no Baidu — o maior buscador em chinês do mundo — ou olhar estudos de acadêmicos chineses, é claro que o Kwai ainda é considerado um aplicativo de vídeos curtos que tem uma base de usuários consolidada em cidades menos desenvolvidas na China rural", contou ao Tecnoblog o pesquisador Kevin Liu, da Universidade de Minnesota.
Ele aponta que, devido à fortuna que o aplicativo conquistou ao ser um retrato de uma população mais marginalizada na China, o Kwai deve copiar essa estratégia para outros países onde opera; especialmente aqueles com uma estrutura social parecida.
"Acredito que a palavra chave aqui seja diferenciação, ou seja, levar o usuário a se ver como diferente de um outro. 'Sou eu que sou do interior e sou engraçado; ou eu não sou do interior e não sou engraçado, não sou um deles'. Essa dinâmica levou o Kwai à popularidade na China e pode ser aplicável no Brasil. Nesse sentido, o aplicativo não está inventando nada de novo, mas sim fortalecendo as velhas desigualdades e a divisão social de classes", afirma Liu.
No Brasil, o aplicativo segue um viés parecido, com conteúdos mais corriqueiros. Telenovelas com lições de moral, esquetes com reviravoltas sobre amor, traição e brincadeiras — tudo faz parte do cardápio do Kwai.
"A plataforma vem investindo muito no Brasil, justamente como uma alternativa ao TikTok. Com a promessa de que o algoritmo é mais justo com os usuários, tratando todos de uma forma mais igual. Grande parte desse investimento é aplicado em publicidade no Nordeste, por exemplo", afirma Archegas.
Mas o aplicativo precisa, por se inserir em uma esfera mais popular, tomar ainda mais cuidado com a desinformação. Como o Kwai revelou ao Estadão, a maior parte de sua base de usuários tem mais de 30 anos.
"Um público mais velho não teve contato com a internet ao longo de sua educação como cidadão e cidadã, e isso pode ter um impacto muito significativo em como essas pessoas consomem informações e na capacidade de diferenciar uma informação falsa de uma verdadeira", conclui o pesquisador do ITS-Rio.
O que diz o Kwai
Em nota ao Tecnoblog, o Kwai garante que a prioridade da empresa "é construir uma comunidade respeitosa, saudável e harmoniosa". A empresa afirma que, além das Diretrizes da Comunidade, ela também desenvolve "uma política abrangente para combater a desinformação eleitoral e política na plataforma".
A política de eleições é baseada no combate a conteúdo que se encaixe nestas cinco categorias:
- Informações falsas sobre como participar do processo eleitoral;
- Intimidação e incitação ao boicote às eleições;
- Informações falsas sobre a integridade eleitoral;
- Informações enganosas sobre candidatos;
- e Conteúdos que infringem a legislação eleitoral.
No comunicado, o Kwai também afirma o seguinte:
"O Kwai protege a liberdade de expressão, mas não tolera conteúdos que tenham o potencial de prejudicar o processo democrático pela distribuição de informações falsas, enganosas, manipuladas ou prejudiciais a indivíduos e instituições.
Como parte dos esforços para garantir um processo democrático justo no Brasil, o Kwai firmou acordo com o TSE no combate à disseminação de desinformação no processo eleitoral de 2022, além de contar com uma parceria com uma agência de checagem de fatos para validação de informações. Desta forma, conteúdos que comprometam a segurança dos nossos usuários ou do nosso serviço serão removidos, e violações contínuas podem levar ao banimento da conta.
Essas ameaças à integridade de nossa plataforma incluem desinformações com conteúdo manipulado ou enganoso com intenção de atacar um indivíduo, grupo ou organização ou que tente obstruir processos democráticos".