O Google
está desenvolvendo um novo método para classificar tons de pele
e evitar, assim, tecnologias e dispositivos racistas. Atualmente, a gigante de tecnologia utiliza um sistema que pesquisadores e dermatologistas dizem ser inadequado para avaliar se produtos são preconceituosos. As informações são da Reuters.
A escala de cores utilizada atualmente na indústria de tecnologia é chamada de Fitzpatrick Skin Type (FST), usada por dermatologistas desde a década de 1970. Atualmente, a FST é usada pelas big techs para, por exemplo, verificar se um reconhecimento facial ou um sensor de frequência cardíaca de um smartwatch funcionam corretamente em todos os tons de pele.
O problema é que a escala possui cinco categorias de pele branca, contra apenas uma para negra e parda. Isso desconsidera a variedade de tons de pele de pessoas negras e pardas, causando vieses racistas em sistemas tecnológicos testados pela escala.
Depois de pesquisadores do Departamento de Segurança Interna dos EUA recomendarem, em outubro passado, que o FST fosse abandonado para avaliar ferramentas de reconhecimento facial , o Google afirmou que está trabalhando em uma solução.
"Estamos trabalhando em medidas alternativas, mais inclusivas, que podem ser úteis no desenvolvimento de nossos produtos, e vamos colaborar com cientistas e médicos, bem como grupos que trabalham com comunidades de cor", disse a empresa. De acordo com a Reuters, a gigante de tecnologia se recusou a dar mais detalhes sobre o novo método.
Com o uso de uma escala errada para testar tecnologias, um reconhecimento facial
pode, por exemplo, deixar de reconhecer uma pessoa negra. Esse problema dá origem aos chamados algoritmos racistas
, bastante presentes na indústria de tecnologia. Segundo a Reuters, outras empresas além do Google
também se manifestaram sobre o assunto. Microsoft
reconheceu as imperfeições da escala FST, enquanto Apple
disse que testa vários tons de pele usando várias escalas diferentes, não apenas a FST.