A escala de tons de pele mais inclusiva do Google pode minimizar o racismo na internet: Quartz
Durante o evento Google I/O do mês passado transmitido ao vivo no YouTube, a empresa apresentou a escala Monk Skin Tone (MST), que começou a ser lançada dentro Pesquisa de imagens do Google (que inclui imagens e produtos comerciais) e Google Fotos na tentativa de domar o racismo na Internet.
A nova escala substitui o Fitzpatrick Skin Type, um padrão de seis cores desenvolvido em 1975 e usado online desde o início da Internet. Mas os pesquisadores criticaram o tipo de pele de Fitzpatrick porque é menos preciso em tons de pele mais escuros, o que pode fazer com que a IA identifique ou deturpe pessoas com pele mais escura.
Em sua busca para mudar a forma como as pessoas online percebem a cor da pele, o Google está trabalhando com o sociólogo de Harvard Ellis Monk. Ele estuda colorismo há 10 anos e projetou a escala que ele acha que ajudará o Google a minimizar o preconceito racial em suas imagens. Monk se interessou por esse tópico porque experimentou a desumanização de câmeras que não conseguiam detectar seu rosto porque não conseguiam obter o tom de pele correto.
“A realidade é que a escala Fitzpatrick realmente não fez um bom trabalho de diferenciação, mesmo na extremidade mais média ou mais clara da escala para muitas pessoas de cor”, disse Monk de acordo com a AfroTech..
Em 2018, pesquisadores do MIT e Stanford descobriram que o software de análise facial tinha uma taxa de erro de 0,8% para homens de pele clara e 34,7% para mulheres de pele escura. A dificuldade de reduzir essa taxa de erro, juntamente com a possibilidade de discriminação, informaria a decisão da IBM de descontinuar seu software de reconhecimento facial dois anos depois. Em um estudo da escala MST, os usuários do Google nos EUA descobriram que a escala MST é mais representativa de seus tons de pele em comparação com o padrão atual da indústria de tecnologia.
O Google está incentivando outras empresas de tecnologia a usar o MST, tornando-o de código aberto. No entanto, conter o viés sistêmico da IA na Internet não será fácil.
“Ao abrir a escala, nosso objetivo é melhorá-la ao longo do tempo em parceria com a indústria”, disse Anne Jean-Baptiste, diretora de inclusão de produtos do Google, no evento I/O.
Leve os concorrentes a bordo
No ano passado, o Google anunciou que havia integrado “True Tones” em seus smartphones Pixel 6 e Pixel 6 Pro, o passo mais significativo que qualquer empresa de tecnologia havia dado para corrigir o colorismo antes deste..
No entanto, é difícil saber quando, ou se, outras empresas de tecnologia adotarão o MST. Apple, Tesla, Meta, Samsung, Oracle e Microsoft, que fabricam software de foto e vídeo, bem como hardware que exibe imagens, ainda não se comprometeram a usá-lo..
O Google está treinando seus algoritmos de aprendizado de máquina na nova escala, começando com produtos de beleza antes de aplicá-los a uma gama mais ampla de imagens. A gigante das buscas será pioneira na luta contra o colorismo e o racismo online, mas treinará a IA para escanear trilhões de imagens em seus servidores., além de implementar a nova escala, pode levar mais tempo do que o previsto.
Se as empresas não tiverem dados suficientes para cada um dos 10 tons de cor, pode ser difícil remover o viés de cores de seu software.
Mas se o MST eventualmente se tornar o padrão, poderá tornar a Internet e a IA mais inclusivas. Primeiro, porém, o Google tem que fazer o trabalho duro de conduzir a revolução.
