O Twitter acaba de apresentar um novo desafio que compensará as pessoas por realizarem boas ações.
Durante a conferência de hackers DEF CON, que começou em 5 de agosto, o Twitter lançou um desafio para os hackers e programadores da comunidade a fim de auxiliar a empresa a tornar o algoritmo de compartilhamento de fotos da plataforma menos discriminatório.
Para imagens anexadas a tweets que apresentam proporções maiores ou diferentes das miniaturas, o Twitter utiliza um algoritmo para determinar qual parte da imagem será exibida na visualização do tweet. Em setembro de 2020, usuários do Twitter observaram que esse algoritmo parecia favorecer a exibição de rostos brancos em detrimento de rostos negros quando a imagem contava com ambas as representações. Isso foi interpretado por alguns como um exemplo de viés algorítmico, que ocorre quando o racismo é consciente ou inconscientemente incorporado nas decisões tomadas por um computador.
O Twitter explicou como o algoritmo operava em reação a isso e se comprometeu a investigar o assunto. Além disso, o programa de recompensas para vieses algorítmicos está buscando resolver o problema de maneira mais eficaz, oferecendo incentivos financeiros para aqueles que trabalham para reduzir esse viés.
Os bug bounties são programas em que empresas ou grupos recompensam indivíduos, muitas vezes externos, por descobrirem falhas em sua infraestrutura técnica. As recompensas são geralmente voltadas para identificar possíveis vulnerabilidades de segurança, e as organizações remuneram os caçadores de recompensas por informarem sobre esses problemas.
O Twitter está utilizando esse conceito ao abordar o problema do viés algorítmico em cortes de fotos. A empresa irá conceder um prêmio de $3,500 para o vencedor do primeiro lugar que conseguir identificar a origem desse viés, além de $1,000 para o segundo lugar considerado o “mais inovador” e o “mais geral”, e $500 para o terceiro lugar.
O desafio consiste em aplicar plenamente o modelo de recompensa por bugs: Em vez de se desculpar e se defender por um caso de preconceito algorítmico, o Twitter está convidando a ajuda proativa. E vai remunerar por isso.
“O objetivo é ir além, encorajando a comunidade a colaborar na identificação de eventuais prejuízos causados por esse algoritmo que ainda não tenhamos detectado”, afirma o blog do Twitter ao anunciar o desafio. “Com esta iniciativa, buscamos estabelecer um novo padrão no Twitter e na indústria, promovendo a identificação proativa e colaborativa de danos causados por algoritmos.”
Atualmente, o programa de incentivos está direcionado para o desafio de edição de fotos. No entanto, a postagem do blog que introduziu o desafio o descreve como “o primeiro desafio de preconceito algorítmico do Twitter”. Isso sugere que poderia ser o primeiro de muitos desafios desse tipo, mas essa possibilidade não está confirmada. O Mashable contatou o Twitter para perguntar se haverá mais desafios relacionados à identificação de preconceitos em algoritmos de aprendizado de máquina e prometeu atualizar a informação quando receber uma resposta.
X/Redes sociais