Peças de Cor: Quando os filtros supersensíveis do YouTube acharem que os VÍDEOS DE XADREZ são racistas – Será que a linguagem terá que se adaptar à Big Tech?
Com toda a conversa sobre a guerra entre brancos e negros, a IA que filtra “discursos de ódio” do YouTube não consegue distinguir entre Jogadores de Xadrez e Racistas Violentos. Talvez deixar robôs encarregados da língua inglesa não seja uma boa ideia.
O jogador de xadrez croata Antonio Radic, conhecido por seus milhões de assinantes como ‘Agadmator’, dirige o canal de xadrez mais popular do mundo no YouTube. No verão passado, ele encontrou sua conta suspensa devido ao seu conteúdo “nocivo e perigoso” . Radic, que estava no meio de um show com Grandmaster Hikaru Nakamura na época, ficou intrigado. Ele não recebeu nenhuma explicação para a proibição, que foi revertida em recurso, mas especulou que o algoritmo de censura do YouTube pode tê-lo ouvido dizer algo como “preto vai para B6 em vez de C6, branco sempre será melhor”.
“Se for esse o caso, tenho certeza de que todos os meus 1.800 vídeos serão retirados do ar, pois é preto contra branco até a morte em todos os vídeos” , disse ele ao Sun na época.
Radic provavelmente estava certo. Pesquisadores da Carnegie Mellon University fizeram mais de 600.000 comentários em 8.000 vídeos de xadrez por meio de um algoritmo de detecção de discurso de ódio e os encontraram cheios de racismo. No entanto, mais de 80% dos comentários sinalizados pelo algoritmo foram marcados com erro, pois continham termos como “preto”, “branco”, “ataque” e “ameaça”.
O cientista da computação Ashiqur R. KhudaBukhsh apresentou os resultados de seu estudo em uma conferência de inteligência artificial no mês passado e deu alguns exemplos de comentários mal interpretados como discurso de ódio. “Essa foi uma das sequências de ataque mais bonitas que eu já vi, o preto estava sempre no pé de trás”, dizia um deles.
O YouTube conta com moderadores humanos e de IA para policiar o conteúdo, mas com a plataforma de vídeo reprimindo a “desinformação” da vacina, o conteúdo questionando a vitória eleitoral de Joe Biden e todo tipo de “ teorias da conspiração ”, há muito conteúdo para percorrer. , e os robôs fazem a maior parte do trabalho pesado, com humanos corrigindo seus erros.
No entanto, esses robôs foram projetados por humanos em primeiro lugar. Alguém teve que ajustá-los ao ponto em que qualquer menção às palavras “preto” e “branco” em um contexto adversário seria instantaneamente interpretada como racista. A forma como esses algoritmos são escritos representa como o Vale do Silício vê o mundo: como um caldeirão borbulhante de possíveis crimes de ódio que precisam ser endireitados por uma IA benevolente.
Se até mesmo vídeos de xadrez estão sob o martelo da proibição, quantos outros incidentes de censura e suspensão estão errados? Radic tem um milhão de assinantes, então seu confronto com a polícia de conteúdo virou notícia. Mas eu aposto que muito mais contas menores são punidas por “discurso nocivo” e nunca mais são ouvidas. Tal dano colateral é inevitável quando permitimos que a IA imponha os limites do discurso aceitável.
Então, o que um entusiasta do xadrez deve fazer? Talvez erros futuros pudessem ser evitados se os jogadores adotassem a linguagem do despertar. As peças pretas poderiam se tornar “Pieces of Color” e os cavalos brancos obviamente teriam que ser substituídos, para que o jogo não se associasse à Ku Klux Klan. Melhor ainda, “branco” e “preto” poderiam ser substituídos por “latte” e “abacate”, uma combinação que certamente não ofenderia ninguém e evitaria os algoritmos.
Embora a questão aqui ilustre as armadilhas de usar a IA para interpretar um conceito tão mal definido como “discurso de ódio”, existem lunáticos reais por aí que pensam que o jogo de xadrez é intolerante em sua essência. Enquanto o mundo ocidental revirava pedregulhos em busca de racismo no verão passado após a morte de Geroge Floyd, a ABC Australia, a emissora nacional do país, procurou um membro da Federação Australiana de Xadrez e perguntou se o jogo dos reis é racista porque “ os brancos sempre vão primeiro”.
Desenvolvido na Índia e trazido para a Europa branca via Pérsia e depois para o mundo árabe, o xadrez era jogado por “Pessoas de Cor” muito antes dos brancos se envolverem. Mas o fato de que essa história foi perdida na ABC é um exemplo da mesma visão de mundo tacanha que informa os censores do YouTube. As tensões raciais que atualmente assolam os Estados Unidos e são desencadeadas por sua mídia não são a força motriz por trás da história do mundo inteiro, e as cores “branco” e “preto” nem sempre são infundidas com subtexto racial.
Definitivamente, devemos rir de qualquer um que tente trazer culpa racial para cada um de nossos hobbies, e provavelmente não devemos deixar os robôs censores da Big Tech decidirem o que podemos ou não dizer online.
Fonte: RT
Sem Comentários! Seja o primeiro.