O filtro do chat agora fala nossos doze idiomas
Ele tinha um dicionário, e esse dicionário era inglês. Então não pegava nada da ofensa escrita nos outros onze idiomas — e, enquanto isso, recusava palavras totalmente comuns, entre elas a francesa para “três”, num jogo que se joga com dados.
Em palavras simples
Um quarto de tudo o que os jogadores digitam no opolyx não está em inglês, e até agora o filtro do chat não conseguia ler nada disso. Ele tinha uma única lista grande de palavras em inglês, o que significava que ofensa em russo, chinês, árabe, espanhol ou alemão passava intacta. Essa é a metade que se espera. A que não se espera é que a mesma lista andava recusando palavras que não têm nada de grosseiro: a palavra francesa para “três” — num jogo que se joga com dados —, uma palavra alemã que significa “rico” num jogo sobre imóveis, e o nome inglês de uma peça de xadrez. Um jogador francês não conseguia digitar o número três no chat.
Agora existe um dicionário para cada idioma que o site publica, mais o ucraniano, cada um escrito conforme o modo como aquele idioma realmente forma palavras, em vez de traduzir uma lista inglesa. O russo flexiona, então uma regra precisa acertar um radical junto com suas terminações. O chinês não põe espaços entre palavras, então uma regra precisa olhar dentro da frase. E a mensagem que você recebe quando algo é recusado agora também está traduzida: antes era em inglês, num site em doze idiomas, de modo que a pessoa com menos chance de entender a recusa era justamente a mais provável de recebê-la.
Para os mais técnicos
O difícil foi provar que qualquer coisa disso funciona, e a razão merece ser dita com todas as letras: um filtro de moderação não pode ser testado contra o próprio registro de chat. Uma mensagem que o filtro antigo recusou nunca foi guardada, então o registro contém só o que passou — e, para um idioma ainda sem jogadores, não contém absolutamente nada. Testar contra ele seria medir sobreviventes e chamar isso de cobertura. Então os dicionários são verificados contra os nossos próprios textos traduzidos: cada página do site, em cada idioma, escrita por nós e limpa por construção. Qualquer palavra que o filtro marque ali é um falso positivo por definição, sem nenhum julgamento envolvido.
| O que ele fazia | Quantidade |
|---|---|
| Mensagens obscenas pegas, corpus inteiro | 0 |
| Mensagens obscenas que ele agora enxerga | 113 |
| Páginas limpas nossas marcadas por engano | 40 |
Apelidos pesam mais do que mensagens, e não eram filtrados de jeito nenhum. Uma mensagem sobe e some; um apelido é impresso ao lado de cada jogada sua, e é desenhado nos clipes de destaque que este site publica no YouTube, Instagram e TikTok. Agora eles são verificados — mas de propósito não contra a lista grande, porque como simples trechos de texto ela recusa “Classic” e “Cassandra”. Rodada ingenuamente sobre os dois mil e quinhentos apelidos reais do opolyx, a comparação por trechos marca quarenta, e cerca de metade são nomes comuns: Hassan, Yassin, Phoenix. Publicar isso teria dito a essas pessoas que os nomes delas eram obscenos.
O caso chinês é a ilustração mais clara de por que uma lista inglesa não podia simplesmente ser traduzida. A comparação antiga confrontava palavras inteiras separadas por espaços — um desenho perfeitamente razoável, já que é isso que impede recusar “assassin” por conter um trecho grosseiro. Mas o chinês não separa palavras com espaços, então uma frase chinesa inteira chega como um único elemento enorme, e nenhuma entrada de nenhuma lista de palavras pode jamais casar dentro dela. Não era que o filtro fosse ruim em chinês; ele era estruturalmente incapaz de vê-lo.