Der Chatfilter spricht jetzt alle zwölf unserer Sprachen
Er hatte ein Wörterbuch, und das war englisch. Also fing er nichts von dem ab, was in den anderen elf Sprachen an Beleidigungen geschrieben wurde — und wies dabei völlig gewöhnliche Wörter zurück, darunter das französische Wort für „drei“, in einem Spiel, das mit Würfeln gespielt wird.
Kurz gesagt
Ein Viertel von allem, was Spieler bei opolyx tippen, ist nicht englisch, und bis jetzt konnte der Chatfilter nichts davon lesen. Er hatte eine einzige große englische Wortliste, was hieß: Beleidigungen auf Russisch, Chinesisch, Arabisch, Spanisch oder Deutsch gingen unangetastet durch. Das ist die Hälfte, die man erwartet. Die Hälfte, die man nicht erwartet: Dieselbe Liste war eifrig damit beschäftigt, Wörter abzulehnen, die überhaupt nicht anstößig sind — das französische Wort für „drei“ in einem Würfelspiel, ein deutsches Wort für wohlhabend in einem Spiel über Immobilien, und den englischen Namen einer Schachfigur. Eine französische Spielerin konnte die Zahl drei nicht in den Chat tippen.
Jetzt gibt es ein Wörterbuch für jede Sprache, die die Seite ausliefert, plus Ukrainisch — jedes danach geschrieben, wie diese Sprache tatsächlich Wörter bildet, statt eine englische Liste zu übersetzen. Russisch flektiert, eine Regel muss also einen Wortstamm samt Endungen treffen. Chinesisch setzt keine Leerzeichen zwischen Wörter, eine Regel muss also in den Satz hineinschauen. Und die Meldung, die du bei einer Ablehnung bekommst, ist jetzt ebenfalls übersetzt — sie war englisch, auf einer Seite in zwölf Sprachen, sodass genau die Person, die die Ablehnung am wenigsten verstehen konnte, sie am ehesten bekam.
Für technisch Neugierige
Das Schwierige war, überhaupt zu belegen, dass etwas davon funktioniert, und der Grund gehört klar ausgesprochen: Ein Moderationsfilter lässt sich nicht an seinem eigenen Chatprotokoll prüfen. Eine Nachricht, die der alte Filter abgelehnt hat, wurde nie gespeichert, das Protokoll enthält also nur das, was durchkam — und für eine Sprache ohne Spieler enthält es gar nichts. Daran zu testen hieße, Überlebende zu messen und das Abdeckung zu nennen. Also werden die Wörterbücher stattdessen gegen unsere eigenen übersetzten Texte geprüft: jede Seite der Website, in jeder Sprache, von uns geschrieben und schon von der Anlage her sauber. Jedes Wort, das der Filter dort anschlägt, ist per Definition ein Fehlalarm, ganz ohne Ermessensfrage.
| Was er tat | Anzahl |
|---|---|
| Abgefangene Beleidigungen, gesamter Bestand | 0 |
| Beleidigungen, die er jetzt sehen kann | 113 |
| Eigene saubere Seiten, die er fälschlich anschlug | 40 |
Namen wiegen schwerer als Nachrichten und wurden überhaupt nicht gefiltert. Eine Nachricht scrollt weg; ein Name steht neben jedem Zug, den du machst, und er wird in die Highlight-Clips gezeichnet, die diese Seite auf YouTube, Instagram und TikTok stellt. Jetzt werden sie geprüft — bewusst aber nicht gegen die große Liste, denn als reine Zeichenketten weist die „Classic“ und „Cassandra“ zurück. Naiv über die zweieinhalbtausend echten Namen bei opolyx laufen gelassen, schlägt ein Teilstring-Ansatz vierzig Mal an, und rund die Hälfte davon sind gewöhnliche Namen: Hassan, Yassin, Phoenix. Das auszuliefern hätte diesen Spielern gesagt, ihre Namen seien anstößig.
Der chinesische Fall zeigt am klarsten, warum eine englische Liste nicht einfach übersetzt werden konnte. Der alte Abgleich verglich ganze, durch Leerzeichen getrennte Wörter — ein durchaus vernünftiger Entwurf, denn genau das verhindert, dass „assassin“ wegen einer anstößigen Teilzeichenkette abgelehnt wird. Chinesisch trennt Wörter aber nicht durch Leerzeichen, ein ganzer chinesischer Satz kommt also als ein einziges riesiges Token an, und kein Eintrag irgendeiner Wortliste kann darin je treffen. Es war nicht so, dass der Filter schlecht in Chinesisch war; er war strukturell außerstande, es zu sehen.