Roblox verwendet jetzt KI, um Chat-Flüche und Beleidigungen in Echtzeit umzuschreiben

Kurzfassung

• Robluxs neue KI-gestützte Funktion ersetzt Schimpfwörter im Chat durch umformulierte Versionen anstatt Nachrichten mit „####“ zu ersetzen.
• Das System soll während des Spiels lesbare Gespräche gewährleisten und gleichzeitig Robluxs Gemeinschaftsstandards durchsetzen.
• Das Unternehmen verbessert auch seine Chat-Filter, um Schimpfwörter zu erkennen und Versuche, persönliche Informationen der Spieler zu erlangen.

Die äußerst beliebte Online-Gaming-Plattform Roblox ersetzt die Zeichenketten aus Hashmarks, die erscheinen, wenn die Chat-Filter Schimpfwörter erkennen, durch KI-umformulierte Versionen der markierten Nachrichten, kündigte das Unternehmen am Donnerstag an. Das Feature, genannt Echtzeit-Chat-Umschreibung, modifiziert Schimpfwörter in Nachrichten, sodass die Gespräche lesbar bleiben, anstatt als blockierter Text zu erscheinen. „Zum Beispiel würde eine Nachricht, die gegen Robluxs Schimpfwort-Richtlinien verstößt, wie ‚Hurry TF up!‘, früher als ‚####‘ im Erfahrungschat erscheinen“, sagte das Unternehmen. „Das wird jetzt umformuliert zu ‚Hurry up!‘“ 
Laut Robluxs Vice President für Nutzer- und Entdeckungsprodukte Rajiv Bhatia zielt dieses neue Design darauf ab, Höflichkeit zu wahren, indem die Sprache umformuliert und „Stoppschilder“ durch tatsächliche Wörter ersetzt werden. „Chat ist zentral dafür, wie Menschen sich verbinden, koordinieren und auf Roblox spielen“, sagte Bhatia in einer Erklärung. „Die Echtzeit-Umformulierung hilft, das Gameplay und die Gespräche auf Kurs zu halten, während sie die Sprache in einen angemessenen Rahmen lenkt.“ Im Mai 2025 führte Roblox Echtzeit-Warnungen ein, die Nutzer alarmieren, wenn Nachrichten möglicherweise gegen die Plattformregeln verstoßen, und sie dazu ermutigen, ihre Wortwahl zu überdenken. „In Experimenten im letzten Jahr stellte Roblox fest, dass die Ausgabe von Text-Chat-Benachrichtigungen und Zeitstrafen in der Erfahrung zu einer 5%igen Reduktion gefilterter Chat-Nachrichten und einer 6%igen Reduktion von Konsequenzen durch Missbrauchsberichte führte“, sagte das Unternehmen.

Trotz des Rückgangs sagte Roblox, dass die neue Änderung ein langjähriges Problem löst, bei dem gefilterte Sprache als Zeichenketten zufälliger Zeichen erscheint, was das Verfolgen der Chats während des Spiels erschweren kann. Während die Spieler im Chat benachrichtigt werden, wenn Text umformuliert wird, erklärt das Unternehmen, dass das neue System seine Durchsetzungsrichtlinien für Schimpfwörter nicht ändert. „Um es klarzustellen: Wenn wir eine Nachricht umformulieren, die gegen unsere Schimpfwort-Richtlinien verstößt, bleibt es eine Verletzung, und die gleichen Regeln gelten weiterhin“, sagte Bhatia in einer separaten Erklärung am Donnerstag. „Ein Nutzer, der weiterhin versucht, im Chat zu fluchen, wird weiterhin die gleichen Konsequenzen für wiederholte Verstöße gegen unsere Richtlinien haben.“ Das Umformungs-Feature, so Roblox, ist nur in Chats zwischen altersverifizierten Nutzern in ähnlichen Altersgruppen verfügbar und unterstützt alle derzeit durch Robluxs automatische Übersetzungstools verfügbaren Sprachen. Um zu verstehen, wie Teenager während des Spiels sprechen, sagte Roblox, dass das neue Umformungs-Feature in Zusammenarbeit mit Mitgliedern seines Teen Council entwickelt wurde. Das Unternehmen verbessert auch sein Text-Filter-System, um besser Versuche zu erkennen, Moderationsregeln zu umgehen, einschließlich Variationen der Sprache, bei denen Zahlen oder Symbole anstelle von Buchstaben verwendet werden, bekannt als Leetspeak. Robluxs Chat-Umformung ist Teil eines wachsenden Trends in der Gaming-Branche, bei dem Unternehmen zunehmend KI einsetzen, um das Verhalten der Spieler in Mehrspieler-Spielen zu moderieren. Im Jahr 2024 gab Activision bekannt, dass mehr als 2 Millionen Konten wegen störender Chats markiert wurden, nachdem das KI-gestützte ToxMod-Moderationssystem in mehreren Call of Duty-Titeln eingesetzt wurde. Das Tool half, Wiederholungstäter zu reduzieren und schwerwiegende Fälle von störender Sprachkommunikation zu verringern. Roblux hat auch seine eigene Nutzung von KI auf der Plattform ausgeweitet. Im Februar 2024 führte das Unternehmen eine Echtzeit-KI-Chat-Übersetzung ein, die es Spielern ermöglicht, in mehr als 16 Sprachen im Roblox-Chat zu kommunizieren. „Dies ist ein mutiger neuer Ansatz, und wir werden nicht immer alles perfekt umformulieren“, sagte Bhatia zu dem neuesten Schritt und fügte hinzu, dass das Unternehmen weiterhin lernen und mit der Funktion experimentieren werde. „Unser ultimatives Ziel ist es, Nutzern zu ermöglichen, auf eine Weise zusammenzuarbeiten und sich zu verbinden, die sowohl Spaß macht als auch respektvoll ist.“

Roblox hat auf eine Anfrage von Decrypt nach einem Kommentar nicht sofort reagiert.