Activision heeft de hulp ingeroepen van Modulate's AI-technologie, bekend als ToxMod, om gesprekken in de Call of Duty-serie te monitoren.
Volgens een blogbericht op CallofDuty.comToxMod is ontworpen om real-time sentiment- en intentieanalyse uit te voeren om misbruik in het spel te detecteren en te markeren voor menselijke moderatie.
Dit betekent dat het niet alleen openlijke haatzaaiende taal en intimidatie kan identificeren, maar ook subtielere vormen van wangedrag.
Tot nu toe is ToxMod vooral gebruikt in kleinere VR-titels zoals Among Us.
ToxMod markeert mogelijk beledigende in-game uitingen en geeft deze door aan de menselijke moderators van Activision.
Als spelers de officiële gedragscode van Call of Duty schenden - die denigrerende opmerkingen op basis van ras, geslacht, seksuele geaardheid, leeftijd, cultuur, geloof, geestelijke of lichamelijke vermogens of land van herkomst verbiedt - kunnen ze worden gestraft.
Deze straffen variëren van een schorsing van twee dagen tot een levenslang verbod voor extreme of herhaalde overtredingen.
ToxMod wordt betatest in Call of Duty: Modern Warfare II en Warzone. Een volledige lancering wordt verwacht bij de release van Modern Warfare III in november.
Voorlopig worden alleen Engelstalige chats bewaakt, maar Activision is van plan om de taalondersteuning in de toekomst uit te breiden.
Hoe werkt ToxMod?
Traditioneel was het de taak van spelers om giftig gedrag te rapporteren. ToxMod verandert dit door schadelijke interacties proactief te identificeren en aan te pakken.
ToxMod meldt dat 67% van de multiplayer gamers heeft gezegd dat ze waarschijnlijk zouden stoppen met het spelen van een game als ze te maken kregen met giftig gedrag, en 83% van de volwassen gamers uit alle demografische groepen hebben gemeld dat ze online te maken kregen met giftigheid.
De AI-technologie is gebouwd om gespreksnuances te begrijpen, van toon en emotie tot intentie. Het kan naar verluidt onderscheid maken tussen vriendelijk geklets en echte giftigheid. Na het triagen en analyseren van potentieel schadelijke spraak, geeft het de meest waarschijnlijke gevallen van echt misbruik door aan menselijke moderators.
Volgens ToxMod worden alle gegevens geanonimiseerd en beveiligd volgens ISO 27001-normen en Modulate garandeert dat de gegevens niet worden verkocht of verhuurd.
Gamers kunnen suggereren dat ToxMod de vrijheid van meningsuiting in gevaar brengt - die mogelijk moet worden uitgebreid naar digitale omgevingen - hoewel dit het voorrecht is van de gameontwikkelaars en platforms.
Als ToxMod te draconisch blijkt te zijn, kan de Call of Duty-lobby een nogal steriele omgeving worden.
