Jeux anti-émeute a publié un rapport aujourd’hui décrivant l’état actuel des mesures anti-toxicité dans Valorant, ainsi que l’avenir de ces efforts, y compris un programme bêta pour enregistrer et analyser les communications vocales des joueurs signalés pour un chat abusif.
Les conditions de service de Riot étaient mis à jour pour s’adapter à ce changement l’année dernière, et Riot commencera un déploiement bêta de son programme de modération vocale d’ici 2022. Le rapport était léger sur les détails, mais l’enregistrement et l’analyse des communications vocales pour la modération ne sont censés être utilisés que lorsqu’un joueur a déjà été signalé pour un comportement toxique.
J’espère entendre plus de détails sur le programme avant sa mise en œuvre, comme le nombre de fois où les joueurs devront être signalés avant d’être surveillés, ainsi que si le processus de punition et d’appel sera différent des programmes anti-toxicité que Riot a déjà en place. lieu.
Le corps principal du rapport était consacré à décrire le système actuel de Valorant pour désactiver les mots offensants dans le chat textuel, la nature essentielle des rapports des joueurs pour avoir un impact positif sur le jeu et les résultats de ces systèmes tels que reflétés par le taux d’interdictions et de restrictions de communication.
Fait intéressant, même si les punitions sont à la hausse, les enquêtes auprès des joueurs de Riot montrent que la perception du harcèlement à Valorant reste stable. Selon les propres mots de Riot : « … nous avons remarqué que la fréquence à laquelle les joueurs sont confrontés au harcèlement dans notre jeu n’a pas diminué de manière significative. Pour faire court, nous savons que le travail que nous avons fait jusqu’à présent est, au mieux, fondamental, et il y a une tonne de plus à construire en 2022 et au-delà. » J’ai été impressionné que Riot admette cet écart au lieu de simplement citer le taux accru de modération comme une victoire.
Le rapport a ensuite décrit certains plans pour l’avenir immédiat des systèmes anti-toxicité de Valorant :
« Sanctions généralement plus sévères pour les systèmes existants : Pour certains des systèmes existants aujourd’hui pour détecter et modérer la toxicité, nous avons passé un certain temps à un niveau plus « conservateur » pendant que nous rassemblions des données (pour nous assurer que nous ne détections pas de manière incorrecte). Nous nous sentons beaucoup plus confiants dans ces détections, nous allons donc commencer à augmenter progressivement la sévérité et l’escalade de ces pénalités. Cela devrait aboutir à un traitement plus rapide des mauvais acteurs.
Modération de texte plus immédiate et en temps réel : Bien que nous disposions actuellement d’une détection automatique des mots de « tolérance zéro » lorsqu’ils sont saisis dans le chat, les sanctions qui en résultent ne se produisent qu’après la fin d’une partie. Nous cherchons des moyens d’administrer les punitions immédiatement après qu’elles se soient produites.
Améliorations de la modération vocale existante : Actuellement, nous nous appuyons sur les rapports répétés des joueurs sur un délinquant pour déterminer si un abus de chat vocal s’est produit. L’abus de chat vocal est beaucoup plus difficile à détecter que le texte (et implique souvent un processus plus manuel), mais nous avons pris des mesures progressives pour apporter des améliorations. Au lieu de garder tout secret jusqu’à ce que nous ayons l’impression que la modération vocale est « parfaite » (ce qui ne le sera jamais), nous publierons des mises à jour régulières sur les changements et les améliorations que nous apportons au système. Gardez un œil sur la prochaine mise à jour à ce sujet vers le milieu de cette année.
Programme pilote d’essai régional : Notre équipe turque a récemment déployé un programme pilote local pour essayer de mieux combattre la toxicité dans leur région. L’essentiel est de créer une ligne de rapport avec les agents de l’assistance aux joueurs – qui superviseront les rapports entrants strictement dédiés au comportement des joueurs – et de prendre des mesures en fonction des directives établies. Considérez cette version très bêta, mais si elle est suffisamment prometteuse, une version de celle-ci pourrait potentiellement se propager à d’autres régions. »
Dans l’ensemble, j’ai lu ce rapport comme une chose positive. Je suis mal à l’aise à l’idée que l’enregistrement et l’analyse de la voix soient utilisés contre les joueurs, mais des jeux comme Valorant sont intrinsèquement des projets sociaux qui sont déjà soumis à la collecte et à la surveillance de données. Quand je pense aux choses vraiment viles que j’ai entendues en jouant à des jeux de compétition, eh bien, cela me fait apprécier toute sorte d’effort pour freiner ce comportement.
Avec la discussion sur la toxicité et le harcèlement dans l’un des jeux de Riot, je sens que je dois souligner l’éléphant dans la salle du passé mouvementé de l’entreprise avec sa culture interne, avec des allégations de harcèlement et d’abus sexuels au sein de l’entreprise. Riot a réglé le procès pour discrimination sexuelle de 2018 à son encontre pour 100 millions de dollars à la fin de l’année dernière, et l’entreprise affirme publiquement qu’elle a franchi un cap. La plainte pour harcèlement déposée contre le PDG de Riot, Nicolo Laurent, par son ancien assistant reste ouverte, tandis qu’une enquête interne de Riot sur sa conduite trouvé aucun acte répréhensible.
