Van Dorpe, Josiane
(2025).
« « I'm gay, but gg » - toxique, biaisé, ou les deux ? : description des biais identitaires des modèles de détection automatique de toxicité dans les clavardages de jeux vidéo » Mémoire.
Montréal (Québec), Université du Québec à Montréal, Maîtrise en linguistique.
Fichier(s) associé(s) à ce document :
Résumé
Alors que les communications en ligne occupent une place grandissante dans les interactions sociales, garantir des environnements surs et inclusifs pour les groupes marginalisés devient crucial. Dans le contexte des discussions en ligne dans les jeux vidéo, des modèles de langue sont utilisés pour détecter et modérer les contenus toxiques. Cependant, ces modèles peuvent pénaliser de manière disproportionnée les communautés marginalisées lorsqu’elles tentent d’affirmer leur identité ou de discuter de leurs communautés. Ce mémoire explore les interactions entre la toxicité et les biais identitaires dans les clavardages de jeux vidéo multijoueurs en ligne. L’étude analyse les relations sémantiques encodées dans les plongements linguistiques afin de mieux comprendre les compromis nécessaires entre l’atténuation des biais et la perte de performance. Une collecte de substituts lexicaux au terme « gay » dans des contextes toxiques et non toxiques, ainsi qu’une analyse des regroupements dans l’espace des plongements, met en lumière la relation profonde entre biais identitaires et toxicité, compliquant ainsi la séparation des deux concepts. En démontrant l’interaction sémantique entre biais et toxicité et comment elle est encodée dans les plongements, cette recherche plaide pour une compréhension approfondie des représentations linguistiques, afin de concevoir des modèles plus inclusifs, tout en soulignant la nécessité de prudence dans l’application des modèles de détection automatique.
_____________________________________________________________________________
MOTS-CLÉS DE L’AUTEUR : TAL, biais, toxicité, jeux vidéo, modèles de langue
| Type: |
Mémoire accepté
|
| Informations complémentaires: |
Fichier numérique reçu et enrichi en format PDF/A. |
|
Directeur de thèse: |
Winterstein, Grégoire |
| Mots-clés ou Sujets: |
Traitement automatique des langues / Modèles de langage / Biais de représentativité / Toxicité en ligne / Jeux vidéo / Clavardage |
| Unité d'appartenance: |
Faculté des sciences humaines > Département de linguistique |
| Déposé par: |
Service des bibliothèques
|
| Date de dépôt: |
28 févr. 2025 14:39 |
| Dernière modification: |
28 févr. 2025 14:39 |
| Adresse URL : |
http://archipel.uqam.ca/id/eprint/18533 |
RECHERCHER
PARCOURIR
LIBRE ACCÈS
