Paris, le 3 juillet 2025 – Smart Tribune, spécialiste des expériences conversationnelles pour les grandes entreprises, publie une étude démontrant qu’il est possible d’identifier et de bloquer plus de 90 % des messages toxiques dans les échanges entre les humains et les modèles de langage (LLM) dans un contexte de relation client. Les résultats sont présentés lors de la conférence francophone de référence CORIA-TALN organisée à l’Université d’Aix-Marseille du 30 juin au 4 juillet 2025.
Une méthode pour des conversations plus sûres
L’équipe R&D de Smart Tribune décrit dans son papier « Détection et évaluation de la communication toxique pour la relation client par des LLM » une taxonomie spécifique aux échanges marque-client et un protocole d’évaluation automatisé. L’approche reste robuste même face aux contenus implicites ou volontairement bruités.
Testée sur un corpus multilingue construit notamment à partir d’interactions réelles avec des clients, la méthode permet de faire des avancées significatives dans la précision de la détection en particulier pour l'univers conversationnel de la relation client. Cet outil est intégré aux agents conversationnels pour prévenir les dérives avant l’envoi des réponses des marques à leurs clients.
Un enjeu clé pour la relation client
Dans un contexte où les marques s’exposent à des risques juridiques et d’image, contrôler la toxicité est devenu indispensable pour :
- protéger les conseillers humains et les utilisateurs,
- garantir la conformité réglementaire,
- maintenir la confiance et la satisfaction client.
Une feuille de route R&D ambitieuse
« Investir dans la recherche appliquée, c’est offrir à nos clients des standards d’IA de confiance », résume Jérémy Gallemard, président et co-fondateur de Smart Tribune. « Après nos travaux sur la gestion de la connaissance, cette avancée sur la toxicité des LLM ouvre la voie à des déploiements industriels plus sûrs. »
À propos de Smart Tribune
Depuis 12 ans, Smart Tribune aide les grandes entreprises à fournir des réponses rapides, fiables et personnalisées sur tous les points de contact, grâce à une plateforme qui combine base de connaissance, FAQ dynamique, copilote IA et agent conversationnel.
