Comment fonctionne la modération ?

1) Les onglets de l’interface de modération

L’onglet Modération de l’admin GraphComment comporte 4 sous-onglets :

1. En attente
   • Liste tous les commentaires en attente de modération lorsque la pré‑modération est activée.
2. Approuvé
   • Liste tous les commentaires qui ont été approuvés par un modérateur en mode pré‑modération et qui sont donc affichés sur le site.
3. Supprimé
   • Liste :
     • les commentaires en attente refusés en pré‑modération (statut « Refusé ») ;
     • les commentaires retirés après publication en post‑modération (statut « Retiré »).
   • À l’emplacement d’un commentaire retiré dans la discussion, un message s’affiche à la place : « Ce message a été supprimé par le modérateur. »
4. Tous
   • Liste la totalité des commentaires postés par les utilisateurs sur ce site, avec des étiquettes indiquant le statut de chaque commentaire.

2) Les actions de modération disponibles

Les actions possibles depuis l’interface :

• Approuver : approuver un commentaire en attente.
• Répondre et approuver : répondre à un commentaire depuis l’admin, publier la réponse immédiatement et approuver le commentaire.
• Supprimer :
  • refuser un commentaire en attente (pré‑modération), ou
  • retirer un commentaire déjà publié (post‑modération).
• Signaler comme spam : refuse ou retire un commentaire en le marquant comme spam, afin de permettre la création de règles contre les spammeurs.

La barre des actions :

3) Pré‑modération et post‑modération (rappel)

• En pré‑modération, les commentaires des utilisateurs sont d’abord placés en « En attente », puis un modérateur décide de les approuver ou de les refuser.
• En post‑modération, les commentaires peuvent être visibles dès leur publication, puis retirés ensuite par un modérateur si nécessaire.

4) Filtres de toxicité (add-on sur demande)

Objectif : détecter en amont les commentaires qui déclenchent un doute raisonnable afin de prioriser ou d’automatiser la modération.

Principe :

• chaque commentaire reçoit une note interne de toxicité issue d’une analyse des éléments de langage (et pas d’un simple dictionnaire de mots facilement contournable) ;
• les seuils sont internes et ne sont pas communiqués ;
• la barre est volontairement haute : l’objectif est de permettre de se passer d’une modération humaine sur les cas les plus sûrs.

Règle de workflow (résumé) :

• tout commentaire présentant un doute est orienté vers la pré‑modération (file « En attente ») ;
• seuls les commentaires au score très favorable peuvent être publiés automatiquement.

Complémentarité :

• GraphComment propose déjà des filtres de mots‑clés (ex. insultes) ;
• le filtre de toxicité vise au contraire l’analyse du langage et du ton, pour capter des formulations problématiques même sans mots interdits.

Disponibilité : sur demande (add-on, facturé en sus).

5) Étiquettes de réputation de l’auteur (tendance)

Objectif : attirer l’attention du modérateur sur les auteurs selon l’évolution de leur réputation, afin d’ajuster la vigilance.

Tags affichés dans l’interface de modération :

• freq deleted
  • Tag déclenché lorsque le taux de refus/suppression d’un auteur dépasse un certain niveau sur une période glissante d’environ un mois.
  • Usage : signaler une phase possible de trolling et renforcer la vigilance.
  • Le tag disparaît progressivement si l’auteur se calme (la tendance s’améliore).
• high rep / low rep
  • Tags calculés à partir des votes reçus par la communauté sur une période glissante.
  • Usage : fournir un indicateur immédiat au modérateur.

Affichage : ces tags sont visibles directement sur les commentaires pendant la modération.

6) IA de modération contextualisée (sur demande)

Objectif : aider à modérer plus finement en tenant compte du contexte, plutôt que d’évaluer le commentaire isolément.

Disponibilité : sur demande.

Contexte pris en compte (exemples, liste non exhaustive) :

• un résumé de l’article/page où le commentaire est posté, incluant thématiques et points de vigilance utiles à la modération ;
• le commentaire parent (et les éléments nécessaires pour comprendre l’intention dans le fil) ;
• toute information additionnelle utile au verdict final, dans la limite de ce qui est exposé (liste volontairement non exhaustive).

Modes de fonctionnement :

1. Full IA
   • L’IA peut appliquer automatiquement la politique de modération selon le paramétrage.
2. Mixte IA + humain
   • L’IA prend une décision et s'il existe un doute elle déplace à "En attente" pour qu'un humain tranche dans l'outil.
3. Mixte IA + modération externalisée (ex. Netino, etc.)
   • L’IA prend une décision et s'il existe un doute elle transmet via API à une société tierce de modération qui va s'en charger et retourner le verdict et le motif via API.

7) Distribution des commentaires par modérateur

Objectif : répartir l’effort de modération entre plusieurs modérateurs / équipes internes.

Ce que permet le dispositif :

• affecter les commentaires d’un article donné à un modérateur unique ;
• ou ventiler ces commentaires dans une équipe selon l’organisation de la rédaction.

Mise en œuvre :

• l’affectation se fait manuellement au cas par cas ou via une route API privée ;
• ensuite, l’interface / le front peut filtrer l’affichage pour que chaque modérateur ne voie que sa file.

Disponibilité : pour tous en manuel et plans Enterprise uniquement via API (sur demande).