GuidesIA et agents
Modérer les contenus avec l’IA : avis, commentaires, annonces
Les trois issues
- 1PubliéConforme aux règles, sans doute possible.
- 2À relireIronie, cas limite, doute : un humain décide.
- 3RefuséViolation claire, motif enregistré, auteur informé.
Les règles, écrites
| Catégorie | Exemple |
|---|---|
| Insultes, harcèlement | Attaque d’une personne |
| Données personnelles | Téléphone, adresse d’un tiers |
| Spam, publicité | Lien vers un autre site marchand |
| Hors sujet | Avis qui ne parle pas du produit |
Le modèle reçoit ces règles et renvoie, pour chaque contenu, une catégorie, une issue et une phrase de justification.
Régler les seuils
Strict
Souple
Le suivi
- Un échantillon de décisions automatiques revu chaque semaine.
- Les recours comptés : un taux qui monte signale une règle mal écrite.
- Les règles versionnées, pour savoir quelle version a décidé.
Pour les sorties structurées : obtenir un JSON fiable d’un LLM. Le cadre légal : IA, RGPD et AI Act.
Questions fréquentes
- L’IA peut-elle refuser seule ?
- Pour les cas évidents (insultes, spam, coordonnées personnelles), oui, avec un motif enregistré. Les cas limites restent humains.
- Faut-il informer l’auteur ?
- Oui. Dire pourquoi un contenu est refusé et comment contester évite les frustrations. En Europe, le règlement sur les services numériques (DSA) va dans ce sens pour les hébergeurs.
- Les avis négatifs sont-ils refusés ?
- Non. Un avis négatif mais respectueux est publié. Le filtrer fausse les avis, et peut être illégal.