AI Moderator
Le chat de vos plateformes est filtré en deux étages : des règles locales instantanées que vous définissez, puis — si vous le souhaitez — une analyse IA multilingue plus fine. Vos clés restent sur votre installation, et l’IA n’est jamais appelée pour rien.
AI Moderator filtre d’abord instantanément les mots interdits, les répétitions, les majuscules abusives et les liens selon vos règles. Vous pouvez ensuite activer Mistral AI ou OpenAI pour une analyse multilingue plus fine, avec un fournisseur de secours facultatif.
Où le trouver
Le panneau AI Modérateur s’ouvre depuis le menu Utilitaires de la régie. Il porte la mention « host uniquement » : la modération se pilote depuis votre poste, jamais depuis celui d’un invité.
Un interrupteur Actif en haut du panneau coupe tout d’un coup, filtres locaux compris.
Les deux étages
| Filtres locaux | Modération IA | |
|---|---|---|
| Où ça tourne | Sur votre machine | Chez le fournisseur que vous choisissez |
| Vitesse | Instantané | Jusqu’à 4 secondes |
| Coût | Aucun | Selon votre compte chez le fournisseur |
| Ce que ça attrape | Ce que vous avez écrit dans vos règles | Le sens du message, dans sa langue |
| Nécessaire ? | Toujours actif | Entièrement optionnel |
Ce n’est pas un détail d’implémentation, c’est la règle centrale. Un message bloqué par vos règles locales n’est jamais envoyé à un fournisseur IA. Vous ne payez donc pas pour analyser un spam évident, et le contenu ne quitte pas votre machine.
Le chemin d’un message
Message reçu du chat social
│
├─ normalisation du texte
├─ mots et expressions interdits
├─ répétitions abusives
├─ ratio de majuscules
└─ liens interdits
│
├─ bloqué ici ? → message filtré, aucun appel IA
│
└─ IA activée ?
non → message autorisé
oui → fournisseur principal
├─ décision reçue → appliquée, c'est fini
└─ absent, trop lent ou en erreur
└─ fournisseur de secours, s'il est configuré
├─ décision reçue → appliquée
└─ indisponible → message autoriséSi le fournisseur principal répond — qu’il bloque ou qu’il autorise — sa décision est définitive. Le secours n’est sollicité que lorsque le principal est réellement indisponible : clé absente, délai dépassé ou erreur. Vous n’êtes jamais facturé deux fois pour un même message.
Les filtres locaux
Quatre règles, toutes réglables, toutes gratuites et immédiates.
| Règle | Ce qu’elle fait | Conseil |
|---|---|---|
| Mots bannis | Une liste séparée par des virgules. Le message est bloqué s’il en contient un. | Commencez court et complétez au fil de vos émissions. |
| Répétition max de caractères | Bloque les suites du type aaaaaaa au-delà du seuil. | 5 est un bon point de départ. |
| Seuil de majuscules | Bloque au-delà d’une proportion de lettres en capitales. | 50 % laisse passer un sigle, pas un message hurlé. |
| Bloquer les liens | Rejette les messages contenant http:// ou www. | Utile contre le spam d’arnaques, très courant en direct. |
Personne ne peut deviner le vocabulaire problématique de votre communauté. Renseignez vos mots bannis dans les langues de votre public — c’est ce qui rend cet étage réellement efficace, y compris quand vous n’utilisez pas l’IA.
La modération IA
Une case Modération IA multilingue active le second étage. Elle n’a d’effet qu’une fois au moins une clé enregistrée.
Choisir le fournisseur et le secours
| Mode | Qui est appelé | Secours |
|---|---|---|
| Mistral AI uniquement | Mistral | Aucun |
| OpenAI uniquement | OpenAI | Aucun |
| Mistral AI, puis OpenAI | Mistral | OpenAI, seulement s’il est indisponible |
| OpenAI, puis Mistral AI | OpenAI | Mistral, seulement s’il est indisponible |
Le panneau indique sous le sélecteur quelles clés sont enregistrées, pour éviter de choisir un mode qui ne pourrait pas fonctionner.
Le seuil
Un curseur unique, commun aux deux fournisseurs. Plus il est bas, plus le filtrage est strict.
Un seuil trop strict bloque des messages légitimes et frustre votre communauté ; trop permissif, il ne sert à rien. Commencez au réglage par défaut, surveillez le journal des messages filtrés pendant une ou deux émissions, puis ajustez d’un cran à la fois.
Mistral AI ou OpenAI ?
Les deux font le même travail. La différence tient surtout à leurs conditions d’accès.
| Mistral AI | OpenAI | |
|---|---|---|
| Accès | Un palier Free existe, activable sans carte bancaire, avec des limites de débit et de volume. | Nécessite un projet API disposant de quota ou de crédits, et selon les comptes une facturation active. |
| Montée en charge | Le palier Scale, facturé à l’usage, est recommandé quand le volume de messages ou le nombre de directs augmente. | Facturation à l’usage sur le quota du projet. |
| Origine | Européenne | Américaine |
C’est la confusion la plus fréquente, et elle coûte du temps. Payer ChatGPT ne finance pas l’API : il vous faut un projet API distinct, avec son propre quota ou ses propres crédits. Studio Local ne fournit ni ne facture ces crédits.
Les quotas et les politiques commerciales des fournisseurs évoluent. Le palier Free de Mistral est réel aujourd’hui, mais il reste soumis à leurs conditions et à leurs limites, pas aux nôtres. Vérifiez l’état de votre compte avant une grosse émission.
Ce que l’IA cherche
L’analyse porte sur les catégories qui comptent réellement pour un chat de direct :
- contenu sexuel ;
- haine et discrimination ;
- violence et menaces ;
- contenu dangereux ou criminel ;
- automutilation.
Les catégories santé, finance, droit et données personnelles ne déclenchent pas de blocage automatique. Hors contexte, elles produisent surtout des faux positifs : un spectateur qui parle de son médecin ou de son crédit n’a rien à faire dans un journal de modération.
Enregistrer vos clés
Les deux cartes se trouvent dans Settings → Avancé → Services API utilisateur. Elles n’apparaissent que si le pack AI Moderator est actif.
| Bouton | Effet |
|---|---|
| Enregistrer / Remplacer | Enregistre une nouvelle valeur — le bouton s’appelle « Enregistrer » la première fois, puis « Remplacer » une fois une clé déjà en place. Le champ est toujours vide : une clé déjà enregistrée n’est jamais réaffichée. |
| Tester | Vérifie la connexion et affiche le résultat : connexion valide, clé refusée, quota atteint ou service inaccessible. |
| Supprimer | Retire la clé après confirmation. |
| Aide | Ouvre la page officielle du fournisseur pour créer la clé. |
Une clé peut être enregistrée même si Internet est momentanément indisponible — elle sera simplement marquée « service inaccessible » plutôt que « refusée ». C’est volontaire : une coupure passagère ne doit pas vous faire croire que votre clé est mauvaise.
Elles sont conservées côté serveur, sur votre machine, et ne sont jamais transmises au navigateur, aux invités, à la scène diffusée ni aux journaux techniques. L’interface n’affiche que trois choses : si une clé existe, d’où elle vient, et le résultat du dernier test. Jamais sa valeur, ni même un extrait.
Le multilingue
Les messages sont analysés dans leur langue d’origine. Studio Local ne les traduit pas avant analyse : une traduction intermédiaire ajouterait du délai et déformerait le sens, ce qui est exactement ce qu’il ne faut pas faire sur un message court et ambigu.
La modération fonctionne sur les 29 langues de l’interface, mais la qualité de détection n’est pas identique pour chacune. Sur une langue peu couverte, ce sont vos listes locales de mots bannis qui font l’essentiel du travail — raison de plus pour les renseigner dans les langues de votre communauté.
Quand l’IA tombe en panne
Le comportement est volontairement prudent envers votre direct.
| Situation | Ce qui se passe |
|---|---|
| Aucune clé pour le fournisseur principal | Passage immédiat au secours, s’il est configuré. |
| Le fournisseur met plus de 4 secondes | L’appel est abandonné, le secours prend le relais. |
| Erreur ou service en panne | Secours éventuel, puis retour aux seuls filtres locaux. |
| Les deux fournisseurs sont injoignables | Le chat continue, filtré par vos règles locales uniquement. |
Le choix assumé est de laisser passer plutôt que de tout bloquer : un chat gelé au milieu d’un direct est plus grave qu’un message douteux passé entre les mailles. Vos filtres locaux, eux, continuent de s’appliquer quoi qu’il arrive.
Le journal des messages filtrés
Le bas du panneau liste les messages bloqués, avec leur motif et la plateforme d’origine, jusqu’à cinquante entrées. C’est votre outil de réglage : s’il se remplit de messages légitimes, votre seuil est trop strict ou votre liste de mots trop large.
Le journal du panneau est là pour vous, en direct. Les journaux de diagnostic, eux, n’enregistrent que des métadonnées — quel fournisseur, bloqué ou non, durée — jamais le contenu des messages ni vos clés.
Mise en route conseillée
- Activez le panneau et renseignez vos mots bannis. Cet étage seul règle déjà beaucoup de choses, sans aucun compte à créer.
- Réglez répétitions, majuscules et liens selon le ton de votre chaîne.
- Si vous voulez aller plus loin, créez une clé chez un fournisseur et enregistrez-la dans Settings → Avancé.
- Cliquez sur Tester pour confirmer que la connexion répond.
- Activez la modération IA, choisissez le mode et laissez le seuil par défaut.
- Après une émission ou deux, relisez le journal des messages filtrés et ajustez.
- Ajoutez le second fournisseur en secours seulement si les coupures vous gênent.
Dépannage
| Symptôme | À vérifier |
|---|---|
| Les cartes de clés n’apparaissent pas dans Settings | Le pack AI Moderator n’a pas de licence active. Voir Plugins. |
| La case Modération IA reste sans effet | Aucune clé n’est enregistrée pour le mode choisi. |
| « Quota / facturation à vérifier » | Côté OpenAI, le projet API n’a pas de crédits ou la facturation n’est pas active. Un abonnement ChatGPT ne compte pas. |
| « Clé refusée » | La clé a été révoquée, mal copiée, ou appartient à un autre projet. |
| « Service inaccessible » | Coupure réseau passagère. Retestez plus tard : la clé n’est pas en cause. |
| Trop de messages légitimes bloqués | Remontez le seuil d’un cran, et relisez votre liste de mots bannis — un mot trop court attrape des mots plus longs. |
| Rien n’est filtré du tout | L’interrupteur Actif du panneau est peut-être sur arrêt. |
| Le filtrage semble plus lent qu’avant | Le fournisseur principal répond mal et le secours prend le relais. Testez les deux clés. |