Garde-fous

En tant qu’admin ou propriétaire, utilise Paramètres > Gouvernance > Garde-fous pour contrôler la vérification des textes avant et après un appel au modèle. Les couches actives s’exécutent dans cet ordre : sécurité du contenu, détection des données personnelles, puis modération externe. Commence par une règle claire et vérifie son effet avant de l’élargir.

Ajouter une règle de contenu

1. Dans la sécurité du contenu, choisis de vérifier les saisies des utilisateurs, les réponses du modèle ou les deux.
2. Ajoute une catégorie, donne-lui un libellé reconnaissable et choisis son mode.
3. Ajoute les mots ou expressions à détecter, une entrée par ligne. Tu peux importer une liste texte ; relis-la avant de l’appliquer.
4. Enregistre la catégorie, active la catégorie et la couche voulues, puis enregistre les changements de la page.
5. Teste avec un texte fictif contenant une correspondance, puis un texte normal qui doit passer. Vérifie les événements récents et le résultat visible dans le chat.

Si plusieurs catégories correspondent, bloquer passe avant masquer, puis signaler. La recherche de mots ignore la casse. Vérifie les variantes et faux positifs importants dans tes langues. Un test réussi ne démontre pas une couverture complète.

Protéger les données personnelles

La protection PII détecte des formats configurés, comme les adresses e-mail, numéros de téléphone et identifiants. Sélectionne les types intégrés utiles et les motifs personnalisés, puis le comportement souhaité.

Le masquage retire les valeurs détectées du texte transmis. Dans un chat, Tale enregistre et affiche aussi le texte masqué comme message ; la formulation d’origine n’est pas conservée. Le blocage refuse une correspondance. La tokenisation remplace les valeurs par des tokens numérotés pour le modèle, puis les restaure dans sa réponse. Elle réduit l’exposition pendant le traitement, sans garantir une réponse finale dépourvue de données personnelles.

Un identifiant intégré composé uniquement de chiffres, comme un numéro de passeport suédois ou un identifiant fiscal ukrainien, n’est reconnu qu’à côté d’un mot qui le nomme, par exemple passnummer ou ІПН. Les numéros de commande, les dates compactes et les numéros de build passent tels quels. Chaque détection dans Événements récents nomme le motif déclenché, par exemple se-passport.

Teste tes formats réels avec des valeurs fictives. La détection peut manquer des formats inhabituels et signaler à tort du texte ordinaire. Vérifie séparément l’entrée et la sortie.

Ajouter une modération externe

La couche de modération envoie du texte à un classificateur configuré, comme OpenAI, Azure, Perspective ou un point de terminaison personnalisé. Configure ses identifiants, catégories et actions, puis les directions à inspecter.

Décide du comportement si le fournisseur est indisponible : fail-open laisse passer le message, fail-closed le refuse. Examine les erreurs fournisseur et les événements de circuit ouvert en cas de refus inattendus ou de messages non filtrés. Cette couche ajoute un service qui traite le texte. Utilise le fournisseur et l’adresse approuvés pour ton organisation.

Définir les instructions de l’organisation

Les instructions personnalisées de l’organisation sont ajoutées avant celles de l’assistant de chat et avant les instructions propres de chaque agent : les agents de projet qui traitent des tâches et les nœuds agent des automatisations. Les membres ne peuvent pas modifier cette règle d’organisation. Utilise-les pour le comportement et le vocabulaire communs. Pour les restrictions à imposer indépendamment du respect d’un texte par le modèle, utilise les règles d’accès et les filtres.

Les garde-fous sur les endpoints de modèles

Quand ton organisation active les endpoints de modèles pour les clés API, le côté entrée de ces garde-fous examine aussi chaque requête qui leur est envoyée. La sécurité du contenu, la protection PII et le fournisseur de modération lisent chaque texte de la requête avant que Tale la transmette au modèle : les instructions système et développeur, les tours de la personne et de l’assistant, les appels d’outils, leurs résultats et les définitions d’outils, ainsi que les documents fournis en texte. L’appelant les écrit tous, donc aucun n’est plus digne de confiance qu’un autre :

• Un blocage refuse la requête avec 400 MODEL_API_GUARDRAIL_BLOCKED, et rien n’atteint le modèle.
• Un masquage remplace la correspondance, et le modèle reçoit le texte masqué.
• La tokenisation ne peut pas être respectée, car Tale relaie la réponse du modèle telle quelle et ne peut pas y restaurer les valeurs. Tant que la protection PII est active en mode Tokeniser, chaque requête est refusée avec 403 MODEL_API_GUARDRAIL_UNSUPPORTED ; choisis Masquer ou Bloquer si des membres utilisent les endpoints de modèles.
• Si un fournisseur de modération échoue en fail-closed, Tale refuse la requête avec 503 MODEL_API_GUARDRAIL_UNAVAILABLE, tout comme quand il ne peut pas lire un réglage de garde-fou.
• Tant qu’un garde-fou est actif, une requête de plus de 2 Mo de texte est refusée avec 413 MODEL_API_TEXT_TOO_LARGE.

La sortie n’y est pas filtrée : les règles qui vérifient la Sortie modèle ne s’appliquent pas, et les réponses du modèle, en flux ou non, passent sans contrôle, tout comme les images et les documents qui ne sont pas du texte. Tale n’ajoute pas non plus d’instructions personnalisées : le modèle reçoit la requête telle que l’outil de l’appelant l’a envoyée. Les détections apparaissent dans Événements récents comme celles du chat, chacune enregistrée sous model-api: suivi de l’identifiant que Tale attribue à la requête, avec à côté le X-Request-Id que l’appelant a reçu. Comme les outils renvoient toute la conversation à chaque requête, Tale réutilise son verdict sur un texte examiné dans les dernières minutes et n’enregistre une détection qu’une fois, pas à chaque renvoi.

Examiner et ajuster

Les événements récents affichent les 50 dernières détections, blocages et erreurs fournisseur. Filtre par couche ou résultat et examine la catégorie, la direction et la date. Le texte brut détecté n’est pas conservé dans ces événements : la ligne explique la détection sans reproduire la valeur sensible.

Si une règle est trop large, ajuste sa catégorie ou ses motifs et répète les tests fictifs. Si une détection manque, vérifie l’activation de la couche, de la catégorie et de la direction voulue. La durée de conservation des événements dépend de la catégorie Événements chat-filter de la règle de rétention. Elle est désactivée par défaut, et les événements sont conservés jusqu’à ce qu’un admin l’active. Tant qu’elle est activée, le nettoyage planifié supprime les événements plus anciens que sa durée augmentée du délai de grâce, jusqu’à 50 000 par nuit ; un arriéré plus important, comme des mois d’événements lors de la première activation, se résorbe sur plusieurs nuits. Les événements récents et les chiffres des garde-fous sous Paramètres > Métriques > Santé de l'assistant n’affichent que les événements encore conservés : si la durée augmentée du délai de grâce reste inférieure à 30 jours, la partie la plus ancienne d’une vue sur 30 jours reste vide.

Une conservation légale protège les événements du nettoyage : une conservation de l’organisation préserve tous les événements, une conservation qui vise un membre préserve ceux déclenchés dans ses chats. Un événement dont le chat a été définitivement supprimé avant la conservation n’a plus de propriétaire à protéger et n’est pas conservé.