Trust Map de Salesforce : les garde-fous d’une IA de confiance

1

Fiabiliser les résultats

Des garde-fous qui réduisent les risques d’hallucinations et d’inexactitudes en ancrant les réponses de l’IA dans un contexte fiable, en vérifiant les faits et en facilitant le contrôle des résultats.

LLM de Supervision

Vérifient l’ancrage factuel des réponses avant leur présentation à l’utilisateur.

Fonctionnement

Une fois la réponse générée par Agentforce, un autre modèle vérifie qu’elle s’appuie sur les informations disponibles. Si elle n’est pas ancrée, Salesforce peut la corriger, la régénérer ou la supprimer avant qu’elle n’atteigne l’utilisateur, ce qui limite les réponses inexactes.

: Intégré
: Prévention
: Atlas Reasoning Engine

Citations Intégrées

Relient les réponses générées par l’IA aux sources d’ancrage qui ont servi à les produire.

Fonctionnement

Lorsqu’Agentforce génère une réponse ancrée, il peut y inclure des citations renvoyant aux enregistrements ou documents utilisés pour la produire, afin que les utilisateurs voient d’où viennent les informations et vérifient les réponses de l’IA à la source.

: Intégré
: Prévention
: Configuration des Actions

Agentforce Testing Center / Agentforce Grid

Teste les réponses des agents et aide les équipes à prototyper des workflows sur des jeux de données vérifiés avant le déploiement.

Fonctionnement

Agentforce Testing Center permet aux équipes de tester le comportement des agents avant leur déploiement, avec des prompts définis et des résultats attendus. Agentforce Grid rend les workflows d’IA transparents et testables pour valider les résultats, repérer les problèmes et affiner le comportement avant déploiement.

: Intégré
: Prévention
: Agentforce Testing Center et Agentforce Grid

Génération Augmentée de Récupération (RAG)

Utilise des sources de données fiables pour ancrer les réponses de l’IA générative.

Fonctionnement

Avant de répondre, Agentforce récupère les informations pertinentes dans des sources d’entreprise fiables, dont les données CRM, Data 360 et les connaissances connectées, afin d’ancrer ses réponses dans les données métier à jour, et pas seulement dans les connaissances acquises lors de son préentraînement.

: Intégré
: Prévention
: Data 360

Améliorations Guidées par les Retours

Fait ressortir les enseignements des conversations pour aider les administrateurs à repérer les problèmes d’instructions et à affiner les consignes des agents.

Fonctionnement

Agentforce Observability aide les administrateurs à repérer les problèmes récurrents, les demandes non prises en charge et les conflits d’instructions. En analysant les conversations et les tendances de performance, les équipes affinent les instructions, ajustent les configurations et renforcent le comportement des agents.

: Personnalisable
: Détection
: Agentforce Observability

Amélioration des Connaissances

Aide les administrateurs à analyser l’usage des sources de connaissances et à identifier les améliorations qui renforcent la qualité des réponses.

Fonctionnement

Agentforce Observability permet aux administrateurs de voir comment les sources de connaissances sont utilisées d’une interaction à l’autre. En identifiant ce qui contribue aux réponses réussies et en repérant les lacunes, les équipes améliorent ces sources et renforcent la qualité des réponses au fil du temps.

: Personnalisable
: Détection
: Agentforce Observability

LLM de Supervision

: Prévention
: Atlas Reasoning Engine
: Intégré

Vérifient l’ancrage factuel des réponses avant leur présentation à l’utilisateur.

Fonctionnement

Une fois la réponse générée par Agentforce, un autre modèle vérifie qu’elle s’appuie sur les informations disponibles. Si elle n’est pas ancrée, Salesforce peut la corriger, la régénérer ou la supprimer avant qu’elle n’atteigne l’utilisateur, ce qui limite les réponses inexactes.

Citations Intégrées

: Prévention
: Configuration des Actions
: Intégré

Relient les réponses générées par l’IA aux sources d’ancrage qui ont servi à les produire.

Fonctionnement

Lorsqu’Agentforce génère une réponse ancrée, il peut y inclure des citations renvoyant aux enregistrements ou documents utilisés pour la produire, afin que les utilisateurs voient d’où viennent les informations et vérifient les réponses de l’IA à la source.

Agentforce Testing Center / Agentforce Grid

: Prévention
: Agentforce Testing Center et Agentforce Grid
: Intégré

Teste les réponses des agents et aide les équipes à prototyper des workflows sur des jeux de données vérifiés avant le déploiement.

Fonctionnement

Agentforce Testing Center permet aux équipes de tester le comportement des agents avant leur déploiement, avec des prompts définis et des résultats attendus. Agentforce Grid rend les workflows d’IA transparents et testables pour valider les résultats, repérer les problèmes et affiner le comportement avant déploiement.

Génération Augmentée de Récupération (RAG)

: Prévention
: Data 360
: Intégré

Utilise des sources de données fiables pour ancrer les réponses de l’IA générative.

Fonctionnement

Avant de répondre, Agentforce récupère les informations pertinentes dans des sources d’entreprise fiables, dont les données CRM, Data 360 et les connaissances connectées, afin d’ancrer ses réponses dans les données métier à jour, et pas seulement dans les connaissances acquises lors de son préentraînement.

Améliorations Guidées par les Retours

: Détection
: Agentforce Observability
: Personnalisable

Fait ressortir les enseignements des conversations pour aider les administrateurs à repérer les problèmes d’instructions et à affiner les consignes des agents.

Fonctionnement

Agentforce Observability aide les administrateurs à repérer les problèmes récurrents, les demandes non prises en charge et les conflits d’instructions. En analysant les conversations et les tendances de performance, les équipes affinent les instructions, ajustent les configurations et renforcent le comportement des agents.

Amélioration des Connaissances

: Détection
: Agentforce Observability
: Personnalisable

Aide les administrateurs à analyser l’usage des sources de connaissances et à identifier les améliorations qui renforcent la qualité des réponses.

Fonctionnement

Agentforce Observability permet aux administrateurs de voir comment les sources de connaissances sont utilisées d’une interaction à l’autre. En identifiant ce qui contribue aux réponses réussies et en repérant les lacunes, les équipes améliorent ces sources et renforcent la qualité des réponses au fil du temps.

2

Protéger accès et usage des données

Des garde-fous qui réduisent les risques de protection des données et d’exposition des données personnelles en encadrant la façon dont les systèmes d’IA conservent, récupèrent, consultent et utilisent les données clients.

Rétention Zéro des Données

Empêche les fournisseurs tiers de LLM de conserver, d’examiner ou d’exploiter les données clients pour leur entraînement.

Fonctionnement

Salesforce applique la rétention zéro des données avec les fournisseurs de modèles pris en charge : les prompts et les réponses ne sont ni conservés, ni examinés, ni utilisés pour entraîner des modèles qui pourraient profiter au fournisseur ou à d’autres clients. Les entreprises gardent ainsi la maîtrise de leurs données.

: Intégré
: Prévention
: Salesforce

Récupération Sécurisée des Données

Limite les agents à la seule récupération des données autorisées nécessaires à une tâche précise.

Fonctionnement

Les agents héritent des autorisations de l’utilisateur en cours plutôt que d’un accès étendu au CRM. Agentforce ne récupère dynamiquement que les données autorisées et nécessaires à la tâche, ce qui limite l’exposition des données conformément aux principes de minimisation des données dès la conception.

: Intégré
: Prévention
: Contrôles d’Accès dans CRM/Data 360

Entrées d’Action

Limitent les données et le contexte accessibles à un agent à ce qui est nécessaire pour une action précise.

Fonctionnement

Les entrées définissent les champs de données et le contexte transmis à Agentforce pour une action donnée. Plutôt que d’exposer des enregistrements complets, les administrateurs n’associent que ce qui est nécessaire, ce qui limite les données clients incluses dans le prompt et l’exposition inutile.

: Personnalisable
: Prévention
: Prompt Builder

Filtrage des Actions Authentifiées

Garantit que les agents n’exécutent que les actions autorisées pour les utilisateurs authentifiés.

Fonctionnement

Avant qu’Agentforce n’exécute une action, Salesforce vérifie que l’utilisateur authentifié dispose des autorisations requises. Dans le cas contraire, l’action n’a pas lieu. Les actions des agents restent ainsi alignées sur les accès établis de chaque utilisateur.

: Intégré
: Prévention
: Agentforce Builder

URL Approuvées

Garantit que les agents n’appellent, ne génèrent et ne partagent que des URL approuvées, dans des limites contrôlées par le client.

Fonctionnement

Les administrateurs définissent les URL approuvées auxquelles Agentforce peut accéder, qu’il peut citer ou partager. Avant toute utilisation, Salesforce compare chaque URL à cette liste, ce qui réduit le risque que des agents atteignent des destinations non approuvées ou envoient des données à des tiers non autorisés.

: Intégré
: Prévention
: Configuration des URL Approuvées

Exclusion des Données Clients

Donne aux clients les moyens de contrôler la façon dont Salesforce peut utiliser leurs données pour certains modèles prédictifs, l’amélioration des services et des activités de recherche.

Fonctionnement

Les agents n’interagissent qu’avec les données autorisées pour l’usage concerné. L’entraînement des modèles d’IA prédictive n’a lieu que pour les clients qui achètent des services y faisant appel, et ceux-ci peuvent refuser, au niveau de l’organisation, que Salesforce utilise leurs données pour cet entraînement.

: Intégré
: Prévention
: Configuration de l’Exclusion des Données

Rétention Zéro des Données

: Prévention
: Salesforce
: Intégré

Empêche les fournisseurs tiers de LLM de conserver, d’examiner ou d’exploiter les données clients pour leur entraînement.

Fonctionnement

Salesforce applique la rétention zéro des données avec les fournisseurs de modèles pris en charge : les prompts et les réponses ne sont ni conservés, ni examinés, ni utilisés pour entraîner des modèles qui pourraient profiter au fournisseur ou à d’autres clients. Les entreprises gardent ainsi la maîtrise de leurs données.

Récupération Sécurisée des Données

: Prévention
: Contrôles d’Accès dans CRM/Data 360
: Intégré

Limite les agents à la seule récupération des données autorisées nécessaires à une tâche précise.

Fonctionnement

Les agents héritent des autorisations de l’utilisateur en cours plutôt que d’un accès étendu au CRM. Agentforce ne récupère dynamiquement que les données autorisées et nécessaires à la tâche, ce qui limite l’exposition des données conformément aux principes de minimisation des données dès la conception.

Entrées d’Action

: Prévention
: Prompt Builder
: Personnalisable

Limitent les données et le contexte accessibles à un agent à ce qui est nécessaire pour une action précise.

Fonctionnement

Les entrées définissent les champs de données et le contexte transmis à Agentforce pour une action donnée. Plutôt que d’exposer des enregistrements complets, les administrateurs n’associent que ce qui est nécessaire, ce qui limite les données clients incluses dans le prompt et l’exposition inutile.

Filtrage des Actions Authentifiées

: Prévention
: Agentforce Builder
: Intégré

Garantit que les agents n’exécutent que les actions autorisées pour les utilisateurs authentifiés.

Fonctionnement

Avant qu’Agentforce n’exécute une action, Salesforce vérifie que l’utilisateur authentifié dispose des autorisations requises. Dans le cas contraire, l’action n’a pas lieu. Les actions des agents restent ainsi alignées sur les accès établis de chaque utilisateur.

URL Approuvées

: Prévention
: Configuration des URL Approuvées
: Intégré

Garantit que les agents n’appellent, ne génèrent et ne partagent que des URL approuvées, dans des limites contrôlées par le client.

Fonctionnement

Les administrateurs définissent les URL approuvées auxquelles Agentforce peut accéder, qu’il peut citer ou partager. Avant toute utilisation, Salesforce compare chaque URL à cette liste, ce qui réduit le risque que des agents atteignent des destinations non approuvées ou envoient des données à des tiers non autorisés.

Exclusion des Données Clients

: Prévention
: Configuration de l’Exclusion des Données
: Intégré

Donne aux clients les moyens de contrôler la façon dont Salesforce peut utiliser leurs données pour certains modèles prédictifs, l’amélioration des services et des activités de recherche.

Fonctionnement

Les agents n’interagissent qu’avec les données autorisées pour l’usage concerné. L’entraînement des modèles d’IA prédictive n’a lieu que pour les clients qui achètent des services y faisant appel, et ceux-ci peuvent refuser, au niveau de l’organisation, que Salesforce utilise leurs données pour cet entraînement.

3

Limiter les comportements à risque

Des garde-fous qui réduisent les risques de contenu toxique ou offensant en détectant les entrées nuisibles, en éloignant les réponses des contenus à risque et en signalant les sorties potentiellement toxiques pour examen ou application des politiques.

Détection de la Toxicité en Entrée

Analyse les entrées des utilisateurs pour repérer propos haineux, harcèlement ou langage nuisible, puis enregistre un score dans la piste d’audit.

Fonctionnement

Salesforce analyse les entrées des utilisateurs à la recherche de contenus nuisibles, comme les discours haineux, le harcèlement ou les menaces, avant qu’Agentforce ne les traite, et enregistre un score pour examen. Lorsqu’un contenu dépasse le seuil, Salesforce peut le bloquer avant qu’il n’atteigne l’agent.

: Intégré
: Prévention
: Couche de confiance

Évaluation et Signalement de la Toxicité en Sortie

Évalue les sorties potentiellement toxiques, enregistre le score dans la piste d’audit et les signale à l’utilisateur pour examen ou application des politiques.

Fonctionnement

Salesforce analyse les réponses d’Agentforce à la recherche de contenus nuisibles ou offensants, avant ou pendant leur remise à l’utilisateur. Les scores de toxicité sont consignés dans la piste d’audit et peuvent être signalés pour examen ou application des politiques, ce qui aide les équipes à suivre les tendances dans le temps.

: Intégré
: Détection
: Salesforce

Filtrage des Contenus Inappropriés

Intercepte les entrées inappropriées, nuisibles ou contraires aux politiques avant le routage et renvoie une réponse par défaut sécurisée.

Fonctionnement

Avant le routage, des règles de sécurité intégrées examinent les entrées. Les demandes bloquées reçoivent une réponse par défaut sécurisée au lieu d’être soumises au raisonnement. Contrairement aux modèles d’instructions standard, ce contrôle renforcé ne peut pas être modifié.

: Intégré
: Prévention
: Agentforce Builder

Détection de la Toxicité en Entrée

: Prévention
: Couche de confiance
: Intégré

Analyse les entrées des utilisateurs pour repérer propos haineux, harcèlement ou langage nuisible, puis enregistre un score dans la piste d’audit.

Fonctionnement

Salesforce analyse les entrées des utilisateurs à la recherche de contenus nuisibles, comme les discours haineux, le harcèlement ou les menaces, avant qu’Agentforce ne les traite, et enregistre un score pour examen. Lorsqu’un contenu dépasse le seuil, Salesforce peut le bloquer avant qu’il n’atteigne l’agent.

Évaluation et Signalement de la Toxicité en Sortie

: Détection
: Salesforce
: Intégré

Évalue les sorties potentiellement toxiques, enregistre le score dans la piste d’audit et les signale à l’utilisateur pour examen ou application des politiques.

Fonctionnement

Salesforce analyse les réponses d’Agentforce à la recherche de contenus nuisibles ou offensants, avant ou pendant leur remise à l’utilisateur. Les scores de toxicité sont consignés dans la piste d’audit et peuvent être signalés pour examen ou application des politiques, ce qui aide les équipes à suivre les tendances dans le temps.

Filtrage des Contenus Inappropriés

: Prévention
: Agentforce Builder
: Intégré

Intercepte les entrées inappropriées, nuisibles ou contraires aux politiques avant le routage et renvoie une réponse par défaut sécurisée.

Fonctionnement

Avant le routage, des règles de sécurité intégrées examinent les entrées. Les demandes bloquées reçoivent une réponse par défaut sécurisée au lieu d’être soumises au raisonnement. Contrairement aux modèles d’instructions standard, ce contrôle renforcé ne peut pas être modifié.

4

Garder les agents IA dans leur rôle prévu

Des garde-fous qui réduisent les risques pour l’intégrité des systèmes d’IA en détectant la manipulation des prompts, en appliquant les politiques du système et en gardant les agents alignés sur leur finalité métier.

Modèle de Détection d’Injection de Prompt (PID)

Identifie les schémas de prompts malveillants avant que l’agent n’agisse.

Fonctionnement

Le modèle de détection d’injection de prompt analyse chaque prompt utilisateur à la recherche de schémas associés aux attaques par injection, comme les tentatives de contourner les instructions ou d’extraire les prompts système. Les prompts suspects sont évalués et consignés avant que l’agent ne puisse agir.

: Intégré
: Détection
: Couche de confiance

Classification des Sujets PID

Identifie les schémas de prompts malveillants au sein du moteur de raisonnement de l’IA.

Fonctionnement

La classification des sujets PID évalue les prompts tout au long du raisonnement de l’agent pour repérer les demandes hors périmètre ou malveillantes. Les demandes à risque sont bloquées, ce qui renforce la protection contre les attaques qui échappent à la détection initiale.

: Intégré
: Prévention
: Salesforce

Instructions Globales

Fournissent les instructions de base qui guident le comportement de l’agent dans toutes les interactions.

Fonctionnement

Les instructions globales définissent le rôle central de l’agent, les comportements attendus et les règles permanentes de chaque interaction, et guident la façon dont il interprète les prompts, choisit ses actions et répond aux utilisateurs tout au long de la conversation.

: Personnalisable
: Prévention
: Agentforce Builder

Instructions des Sous-agents

Fournissent des consignes adaptées au contexte sur la façon dont l’agent utilise les actions et répond.

Fonctionnement

Les instructions des sous-agents fournissent des consignes propres à la tâche de chaque sous-agent et définissent sa manière de raisonner, de répondre et d’utiliser les actions disponibles. Chaque sous-agent n’opère que dans le cadre des instructions qui lui sont attribuées, ce qui garde les tâches déléguées alignées sur leur finalité.

: Personnalisable
: Prévention
: Agentforce Builder

Contrôles des Sous-agents

Aident à garder les agents dans la finalité métier qui leur est assignée grâce à des contrôles, des règles, une logique déterministe et des restrictions d’accès définis.

Fonctionnement

Les contrôles des sous-agents définissent les règles, les restrictions d’accès et la logique déterministe qui encadrent ce qu’un sous-agent peut faire. Vérifiés à chaque action, ils aident à garantir qu’il n’accède qu’aux données approuvées et reste dans le cadre de sa finalité.

: Personnalisable
: Prévention
: Agent Script

Descriptions d’Actions

Définissent les capacités précises de l’agent et le moment où ces actions doivent être exécutées.

Fonctionnement

Les descriptions d’actions expliquent ce que fait chaque action disponible et quand l’utiliser. L’agent s’en sert pendant son raisonnement pour choisir la plus adaptée à une demande. Des descriptions claires réduisent le risque d’utilisation involontaire d’outils.

: Personnalisable
: Prévention
: Agentforce Builder

Modèle de Détection d’Injection de Prompt (PID)

: Détection
: Couche de confiance
: Intégré

Identifie les schémas de prompts malveillants avant que l’agent n’agisse.

Fonctionnement

Le modèle de détection d’injection de prompt analyse chaque prompt utilisateur à la recherche de schémas associés aux attaques par injection, comme les tentatives de contourner les instructions ou d’extraire les prompts système. Les prompts suspects sont évalués et consignés avant que l’agent ne puisse agir.

Classification des Sujets PID

: Prévention
: Salesforce
: Intégré

Identifie les schémas de prompts malveillants au sein du moteur de raisonnement de l’IA.

Fonctionnement

La classification des sujets PID évalue les prompts tout au long du raisonnement de l’agent pour repérer les demandes hors périmètre ou malveillantes. Les demandes à risque sont bloquées, ce qui renforce la protection contre les attaques qui échappent à la détection initiale.

Instructions Globales

: Prévention
: Agentforce Builder
: Personnalisable

Fournissent les instructions de base qui guident le comportement de l’agent dans toutes les interactions.

Fonctionnement

Les instructions globales définissent le rôle central de l’agent, les comportements attendus et les règles permanentes de chaque interaction, et guident la façon dont il interprète les prompts, choisit ses actions et répond aux utilisateurs tout au long de la conversation.

Instructions des Sous-agents

: Prévention
: Agentforce Builder
: Personnalisable

Fournissent des consignes adaptées au contexte sur la façon dont l’agent utilise les actions et répond.

Fonctionnement

Les instructions des sous-agents fournissent des consignes propres à la tâche de chaque sous-agent et définissent sa manière de raisonner, de répondre et d’utiliser les actions disponibles. Chaque sous-agent n’opère que dans le cadre des instructions qui lui sont attribuées, ce qui garde les tâches déléguées alignées sur leur finalité.

Contrôles des Sous-agents

: Prévention
: Agent Script
: Personnalisable

Aident à garder les agents dans la finalité métier qui leur est assignée grâce à des contrôles, des règles, une logique déterministe et des restrictions d’accès définis.

Fonctionnement

Les contrôles des sous-agents définissent les règles, les restrictions d’accès et la logique déterministe qui encadrent ce qu’un sous-agent peut faire. Vérifiés à chaque action, ils aident à garantir qu’il n’accède qu’aux données approuvées et reste dans le cadre de sa finalité.

Descriptions d’Actions

: Prévention
: Agentforce Builder
: Personnalisable

Définissent les capacités précises de l’agent et le moment où ces actions doivent être exécutées.

Fonctionnement

Les descriptions d’actions expliquent ce que fait chaque action disponible et quand l’utiliser. L’agent s’en sert pendant son raisonnement pour choisir la plus adaptée à une demande. Des descriptions claires réduisent le risque d’utilisation involontaire d’outils.

5

Garder les actions des agents dans des limites définies

Des garde-fous qui réduisent les risques de dérives autonomes en définissant quand l’IA doit continuer, faire une pause, passer la main à une personne ou s’arrêter avant d’entreprendre des actions sensibles.

Contrôles Déterministes

Utilisent une logique métier prédéfinie et des étapes de vérification pour les actions sensibles.

Fonctionnement

Les clients définissent une logique déterministe pour les actions qui exigent des résultats prévisibles, comme les approbations, les transactions ou les workflows de conformité. Lorsque les conditions sont réunies, Agentforce suit cette logique plutôt qu’un raisonnement génératif, pour un comportement constant.

: Personnalisable
: Prévention
: Agentforce Builder

Critères de Transfert à un Humain

Transmet les demandes à un humain lorsqu’elles sortent du périmètre confié à l’agent ou des seuils de confiance.

Fonctionnement

Les clients définissent quand Agentforce doit transmettre une conversation à une personne, par exemple pour les demandes hors de son périmètre, qui exigent du jugement ou qui atteignent des seuils de confiance. Le contexte est alors transféré à un humain pour que le travail se poursuive sans repartir de zéro.

: Personnalisable
: Prévention
: Agentforce Builder

Points de Pause pour Examen

Mettent l’exécution en pause pour contrôler la qualité, l’éthique ou la conformité avant d’agir.

Fonctionnement

Les clients peuvent définir des points d’examen où Agentforce marque une pause avant de finaliser une action sensible, afin qu’une personne ou un processus l’examine d’abord. Cela ajoute une supervision avant toute action à fort impact.

: Personnalisable
: Prévention
: Agentforce Builder

Contrôles de Reprise en Main

Permettent aux utilisateurs autorisés de suspendre, modifier ou annuler des actions d’agent si nécessaire.

Fonctionnement

Les utilisateurs autorisés peuvent suspendre, modifier ou annuler les actions d’agent en attente lorsqu’une intervention est nécessaire, en reprenant la main avant la fin d’une action afin de maintenir une supervision humaine dans les situations sensibles ou en évolution.

: Personnalisable
: Prévention
: Agentforce Builder

Outils Validés par l’Entreprise

Limitent les agents aux outils approuvés pour aider à prévenir l’utilisation non autorisée ou la fuite de données.

Fonctionnement

Les clients définissent les outils, API et intégrations disponibles pour chaque agent. Agentforce ne peut invoquer que les outils approuvés qui lui sont attribués, ce qui maintient les actions dans les systèmes autorisés par l’organisation.

: Personnalisable
: Prévention
: Salesforce

Respect des Instructions

Évalue si un agent respecte les instructions définies.

Fonctionnement

Agentforce compare en continu les réponses et actions prévues aux instructions configurées. En cas de conflit, il répond dans le cadre de ces consignes ou signale la demande comme hors périmètre, ce qui maintient son comportement aligné sur sa finalité.

: Intégré
: Détection
: Atlas Reasoning Engine

Contrôles Déterministes

: Prévention
: Agentforce Builder
: Personnalisable

Utilisent une logique métier prédéfinie et des étapes de vérification pour les actions sensibles.

Fonctionnement

Les clients définissent une logique déterministe pour les actions qui exigent des résultats prévisibles, comme les approbations, les transactions ou les workflows de conformité. Lorsque les conditions sont réunies, Agentforce suit cette logique plutôt qu’un raisonnement génératif, pour un comportement constant.

Critères de Transfert à un Humain

: Prévention
: Agentforce Builder
: Personnalisable

Transmet les demandes à un humain lorsqu’elles sortent du périmètre confié à l’agent ou des seuils de confiance.

Fonctionnement

Les clients définissent quand Agentforce doit transmettre une conversation à une personne, par exemple pour les demandes hors de son périmètre, qui exigent du jugement ou qui atteignent des seuils de confiance. Le contexte est alors transféré à un humain pour que le travail se poursuive sans repartir de zéro.

Points de Pause pour Examen

: Prévention
: Agentforce Builder
: Personnalisable

Mettent l’exécution en pause pour contrôler la qualité, l’éthique ou la conformité avant d’agir.

Fonctionnement

Les clients peuvent définir des points d’examen où Agentforce marque une pause avant de finaliser une action sensible, afin qu’une personne ou un processus l’examine d’abord. Cela ajoute une supervision avant toute action à fort impact.

Contrôles de Reprise en Main

: Prévention
: Agentforce Builder
: Personnalisable

Permettent aux utilisateurs autorisés de suspendre, modifier ou annuler des actions d’agent si nécessaire.

Fonctionnement

Les utilisateurs autorisés peuvent suspendre, modifier ou annuler les actions d’agent en attente lorsqu’une intervention est nécessaire, en reprenant la main avant la fin d’une action afin de maintenir une supervision humaine dans les situations sensibles ou en évolution.

Outils Validés par l’Entreprise

: Prévention
: Salesforce
: Personnalisable

Limitent les agents aux outils approuvés pour aider à prévenir l’utilisation non autorisée ou la fuite de données.

Fonctionnement

Les clients définissent les outils, API et intégrations disponibles pour chaque agent. Agentforce ne peut invoquer que les outils approuvés qui lui sont attribués, ce qui maintient les actions dans les systèmes autorisés par l’organisation.

Respect des Instructions

: Détection
: Atlas Reasoning Engine
: Intégré

Évalue si un agent respecte les instructions définies.

Fonctionnement

Agentforce compare en continu les réponses et actions prévues aux instructions configurées. En cas de conflit, il répond dans le cadre de ces consignes ou signale la demande comme hors périmètre, ce qui maintient son comportement aligné sur sa finalité.