Accueil / Nos métiers / Sécurité & Conformité IA
Sécurité & ConformitéCe que le système n'a pas le droit de faire
Une organisation répond du logiciel qu'elle met en ligne pour parler en son nom. Ce métier traduit cette responsabilité en contraintes techniques vérifiables.
Pourquoi ce métier
En février 2024, un tribunal a condamné une compagnie aérienne à honorer une réduction inventée par son agent conversationnel. La conformité d'un système IA ne se joue pas dans une annexe contractuelle mais dans ce que le code autorise.
Ce qu'il fait concrètement
- Écrire ce que le système n'a pas le droit de produire, et le faire respecter côté serveur
- Isoler les conversations et les données hors de la racine web, avec une rétention courte
- Poser les quotas et la journalisation avant la mise en ligne, pas après l'incident
- Vérifier où vivent les données, et pouvoir le prouver
Sur un agent commercial que nous exploitons, un seul tarif est citable : tout autre montant en euros déclenche le remplacement de la réponse entière par le serveur, avant qu'elle n'atteigne l'écran.
Ce que ce n'est pas
Ce n'est pas un audit qui produit un rapport, ni une case à cocher avant la mise en production.
Deux façons d'y accéder
Dans votre équipe
Un profil rejoint votre équipe pour une durée convenue, travaille sur vos outils et vos données, et transmet ce qu'il construit à mesure.
Sur un livrable
Le métier est mobilisé sur un projet au périmètre défini, avec les autres compétences nécessaires. Vous recevez un livrable, pas un rapport.
Ce métier correspond à votre besoin ?
On commence par un diagnostic offert : ce qui peut être automatisé, ce qui ne doit pas l'être, et le profil qui a du sens chez vous.
Réserver un diagnostic