· 3 min de lecture
Pourquoi mon IA n'a pas le droit d'envoyer quoi que ce soit toute seule
Sur Optiva, l'IA lit les mails, prépare les réponses, rédige les devis. Et elle s'arrête là. Chaque envoi passe par un humain qui clique. Ce n'est pas une limite technique, c'est une décision, et voici d'où elle vient.
- Automatisation
- IA
- Produit
Quand j'ai commencé Optiva, l'idée était simple : un ami m'avait raconté que son patron recevait des centaines de mails par jour, n'arrivait jamais à tout traiter, et perdait des clients pour ça. Pas par manque de compétence. Par manque de temps pour des tâches qu'une machine sait faire aujourd'hui.
Alors on a construit des agents qui trient, répondent, relancent, préparent les devis. Et très vite, une question s'est posée : jusqu'où on les laisse aller ?
Je me suis mis à la place du client
Si c'était mon entreprise, je ne voudrais pas qu'une IA pousse dans mon logiciel de comptabilité des chiffres que je n'ai pas vus. Je ne voudrais pas qu'un devis parte chez un client sans que quelqu'un l'ait lu. Pas parce que l'IA est mauvaise. Parce qu'elle se trompe parfois, qu'on ne sait pas quand, et qu'on ne peut rien faire une fois que c'est parti.
Il y a un deuxième problème, plus humain. Quand un outil fait le travail à votre place, vous arrêtez de vérifier. Au début on relit tout, au bout d'un mois on survole, au bout de trois on fait confiance. Le jour où l'IA invente un montant, personne ne le voit passer. Et c'est l'entreprise qui paie, pas l'outil.
Donc la règle est fixée dans le produit, pas dans une case à cocher : rien ne sort sans validation humaine, et jamais d'automatisation complète quand il y a de l'argent en jeu.
Ce que ça donne concrètement
L'IA prépare, le code vérifie, l'humain décide.
Un devis, par exemple. L'agent propose les lignes et les prix à partir de l'historique de l'entreprise. Mais c'est du code classique qui calcule les totaux et la TVA, pas le modèle de langage. Un modèle peut écrire une belle phrase, il ne doit pas faire une addition dont dépend une facture.
Et quand l'agent n'a pas l'information, il a le droit de le dire. Ça a l'air évident. Ce n'est pas ce qu'on obtient par défaut. Dans une première version du prompt, une phrase disait en substance « si tu ne trouves pas le prix, fais une estimation ». Une IA à qui on demande d'estimer estime toujours, avec assurance. On a retiré cette phrase, ajouté une réponse « information insuffisante », et une sécurité bête mais efficace : un devis dont toutes les lignes sont à zéro est refusé avant d'être montré. Un devis à zéro reçu par un client, c'est pire que pas de devis.
Le mode automatique se mérite
Il existe quand même un mode où l'agent envoie seul certaines réponses sans risque financier, comme une réponse à un avis en ligne. Mais il ne s'active pas en cochant une case. Il se débloque quand l'agent a accumulé assez de brouillons validés tels quels par l'humain, sans retouche.
Là aussi, on s'est fait avoir une fois. Le score de confiance comptait des brouillons que l'IA n'avait pas écrits, des réponses types générées par le système. L'outil se notait lui-même. On a corrigé en séparant les deux sources, et le mode automatique ne compte plus que ce que l'agent a réellement produit.
Ce que je retiens pour vos projets
Une automatisation utile n'est pas celle qui fait tout. C'est celle qui fait le travail répétitif et vous laisse la seule chose qui compte : la décision. Si on vous vend un agent qui répond à vos clients et envoie vos factures sans que vous ayez rien à regarder, posez une question : que se passe-t-il le jour où il se trompe, et qui le voit ?
C'est avec cette question que je conçois chaque automatisation que je livre.