Quel degré d’autonomie pour l’IA ? Ce que huit PME disent du contrôle

Valider chaque proposition de l’IA une par une ? Avec des dizaines de milliers de clients, c’est une charge de travail insurmontable. Ne rien vérifier du tout ? Impensable pour des contenus médicaux. La question n’est donc pas : l’humain ou l’IA ? La vraie question est plutôt : quel niveau de contrôle est nécessaire, et à quel endroit ? C’est précisément ce que huit PME nous ont confié lors de notre étude avec la ZHAW et Innosuisse. Et c’est sur la base de ce savoir que nous développons notre IA Aivie. Cet article décrit concrètement à quoi cela ressemble.

Contenu

• De quoi il s’agit
• Constat 1 : Tout le monde veut comprendre le pourquoi
• Constat 2 : La validation individuelle systématique est impossible
• Constat 3 : Le besoin de contrôle dépend du risque
• À quoi peut ressembler la validation par paliers
• Constat 4 : Le temps réel n’est pas une obligation
• Notre projet pilote
• Participez à l’aventure

De quoi il s’agit

En collaboration avec la ZHAW et Innosuisse, nous avons posé cette question à huit PME suisses : accepteriez-vous d’entraîner une IA en commun si vous n’aviez pas à céder vos données clients ? Dans le premier article, j’ai montré que personne n’a dit non. Les doutes portaient sur l’utilité. Le deuxième article traitait de la confiance et de la raison pour laquelle la protection des données peut être un argument de vente. Aujourd’hui, nous abordons la dernière grande question : quel est le pouvoir de décision de l’IA ?

L’idée est simple. L’IA analyse le comportement d’un contact et vous suggère l’étape suivante : quel contenu envoyer, quand et à qui. Un exemple : quelqu’un télécharge un livre blanc sur votre site. En général, il ne se passe rien ensuite, faute de temps pour le suivi. Ici, l’IA pourrait vous dire : envoyez cet article à cette personne, maintenant.

Seulement voilà : peut-elle l’envoyer directement d’elle-même ? Ou devez-vous dire « oui » à chaque fois ? Précision importante : huit entretiens ne sont pas représentatifs. Mais ils révèlent très honnêtement la vision des PME sur le sujet.

Constat 1 : Tout le monde veut comprendre le pourquoi

Toutes les personnes interrogées sont unanimes : si l’IA suggère quelque chose, elles veulent savoir pourquoi. Elles veulent comprendre la pertinence de la proposition, sans quoi elles ne lui font pas confiance. Elles veulent aussi pouvoir détecter les erreurs. Personne ne veut d’une boîte noire pour des sujets aussi stratégiques.

Une entreprise a fait une remarque intéressante : plutôt qu’une longue explication textuelle, une valeur claire lui suffirait. Un chiffre indiquant le degré de certitude de l’IA.

Constat 2 : La validation individuelle systématique est impossible

Une entreprise de l’étude gère des dizaines de milliers de clients avec une petite équipe. Examiner chaque suggestion de l’IA chaque jour ? Impossible. Leur conclusion était sans appel :

« Cela doit fonctionner de manière automatisée, sinon ce n’est pas une aide pour nous. »

Une autre entreprise partage cet avis. Mieux vaut travailler avec des modèles et des paliers plutôt que de tout vérifier individuellement.

Constat 3 : Le besoin de contrôle dépend du risque

C’est là que ça devient intéressant. Les mêmes personnes souhaitent, selon les cas, une automatisation totale ou un contrôle individuel strict. Une entreprise l’explique ainsi : pour son produit coûteux nécessitant beaucoup de conseil, elle surveillerait elle-même les propositions. Pour un produit de masse bon marché, elle donnerait en revanche les pleins pouvoirs à l’IA.

Un autre client, une agence, travaille également avec des contenus médicaux. Ceux-ci doivent impérativement être validés par un médecin spécialiste. En revanche, elle publie automatiquement les contenus marketing standards après une phase de test. La sécurité est assurée par un seuil de confiance à partir duquel l’envoi est automatique, et par une fenêtre temporelle permettant une intervention humaine. L’étude y voit un modèle utile.

Je le comprends parfaitement. Les messages envoyés doivent rester sous mon contrôle. Je ne veux rien promettre de faux. Et je ne veux pas créer de problèmes que je devrai assumer plus tard. En même temps, il est impossible de tout vérifier un par un. Une validation toutes les deux secondes ? Personne n’en est capable.

C’est pourquoi je crois en une voie médiane intelligente : assez de contrôle, sans surcharge de travail inutile. Le modèle de l’agence en est, pour moi, un excellent exemple.

À quoi peut ressembler la validation par paliers

De ce que les entreprises nous ont raconté, il ressort une sorte d’escalier :

1. L’IA décide seule. Risque faible, nombreux contacts, par exemple une notification pour un nouvel article de blog.
2. L’IA décide avec une fenêtre de tir. Vous pouvez encore intervenir avant l’envoi.
3. L’IA propose, vous validez.
4. Un humain vérifie toujours. Pour les offres coûteuses, sensibles ou réglementées, quelqu’un examine toujours tout de près.

Je pourrais tout à fait imaginer une solution de ce type. L’important est que c’est vous qui décidez de ce qui se passe à chaque palier. Pas l’IA. Nous avons décrit dans « Le marketing veut construire, le juridique freine » comment définir ce qu’une IA agentique est autorisée à voir et à faire. Qu’en pensez-vous ? Écrivez-moi votre avis, je suis curieux de vous lire.

Constat 4 : Le temps réel n’est pas une obligation

Il n’y a pas eu de demande explicite pour le temps réel. Une entreprise choisit délibérément de ne pas réagir à chaque clic. Elle attend qu’un schéma se dessine. Cela correspond mieux à son style de communication posé avec ses clients. Une autre ajoute : laissez au système le temps de collecter plus de signaux.

Au début, on veut pourtant tout savoir. Quelqu’un a dit à propos de la validation :

« Oui, bien sûr. Je veux apprendre. Je veux voir ce qui se passe. »

En résumé : valider soi-même au début, puis lâcher prise progressivement.

Notre projet pilote

Ce que l’étude nous apporte pour notre IA pilote :

1. Les entreprises d’un groupe pilote doivent être issues d’un secteur similaire. Sinon, les résultats sont peu significatifs.
2. Les entreprises veulent voir un cas d’usage concret, pas une grande promesse.
3. L’entrée en matière doit être simple. Les petites équipes n’ont pas le temps de nettoyer des données pendant des semaines.

Les entreprises pilotes reçoivent une IA dédiée à leur marketing, avec leurs propres données. Aivie entraîne les modèles et héberge l’infrastructure. Actuellement, nous testons les premiers cas d’usage en direct, nous évaluons ce qui fonctionne et nous en collectons d’autres avec de nouvelles entreprises pilotes.

Participez à l’aventure

Pour notre projet pilote, nous recherchons encore d’autres PME qui souhaitent tester cela avec leur propre IA et leurs propres données. Vous voulez contribuer à façonner l’outil ? Alors écrivez-moi ou réservez directement un entretien.

Et si vous voulez savoir pourquoi, en matière d’IA, je demande toujours « l’IA de qui ? », lisez la suite : Vos données sont votre trésor. Ne les donnez pas simplement à l’IA.