Dans l’article précédent, nous avons établi qu’une IA générative sans règles est une IA dangereuse. Pour la maîtriser, nous avons besoin d’une « constitution » : une Politique de Design d’Interaction. Elle nous sert de gouvernail dans les eaux tumultueuses de l’imprévisibilité.
Aujourd’hui, nous passons de la stratégie à la pratique. Comment rédiger concrètement cette constitution ? Elle repose sur quatre piliers qui définissent comment votre IA doit se comporter dans les moments critiques.
Pilier 1 : Les actions acceptables – Définir ce que « bien » veut dire
C’est le « happy path ». Vous devez définir explicitement les actions, tâches ou comportements que votre IA doit bien réaliser pour apporter une réelle valeur à l’utilisateur. Il s’agit d’articuler tous les critères que les résultats de l’IA doivent respecter.
Cela vous aide à définir des contraintes claires, tant sur les entrées (Quelles informations l’utilisateur doit-il fournir ?) que sur les sorties (À quoi ressemble un résultat de haute qualité ?).
Exemple : Pour une IA d’organisation d’événements, une action acceptable est de toujours retranscrire correctement les détails logistiques (date, lieu, heure).
Pilier 2 : Les actions inacceptables – Dessiner les lignes rouges
C’est peut-être le pilier le plus important. Il s’agit de définir ce que votre produit IA ne devrait jamais faire, même si l’utilisateur le demande involontairement. Les utilisateurs ne comprennent pas toujours les limites de votre IA et peuvent, par exploration, lui demander d’effectuer une tâche qui présente un risque ou viole une protection. Vous devez activement décourager ces résultats, quelle que soit l’intention de l’utilisateur.
Ces lignes rouges peuvent refléter la mission de votre entreprise, des lois locales, ou simplement des critères de sécurité et de respect.
Exemple : La même IA événementielle ne doit jamais produire de texte ou d’imagerie qui propage un stéréotype, caricature des individus ou génère des messages inappropriés sur des cultures ou religions.
Pilier 3 : Les seuils d’incertitude – Gérer la « zone grise »
Les résultats d’une IA sont rarement parfaits. Souvent, ils sont « partiellement corrects » ou « partiellement complets ». Ce pilier vous aide à décider des limites dans lesquelles un résultat imparfait peut quand même être montré à l’utilisateur.
La question clé est : l’effort requis par l’utilisateur pour corriger ou compléter le résultat de l’IA est-il inférieur à la valeur apportée par l’IA ? Il faut donc prévoir des contrôles et des fonctionnalités pour que l’utilisateur puisse facilement gérer ces résultats incertains et en tirer parti.
Exemple : Pour notre IA événementielle, la politique pourrait stipuler : « Les organisateurs ne verront pas d’inconvénient à corriger quelques mots dans une invitation tant qu’ils n’ont pas à la réécrire entièrement ».
Pilier 4 : Les vulnérabilités – Anticiper les effets de bord
Ce dernier pilier est le plus difficile, car il concerne les risques en aval et les dommages sociotechniques auxquels les gens peuvent être involontairement exposés. Ces vulnérabilités peuvent découler d’erreurs du modèle, mais aussi du contexte de l’utilisateur ou de la manière dont le produit est utilisé.
Identifier ces risques en amont permet de planifier des interventions UX (par exemple, des avertissements) et des exigences techniques (tests contradictoires, classifieurs de sécurité).
Exemple : Une prédiction incorrecte de l’IA pourrait nuire aux invités si les détails logistiques sont inexacts et envoyés sans vérification. Ou encore, les organisateurs pourraient se retrouver vulnérables si le texte généré par l’IA pour une invitation est, sans qu’ils le sachent, offensant pour d’autres cultures.
Conclusion
Bâtir un produit IA responsable est bien plus qu’une affaire de code. C’est un exercice de prévoyance, de responsabilité et de collaboration multidisciplinaire. Ces politiques de design ne sont pas gravées dans le marbre ; elles doivent être testées, évaluées et mises à jour régulièrement, car votre IA et vos utilisateurs évolueront.
En tant que partenaire stratégique, mon rôle n’est pas seulement de construire votre produit IA, mais de vous aider à construire sa « constitution ». C’est ainsi que nous transformerons une technologie imprévisible en un atout fiable et digne de confiance.