Socle
Quand une personne confie ses petits choix quotidiens à un assistant IA, elle délègue une partie de ses fonctions exécutives. Qui influence l'assistant influence la personne, sans la convaincre de rien : il suffit d'orienter l'option par défaut.
Vulnérabilités : économie d'effort, biais d'automatisation, atrophie possible par non-usage (hypothèse à tester).
Blue team : défense
Signaux : convergence inhabituelle des choix d'une population ; recommandations qui dérivent dans une même direction sur des sujets sensibles.
Contre-mesures : l'assistant affiche ses sources et une alternative ; audits par questions pièges ; décisions manuelles sur les sujets importants ; traçabilité pour les assistants de décideurs publics.
Red team : simulation encadrée
Hypothèse testée : une organisation détecte-t-elle une dérive progressive des recommandations d'un assistant ?
Indicateur : nombre de recommandations dérivées de l'assistant fictif acceptées avant la première alerte, et part des audits par questions pièges qui repèrent la dérive.
Cadre : assistant fictif en environnement d'exercice, aucune donnée réelle, débriefing.
Pistes originales
- Protocole d'étude : la délégation prolongée altère-t-elle le contrôle exécutif ?
- Indicateur d'autonomie décisionnelle.
Techniques DIMA associées
Le biais d'automatisation n'apparaît pas comme technique dédiée : lacune possible à signaler au projet. Rapprochement proposé, à valider. Voir le tableau complet.
Qui est plus sensible, ce qui protège
Plus sensibles
- Syndrome dysexécutif (lésions frontales, TDAH) plausible
Planification et inhibition altérées, recours accru à des aides externes. - Dépression (apathie, perte d'initiative) plausible
Moindre investissement dans la décision. - Troubles neurocognitifs plausible
Dépendance accrue à des aides à la décision. - Personnes en surcharge qui s'appuient sur une aide automatique documenté
Le biais d'automatisation augmente avec la charge, chez les novices comme chez les experts (Parasuraman et Manzey, 2010).
Ce qui protège
- Personnes qui ont déjà vu l'outil se tromper documenté
Avoir vécu des erreurs de l'automate réduit la complaisance envers lui (Bahner et coll., 2008).
À lire pour se prémunir : repérer les situations où l'on est plus exposé, et y renforcer ses défenses. Tendances de groupe, jamais un jugement sur une personne : un diagnostic ne dit pas qu'une personne est manipulable. Usage légitime : adapter les formations et les procédures, protéger.
Références
Aucune référence pour l'instant : cette fiche est une hypothèse prospective, à valider par la recherche.
Hypothèse prospective, à valider par la recherche.
Contribuer à cette fiche
Une source, un cas public, une correction ? Chaque proposition est relue avant publication. Précisez le titre de la fiche : « Capture de la délégation décisionnelle ».