Interdire ou empêcher : deux logiques de gouvernance à l'épreuve des données et de l'IA De passage sur TikTok pour y écouter parler de philosophie (si, si, on parle de philo sur TikTok… abonnez-vous par exemple au compte de @philo_sophia_) l'algorithme m'a conduit à une comparaison argumentée entre l'interdiction et l'empêchement. Faisant le parallèle avec les contextes de gouvernance des données et de l'intelligence artificielle, qui semblent si difficiles à faire accepter aux opérationnels, il m'a semblé porteur de poser quelques réflexions sur le thème : faut-il imposer ou proposer une gouvernance des données ? Faut-il interdire ou empêcher une mauvaise, ou l'absence de gouvernance ? Une distinction conceptuelle aux implications politiques majeures La distinction entre interdire et empêcher paraît, au premier abord, triviale ; elle structure pourtant en profondeur les deux grands régimes de régulation possibles dans une société technologisée. Interdire est un acte normatif. La règle s'adresse à un sujet supposé libre, capable de comprendre la norme, d'en délibérer et, le cas échéant, d'y contrevenir. L'interdiction présuppose la possibilité matérielle de la transgression : c'est précisément cette possibilité qui ouvre l'espace de la responsabilité, du jugement, de la sanction et corrélativement de la contestation. Lawrence Lessig identifie ainsi la loi comme l'une des quatre modalités de régulation, qui contraint par la menace de la sanction, aux côtés des normes sociales, du marché et de l'architecture. Empêcher, à l'inverse, relève d'un dispositif factuel : la conduite n'est pas réprouvée, elle est rendue impossible. Aucun sujet n'a à délibérer, aucun juge n'a à trancher, aucun contrevenant n'a à répondre. Dans le cyberespace, cette modalité est portée par le code informatique lui-même. Lessig démontre que le code, et l'architecture, définissent la manière dont nous vivons le cyberespace, et détermine s'il est facile ou non de protéger sa vie privée, ou de censurer la parole. L'architecture remplace la délibération par la configuration. La portée critique de cette distinction a été remarquablement développée par Alain Supiot dans La Gouvernance par les nombres (Fayard, 2015). Il y montre comment la loi cède la place au programme et la réglementation à la régulation, dans un imaginaire institutionnel où l'on viserait la réalisation efficace d'objectifs mesurables plutôt que l'obéissance à des lois justes. L'enjeu, pour Supiot, n'est pas seulement technique : en envisageant les hommes comme des ordinateurs programmables, la gouvernance par les nombres sape le règne de la loi et fait ressurgir un système d'allégeance quasi féodal. Là où la loi suppose un sujet juridique responsable, le programme suppose un comportement à conditionner. Mon opinion : pour une primauté de l'interdiction sur l'empêchement Au terme de cette analyse, je défends la thèse suivante : dans la gouvernance des données et de l'IA, l'interdiction doit être première, l'empêchement instrumental. Mais c'est à vous de me dire dans les commentaires si vous êtes en accord avec cette vision… ou pas. Cette hiérarchie repose sur trois raisons. D'abord, une raison de principe démocratique. L'interdiction émane d'une délibération publique ; elle peut être discutée, amendée, abrogée. L'empêchement, lorsqu'il est inscrit dans le code, échappe à cette publicité : il est défini par les concepteurs, souvent privés, et son fonctionnement est opaque pour la majorité. Substituer systématiquement le dispositif à la norme, c'est déplacer la souveraineté politique vers les architectes techniques, ce que Supiot identifie comme une régression institutionnelle majeure. Ensuite, une raison anthropologique. L'interdiction maintient ouvert l'espace dans lequel l'agent peut choisir d'obéir ou de transgresser, et donc peut être tenu pour responsable. Un monde de pure prévention technique est un monde sans sujets moraux. Or, comme le rappellent Rouvroy et Berns, sans cet espace, c'est la possibilité même de la subjectivation politique qui s'efface et avec elle, paradoxalement, toute critique du système. Big Brother et George Orwell ne sont plus très loin… Enfin, une raison d'efficacité réflexive. Les dispositifs techniques sont faillibles, biaisés, contournables, et leurs erreurs se diffusent à grande échelle. La norme, parce qu'elle s'applique à des cas concrets via le jugement, conserve une plasticité que le code ne possède pas. Réserver à la loi le rôle de fixer ce qui doit être interdit, et au dispositif celui de rendre cette interdiction matériellement effective lorsque les asymétries d'échelle l'exigent, permet de cumuler les avantages des deux régimes sans en payer tous les coûts. Cela ne signifie pas qu'il faille rejeter l'empêchement technique. Face au passage à l'échelle des systèmes ...
続きを読む
一部表示
8 分
6 分