Rédaction
Hugues Bersini : « Ces outils peuvent être redoutables quand ils sont à la disposition d’un pouvoir dictatorial. »
Hugues Bersini, membre de l’Académie royale de Belgique, enseigne l’informatique aux facultés polytechniques et Solvay de l’Université libre de Bruxelles, dont il dirige le laboratoire d’intelligence artificielle. Il est également co-fondateur du nouvel Institut FARI financé par le plan de relance de la Communauté européenne et dédié à la réalisation d’algorithmes pour les biens publics. Il a publié une dizaine de livres d’introduction à la programmation, l’intelligence artificielle et les systèmes complexes, qui font aujourd’hui autorité dans le monde académique. Dans son dernier ouvrage, il analyse le pouvoir des algorithmes dans notre vie quotidienne : nous nous y conformons sans aller outre, par confort, par facilité, par habitude ou lassitude.
« Algocratie : Allons-nous donner le pouvoir aux algorithmes ? » d’Hugues Bersini est publié aux Éditions De Boeck Sup.
Kernews : L’intelligence artificielle est-elle intelligente ? Peut-elle être comparée au premier de la classe qui apprend par cœur ses leçons, face au débrouillard ?
Hugues Bersini : Il n’y a pas qu’une intelligence artificielle. Dès les années 50, au moment des premiers travaux, l’idée était de reproduire le type de performances cognitives dont les hommes sont dotés, comme résoudre des problèmes mathématiques ou jouer aux échecs. Déjà, à l’époque, on travaillait sur la traduction de textes. Cela demande une certaine dose d’intelligence et on a fait des logiciels qui se sont inspirés du fonctionnement cognitif. Donc, ces logiciels avaient déjà quelque chose de typiquement intelligent. Au fil des années, l’intelligence artificielle a pris une autre voie, en apprenant par elle-même, mais aussi en se servant des productions humaines existantes, ce qui est le cas de ChatGPT. Quand le logiciel apprend, on retrouve les mêmes stratégies que celles déployées par des humains. Donc, il y a déjà de l’intelligence.
Pourtant, l’algorithme n’est pas de l’intelligence…
Effectivement. C’est le sujet que j’aborde dans mon livre. Nous observons tous les jours que ces outils nous gouvernent, quand vous vous déplacez avec votre GPS ou quand vous faites la moindre transaction bancaire. Même l’algorithme de Tinder peut vous recommander un compagnon ou une compagne… Les algorithmes sont partout. On a la preuve de leur efficacité, puisqu’on les utilise, mais le problème est celui de leur légitimité à gérer nos vies. Il va falloir repenser tout cela car ces outils sont devenus indispensables dans notre vie quotidienne.
On utilise ces outils parce qu’ils sont efficaces et vous prenez l’exemple des rencontres d’un soir. Pourtant, la vie humaine n’est-elle pas faite de l’apprentissage issu de ses échecs ? Si les générations futures ne se trompent plus grâce un algorithme efficace, elles ne sauront plus ce qu’est la vraie vie…
Je suis d’accord. On peut supposer qu’il y a certains pans de notre vie dont il est nécessaire de minimiser les échecs, surtout quand ils ont un impact sociétal important. Je fais une grande différence entre la liberté individuelle, le libre arbitre, le droit de se tromper et la problématique collective qui fait que, quand on vous donne trop de liberté, cela peut avoir des effets négatifs sur le vivre ensemble. Si l’on pensait un peu mieux les algorithmes, ils pourraient formater nos existences pour aller vers un intérêt collectif plus fort. Par exemple, en termes de mobilité, plus personne ne s’y retrouve et, sur le plan collectif, il y a beaucoup de dommages. Quelques recommandations de la part des algorithmes seraient quand même une bonne chose face à la complexification du monde, notamment sur le plan environnemental. C’est vrai, pour les rencontres d’un soir, je suis nostalgique de l’époque où la rencontre était un peu fortuite dans des bars ou dans des restaurants. Maintenant, cette automatisation me surprend. Beaucoup de gens s’en réjouissent. C’est l’époque…
Dans l’histoire du monde, chaque fois que les sociétés ont tenté d’être contrôlées pour leur bien, cela s’est toujours très mal terminé…
C’est vrai, l’histoire est effrayante. Même la France a été traversée par des ingénieurs sociétaux et l’on a bien vu comment les choses ont dérapé dès lors que l’on donne trop de contrôle aux instances régulatrices. Mon remède, c’est qu’il existe déjà des systèmes de régulation sociale, comme le droit et la politique, pour essayer de trouver un curseur entre la liberté individuelle et le bien-être collectif. Les algorithmes peuvent accompagner ce contrôle social. La Chine montre ce que l’on peut faire avec le crédit social, qui a complètement modifié la vie des Chinois. C’est vraiment impressionnant, ils sont surveillés dans leur vie quotidienne. Ce n’est pas du tout la société que je veux, mais c’est efficace…
Les régimes nazis ou communistes étaient aussi très efficaces dans le contrôle des populations…
Oui, ces outils peuvent être redoutables quand ils sont à la disposition d’un pouvoir dictatorial. Néanmoins, on doit affronter aujourd’hui une complexification de plus en plus forte et les algorithmes peuvent nous aider à gérer cela. La crise sanitaire a été un point très fort dans cette transition. Je me suis beaucoup impliqué dans l’écriture d’algorithmes pour la gestion du Covid et j’ai été effrayé par cela. Pourtant, cela partait d’une bonne intention que d’être aidé, notamment à travers le traçage des populations. J’ai écrit des algorithmes pour favoriser la vaccination, puisqu’il fallait vacciner prioritairement certaines populations. Il y avait peu de doses à l’époque et je me suis rendu compte que l’on pouvait faire de très bonnes choses en confiant cela à des acteurs publics. Dans nos pays, ce sont les acteurs privés qui se sont occupés de cela, comme McKinsey en France, avec le succès que l’on sait. Finalement, c’est un jeune étudiant qui, dans sa chambre, a fait le site le plus visité pour la vaccination en France. Je défends une nouvelle manière de réécrire ces algorithmes, avec plus de participation, car ils sont assez redoutables.
Les algorithmes peuvent travailler de façon discrète, sans que la personne le sache, en analysant ses déplacements et ses contacts, et ainsi retracer toute sa vie…
Plutôt que de faire cela à notre insu, j’avais proposé de le faire d’une manière assez simple. Si vous êtes informé de votre infection, vous avez la possibilité d’informer vos contacts de façon volontaire, car ce n’est pas une honte d’avoir la Covid. Il fallait faire les choses simplement. Les informaticiens nous apprennent une nouvelle forme de gouvernance à travers les communautés open source. Cette vision du monde a été étudiée par Elinor Ostrom qui a eu le prix Nobel pour sa théorisation des communs et elle avait détecté cela dans les populations primitives, avant la naissance de la propriété. Les sociétés arrivaient à s’organiser à travers des délégations de pouvoir et c’est ce que l’on retrouve dans les communautés d’informaticiens. C’est d’ailleurs comme cela qu’ils ont créé le système d’exploitation le plus important dans le monde : en l’occurrence Linux.
Vous travaillez en ce moment pour l’Union européenne sur le projet FARI et vous prenez l’exemple des voitures connectées. Si l’on est limité à 130 km/h sur autoroute, il n’y aura plus besoin d’installer des radars et la contravention sera émise automatiquement dès lors que l’on dépassera la vitesse autorisée…
Ce que vous dites est intéressant, parce que je ne suis pas pour une société punitive. Pour l’instant, les algorithmes sont surtout utilisés pour punir. Vous faites allusion à une technologie que je réprouve. Je passe mon temps avoir des amendes de parking, parce que les contrôles sont automatisés. En plus, les règlements changent tout le temps…
Pendant très longtemps, le clivage s’est opéré entre l’Est et l’Ouest, c’est-à-dire entre le communisme et le libéralisme. Le nouveau clivage n’est-il pas entre ceux qui ont une approche visant à privilégier la liberté de l’homme, face aux algorithmes, comme en Suède au moment de la crise de la Covid, avec l’approche coercitive à la chinoise où les algorithmes gouvernent tout ?
Les systèmes de régulation doivent pouvoir s’adapter aux cultures locales. J’aime beaucoup la Suède pour certaines choses et ce pays m’est insupportable pour d’autres. Ce qui est formidable, c’est cette capacité à intégrer le souci du collectif dans les comportements individuels. Le Suédois, comme le Japonais d’ailleurs, triche beaucoup moins que l’Italien, le Français ou le Portugais. Mais on voit bien que le système éducatif est en train de se dégrader, parce que l’idée de laisser chacun faire son choix fait qu’il y a des dérives, comme dans toutes les sociétés libertaires. En Italie, à l’inverse, il serait inimaginable de ne pas mettre un système de contrôle dans les transports en commun, parce que personne ne payerait ! Quand on sait cela, on peut paramétrer les algorithmes qui peuvent être plus ou moins envahissants.
