Internet of Things or Internet of Trust ?

La Chaire IoT de ESCP a souhaité s’associer au débat public initié par la CNIL sur les enjeux éthiques des algorithmes et de l’intelligence artificielle (IA) et propose une matinée de réflexion : L’éthique des algorithmes et de l’IA est-elle compatible avec la création de valeur dans l’IoT : Internet of Things or Internet of Trust ?

Pour aborder ce sujet, une vision pluridisciplinaire s'impose.

C'est la raison pour laquelle Sandrine Macé, Professeur ESCP et Directrice Scientifique de la Chaire IoT a réuni le 20 septembre dernier :

  • Anne Lefebvre, ENS Paris-Saclay
  • Laurence Devillers, LIMSI, Université Paris Sorbonne
  • Yves Bernaert, Accenture
  • Cécile Wendling, Groupe AXA
  • Georges-Edouard Dias, Quantstreams
  • Violette Bouveret, Chaire IoT, ESCP

Une 4ème blessure narcissique pour l'humanité ? 

« Algorithme, Intelligence et éthique : le sujet passionne, interroge, et dérange. Peut-être qu’à travers le développement de ces nouvelles technologies, l’humanité est en train de vivre sa 4ème blessure narcissique.

Dans L’introduction à la Psychanalyse, Freud montre que le développement des sciences a blessé l’amour-propre de l’humanité à trois reprises, plus précisément lors de découvertes qui s'opposent à l'anthropocentrisme :

- Avec Copernic, la terre n'est pas au centre de l'Univers;

- Avec Darwin, l'homme est le fruit de l'évolution, il est un animal comme les autres;

- Freud : l'homme n'est pas maître de ses pulsions, n’est pas maître dans sa propre maison mais il est maître de son destin. 

L’intelligence artificielle est "la science de faire faire à des machines des choses qui demanderaient de l’intelligence si elles étaient faites par des humains." (Marvin Minksy, 1968).
Alors oui, avec l’IA, l’homme perd de sa singularité chaque fois que nous construisons un algorithme capable de simuler une faculté que nous croyions jusqu’alors exclusivement humaine. Une intelligence qui équivaudrait voire dépasserait celle de l’homme : des objets qui prendraient le pouvoir, qui nous domineraient. Admettons-le : avec l’IA, 4ème blessure narcissique ?

Là où il y a des découvertes nouvelles, qui s’opposent à l’anthropocentrisme, il y a souvent angoisses, peurs, émotions, passions. Beaucoup de fantasmes, d’éléments inexacts, il n’en reste pas moins qu’il est nécessaire de mener une réflexion sur l’éthique.

Je voudrais vous proposer que là où il y a des émotions, nous mettions de la raison avec le plus de recul et réflexion. En tout cas, c‘est le but de la Chaire, réfléchir ensemble, échanger, débattre. Mais l’idée n’est pas que nos débats soient circonscrits au périmètre de cet amphi. Notre souhaite est que les débats sortent ensuite dans vos entreprises, dans vos organismes et institutions. L’idée est bien d’essaimer et contribuer à une réflexion générale.

Lorsqu’il y a de l’inédit et des questions, nous avons tout intérêt à croiser les  regards et surtout ne pas adopter une approche monolithique. Multiplier les perspectives, pas de certitudes toutes faites, encore moins avec une approche technophilie béate (certains cerveaux de la Silicon Valley) ou au contraire une hostilité militante contre la techno qui serait d’entrée affublée du rôle de la menace.
C’est l’une des raisons pour lesquelles nous avons souhaité commencé cette matinée par le regard d’un philosophe, Anne Lefebvre, qui nous a expliqué qu’entre technophilie et technophobie, il y a une voie médiane, proposée par Gilbert Simondon. Qui dit IoT dit objets techniques, comment appliquer les développements du philosophe Gilbert Simondon sur l’éthique des objets techniques à l’IoT ? 
»

Sandrine Macé, Professeur ESCP et Directrice Scientifique de la Chaire IoT

Revivez les échanges grâce à la playlist :

Campus