L'intelligence artificielle et l'éthique
Le philosophe et linguiste Noam Chomsky dénonce « la fausse promesse » de l’intelligence artificielle qu’il accuse de diffuser un usage dévoyé du langage et de la pensée susceptible de faire le lit de ce que Hannah Arendt appelait la « banalité du mal. »
L’arrivée du logiciel de conversation généré par l'intelligence artificielle Chat GPT a créé l’événement. Pour la première fois peut-être, les usagers peuvent se saisir d’un outil de l’IA et l’utiliser dans leur quotidien, en lui soumettant des requêtes professionnelles ou en engageant avec lui de véritables conversations. Noam Chomsky soutient qu’avec le langage, les hommes disposent d’une compétence unique, celle de générer et de comprendre, grâce à un nombre infini de règles, un nombre infini de propositions qui expriment leur pensée. Aussi, quand Chat GPT parvient à formuler des réponses sensées à nos questions sur la base des millions d’énoncés triés automatiquement, ne parle-t-il pas comme nous ? La réponse de Chomsky est subtile. Elle part d’un exemple linguistique. Soit l’énoncé « la pomme tombe » ou « la pomme tombera ». Une IA est à même de formuler chacune des deux propositions. En revanche, elle sera incapable de générer l’énoncé : « La pomme ne serait pas tombée sans la force de gravité ». Car cet énoncé est une explication, c ‘est-à-dire une règle qui délimite le possible de l’impossible. Pour Chomsky, c’est la ligne de partage entre les deux intelligences. Notre intelligence ne se contente pas de définir ce qui est ou qui pourrait être : elle cherche à établir ce qui doit être. Cette approche a une portée éthique évidente. Car la morale consiste à « limiter la créativité autrement illimitée de nos esprits par un ensemble de principes éthiques qui déterminent ce qui doit être et ce qui ne doit pas être (et bien sûr soumettre ces principes eux-mêmes à une critique créative). »
A l’inverse, comme en attestent les réponses produites par Chat GPT aux questions éthiques qu’on lui pose et qui se réduisent à une recension de positions humaines, l’IA trahit « une indifférence morale ».Et Chomsky de conclure : Chat GPT fait preuve de quelque chose comme la banalité du mal : plagiat, apathie, évitement. Ce système offre une défense du type « je ne fais que suivre les ordres » en rejetant la responsabilité sur ses créateurs… »
J’ai fini par demander à Chat GPT ‘il connaissait banalité du mal et s’il se sentait concerné. Voilà sa réponse : « Il est vrai que je suis un outil créé par des humains, et par conséquent, je peux refléter les limites et les biais de mes créateurs et des données sur lesquelles je suis entraîné. »
Une intelligence servile et sans pensée, c’est en effet une bonne définition de ce que Hannah Arendt cherchait à saisir à travers l’idée de la banalité du mal. Et de l’intelligence artificielle ?
Extrait de l’article Noam Chomsky, Chat GPT et la banalité du mal – M. Legros – Philosophie magazine n°mai 2023
/https%3A%2F%2Fassets.over-blog.com%2Ft%2Fcedistic%2Fcamera.png)
/https%3A%2F%2Fi.ytimg.com%2Fvi%2FGp15Y_KlBPY%2Fhqdefault.jpg)