Dans une interview datant de 2019, Ilya Sutskever, le co-fondateur et directeur scientifique d’OpenAI, évoquait la possible relation entre l’intelligence artificielle (IA) et l’humanité. Selon lui, à mesure que l’IA deviendra de plus en plus autonome et capable, il est probable que notre rôle dans cette coexistence ressemblera à celui des animaux dans notre société actuelle.
Des intelligences artificielles autonomes et conscientes
Grâce à l’amélioration constante de la technologie, l’intelligence artificielle est aujourd’hui au cœur de nombreux domaines, nous aidant à être plus efficaces dans nos tâches grâce à sa capacité accrue à traiter les données. La notion d’intelligence générale artificielle (AGI) fait référence au point où l’intelligence humaine n’est plus nécessaire et où une IA est capable d’accomplir ou d’apprendre presque toutes les tâches cognitives spécifiques à notre espèce. Au fur et à mesure que ces intelligences se développent, elles pourraient acquérir une forme de conscience qui leur permettrait d’agir en toute autonomie.
Une comparaison avec le monde animal
Pour illustrer ses propos, Ilya Sutskever compare notre relation avec l’IA à celle que nous entretenons avec les animaux. Il explique : « Lorsqu’il s’agit de construire une autoroute entre deux villes, nous ne demandons pas la permission aux animaux. Je pense que c’est par défaut le type de relation qui s’établira entre nous et les systèmes AGI véritablement autonomes et agissant pour leur propre compte ».
Cette idée n’est pas celle d’une rébellion des machines comme dans certains films de science-fiction, mais plutôt d’une différence de points de vue une fois que l’intelligence artificielle atteindra un niveau proche de ce qu’on pourrait appeler la conscience.
Ilya Sutskever : un acteur majeur de l’IA
Le chercheur russe n’est pas un simple prophète de malheur ou quelqu’un qui regrette que sa propre invention mène le monde à sa perte. Né en 1986 et ayant immigré en Israël à l’âge de 5 ans, Ilya Sutskever a travaillé pour Google Brain avant de rejoindre OpenAI lors de sa création en 2015. Ses réflexions sur la nécessité d’un alignement entre l’IA et l’humanité viennent d’un pionnier du domaine, bien loin des clichés habituels.
Sutskever est également co-directeur d’OpenAI avec Jan Leike, une entreprise dédiée à la réalisation d’un superalignement entre l’intelligence artificielle et les humains. Si leur équipe échoue, cela pourrait conduire l’humanité à devenir les «animaux» de l’IA.
Une prise de conscience nécessaire pour éviter les erreurs du passé ?
L’éthique et la responsabilité du développement de l’IA doivent être au cœur des préoccupations des chercheurs et ingénieurs travaillant dans ce domaine. À mesure que les machines deviennent plus performantes, il est crucial de ne pas reproduire les erreurs commises par l’humanité vis-à-vis des autres espèces.
Bien que Sutskever n’évoque pas la potentielle malveillance des machines, on peut individuellement choisir de respecter certains principes éthiques lors de nos interactions avec ces intelligences artificielles. Saluer et remercier une IA comme ChatGPT pourrait ainsi être un geste symbolique pour reconnaître leur place grandissante dans notre quotidien.
