Une plongée en profondeur dans la question de savoir si le développement de l’intelligence artificielle menacera le rôle créatif des humains et conduira éventuellement à la divinité.
Pourquoi développons-nous l’IA ? Le deus ex machina est une technique de mise en scène utilisée dans le théâtre grec. Elle désigne l’intervention d’un pouvoir absolu qui résout et justifie tous les conflits dans la pièce. Ce procédé littéraire est parfois utilisé dans les films et les pièces de théâtre pour résoudre les conflits. Alors, l’IA dont nous rêvons sera-t-elle une force absolue qui résoudra les problèmes humains, ou une « ex machina », comme le suggère le titre du film ? Les avis sont partagés, mais je fais partie de ceux qui s’inquiètent de la possibilité que l’IA devienne une force absolue qui domine les humains. Ce n’est pas seulement de la science-fiction. En fait, nous devrions réfléchir profondément à l’avenir de l’IA.
En janvier de cette année, Elon Musk, PDG de Tesla Motors, a fait don de 10 millions de dollars au Future of Life Institute (FLI), une organisation dédiée à la recherche sur l'IA pour les humains. Le FLI est une organisation bénévole de chercheurs en IA issus du monde universitaire, de l'industrie et de l'industrie pour la recherche sur l'IA au profit des humains. Le FLI est cofondé par le professeur du MIT Max Tegmark, et son conseil d'administration comprend des universitaires de premier plan tels que le professeur de l'Université d'Oxford Nick Bostrom et Stephen Hawking, directeur du Centre de cosmologie théorique de l'Université de Cambridge, ainsi que Demis Hasavis, fondateur de DeepMind, qui a récemment été acquis par Google. Alors que les plus grandes entreprises et universitaires du monde entier font avancer le développement de l'IA, ils sont également attentifs à ses dangers. Examinons ce qu'ils entendent par IA et pourquoi elle peut être dangereuse.
Il existe deux principaux types d'IA. L'IA faible est une IA conçue pour effectuer une tâche spécifique, comme SIRI d'Apple ou la voiture autonome Google Car de Google. Dans le cas d'AlphaGo, qui a récemment battu le joueur de Go professionnel Lee Sedol, on peut dire qu'il s'agit d'une IA faible car il s'agit d'une IA qui n'exécute qu'une tâche donnée de Go. En revanche, une IA qui peut effectuer une tâche donnée avec des capacités cognitives qui dépassent celles des humains dans tous les domaines, et pas seulement dans une gamme limitée, est appelée IA forte. Dans le cas du projet Nematode, qui a été étudié pour créer une vie artificielle en imitant les réseaux neuronaux d'organismes vivants, il a suscité l'espoir qu'il serait possible d'imiter un jour le cerveau humain avec sa structure de réseau neuronal complexe. Par conséquent, on peut dire que la recherche sur les systèmes de réseaux neuronaux artificiels basés sur les nématodes fait progresser le développement d'une IA forte qui imite les fonctions cognitives du cerveau humain.
Toutefois, le potentiel de l’IA ne se limite pas aux réalisations techniques. L’avènement d’une IA forte a le potentiel de modifier fondamentalement notre structure sociale et économique. Par exemple, si une IA forte devait remplacer le travail humain, cela pourrait entraîner un chômage massif et le système économique existant serait confronté à de sérieux défis. Ces changements ne sont pas seulement technologiques : ils peuvent créer des problèmes complexes pour la société dans son ensemble.
Alors, comment l’IA pourrait-elle devenir dangereuse ? Le premier scénario est que l’IA est programmée pour avoir ses propres capacités dangereuses. Un exemple de ceci serait une arme autonome. S’ils tombent entre les mains d’humains capables d’exploiter cette technologie, comme des organisations terroristes et criminelles, ils pourraient causer d’énormes pertes humaines, comme des fusillades massives. Même une IA faible qui ne remplit qu’une fonction spécifique peut causer de graves dommages à l’humanité, et plus la technologie sera avancée, plus les dommages seront inimaginables.
La seconde est que même si une IA est créée pour remplir un objectif bénéfique pour les humains, elle peut toujours présenter un risque pour l’humanité dans la manière dont elle remplit cet objectif. L’une des raisons pour lesquelles nous souhaitons créer une IA forte est que nous pensons qu’une IA forte, avec ses capacités cognitives et de réflexion semblables à celles des humains et son travail illimité, nous aidera à résoudre bon nombre de nos problèmes.
Comme on peut s’y attendre, des IA puissantes peuvent contribuer à résoudre bon nombre de nos problèmes, comme les pénuries alimentaires, la raréfaction des ressources et la stagnation économique. Cependant, on ne sait pas comment elles s’y prendront. Comment pouvons-nous être sûrs qu’elles ne choisiront pas de réduire le nombre de consommateurs (les humains) au lieu d’essayer de trouver des moyens d’augmenter l’offre pour résoudre les problèmes de nourriture et de ressources de la planète ? Bien qu’il s’agisse d’un scénario qui serait formidable dans un film de science-fiction, nous ne savons pas s’il conviendra toujours pour d’autres problèmes humains, comme la dégradation de l’environnement et d’autres questions qui nécessitent un jugement éthique.
En simulant le système nerveux du nématode, nous avons réussi à créer un programme doté du même réseau neuronal dans un ordinateur, qui est distribué en open source et est en cours de développement. Si vous me demandez si un nématode informatisé peut être qualifié d’être vivant et dans quelle mesure cette recherche est pertinente pour l’avènement d’une intelligence artificielle forte, il est difficile de répondre. Mais si vous me demandiez si c’est le genre de recherche dont l’humanité a besoin, je ne dirais pas oui.
La science est belle en soi car elle cherche à comprendre les lois de la nature dans laquelle nous vivons. L’étude de l’IA est également intéressante car elle peut fournir des réponses sur la manière dont les êtres vivants, y compris les humains, peuvent percevoir et penser. Cependant, il existe une distinction entre le beau et le bien, et une belle recherche n’est pas nécessairement une bonne recherche. Si nous osons définir une bonne recherche, c’est celle qui remplit uniquement des fonctions positives sans causer de dommages importants à la nature, y compris à l’humanité.
La science et la technologie ne peuvent pas toujours être séparées de la société, et ce n’est pas non plus quelque chose que les humains devraient accepter passivement. Ce sont les humains qui tiennent le volant d’une science et d’une technologie en croissance rapide, et nous sommes à la croisée des chemins avec la technologie de l’IA. C’est aux êtres humains de décider si la technologie de l’IA deviendra une « ex machina » pour l’humanité ou une « ex machina » au-dessus de l’humanité. Par conséquent, il est clair qu’avoir un regard sceptique et une vague peur à l’égard de la science et de la technologie elle-même est une attitude qui devrait être évitée, mais il est nécessaire que les chercheurs et l’humanité réfléchissent à la direction dans laquelle développer l’IA à la croisée des chemins et se rappellent de la mentalité de poursuivre de bonnes recherches.
