Cet article de blog explore en profondeur l'impact des décisions de l'IA sur l'autonomie et le bonheur humains.
Les progrès scientifiques et technologiques ont permis de nombreuses initiatives visant à améliorer le confort et le bien-être de l'humanité. Parmi celles-ci, le champ d'application de l'intelligence artificielle ne cesse de s'étendre. À l'avenir, les individus fourniront activement leurs informations pour bénéficier de meilleurs services, ce qui permettra à l'intelligence artificielle d'accéder à des données sensibles telles que les résultats de tests génétiques personnels, les données biométriques et les dossiers médicaux.
À mesure que le champ des informations collectées par l'IA s'élargit, il deviendra possible d'accéder à l'intégralité de la vie privée d'un individu. De plus, il est envisageable que des systèmes d'IA émergent et comprennent l'utilisateur mieux que lui-même. Dans ce cas, les humains confieront progressivement des décisions importantes à l'IA. Ceci repose sur l'espoir que l'IA puisse analyser les tendances et les préférences d'un utilisateur afin d'obtenir le résultat le plus satisfaisant. Finalement, le passage de l'humain à l'IA en tant que décideur pourrait devenir une réalité.
Cependant, une question importante se pose à présent. La vie humaine est une succession ininterrompue de choix. Le cours de l'existence d'un individu peut changer en fonction de ses décisions, et sa nature même peut se transformer radicalement. L'acte de « décider » revêt une importance capitale. Dès lors, les décisions prises par une IA basée sur les données peuvent-elles réellement rendre les humains plus heureux ? Même si la décision n'est pas celle que nous avons longuement mûrie, si un système d'IA propose une voie à forte probabilité de satisfaction, fondée sur des données accumulées, et que la vie se déroule en conséquence, pouvons-nous être certains qu'une telle vie est meilleure qu'une vie vécue grâce à une prise de décision autonome ?
À première vue, cela pourrait toujours sembler mener à des décisions satisfaisantes. Cependant, on peut se demander si cette satisfaction momentanée, et les décisions prises par l'IA plutôt que par une réflexion personnelle, peuvent réellement rendre les humains plus heureux. Voici pourquoi.
Tout d'abord, l'IA analyse les choix passés et leur niveau de satisfaction pour prendre les décisions suivantes. Par conséquent, les utilisateurs peuvent être constamment orientés vers des décisions qu'ils ont déjà prises, en particulier celles qui leur ont procuré une grande satisfaction. Cela peut les empêcher d'explorer de nouvelles pistes. Or, en réalité, des choix différents des précédents peuvent apporter une plus grande satisfaction, et il arrive parfois qu'une décision initialement insatisfaisante débouche sur des résultats positifs inattendus.
Si l'IA peine à prendre des décisions aussi inédites, c'est en raison du manque de données sur la satisfaction liée à ces expériences. Par conséquent, le système privilégie les choix déjà validés et risque fort d'exclure les nouvelles tentatives. Or, dans la réalité, une activité jamais essayée auparavant peut parfois procurer une grande satisfaction.
Bien sûr, des contre-arguments existent. Si l'IA dispose de suffisamment de données utilisateur, elle pourrait analyser les inclinations et les aptitudes d'un utilisateur afin de lui faire des suggestions pertinentes, même pour des activités nouvelles qu'il n'a jamais pratiquées. Par exemple, si un utilisateur montre des tendances actives, l'IA pourrait suggérer : « Les personnes ayant des inclinations similaires aiment nager. Pourquoi ne pas essayer ? »
Cependant, il ne s'agit là que d'une suggestion, fondée exclusivement sur les données de satisfaction d'« autres personnes ». Il est impossible de savoir si l'utilisateur en question appréciera réellement la natation, et même si c'est le cas, il est difficile de prédire son niveau de satisfaction. En définitive, l'IA recommande des activités dans une fourchette prévisible et basées sur des données antérieures, où la satisfaction est relativement assurée.
Par exemple, si l'IA analyse que l'utilisateur tirerait 70 % de satisfaction de la natation et 80 % du football, il est probable qu'il privilégie le football, sport qu'il a déjà pratiqué. De ce fait, il risque de passer définitivement à côté de la natation et de ne jamais découvrir que cette discipline pourrait devenir son nouveau loisir ou sa spécialité.
Cela renforce les schémas de choix passés, menant finalement à un esprit fermé.
De plus, la satisfaction liée à une activité donnée peut diminuer progressivement avec sa répétition. Ce qui paraissait nouveau et agréable au départ devient familier à force de répétition, augmentant ainsi le risque d'ennui. C'est un peu comme pour une émission de variétés à succès qui perd de sa popularité après avoir utilisé un format similaire à maintes reprises. Essayer des activités variées peut procurer de nouvelles formes de satisfaction. Ce type de satisfaction imprévisible est absent des données dont dispose l'intelligence artificielle. Par conséquent, il est toujours possible que prendre ses propres décisions, plutôt que de suivre celles de l'IA, apporte une plus grande satisfaction.
De plus, l'IA prend toujours des décisions basées sur des données existantes susceptibles de générer une grande satisfaction ; elle n'a donc aucune raison de faire intentionnellement des choix insatisfaisants. Or, dans la vie humaine, des décisions insatisfaisantes peuvent parfois ouvrir la voie à des possibilités inédites et totalement inattendues.
Prenons un exemple. Au moment de choisir un partenaire parmi vos connaissances, l'IA pourrait vous recommander une personne très compatible, en se basant sur les données existantes. Pourtant, par un heureux hasard ou suite à un événement imprévu, vous pourriez rencontrer un inconnu qui se révélerait être un partenaire bien plus compatible. Ces cas où une décision initialement insatisfaisante débouche sur une plus grande satisfaction sont difficiles à prédire pour l'IA.
Bien sûr, on pourrait rétorquer que l'IA peut prédire les conséquences de chaque décision et que l'analyse de la satisfaction peut prendre en compte tous les impacts découlant de ces conséquences. Cependant, les interactions humaines, et notamment la formation de relations avec des personnes rencontrées par hasard pour la première fois, sont statistiquement et structurellement difficiles à prédire. Ces rencontres reposent sur le pur hasard et la coïncidence, et impliquent simultanément des décisions complexes et imbriquées prises par de multiples personnes, ce qui conduit inévitablement à une précision de prédiction nettement inférieure de la part de l'IA.
Plus grave encore, si les humains se contentent de suivre les décisions de l'IA, ils se privent de l'opportunité d'apprendre de leurs erreurs et de leurs échecs. L'intervention de l'IA réduit considérablement la probabilité d'erreur ou d'échec, privant ainsi les humains de la possibilité de tirer des leçons de leurs revers et d'en tirer des enseignements.
Bien sûr, on peut objecter que certaines choses s'apprennent sans échec et que la croissance est possible sans connaître de revers. Cependant, l'échec a une signification qui dépasse le simple apprentissage. Il peut parfois provoquer un choc psychologique, obligeant à redéfinir le sens de sa vie et ses valeurs. À travers ces périodes douloureuses de réflexion, on prend conscience de sa valeur intrinsèque et on acquiert une profonde compréhension de l'existence. L'expérience de l'échec et de la frustration nous rend plus forts, et c'est précisément ce qui nous pousse à grandir, contrairement au succès.
À mesure que la technologie progresse, des systèmes d'intelligence artificielle intervenant profondément dans la vie humaine grâce à l'exploitation de vastes quantités de données personnelles verront inévitablement le jour. Plus les algorithmes censés nous offrir une vie « meilleure », « plus pratique » et « plus heureuse » se concrétiseront, plus nous serons amenés à nous interroger sérieusement sur la capacité réelle de ces technologies à améliorer le sort de l'humanité.
Dans ce contexte, je crois qu'il convient de valoriser la contribution unique des êtres humains à la création par leur propre réflexion et en tant qu'êtres humains eux-mêmes, plutôt que de faire aveuglément confiance aux jugements de l'IA. Les choix, les erreurs, les délibérations et les échecs humains portent un sens qui dépasse la simple somme des variables ; ils constituent les éléments essentiels d'une vie véritablement humaine.
