L’ancien secrétaire d’État américain Henry Kissinger et l’ancien PDG de Google Eric Schmidt mettent en garde contre les dangers de l’intelligence artificielle (IA) dans un article d’opinion. Ils veulent que les pouvoirs publics la régulent. Avec Daniel Huttenlocher, doyen du Schwarzman College of Computing de l’Université technique du MIT, ils ont exprimé leurs réserves dans le Wall Street Journal.
Dans cet article d’opinion, le triumvirat prévient que l’IA a le potentiel de soulever de profondes questions philosophiques sur « la primauté de la raison humaine » et le rôle des humains dans le monde.
« L’autorité morale des humains »
Les trois auteurs appellent à la création d’une commission qui serait chargée de « façonner l’IA avec des valeurs humaines, y compris la dignité et l’autorité morale des humains ».
« Aux États-Unis, il faudrait créer une commission gérée par le gouvernement, mais composée de nombreux penseurs issus de multiples domaines. Les progrès de l’IA sont inévitables, mais son destin ultime ne l’est pas », écrivent-ils.
Le rôle de l’Homme dans le monde
Les trois hommes affirment que le développement de l’IA soulève d’importantes questions sur la nature de la créativité et le rôle des humains dans le monde.
« Si une IA écrit le meilleur scénario de l’année, doit-elle gagner l’Oscar ? Si une IA simule ou mène la plus importante négociation diplomatique de l’année, doit-elle recevoir le prix Nobel de la paix ? Les inventeurs humains devraient-ils le faire ? », écrivent-ils.
« Tout au long de l’histoire, les humains ont essayé de comprendre la réalité et le rôle que nous y jouons », ajoutent-ils.
« Aujourd’hui, l’IA, produit de l’ingéniosité humaine, rend obsolète la primauté de la raison humaine : elle explore des aspects du monde plus rapidement que nous, différemment de nous, et dans certains cas d’une manière que nous ne comprenons pas. »
« Cela signifie que l’Homme doit définir – ou peut-être redéfinir – son rôle dans le monde. Depuis 300 ans, l’âge de raison est guidé par la maxime ‘Je pense, donc je suis’. Mais si l’IA ‘pense’, que sommes-nous ? »
Bill of Rights
Le mois dernier, l’Office of Science and Technology Policy de la Maison Blanche a appelé à la création d’un « Bill of Rights », une déclaration des droits, pour contrer les abus de l’IA.
« Notre pays doit indiquer clairement quels droits et quelles libertés nous attendons des technologies fondées sur les données », écrivent le Dr Eric Lander, directeur de l’OSTP, et le Dr Alondra Nelson, directrice adjointe de l’OSTP pour la science et la société, dans un autre article d’opinion.
« Dans un marché concurrentiel, il peut sembler plus facile de faire des économies », concèdent-ils.
« Mais il est inacceptable de fabriquer des systèmes d’IA qui vont nuire à de nombreuses personnes, tout comme il est inacceptable de fabriquer des produits pharmaceutiques et d’autres produits – qu’il s’agisse de voitures, de jouets pour enfants ou de dispositifs médicaux – qui vont nuire à de nombreuses personnes. »
Ces dernières années, la Federal Trade Commission, un organisme américain de surveillance de la concurrence, a également tenté de réglementer certaines utilisations de l’IA dans les décisions de crédit.
Discrimination ethnique
Les activistes ont déjà exprimé leur inquiétude quant à la manifestation de la discrimination dans les systèmes d’IA.
Par exemple, Opal Tometi, cofondatrice du mouvement Black Lives Matter, a récemment exhorté le secteur technologique à agir contre les algorithmes de profilage ethnique, a rapporté le Daily Mail. Ce serait un problème majeur, surtout pour les systèmes de reconnaissance des visages.
Formation éthique
« Nous ne pouvons pas attendre de l’IA qu’elle nous corrige pour que nous prenions des décisions plus éthiques. L’IA agit comme un miroir de nos préjugés. Elle imite tout ce qu’elle apprend de nos données. Si les bases de données sont biaisées, l’IA le sera aussi », complète le joueur d’échecs Garry Kasparov dans un autre article d’opinion.
« Si l’IA se comporte de manière contraire à l’éthique, les responsables devraient être formés pour reconnaître quel biais humain conduit à la décision de la machine », conclut-il.
