[ad_1]
La Chine veut devenir le leader mondial de l'intelligence artificielle (IA) d'ici 2030. Les États-Unis ont un plan stratégique pour conserver la première place et, selon certaines mesures,. D'autres pays riches se disputent également une place dans la ligue mondiale d'IA.
Une sorte de course aux armements de l'IA est en cours, et les gouvernements et les entreprises investissent des sommes alléchantes dans la recherche et le développement. Le prix, et c’est un gros problème, est qu’Amnesty International devrait ajouter environ 15 000 milliards de dollars à l’économie mondiale d’ici 2030, soit plus de quatre fois le produit intérieur brut de l’Allemagne pour 2017. Cela représente 15 000 milliards de dollars en nouvelles entreprises, emplois, produits, méthodes de travail et formes de loisirs, ce qui explique pourquoi les pays se font une telle concurrence pour une part du gâteau.
L'intelligence artificielle comporte des risques, de la manière dont les technologies de reconnaissance faciale suivent et identifient les individus, en passant par la manipulation des élections. Pourtant, malgré de vives discussions universitaires et publiques, les gouvernements ont mis du temps à donner la priorité à l’éthique de l’IA. Les États-Unis et la Chine sont trop préoccupés par le premier prix et manifestent peu d’appétit pour travailler avec d’autres pays et élaborer des codes de pratique.
Ce manque de leadership a toutefois créé des opportunités pour d’autres. Les agences de recherche nationales française, allemande et japonaise se sont associées pour lancer un appel à propositions de recherche sur l'IA qui intègre une dimension éthique. Le Royaume-Uni a créé un nouveau centre d'éthique des données et d'innovation. Des représentants du Canada et de la France s'emploient depuis lors à la création d'un comité international sur l'intelligence artificielle (IPAI), qui sera lancé au sommet du G7 des dirigeants mondiaux à Biarritz, en France, du 24 au 26 août.
L’ambition générale du comité est de créer un réseau d’experts qui conseilleront les gouvernements sur des questions d’intelligence artificielle telles que la confidentialité des données, la confiance du public et les droits de l’homme. Ses membres comprendront le monde de la recherche, les gouvernements, l’industrie et des organisations de la société civile.
C’est une étape bienvenue, mais l’architecture du panel bénéficierait d’une discussion plus approfondie. L’Initiative semble avoir été inspirée par le Groupe d’experts intergouvernemental sur l’évolution du climat. Mais il y a des différences importantes. Premièrement, les Nations Unies ne sont pas impliquées – donc "internationales" dans le titre, et non "intergouvernementales". Cela pourrait être une concession à ceux, y compris l'administration américaine, qui sont sceptiques vis-à-vis du multilatéralisme. Deuxièmement, les représentants de l'industrie seront plus importants. Ceci est important, car les entreprises ont accès à de grandes quantités de données et sont celles qui pilotent le développement des technologies de l'IA.
Toutefois, pour que le comité soit crédible – en particulier lorsqu'il est question de confiance du public dans AI – son secrétariat et les gouvernements qui le parrainent devront veiller à ce qu'il se conforme aux éléments de preuve et à ce que ses conseils ne subissent aucune ingérence. Pour y parvenir, les membres du panel devront être protégés du lobbying direct ou indirect des entreprises, des groupes de pression et des gouvernements – en particulier de ceux qui considèrent l'éthique comme un frein à l'innovation. Cela signifie également que les membres du comité devront être choisis pour leur expertise, et non pour l'organisation qu'ils représentent.
La première déclaration des dirigeants des 20 plus grandes économies sur Amnesty International a été faite en juin – les – et les États-Unis et la Chine ont été parmi ceux qui l'ont signée. Ceci est remarquable compte tenu de la guerre commerciale actuelle entre les États-Unis et la Chine, mais, dans le même temps, la déclaration commune n'est qu'un geste symbolique engageant les nations dans une approche «centrée sur l'homme» de l'IA.
Pour être crédible, l'IPAI doit être différent. Il a besoin du soutien de plus de pays, mais il doit également s'engager à faire preuve d'ouverture et de transparence. Les avis scientifiques doivent être publiés intégralement. Les réunions devraient être ouvertes aux observateurs et aux médias. Fait rassurant, le secrétariat du groupe est décrit dans les documents comme «indépendant». C’est un signal important.
Les architectes et les membres du panel de l’IPAI se trouveront dans des situations dans lesquelles de puissants intérêts essaieront d’influencer leurs propos. La direction et, en fin de compte, la réglementation d'une technologie perturbatrice et innovante nécessiteront un leadership audacieux. Ils doivent s'armer pour réussir.
[ad_2]