Une approche plus humaine de l'intelligence artificielle

Où l'esprit s'arrête-t-il et où commence le reste du monde? Quand Andy Clark, philosophe à l'Université d'Edimbourg, au Royaume-Uni, a posé cette question dans les années 1990, c'était un monde sans apprentissage en profondeur ni smartphone. Au fur et à mesure du développement de la technologie, l'argument selon lequel la frontière entre la cognition et l'environnement est poreuse s'est approfondi. Il a parlé à La nature sur l’état de la recherche sur le renseignement et sur le fait qu’une machine vraiment intelligente a besoin non seulement d’un esprit, mais également d’un corps.

Quel a été le progrès le plus important en sciences cognitives au cours de votre carrière?

Il y a eu deux avancées principales depuis que j'ai rejoint la communauté des philosophes et des sciences cognitives en 1984. La première est le développement de réseaux de neurones artificiels, systèmes informatiques inspirés de la manière dont les neurones s'interconnectent dans le cerveau. Puis, au cours des dix dernières années, une théorie particulière sur le fonctionnement du cerveau est apparue, qui concorde avec cette recherche. Nous avons maintenant une idée du cerveau comme dispositif de prédiction probabiliste. C'est, pour mon argent, l'avancée la plus excitante.

Pourquoi l'intelligence artificielle (IA) a-t-elle besoin de plus de données que le cerveau pour effectuer la même tâche?

Notre cerveau a été adapté par des millions d’années d’évolution pour nous aider à gérer les types d’objets et de structures que nous sommes susceptibles de rencontrer dans le monde. Les systèmes d'intelligence artificielle, cependant, commencent à peu près de zéro. Il y a aussi une différence architecturale. De nombreux systèmes d'apprentissage en profondeur, qui utilisent de nombreuses couches de neurones artificiels pour extraire progressivement les caractéristiques à partir de données brutes, ne fonctionnent pas de manière descendante et basée sur la prédiction, contrairement au cerveau. Ils travaillent de manière plus positive.

Quelle est la différence entre les approches prédictives et feed-forward?

Une approche par feed-forward commence par une entrée et avance, couche par couche, pour produire un résultat. Il peut être formé à l'aide de nombreux signaux de retour, mais une fois formé, il ne peut que mapper les entrées sur des représentations toujours plus profondes. Cela signifie qu’il ne peut pas bénéficier de la vérification itérative, contextuelle, qui caractérise si bien le cerveau et qui caractérise l’intelligence biologique.

La perception est-elle entièrement guidée par des informations glanées de l'environnement externe?

Cela va directement à la question de la réalisation. La manière dont nous percevons le monde est en fait influencée non seulement par des informations extérieures, mais également par des informations provenant de notre corps et de notre cerveau. C’est lorsque ces choses se réunissent que nous faisons l’expérience du monde. Une des tâches pour lesquelles le cerveau semble doué consiste à améliorer son modèle du monde en travaillant sur lui-même. C’est quelque chose que les meilleurs systèmes d’IA ne sont pas aussi bons. Cependant, vous voyez quelque chose de similaire avec des réseaux accusatoires, dans lesquels deux réseaux se font concurrence, et avec des réseaux qui jouent le même jeu contre eux, encore et encore.

Un système d'IA polyvalent aura-t-il besoin d'un corps?

Oui, mais la signification exacte de «corps» est négociable. Le système devra pouvoir agir sur le monde, apporter des changements et tester des modèles. Il n’est pas nécessaire que ce soit un vrai robot dans le monde physique. Il pourrait avoir un corps virtuel dans un monde simulé. Ce qui est important, c’est que quelque chose corresponde à l’action et à la perception. C’est ainsi que vous maîtrisez la causalité dans le monde – et si vous n’êtes pas au-dessus de la causalité, vous ne comprenez pas vraiment le monde, même si vous faites des choses incroyables.

Les systèmes d’IA n’ont-ils pas déjà testé et amélioré leurs modèles?

Ce que nous avons à l’heure actuelle est proche de la limite des approches passives et non incarnées de l’IA. Ces approches ne testent pas et n’améliorent pas un modèle universel du monde par le biais d’un engagement réel dans ce monde; elles sont plutôt limitées à des modèles spécifiques pour un domaine particulier. Un système excellent pour jouer aux échecs n’est pas le même que celui que vous voudriez piloter avec votre voiture autonome. Pour développer une intelligence véritablement générale, un système doit être capable d'une interaction incarnée avec le monde.

Les systèmes d'intelligence artificielle dotés d'un mode de réalisation physique auront-ils un avantage sur les systèmes virtuels?

Le philosophe américain Hubert Dreyfus aimait souligner que le monde physique avait une profondeur sans fin. Lorsque vous regardez un mur, vous pouvez vous demander: «Qu'y a-t-il sous cette brique?». Vous pouvez ensuite soulever la brique, voir les fourmis dessous et fouiller la terre. Vous pouvez le faire pour n’importe quel aspect du monde qui vous entoure. Le monde simulé doit s'effondrer quelque part. Il est donc toujours utile de mettre de vrais robots dans le monde physique. Mais parce que les difficultés mécaniques et matérielles sont énormes, je ne pense pas que cela se produira de si tôt.

La culture deviendra-t-elle nécessaire pour les systèmes d'IA?

Les humains construisent des systèmes à la fois physiques et culturels, et ces systèmes nous construisent. Ce processus dure depuis des générations. Il n'y a rien de semblable pour les systèmes d'IA, pour le moment. Leur développement prendra son envol quand quelque chose de semblable à la culture existe pour eux – un moyen pour eux de créer les conditions dans lesquelles ils peuvent apprendre. Ma meilleure hypothèse serait que nous allons commencer à voir émerger les formes les plus puissantes de l'IA lorsque des agents d'IA simulés pourront se parler dans le cadre de communautés appropriées.

Cette interview a été modifiée pour sa longueur et sa clarté.

Cet article fait partie d'un supplément éditorial indépendant produit avec le soutien financier de tiers. .