L'Intelligence étendue, futur de l'IA ?

Joi Ito, directeur du MIT Media Lab, a publié récemment un essai concernant l’intelligence artificielle. En voici quelques extraits traduits…
La notion de singularité – qui inclut l’idée que l’intelligence artificielle l’emportera sur la croissance exponentielle de l’homme, rendant tout ce que nous avons fait et ferons insignifiant – est une religion créée principalement par des personnes qui ont conçu et déployé l’informatique pour résoudre des problèmes auparavant considérés comme trop complexes.
Ils ont trouvé un partenaire idéal dans le calcul numérique, un système de pensée et de création basé sur la machine, apparemment contrôlable, qui augmente rapidement sa capacité à exploiter et à traiter la complexité et, ce faisant, à conférer richesse et pouvoir à ceux qui l’ont maîtrisé.
Dans la Silicon Valley, la combinaison de cette pensée de groupe et du succès financier de ce culte technologique a créé une boucle de rétroaction, dépourvue d’autorégulation. […]
Si l’un des principaux moteurs de la science est d’expliquer élégamment le complexe et d’accroître notre capacité de compréhension, nous devons également nous rappeler ce qu’Albert Einstein avait dit: «Tout doit être rendu aussi simple que possible, mais pas simpliste.» Nous devons adopter  l’irréductibilité du monde réel que les artistes, familier des biologistes et de ceux qui travaillent dans le monde des arts et des sciences humaines.
Aujourd’hui, il est évident que la plupart de nos problèmes – par exemple, le changement climatique, la pauvreté, les maladies chroniques ou le terrorisme moderne – sont le résultat de notre quête du rêve de la singularité : une croissance exponentielle. Ce sont des problèmes extrêmement complexes produits par des outils utilisés pour résoudre des problèmes passés, tels que les pressions incessantes pour augmenter la productivité ou pour exercer un contrôle sur des systèmes devenus, en réalité, trop complexes pour être contrôlés. […]
Afin de répondre efficacement aux défis scientifiques majeurs de notre époque, je pense que nous devons respecter les nombreux systèmes interconnectés, complexes et auto-adaptatifs, à toutes les échelles et dimensions, qui ne peuvent pas être entièrement connus par un observateur ou un concepteur.
En d’autres termes, nous participons tous à de multiples systèmes évolutifs à différentes échelles, de nos microbes à nos identités individuelles en passant par la société et notre espèce. Les individus eux-mêmes sont des systèmes composés de systèmes de systèmes, tels que les cellules de notre corps. Comme le disait Kevin Slavin dans son essai de 2016 Design as Participation: «Vous n’êtes pas coincé dans le trafic, vous êtes le trafic. » […]
Au lieu de penser à l’intelligence des machine en termes d’humains contre les machines, nous devrions plutôt considérer le système qui intègre les humains et les machines – pas d’intelligence artificielle mais l’intelligence étendue. Au lieu d’essayer de contrôler ou de concevoir ou même de comprendre des systèmes, il est plus important de concevoir des systèmes qui participent en tant qu’éléments responsables, conscients et robustes de systèmes encore plus complexes.
Nous devons remettre en question et adapter nos propres objectifs et sensibilités en tant qu’observateurs et concepteurs au sein de systèmes pour une approche beaucoup plus humble: l’humilité par rapport au contrôle.
 
Pour en savoir plus :
> l’article de wired
Vous souhaitez nous soumettre un article pour publication ou avez besoin d’assistance pour en écrire un ou plusieurs ? Contactez nous ci-dessous pour en discuter !