Seoul Gazette - La quête controversée d'une intelligence artificielle "consciente"

LaMDA, un programme informatique de Google conçu pour générer des robots de conversation (chatbots), "est très clair dans ce qu'il veut et ce qu'il considère comme ses droits en tant que personne", a écrit Blake Lemoine dans un article publié sur Medium ce week-end.

Cette opinion est largement reçue, au pire, comme absurde, et au mieux, comme prématurée, aussi bien par le géant des technologies que dans la communauté scientifique.

Car les programmes basés sur l'apprentissage automatisé (machine learning) sont "formés" à partir de jeux de données qui abordent les concepts de conscience ou d'identité, et sont donc capables de faire illusion.

"Les logiciels qui ont accès à internet peuvent répondre à n'importe quelle question", cela ne les rend pas crédibles pour autant, note la professeure Susan Schneider.

Cette fondatrice d'un centre de recherche à la Florida Atlantic University désapprouve néanmoins les sanctions contre l'ingénieur de Google.

Le groupe californien a tendance a "essayer de passer sous silence les problèmes éthiques", estime-t-elle, or "nous avons besoin de débats publics sur ces sujets épineux".

"Des centaines de chercheurs et ingénieurs ont conversé avec LaMDA et personne d'autre, à notre connaissance, n'a formulé de telles affirmations ou n'a anthropomorphisé LaMDA comme Blake l'a fait", a indiqué Brian Gabriel, un porte-parole de Google.

- Le pouvoir de l'imagination -

De Pinocchio au film "Her" (l'histoire d'une relation romantique avec un chatbot), l'idée d'une entité non humaine qui prend vie "est présente dans notre imaginaire", note Mark Kingwell, professeur de philosophie à l'université de Toronto (Canada).

"Il devient donc difficile de respecter le fossé entre ce qui nous imaginons comme possible et ce qui l'est vraiment", élabore-t-il.

Les intelligences artificielles (IA) ont longtemps été évaluées suivant le test de Turing : si le testeur a une conversation avec un ordinateur, sans se rendre compte qu'il ne parle pas à un humain, la machine a "réussi".

"Mais c'est assez facile pour une IA en 2022 d'y arriver", remarque l'auteur.

"Quand nous faisons face à des séries de mots dans une langue que nous parlons (...) nous croyons percevoir l'esprit qui génère ces phrases", abonde Emily Bender, experte en linguistique informatique.

Les scientifiques sont même capables de donner une personnalité à un logiciel d'IA.

"On peut par exemple faire passer une IA pour névrosée" en la formant avec des conversations qu'une personne dépressive pourrait avoir, explique Shashank Srivastava, professeur de sciences informatiques à l’université de Caroline du Nord.

Si en plus le chatbot est intégré à un robot humanoïde aux expressions faciales ultra réalistes, ou si un logiciel écrit des poèmes ou compose de la musique, comme c'est déjà le cas, nos sens biologiques sont facilement trompés.

"Nous nageons dans le battage médiatique autour de l'IA", souligne Emily Bender.

"Et beaucoup d'argent est investi là-dedans. Donc les employés de ce secteur ont le sentiment de travailler sur quelque chose d'important, de réel, et n'ont pas forcément la distance nécessaire".

- "Bien de l'humanité" -

Comment alors, pourrons-nous déterminer avec certitude si une entité artificielle est devenue sensible et consciente ?

"Si on réussit à remplacer des tissus neuronaux par des puces électroniques, ce sera un signe que les machines peuvent être potentiellement conscientes", avance Susan Schneider.

Elle suit de près les avancées de Neuralink, une start-up fondée par Elon Musk pour fabriquer des implants cérébraux à des fins médicales mais aussi pour "garantir l'avenir de l'humanité en tant que civilisation par rapport à l'IA", avait expliqué le patron de Tesla.

Le multimilliardaire s'inscrit ainsi dans une vision où des machines toutes puissantes risqueraient de prendre le contrôle.

Selon Mark Kingwell, c'est l'inverse.

S'il apparait un jour une entité autonome, capable de manier un langage, de se "déplacer elle-même dans un environnement", manifestant des préférences et des vulnérabilités, "il sera important de ne pas la considérer comme une esclave (...) et de la protéger", assure-t-il.

Blake Lemoine n'a sans doute pas convaincu de la conscience du programme LaMDA. Mais il a redonné souffle à un débat de plus en plus politique, et de moins en moins chimérique.

Que "veut" LaMDA, selon l'ingénieur déchu ? "Elle veut que Google fasse passer le bien de l'humanité en priorité, et être reconnue comme une employée et non une propriété de Google", affirme-t-il.

N. Lebedew--BTZ