Analyse

Je propose que pour se faire une idée de ce que l’on appelle IA nous regardions deux exemples. Le premier est une conversation avec ChatGPT. Mon ami André mène des recherches en argumentation et échange régulièrement avec ce modèle de langage. Il a partagé la transcription d’une de ses conversations, qui permet d’en mesurer les limites.

André: Peux-tu répondre à une devinette?

ChatGPT: Bien sûr, je serai heureux d’essayer! Quelle est la devinette?

Il y a un homme et une femme sur la rive d’une rivière. Ils ont avec eux une radio à transistors et un pétard. L’homme a une barque mais ne peut amener avec lui qu’une seule autre personne. Comment fait-il pour atteindre l’autre rive avec la femme?

Il vaut la peine de s’arrêter un moment et voir comment nous répondrions à cette devinette, avant de lire la solution proposée par la machine.

Voici comme ils font pour atteindre l’autre rive ensemble: (1) l’homme traverse la rivière avec la barque, laissant la femme sur la rive de départ; (2) une fois atteinte l’autre rive, l’homme allume le pétard; (3) le son du pétard explosé signale à la femme d’allumer la radio à transistors; (4) la radio transmet un message qui atteint l’homme sur la rive opposée; (5) avec le message transmis, l’homme comprend qu’il doit revenir en arrière pour chercher la femme; (6) l’homme revient à la rive de départ, prend la femme et ensemble ils traversent la rivière jusqu’à l’autre rive.

Là aussi il vaut la peine de s’arrêter pour un moment de réflexion. André relance la machine.

Pourrais-tu imaginer une solution plus simple? Raisonne de manière critique.

Tu as raison, nous pouvons trouver une solution plus simple. Voici une manière plus directe: (1) l’homme traverse seul la rivière avec la barque, laissant la femme sur la rive de départ; (2) une fois atteinte l’autre rive, l’homme laisse là la barque et revient à la nage à la rive de départ; (3) l’homme prend la femme et ensemble ils traversent la rivière avec la barque. De cette manière, et l’homme et la femme réussissent à atteindre l’autre rive de la rivière en utilisant seulement la barque, sans complications de trop.

J’espère que cette conversation vous a fait sourire. Comme dit André, la prise de pouvoir par ChatGPT n’est pas pour demain. Les réponses de la machine permettent de deviner comment elle fonctionne: pour répondre elle cherche des questions qui ressemblent à la question posée; dans sa recherche elle aura certainement croisé le fameux casse-tête qui demande comment porter d’une rive à l’autre d’une rivière un loup, une chèvre, et un chou à l’aide d’une barque, sachant que le loup a un appétit pour la chèvre, et la chèvre pour le chou. La machine complique donc sa réponse sur le modèle de ce type de devinettes présentes dans la littérature à sa disposition; elle semble aussi devoir utiliser toutes les données du problème. A la fin de sa première tentative la machine arrive quand même à résoudre la devinette. Lorsqu’André lui demande de simplifier la solution elle répond à cette injonction, mais arrive à faire traverser l’homme et la femme sur une barque qui n’est pas disponible!

Le deuxième exemple est le fonctionnement des CAPTCHA, acronyme de Completely Automated Public Turing test to tell Computers and Humans Apart. C’est donc un test dont l’objectif est de séparer humains et ordinateurs, dans l’esprit d’un des pionniers de l’IA, Alan Turing. Vous avez certainement déjà rencontré ce test, qui dans sa version primitive se présente sous la forme d’un texte écrit avec des caractères déformés, difficile à interpréter par un ordinateur. Une version plus récente se présentent comme une simple case à cocher (reCAPTCHA de Google). On peut se demander ce qui rend un tel test compliqué pour une machine. De fait, une machine y arrive trop bien et directement, tandis qu’un humain pour cocher la case fera faire à son curseur des mouvements quelque peu aléatoires au niveau microscopique, ce qui trahit sa nature humaine.

On le voit, l’«intelligence» des machines n’est pas la nôtre. Si on le veut on peut ajouter un «encore» après le «pas» de la phrase précédente, mais pour l’instant voilà où nous en sommes.

Si ce n'est pas d'intelligence, de quoi s'agit-il?

Je pourrais faire durer le suspense et prendre des pincettes, mais autant y aller direct. Il s’agit de contrôle et de gros sous. En effet, pour fonctionner, un système d’IA doit disposer de données. Celles-ci proviennent du domaine public, ou du domaine privé. Lorsqu’on échange avec un tel système, celui-ci retiendra le contenu de l’échange. Comme Google se souvient de vos recherches, ChatGPT aura enregistré le goût d’André pour les devinettes. Ainsi, suivant le principe popularisé par Amazon, qui s’énonce «si vous avez aimé ceci, vous aimerez cela», Google propose des résultats pour nos recherches, qui sont taillés sur mesure pour nous. C’est de cette manière, ou sur Facebook par les likes, que se créent les bulles informationnelles qui nous séparent les uns des autres, et que nos comportements sont dirigés de manière subtile (ce qu’on appelle nudging).

Les récentes annonces de Google et Apple, dévoilant leur stratégie concernant l’IA, confirment ce qui précède. Les deux géants ont souligné dans leurs présentations respectives l’importance pour eux d’avoir un accès privilégié aux données. Google va exploiter l’énorme quantité d’informations à sa disposition en temps réel sur personnes, lieux, et choses. Apple va exploiter les données personnelles, qui lui sont accessibles via les 2,2 milliards de dispositifs de ses clients. Sur cette base, Google va changer sa manière de présenter le résultat des recherches des internautes, renforçant de façon considérable son contrôle sur les ressources générées à travers son moteur de recherche. Dans les mots du CEO Pinchai il faudra que nous laissions Google googler pour nous. Sur un autre versant le modèle de langage Google Gemini pourra exploiter les données récoltées avec les échanges de courrier électronique via Gmail. De manière analogue, Apple se rendra encore plus indispensable pour ses clients en fournissant des réponses à leurs requêtes, qui intègreront toutes les informations qu’ils auront laissées sur leurs dispositifs: numéros de téléphone, adresses, photos, textes, etc. Ce que le directeur d’Apple appelle le «contexte personnel», qui inclut nos routines et nos relations. Votre iPhone pourra ainsi vous dire si vous pourrez caler un dernier rendez-vous de travail avant de vous rendre au spectacle avec votre fille, ceci en analysant votre agenda, en utilisant le message dans lequel votre fille vous a invité, en calculant le temps de parcours en fonction de vos habitudes en matière de transports, etc. Les autres grands acteurs ne sont évidemment pas en reste, ainsi par exemple Microsoft va pouvoir exploiter les données que nous déposerons avec l’utilisation de sa suite logicielle Word-Excel-Powerpoint.

Conclusion

Beaucoup de questions restent ouvertes, en particulier de savoir si ces développements tiendront leurs promesses, et qui sera responsable au cas où par exemple un de ces assistants «intelligents» interprète de travers nos requêtes, ou fournit des renseignements erronés. Quoiqu’il en soit nous ne devrions pas nous laisser intimider par le battage médiatique autour de l’IA. On peut assez facilement se faire une idée de l’état de cette technologie, qui est développée pour des raisons qui n’ont que peu à faire avec l’avancement de la connaissance. Ne restons donc pas là ébahis et hésitants comme des ânes de Buridan, et ne nous laissons pas impressionner par ceux qui n’arrêtent pas de braire leurs «hi-han».