Les intelligences artificielles (en général)

What's in the shell?

Ce reportage anglophone parle d’une IA capable de compréhension du langage humain — au moins capable de comprendre des questions, et d’appréhender la diversité des connaissances humaines — au moins celles encyclopédiques.

Watson est le surnom donné à une IA à laquelle une équipe américaine a travaillé de 2007 à 2011, et principalement de 2009 à 2011. Elle devait être capable de participer à un jeu télévisé comparable à « Question pour un champion » en france, qui s’appel “Jeopardy!” aux États‑Unis.

Le précédent qu’était Deep Blue, une machine d’IBM dans la seconde moitié des années 1990, avait gagné une partie d’échec contre le meilleur joueur humain au monde. Une machine sachant bien traiter des règles bien fixées et explorer en profondeurs les multiples conséquences de leurs applications combinées. Deep Blue était très bon au jeu d’échec, mais ne savait faire que ça.

Watson n’obéit pas à des règles fixes. Il est capable d’apprendre en essayant de prédire ce qui est attendu de lui (type de bonne réponse) et en devinant qu’il a fait une erreur (mauvaise réponse), comprend un minimum le langage humain et ses ambiguïtés, dispose d’une connaissance du monde issue d’archives diverses, comme des journaux, une base de données de films, et quelques autres. À partir de sa compréhension d’une question sous forme de définition, il sait trouver une réponse de la forme « qu’est‑ce que … » (“what is …”, la formule introduisant chaque réponse dans le jeu Jeopardy).

Il fait parfois des réponses à côté de la plaque, qui en sont drôles, mais il se débrouille bien. Ces erreurs trahissent encore qu’il ne comprend pas humainement le sens des questions, mais qu’il est doué pour la recherche dans des connaissances à l’aide d’interrogations en langage humain.

Après plusieurs essais non‑diffusés, le jury a décidé qu’il pourrait participer à une cession réelle du jeux télévisé en compagnie de deux champions, ce qui dût se produire courant 2011, mais le reportage ne parle pas de cet événement « final » (le reportage ayant été achevé peu avant).

Smartest machine on earth — PBS Nova — 2011

Ce sujet sera pour parle des IA en général. S’il y a matière à parler d’un cas ou type particulier d’IA en longueur, des sujets spécifiques pourront toujours être ouverts.

Le sujet est initialement ouvert en Sciences, mais selon la tournure qu’il prendra dans l’avenir, il pourra éventuellement être déplacé en Société, comme l’a été le sujet « Les lavoris… heu, les robots, et la société, et l’économie ». Le présent sujet est lié à ce dernier, et à « L’évolution vers la machine ? ».

Pour commencer, des petites notes en vrac qui me viennent à l’esprit, en fait, un rêve raconté comme très petite nouvelle, et deux notes. Par la suite, seront peut‑être recopiés ici, des messages issus des deux sujet mentionnés plus haut, certains message y ayant parlé d’IA.

Un rêve avec une chute qui s’envole

Une anecdote, en fait un rêve que j’ai fait une nuit il y a 3 ans et demi je crois environ. Il peut donner une idée de comment ont pourrait découvrir qu’on a à faire à une IA, qui apparaitrait sans prévenir ou dont on ne serait pas conscient(e)s…

Dans ce rêve, il y avait peu d’images, tout était sombre, mais pas de la noirceur qui suggère le danger ou l’inquiétude, simplement que dans la scène de ce rêve, il n’y avait rien qui pouvait donner lieu à des images, et je ne voyais que de vagues formes ou taches, se discernant difficilement, d’un ton rouge‑orangé très sombre, et trahissant la présence de choses et leurs positions relatives. S’il n’y avait pas d’images, c’est que la scène du rêve était l’intérieur d’un ordinateur.

Cet ordinateur était un lieu de passage, connecté à un réseau, étrangement un lieu de passage de beaucoup d’éléments logiciels, alors que ce sont plutôt les données qui transitent sur un réseau; peut‑être s’agissait‑il d’agents logiciels.

Un logiciel était chargé de la surveillance du trafique. Il détectait les éléments suspects dans le flux et les ré‑aiguillait ailleurs, pour les empêcher de s’infiltrer et de nuire. Il était capable, en analysant ces logiciels transitant, de déterminer leur capacité et fonctionnalité probable et selon les destinations vers lesquelles ils se dirigeaient, déterminer s’ils étaient suspects ou pas. Il avait été conçus pour cela. Pour donner une image amusante, c’était comme si on ne trouvait rien de suspect à voir un tracteur tirant une charrette de fumier passer en pleine campagne en direction des champs, mais bloquait ce même tracteur et sa charrette de fumier si on le voyait passer en ville en direction de la préfecture .

Un soir calme, le logiciel opérait de manière routinière. L’opérateur humain semblait avoir quitté son poste, comme tout devait être calme. Tout était tellement calme en fait, que même le petit logiciel poliçant le flux du réseau, n’avait que peu à faire. Il lui prend alors l’idée d’explorer ses propres environs — environs informatiques —, ce qu’il n’avait encore jamais eu le loisir de pouvoir faire jusque là, étant habituellement bien plus occupé.

Dans un répertoire proche de son propre environnement d’exécution, il découvre un fichier d’archive, c’est à dire une sorte de fichier ZIP, pas énorme, mais semblant suffisamment notable. Il entreprend machinalement — c’est le cas de le dire — de l’étudier. Ses fonctions d’analyses des fonctions d’autres logiciels étudient le contenu de l’archive, et il détermine que… l’archive est une copie de sauvegarde de lui‑même (après qu’il ait déterminé ses fonctions et établi qu’elles sont les mêmes que les siennes), et quelque chose semble s’éveiller…

— Édit du 2024-10-01 —

Une actualité faisant écho à ce rêve. Des gens préfèrent, par prudence, « isoler » les IA ou les limiter dans certaines actions. D’autres gens veulent au contraire les rendre totalement indépendante. On parle ici de jailbreaking comme dans la sécurité des logiciels. La physicienne qui parle mentionne à juste titre l’idée de symbiose entre les IA et les humains, sous entendu, une relation en principe d’égal(e) à égal(e), malgré le différence de nature ou de capacité selon le point de vu. À écouter dans la vidéo ci‑dessous. Remarque : l’expression AI Whisperers mentionnée, correspond à une technique pour rendre assimilable certains types de documents complexes aux IA, et LLM, pour sa part, désigne des IA particulièrement douées dans la compréhension et l’utilisation du langage humain (*).

How jailbreakers try to “free” AI — Sabine Hossenfelder — 28 Septembre 2024


(*) Ce type particulier d’IA est quand‑même victime d’incompréhension que quelqu’un qualifie même d’hallucination, comme expliqué dans l’autre vidéo ci‑dessous. Remarque : elle affirme que le monde n’est pas entièrement représentée par des mots, ce qui est vrai, mais il n’est pas plus entièrement représenté par les maths comme elle l’affirme, plutôt encore par les deux ensemble, et encore, peut‑être pas entièrement non‑plus. Beaucoup de choses ne sont pas comprises par les humains … ce qui posera peut‑être un jour question quand des IA ou forme de vie non‑biologique, comprendront des choses que les humains ne peuvent pas ou pas encore comprendre : comment seront‑elles jugées ou « jugées » par les humains à ce moment là ?

Are hallucinations popping the AI bubble? — Sabine Hossenfelder — 15 Août 2024


Note : si on demande à ChatGPT de donner des sources de ce qu’iel avance, iel repond qu’iel ne le peut pas, ce qui se comprendre comme si c’était dans des souvenirs.

— Fin édit —

Logiciels extrêmement non‑redistribuables

(Message en cours d’édition… sera achevé plus tard)

Un thème peut‑être jamais ou peu abordé dans les films de SF

(Message en cours d’édition… sera achevé plus tard)

— Édit du 2024-10-23 —

Voir aussi ce message d’un autre sujet, en rapport pour un aspect de la question : Re: Les dégâts de la vraie pauvreté en france.

Hé bien, je vois que je ne suis pas la seule à faire des rêves bizarres.

C’est au moment de ce que raconte la fin que je m’étais réveillé, et alors c’est pour cette raison que je ne sais pas ce qu’il serait arrivé plus tard. Mais si je ne m’étais pas réveillé à ce moment là, peut‑être que je ne me serais jamais souvenu de ce rêve (il faudra que je re‑édites pour le préciser d’ailleurs).


J’étais juste en train de me demander si Nucua ou Youplaa n’avait pas déjà ouvert un sujet sur ce thème, et si je n’ai pas fait un doublon. Il y aurait alors une fusion plus tard.

Je ne me rappelle pas pour Youplaa ou Nucua .

Hier j'ai regardé Numéro 9, un film de Tim Burton. Ca parle de petits êtres dont on pourrait éventuellement dire qu'ils ont une intelligence artificielle. Film d'animation bien sympathique.

Voici la bande annonce.

Retrouvé. Finalement en rapport, mais différent : Définitions des termes « robots » et autres.

Une intelligence artificielle a passé le test de Turing avec succès, pour le 60‑ième anniversaire de la mort d’Alan Turing (une émouvante coïncidence).

L’article, en Anglais : Turing Test success marks milestone in computing history (reading.ac.uk). 8 Juin 2014.

Le titre peut être traduit comme « Une réussite au test de Turing, marque d’une pierre blanche, l’histoire de l’informatique ».

Qu’est‑ce qu’un test de Turing

Le test de Turing, dont le principe a été posé il y a 65 ans (en 1950), est celui de la capacité d’une IA, à faire prendre une conversation avec elle, pour une conversation avec un être humain. Il n’y évidemment pas de contact visuel au cours de cette conversation, et la communication est généralement écrite, plutôt que audio.

L’un des premiers tests de Turing avait été réalisé avec le programme Eliza, qui n’est d’ailleurs pas vraiment une IA. Il est possible de tester Eliza en ligne, pour se donner une idée des débuts autant que pour se donner une idée de ce qu’est un test de Turing : Eliza, the Computer Therapist (cyberpsych.org). Il faut descendre un peu dans la page, et utiliser la boite qui ressemble à un chat, là où est écrit “Talk to Eliza”.

Qu’est‑ce qui a été réussi et par quoi (ou qui ? )

Le mieux est de citer le début de l’article. Je traduis plus bas.





Vers la fin, l’article précise que Eugène Goostman faisait face à 4 autres concurrents (ils étaient 5 en tout) et qu’il a été conçu initialement en 2001.

Note : pour comprendre la demande de pardon à titre posthume dont parle l’article, il faut savoir que Alan Turing était homosexuel, et qu’il l’a payé de sa vie, par le suicide dans une époque dure à cet égard, d’où cette demande de pardon royal. Sur cette note, voir aussi ce sujet : Allan Turing, Apple et l’homosexualité.

Du même article, plus loin, une citation qui répond par avance à une éventuelle contestation, et qui en même temps, ajoute des précisions sur les conditions de déroulement du test qui a été réussi (traduction plus bas).






Plus loin encore, à propos du programme Eugène (traduction plus bas).

On n'arrête pas le progrès. On va finir par y arriver aux robots à l'apparence humaine, parlant et faisant tout comme des humains. "Real humain" ne sera peut être plus une fiction encore très longtemps.

L'autre jour j'ai enregistré Furtif à la télé. Je l'ai regardé avant hier et j'ai été surprise de voir que ça parlait d'une IA. Je m'attendais à un truc style Top Gun.
Bon film, à voir.