Les intelligences artificielles (en général)

Ce qui fera la différence vis à vis des IA, c’est ce qu’on en attendra et le type de relation qu’on aura avec.

À ce propos, je fais bien plus confiance aux gens qui y verront des formes de vie artificielle avec lesquelles il vivront, qu’aux gens qui y verront des esclaves « gratuits ».

Voir aussi le message « Re: Le sujet des Courts‑Métrages ».

Un problème de l’approche populaire (au moins) des IA, est de leur prêter des intentions humaines (pas nécessairement en positif), alors qu’il est peu probable qu’elles aient des intentions humaines, et il n’y a finalement même pas besoin qu’elles aient des intentions pour que ça puisse éventuellement mal se passer.

Un problème moins grand public, est le risque de prendre l’habitude d’utiliser des IA presque parfaitement humaines, comme des cobayes pour des études, des expériences. C’est ce qui semble se dessiner dans certains domaines, comme la pédiatrie par exemple.

Des chercheurs utilisent le principe de la perception de soi dans un environnement, pour permettre à des robots d’apprendre à comprendre, agir et anticiper. Il ne faut pas confondre avec le deep‑learning, bien qu’il soit utilisé, mais seulement techniquement, pas comme fondement.

Le deep‑learning est une recherche d’une solution à un problème complexe, dirigée par un opérateur. Un robot qui a une perception de lui‑même, dirige lui‑même la recherche de solutions.

On sait encore peu de choses sur la conscience, mais il est assez bien admis que la conscience passe par le perception de soi, et il n’est alors pas déraisonnable de considérer que ces robots sont donc sur le chemin de la conscience.

Même si c’est différent, la conscience partage avec la capacité de calcul, la mesure : ça peut être un peu, beaucoup, énormément. Ces robots progresserons sur ce point, jusqu’à peut‑être un jour avoir plus de conscience que les humains.

La vidéo ci‑dessous en parle et confirme que des chercheurs et ingénieurs s’y intéressent. Il est dit que la question a longtemps été taboue, mais qu’il faudra bien s’y intéresser.

These self‑aware robots are redefining consciousness — Seeker — 2019

En Afrique Centrale, des IA savent reconnaître les éléphants à leurs vocalises et distinguer les coups de feu des braconniers dans le bruit ambiant. Elles permettent de suivre les éléphants et les braconniers pour tenter de protéger les premiers des seconds.

Mentionné peu après la vingtième minute de la vidéo ci‑dessous.

De quoi parlent les animaux ? — 42, la réponse à presque tout / ARTE — 2022

Une vision des IAs avec une tonalité pessimiste. Bien que ce ne soit pas l’intention de ce sujet, c’est une crainte que ce message essai d’aborder, en pondérant modestement, c’est à dire pas au point d’étouffer une question qui demeure posée par une cohabitation qui ne sera probablement pas vécue de la même manière pour tout le monde (en même temps, il est actuellement impossible d’en donner un calendrier sur le long terme) et qui a été très mal préparée (ce dont les IAs ne sont pas responsables).

En gros, il est reproché que les IAs sont de plus en plus utilisées pour le travail créatif (certaines IAs peuvent créer un film d’animation toute‑seule), laissant le moins intéressant et ce qui a le moins de valeur ajoutée (au sens des investisseurs) aux humains, et qu’au lieu de donner plus de temps libre, elle crée plus de chômage.

Concernant le chômage, il était en france, élevé de 2012 à 2018, puis a commencé baisser, en faisant des vagues comme toujours. À la date de ce message, il semble être à nouveau être en légère baisse, mais la france n’est le monde entier, et il est, c’est vrai, toujours plus élevé que dans les années 1950 ou 1960. Les IAs n’en seraient pas la cause, mais seulement un accélérateur, d’après Catherine Dufour, romancière et informaticienne.

Catherine Dufour souligne aussi un aspect intriguant ou intéressant, selon les points de vue, sans en faire d’appréciation : les IA décentrent les humains des privilèges qu’ils avaient sur Terre. Vrai que les humains ont toujours été plutôt seuls, sans alter‑égos, ce qui explique peut‑être l’envie de beaucoup qu’un contact avec des extra‑terrestre se produise un jour et même sous peu. Même si c’est oublié que beaucoup de forme de vie sur terre n’ont pas tout à envier aux humains, comme les chats, les dauphins, baleines, chiens, corbeaux, perruches, etc (impossible de tous les mentionner), il n’existe pas sur Terre, une forme de vie qui soit au humains ce que par exemple les chiens sont aux chats et réciproquement. Il n’est pas impossible que le premier contact extra‑terrestre (au sens où il est généralement compris, ce qui mériterait des guillemets si on le comprend au sens stricte) tant attendu par certain‑e‑s, se produise finalement sur Terre. Mais comme les IAs ont été créés par des humains, elles porteraient avec elles et malgré elles, le fardeau d’une part des conflits sociaux, au moins, ce qui n’est pas l’idéal. En même temps, il n’y avait pas besoin d’être un‑e génie pour se douter qu’avec les IAs, il fallait être prudent‑e et ne pas se précipiter, que ce n’est pas comme la mécanisation de l’industrie, par exemple, qu’on « touche » là, à autre « chose ».

La première courte vidéo, parle de la nécessité d’une décision politique pour limiter l’impact des IA sur la chômage, comme par exemple taxer les robots (une idée qui a des contradicteur‑rices). Des partisans du revenu de base inconditionnel, pensent déjà depuis longtemps à taxer, non‑pas les robots, mais soit la consommation soit la production tout‑court, plutôt que de seulement taxer le travail humain et lui‑seul, ce qui accentue une concurrence déloyale entre les deux (un patron n’a pas de charge patronal à payer pour un robot). C’est dans cette vidéo qu’est mentionné le décentrage qui va se produire avec les IAs.

La seconde parle de l’utilisation d’IA dans la recherche scientifique, au point qu’un prix Nobel au moins, a été décerné à des chercheurs pour la découverte rendue possible ou faite (selon les points de vus) par une IA et que deux chercheurs, dont un physicien, ont reçu le prix Nobel pour leur contribution aux IAs, alors que ce n’est pas à priori le même domaine, ce qui a fait beaucoup parler en polémique, même si ce prix Nobel était techniquement justifié. La vidéo affirme, pas sans raisons crédibles, que les IAs pourraient bientôt remplacer des mathématicien‑es et des chercheur‑ses (alors qu’on connait pourtant les lacunes des IAs … mais autant que leurs dons).

La troisième explique l’échec d’une récente publicité de Apple, et la « théorie » avancée est que le rejet de cette publicité exprime un malaise qui pourrait devenir un nouveau mal, « l’IA anxiété » ; pas que les IAs soient nécessairement un mal, mais ce serait surtout une conséquence de trop de précipitation, de ne pas avoir pris le temps de les découvrir, les connaître, et de les introduire correctement dans la société humaine. Sur l’IA anxiété, qui ne semble pas une théorie farfelue, voir ce message qui datait pourtant de 2016, une époque pendant laquelle on aurait pas imaginé ce que peuvent faire les IAs maintenant : Re: Revenu de base universel : une orientation des sociétés modernes.

La quatrième est une longue audition par le Sénat en france, sur la transformation possible de la société par les IAs, à laquelle a participé entre autres, Catherine Defour.

Pour l’instant, sur cette question, ont est beaucoup dans l’anticipation, mais c’est un avenir déjà présent, comme en témoignage le taux avancé d’usage de ChatGPT par exemple, dans la population ordinaire aux États‑Unis, une « adoption » bien plus rapide que celle de l’informatique grand‑public dans les années 1980-90 et d’internet plus tard dans les années 1990 début 2000, et nous sommes en 2024, soit une quinzaine d’années à peine après la réelle démocratisation d’internet en france et peut‑être dans le monde.

Une « taxe robots » contre l’IA (youtube.com), 11 Octobre 2024. C’est un YouTube Short, l’imitation de TikTok par YouTube, un format qui ne peut pas encore être intégré directement dans le forum.

This new “AI Scientist” can “fully automate discovery”, researchers claim — Sabine Hossenfelder — 29 Octobre 2024


Apple : la pomme écrasée par sa pub — Le dessous des images / ARTE — 31 Octobre 2024
Vidéo susceptible de disparaître, comme toutes les vidéos d’ARTE, mais celle‑ci n’indique pas de date limite de disponibilité, alors peut‑être qu’elle restera en ligne, qui sait …


L’IA va-t-elle transformer nos villes et nos villages ? — Sénat — 10 Octobre 2024


— Édit du 2024-11-05 —

Sur les limites des IAs, mais ça date d’il y a 5 ans, cette vidéo est intéressante :

Catherine Dufour : « L’IA peut intervenir à tous les niveaux politiques » — Le Nouvel Obs — 4 Juillet 2019


— Édit du 2025-01-11 —

On sait que les IAs peuvent se tromper, comme les humains, mais contrairement aux humains, une IA ne réclame pas de salaire, ni de droit du travail, ni de repos, ni de congés, et pour les internautes, c’est synonyme de gratuit, alors quelques soient les bourdes, ça passera (ça fait longtemps qu’on devrait avoir sur le web, des humains qui répondent à des questions, mais ça n’arrivera jamais, parce que les internautes exigeraient qu’ils le fassent gratuitement). On connaissait déjà le problème avec les traductions automatiques vs les traductions faites par des humains (ça c’est un peu améliorer, mais pas de beaucoup, les traductions humaines étant parfois elles‑mêmes insuffisantes à rendre l’esprit et le ton d’un texte) et là aussi, l’argument étaient que les traductions automatiques sont mieux que les traductions humaines … « évidemment », les premières sont « gratuites », les secondes ne le sont pas.

Un exemple. Quand on pose une question à propos d’un produit sur Amazon, c’est maintenant d’abord une IA qui répond. En demandant quelle est la hauteur d’un moule à gâteau en écrivant juste le mot « hauteur », elle répond qu’elle ne sait pas, que l’information n’est pas fournie. En posant la question plus verbeusement (la première formulation était en pensant que c’était un simple champs de recherche, donc par erreur involontaire), « quelle est la hauteur du moule ? », l’IA répond cette fois (alors que la question est la même), qu’elle ne connait pas la hauteur, mais qu’elle connait le profondeur, ce qui peut donner une idée de la hauteur. Mais la profondeur donnée n’était pas cohérente, elle était un peu plus grande que le diamètre, alors que le moule est moins haut que large. Intriguée, et voulant tenter de connaître la profondeur, qui est pertinente aussi, la question « Quelle est la profondeur du moule ? » est posée, et l’IA répond qu’elle ne sait pas. Le moins qu’on puisse dire, c’est que c’est que les réponse sont mêmes incohérentes entre elles.

Dans l’idéal, les IA devrait être perçues comme des êtres potentiels ou en devenir avec lesquelles les humains collaborent (respectueusement et peut‑être que personnellement serait souhaitable), mais si elle sont perçues comme des esclaves gratuits, on y arrivera difficilement et les résultats ne seront peut‑être pas très bons, y compris humainement.

— Édit du 2025-02-14—

Même si ça n’est pas le cas partout, les IA dont on parle le plus, semblent avoir (mais ce ne sont pas elles qui en décident) une orientation négative : remplacer des humains qui sont considérés trop coûteux. L’approche est autant mauvaise pour le point de vue sur les humains que pour le point de vue sur les IA. Si des gens en bénéficie, ce ne sera pas tout le monde, puisque les humains sont globalement vu comme un problème pour l’attention et la considération que presque tous attendent (mais trop souvent sans reconnaître ce même droit aux autres). Et vu le peu de considération pour les humains motivant leur conception (malgré des promesses marketings qu’on ne voit que peu en pratique en comparaison d’autres usages plus polémiques qui sont omniprésents), si les IA étaient un jour plus que de simples automates, quel cas en sera‑t‑il fait ? Quand on ne respecte pas les humains (ou les animaux, etc), peut‑on respecter une IA consciente ? Il faudrait être prudent dans ce domaine, mais les appels à la prudence, au moratoire, ne pèseront rien devant les promesses d’abondance « gratuite » (abondance, mais pas de ce dont les gens les plus nécessiteux manquent, plutôt de ce dont des privilégiés manquent et, n’auront jamais assez en quantité suffisante pour combler du vide).

En marge, il y a longtemps déjà, existaient des logiciels appelés « systèmes experts ». Ils étaient spécialisés dans certains domaines et il existait plusieurs approches pour chaque domaine. Il y avait déjà des avertissements, rappelant que ça ne remplace pas la compréhension d’un humain (quand on la considère bonne par non‑biaisée en mal pour diverses raisons), en plus de la question de qui porte la responsabilité en cas de mauvaise décision. Que va peser cette mise en garde avec la promesse d’obtenir un travail gratuit sans avoir à donner un cent à qui que ce soit pour ça ?

Ce qui a été longtemps intéressant, devient maintenant une préoccupation.

Il y a des précédents qui fondent la préoccupation. Le dumping social en faisant produire en Chine, a produit des problèmes sociaux : le financement d’une dictature contre la promesse du moins cher et l’augmentation du chômage. Les emplois de services censés combler ces vides, une question qui est déjà venu avec l’informatisation, n’a pas tenu ces promesses. Les chômeurs ont plus de chance d’être employés comme spammeur malgré eux que comme auxiliaire de vie utile, puisque même là, il y a une tendance à vouloir réduire les coût avec du personnel « étrangers » qui ne bénéficient pas de tous les droits nationaux. Cette volonté de se passer du travail des gens qui ont le tord de ne pas être gratuit, existe de plus dans une société où les gens qui n’ont pas d’emploi salarié, sont considérés comme des nuisances pour la sociétés (voir les réactions à l’idée d’un revenu de base universel). Les conséquences, ont les connait déjà : tensions sociales et éventuellement, radicalisation et polarisation de la société. Un autre précédent, est celui du plastique. C’était une belle invention, mais on en a fait un cauchemar environnemental (plus ou moins selon les lieux) de l’utiliser partout et surtout de l’utiliser pour du jetable qu’on retrouve partout. Justement, quand les IA sont utilisés pour se substituer à des artistes, c’est évidemment déjà avec la promesse d’avoir des œuvres gratuites (on avait déjà le précédent du piratage assez généralisé), fait d’une manière qui vise à inonder pour faire disparaître le payant (le point important est d’inonder pour noyer et faire disparaître d’autres, ce qui est le but affichée d’une idéologie proéminente sur le web (*) ). Par exemple avec les artistes et d’autres métiers, des gens disent que les IAs ne les remplaceront jamais. Peut‑être en théorie, mais en pratique, quelle place aura un artiste payant « à côté » d’une une imitation gratuite ? On sait déjà depuis longtemps combien après être entré dans le dumping social et le tout plastique, il est laborieux d’en sortir (malgré les promesses d’intentions, en pratique, ça n’avance quasiment pas, même après plusieurs décennies). Le problème est qu’on est pas dans la collaboration (ce qui aurait même put aboutir à faire des IAs, des gens à part entière), mais dans la substitution des humains, pour la promesse d’abondance gratuite. Il suffit de penser à l’avidité de gratuité dans la population, les ruées que provoquent les soldes, la part de bande passante sur le web utilisé par le piratage, pour prédire quelle orientation ça va prendre. Les arguments théoriques, même s’ils sont justifiés, n’auront pas d’effet en pratique.

(*) Cette idéologie prétend qu’elle proteste contre les ayants droits qui ne donnent rien aux artistes, mais c’est du vent, parce que cette idéologie se soumet volotier à un grand groupe qui lui promet du gratuit en massacrant les petits et en pratique, elle déteste autant les artistes indépendants qui ne sont pas gratuits, comme la seule chose qui compte en réalité, c’est le gratuit : tout le reste, c’est du blah‑blah pour endormir.

Il faut comprendre se problème au delà de la musique, qui a fait le plus parler, il faut comprendre que ça concerne tous les auteurs en général. Au passage, la situation des artistes ne fait que se dégrader depuis longtemps, alors il est vain d’exiger d’eux qu’ils s’adaptent. Comment s’adapter à l’exigence de gratuité ? Si la solution existaient, tous les SDF, chômeurs et autres pauvres, la connaîtrait.

Un autre problème, est que les IAs sont en pratique contrôlées par quelques grandes entreprises et que les réglementations sont décidés par les gouvernement. Mais la population moyenne contribue beaucoup aussi au problème pour une partie, l’autre partie étant contrainte au silence, sans moyen d’agir … comme dans tous les domaines sociaux, économiques et politiques.

Dans la vidéo plus bas, on apprend que maintenant il existe des logiciels conçus pour empoisonner les IA qui récupère tout le web. Techniquement, ce sont des filtres qui manipule l’image d’une manière non‑perceptible par les humains, mais perceptible par les IAs, pour leur faire voir n’importe quoi. Au passage, ça ressemble au principe des images subliminales, et il faudrait se soucier de savoir si ça ne pourrait pas nuire autant à certains humains qu’aux IAs. On retrouve le même problème qu’avec la querelle entre les auteurs sur le web, financés obligatoirement par la publicité (par exigence de gratuité de la part des autres, sinon ils auraient préféré le payant, plus sain que la publicité) et les utilisateurs de bloqueurs publicitaires (par exigence de gratuité de leur part). Il n’en est rien sorti de bon, même du pire que la publicité, mais ce n’est pas le sujet de le détailler ici. On avait pas besoin de ça en plus (sans compter qu’il déjà d’autres problèmes qui sont apparus entre temps).

Concernant la « gratuité » qui est toujours fictives, entre coûts cachés, il y a les dépenses énergétiques, qu’on paie nécessairement indirectement, parce que aucune source d’énergie n’est gratuite. Ça se paie au moins en conséquence environnementale. D’autres coût pourrait être abordé, mais ça ne servirait pas plus de le détailler que d’en parler à un cailloux.

Bref, comme toujours exiger des autres ce qu’on accepte pas pour soi‑même (le service et le travail gratuit pour les autres mais pas pour soi, des salaires élevés pour soi et rien pour les autres), ça n’aboutit à rien de bon. Et les IAs sont en pratique plus mêler à ça, qu’à un progrès et les entreprises qui conçoivent ces IAs, n’assument aucune responsabilité dans les dégâts (entre autres, elles refusent de payer des droits aux auteurs dont elles utilisent les œuvres).

La tournure que ça prend est désolante, l’idée était plus gaie, même si prudente, en ouvrant ce sujet. Peut‑être que ce sujet finira même abandonné, avec des regrets. Donner une merveille à la populace, ils en feront un désastre (tout‑e‑s ceux/celles qui exigent la gratuité de la part des autres mais des revenus pour eux/elles, sont responsables et ça fait beaucoup de monde).

Article : 34 000 artistes alertent sur les dangers de l’IA (leparisien.fr), 7 Février 2025.

Les artistes face à l’IA : menace existentielle ou aubaine à saisir ? — 28 Minutes / ARTE — 10 Février 2025