Les intelligences artificielles (en général)

Je me faisais remarquer que les IA seront peut‑être plus douées que les humains pour rapidement distinguer ce qui est organiques de ce qui ne l’est pas. Ce serait presqu’ironique …

La police française va se doter d’IAs, pour accélérer les identifications et lutter contre la criminalité en ligne : La gendarmerie va faire appel à l’IA pour l’aider dans ses missions (msn.com), Février 2019.

La ville de San‑Francisco aux États‑Unis, a interdit la reconnaissance faciale par des IAs.



San Francisco, première ville américaine à interdire la reconnaissance faciale (msn.com), Mai 2019.

Avec les IA, je ne sais pas si ce qui m’inquiète le plus, est qu’elles puissent être conçues pour servir les desseins d’animaux — le citoyen moyen— ou que ces animaux presqu’inconscients puissent être à leur merci.

Mais ce ne sont pas les deux seules alternatives imaginables. On verra ; d’ici là, il n’y a que de la spéculation.

Les IA sont passés de la reconnaissance des visages sur des images, à la modification de visages sur des images, y compris animées.

Un deepfake est le nom donné à des manipulations vidéos, tellement réalistes qu’on ne peut dorénavant plus faire confiance à ce qu’une personne dit dans une vidéo, à moins d’avoir confiance en la source, et de s’assurer que la vidéo vient bien de la source annoncée.

Depuis récemment surtout, une nouvelle IA permet de la même manière de faire dire à une personne des choses qu’elle n’a jamais dit, plus facilement que ça ne l’était avant. Que ce soit avec cette IA ou une précédente, deux célébrités au moins en ont été sérieusement victime : Mark Zukerberg et Nancy Pelosi. Ça risque malheureusement de ne pas s’arrêter là. On est passé des journaux de fausses informations pour faire rire, aux fake news, on est peut‑être maintenant en train d’entrer dans l’ère de la suspicion généralisée.

Voir :

• Deepfake : ce nouvel algorithme crée des vidéos truquées inquiétantes (futura-sciences.com), Juin 2019.
• Why it's getting harder to spot a deepfake video (cnn.com), Juin 2019.
• Mark Zuckerberg à son tour victime d’une vidéo truquée (msn.com), Juin 2019.
• Une vidéo trafiquée de Nancy Pelosi relayée par des proches de Trump (lefigaro.fr), Mai 2019.

Un livre de référence pour avoir une idée du paysage dans le domaine des IA, « Quand la machine apprend » (odilejacob.fr), par Yann Lecun, aux éditions Odile Jacob, première édition en 2019. Le livre existe en version papier et en version e‑book.

Le livre est réaliste, l’auteur ne romance pas, il n’essai pas de faire rêver.

Pour les 250 ans de Beethoven l’année prochaine en 2020, sa dixième symphonie à peine esquissée, sera achevée par une intelligence artificielle : La 10ᵉ symphonie de Beethoven sera composée par l’intelligence artificielle (msn.com), Décembre 2020.

Il y a longtemps, j’avais noté cette référence, que je rapporte ici : Autómata, un film Hispano‑Bulgare, de 2014.

L’humanité n’est pas prête pour les intelligences artificielles, pourtant elle y va inéluctablement.

Can we build AI without losing control over it? — TED / Sam Harris — 2016

On se lance dans les IA alors qu’on ne maîtrise même pas encore la conception des logiciels conçus avec des algorithmes plus aisément déterministes, qui ne sont pas dépourvus de bug ; ces risques de bugs ça seront pourtant pires avec les intelligences artificielles.

The danger of AI is weirder than you think — TED / Janelle Shane — 2019