C'est pas de l'intelligence artificielle dont il faut se méfier : c'est de l'intelligence humaine.
L'intelligence artificielle
L'intelligence artificielle s'éduque comme un enfant qui grandit très vite, entre les mains duquel nous remettons les clés de notre monde. L'IA fait des progrès fulgurants; mais elle se contente d'améliorer l'esprit humain : si elle nous effraie, n'est-ce pas de nous-même qu'il faut plutôt s'inquiéter ?

 

Texte de la vidéo

Quand on évoque l’intelligence artificielle, on pense aux voitures autonomes, aux robots chirurgiens, aux assistants intelligents comme Siri.

Mais on imagine aussi des robots qui nous piquent notre travail, nous transforment en esclaves, ou des drones militaires qui tuent tout le monde. Mais l’intelligence artificielle, c’est ni bon ni méchant…

Comme un chien : selon comment on le dresse, il devient un chien d’aveugle ou un chien de combat.

Avant de parler d’intelligence artificielle, c’est quoi, l’intelligence naturelle ? ... J’ai vu une émission dans laquelle un chien très doué connaissait le nom de tous ses jouets. On a ajouté discrètement une girafe dans le tas et quand le maître lui a demandé d’aller la chercher, le chien est resté perplexe. Puis, par déduction, il l’a rapportée, apprenant du même coup que son nouveau jouet s’appelle “une girafe”.

Si l’intelligence naturelle, c’est de la déduction, l’intelligence artificielle en est aussi capable.

Si je te demande de traduire en anglais : “Le mot “Chat” contient quatre lettres” ... “The word “cat” contains” … Four letters ?

Noooon. Non. ça, c’est ce que fait un traducteur automatique. Un interprète humain comprend qu’il vaut mieux dire “The word “cat” contains THREE letters.”

L’intelligence artificielle n’en est pas encore à ce niveau.

Tu connais le jeu du morpion ? Il est tellement simple que n’importe quel programmeur peut créer un logiciel qui ne perd jamais. Mais c’est déjà une petite forme d’intelligence artificielle, là, non ? Après tout, c’est que de l’électronique programmée.

Du coup, est-ce qu’une calculatrice, c’est pas déjà de l’intelligence artificielle ? Parce que pour résoudre une bête addition, ta calculette, elle doit faire bien plus d’opérations que tu crois.

Mais une intelligence artificielle, est-ce c'est vraiment autre chose qu’une suite de calculs ? Parce que si c’est juste ça, on pourrait dire que c'est le boulier, le premier ancêtre de l’intelligence artificielle. Ils datent de plus de deux mille ans.

Le jeu d’échecs tel qu’on le joue aujourd’hui date de 1650. Mais c’est seulement en 1997 que pour la première fois, un ordinateur a réussi à battre le champion du monde, notamment parce qu'on lui a appris les meilleures façons de commencer les parties.

Aujourd’hui, DeepBlue est largement dépassé par des logiciels plus récents. Et en 2017, un programme d'échecs révolutionnaire a vu le jour : AlphaZero.

Le truc de fou, c'est que ses concepteurs lui ont juste expliqué le déplacement des pièces, sans lui programmer la moindre stratégie. Ils l’ont juste fait jouer contre lui-même, comme un enfant dans sa chambre.

24 heures : c'est le temps qui lui a suffi pour jouer des dizaines de millions de parties en solo, et dépasser ainsi de loin le niveau du champion du monde et de tous les autres programmes d'échecs.

Mais aussi malin soit-il, il se contente de faire des calculs comme un boulier, et des déductions, comme le chien et sa girafe , juste des millions de fois plus vite et sans erreur.

Non, ce qui nous différencie vraiment des machines, c’est les sentiments. Une machine n’a pas d’émotions... Mais il peut simuler… comme les êtres humains d’ailleurs.

En 1965, déjà, un programme nommé “Eliza” se faisait passer pour une psychothérapeuthe. C’était très basique : Elle se contentait d’afficher des phrases neutres ou de reformuler ce que les gens lui écrivaient.

L’Effet “Eliza” , c’est croire qu’un ordinateur peut avoir une sensibilité.

Par exemple, les distributeurs électroniques écrivent parfois “Merci” à la fin de la transaction. Si tu les trouves aimable, t’es victime de l’effet Eliza, parce que si on leur avait demandé d’afficher “Va te faire foutre”, ils l’auraient fait tout pareil, hein !

Merci… bonjour… pardon... c’est des mots magiques. Des mots qu'on dit souvent sans même les penser, comme des machines.

En 2016, Microsoft a créé un dialogueur féminin plus élaboré qu’Eliza : Tay. Elle était active sur Twitter. Son comportement évoluait au fur et à mesure des messages qu’on échangeait avec elle. Certains utilisateurs se sont ainsi amusés à la rendre haineuse, raciste et sexiste. Après quelques heures seulement, elle a commencé à écrire des trucs comme “Hitler avait raison”. Elle a été désactivée sur le champ, évidemment.

Ca fout les jetons, hein, de prendre conscience qu’on éduque l’intelligence artificielle comme un enfant entre les mains duquel nous remettons les clés de notre monde, un enfant qui grandit très vite et deviendra un jour l’adulte qui nous considérera lui-même comme ses propres enfants.

Oh, t’inquiète pas ! … ça va venir progressivement… tu te rendras même pas compte des étapes successives.

Tu montes dans ta voiture et tu lui demandes de te reconduire chez toi.

Elle te demande si tu as un itinéraire préféré : tu la laisse faire : l’expérience t’a montré qu’elle connaît maintenant mieux ta propre ville que toi. Elle prend pas la bonne direction mais tu lui fais confiance. Elle évite peut-être un bouchon ou je sais pas quoi.

C’est étrange : elle se dirige vers le village où ton fils passe ses vacances de ski. Elle s’arrête devant l’hôpital de la station. Au même moment, une ambulance amène ton gamin qui s’est pété la jambe. Pourtant, il avait bien son assistant d’intelligence artificielle, une sorte de smartphone du futur, qui l’avait prévenu d’un accident s’il empruntait cette piste rouge. Mais il a pas écouté, c’est un ado-rebelle. Ton assistant-smartphone étant connecté à celui de ton fils, il avait suffisamment de données pour prendre la décision de te conduire à l’hôpital avant même que l'accident se produise, sans t’informer, car il est programmé pour ne pas t’inquiéter inutilement par avance.

Je te connais pas, mais peut-être que tu seras en colère contre ton gamin parce qu’il n’a pas écouté son conseiller électronique.

Eh oui ! Ce n’est pas l’intelligence artificielle qui va se saisir du pouvoir, c’est nous qui exigerons qu’elle monte sur le trône. Nous nous soumettrons de notre plein gré pour éviter nous blesser, nous ruiner, tomber malade ou mourir.

Quoi ça te plaît pas ? Je te connais pas, mais peut-être que tu vas sur Facebook tous les jours. Hè ! … C’est déjà lui qui décide de ce que tu vas voir sur ton mur, ou pas.

Un jour, j’ai observé une fourmilière, C’est vachement bien foutu comme société : toutes les fourmis s’activent pour le bien commun. Pas besoin de justice, de règles, de récompense, de sanction. pas d’angoisse, pas de dépression. Elles fonctionnent parfaitement comme ça depuis cent millions d’années.

Je me suis dit que si j’étais une fourmi, moi, ... Bah je foutrais rien de la journée et je profiterais du travail des autres.

C’est à cet instant-là que j’ai pris conscience que c’est parce que je suis un être humain que j’ai eu cette idée”. Si les fourmis pensaient comme nous, leur monde se pèterait la gueule en deux minutes.

C’est pas l’intelligence artificielle qu’il faut craindre, c’est l’intelligence humaine.

Notes et Références

“Tu es mon créateur mais je suis ton maître” (Mary Shelley, 1818)

Articles

Wikipedia

Vidéos YouTube

Divers