Intelligence artificielle : Danger réel ?

Les armes autonomes existent déjà et leur évolution n’est pas près de s’arrêter. Ces machines, désormais capables de reconnaître les visages, posent des questions juridiques. Leurs opposants les appellent des «robots tueurs», les hommes de l’art des «systèmes d’armes létaux autonomes». Anatomie de ces machines au pouvoir de vie et de mort.

Au sud de la frontière entre les deux Corée, des gardes étranges surveillent la zone démilitarisée. Ils ont été fabriqués par l’industriel Samsung, qui les a baptisés d’un acronyme: SGR-A1. Des robots, bardés de capteurs et de caméras, mais aussi de mitrailleuses et de lance-grenades. A ce jour, c’est l’exemple le plus poussé de «système d’armes létales autonomes» (Sala), même si un opérateur valide toujours le tir.

«La machine peut parfois être plus précise et plus efficace qu’un être humain, surtout dans des situations de grande tension et d’urgence. Elle a des temps de réactivité supérieurs à ceux de l’être humain», commente Gérard de Boisboissel, ingénieur de recherche à Saint-Cyr Coëtquidan (Morbihan) et codirecteur de l’ouvrage Drones et Killer Robots, faut-il les interdire ? (1)

La Navy américaine dispose depuis 1980 de dispositifs cousins des robots tueurs, les «C-RAM» pour «Counter Rocket, Artillery and Mortar». Ils sont «capables de façon autonome d’effectuer leurs propres évaluations pour chercher, détecter, suivre, combattre et tuer», décrit la Marine.
Lire la suite

Jean-Claude Heudin : « Transhumanisme et post-humain, un futurisme teinté de science-fiction »

La course vers l’Homme augmenté est en marche. Auparavant simple fantasme, le post-humain serait, selon certains, sur le point de naître. Futura-Sciences a rencontré Jean-Claude Heudin, spécialiste de l’intelligence artificielle, robots et “créatures artificielles” et directeur du laboratoire de recherche de l’IIM (Institut de l’Internet et du Multimédia) afin qu’il nous parle plus en détail du transhumanisme.

L’intelligence artificielle, ou la défaite de l’être humain

Par Jean-Michel Besnier, professeur d’Université à Paris-Sorbonne, auteur de Demain les posthumains (2009) et de L’homme simplifié (2012) aux éditions Fayard.

L’intelligence des autres est parfois terrifiante. Quand elle vous surprend par sa clairvoyance dans une situation compliquée, quand elle suggère avec élégance des solutions à des problèmes qui vous décourageaient. Un sentiment d’injustice vous saisit alors : « le bon sens n’est pas la chose du monde la mieux partagée ». Mais on se console, en se félicitant que la nature humaine accueille aussi le génie.

L’intelligence exceptionnelle reste humaine, l’autre qu’on admire demeure un alter ego. Qu’en est-il, par contre, de cette intelligence dite artificielle dont Bill Joy, Stephen Hawkin, Elon Musk et Bill Gates redoutent qu’elle mette un terme à l’espèce humaine ?

On s’est amusé d’abord des prétentions des cybernéticiens des années 1950 qui envisageaient de fabriquer un humain artificiel. La reprise de vieux fantasmes issus du Golem s’inscrivait alors dans la dynamique d’un progrès technique dont on attendait qu’il satisfasse les attentes de l’humanité.

L’IA était un adjuvant qui devait fournir des moyens de nous épanouir: les premiers jeux électroniques assuraient les divertissements nécessaires aux hommes modernes ; les premiers systèmes-expert relayaient efficacement le savoir-faire des médecins ou des plombiers ; on attendait de machines à traduire qu’elles nous offrent de communiquer par-delà les frontières nationales…
Lire la suite

La “superintelligence”, un risque existentiel ?

Elle s’en va et elle revient, elle est comme une chanson populaire : la perspective d’une Singularité, d’un remplacement progressif ou brutal de l’homme par ses créations machiniques, s’invite régulièrement dans la blogosphère techno, et pas seulement pendant les mois d’été, quand on n’a aucune info à se mettre sous la dent. Cette fois-ci, pourtant, le débat semble plus fourni et prolongé qu’à l’habitude, à cause de la réputation de ceux qui l’ont relancé : le physicien Stephen Hawking, pas moins, et un groupe d’autres scientifiques de renom.

Ce collectif a en effet publié une “lettre ouverte” sur le site du Future of Life Institute, mettant en garde contre une escalade incontrôlable de l’intelligence artificielle, et encourageant une recherche prudente et réfléchie. Mais en fait, c’est surtout un article du Huffington Post, signé par Hawking, le physicien Max Tegmark (auteur d’un excellent livre, “Notre univers mathématique“), le professeur de sciences informatiques Stuart Russel et Frank Wilczek (prix Nobel de physique 2004) qui se montre le plus alarmiste :

“On peut imaginer une telle technologie déjouer les marchés financiers, dépasser les chercheurs humains, les dirigeants humains et développer des armes que nous ne pouvons même pas comprendre. Alors que l’impact à court terme de l’IA dépend de qui la contrôle, celui à long terme dépend de savoir si elle peut être contrôlée par quiconque.

Donc, face à de possibles avantages et des risques incalculables, les experts devraient sûrement se trouver en train de faire tout leur possible pour nous garantir les meilleures conséquences, non ? Faux. Si une civilisation extraterrestre supérieure nous envoie un jour un message disant: “Nous arriverons dans quelques décennies”, devrions-nous répondre simplement, “OK, appelez-nous quand vous arrivez ici – nous allons laisser les lumières allumées” ? Probablement pas – Et pourtant, c’est plus ou moins ce qui se passe avec l’IA.”

Lire la suite

L’homme bionique

Bertolt Meyer, enseignant de psychologie dans une université allemande, est né sans bras gauche. Aujourd’hui, il mène une vie quasi normale grâce à une prothèse bionique à la préhension très performante. Les technologies bioniques sont porteuses d’immenses espoirs.

À court terme, la vie de milliers d’handicapés pourrait être transformée. De plus en plus performantes, ces prothèses surpassent les capacités humaines et rendent les membres plus forts, plus souples, plus résistants. Mais de l’homme réparé à l’homme augmenté, des questions éthiques se posent.