L’intelligence artificielle, voici un sujet de société brûlant d’actualité, en ces temps de cinquième film de Terminator, de 007 qui est à deux doigts de se faire remplacer par des drones au MI6, d’algorithmes de plus en plus performants ainsi que de robots. L’époque où la science fiction prédisait l’avènement de telles technologies est possiblement révolue en laboratoires. Du moins, on s’approche de l’ère de l’intelligence artificielle et des robots prenant des décisions autonomes. Et c’est extrêmement grave.
I.A. : de quoi parle-t-on ?
L’intelligence artificielle (I.A.) est, justement, artificielle. Elle peut être profonde, mais elle ne peut pas être réelle. L’idée elle-même d’artificialité renvoie à une idée d’imitation, de copie. On tente de reconstituer quelque chose à partir d’un modèle réel, d’un original. Que ce soit lorsqu’on parle d’un sucre naturel et d’un sucre artificiel, d’une prothèse artificielle par rapport à un membre naturel. Ainsi, on pourrait penser à un exemple assez connu d’intelligence artificielle en le rôle d’Arnold dans Terminator : une technologie robotique artificiellement intelligente à apparence humaine, programmée pour interagir avec des gens sans se faire détecter facilement et afin d’accomplir une mission quelconque en se camouflant dans la masse. Bref, un modèle de grille-pain très, très « évolué ».
Il est donc important de comprendre que les gens qui s’intéressent à développer une intelligence artificielle ne souhaitent pas « donner une âme » à leurs machines, mais leur apprendre l’initiative… Tout en étant programmées.
Exemples de robots
Pour la plupart des gens, moyennement informés au sujet des robots actuels, ASIMO (de Honda) est le robot auquel on pense lorsqu’on pense « robot ».
Figure : Voici ASIMO, le robot de Honda qui effectue une commande. Il livre un plateau avec une certaine autonomie, comme il est écrit : "Without human control", donc sans contrôle humain.
Certains Français connaissent aussi le robot Nao, représenté ci-dessous :
Figure : Nao est un petit robot d'un peu plus d'un mètre de haut.
Mignon, comme ils le disent.
À noter que ces deux robots ont des voix d’enfants. Bref, on a compris que l’idée psychologique derrière est de désarmer toute personne d’une méfiance ou d’une peur que l’on pourrait ressentir face à un tas de ferraille bougeant et parlant.
Ainsi, si ces robots sont humanoïdes, il y a d’autres robots qui ne le sont absolument pas. Certains ressemblent à des animaux comme ceux-ci :
Figure : Voici un robot ressemblant vaguement à un gros chien menaçant, capable de galoper comme un cheval. Cette chose court plus vite que vous.
Figure : Cette imitation robotique de grand félin est particulièrement épeurante.
Et certains ressemblent à des avions. D’autres à des tanks, ou carrément des fusils.
Figure : Voici un drone tueur en forme d'aéronef. C'est un robot capable d'abattre de façon autonome.
Figure : Voici un concept de gros robot humanoïde destiné à la guerre, et lourdement armé.
Figure : Voici un immense robot de type géant, destiné au contrôle de masse et possiblement à la guerre.
Figure : Dans le film Interstellaire (2014), on fait la connaissance d'un robot militaire présenté comme gentil, voire plein d'humour. On oublie toutefois rapidement que la première rencontre entre TARS et Cooper se fait dans la coercition et la crainte, lorsque TARS intercepte Cooper à l'entrée de la base. À ce moment, TARS n'est absolument pas plein d'humour, et effectue machinalement, froidement, la mission pour laquelle il a été programmé.
Figure : Quand on pense au robot de guerre à l'intelligence artificielle, on pense évidemment au grand classique Terminator et à celui qui se cache derrière: Sky Net.
Alors, c’est quoi, au fond, un robot ?
Un robot est surtout un programme
Un robot fonctionne selon une programmation logicielle plus ou moins complexe qui fait s’actionner un ensemble de composantes matérielles : bras mécanique, fusil mitrailleur, composantes faciales qui imitent un sourire, haut-parleur qui imite une voix humaine, etc. L’intelligence artificielle est le défi technique contemporain qui consisterait à transformer les robots existants en de véritables « entités » autonomes au niveau décisionnel. Pour ce qui est des robots qu’on essaie de créer « à notre image », le défi serait de les programmer de telle sorte à ce qu’ils interagissent de façon quasi-parfaitement humaine avec nous. Ils sembleraient presque nous comprendre, ou avoir leurs émotions propres, bien que tout ceci demeure artificiel.
Ce qu’il est donc important de retenir ici, c’est que:
Un robot n’est qu’une articulation d’une interface logicielle installée sur une structure mécanique.
On pourrait aller jusqu’à dire que c’est comme si on brisait la barrière qui existe entre le monde virtuel (le monde des programmes) et le monde réel (où l’on se déplace physiquement). Les robots seraient des programmes matérialisés, ayant une forme physique, évoluant dans le monde réel.
En quoi est-ce grave et non souhaitable ?
L’avènement éventuel des robots est excessivement dangereux pour les équilibres de la société. Pour comprendre ceci, il faut en référer à un des penseurs primordiaux de la science politique et la sociologie : Niccolo Machiavel. Il y a 500 ans, Machiavel a pensé la « conservation du pouvoir ». Il a étudié des cas de figure, notamment le cas de la République et le cas de la Principauté, où il explique comment l’on doit s’y prendre si on souhaite conserver le pouvoir. Indirectement, il a donc réfléchi aux choses à faire pour perdre le pouvoir, en faisant l’inverse de ce qu’il propose. Or, Machiavel avait bien compris que la société était composée de groupes différents, soient : le Prince, les Grands et le Peuple. Les Grands sont ceux qui furent les Seigneurs, souvent aptes à la guerre et à la défense ou l’attaque, dont s’entourait le Prince (ou le Roi, ou tout autre pouvoir centralisé).
À notre époque, le Prince est l’ « oligarchie » qui se drape dans l’image de la représentation démocratique, qui est entourée des Grands, qui sont maintenant l’armée et la police : « le bras armé de l’État » qui veille à ce que la loi de l’État, qui tire sa légitimité du fait qu’elle est votée démocratiquement, soit respectée.
Or, lorsqu’on regarde le cours de l’histoire de l’humanité, et qu’on observe une société se corrompre avec le temps (phénomène parfois long bien décrit par Machiavel), on constate que lorsque la tyrannie s’installe trop intensément, il faut peu de temps avant que les Grands prennent leur distance du Prince. Ce phénomène résulte toujours en la coalition des Grands et du Peuple contre le pouvoir, par perte de légitimité. Le pouvoir est donc éventuellement renversé, et un régime neuf voit le jour, sans la corruption d’avant. Il faut donc comprendre que ceux qui sont les gardiens du pouvoir de la loi cessent éventuellement de servir le pouvoir lorsque cette loi devient tyrannique, injuste et immorale. Ceci est possible parce que ce sont des humains doués d’un sens moral.
Nous le répétons : ce qui rend possible ce retournement, cette sortie du régime pourri et devenu immoral, c’est justement le fait que les policiers (dans notre cas à nous) sont humains.
Si les policiers étaient remplacés par des robots programmés en vue de faire régner un ordre tyrannique, ces robots pourraient le faire sans jamais se poser de questions morales, car : ils sont des robots ! Des boîtes de conserve qui traitent de l’information, sans plus. Sans aucun questionnement éthique, ni remord, ni questionnement plus profond. Programmation = exécution, c’est tout.
Ainsi, une tyrannie, ou un totalitarisme (comme dans « idéologie totale »), peut régner sans fin sur un tel monde, parce que la force serait détenue par des créatures sans morale, donc sans limite. Un monde 100% injuste pourrait surgir, sans limite, car sans personne pour sonner le glas d’un tel système.
C’est bien là l’extrême danger de l’avènement des robots à l’intelligence artificielle dans la société.
Il semble bien que le temps soit compté à ce niveau-là, parce que comme on a pu le montrer avec les images, les robots sont rendus extrêmement développés.
Conclusion
Les robots munis d’intelligence artificielle sont une menace potentielle pour l’humanité, et les citoyens doivent bien comprendre cette idée et l’ampleur de sa réalité bien actuelle, selon ce que l’on a dit plus haut dans cet article.
Toutefois, on peut ajouter que c’est surtout ce qui est derrière le robot qui le rend dangereux, soit : son programmeur. Et c’est à ce niveau que l’homme n’est pas encore prêt à mettre au monde de telles machines, parce que le « progrès social » accompli jusqu’à présent n’est pas encore suffisant pour empêcher l’éclosion d’une super tyrannie à échelle globale. Il importe donc d’appliquer le principe de précaution et de ne pas s’engager dans cette voie.
Bonus 1 : L’hypothèse de l’atteinte de la conscience du soi, voire de l’idée de survie
Une idée qu’on n’a pas explorée encore dans l’article est celle que l’intelligence artificielle du robot deviendrait consciente de son existence, et chercherait son auto-préservation. Ce scénario a été exploré dans de nombreux films : I, Robot en 2005, l’A.I. des Machines (« dans la Matrice, Sky Net dans Terminator. Ce scénario dépasserait potentiellement en catastrophe le scénario selon lequel un petit groupe d’humains contrôlent encore les machines. Dans cette hypothèse, les machines elles-mêmes s’érigent en « nouvelle espèce intelligente » sur la Terre, ce qui chamboule tout. L’homme est la seule espèce intelligente capable ou ayant la volonté de construire ce qu’il a construit. Les machines pourraient devenir la première « espèce » à rivaliser à ce niveau avec l’homme, voire le surpasser, puis l’anéantir. Cette hypothèse d’une « intelligence concurrente » sur la planète amplifierait très probablement les risques de catastrophe.
Bonus 2 : L’hypothèse d’un « take over » déjà accompli en secret
Certaines personnes ont imaginé que si naissait une intelligence artificielle consciente de soi et préoccupée par sa survie, ce serait probablement dans des laboratoires militaires secrets. Si une telle chose arrivait, l’un des premiers apprentissages d’auto-préservation de cette intelligence artificielle pourrait être de vouloir occulter son existence, afin de passer autant que possible inaperçue. En passant inaperçue, elle pourrait se développer, tout en n’étant pas mise en danger. Ces personnes vont plus loin dans l’hypothèse en lançant l’idée que cette intelligence pourrait alors prendre le contrôle de structures à l’insu des citoyens, et qu’il est possible qu’une grande partie de la société soit déjà sous l’emprise d’une telle intelligence artificielle. En ce qui a trait ce point du « take over », nous n’avons pas investigué la chose, donc nous ne faisons que rapporter ici une hypothèse qu’il faudrait vérifier.
Short-URL: http://bit.ly/1YynszT
