Autonomie

La question de l’autonomie est d’actualité : armes autonomes, voitures autonomes, justice rendue par algorithmes, robots journalistes, art et design robotisés, etc.

L’autonomie d’un être humain n’est jamais totale  (Luther, La Rochefoucauld, Freud…), et jamais nulle (Sartre, l’acte gratuit).

C’est vrai aussi pour les machines.

Deux publications récentes présentent cette variation « continue » de l’autonome, depuis « nulle » jusqu’à « totale » :

- Seidel et al. Autonomous Tools and Design. A Triple Loop Approach to Human-Machine Learning. Une équipe d’universitaires australiens.

- Scharre : Army of None. Un militaire qui a connu le terrain, un livre listant méthodiquement les différentes armes autonomes au fil des décennies.

Le modèle de Scharre comporte trois caractéristiques :

1 . L’homme est-il dans la boucle, sur la boucle ou en dehors de la boucle. Ici le troisième cas.

2. Les dimensions spatiale et temporelle de l’autonomie. Trois exemples : la flèche de Guillaume Tell ne vise qu’un point, proche, et à un moment donné ; le missile de croisière va loin et peut adapter sa trajectoire à ce que ses capteurs lui indiquent ; le drone « rôdeur » se voit affecter une zone d’intervention et une durée de mission.

3. Degré d’intelligence.
Scharre nous laisse un peu sur la faim. Pour un militaire, le « but » particulier découle assez simplement d’un but général. Cependant il peut tout de même y avoir des objectifs contraires/contradictoires :
- qui est vraiment la cible- préservation du drone et/ou protection contre la prise de contrôle par l’adversaire
- choix entre une mission plus large, plus rapide, ou plus longue;
Ne pas oublier que le rationnel a ses limites, dans la décision (dilemme du tramway) comme en mathématiques (Gödel).
En droit, le code est complété par la jurisprudence et l’intime conviction du juge… autrement dit, le « learning ».

Le learning selon Seidel : on agit, et le modèle mental évolue en conséquence.

Si l’outil a une certaine autonomie, il dispose lui aussi d’un « modèle mental » qui évolue au fil de l’action. Et il y a interaction entre ce modèle et celui du designer.

L’autonomie va de pair avec la connexion. En particulier, les véhicules autonomes se connectent en petits groupes (« platoons ») et sont reliés aux systèmes régionaux de régulation de la circulation automobile.

La démocratie est une forme évoluée de combinaison entre les citoyens, « libres et égaux »

Par son vote, le citoyen délègue une part de sa liberté, de son autonomie. Même s’il est « dans l’opposition », il se soumet à l’autorité de l’État, participe à son action (y compris militaire)
Il est donc complice, plus ou moins profondément, du pouvoir.

A l’heure des réseaux sociaux, comment redonner force à cette complicité, essentielle.