Machine morales

Notre société fait une grande différence entre un acte et un non-acte, il est bien plus grave de nuire à autrui en agissant que par de lui nuire par inaction, même si le tort occasionné est en fin de compte exactement le même. Activez une machine qui tue un homme, et c’est probablement un homicide, ne pas éteindre la même machine est probablement de la non-assistance en danger. Même effet, considération légales différentes.

Un système très simple, appelé la pédale de l’homme mort, rend cette distinction caduque : il transforme une non-action en une action. Le but du dispositif est honorable : si le conducteur du train perd conscience, et ne fait pas régulièrement une action, comme appuyer sur un bouton, le train freine. Le principe n’est naturellement pas limité aux trains ou aux véhicules, on le trouve virtuellement dans n’importe quel système vaguement intelligent, c’est une opération triviale à programmer.

Le point clef, c’est qu’une machine peut transformer une action moralement répréhensible en une action moins répréhensible. Est-ce que la distinction morale a un sens ? Suffisamment, en tout cas, pour que certains débattent sur le fait qu’appuyer ou non sur un bouton d’appel de l’ascenseur certains jours de la semaine fasse une différence. Comme nous interagissons de plus en plus avec le monde par le truchement de machines, la distinction entre acte et non-acte va devenir de moins en moins claire.

Ce genre de mécanismes n’est d’ailleurs pas limité à l’électronique, la mécanique ou l’informatique, il est possible de construire la même logique dans n’importe quel système administratif, comme par exemple le système légal. Ainsi on pourrait se retrouver dans une situation où tous les budgets de l’état sont coupés, non pas à cause du passage d’une loi – par une action – mais pour cause d’absence de consensus – une inaction. Cela permettrait ainsi de mettre hors service l’appareil étatique dans son intégralité sans avoir fait le moindre acte, ce qui minimiserait ainsi le poids moral associé à une telle destruction.

Naturellement, personne de censé n’utiliserait une tricherie sémantique aussi grossière…

6 thoughts on “Machine morales”

  1. Quelqu’un de largement plus intelligent que moi (et sans doute mort) n’avait pas dit un truc au sujet du fait que le Mal, ce n’est pas quand quelqu’un fait quelque chose, mais quand on le laisse faire?

  2. @Alias : Martin Luther King a pas mal utilisé le concept :

    The ultimate tragedy is not the oppression and cruelty by the bad people but the silence over that by the good people.

    The hottest place in Hell is reserved for those who remain neutral in times of great moral conflict.

    We will remember not the words of our enemies, but the silence of our friends.

    Et plein d’autres là :
    http://paradoxologies.org/2010/08/28/martin-luther-king-jr-on-complacency-mlk/

Leave a Reply

This site uses Akismet to reduce spam. Learn how your comment data is processed.

%d bloggers like this: