HEINZ VON FOERSTER (1911-2002)
Austro-Américan – “Weltmensch”
Né dans la Vienne impériale de 1911, Heinz von Foerster a été, tout au long de sa longue vie, doté du flair et de l’humour viennois légendaires. Il se décrivait lui-même comme un “citoyen du monde”, un “Weltmensch”.
En tant qu’étudiant en physique, il appartenait au cercle bohémien Wiener Kreis (Cercle viennois), un groupe d’intellectuels avant-gardistes en philosophie, sciences sociales, mathématiques, logique et anthropologie.
En 1949, il quitte sa Vienne natale pour New York, sur l’invitation de ses amis américains. Dans son petit sac de voyage, il transportait très peu de vêtements mais 5 copies de sa thèse de doctorat “Das Gedächntis. Eine quantenphysikalische Untersuchung” (“Théorie mécanique quantique de la mémoire”).
Et ne sachant pas prononcer un seul mot d’anglais.
Même s’il ne parlait pas anglais, à son arrivée, il a donné une conférence à la faculté de médecine de Chicago, sur l’invitation de Warren McCulloch, l’éminent neuropsychiatre.
En tant que “citoyen du monde”, se trouvant dans une situation improbable, il n’a pas hésité à simplement inventer des mots en anglais, comme il le rappelle d’un ton amusé dans “Fraktale einer Ethik” (“Fractals of Ethik”). Son public, des professeurs de renom, était hilare devant le spectacle et l’invitait aussitôt à passer à l’allemand, puisque la plupart de l’audience venait d’outre-Atlantique. Cet épisode qu’il a qualifié de “tour de magie” prouvait à quel point il était un aventurier intrépide, ingénieux et polyvalent.
Éthique vs Morale
Pour HVF, il n’y a ni bon ni mauvais. Ce sont des “pièges sémantiques”. La question cruciale réside dans la communication, dans la transmission du message, comment faire comprendre / entendre à quelqu’un ce que j’ai compris / entendu?
Selon le penseur, il existe une différence majeure entre l’éthique et la morale.
L’éthique est sans règles. Seule la morale a des règles.
La morale est une “machine coercitive” (“Zwangsmachine”).
La morale est dictée par… à. Elle dit toujours à l’autre ce qu’il doit faire ou ne pas faire. Comme les moralistes qui inculquent le “Nous sommes les meilleurs. Seulement nous faisons le bien”.
Alors que l’éthique est de nous… à nous.
L’éthique a besoin d’un “être ensemble” (“togetherness”). Sur une île déserte, nul besoin d’éthique. Car l’éthique est le comportement qui me rend responsable d’une action.
Elle est vue, comprise, appliquée, à travers les yeux des autres. Si je me comprends à travers les yeux d’un programme algorithmique, cela modifie ma propre impression de moi-même. Si l’impact est négatif ou qu’il me nuit physiquement ou psychologiquement, il doit être évalué sur le plan éthique.
L’ “impératif éthique”
L’impératif éthique de HVF, tout différent de l’impératif catégorique de Kant, se trouve condensé dans la maxime
“Agissez toujours de la sorte à ce que le nombre de vos choix augmente.”
Cela exprime simplement l’idée que plus on a de choix, plus notre horizon est étendu, meilleure sera notre décision.
Dans un cas de dilemme classique, par exemple, il n’y a, par définition, que deux possibilités. HVF suggère de chercher plus de possibilités, de solutions, d’idées, afin d’augmenter le nombre de choix et de sortir du schéma contraignant du dilemme.
Comme la pensée latérale d’un Edward de Bono. Ou la technique du négociateur pour résoudre des situations critiques en politique ou en affaires.
Ou, un simple brainstorming en gestion.
HVF plaide clairement pour l’ouverture de notre esprit. Croit fermement à l’interdisciplinarité. Être un “expert” n’aide pas. Son credo dans la vie était: s’ouvrir, être curieux, embrasser le Nouveau.
Fractales de l’éthique
Avec “fractales de l’éthique”, le poète, philosophe et mathématicien HVF illustre comment chacune de nos actions éthiques que nous accomplissons se répète à l’infini dans notre propre système, par chaque mot, chaque action ou chaque pensée.
L’importance du langage
Le langage est utilisé pour décrire la réalité, une réalité propre à un chacun; de même, il est utilisé pour formaliser, expliquer, coder. Si au tout début le langage n’est pas neutre, la pensée ne l’est pas non plus.
Pour HVF, tout processus informatique est une opération par laquelle des données externes sont traitées, comparées, ajoutées, soustraites, réinitialisées dans un programme. La sortie est le résultat d’une réduction mathématique qui contrôle l’opération.
Ce n’est pas le processus lui-même qui est le dénominateur commun entre la pensée ordinateur / cerveau, mais le langage ou le codage est le lien de liaison. Il a la même structure. La même syntaxe.
Qu’en est-il des biais?
La question suivante concerne alors la partialité. Qu’en est-il des données biaisées, donc des algorithmes biaisés qui trouvent leur origine dans notre système de communication, le langage verbal?
Surtout quand il s’agit de valeurs, d’éthique. L’inquiétude est double. Premièrement, le langage utilisé, biaisé ou non, et deuxièmement l’interprétation, l’évaluation.
Ne demandez pas c’est QUOI la cybernétique, mais QUAND se passe la cybernétique?”
“Les définitions ne servent à rien.” HVF
“Ne demandez pas QU’EST-CE la cybernétique, mais demandez plutôt QUAND se passe la cybernétique?” fut la réponse légendaire de HVF à un jeune journaliste quand interrogé sur la nature-même de la cybernétique.
La cybernétique est une façon de voir les choses. C’est l’observation d’un système circulaire causal qui se passe sous nos yeux. Comme un dialogue, par exemple.
La théorie de la communication de Claude Shannon, basée sur le paradigme “expéditeur-message-récepteur-expéditeur” est un système cybernétique circulaire et causal. Un système avec une boucle de rétroaction, de feedback.
Le cercle de la vie est cybernétique.
En cybernétique, HVF distingue deux ordres.
«L’observateur qui observe» le système. C’est la cybernétique du Premier Ordre.
Pour la cybernétique du Second Ordre, l’observateur fait partie du système observé, “l’observateur observé”. En psychologie, une auto-analyse, par exemple.
C’est probablement pour sa théorie sur la cybernétique du Second Ordre, de “l’observation de l’observateur”, que HVF est le plus connu.
Être un “cybern-éthicien” (“KybernEthiker”)
Pour HVF, rien ne se passe sans éthique ni cybernétique. Observer un système, apprendre à comprendre un système circulaire, comprendre le système, c’est faire face à “l’altérité”.
Que ce soient les êtres humains, les animaux, la nature, toute action humaine est une action éthique. Cela implique toujours un questionnement sur la responsabilité en tant que partie active de ce système circulaire. Comment ne pas devenir un briseur de ce système.
C’est le cas pour l’écologie. La science. La communication. La politique. La médecine. Les soins de santé. La technologie … l’IA. Tout est de facto centré sur l’humain. Et l’éthique aussi. Et il doit en être de même pour l’IA.
L’ordinateur sépare et organise
HVF croyait fermement que le système cognitif d’un cerveau humain n’est pas l’équivalent de celui de l’ordinateur. Et ne le sera jamais. Son argument: les humains sont un système biologique, pas les machines.
Nous choisissons. L’ordinateur sépare.
L’ordinateur sépare et organise les stimuli sensoriels ou les données du capteur dans un système d’ordre défini par le programmeur.
Le traitement des données dans le cerveau humain s’effectue en distinguant et en classant ces stimuli sensoriels dans un système de catégories émergent (ou appris).
Le traitement des données dans le cerveau humain, contrairement à celui de l’ordinateur, n’est pas expliqué d’une manière logique purement formelle, mais par la capacité de la prise de décision qui permet la possibilité d’une interprétation fondée.
Cette vue agrégée du cerveau constitue la base des décisions qui mènent à une action consciente. Nos actions sont intentionnelles.
L’action de l’ordinateur n’est pas un acte / une action, même si elle est en relation avec l’action de l’instigateur/programmeur/inventeur/designeur initial.
Le constructivisme radical:
Non pas “Tell it like it is”
MAIS “It is like I tell it”
Pour HVF, la quintessence de la réalité est liée à “comment modéliser les valeurs” et “quel est le point de départ d’une formule”?
Le constructivisme (basé sur la théorie de von Glaserfeld de 1970) était fondamental pour les travaux de Von Foerster sur l’intelligence artificielle et les algorithmes.
Dans le constructivisme radical l’individue est vu comme constructeur. Un constructeur de sa propre réalité.
D’où la formule célèbre de HVF: ce n’est pas “Dites-le comme c’est” mais “c’est comme je le dis”.
NOUS construisons notre réalité.
Biais dans les algorithmes
Se pose alors la questions sur les biais dans les algorithmes.
La réalité peut-elle être objective?
Et les valeurs?
Doit-on formaliser une vision subjective en une formule objective?
Par conséquent, quid des biais et la discrimination par les algorithmes.
Sa plus grande influence: Ludwig Wittgenstein
Le philosophe et linguiste autrichien Ludwig Wittgenstein et HVF avaient des liens de famille et les deux hommes se rencontraient fréquemment dans le Wiener Kreis.
HVF admettait connaître par coeur chaque ligne (et les numéros) du Tractatus logico-philosophicus de Wittgenstein.
Pour ceux qui n’ont pas encore lu le Tractatus, il se compose de 526 énoncés déclaratifs, comme des maximes, courtes et longues. Chaque instruction est numérotée. Aucune explication donnée. C’est rédigé dans un style bref et explicite.
D’après Wittgenstein, c’est NOUS qui construisons notre réalité. Sur la façon dont NOUS concevons, percevons la réalité.
Le travail cognitif de HVF sur la cybernétique du Second Ordre et du constructivisme radical se reflète pleinement dans la théorie du langage et de la réalité de Wittgenstein.
Le philosophe a écrit le Tractatus pendant sa captivité italienne pendant la Première Guerre mondiale.
À propos de l’éthique
Dans le Tractatus, HVF a trouvé un écho à sa propre vision de l’éthique: l’éthique est implicite.
L’éthique ne peut pas être articulée.
L’éthique doit être actée.
“Il est clair que l’éthique ne peut pas être articulée”.
“Es ist klar dass sich die Ethik nicht ausprechen lässt”. Tractatus 6.421
Ainsi, l’éthique s’explique d’elle-même comme par exemple, l’énoncé “c’est clair”. Puisqu’il est clair, il n’a besoin d’aucune explication.
L’éthique pour HVF est une tautologie.
En 1991, invitée à tenir une conférence sur “L’éthique et la cybernétique du Second Ordre” à Paris, HVF a ouvert sa conférence comme suit:
Mesdames et Messieurs:
[…] Et je suis impressionné par l’ingéniosité des organisateurs qui m’ont suggéré le titre de ma présentation. […] Pour être honnête, je n’aurais jamais osé proposer un titre aussi scandaleux … […] Avant de quitter la Californie pour Paris, d’autres m’ont demandé plein d’envie, ce que vais-je faire à Paris , de quoi vais-je parler? Quand j’ai répondu «Je parlerai d’éthique et de cybernétique de Second Ordre», presque tous m’ont regardé avec perplexité et ont demandé: «Qu’est-ce que la cybernétique de Second Ordre?» comme s’il n’y avait pas de questions sur l’éthique. Je suis soulagé quand on me pose des questions sur la cybernétique de second ordre et non sur l’éthique, car il est beaucoup plus facile de parler de cybernétique de second ordre que de parler d’éthique. En fait, il est impossible de parler d’éthique.
Il est impossible de parler d’éthique
Une position étrange lorsque nous observons nos débats animés sur l’éthique aujourd’hui. Mais au final, le meilleur médecin n’est-il pas celui qui n’a pas de patients récurrents. Le meilleur scénario pour l’éthique ne serait-ce pas de ne plus jamais avoir besoin d’éthiciens; seulement alors, l’éthique serait une activité aussi évidente que respirer. On ne demande pas pourquoi et quand respirer. On respire!
Meilleur ami: Paul Waszlawick
“La croyance que sa propre vision de la réalité est la seule réalité est la plus dangereuse de toutes les illusions.”
Paul Watzlawick (1921-2007), le célèbre psychologue, était, comme von Foerster, autrichien. Watzlawick était l’une des personnalités les plus influentes du Mental Research Institute, enseignait à Stanford et était avec Heinz von Foerster un porte-parole éminent du constructivisme radical.
Il a travaillé sur l’essence de la réalité, les modèles construits de la réalité comme traité dans son livre “Quelle est la réalité de la réalité”?
Les deux hommes étaient liés par un sens de l’humour sans limites et une réelle bienveillance, bonne volonté envers les autres. Leurs discussions sur l’éthique, son caractère intangible, et d’autres discussions sans fin ont influencé le travail de chacun.
Watzlawick était célèbre pour sa théorie de la communication en 5 étapes, dont le premier principe est le célèbre “On ne peut pas ne pas communiquer”.
Il a également souligné l’origine des problèmes de communication lorsque tout le monde ne parle pas la même langue. Ses découvertes étaient basées sur la cybernétique. La causalité d’un système de communication circulaire (émetteur-récepteur-émetteur) et l’idée de la boucle de rétroaction.
Dans Formidable, une blague racontée magistralement par Waszlavik, celui-ci évoque la relation multi-dimensionnelle entre le langage et la réalité.
– FORMIDABLE –
Pendant des années, un couple français essayait désespérément d’avoir un enfant, c’était leur plus cher désir. Jusqu’au jour où la femme tombe enceinte de manière inattendue.
Leur bonheur est tellement grand que le couple décide de nommer l’enfant « Formidable ».
Mais malheureusement, le garçon est trop petit, trop faible et trop laid. Il était constamment harcelé et il a souffert toute sa vie à cause de son prénom malheureux. Même si Formidable a eu un merveilleux mariage, une merveilleuse épouse et était un père aimant.
Lors de ses derniers jours, il a respectueusement demandé à sa femme une dernière faveur: «S’il te plaît ma chérie, ne mentionne pas mon nom sur ma pierre tombale. Il a été un fardeau terrible tout au long de ma vie. »
L’homme meurt et la femme met les mots suivants sur la tombe: “Ici gît un homme qui a toujours été fidèle à sa femme et un père aimant.”
Un couple de passants lit l’inscription, s’arrête et dit:
“Oh regarde, c’est formidable!”
L’importance de la magie
Enfant, Heinz von Foerster a toujours voulu devenir magicien. Tout au long de sa vie, il a inventé des tours et des idées.
Avec son cousin Martin Lang, il crée FÖLAG, Foerster-Lang-Zaubergesellschaft, les deux garçons étant respectivement directeur et président. La magie a influencé toute sa vie et a défini sa relation à la réalité.
En tant que magicien, vous créez un monde, une atmosphère, un contexte, où de nouvelles expériences se produisent.
Mais tout se passe dans notre esprit – l’éléphant ou le lapin qui disparaît soudainement. Cela a déclenché plus tard une maxime:
Le récepteur, celui qui écoute détermine l’importance d’une déclaration. Il s’agit de la construction d’un monde.
Être un “Curieusiste” (“Neugierolog”)
Un de ses mots préférés
Panopticum
Vision systémique globale
HVF a toujours été un défenseur de l’interdisciplinarité:
“Je ne sais pas où se trouve mon expertise;
Mon expertise n’est pas une discipline. Je recommanderais d’abandonner la discipline partout où c’est possible. Les disciplines sont le fruit du monde universitaire. Dans le monde universitaire, vous nommez quelqu’un et ensuite, pour lui donner un nom, il doit être un historien, un physicien, un chimiste, un biologiste, un biophysicien; il doit avoir un nom. Les disciplines sont un effet secondaire des institutions.” Source
Auteur prolifique
HVF a publié près de 200 articles. Sur l’informatique, l’épistémologie, l’intelligence artificielle, l’électronique à grande vitesse, l’électro-optique, la biophysique et les sciences cognitives.
La liste de ses titres était aussi longue que la liste de ses articles. Totalement inclusif, HVF était un raconteur doué, comme on peut le lire et l’entendre dans ses nombreux livres et interviews.
Dans la vidéo ci-dessous, son introduction dure 2:16 minutes, le temps nécessaire pour lister tous ses titres.
En voici un raccourci: de 1951 à 1975, il fut professeur d’ingénierie électrique à l’Université de l’Illinois à Urbana – puis professeur de biophysique (1962-1975) et directeur du Biological Computer Laboratory (BCL, 1958-1975 ).
Katja Rausch is specialized in the ethics of new technologies, and is working on ethical decisions applied to artificial intelligence, data ethics, machine-human interfaces and Business ethics.
For over 12 years, Katja Rausch has been teaching Information Systems at the Master 2 in Logistics, Marketing & Distribution at the Sorbonne and for 4 years Data Ethics at the Master of Data Analytics at the Paris School of Business.
Katja is a linguist and specialist of 19th century literature (Sorbonne University). She also holds a diploma in marketing, audio-visual and publishing from the Sorbonne and a MBA in leadership from the A.B. Freeman School of Business in New Orleans. In New York, she had been working for 4 years with Booz Allen & Hamilton, management consulting. Back in Europe, she became strategic director for an IT company in Paris where she advised, among others, Cartier, Nestlé France, Lafuma and Intermarché.
Author of 6 books, with the latest being “Serendipity or Algorithm” (2019, Karà éditions). Above all, she appreciates polite, intelligent and fun people.
-
The proposed concept of swarm ethics evolves around three pilars : behavior, collectivity and purpose
Away from cognitive jugdmental-based ethics to a new form of collective ethics driven by purpose.
