Gegen Digitalisierung und KI

Da ich die Digitalisierung und KI (künstliche Intelligenz) als grosse Gefahren betrachte, werden in unregelmässigen Abständen Artikel zu diesem Thema erscheinen. Der erste Gedanke ist relativ harmlos, für die weiteren Artikel braucht es teilweise stärkere Nerven.


Gedanke Nr. 7: Wie ich zum Bundesrat wurde

Letzthin bei einem Besuch wurde ich gefragt, ob es sich gut machen liesse, gleichzeitig in Richterswil Pfarrer zu sein und ebenso noch in Bern zu arbeiten. Verwundert fragte ich mich, was das für eine Verwechslung sei. Ich weiss, dass ich einen Namensvetter habe, der in Wallisellen SP-Politiker ist, und ebenso weiss ich von einem Urologen aus Basel, der denselben Namen wie ich trägt. Aber Bern?

Ich würde doch im Bundesrat arbeiten, fuhr der Besuchte fort. Was mich noch konsternierter werden liess.

Eine Suche auf dem Handy zeigte dann, dass ich im elektronischen Telefonbuch telsearch tatsächlich sogar als Bundesrat bezeichnet werde, folgendermassen: 

Bin ich jetzt ohne mein Wissen Bundesrat geworden? Natürlich nicht.

Die Antwort liegt – man ahnt es – bei der künstlichen „Intelligenz“.

 

Ich habe dem Bundesrat einen Brief geschrieben, dass die Schweiz den Atomwaffenverbotsvertrag unterschreiben solle, um mehr Druck zur Abrüstung auf die Staaten mit Atomwaffen auszuüben.

Dazu – damit andere Interessierte auch einen Brief schicken könnten – fügte ich die Adresse des Schweizer Bundesrates an.

 

Die künstliche „Intelligenz“ hat nun richtigerweise – wohl, weil ich die Adresse meiner Homepage auf telsearch selbst angegeben habe – meine Homepage mit meinem Telefoneintrag verbunden. Nicht sehr intelligent war jedoch die Verbindung meiner Adresse mit derjenigen des Bundesrates.

 

Das zeigt: Algorithmen finden Muster. Einige sind sinnvoll, andere dagegen sind Quatsch. Mein Beispiel zeigt, dass es manchmal unerklärlich ist, warum Algorithmen etwas tun. Nun gut: über Nacht zum Bundesrat werden, tut nicht weh. Aber wenn man weiss, dass Algorithmen im Gesundheitswesen und Militär benutzt werden …


Gedanke Nr. 6: Fälschliches Lob für KI dank statistischer Unkenntnis

Gedanke Nr. 5: Computerindustrie als neue Religion

Der in Gedanke Nr. 4 beschriebene Joseph Weizenbaum (zuerst Computerpionier am MIT, nach seinem Programm «Eliza» Computerkritiker) schrieb in seinem Buch «Die Macht der Computer und die Ohnmacht der Vernunft» über ein Phänomen, dass zuerst vielleicht überrascht: über das Allmachtsgefühl. Er meinte, dass ein Programmierer absolute Macht darüber habe, was der Computer mache. Der Computer macht auf den Punkt genau das, was das Programm ihm vorschreibt. Man vergleiche das mit einem Gärtner, der einen Baum pflanzt. Er kann nicht genau sagen, wie dieser in zehn Jahren aussehen wird. Wenn ein Lehrer von seinen Schülerinnen und Schülern gleichen Gehorsam fordern würde, wie ein Programmierer vom Computer, dann würde er wohl bald zu Recht des Machtmissbrauchs angeklagt. Aber ein Programmierer hat absolute Macht, deshalb logischerweise das Allmachtsgefühl.

Es gilt aber auch das Gegenteil. Die Ohnmacht. Ist irgendeine Unterzeile falsch, läuft nichts so wie vorgesehen und alles stürzt ab bzw. hängt sich auf. Dieses ständige Hin- und Her zwischen Allmacht und Ohnmacht ist psychisch ungesund.

Deshalb beobachtete Joseph Weizenbaum, dass sich Programmierer wie Junkies verhielten. In einer Zeit, als es nur Grossrechner gab, habe er manchen gesehen, der flehend auf den Knien herumgerutscht sei, um vom Vorgesetzten noch ein paar Minuten mehr Zeit am Computer zu erbetteln. Manche hätten auch wie Spielsüchtige, die kurz vor Schluss beim Roulette noch alles auf eine einzige Zahl setzen, hochriskante Änderungen an Programmen vorgenommen, mit denen sie auch das, was noch gut gewesen wäre, zerstört hätten.


Allmacht schreibt man Gott zu. Doch die Theologie hat mittlerweile grösstenteils eine kritische Haltung dazu. Der Philosoph Hans Jonas kritisierte im Buch «Gottesbegriff nach Auschwitz» die klassische Anschauung des Allmachtbegriffs. Aber auch schon früher gab es kritische Gedanken dazu. Der Mathematiker und Philosoph Blaise Pascal fragte sich, ob Gott allmächtig wäre, wenn er alle Steine heben könnte, oder ob er im Gegenteil noch allmächtiger wäre, wenn er einen so schweren Stein erschaffen könnte, dass er ihn selbst nicht mehr aufheben könnte.

 

Die Theologie hat mittlerweile einen differenzierten Allmachtbegriff, während er von der Computerwelt unkritisch übernommen wird.

 

Nicht nur Allmacht, auch andere Eigenschaften, die Gott zugeschrieben werden, finden sich mittlerweile in der Computerwelt. Die Allwissenheit: Google, Wikipedia, Alexa – das Internet weiss alles. Die Ubiquität (überall anwesend sein): Früher fragte man vielleicht, wo die Toiletten sind, heute ist die erste Frage in einem neuen Raum: wie heisst das WLAN-Passwort? Der Karikaturist «Sojer am Berg» ersetzte in einem Cartoon in den ALPEN (Magazin des Schweizer Alpen Clubs) das Gipfelkreuz richtigerweise mit einer Handyantenne. Das Internet muss überall zu empfangen sein! Erlösung: Politiker wie Martin Bäumle meinen, dass 5G und innovative Dinge wie smart grid (intelligentes Stromnetz) uns von der Klimakatastrophe erlösen könnten. Neuerdings kommt in der Computerwelt auch die Ewigkeit nicht zu kurz. Die so luftig überirdisch scheinende Cloud wird in 6-7 Rechenzentren gleichzeitig abgespeichert, nach bestimmten Regeln. Eine davon ist, wie ich erstaunt in einer Zeitung (le monde diplomatique) gelesen habe, dass mindestens eine Kopie «gegentektonisch» gespeichert werden muss, also auf einer anderen Erdplatte. Wenn es auf einer Erdplatte ein apokalyptisches Erdbeben gäbe, wären alle Facebook- und Insta-Photos auf der anderen Erdplatte aufgehoben, in Ewigkeit.

 

Das grösste Rechenzentrum der Welt ist übrigens südlich von Peking, hat eine Grösse von ca. 100 Fussballfeldern und wird hauptsächlich mit Kohle betrieben. Es heizt also zusätzlich ein für den Klimawandel. Somit hätten wir auch die Opfer, die zu einer Religion dazugehören.

 

Um so kritischer sehe ich, dass vor allem Freikirchen ein sehr computeraffines Vokabular pflegen. Da ist dann das Gebet ein Online-sein mit Gott, die Bibel ist der Server Gottes, und die tägliche Bibellektüre das Update, um den Tag gottesgemäss bewältigen zu können, ohne in den Drogensumpf abzustürzen. Mit einer Meditation oder Gottesdienst lädt man den Akku auf usw. Und dann gibt es da ja auch noch die Community, sowohl reell als auch virtuell.

 

Vielleicht sollte man nach den vorgehenden Überlegungen damit ein bisschen zurückhaltender sein.

 

«Woran du nun dein Herze hängst, das ist dein Gott.» Das sagte Martin Luther. Das trifft auf die Computerwelt schon lange zu.



4. Gedanke: Die Gefahr eines Computerherzen
Albert Schweitzer erzählt folgende Geschichte in seiner "Kulturphilosophie":

Als ein Schüler des Kungtse (Confusius), so wird in den Schriften des Dschuang Dsi (Tschuangtse) erzählt, einen Gärtner sah, der, um Wasser zum Begiessen seiner Beete zu holen, jedesmal mit dem Gefäss in den Brunnen hinunterstieg, fragte er ihn, ob er sich die Arbeit nicht erleichtern wolle. "Wieso denn?" erwiderte dieser. Kungtses Schüler sprach: "Man nimmt einen hölzernen Hebelarm, der hinten beschwert und vorne leicht ist. Auf diese Weise kann man das Wasser schöpfen, dass es nur so sprudelt. Man nennt das einen Ziehbrunnen." Da antwortete der Gärtner, der ein Weiser war: "Ich habe meinen Lehrer sagen hören: Wenn einer Maschinen benützt, so betreibt er alle seine Geschäfte maschinenmässig; wer seine Geschäfte maschinenmässig betreibt, der bekommt ein Maschinenherz...

Dieser Text scheint und heute etwas gar technikkritisch zu sein, auch Albert Schweitzer selbst hatte einen Ziehbrunnen in Lambarene.

Gehen wir in eine neuere Zeit, ins Jahr 1966. Damals schrieb ein Jungspund am MIT, einer der führenden und begeistertsten Computeringenieure, Joseph Weizenbaum, ein Programm. Etwas ganz Neuartiges. Ein Programm, das mit Menschen sprechen konnte. Heute würden wir sagen, einen Bot. Er nannte das Programm Eliza.
Dieses führte zum Beispiel ein folgendes Gespräch (Eliza grossgedruckt) mit einer Frau (kleingedruckt):

Alle Männer sind gleich.
IN WELCHER WEISE
Sie machen uns immer wegen irgendetwas verrückt.
KÖNNEN SIE EIN BEISPIEL NENNEN
Na ja, die Idee zu diesem Gespräch stammt von meinem Freund.
DIE IDEE ZU DIESEM GESPRÄCH STAMMT VON IHREM FREUND
Er sagt, dass ich oft deprimiert bin.
ES TUT MIR LEID VON IHNEN ZU HÖREN DASS SIE DEPRIMIERT SIND
Das stimmt, ich bin unglücklich.
GLAUBEN SIE DASS DIESES GESPRÄCH IHNEN HILFT NICHT MEHR UNGLÜCKLICH ZU SEIN
Ich brauche jedenfalls Hilfe, das steht fest.
WAS WÜRDE ES FÜR SIE BEDEUTEN HILFE ZU BEKOMMEN
Vielleicht könnte ich lernen, mit meiner Mutter auszukommen.
ERZÄHLEN SIE MIR MEHR ÜBER IHRE FAMILIE
Meine Mutter erledigt alles für mich
WER IN IHRER FAMILIE ERLEDIGT NOCH ALLES FÜR SIE
Mein Vater.

Dieses Programm änderte das Leben von Joseph Weizenbaum von Grund auf. Er wollte mit diesem Programm eine Diskussion darüber anregen, was Computer sollen und was nicht. Zwei Beobachtungen waren es, mit denen er nicht gerechnet hatte und die ihn schockierten. Erstens vertrauten Menschen dieser Maschine die intimsten Details ihres Lebens an, obwohl sie wussten, dass es nur eine Maschine war. Zweitens meinte der Psychiaterverband Amerikas, dass man jetzt ein super Programm hätte, um die breite Masse von Menschen zu therapieren, sodass sich die Psychiater auf die interessanten Fälle konzentrieren könnten.
Durch diese Reaktionen wurde Weizenbaum zu einem der ersten, ernsthaftesten und sachkundigsten Computerkritiker. Eines seiner ersten Bücher hiess: Die Macht der Computer und die Ohnmacht der Vernunft. Er sagte z. B. den Börsencrash von 1989 voraus. Die anderen meinten, die Computer würden sich an der Börse nicht herdenhaft verhalten, da sie ja nicht verbunden seien (Internet gab es noch nicht). Aber Weizenbaum meinte richtigerweise, dass alle mit denselben Daten, die irgendein Finanzblatt herausgegeben habe, gefüttert würden und so alle zur selben Zeit verkaufen würden. Und so kam es dann 1989...
Am Ende seines Lebens meinte Weizenbaum dann, wahrscheinlicher, als dass ein Roboter wie ein Mensch würde, sei es, dass der Mensch wie ein Roboter bzw. ein Computer werde.

Vor drei Jahren: Ein grosses Schiff gerät vor der Küste Norwegens in Seenot bei höchstem Wellengang. Die Schiffsmotoren stellten automatisch ab. Es ist unsteuerbar. Hunderte von Menschen müssen mit Hubschraubern gerettet werden. Aber was ist passiert? Durch den hohen Wellenganz bewegte sich auch das Schmieröl im Tank hin- und her. Und die Sensoren waren offenbar so angebracht, dass sie teilweise kein Öl mehr massen. Und so folgerte ein Schaltkreis der KI: kein Öl, deshalb keine Schmierung der Maschinen, deshalb Notabschaltung. Das Schiff ist in höchster Not nicht mehr manövrierbar. So ein nicht ganz so intelligentes Resultat der Künstlichen Intelligenz. Aber es zeigt die Gefahr von KI exemplarisch. Musste ein Kapitän früher sein Schiff und auch seine Mannschaft kennen, so muss er heute mehr über Sensoren und Schaltkreise, und darüber, wann welche Prinzipien welche anderen übersteuern, wissen. Früher musste er sich in Menschen einfühlen, heute in Maschinen bzw. Computer. Wenn einer Computer benützt, bekommt er ein Computerherz! So könnte man die eingangs erwähnte Geschichte abändern.

3. Gedanke: Das "Echo der Zeit" berichtet, wie KI chemische Kampfstoffe fördern könnte.

2. Gedanke: Was lehrt uns Candide von Voltaire über Digitalisierung?

Ein Buch, das sich aus dem Französischunterricht bei mir für immer ins Gedächtnis gebrannt hat, ist das Buch "Candide ou l'optimisme" von Voltaire. In diesem Buch wehrt er sich gegen seinen Gegner Leibniz. Leibniz liess sich zur Aussage verleiten, die Welt sei zwar nicht gut, aber die beste aller möglichen Welten. Zwei Jahrhunderte vor den Computern stellte sich Leibniz Gott als Riesencomputer vor. Er hatte die Aufgabe gehabt, vor der Schöpfung alle möglichen Universen durchzurechnen und daraus das beste aller möglichen entstehen zu lassen. Danach hatte er seine Schuldigkeit getan und wurde überflüssig. Aber nicht um dieses fürchterliche Gottesbild soll es gehen, sondern um "Candide".
Candide wird an verschiedenste Schauplätze geführt und sieht viele fürchterliche Dinge, vor allem Inquisition, Krieg und Sklaverei. Mit beissender Ironie und stechendem Sarkasmus führt Voltaire den Optimismus Leibniz' ad absurdum. Ein Beispiel: Voltaire zeigt das Elend, das europäische Konquistadoren auf dem amerikanischen Kontinent angerichtet haben. Aber: Wir haben nun Kaffee und Schokolade. Was sind ein paar Millionen misshandelter und toter Amerikaner, wenn wir dafür von solchen Annehmlichkeiten wie Kaffee und Schokolade profitieren! Ein schlagendes Beispiel dafür, dass unsere Welt die beste aller möglichen ist.
Man wird von wenig Elend verschont in diesem Roman. Also denkt man, dass dieses viele Schlimme nicht noch gesteigert werden kann. Doch es kommt eine Szene, in der einem das Blut noch mehr in den Adern stockt, die noch schlechter zu ertragen ist!
Candide kommt nämlich in eine Art irdisches Paradies. Dort gibt es kein Leid, aber auch keine Leidenschaft. Alles läuft genau berechnet so, wie es am besten ist. Aber die emotionale Temperatur erreicht den Gefrierpunkt! Alles dort ist antiseptisch und blutleer. Man ist sicher, sicher aber nicht nur von Gefahren, sondern auch von aller Freiheit. Wenn man weiss, was das Beste ist und alles detailliert durchorganisieren kann, warum sollte man von diesem Pfad auch nur einen Millimeter abweichen? Es geschieht das, was man ein paar Seiten weiter vorne niemals für möglich gehalten hätte: man sehnt sich fast nach den Schauplätzen des Leids zurück, denn noch schlimmer ist die sterile überintellektualisierte beste aller möglichen Welten!
Was hat das alles mit Digitalisierung und KI zu tun? Der Philosoph David Richard Precht schreibt in seinem Buch "Die künstliche Intelligenz und der Sinn des Lebens", dass die Propagandisten der KI wie Elon Musk oder weniger bekannte verschrobene Gestalten aus dem Silicon Valley vor allem einen Philosophen als grosses Vorbild hätten: Leibniz! Hoffen wir, dass sie nicht eine Welt entstehen lassen, die völlig leidenschaftslos, steril und ohne Freiheit ist!

1. Gedanke: Vélofahrer zahlen die Zeche für die Digitalisierung
Sicher haben Sie auch schon von einer Bank, der Post oder einer Telekomfirma einen Brief erhalten, dass es Sie in Zukunft einen oder sogar mehrere Franken kosten würde, wenn Sie auf einer Papierrechnung bestehen würden und sich diese nicht elektronisch zustellen lassen wollten. Der Gedanke dahinter: die Ewiggestrigen, die nicht voll bei der Digitalisierung mitmachen wollen, sollen gefälligst bestraft werden. Vielleicht ist Kostenwahrheit auch ein Wort, das in diesem Zusammenhang fällt. Aber: wie ist es umgekehrt? Wirten und Ladenbesitzern werden mehrere Prozente der Einnahmen durch eine Kreditkartenfirma abgebucht. Bei Kostenwahrheit müsste also allen, die mit Kreditkarten bezahlen, einen Aufschlag dazuverrechnet werden oder denjenigen, die bar bezahlen, einen Bonus gewährt werden. Das ist aber - Sie wissen es - nicht so. Warum? Die Digitalisierung sei eben unaufhaltbar, sodass es sich nicht lohne, dagegen anzukämpfen...
Eine ganz freche Art, Unschuldigen Geld aus der Tasche zu ziehen, hat jetzt bei der Zürichseefähre Einzug gehalten. Gemäss Zürichseezeitung haben sich die Preise für Vélofahrer ab 1. 1. 22 verdoppelt. Man fragt sich, warum Vélofahrer  halb so viel wie die kleinste Autokategorie bezahlen müssen, brauchen sie doch sehr wenig Platz und sind sehr leicht. Die Antwort war, dass "Manpower" wichtiger sei als der beanspruchte Platz. Also: Der Knackpunkt sind die Leute, die die Billete verkaufen. Die Abwicklung dieses Vorgangs würde mehr Zeit als früher beanspruchen, weil man bar in ein paar Sekunden bezahlt hätte, die Zahlung per Kreditkarte jedoch deutlich länger dauern würde. Sprich: die Zürichseefähre muss wegen der Digitalisierung mehr Leute einstellen, und bezahlen sollen das die Vélofahrer.

Übrigens: Jürg Grossen, Präsident der Grünliberalen, lehnt das Mediengesetz ab. Er will auch die ewiggestrigen Papierzeitungsleser bestrafen und nur Online-Zeitungen fördern. Er begründet das auch ökologisch: Papierzeitungen seien unökologisch, da sie oft von einer Zeitungsverträgerin mit Töffli verteilt würden. Ich frage mich, ob Herr Grossen schon etwas vom riesigen Energiebedarf von Serverfarmen und Rechenzentren gehört hat.

Fazit: Die Digitalisierung kommt nicht einfach wie eine Naturgewalt über uns. Sie wird gefördert mit Ihrem und meinem Geld, ohne dass wir es auf den ersten Blick bemerken. Zusätzlich werden diejenigen, die der Digitalisierung kritisch gegenüberstehen, schikaniert, wo immer möglich.



Lorem ipsum dolor sit amet, consectetur adipiscing elit. Nullam porttitor augue a turpis porttitor maximus. Nulla luctus elementum felis, sit amet condimentum lectus rutrum eget.