‹Todesalgorithmus› meint jene Künstliche Intelligenz (KI), die selbstbestimmend entscheidet, ob ein automatisiertes Auto, das in eine Unfallsituation verwickelt wird, eher die unbeteiligten Insassen oder den alkoholisierten Fahrer auf der Gegenfahrbahn, den vorschnellen Velofahrer oder aber die in Gedanken versunkene Passantin opfern soll. Die ursprüngliche Programmierung – etwa «der schwächere Verkehrsteilnehmer muss geschont werden» – bestimmt jeweils die fortlaufende Selbstbestimmung der KI.
Im globalen Massstab bestimmt ein vermessen gewordener Mensch, bestimmen in ihrer Macht entgrenzte Menschen über das Schicksal des Planeten. Geht die „Fahrt“ in derselben Weise weiter wie bisher, werden alle Menschen Opfer des Klimakollapses. Warum also nicht die Regierung an eine KI übergeben, die jetzt schon und immer besser imstande ist, die für ein Überleben aller Menschen notwendigen Bedingungen vorzugeben und rettende Massnahmen durchzusetzen? Allerdings setzt die Herrschaft der KI Sicherheit und Gehorsam gegen Freiheit und Entscheidung, nachdem in der Entscheidungsfreiheit die Verantwortung verspielt worden ist für mehr Profit, mehr Unterhaltung, mehr Macht.
Roberto Simanowski gelingt auf beängstigende wie herausfordernde Weise eine Analyse unserer allgemeinen aktuellen Klimakrise. Er geht dabei von der Extremsituation aus, in der wir uns jetzt befinden, und setzt ihr das andere Extrem entgegen: eine totalitäre KI-Herrschaft (die in China bereits im Gange ist …). Unausweichlich und ohnmächtig ordnen sich die Menschen unter. Das neue proklamierte Gute (die Rettung der Erde) ist das Ziel, und unser gehorsamer Gang ist der Prozess hin zu einer besseren Welt. – Kehrt der Mensch so in einen quasi paradiesischen Zustand zurück, vor seine Erkenntnisnahme?
Simanowski versteht es, aktuelle politische Szenarien und Situationen mit beinahe science-fiktionalen Konstruktionen zu verflechten. Gekonnt spinnt er uns ein in seine vielfältigen Spekulationen zur Moral der KI. Dabei dienen Theoriestücke aus der Philosophie und Religionsgeschichte dazu, dem neuen Reich der KI recht gute Grundmauern zu schaffen. Simanowskis Buch entlässt seine Leser nicht, sondern spannt sie ein im Sinne einer «List der Vernunft» (Hegel).
Matthias Staub