Das Prinzip Verantwortung: Ethik für eine Macht, die weiter reicht als unser Blick
1979 schreibt der Philosoph Hans Jonas ein Buch mit einer unbequemen These: Unsere Technik ist mächtiger geworden als unsere Moral. Wir können Dinge tun, deren Folgen wir nicht überblicken, und unsere Ethik hat dafür keine Regeln. Hier sind seine zehn Prinzipien in einfachen Worten, mit sieben Animationen zum Ausprobieren und der Frage, was das für alle heißt, die heute KI bauen.
TL;DR
- Unsere Macht ist gewachsen, unsere Ethik nicht. Früher wirkte Handeln hier und jetzt. Heute wirkt es über Kontinente und Generationen.
- Darum braucht es einen neuen Imperativ. Handle so, dass auch in Zukunft echtes menschliches Leben auf der Erde möglich bleibt.
- Die Furcht ist ein Werkzeug. Stell dir den schlimmsten Fall bewusst vor. Er zeigt dir, was auf dem Spiel steht.
- Keine Wette um das Ganze. Bei großen, unumkehrbaren Risiken hat die schlechte Prognose Vorrang vor der guten.
- Verantwortung ist einseitig. Wir schulden sie denen, die noch nicht da sind und uns nichts zurückgeben können, wie Eltern einem Neugeborenen.
Hans Jonas: Das Prinzip Verantwortung. Versuch einer Ethik für die technologische Zivilisation. Erschienen 1979, rund 400 Seiten.
Wie sollen wir handeln, wenn unsere Taten Folgen haben, die wir weder sehen noch erleben werden?
Klima, Gentechnik und KI-Agenten sind genau die Art Macht, für die Jonas geschrieben hat.
Kurz vorab: Ich bin kein Philosoph. Ich baue mit VARTAKT Software und KI-Agenten für Kunden. Das Buch stand auf meiner Leseliste, weil ich eine Grundlage für meine eigenen Regeln beim Bauen wollte. Dieser Text ist meine Zusammenfassung in einfachen Worten. Wo ich Jonas wörtlich zitiere, steht das dabei. Alles andere ist sinngemäß und meine Lesart.
Worum es geht
Stell dir einen Bauern vor, vor 500 Jahren. Er pflügt sein Feld, fällt einen Baum, baut eine Hütte. Was er tut, wirkt auf sein Dorf, auf sein Jahr, vielleicht auf seine Kinder. Die Natur ist riesig, er ist klein. Was er kaputt macht, wächst nach.
Für diese Welt wurde unsere Moral gemacht. Die Zehn Gebote, die Goldene Regel, Kants Imperativ: Sie alle regeln, wie ich mit Menschen umgehe, die mir gegenüberstehen. Im Hier und Jetzt, unter Gleichzeitigen. Jonas nennt das eine Ethik des Nahbereichs.
Dann kommt die moderne Technik. Plötzlich können Menschen Flüsse umleiten, Arten ausrotten, das Klima verändern, das Erbgut umschreiben und Waffen bauen, die alles Leben beenden. Die Natur ist nicht mehr riesig und unverwundbar. Sie ist verletzlich geworden, und zwar durch uns.
Jonas’ Diagnose: Unser Handeln hat sich verändert, aber unsere Ethik ist stehen geblieben. Wir haben die Macht eines Riesen und die Moral eines Dorfes. Das Buch ist sein Versuch, diese Lücke zu schließen. Nicht mit neuen Verboten, sondern mit einer neuen Grundlage: Verantwortung für die Zukunft.
Der Titel ist übrigens eine Antwort. 1959 war Das Prinzip Hoffnung von Ernst Bloch erschienen, ein Buch über die bessere Welt, die kommen soll. Jonas setzt dem etwas Nüchterneres entgegen: Bevor wir die Welt verbessern, müssen wir sicherstellen, dass es sie noch gibt.
Wer war Hans Jonas?
Hans Jonas wurde 1903 in Mönchengladbach geboren, als Sohn einer jüdischen Familie. Er studierte Philosophie bei Edmund Husserl und Martin Heidegger und Theologie bei Rudolf Bultmann. Seine Doktorarbeit schrieb er über die Gnosis, eine religiöse Strömung der Antike.
1933 verließ er Deutschland, zuerst nach England, dann nach Palästina. Im Zweiten Weltkrieg kämpfte er als Soldat in der Jüdischen Brigade der britischen Armee gegen Nazi-Deutschland. Seine Mutter wurde in Auschwitz ermordet. Nach dem Krieg ging er nach Kanada und ab 1955 nach New York an die New School for Social Research, wo er bis zu seiner Emeritierung lehrte.
Lange schrieb er auf Englisch, vor allem über die Philosophie des Lebendigen: Was unterscheidet einen Organismus von einer Maschine? Das Prinzip Verantwortung schrieb er bewusst wieder auf Deutsch. Das Buch wurde in Deutschland ein großer Erfolg, gerade in der Umweltbewegung der 1980er Jahre. 1987 bekam Jonas den Friedenspreis des Deutschen Buchhandels. Er starb 1993 bei New York.
Das ist wichtig für das Verständnis: Jonas war kein weltfremder Theoretiker. Er hat erlebt, wozu Menschen fähig sind, wenn Macht keine Grenzen kennt.
Das Problem: Neue Macht, alte Ethik
Jonas beschreibt drei Dinge, die sich durch moderne Technik verändert haben.
- Die Reichweite. Folgen wirken nicht mehr nur hier, sondern weltweit, und nicht mehr nur jetzt, sondern über Generationen.
- Die Unumkehrbarkeit. Viele Folgen lassen sich nicht mehr rückgängig machen. Eine ausgestorbene Art kommt nicht zurück.
- Die Häufung. Technik wird millionenfach angewendet. Was einzeln harmlos ist, wird in der Summe gefährlich.
Das Entscheidende: Unser Wissen über die Folgen wächst viel langsamer als unsere Macht. Wir können mehr bewirken, als wir vorhersagen können. In diese Lücke fällt die alte Ethik nicht mehr hinein. Jonas spricht von einem ethischen Vakuum. Zieh in der Animation den Regler und schau, wie die Lücke wächst.
Animation 1 · Wirkung und Wissen
Hand
- heute
- +25 J.
- +50 J.
- +75 J.
- +100 J.
- +200 J.
- +500 J.
- +1000 J.
Die Zahlen sind ein Bild, keine Messung. Sie zeigen das Muster: Die Wirkung wächst schneller als das Wissen über die Wirkung.
Der dritte Punkt, die Häufung, wird oft übersehen. Keine einzelne Autofahrt verändert das Klima. Kein einzelner Plastikbecher verschmutzt das Meer. Die Moral des Nahbereichs findet darum an keiner einzelnen Handlung etwas Schlimmes. Das Problem entsteht erst in der Summe, und die Summe hat keinen Täter.
Animation 2 · Eine harmlose Tat, viele Male
Jede Person fährt heute 10 km mit dem Auto, rund 2 kg CO₂.
Rechnung grob: 0,2 kg CO₂ pro km. Die Grenze ist ein Bild für das Prinzip, kein Messwert. Entscheidend ist der Sprung: Keine Einzeltat ist schuld, die Summe schon.
Die zehn Prinzipien
Jonas hat keine nummerierte Liste geschrieben. Das Buch ist ein langer, dichter Gedankengang. Ich habe es in zehn Prinzipien zerlegt, die man sich merken und anwenden kann. Zu jedem gibt es eine Erklärung und ein Beispiel von heute.
Die Folgen gehören zur Tat
In der alten Ethik zählte vor allem die Absicht und die Handlung selbst. Wer lügt, tut Unrecht, egal was danach passiert. Die fernen Folgen lagen ohnehin nicht in unserer Hand, sie waren Schicksal.
Jonas sagt: Das geht nicht mehr. Wenn meine Handlung in 100 Jahren Menschen schadet, dann ist dieser Schaden Teil meiner Handlung. Ich kann mich nicht darauf berufen, dass ich es gut gemeint habe oder dass ich die Folgen nicht mehr erlebe. Weil wir die Macht haben, so weit zu wirken, müssen wir auch so weit denken.
HeuteEine App, die Menschen mit Benachrichtigungen an sich bindet, ist nicht nur ein Stück Code. Die Unruhe von Millionen Nutzern ist Teil des Produkts.
Prinzip 2Macht verpflichtet
Kant sagte sinngemäß: Wenn du etwas sollst, dann kannst du es auch. Jonas dreht das um. Weil wir so viel können, sollen wir auch so viel verantworten. Seine Formel lautet:
„Du sollst, denn du tust, denn du kannst.“
Die Pflicht wächst mit der Macht. Wer nur eine Schaufel hat, trägt die Verantwortung für ein Loch. Wer einen Bagger hat, für eine Baugrube. Wer eine Technik hat, die den ganzen Planeten verändert, trägt Verantwortung für den Planeten. Das gilt nicht als Strafe, sondern als Folge der Macht selbst.
HeuteEin Entwickler, der einen Agenten baut, der für 10.000 Kunden E-Mails verschickt, trägt mehr Verantwortung als jemand, der eine einzelne Mail schreibt. Nicht weil er schlechter ist, sondern weil sein Hebel länger ist.
Prinzip 3Vorausdenken ist Pflicht
Wenn die Folgen zur Tat gehören, muss ich sie kennen wollen. Jonas nennt zwei Pflichten, die vor allem anderen kommen:
- Sich ein Bild der Fernwirkungen machen. Ich muss aktiv herausfinden, was meine Handlung langfristig bewirken kann. Er fordert dafür eine eigene Wissenschaft, eine Art Zukunftsforschung der Folgen.
- Sich von diesem Bild berühren lassen. Es reicht nicht, die Gefahr zu kennen. Ich muss mich innerlich davon treffen lassen, auch wenn sie mich selbst nie erreicht.
Der zweite Punkt ist ungewöhnlich für eine Ethik. Jonas weiß: Menschen handeln nicht nach Wissen, sondern nach dem, was sie fühlen. Eine Zahl in einem Bericht bewegt niemanden. Ein lebendiges Bild der Zukunft schon.
HeuteEin Pre-Mortem vor dem Projektstart: Stell dir vor, es ist ein Jahr später und das Projekt ist schiefgegangen. Was ist passiert? Das ist genau diese Übung in klein.
Prinzip 4Der neue Imperativ
Kant hatte einen Test für gutes Handeln: Kann ich wollen, dass alle so handeln? Das ist ein Test der Logik. Er prüft, ob ich mir selbst widerspreche. Jonas reicht das nicht. Eine Generation kann ohne Widerspruch beschließen, alles zu verbrauchen und nichts übrig zu lassen. Logisch ist das sauber. Moralisch ist es eine Katastrophe.
Darum formuliert er einen neuen Imperativ, der die realen Folgen in die Zukunft prüft. Er gibt ihn in vier Fassungen. Klick dich durch und achte auf die markierten Stellen.
Animation 3 · Von Kant zu Jonas
Die Fassungen von Jonas wörtlich nach der Suhrkamp-Ausgabe. Die Erklärungen darunter sind meine.
Drei Dinge sind neu. Erstens geht es um Wirkungen, nicht um Gesinnung. Zweitens geht es um die Zukunft, nicht um die Gegenwart. Drittens richtet sich der Imperativ vor allem an kollektives Handeln: an Politik, Wirtschaft, Wissenschaft. Jonas sagt selbst, dass er weniger das private Verhalten meint als die großen Entscheidungen, die eine Gesellschaft gemeinsam trifft.
Wichtig ist auch, was nicht drinsteht. Jonas verlangt nicht, dass künftige Menschen glücklich sind oder dass wir ihnen ein Paradies hinterlassen. Er verlangt nur, dass ihre Existenz möglich bleibt und dass es ein menschenwürdiges Leben ist. Das ist bescheidener, und genau deshalb belastbarer.
HeuteDer Imperativ steckt in der Idee der Nachhaltigkeit. Und seit 1994 steht im Grundgesetz, Artikel 20a, dass der Staat die natürlichen Lebensgrundlagen auch „in Verantwortung für die künftigen Generationen“ schützt.
Prinzip 5Die Heuristik der Furcht
Das ist der bekannteste und am meisten missverstandene Teil des Buches. Heuristik heißt: eine Methode zum Finden. Jonas meint also nicht, dass wir in Angst leben sollen. Er meint, dass die Furcht uns etwas zeigt, was wir sonst nicht sehen.
Seine Beobachtung: Wir wissen viel genauer, was wir nicht wollen, als was wir wollen. Was Gesundheit ist, merkst du erst richtig, wenn du krank bist. Was Freiheit wert ist, merkst du, wenn sie bedroht ist. Das Schlechte ist leichter zu erkennen als das Gute.
Daraus macht Jonas eine Methode: Stell dir bewusst die schlimmsten möglichen Folgen einer Technik vor. Male sie dir genau aus. Dann erkennst du, was auf dem Spiel steht, und damit, was du schützen musst. Die Furcht ist hier kein Gefühl, das lähmt, sondern ein Instrument, das sehend macht.
HeuteThreat Modeling in der IT-Sicherheit funktioniert genau so. Man fragt nicht, was das System alles kann, sondern was ein Angreifer im schlimmsten Fall damit anstellen würde.
Prinzip 6Keine Wette um das Ganze
Was tun, wenn die Experten uneins sind? Die einen versprechen das Paradies, die anderen warnen vor der Katastrophe. Jonas hat eine klare Regel: Bei Entscheidungen, bei denen es um das Ganze geht, hat die schlechte Prognose Vorrang vor der guten.
Warum diese Schieflage? Weil die beiden Seiten nicht gleich viel wiegen. Wenn die gute Prognose falsch war, haben wir einen Fortschritt verpasst. Das ist schade, aber man kann es später nachholen. Wenn die schlechte Prognose richtig war und wir sie ignoriert haben, gibt es vielleicht kein Später mehr.
Jonas formuliert daraus ein Verbot: Man darf niemals die Existenz oder das Wesen der Menschheit als Einsatz in eine Wette setzen. Im kleinen Leben darf ich wetten, sogar mit meinem eigenen Leben. Aber ich darf nicht mit dem Leben anderer wetten, und erst recht nicht mit dem aller. Probier es in der Animation aus.
Animation 4 · Wetten oder nicht?
Was steht auf dem Spiel?
Lassen sich Fehler korrigieren?
Wie gut kennen wir die Folgen?
Links das versprochene Gute, rechts das mögliche Unheil. Je mehr auf dem Spiel steht, je weniger sich korrigieren lässt und je dünner das Wissen, desto schwerer wiegt die schlechte Prognose.
Dieses Prinzip ist der Kern dessen, was später als Vorsorgeprinzip in Umweltrecht und Politik eingegangen ist: Wenn ein schwerer, nicht umkehrbarer Schaden droht, darf fehlende wissenschaftliche Gewissheit kein Grund sein, Schutzmaßnahmen aufzuschieben. Jonas hat es nicht erfunden, aber er hat ihm die philosophische Begründung gegeben.
HeuteBei einem Deployment auf Produktion mit Datenbank-Migration gilt dieselbe Logik. Ein Feature-Flag kann man zurückdrehen, eine gelöschte Tabelle ohne Backup nicht. Darum fragt man vor dem Unumkehrbaren nach, auch wenn man sich sicher ist.
Prinzip 7Erste Pflicht: Dass es Menschen gibt
Hier wird Jonas grundsätzlich. Die meisten Ethiken setzen voraus, dass es Menschen gibt, und fragen dann, wie sie gut miteinander umgehen. Jonas fragt eine Stufe vorher: Warum soll es überhaupt Menschen geben?
Seine Antwort: Die Existenz der Menschheit ist selbst ein Gebot. Der erste Imperativ lautet, dass eine Menschheit sei. Daraus folgt alles andere. Wir haben kein Recht, die Existenz künftiger Menschen aufs Spiel zu setzen, auch nicht für ein höheres Ziel, auch nicht wenn wir selbst einverstanden wären.
Und es geht nicht nur ums bloße Überleben. Jonas spricht vom echten menschlichen Leben. Gemeint ist ein Leben, in dem Menschen noch Menschen sein können: frei, verantwortlich, mit der Fähigkeit, selbst Verantwortung zu tragen. Eine Menschheit, die nur noch dahinvegetiert oder durch Technik so verändert ist, dass sie keine Verantwortung mehr tragen kann, wäre kein Erfolg.
HeuteDarum ist die Frage bei KI nicht nur, ob sie Menschen schadet. Sondern auch, ob sie Menschen das Denken und Entscheiden so weit abnimmt, dass sie es verlernen.
Prinzip 8Verantwortung ohne Gegenleistung
Die meisten Regeln zwischen Menschen sind gegenseitig. Ich halte mich an den Vertrag, du auch. Ich respektiere deine Rechte, du meine. Das funktioniert unter Gleichen, die miteinander reden können.
Künftige Generationen können das nicht. Sie können nicht verhandeln, nicht klagen, nicht wählen und uns nichts zurückgeben. Eine Ethik, die auf Gegenseitigkeit baut, hat für sie keinen Platz. Jonas sagt darum: Die Verantwortung für die Zukunft ist einseitig. Sie fließt nur in eine Richtung, von denen mit Macht zu denen ohne Macht.
Animation 5 · Vertrag oder Verantwortung
Im Vertragsmodell zählt nur, wer mitreden kann. Im Modell von Jonas gehen die Pfeile von uns nach vorn, zu allen, die noch kommen.
HeuteEin System, das Daten von Menschen verarbeitet, die nie gefragt wurden, hat genau diese Lage. Die Betroffenen sitzen nicht am Tisch. Also muss jemand am Tisch für sie mitdenken.
Prinzip 9Das Urbild: Das Neugeborene
Woher sollen wir wissen, was Verantwortung ist, wenn es keine Gegenseitigkeit gibt? Jonas zeigt auf ein Beispiel, das jeder kennt: ein neugeborenes Kind.
„Sieh hin und du weißt.“
Ein Säugling kann nichts fordern, nichts zurückgeben, keinen Vertrag schließen. Und trotzdem weiß jeder, der ihn ansieht, sofort: Für dieses Wesen muss gesorgt werden. Allein durch sein Dasein und seine Hilflosigkeit ruft es eine Pflicht hervor. Für Jonas ist das der Beweis, dass aus einem Sein ein Sollen folgen kann.
Aus der Verantwortung von Eltern leitet er drei Merkmale ab, die auch für die Verantwortung von Politikern gelten:
- Totalität. Eltern sind nicht nur für einen Teil des Kindes zuständig, sondern für das ganze Wesen: Essen, Gesundheit, Bildung, Charakter.
- Kontinuität. Verantwortung kann man nicht für ein Wochenende abgeben. Sie hört nicht auf, solange der andere sie braucht.
- Zukunft. Ziel ist nicht der Zustand heute, sondern dass das Kind einmal selbst ein verantwortlicher Mensch wird. Gute Verantwortung macht sich selbst überflüssig.
HeuteGute Führung im Team sieht genauso aus. Nicht Aufgaben verteilen und abhaken, sondern Menschen so begleiten, dass sie selbst Verantwortung übernehmen können.
Prinzip 10Bescheidenheit statt Utopie
Am Ende richtet sich Jonas gegen eine Idee, die er für gefährlich hält: das Versprechen, dass Technik und Fortschritt eine perfekte Welt schaffen werden. Er nennt das Baconsche Ideal, nach Francis Bacon, dem Vordenker der modernen Wissenschaft: Wissen ist Macht, und mit genug Macht über die Natur lösen wir alle Probleme.
Jonas’ Einwand: Gerade dieses Ideal ist gefährlich, weil es keine Grenze kennt. Wer ein Paradies verspricht, rechtfertigt damit fast jedes Risiko auf dem Weg dorthin. Statt der Utopie fordert er Bescheidenheit: nicht das Beste erreichen wollen, sondern das Schlimmste verhindern. Nicht die Welt neu erfinden, sondern bewahren, was sie lebenswert macht.
Das klingt konservativ, und das ist es im Wortsinn auch: Es geht ums Bewahren. Aber es ist nicht technikfeindlich. Jonas will keine Rückkehr in die Steinzeit. Er will, dass wir mit unserer Macht umgehen wie Erwachsene, nicht wie Kinder mit einem neuen Spielzeug.
HeuteWenn ein Tech-Unternehmen sagt, sein Produkt werde die Menschheit retten, ist das genau der Moment, in dem man genauer hinschauen sollte, welche Risiken dafür in Kauf genommen werden.
Warum überhaupt Pflicht?
Das ist der schwierigste Teil des Buches, und viele Leser überspringen ihn. Trotzdem kurz, weil er erklärt, warum Jonas so sicher ist.
In der Philosophie gilt seit David Hume eine Regel: Aus dem, was ist, kann man nicht ableiten, was sein soll. Dass Menschen existieren, heißt noch nicht, dass sie existieren sollen. Jonas widerspricht. Er argumentiert, dass in der Natur selbst Zwecke stecken. Jedes Lebewesen will leben, sucht Nahrung, wehrt sich gegen den Tod. Das Leben sagt Ja zu sich selbst.
Daraus folgert er: Sein ist besser als Nichtsein, und Leben, das Zwecke hat, ist ein Wert an sich. Der Mensch ist das einzige Wesen, das diese Zwecke erkennen und Verantwortung dafür übernehmen kann. Deshalb ist er verpflichtet, sie zu schützen, auch die Möglichkeit künftiger Verantwortung selbst.
Man muss dieser Begründung nicht folgen, um die Prinzipien sinnvoll zu finden. Die meisten Menschen, die Jonas zitieren, tun es auch nicht. Aber man sollte wissen, dass Jonas seine Ethik nicht auf Gefühle oder Mehrheiten baut, sondern auf eine Philosophie des Lebendigen.
Hoffnung gegen Verantwortung
Das ganze Buch ist auch eine Auseinandersetzung mit Ernst Bloch und seinem Prinzip Hoffnung. Bloch sah die Geschichte als Weg zu einer besseren Welt, die noch nicht da ist. Jonas hält diese Haltung für sympathisch, aber unter den Bedingungen moderner Technik für gefährlich. Vergleich die beiden Haltungen.
Animation 6 · Zwei Prinzipien
Stark verkürzt. Bloch ist vielschichtiger, als ein Vergleich in fünf Zeilen zeigen kann. Es geht um die Grundrichtung.
Für mich ist das der praktischste Gedanke im ganzen Buch. Hoffnung fragt: Was könnte alles werden? Verantwortung fragt: Was darf auf keinen Fall passieren? Beide Fragen sind wichtig. Aber wenn man die zweite vergisst, wird die erste gefährlich.
Kritik
Das Buch ist einflussreich, aber nicht unumstritten. Diese Einwände sollte man kennen.
- Die Furcht kann lähmen. Wenn man sich bei jeder neuen Technik den schlimmsten Fall ausmalt, entwickelt man vielleicht gar nichts mehr. Auch Nichthandeln hat Folgen: Medikamente, die nie erforscht werden, retten niemanden.
- Wer entscheidet, was der schlimmste Fall ist? Mit genug Fantasie kann man jede Technik als Weltuntergang beschreiben. Jonas sagt, die Unheilsprognose müsse ernsthaft begründet sein, aber die Grenze ist schwer zu ziehen.
- Die Begründung ist umstritten. Viele Philosophen halten den Schritt vom Sein zum Sollen und die Zwecke in der Natur für nicht haltbar.
- Die Demokratie-Frage. Jonas zweifelte, ob Demokratien mit ihren kurzen Wahlperioden zu langfristigem Verzicht fähig sind. Er spielte deshalb auch Gedanken über die Herrschaft einer verantwortungsvollen Elite durch. Das ist der heikelste Teil des Buches, und viele Leser lehnen ihn zu Recht ab.
- Zu allgemein für den Alltag. Der Imperativ sagt, was wir verhindern sollen, aber nicht genau, wie. Für konkrete Entscheidungen braucht man weitere Regeln.
Mein Eindruck nach dem Lesen: Die Kritik trifft vor allem die Begründung und die politischen Schlüsse. Die Prinzipien selbst halten erstaunlich gut. Gerade die Asymmetrie zwischen umkehrbaren und unumkehrbaren Folgen ist ein Werkzeug, das ich jeden Tag brauche.
Was das heute heißt
Jonas schrieb in einer Zeit, in der Atomkraft, Umweltverschmutzung und die ersten Schritte der Gentechnik die großen Themen waren. Fast 50 Jahre später passen seine Gedanken auf Felder, die er nicht kennen konnte.
| Feld | Reichweite | Unumkehrbar? | Jonas würde fragen |
|---|---|---|---|
| Klima | weltweit, Jahrhunderte | teilweise, Kipppunkte | Welche Welt erben die, die heute geboren werden? |
| Gentechnik am Menschen | alle Nachkommen | ja, bei Eingriffen in die Keimbahn | Bleibt der Mensch frei, wenn andere sein Erbgut festlegen? |
| Soziale Medien | Milliarden Menschen | schwer, Gewohnheiten und Gesellschaft | Was macht die Summe kleiner Reize mit einer Generation? |
| KI-Agenten | jede Automatisierung vervielfacht | je nach Aktion | Wer trägt die Folgen, wenn niemand mehr hinschaut? |
Besonders bei KI ist Jonas aktuell. Ein KI-System handelt schnell, tausendfach und oft auf eine Weise, die selbst die Entwickler nicht genau vorhersagen können. Das ist exakt die Lücke zwischen Macht und Wissen aus Animation 1. Und es kommt etwas Neues dazu: Ein Agent kann selbst Handlungen auslösen. Die Kette zwischen Mensch und Folge wird länger, und die Verantwortung droht unterwegs verloren zu gehen.
Jonas für Leute, die KI bauen
Bei VARTAKT gilt eine einfache Regel, über die ich schon im Beitrag KI-Agenten und Ethik geschrieben habe: Die KI schlägt vor, der Mensch entscheidet. Nach dem Buch kann ich besser sagen, warum, und vor allem, wann.
Nicht jede Automatisierung braucht eine Freigabe. Ein Social-Media-Entwurf, den sowieso jemand liest, ist harmlos. Eine automatische Löschung von Kundendaten nicht. Aus Jonas’ Prinzipien habe ich fünf Fragen gemacht, die ich vor jedem Agenten stelle. Wähle ein Beispiel oder beantworte die Fragen selbst.
Animation 7 · Der Jonas-Check für Agenten
Eine Faustregel, kein Gesetz. Unumkehrbarkeit wiegt doppelt, weil sie bei Jonas den Unterschied zwischen Fehler und Katastrophe macht.
Daraus folgen bei uns ein paar konkrete Gewohnheiten:
- Unumkehrbares braucht einen Menschen. Löschen, Verschicken, Bezahlen, Veröffentlichen: Hier fragt der Agent nach.
- Protokoll für alles. Man muss später nachvollziehen können, was ein Agent wann getan hat. Ohne Protokoll keine Verantwortung.
- Erst klein, dann breit. Ein neuer Agent läuft zuerst für einen Fall, dann für zehn, dann für alle. Die Häufung aus Animation 2 kommt so langsam genug, dass man sie sieht.
- Pre-Mortem vor dem Start. Was wäre der schlimmste Fall? Wenn wir den nicht beschreiben können, wissen wir zu wenig.
- Die Abwesenden mitdenken. Kunden der Kunden, Menschen in den Daten, Nutzer in einem Jahr. Sie sitzen nicht im Meeting, also muss jemand für sie sprechen.
Und noch etwas habe ich mitgenommen, aus Prinzip 7: Gute Tools sollen Menschen fähiger machen, nicht abhängiger. Ein Agent, der jemandem die Arbeit abnimmt, ist gut. Ein Agent, der jemandem das Urteilen abnimmt, ist gefährlich, selbst wenn er gut urteilt.
So liest du das Buch
Das Buch ist nicht leicht. Jonas schreibt in langen, verschachtelten Sätzen, und manche Kapitel sind reine Metaphysik. Mit 20 Minuten am Tag braucht man etwa drei bis vier Wochen. So würde ich es angehen:
- Woche 1: Das erste KapitelÜber das veränderte Wesen menschlichen Handelns. Hier steht die ganze Diagnose und der neue Imperativ. Wer nur ein Kapitel liest, liest dieses.
- Woche 2: Grundlagen und MethodeHier kommen die Heuristik der Furcht, der Vorrang der schlechten Prognose und das Verbot der Wette um das Ganze.
- Woche 3: Die Theorie der VerantwortungDas Neugeborene, Eltern und Staatsmann, Totalität, Kontinuität und Zukunft. Die Teile über Zwecke in der Natur kann man beim ersten Lesen überfliegen.
- Woche 4: Fortschritt und UtopieDie Auseinandersetzung mit dem Fortschrittsdenken und mit Bloch. Politisch der umstrittenste Teil, aber wichtig, um Jonas fair zu beurteilen.
Mein Tipp aus dem Beitrag Lesen in 20 Minuten: Am Ende jeder Session einen Satz aufschreiben. Bei diesem Buch habe ich es so gemacht, und aus diesen Sätzen ist dieser Artikel entstanden.
Häufige Fragen
Worum geht es in Das Prinzip Verantwortung?
Hans Jonas zeigt 1979, dass moderne Technik so weit in Raum und Zeit wirkt, dass die alte Ethik des Nahbereichs nicht mehr reicht. Er fordert eine Ethik, die die Folgen für künftige Generationen einbezieht, und formuliert dafür einen neuen Imperativ.
Wie lautet der Imperativ von Hans Jonas?
„Handle so, dass die Wirkungen deiner Handlung verträglich sind mit der Permanenz echten menschlichen Lebens auf Erden.“ Dazu gibt es negative Fassungen, etwa: „Gefährde nicht die Bedingungen für den indefiniten Fortbestand der Menschheit auf Erden.“
Was ist die Heuristik der Furcht?
Eine Methode, um herauszufinden, was auf dem Spiel steht. Wir erkennen leichter, was wir verlieren könnten, als was wir gewinnen wollen. Darum soll man sich die schlimmsten möglichen Folgen bewusst vorstellen und bei großen, unumkehrbaren Risiken der schlechten Prognose den Vorrang geben.
Warum ist Hans Jonas für KI wichtig?
KI-Systeme handeln schnell, vielfach und oft mit Folgen, die man beim Bauen nicht sieht. Jonas liefert die Fragen dafür: Wie weit reicht die Wirkung, lässt sie sich rückgängig machen, wer ist betroffen, ohne mitreden zu können, und was ist der schlimmste Fall?
Was ist der Unterschied zwischen Jonas und Kant?
Kants kategorischer Imperativ prüft, ob eine Maxime widerspruchsfrei als allgemeines Gesetz gedacht werden kann. Jonas prüft die realen Folgen einer Handlung für die Zukunft der Menschheit. Er richtet sich vor allem an kollektives Handeln und Politik.
Quellen
- Hans Jonas: Das Prinzip Verantwortung. Versuch einer Ethik für die technologische Zivilisation. Insel, Frankfurt am Main 1979. Als Taschenbuch bei Suhrkamp (st 1085).
- Ernst Bloch: Das Prinzip Hoffnung. Suhrkamp, Frankfurt am Main 1959.
- Wikipedia: Das Prinzip Verantwortung
- Wikipedia: Hans Jonas
- Wikipedia: Vorsorgeprinzip
- Grundgesetz, Artikel 20a
Weiterlesen
- KI-Agenten und Ethik: Der Mensch gibt frei
- Brian Christian: The Alignment Problem
- Lesen in 20 Minuten
- Agentische Systeme: Wie Markdown Claude Code steuert
In short
In The Imperative of Responsibility (1979), Hans Jonas argues that modern technology reaches so far in space and time that traditional ethics, built for neighbours and the present, no longer suffices. His new imperative: act so that the effects of your action are compatible with the permanence of genuine human life on earth. His method is the heuristics of fear: picture the worst outcome to learn what is at stake, give the bad prognosis priority over the good one when everything is at stake, and never wager humanity’s existence. Responsibility is non-reciprocal, modelled on parents and a newborn. For people building AI agents, this becomes a simple rule: the more irreversible and far-reaching an action, the more a human must approve it.