Ethik bei KI-Agenten: Der Mensch gibt frei
Wir bauen KI-Agenten für echte Arbeit. Je mehr davon laufen, desto wichtiger wird eine einfache Frage: Wer trägt die Verantwortung, wenn etwas schiefgeht?
Die Grenze
Ein Modell kann lesen, sortieren und Entwürfe schreiben. Es kann keine Verantwortung tragen. Deshalb schreiben unsere Agenten bei sensiblen Abläufen nur Vorschläge. Wirksam werden sie erst, wenn ein Mensch bestätigt.
Was das praktisch heißt
- Regeln in Code. Was verbindlich gerechnet werden muss, rechnet kein Sprachmodell allein.
- Belege statt Bauchgefühl. Eine Zuordnung braucht Daten. Ein ähnlicher Name reicht nicht.
- Protokoll. Man muss nachvollziehen können, was ein Agent wann getan hat.
- Fremde Inhalte sind Daten. Was in einer Mail steht, ist keine Anweisung an den Agenten.
Was die Bücher dazu sagen
Hans Jonas schrieb in Das Prinzip Verantwortung über Technik, deren Folgen weiter reichen als unser Vorstellungsvermögen. Seine Forderung: Wer mächtiger handelt, muss die Folgen stärker mitdenken. Für Agenten heißt das, zuerst zu fragen, was im schlimmsten Fall passiert, und erst danach, was alles möglich wäre.
Brian Christian zeigt in The Alignment Problem, dass Systeme genau das optimieren, was man misst, und nicht das, was man meint. Darum prüfen wir nicht nur, ob ein Agent läuft. Wir fragen, ob sein Vorschlag dem Menschen wirklich geholfen hat.
Wo wir noch lernen
Diese Regeln sind nicht fertig. Mit jedem neuen Agenten kommen neue Fragen, gerade beim Datenschutz. Ich schreibe gerade meine eigenen Regeln fürs Bauen auf. Sie sollen in meinen Worten stehen, nicht in denen eines Buches.
Zum Weiterlesen
- Hans Jonas: Das Prinzip Verantwortung (1979)
- Brian Christian: The Alignment Problem (2020), dazu unser Artikel
In short
As we build more AI agents, the line stays simple: AI proposes, people decide. Hans Jonas and Brian Christian explain why that matters.