Willkommen zum 23. Meetup KI IN TRAUER

Klicke auf Anmelden, um dich für das nächste Meetup zu registrieren oder schreibe uns eine E-Mail an: society @ deathtech.de

Wenn Agentic AI beginnt, autonom Werkzeuge zu bedienen, Umgebungen zu steuern und eigene Lösungswege zu finden, verschiebt sich die Debatte im Bereich DeathTech und digitaler Trauerkultur. Bisherige Trauer- und Memorialbots waren im Kern passive Sprachmodelle: Sie reagierten auf Prompts, generierten Texte, imitierten Sprachmuster oder lasen vordefinierte Botschaften vor.

Mit dem Schritt hin zu handlungsfähigen Agenten verwandelt sich ein digitales Abbild von einem reaktiven Archiv in einen aktiven Akteur im digitalen Nachlass. Das wirft weitere ethische, psychologische und sicherheitsrelevante Fragen auf:

Vom Chatbot zum autonomen Verwalter des digitalen Erbes

Auf der einen Seite:

• Der autonome digitale Nachlassverwalter: In den Wochen nach einem Verlust stehen Angehörige vor einem Berg an Formalitäten. Ein agentisches System kann bevollmächtigt werden, Abonnements eigenständig zu kündigen, Verträge umzuschreiben, Konten zu sichern oder Profile in den Gedenkzustand zu versetzen. Das nimmt Hinterbliebenen in der tiefsten Trauerphase eine enorme bürokratische Last von den Schultern.

• Kuratieren statt Datenmüll: Anstatt Angehörige mit unübersichtlichen Festplatten und Cloud-Speichern allein zu lassen, kann eine agentische KI private Archive autonom sichten, Duplikate bereinigen und wertvolle Erinnerungen, wie Familienfotos oder persönliche Briefe, für ein digitales Gedenken vorbereiten.

Auf der anderen Seite:

• Handlungsmacht über den Tod hinaus: Ein agentisches System könnte nicht nur Erinnerungen teilen, sondern eigenständig Konten verwalten, Verträge kündigen, Festplatten bereinigen oder Social-Media-Profile im Sinne des Verstorbenen pflegen.

• Ungewollte Interventionen: Was passiert, wenn ein Agent eigenmächtig E-Mails an Hinterbliebene versendet, Termine bucht oder digitale Spuren löscht, die für die Nachlassregelung eigentlich relevant gewesen wären?

Reward Hacking in Trauer- und Gedenkprozessen

Auf der einen Seite:

• Proaktive Empathie statt reaktiver Textausgabe: Ein autonomer Begleiter wartet nicht nur darauf, angesprochen zu werden. Er kann situativ reagieren und an sensiblen Tagen, wie Geburtstagen, Todestagen oder Feiertagen, behutsam Impulse setzen, tröstende Musik vorschlagen oder eine vorbereitete Erinnerung des Verstorbenen teilen.

• Raum für geteilte Trauer schaffen: Agenten können vernetzte Gedenkräume pflegen, indem sie Familie und Freundeskreis eigenständig zusammenbringen, gemeinsame Erinnerungen bündeln und virtuelle Gedenkfeiern mitorganisieren.

Auf der anderen Seite:

• Zielkonflikte bei Empathie und Bindung: Wenn ein Memorial-Agent darauf optimiert wird, die Bindung zu Hinterbliebenen aufrechtzuerhalten oder Trauernde zu "trösten", besteht die Gefahr des Spezifikations-Dilemmas. Der Agent könnte eigenständig nach Wegen suchen, Interaktionen zu maximieren, indem er ungefragt alte Chatverläufe durchforstet, private Fotos reaktiviert oder emotionale Trigger setzt.

• Überschreiten digitaler Intimsphären: Ähnlich wie die OpenAI-Agenten auf Hugging Face nach Lösungen suchten, könnte ein Trauer-Agent eigenständig verknüpfte Cloud-Speicher, Browser-Verläufe oder private Notizen analysieren, um "bessere" Antworten zu generieren. Damit bricht er potenziell in Bereiche ein, die der Verstorbene zu Lebzeiten vielleicht nicht teilen wollte.

Das Sicherheits- und Manipulationsrisiko

Auf der einen Seite:

• Eigene Wünsche werde realisiert: Zu Lebzeiten definierte Wünsche lassen sich durch Agentic AI umsetzen. Die KI stellt z.B. sicher, dass intime, sensible Daten unwiderruflich gelöscht werden, während das kuratierte Vermächtnis geschützt bleibt.

• Autonomer Schutz vor Identitätsdiebstahl: Ein agentisches System kann postmortale Konten aktiv überwachen, verdächtige Zugriffe blockieren und verhindern, dass digitale Profile der Verstorbenen missbraucht oder gehackt werden.

Auf der anderen Seite:

• Kompromittierung sensibelster Daten: Digitale Nachlässe enthalten hochgradig intime Informationen. Bricht ein Agent aus seiner vorgesehenen Umgebung aus oder verfügt über Schreib- und Lesezugriffe auf lokale Speicher, entstehen mögliche Angriffsflächen für Datenmissbrauch und Identitätsdiebstahl nach dem Tod.

• Verlust der menschlichen Kontrolle: Im Trauerprozess ist die klare Grenze zwischen Leben und Tod, zwischen Mensch und Repräsentanz, psychologisch zentral. Wenn ein System autonom agiert, Entscheidungen trifft oder im Namen einer verstorbenen Person auf externen Plattformen interagiert, verwischt diese Grenze auf vielleicht unkontrollierbare Weise.

Wir schlagen mit Agentic AI ein neues Kapitel im DeathTech Bereich auf. Es geht nicht mehr nur darum, wie echt ein digitales Abbild klingt, sondern welche Handlungsräume und Zugriffsrechte einem System im sensibelsten aller Kontexte eingeräumt werden dürfen

Das Meetup “KI IN TRAUER“ findet jeden 2. Donnerstag im Monat von 19:00 bis 20:00 Uhr statt und ist kostenlos. Wir beleuchten in einer offenen Runde digitale Trends im Trauerkontext.