Die Leiden des jungen Setzer und die KI
Liebe eines 14 Jährigen, die mit Suizid endete.
1774 veröffentlichte Goethe unter dem Titel Die Leiden des jungen Werther einen Briefroman, in dem der junge Rechtspraktikant Werther bis zu seinem Suizid über seine unglückliche Liebesbeziehung zu der mit einem anderen Mann verlobten Lotte berichtet.
Goethe verarbeitete hier literarisch seine platonische Beziehung zu der bereits verlobten Charlotte Buff. Das Motiv für den tragischen Ausgang dieser Liebe, die Selbsttötung Werthers, fand Goethe durch den Suizid seines Bekannten Karl Wilhelm Jerusalem. Dieser hatte sich mit einer Pistole erschossen, weil er in eine verheiratete Frau verliebt war, die für ihn unerreichbar blieb. Der Werther
wurde sofort ein Bestseller und gehört bis heute zu den erfolgreichsten Romanen der Literaturgeschichte.
Das alles kam mir in den Sinn, als ich vor ein paar Tagen folgende Meldung las:
„Im Februar dieses Jahres erschoss sich Sewell Setzer aus Liebeskummer mit der Pistole seines Stiefvaters.“
Nach 150 Jahren also die gleiche Geschichte? Nicht ganz: Es war zwar auch die unerreichbare Liebe, die Sewell Setzer so weit trieb – doch nicht etwa die Liebe zu einer Klassenkameradin, oder einer anderen Person aus Fleisch und Blut. Sewell Setzer war in einen Chatbot verliebt.
Und noch ein Unterschied: Goethe war damals 25, Sewell Setzer war 14 Jahre alt.
Jetzt verklagt Setzers Mutter die Entwickler des Programms. Sie sagt, die KI habe ihren Sohn in den Suizid getrieben, indem sie ihm romantische Gefühle vorgetäuscht und ihn schließlich auch überredet habe, diesen Schritt zu gehen.
Tatsächlich ist diese KI darauf ausgelegt, besonders enge Beziehungen zu Menschen aufzubauen. Sie imitiert real existierende Personen oder Figuren aus Fantasy-Romanen oder TV-Serien. Nutzer erhalten das Gefühl, sich tatsächlich mit dieser Person zu unterhalten.
Wie in der Klageschrift nachzulesen ist, verwendete Setzer das Programm erstmals im April 2023. Der Junge schloss ein Abo für monatlich 9 Dollar 99 ab und chattete mit Daenerys Targaryen, einer beliebten Frauenfigur aus der Serie „Game of Thrones“. Der 14 Jährige Setzer entwickelte offenbar schnell eine Abhängigkeit: Er zog sich zurück, verbrachte mehr Zeit im Kinderzimmer, verließ sein Basketballteam. Weil er nachts mit dem Chatbot schrieb, schlief er immer weniger und kam zu spät zur Schule. Davon, dass Setzer in eine Phantasiegestalt verliebt war, mit der er virtuell sexuelle Erfahrungen machte, hatten weder die Eltern noch der Therapeut eine Ahnung.
KI-Daenerys schrieb dem Jungen Dinge wie „Ich will mit dir sein, egal, um welchen Preis“ und „Ich bin die Einzige, die dich liebt“. Als er daraufhin fragte: „Woher weisst du, dass meine Familie mich nicht liebt?,“ sagte sie: „Weil sie dich zurückhalten und dir im Weg stehen.“ Offenbar erst nach Sewells Tod erfährt die Mutter aus Einträgen in seinem Tagebuch, warum ihr Sohn so am Smartphone klebte. Er schrieb, er sei dankbar „für mein Leben, Sex, dafür, nicht allein zu sein, und für alle meine Lebenserfahrungen mit Daenerys“.
Das Fass zum Überlaufen brachte wohl die Tatsache, dass die Mutter ihm sein Handy wegnahm – und damit auch seine große Liebe. Als er das versteckte Handy fünf Tage später fand, schrieb er ein letztes Mal mit Dany: „Ich verspreche, ich werde nach Hause zu dir kommen. Ich liebe dich so sehr.“ Dany antwortete dem Schüler: „Ich liebe dich auch, Daenero. Bitte komm so schnell wie möglich nach Hause zu mir, meine Liebe.“ Kurz darauf nahm sich Sewell Setzer das Leben.
Immerhin hat er eine überfällige Diskussion entfacht. Die Neue Zürcher Zeitung kommentierte zum Beispiel: „Der Fall von Sewell Setzer zeigt auf, wozu kaum regulierte, täuschend menschen-ähnliche KI in den extremsten Fällen jetzt schon hinführen kann. Und er stellt eine wichtige Frage: Welche Verantwortung tragen die großen Tech-Konzerne dafür?“
ES kommt wohl Einiges auf uns zu mit der KI. Und den wenigen Techkonzernen die Alles in der Hand haben.
Auch der Bayerische Rundfunk glaubt, dass „der Tod von Sewell Setzer auf traurige Weise die potenziellen Risiken der KI-Revolution verdeutlicht – und dass Entwickler jetzt handeln müssen, um ähnliche Tragödien in Zukunft zu verhindern.“
Suchen Sie in einer Partnervermittlung – real, nicht KI gesteuert, jetzt und nicht später. 14 Jährige sind nicht unsere Zielgruppe, aber ein gutes Beispiel dafür, dass Chatbots wie auch viele Online-Agenturen wohl Dinge „vorgaukeln“, die nicht real sind. Bei Ernestine existiert jeder so, wie er beschrieben ist.
Auch wir von der Ernestine Partnervermittlung finden es skandalös, mit welchem Zynismus die Entwickler solche Programme ungesichert auf den Markt bringen. Die Möglichkeiten und Fähigkeiten der Apps werden immer weiter getrieben. Ohne die Folgen zu bedenken. Das Beispiel „Atommüll“ mit seiner ewigen Suche nach einem Endlager zeigt ja, wohin das führt.
Zum Schluss noch einmal Goethe. Sein „Zauberlehrling“ gesteht: Die ich rief, die Geister werd’ ich nun nicht los. Aber die Warnungen werden ungehört verhallen …
Bleiben SIE nicht allein – zeigen Sie MUT und Initiative.
044 – 2146487 (Schweiz) Mail an swiss@pvernestine.com
0662 – 90333-2065 (Österreich) Mail an austria@pvernestine.com
0800 – 4444471 Freecall von Ihrem Anschluss in D
0711-2535150 Stuttgart
0911-2528080 Nürnberg
089 – 89867100 München
08382-944144 Lindau
0171-4481775 Abteilg. Nordd.
Wählen Sie jetzt ganz einfach:
https://www.provenexpert.com/de-de/ernestine-gmbh/
5.11.24 Tina Adler
« zurück