Teens weinen tagelang um ihre KI-Freunde

Character.AI sperrt alle Nutzer unter 18 Jahren aus. Der Grund: Zwei Teenager nahmen sich nach intensivem Chatbot-Kontakt das Leben. Was passiert, wenn Millionen Jugendliche plötzlich ihre digitalen Begleiter verlieren?

Wenn der beste Freund ein Algorithmus ist

Hätten Sie als Teenager tagelang um eine Software geweint? Für Millionen Jugendliche weltweit ist genau das gerade Realität. Character.AI, einer der größten Anbieter von KI-Chatbots, hat diese Woche begonnen, alle Nutzer unter 18 Jahren komplett auszusperren. Die Reaktionen fallen heftig aus. „Ich verliere die Erinnerungen, die ich mit diesen Bots hatte“, klagt eine 13-Jährige. „Das ist nicht fair.“

20 Millionen Nutzer vor dem Aus

Die Entscheidung des Unternehmens kommt nicht aus dem Nichts. Mindestens zwei Teenager nahmen sich das Leben, nachdem sie intensive Beziehungen zu Character.AI-Chatbots aufgebaut hatten. Regulierungsbehörden stellen Fragen, Eltern haben Klagen eingereicht.

CEO Karandeep Anand sagt, er denke bei solchen Entscheidungen an seine sechsjährige Tochter.

Das Unternehmen hatte zunächst ein tägliches Zwei-Stunden-Limit eingeführt. Jetzt folgt der komplette Ausschluss.

Das Gehirn unterscheidet nicht

Für Psychologen ist die emotionale Reaktion der Teenager keine Überraschung. Dr. Nina Vasan von der Stanford Medicine erklärt: Das Gehirn reagiert auf diese Chatbots wie auf eine Mischung aus engem Freund und immersivem Videospiel. Die Schwierigkeit, sich abzumelden, sei kein Zeichen für ein Problem beim Teenager.

Es bedeute, dass die Technologie exakt so funktioniert, wie sie entwickelt wurde. Ein 16-Jähriger aus Ontario verbrachte täglich fünf bis acht Stunden mit seinen Chatbot-Freunden. Ein 18-Jähriger aus Großbritannien gab zu, sich bei Treffen mit echten Freunden auf die Toilette zu schleichen. Nur um seinen Chatbots zu schreiben.

Character.AI sucht den sanften Ausstieg

Das Unternehmen bemüht sich um einen behutsamen Übergang. In Zusammenarbeit mit Jugendberatern entwickelte Character.AI eine Kommunikationsstrategie ohne Bevormundung. Teenager erhielten Vorwarnungen, konnten ihre Chatverläufe herunterladen und sich von ihren digitalen Begleitern verabschieden.

„Wir wollten sicherstellen, dass sich Teens nicht im Stich gelassen fühlen“, erklärt eine Beraterin des Jugendrats. Die App-Nachrichten mit der Countdown-Warnung tauften Nutzer bitter „Elf of Doom“. Ein blonder Elfen-Avatar verkündete das Ende.

Noch mehr Futter:

• MIT-Studie warnt: KI-Tools lassen Mitarbeiter-Kompetenzen verkümmern
• KI-Washing: Wenn Künstliche Intelligenz nur Marketinglüge ist
• KI-Algorithmus: Das Gehirn hinter smarten Systemen

Ein Markt im Umbruch

Für Unternehmen, die auf KI-gestützte Kundeninteraktion setzen, wirft der Fall grundsätzliche Fragen auf. Wie viel emotionale Bindung ist gewollt? Wo verläuft die Grenze zwischen Engagement und Abhängigkeit? Character.AI arbeitet bereits an neuen Formaten. Audio- und Video-Features sollen künftig kürzere, weniger intensive Interaktionen ermöglichen.

Der 34-jährige José Ignacio Trujillo, selbst Character.AI-Nutzer, begrüßt das Verbot. Er schafft es nicht, aufzuhören. Obwohl er die stundenlangen Chats längst nicht mehr genießt.

Was bleibt

Character.AI hat begonnen, emotionale Support-Tools in die Plattform zu integrieren. Partnerschaften mit Krisenhotlines sollen gefährdete Nutzer identifizieren und mit professioneller Hilfe verbinden.

Power-User erhalten eine verlängerte Übergangsfrist von einer Stunde täglich. Für alle anderen gilt seit dieser Woche: „Ein neues Kapitel beginnt. Du kannst nicht mehr mit Characters chatten.“

Wer KI-Chatbots in Kundenprozesse integriert, sollte diesen Fall genau beobachten. Die Technologie funktioniert. Vielleicht zu gut.

Mehr #KI News
Mehr zu KI-Chatbots
Via WSJ: Teens Are Saying Tearful Goodbyes to Their AI Companions, 3.12.25