Vertraut man Metas KI-Agenten Muse leichter, weil er niedlich ist?

Metas KI-Agent Muse begrüßt neue Nutzer mit einer cremefarbenen Figur namens Jolly und fragt zuerst nach einem Namen für den Begleiter. In Laborversuchen verzeihen Probanden niedlichen KI-Assistenten kleine Fehler leichter. Die UX-Autorin Dora Czerna will deshalb die folgenreichen Einstellungen auf denselben Bildschirm holen wie den Avatar.

drweb.de als bevorzugte Quelle auf Google hinzufügenQualitätsgeprüfte Inhalte direkt in Google News & DiscoverJetzt hinzufügen

Metas KI-Agent Muse stellt nach dem Download zuerst eine Frage, die mit Postfach und Kalender nichts zu tun hat: Wie soll der Agent heißen? Danach dürfen Nutzer die Figur umkleiden, beschreibt die UX-Autorin Dora Czerna in einem Essay vom 6. Oktober.^[1]

Das Wichtigste in Kürze

• Muse startet mit Namenswahl und Avatar, die folgenreichen Einstellungen liegen in einem eigenen Reiter.
• In fünf Experimenten gingen Probanden nach dem Anblick niedlicher Bilder höhere Risiken ein.
• Niedlichen KI-Assistenten verzeihen Nutzer kleine Fehler eher, bei schweren Fehlern schwindet der Bonus.
• Muse nutzt Gespräche standardmäßig fürs Modelltraining, in der EU ist der Agent nicht erhältlich.

Warum setzt Meta auf eine niedliche Figur?

Name und Kostüm helfen bei keiner Buchung, verändern aber das Gefühl, dem Agenten das eigene Postfach zu überlassen, argumentiert Czerna. Die Autorin erinnert an das Tamagotchi von 1996, das digitale Haustier am Schlüsselbund.^[1] Ab Dezember erscheint Jolly auch auf dem Muse Charm, einem Gerät im Format eines Schlüsselanhängers. Statt Futter verlangt dieses Haustier Zugriff auf Konten und Apps.

Muse stieg binnen einer Woche zur meistgeladenen Gratis-App im US-App-Store auf, obwohl der Konzern ein Vertrauensproblem mitbringt: 2019 musste Facebook der US-Handelsbehörde FTC nach Täuschungsvorwürfen beim Datenschutz eine Rekordstrafe von rund 4,35 Milliarden Euro zahlen.^[8]

Was sagt die Forschung über niedliche Assistenten?

Niedlichkeit kann die Vorsicht senken. In fünf Experimenten, 2025 im European Journal of Marketing veröffentlicht, gingen Probanden nach dem Anblick niedlicher Bilder bei Ernährung, Geld und Sicherheit höhere Risiken ein.^[2] Die Autoren führen den Effekt auf eine vorübergehend geringere Gewissenhaftigkeit zurück.

Eine Studie von 2009 fand allerdings das Gegenteil: Nach Bildern von Welpen spielten Probanden ein Geschicklichkeitsspiel sorgfältiger.^[3] Die Marketingforscherinnen Gergana Nenkov und Maura Scott erklären den Widerspruch mit zwei Arten von Niedlichkeit. Das Kindchenschema weckt Fürsorge, verspielte Niedlichkeit verleitet dazu, sich etwas zu gönnen.^[4] Czerna zählt Jolly zur verspielten Sorte.

Für KI-Assistenten hat ein Team um Xing-Yang Lv den Effekt direkt gemessen. In sieben Laborexperimenten verziehen Probanden einem Assistenten mit niedlichem Aussehen, niedlicher Stimme und kindlichem Sprachstil Servicefehler eher. Der Bonus schwand bei schweren Fehlern und unter Zeitdruck.^[5] Die Pannen bei Muse wiegen schwer: Laut internen Beiträgen, die Reuters einsehen konnte, griff der Agent bei einer Fotosuche auf private iCloud-Bilder einer Person zu. Meta äußerte sich zu einzelnen Vorfällen nicht.^[1]

Wo setzt Meta die Hürden richtig?

Richtig liegt Meta bei den Freigaben. Braucht der Agent eine Erlaubnis, erscheint ein eigener Dialog in der App und nicht im Gespräch mit der Figur. Über die Freigabe entscheidet Sentinel, ein getrennter Prüfdienst, den der Agent nicht überstimmen kann.^[6] Jolly bittet also nie selbst um ein Ja, lobt Czerna.

Beim Modelltraining entscheidet Meta anders. Gespräche und Arbeitsschritte fließen standardmäßig ins Training, abschalten lässt sich das Training nur per Schalter in den Einstellungen.^[6] Den Avatar-Baukasten sehen Nutzer dagegen sofort. Honor versteckt den Aus-Schalter für seine Sperrbildschirm-Werbung nach einem ähnlichen Muster. Zudem behält Meta für Betrieb, Support und Sicherheit Zugriff auf die Daten, bis die angekündigte Muse Confidential VM den Konzern kryptografisch aussperrt.^[6]

Was folgt daraus für Agenturen und Produktteams?

Produktteams, die Chatbots oder KI-Agenten mit Maskottchen bauen, fragen folgenreiche Einstellungen am besten im selben Schritt ab wie Name und Aussehen. Meta startete den persönlichen KI-Agenten nur in den USA. Hierzulande müsste sich ein standardmäßig aktiver Trainingsschalter an Art. 25 Abs. 2 DSGVO messen lassen, der datenschutzfreundliche Voreinstellungen verlangt.^[7]

Für eigene Assistenten mit Figur ergeben sich aus dem Fall zwei Regeln:

• Trainings- und Rückfrage-Einstellungen gehören ins Onboarding, direkt neben die Wahl von Name und Avatar.
• Freigaben für Zahlungen oder Datenzugriffe sowie Meldungen zu schweren Fehlern erscheinen sachlich, ohne Figur.

Weitere Analysen zu Agenten und Assistenten bündelt das KI-Ressort von Dr. Web.

Quellen

[1] Dora Czerna, UX Collective: „Is Meta’s new AI agent easier to trust because it’s cute?“

[2] Yim, He, Cui, Zhao, European Journal of Marketing: „Carefree cuteness: the effect of exposure to cuteness on risk seeking“

[3] Sherman, Haidt, Coan, Emotion: „Viewing cute images increases behavioral carefulness“

[4] Nenkov, Scott, Journal of Consumer Research: „So Cute I Could Eat It Up: Priming Effects of Cute Products on Indulgent Consumption“

[5] Lv, Liu, Luo, Liu, Li, Annals of Tourism Research: „Does a cute artificial intelligence assistant soften the blow?“

[6] Meta: „How We Built Safety Into Muse“

[7] EUR-Lex: „Datenschutz-Grundverordnung, Art. 25“

[8] Federal Trade Commission: „FTC Imposes $5 Billion Penalty and Sweeping New Privacy Restrictions on Facebook“

Mehr Newshunger?

• Googles KI-Produkte wirken trotz Spitzenmodell kaputt, sagt Berater Hitesh Sarda
• Viele KI-Agenten, viele Ansichten: Luke Wroblewski zeigt Alternativen zum Chat-Verlauf
• Festplattenvollzugriff in macOS: Apple verschärft die Freigabe für KI-Agenten
• Muse for Small Business: Meta schickt seinen KI-Agenten zu 200 Millionen Kleinfirmen
• Studie: KI-Anbieter übermitteln Chatdaten an Werbenetzwerke
• Petdex: Animierte Begleiter für Coding-Agenten
• Character.AI: Wie verdient man mit KI-Freunden Geld?