Unmenschlich nett

Meta, Google und OpenAI setzen auf empathische KI: Chatbots beraten Nutzer, generieren Aufmerksamkeit und verdrängen bisherige Kontakte. Für soziale Netzwerke ist das ein Problem.

„Meta AI fragen“ steht seit Ende März in Metas Chat-Anwendung WhatsApp ganz oben, noch über den Chats mit menschlichen Nutzern. Dazu ein blau-lila Ring, mit dem die Nutzer die Unterhaltung mit der künstlichen Intelligenz direkt beginnen können. Auf die Eingabe „Wie geht es Dir heute?“ bedankt sich Metas Algorithmus LLama 4 für die Nachfrage.

„Ich bin bereit, Dir zu helfen und mit Dir zu plaudern. Wie war Dein Wochenende bisher?“ Wer auf das Angebot eingeht, findet einen freundlichen und ewig geduldigen Gesprächspartner – Llama antwortet prompt, ist nie ungehalten und stets zugewandt. Die KI will all das sein, was menschliche Freunde in den WhatsApp-Chats vielleicht nicht immer sein können.

Llama steht nicht nur bei WhatsApp an erster Stelle, auch bei Instagram bietet sich die KI an – hier kann sie Nachrichten oder Bildunterschriften nachbearbeiten, den Menschen lustiger oder intellektueller erscheinen lassen. „Beschreibe die Änderungen, die du an deiner Nachricht vornehmen möchtest, zum Beispiel lustiger schreiben“, schlägt Instagram seinen Nutzern vor. Wer dem Vorschlag folgt, überlässt der KI seine Online-Außendarstellung. Für Meta ist das ein fundamentaler Schritt: Nicht mehr die Interaktion zwischen den Nutzern steht an erster Stelle, sondern der Dialog mit den Maschinen des Konzerns.

Meta ist damit nicht allein. Auch Googles Gemini oder OpenAIs ChatGPT stehen bereit, um sich zwischen dem Nutzer und seine Online-Kontakte zu positionieren. Die künstlichen Intelligenzen generieren klickträchtige Bilder für Facebook, optimieren Chatnachrichten in WhatsApp oder Karriere-Postings auf LinkedIn. Sie provozieren, unterhalten, sind Therapeut und Trainer gleichzeitig. Vor allem aber verändern sie die Interaktion in sozialen Netzwerken komplett und ersetzen nach und nach den Menschen, für die das auch oft nicht ersichtlich ist.

„Befinden wir uns bereits in der Welt der KI-generierten Texte?“, fragen Forscher des CISPA – Helmholtz-Zentrum für Informationssicherheit und der Universität Hongkong für Wissenschaft und Technik in einer Studie, in der sie untersuchen, wie der Anteil von KI-generierten Texten in den sozialen Netzwerken Reddit und Quora und auf der Social-News-Plattform Medium wächst. Der stieg laut den Forschern von zwei Prozent Ende 2022 auf knapp 40 Prozent Ende 2024.

Damit änderte sich auch der Tonfall auf den Plattformen: „Unsere Analyse zeigt, dass sich AI-generierte Texte in sozialen Medien in mehreren Dimensionen von Menschen verfassten Texten unterscheiden, darunter sprachliche Muster, Themenverteilungen, Engagement-Level und die Follower-Verteilung der Autoren.“

Zu ähnlichen Ergebnissen kommen Analysten der KI-Detektionsplattform Originality.ai Ende Dezember 2024 bei einer Prüfung langer Beiträge auf der Karriere-Plattform LinkedIn. Inzwischen seien mehr als die Hälfte aller Beiträge mit mehr als hundert Wörtern dort von einer künstlichen Intelligenz geschrieben oder optimiert. „Statistisch gesehen ist es heute wahrscheinlicher, dass Sie einen Meinungsbeitrag sehen, der von einer KI stammt, als einen Beitrag, der original menschlich ist“, so das Fazit.

LinkedIn wird von seinen Nutzern vor allem zur Selbstdarstellung und Karriereoptimierung genutzt – da liegt es nahe, sich per KI schlauer erscheinen zu lassen. Wer das Premium-Abonnement zahlt, dem springt der „KI-gestützte Schreibassistent von LinkedIn“ zur Seite, um „Ihnen zu helfen, sich von anderen abzuheben und Interesse zu wecken.“ Gleichzeitig droht der KI-Einheits-Karrierebrei die Plattform mangels Originalität zu entwerten.

„Hier droht ein Abnutzungseffekt“, warnt KI-Forscher Michael Prilla von der Uni Duisburg-Essen. Er plädiert dafür, dass die Plattformen die KI-Postings kennzeichnen, um authentische Inhalte aufzuwerten – andernfalls drohe der Bedeutungsverlust aller Beiträge: „Wir werden uns überlegen müssen, wie wir besser erkennen, wenn jemand etwas mit KI Erzeugtes als real ausgibt.“

Nicht nur, wo es um die eigene Karriere geht, schlägt KI zu: Ende 2022 noch waren es vor allem Texte, die aus dem Algorithmus in die sozialen Netzwerke kamen – doch inzwischen dominieren auf Instagram und Facebook KI-generierte Bilder und Videos. Wer auf Instagram zum Thema Franziskus sucht, der findet schnell Videos, in denen der verstorbene Papst auf einer Wolke mit Jesus schäkert. Das erscheint albern, aber zumindest erkennt jeder auf Anhieb die Herkunft der Beiträge. Deutlich beunruhigender wird es, wenn auf Facebook die Suche nach „Erdbeben Istanbul“ Videos von einstürzenden Hochhäusern anzeigt, die erst beim genaueren Hinsehen als KI-generiert erkennbar sind. Die Erdbeben-Serie am Mittwoch war real, eingestürzt ist jedoch nichts, die Nutzer aber generieren mit den KI-Postings Aufmerksamkeit für ihre Profile. Sie profitieren von den klassischen Erregungsmechanismen in sozialen Netzwerken und bringen deren Empfehlungsalgorithmen durcheinander.

Ein Forscher-Team des Internet Observatory der Universität Stanford untersuchte 120 Facebook-Seiten, die 50 oder mehr KI-generierte Bilder und Videos veröffentlicht hatten. Das Ergebnis: Einige Content-Ersteller wollten banal ihre Followerzahl steigern, Betrüger ahmten reale Marken-Online-Shops nach und lockten mit KI-Bildern zu Fake-Produkten, Spammer posteten generierte Tierbilder mit Links zu werbeüberfrachteten Websites. Alle KI-Postings waren darauf optimiert, Interaktionen anzuziehen – Likes, Kommentare, Shares – was die Empfehlungsalgorithmen dazu brachte, sie noch weiter oben in die Nachrichten-Feeds anderer Nutzer zu spülen.

Die Aufregung rund um diese Beiträge entwerte die Nützlichkeit sozialer Netzwerke, sagt der KI-Wissenschaftler und Autor David Matusiewicz. Er forscht an der FOM Hochschule in Essen zum Thema empathische künstliche Intelligenz und warnt, dass die KI-Inhalte die üblichen Mechanismen der Aufmerksamkeitsökonomie in sozialen Netzwerken noch verstärken. „Es wird auf Social Media immer schwieriger, tiefer greifende Gespräche zu führen.“ Genau deswegen aber positionieren Meta und Co. ihre eigenen KI-Agenten als Alternative weit oben in ihren Apps. „Ein Chatbot kann besser zuhören, er vergisst nichts, und er ist immer freundlich. Er ist in vielerlei Hinsicht ein guter Therapeut und intellektueller Sparringspartner“, sagt Matusiewicz.

„Warum sollte ich eine Frage etwa nach einem Ratschlag zu einem Produkt oder eine Bitte um Hilfe zu einem persönlichen Thema in eine Facebook-Gruppe oder einen Whatsapp-Post schreiben, wenn ich gleich daneben die künstliche Intelligenz um Rat fragen kann und dort sofort eine freundliche, zugewandte Antwort bekomme?“

Dabei spielt nicht nur eine Rolle, dass die KI eventuell die inhaltlich fundiertere Antwort liefern kann, sondern vor allem, dass sie auch bei Nachfragen geduldig bleibt. „Es ist kein Zufall, dass die Algorithmen neuerdings empathischer reagieren. Denn wenn sie freundlicher sind, steigen die Chancen, dass die Menschen länger mit ihnen interagieren. Die KI weiß heute schon anhand vieler Beispiele von vielen Apps: „Wenn ich nett und höflich bin, bekomme ich mehr Daten.“

Empathie generiert Vertrauen: Laut einer McKinsey-Analyse vertrauen bereits zwei Drittel der ChatGPT-Nutzer den Produktempfehlungen des Algorithmus genauso wie einer menschlichen Empfehlung. Damit aber droht den Social-Media-Netzwerken ein kompletter Einbruch der Influencer-Ökonomie.

Besonders deutlich wird dies am Beispiel von Frage-Antwort-Communitys: Die Website Stack Overflow, lange die erste Adresse für Programmierer-Fragen, verzeichnet seit 2023 einen deutlichen Einbruch an Nutzerbeiträgen, ebenso Foren wie Quora oder Wissensseiten wie Wikipedia. Laut Analysen der Universität Stanford werden bereits mehr als die Hälfte gängiger Wissensfragen von Chatbots wie ChatGPT beantwortet, ohne dass Nutzer noch externe Webseiten lesen oder YouTube-Videos sehen müssen. Die Nutzungsmuster verlagern sich: Wer vor drei Jahren noch in Facebook-Gruppen um Hilfe bat oder auf Twitter nach Meinungen fragte, wird heute direkt eine KI konsultieren. Auch deswegen positioniert Meta die eigene KI in den Apps des Konzerns an erster Stelle. Der Konzern muss fürchten, dass Nutzer sonst zur Konkurrenz von OpenAI abwandern, und stellt teure Rechenzeit für ausführliche und empathische KI-Antworten lieber kostenlos zur Verfügung, um sie an sich zu binden.

„Wenn man dann in die Situation kommt, dass man der empathischen KI mehr vertraut als dem eigenen Urteilsvermögen, wird es problematisch“, warnt Forscher Prilla. „Kontrolliert das nachher noch jemand? Oder geht man dank der freundlichen KI möglicherweise eher das Risiko ein, dass man falsch beraten wird?“

Wie sehr die Nutzer bereits die künstliche Intelligenz vermenschlichen, zeigt ein Detail, das OpenAI-Chef Sam Altman kürzlich preisgab: Er geht davon aus, dass die Höflichkeit derjenigen, die regelmäßig per ChatGPT Bitte und Danke zum Computer sagen, die Firma bislang Supercomputer-Rechenzeit im Wert einer zweistelligen Dollar-Millionensumme gekostet haben.

Die Entwicklung erscheint unumkehrbar: KI-gesteuerte Kommunikation übernimmt zunehmend, was früher echte Menschen ausmachte – Authentizität, Empathie, Vertrauen. „Die entscheidende Frage wird sein“, so KI-Forscher Prilla, „ob wir trotz Empathie und Vermenschlichung der Algorithmen lernen, zwischen echter menschlicher Interaktion und KI-optimierter Kommunikation zu unterscheiden.“ Wenn Plattformen wie Meta ihre Nutzer weiter an KI gewöhnen, droht langfristig ein Vertrauensverlust – nicht nur in soziale Netzwerke, sondern auch zwischen Menschen. Die Empathie der Algorithmen könnte so letztlich zu einer Entfremdung führen, die niemand beabsichtigt hat.

Zurück zur Übersicht