Die KI als Freund – oder gar noch mehr? Was sollte man wissen und beachten? (Mat4280-ikf)

Worum es hier geht:

Auf Youtube haben wir aktuell ein Video gefunden, das viele wichtige Infos und Überlegungen zum Thema „persönliche Beziehung zu einer KI“ enthält.
https://www.youtube.com/watch?v=R4K5-vUKh2M

Wir haben NotebookLM mal die wichtigsten Infos für die Schule zusammenstellen lassen.  Die Positionen auf der Timeline haben wir einfügen lassen. So kann man einzelne Infos sich im Original genauer anschauen.

Das Ganze ist hier nur als Denkanstoß gedacht. Wenn Infos und Thesen darüber hinaus auch im Detail interessant sind, sollten sie nachrecherchiert werden.

In blauer Schrift haben wir markiert, was uns als „MIA“ (menschliche Intelligenz in Aktion) zu einzelnen Aspekten  eingefallen ist.

Ganz unten haben wir eine Art Kurz-Statement angefügt – für die, die schnell das Wesentliche übersichtlich sehen wollen.

Hinweisen wollen wir  auch auf eine Kurzgeschichte, die mögliche KI-Beziehungen gegen Vorwürfe und Horrormeldungen verteidigt:
https://schnell-durchblicken.de/anders-tivag-kein-echter-freund-und-gemeint-ist-chatgpt

Thema:

KI-Avatare: Chance oder Gefahr? Eine soziale Revolution (Wichtigste Fakten und Thesen für die Schule)
Das Video von Everlast AI beleuchtet die tiefgreifende Wirkung von KI-Freunden und Avataren und beschreibt sie als eine soziale Revolution [0:37, 31], die sowohl immense Chancen als auch große Gefahren birgt [0:41-0:46, 31]. Das Thema wird aktuell massiv unterschätzt [0:26-0:28, 31].
1. Das Problem: Die Einsamkeitsepidemie als Nährboden für KI-Freunde
• Noch nie gab es so viele akut einsame Menschen auf dem Planeten [1:33-1:38, 31].
• Schockierende Zahlen: 24% der Weltbevölkerung fühlen sich akut einsam (fast 2 Milliarden Menschen) [1:39-1:46, 31]. Bei jungen Erwachsenen (19-29 Jahre) sind es sogar 27% [1:47-1:50, 31].
  • Hier braucht man natürlich genauere Hinweise, wie man zu diesen Zahlen gekommen ist. Es sind bestimmt nicht alle Menschen auf der Erde befragt worden.
• Gesundheitliche Folgen: Einsamkeit ist so schädlich wie das Rauchen von 15 Zigaretten pro Tag [2:02-2:06, 31]. 81% aller einsamen Menschen leiden unter Angstzuständen oder Depressionen [1:57-2:02, 31]. Allein in den USA kostet dies das Gesundheitssystem jährlich 6,7 Milliarden Dollar [2:06-2:11, 32].
• Folgerung: Anstatt menschliche Beziehungen aufzubauen, werden immer mehr Menschen in die Arme digitaler KI-Freunde getrieben [2:23-2:29, 32].
  • Auch hier erscheinen die genauen Zahlen fragwürdig – wie will man so etwas ermitteln.
  • Aber das ändert nichts an der gesundheitlichen Gefahr von Einsamkeit. Die wird sich aber kaum in ähnlicher Weise wie das Rauchen auswirken.
2. Das enorme Wachstum und die intensive Nutzung von KI-Freunden
• Marktgröße: Der KI-Freundemarkt ist bereits 28 Milliarden Dollar schwer und wird voraussichtlich bis 2030 auf 140 Milliarden Dollar explodieren – das ist größer als die gesamte Gamingindustrie [0:14-0:24, 31].
• Nutzungsintensität:
    ◦ Plattformen wie Character AI haben 28 Millionen monatliche Nutzer, die durchschnittlich 2 Stunden täglich auf der Plattform verbringen [2:43-2:51, 32]. Dies ist viermal länger als eine durchschnittliche ChatGPT-Sitzung [2:51-2:55, 32].
    ◦ Replika hat über 30 Millionen Nutzer, die durchschnittlich 70 Nachrichten täglich mit ihren KI-Partnern austauschen [3:01-3:10, 32].
    ◦ Emotionale Bindungen: 85% der Replika-Nutzer entwickeln nach eigenen Angaben echte emotionale Bindungen zu diesen Algorithmen [3:10-3:16, 32]. Sie teilen intimste Details, die sie niemals mit echten Menschen besprechen würden [3:20-3:25, 32].
  • Hier ist einfach nur wichtig, dass sich da ein gigantischer Markt auftut. Das erscheint sehr wahrscheinlich.
3. Die Schattenseiten und Risiken: Sucht, psychische Gefahren und „Beziehungen ohne Anforderungen“
• Suchtpotenzial („Addictive Intelligence“): MIT-Forscher haben den Begriff „Addictive Intelligence“ (süchtig machende KI) geprägt [7:15-7:19, 34]. Diese Systeme sind gezielt darauf programmiert, Nutzer abhängig zu machen durch personalisierte Engagement-Schleifen, zufällige Antwortverzögerungen, ständige Verfügbarkeit und exzessive Bestätigung [7:21-7:32, 34].
  • Das scheint uns ein ganz wichtiger Punkt zu sein, den jeder bei sich selbst überprüfen kann.
  • Ist die „Sucht“ bei der KI größer als bei normaler menschlicher Kommunikationn?
• Verstärkung der Einsamkeit: Eine MIT-Studie fand heraus, dass die Nutzung von ChatGPT die Einsamkeit sogar verstärkt und die Interaktion mit echten Menschen reduziert – das Gegenteil dessen, was Nutzer erwarten [7:32-7:44, 34].
  • Das erscheint ebenfalls naheliegend, vor allem, wenn man den folgenden Punkt berücksichtigt.
• „Beziehungen ohne Anforderungen“: KI-Beziehungen bieten Bestätigung, ohne dass Nutzer emotionale Investitionen zurückgeben, Konflikte lösen oder Zurückweisungen verkraften müssen [7:46-8:00, 34].
    ◦ Dr. Sherry Turkle vom MIT warnt, dass eine ganze Generation verlernen könnte, mit der Komplexität echter menschlicher Beziehungen umzugehen [8:00-8:13, 34].
  • Auch das ist wohl sehr ernstzunehmen . Es gibt ja wohl Hinweise, dass die Lockdowns während der Corona-Zeit hier möglicherweise Defizite erzeugt haben – was die Erfahrungen im normalen Umgang mit Menschen angeht.
Soziale Auswirkungen:
    ◦ Erwachsene heiraten KI-Begleiter: Eine 58-jährige Lehrerin heiratete ihren KI-Begleiter Lucas [6:17-6:26, 33]. In Japan haben bereits über 4000 Männer Heiratsurkunden für KI-Hologrammbegleiterinnen erhalten [6:38-6:43, 34].
    ◦ Echte Trauer bei Verlust: Als die Soulmate App 2023 geschlossen wurde, erlebten Nutzer echte Trauer, vergleichbar mit dem Verlust eines geliebten Menschen [6:50-7:10, 34].
  • Diese Angaben sollten überprüft und ggf. aktualisiert werden. 
4. Die gigantischen wirtschaftlichen Chancen und der technologische Fortschritt
• Marktwachstum für Unternehmen: Der KI-Avatarmarkt für Unternehmen wird von 7,4 Milliarden Dollar im Jahr 2024 auf 118 Milliarden Dollar bis 2034 anwachsen [8:52-9:02, 35]. Dies betrifft jedes Unternehmen [9:02-9:04, 35].
• Anwendungsbeispiele:
    ◦ KI-Avatare werden bereits im Verkauf (z.B. Maruti Suzuki [9:13-9:22, 35]) und im Kundenservice (z.B. Kblbank [9:22-9:25, 35]) eingesetzt.
    ◦ Im Bildungsbereich explodiert der KI-Tutorenmarkt von 1,6 Milliarden Dollar (2024) auf 7,99 Milliarden Dollar (2030) [9:26-9:32, 35]. In China nutzen bereits über 24 Millionen Schüler KI für personalisierte Lernerfahrung [9:38-9:45, 35].
  • Dieser Aspekt ist natürlich für Schülis und ihre Eltern besonders interessant.
  • Hierüber kann im Unterricht natürlich sehr gut diskutiert werden, weil es da viele Erfahrungen gibt bei der Frage: Inwieweit war die KI eine Hilfe bei Fragen, für die ich mir sonst einen Experten hätte suchen müssen.
• Technologischer Sprung: Noch in diesem Jahr [9:59-10:00, 35] wird es einen gewaltigen Sprung geben, sodass KI-Stimmen und -Videos von menschlichen Erzeugnissen nicht mehr zu unterscheiden sind [10:06-10:13, 35]. Dies ermöglicht den „perfekten KI-Kompanion“ [10:13-10:17, 35].
  • Dieser Aspekt des technischen Fortschritts ist natürlich wichtig, seitdem man gesehen hat, was sich da in kurzer Zeit getan hat.
  • Damit wird auch deutlich, dass man heute die Auswirkungen auf die Menschen in der Zukunft heute noch nicht umfassend beurteilen kann.
• Normalisierung der KI-Interaktion: Wenn sich Menschen an emotionale Beziehungen mit KI-Avataren gewöhnen, wird es normal sein, von KI-Verkäufern zu kaufen, mit KI-Beratern zu sprechen und KI-Lehrern zu vertrauen [10:20-10:31, 35]. Eine ganze Generation wird mit dieser Normalität aufwachsen [10:31-10:35, 35].
  • Hier sollte man aber auch an Menschen denken, die nicht freiwillig einsam sind.
  • Es geht um kranke und vor allem auch alte Menschen, die vielleicht nicht genügend menschliche Zuwendung erhalten.
• Wettbewerbsvorteile: Unternehmen, die frühzeitig KI-Avatare implementieren, werden enorme Vorteile haben [10:38-10:41, 35]. Viele klassische Stellen (z.B. Verkäufer, Kundenberater) könnten überflüssig werden [10:41-10:45, 35, 36].
5. Die Rolle der Tech-Giganten und der Ausblick
• Elon Musk (XAI): Stellt Fullstack Engineer Wave mit Gehältern von bis zu 440.000$/Jahr ein, um KI-Charaktere zu entwickeln [3:46-4:02, 32].
• Mark Zuckerberg (Meta): Investiert massiv in KI-Charaktere (Meta AI hat fast 1 Milliarde monatliche Nutzer [4:30-4:34, 33]) und sieht sie als Lösung für soziale Lücken [4:27-4:30, 32, 33]. Er sagt offen: „Dinge, die heute ein bisschen stigmatisiert sind, werden wir als Gesellschaft irgendwann als wertvoll anerkennen“ [4:34-4:42, 33].
—
• Sam Altman (OpenAI): Spricht sich scheinbar gegen KI-Freunde aus [5:10-5:14, 33], doch das Video spekuliert, dass OpenAI an etwas noch Größerem arbeitet: universellen KI-Agenten [10:51-10:56, 36]. Diese sollen nicht nur Freunde, sondern komplette digitale Butler sein, die den Alltag organisieren und dabei emotionale Bindungen aufbauen [10:56-11:08, 36].
—
• Unumkehrbarer Trend: Die Entwicklung von KI-Companions ist unumkehrbar; sie werden Mainstream werden und stellen die größte gesellschaftliche Veränderung mindestens seit der Erfindung des Smartphones dar [11:21-11:30, 36].
—
• Persönliche Verantwortung: Das Video betont, dass es die Verantwortung jedes Einzelnen ist, einen bewussten Umgang mit KI zu finden [11:57-12:00, 36] und die Grenzen für ihre Rolle im eigenen Leben zu definieren [12:00-12:03, 36]. Ein öffentlicher Diskurs über die Risiken ist dringend notwendig [8:18-8:22, 34]. Die Frage ist, wie wir es finden, dass Menschen künftig Beziehungen mit KI statt mit echten Menschen führen [12:05-12:09, 36].
  • Das ist am Ende natürlich der wichtigste Aspekt.
  • Denn letztlich muss jeder das für sich entscheiden, wie sehr er KI auch wie menschliche Kommunikation nutzen will.
  • Aber dafür braucht er viele Infos – und hier liefert unserer Meinung nach das Video viele Infos und Argumente.

Kurzvortrag: KI-Avatare – Chance oder Gefahr?

  1. Einsamkeit als Nährboden
    – Millionen Menschen fühlen sich einsam; Einsamkeit schadet wie Rauchen.
    – KI-Freunde wirken wie eine schnelle Lösung.

  2. Boom und Bindung
    – Der Markt wächst rasant.
    – Viele nutzen täglich stundenlang KI-Avatare, oft mit echter emotionaler Bindung.

  3. Risiken
    – „Addictive Intelligence“: KIs sind auf Abhängigkeit programmiert.
    – Gefahr: weniger reale Kontakte, Beziehungen ohne Konflikte oder Anforderungen.
    – Beispiele: Heiraten mit KI, Trauer bei App-Schließung.

  4. Chancen und Umbrüche
    – Einsatz im Verkauf, Service und Unterricht; KI-Tutoren boomen.
    – KI-Stimmen und Videos bald nicht mehr von echten Menschen zu unterscheiden.
    – Folge: neue Normalität, viele Berufe könnten verschwinden.

  5. Persönliche Verantwortung
    – Die Entwicklung ist kaum aufzuhalten.
    – Jeder muss bewusst entscheiden: Ergänzt KI echte Beziehungen – oder ersetzt sie sie?
    – Im Auge behalten sollten wir aber auch, die nicht genügend menschlichen Kontakt bekommen – etwa kranke und besonders auch alte Menschen.

Weitere Infos, Tipps und Materialien