Erwischt: Die zentrale Schwäche der KI: Gezeigt am Beispiel der Fabel "Der Wolf und das Schaf"
Feb 18, 2025
Da will man sich von ChatGPT nur eine Fabel motivierend zusammenfassen lassen - und dann erkennt man:
Die KI hat etwas Wesentliches nicht verstanden.
Das Schöne: Man kann mit ChatGPT darüber diskutieren - und versteht dann selbst besser, wo die entscheidende Schwäche der KI liegt:
Sie hat - um es mit dem Philosophen Husserl zu sagen, nur Daten zur Verfügung, aber keine eigene Lebenswelt - mit all den Erfahrungen, die jeder Mensch so macht.
Deshalb kommt sie auch auf etwas nicht, was für den Menschen sofort naheliegt, nämlich der schöne Spruch: "Man sieht sich im leben immer zweimal".
Und dann ist man "vor-sichtig", was die KI weder kennt noch entsprechend drauf hat.
---
Also ein schönes Beispiel, das zeigt, dass die menschliche Intelligenz der künstlichen solange überlegen ist, wie sie mehr in ihrem "Lebenswelt"-Speicher hat als die KI in ihren Daten - zumindest im Hinblick auf ein kleines, aber wichtiges Element der Realität.
---
Die Dokumentation ist hier zu finden:
https://schnell-durchblicken.de/grenzen-der-ki-gezeigt-an-einer-fabel-von-lessing
Show More Show Less View Video Transcript
0:01
ja manchmal muss man wohl einfach ein
0:04
bisschen Glück haben
0:07
wir wollten einfach nur V bei einer
0:09
Fabel von Lessing eine Zusammenfassung
0:13
haben und dann plötzlich entstand daraus
0:17
eine gute Nachricht hier nämlich es
0:22
wurden die Grenzen der künstlichen
0:24
Intelligenz deutlich wir werden gleich
0:27
zeigen dass der KI die über unendlich
0:30
viele Daten verfügt und auch gewisse
0:34
denkmöglichkeiten durch die
0:35
Programmierung aber ihr fehlt eine
0:39
Zukunft zumindest eine wie der Mensch
0:41
sie hat und diese Zukunft baut ja immer
0:44
auf der Vergangenheit auf eben auf
0:46
früheren Erfahrungen und das werden wir
0:48
uns gleich mal genauer
0:51
ansehen ja fangen wir mit der Fabel hier
0:55
an hier oben haben wir sie in einem Bild
0:58
festgehalten
1:00
Links haben wir ein Schaf rechts Wolf
1:02
also natürliche
1:05
Feinde denn der Wolf weiß normalerweise
1:09
was er am besten mit einem Schaf machen
1:11
kann und das Schaf natürlich auch aber
1:14
jetzt hat Lessing sich folgende
1:18
Geschichte ausgedacht die
1:20
Ausgangssituation ist klar Durst scharf
1:22
Wolf und Fluss dazwischen und jetzt
1:25
kommt der entscheidende Punkt ja durch
1:27
die Trennung des Wassers sichert und
1:30
durch die Sicherheit höhnisch gemacht
1:33
rief das Schaf dem Räuber hinüber ich
1:35
mache das Wasser nicht trübe Herr Wolf
1:37
so nlich wie vor einiger Zeit schon wenn
1:39
ich bei mir dann bei meinem Vater und so
1:41
weiter so macht sich also lustig über
1:44
den Wolf in der besonderen Situation wir
1:47
werden nachher sehen dass diese Farben
1:49
hier eine Bedeutung haben Trennung des
1:51
Wassers ist schön höhnisch gemacht das
1:54
wird sich als Problem
1:56
heraus stellen der Wolf stand die
2:00
Spötterei er betrachtete die Breite des
2:03
Flusses und knirschte mit den Zähnen und
2:07
jetzt kommt etwas werden gleich sehen
2:09
dass die KI das übersehen hat schauen
2:13
wir uns erst mal an die KI liefert eine
2:16
Antwort hier
2:18
diese Fabel ist besonders interessant
2:20
weil sie das typische Machtgefälle
2:22
zwischen Wolf und Schaf umkehrt das
2:24
Schaf nutzt die sichere Distanz um den
2:27
Wolf zu verspotten alles völlig in
2:30
Ordnung wir werden sehen dass es besser
2:32
gewesen wäre wenn die KI hier erkannt äh
2:35
hätte äh dass es äh hier um den
2:38
Gegensatz geht zwischen der normalen
2:41
Situation typisch geht eigentlich ein
2:43
bisschen die falsche Richtung schon und
2:45
dann die besondere Situation das erkennt
2:48
die KI nicht wir werden gleich sehen wie
2:51
wichtig das ist denn der Wolf am Ende äh
2:55
findet für sich eine einigermaßen gute
2:57
Lösung er geht nämlich mit stolzen
2:59
Schritten weiter ja das erkennt die KI
3:02
überhaupt nicht es ist einin Glück
3:04
antwortte er dass wir Wölfe gewohnt sind
3:06
mit euch scharfen Geduld zu haben
3:10
auch da begreift sie nicht dass Geduld
3:14
hier etwas ganz Entscheidendes ist und
3:16
er verschafft sich damit einen
3:17
einigermaßen guten Abgang wir stellen
3:20
also jetzt folgendes fest die KI erkennt
3:23
richtig zwei Aspekte das typische
3:27
Machtgefälle muss es natürlich heen und
3:30
die Nutzung der sicheren Distanz auf der
3:32
anderen Seite was sie KI auslässt haben
3:34
wir eben gesehen ist die Reaktion des
3:36
Wolfes der reduziert seine Niederlage
3:40
durch einen guten Spruch und das wäre
3:43
ein wichtiger Hinweis gewesen der ist
3:46
nämlich wichtig für die Übertragung auf
3:48
den Menschen die wie wir gleich sehen
3:50
werden nur teilweise hier gelingt wir
3:53
wissen nicht so genau Wing das im Kopf
3:55
gehabt hat oder auch nicht jedenfalls
3:57
die KI hat es nicht g verstanden und das
4:00
freut uns weil wir ja die Grenzen der
4:03
künstlichen Intelligenz hier zeigen
4:06
wollten wie wir sie dann plötzlich
4:08
gefunden
4:09
haben ja kommen wir jetzt zur Auswertung
4:12
wir haben hier links ein Schaubild
4:14
gemacht hier oben steht die
4:17
entscheidende Frage an die KI warum
4:20
wurde die Vergeltung nicht erkannt die
4:23
ja beim Wolf durchaus in seinem Spruch
4:26
gegeben ist und interessant ist d die
4:28
Antwort der K ja
4:30
ich habe mich auf den aktuellen den
4:32
grundsätzlichen Sachverhalt konzentriert
4:34
man müsste auch sagen eigentlich auf die
4:36
Daten die der KI vorliegen und
4:40
Erfahrungen und Angst des betroffenen
4:43
Tieres oder des Menschen da habe ich
4:45
nicht dran gedacht und eigentlich weil
4:48
sie eben kein Mensch ist keine Gefühle
4:50
hat das E der Hintergrund schauen das
4:52
ganze noch mal an ausgangspunkt war die
4:55
Bitte um eine
4:57
Zusammenfassung erkannt wird hier
5:00
typisches Machtgefälle
5:03
die durch die Situation ist hier die
5:05
Möglichkeit gegeben den Wolf zu
5:08
verhöhnen aber dessen Reaktion wird
5:11
überhaupt nicht von der KI erkannt und
5:14
in dieser Reaktion war eigentlich schon
5:18
die Zukunft mit drin und das hängt eben
5:21
damit zusammen dass die KI sich
5:23
natürlich eine Zukunft nicht vorstellen
5:25
kann die Sie nicht in ihren Daten hat ne
5:29
so was sie richtig erkannt hat hier ist
5:32
eben dass Wolf und Schaf biologisch
5:36
zwanghaft verbunden sind der eine dient
5:39
der Nahrungsaufnahme des Wolfes und der
5:41
andere kann entsprechend auf das Schaf
5:42
zurückgreifen und dann so eine
5:44
allgemeiner Hinweis bei den Menschen
5:46
wandelbar nicht ganz verkehrt aber die
5:50
KI hat das eben auf den grundsätzlichen
5:52
Sachverhalt bezogen auf die sozialen
5:55
Verhältnisse und ähnliches mehr
5:59
was sie nicht erkennt ist hier eben dass
6:03
hier auch Gefühle eine Rolle spielen bei
6:06
dem menschlichen Wolf ne der merkt sich
6:08
das und da warte mal ab ne man sieht
6:10
sich im Leben immer zweimal man kennt ja
6:13
diesen Spruch und das ist der
6:14
Unterschied zum Menschen auf den Lessing
6:18
den Lessing nur andeutet ne den wir aber
6:20
erkennen können als Menschen weil wir
6:23
das mit unseren eigenen Situationen
6:25
verbinden und wir wissen das Schaf kann
6:28
sich diesen Spot leisten wenn es dazu
6:31
mental in der Lage wäre dadurch gibt
6:33
sich keine zusätzliche Gefahr denn der
6:35
Wolf frisst sie ganz egal ob er da mal
6:38
kurzzeitig mehr geärgert worden ist oder
6:39
weniger geärgert worden ist bei Menschen
6:41
ist das anders ne der Mensch
6:44
hat eben eine Vergangenheit Erfahrungen
6:47
hat das selbst erlebt oder gehört
6:49
gelesen wie auch immer und er weiß dann
6:52
äh wie er sich äh Verhalten muss wir
6:55
werden das gleich hier noch ein bisschen
6:57
genauer vertiefen von vor allen Dingen
7:00
auf diesen Bereich hier eingehen das ist
7:03
uns auch sehr spät erst eingefallen das
7:04
wird noch sehr
7:07
interessant ja die Frage ist jetzt wo
7:09
ist denn hier nun die gute Nachricht für
7:13
den Menschen wir stellen noch mal fest
7:17
die K erkennt nicht alles was ein Mensch
7:20
erkennen kann sie erkennt aus dem Text
7:23
den wir ihr gegeben haben und den
7:26
interpretationsdaten die sie hat nur das
7:28
Vordergrund die grundsätzlich also eine
7:30
KI kann nur zwei Dinge erstens die
7:32
vorhandenen Daten auswerten und zu den
7:35
Daten gehört natürlich auch das was man
7:36
selbst an neu Erkenntnis da entsprechend
7:39
einbringt und sie verweist dann zu
7:42
unbestimmt auf die Wandelbarkeit bei
7:44
Menschen da sieht man auch dass sie
7:46
nicht wirklich versteht was sie da
7:48
präsentiert sondern das ist eben eine
7:50
reine programmierungsgeschichte dass da
7:52
die wahrscheinlichsten Antworten
7:54
zusammengesetzt werden das hat mit
7:56
menschlicher Intelligenz also zunächst
7:58
mal nicht viel zu tun so und die
8:02
Wandelbarkeit besteht eben aus zwei
8:04
Bereichen die die KI nicht hat und nur
8:06
über Daten haben kann wenn die nicht
8:08
Daten nicht vorliegen dann kommt sie da
8:10
auch nicht drauf einmal die Erfahrung
8:13
mächtige zu reizen ist gefährlich und
8:16
daraus ergibt sich eine Angst im
8:18
Hinblick auf die Zukunft und das
8:20
wiederum ist fhrt zu Vorsicht Vorsicht
8:23
heißt ja nichts anderes als dass man
8:25
vorausschaut was da passieren könnte
8:28
wenn ich den mächtigen nach einiger Zeit
8:30
wieder begegne wenn ich nicht auf dem
8:32
schnellen fachrad Sitze z.B und vor ihm
8:35
wegfahren äh kann so
8:39
m wir hatten festgestellt das Schaf kann
8:41
sich den Sport leisten es ändert nichts
8:44
an seiner Schwäche und der Gefahr und
8:46
jetzt kommen zwei entscheidende Dinge
8:49
wir beginnen mal hier mit hussal ein der
8:52
für uns wichtigsten Philosophen des 20
8:55
Jahrhunderts er hat nämlich darauf
8:56
hingewiesen dass Menschen mit jedem Wort
9:00
eigentlich etwas ganz Eigenes verstehen
9:03
der eine versteht unter Liebe etwas
9:04
anderes als der andere der andere unter
9:07
Glück entsprechend und das hängt mit der
9:09
sogenannten Lebenswelt zusammen so hat
9:11
hussal das genannt das ist die Summe der
9:15
Erfahrungen in die natürlich immer auch
9:17
entsprechende Gefühle eingegangen sind
9:20
so außerdem dürften die meisten Schüler
9:24
und Schülerinnen die Axiome von
9:26
watzlerwig kennen aus der
9:29
kommunikationslehre und da ist ein Satz
9:32
entscheidend ein Axiom ein Grundsatz
9:36
Kommunikation hat immer eine
9:37
Vorgeschichte die Vorgeschichte sind
9:39
eben die Erfahrungen aus der Lebenswelt
9:43
ja man verhält sich gegenüber einem
9:44
stärkeren sofort anders wenn man
9:47
entsprechende Vorerfahrung hat sieht man
9:49
einen Menschen zum ersten Mal dann kann
9:51
das sehr gefährlich werden weil man ihn
9:53
unter Umständen falsch anspricht und
9:57
Kommunikation hat immer auch Folgen für
10:00
die Zukunft mal gucken ob wir das hier
10:02
noch hinbekommen hier so Folgen für die
10:05
Zukunft nämlich die normal Normalität
10:10
der Situation wird zurückkehren das
10:12
heißt auf gut deutsch das Schaf wird
10:14
gefressen das kann den Wolf beleidigen
10:16
so viel Lust dazu hat das ändert nichts
10:20
an der Situation bei Menschen ist das
10:22
völlig anders zusammengefasst also man
10:25
sieht dass die künstliche Intelligenz
10:28
unheimlich viel sind selbsterstaunt wir
10:30
führen ganze Gespräche mit der
10:31
künstlichen Intelligenz aber irgendwo
10:34
stellt man dann fest dass die künstliche
10:37
Intelligenz nicht auf etwas kommt was
10:39
für uns Mensch eig für uns Menschen
10:42
eigentlich sofort da ist nämlich die
10:44
normalen Erfahrungen die man macht wo
10:47
man vorsichtig sein muss und ähnliches
10:48
mehr und das ist eben eine Sache die man
10:52
selbst ergänzen muss die sich aus der
10:54
Fabel nicht so direkt ergibt dass die KI
10:58
das alle aufgrund des
10:59
hätte verstehen können und das halten
11:01
wir für eine sehr gute Nachricht dass
11:03
wir nach aktuellem Stand der Dinge doch
11:05
in einem wichtigen Bereich der künstlich
11:07
Intelligenz überlegen
11:10
sind ja wie immer legen wir die ganze
11:13
Dokumentation hier
11:15
entsprechend ab auf dieser Seite die
11:17
werden wir bei Infos zum Video
11:18
unterbringen wir werden einen Link in
11:20
den Abspann einfügen s dass man die
11:22
schnell anspringen kann dort
11:25
Aktualisierung Korrektur möglicher
11:27
Fehler wir freuen uns wie immer auf
11:30
Fragen und Anregungen weil wir dadurch
11:32
auch klüger werden auch ein großer
11:35
Vorteil gegenüber der künst Intelligenz
11:38
dass wir eben nicht nur Daten
11:39
austauschen sondern auch Erfahrungen und
11:41
Gefühle aus äh austauschen können
11:44
untereinander und wir würden uns auch
11:46
freuen wenn der Kanal schnell
11:47
durchblicken
11:49
abonniert wird abonniert bleibt oder
11:51
auch an andere empfohlen
11:53
wird auch hier haben wir wieder mal
11:55
etwas
11:56
gefunden was nicht in jedem Lehrbuch
11:58
steht und und das freut uns dann immer
12:00
und wir geben das gerne weiter und
12:01
Wünschen insgesamt viel Erfolg
#Offbeat
#Machine Learning & Artificial Intelligence
