{"id":5299,"date":"2024-02-22T08:24:03","date_gmt":"2024-02-22T06:24:03","guid":{"rendered":"https:\/\/www.bernhardschloss.de\/blog\/?p=5299"},"modified":"2024-02-22T08:24:03","modified_gmt":"2024-02-22T06:24:03","slug":"die-kognitive-dissonanz-der-ki","status":"publish","type":"post","link":"https:\/\/www.bernhardschloss.de\/blog\/die-kognitive-dissonanz-der-ki\/","title":{"rendered":"Die kognitive Dissonanz der KI"},"content":{"rendered":"\n
\"\"<\/figure>\n\n\n\n

Zu meinen Lieblingsbeitr\u00e4gen der Wikipedia geh\u00f6rt der Cognitive Bias Codex. Hierbei handelt es sich um eine \u00dcbersicht \u00fcber die vielf\u00e4ltigen kognitiven St\u00f6rungen bei uns Menschen. Die pure Anzahl und die Komplexit\u00e4t dieser St\u00f6rungen f\u00fchrt uns unsere eigene Unzul\u00e4nglichkeit nur zu gut vor Augen. <\/p>\n\n\n\n

Diese Verzerrungen sind jetzt auch nicht „krankhaft“, sondern ganz normal – ein Zeichen unserer beschr\u00e4nkten Wahrnehmungs- und Verarbeitungsf\u00e4higkeit.<\/p>\n\n\n\n

\"\"\/<\/figure>\n\n\n\n

Der Titel dieses Beitrags leitet jetzt geflissentlich \u00fcber zu der Frage, ob es solche Verzerrungen nicht auch in der KI gibt.<\/p>\n\n\n\n

Eine erste Antwort finden wir bereits im Beitrag zu Belastbarkeit & Grenzen<\/a>: KI basiert zum Einen auf Wahrscheinlichkeiten und nicht auf Wahrheiten oder Logik und zum Anderen ist die KI nat\u00fcrlich abh\u00e4ngig von dem ihr zur Verf\u00fcgung gestellten Inhalten. Hier gelten noch immer die Grundprinzipen der Datenverarbeitung: Garbage in, garbage out.<\/p>\n\n\n\n

F\u00fcr ein aktuelles Projekt (eine Methoden-\u00dcbersicht) haben wir versucht die Attribute zur Beschreibung von Methoden mit Hilfe der KI vorzunehmen, bzw. unsere eigenen \u00dcberlegungen dazu mittels KI zu validieren. Die KI Ergebnisse dazu hielten leider unseren Erwartungen nicht stand, angefangen davon, dass uns die KI zu anderen Attributen \u00fcberreden wollte und deutlich von den Vorgaben abgewichen ist, fand sie auch generell toll, was immer wir ihr gegeben haben, womit wir beim Thema kognitive Verzerrungen w\u00e4ren. Es gab also eindeutig eine Best\u00e4tigungstendenz.<\/p>\n\n\n\n

Wenn man dar\u00fcber nachdenkt ist das Ergebnis auch gar nicht so \u00fcberraschend, denn was wir ihr als Input gegeben, ist nat\u00fcrlich gegen\u00fcber ihren anderen Ressourcen hochprior, nur anstatt unsere eigene Modellbildung damit kritisch auf den Pr\u00fcfstand zu stellen, hat uns die KI dann lobend auf die Schulter geklopft. Gut f\u00fcrs Ego, schlecht f\u00fcr das Ergebnis. <\/p>\n\n\n\n

Wenn man jetzt noch ber\u00fccksichtigt, das durch die Wahrscheinlichkeitsbetrachtung letztlich auch nur bestehende L\u00f6sungen einbezogen werden k\u00f6nnen, dann wird schnell klar, dass die KI zwar eine Umsetzungsmaschine, aber ein Innovationszwerg sein muss.<\/p>\n\n\n\n

Unser Versuch der Methodenbeschreibung ist nur ein einfaches Beispiel. Die Fragen am Rande des Cognitive Bias Codex lassen sich aber auch auf die KI \u00fcbertragen. Was tun, wenn…<\/p>\n\n\n\n