{"id":5796,"date":"2025-06-16T06:57:08","date_gmt":"2025-06-16T04:57:08","guid":{"rendered":"https:\/\/www.bernhardschloss.de\/blog\/?p=5796"},"modified":"2025-06-16T06:57:08","modified_gmt":"2025-06-16T04:57:08","slug":"fehlerkultur-fuer-ki-und-menschen","status":"publish","type":"post","link":"https:\/\/www.bernhardschloss.de\/blog\/fehlerkultur-fuer-ki-und-menschen\/","title":{"rendered":"Fehlerkultur f\u00fcr KI und Menschen"},"content":{"rendered":"\n<figure class=\"wp-block-image size-large is-resized\"><img decoding=\"async\" src=\"https:\/\/lh3.googleusercontent.com\/pw\/ABLVV85rpILEiUXZFJW8xbST8H6EPLhNYJ4AxQKdpNP5Nk6YdwMBVqPQqwJoJ0z8-fh_9IvLkhGt__F8xHgev13VBwIwfZx3-Q3o3thZ78oZZ7THE0k4z_E4GLSHaEIyMcCCD74Pk8WKV3DI4YP8KYSTmj7ObQ2UiuTrrvj0eucaADNUToeEL4ZNn_q7Ebnv8RA7BCzoxpU7FW--tMKbivjop7yYOiZPN3OltMN928OYeT7emlodJowUO0UyWQNgUPIljK0912W42rlbmzmFjpAGvRfdz4WfMrw0onhOU6iqw0k2XgDKpxGB8YQvvSwNMKZM3WlW2-HEQ_EjNdVkEEbCiaYsCmLIAEBrw5pJxTsll-HTMJDhTp1Q-LIMJASnrBzTutYyYvlgsqA-5XtebO0zRir65QI1-SOMRe3D82uXtGhQ4pJm-EcbOJzcFltcDzBpOngCIDo0Il2LYMkZ4o0N3cl7zHohI5h_6kYjDX9dLY4hH6NCGbBh9PbGMX3bvIU5PLi3v3KoDEeA18F-aZT2KuLJ0xOGwW8QnrKRyZh_zgtmibAiChlFPANdehE8FLhukjq-CXeU3FFVdGg8_eQsvkoIYELCOq10CjAS977Zr3uiDy5TdaKguUvOecXHLujipKl4sZ2rktPWdUxy0nhhAY9rOScvESyK93QunALZRtKE1DddfiaPS8kIzinivAUWIAIGDd2L3UWVbsncwcMvmC87wtqweFvUZQ8EnEFhFAzlivncOM0x53sgdj-4j3IgYLgEYKgxEBtOPgjopDUyMLbK5lj1VKNbLqnksdRK_dQiYEn2UsaxK_cXUFBJFyHh_k3OnejnDghbn34SAUvnpE1TLOSdvoq-uYOx0RT8BKv3MGTe-xAO6HWLeE38j347KR98FRN7p-vGA4qXm7DKknvc=w820-h820-s-no-gm?authuser=0\" alt=\"\" style=\"width:150px\"\/><\/figure>\n\n\n\n<p class=\"wp-block-paragraph\">Ja, KI halluziniert. Ja, KI hat diverse Biases. Und wir Menschen? Sind wir fehlerfrei?<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Ein lieber Kollege hat mich auf einen Artikel geschubst: <strong><strong><a href=\"https:\/\/liorgd.medium.com\/ai-agents-are-failing-63-of-the-time-heres-the-simple-fix-no-one-talks-about-bada84805cbe\" target=\"_blank\" rel=\"noreferrer noopener\">AI Agents Are Failing 63 % of the Time \u2014 Here\u2019s the Simple Fix No One Talks About<\/a><\/strong><\/strong>. Dort wird attestiert, dass selbst bei nur <strong>1\u202f% Fehlerquote pro Einzelschritt<\/strong> der KI die Wahrscheinlichkeit eines Scheiterns bei einer 100\u2011Schritt\u2011Aufgabe auf <strong>63\u202f%<\/strong> steigt; laut Patronus AI liegt die Fehlerquote in der Praxis eher bei <strong>20\u202f% pro Schritt<\/strong>.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Als L\u00f6sung wird ein \u201eTriple\u2011Loop\u2011Safeguard\u201c vorgeschlagen: <\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li><strong>Atomare Validierung<\/strong>: Jeder einzelne Schritt wird gepr\u00fcft \u2013 z.\u202fB. per JSON\u2011Schema, Regex, API\u2011Status oder Typ\u00fcberpr\u00fcfungen. Scheitert ein Test, wird der Schritt abgelehnt, neu gestartet oder zur Pr\u00fcfung markiert.<br><\/li>\n\n\n\n<li><strong>Schritt\u2011Stufen\u2011Kontrolle<\/strong>: Nach mehreren Schritten wird eine \u00fcbergeordnete Validierung \u00fcber Teil\u2011Workflows durchgef\u00fchrt, um Fehler fr\u00fchzeitig zu erkennen .<br><\/li>\n\n\n\n<li><strong>Kontext\u2011\u00dcberwachung<\/strong>:  Gesamtoutput\u2011Checks, Monitoring von Kennzahlen und manuelle Reviews (also von Menschen) sichern das Gesamtergebnis ab .<br><\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\">Dieses mehrstufige Sicherheitsnetz f\u00e4ngt Fehler fr\u00fchzeitig ab, bevor sie sich kumulieren k\u00f6nnen. Kleinere Fehlerquoten bleiben \u00fcberschaubar \u2013 und kleine Verbesserungen wirken sich stark auf die Enderfolgsrate aus .<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Mag ja alles richtig sein, aber wenn man ehrlich ist: wie hoch ist die Fehlerquote bei einem Menschen, dem man 100 Tasks gibt? Das Thema muss Fehlerquote sein, unabh\u00e4ngig davon ab KI oder Mensch. Ich zitiere an dieser Stelle mal wieder meine Lieblingsgrafik aus der Wikipedia: Den Cognitve Bias Codex<\/p>\n\n\n\n<figure class=\"wp-block-image size-large\"><img decoding=\"async\" src=\"https:\/\/lh3.googleusercontent.com\/pw\/AP1GczNOdsIKdI__0iayGKyAiEwzQ8Xz85VkI6aOF7fTW7du5w0Rl0M-S7_uusoqbSGVGQbeQaOZPIIoeh_bMUAZJkvDKtRUXbf-IxJYR8h8YJRmzBAYFM1c53UEn0dLnwV1Xlbvzj5Fa0u8vQ5PYM0vQ3QS=w1524-h1190-s-no-gm?authuser=0\" alt=\"\"\/><\/figure>\n\n\n\n<p class=\"wp-block-paragraph\">Der Cognitive Bias Codex beschreibt ein Vielzahl kognitiver Verzerrungen, denen wir Menschen ausgesetzt sind. Und ohne ins Detail zugehen ist allein schon Umfang und Komplexit\u00e4t unserer Unzul\u00e4nglichkeiten ern\u00fcchternd.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Fehlerquellen gibt es mehr als genug. Egal ob Mensch oder Maschine. Wir brauchen eine Fehlerkultur f\u00fcr Mensch und Maschine. So etwas wie \u201eTriple\u2011Loop\u2011Safeguard\u201c l\u00e4sst sich in beiden F\u00e4llen anwenden.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Ich w\u00fcrde fast vermuten, dass die Fehlerquote der KI geringer ist als bei uns Menschen, allerdings kann auch eine vermeintlich zuverl\u00e4ssige KI Totalausf\u00e4lle produzieren, wo wir Menschen vielleicht noch \u00fcber die fehlende Plausibilit\u00e4t stolpern.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Spannende Zeiten und Herausforderungen.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><\/p>\n<div class=\"twoclick_social_bookmarks_post_5796 social_share_privacy clearfix 1.6.4 locale-de_DE sprite-de_DE\"><\/div><div class=\"twoclick-js\"><script type=\"text\/javascript\">\/* <![CDATA[ *\/\njQuery(document).ready(function($){if($('.twoclick_social_bookmarks_post_5796')){$('.twoclick_social_bookmarks_post_5796').socialSharePrivacy({\"services\":{\"facebook\":{\"status\":\"on\",\"txt_info\":\"\",\"perma_option\":\"off\",\"action\":\"recommend\",\"language\":\"de_DE\"},\"twitter\":{\"reply_to\":\"schlossblog\",\"tweet_text\":\"Fehlerkultur%20f%C3%BCr%20KI%20und%20Menschen%20%C2%BB%20schlossBlog\",\"status\":\"on\",\"txt_info\":\"\",\"perma_option\":\"off\",\"language\":\"de\",\"referrer_track\":\"\"},\"xing\":{\"status\":\"on\",\"txt_info\":\"\",\"perma_option\":\"off\",\"language\":\"de\",\"referrer_track\":\"\"},\"t3n\":{\"status\":\"on\",\"txt_info\":\"2 Klicks f\\u00fcr mehr Datenschutz: Erst wenn Sie hier klicken, wird der Button aktiv und Sie k\\u00f6nnen Ihre Empfehlung an t3n senden. Schon beim Aktivieren werden Daten an Dritte \\u00fcbertragen - siehe <em>i<\\\/em>.\",\"perma_option\":\"off\"},\"linkedin\":{\"status\":\"on\",\"txt_info\":\"2 Klicks f\\u00fcr mehr Datenschutz: Erst wenn Sie hier klicken, wird der Button aktiv und Sie k\\u00f6nnen Ihre Empfehlung an LinkedIn senden. Schon beim Aktivieren werden Daten an Dritte \\u00fcbertragen - siehe <em>i<\\\/em>.\",\"perma_option\":\"off\"}},\"txt_help\":\"\",\"settings_perma\":\"\",\"info_link\":\"\",\"uri\":\"https:\\\/\\\/www.bernhardschloss.de\\\/blog\\\/fehlerkultur-fuer-ki-und-menschen\\\/\",\"post_id\":5796,\"post_title_referrer_track\":\"Fehlerkultur+f%C3%BCr+KI+und+Menschen\",\"display_infobox\":\"on\"});}});\n\/* ]]> *\/<\/script><\/div>","protected":false},"excerpt":{"rendered":"<p>Ja, KI halluziniert. Ja, KI hat diverse Biases. Und wir Menschen? Sind wir fehlerfrei? Ein lieber Kollege hat mich auf einen Artikel geschubst: AI Agents Are Failing 63 % of the Time \u2014 Here\u2019s the Simple Fix No One Talks About. Dort wird attestiert, dass selbst bei nur 1\u202f% Fehlerquote pro Einzelschritt der KI die [&hellip;]<\/p>\n","protected":false},"author":4,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_crdt_document":"","footnotes":""},"categories":[971,9],"tags":[239,1031,930],"class_list":["post-5796","post","type-post","status-publish","format-standard","hentry","category-ki","category-qualitatsmanagement","tag-fehler","tag-fehlerkutur","tag-ki"],"_links":{"self":[{"href":"https:\/\/www.bernhardschloss.de\/blog\/wp-json\/wp\/v2\/posts\/5796","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.bernhardschloss.de\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.bernhardschloss.de\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.bernhardschloss.de\/blog\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/www.bernhardschloss.de\/blog\/wp-json\/wp\/v2\/comments?post=5796"}],"version-history":[{"count":4,"href":"https:\/\/www.bernhardschloss.de\/blog\/wp-json\/wp\/v2\/posts\/5796\/revisions"}],"predecessor-version":[{"id":5800,"href":"https:\/\/www.bernhardschloss.de\/blog\/wp-json\/wp\/v2\/posts\/5796\/revisions\/5800"}],"wp:attachment":[{"href":"https:\/\/www.bernhardschloss.de\/blog\/wp-json\/wp\/v2\/media?parent=5796"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.bernhardschloss.de\/blog\/wp-json\/wp\/v2\/categories?post=5796"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.bernhardschloss.de\/blog\/wp-json\/wp\/v2\/tags?post=5796"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}