Die 10 Fehlermodi der AI-gestützten Programmierung

Warum Fehlermodi wichtig sind

Die meisten Entwickler lernen die Grenzen von AI durch schmerzhafte Erfahrung. Hier ein Produktionsbug, dort eine Sicherheitslücke, Stunden verloren beim Debuggen von halluziniertem Code. Aber diese Fehler sind nicht zufällig: Sie folgen vorhersehbaren Mustern.

Wir haben 10 distinkte Fehlermodi aus Forschung, Incident Reports und Entwicklererfahrung katalogisiert. Jeder einzelne ist vermeidbar, wenn man weiß, worauf man achten muss.

Die 10 Fehlermodi

1. Die Halluzinationsspirale

Schweregrad: KRITISCH

AI generiert plausiblen, aber falschen Code. Sie bitten sie, den Fehler zu beheben. Sie verschlimmert den Fehler. Bei Runde 39 haben Sie 693 Zeilen fabrizierten Code (Surge AI hat genau dieses Szenario dokumentiert).

Prävention: Maximal 2 Korrekturen. Wenn die AI es in 2 Versuchen nicht richtig hinbekommt, stoppen, überdenken und von Grund auf neu prompten.

2. Die Comprehension Debt

Schweregrad: KRITISCH

Sie liefern Code aus, den Sie nicht vollständig verstehen. Er funktioniert, bis er es nicht mehr tut. Jetzt debuggen Sie ein System, bei dem der ursprüngliche “Autor” (die AI) seine eigenen Entscheidungen nicht erklären kann.

Prävention: Dokumentieren Sie jede AI-generierte Funktion. Wenn Sie eine Zeile nicht erklären können, können Sie sie nicht ausliefern.

3. Context Window Amnesia

Schweregrad: HOCH

Lange Sitzungen führen dazu, dass die AI früheren Kontext “vergisst”. Sie widerspricht ihren eigenen früheren Entscheidungen, führt Inkonsistenzen ein oder verliert den Überblick über Ihre Architektur.

Prävention: Verwenden Sie CLAUDE.md-Dateien, pflegen Sie Übergabe-Dokumente und achten Sie auf die Anzeichen: wiederholte Fragen, widersprüchliche Vorschläge, Verlust von Namenskonventionen.

4. Die Automation Bias-Falle

Schweregrad: HOCH

Sie akzeptieren AI-Output, weil er “richtig aussieht”: der klassische Begehungsfehler. Oder Sie übersehen eine Sicherheitslücke, weil die AI sie nicht markiert hat: der Unterlassungsfehler. Parasuraman & Manzey (2010) haben dies ausführlich dokumentiert.

Prävention: Systematische Verifikation bei jedem Schritt. Nicht flüchtig hinsehen, sondern tatsächlich gegen Ihren 5-Schichten-Verifikationsstapel prüfen.

5. Die Confidence Delusion

Schweregrad: HOCH

Stanford fand heraus, dass Entwickler MIT AI unsichereren Code schrieben, während sie sich SICHERER fühlten. Die METR-Studie fand eine 43-Punkte-Lücke zwischen wahrgenommener und tatsächlicher Geschwindigkeitsverbesserung. Sie können Ihrer eigenen Wahrnehmung buchstäblich nicht vertrauen.

Prävention: Messen statt fühlen. Verfolgen Sie tatsächliche Metriken: ausgelieferte Bugs, Lösungszeit, in Reviews gefundene Sicherheitsprobleme.

6. Security Blindness

Schweregrad: KRITISCH

AI generiert funktionalen Code, keinen sicheren Code. 60-70% der AI-eingeführten Sicherheitslücken sind vom Schweregrad BLOCKER (Sonar, 2026). Die AI denkt nicht adversarial: Sie vervollständigt Muster, keine Bedrohungsmodelle.

Prävention: Security-Review als verpflichtende Verifikationsschicht. Jeder AI-generierte Codepfad braucht adversariale Analyse.

7. Die Sunk Cost-Spirale

Schweregrad: MITTEL

Sie haben 45 Minuten in ein AI-Gespräch investiert. Es funktioniert nicht, aber Sie machen weiter wegen der bereits investierten Zeit. Das ist der klassische Sunk-Cost-Fehlschluss, verstärkt durch den selbstsicheren Ton der AI.

Prävention: Die 2-Korrekturen-Regel. Investierte Zeit ist irrelevant; nur die aktuelle Richtung zählt.

8. Architecture Drift

Schweregrad: HOCH

AI verwendet Muster aus ihren Trainingsdaten, nicht Muster aus IHRER Codebasis. Im Laufe der Zeit führt jede AI-Sitzung leicht andere Konventionen ein, was eine inkonsistente, nicht wartbare Codebasis erzeugt.

Prävention: CLAUDE.md mit Architekturentscheidungen. Explizite Style Guides. Context-Dateien die IHRE Muster kodieren.

9. Die Testing-Illusion

Schweregrad: MITTEL

AI schreibt Tests die bestehen, aber Verhalten nicht wirklich verifizieren. Tests die die Implementierung prüfen statt die Anforderung. Grüne CI mit null realer Abdeckung.

Prävention: Tests auf sinnvolle Assertions prüfen. Fragen Sie: “Würde dieser Test einen echten Bug fangen?“

10. Das Produktivitätstheater

Schweregrad: HOCH

DORA-Daten zeigen: +98% individueller Output, +91% Review-Zeit, +154% PR-Größe, Netto-Lieferung unverändert. Sie generieren mehr Code, aber das Team verbringt seine gesamte Zeit damit, ihn zu reviewen und zu reparieren.

Prävention: Team-Durchsatz messen, nicht individuellen Output. Die Metrik die zählt ist funktionierende ausgelieferte Software, nicht generierte Zeilen.

Das Muster

Fällt etwas auf? Jeder Fehlermodus entspringt derselben Grundursache: AI-Output ohne angemessenes menschliches Urteilsvermögen vertrauen.

Die Lösung ist nicht bessere AI. Es sind bessere Menschen, speziell Menschen, die in systematischer Verifikation geschult sind.

• Machen Sie die Diagnose, um Ihre Anfälligkeit für diese Fehlermodi zu bewerten
• Lesen Sie die Methodik für das vollständige Präventions-Framework
• Erkunden Sie die Evidenz für die Daten hinter jedem Fehlermodus