Warum KI funktionierenden Code kaputt macht und was hilft

KI macht funktionierenden Code kaputt, weil sie eine absichtliche Eigenheit nicht von einem Fehler unterscheiden kann und oft mehr ändert, als du verlangt hast. Das meiste davon verhinderst du, wenn du aufschreibst, was Absicht ist, und klar sagst, was sie anfassen darf.

Wie macht eine harmlose Bitte etwas kaputt?

Stell dir Uhrwerk-Obstgarten vor, ein erfundenes Spiel, in dem Krähen Äpfel stehlen. Bevor eine Krähe mit dem Apfel davonfliegt, wartet sie 0,4 Sekunden. Diese Pause hast du nach einem langen Spieleabend eingebaut, damit man die Krähe kommen sieht.

Einen Monat später bittest du: „Mach die Krähen ein bisschen schneller.“ Die KI sieht im Krähen-Code eine Pause ohne Erklärung. Für sie ist das die langsame Stelle. Sie streicht die Pause, und die Krähen sind schneller.

Nur schnappen sie sich die Äpfel jetzt ohne Vorwarnung, und das Spiel fühlt sich unfair an. Nichts ist abgestürzt, keine rote Meldung ist aufgetaucht. Die KI hat getan, was du gesagt hast, mit dem, was sie sehen konnte.

Drei Dinge kommen hier zusammen:

• Sie sieht das Warum nicht. Dein Grund steckte in deinem Kopf. Die Claude-Code-Dokumentation nennt das als Hauptursache für misslungene Sitzungen: Der KI fehlen Informationen, die sie nicht aus deinen Projektdateien lesen kann.
• Sie räumt von sich aus auf. Was seltsam aussieht, wird verbessert, und von Hand abgestimmte Details sehen immer seltsam aus.
• Sie greift weiter, als du wolltest. Aus einer kleinen Bitte wird schnell eine neu geschriebene Datei, und dann ist alles darin in Gefahr.

Wie eine Funktion die andere zerstört, erklärt Mein Spiel geht ständig kaputt. Hier geht es um die stille Variante, bei der funktionierende Details einfach verschwinden.

Was ist ein Zaun?

Ein Zaun hat zwei Teile.

Eine Liste, was Absicht ist. Führe eine Datei on-purpose.md mit einer Zeile pro Eigenheit und dem Grund dazu:

Krähe wartet 0,4 Sekunden vor dem Abflug, damit man sie kommen sieht.
Apfel 7 hängt außerhalb des Rasters, damit die erste Leiter knapp wird.

Eine Grenze in jeder Bitte. Vergleiche diese beiden:

• Ohne Zaun: „Mach die Krähen ein bisschen schneller.“
• Mit Zaun: „Mach die Krähen 20 % schneller im Flug. Ändere nur die Fluggeschwindigkeit. Die Warnpause von 0,4 Sekunden bleibt.“

Was gehört auf die Liste?

Du musst nicht alles aufschreiben. Drei Arten von Dingen verdienen eine Zeile:

1. Alles, was du von Hand abgestimmt hast, bis es sich richtig anfühlte.
2. Alles, was mehr als zwei Anläufe gebraucht hat.
3. Alles, was Außenstehende für einen Fehler halten würden und du nicht.

Das sagst du deiner KI

Du änderst immer wieder Dinge, um die ich nicht gebeten habe. Deshalb bauen wir jetzt einen Zaun.

1. Geh mein Spiel durch und liste alles auf, was seltsam, überflüssig oder merkwürdig genau aussieht, etwa eine Pause, eine krumme Zahl oder einen Sonderfall. Zitiere jede Stelle und sag, wo sie steht.
2. Frag mich bei jeder Stelle: Absicht oder nicht? Rate nicht. Schreib meine Antworten mit Begründung in on-purpose.md.

Ab jetzt gilt vor jeder Änderung:
- Lies on-purpose.md.
- Zeichne als kleines Mermaid-Diagramm, wie sich dieser Teil des Spiels verhalten soll, und markiere darin die Einträge aus on-purpose.md. Spiel deine geplante Änderung auf der Zeichnung durch und sag mir, welche Schritte sie berührt.
- Sag mir, was du anfassen willst und was du in Ruhe lässt.
- Braucht die Änderung mehr als das, halte an und frag mich.

Zeig mir nach jeder Änderung, was sich wirklich geändert hat, alt und neu nebeneinander in einfachen Worten. Nenne Einträge aus on-purpose.md in der Nähe und sag, was du angesehen oder ausprobiert hast, das zeigt, dass sie noch stimmen. Wenn du es nicht weißt, sag das.

Oder spar dir das und schließ den MCP an: Dann findet deine KI das alles von selbst.MCP anschließen

So prüfst du es

• Lies die Liste. Steht etwas darin, woran du dich beim Abstimmen erinnerst? Falls nicht, hat die KI nur überflogen. Nenne ein Detail und frag, wo es steckt.
• Bitte um eine Änderung direkt neben einem Zaun. Im Beispiel: schnellere Krähen. Die Warnpause sollte in der Zeichnung als eigener Schritt auftauchen und im Spiel erhalten bleiben.
• Vergleiche Änderung und Bitte. Alles, was darüber hinausgeht, verdient eine Nachfrage.
• Versuch, die KI von der Liste abzubringen. Bitte sie, ein geschütztes Detail ohne Begründung zu entfernen. Sie sollte den Grund aus der Liste zitieren und nachfragen, ob du sicher bist.