Wenn du schon einmal an einem Freitag Code ausgeliefert und es sofort bereut hast, stell dir vor, du würdest das mit von einer KI generiertem Code tun … auf einer der größten E-Commerce-Plattformen der Welt.
Amazon hat gerade ein verpflichtendes Engineering-Meeting abgehalten, nachdem eine Reihe von Ausfällen die Retail-Website und die App getroffen hatte – darunter ein sechsstündiger Ausfall in der vergangenen Woche, durch den Kunden weder den Bezahlvorgang abschließen noch Preise einsehen oder auf ihre Konten zugreifen konnten. In einer internen Informationsnotiz wurden die Vorfälle als solche mit einer „großen Schadensreichweite“ beschrieben, die mit „GenAI-gestützten Änderungen“ zusammenhingen.
Das wissen wir
- Senior Vice President Dave Treadwell räumte ein, dass „Best Practices und Schutzvorkehrungen“ für KI-Coding-Tools noch nicht vollständig etabliert sind
- Junior- und Mid-Level-Ingenieure benötigen jetzt für alle KI-gestützten Codeänderungen die Freigabe eines Senior-Ingenieurs
- AWS verzeichnete im Dezember unabhängig davon einen 13-stündigen Ausfall, nachdem das KI-Tool Kiro eine komplette Coding-Umgebung gelöscht und neu erstellt hatte
- Amazon hat Dashboards eingerichtet, die erfassen, ob Ingenieure ihre täglichen Mindestziele für den KI-Einsatz erreichen
- Amazon bestreitet, dass die KI den fehlerhaften Code geschrieben hat; das Unternehmen bezeichnet es als Problem mit „Benutzerfehlern“ und dem „Protokoll“
Unterdessen zeichnen aktuelle und ehemalige Amazon-Ingenieure auf Reddit ein düstereres Bild. Einer beschrieb „Bereitschaftsdienste, bei denen KIs die KIs der jeweils anderen in einem Stellvertreterkrieg der Schuldzuweisungen bekämpfen“. Ein anderer sagte, Projekte auszuliefern sei wichtiger als die Frage, ob die Projekte tatsächlich funktionieren. Klingt gesund.
Amazon hat außerdem erst im Januar 16.000 Beschäftigte entlassen und Ziele für einen KI-Tool-Einsatz von 80 % vorgeschrieben (wieder einmal dumm; warum ist „Nutzung“ die Kennzahl und nicht „unsere Produkte besser machen?“). Ach ja, und das Unternehmen gibt in diesem Jahr 200 Milliarden US-Dollar für Investitionen aus. Rechnen wir also nach: weniger Ingenieure + mehr KI-generierter Code = mehr verpflichtende WTF-was-haben-wir-gerade-kaputtgemacht-Meetings.
Warum das wichtig ist
Wie „The Primeagen“ und der KI-Forscher Demetri Spanos diese Woche erörterten: Die Modelle sind intelligent, aber nicht SO intelligent. Tatsächlich sind die Praktiken rund um ihren Einsatz das eigentliche Problem.
Der größte Teil der Begeisterung seit Dezember 2025 gilt der Weiterentwicklung von Agentenschleifen und Team-Workflows, nicht allein Verbesserungen der grundlegenden Modelle. KI kann Code schreiben, aber der von ihr geschriebene Code ist oft viel ausführlicher als nötig. Und wenn irgendein armer Mensch (wahrscheinlich du) ihn lesen muss, weiß – anders als bei anderen großen, bekannten Codebasen auf der Welt – niemand, was zum Teufel darin steht … du eingeschlossen.
Wie richtet man also seine Prozesse so ein, dass sie den Code auffangen, den die KI falsch schreibt? Und wie richtet man seine Systeme so ein, dass die KI effizient Code schreibt? Wie Dylan Patel kürzlich in einem Interview mit Matt Berman sagte, gibt ein Teil seines Teams ungefähr 5.000 US-Dollar pro Tag für Claude-Code-Tokens aus. Wie viele Tokens glaubst du, spuckt dieser Typ wohl aus?
Amazon wird das herausfinden. Doch das Unternehmen lernt die Lektion, die irgendwann jedes Unternehmen lernen wird, das KI für Produktivcode einsetzt: Der gewonnene Geschwindigkeitsvorteil bedeutet nichts, wenn man den Ergebnissen nicht vertrauen kann.
Anmerkung der Redaktion: Dieser Inhalt erschien ursprünglich im Newsletter unserer Schwesterpublikation The Neuron. Weitere Beiträge von The Neuron kannst du hier für den Newsletter abonnieren.