Das Versprechen, mit ein paar Textanweisungen Apps zu entwickeln, wird zu einem wachsenden Cybersicherheitsproblem: Forschende warnen, dass dieselben KI-Tools, die Menschen dabei helfen, innerhalb von Minuten Software zu erstellen, auch sensible Unternehmens- und persönliche Informationen im öffentlichen Internet offenlegen.
Eine neue Untersuchung des israelischen Cybersicherheitsunternehmens Red Access hat Tausende von mit KI generierten Web-Apps gefunden, die Daten von Krankenakten bis hin zu internen Geschäftsdokumenten durchsickern ließen. Die Ergebnisse verstärken die wachsenden Bedenken rund um Vibe Coding – einen schnell wachsenden Trend, bei dem Nutzer sich stark auf KI-Tools verlassen, um Software zu generieren und bereitzustellen und dabei wenig oder gar keine herkömmliche Programmiererfahrung haben.
Eine neue Untersuchung des israelischen Cybersicherheitsunternehmens Red Access hat rund 380.000 öffentlich zugängliche Objekte gefunden, die mit KI-gestützten Programmiertools wie Lovable, Replit, Netlify und Base44 erstellt wurden. Den Forschenden zufolge legten etwa 5.000 dieser Apps potenziell sensible Informationen offen.
Die von Axios berichteten Ergebnisse legen nahe, dass viele Nutzer interne Tools online veröffentlichen, ohne zu erkennen, dass sie öffentlich zugänglich sind. Dor Zvi, CEO von Red Access, sagte, das Unternehmen habe die Apps bei der Untersuchung von „Shadow AI“ entdeckt – also dem Einsatz von KI-Tools durch Beschäftigte ohne formelle Genehmigung ihrer Organisationen.
„Das Konzept, dass Menschen einfach etwas erstellen und es dann auf so einfache Weise in der Produktion … im Namen ihres Unternehmens einsetzen, ohne eine Genehmigung einzuholen – es gibt keine Grenzen“, sagte Zvi gegenüber Axios.
Er warnte außerdem, dass viele nichttechnische Nutzer vor der Veröffentlichung von Apps im Internet möglicherweise nicht einmal über Sicherheitseinstellungen nachdenken. „Ich glaube nicht, dass es machbar ist, die ganze Welt in Sachen Sicherheit zu schulen“, sagte Zvi in von Axios veröffentlichten Kommentaren. „Meine Mutter betreibt [Vibe Coding] mit Lovable, und nichts für ungut, aber ich glaube nicht, dass sie über rollenbasierte Zugriffssteuerung nachdenken wird.“
Medizinische, finanzielle und Unternehmensdaten offenbar offengelegt
Zu den offengelegten Informationen gehörten Berichten zufolge Krankenakten, Finanzdokumente, Chatbot-Gespräche, Zeitpläne und interne Geschäftsmaterialien.
Axios erklärte, mehrere offengelegte Anwendungen unabhängig überprüft zu haben, darunter eine App eines Schifffahrtsunternehmens mit Schiffsfahrplänen, eine Gesundheitsplattform mit Details zu klinischen Studien im Vereinigten Königreich und Kundensupport-Gespräche eines Möbelherstellers.
WIRED berichtete , dass einige offengelegte Apps offenbar Krankenhaus-Einsatzpläne, Verkaufsunterlagen, Präsentationen zur Marketingstrategie, Finanzinformationen und Chatbot-Protokolle mit Kundennamen und Kontaktdaten enthielten.
Die Forschenden behaupteten außerdem, Apps gefunden zu haben, die Patientengespräche, Aufzeichnungen von Schulstunden und interne Dienstpläne durchsickern ließen. Laut WIRED schienen rund 40 % der offengelegten Apps sensible Daten zu enthalten.
„Das Endergebnis ist, dass Organisationen tatsächlich private Daten über Vibe-Coding-Anwendungen durchsickern lassen“, sagte Zvi gegenüber WIRED. „Dies ist eines der größten Ereignisse überhaupt, bei denen Menschen Unternehmensdaten oder andere sensible Informationen für jeden auf der Welt offenlegen.“
Plattformen weisen die Vorwürfe zurück
Die Unternehmen hinter den KI-Programmierwerkzeugen widersprachen Teilen der Ergebnisse der Forschenden und argumentierten, dass die Sichtbarkeit öffentlicher Apps im Internet nicht automatisch bedeute, dass es zu einer Sicherheitsverletzung gekommen sei. Replit-CEO Amjad Masad sagte, Nutzer könnten entscheiden, ob Apps öffentlich oder privat seien.
„Replit ermöglicht es Nutzern, auszuwählen, ob Apps öffentlich oder privat sind“, schrieb Masad in einer von WIRED zitierten Stellungnahme. „Dass öffentliche Apps im Internet zugänglich sind, entspricht dem erwarteten Verhalten. Die Datenschutzeinstellungen können jederzeit mit einem einzigen Klick geändert werden.“
Eine Sprecherin von Lovable sagte, das Unternehmen untersuche die Vorwürfe und betonte, dass Entwickler dafür verantwortlich seien, wie ihre Apps konfiguriert sind.
„Lovable nimmt Berichte über offengelegte Daten und Phishing-Websites ernst und arbeitet aktiv daran, die für eine Untersuchung erforderlichen Informationen zu beschaffen“, erklärte das Unternehmen in einer von WIRED veröffentlichten Stellungnahme. Auch Base44 verteidigte seine Plattform und erklärte, die Nutzer erhielten Werkzeuge, um die Sicherheitseinstellungen selbst zu konfigurieren.
Es wird erwartet, dass das Ausmaß dieses Problems weiter zunimmt. Branchenprognosen zufolge werden bis zum Ende dieses Jahres 60 % des gesamten neuen Codes von KI generiert werden. Diese Tools demokratisieren zwar die Entwicklung, umgehen aber auch die herkömmlichen Sicherheitsprüfungen professioneller Engineering-Teams.
Weiterführende Lektüre: Während KI-Programmierwerkzeuge die Entwicklung von Software verändern, baut OpenAI Codex ebenfalls zu einer umfassenderen „Super-App“ für Entwickler aus, die darauf abzielt, größere Teile des App-Entwicklungsprozesses zu vereinfachen.