Eine neue Umfrage von Legit Security hat ergeben, dass generative KI (GenAI) kritische Sicherheitslücken offenlegt, während sie gleichzeitig die Softwareentwicklung verändert. Die Ende November 2024 veröffentlichte Umfrage verdeutlichte die Bedenken von Entwicklern und Sicherheitsexperten hinsichtlich der Integration von GenAI in Entwicklungspipelines – trotz ihrer weitverbreiteten Nutzung.
Der mit „Nutzung und Sicherheit von GenAI in der Softwareentwicklung“ betitelte Bericht befragte über 400 Fachleute aus verschiedenen Branchen und zeigte, dass 96 Prozent der Unternehmen inzwischen GenAI-Tools für die Anwendungsentwicklung einsetzen; 79 Prozent berichteten, dass ihre Teams diese regelmäßig nutzen. Sicherheitsrisiken wie die mögliche Offenlegung von Schadcode und Angriffe auf die KI-Lieferkette werfen jedoch einen Schatten auf diesen technologischen Sprung.
„Da generative KI die Softwareentwicklung verändert und zunehmend in den Entwicklungslebenszyklus eingebettet wird, bestehen bei Entwicklern und Sicherheitsteams einige reale Sicherheitsbedenken“, sagte Liav Caspi, Mitbegründer und CTO von Legit Security, in einer Pressemitteilung. „Unsere Untersuchung hat ergeben, dass Teams vor der Herausforderung stehen, die Innovationen von GenAI und die Risiken, die sie durch neue Sicherheitslücken in ihren Anwendungen und Softwarelieferketten mit sich bringt, miteinander in Einklang zu bringen.“
Die Umfrage ergab außerdem, dass 85 Prozent der Entwickler und 75 Prozent der Sicherheitsexperten eine übermäßige Abhängigkeit von GenAI-Tools befürchten. Diese Technologien, die repetitive Programmieraufgaben automatisieren sollen, bergen das Risiko, Sicherheitslücken offenzulegen, die von Angreifern ausgenutzt werden könnten.
- 98 Prozent der Befragten wiesen zudem auf die Notwendigkeit hin, dass Sicherheitsteams eine bessere Kontrolle darüber erlangen, wie GenAI-Technologien eingesetzt werden
- 94 Prozent betonten die Notwendigkeit einer verbesserten Verwaltung von GenAI-gesteuerten Entwicklungsprozessen
Der Bericht erkannte auch potenzielle KI-gesteuerte Bedrohungen wie den Abfluss vertraulicher Informationen und den Diebstahl von Modellen. Mehr als zwei Drittel der Befragten führten Schwachstellen in der Lieferkette als ernstes Risiko an und unterstrichen damit das weitverbreitete Problem, von KI generierten Code in geschäftskritischen Systemen abzusichern. Die Ergebnisse fallen mit Entwicklungen in der breiteren Cybersicherheitslandschaft zusammen, in der Ransomware-Angriffe Rekordhöhen erreicht haben und sich KI-basierte Schwachstellen weiterentwickeln.
Trotz dieser Hürden ist der Konsens eindeutig: GenAI verändert die Zukunft der Softwareentwicklung. Fast 95 Prozent der Befragten sagten voraus, dass die Abhängigkeit von diesen Tools in den kommenden fünf Jahren zunehmen wird. Doch während Unternehmen diese neue Technologie annehmen, empfehlen Experten Vorsicht und weisen darauf hin, dass Unternehmen wichtige Tools für Prompt Engineering nutzen sollten, um die Kontrolle über den Einsatz von KI zu verbessern und Risiken zu mindern.
„GenAI ist zweifellos die Zukunft der Softwareentwicklung“, sagte Caspi. „Unternehmen müssen sich jedoch der neuen Risiken bewusst sein und sicherstellen, dass sie angemessene Transparenz und Kontrolle über ihren Einsatz haben.“
Laden Sie den vollständigen Bericht von Legit Security herunter oder erfahren Sie mehr darüber, wie generative KI zur Unterstützung von Cybersicherheitsmaßnahmen eingesetzt werden kann.