Deutschland – IT-Dienste: Beratung, Software-Entwicklung, Internet und Hilfestellung – KI im Secure Software Development Life Cycle (KISDL)

Methoden der Künstlichen Intelligenz (KI) zeigen in vielen Anwendungsbereichen erstaunliche Leistungen und werden zunehmend in Bereichen eingesetzt, die das tägliche Leben beeinflussen. Auch das Gebiet der Cybersicherheit ist von KI nicht unberührt geblieben. Neue KI-Tools werden in diesem Kontext beinahe täglich veröffentlicht, und vor allem Große KI-Sprachmodelle (LLMs) werden bereits heute zu diversen Anwendungszwecken eingesetzt. Zugleich verändert sich auch die Bedrohungslage stark, da gutartig intendierte Modelle missbräuchlich zu Angriffszwecken (Dual Use) verwendet werden. Infolgedessen muss mitunter angenommen werden, dass Schwachstellen mit den zunehmenden Fähigkeiten von KI zukünftig immer schneller entdeckt und ausgenutzt werden. Vor diesem Hintergrund muss auch die Verteidigungsseite aktiv werden, weswegen in diesem Projekt untersucht werden soll, wie KI im SSDLC gewinnbringend eingesetzt werden kann und welche Auswirkungen die fortschreitenden Entwicklungen auf die Sicherheit von Software haben. Dazu ist das Projekt in drei Teile gegliedert, mit zusammenhängenden, aber unterschiedlichen Leistungen: In den AP 1-4 [HM1.1]soll eine Studie über den aktuellen Stand der Technik und der Wissenschaft im Bereich KI im Secure Software Development Life Cycle erstellt werden. Dazu sollen des Weiteren Best Practices für den Einsatz identifizierter KI-Tools erarbeitet werden. Die Ergebnisse sollen veröffentlicht werden. In den AP 5-6 [HM2.1] soll der AN auf Grundlage der Studie in Zusammenarbeit mit dem BSI die Bewertungskriterien für die AVA Bepunktung in der Common Criteria Zertifizierung überprüfen und mit Blick auf die neuen Gegebenheiten aktualisieren. Zudem ist ein Umsetzungsplan für den Einsatz von KI-Tools für Prüfstellen zu erstellen. Im AP 7 wird für die Plattform Open CoDE eine Referenzarchitektur erstellt, die darstellt, wie KI-Tools in den Secure Software Development Life Cycle und die Softwareumgebung von Open CoDE integriert werden können. Es sind hierbei geeignete Tools vorzuschlagen.