Germania – Servizi informatici: consulenza, sviluppo di software, Internet e supporto – KI im Secure Software Development Life Cycle (KISDL)

I metodi dell'intelligenza artificiale (IA) mostrano prestazioni straordinarie in molti settori di applicazione e vengono sempre più utilizzati in ambiti che influenzano la vita quotidiana. Anche il settore della cybersicurezza non è rimasto immune all'IA. Nuovi strumenti di IA vengono pubblicati in questo contesto quasi quotidianamente, e in particolare i grandi modelli linguistici di IA (LLMs) vengono già utilizzati oggi per diversi scopi. Nel frattempo, la situazione delle minacce sta cambiando rapidamente, poiché i modelli con intenzioni benigne vengono utilizzati impropriamente per scopi offensivi (dual use). Di conseguenza, si deve presumere che le vulnerabilità vengano scoperte e sfruttate sempre più rapidamente con l'aumento delle capacità dell'IA. In questo contesto, anche il lato difensivo deve diventare attivo, motivo per cui in questo progetto si intende indagare come l'IA possa essere utilizzata in modo vantaggioso nel SSDLC e quali impatti le evoluzioni in corso abbiano sulla sicurezza del software. A tal fine, il progetto è suddiviso in tre parti, con prestazioni collegate ma diverse: negli AP 1-4 [HM1.1] si dovrà redigere uno studio sullo stato attuale della tecnica e della scienza nel campo dell'IA nel Secure Software Development Life Cycle. Inoltre, dovranno essere sviluppate best practice per l'uso degli strumenti di IA identificati. I risultati dovranno essere pubblicati. Negli AP 5-6 [HM2.1] l'AN, sulla base dello studio e in collaborazione con il BSI, dovrà verificare e aggiornare i criteri di valutazione per la valutazione AVA nella certificazione Common Criteria, tenendo conto delle nuove circostanze. Inoltre, dovrà essere elaborato un piano di attuazione per l'uso di strumenti di IA per gli enti di certificazione. Nell'AP 7 verrà creata per la piattaforma Open CoDE una architettura di riferimento che illustri come gli strumenti di IA possano essere integrati nel Secure Software Development Life Cycle e nell'ambiente software di Open CoDE. In questo contesto, devono essere proposti strumenti appropriati.