Deutschland – IT-Dienste: Beratung, Software-Entwicklung, Internet und Hilfestellung – Projekt 1023: Prüfkriterien für Reinforcement Learning (RL-Criteria)

Das Projekt erarbeitet einen Katalog von Anforderungen, die der Bewertung der Sicherheit und Vertrauenswürdigkeit von Reinforcement Learning nutzenden KI-Anwendungen dienen. Die Anforderungen haben das Ziel, ein möglichst breites Spektrum an Anwendungen abzudecken. Dabei werden grundsätzlich alle Techniken und Ausprägungen von Reinforcement Learning, insbesondere auch im Zusammenhang mit großen und aktuellen generativen Modellen (Stichworte: RLHF, RLAIF), berücksichtigt. Die Anforderungen werden in der konkreten Ausarbeitung jeweils durch Erklärungen, begleitende Informationen, Umsetzungshinweise (z.B. Erläuterungen zum Einsatz geeigneter Testmethoden) u.ä. ergänzt. Der Katalog bildet damit eine Grundlage zur Selbsteinschätzung und zur Prüfung entsprechender KI-Systeme. Die im Projekt erstellten Anforderungen werden so aufbereitet, dass sie kompatibel zur SdT -Bibliothek des BSI sind und sich in das bestehende Produktportfolio des BSI zu KI-spezifischen Prüfkriterien einfügen. Konkret sind die Anforderungen abschließend als ergänzendes Modul zum BSI A5 zu gestalten.