Herr Schneider, KI-Tools versprechen mehr Tempo in der Softwareentwicklung. Inwieweit wird Qualität dadurch zum kritischen Thema?

Wenn KI-Code in immer kürzerer Zeit erzeugt wird, steigt auch die Anzahl der Änderungen, die geprüft werden müssen. Und dabei ist der durch KI mittels sogenanntem Vibe Coding erzeugte Code oft mit ähnlichen Qualitätsmängeln behaftet wie von Menschen erzeugter. Bestehende Ansätze und Strategien sind für die Qualitätssicherung von KI-generiertem Code oft nicht geeignet, allein schon aufgrund der steigenden Codemengen, was schnell teuer werden kann.

Welche zusätzlichen Risiken, neben dem hohen Aufwand, gibt es? 

Eine Reihe von europäischen Gesetzen und Richtlinien, beispielsweise die Datenschutzgrundverordnung, der Cyber Resilience Act, die EU-Maschinenverordnung, die Produkthaftungsrichtlinie etc., sehen teilweise empfindliche Strafen für mangelhafte Softwarequalität vor. Entwickler müssen KI-generierten Code kritisch lesen und verstehen, anstatt ihn nur zu übernehmen. Gleichzeitig geraten Testteams unter Druck, weil die Validierung mit dem höheren Output Schritt halten muss. Es reicht also nicht, mehr Code zu produzieren, sondern man braucht auch belastbare, effiziente und nachweissichernde Prozesse für Review, Test und Freigabe.

Wie sollte gute Qualitätssicherung für KI-generierte Software heute aussehen?

Die jetzt in Kraft tretenden Regelwerke fordern einen risikobasierten Testansatz. Nicht jede Codezeile muss gleich intensiv geprüft werden, aber sicherheitskritische, datenschutzrelevante oder fachlich sensible Komponenten müssen deutlich intensiver geprüft werden. Dazu gehören automatisierte Tests, die Code-Reviews und dynamische Tests nicht nur umfassen, sondern miteinander integrieren, Ergebnisse nachweissicher dokumentieren sowie geeignete Prozesse einschließlich nachvollziehbarer Freigabekriterien. Dazu werden Testszenarien, Testdaten und Testumgebungen benötigt, die reale Einsatzszenarien der Systeme gut abbilden.

Wie kann Fraunhofer FOKUS beim Testen von KI-Software unterstützen?

Fraunhofer FOKUS verfügt über langjährige Erfahrung in der Entwicklung und Anpassung von Testansätzen und -methoden für unterschiedliche Domänen, insbesondere in der Automatisierung funktionaler und nicht-funktionaler Tests, etwa im Bereich Cybersecurity. Wir unterstützen Unternehmen dabei, Testprozesse so zu automatisieren, dass sie mit der Menge KI-generierten Codes Schritt halten. Zugleich integrieren wir diese Tests passgenau in bestehende Entwicklungs- und Qualitätsprozesse, damit diese die Anforderungen des jeweiligen Industriesektors sowie geltende gesetzliche Regelwerke belastbar und nachweissicher umsetzen können. Ergänzend bieten wir Erstberatungen und Schulungen zu Regelwerken wie dem Cyber Resilience Act oder der NIS2-Richtlinie an, um einen ersten Überblick zu schaffen und einen konkreten Umsetzungsplan abzuleiten. Schulungen befähigen Entwicklerinnen und Entwickler, Testingenieurinnen und Testingenieure sowie Qualitäts- und Produktmanagerinnen und -manager, Prozesse und Testaktivitäten nachweissicher zu gestalten und umzusetzen.

Sie möchten mehr darüber erfahren, wie Qualitätssicherung in der KI-Ära gelingen kann? 

Fraunhofer FOKUS beschäftigt sich mit robusten, praxisnahen Ansätzen für Qualität, Test und Verlässlichkeit digitaler Systeme, auch dort, wo KI neue Anforderungen an Entwicklung und Prüfung stellt. Sprechen Sie uns an!