Strategische Ansätze zur Maximierung des Wertes und Minimierung der Risiken durch den Einsatz von KI – Einblicke aus den neuesten Q&A

Die rasche Verbreitung von generativer KI bringt neue Herausforderungen und Chancen in den Bereichen Entwicklung, Test, Governance und Regulierung mit sich. David Gardiner, Vizepräsident von Tricentis, sagt: „Qualitätssicherung (QA) und mehrschichtige Verifizierung sind der Schlüssel zur Gewährleistung der Zuverlässigkeit von KI.“ Konkret bedeutet dies: ① Sichtbarmachung und kontinuierliche Korrektur von „Schwankungen“ durch umfangreiche Tests und Musteranalysen, ② strikte Umsetzung von „Checks & Balances“ durch die Kombination von Überwachung und menschlichem Ermessen in der Produktionsumgebung, ③ unverzichtbare integrierte Stresstests, die auch externe Dienste einbeziehen, um großflächige Ausfälle zu vermeiden. Tatsächlich führte der CrowdStrike-Ausfall im Jahr 2024 zu Verlusten von über 500 Millionen Dollar für Delta Airlines und legte die Anfälligkeit der gesamten Lieferkette offen. Außerdem verpflichtet der AI Act der EU, der im August 2025 in Kraft tritt, zur Transparenz und Rechenschaftspflicht, wobei Verstöße mit einer Geldstrafe von bis zu 7 % des Jahresumsatzes geahndet werden. Gerade jetzt, wo Regulierung und technologische Entwicklung aufeinandertreffen, ist eine Strategie gefordert, die von Führungskräften, Entwicklern, Testern und Juristen gemeinsam entwickelt wird, um „verantwortungsvolle KI“ zu gestalten und die „Autobahn der Wertschöpfung“ sicher zu befahren.