Software spielt bei fast allem, was wir tun, eine Rolle – und ja, wir vertrauen darauf, dass sie funktioniert! OK, manchmal versagt sie und treibt uns in den Wahnsinn, aber in den meisten Fällen tut sie, was wir von ihr erwarten. Wie haben wir gelernt, darauf zu vertrauen, dass Software funktioniert? Durch positive Erfahrungen mit Software, die unsere Erwartungen erfüllt. Und gut getestete Software vermeidet es, die Kundenerfahrung (Customer Experience – CX) negativ zu beeinflussen, da die Kunden die Fehler meist nie sehen – sie werden früher im Entwicklungsprozess erkannt und behoben. Dank der Testautomatisierung in seinem kontinuierlichen Bereitstellungsprozess hat Intesa Sanpaolo in den letzten zwölf Monaten 700 Fehler bei der Freigabe neuer Funktionen seiner wichtigsten mobilen Anwendung für die Produktion erfasst. Daher ist die Testautomatisierung für jeden modernen Anwendungsentwicklungsprozess unerlässlich. 

In ähnlicher Weise lernen wir auch, der künstlichen Intelligenz (KI) zu vertrauen, die zunehmend in Software und Anwendungen integriert wird, die wir täglich nutzen (wenn auch noch nicht in dem Umfang wie traditionelle Software). Aber es gibt auch viele Beispiele für schlechte Erfahrungen mit künstlicher Intelligenz, welche die Ethik, die Verantwortlichkeit und die Integrität beeinträchtigen und somit das Vertrauen untergraben. Wir beschreiben beispielsweise in unserem Report „No Testing Means No Trust In AI: Part 1“, dass Compas eine Anwendung für maschinelles Lernen (ML) und KI ist, die von Richtern in zwölf US-Bundesstaaten eingesetzt wird, um zu entscheiden, ob Angeklagte vor der Verhandlung auf Kaution freigelassen werden sollen, und um die Länge von Haftstrafen festzulegen. Die Forscher fanden heraus, dass Compas bei schwarzen Angeklagten häufig ein höheres Rückfallrisiko vorhersagte, als es tatsächlich der Fall war, während es das Rückfallrisiko bei weißen Angeklagten häufig unterschätzte. 

Der Verlust des Vertrauens in KI ist ein hohes Risiko für KI-basierte Innovationen. Die zusätzliche Erwartung, die wir Menschen an KI in fundierte Anwendungen stellen, besteht darin, dass sie nicht nur funktionieren, sondern sich auch intelligent verhalten: KI muss sprechen, zuhören, sehen und verstehen. Die Daten von Forrester Analytics zeigen, dass 73 % der Unternehmen angeben, dass sie im Jahr 2021 KI für die Entwicklung neuer Lösungen einsetzten, gegenüber 68 % im Jahr 2020, und das Testen dieser KI-basierten Anwendungen wird noch wichtiger werden. 

Figuring the amount of rigor in testing and there needed effort should be commensurate to the level of business risk the AIIA carries

Halten Sie sich von den roten Bereichen fern! 

Die Folgen einer unzureichenden Prüfung von KI drohen sogar noch größer zu werden, wenn es um Anwendungen in Bereichen geht, die sich auf Leben und Sicherheit (z. B. selbstfahrende Autos und automatisierte Fabriken), Cyber Security oder strategische Entscheidungshilfen auswirken. Und je besser die KI wird und je weniger der Mensch eingreift, desto wichtiger wird das Testen von AIIAs. 

Aus einem anderen Blickwinkel betrachtet, zeigt der World Quality Report (WQR) von Capgemini, dass 88 % der IT-Führungskräfte entweder über den Einsatz von KI beim Testen nachdenken oder ihre KI testen wollen. Und ich erwarte ein explosives Wachstum bei KI-Tests. Hier sind einige der häufigsten Fragen, die ich für die Kunden von Forrester beantworte: 

1) Wie wäge ich das Risiko ab, nicht genug oder zu viel für KI zu testen? 

2) Wie kann ich wissen, ob ich KI ausreichend teste? 

3) Für die Prüfung von KI bedarf es vieler Personen. Welche Rollen sollten beteiligt sein? 

4) Welche der vorhandenen Testverfahren und -fähigkeiten kann ich nutzen, und welche neuen brauche ich? 

5) Sind die Tests für alle beteiligten KI-Typen gleich? 

6) Wie sieht es mit der Automatisierung der Prüfung von KI aus? 

7) Wie lässt sich diese Automatisierung in MLOps (DevOps für KI) integrieren? 

Wenn Sie zu den 73 % gehören, die KI einsetzen, um Ihr Unternehmen intelligenter, schneller und kreativer zu machen, sehen Sie sich dieses Video an, um Antworten auf Ihre häufigsten Fragen zu erhalten. 

NB: Dieser Blog wurde aus dem Englischen übersetzt.