Business Roundtable: Roadmap für verantwortungsvolle KI
Vor kurzem veröffentlichte der Business Roundtable (eine einflussreiche Gruppe von CEOs großer US-Unternehmen) eine Fahrplan für verantwortungsvolle künstliche Intelligenz (KI). Während viele Unternehmen aufgrund von Marktkräften wie dem bevorstehenden Gesetz über künstliche Intelligenz in Europa und den Anforderungen werteorientierter Verbraucher bereits über verantwortungsbewusste KI nachdenken, wird diese Ankündigung das Gespräch in die Führungsetagen bringen.
Einige der Grundsätze sind erfrischend präskriptiv, wie z. B. „Innovation mit und für Vielfalt“. Andere, wie z. B. „das Potenzial für unfaire Voreingenommenheit mindern“, sind zu vage oder unvollständig, um nützlich zu sein. Für Tech- und Unternehmensleiter, die an der Übernahme eines oder aller dieser Grundsätze interessiert sind, steckt der Teufel im Detail. Im Folgenden finden Sie eine kurze Darstellung der einzelnen Grundsätze mit Verweisen auf unsere veröffentlichten Forschungsergebnisse (für Forrester-Kunden zugänglich), in denen wir ausführlicher darauf eingehen, wie diese Grundsätze in konsistente Praktiken umgesetzt werden können:
- Innovationen mit und für Vielfalt. Wenn die Leute, die ein KI-System konzipieren und entwickeln, sich alle ähneln, gibt es zwangsläufig erhebliche blinde Flecken. Die Einstellung unterschiedlicher Teams für die Entwicklung, Bereitstellung, Überwachung und Nutzung von KI hilft, diese blinden Flecken zu beseitigen, und ist etwas, das wir bei Forrester seit unserem ersten Report über die Ethik der KI im Jahr 2018 empfehlen.
- Entschärfen Sie das Potenzial für unfaire Voreingenommenheit. Es gibt über 20 verschiedene mathematische Darstellungen von Fairness, und die Wahl der richtigen hängt von Ihrer Strategie, Ihrem Anwendungsfall und Ihren Unternehmenswerten ab. Mit anderen Worten: Fairness liegt in der KI des Betrachters. Wir haben kürzlich einen Podcast mit Best Practices publiziert für die Bewertung der Fairness in der KI und Milderung von Verzerrungen während des gesamten Lebenszyklus der KI.
- Entwurf und Umsetzung von Transparenz, Erklärbarkeit und Interpretierbarkeit. Es gibt viele verschiedene Arten von erklärbarer KI (XAI) – Transparenz beruht auf völlig transparenten „Glaskasten“-Algorithmen, während Interpretierbarkeit auf Techniken beruht, die erklären, wie ein undurchsichtiges System wie ein tiefes neuronales Netz funktioniert.
- Investieren Sie in eine zukunftsfähige KI-Belegschaft. KI wird die Arbeitsplätze der meisten Menschen eher verändern als beseitigen, doch die meisten Arbeitnehmer sind noch nicht bereit. Ihnen fehlen die Fähigkeiten, die Neigung und das Vertrauen, um sich auf KI einzulassen. Investitionen in den Robotik-Quotienten – ein Maß für die Bereitschaft – können Mitarbeiter darauf vorbereiten, Seite an Seite mit KI zu arbeiten.
- Bewertung und Überwachung der Eignung und Wirkung von Modellen. Die Pandemie war für Unternehmen eine Lektion aus der Praxis, was die Gefahr des Datendrifts angeht. Unternehmen müssen Machine Learning Operations (MLOps) einsetzen, um die KI auf kontinuierliche Leistung zu überwachen, und Crowdsourcing zur Identifizierung von Verzerrungen mit Bias-Bounties in Betracht ziehen.
- Verantwortungsvoller Umgang mit der Datenerfassung und -nutzung. Der Rahmen des Business Roundtable betont zwar die Datenqualität und -genauigkeit, lässt aber den Datenschutz außer Acht. Das Verständnis der Beziehung zwischen KI und personenbezogenen Daten ist für den verantwortungsvollen Umgang mit KI entscheidend.
- Entwurf und Einsatz sicherer KI-Systeme. Es gibt keine sichere KI ohne solide Cybersicherheits- und Datenschutzpraktiken. Machen Sie das Forrester Cybersecurity and Privacy Maturity Assessment, um Verbesserungsmöglichkeiten zu identifizieren.
- Förderung einer unternehmensweiten Kultur der verantwortungsvollen KI. Einige Unternehmen beginnen, einen Top-down-Ansatz zur Förderung einer Kultur der verantwortungsvollen KI zu verfolgen, indem sie einen Chief Trust Officer oder Chief Ethics Officer ernennen. Wir erwarten, dass diese Ernennungen im kommenden Jahr zunehmen werden.
- Anpassung bestehender Governance-Strukturen zur Berücksichtigung von KI. Ambient Data Governance, eine Strategie zur Einbindung von Data Governance in die alltägliche Dateninteraktion und zur intelligenten Anpassung von Daten an persönliche Absichten, ist ideal für KI geeignet. Stellen Sie Ihre Data Governance-Bemühungen in den Kontext der KI-Governance.
- Operationalisierung der KI-Governance im gesamten Unternehmen. In vielen Unternehmen ist „Governance“ zu einem Schimpfwort geworden. Das ist nicht nur unglücklich, sondern auch ziemlich gefährlich. Erfahren Sie, wie Sie die Governance-Müdigkeit überwinden können.
Was noch fehlt
So solide und gut gemeint der Fahrplan des Business Roundtable auch ist, es fehlen zwei entscheidende Elemente, die Unternehmen berücksichtigen müssen, um KI verantwortungsvoll einzusetzen:
- Minderung des Risikos für Dritte durch rigorose Due-Diligence-Prüfungen. Die meisten Unternehmen setzen KI in Partnerschaft mit Dritten ein – durch den Kauf von KI-Lösungen Dritter oder durch die Entwicklung eigener Lösungen unter Verwendung von KI-Bausteinen von Dritten. In beiden Fällen ist das Risiko für Dritte real und muss gemildert werden. Unser Bericht, AI Aspirants: Caveat Emptor, erläutert bewährte Verfahren zur Verringerung des Risikos für Dritte.
- Testen Sie KI zur Risikominimierung und Unternehmenswertsteigerung. KI-infundierte Software führt zu Unsicherheiten, die zusätzliche Tests der Interaktionen zwischen den verschiedenen Modellen und der automatischen Software erforderlich machen. Forrester entwickelte ein Teststrategie-Rahmenwerk für Kunden, das auf dem Geschäftsrisiko basiert und den Umfang und die Art der erforderlichen Tests vorschlägt.
Der Schwerpunkt auf verantwortungsvoller KI wird in absehbarer Zeit nicht verschwinden. Unternehmen, die in Menschen, Prozesse und Technologien investieren, um einen ethischen und verantwortungsvollen Einsatz von KI zu gewährleisten, werden ihr Geschäft in Zukunft vor regulatorischen oder reputationsbezogenen Störungen schützen.
NB: Dieser Blog wurde aus dem Englischen übersetzt.