SAS erweitert Trustworthy AI-Angebot für mehr Transparenz und Fairness

[SAS Institute GmbH - 29.04.2024] Heidelberg, 29. April 2024 -- SAS, einer der weltweit führenden Anbieter von Lösungen für Daten und künstliche Intelligenz (KI), erweitert seine Produktpalette um umfassende Funktionen für einen verantwortungsvollen Einsatz von KI ("Trustworthy AI"). Model Cards und AI Governance Advisory Services sollen Unternehmen dabei unterstützen, sich im komplexen KI-Umfeld zurechtzufinden, Risiken zu minimieren und ihre Ziele besser umzusetzen - immer im Einklang mit den Richtlinien für einen ethisch vertretbaren Einsatz der Technologie und mit den Verbrauchererwartungen.

"Unsere Kunden sind von den Möglichkeiten, die KI bietet, begeistert - gleichzeitig sind sie aber unsicher, wie sie diese am besten nutzen", erklärt Reggie Townsend, Vice President Data Ethics Practice bei SAS. "Sie stellen die richtigen Fragen in Bezug auf verantwortungsvolle und ethische KI. Unsere Aufgabe ist es, ihnen anhand jahrzehntelanger Erfahrung die Tools und die Beratung zu geben, damit sie KI so integrieren können, dass sie ihre Profitabilität steigern und gleichzeitig Schaden vermeiden."

Model Cards: Der "Nutri-Score" für verantwortungsvolle KI

Als neues Feature werden automatisch generierte Model Cards in SAS Viya integriert, die künftig dafür sorgen, dass alle Beteiligten - vom Entwickler bis zum Vorstandsvorsitzenden - auf dem gleichen Kenntnisstand hinsichtlich der Performance und Zuverlässigkeit von KI-Modellen sind.

Die Model Cards sollen im Laufe des Jahres verfügbar sein und funktionieren ähnlich wie "Nutri-Scores" bei Lebensmitteln: Bewertet werden KI-Modelle im Hinblick auf Genauigkeit, Fairness und Abweichungen, die sich im Laufe der Zeit ergeben (beispielsweise nachlassende Performance). Weiterhin umfasst die Beurteilung Details zu Governance, darunter Zeitpunkt und Verantwortlichkeiten bei der Erstellung, sowie zur Nutzung, einschließlich Use Cases außerhalb des vorgegebenen Rahmens. Auch Nutzungseinschränkungen werden abgebildet - das wird spätestens relevant, wenn Transparenz und Modellprüfung Bestandteil regulatorischer Vorgaben werden. Das Tool generiert die Model Cards automatisch und unterstützt auch mit Open-Source-Programmiersprachen erstellte Modelle, zunächst für Python.

AI Governance Advisory: Orientierung im KI-Dschungel

Die Verbreitung von KI ist nicht mehr aufzuhalten. Gleichzeitig nehmen die Bedenken der Unternehmen zu, wie eine produktive und gleichzeitig sichere Nutzung ihrer Daten nachhaltig möglich ist. SAS bietet seinen Kunden hier mit dem AI Governance Advisory einen neuen Service an, der Klarheit schafft.

Die Beratung beginnt mit einem kurzen Meeting, bei dem SAS zusammen mit dem Unternehmen definiert, was AI Governance speziell für die jeweilige Organisation heißt. Mehrere Unternehmen haben das AI Governance Advisory schon in Pilotversuchen getestet - mit sehr positiven Ergebnissen: höhere Produktivität, besseres Vertrauen in die Datennutzung, größere Chancen für Gewinnung und Bindung von Top-Talenten und ein Boost für das Markenimage. Frühzeitig allen regulatorische Vorgaben zu entsprechen, schafft zudem Wettbewerbsvorteile und erlaubt es Unternehmen, neue Märkte agiler zu erschließen.

Steven Tiell wird den neuen Geschäftsbereich als Global Head of AI Governance bei SAS leiten. Er verfügt über umfassende Expertise für ethische KI, nicht zuletzt als Verantwortlicher für Global Data Ethics and Responsible Innovation Practice bei Accenture.

Zuverlässiges Risikomanagement für KI-Modelle

Darüber hinaus hat SAS anhand von Empfehlungen des US National Institute of Standards and Technology (NIST) einen Trustworthy AI Life Cycle Workflow entwickelt, der Unternehmen das Risikomanagement in Verbindung mit KI erleichtern soll. Sie bekommen ein Produktionsmodell an die Hand, das die Dokumentation ihrer Sorgfaltspflicht umfasst. Damit sind sie in der Lage zu belegen, dass sie faire Modelle verwenden und dass ihre Prozesse keinen Schaden verursachen, beispielsweise indem sie ausschließlich repräsentative Trainingsdaten verwenden, die keine Personengruppen benachteiligen.

Der SAS Trustworthy AI Life Cycle Workflow ist ab sofort über den SAS Model Manager Resources Github verfügbar.

circa 4.100 Zeichen