life-science Karriere Services, Foto: © Markus Winkler_pexelsDie Johannes Kepler Universität (JKU) Linz stellt gemeinsam mit TÜV AUSTRIA die künstliche Intelligenz auf den Prüfstand und entwickelt ein Zertifikat für künstliche Intelligenz. Dies ist durchaus relevant, zumal Künstliche Intelligenz zu den am schnellsten wachsenden Themenfeldern gehört. Hierbei ist Machine Learning die treibende Kraft der Technologierevolution.

Ob Bilderkennung, Empfehlungssysteme, Chatbots, Diagnostik oder Prognosen – mit großen Datenmengen trainierte Machine Learning Modelle finden sich bereits heute in einer Vielzahl von Anwendungen des Alltags wieder und verleihen diesen „Intelligenz“.

Das Vertrauen zu Künstlicher Intelligenz auf dem Prüfstand

Dieser Anschein von Intelligenz verunsichert und wirft Fragen auf: Ist diese künstliche Intelligenz vertrauenswürdig und sicher? Erfüllt die KI die von ihr erwartete Funktion? Sind die im Training verwendeten Daten korrekt? Wird mit der großen Menge an sensiblen Daten sorgsam umgegangen? Infolgedessen arbeiten TÜV AUSTRIA gemeinsam mit dem Institut für Machine Learning der Johannes Kepler Universität an entsprechenden Zertifizierungsmethoden. Diese sollen Hersteller bei der Entwicklung sicherer, verlässlicher und qualitativ hochwertiger Machine Learning Modelle unterstützen und Nutzern ein Qualitätssiegel für vertrauenswürdige KI-Systeme bieten.

Institutsvorstand Prof. Sepp Hochreiter sieht KI richtungsweisend für die Zukunft:

„Machine Learning ist die derzeit wichtigste Grundlagentechnologie und wird langfristig unser technisches Umfeld und unser ganzes Leben massiv beeinflussen. Umso wichtiger ist es, mit der Zertifizierung von Machine Learning Anwendungen das Vertrauen der Konsumenten in diese Technologie zu stärken. Daher arbeiten wir gerne daran mit, die notwendigen Qualitätskriterien maßgeblich mitzugestalten.“ – Prof. Sepp Hochreiter, Leiter des LIT AI Lab und der ELLIS Unit Linz

Prüfung auf Herz und Nieren

Mit der Zertifizierung sogenannter Supervised Learning Anwendungen im niedrigen bis mittelhohen Risikobereich wurde bereits die erste Erfolgsstufe erreicht.

„Wir führen bereits erste Zertifizierungsprojekte durch, wobei sich die Anwendungen vor allem im industriellen Umfeld aber auch im Consumer Bereich wiederfinden. In den nächsten Phasen der Entwicklungskooperation werden die jetzigen Ansätze erweitert, um auch sicherheitskritischere Anwendungen basierend auf einem breiteren Spektrum von Machine Learning Methoden zertifizieren zu können.“ – Dr. Stefan Haas, CEO der TÜV AUSTRIA Group

Im Rahmen der Zertifizierung werden die Machine Learning Modelle und deren Entwicklungsprozess in mehreren Dimensionen im Detail überprüft. Dabei wird nicht nur die eigentliche Funktion und Verlässlichkeit der trainierten Modelle untersucht, sondern auch die Sicherheit der Software und ob diese den Anforderungen ihres Einsatzgebiets entsprechend angemessen entwickelt wurde. Hinzu kommt eine Prüfung, ob mit persönlichen Daten vertraulich umgegangen wird und mögliche ethische Fragestellungen ausreichend berücksichtigt werden.

 

Weitere Informationen:

Professor Sepp Hochreiter:

life-science Karriere Services, Foto: © Sepp Hochreiter_JKUProf. Hochreiter gilt weltweit als Pionier der modernen Künstlichen Intelligenz und rief vor zwei Jahren Österreichs erstes KI Studium an der JKU Linz ins Leben. Er ist Vorstandsmitglied von ELLIS, dem Exzellenznetzwerk der besten europäischen Wissenschafter im Bereich des Machine Learnings und dessen Anwendungen. Darüber hinaus leitet Hochreiter das LIT AI Lab und die ELLIS Unit Linz.

 

Rückfragehinweis:
Thomas Doms
TÜV AUSTRIA Group
E-Mail: digitalservices@tuv.at

Dr. Bernhard Nessler
JKU, Institut für Machine Learning
E-Mail: nessler@ml.jku.at

(LB)
Quelle: Johannes Kepler Universität Linz
Foto 1: © Markus Winkler / pexels.com
Foto 2: © JKU