News

Für einen vertrauenswürdigen Umgang mit Künstlicher Intelligenz: Die richtige Balance zwischen Innovation und ethischen Richtlinien finden

Prof. Dr. Freimut Schliess diskutiert die Ethikrichtlinien der Europäischen Kommission für vertrauenswürdige KI in einem Artikel, veröffentlicht von Open Access Government.

Im April 2019 veröffentlichte eine von der Europäischen Kommission (EC) eingesetzte hochrangige Expertengruppe zur KI “ Ethikrichtlinien für vertrauenswürdige KI „ und bat EIT Health, diese auf den Prüfstand zu stellen, um ihre praktische Anwendung zu bewerten und seine Gemeinschaft von Innovatoren des Gesundheitswesens zu befragen und Feedback zu erhalten. EIT Health präsentierte die Erkenntnisse aus der Umfrage während einer Podiumsdiskussion zum Thema „Die Rolle der KI in der Innovation im Gesundheitswesen“: Ethische Herausforderungen der KI-Innovation“ auf dem Weltgesundheitsgipfel in Berlin am 27. Oktober 2019. Die Umfrage zeigte, dass die Richtlinien bei Startups und Unternehmern sowie bei Partnern von EIT Health aus Industrie, Wissenschaft und Forschungsorganisationen nur wenig bekannt sind (22% der Befragten) und dass die Bedeutung ethischer Regulierung sowie die unzureichende Kenntnis des bestehenden Regelwerks anerkannt wird.

Diese Richtlinien werden nun in einem Beitrag von Prof. Dr. Freimut Schliess, Direktor für Wissenschaft und Innovation der Profil GmbH , als Beitrag zur Ausgabe Januar 2020 von Open Access Government, einer digitalen Publikation, die eine vertiefte Perspektive auf wichtige Politikbereiche aus aller Welt bietet, weiter ausgearbeitet. In seinem Artikel erörtert Prof. Dr. Freimut Schliess die sieben Anforderungen an eine vertrauenswürdige KI: menschliche Handlungsfähigkeit und Aufsicht, technische Robustheit und Sicherheit, Datenschutz und Datenverwaltung, Transparenz, Vielfalt, Nicht-Diskriminierung und Fairness, gesellschaftliches und ökologisches Wohlergehen und Rechenschaftspflicht und fordert die europäischen Regierungen auf, „ein produktives Gleichgewicht zwischen der Förderung von Innovation, der Begrüßung des globalen Wettbewerbs und der Definition gesundheitsspezifischer ethischer, rechtlicher und sozialer Anforderungen an eine vertrauenswürdige KI herzustellen“.

Darüber hinaus begrüßt Prof. Dr. Freimut Schliess die Idee, „weltweite Referenz-Testeinrichtungen für KI und die Entwicklung digitaler Fähigkeiten bei klinischem Personal und Managern im Gesundheits- und Pflegebereich“ zu schaffen, wie Roberto Viola, Generaldirektor der DG Connect bei der EC, erklärte. Er glaubt auch, dass die Teilnahme von EIT Health an diesem Prozess ein wesentlicher Teil der Arbeit von EIT Health als führendes Unternehmen im Bereich der Innovation im Gesundheitswesen ist, indem es „sichere Validierungsumgebungen bereitstellt, die die hohen ethischen und regulatorischen Standards der klinischen Auftragsforschung anwenden“.

Der vollständige Artikel ist hier nachzulesen.