Neue Technologien stiften im Gesundheitswesen grossen Nutzen, bergen aber auch Risiken. Karin Nordström und Mandy Scheermesser befassen sich in ihrer Arbeit am Departement Gesundheit mit ethischen Fragen zu KI und Co. Sie erklären, wie sich diese sinnvoll und möglichst risikofrei nutzen lassen und welche Rolle dabei Health Professionals spielen.
von Tobias Hänni
Zum Einstieg ein Extrembeispiel technologischen Fortschritts: Die US-Firma Neuralink hat dieses Jahr zwei querschnittgelähmten Menschen ein Interface ins Gehirn implantiert, das sie mit Gedankenkraft einen Computer bedienen lässt. Was halten Sie davon?
Mandy Scheermesser: Ich finde es faszinierend. Die Technologie soll etwa auch bei Alzheimer und Parkinson zum Einsatz kommen – sie hat grosses Potenzial, das Leben der Betroffenen zu verbessern. Der Gedanke, dass man ins Gehirn eingreift, ist aber auch etwas beängstigend. Deshalb sollte man genau darauf achten, wie die Technologie weiterentwickelt wird.
Karin Nordström: Ja, der Eingriff ins menschliche Gehirn bringt eine neue, auch philosophische Dimension mit sich. Man greift ins Innerste des Menschen ein – und in ein Organ, das wir nach wie vor nicht vollumfänglich begreifen. Das hat eine andere Qualität als etwa der Ersatz des Hüftgelenks und wirft ganz neue Fragen auf. Etwa die, inwiefern ein solches Interface die Persönlichkeit verändert.
Das Beispiel verdeutlicht: Heute ist möglich, was bis vor Kurzem noch Science-Fiction war. Geht der technologische Fortschritt zu schnell voran?
Nordström: Gefühlt geht es sehr schnell, ja. Aber dieses Gefühl hatten die Menschen bereits, als die Lokomotive erfunden wurde. Das neue Fortbewegungsmittel hat damals Ängste geweckt. Menschlicher Erfindungsgeist und Wissensdrang sind sehr starke Kräfte, die gesellschaftliche Akzeptanz neuer Technologien und der ethische Diskurs hinken ihnen stets hinterher. Das Bestreben sollte trotzdem sein, dass wir den Fortschritt mit einer Diskussion über seine ethische, sozialen und kulturellen Konsequenzen begleiten. Und dass wir uns als Gesellschaft die Frage stellen: Wollen wir alles umsetzen, was technisch machbar ist?
Diese Machbarkeit scheint grenzenlos zu sein. Ist das aus ethischer Sicht bedenklich?
Scheermesser: Nicht zwingend. Aber eine neue Technologie kann sich in eine falsche Richtung entwickeln, zu Ungleichbehandlung führen oder missbraucht werden. Wichtig ist, dass solche Risiken von Anfang an mitgedacht werden – da tragen die Entwickler:innen eine Verantwortung, aber auch Gesellschaft und Politik. Dieser Prozess benötigt jedoch Zeit: Man muss einen gesellschaftlichen Diskurs anstossen, neue Gesetze erlassen – was erst mit Verzögerung zum Tragen kommt.
Neue Technologien stiften grossen Nutzen im Gesundheitswesen. Welche ethischen Herausforderungen birgt ihr Einsatz?
Nordström: Neben den erwähnten Risiken des Missbrauchs oder der Diskriminierung tragen einige Technologien zu einer Verschiebung der Verantwortung bei: weg von der Gesellschaft hin zur Einzelperson. Der Druck aufs Individuum steigt – zum Beispiel, sich Informationen für eine gesunde Lebensweise zu beschaffen und sich entsprechend zu verhalten. Die Verantwortung der Gesellschaft und der Politik, Lebenswelten zu schaffen, die die gesundheitliche Chancengleichheit fördern und auch jene Personengruppen unterstützen, die von neuen Technologien wenig profitieren, ist aber genauso wichtig. Einige Innovationen bringen ausserdem das Risiko der Stigmatisierung mit sich: Wer krank ist oder beeinträchtigt und auf technologische Hilfsmittel verzichtet, läuft Gefahr, stigmatisiert zu werden.
Scheermesser: Eine weiteres Risiko besteht mit Blick auf die hochsensiblen Daten im Gesundheitswesen. Viele Anwendungen und Geräte sind auf diese Daten angewiesen, um richtig zu funktionieren. Das bringt die Gefahr von Datenpannen oder Hackerangriffen mit sich und damit das Risiko, dass persönliche Informationen in die falschen Hände geraten.
Müssen wir gewisse Risiken nicht auch hinnehmen, wenn wir neue Technologien nutzen wollen?
Nordström: Bis zu einem gewissen Grad ja. Das muss aber jede Person für sich entscheiden können. Also beispielsweise die Abwägung, ob sie eine Überwachung durch Sensoren und Tracker im eigenen Haus hinnimmt, um bis ins hohe Alter zu Hause leben zu können. Herausfordernd wird es dann, wenn dieser Entscheid stellvertretend von anderen getroffen wird – zum Beispiel bei Menschen mit Demenz.
Scheermesser: Neben der individuellen Entscheidungsfreiheit ist es auch wichtig, die Entwickler:innen in die Pflicht zu nehmen, die Risiken zu minimieren und ethische Überlegungen von Anfang an in die Entwicklung einzubeziehen. Indem sie Produkte etwa nach dem Grundsatz ‹Ethics by Design› entwickeln und Werte wie Gerechtigkeit, Transparenz, Fairness und der Schutz von Menschenrechten nicht erst nachträglich berücksichtigen.
Welche weitere Möglichkeiten sehen Sie, um die Risiken zu minimieren?
Nordström: Bei den Nutzer:innen sollte das Wissen über und der verantwortungsvolle Umgang mit neuen Technologien gefördert werden. Das heisst aber nicht, dass die Verantwortung alleine bei ihnen liegt. Es ist eine gesellschaftliche Aufgabe, den Einsatz von neuen Technologien zu steuern, ihren Nutzen und ihre Risiken zu beurteilen.
Welche Rolle kommt dabei dem ZHAW-Departement Gesundheit und anderen Ausbildungsstätten für Gesundheitsfachpersonen zu?
Nordström: Eine wichtige Rolle. Gesundheitstechnologien werden von Health Professionals zunehmend eingesetzt, diese tragen deshalb zu einer verantwortungsvollen Nutzung bei. Deshalb ist es zentral, dass Ethik als Querschnittsthema im gesamten Studium präsent ist. Die Vermittlung ethischer Grundwerte muss dabei einhergehen mit einem kritischen, reflektierenden Diskurs.
Scheermesser: Das Thema ist am Departement auch in der Forschung relevant. Wir führen hier viele Projekte in dem Bereich durch und entwickeln technologische Produkte. Da ist es ebenfalls zentral, dass nach ethischen Grundsätzen gehandelt wird.
KI, die Technologie der Stunde, ist mit Hoffnungen, aber auch mit vielen Ängsten verknüpft. Welche neuen Herausforderungen bringt sie mit sich?
Nordström: KI wirft existenzielle Fragen auf: Werden wir Menschen von der Technologie übertroffen und irgendwann durch sie ersetzt? Inzwischen verfügt KI zumindest ansatzweise über Fähigkeiten, die bislang als Alleinstellungsmerkmale des Menschen galten: Humor, Empathie, Kreativität. Als Gesellschaft müssen wir darüber sprechen, ob und wie wir dieses genuin Menschliche schützen wollen.
Scheermesser: KI birgt auch die Gefahr der Diskriminierung. Wenn sie beispielsweise mit Datensätzen trainiert wird, in denen gewisse Bevölkerungsgruppen unterrepräsentiert sind, kann das zu einer weiteren Marginalisierung und Ungleichbehandlung dieser Gruppen führen.
Die Folgen von KI können wir heute noch gar nicht vollumfänglich abschätzen. Sollten wir auf ihre Nutzung deshalb lieber verzichten?
Scheermesser: Komplett darauf verzichten können wir nicht mehr. Im Gesundheitswesen kommt KI schon vielerorts zum Einsatz. Und sie bietet enorme Vorteile, etwa bei der Personalisierung von Behandlungen oder in der Diagnostik. Wichtig ist, dass die Entscheidungen der KI nachvollziehbar sind und wir ihr nicht blind vertrauen. Hier haben wir als Hochschule die Verantwortung, Gesundheitsfachpersonen auf die kommenden Herausforderungen vorzubereiten. Das fordert generische Skills, vielmehr als die Aneignung von Fachwissen im traditionellen Sinne.
Mandy Scheermesser, Sie befassen sich in einem Forschungsprojekt mit ethischen Fragestellungen der digitalen Physiotherapie. Zunächst einmal: Was ist digitale Physiotherapie überhaupt?
Scheermesser: Digitale Physiotherapie umfasst Wearables, Trainings-Apps oder Rehabilitationsroboter, aber auch KI, um etwa personalisierte Trainingspläne zu erstellen. Das Projekt soll aufzeigen, welche ethischen Fragen der Einsatz dieser Technologien überhaupt aufwirft. In einer ersten Studie untersuchen wir derzeit, welche Aspekte in der Literatur diskutiert werden. Das können Fragen zu Datenschutz und -sicherheit sein oder zur Entscheidungsfreiheit der Klient:innen, auf eine digitale Therapieform zu verzichten.
Eines der Projektziele ist, Ausbildungsmaterialien zu erarbeiten. Wurden neue Technologien in der Ausbildung bislang zu wenig thematisiert?
Scheermesser: Ja, gerade die ethischen Fragestellungen, die durch den Einsatz solcher Technologien entstehen, spielen bisher eine untergeordnete Rolle. Um diese Lücke zu schliessen, wollen wir ein Serious Game entwickeln, bei dem angehende Physiotherapeut:innen mit ethischen Fragen beim Einsatz von Technologien konfrontiert werden. Als Grundlage dient ein bestehendes Game der Universität Zürich (UZH), das im Medizinstudium eingesetzt wird. Dieses wollen wir um Fallbeispiele aus der Physiotherapie ergänzen.
Sie haben im Bereich Technikfolgenabschätzung (TA) doktoriert. Was überwiegt, wenn Sie an den künftigen technologischen Fortschritt denken: Optimismus oder Pessimismus?
Scheermesser: Das hängt davon ab, ob wir uns frühzeitig mit den Risiken neuer Technologien auseinandersetzen und Massnahmen ergreifen, um diese zu minimieren. In dieser Hinsicht wird unter anderem mit der TA schon recht viel getan – weshalb ich optimistisch bin.
Und Sie, Frau Nordström?
Nordström: Da schliesse ich mich an. Das gesellschaftliche Bewusstsein für einen verantwortungsvollen Einsatz neuer Technologien hat in den letzten Jahren zugenommen. Dazu hat auch das Aufkommen von KI geführt, die in ihrer Neuartigkeit die Debatte befeuert hat. //
Zu den Personen
Mandy Scheermesser forscht und lehrt am ZHAW Institut für Physiotherapie. Die Sozialwissenschaftlerin hat im Bereich Technikfolgenabschätzung doktoriert, zu ihren Forschungsschwerpunkten gehören digitale Gesundheitstechnologien. Unter anderem leitet sie derzeit zusammen mit Irina Nast das interdisziplinäre Projekt «Ethische Fragen in der digitalen Physiotherapie: Grundlagen für die Ausbildung von Physiotherapeut:innen», an dem neben der ZHAW die Universität Zürich, die Zürcher Hochschule der Künste, die Fachhochschule Westschweiz und die Universität der italienischen Schweiz beteiligt sind.
Karin Nordström ist Professorin für Public Health und leitet am Departement Gesundheit den Bachelorstudiengang Gesundheitsförderung und Prävention. Die promovierte Ethikerin doziert in mehreren Studiengängen zum Thema neue Technologien und Ethik und ist verantwortlich für das Modul «Medizinethik» im ZHAW-Studiengang Medizininformatik. Sie ist zudem Präsidentin des ZHAW-Ethikausschusses, der Forschungsprojekte an der Hochschule unabhängig prüft und beurteilt.