Medizinethikerin: KI kann Horror oder Heilsbringer sein
Die deutsche Wirtschaft nimmt bei Künstlicher Intelligenz (KI) Fahrt auf. Erstmals beschäftigt sich mehr als die Hälfte der Unternehmen mit KI.
Die Unternehmen in Deutschland entdecken langsam die KI für sich. Mittlerweile nutzt immerhin schon jedes fünfte Unternehmen eine Anwendung mit KI. Darüber hinaus plant oder diskutiert mehr als jeder dritte Betrieb einen KI-Einsatz, meldet der Digitalverband Bitkom. Allerdings warnt Alena Buyx, Professorin für Ethik der Medizin und Gesundheitstechnologien an der TU München, vor einem blinden Vertrauen: „Die Technologie hat keine Seele“, sagte sie jüngst in Nürnberg.
Im Sozialbereich mit seinem chronischen Mitarbeitermangel sieht sie etwa bei Pflegedokumentationen viel Potenzial für KI. Bislang würde für die bürokratischen Pflichten „rund 40 Prozent der Zeit mit administrativen Aufgaben vergeudet“. Andererseits mache das System auch Fehler. Zwar gebe es in den USA positive Erfahrungen etwa beim Aufnahme- und Entlassungsmanagement in Krankenhäusern durch einen Chatbot, weil der alle Fragen mit endloser Geduld auch doppelt und dreifach beantwortet. In langen Gesprächen habe die KI aber auch schon mal den Patienten eine Scheidung empfohlen. Das ist allerdings noch nicht so gefährlich, wie ein digitaler Psychotherapeut, der ebenfalls in den USA zum Suizid geraten habe.
Buyx mahnt die Branche, aber auch die ganze Gesellschaft, sich früh und inhaltlich mit potenziellen KI-Lösungen auseinanderzusetzen. Sonst käme es am Markt zu Lösungen, die eigentlich kein Mensch will. So wollte beispielsweise ein Programmierer auf Basis digitaler Seelsorgeprotokolle eine Seelsorge-KI bis hin zur Sterbebegleitung realisieren. Davon hat ihm die Medizinethikerin nachdrücklich abgeraten.
