Die Entwicklung von KI der nächsten Generation schreitet so rasant voran, dass sie inzwischen in Bereichen auftaucht, die die meisten von uns zuvor nie in Betracht gezogen hätten – etwa in Krankenhäusern. Während manche dies als positives Zeichen betrachten und auf die rund um die Uhr bestehende Verfügbarkeit automatisierter Chatbots, die präzise Überwachung der Vitalzeichen von Patienten und standardisierte Maßnahmenpläne verweisen, glauben andere, dass KI-Systeme das moderne Gesundheitswesen entwerten und verschlechtern.
Mögliche Vorteile des Einsatzes von KI im Gesundheitswesen
Einige Mitglieder der Trump-Administration glauben, dass die verschiedenen Arten von KI-Modellen in Krankenhäusern und anderen medizinischen Einrichtungen effektiv eingesetzt werden können. Befürworter von KI-Technologie betonen den derzeitigen Personalmangel, der in Krankenhäusern und Einrichtungen im ganzen Land zu beobachten ist, als Katalysator für den Einsatz von KI. Diese Systeme können nicht nur bei der Bewältigung von Personalproblemen, Burnout und hoher Fluktuation helfen, sondern dies auch zu erschwinglichen Kosten tun.
Robert F. Kennedy Jr., der derzeit mit der Leitung des U.S. Department of Health and Human Services betraut ist, wurde kürzlich von AP mit der Aussage zitiert, KI-Pflegekräfte seien „so gut wie jeder Arzt“ – insbesondere bei der medizinischen Versorgung in ländlichen Gebieten.
Dr. Mehmet Oz, der kürzlich als Leiter der Centers for Medicare and Medicaid Services nominiert wurde, meint, dass generative KI-Tools „Ärzte und Pflegekräfte von all dem Papierkram befreien“ können. Dr. Oz war in der Vergangenheit mit zahlreichen Klagen und einer Anhörung im Kongress konfrontiert, weil er nicht evidenzbasierte medizinische Behandlungen beworben und Fehlinformationen verbreitet hatte.
Bedenken und Risiken des Einsatzes von KI im Gesundheitswesen
Viele Pflegekräfte und medizinische Fachkräfte widersprechen RFK und Dr. Oz, darunter auch Mitglieder von National Nurses United (NNU), der größten Gewerkschaft examinierter Pflegekräfte in den Vereinigten Staaten.
Während einige Pflegekräfte dem Einsatz von KI theoretisch zustimmen, argumentieren sie, dass die derzeitige Technologie nicht ausreicht, um ausgebildete und erfahrene medizinische Fachkräfte zu ersetzen. So sind selbst die fortschrittlichsten KI-Agenten nicht in der Lage, Körpersprache, Gesichtsausdrücke, Gerüche und andere subtile Anzeichen wahrzunehmen, die häufig mit bestimmten Krankheiten und medizinischen Problemen einhergehen. Zudem gab es Fälle, in denen Systeme der aktuellen Generation Fehldiagnosen stellten.
Im Zusammenhang mit KI und psychischer Gesundheitsversorgung berichtete The New York Times kürzlich, dass der Geschäftsführer der American Psychological Association, Arthur C. Evans Jr., während einer Präsentation vor der FTC auf Gerichtsverfahren verwies, in denen zwei Jugendliche in der Character.AI-App „Psychologen“ konsultiert hatten. In Florida starb ein 14-jähriger Junge durch Suizid, nachdem er mit dem KI-Chatbot interagiert hatte. Ein weiterer Jugendlicher, ein 17-jähriger Junge aus Texas mit einer Autismusdiagnose, wurde nach mehreren Sitzungen mit dem Chatbot gegenüber seinen Eltern gewalttätig.