ChatGPT Health möchte dein Hausarzt sein KI-Systeme, die im Gesundheitswesen eingesetzt werden sollen, werden immer häufiger eingesetzt, aber es gibt einen Haken

Vor Kurzem kündigte OpenAI die Einführung von ChatGPT Health an, einem Abschnitt seines berühmten Chatbots, der Menschen helfen soll, ihre „Krankengeschichte“ besser zu verstehen und zu organisieren. Das Projekt ist auf die Tatsache zurückzuführen, dass sich immer mehr Benutzer an ChatGPT wenden, um Berichte, Symptome und andere klinische Daten zu interpretieren. Das Ziel von Sam Altmans Unternehmen ist es, ein Tool bereitzustellen, das dabei hilft, diese Informationen zu sammeln und zu verstehen, was es möglicherweise einfacher macht, einen möglichen Behandlungspfad zu finden.

ChatGPT Health bietet beispielsweise die Möglichkeit, Ihre elektronischen Patientenakten und bestimmte gesundheitsspezifische Apps mit dem System zu verbinden, um Daten und Testergebnisse zu vergleichen und im Laufe der Zeit zu interpretieren. OpenAI hat jedoch klargestellt, dass der Dienst keine Diagnosen stellen oder Therapien vorschlagen wird. Sein Zweck besteht vielmehr darin, bei der Navigation in bestimmten Informationen zu helfen, Zweifel zu klären und Konsultationen mit Ärzten sachkundiger anzugehen.

Das Projekt — so das Unternehmen in einer Stellungnahme — wurde unter Mitwirkung zahlreicher Ärzte verschiedener Fachrichtungen entwickelt, um Antworten zu geben, die verständlich, vorsichtig und kontextgerecht sind. Der anfängliche Zugriff auf den Dienst wird auf eine kleine Gruppe von Benutzern beschränkt sein, es wird jedoch erwartet, dass er in Zukunft schrittweise erweitert wird. Der Austausch gesundheitsbezogener Konversationen wird in einem von der traditionellen ChatGPT-Schnittstelle getrennten Bereich stattfinden, und laut OpenAI wurden spezielle Schutzmaßnahmen zum Schutz sensibler Daten implementiert — zum Beispiel würden Gesundheitsinformationen nicht zum Training der Sprachmodelle verwendet, die KI-Systemen zugrunde liegen.

Was an KI im Gesundheitswesen nicht überzeugend ist

Im vergangenen Jahr berichteten mehrere auf Technologie und Gesundheit spezialisierte Medien über den Fall eines künstlichen Intelligenzsystems (entwickelt von Google), das bei der Analyse von Bildern aus einem Gehirn-CT-Scan eine anatomische Struktur des Gehirns „erfand“, die nicht existierte, und einen völlig falschen Bericht lieferte. Die Episode wurde zum Sinnbild für die Grenzen dieser Technologien: Obwohl sie im Gesundheitswesen ein großes Potenzial aufweisen, können KI-Systeme zu irreführenden Ergebnissen führen, wenn sie nicht mit ausreichender Vorsicht und menschlicher Aufsicht eingesetzt werden.

Die großen Unternehmen, die KI-Systeme entwickeln — von OpenAI bis Google selbst — behaupten jedoch seit langem, dass diese Technologien Ärzten in Zukunft dabei helfen könnten, genauere und zuverlässigere Diagnosen zu stellen. Ein erheblicher Teil der wissenschaftlichen Gemeinschaft steht dieser Möglichkeit jedoch weiterhin skeptisch gegenüber und weist auf die aktuellen Grenzen der KI und die Risiken hin, die mit einer vorzeitigen oder unzureichend kontrollierten Anwendung verbunden sind.

Warum ChatGPT Health und ähnliche Tools bei Ärzten nicht beliebt sind

In der Vergangenheit haben einige KI-basierte Bildanalysesysteme bemerkenswerte Ergebnisse erzielt und Details erkannt, die Spezialisten übersehen hatten. Ihre Funktionsweise ist jedoch nicht immer zuverlässig: Bei der KI können „Halluzinationen“ auftreten, die zu falschen oder schlecht fundierten Interpretationen führen und das Risiko ungenauer Einschätzungen bergen.

Große Technologieunternehmen, die die bekanntesten Modelle entwickeln, wie ChatGPT und Gemini, betonen, dass diese Tools als Unterstützung für Ärzte und nicht als Ersatz betrachtet werden sollten. Die endgültige Verantwortung für Diagnosen und Behandlungen sollte daher immer beim medizinischen Fachpersonal liegen. Die Entwickler heben in diesem Zusammenhang die raschen Verbesserungen hervor, die in wenigen Jahren in Bezug auf die Genauigkeit erzielt wurden, verglichen mit einer relativ konstanten Rate menschlicher Fehler in der Medizin, die durch den Einsatz von KI zumindest teilweise reduziert werden könnte.

Kurz gesagt, das Potenzial von Systemen wie ChatGPT Health ist vorhanden und es gibt vielversprechende Beispiele, aber ein Teil der wissenschaftlichen Gemeinschaft rät weiterhin zur Vorsicht vor einem „Wettlauf um KI“, wie er bereits in anderen Bereichen zu beobachten ist, und fordert viel sorgfältigere Zeitpläne und Einführungskriterien.