Warum ist das Anwenden von Ki im Bereich Medizin fragwürdig?

Frage: Warum ist das Anwenden von Ki im Bereich Medizin fragwürdig?
- Stichworte:
  Anwendung,
  KI,
  Kritik,
  Medizin
Frage gestellt game29rad am 2 Dez 2024.
- Stefanie Remmele Beantwortet am 2 Dez 2024:
  
  Ich bin nicht sicher, ob „fragwürdig“ der richtige Begriff ist. KI ist mehr Blackbox. Und braucht bei der Entwicklung mehr Unterstützung (=Daten) der medizinischen Anwender. Das wirft viele Prozesse über den Haufen. Wie man Algorithmen und Daten gut aufeinander abstimmt, beide Disziplinen zusammen, das muss neu gedacht werden und deswegen wird da viel „gefragt“ und das ist auch gut so. Insofern hast Du recht, es ist „fragwürdig“.
- Lucas Ribeiro Beantwortet am 3 Dez 2024:
  
  Jede Technologie wirft bei ihrer Entwicklung viele Fragen auf. Es ist äußerst wichtig, sie besser und zugänglicher zu machen und sicherzustellen, dass sie im Rahmen allgemeiner Ethik und medizinischen Respekts funktioniert. Sie sind vielleicht zu jung, um sich daran zu erinnern, aber viele Menschen bezweifelten, dass es tatsächlich eine gute Idee wäre, mit Computern in der Tasche herumzulaufen, und heute kann die Technologie in Smartphones und anderen tragbaren Geräten in Notfällen viele Leben retten.
  
  Einer der Gründe, warum der Einsatz von KI in der Medizin so viel Gesprächsstoff bietet, ist, dass die rechnergestützten Fortschritte in den letzten Jahren viel schneller vorankamen als die medizinischen Technologien. Daher muss das gesamte Gesundheitssystem (Ärzte, Krankenschwestern, Krankenversicherungen) die Regeln und die Rolle dieser computergestützten Werkzeuge verstehen, bevor sie zu einem Teil ihrer Routine werden.
  
  Dieses Interesse am Anfang ist sehr wichtig, um sicherzustellen, dass Fehler minimiert und die Privatsphäre respektiert wird, damit Vertrauen in diese neue Technologie aufgebaut werden kann. Und es ist immer wichtig, sich daran zu erinnern, dass hinter den Aktionen jeder zukünftigen KI-basierten Operation immer ein medizinischer Experte stehen wird.
- Jens-Bastian Eppler Beantwortet am 3 Dez 2024:
  
  Es gibt bei der Anwendung von KI dasselbe Problem wie bei vielen anderen Werkzeugen: sie kann helfen aber ausch schaden, je nachdem wie sie eigesetzt wird. Bei der KI kommt nun dazu, dass wir im Moment nie zu 100% verstehen, was sie macht. Dadurch können Probleme entstehen. Z.B. lernt KI meistens ziemlich gut aus den Daten, die man ihr zur Verfügung stellt. Das bedeutet man muss sehr gut schauen, dass in diesen Daten geau das abgebildet ist, was man am Ende auch bekommen möchte. Wenn eine KI Gesichter erkennen soll und in den Daten nur Gesichter weißer Menschen sind, kann sie kein schwarzes Gesicht erkennen.
  
  In der Medizin kenne ich eine ähnliche Studie: Die KI wurde trainiert Schlaganfälle auf Scans zu erkennen. Allerdings mit Scans von zwei unterschiedlichen Geräten, einmal einem Gerät in der Notaufnahme und dann auf einem anderen Gerät auf Station. Weil in der Notaufnahme viel mehr Schlaganfälle vorkamen, hat die KI einfach nur gelernt, die beiden Geräte zu unterscheiden. Also Notaufnahmen bedeutet Schlaganfall und Station bedeutet gesunder Patient. Damit lag sie zu fast 90% richtig. Aber dies würde für einige Patienten auf der Station tödlich enden.
  
  Man muss also immer schauen, dass die Daten gut ausgewählt werden und das repräsentieren, was man der KI wirklich beibringen will.
- Matthieu-P. Schapranow Beantwortet am 3 Dez 2024:
  
  @game29rad: Es gibt in der Tat viele Fragen, wie KI sinnvoll in der Medizin Einsatz finden kann und gleichzeitig der Patient dabei keine Nachteile erfährt. So verstehe ich auch das „fragwürdig“ in Deiner Frage als es wird hinterfragt. Das stimmt, denn wie bei vielen neuen Technologien muss man immer abwägen zwischen Vor- und eventuellen Nachteilen, die durch ihren Einsatz entstehen. In Europa haben wir bereits ein sehr striktes Regelwerk, z.B. Datenschutzgrundverordnung, Medizinprodukteregulierung, die den Einsatz von med. Anwendungen und Geräten regeln. Hinzu kam jüngst die KI-Verordnung, die unabhängig vom Schwerpunkt Medizin und Gesundheit generelle Anforderungen an den Einsatz von KI-Systemen stellt. Dies alles soll dem Schutz des Individuums, also eines jeden Bürgers dienen, aber auch nicht alles verteufeln oder verbieten. Da es oftmals beim Einsatz innovativer lernender Systeme keine Vergleiche gibt auf die man verweisen kann, erfordert es ggf. etwas mehr Überzeugung und Zeit, bis ein akzeptabler Kompromiss für alle Perspektiven erreicht ist. Wir werden aber sehen, dass in Zukunft viele der neuen Projekte auf bereits erfolgreiche in die Praxis überführte Vorhaben verweisen können und so auch die Skepsis oder viele Fragen schneller beantwortet werden können — und damit der Einsatz von bestimmten KI-Verfahren in der Medizin weniger „fragwürdig“ ist.
- Nico Disch Beantwortet am 3 Dez 2024:
  
  Erst mal: die KI ist nur ein Werkzeug, und es ist immer abhängig davon wie man dieses nutzt. Momentan nutzen das vor allem Ärztinnen und Ärzte, die sowieso das letzte Wort haben in der Entscheidungsfindung. Und diese freuen sich sehr wenn KI zum Einsatz kommt, da dies Zeit spart, was auch dazu führen kann dass mehr Menschen geholfen werden kann, womit man auch theoretisch Leben retten könnte.
  
  Natürlich gibt es Probleme beim Einsatz der KI, aber wenig davon würde ich sagen ist fundamentaler Natur, also was man nicht beheben könnte. Es ist auch eine gesellschaftliche Frage: wie viel Verantwortung übergibt man KI? Wer ist daran dann Schuld wenn diese einen Fehler macht?
  
  Vieles davon kann ich nicht beantworten, da ich persönlich nur an der Technik selbst forsche. Für solche Fragen muss die Gesellschaft insgesamt einen Konsens finden.
- Stephan Graßmann Beantwortet am 3 Dez 2024:
  
  Warum KI im Bereich der Medizin fragwürdig ist? Wieder eine gute Frage, ich hoffe ich kann sie einigermaßen beantworten! Ich würde evtl. statt „fragwürdig“ lieber davon sprechen, dass die Anwendung von KI in der Medizin besonders „kritisch“ oder „prekär“ ist und das hat gleich mehrere Gründe.
  Allen voran haben wir es in der Medizin mit einem ganz besonders sensiblen und vulnerablen – also verletzlichen Bereich zu tun. Für gewöhnlich gehen wir ja nicht zur Ärztin oder zum Arzt wenn es uns gut geht, sondern immer dann wenn wir gesundheitliche Probleme haben. Nicht selten müssen wir uns bei medizinischen Behandlungen voll und ganz in die Verantwortung der Pfleger:innen oder Ärzt:innen begeben. Also z.B. während einer Operation, in der wir ganz und gar davon Abhängig sind, dass man sich um uns kümmert. In der Medizin hängt also im wahrsten Sinne des Wortes unser Leben davon ab, dass wir uns darauf verlassen können, dass man uns gut versorgt.
  
  Genau deshalb ist es so wichtig, dass auch alle technischen Geräte die dort zum Einsatz kommen diesen hohen Qualitätsanforderungen gewachsen sind. Im Fall von KI kommt dann noch hinzu, dass es sich um eine sehr neue Technologie handelt, bei der wir – je nach Design – manchmal nicht genau wissen, was im inneren genau passiert (Blackbox). Gleichzeitig können auch die Motive für den Einsatz von KI in manchen Fällen hinterfragt werden. Immerhin werden KI-Anwendungen oft von Unternehmen entwickelt, die profitorientiert arbeiten. Das kann im schlimmsten Fall dazu führen, dass Entscheidungen über den Einsatz von KI nicht immer rein medizinisch, sondern auch wirtschaftlich motiviert sind. Zum Beispiel könnten Krankenhäuser versuchen, durch KI Personal einzusparen, was möglicherweise zu Lasten der Qualität der Betreuung oder der Arbeitsbelastung der verbleibenden Beschäftigten geht.
  Neben diesen sind mit KI noch ganz viele weitere offene Fragestellungen verbunden und deshalb ist der Einsatz so umstritten (was aber gut ist, denn so kümmern wir uns in der Gesellschaft darum wie wir den Einsatz von KI regeln wollen).
- Karsten Weber Beantwortet am 3 Dez 2024:
  
  Wieso ist es den „fragwürdig“? Ist damit gemeint, dass wir genau überlegen sollten, wo unter welchen Bedingungen KI in der Medizin eingesetzt werden soll? Wenn ja, dann kann ich dem nur zustimmen. Wenn jedoch gemeint wäre, dass KI eigentlich nicht in der Medizin eingesetzt werden solle, dann würde ich dem widersprechen. KI ist ein weiteres Werkzeug im Methodenkoffer der Medizin. Richtig eingesetzt kann damit großer Nutzen erzeugt werden.
- Rosae Martín Peña Beantwortet am 4 Dez 2024:
  
  Es gibt viele Gründe, die ich nicht alle kenne, aber es ist offensichtlich, dass die Verwendung eines KI-Systems, um Spam aus unserem E-Mail-Postfach zu filtern, oder ChatGPT, das uns möglicherweise eine voreingenommene Antwort gibt, nicht vergleichbar ist mit einem KI-System, das eine Lösung für eine lebenswichtige medizinische Frage vorschlägt. Mit anderen Worten: Das Risiko, dass solche Systeme Fehler machen – und die weiterhin bestehenden Haftungslücken –, zeigt, dass der breite Einsatz von KI in der Medizin besonders hohe Anforderungen an Sicherheit, Zuverlässigkeit und Robustheit erfüllen muss.