-
Frage gestellt game29rad am 2 Dez 2024.
Frage: Warum werden hauptsächlich Daten von Männern (Krankheiten, Tumore usw.) an den Algorithmus gefüttert?
- Stichworte:
-
Karsten Weber Beantwortet am 2 Dez 2024:
Weil sehr viele medizinische Studien nur an Männern durchgeführt werden, weil Männer in vielen Gesellschaften besseren Zugang zu Gesundheitsdienstleistungen haben als Frauen, weil leider immer noch Männer als Paradigma für den menschlichen Körper dienen, obwohl bekannt ist, dass dies nicht stimmt — das wären die drei Faktoren, die mir sofort einfallen. Vermutlich gibt es weitere.
-
Susanne Weber Beantwortet am 2 Dez 2024: last edited 2 Dez 2024 11:20 am
Das Problem, dass Frauen unterrepräsentiert sind, gibt es nicht nur in diesem Kontext. Zum Beispiel ist es im Bereich der Kardiologie auch so, dass in Studien vor allem Männer eingeschlossen werden. In der Regel haben doch vermehrt Männer Herzprobleme. Das führt dann aber dazu, dass man zu Frauen deutlich weniger weiß, wenn es um Verläufe und Behandlungen bei Herzerkrankungen geht.
Ähnlich dürfte es auch im Kontext hier sein: Ein Algorithmus kann nur mit Daten trainiert werden, die vorhanden sind. So gestaltet es sich dann, dass manche Bevölkerungsgruppen (das bezieht sich nicht nur aufs Geschlecht) überrepräsentiert sind und andere nicht.
-
Lisa Raithel Beantwortet am 2 Dez 2024:
Frauengesundheit war und ist oft noch ein Tabuthema. Das ist teilweise auch kulturell bedingt. Das heißt, es gibt einfach generell weniger Daten über/von Frauen, auch weil Frauen selbst oft denken, dass ihre gesundheitlichen Probleme „nicht wichtig genug“ sind.
Zum Glück hat sich das aber in den letzten Jahren geändert und ändert sich auch immer noch und es gibt viele wissenschaftliche Projekte, die sich mit Frauengesundheit beschäftigen. Allerdings ist das ein langsamer Prozess, und all die Daten, die zum Trainieren von Algorithmen notwendig sind, müssen erst einmal gesammelt werden.
-
Stephan Graßmann Beantwortet am 2 Dez 2024:
Zunächst gilt es festzuhalten: Dieser Umstand ist ein gewaltiges Problem und zwar kein „ist halt nicht so optimal Problem“ sondern ein „daraus erwachsen ernstzunehmende gesundheitliche Risiken Problem“.
Dabei sind die Gründe warum Frauen in den meisten Gesundheitsdaten so viel schlechter repräsentiert unterschiedlich. Natürlich spielen hier auch viele historische und gesellschaftliche Faktoren eine Rolle. So galt der männliche Körper lange als „Standardkörper“ und man nahm an, die Ergebnisse seien universell übertragbar. Da es so wenig Daten über Frauen gab, zeigten sich viele Unterschiede tatsächlich auch erst spät. Heute weiß man z.B. dass sich die Sympthome vor einem Herzinfakt zwischen den Geschlechtern deutlich unterscheiden (um nur ein Beispiel zu nennen). Daneben galt zum Beispiel im Bereich klinischer Studien der zyklische Hormonspiegel bei Frauen als eine zusätzliche Variable, die die Studien komplexer und schwieriger gestalten würde. Gleichzeitig wurden Frauen auch nicht selten wegen potenzieller Risiken für Schwangerschaften aus klinischen Studien ausgeschlossen.
Umso wichtiger ist es diese Rückschritte jetzt schnell aufzuarbeiten und die Versäumnisse der Vergangenheit nachzuholen. Denn gerade hinsichtlich möglicher KI Anwendungen ist es natürlich entscheidend, dass die Daten die zum lernen der Algorithmen verwendet werden qualitativ hochwertig und verlässlich sind – und das sind sie nur, wenn sie geschlechtsspezifisch vorliegen. -
Nico Disch Beantwortet am 2 Dez 2024:
Vielleicht nicht eine direkte Antwort:
Ich hatte jetzt die Datenverteilung angeschaut wo ich den Zugang (Alzheimer, Parkinson, ) hatte, da ist ein 50-50, bei einem anderen Datensatz herrscht tatsächlich ein Ungleichgewicht.Das Problem ist oft dass wir die Daten nehmen die wir bekommen, und wenn dort schon ein Ungleichgewicht drin ist kann man nicht Daten entfernen dass man ein Gleichgewicht hat.
Des Weiteren ist das Problem bekannt, dass so ein Ungleichgewicht auch die Fähigkeiten der Modelle verschlechtert, und darin wird auch aktiv gearbeitet dass man dies vermindert, und auch bessere Datensätze erhält, die auch gerechter sind.
-
Stefanie Remmele Beantwortet am 2 Dez 2024: last edited 2 Dez 2024 12:34 pm
Da die Frage schon so umfangreich beantwortet wurde, kommt hier noch ein anderes Beispiel für ein Ungleichgewicht. https://journals.plos.org/digitalhealth/article/figure?id=10.1371/journal.pdig.0000022.g002 Über 40% aller Daten, auf denen KI Algorithmen trainiert werden, kommen aus den USA. Du kannst Dir vielleicht vorstellen, dass das Ungleichgewicht hinsichtlich Gender und Ethnik gerade ein großes Thema auf vielen Konferenzen ist, in denen es viel um KI geht.
-
Rosae Martín Peña Beantwortet am 2 Dez 2024:
Zunächst möchte ich hervorheben, wie präzise die Frage formuliert wurde, und denjenigen Anerkennung aussprechen, die sie gestellt haben. Das Thema ist äußerst relevant und verdient eine sorgfältige Betrachtung. Ich erwähne dies, weil man heutzutage in den Medien und in alltäglichen Gesprächen häufig Aussagen hört wie „Algorithmen sind voreingenommen“ oder „KI-Systeme diskriminieren“.
Wie bereits von Forschenden festgestellt wurde, sind medizinische Daten von bestimmten Bevölkerungsgruppen, darunter Frauen, oftmals nicht ausreichend vertreten. Es ist spannend und zugleich wichtig, die Gründe hierfür zu verstehen. Das Thema ist komplex und bietet Raum für Diskussionen. Eine Hypothese, die ich bisher nicht wissenschaftlich überprüft habe, aber als möglichen Einflussfaktor betrachte, hat historische Wurzeln: Über viele Jahrhunderte hinweg hatten Frauen keine aktive Rolle in den wirtschaftlichen Strukturen vieler Gesellschaften. In zahlreichen Ländern wurde Frauen bis vor kurzem nicht einmal das Wahlrecht zugestanden.
In Ländern mit entwickelten Volkswirtschaften ist Arbeit eine zentrale Ressource, die historisch und gesellschaftlich überwiegend von Männern geleistet wurde. Es liegt nahe, dass der Fokus der medizinischen Forschung und Datensammlung ebenfalls auf dieser Gruppe lag, um sicherzustellen, dass sie arbeitsfähig und gesund bleibt.
Natürlich hat sich diese Situation inzwischen verändert, doch das bedeutet nicht, dass die gewünschte Gleichstellung bereits erreicht ist. Obwohl Fortschritte sichtbar sind, gibt es nach wie vor viel zu tun, um echte Gleichstellung in allen Bereichen zu schaffen – einschließlich der medizinischen Forschung und der Repräsentation von Daten.
-
Lucas Ribeiro Beantwortet am 3 Dez 2024:
Das ist eine fantastische Frage und sie zeigt, wie wichtig Ihnen Fairness in der Technologie ist!
In der Vergangenheit wurden in der medizinischen Forschung häufig mehr Daten von Männern als von Frauen verwendet. Warum? Manchmal lag es daran, dass die Forscher dachten, männliche Körper seien einfacher zu untersuchen, oder sie gingen davon aus, dass die Ergebnisse auf alle zutreffen könnten. Aber wie wir heute wissen, können männliche und weibliche Körper sehr unterschiedlich auf Krankheiten und Behandlungen reagieren.
Leider hat sich diese Voreingenommenheit auf die medizinische KI übertragen, da diese Algorithmen aus historischen Daten lernen. Wenn die Daten hauptsächlich von Männern stammen, funktioniert der Algorithmus bei Frauen möglicherweise nicht so gut, was ein großes Problem darstellt. Es ist, als würde man versuchen, das Wetter überall auf der Welt anhand von Daten aus nur einem Land vorherzusagen – es ist weder genau noch fair.
Die gute Nachricht ist, dass hart daran gearbeitet wird, dies zu ändern. Forscher konzentrieren sich jetzt mehr auf das Sammeln vielfältiger Daten, die Frauen, Menschen unterschiedlicher ethnischer Herkunft und andere unterrepräsentierte Gruppen einschließen. Das Ziel ist es, KI-Tools zu entwickeln, die für alle funktionieren. Interessanterweise hat meine liebe Kollegin Tal Pecht ein Projekt entwickelt, das diese Antworten finden soll: die Femmunity-Studie (https://www.bonn-gut.uni-bonn.de/de/forschung/femmunity-studie). Schauen Sie mal rein!
Und was ist die große Erkenntnis aus all dem? Wenn wir Probleme wie diese entdecken, ist das eine Chance, die Dinge zu verbessern. Sie können eines Tages sogar Teil der Lösung sein – vielleicht als Wissenschaftler, Arzt oder jemand, der schwierige, wichtige Fragen wie diese stellt!
Kommentare