04.07.2025 • 54 Min.

Kann KI die Medizin revolutionieren? Unseren Ärzt:innen helfen, schneller zu arbeiten oder sogar bessere Diagnosen zu stellen? Darüber spricht Christof Layher, Host des ChaosHacker-Talks, in der neuen Folge mit Daniel Wolf, der am Uniklinikum Ulm forscht. Sein Thema: Künstliche Intelligenz in der medizinischen Bildgebung. Medizinische Bildgebung bedeutet, dass aufgrund von Aufnahmen von Patient:innen, z.B. Aufnahmen der Haut, CT oder MRT-Bildern Befunde erstellt werden. Bisher schauen sich Ärzt:innen diese Bilder an, in Zukunft sollen sie von KI unterstützt werden. Die Hoffnung dieser Forschung ist, dass die Bildgebung in der Radiologie verbessert werden kann und der Workload von Radiologen verringert werden kann. Denn tendenziell haben wir immer weniger Radiolog:innen, aber eine immer älter und kränker werdende Gesellschaft. Außerdem sind wir alle nur Menschen und können Fehler machen, da soll die KI „besser“ sein. Daniel forscht mit seinem Team, trainiert Algorithmen und KIs. Dafürbenötigt er große Datensätze, zu denen Radiolog:innen ihre„Meinung“ sagen. Die KI wird dann entweder mit diesen Daten gefüttert und ist damit genauso gut wie die Daten, mit denen sie trainiert wurde. Eine andere Methode ist das Self-Supervised Pre-Training, bei dem die KI einfach nur mit Bildern gefüttert wird – ohne Labels. Das Zielist, dass die KI dann selbst Anomalien entdeckt. Hierzu ist das Quertesten mit Radiolog:innen natürlich besonders wichtig. Das große Ziel sind sogar multimodale KI-Modelle, die komplette Befunde ausgeben und sogar Operationen planen können. Daniel hat auch mal an den gängigen Modellen (ChatGPT, Gemma etc.) getestet, wie gut diese darin sind, anatomische Strukturen in CT-Bildern zu lokalisieren und relative Positionen zu bestimmen. Allerdings scheitern die gängigen Modelle daran völlig, da sie sich teilweise mehr auf ihr Vorwissen als auf das vorliegende Bild beziehen. Zum Schluss sprechen die beiden noch über den Bias, denn auch der ist ein „Problem“ in der Forschung. Schließlich liegen mehrRöntgenaufnahmen von kranken Menschen vor als von gesunden – man lässt sich ja auch nur röntgen, wenn etwas nicht in Ordnung ist. Besonders ins Uniklinikum kommen nur Menschen, die wirklich große Probleme haben. Zudem gibt es eine neue Studie vom MIT, bei der die KI bei Röntgenbildern von der Brust bei Frauen und dunkelhäutigen Personen öfter Dinge übersehen hat als bei weißen Männern. Im Trainingsdatensatz waren einfach zu wenig Bilder dafür! Ein weiteres Thema ist, dass Modelle auch infiltriert werden können, besonders wenn sie mit Daten aus dem Internet trainiert werden. Studien: Vision-Language Models Fail to Identify Relative Positions in Medical Images":https://wolfda95.github.io/your_other_left/ Evaluating the Explainability of Attributes and Prototypes for a Medical Classification Modelhttps://link.springer.com/chapter/10.1007/978-3-031-63787-2_3Demographic bias of expert-level vision-language foundation models in medicalimaging https://www.science.org/doi/10.1126/sciadv.adq0305Weitere Artikel:https://www.newsguardrealitycheck.com/p/a-well-funded-moscow-based-globalhttps://the-decoder.de/umstrittenes-ki-manipulationsexperiment-der-universitaet-zuerich-auf-reddit-endet-ohne-paper/ https://www.watson.ch/international/wissen/389202255-forscher-warnen-in-neuer-mit-studie-chatgpt-veraendert-gehirnaktivitaet Content-Empfehlung: https://barbaraoakley.com/books/a-mind-for-numbers/ 00:00:00 Vorstellung Daniel Wolf 00:01:15 Medizinische Bildgebung 00:06:17 Ethische Entscheidungen 00:09:52 Ab wann ist die KI besser als wir? 00:12:09 Trainieren der KI 00:17:51 Trainieren ist Ausprobieren 00:20:21 Multimodale KI-Modelle 00:22:09 Gängige Modelle für Medizin 00:28:21 Was ist überhaupt Intelligenz? 00:32:20 Bias durch Trainingsdaten 00:38:35 Datenschutz und unstrukturierte Daten 00:47:53 Zwei Fragen an Daniel