06.06.2025 • 59 Min.

Wie oft kommt es schon vor, dass eine Aufsichtsbehörde weiter voran ist als Unternehmen? Selten! Aber das passiert aktuell in der Pharma-Welt. Denn die FDA (Food and Drug Administration) hat mit ihren aktuellen Draft-Guidances eine gute Schippe vorgelegt, für Unternehmen gibt es jetzt keine Ausrede mehr, um mit AI zu starten. Considerations for the Use of AI to support Regulatory Decision-Making for Drug and Biological products – so heißt das neue Paper der FDA. Und darüber diskutiert Christof Layher, Host des PodcastsChaosHacker-Talk mit Martin Heitmann, Secretary der globalen Special Interest Group für Artificial Intelligence und Software Automation. Aber alles, was Martin in diesem Podcast erzählt, ist seine eigeneMeinung. Eigentlich ist das richtig cool, dass wir jetzt diese Papers haben. Denn jetzt geht es nicht nur um Prinzipien und wünschenswerte Aspekte beim Vorgehen, sondern um eine echte Blaupause für regulatory decision making. Christof findet es wichtig, sich selbst zu kümmern und proaktiv zukommunizieren, statt nur darauf zu warten, wann die Behörde selbst agiert. Das möchte er auch allen Unternehmen mit auf den Weg geben. Doch was sagt das neue Paper der FDA nun aus? Es ist keine Richtlinie, die nur einen Teilbereich adressiert, sondern tatsächlich sehr übergreifend. Der gesamte produktlebenszyklus entlang der KI wird behandelt. Dabei geht es nicht nur ummaschinelles Lernen, sondern auch um allgemeine Anwendungen von Künstlicher Intelligenz und um Trainingsdaten. Die Unternehmen sollen Handlungs- und Rechtssicherheit in Bezug auf traditionelle, nicht GPT-basierte Modelle bekommen, aber auch auf die GPT-basierten. Richtlinien in diesem Bereich sind sehr schnell überholt – die brauchen ja auch ein halbes Jahr an Review-Zeit. Und in dieser Zeit ändert sich die Welt wieder so schnell, dass dieRichtlinie schon nicht mehr aktuell ist. Deswegen ist das neue Paper auch eher eine Guidance, in denen auch Beispiele genannt sind, z.B. zu Clinical Trails und aus dem GMP-Bereich. Es gibt einen 7-schrittigen Prozess für dieses Modell, um Sicherheit dabei zu bekommen, ein Modell einzusetzen, ohne Patientensicherheit, Qualität oder Datenintegrität zu gefährden. Define the question of interest – was wollen wir überhaupt adressieren?Define the context of use – die Rolle des Modells im ProzessModel-Risk bestimmen – welchen Gewicht und Impact hat das Model?Ein Plan, wie man das Model entwickeln möchte in Bezug auf Daten, Aufbereitung, Nutzung, Erstellung und BewertungDie Ausführung des PlansDokumentation von Ergebnissen und AbweichungenCredibility Assessment Wichtig ist dabei immer zu betrachten, dass ein Model in einem größeren Komplex lebt und nicht „das eigene Ding“ machen darf. Auch über den EU AI-Act sprechen Christof und Martin. Sicher ist: Die Guidance hilft nicht einzelnen Usern, sondern muss imUnterneh men etabliert werden. Dazu muss man sich auch Gedankenmachen: Welche Prozesse und Rollen braucht es in einer Organisation aus Life Science und Pharma, die künstliche Intelligenz nutzt? Kapitel: 00:00:00 Vorstellung Martin Heitmann 00:01:22 Neue Richtlinie zu AI in Pharma 00:04:25 Kommunikation mit Behörden 00:06:05 Was die FDA sich vorstellt 00:09:39 GPTs und maschinelles Lernen 00:11:03 Richtlinien sind schnell überholt 00:12:58 Beispiele in den Guidances 00:16:56 7 Schritte bei der Nutzung von AI 00:23:24 Unterschied zu traditioneller Validierung 00:26:08 Explainable AI und Transparenz 00:30:33 Guidance muss Teil des Unternehmens werden 00:35:08 Ist das Modell agil? 00:38:01 Verantwortlichkeiten und Workflows 00:42:02 ML Ops 00:47:07 Credibility 00:53:22 Vorbereitung und AI-Know How 00:54:33 Zwei Fragen an Martin