22.01.2026 • 26 Min.

Unsere digitale Welt beruht auf Vertrauen. Wir vertrauen darauf, dass unsere Banküberweisungen korrekt verbucht werden, dass medizinische Geräte präzise messen und dass die Software in Kraftwerken oder Krankenhäusern vor Angriffen sicher ist. Lange Zeit war klar: Dieses Vertrauen baut auf Systemen, die wir testen, zertifizieren und kontrollieren können. Doch aktuell entsteht eine neue Generation von agentischen Systemen, die nicht mehr nur regelbasiert arbeitet, sondern Inhalte erzeugt, Entscheidungen eigenständig trifft und sich an neue Situationen anpasst. Sie liest und schreibt Daten, führt Prozesse autonom aus und interagiert mit unserer realen Umgebung. Dadurch eröffnen sich enorme Möglichkeiten, aber auch eine neue Art von Risiko. Denn je eigenständiger solche Systeme handeln, desto unvorhersehbarer können ihre Fehler sein. Im zweiten Teil wenden sich Thomas Bahn und Prof. Dr. Dirk Nowotka der praxisbezogenen Seite des Problems zu und besprechen konkrete Schritte, wie Unternehmen KI einführen und langfristig zuverlässig und sicher gestalten können. Hier finden Sie die Shownotes der Folge: https://www.assono.de/blog/chatbots-und-ki-86-sicherheit-und-zuverlaessigkeit-von-ki-teil-2-praktische-ansaetze-fuer-sichere-ki-systeme