Datenschutz-Ampel & Lokale LLMs: So geht KI in der Verwaltung | Thorsten Rode
Datenschutz-Ampel & Lokale LLMs: So geht KI in der Verwaltung | Thorsten Rode

Datenschutz-Ampel & Lokale LLMs: So geht KI in der Verwaltung | Thorsten Rode

UNF#CK YOUR DATA


Vor 3 Tagen • 54 Min.

Stehst du auch manchmal fassungslos vor der deutschen Bürokratie und fragst dich, wann das verdammte Faxgerät endlich ausstirbt? Generative KI in der Verwaltung klingt für viele wie ein fetter Widerspruch in sich. Aber der wunderbare Thorsten Rode, IT-Leiter der Stadt Nettetal, beweist das Gegenteil. Er zeigt uns, wie man erfolgreich den Staub aus den Behörden fegt. In dieser Folge von UNF#CK YOUR DATA machen wir den ultimativen Praxis-Check. Vergiss teure Enterprise-Lizenzen und gigantische Cloud-Budgets. Thorsten hat mit seinem Mini-Team von gerade einmal 4,5 IT-lern einen alten Server geschnappt, zwei Grafikkarten reingeschraubt und generative KI an jeden PC-Arbeitsplatz der Stadt gebracht. Wir sezieren in dieser Episode: • Warum Daten und KI kein reines IT-Thema, sondern absoluter Teamsport sind. • Das Prinzip der Datenschutz-Ampel (Rot, Gelb, Grün), mit dem Nettetal ChatGPT, Claude und lokale Open-Source-Modelle sauber trennt. • Die harte Wahrheit über RAG (Retrieval Augmented Generation): Warum eine schlecht kuratierte Datenbasis nur teuren KI-Müll produziert. • Den großen EU AI Act Bullshit-Check: Warum du deinen Leuten kein teures Zertifikat kaufen musst, sondern ein "KI-Seepferdchen" brauchst. Hose runter: Wie digital ist Deutschland wirklich? Schnapp dir einen Kaffee und hör rein. Am Ende des Tages macht eben doch der Mensch den Unterschied ▬▬▬▬▬▬ Profile: ▬▬▬▬ Zum LinkedIn-Profil von Thorsten: https://www.linkedin.com/in/thorstenrode/ Zum LinkedIn-Profil von Christian: https://www.linkedin.com/in/christian-krug/ Christians Wonderlink: https://wonderl.ink/@christiankrug Unf*ck Your Data auf Linkedin: https://www.linkedin.com/company/unfck-your-data ▬▬▬▬▬▬ Buchempfehlung: ▬▬▬▬ Buchempfehlung von Thorsten: Birgit und die Maschine - Dr. Nicolas Arpag Alle Empfehlungen in Melenas Bücherladen: https://gunzenhausen.buchhandlung.de/unfuckyourdata ▬▬▬▬▬▬ Hier findest Du Unf*ck Your Data: ▬▬▬▬ Zum Podcast auf Spotify: https://open.spotify.com/show/6Ow7ySMbgnir27etMYkpxT?si=dc0fd2b3c6454bfa Zum Podcast auf iTunes: https://podcasts.apple.com/de/podcast/unf-ck-your-data/id1673832019 Zum Podcast auf Deezer: https://deezer.page.link/FnT5kRSjf2k54iib6 Zum Podcast auf Youtube: https://www.youtube.com/@unfckyourdata ▬▬▬▬▬▬ Merch: ▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬ https://unfckyourdata-shop.de/ ▬▬▬▬▬▬ Kontakt: ▬▬▬▬ E-Mail: christian@uyd-podcast.com ▬▬▬▬▬▬ Timestamps: ▬▬▬▬▬▬▬▬▬▬▬▬▬ 00:00 - Intro & Der Amtsschimmel lernt KI 01:59 - Gast-Vorstellung: Thorsten Rohde & E-Government in Nettetal 03:06 - Digitalisierung ist Teamsport: Warum IT allein nicht reicht 05:56 - Föderalismus-Chaos: Wer verwaltet was in Deutschland? 11:33 - Die nackte Wahrheit: 4,5 ITler für eine ganze Stadt 14:28 - Technische Schulden & Roboter (RPA) im Amt 18:38 - Das Experiment: KI für jeden PC-Arbeitsplatz 21:13 - Der DIY-Ansatz: Ein alter Server und zwei Grafikkarten 23:46 - RAG & Die harte Wahrheit über eine saubere Datenbasis 29:26 - Schatten-KI verhindern: Die rot-gelb-grüne Datenschutzampel 34:15 - EU AI Act Bullshit-Check & Das KI-Seepferdchen 41:56 - Lernpfade: Von KI-Bronze bis zum KI-Café 49:41 - Die drei Abschlussfragen & Buchempfehlung