Gestern • 29 Min.

(English version below) ++++ Folge 36: Vom Prototyp in die Produktion: GenAI ohne Kontrollverlust ++++ Laut RAND schaffen es rund 80 % der KI-Use-Cases nie in den Produktivbetrieb. Saumya Goyal und Thomas Waller von Datamics sprechen über Infrastructure as Code, Evaluation, Guardrails, Token-Kosten und MCP, und darüber, wie GenAI-Projekte den Sprung vom Prototyp in die Produktion schaffen. In dieser Folge, der ersten mit zwei Gästen und auf Englisch, sprechen wir mit Saumya Goyal, Data Engineer, und Thomas Waller, Data Scientist bei Datamics. Beide haben bereits KI-Produkte in Industrieprojekten produktiv gebracht. Ein RAG-System oder einen Agenten zu bauen, dauert heute einen Tag. Aber wie bringt man ihn sicher in Produktion, und woher weiß man, dass er gut genug ist? Wir sprechen über die Bausteine eines GenAI-Projekts von der Vektordatenbank bis zu Guardrails, darüber, warum Infrastructure as Code mit Terraform Chaos verhindert, und über ein Praxisbeispiel: einen Reiseassistenten mit Live-Daten der Deutschen Bahn. Dazu kommt die Frage „Build or Buy?“, in deren Rahmen die beiden auch das AIOps Kit vorstellen, ein toolunabhängiges Kit für den schnelleren Aufbau der Infrastruktur. Außerdem geht es um Kostenkontrolle bei Agenten, Datenschutz, den Umgang mit Halluzinationen durch messbare Evaluation und um die Frage, was das Model Context Protocol (MCP) eigentlich ist. Das nehmt ihr mit: Behandelt Infrastruktur wie Software, automatisiert von Anfang an und macht Qualität messbar, bevor euer System auf Kunden trifft. Links aus dieser Episode: Mehr über das AI Innovation Lab von Datamics erfahren: https://ai-lab.datamics.com/ Mit Saumya Goyal auf LinkedIn vernetzen: https://www.linkedin.com/in/saumyagoyal95/ Mit Thomas Waller auf LinkedIn vernetzen: https://www.linkedin.com/in/thomas-waller-063aaa208/ +++++ Episode 36: From Prototype to Production: Taking GenAI Live Without Losing Control +++++ According to RAND, around 80% of AI use cases never make it into production. Saumya Goyal and Thomas Waller from Datamics talk about infrastructure as code, evaluation, guardrails, token costs, and MCP, and how GenAI projects make the leap from prototype to production. In this episode, our first with two guests, we talk to Saumya Goyal, data engineer, and Thomas Waller, data scientist at Datamics. Both have already delivered AI products to production in industry projects. Building a RAG system or an agent takes about a day today. But how do you deploy it safely, and how do you know it’s good enough? We discuss the building blocks of a GenAI project from vector databases to guardrails, why infrastructure as code with Terraform prevents chaos, and a practical example: a travel assistant using live Deutsche Bahn data. We also tackle build vs. buy, where the two introduce the AIOps Kit, a tool-agnostic kit for setting up infrastructure faster. We also cover cost control for agents, data privacy, how to handle hallucinations through measurable evaluation, and what the Model Context Protocol (MCP) actually is. Your takeaway: treat infrastructure like software, automate from day one, and make quality measurable before your system meets customers. Links from this episode: Learn more about Datamics’ AI Innovation Lab: https://ai-lab.datamics.com/ Connect with Saumya Goyal on LinkedIn: https://www.linkedin.com/in/saumyagoyal95/ Connect with Thomas Waller on LinkedIn: https://www.linkedin.com/in/thomas-waller-063aaa208/