KI-Studien (07): Vertrauen in KI – wem glauben wir eigentlich?

07.09.2026•25:00

KI schreibt, bewertet und unterstützt uns längst in vielen Bereichen. Doch wie verändert sich unser Vertrauen, wenn wir wissen, dass KI beteiligt war? Vivien und Thomas sprechen über aktuelle Studien, neue Transparenzregeln und die Frage, wann Skepsis angebracht ist – und wann ein kritischer, kompetenter Umgang mit KI weiterhilft. Studien aus der Episode: EY (2026): „AI Sentiment Index 2026 — KI in Deutschland: Nutzung hoch, Vertrauen gering.“ Ernst & Young, veröffentlicht 22.04.2026. Quelle für den Gesundheits- und den Finanzbefund. → Zur Quelle EY (2025): „AI Sentiment Index 2025.“ Ernst & Young. Erhebung Dezember 2024 bis Februar 2025, über 15.000 Befragte in 15 Ländern, davon mehr als 1.000 in Deutschland. Quelle für die Prüfquote — 27 Prozent prüfen KI-Ergebnisse, 15 Prozent überarbeiten sie. Bitkom (2026): „Künstliche Intelligenz — Wie die Bevölkerung auf die neue Technologie blickt.“ Bitkom e.V. / Bitkom Research. Repräsentative Telefonbefragung, 1.003 Personen ab 16 Jahren. Quelle für die Nutzungszahlen in Deutschland. → Zur Quelle Schilke, Reimann (2025): „The transparency dilemma: How AI disclosure erodes trust.“ Organizational Behavior and Human Decision Processes, Band 188, Artikel 104405. 13 präregistrierte Experimente mit über 3.000 Teilnehmenden. Frei zugänglich. → Zur Quelle Reis, Reis, Kunde (2025): „Public Perception of Physicians Who Use Artificial Intelligence.“ JAMA Network Open 8(7):e2521643. Universität Würzburg, Charité Berlin und University of Cambridge. 1.276 Teilnehmende, präregistriert. Frei zugänglich. → Zur Quelle Europäisches Parlament und Rat (2024): „Verordnung (EU) 2024/1689 über künstliche Intelligenz — insbesondere Artikel 50.“ Amtsblatt der Europäischen Union. Die Transparenzpflichten stehen in Artikel 50, die Geltungstermine in Artikel 113. → Zur Quelle Bundesnetzagentur (o.J.): „Transparenzpflichten nach Artikel 50 der KI-Verordnung.“ Bundesnetzagentur. Verständliche Übersicht der vier Pflichtenkreise für Anbieter und Betreiber — der beste Einstieg für alle, die es praktisch brauchen. → Zur Quelle Europäisches Parlament und Rat (2026): „Verordnung (EU) 2026/1744 — Digital-Omnibus-Verordnung zur KI.“ Amtsblatt der Europäischen Union, 24. Juli 2026, in Kraft seit 27. Juli 2026. Verschiebt die Hochrisiko-Pflichten, nicht die Transparenzpflichten aus Artikel 50. Lin, Zhang (2026): „Visible sources and invisible risks: exploring the impact of AI disclosure on perceived credibility of AI-generated content.“ Journal of Science Communication 25(1). Experiment mit 433 Teilnehmenden zum Überkreuz-Effekt: Das Etikett senkt die Glaubwürdigkeit richtiger Information und erhöht die falscher. Frei zugänglich. → Zur Quelle Zum Weiterhören — die Folgen, auf die wir uns beziehen PROMPTgenau (Episode 12): „KI-Studien (05): Woher KI ihr Wissen hat“ PROMPTgenau (Episode 14): „KI-Studien (06): Lernen mit KI: Abkürzung oder Umweg?“

KI-Studien (06): Lernen mit KI: Abkürzung oder Umweg?

21.08.2026•35:10

KI gehört für viele längst zum Lernen dazu – in der Schule, im Studium und im Beruf. Doch hilft sie wirklich dabei, Wissen aufzubauen, oder nimmt sie uns genau die Denkarbeit ab, auf die es ankommt? Vivien und Thomas schauen sich aktuelle Forschung an und fragen, wie KI sinnvoll beim Lernen unterstützen kann, ohne dass dabei der eigene Lernprozess auf der Strecke bleibt. Links zu den Studien aus der Episode: [1] mpfs (2025): „JIM-Studie 2025 — Jugend, Information, Medien.“ Medienpädagogischer Forschungsverbund Südwest, repräsentative Befragung, n = 1.200. → Zur Quelle [2] Strömberg, Lei, Wu (2026): „The Generative AI Learning Penalty: Evidence from Chinese Secondary Education.“ SSRN Working Paper 6868618 / CEPR Discussion Paper DP21577 — noch nicht begutachtet. → Zur Quelle [3] Bastani, Bastani, Sungu et al. (2025): „Generative AI without guardrails can harm learning: Evidence from high school mathematics.“ Proceedings of the National Academy of Sciences, 122(26). → Zur Quelle [4] Roediger, Karpicke (2006): „Test-Enhanced Learning: Taking Memory Tests Improves Long-Term Retention.“ Psychological Science, 17(3). [5] Dunlosky et al. (2013): „Improving Students’ Learning with Effective Learning Techniques.“ Psychological Science in the Public Interest, 14(1). [6] Deslauriers et al. (2019): „Measuring actual learning versus feeling of learning in response to being actively engaged in the classroom.“ Proceedings of the National Academy of Sciences, 116(39). [7] Shen, Tamkin (2026): „How AI Impacts Skill Formation.“ Anthropic, arXiv-Preprint 2601.20245 — Herstellerstudie. → Zur Quelle [8] Kestin, Miller, Klales et al. (2025): „AI tutoring outperforms in-class active learning: An RCT introducing a novel research-based design in an authentic educational setting.“ Scientific Reports, 15, 17458. → Zur Quelle Feedback und Ideen für weitere Folgen gerne an: info@digitalagentur.sachsen.de www.digitalagentur.sachsen.de Hinweis in eigener Sache: Die Frauenstimme im Intro ist KI-generiert. Das Titelbild des Podcasts wurde mit KI-Unterstützung erstellt.

Die neuen KI-Flaggschiffe: Hype oder echter Sprung?

07.08.2026•36:00

Stephan und William sind zurück – und nehmen sich die neuen Flaggschiff-Modelle von Anthropic und OpenAI vor. Was leisten die aktuellen „Frontier-Modelle" wirklich, wenn man sie aus dem Alltag heraus testet? Beide berichten aus der Praxis: vom beeindruckendem Überblick über ganze Projekte bis zu Grenzen, Schranken und einem Präzedenzfall, der zeigt, wie schnell ein Modell auch wieder verschwinden kann. Eine Folge über Leistung, Abhängigkeiten – und die Frage, wie man sich als Organisation klug aufstellt. Hinweis: Diese Folge wurde am 7. Juli 2026 aufgenommen. Weil sich in der schnelllebigen KI-Welt schon in den Tagen danach wieder einiges geändert hatte, wurde gegen Ende der Folge ein aktualisierter Nachtrag eingesprochen, der die neuesten Entwicklungen einordnet. Feedback und Ideen für weitere Folgen gerne an: info@digitalagentur.sachsen.de www.digitalagentur.sachsen.de Hinweis in eigener Sache: Die Frauenstimme im Intro ist KI-generiert. Das Titelbild des Podcasts wurde mit KI-Unterstützung erstellt.

KI-Studien (05): Woher KI ihr Wissen hat

21.07.2026•49:02

Wir werfen in dieser Folge einen Blick unter die Haube: Wie entsteht eigentlich ein Sprachmodell – und woher nimmt es sein „Wissen"? In vier Schritten geht es von den Rohdaten bis zum fertigen Assistenten, und dabei wird klar, an welchen Stellen sich Verzerrungen einschleichen und warum die sich nicht einfach wegprogrammieren lassen. Eine Folge, die hilft, KI-Antworten besser einzuordnen – und die zeigt, wann man ruhig mal genauer hinschauen sollte. Links zu den Studien aus der Episode: Dodge et al. (2021): „Documenting the English Colossal Clean Crawled Corpus.“ EMNLP 2021. Untersuchung des C4-Datensatzes (Basis u. a. für Googles T5-Modell). → Zur Quelle Dodge et al. (2021): „Documenting the English Colossal Clean Crawled Corpus.“ EMNLP 2021. Geografie- und Filter-Befunde (u. a. African American English zu 42 % gefiltert) → Zur Quelle Moon et al. (2025): „Homogenizing effect of LLMs on creative diversity.“ Drei präregistrierte Studien, 2.200 Bewerbungsessays. (Hauptbefund Regression zur Mitte) Sourati et al. (2025): „The Shrinking Landscape of Linguistic Diversity in the Age of Large Language Models.“ Vier Studien, mehrere Modelle. (Kreuzvalidierung: Homogenisierung des Stils) → Zur Quelle Kotek, Dockum, Sun (2023): „Gender bias and stereotypes in Large Language Models.“ ACM Collective Intelligence Conference. (Zuspitzung: Modelle wählen den stereotyp passenden Beruf 3–6× häufiger) → Zur Quelle Sharma et al. (2023): „Towards Understanding Sycophancy in Language Models.“ Anthropic. (Grundlagenstudie zur Schmeichelei, fünf Assistenten) → Zur Quelle Fanous et al. (2025): „SycEval – Evaluating LLM Sycophancy.“ Stanford University. → Zur Quelle Cheng et al. (2026): „ELEPHANT – Evaluation of LLMs as Excessive Sycophants.“ Stanford / CMU / Oxford. Santurkar et al. (2023): „Whose Opinions Do Language Models Reflect?.“ ICML 2023. (Werte-/Meinungsverschiebung im Post-Training) Singhal, Goyal, Xu, Durrett (2023): „A Long Way to Go: Investigating Length Correlations in RLHF.“ Format- und Längen-Bias. → Zur Quelle Bai et al. (2022): „Constitutional AI: Harmlessness from AI Feedback.“ Anthropic. (Ursprung von RLAIF: KI bewertet KI) OpenAI (2025): „Sycophancy in GPT-4o: What happened and what we’re doing about it.“ OpenAI, Mai 2025. (Rückzug eines zu schmeichlerischen Modell-Updates) Dastin, J. (2018): „Amazon scraps secret AI recruiting tool that showed bias against women.“ Reuters. KI-Kompetenz-Center der Bundesverwaltung / Bundesdruckerei (2025): „MÖVE – Modelle für die Öffentliche Verwaltung Evaluieren.“ Präsentation, IT-Planungsrat Fachkongress 2025. (ausdrücklich vorläufige Ergebnisse) MÖVE | Startseite Passend zum Weiterhören: PROMPTgenau "KI-Studien (04): KI und Frauen: Nutzung, Macht und Vorurteile". Vertieft die Verzerrung von der menschlichen Seite. Hinweis: Mehrere Befunde stammen aus Preprints bzw. laufender Forschung und sind als Momentaufnahme zu verstehen. Wo kein direkter Link angegeben ist, lässt sich die Quelle über Titel und Autor:innen recherchieren.

KI braucht Führung

03.07.2026•0:01

Vivien und Christian widmen sich in dieser Episode der Frage, was der KI-Wandel für Führungskräfte bedeutet. Denn die Frage ist längst nicht mehr ob KI im Unternehmen ankommt – sondern wie man sie klug gestaltet. Hybride Teams aus Mensch und KI, neue Aufgabenverteilungen und eine veränderte Arbeitskultur stehen vor der Tür. Was das von Führung verlangt – und welche Chancen darin stecken – darum geht es in dieser Folge. Service & weiterführende Links: Unsere KI-Sprechstunde: jeden Freitag 9–11 Uhr, kostenlos. Und die genannten kostenfreien Lernangebote. Digitalagentur Sachsen (DiAS) (o.J.): „Kompetenzstelle KI — Studien, Sprechstunde und Angebote.“ → Zur Quelle Feedback und Ideen für weitere Folgen gerne an: info@digitalagentur.sachsen.de www.digitalagentur.sachsen.de Hinweis in eigener Sache: Die Frauenstimme im Intro ist KI-generiert. Das Titelbild des Podcasts wurde mit KI-Unterstützung erstellt.

KI-Studien (04): KI und Frauen: Nutzung, Macht und Vorurteile

16.06.2026•31:48

Vivien und Thomas schauen in dieser Folge hinter eine unbequeme Zahl: Frauen nutzen KI deutlich seltener als Männer – und bauen die Technologie, die wir alle täglich verwenden, noch seltener mit. Was steckt dahinter? Und was macht KI eigentlich mit Geschlechterbildern? Eine Folge, die überraschende Antworten liefert – und zeigt, warum jetzt der richtige Moment ist, gegenzusteuern. Links zu den Studien aus der Episode: Jahn, Burkert, Diener, Matthes (2026): „Digital Gender Gap — Schwerpunkt 2026: Künstliche Intelligenz.“ Initiative D21 / Institut für Arbeitsmarkt- und Berufsforschung (IAB). → Zur Quelle interface (Stiftung Neue Verantwortung) / Revelio Labs (2024): „AI's Missing Link: The Gender Gap in the Talent Pool.“ interface — Think Tank for Digital Society. → Zur Quelle UNESCO / IRCAI (2024): „Challenging Systematic Prejudices: An Investigation into Bias Against Women and Girls in Large Language Models.“ UNESCO. → Zur Quelle Digitalagentur Sachsen (DiAS) / Fraunhofer IIS (2025): „Frauen in der Künstlichen Intelligenz in Sachsen.“ Digitalagentur Sachsen (DiAS). → Zur Quelle Moss-Racusin, Dovidio, Brescoll, Graham, Handelsman (2012): „Science Faculty's Subtle Gender Biases Favor Male Students.“ PNAS — Proceedings of the National Academy of Sciences. → Zur Quelle Schwabe et al. (2024): „Empirical challenges in assessing the leaky STEM pipeline.“ International Journal of STEM Education. → Zur Quelle Dastin (2018): „Amazon Scraps Secret AI Recruiting Tool That Showed Bias Against Women.“ Reuters. → Zur Quelle UNESCO / IRCAI (2024): „Challenging Systematic Prejudices: An Investigation into Bias Against Women and Girls in Large Language Models.“ UNESCO. → Zur Quelle Service & weiterführende Links: Unsere KI-Sprechstunde: jeden Freitag 9–11 Uhr, kostenlos. Und die genannten kostenfreien Lernangebote. Digitalagentur Sachsen (DiAS) (o.J.): „Kompetenzstelle KI — Studien, Sprechstunde und Angebote.“ → Zur Quelle KI-Campus (o.J.): „Die Lernplattform für Künstliche Intelligenz.“ → Zur Quelle openHPI (o.J.): „Kostenlose Online-Kurse — Hasso-Plattner-Institut.“ → Zur Quelle