Was KI bei uns darf und was nicht: ein Werkstattbericht

Wir beraten Organisationen der Sozialwirtschaft zum Einsatz von KI. Da liegt eine Frage nahe, die uns zu Recht gestellt wird: Wie viel KI arbeitet eigentlich bei Ihnen selbst? Die ehrliche Antwort: eine Menge, aber nichts davon vollautomatisch. Dieser Werkstattbericht zeigt, was KI bei uns entscheiden darf, wo sie nur Vorlagen liefert, was schiefging und was bewusst beim Menschen bleibt.

KI ist bei uns kein Chatfenster

Für die einen ist KI das Eingabefenster von ChatGPT. Für die anderen ein Prozess, der unsichtbar in der Fachsoftware läuft. Beides stimmt, und genau diese Spannbreite macht Gespräche über KI so schwierig. In der Sozialwirtschaft ist bisher vor allem Sprach-KI sichtbar, etwa in der Dokumentation. Was auf den anderen Ebenen möglich ist, dafür fehlen Praxisbeispiele. Deshalb dieser Bericht über unsere eigenen.

Die Analogie, mit der wir intern arbeiten: KI ist ein Junior-Mitarbeiter. Sie ersetzt niemanden von uns, sie assistiert. Das klingt harmlos, hat aber harte Konsequenzen. Einen neuen Mitarbeitenden muss ich onboarden, mit Wissen ausstatten, mit Rechten versehen und im Zweifel begrenzen. Niemand gibt einem Neuen am ersten Tag Admin-Rechte für das gesamte Netzwerk. Für KI-Systeme gilt dasselbe. Und wie bei Mitarbeitenden braucht es jemanden, der führen kann: ein Problem sauber formulieren, die Aufgabe abgrenzen, Ziele definieren. Diese Führungsfähigkeit wird gerade zur Alltagskompetenz, weit über die klassische Führungskraft hinaus.

Drei Stufen: informieren, empfehlen, handeln

Die wichtigste Entscheidung bei jedem KI-Einsatz ist keine Tool-Frage. Es ist die Frage, wie viel das System dürfen soll. Wir unterscheiden drei Stufen.

Informieren: Das System recherchiert, sammelt, sichtet. Besseres Googeln, wenn man so will. Ich schicke eine Frage los, das System liest hundert Quellen und berichtet.

Empfehlen: Das System sortiert, filtert, bewertet und baut Entscheidungsvorlagen. Hier passiert bereits eine Filterung, und die ist verlustbehaftet. Aber die Entscheidung bleibt beim Menschen.

Handeln: Das System führt aus und trifft dafür kleine Entscheidungen selbst. Das klingt dramatischer, als es im Alltag oft ist. Wer eine Route in Google Maps eingibt, lässt auch ein System entscheiden, ob es links oder rechts herum geht. Die eigentliche Frage lautet: Womit bin ich komfortabel? Lasse ich ein System Dateien umbenennen, oder lasse ich mir nur eine Liste geben und benenne selbst um?

Jede Stufe hat andere Implikationen: Was braucht das System an Wissen und Zugriffen? Was sagen Datenschutz und Mitarbeitervertretung? Und was gibt der AI Act als harte Grenze vor? Diese Fragen pro Aufgabe zu beantworten ist die eigentliche Arbeit. Das Tool kommt danach.

Wahrscheinlichkeit braucht Leitplanken

KI-Systeme arbeiten mit Wahrscheinlichkeiten, nicht mit exakten Ergebnissen. Das ist kein Mangel, Menschen arbeiten genauso. Aber es erklärt, wo bei uns der größte Aufwand liegt: im Eingrenzen. Ein banales Beispiel: Wer nach einem Rezept für einen Kuchen fragt, bekommt irgendeinen Kuchen. Wer nach einem veganen Apfelkuchen in der Springform fragt, bekommt mit hoher Wahrscheinlichkeit genau den.

Übertragen heißt das: Bevor ein System bei uns einen Textentwurf anlegt, ist definiert, wie unsere Sprache klingt, welcher Styleguide gilt, welche Bildsprache erlaubt ist, dass generierte Bilder gekennzeichnet werden und dass ein Lektorat darüber läuft. Je präziser dieser Rahmen, desto verlässlicher das Ergebnis. Der Fachbegriff dafür ist Harness, ein Korsett für das Wahrscheinlichkeitssystem. Die Stanford-Studie zu 51 erfolgreichen KI-Projekten bestätigt die Richtung: Nur 6 Prozent der untersuchten Organisationen hatten vollständig KI-reife Daten, trotzdem machten Sprachmodelle in 88 Prozent der Fälle zuvor unzugängliche Daten überhaupt erst nutzbar. Perfekte Voraussetzungen sind nicht die Bedingung. Ein klarer Rahmen schon.

Die Werkstatt: wo KI uns im Alltag trägt

Voll-Automation ist bei uns nicht das Ziel. Der Nutzen liegt im Unterstützen: beim Sichten, Abgleichen und Zusammenführen von Informationen aus vielen Systemen. Eine Geschäftsführung braucht für jede Entscheidung zwei Dinge, Informationen und Filter. An beidem setzen unsere Systeme an. Konkret:

Meetings und Aufzeichnungen. Interne Abstimmungen zeichnen wir auf lokalen Systemen auf, lassen sie transkribieren und leiten daraus Aufgaben ab, die automatisiert in unsere Systeme übergeben werden. Alle im Team wissen danach, was besprochen wurde und was zu tun ist. Grob geschätzt spart uns das einige Stunden pro Woche, vor allem aber erhöht es die Präzision: Details gehen nicht mehr verloren, Nachfragen werden seltener.

Der Tages-Check-in. Ein System prüft morgens unsere Wissensquellen: Welche Aufgaben stehen an, welche Themen sind neu, was muss recherchiert werden? Es unterstützt dabei, Aufgaben zu verteilen, damit das Team selbstständig weiterarbeiten kann. Das ist Stufe zwei, empfehlen. Entschieden wird am Tisch.

Content-Produktion. Für uns und für Kunden entwickeln wir KI-gestützte Marketing-Prozesse. Die KI legt Entwürfe an und kennt ihre Zielsysteme, sie packt die Inhalte also gleich an die richtige Stelle. Posten darf sie nicht. Kein Newsletter, kein Beitrag geht ohne Freigabe raus. Nach unserer Erfahrung spart so ein Prozess mindestens einen Arbeitstag pro Woche und Content-Strecke. Das ist eine Schätzung aus der Praxis, keine Messung.

Wissen zusammenführen. In Kundenprojekten liegt Wissen verstreut: ein Workshop auf einem Whiteboard, Notizen aus Terminen, Dokumente in verschiedenen Ablagen. Hier sind unsere Systeme Sparringspartner. Sie gleichen ab, verdichten und helfen, strategische Empfehlungen und daraus folgende Workshops und Materialien vorzubereiten. Auch hier gilt: Es kommt kein fertiger Report aus der Maschine, es ist ein Abgleich.

StoryVault. Unser eigenes Produkt archiviert Termine mit Kunden, die dem zugestimmt haben, und macht daraus Meeting-Notizen, Onboarding- und Lernmaterial. Technisch steckt darin KI, schon die Spracherkennung ist eine. Am Ende schaut immer ein Mensch darauf, redigiert und gibt frei.

Was bei uns schiefging

Zur Werkstatt gehört der Ausschuss. Wir haben massenweise Prototypen gebaut, die nicht funktioniert haben: Spracherkennungs-Systeme, Werkzeuge für Interview-Auswertung, Persona-Erstellung. Bei vielen ist bis heute offen, ob sie je Einsparungen bringen. Das Muster: Man hat ein Gefühl, dass sich etwas wunderbar automatisieren ließe, und dann passt das Ergebnis nicht. Fairerweise waren die Modelle am Anfang deutlich schwächer als heute. Die 61 Prozent der erfolgreichen Stanford-Projekte, die vorher einen gescheiterten Anlauf hatten, decken sich mit unserer Erfahrung.

Ein Fehler, den wir bei anderen beobachten und selbst nicht machen würden: allen Mitarbeitenden einen KI-Account geben und in drei Monaten nach der Effizienzsteigerung fragen. Ein breiter Rollout hat einen legitimen Zweck, nämlich Schatten-KI zu verhindern, also die Nutzung privater, kostenloser Accounts mit Dienstdaten. Als Effizienzprogramm taugt er nicht. Die Hebel liegen woanders.

Was davon Träger übernehmen können

Ohne eine Zeile Code und ohne neue Stelle sehen wir für Träger zwei Wege. Der erste: die KI-Funktionen der Fachsoftware nutzen, die bereits im Haus ist, vom Dokumentenmanagement bis zur Spracherkennung in der Pflege. Diese Funktionen sind vom Hersteller auf eine Aufgabe optimiert, und die erledigen sie gut und kosteneffizient. Der zweite Weg: ein kontrollierter, offener KI-Zugang für Mitarbeitende. Der schafft spürbare Entlastung im Alltag und beendet Schatten-KI, bringt aber nicht die Hebel der eingebetteten Systeme.

Wer mehr will, braucht vor dem Tool die Vorarbeit: ein kompaktes Unternehmensbild, eine Digitalstrategie mit Grundsatzentscheidungen (bleiben wir on-premise oder gehen wir in die Cloud, bleiben wir in Europa), einen geklärten Zweck des KI-Einsatzes und präzise Use Cases dort, wo Mitarbeitende tatsächlich Entlastung brauchen, mit messbaren Erwartungen. Und Strukturen, die das tragen: Digitallotsen, die Wissen intern aufbauen und weitergeben, statt flächendeckender Frontalschulungen, die finanziell nicht skalieren. Wie solche Projekte gelingen, haben wir im Beitrag KI-Projekte, die wirklich wirken anhand der Stanford-Befunde aufbereitet.

Was verloren geht: die Kritik gehört dazu

Wenn KI vorsortiert und zusammenfasst, geht Wissen verloren. Das ist keine Nebenwirkung, das ist das Wesen von Abstraktion. Dazu kommen Färbungen und blinde Flecken der Modelle. Wer das ernst nimmt, wählt Modelle bewusst aus, grenzt mit Kontext ein und behandelt Entscheidungsvorlagen als das, was sie sind: nie vollständig, nie neutral, aber ein starkes Werkzeug für Sparring und Perspektivwechsel.

Die zweite Frage stellt uns jeder Praktiker: Wer merkt es, wenn die KI falsch zusammenfasst? Alles doppelt zu lesen frisst die Effizienz wieder auf. Unser Weg: Wir zwingen die Systeme, sich selbst zu prüfen. Ein Kontrollschritt am Ende lautet etwa: Nimm jede Quelle, die du verarbeitet hast, geh ins Originalmaterial, hol die Stelle heraus und prüfe, ob dein Argument noch trägt. Man ist überrascht, wie oft es dann doch nicht ganz passt. Fehler soll das System selbst finden, nicht der Mensch.

Und schließlich der Informationsberg. KI macht das Produzieren von Text billig, also wächst er. Es gibt diesen Witz: Jemand macht aus drei Stichpunkten eine schöne lange Mail, und der Empfänger lässt sie sich in drei Stichpunkte zusammenfassen. Dahinter steckt eine ernsthafte Verschiebung: Kommunikation läuft zunehmend nicht mehr von Mensch zu Mensch, sondern von Mensch samt System zu Mensch samt System. Wir erleben das schon heute, wenn wir einem Kunden einen Bericht bewusst in einem maschinenlesbaren Format schicken, weil wir wissen, dass er ihn ohnehin durch seine KI schickt. Das verändert, wie viel Kontext man mitliefert, und es bleibt in der Verantwortung beider Seiten, das Gesendete zu prüfen.

Was beim Menschen bleibt

Unsere Regel ist einfach: Alle Entscheidungen, die Auswirkungen auf Menschen haben, bleiben beim Menschen. Alle Entscheidungen, die Beziehungen zwischen Menschen berühren, ebenso. Dazu gehören bei uns Tonalität, Rechnungen, alles mit größeren Konsequenzen für die Organisation. Wissen wird nicht blind zusammengefasst, sondern läuft durch Review-Prozesse. Die KI liefert Sparring und Abgleich, am Ende sagt eine Person: So wollte ich das haben.

Für die Sozialwirtschaft ist diese Regel kein Hindernis, sondern die Antwort auf die häufigste Sorge. In unseren Gesprächen mit Vorständen und Geschäftsführungen hat noch niemand gesagt, er wolle mit KI Personal abbauen. Alle versuchen, ohnehin wegfallendes Personal aufzufangen und Mitarbeitende von Bürokratie zu entlasten, für die sich niemand beworben hat. Entlastung heißt: mehr Zeit am Menschen.

Was bleibt

Wer das Gefühl hat, längst zu spät dran zu sein, dem sagen wir: durchatmen. Den Eindruck erzeugen Konzerne, die ihre Systeme verkaufen wollen. KI wird nicht mehr weggehen, die Effizienzen sind real, aber es ist ein Weg dorthin, kein Sprint. 80 Prozent der Digitalisierung haben nichts mit Technik zu tun, das gilt auch hier. Entscheidend ist, Strukturen aufzubauen, die das Thema jahrelang tragen, statt es als Projekt abzuhaken. Und wenn ein Pilot läuft: so schnell wie möglich in den Regelbetrieb bringen. Schnell und billig lernen.

Zum Weiterlesen

Elisa Pereira, Alvin Wang Graylin & Erik Brynjolfsson: The Enterprise AI Playbook. Lessons from 51 Successful Deployments. Stanford Digital Economy Lab, April 2026. Zum vollständigen Bericht (PDF)

Wenn Sie wissen wollen, welche Aufgaben in Ihrer Organisation auf welche der drei Stufen gehören: Vereinbaren Sie ein Gespräch mit uns. Wir denken KI konsequent von der Organisation her, nicht vom Werkzeug.