Künstliche Intelligenz taucht inzwischen auch im Arbeitsalltag sozialer Einrichtungen auf. Sie fasst Texte zusammen, hilft bei Dokumentationen, wandelt Sprache in Text um oder unterstützt bei der Suche nach Informationen.

Mit der Technik kommen neue Begriffe. Manche klingen komplizierter, als sie sind. Andere sind wichtig, weil hinter ihnen Fragen zu Datenschutz, Verantwortung oder zur Qualität von KI-Ergebnissen stehen.

Dieses Glossar erklärt 20 Begriffe, die Fachkräfte und Verantwortliche in der Sozialwirtschaft kennen sollten.

Algorithmus

Ein Algorithmus ist eine festgelegte Folge von Regeln oder Rechenschritten, mit denen ein Computer eine Aufgabe bearbeitet.

Nicht jeder Algorithmus ist künstliche Intelligenz. Eine Software, die eine Rechnung nach vorgegebenen Regeln berechnet, arbeitet ebenfalls mit Algorithmen. Von KI spricht man erst, wenn weitere Merkmale hinzukommen, etwa das Erkennen von Mustern aus Daten.

Bias

Bias bedeutet Verzerrung. Bei KI kann eine solche Verzerrung entstehen, wenn Trainingsdaten bestimmte Gruppen oder Lebenssituationen ungleich abbilden.

Das kann dazu führen, dass ein System bei bestimmten Menschen häufiger falsche oder ungünstige Ergebnisse produziert.

Für die Sozialwirtschaft wichtig: Sobald KI Aussagen über Menschen vorbereitet oder beeinflusst, sollten mögliche Verzerrungen mitgedacht werden. Das gilt besonders bei sensiblen Entscheidungen über Unterstützung, Leistungen oder Teilhabe.

Chatbot

Ein Chatbot ist ein Computerprogramm, mit dem Nutzer über Text oder Sprache kommunizieren können.

Ältere Chatbots arbeiten oft mit festgelegten Fragen und Antworten. Moderne KI-Chatbots nutzen Sprachmodelle und können frei formulierte Eingaben verarbeiten.

Im BeWoPlaner unterstützt ein integrierter KI-Chat Fachkräfte unter anderem dabei, Dokumentationen zu überarbeiten, zu verdichten oder formal anzupassen.

Cloud-KI

Bei Cloud-KI läuft das KI-Modell auf den Servern eines externen Anbieters. Eine Anfrage wird über das Internet an diesen Anbieter übertragen und dort verarbeitet.

Das ist bei vielen bekannten KI-Diensten üblich.

Für die Sozialwirtschaft wichtig: Bei personenbezogenen und besonders schützenswerten Informationen muss geklärt sein, welche Daten übertragen werden, wo sie verarbeitet werden und wer darauf zugreifen kann. Ein öffentlich erreichbarer KI-Dienst sollte deshalb nicht ohne Prüfung für Klientendaten genutzt werden.

Deep Learning

Deep Learning ist eine Form des maschinellen Lernens. Dabei kommen künstliche neuronale Netze mit vielen Verarbeitungsebenen zum Einsatz.

Solche Verfahren bilden eine technische Grundlage für zahlreiche heutige KI-Anwendungen. Dazu gehören Sprachmodelle, Bilderkennung und Spracherkennung.

Wer KI nur benutzt, muss die mathematischen Einzelheiten nicht verstehen. Wichtig ist die Unterscheidung: Deep Learning bezeichnet die Technik im Hintergrund, nicht eine bestimmte Anwendung.

Fine-Tuning

Beim Fine-Tuning wird ein bereits trainiertes KI-Modell mit zusätzlichen Daten weiter angepasst.

Ein allgemeines Sprachmodell kann dadurch beispielsweise stärker auf bestimmte Fachtexte oder Aufgaben ausgerichtet werden.

Fine-Tuning ist etwas anderes als ein Prompt. Ein Prompt gibt der KI eine Anweisung für die aktuelle Aufgabe. Beim Fine-Tuning wird das Modell zusätzlich trainiert.

Halluzination

Als Halluzination bezeichnet man eine falsche oder erfundene Aussage einer KI, die überzeugend formuliert sein kann.

Ein Sprachmodell kann zum Beispiel eine nicht existierende Studie nennen, eine Rechtsvorschrift falsch wiedergeben oder einer Person eine Aussage zuschreiben, die sie nie gemacht hat.

Halluzinationen lassen sich verringern, aber nicht sicher ausschließen.

Für die Sozialwirtschaft wichtig: Fachlich relevante KI-Texte müssen geprüft werden. Eine sprachlich gute Antwort ist kein Beleg für ihre Richtigkeit.

Hochrisiko-KI

Der europäische AI Act unterscheidet KI-Anwendungen nach ihrem Risiko. Bestimmte Anwendungen gelten als Hochrisiko-KI und unterliegen zusätzlichen Anforderungen.

Dazu können KI-Systeme gehören, die von Behörden oder in deren Auftrag eingesetzt werden, um über den Zugang zu wesentlichen öffentlichen Unterstützungsleistungen zu entscheiden. Der AI Act nennt unter anderem Sozialleistungen und soziale Dienste.

Nicht jede KI in einer sozialen Einrichtung ist deshalb Hochrisiko-KI. Entscheidend sind Zweck und konkrete Nutzung des Systems. Ein Werkzeug zur sprachlichen Überarbeitung einer Dokumentation ist rechtlich anders zu beurteilen als ein System, das über Ansprüche oder Leistungen entscheidet.

KI-Agent

Ein KI-Agent kann Aufgaben teilweise selbstständig bearbeiten und dabei weitere Programme oder Datenquellen nutzen.

Ein Agent könnte beispielsweise Informationen suchen, daraus einen Text erstellen und anschließend eine andere Softwarefunktion aufrufen.

Der Begriff wird derzeit unterschiedlich verwendet. Deshalb ist nicht jedes als „Agent“ bezeichnete System technisch gleich aufgebaut.

Für die Sozialwirtschaft wichtig: Je selbstständiger ein System handeln kann, desto wichtiger sind klare Zugriffsrechte, Grenzen und Kontrollmöglichkeiten.

KI-Kompetenz

KI-Kompetenz bedeutet, KI so weit zu verstehen, dass sie sachgerecht eingesetzt werden kann.

Dazu gehört beispielsweise zu wissen, dass ein Sprachmodell falsche Aussagen produzieren kann, welche Daten eingegeben werden dürfen und wann Ergebnisse geprüft werden müssen.

Der europäische AI Act verpflichtet Anbieter und Betreiber von KI-Systemen, Maßnahmen zur Förderung der KI-Kompetenz ihres Personals zu ergreifen. Ein bestimmtes individuelles Kompetenzniveau schreibt die seit Juli 2026 geänderte Regelung nicht vor.

Für Einrichtungen bedeutet das vor allem: Mitarbeitende brauchen Regeln und Wissen für den konkreten KI-Einsatz.

Large Language Model, LLM

LLM steht für „Large Language Model“, auf Deutsch großes Sprachmodell.

Ein LLM wird mit sehr großen Textmengen trainiert. Es lernt statistische Zusammenhänge zwischen sprachlichen Elementen und kann daraus neue Texte erzeugen.

Damit lassen sich Fragen beantworten, Texte zusammenfassen oder Formulierungen überarbeiten.

Ein LLM ist jedoch keine verlässliche Wissensdatenbank. Es kann richtige Informationen wiedergeben, aber auch überzeugend klingende Fehler produzieren.

Lokale KI

Bei einer lokalen KI läuft das Modell auf eigenen oder kontrollierten Servern und nicht bei einem öffentlichen KI-Dienst.

Das kann insbesondere dann interessant sein, wenn sensible Daten verarbeitet werden.

ownSoft betreibt für die KI-Funktionen des BeWoPlaners ein Open-Source-Sprachmodell auf eigener Infrastruktur. Die Verarbeitung findet auf unternehmenseigenen Servern in Deutschland statt.

Maschinelles Lernen

Maschinelles Lernen, englisch Machine Learning, ist ein Teilgebiet der künstlichen Intelligenz.

Dabei werden einem Computer nicht sämtliche Regeln einzeln vorgegeben. Ein Modell lernt stattdessen aus Beispieldaten bestimmte Muster.

Ein System könnte beispielsweise anhand vieler vorhandener Dokumente lernen, Texte bestimmten Kategorien zuzuordnen.

Wie gut das funktioniert, hängt unter anderem von den verwendeten Daten und dem gewählten Verfahren ab.

Multimodale KI

Multimodale KI kann unterschiedliche Arten von Informationen verarbeiten.

Ein System kann zum Beispiel Texte lesen, Bilder analysieren oder gesprochene Sprache verarbeiten. Manche Modelle können auch unterschiedliche Medien miteinander verbinden.

Ein Nutzer könnte etwa ein Foto und eine Textfrage gemeinsam eingeben. Die KI berücksichtigt dann beide Informationen für ihre Antwort.

Open Source und Open Weights

Open Source bedeutet bei Software, dass der Quellcode unter bestimmten Lizenzbedingungen öffentlich zugänglich ist.

Bei KI-Modellen wird häufig zusätzlich von „Open Weights“ gesprochen. Dabei sind die trainierten Modellparameter verfügbar.

Beides ist nicht dasselbe. Ein Modell kann offene Modellparameter haben, ohne dass Trainingsdaten oder alle Bestandteile seiner Entwicklung veröffentlicht wurden.

Deshalb lohnt es sich, bei der Bezeichnung „offenes KI-Modell“ genauer hinzusehen.

Prompt

Ein Prompt ist eine Eingabe oder Arbeitsanweisung an eine generative KI.

Ein einfacher Prompt lautet beispielsweise: „Fasse diesen Text in fünf Sätzen zusammen.“

Ein ausführlicherer Prompt kann festlegen, für wen ein Text gedacht ist, welche Informationen verwendet werden dürfen und wie das Ergebnis aussehen soll.

Prompts können die Qualität eines Ergebnisses stark beeinflussen. Sie machen ein Sprachmodell aber nicht fehlerfrei.

RAG

RAG steht für „Retrieval-Augmented Generation“.

Dabei sucht ein System zunächst passende Informationen aus einer vorhandenen Quelle. Anschließend erhält das Sprachmodell diese Informationen zusammen mit der eigentlichen Frage.

Eine Organisation könnte dafür beispielsweise interne Handbücher, Richtlinien oder eine Wissenssammlung nutzen.

Der Vorteil: Das Sprachmodell arbeitet mit bereitgestellten Informationen, ohne dass es mit allen Dokumenten neu trainiert werden muss.

Auch bei RAG sollte geprüft werden, ob die gefundenen Quellen zur Frage passen und ob die Antwort sie korrekt wiedergibt.

Speech-to-Text

Speech-to-Text bezeichnet die automatische Umwandlung gesprochener Sprache in geschriebenen Text. Ein anderer Begriff dafür ist automatische Transkription.

Für Fachkräfte kann das Tipparbeit reduzieren. Eine Dokumentation lässt sich beispielsweise zunächst einsprechen und anschließend als Text weiterbearbeiten.

Im Zusammenspiel von ownChat und BeWoPlaner kann gesprochener Inhalt transkribiert und danach mit KI weiter strukturiert werden.

Für die Sozialwirtschaft wichtig: Auch transkribierte Texte sollten vor der Übernahme in eine Dokumentation geprüft werden. Namen, Fachbegriffe oder undeutlich gesprochene Passagen können falsch erkannt werden.

Token

Sprachmodelle verarbeiten Texte in kleinen Einheiten, sogenannten Token.

Ein Token kann ein vollständiges Wort, ein Wortteil oder ein Zeichen sein. Wie ein Text zerlegt wird, hängt vom jeweiligen Modell ab.

Die Anzahl der Token spielt unter anderem beim Kontextfenster eine Rolle. Bei vielen kommerziellen KI-Angeboten beeinflusst sie außerdem die Kosten.

Für normale Anwender ist deshalb meist nicht die genaue Tokenzahl wichtig, sondern die Erkenntnis, dass auch ein Sprachmodell nur eine begrenzte Menge Text auf einmal verarbeiten kann.

Training

Beim Training lernt ein KI-Modell aus Beispieldaten. Dabei werden sehr viele interne Parameter schrittweise verändert.

Nach dem Training kann das Modell neue Eingaben verarbeiten und Antworten erzeugen.

Training und Nutzung eines Modells sind zwei unterschiedliche Vorgänge. Wer einen Text in ein KI-System eingibt, trainiert damit nicht zwangsläufig unmittelbar das zugrunde liegende Modell. Ob Eingaben später für Trainingszwecke genutzt werden, hängt vom jeweiligen Anbieter, Produkt und Vertrag ab.