Warum KI halluziniert
Sprachmodelle sind darauf trainiert, flüssige und zusammenhängende Texte zu erzeugen. Fehlt ihnen eine Information, füllen sie die Lücke oft mit einer passend klingenden Antwort, statt Unsicherheit zu signalisieren. Besonders anfällig sind konkrete Zahlen, Normen, Paragrafen, Zitate, Quellen und Nischenwissen.
Risiken im Industrieumfeld
- Falsche technische Werte in Angeboten, Datenblättern oder Anleitungen
- Erfundene Normen oder Rechtsgrundlagen in Compliance-Dokumenten
- Nicht existierende Referenzen oder Studien in Marketingtexten
Gegenmaßnahmen
| Maßnahme | Wirkung |
|---|---|
| KI mit eigenen Dokumenten verbinden (RAG) | Antworten stützen sich auf geprüfte Quellen |
| Quellenangaben verlangen und prüfen | Fehler werden schneller sichtbar |
| Klare Prompts mit der Anweisung, Unsicherheit zu benennen | Weniger erfundene Lückenfüller |
| Vier-Augen-Prinzip für alles, was nach außen geht | Fehler erreichen keine Kunden |
| Schulung der Mitarbeitenden | Realistische Erwartungen an KI-Ergebnisse |
Fazit der Tabelle: Halluzinationen lassen sich nicht vollständig vermeiden, aber durch Datenanbindung, Prüfprozesse und geschulte Nutzer gut beherrschen.
Verwandte Begriffe
Zuletzt aktualisiert: · Redaktion Industrie Digital Verbund · Alle Begriffe im Glossar