Glossar für klare Gespräche über KI

KI-System

Ein maschinenbasiertes System, das aus Eingaben Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugt, oft mit unterschiedlichem Grad an Autonomie.

KI für allgemeine Zwecke

Ein KI-Modell, das für viele verschiedene Aufgaben statt für eine eng abgegrenzte Funktion entwickelt wurde.

Großes Sprachmodell

Ein Modell, das mit großen Textmengen trainiert wurde, um Sprache vorherzusagen und zu erzeugen. Es kann nützlich sein, ohne zuverlässig zu wissen, ob seine Aussagen stimmen.

Trainingsdaten

Beispiele, anhand derer die Muster und das Verhalten eines Modells entwickelt werden. Trainingsdaten können unvollständig, verzerrt oder veraltet sein und Rechten oder Datenschutzgrenzen unterliegen.

Prompt

Anweisung, Frage, Kontext oder Daten, die Sie einem KI-System geben.

Ausgabe

Das, was ein KI-System zurückgibt, etwa Text, eine Markierung, ein Bild, eine Empfehlung oder einen Handlungsvorschlag.

Halluzination

Eine erfundene oder unbelegte Ausgabe, die als gültige Tatsache, Quelle, Zitat oder Erklärung präsentiert wird.

Informationsabruf

Das Finden von Material aus einer verbundenen Sammlung oder dem Web, um es als Kontext in eine KI-Antwort einzubeziehen.

Quellenbindung

Eine Antwort mit angegebenem Quellenmaterial oder Daten verbinden. Quellenbindung erleichtert die Nachverfolgung, macht die Quelle aber nicht automatisch wahr.

Primärquelle

Der ursprünglichen Aussage oder einem Ereignis am nächsten stehender Beleg, etwa ein Datensatz, Experiment, amtliches Dokument, Gesetz oder Augenzeugenbericht.

Sekundärquelle

Material, das Primärbelege wiedergibt, einordnet oder zusammenfasst, etwa Journalismus, eine Rezension oder eine Analyse.

Werbeaussage

Eine Aussage, die Menschen von der Wahl eines Produkts oder einer Dienstleistung überzeugen soll. Sie kann Kontext liefern, hat aber ein Interesse daran, Vorteile hervorzuheben.

Automatisierungsverzerrung

Die Neigung, einem automatisierten Vorschlag zu stark zu vertrauen oder zu folgen, besonders wenn er präzise wirkt oder unter Zeitdruck eintrifft.

Menschliche Aufsicht

Die tatsächliche menschliche Möglichkeit, ein KI-gestütztes Ergebnis oder eine Handlung zu verstehen, zu hinterfragen, zu ändern oder zu stoppen.

Personenbezogene Daten

Informationen über eine identifizierte oder identifizierbare Person, etwa Name, E-Mail-Adresse, Kennung oder Aufenthaltsort.

Sensible Daten

Daten, deren Offenlegung größeren Schaden verursachen kann oder besondere Sorgfalt erfordert, etwa Gesundheits-, biometrische, Finanz-, Identitäts- oder vertrauliche Informationen.

Verzerrung

Eine systematische Schieflage in Daten, einem Modell oder einem Prozess, die zu ungleichen oder unfairen Ergebnissen führen kann.

Hochrisiko-KI

KI, die in Bereichen eingesetzt wird, in denen Fehler oder Eingriffe in Rechte besonders schwerwiegend sein können und für die nach gesetzlichen oder internen Vorgaben strengere Kontrollen gelten.

Anbieter

Eine Person oder Organisation, die ein KI-System oder Modell entwickelt und es unter ihrem Namen in Betrieb nimmt.

Betreiber

Eine Person oder Organisation, die ein KI-System bei ihrer Arbeit oder unter ihrer Verantwortung einsetzt.

Betroffene Person

Eine Person, die von den Folgen einer KI-gestützten Ausgabe oder Entscheidung betroffen sein kann, unabhängig davon, ob sie das System nutzt.

Gefälligkeitsverhalten

Die Neigung eines Modells, der geäußerten Sicht oder gewünschten Antwort eines Nutzers zuzustimmen, statt sie unabhängig zu prüfen.

Mustervervollständigung

Eine wahrscheinliche Fortsetzung aus gelernten Mustern erzeugen, obwohl dem System für eine korrekte Antwort ausreichende Belege fehlen.

Konfabulation

Eine weitere Bezeichnung für plausible, aber unbelegte oder erfundene Inhalte, die häufig in Diskussionen über Risiken generativer KI verwendet wird.

Quellenkompetenz

Die Fähigkeit zu beurteilen, um welche Quelle es sich handelt, wer sie erstellt hat, warum und wann sie erstellt wurde und wie gut sie eine Behauptung stützt.

Beleg

Information, die eine Behauptung stützt oder infrage stellt. Ihre Stärke hängt von Relevanz, Zuverlässigkeit und Nähe zum Geschehen ab.

Zitation

Ein Verweis, der Lesende zu Material führt, das angeblich eine Behauptung stützt. Eine Zitation muss geprüft werden, weil sie erfunden, irrelevant oder falsch verstanden sein kann.

Anbieterbehauptung

Eine Aussage über ein Produkt oder eine Dienstleistung, die von der verkaufenden oder bereitstellenden Organisation gemacht wird.

Gesponserter Inhalt

Material, das von einer interessierten Partei bezahlt oder beeinflusst wurde, auch wenn es in einem redaktionell wirkenden Format erscheint.

SEO-Inhalt

Webinhalt, der vor allem auf eine gute Position in Suchergebnissen und auf Besucherzahlen ausgerichtet ist. Sichtbarkeit ist kein Qualitätsbeweis.

Meinung

Eine Sichtweise oder Interpretation statt einer unmittelbar festgestellten Tatsache, auch wenn sie von einer erfahrenen Person geäußert wird.

Verifizierung

Die Prüfung einer Ausgabe oder Behauptung anhand geeigneter Quellen, Berechnungen, Aufzeichnungen oder einer anderen passenden Methode.

Datenminimierung

Nur die für eine Aufgabe erforderlichen Daten verwenden und unnötige Kennungen oder Details entfernen.

Vertrauliche Daten

Informationen, deren Offenlegung eingeschränkt ist, weil sie Menschen, einer Organisation, einem Kunden oder einem Partner schaden könnte.

Prompt-Injection

In Eingaben oder abgerufenem Inhalt verborgene Anweisungen, die ein KI-System von der vorgesehenen Aufgabe oder den Kontrollen weglenken sollen.

Verhältnismäßige Prüfung

Tiefe und Geschwindigkeit der Prüfung an möglichen Auswirkungen, Reversibilität und Unsicherheit eines KI-gestützten Ergebnisses ausrichten.