IT-Glossar

AI Act

Auch: EU AI Act, KI-Verordnung, Artificial Intelligence Act

EU-Verordnung zur Regulierung von KI-Systemen nach Risikostufen - seit August 2024 in Kraft, Fristen für Hochrisiko-KI durch Digital Omnibus auf 2027/2028 verschoben

AI Assurance

Auch: KI-Assurance, Artificial Intelligence Assurance

Systematische Erzeugung, Bewertung und Kommunikation von Evidenz, um begründetes Vertrauen in relevante Eigenschaften und den Einsatz eines KI-Systems zu ermöglichen

Anbieter

Auch: Provider, AI-Act-Anbieter

Im AI Act die Rolle desjenigen, der ein KI-System entwickelt und unter eigenem Namen oder eigener Marke in Verkehr bringt

API

Auch: Application Programming Interface, Schnittstelle, Programmierschnittstelle, REST API, Web API

Schnittstelle die es Programmen ermöglicht miteinander zu kommunizieren - ohne dass du als Mensch eingreifen musst

Architekturkonformität

Auch: Architecture Conformance, Architecture Compliance, Architektur-Compliance

Übereinstimmung der tatsächlichen Struktur und Implementierung eines Systems mit festgelegten Architekturvorgaben

Basismodell

Auch: Base Model, Foundation Model

Sprachmodell direkt nach dem Basistraining, ohne zusätzliches Fine-Tuning auf Dialogverhalten

→ Wie ein Sprachmodell funktioniert

Beobachtbarkeit

Auch: Observability, System Observability

Eigenschaft eines Systems, seinen internen Zustand anhand beobachtbarer Informationen ausreichend untersuchbar zu machen

Betreiber

Auch: Deployer, AI-Act-Betreiber

Im AI Act die Rolle desjenigen, der ein KI-System in eigener Verantwortung beruflich einsetzt

Chatmodell

Auch: Chat Model, Instruct-Modell, Instruction-Tuned Model

Basismodell, das per Fine-Tuning auf Dialogverhalten und Anweisungsbefolgung angepasst wurde

→ Wie ein Sprachmodell funktioniert

Cloud Act

Auch: CLOUD Act, Clarifying Lawful Overseas Use of Data Act, US Cloud Act

US-Gesetz das amerikanischen Behörden weltweiten Zugriff auf Daten von US-Unternehmen ermöglicht - egal wo die Server stehen

Cloud-Modell

Auch: Cloud-API, Cloud-basiertes Modell

Sprachmodell, das über die Infrastruktur eines Anbieters ausgeführt und per API angesprochen wird

→ Lokale KI-Modelle: Konzepte und Anforderungen

Context Engineering

Auch: Kontext-Engineering, Context Management, Kontextmanagement

Systematische Gestaltung und Bereitstellung des für eine konkrete KI-Aufgabe relevanten Kontexts

CPU

Auch: Prozessor, Central Processing Unit, Hauptprozessor

Vielseitiger Hauptprozessor eines Computers mit wenigen leistungsfähigen Kernen und vergleichsweise begrenzter Parallelität

→ Lokale KI-Modelle: Konzepte und Anforderungen

Deterministisch

Auch: Determinismus, Deterministic

Eigenschaft einer Berechnung, bei identischer Eingabe immer dieselbe Ausgabe zu liefern - bei Sprachmodellen abhängig von der Temperatur-Einstellung

→ Prompts: Warum Formulierungen die Antwort verändern

Digital Omnibus

Auch: AI Omnibus, Digital Omnibus on AI

EU-Gesetzespaket (keine offizielle Gesetzesbezeichnung, sondern gebräuchliche Sammelbezeichnung), das mehrere bestehende Digitalgesetze - darunter den AI Act - in einem gemeinsamen Verfahren ändert

Digitale Souveränität

Auch: Digital Sovereignty, Digitale Unabhängigkeit, Technologische Souveränität

Fähigkeit, über digitale Systeme, Daten und Abhängigkeiten selbstbestimmt entscheiden und bei Veränderungen handlungsfähig bleiben zu können

DSGVO

Auch: Datenschutz-Grundverordnung, GDPR, General Data Protection Regulation, EU-Datenschutzverordnung, EU-DSGVO

EU-Gesetz das regelt wie Unternehmen mit persönlichen Daten umgehen müssen - gilt seit Mai 2018

Fehlertoleranz

Auch: Fault Tolerance, Fehlertolerantes System

Fähigkeit eines Systems, trotz bestimmter Fehler seine geforderte Funktion weiterhin zu erbringen

Fine-Tuning

Auch: Feinabstimmung, Nachtraining

Zusätzliches Training eines bereits trainierten Basismodells auf eine spezifische Aufgabe oder einen bestimmten Stil

→ Wie ein Sprachmodell funktioniert

General Purpose AI

Auch: GPAI, KI-Modell mit allgemeinem Verwendungszweck, Basismodell (AI-Act-Kontext)

Im AI Act eigens geregelte Kategorie für KI-Modelle mit breitem Anwendungsspektrum, wie sie modernen Sprachmodellen zugrunde liegen

GGUF

Auch: GGUF-Format, GGUF-Datei

Dateiformat für quantisierte Sprachmodelle, das lokale Ausführung mit Tools wie llama.cpp oder Ollama ermöglicht

→ Lokale KI-Modelle: Konzepte und Anforderungen

Golden Share

Auch: Goldene Aktie, Special Share, Spezielle Aktie, Vetorecht-Aktie

Spezielle Aktie die dem Besitzer Vetorechte bei wichtigen Unternehmensentscheidungen gibt - oft nutzt sie der Staat um Kontrolle zu behalten

GPU

Auch: Grafikprozessor, Graphics Processing Unit

Prozessor, der viele einfache Berechnungen parallel ausführt und dadurch für Sprachmodell-Inferenz besonders geeignet ist

→ Lokale KI-Modelle: Konzepte und Anforderungen

Halluzination

Auch: Hallucination, KI-Halluzination

Plausibel klingende, aber faktisch falsche Information, die ein Sprachmodell generiert

→ Wie ein Sprachmodell funktioniert

Hochrisiko-KI

Auch: High-Risk AI, Hochrisiko-KI-System

KI-System, das laut AI Act erhebliche Risiken für Sicherheit oder Grundrechte birgt und deshalb strengen Pflichten unterliegt - Hochrisiko ist eine Eigenschaft des Einsatzes, nicht der Technologie

Inferenz

Auch: Inference

Nutzung eines trainierten Sprachmodells zur Antwort-Generierung, ohne dass sich das Modell dabei verändert

→ Wie ein Sprachmodell funktioniert

Interoperabilität

Auch: Interoperability, Interoperable Systeme

Fähigkeit unterschiedlicher Systeme, Informationen auszutauschen und diese im jeweiligen Zusammenhang sinnvoll zu verwenden

IP-Adresse

Auch: IP, Internet Protocol Address, IP Address, IPv4, IPv6, Öffentliche IP, Private IP

Eindeutige Nummer die jedes Gerät im Netzwerk identifiziert - wie eine Postadresse für Computer

→ IP-Adressen und Ports: Das Fundament für Self-Hosting

KI-Evaluation

Auch: AI Evaluation, AI Evaluation and Testing, LLM Evaluation, LLM-Evaluation

Systematische Bewertung der Eigenschaften, Ergebnisse und des Verhaltens eines KI-Systems anhand festgelegter Kriterien

Komposita

Auch: Kompositum, Zusammengesetzte Wörter

Zusammengesetzte Wörter, die von Tokenizern häufig in mehrere Fragmente zerlegt werden - im Deutschen besonders relevant

→ Prompts: Warum Formulierungen die Antwort verändern

Kontextfenster

Auch: Context Window, Kontext-Länge, Context Length

Maximale Anzahl Token, die ein Sprachmodell gleichzeitig verarbeiten kann

→ Wie ein Sprachmodell funktioniert

Künstliche Intelligenz

Auch: KI, AI, Artificial Intelligence

Oberbegriff für Verfahren, die Aufgaben automatisieren, die zuvor überwiegend von Menschen ausgeführt wurden

→ Künstliche Intelligenz als Oberbegriff

Legacy-Modernisierung

Auch: Legacy Modernization, Legacy-System-Modernisierung, Application Modernization

Gezielte Veränderung eines bestehenden Systems oder seiner Umgebung, um aktuelle technische oder organisatorische Anforderungen besser zu erfüllen

Legacy-System

Auch: Legacy System, Altsystem

Bestehendes, meist länger genutztes System, dessen Weiterbetrieb, Veränderung oder Ablösung durch technische oder organisatorische Abhängigkeiten erschwert sein kann

Lokales Modell

Auch: Local Model, On-Premise-Modell

Sprachmodell, das auf eigener Hardware läuft, statt über eine Cloud-API eines Anbieters angesprochen zu werden

→ Lokale KI-Modelle: Konzepte und Anforderungen

Lösungsarchitektur

Auch: Solution Architecture, Solution-Architektur

Architektur einer konkreten technischen oder technisch-organisatorischen Lösung für eine abgegrenzte Problemstellung oder Menge von Anforderungen

Low-Tech

Auch: Low Tech, Low Technology, Low-Tech-Ansatz

Technischer Gestaltungsansatz, der einen tatsächlichen Bedarf mit einer möglichst angemessenen, verständlichen, langlebigen und beherrschbaren Lösung erfüllt

Lua

Auch: Lua-Programmiersprache, Lua 5.1, LuaJIT

Schlanke einbettbare Programmiersprache aus Brasilien - entwickelt an der Uni ohne Corporate-Finanzierung

Neuronales Netz

Auch: Neural Network, Künstliches Neuronales Netz

Mathematische Funktion mit trainierbaren Gewichten, die Eingabe-Werte schrittweise in Ausgabe-Werte transformiert

→ Wie ein Sprachmodell funktioniert

Offenes Datenformat

Auch: Open Data Format, Offenes Format, Open Format

Datenformat, dessen technische Struktur und Bedeutung ausreichend öffentlich dokumentiert sind, sodass unabhängige Implementierungen Daten erzeugen, lesen und verarbeiten können

Parameter

Auch: Modell-Parameter, Gewichte, Weights

Trainierbare Zahlen-Werte im neuronalen Netz, die das Verhalten eines Sprachmodells bestimmen

→ Wie ein Sprachmodell funktioniert

Policy as Code

Auch: PaC, Policy-as-Code, Richtlinien als Code, Maschinenlesbare Richtlinien

Formalisierung von Regeln und Richtlinien in maschinenlesbarer Form, sodass ihre Einhaltung automatisiert ausgewertet werden kann

PRISM

Auch: PRISM-Programm, NSA PRISM, US-5334

Geheimes NSA-Überwachungsprogramm, das auf Grundlage von Section-702-Anordnungen standardisierten Zugriff auf Daten von US-Tech-Konzernen ermöglicht

Probabilistisch

Auch: Probabilistic, Probabilistisches System, Probabilistic System

Eigenschaft eines Modells oder Systems, bei dem Wahrscheinlichkeiten Bestandteil der Berechnung oder Beschreibung möglicher Ergebnisse sind

Prompt

Auch: Eingabe, User Prompt

Text-Eingabe, die den Startpunkt der Berechnung eines Sprachmodells bildet

→ Prompts: Warum Formulierungen die Antwort verändern

Prompt Engineering

Auch: Prompt-Gestaltung, Promptgestaltung

Gezieltes Formulieren von Prompts, um die Wahrscheinlichkeit einer passenderen Modellantwort zu erhöhen

→ Prompts: Warum Formulierungen die Antwort verändern

Prompt Injection

Auch: Prompt-Injektion

Im Kontext platzierter, gegenläufiger Hinweis, der mit System-Prompt oder Nutzer-Absicht um dieselbe Wahrscheinlichkeitsverteilung konkurriert

→ Prompts: Warum Formulierungen die Antwort verändern

Quantisierung

Auch: Quantization, Modell-Quantisierung

Reduzierung der Zahlengenauigkeit von Parametern, um Speicherbedarf und Rechenaufwand eines Modells zu senken

→ Lokale KI-Modelle: Konzepte und Anforderungen

RAM

Auch: Arbeitsspeicher, Random Access Memory, Hauptspeicher

Schneller, flüchtiger Arbeitsspeicher eines Computers, der Modell-Parameter für die Verarbeitung durch die CPU bereithält

→ Lokale KI-Modelle: Konzepte und Anforderungen

Resilienz

Auch: Resilience, System Resilience, Systemresilienz

Fähigkeit eines Systems, unter Störungen und Veränderungen wesentliche Funktionen zu erhalten, wiederherzustellen oder angepasst fortzuführen

RSS

Auch: RSS-Feed, Really Simple Syndication, Rich Site Summary, Feed, Atom-Feed, Web-Feed

Standardisiertes Format um Inhalte von Websites zu abonnieren - ohne auf Plattform-Algorithmen angewiesen zu sein

Schnittstelle

Auch: Interface, System Interface

Definierter Übergang zwischen Systemen oder Systembestandteilen, an dem relevante Eigenschaften, Wechselwirkungen oder Beziehungen festgelegt werden

Self-Attention

Auch: Selbst-Aufmerksamkeit, Attention-Mechanismus

Mechanismus, der jeden Token mit jedem anderen Token im Kontext in Beziehung setzt, um dessen Bedeutung zu bestimmen

→ Wie ein Sprachmodell funktioniert

Self-Hosting

Auch: Self Hosting, Selbsthosting, Eigenbetrieb

Betrieb eines digitalen Dienstes oder Systems unter eigener technischer und organisatorischer Verantwortung

Shadow Ban

Auch: Schattensperrung, Unsichtbare Sperrung, Reichweiten-Beschränkung, Algorithmus-Filter, Versteckte Zensur, Shadowban

Deine Beiträge bleiben online, werden aber kaum noch anderen Leuten angezeigt - ohne dass du davon erfährst

Sprachmodell

Auch: LLM, Large Language Model, Language Model

Neuronales Netz, das auf Textverarbeitung spezialisiert ist und Sprache als Wahrscheinlichkeitsberechnung verarbeitet

→ Wie ein Sprachmodell funktioniert

SSD

Auch: Solid State Drive, Festkörperspeicher, Flash-Speicher, NVMe SSD, SATA SSD

Speicher ohne bewegliche Teile - schneller und robuster als alte Festplatten aber mit begrenzter Lebensdauer

System-Prompt

Auch: System Prompt, System-Instruktion

Instruktions-Text, der vor der Nutzer-Eingabe zum Modell gesendet wird und einen Rahmen setzt, ohne ihn zu erzwingen

→ Prompts: Warum Formulierungen die Antwort verändern

Systemanalyse

Auch: Systems Analysis, System Analysis

Strukturierte Untersuchung eines Systems, seiner Eigenschaften und Zusammenhänge als Grundlage für technische Entscheidungen

Systemarchitektur

Auch: Systems Architecture, System Architecture

Grundlegende Struktur eines Systems mit seinen Elementen, Beziehungen, Schnittstellen und den Prinzipien, nach denen es aufgebaut ist

Systemintegration

Auch: Systems Integration, System Integration

Verbindung unterschiedlicher Komponenten oder Systeme zu einem zusammenarbeitenden Gesamtsystem

Tech Foundation

Auch: Technology Foundation, Software Foundation, Open-Source-Stiftung, Tech-Stiftung, Foundation

Organisation die Open-Source-Projekte verwaltet - oft finanziert und kontrolliert von großen Tech-Konzernen

Temperatur

Auch: Temperature, Sampling-Temperatur

Einstellung, die steuert, wie vorhersehbar oder variantenreich ein Sprachmodell Token auswählt

→ Prompts: Warum Formulierungen die Antwort verändern

Token

Auch: Tokens, Sprachmodell-Token

Kleinste Texteinheit, mit der ein Sprachmodell rechnet - Wortteil, Wort oder Zeichenfolge

→ Wie ein Sprachmodell funktioniert

Tokenisierung

Auch: Tokenizing, Tokenizer

Zerlegung von Text in Token, bevor ein Sprachmodell ihn verarbeiten kann

→ Prompts: Warum Formulierungen die Antwort verändern

Training

Auch: Modell-Training, Pretraining

Prozess, bei dem Parameter eines neuronalen Netzes anhand von Beispieldaten angepasst werden

→ Wie ein Sprachmodell funktioniert

Transformer

Auch: Transformer-Architektur, Transformer-Modell

Neuronale Netz-Architektur, die Token über Self-Attention in Beziehung setzt und die Grundlage aktueller Sprachmodelle bildet

→ Wie ein Sprachmodell funktioniert

Transparenzpflicht

Auch: Transparenzpflichten, Kennzeichnungspflicht

AI-Act-Vorgabe, wonach bestimmte KI-Systeme oder ihre Ergebnisse für Menschen als solche erkennbar sein müssen

Venture Capital

Auch: VC, Risikokapital, Wagniskapital, Kapitalgeber, Investoren, Beteiligungskapital

Investoren geben Millionen an Startups und erhalten dafür Unternehmensanteile und Mitspracherechte

Verifikation und Validierung

Auch: Verification and Validation, Verification & Validation, V&V

Prüfung, ob ein System festgelegte Anforderungen erfüllt und für seinen vorgesehenen Einsatzzweck geeignet ist

VRAM

Auch: Grafikspeicher, Video RAM

Der GPU direkt zugeordnete Speicher, der bei GPU-beschleunigter Inferenz die maximale Modellgröße begrenzt

→ Lokale KI-Modelle: Konzepte und Anforderungen