Cloud-Modell

Was ist ein Cloud-Modell?

Ein Cloud-Modell läuft auf der Infrastruktur eines Anbieters - Anfragen werden über eine API an dessen Server gesendet, dort verarbeitet und die Antwort zurückgesendet. Im Unterschied zum lokalen Modell muss der Nutzer die zugrunde liegende Infrastruktur nicht selbst betreiben oder warten, gibt dafür aber Anfragen aus der Hand.

Wie es funktioniert

Eine Anfrage wird über das Internet an die API eines Anbieters gesendet. Dort läuft die Inferenz auf spezialisierter KI-Hardware (häufig GPU-Cluster), die weit über das hinausgeht, was gewöhnliche Endgeräte leisten. Die Antwort wird über dieselbe Verbindung zurückgesendet - meist tokenbasiert abgerechnet.

Warum die Wahl zwischen Cloud und lokal eine Abwägung ist

Cloud-Modelle erlauben Zugriff auf deutlich größere und leistungsfähigere Modelle, als sie lokal betrieben werden könnten, ohne eigene Hardware-Investition. Der Kompromiss: Anfragen verlassen die eigene Infrastruktur, eine Internetverbindung ist zwingend erforderlich, und die Nutzung unterliegt den Bedingungen und der Preisgestaltung des jeweiligen Anbieters.

Cloud-Modell bedeutet dabei nicht automatisch unsicherer als ein lokales Modell - viele Anbieter betreiben deutlich aufwendigere Sicherheitsmaßnahmen als ein einzelner Nutzer lokal umsetzen könnte. Die relevante Frage ist eher, wessen Kontrolle über die Daten - eigene Infrastruktur oder Anbieter-Infrastruktur - bevorzugt wird, nicht pauschal, welche Variante technisch sicherer ist.

Warum Cloud-Modelle praktische Auswirkungen haben

• Leistungsfähigkeit: Zugriff auf Modellgrößen, die auf typischer Endgeräte-Hardware nicht lokal lauffähig wären
• Abhängigkeit: Nutzung setzt eine Internetverbindung und die Verfügbarkeit des Anbieters voraus
• Kosten: Meist tokenbasierte Abrechnung statt einmaliger Hardware-Investition

Typisches Beispiel

Eine Anfrage an ein großes, nicht lokal betreibbares Modell wird über eine API gesendet, auf Servern des Anbieters berechnet und innerhalb weniger Sekunden zurückgeliefert - unabhängig von der eigenen Hardware-Ausstattung.

Weiterführend

Grundlagen → Lokale KI-Modelle: Konzepte und Anforderungen

Verwandte Begriffe → Lokales Modell
→ Inferenz