• Docs
  • Talk to an expert
Blog
Blog
BlogProduktFallstudienNachrichtenInsights
Blog

AI-Agent-Sandbox vs. Produktivumgebung: Wo sollten die Agenten laufen?

Cloud-AnwendungsplattformcloudBereitstellungKI-AgentenDatenVorschau-Umgebungen
16 November 2026
Teilen
Diese Seite wurde von unseren Experten auf Englisch verfasst und mithilfe einer KI übersetzt, um einen schnellen Zugriff zu ermöglichen! Die Originalversion findest du hier.

Hinweis: Preise und Features können sich seit der Veröffentlichung geändert haben. Aktuelle Details findest du in der Dokumentation der jeweiligen Anbieter.

Wo ein KI-Agent ausgeführt werden sollte, hängt davon ab, was der Agent tut.

  • Ein Agent, der selbst programmierte Programme oder Programme von Nutzern ausführt, gehört in eine Sandbox: eine isolierte, kurzlebige Instanz ohne Zugriff auf Produktionssysteme.
  • Ein Agent, der Anwendungsdaten liest oder ändert, sollte zunächst in einer produktionsähnlichen Umgebung getestet und anschließend in der Produktivumgebung mit genau den Berechtigungen ausgeführt werden, die seine Aufgabe erfordert.

Viele Teams benötigen beides: eine Sandbox zum Ausführen von Programmen und eine produktionsähnliche Umgebung, um Agenten vor ihrer Inbetriebnahme mit echten Diensten zu testen.

Was ist eine KI-Agenten-Sandbox und wie unterscheidet sie sich von der Produktivumgebung?

  • Eine Sandbox ist eine isolierte, kurzlebige Umgebung zum Ausführen von Programmen, die der Agent schreibt oder herunterlädt. Spezielle Sandbox-Anbieter wie E2B und Vercel Sandbox betreiben jede Sandbox in einer eigenen Firecracker-Mikro-VM mit eigenem Kernel. Eine Sandbox startet ohne Zugriff auf die Datenbank der Anwendung und kann einschränken, welche Internetadressen der Agent erreichen darf.
  • Eine Produktionsumgebung ist die Live-Anwendung mit echten Nutzern, echten Daten und echten Zugangsdaten. Alles, was ein Agent dort tut, hat echte Auswirkungen.
  • Eine produktionsähnliche Umgebung (oft als Preview- oder Staging-Umgebung bezeichnet) führt dieselbe Anwendung, dieselben Dienste und dieselbe Konfiguration wie in der Produktivumgebung aus, jedoch getrennt vom Live-System. Fehler dort erreichen die Nutzer nicht, solange die Umgebung ihre eigenen Anmeldedaten verwendet.

Wie unterscheiden sich eine Sandbox, eine produktionsähnliche Umgebung und die Produktivumgebung?

Merkmal

Sandbox

Produktionsähnliche Umgebung

Produktionsumgebung

HauptzweckNicht vertrauenswürdige Programme ausführenAgenten anhand echter Dienste testenEchte Nutzer bedienen
IsolierungOft eine Micro-VM pro SitzungSeparate Kopie der App und der DiensteGemeinsam mit der Live-App genutzt
DatenLeer, sofern du keine Daten hinzufügstTestdaten oder eine KopieLive-Daten
Kosten eines FehlersEine verworfene SandboxEine verworfene TestumgebungEchte Nutzer und betroffene Daten
Typische AgentenCode-Interpreter, ProgrammieragentenAgenten, die gerade erstellt oder geändert werdenGenehmigte Agenten mit eingeschränktem Zugriff

Was kann schiefgehen, wenn ein Agent in der Produktivumgebung läuft?

Die OWASP Top 10 für LLM-Anwendungen 2026 nennt zwei Risiken, die für Agenten am wichtigsten sind. Prompt-Injection (LLM01) bedeutet, dass in Inhalten, die der Agent liest – wie zum Beispiel einer E-Mail, einem Support-Ticket oder einer Webseite – versteckte Anweisungen das Verhalten des Agenten verändern können. Excessive Agency (LLM03) bedeutet, dass ein Agent über mehr Funktionen, Berechtigungen oder Autonomie verfügt, als seine Aufgabe erfordert, sodass eine fehlerhafte oder manipulierte Ausgabe zu einer schädlichen Aktion führt.

In der Praxis führen diese beiden Faktoren zu vier Arten von Fehlern:

  • Zerstörerische Änderungen: Ein Agent mit Schreibzugriff auf eine Produktionsdatenbank kann Datensätze ändern oder löschen.
  • Datenlecks: Ein Agent, der auf jede beliebige Internetadresse zugreifen kann, kann Daten aus dem System nach außen senden.
  • Offenliegende Anmeldedaten: Langfristige API-Schlüssel in der Umgebung des Agenten können ausgelesen und wiederverwendet werden.
  • Ausufernde Kosten: Ein Agent, der in einer Schleife feststeckt, kann immer wieder kostenpflichtige Modell-APIs und Tools aufrufen. OWASP führt dies als unbegrenzten Verbrauch (LLM06) auf.

Wann sollte ein Agent in einer Sandbox laufen?

Typische Fälle sind Code-Interpreter, die Analyse von Dateien, die Nutzer hochladen, Programmier-Agenten, die Pakete installieren und Tests ausführen, sowie Browser-Automatisierung auf unbekannten Websites. In jedem Fall stellt der Code selbst das Risiko dar, daher benötigt der Agent eine Schutzgrenze, die auch dann Bestand hat, wenn der Code bösartig ist.

Spezialisierte Sandbox-Anbieter stellen jeder Sitzung eine eigene Mikro-VM zur Verfügung:

  • E2B führt jede Sandbox in einer eigenen Firecracker-Mikro-VM aus, mit Sitzungen von bis zu 1 Stunde im Hobby-Tarif und 24 Stunden im Pro-Tarif.
  • Vercel Sandbox nutzt ebenfalls Firecracker-Mikro-VMs, und ihre Sandbox-Firewall kann ausgehenden Datenverkehr blockieren und API-Schlüssel zu ausgehenden Anfragen hinzufügen, sodass geheime Daten niemals in der Sandbox verbleiben.
  • AWS Lambda-Mikro-VMs, die im Juni 2026 eingeführt wurden, bieten Isolation auf VM-Ebene für bis zu 8 Stunden pro Sitzung.

Der Nachteil dabei ist, dass eine Sandbox ohne die Daten der Anwendung startet. Der Agent kann nur mit den ihm zur Verfügung gestellten Daten arbeiten – was für nicht vertrauenswürdige Programme sinnvoll ist, aber eine Einschränkung für Agenten darstellt, deren Aufgabe es ist, mit Anwendungsdaten zu arbeiten.

Upsun Cloud bietet keine MicroVM-Sandbox an. Seine Task-Container nutzen dieselbe Container-Isolation wie Anwendungen, und wir empfehlen, nicht vertrauenswürdige Programme innerhalb der Task in Bubblewrap auszuführen. Für eine Isolation auf VM-Ebene kann eine Task einen Sandbox-Anbieter aufrufen.

Wann sollte ein Agent in einer produktionsähnlichen Umgebung laufen?

Eine Sandbox zeigt, ob das Programm eines Agenten läuft. Sie zeigt jedoch nicht, wie sich der Agent im Umgang mit dem echten Datenbankschema, den echten Diensten und realistischen Daten verhält. Eine produktionsähnliche Umgebung tut dies, da sie dieselbe Anwendung und dieselben Dienste wie in der Produktivumgebung ausführt, ohne dass echte Nutzer davon betroffen sind.

Verwende eine solche Umgebung immer dann, wenn sich etwas am Agenten ändert:

  • ein neuer Agent oder eine neue Aufgabe für einen bestehenden
  • eine neue Eingabeaufforderung, ein neues Modell oder ein neues Tool
  • eine Änderung an den Daten oder Diensten, auf die der Agent zugreifen kann

Um die Testumgebung sicher zu halten:

  • Verwende separate Zugangsdaten. Weise der Testumgebung eigene API-Schlüssel zu, idealerweise Testschlüssel für Zahlungs- und E-Mail-Anbieter.
  • Deaktiviere echte Nebenwirkungen. Unterbinde ausgehende E-Mails, Zahlungen und Nachrichten oder leite sie an Test-Endpunkte weiter.
  • Entscheide, welche Daten verwendet werden sollen. Wenn die Umgebung eine Kopie der Daten in der Produktivumgebung enthält, entferne personenbezogene Daten, bevor Personen oder Agenten damit arbeiten.
  • Überprüfe, was der Agent getan hat. Sieh dir seine Protokolle und die vorgenommenen Änderungen an, bevor du ihn in die Produktivumgebung überführst.

Wie schränkst du die Handlungsmöglichkeiten eines Agenten in der Produktivumgebung ein?

Die OWASP-Leitlinien zu übermäßiger Handlungsfreiheit lassen sich auf einen Gedanken reduzieren: Verlasse dich nicht darauf, dass sich das Modell korrekt verhält. Baue die Beschränkungen in die umgebenden Systeme ein.

  1. Schränke den Datenzugriff ein. Verbinde den Agenten nur mit den Diensten, die er benötigt. Verwende nach Möglichkeit einen Datenbankbenutzer mit Lesezugriff oder Zugriff auf bestimmte Tabellen.
  2. Verwende kurzlebige Anmeldedaten. Bevorzuge Token, die nach wenigen Minuten ablaufen, gegenüber API-Schlüsseln, die monatelang gültig sind.
  3. Schränke den ausgehenden Datenverkehr ein. Erlaube Verbindungen nur zu den APIs, die der Agent benötigt, wie zum Beispiel dem Modellanbieter und einem internen Dienst.
  4. Lass eine Person Aktionen mit weitreichenden Auswirkungen genehmigen. Zahlungen, Löschungen und Nachrichten an Kunden sollten erst nach Genehmigung erfolgen.
  5. Begrenze Laufzeit und Kosten. Lege ein Timeout fest, das nahe an der erwarteten Laufzeit liegt, sowie ein Budget für Modellaufrufe.
  6. Protokolliere jeden Lauf. Zeichne auf, was den Lauf ausgelöst hat, was der Agent getan hat, wie lange es gedauert hat und wie viele Tokens er verbraucht hat.

Wie lässt sich dieses Muster auf der Upsun Cloud umsetzen?

Auf der Upsun Cloud läuft ein Agent als Task-Container, wird in einer Branch-Umgebung getestet und gelangt über einen Git-Merge in die Produktivumgebung, wobei an beiden Orten dieselbe Konfiguration verwendet wird.

1. Definiere den Agenten als Aufgabe

Ein Task-Container wird unter tasks: in der Datei .upsun/config.yaml deklariert. In seinen Beziehungen sind die einzigen Dienste aufgeführt, auf die er zugreifen und die er ausführen kann. run.timeout stoppt Läufe, die zu lange dauern.

tasks:
  ticket-triage:
    type: "python:3.14"
    hooks:
      build: "pip install -r requirements.txt"
    relationships:
      database: {}
    run:
      command: "python agent/triage.py"
      timeout: 1800

 
services:
  database:
    type: "postgresql:18"

Jeder Lauf wird als Aktivität mit einer ID, einem Status und Protokollen aufgezeichnet. Schreibe den Agenten als einzelnes idempotentes Skript, damit ein Lauf sicher erneut gestartet werden kann, falls er fehlschlägt oder durch ein Deployment unterbrochen wird.

2. Teste ihn in einer Branch-Umgebung

Jede aktive Branch-Umgebung führt die in der Datei .upsun/config.yaml dieses Branches definierten Apps, Dienste und Aufgaben in eigenen Containern aus, getrennt von der Produktivumgebung.

3. Halte Produktionsschlüssel aus den Branches fern

Lege den Produktionsschlüssel ausschließlich in der Produktivumgebung fest und markiere ihn als nicht vererbbar, damit die Zweigumgebungen ihn niemals erhalten. Weise jeder Testumgebung einen eigenen Schlüssel zu. 

# Production key: stays on production, not passed to branch environments
upsun variable:create --level environment -e <production-environment> --name env:MODEL_API_KEY --value "<production key>" --sensitive true --visible-build false --inheritable false
# Test key: set on each environment where the agent runs tests
upsun variable:create --level environment -e <test-environment> --name env:MODEL_API_KEY --value "<test key>" --sensitive true --visible-build false

Informationen zu den einzelnen Optionen findest du unter Variablen festlegen.

4. Beschränke, wer was tun darf

  • Personen: Upsun-Rollen werden pro Umgebungstyp festgelegt, sodass ein Entwickler in Entwicklungsumgebungen als Contributor und in der Produktivumgebung als Viewer fungieren kann.
  • Die Anwendung: Mithilfe von Workload-Berechtigungen kann eine App über die Upsun-API eine bestimmte Aufgabe starten, wobei ein Token verwendet wird, das standardmäßig 60 Sekunden und maximal 900 Sekunden gültig ist.
  • Ausgehender Datenverkehr: Upsun-Cloud-Apps können eine Zulassungsliste für die ausgehende Firewall definieren. Task-Container unterstützen noch keine Einschränkungen für den ausgehenden Datenverkehr; beschränke daher die Anmeldedaten des Agenten und führe nicht vertrauenswürdige Programme innerhalb von Bubblewrap oder über einen Sandbox-Anbieter aus.
  • Nicht vertrauenswürdiges Programm: Führe es innerhalb der Aufgabe in Bubblewrap aus oder leite es an einen Sandbox-Anbieter weiter.

5. Füge einen Genehmigungsschritt für Maßnahmen mit erheblichen Auswirkungen hinzu

Aufgaben können nicht pausieren, während sie auf eine Person warten. Der Agent speichert die vorgeschlagene Aktion in einer Datenbank und beendet den Vorgang. Sobald jemand sie genehmigt, startet die App eine Folgeaufgabe, die die Aktion ausführt.

6. Zusammenführen für die Bereitstellung

Durch das Zusammenführen wird die Produktivumgebung neu bereitgestellt, wodurch alle dort bereits laufenden Aufgaben gestoppt werden. Daher sollte der Agent den Fortschritt speichern und ordnungsgemäß beenden, wenn er ein SIGTERM-Signal erhält. 
 

Häufig gestellte Fragen

Ist eine Staging-Umgebung dasselbe wie eine Sandbox?

Nein. Eine Sandbox isoliert nicht vertrauenswürdigen Code von allem anderen, einschließlich der Anwendung. Eine Staging- oder Preview-Umgebung ist eine separate Kopie der Anwendung und ihrer Dienste, die dazu dient, Änderungen zu testen, bevor sie in die Produktivumgebung gelangen. Ein Agent kann beides benötigen.

Sollten Programmier-Agenten in einer Sandbox laufen?

Der von ihnen programmierte Code und die von ihnen ausgeführten Tests sollten dies, da dieser Code noch nicht überprüft wurde. Ihre Änderungen sollten erst nach einer Überprüfung in der Produktivumgebung gelangen. Upsun Dispatch, ein separates Upsun-Produkt für Programmier-Agenten, eröffnet für jede Änderung einen Pull-Request, und eine Person ist für das Zusammenführen verantwortlich. 

Kann Upsun Cloud nicht vertrauenswürdige Programme ausführen?

Upsun-Cloud-Task-Container nutzen Container-Isolation: Namespaces, Dropped Capabilities, Seccomp, cgroups und Netzwerkisolation. Die Upsun-Dokumentation empfiehlt, nicht vertrauenswürdige Programme innerhalb von Bubblewrap im Task auszuführen. Für eine Isolation auf VM-Ebene pro Lauf solltest du einen dedizierten Sandbox-Anbieter nutzen.

Enthält eine Upsun-Cloud-Branch-Umgebung Produktionsdaten?

Eine neue Umgebung kann bei ihrer Erstellung die Daten ihrer übergeordneten Umgebung klonen, einschließlich Datenbanken und Dateien; die Push-Option `environment.clone_parent_on_create=False` deaktiviert dies. Teams, die Produktionsdaten kopieren, definieren ihr eigenes Bereinigungsskript in einem Deploy-Hook.

Bleiben Sie auf dem Laufenden

Abonnieren Sie unseren monatlichen Newsletter.

Deployments leicht gemacht.
Testen Sie Upsun kostenlos.

Entwickeln Sie mit DispatchDeployen Sie mit Cloud