
Hinweis: Preise und Features können sich seit der Veröffentlichung geändert haben. Aktuelle Details findest du in der Dokumentation der jeweiligen Anbieter.
Wo ein KI-Agent ausgeführt werden sollte, hängt davon ab, was der Agent tut.
Viele Teams benötigen beides: eine Sandbox zum Ausführen von Programmen und eine produktionsähnliche Umgebung, um Agenten vor ihrer Inbetriebnahme mit echten Diensten zu testen.
Merkmal | Sandbox | Produktionsähnliche Umgebung | Produktionsumgebung |
| Hauptzweck | Nicht vertrauenswürdige Programme ausführen | Agenten anhand echter Dienste testen | Echte Nutzer bedienen |
| Isolierung | Oft eine Micro-VM pro Sitzung | Separate Kopie der App und der Dienste | Gemeinsam mit der Live-App genutzt |
| Daten | Leer, sofern du keine Daten hinzufügst | Testdaten oder eine Kopie | Live-Daten |
| Kosten eines Fehlers | Eine verworfene Sandbox | Eine verworfene Testumgebung | Echte Nutzer und betroffene Daten |
| Typische Agenten | Code-Interpreter, Programmieragenten | Agenten, die gerade erstellt oder geändert werden | Genehmigte Agenten mit eingeschränktem Zugriff |
Die OWASP Top 10 für LLM-Anwendungen 2026 nennt zwei Risiken, die für Agenten am wichtigsten sind. Prompt-Injection (LLM01) bedeutet, dass in Inhalten, die der Agent liest – wie zum Beispiel einer E-Mail, einem Support-Ticket oder einer Webseite – versteckte Anweisungen das Verhalten des Agenten verändern können. Excessive Agency (LLM03) bedeutet, dass ein Agent über mehr Funktionen, Berechtigungen oder Autonomie verfügt, als seine Aufgabe erfordert, sodass eine fehlerhafte oder manipulierte Ausgabe zu einer schädlichen Aktion führt.
In der Praxis führen diese beiden Faktoren zu vier Arten von Fehlern:
Typische Fälle sind Code-Interpreter, die Analyse von Dateien, die Nutzer hochladen, Programmier-Agenten, die Pakete installieren und Tests ausführen, sowie Browser-Automatisierung auf unbekannten Websites. In jedem Fall stellt der Code selbst das Risiko dar, daher benötigt der Agent eine Schutzgrenze, die auch dann Bestand hat, wenn der Code bösartig ist.
Spezialisierte Sandbox-Anbieter stellen jeder Sitzung eine eigene Mikro-VM zur Verfügung:
Der Nachteil dabei ist, dass eine Sandbox ohne die Daten der Anwendung startet. Der Agent kann nur mit den ihm zur Verfügung gestellten Daten arbeiten – was für nicht vertrauenswürdige Programme sinnvoll ist, aber eine Einschränkung für Agenten darstellt, deren Aufgabe es ist, mit Anwendungsdaten zu arbeiten.
Upsun Cloud bietet keine MicroVM-Sandbox an. Seine Task-Container nutzen dieselbe Container-Isolation wie Anwendungen, und wir empfehlen, nicht vertrauenswürdige Programme innerhalb der Task in Bubblewrap auszuführen. Für eine Isolation auf VM-Ebene kann eine Task einen Sandbox-Anbieter aufrufen.
Eine Sandbox zeigt, ob das Programm eines Agenten läuft. Sie zeigt jedoch nicht, wie sich der Agent im Umgang mit dem echten Datenbankschema, den echten Diensten und realistischen Daten verhält. Eine produktionsähnliche Umgebung tut dies, da sie dieselbe Anwendung und dieselben Dienste wie in der Produktivumgebung ausführt, ohne dass echte Nutzer davon betroffen sind.
Verwende eine solche Umgebung immer dann, wenn sich etwas am Agenten ändert:
Um die Testumgebung sicher zu halten:
Die OWASP-Leitlinien zu übermäßiger Handlungsfreiheit lassen sich auf einen Gedanken reduzieren: Verlasse dich nicht darauf, dass sich das Modell korrekt verhält. Baue die Beschränkungen in die umgebenden Systeme ein.
Auf der Upsun Cloud läuft ein Agent als Task-Container, wird in einer Branch-Umgebung getestet und gelangt über einen Git-Merge in die Produktivumgebung, wobei an beiden Orten dieselbe Konfiguration verwendet wird.
Ein Task-Container wird unter tasks: in der Datei .upsun/config.yaml deklariert. In seinen Beziehungen sind die einzigen Dienste aufgeführt, auf die er zugreifen und die er ausführen kann. run.timeout stoppt Läufe, die zu lange dauern.
tasks:
ticket-triage:
type: "python:3.14"
hooks:
build: "pip install -r requirements.txt"
relationships:
database: {}
run:
command: "python agent/triage.py"
timeout: 1800
services:
database:
type: "postgresql:18"Jeder Lauf wird als Aktivität mit einer ID, einem Status und Protokollen aufgezeichnet. Schreibe den Agenten als einzelnes idempotentes Skript, damit ein Lauf sicher erneut gestartet werden kann, falls er fehlschlägt oder durch ein Deployment unterbrochen wird.
Jede aktive Branch-Umgebung führt die in der Datei .upsun/config.yaml dieses Branches definierten Apps, Dienste und Aufgaben in eigenen Containern aus, getrennt von der Produktivumgebung.
Lege den Produktionsschlüssel ausschließlich in der Produktivumgebung fest und markiere ihn als nicht vererbbar, damit die Zweigumgebungen ihn niemals erhalten. Weise jeder Testumgebung einen eigenen Schlüssel zu.
# Production key: stays on production, not passed to branch environments
upsun variable:create --level environment -e <production-environment> --name env:MODEL_API_KEY --value "<production key>" --sensitive true --visible-build false --inheritable false
# Test key: set on each environment where the agent runs tests
upsun variable:create --level environment -e <test-environment> --name env:MODEL_API_KEY --value "<test key>" --sensitive true --visible-build falseInformationen zu den einzelnen Optionen findest du unter Variablen festlegen.
Aufgaben können nicht pausieren, während sie auf eine Person warten. Der Agent speichert die vorgeschlagene Aktion in einer Datenbank und beendet den Vorgang. Sobald jemand sie genehmigt, startet die App eine Folgeaufgabe, die die Aktion ausführt.
Durch das Zusammenführen wird die Produktivumgebung neu bereitgestellt, wodurch alle dort bereits laufenden Aufgaben gestoppt werden. Daher sollte der Agent den Fortschritt speichern und ordnungsgemäß beenden, wenn er ein SIGTERM-Signal erhält.
Ist eine Staging-Umgebung dasselbe wie eine Sandbox?
Nein. Eine Sandbox isoliert nicht vertrauenswürdigen Code von allem anderen, einschließlich der Anwendung. Eine Staging- oder Preview-Umgebung ist eine separate Kopie der Anwendung und ihrer Dienste, die dazu dient, Änderungen zu testen, bevor sie in die Produktivumgebung gelangen. Ein Agent kann beides benötigen.
Sollten Programmier-Agenten in einer Sandbox laufen?
Der von ihnen programmierte Code und die von ihnen ausgeführten Tests sollten dies, da dieser Code noch nicht überprüft wurde. Ihre Änderungen sollten erst nach einer Überprüfung in der Produktivumgebung gelangen. Upsun Dispatch, ein separates Upsun-Produkt für Programmier-Agenten, eröffnet für jede Änderung einen Pull-Request, und eine Person ist für das Zusammenführen verantwortlich.
Kann Upsun Cloud nicht vertrauenswürdige Programme ausführen?
Upsun-Cloud-Task-Container nutzen Container-Isolation: Namespaces, Dropped Capabilities, Seccomp, cgroups und Netzwerkisolation. Die Upsun-Dokumentation empfiehlt, nicht vertrauenswürdige Programme innerhalb von Bubblewrap im Task auszuführen. Für eine Isolation auf VM-Ebene pro Lauf solltest du einen dedizierten Sandbox-Anbieter nutzen.
Enthält eine Upsun-Cloud-Branch-Umgebung Produktionsdaten?
Eine neue Umgebung kann bei ihrer Erstellung die Daten ihrer übergeordneten Umgebung klonen, einschließlich Datenbanken und Dateien; die Push-Option `environment.clone_parent_on_create=False` deaktiviert dies. Teams, die Produktionsdaten kopieren, definieren ihr eigenes Bereinigungsskript in einem Deploy-Hook.