Modellprofile, Kontext und Extra JSON

Was ein Profil festlegt

Ein Modelldatensatz in Sapphire I.C.D.S. beschreibt technische Fähigkeiten, ein Profil hingegen deren konkrete Nutzung. Für dasselbe Modell können beispielsweise ein strenges Supportprofil, ein knappes Klassifikationsprofil und ein ausführliches Analyseprofil angelegt werden. Jedes besitzt eine eigene Systemanweisung, Antwortlänge und ein eigenes Kontextbudget; alle Werte müssen jedoch innerhalb der Grenzen des registrierten Modells bleiben.

Wählen Sie unter AI Settings → Profiles Anbieter und Modell. Beide müssen zusammengehören: Ein Profil kann ein Modell nicht mit einem anderen Anbieter verbinden. Profile key ist eine stabile Maschinenkennung wie support_ru. Verwenden Sie weder Mitarbeiternamen noch eine vorübergehende Aufgabennummer. Ein aktiviertes Profil steht zur Auswahl; das Standardprofil wird verwendet, wenn der Client keinen bestimmten Datensatz angibt. Setzen Sie den Standard erst nach der Prüfung.

Systemanweisung und Antwortformat

System prompt definiert Rolle und dauerhafte Regeln des gewählten Modus. Formulieren Sie ihn als prüfbaren Vertrag: Aufgabenbereich, Sprache, Ausgabeformat, Einschränkungen und Abschlusskriterium. API-Keys, personenbezogene Daten, die gesamte Wissensbasis oder Anweisungen, die ein Bediener für jede Anfrage ändern muss, gehören nicht in dieses Feld.

Zur Laufzeit beginnt das System mit der Systemanweisung des Profils und fügt aktivierte, von der Verwaltung gepflegte Anweisungen als verbindliche Unternehmensrichtlinie hinzu. Sitzungshistorie und Zusammenfassung bleiben Daten. Gedächtnis und Wissen werden nicht vollständig vorgeladen; das Modell ruft sie bei Bedarf über freigegebene Tools ab. Ein längerer System Prompt ersetzt daher nicht die Konfiguration von Anweisungen, Gedächtnis, Wissen oder Toolrechten.

Tragen Sie unter Response format nur eine Form ein, die Adapter und Modell verstehen. Reiner Text ist ein sicherer Ausgangspunkt für normale Dialoge. Wird strukturiertes JSON benötigt, prüfen Sie zuerst die Unterstützung durch Modell und Verbraucher: Ein Profilwert allein garantiert keine Einhaltung Ihres fachlichen Schemas.

Reasoning, Temperature und Top P

Verwenden Sie Reasoning effort nur bei Modellen, die diesen Modus dokumentieren. Kopieren Sie keinen Wert aus einer anderen Modellfamilie. Temperature und Top P besitzen getrennte Schalter. Ist ein Parameter deaktiviert, soll das Profil ihn dem Anbieter nicht aufzwingen; das ist besser als ein versehentlich gesendeter Nullwert. Meist reicht eine Methode zur Steuerung der Variabilität, während die andere deaktiviert bleibt. Faktenextraktion und Klassifikation benötigen gewöhnlich stabilere Einstellungen, Variantenbildung kann freier sein; der zulässige Bereich ist jedoch immer in der Modelldokumentation zu prüfen.

Berechnung des Kontexts

Der Modelldatensatz enthält drei Obergrenzen: Gesamtkontext, maximale Eingabe und maximale Ausgabe. Ein Profil definiert vier Betriebswerte. Max output tokens begrenzt eine Antwort. Active context tokens ist das Budget des Sapphire-Agenten. Compaction reserve tokens ist der für eine sichere Kompaktierung reservierte Anteil. Der automatische Grenzwert lautet:

active_context_tokens - compaction_reserve_tokens

Die Reserve muss positiv und strikt kleiner als das aktive Budget sein. Der aktive Kontext darf die maximale Eingabe nicht überschreiten, das Antwortlimit nicht die maximale Ausgabe, und ihre Summe muss in den Gesamtkontext passen. Bei einem Kontext von 128000, einer Eingabe von 120000 und einer Ausgabe von 8192 könnten beispielsweise ein aktives Budget von 64000, eine Reserve von 16000 und ein Antwortlimit von 4096 gesetzt werden. Der Kompaktierungsgrenzwert wäre 48000. Das ist ein Rechenbeispiel, keine allgemeine Empfehlung.

Maximum agent rounds begrenzt Modell-Tool-Zyklen, Maximum agent runtime die gesamte Laufzeit in Sekunden. 0 bedeutet nur, dass dieser Profilgrenzwert fehlt; Anbieterlimits, Benutzerabbruch, Schutz vor fehlendem Fortschritt und Systemgrenzen bleiben bestehen. Verwenden Sie für kritische oder kostenintensive Szenarien endliche Werte und messen Sie das reale Verhalten, bevor Sie diese erhöhen.

Streaming und Modellwechsel

Der Streaming-Schalter definiert die bevorzugte Auslieferung der Antwort. Er macht ein synchrones API nicht streamingfähig, wenn der Anbieter dies nicht unterstützt. Legen Sie bei einem Modellwechsel ein neues Profil an oder berechnen Sie alle Budgets sorgfältig neu. Ein an eine Anbieter-Modell-Kombination gebundener Kompaktierungszustand darf nicht als auf eine andere Kombination übertragbar angesehen werden.

Extra JSON ohne versteckte Überraschungen

Extra JSON ist ein optionales JSON-Objekt für zusätzliche, vom jeweiligen Anbieter dokumentierte Parameter. Es ist ein Erweiterungspunkt und kein zweites Profil. Beginnen Sie mit einem leeren Objekt:

{}

Wenn das API tatsächlich eine weitere Option benötigt, fügen Sie nur diese hinzu. Ein neutrales Strukturbeispiel:

{
  "metadata": {
    "integration": "sapphire-docs"
  }
}

Das Beispiel ist nur zulässig, wenn das gewählte API metadata unterstützt. JSON muss ein Objekt mit doppelten Anführungszeichen, ohne Kommentare und ohne abschließende Kommata sein. Secret, Authorization-Wert, Base URL, Model Key, Benutzerkennungen oder vertrauliche Inhalte gehören nicht hinein.

Duplizieren Sie in Extra JSON keine Kernfelder wie Modell, Tools, Toolauswahl, Eingabenachrichten, Temperature, Top P oder max output tokens. Konflikte erschweren die Diagnose und können das Verhalten nach einem Adapter-Update verändern. enable_tools ist kein Weg zur Umgehung der Toolsteuerung, und die verwaltete Kontextpolitik darf nicht durch eine beliebige Option ersetzt werden. Tools werden durch Serverkatalog, Gruppenrechte und Sitzungsauswahl freigegeben.

Profil prüfen

1. Speichern Sie das Profil aktiviert, aber noch nicht als Standard.
2. Erstellen Sie eine neue Sitzung und wählen Sie das Profil ausdrücklich.
3. Prüfen Sie eine kurze Antwort, die Systemanweisung und das gewünschte Format.
4. Führen Sie einen langen Test durch und beobachten Sie Grenzwert und Kompaktierung.
5. Prüfen Sie Runden- und Zeitlimits, sofern sie nicht null sind.
6. Ergänzen Sie Extra JSON jeweils um einen Schlüssel und wiederholen Sie den Test.
7. Setzen Sie das Profil erst danach als Standard.

Wird eine Anfrage abgelehnt, leeren Sie zuerst Extra JSON, deaktivieren Sie optionale Sampling-Parameter und wiederholen Sie den Minimaltest. Prüfen Sie danach Grenzen sowie die Unterstützung von Reasoning und Response Format. Diese Reihenfolge trennt Fehler der Grundregistrierung von inkompatiblen Zusatzoptionen.

Größe des Budgets wählen

Beginnen Sie mit einem gemessenen Arbeitsfall, nicht mit dem Modellmaximum. Berücksichtigen Sie Systemanweisung, typische Historie, erwartete Toolergebnisse und Reserve für die Antwort. Ein unnötig großer aktiver Kontext erhöht Kosten und Verarbeitungszeit, ein zu kleiner verursacht häufige Kompaktierungen. Die Reserve muss eine gültige Zusammenfassung vor der harten Grenze ermöglichen und darf daher nicht auf einen praktisch bedeutungslosen Wert reduziert werden.

Trennen Sie Profile, wenn Aufgaben sich deutlich in Länge, Reasoning oder Laufzeit unterscheiden. Ein Universalprofil ist schwerer zu prüfen und sicher zu ändern. Dokumentieren Sie den Einsatzzweck, codieren Sie aber weder Routing noch Rechte im System Prompt: Profilauswahl und Toolfreigabe werden von anderen Ebenen gesteuert.