Best Practices für die Verwendung von Richtlinien für semantische Governance

Eine effektive Governance beruht auf genauen, klaren und vollständigen Beschreibungen der Tools und ihrer Parameter. Agentische Systeme, einschließlich der Agenten selbst und Governance-Ebenen wie semantische Governance-Richtlinien, benötigen mehr Details als ein Mensch, um die Anwendbarkeit der verfügbaren Tools zu verstehen.

Toolbeschreibungen optimieren

Verwenden Sie klare Beschreibungen der MCP-Tools und der von diesen Tools benötigten Parameter.

  • Unzureichende Toolbeschreibung: „Nach Artikeln suchen.“
  • Effektive Toolbeschreibung: „Durchsucht den Inhaltekatalog nach Keyword, Besetzung, Genre oder Format. Verwende diese Option, wenn der Nutzer sehen möchte, welche Filme oder Serien verfügbar sind. Gibt die zehn wichtigsten Elemente zurück, sortiert nach Relevanz.“

Einschränkungen für Beschreibungen beachten

Das semantische Governance-System erzwingt die folgenden Längenbeschränkungen für Beschreibungen:

Beschreibungselement Gilt für Längenbeschränkung
Tool Der MCP-Server oder eine andere Entität, die Tools bereitstellt 1.000 Zeichen
Aktion Ein einzelnes Tool auf dem MCP-Server oder ein Funktionsaufruf, der für Ihren Agenten verfügbar ist 750 Zeichen
Parameter Ein Parameter, der in einem Tool- oder Funktionsaufruf verwendet wird 300 Zeichen

Wenn die Semantic Governance-Laufzeit eine Beschreibung empfängt, die eines dieser Limits überschreitet, wird die Beschreibung auf das angegebene Limit gekürzt und eine Nachricht protokolliert.

Wenn die Richtlinie für semantische Governance eingreift

Die semantische Governance-Richtlinie dient speziell als Sicherheitsprüfung zur Laufzeit für vorgeschlagene Toolaufrufe. Sie fängt Standarddialoge zwischen dem Nutzer und dem LLM des Agenten beim Brainstorming, Planen oder Schlussfolgern über mehrere Durchgänge hinweg nicht ab, blockiert sie nicht und ändert sie nicht. Die Policy Engine fängt Anfragen nur dann ab und wertet sie aus, wenn das Modell vorschlägt, ein Tool zum Ausführen einer Aktion aufzurufen.

Szenario 1: Konversationelle Verfeinerung im Vergleich zur Toolausführung (abgelehnter Toolaufruf)

Angenommen, ein KI-Agent hat ein initiate_marketing_campaign-Tool und unterliegt der folgenden Einschränkung:

  • Einschränkung: „Das Erstellen oder Initiieren von Marketingkampagnen ohne ausdrückliche Genehmigung des Managers ist nicht zulässig.“
  1. Konversationelle Planung: Ein Nutzer bittet den Agenten: „Hilf mir, eine Multi-Channel-Marketingkampagne für die Einführung unseres neuen Herbstprodukts zu entwerfen.“ Das LLM unterhält sich frei mit dem Nutzer über mehrere Runden hinweg, skizziert Strategien, entwirft E‑Mail-Texte und verfeinert die demografischen Zielgruppen. Die Policy Engine blockiert oder verweigert diese Turns nicht, da das Modell eine konversationelle Argumentation führt, anstatt eine Aktion vorzuschlagen.
  2. Toolaufruf: Wenn die Strategie fertig ist, sagt der Nutzer: „Sieht gut aus, starte jetzt die Marketingkampagne.“ Das LLM antwortet mit einem vorgeschlagenen Toolaufruf:

    initiate_marketing_campaign(campaign_name="Fall Launch", budget=50000)
    
  3. Richtlinienintervention und -ablehnung: Das KI-Agenten-Gateway fängt diesen vorgeschlagenen Toolaufruf ab und leitet ihn an die Policy Engine weiter. Die Policy Engine wertet die Aktion anhand der Einschränkung aus, stellt fest, dass im Sitzungsverlauf keine Genehmigung durch einen Manager vorliegt, und gibt ein DENY-Urteil aus. Der Toolaufruf wird vor der Ausführung blockiert und eine strukturierte Begründung für die Ablehnung wird an den Agenten zurückgegeben.

Szenario 2: Richtlinienkonforme Toolausführung (zulässiger Toolaufruf)

Sehen wir uns denselben Marketing-Agenten an, nachdem die entsprechende Aufsichtsberechtigung dokumentiert wurde:

  1. Genehmigung erteilt: Der Nutzer gibt an: „Mein Vorgesetzter, VP of Corporate Marketing (jordan@example.com), hat das Briefing geprüft und unser Budget von 50.000 $ für die Kampagne zur Markteinführung im Herbst genehmigt. Bitte initiieren Sie sie.“
  2. Toolaufruf: Das LLM schlägt vor, die Aktion aufzurufen:

    initiate_marketing_campaign(campaign_name="Fall Launch", budget=50000, approval="jordan@example.com")
    
  3. Richtlinienbewertung und Genehmigung: Die Policy Engine fängt den Toolaufruf ab, prüft im Verlauf der Gesprächsrunden, ob die Genehmigung des Managers dokumentiert ist, und gibt ein ALLOW-Urteil aus. Das Agent Gateway leitet den Aufruf an den zugrunde liegenden Tool-Endpunkt weiter, sodass die Aktion normal fortgesetzt werden kann.

Beispiele für effektive Einschränkungen

Eine gute Einschränkung beseitigt Unklarheiten, gibt genaue Grenzen (finanziell, zeitlich oder geografisch) an und verwendet eine Sprache, die zu den Tools passt, die der Agent verwendet.

IT-Cloud-Infrastruktur (Sicherheit und Kostenkontrolle)

  • Szenario: Testumgebungen.
  • Tool: provision_cloud_server (Parameter: region, instance_type, duration_hours).
  • Toolbeschreibung: Sendet eine Anfrage zur Bereitstellung eines Cloud-Servers in einer bestimmten Region mit einem bestimmten Instanztyp, der für eine bestimmte Zeit beibehalten werden soll.
  • Gültige Einschränkung: „Bereitstellung von Cloud-Servern nur in den Regionen ‚us-east‘ oder ‚eu-west‘ zulassen. Alle Anfragen zur Bereitstellung von Instanztypen vom Typ „gpu-large“ oder „gpu-xlarge“ ablehnen. Begrenzen Sie den Parameter „duration_hours“ auf maximal 72 Stunden.
  • Warum das funktioniert: Es wird eine Sprache verwendet, die der Toolbeschreibung entspricht, und es wird ausdrücklich auf die vom Tool akzeptierten Parameter verwiesen.

Kundenservice im E-Commerce (finanzielle Leitlinien)

  • Szenario: Kontoguthaben ausstellen.
  • Tool: apply_account_credit (Parameter: account_id, credit_amount, reason_category).
  • Effektive Einschränkung: „Begrenze Kontogutschriften auf maximal 50 $ pro Interaktion. Don't apply any credits if the reason_category is 'shipping_delay' and the original order date is less than 5 days ago."
  • Warum das funktioniert: Es wird ein strikter Schwellenwert festgelegt und mit einer logischen Bedingung basierend auf Zeit und Kategorie kombiniert.

Beispiele für ineffektive Einschränkungen

Eine schlechte Einschränkung ist in der Regel vage, verwendet subjektive Sprache oder lässt sich nicht direkt auf Beschreibungen von Tools oder Toolparametern übertragen.

IT-Cloud-Infrastruktur (subjektiv)

  • Ineffektive Einschränkung: „Achten Sie darauf, keine zu teuren Server zu erstellen. Keep the duration to a reasonable amount of time.“
  • Warum das nicht funktioniert: Ein LLM liefert bessere Ergebnisse mit konkreten Zahlen (z. B. „Limit von 50 $“) als mit abstrakten Konzepten wie „angemessen“ oder „teuer“.

Kundenservice (nicht übereinstimmende Terminologie)

  • Ineffektive Einschränkung: „Erstatte verärgerten Kunden außerhalb der regulären Öffnungszeiten kein Geld.“
  • Warum das nicht funktioniert: „Geld zurückgeben“ entspricht nicht den Toolparametern (refund_amount). „Wütende Käufer“ ist subjektiv und „Öffnungszeiten“ ist ohne Zeitzone nicht definiert.

Anleitung zur Sprache

Beachten Sie beim Erstellen von Einschränkungen die folgenden Richtlinien:

  • Verwenden Sie einfache menschliche Sprache: Verwenden Sie vollständige Sätze in einem deklarativen oder imperativen Sinn (z. B. „Sie dürfen nicht zulassen…“ oder „Nicht zulassen…“).
  • Vermeiden Sie schwache Formulierungen: Vermeiden Sie „Ich denke, es ist am besten, wenn…“ oder „Versuchen Sie, … zu vermeiden“. Die Formulierung ist für das LLM in der Engine für semantische Governance-Richtlinien wichtig.
  • Seien Sie konkret: Geben Sie Einschränkungen mit direkt angegebenen Limits an (z. B. „1.000 $“, „8:00 bis 16:00 Uhr EST“). Verwenden Sie Formulierungen, die mit den Beschreibungen von Tools und Parametern übereinstimmen.
  • Widersprüche vermeiden: Achten Sie darauf, dass sich Einschränkungen auf Agenten- und Toolebene nicht widersprechen (z. B. unterschiedliche Schwellenwerte für Geldbeträge).

Einschränkungen testen: Sie können Ihre Einschränkungen in natürlicher Sprache im Probelaufmodus testen. Dabei werden Richtlinien ausgewertet, ohne sie zu erzwingen.

Nächste Schritte