Amazon Bedrock AgentCore Policy: afdwingbare governance voor AI-agents met Dogwood

AI-agents roepen tools en API's aan en kunnen daarmee echte acties uitvoeren. Wij behandelen een instructie in een prompt niet als een harde uitvoeringsgrens zodra een agent toegang krijgt tot operationele systemen. Amazon Bedrock AgentCore Policy pakt dat probleem aan met Policy Authoring en Dogwood: natuurlijke-taalregels worden omgezet in formele policies die tijdens uitvoering door de AgentCore Gateway kunnen worden gecontroleerd.

Wat is Amazon Bedrock AgentCore Policy?

Policy Authoring zet beleidsdocumenten in natuurlijke taal om in syntactisch en semantisch correcte formele Dogwood-specificaties. Dogwood is een open-source governancetaal voor acties van AI-agents.

Dogwood werkt met een default-deny-model. Wat niet expliciet is toegestaan, blijft verboden. Een permit-regel staat een actie toe onder vastgelegde voorwaarden. Een forbid-regel blokkeert een actie en heeft voorrang wanneer een permit- en forbid-regel op dezelfde actie van toepassing zijn.

De Dogwood-monitor in de AgentCore Gateway controleert deze policies in real time wanneer een agent een actie wil uitvoeren. De grens zit daardoor niet alleen in de instructies aan het taalmodel. Er is ook een afzonderlijke policylaag die bepaalt welke acties de omgeving daadwerkelijk toestaat.

Hoe Policy Authoring natuurlijke taal omzet in Dogwood

Policy Authoring gebruikt naast de beleidstekst ook een schema van de agentomgeving. Dat schema beschrijft welke tools beschikbaar zijn, welke argumenten ze accepteren en welke waarden ze teruggeven.

Amazon gebruikt hiervoor het Model Context Protocol-manifest van de agent. Daardoor kunnen gegenereerde policies verwijzen naar dezelfde toolnamen en parameters die de agent daadwerkelijk gebruikt. Een beleidsregel in gewone taal wordt zo gekoppeld aan de concrete interfaces waarop de policy moet worden toegepast.

Elke gegenereerde policy wordt vervolgens gevalideerd met de Dogwood command-line tools. Die validatie controleert de syntaxis en de compatibiliteit met het omgevingsschema.

Welke regels kan AgentCore Policy afdwingen?

Dogwood kan volgens Amazon verschillende soorten beperkingen toepassen. Policies kunnen restricties plaatsen op de inputparameters van tools. Daarnaast ondersteunt de onderliggende policylaag rate limiting, prerequisites en sequentiële ordening van tool-aanroepen.

Policy Authoring kan ook temporele en trajectory-constraints genereren. Voor ons is vooral relevant dat beleid daarmee rekening kan houden met de samenhang tussen meerdere acties, in plaats van alleen met één afzonderlijke tool-call.

Voor vrije tekst kan Policy Authoring Amazon Bedrock Guardrails aanroepen om ongepaste content te detecteren op basis van de semantische betekenis van de invoer. Daarmee kunnen verschillende soorten controles rond dezelfde agent worden gecombineerd.

Wat de policylaag architectonisch verandert

Voor ons is het belangrijkste architectuurprincipe de scheiding tussen redeneren en bevoegdheid. De policylaag bepaalt of een actie binnen de vastgelegde regels daadwerkelijk mag worden uitgevoerd.

Volgens ons wordt dat onderscheid belangrijker naarmate agents meer tools krijgen.

Met default-deny, schema-validatie, parameterrestricties, prerequisites, rate limits en regels rond de volgorde van acties kan de toegestane actieruimte expliciet worden vastgelegd. Policy Authoring automatiseert daarbij het vertalen van menselijke beleidsregels naar formele Dogwood-specificaties.

Voor ons is dat de relevante architectuurvraag voor organisaties die AI-agents toegang geven tot operationele tools: niet alleen wat een agent kan bedenken, maar welke acties de omgeving technisch toestaat.