Hoe zorg je ervoor dat je AI-agent niet buiten zijn boekje gaat, zoals een nieuwe medewerker zonder functieprofiel? Het probleem is dat agents steeds autonomer worden - ze verwerken facturen, beantwoorden klanten en nemen beslissingen - maar vaak zonder duidelijke grenzen of controle. Microsoft publiceerde een open-source governance toolkit die elke actie van een agent controleert voordat deze uitgevoerd wordt.
De toolkit werkt als een digitale portier die bij elke handeling checkt of dat mag: welke database, welke e-mails, welke bevoegdheden. Bij een klantenservice-agent stel je bijvoorbeeld in dat hij alleen gegevens van de betreffende klant mag zien en maximaal drie follow-up e-mails per case mag sturen. Morgen kun je beginnen met het inventariseren van je huidige agents en hun risico's - welke hebben toegang tot gevoelige data en welke nemen beslissingen met impact.
Onderwerpen
Genoemde entiteiten: Microsoft - OWASP - EU AI Act - LangChain - CrewAI
AigencySchrijf je in voor onze nieuwsbrief en ontvang exclusieve toegang tot nieuws, blik achter de schermen en meer!
