AI beveiligen met strikte grenzen

Zodra uw agenten toegang hebben tot echte systemen en kunnen handelen op live data, verandert de vraag van "kan het dit doen?" naar "moet het dit doen, en wie is verantwoordelijk als het zichzelf niet stopt?" Deze sessie gaat in op de gevolgen van het niet correct implementeren van de juiste grenzen en beveiligingen voor AI-agenten. We beginnen met de zaak Moffatt v. Air Canada — een chatbot die een rouwtariefbeleid uitvond dat niet bestond — als een leidend voorbeeld. Van daaruit verkennen we het volledige landschap van agentrisico's: hallucinaties van beleid, PII-lekken, promptinjectie, jailbreak-pogingen en het meer alledaagse maar nog steeds schadelijke probleem van een agent die in een off-topic, beschamende tangent terechtkomt. We worden concreet over de mechanismen van beveiliging die deze grenzen daadwerkelijk handhaven: thematische beveiligingen die een harde lijn trekken rond specifieke onderwerpen, ethische moderatie bovenop de standaardinstellingen van een modelprovider, jailbreakdetectie, PII-redactie met ondersteuning voor aangepaste entiteiten en verankering — het dwingen van een agent om alleen te antwoorden vanuit de context die het heeft gekregen. Wat u zult leren: