Seguindo IA com limites rigorosos

Uma vez que seus agentes podem acessar sistemas reais e agir com dados ao vivo, a pergunta deixa de ser "pode fazer isso?" e passa a ser "deve fazer, e quem é responsável se não se conter?"Esta sessão aprofunda as consequências de não implementar adequadamente os limites e barreiras corretos para agentes de IA. Começamos com o caso Moffatt v. Air Canada — um chatbot que inventou uma política de tarifas de luto que não existia — como um exemplo principal. A partir daí, exploramos todo o panorama de risco dos agentes: política alucinação, vazamento de PII, injeção de prompt, tentativas de jailbreak e o problema mais mundano, mas ainda prejudicial, de um agente se desviando para uma tangente embaraçosa e fora do tópico.Se tornamos concretos sobre os mecanismos de barreira que realmente mantêm esses limites: barreiras temáticas que desenham um limite claro em torno de assuntos específicos, moderação ética em cima das configurações padrão do provedor de modelo, detecção de jailbreak, redação de PII com suporte para entidades personalizadas e fundamentação — forçando um agente a responder apenas com base no contexto que recebeu.O que Você Vai Aprender: