Construindo sistemas de IA autossustentáveis

À medida que modelos de linguagem grandes são aplicados a domínios complexos, a fronteira está mudando de modelos treinados uma vez para sistemas autossustentáveis. Amit vai decompor a autossustentação em três eixos: geração de ambientes, treinamento de RL e evolução do suporte, incluindo verificadores e memória. Para os dois primeiros, ele apresentará contrafactuais executáveis, uma estrutura que operacionaliza o raciocínio contrafactual como código, permitindo a geração escalável de ambientes de RL com dificuldade controlável e respostas verificáveis. O treinamento de RL nesses ambientes induz os comportamentos centrais do raciocínio contrafactual - abdução, intervenção e previsão e, diferente do ajuste fino supervisionado, generaliza para novas estruturas de código e problemas de palavras matemáticas. No lado do suporte, Amit apresentará o interwhen, que compila políticas em linguagem natural em verificadores formais que certificam cada passo do raciocínio de um agente em tempo de execução, elevando a confiabilidade pass^4 de um modelo de peso aberto de 30B no τ²-bench Telecom de 32% para 87%. Esses eixos se compõem em um único ciclo de autossustentação e apresentam uma questão de pesquisa central sobre como realizar RL conjuntamente com os componentes do suporte e evoluir tanto o modelo quanto seu suporte. Leitura prévia: Sobre os palestrantes: Amit Sharma está construindo um laboratório de IA focado em cibersegurança e sistemas de IA autossustentáveis. Ele passou a última década na Microsoft Research, onde trabalhou em raciocínio em IA e inferência causal. Seu trabalho levou a contribuições fundamentais para o raciocínio causal, com aplicações para avançar a generalização, explicabilidade e habilidades de raciocínio dos sistemas de IA. Ele desenvolveu o algoritmo DiCE para explicação contrafactual e métodos de refutação para avaliação de estimativas causais, que são amplamente adotados tanto na academia quanto na indústria. Amit também é cofundador do PyWhy, um ecossistema de código aberto envolvendo a Carnegie Mellon University, Microsoft, Amazon e outros para avançar ferramentas de ML causal escaláveis. Participe online: meet.google.com\/onq-amgt-pgz Aguardamos você!