Sistemas Autônomos: Construindo Infraestrutura Que Pensa e Se Adapta

Descrição

Fala 1: Agentes como Sistemas DistribuídosAgentes de longa duração são o tema de um número crescente de trabalhos. Um conjunto compartilhado de primitivos continua a reaparecer: orquestração determinística em torno de atores probabilísticos, estado compartilhado durável que sobrevive a janelas de contexto, e portões de verificação que capturam progressos ilusórios antes que eles se amplifiquem. Baseando-se em um ano construindo um equipamento agente que gera e otimiza tempos de execução da inferência LLM para hardware Arm do cloud ao edge, percorremos como esses primitivos se concretizam na prática: um livro de experimentos imutável com razões de promoção anexadas, uma base de conhecimento que deve se manter consistente através de reinicializações e atualizações de modelo, e portões de correção ordenados estritamente antes dos portões de desempenho. Descrevemos modos de falha concretos — correção ilusória, contenção do livro, desvio da base de conhecimento — e as técnicas de sistemas distribuídos que mantiveram o equipamento honesto.Fala 2: Por Que a IA Precisa de PolystoresAs aplicações evoluem. Os bancos de dados permanecem congelados no tempo. Cada aplicação começa com uma decisão de armazenamento. Escolhemos um banco de dados com base nos requisitos de hoje, então passamos anos construindo em torno dessa escolha. Mas as aplicações raramente permanecem paradas. Novos recursos são adicionados, padrões de acesso mudam, os dados crescem e novas cargas de trabalho surgem. O banco de dados, no entanto, permanece limitado por decisões arquitetônicas tomadas há muito tempo, pois mudar motores de armazenamento é caro, arriscado e muitas vezes requer reescrever a aplicação. E se os bancos de dados pudessem evoluir junto com sua aplicação? E se eles pudessem observar continuamente os padrões de carga de trabalho, entender a semântica da aplicação, recomendar o melhor motor de armazenamento para cada conjunto de dados e migrar dados de forma transparente à medida que as cargas de trabalho mudam? Até recentemente, essa visão estava fora de alcance. Escolher o motor de armazenamento certo requer entender as nuances e compensações de muitos motores de armazenamento diferentes, cada um com sua própria arquitetura, características de desempenho e complexidade operacional. Muito poucos engenheiros possuem essa amplitude de expertise. Avanços recentes em IA tornam possível capturar esse conhecimento, raciocinar sobre cargas de trabalho de aplicações e automatizar a seleção e migração de armazenamento em uma escala que antes era impraticável. Nesta palestra, exploraremos por que os polystores são a arquitetura certa para esse futuro. Discutiremos como a IA pode analisar cargas de trabalho, direcionar consultas para o motor de armazenamento mais apropriado, recomendar ou automatizar migrações de dados à medida que as aplicações evoluem e apresentar um único banco de dados lógico para os desenvolvedores. Finalmente, demonstraremos essas ideias através do KalDB, um polystore autônomo que se adapta às aplicações em vez de forçar as aplicações a se adaptarem aos seus bancos de dados.Sobre os PalestrantesThomas Cottenier é Engenheiro Principal Sênior na Arm, trabalhando em plataformas para desenvolvedores e serviços de IA em ambientes de edge e cloud. Ele anteriormente atuou como Engenheiro Principal na AWS, onde contribuiu para ferramentas de desenvolvedor alimentadas por IA, incluindo CodeWhisperer, Amazon Q e Kiro. Ele possui um PhD em Ciência da Computação em linguagens de programação e engenharia de software e tem mais de 20 anos de experiência abrangendo compiladores, geração de código e aceleração de IA.Suman Karumuri é Engenheiro Principal especializado em sistemas distribuídos, bancos de dados e infraestrutura de busca em larga escala. Ao longo das últimas duas décadas, ele construiu infraestrutura na Airbnb, Slack, Twitter, Meta, Amazon, Microsoft, Yahoo e Goldman Sachs. Seu trabalho inclui liderar a plataforma de observabilidade de próxima geração da Airbnb, arquitetar o backend de busca sem servidor do Slack e coautor da especificação OpenTracing. Ele está atualmente construindo infraestrutura de banco de dados de próxima geração focada em polystores autônomos que usam IA para otimizar a colocação de dados, execução de consultas e evolução de armazenamento através de motores de armazenamento heterogêneos.Obrigado Arm por patrocinar o evento.