sessão de estrutura: seguro para inferir?
Descrição
seguro para inferir: aberto, fechado e o que realmente está em produção um engenheiro de voz se preocupa com o tempo até o primeiro token. um engenheiro de conteúdo se preocupa com o custo por saída. mesma palavra, inferência, matemática completamente diferente por trás disso. este é um pequeno evento técnico à tarde para engenheiros e pesquisadores que realmente estão executando sistemas de inferência em produção. de dez a doze pessoas, operadores sentindo as compensações dia a dia, além de pesquisadores trabalhando em problemas de agendamento e custo-latência que podem conectar o que você está lidando ao que realmente está sendo trabalhado agora. começamos a partir de diferentes métricas de prioridade, latência, custo, utilização, computação, e construímos uma estrutura compartilhada ao vivo a partir de onde quer que os insights levem.
Destaques
sábado, 29 de agosto, 14:30
Localização do evento
Diga à sua rede que vai participar
Partilhe este evento para iniciar conversas, convidar colegas e conectar-se antes que comece.