Noite de Pesquisa em IA — Estudos de Caso em Pré-treinamento

com a ElevenLabs, Geodesic Research & PostHog · no Shoreditch Treehouse Se você já pré-treinou um modelo, sabe que precisa de dados que valham a pena aprender, computação e uma resposta séria para "por que não apenas chamar uma API?" Esta é uma noite com três equipes que têm respostas — em diferentes escalas — seguida de uma discussão aberta e muitos canapés para nos manter ativos. Palestras (15 min cada + Q&A) Pré-treinamento de um GPT em um laptop — Angelos Perivolaropoulos, (Engenheiro de Pesquisa na ElevenLabs) - Que intuição de 10M de parâmetros se transfere (e não se transfere) para cima. Um codificador do zero para dados de replay de sessão — Nico Waltz, (Engenheiro de Pesquisa em IA na PostHog) - Um codificador auto-supervisionado treinado diretamente em gravações de DOM, construído para substituir um rasterizador de vídeo + pipeline VLM em produção. Pré-treinamento de alinhamento — Cameron Tice (Co-Fundador e Diretor Executivo, Geodesic Research) - Lições do treinamento de LLMs de 6,9B de parâmetros em 500B de tokens em quatro diferentes condições de dados para testar como o discurso de IA em corpora de pré-treinamento afeta o alinhamento. Para quem é isso​Estudantes de doutorado ativos e pesquisadores de IA com experiência prática na aplicação de seu trabalho — pessoas que treinaram modelos. O registro é aprovado manualmente. Agenda