AI Journal Club z Google + NVIDIA

Dołącz do serii AI Journal Club organizowanej przez Workato — łączymy najlepszych badaczy AI, aby dzielić się pracami i wymieniać perspektywy na temat tego, jak badania w dziedzinie AI kształtują systemy rzeczywiste.Plan17:30–18:00: Rejestracja i przyjmowanie18:00–18:15: Powitanie w Workato 18:15–18:45: Wykład Allen Chuang (Google)18:45–19:00: Pytania i odpowiedzi19:00–19:30: Wykład Ray Liu (NVIDIA)19:30–19:45: Pytania i odpowiedzi19:45–20:30: NetworkingProsimy o przybycie do godziny 18:00. Z szacunku dla naszego prelegenta, uprzejmie prosimy uczestników o przybycie na ten czas.SesjeAllen Chuang — Uchwycenie dynamiki rozumowania LLM: eksploracja w czasie testów, harmonogramowanie danych oraz destylacja na polityceSkalowanie możliwości rozumowania w dużych modelach językowych (LLM) wymaga nawigacji po złożonej optymalizacji i dynamice wyszukiwania zarówno w czasie wnioskowania, jak i po szkoleniu. Jednak nowoczesne rury rozumienia cierpią na krytyczne nieefektywności w całym cyklu życia modelu: dekodowanie w czasie testów marnuje obliczenia na redundantne trajektorie wyszukiwania, uczenie przez wzmocnienie (RL) ma trudności z jednolitym tempem danych, a destylacja na polityce często ulega katastrofalnemu załamaniu spowodowanemu inflacją długości. W tym wykładzie zaprezentuję zjednoczoną perspektywę zrozumienia i ujarzmienia dynamiki rozumowania. Po pierwsze, zbadamy wyszukiwanie w czasie wnioskowania, ukazując, jak szkicowanie drzewa dekodowania (DTS) umożliwia strukturalną eksplorację i wczesne zakończenie na tokenach decyzyjnych, aby wyeliminować redundantne rollowy bez ponownego szkolenia. Następnie przejdziemy do optymalizacji po szkoleniu, pokazując, jak adaptacyjne harmonogramowanie danych (ADS) wykorzystuje klastrowanie semantyczne i wybór granic polityki do dynamicznego dostosowania programu nauczania RL LLM. Na koniec analizujemy tryby niepowodzeń destylacji na polityce i wprowadzamy StableOPD, aby zahamować eksplozję trajektorii i przywrócić stabilność destylacji. Razem te metody zapewniają praktyczne mechanizmy budowania wydajnych, solidnych i skalowalnych rur rozumowania LLM.Ray Liu (NVIDIA) — Sesja TBDPrelegent GościnnyAllen Chuang — Yu-Neng (Allen) Chuang jest naukowcem badawczym w Google DeepMind. Pracuje nad budowaniem niezawodnych i wydajnych agentów LLM poprzez kontynuację pre-szkolenia i post-szkolenia. Uzyskał doktorat z informatyki na Uniwersytecie Rice'a. Jego badania koncentrują się na rozumowaniu LLM, post-szkoleniu oraz systemach agentowych, z celem rozwoju skalowalnych i niezawodnych systemów AI do zastosowań w świecie rzeczywistym. Jego prace zostały opublikowane w wiodących miejscach dotyczących AI i uczenia maszynowego, w tym ICML, ICLR i NeurIPS, i otrzymały kilka wyróżnień, w tym Spotlight ICML, wyróżnienie w kategorii najlepszy papier demo CIKM oraz nominację do nagrody najlepszego artykułu NAACL.Ray Liu (NVIDIA).Kto powinien wziąć udziałBadacze AI i praktycy pracujący na styku badań w dziedzinie AI i systemów rzeczywistych.Host​O WorkatoWorkato jest firmą MCP dla przedsiębiorstw, zapewniającą łącze, które daje agentom AI bezpieczny, regulowany dostęp do systemów i danych przedsiębiorstwa. Zbudowane na bazie dekady doświadczenia w integracji obejmującej ponad 14 000 aplikacji, platforma Workato umożliwia organizacjom przejście od prostych automatyzacji do agentów AI, którzy potrafią rozumować, działać i koordynować pracę w całym biznesie. Możesz odkrywać możliwości end-to-end Workato w naszym sandboxie dla deweloperów tutaj.