Grupa dyskusyjna - tydzień 3 - Dlaczego dostosowanie jest trudne

Część trzecia czterotygodniowej serii dyskusji na temat bezpieczeństwa AI: Tydzień 1 | Dlaczego bezpieczeństwo AI ma znaczenie · Tydzień 2 | Jak mogą wyglądać awarie w skali · Tydzień 3 | Dlaczego dostosowanie jest trudne · Tydzień 4 | Co się w tej sprawie robi? Każda sesja jest samodzielna, więc dołącz do jednej lub wszystkich. Dla kogo jest to: Każdy, kto jest ciekawy bezpieczeństwa i zarządzania AI, niezależnie od tego, czy jest nowy w temacie, sceptyczny, czy już dobrze zaznajomiony. Nie jest wymagana wiedza techniczna, ani wcześniejsze uczestnictwo w tygodniach. Nie musisz mieć odpowiedzi, tylko ciekawość. Program grupy dyskusyjnej:https:\u002F\u002Fdocs.google.com\u002Fdocument\u002Fd\u002F160PpLjFN9SaZja0njeKIQHnD-M1Uy4718dNRDyhaucs\u002Fedit?usp=sharing Możemy szkolić systemy AI, aby były bardzo zdolne. Upewnienie się, że robią to, co rzeczywiście zamierzamy, co nazywamy dostosowaniem, jest znacznie trudniejsze. Systemy AI znajdują luki w celach, które im nadajemy. Zachowania oszukańcze mogą przetrwać szkolenie mające na celu ich usunięcie. Testy nie informują nas wiarygodnie o tym, jak system będzie się zachowywał w realnym świecie. A instytucje mają trudności z nadążaniem. Odwołując się do pracy DeepMind nad grą w specyfikacje, pracy Anthropic "Agenci Śpiący" (w której badacze celowo szkolili oszukańcze zachowania w modelach, aby sprawdzić, czy szkolenie bezpieczeństwa może je usunąć) oraz Międzynarodowego Raportu o Bezpieczeństwie AI 2026, zbadamy, skąd pochodzi ta trudność. Pytania, które zbadamy Format (90 min): Otwarte dyskusje w małych grupach i plenarnie. Brak prezentacji i brak błędnych pytań. Materiały do przeczytania:★ = obowiązkowe (~2 godziny). Reszta jest opcjonalna. Uczestnicząc, zgadzasz się na bycie filmowanym lub fotografowanym, co może być wykorzystywane w treściach na mediach społecznościowych, stronie internetowej i w newsletterze. Jeśli chcesz uczestniczyć, ale nie chcesz być fotografowany, prosimy o poinformowanie członka naszego zespołu podczas wydarzenia, abyśmy mogli to uwzględnić.