Współtworzenie weryfikacji dla Pacing the Frontier

TłoLaboratoria AI na granicy mogą ostatecznie potrzebować dostosować lub ograniczyć rozwój lub wdrażanie na krytycznym progu możliwości. Robienie tego w sposób bezpieczny i zapewnienie innym laboratoriom lub rządom pewności, że zobowiązania są naprawdę dotrzymywane, zależy od mechanizmów weryfikacji, które istnieją zanim staną się one pilnie potrzebne.Bez nich, laboratoria i decydenci mogą stanąć w obliczu decyzji wysokiego ryzyka przy bardzo małej elastyczności. To zwiększa ryzyko utraty kontroli nad zaawansowanymi systemami lub utraty zdolności kształtowania decyzji dotyczących nich (na przykład poprzez brutalną interwencję rządową)."Pacing the frontier" definiuje problem, ale nie rozwiązania. Oświadczenie prosi rząd o umożliwienie opcji. Wstępnie sądzimy, że to do tyłu: laboratoria na granicy są bardziej skłonne niż rządy do posiadania ekspertyzy i zasobów potrzebnych do uruchomienia narzędzi weryfikacyjnych zanim będą one potrzebne.W międzyczasie społeczność weryfikacyjna buduje techniczne projekty, eksperymenty i prototypy. Co brakuje to wkład od ludzi z wewnątrz laboratoriów granicznych na temat tego, czy cokolwiek z tego może rzeczywiście działać w środowisku granicznym. A największe otwarte pytania to te, na które mogą odpowiedzieć tylko laboratoria: kiedy mechanizm musiałby być gotowy do wdrożenia, czy pasuje do istniejącej infrastruktury, czy pasuje do zabezpieczeń laboratorium i jakie inne ograniczenia operacyjne sprawiłyby, że byłoby to niepraktyczne?Rozpoczęcie serii współrozwojuTo jest pierwsze wydarzenie w serii współprojektowania dotyczące przejścia od projektów weryfikacji do wdrożenia. Idea polega na tym, aby stopniowo zawęzić dużą liczbę propozycji weryfikacyjnych do niewielkiej liczby wiarygodnych kandydatów:(a) Zgodzić się z laboratoriami, które roszczenia naprawdę mają znaczenie dla dostosowania, na różnych horyzontach czasowych. (b) Red-teaming na poziomie papierowym z infrastrukturą laboratorium, bezpieczeństwem i innymi odpowiednimi zespołami, aby wychwycić fatalne ograniczenia zanim ktokolwiek zaangażuje wysiłek w prototypy. (c) Budowy proof-of-concept, początkowo poza laboratoriami i na infrastrukturze laboratoryjnej, gdzie to pomaga. (d) Techniczne i operacyjne red-teaming na cokolwiek, co przetrwa -Ta pierwsza sesja to etap (a). Wiemy, że ludzie w laboratoriach nie mają dużo czasu na przeglądanie propozycji, więc nie poprosimy was o ocenę stosu zgłoszeń.Co zrobimy w tej sesjiPrzed sesją rozprowadzimy wstępną listę roszczeń, które laboratoria lub rządy mogą chcieć uczynić wiarygodnymi wobec siebie. To tylko punkt wyjścia. Prosimy o wyzwanie go, udoskonalenie, zmienienie priorytetów i dodanie do niego. Szczególnie chcemy, aby osoby, które myślą, że cała agenda weryfikacyjna jest błędna, powiedziały nam dlaczego.Razem, zrobimy:Format to strukturalna burza mózgów, małe grupy robocze i końcowa synteza. Będzie jedzenie. Chcemy, aby to było dobre spotkanie tak samo jak sesja robocza.Wszyscy uczestnicy biorą udział osobiście. Udział nie implikuje poparcia ze strony twojego pracodawcy. Dyskusja odbywa się zgodnie z Regułą Chatham House.