Co-developing verificatie voor het Tempo van de Grens

Achtergrond Frontier AI-laboratoria hebben mogelijk uiteindelijk de noodzaak om ontwikkeling of implementatie te reguleren of te beperken bij een kritische capaciteitsdrempel. Dit veilig doen, en andere laboratoria of overheden het vertrouwen geven dat beloften daadwerkelijk worden nagekomen, hangt af van verificatiemechanismen die er al zijn voordat ze dringend nodig zijn. Zonder deze mechanismen kunnen laboratoria en beleidsmakers eindigen met risicovolle beslissingen met zeer weinig ruimte om te bewegen. Dit verhoogt het risico om de controle over geavanceerde systemen te verliezen, of om de mogelijkheid te verliezen om beslissingen daarover te vormen (bijvoorbeeld door grove overheidsinmenging). "Het tempo van de grens" definieert het probleem, maar niet de oplossingen. De verklaring vraagt de overheid om opties mogelijk te maken. We denken voorlopig dat dit de verkeerde volgorde is: frontier laboratoria hebben eerder de expertise en middelen om verificatietools te laten werken voordat ze nodig zijn dan overheden. Ondertussen bouwt de verificatiegemeenschap technische ontwerpen, experimenten en prototypes. Wat ontbreekt, is input van mensen binnen frontier laboratoria over de vraag of iets hiervan daadwerkelijk zou kunnen werken in een frontieromgeving. En de grootste open vragen zijn vragen die alleen laboratoria kunnen beantwoorden: wanneer zou een mechanisme inzetbaar moeten zijn, past het binnen de bestaande infrastructuur, past het binnen de beveiligingspositie van het laboratorium, en welke andere operationele beperkingen zouden het onpraktisch maken? De start van de co-ontwikkeling serie Dit is het eerste evenement in een co-designserie over het verplaatsen van verificatie van ontwerpen naar implementatie. Het idee is om gestaag een grote stapel verificatievoorstellen te verkleinen tot een klein aantal geloofwaardige kandidaten: (a) Akkoord gaan met laboratoria over welke claims daadwerkelijk belangrijk zijn voor het tempo, op verschillende tijdshorizonten. (b) Paperniveau red-teaming met laboratoriuminfrastructuur, beveiliging en andere relevante teams, om fatale beperkingen te ontdekken voordat iemand moeite steekt in prototypes. (c) Proof-of-concept builds, aanvankelijk buiten laboratoria en op laboratoriuminfrastructuur waar dat helpt. (d) Technische en operationele red-teaming van wat ook maar overleeft - Deze eerste sessie is fase (a). We weten dat mensen in laboratoria niet veel ruimte hebben om voorstellen te beoordelen, dus we zullen je niet vragen om een stapel inzendingen te evalueren. Wat we in deze sessie zullen doen Voorafgaand aan de sessie zullen we een conceptlijst van claims rondsturen die laboratoria of overheden misschien geloofwaardig willen maken naar elkaar. Het is slechts een startpunt. Daag het uit, verfijn het, herprioriteer het en voeg ernaar toe. We willen vooral mensen die denken dat de hele verificatieagenda misleidend is vertellen waarom. Samen zullen we: Het format is een gestructureerde brainstorm, kleine groepsbreakouts en een afsluitende synthese. Er zal eten zijn. We willen dat dit net zozeer een goede bijeenkomst is als een werksessie. Iedereen neemt deel in een persoonlijke hoedanigheid. Deelname impliceert geen goedkeuring door uw werkgever. De discussie valt onder de Chatham House Rule.