Co-développement de la vérification pour Pacer la Frontière

Contexte Les laboratoires d'IA de pointe pourraient éventuellement avoir besoin de freiner ou de limiter le développement ou le déploiement à un seuil de capacité critique. Faire cela en toute sécurité, et donner aux autres laboratoires ou gouvernements la confiance que les engagements sont réellement respectés, dépend des mécanismes de vérification qui existent avant qu'ils ne soient urgemment nécessaires. Sans eux, les laboratoires et les décideurs pourraient se retrouver face à des décisions à enjeux élevés avec très peu de marge de manœuvre. Cela augmente le risque de perdre le contrôle des systèmes avancés ou de perdre la capacité de façonner les décisions à leur sujet (par exemple, par une intervention gouvernementale brutale). « Pacer la frontière » définit le problème mais pas les solutions. La déclaration demande au gouvernement de permettre une optionnalité. Nous pensons, avec prudence, que c'est à l'envers : les laboratoires de pointe sont plus susceptibles que les gouvernements d'avoir l'expertise et les ressources nécessaires pour faire fonctionner les outils de vérification avant qu'ils ne soient nécessaires. Entre-temps, la communauté de vérification construit des conceptions techniques, des expériences et des prototypes. Ce qui manque, c'est l'avis des personnes travaillant dans des laboratoires de pointe sur la faisabilité de tout cela dans un environnement de pointe. Et les plus grandes questions ouvertes sont celles auxquelles seuls les laboratoires peuvent répondre : quand un mécanisme doit-il être déployé, s'adapte-t-il à l'infrastructure existante, s'adapte-t-il à la posture de sécurité du laboratoire, et quelles autres contraintes opérationnelles le rendraient impraticable ? Lancement de la série de co-développement C'est le premier événement d'une série de co-conception sur le passage de la vérification des conceptions au déploiement. L'idée est de réduire progressivement un grand nombre de propositions de vérification à un petit nombre de candidats crédibles : (a) Se mettre d'accord avec les laboratoires sur quelles affirmations comptent réellement pour le pacing, à différents horizons temporels. (b) Évaluation critique au niveau papier avec l'infrastructure de laboratoire, la sécurité et d'autres équipes pertinentes, pour attraper les contraintes fatales avant que quiconque investisse des efforts dans des prototypes. (c) Constructions de preuve de concept, initialement en dehors des laboratoires et sur l'infrastructure de laboratoire où cela est utile. (d) Évaluation technique et opérationnelle de tout ce qui survit. Cette première session est l'étape (a). Nous savons que les gens dans les laboratoires n'ont pas beaucoup de temps pour examiner les propositions, donc nous ne vous demanderons pas d'évaluer une pile de soumissions. Ce que nous ferons lors de cette session Avant la session, nous ferons circuler une liste préliminaire d'affirmations que les laboratoires ou les gouvernements pourraient vouloir rendre crédibles l'un envers l'autre. C'est un point de départ seulement. Veuillez le contester, le raffiner, le reclasser et y ajouter des éléments. Nous voulons particulièrement que ceux qui pensent que toute l'agenda de vérification est mal orientée nous disent pourquoi. Ensemble, nous allons : Le format est un remue-méninges structuré, des groupes de travail en petites sections, et une synthèse de clôture. Il y aura de la nourriture. Nous voulons que ce soit un bon moment autant qu'une session de travail. Tout le monde participe à titre personnel. La participation n'implique pas d'approbation par votre employeur. La discussion se déroule selon la Règle de Chatham House.