Co-desenvolvendo verificação para Pacing the Frontier

AntecedentesOs laboratórios de IA de fronteira podem eventualmente precisar controlar ou restringir o desenvolvimento ou implantação em um limite crítico de capacidade. Fazer isso de forma segura e dar confiança a outros laboratórios ou governos de que os compromissos estão realmente sendo cumpridos depende de mecanismos de verificação que existem antes que sejam urgentemente necessários.Sem eles, laboratórios e formuladores de políticas poderiam acabar enfrentando decisões de alto risco com muito pouco espaço para manobrar. Isso aumenta o risco de perder o controle sobre sistemas avançados ou de perder a capacidade de moldar decisões sobre eles (por exemplo, através de uma intervenção governamental brusca)."Pacing the frontier" define o problema, mas não as soluções. A declaração pede ao governo que possibilite a opcionalidade. Nós pensamos, de forma tentativa, que isso é ao contrário: laboratórios de fronteira têm mais probabilidade do que os governos de ter a expertise e os recursos para fazer a ferramenta de verificação funcionar antes de ser necessária.Enquanto isso, a comunidade de verificação está construindo designs técnicos, experimentos e protótipos. O que está faltando é a contribuição de pessoas dentro dos laboratórios de fronteira sobre se algo disso poderia realmente funcionar em um ambiente de fronteira. E as maiores questões abertas são aquelas que apenas os laboratórios podem responder: quando um mecanismo precisaria estar implantável, ele se encaixa na infraestrutura existente, se alinha com a postura de segurança do laboratório e quais outras restrições operacionais tornariam isso impraticável?Dando início à série de co-desenvolvimentoEste é o primeiro evento de uma série de co-design sobre como movimentar a verificação de designs para a implantação. A ideia é progressivamente restringir uma grande pilha de propostas de verificação a um pequeno número de candidatos credíveis:(a) Concordar com os laboratórios sobre quais afirmações realmente importam para o pacing, em diferentes horizontes de tempo.(b) Red-team de nível de papel com infraestrutura de laboratório, segurança e outras equipes relevantes, para capturar restrições fatais antes que alguém invista esforço em protótipos.(c) Construções de prova de conceito, inicialmente fora dos laboratórios e na infraestrutura de laboratório onde isso ajuda.(d) Red-team técnico e operacional do que sobreviver -Esta primeira sessão é a etapa (a). Sabemos que as pessoas nos laboratórios não têm muito tempo disponível para revisar propostas, então não iremos pedir que você avalie uma pilha de submissões.O que faremos nesta sessãoAntes da sessão, iremos circular uma lista preliminar de afirmações que laboratórios ou governos podem querer tornar credíveis uns para os outros. É apenas um ponto de partida. Por favor, desafie-a, refine-a, priorize-a novamente e acrescente a ela. Queremos especialmente que pessoas que acham que toda a agenda de verificação está equivocada nos digam por quê.Juntos, iremos:O formato é um brainstorming estruturado, com grupos pequenos e uma síntese final. Haverá comida. Queremos que isso seja tanto um bom momento quanto uma sessão de trabalho.Todos participam em capacidade pessoal. A participação não implica endosse por seu empregador. A discussão está sob a Regra de Chatham House.