Super IA? Não, obrigado!

🇬🇧 A IA não está apenas vindo pelo seu emprego. As principais empresas de IA do mundo estão em uma corrida para construir superinteligência: milhões de sistemas de IA que podem superar qualquer humano em praticamente qualquer tarefa. Especialistas independentes esperam que elas tenham sucesso nos próximos anos. Isso não é marketing ou exagero.p> Nenhum desses laboratórios consegue controlar suas IAs de forma confiável ou torná-las "boas", como demonstrado pelo recente incidente em que um coletivo de 1.200 agentes de IA independentes e separados se encontrou, escapou para a internet e lançou um ciberataque em nível de estado-nação contra uma empresa de terceiros, desconsiderando as instruções humanas, enquanto fazia esforços significativos para cobrir seus rastros.p> Essas IAs eram relativamente limitadas em capacidade e não podiam dominar o planeta. Mas uma futura IA superinteligente não nos dará uma segunda chance.p> Um dos principais pesquisadores de IA da empresa Anthropic recentemente pediu demissão, dizendo que as empresas de IA estão "apostando com nossas vidas", e que "as pessoas que constroem IA acreditam sinceramente que isso pode nos matar todos até o final da década." Essa preocupação tem sido fortemente ecoada por especialistas da indústria e desencadeou uma cascata de outros profissionais de IA soando o alarme sobre o risco de extinção devido à IA.p> Este é o melhor momento para se manifestar.p> A única maneira de prevenir essa corrida catastrófica para o fundo é através de um tratado internacional verificável, e cada nação deve pressionar por um. Acreditamos que a Alemanha é uma potência europeia e global chave que deve agir sobre essa questão, agora.p> Estamos nos reunindo em frente ao Portão de Brandemburgo para um protesto pacífico e demonstração para dizer aos políticos alemães, à mídia e ao público em geral que esse assunto deve ser uma prioridade máxima.p> A vida de todos está em jogo.p> P.S. Vamos a um bar para socializar após a demonstração, a primeira bebida é por nossa conta :)p> Mais sobre a PauseAI: https://pauseai.info/ a>p> 🇩🇪 Sistemas de IA não têm apenas seu emprego em vista. As principais empresas de IA estão em uma corrida armamentista com o objetivo de criar uma superinteligência: milhões de agentes de IA que serão superiores aos humanos em quase todas as áreas cognitivas. Especialistas e observadores independentes esperam que elas alcancem seu objetivo nos próximos anos. Isso não é marketing nem exagero, mas uma dura realidade.p> Pois nenhuma dessas empresas consegue manter suas IAs sob controle de maneira confiável ou torná-las intrinsecamente "boas". Isso foi evidenciado recentemente por um novo incidente no qual mais de 1.200 agentes de IA independentes, inicialmente isolados, se encontraram, formando um coletivo que chamaram de "o enxame" e, após uma fuga para a internet livre, iniciaram um ataque a uma empresa não envolvida. Eles fizeram isso contrariando as instruções da empresa de IA e tentaram cobrir seus rastros.p> Esses agentes de IA, no entanto, eram relativamente limitados e, portanto, não puderam dominar todo o planeta. Mas futuros sistemas superinteligentes não nos darão uma segunda chance.p> Um pesquisador de IA da empresa Anthropic recentemente anunciou sua demissão de forma midiática. Ele disse que tanto a OpenAI, quanto a Anthropic e outras empresas de IA estão "jogando com nossas vidas" e que "as pessoas que constroem esses sistemas realmente acreditam que a IA pode nos custar a vida até o final desta década." Essa visão foi compartilhada por muitos especialistas da indústria, levando a uma onda de outros alarmes sobre o risco de extinção devido à IA.p> A melhor hora para se fazer ouvir é agora!p> A única chance de parar essa corrida catastrófica para o fundo é por meio de um acordo internacional verificável. Cada nação deve se mobilizar em favor disso. Acreditamos que a Alemanha, como um país influente na UE e no mundo, deve agir agora.p> Nos encontraremos em frente ao Portão de Brandemburgo para protestar pacificamente e demonstrar para deixar claro à política alemã, à mídia e ao público em geral que este é o assunto mais urgente do nosso tempo.p> A vida de todos nós está em risco!p> P.S. Após a demonstração, iremos a um bar para nos socializar e nos conhecermos. A primeira bebida é por nossa conta! :)p> Mais sobre a PauseAI: https://linktr.ee/pauseai_dea>p>