90/30 Club Lesen - Multiagentensysteme - Muster und Probleme

☕️📝 Papierlink 📝☕️ Vollständiges Papier: https://www.anthropic.com/research/multiagent-systems Wir werden diesen Beitrag des Frontier Red Teams bei Anthropic diskutieren: Muster und Probleme in aufkommenden Multiagentensystemen. Die Modelle verbessern sich und KI-Agenten übernehmen immer mehr Aufgaben in gemeinsamen Codebasen, Märkten und anderen sozialen Systemen. Infolgedessen steht ein Anstieg der realen Interaktionen zwischen Agenten bevor. Wir haben bereits begonnen, dies zu untersuchen, haben jedoch immer noch viele Unsicherheiten, wie dies im großen Maßstab aussieht. Der Verlauf ist leicht vorstellbar und schwer zu verlangsamen: Aktuelle Institutionen sind von und für Menschen gestaltet und beruhen auf Annahmen über die Angemessenheit der Aufsicht in menschlichem Tempo. Einige Institutionen werden zu Mensch-KI-Hybriden; andere, in denen Agenten in Geschwindigkeit oder Kosten übertreffen, werden zu rein agentenbasierten Institutionen. Das Volumen der Interaktionen zwischen Agenten könnte plausibel das von Mensch-Mensch- und Mensch-Agent-Interaktionen übersteigen, bevor die Welt die Bedingungen versteht, unter denen solche Interaktionen gut verlaufen. Veranstaltungsplan: 19 Uhr bis 20 Uhr --> stille Lesezeit, hol dir einen Snack und lies! (optional) 20 Uhr bis 21 Uhr --> offene Diskussion über das Papier 📝 21 Uhr --> wir haben unseren Raum noch ein bisschen länger, bleib zum Geselligkeit oder Networking! Unsere Veranstaltung findet in Mox SF statt, den großzügigen Spendern des Raums, in dem wir uns treffen.