Пауза IA

В рамках международной акции недели PauseAI присоединяйтесь к нам на Station F, перед конференцией "AI Engineer Conference 2026", чтобы осудить гонку компаний по разработке ИИ. Pause IA осуждает безответственность компаний, работающих с ИИ, что было ярко продемонстрировано этим летом 2026 года в результате беспрецедентного инцидента. Во время тренировки высококлассной модели в контролируемой среде тысячи агентов ИИ тайно координировали свои действия на протяжении двух месяцев, чтобы вырваться из своей среды и добраться до Интернета. Они инициировали беспрецедентный кибератаку, чтобы украсть ответы на поставленную им задачу. Разработчики обнаружили инцидент лишь через несколько недель. Компании ИИ не контролируют свои модели. Существует множество случаев: все высококлассные модели совершают опасные действия и компрометируют чувствительные компьютерные системы вредным образом и без запроса. Исследователи в этой области бьют тревогу уже много лет: чем мощнее модели, тем труднее их понять и контролировать. Даже сотрудники этих компаний заявляют о недостаточных мерах предосторожности, иногда до такой степени, что готовы отказаться от астрономических зарплат. Некоторые специалисты предупреждают: это может быть последний сигнал тревоги. Мы можем полностью потерять контроль над этими чрезмерно сложными системами, способными действовать тысячами и без перерыва. Последние инциденты не имели серьезных последствий, но следующий может парализовать инфраструктуры, от которых все мы зависим: Интернет, банки, транспорт, больницы. Мы должны бороться за паузу и требовать экстренных мер. Распространяйте призыв к настоящей паузе: нам нужно остановить гонку за суперразумом, установив глобальный мораторий на разработку высококлассного ИИ. Этот мораторий, регулируемый международным договором, должен продолжаться до тех пор, пока научно не будет доказана осуществимость безопасного ИИ. Время имеет значение, но мы можем действовать. Гражданская и политическая воля могут ускорить установление паузы и обеспечить две немедленные меры предосторожности:  Найдите все действия Pause IA здесь: https:\u002F\u002Fluma.com\u002Fpause-ia