16-й Коллоквий по вопросам CTO, Чикаго

16-й Коллоквиум CTO: Противодействие долговой нагрузке по качеству и пробелу в безопасности ИИ «То, что вы делаете, — единственная вещь, которая не даёт мне спать по ночам.» ИИ сделал нечто замечательное для инженерных организаций: он сделал сторону разработки программного обеспечения почти бесконечной. Генерация кода никогда не была такой быстрой. Выпуски никогда не были такими частыми. И разрыв между тем, что ваша команда производит, и тем, что ваша команда на самом деле может проверить, никогда не был таким широким. Этот разрыв имеет название. Долг по качеству. А внутри него, часто невидимый до тех пор, пока не станет дорогим, находится нечто худшее: поверхность безопасности ИИ, которую большинство инженерных команд не картировали, потому что фреймворки, созданные для обнаружения традиционных уязвимостей, не были предназначены для кода, который пишется самостоятельно. Безопасностный аспект здесь становится серьезным. Разработка с помощью ИИ вводит классы уязвимостей, которые традиционные системы безопасности не могут уловить: небезопасные шаблоны, усвоенные из обучающих данных, логические ошибки, которые выглядят корректными до тех пор, пока не сталкиваются с враждебным вводом, зависимости, внедренные без такой тщательности, которую приложил бы человеческий рецензент, накопление отклонений от соблюдения, тихо накапливающееся в кодовых базах, движущихся слишком быстро для аудита. Большинство организаций не обнаружит эти уязвимости при сканировании. Они обнаружат их в результате инцидента. 16-й Коллоквиум CTO — это место, где мы открыто обсуждаем эту тему. Это рабочий форум для руководителей инженерии. Мы собираем специалистов, которые активно преодолевают разрыв в целостности: инженеров по качеству, специалистов по безопасности, CTO, которые уже испытали, что происходит, когда сгенерированный ИИ код попадает в производство без адекватного контроля, и тех, кто решительно настроен опередить это, прежде чем это произойдет. Основные темы: Кризис долговой нагрузки по качеству Сгенерированный ИИ код не только приносит скорость. Он приносит долг, который невидимо накапливается. Процент ускользнувших дефектов растет. Наборы регрессионного тестирования устаревают. Уровень покрытия тестами, который казался достаточным шесть месяцев назад, больше не отражает кодовую базу. Как инженерные организации могут идентифицировать и количественно оценивать долг по качеству до того, как он станет структурной нагрузкой, и что нужно для создания качественных систем, которые могут на самом деле идти в ногу с выходом ИИ? Поверхность безопасности ИИ Когда генерация кода является движущей силой, а человеческая проверка — узким местом, возникают новые классы уязвимостей. Разработка с помощью ИИ вводит тонкие, системные риски: небезопасные зависимости, усвоенные из обучающих данных, логические ошибки, которые проходят функциональные тесты, но не выдерживают враждебных условий, и отклонения от соблюдения, которые никто не проверял. Мы приглашаем экспертов в области безопасности приложений и рисков кода, специфичных для ИИ, чтобы углубиться в то, что инженерным командам необходимо понять, обнаружить и защититься от этого прямо сейчас. Узкое место в верификации Самое сложное в ускоренной организационной структуре на основе ИИ — это не скорость, а право собственности. Знания о системе на "уровне основателя" быстро разрушаются, когда код пишет себя сам. Мы исследуем стратегии для поддержания значительного человеческого надзора: где применять его, как автоматизировать остальное, и что означает создание культуры качества, которая масштабируется, не теряя сигнала. Кому это предназначено Руководителям инженерии, CTO, вице-президентам по инженерии, главным разработчикам программного обеспечения, которые устали делать вид, что последствия качеству и безопасности разработки ИИ являются проблемой для кого-то другого. Если вы тот человек в вашей организации, который отвечает за то, что выпускается, а что нет, эта комната была создана для вас. Повестка дня День 1: Четверг — 23 июля Дневные и вечерние сессии 3:00 – 3:30 Открывающие замечания и легкие закуски 3:30 – 4:10 Бен Феллоус, основатель TinyIdeas — От Вибраций до Верификации: Битва с долговой нагрузкой по качеству ИИ с помощью якорных тегов и исполняемых договоров на разработку. 4:10 – 4:50 Райан Вайс, соучредитель и генеральный директор Vice Software — Инжиниринг ИИ на автопилоте: Освободите ваших инженеров для работы, которая накапливает. 4:50 – 5:15 Перерыв 5:15 – 5:55 Тайлер Уорд, генеральный директор CSG-Cyber — Управление безопасностью ИИ и инновации на скорости и масштабе. 5:55 – 6:35 Грег Свитака, вице-президент по инжинирингу и главный архитектур программного обеспечения WorkWave — Проект Альфред для QA: Тестирование на основе спецификаций и "Вдохновение Моббинг" в AI-SDLC. 6:35-6:45 Дебрифинг 7:00 Опциональный сетевой ужин (на раздельных счетах) Постмероприятие: напитки и неформальное общение, место проведения будет уточнено День 2: Пятница — 24 июля 9:00 – 12:00 Сессия форума CTO Фасилитированный, ориентированный на равных форум, предназначенный для выявления реальных проблем, общих паттернов и практических инсайтов от группы. 12:00 - 1:00 Обед Представлено 7CTOs CTO ежедневно сталкиваются с высокими ставками. 7CTOs — это эксклюзивное членство для технических лидеров, предоставляющее экспертную поддержку, наставничество и сообщество, чтобы помочь CTO вести, расти и процветать. С гордостью спонсируется JDAQA.