16-й Колоквіум CTO, Чикаго

16-й КТО Коллоквиум: Випробування якісного дефіциту та розриву безпеки ШІ «Що ви робите — це лише те, що не дає мені спати вночі.» ШІ зробив дещо надзвичайне для організацій розробки: він зробив сторону розробки програмного забезпечення майже нескінченною. Генерація коду ніколи не була такою швидкою. Релізи ніколи не були такими частими. І розрив між тим, що ваша команда випускає, і тим, що ваша команда може реально перевірити, ніколи не був таким широким. Цей розрив має назву. Якісний дефіцит. І всередині нього, часто невидимий до того, як він стане дорогим, є дещо ще гірше: поверхня безпеки ШІ, яку більшість організацій розробки не змоделювали, тому що фреймворки, створені для виявлення традиційних вразливостей, не були розроблені для коду, який написав себе сам. Сектор безпеки — це те, де це стає серйозним. Розробка, підтримана ШІ, вводить класи вразливостей, які традиційні фреймворки безпеки не були створені для виявлення: небезпечні патерни, засвоєні з навчальних даних, логічні помилки, які виглядають правильними до зустрічі з адверсальним вхідним даним, залежності, підтягнуті без перевірки, яку б застосувала людина-рецензент, зсув комплаєнсу, що накопичується тихо в кодових базах, які занадто швидко рухаються для аудиту. Більшість організацій не виявлять цих вразливостей з перевірки. Вони виявлять їх з інцидента. 16-й КТО Коллоквиум — це те, де ми виводимо цю розмову на поверхню. Це робочий форум для керівників розробки. Ми збираємо практиків, які активно випробують розрив цілісності: інженери з якості, спеціалісти з безпеки, КТО, які вже відчули, що відбувається, коли код, створений ШІ, потрапляє в продакшн без належного контролю, і ті, хто визначився випередити це до того, як вони це зроблять. Основні теми: Криза якісного дефіциту Код, створений ШІ, не лише приносить швидкість. Він приносить дефіцит, який невидимо зростає. Рівні втечі дефектів зростають. Suites регресії стають старими. Покрытие тестів, яке здавалося достатним шість місяців тому, вже не відображає кодовий баз. Як організаціям розробки виявити та квантувати якісний дефіцит до того, як він стане структурною загрозою, і що потрібно для побудови систем якості, які можуть реально випереджувати вихід ШІ? Поверхня безпеки ШІ Коли генерація коду є двигуном, а перевірка людини — вузьким місцем, з'являються нові класи вразливостей. Розробка, підтримана ШІ, вводить тонкі, системні ризики: небезпечні залежності, засвоєні з навчальних даних, логічні помилки, які проходять функціональні тести, але не проходять під адверсальними умовами, і зсув комплаєнсу, який ніхто не аудитував. Ми залучаємо експертів з безпеки програмного забезпечення та ризику коду, специфічного для ШІ, щоб детально розкрити, що організаціям розробки потрібно зрозуміти, виявити та захиститися від цього зараз. Вузьке місце перевірки Найважніше, що потрібно зберегти в організації, підштовхуваної ШІ, — це не швидкість, а власність. Системні знання «рівня засновника» швидко зникають, коли код написується сам. Ми розглянемо стратегії для збереження значущого людського контролю: де його застосовувати, як автоматизувати решту і що означає побудувати культуру якості, яка масштабується без втрати сигналу. Для кого це Керівники розробки, КТО, віце-президенти з розробки, головні інженери програмного забезпечення, які вже не хочуть приховувати, що наслідки якості та безпеки розробки ШІ є проблемою когось іншого. Якщо ви є людина в вашій організації, відповідальна за те, що випускається і що не випускається, ця кімната була створена для вас. Агенда День 1: Четвер — 23 липня Сесії після обіду та вночі 15:00 – 15:30 Вступні слова та легкі напої 15:30 – 16:10 Бен Феллоуз, Засновник, TinyIdeas — Від настроїв до перевірки: Випробування якісного дефіциту ШІ з анкерними тегами та виконуваними договорами розробки. 16:10 – 16:50 Райн Віс, Співзасновник та CEO, Vice Software — Розробка ШІ на автопілоті: Випустіть своїх інженерів для роботи, яка зростає. 16:50 – 17:15 Перерва 17:15 – 17:55 Тайлер Ворд, CEO, CSG-Cyber — Управління безпекою ШІ та інновації на швидкості та масштабі. 17:55 – 18:35 Грег Світак, Віце-президент з розробки та головний архітектор програмного забезпечення, WorkWave — Проект Альфред для QA: Тестування на основі специфікацій та «Інцептійна мобінг» в AI-SDLC. 18:35 – 18:45 Дебриф 19:00 Опціональний нетворкінг-вечеря (Dutch treat) Післясесійні напої та неформальний нетворкінг, місце TBA День 2: П'ятниця — 24 липня 09:00 – 12:00 Сесія Форуму КТО Спонсований форум, керований колегами, створений для виявлення реальних проблем, спільних патернів та практичних ідей від групи. 12:00 – 13:00 Обід Представлено 7CTOs КТО щодня зустрічають високоризикові перешкоди. 7CTOs — це ексклюзивний членський клуб для технологічних керівників, який надає експертну підтримку, коучинг та спільноту, щоб допомогти КТО керувати, зростати та процвітати. Щиро спонсовано JDAQA.