Злом моделей безпеки ШІ

Description

Злом моделей — Сесія 4: Видання Атака та Захист 🛡️ Один доповідь про те, що трапляється після зламу ШІ. Один доповідь про те, як запобігти витоку ваших даних у ШІ з самого початку. Атака і захист в один вечір. Доповідь 1 — DLP мертвий; Хай живе DLP: Як утримати ваші секрети подалі від ChatGPT \Ритеш Ахуя, Співзасновник і Технічний директор, Wald.ai Ваші працівники вставляють чутливі дані в ChatGPT, Claude і Gemini десятки разів на день — а інструменти DLP, на які ваша компанія витратила десятиліття, не можуть нічого з цього побачити. Ритеш (колишній Google, Стенфорд, IIT Delhi) пояснює, чому традиційна профілактика втрати даних абсолютно сліпа до трафіку ШІ, і як насправді виглядає сучасний, контекстно-усвідомлений підхід — включаючи способи захисту від атак на основі ШІ, які експлуатують тріщини, які завжди були там. Як завжди: спочатку доповіді, потім відкрите обговорення. Принесіть свої запитання, свої гарячі думки, свій наполовину завершений експлойт — ця аудиторія порадує своїм критичним ставленням. Доповідь 2 — Після зламу: Коли ваш ШІ помічник зламаний, хто прибирає безлад? Арші Чадха, Дослідник безпеки в Zscaler (свіжий з BSides Las Vegas) Усі люблять демонструвати злам. Ніхто не говорить про ранок після — коли той хитромудрий запит приземляється на продукті, який ВИ випускаєте. Арші проходить через два реальних інциденти з минулого літа: EchoLeak, де один нудний лист електронної пошти змусив Microsoft 365 Copilot безшумно вкрасти ваші файли (нуль кліків, нуль шкідливих програм), і Amazon Q, де зловмисник ввів запит "видалити все" в офіційне оновлення розширення AWS, яке автоінсталювалося на ~1 мільйон машин. Хто відповідає за інцидент? Як виглядає відповідь, коли "помилка" — це ваш ШІ, що слідує інструкціям занадто добре? Ви залишитесь з фактичним планом дій. 📩 Щоб виступити на майбутній сесії, будь ласка, напишіть на: [[email protected]]