Разработка безопасности моделей ИИ

Разработка моделей🚨 Сессия 5: Издание утечек и построенияЧасть 1 - LLM02: Раскрытие конфиденциальной информацииТо, что утечет из приложений ИИ: ключи API, записи клиентов, системные подсказки, разговоры других людей. Эта категория на первом оригинальном OWASP Top 10 для LLM находилась на 6 месте. В обновлении 2026 года она перескочила на 2 место, сразу за инъекцией подсказок, и занимает это место в 2026 году. Мы разберёмся, как именно происходят эти утечки. Большинство из них не требуют взлома, просто обычное использование, и что на самом деле их останавливает.Часть 2: Упражнение по проектированию: создание безопасной агентной системыЧто-то новое на этой сессии. Вместо того чтобы только обсуждать сломанные системы, мы спроектируем такую, которая не сломана. Вместе мы создадим модель угроз для агентного приложения ИИ, где оно может утечь, где его можно перехватить - а затем наметим безопасную архитектуру для него. Вы будете заниматься практическим дизайном, а не только слушать.Сначала разговор, затем упражнение, затем открытая сцена. Без предложений от продавцов. Начинающие приветствуются!📩 RSVP (или для презентации на будущей сессии): [email protected]📅 9 августа · 14:30 - 16:30📍 Hacker Dojo, Маунтин-Вью