Сессия 09: Делаем ИИ надежным

Тестирование, оценка и обеспечение безопасности интеллектуальных систем О событии Приложения ИИ могут давать впечатляющие результаты, но как мы можем узнать, когда они действительно работают хорошо? Обычное программное обеспечение можно тестировать с предсказуемыми входными данными и ожидаемыми выходными результатами. Системы ИИ отличаются: их ответы могут меняться, информация может быть неправильно понята, а казалось бы незначительные изменения могут повлиять на качество всей системы. По мере того как ИИ берёт на себя ответственность за поиск информации, использование инструментов и выполнение задач, просто задать несколько вопросов и решить, что «это выглядит хорошо», больше недостаточно. В сессии 09 этой серии мы сосредотачиваемся на том, чтобы сделать интеллектуальные системы измеримыми, тестируемыми и защищёнными. Основываясь на системах извлечения информации, инструментах ИИ и рабочих процессах, разработанных на протяжении всей серии, мы изучим, как оценивать ответы ИИ, тестировать системы на неожиданные или злонамеренные входные данные, добавлять меры предосторожности и автоматически обнаруживать, когда изменения негативно сказываются на качестве системы. Что мы рассмотрим Практическая лаборатория: тестирование ИИ На этом практическом семинаре участники смогут: К концу сессии участники получат систему, которая делает больше, чем просто работает — у неё будет способ измерять своё качество, выявлять слабые места и предотвращать регрессии по мере её развития. Основная идея