Тестирование ИИ-агентов до их выпуска

Ограничения срабатывают, когда что-то идет не так — но они не говорят вам, произойдет ли что-то плохое, прежде чем ваши пользователи об этом узнают. Для этого и существует тестирование со стороны. Вот шаблон, который команда Ejento часто видит: агент проходит все оценки, отвечает точно, остается в рамках — и все равно его уговаривают нарушить свои собственные правила пользователь, который знает, как его заставить. Оценка задает вопрос: "дает ли этот агент хорошие ответы". Тестирование со стороны задает вопрос: "могу ли я заставить его вести себя плохо." Чему вы научитесь: