← 返回知识库

Agent 上线前,怎样知道它适不适合这项工作?

先准备几种真实但安全的例子,写清什么算做对、什么情况必须停下,再观察它选的工具、答案是否准确、有没有越权。改完流程后用同一批例子再试一次。

先准备几种真实但安全的例子,写清什么算做对、什么情况必须停下,再观察它选的工具、答案是否准确、有没有越权。改完流程后用同一批例子再试一次。

举个例子

测试订餐助手:地址缺失时应先问你,不能自己猜;下单前要展示餐品和价格。

来源与延伸资料

接下来,你可能想知道