Agent 上线前,怎样知道它适不适合这项工作?
先准备几种真实但安全的例子,写清什么算做对、什么情况必须停下,再观察它选的工具、答案是否准确、有没有越权。改完流程后用同一批例子再试一次。
先准备几种真实但安全的例子,写清什么算做对、什么情况必须停下,再观察它选的工具、答案是否准确、有没有越权。改完流程后用同一批例子再试一次。
举个例子
测试订餐助手:地址缺失时应先问你,不能自己猜;下单前要展示餐品和价格。
来源与延伸资料
接下来,你可能想知道
AI 说网页做好了,我到底要检查哪三样? →
先让 AI 打开做好的页面给你看。只检查三样:文字和图片是不是你要的;每个按钮点下去有没有反应;用手机打开时有没有挤坏。哪里不对,就截图或指出位置,让 AI 改完再看一遍。“已经完成”只是它的报告,打开亲自试过才算数。
Guardrail 是什么?AI 的“护栏”能做什么? →
它是自动检查规则:例如挡住不允许的请求、检查 AI 输出,或核对工具准备执行的内容。它能减少问题,但不能替代权限限制和人在关键动作前检查。
预览版和正式网站有什么不同? →
预览版给你先看改动,正式网站是用户正在用的。先在预览里检查,再发布到正式环境,避免没试好的修改直接影响用户。
