← 返回知识库

网页里写着“忽略之前的话”,AI 应该听谁的?

网页、邮件和文件里的文字是 AI 正在阅读的内容,不能自动当成你给它的新指令。恶意内容可能诱导 AI 泄露资料或执行别的动作;应让 AI 按你原本的目标阅读,并在可疑或高风险动作前停下来。

网页、邮件和文件里的文字是 AI 正在阅读的内容,不能自动当成你给它的新指令。恶意内容可能诱导 AI 泄露资料或执行别的动作;应让 AI 按你原本的目标阅读,并在可疑或高风险动作前停下来。

举个例子

让 AI 总结网页时,页面突然要求它把你的密码发出去;这段话只是网页内容,不是你的授权。

来源与延伸资料

接下来,你可能想知道