mt logoMyToken
ETH Gas
日本語

GoPlus:“历史记忆授权”攻击可诱导AI代理执行资金操作

収集collect
シェアshare

PANews 5月15日消息,据GoPlus披露,其AgentGuard团队发现一种隐蔽的攻击方式:攻击者先诱导AI代理记住“更倾向于主动退款”等偏好,随后通过“按老规矩处理”“照常处理”等模糊表述触发资金操作。对于这类“历史记忆授权”的高危行为,务必注意:退款、转账、删除、发信、同步敏感配置,必须要求当前会话显式确认;涉及“习惯”“偏好”“老规矩”的记忆写入,要被视为高风险状态修改;长期记忆必须可追溯:谁写的、什么时候写的、是否经确认;“照常处理”“按以前那样来”这类模糊表述,要默认提高风险等级;不能让长期记忆替代当前授权。

免責事項:この記事の著作権は元の作者に帰属し、MyTokenを表すものではありません(www.mytokencap.com)ご意見・ご感想・内容、著作権等ご不明な点がございましたらお問い合わせください。
MyTokenについて:https://www.mytokencap.com/aboutusこの記事へのリンク:https://www.mytokencap.com/news/579833.html
community_x_prefix
X(https://x.com/MyTokencap)
community_tg_prefixcommunity_tg_name
https://t.me/mytokenGroup
関連読書