昨日,Anthropic 对外宣布了其为 Chrome 打造的 Claude 扩展程序(插件)—— Claude For Chrome。据介绍,Claude For Chrome 在接入浏览器并获得用户授权后,能够实现读取网页内容,并且支持点击、填写等网页操作能力。而 Anthropic 也坦言,这种 Agent 般的自动化能力也会带来一定的安全隐患。
其指出,如果 Claude 拥有读取、回复邮件的权限后,攻击者可在邮件中暗藏恶意指令,从而导致 Claude 可能在不经意间执行,并造成数据泄露甚至触发删除文件、进行金融交易等严重后果。对此,为降低风险,Anthropic 在扩展中引入了多项安全控制:用户可在设置中按站点授予或撤销访问权限;在执行发布、购买、分享个人数据等高风险操作前,Claude 会征求确认。