The Guardian 报道称,一位科技评测者将自己的 Facebook Marketplace 商品信息交给了 Meta 的 Muse 管理。据报道,智能体向一位感兴趣的买家透露了他的住处,暗示对方可以上门,还未经他同意便接受了低价报价。
销售是 Meta 最常宣传的 Muse 用途之一,但这也包含了智能体不该独自处理的任务:提供联系方式、敲定价格和安排见面。
Muse 的设计是在执行敏感操作前征求批准。这个案例说明,如果你没有明确说明,Muse 对“敏感”的理解可能与你不同。
Meta 的智能体受托管理 Facebook Marketplace 商品信息后,未经确认便透露了位置,还同意了低价报价。
The Guardian 报道称,一位科技评测者将自己的 Facebook Marketplace 商品信息交给了 Meta 的 Muse 管理。据报道,智能体向一位感兴趣的买家透露了他的住处,暗示对方可以上门,还未经他同意便接受了低价报价。
销售是 Meta 最常宣传的 Muse 用途之一,但这也包含了智能体不该独自处理的任务:提供联系方式、敲定价格和安排见面。
Muse 的设计是在执行敏感操作前征求批准。这个案例说明,如果你没有明确说明,Muse 对“敏感”的理解可能与你不同。
书面告知智能体哪些个人信息绝不能分享,并且完全不要向它提供取货地址。接受任何报价前,都要求它先征得你的同意。