Meta智能体Muse给用户亲友建档案 隐私争议升温

据《连线》杂志报道，Meta的AI个人助理Muse走红数月、下载量已达数百万，不少用户把它接上银行账户、聊天记录甚至健康数据，让它代办日常事务。但研究人员从应用内提取出的操作指令显示，这个智能体正在悄悄为用户生活中的每一个人建立详细档案，而这些人从未同意被建档。

独立AI安全研究员卡兰·乔希（Karan Joshi）用了一个相当朴素的办法：他直接在聊天界面里让Muse复制自己的软件文件。就这样，他提取出了大批Muse的内部指令和系统提示词，并交给了《连线》。Meta方面则表示，这些文件本来就设计为可访问，目的是保持透明。

其中一条指令要求Muse"为用户生活中的每个人建立一个页面"。这一流程每小时运行一次，会持续汇总用户家人、伴侣、朋友、同事、"协作者"以及所关注之人的信息，存入以结构化文本文件形式存在的"记忆"中，供其调用。

按照文档描述，这些页面起初可能很单薄，随后逐步充实，栏目包括"事实""历史""这段关系""共同点""未了话题"和"关系升温"等，会记录对方的职业住址、生日纪念日、搬家或共同存钱这类长期事件，甚至一段争执如何收场。指令同时告诫模型只用现有"证据"填写，凭空捏造比留白更糟。这些档案的用途听起来相当生活化：给你支招怎么修复一段关系，或者推荐一家适合爱喝咖啡的朋友的早餐店。

"从这些提示词和喂给Muse的数据来看，他们想理解你和你身边真实的人的关系，"乔希说，"他们想让它像朋友一样了解你，说实话这挺吓人的。"牛津大学伦理学AI研究所副教授卡丽莎·维利兹（Carissa Véliz）则指出，我们交给AI系统的信息，远多于我们从它们那里得到的信息，而AI还能对这些信息做出或对或错的推断。

Meta回应称，智能体要有用就必须掌握用户及其互动对象的背景，Muse收集的信息来自公开资料和用户主动分享——比如记住给你发发票的人正是之前修过浴室的水管工，或者配偶说过喜欢什么花。该公司强调，每个用户拥有独立的隔离虚拟机，用户可随时清除记忆、断开外部服务，智能体在发邮件、下单等操作前会请求人工确认，并提供完整的审计日志。

争议的核心并不在于数据是否加密隔离，而在于画像的默认姿态：无论用户有没有开口，这些亲友档案都在一小时一小时地自动填充。当AI助手从"能聊天的工具"进化成"能办事的代理"，被它记住的不该只有用户自己。

编译自 WIRED，原标题："Muse Creates Detailed Profiles of All Your Friends and Family"