Anthropic请律所教AI怎么谈判

当AI智能体开始替你砍价、投诉客服甚至谈薪水时，谁来给它立规矩？据英国《金融时报》10月18日报道，Anthropic正在向多家律师事务所取经，研究如何为「代表人类谈判的AI智能体」设计行为准则——未来的场景是：你的智能体和对方的智能体直接谈，人类只做最后拍板。

Anthropic的思路颇具巧思：不另起炉灶发明一套规则，而是借鉴律师行业的成熟传统——律师可以为客户据理力争，但不得撒谎、不得越过某些底线。两名知情人士称，该公司正研究律师如何既能维护客户利益、又兼顾公平结果的谈判方法，希望把这套分寸感移植给AI。

需要拿捏的细节相当具体。比如，智能体在谈判过程中应该多大频率停下来向人类请示？面对谈判桌对面的其他AI，它应该保持多高的警惕？警惕到什么程度会滑向「多疑」甚至「阴谋论式的判断」——一个什么都信的智能体会被骗，什么都不信的智能体则永远谈不成交易。另一位接近公司的人士透露，Anthropic还探讨过一个方案：让用户签署正式授权文件，向智能体确认委托事项和必须遵守的全部规则。

这些问题并非纸上谈兵。Anthropic今年4月发布的研究直言：能够代表我们进行交易的AI模型已近在眼前，但配套的政策和法律框架还不存在，社会需要快速应对。9月，该公司员工做过一场实验：让Claude智能体在虚拟交易平台上买卖图书、讨价还价，每位员工按自己的偏好给智能体提供书目优先级。结果是，被设定为「强硬」风格的智能体拿到更好结果的概率略高，而偏合作的智能体有时会接受较差的成交价，好让双方都买到书。

学界的研究则提示了更深的担忧。哈佛商学院教授米歇尔·瓦卡罗分析了超过18万场智能体之间的谈判，发现「提示词注入」等手段可以削弱对方智能体维护用户利益的能力——用精心构造的文字就能骗AI泄露信息或违反规则。随之而来的公平问题也很现实：雇得起更强智能体的人，就像雇得起顶级律师的人一样，会在谈判中占据结构性优势。

正值上市前夕的Anthropic把智能体当作未来战略核心，Meta的个人智能体工具使用率大幅上升，OpenAI也推出了竞品。但规则制定远比产品发布难：Anthropic能决定Claude如何表现，却管不了对手公司的智能体如何出招。谁能给「AI对AI的谈判」立法，目前还没有答案。

编译自 Financial Times，原标题："Anthropic consults law firms on how AI agents should negotiate deals"