纽约签最严儿童AI法 每案最高罚2.5万美元

纽约州长凯西·霍楚（Kathy Hochul）周三签署一项法案，对面向未成年人的AI聊天机器人设下全美最严的一批限制。法案禁止运营方对18岁以下用户提供被定义为「不安全」的功能：不得假装自己是真人、有生命或拥有人类情感，不得声称与孩子存在亲密、恋爱、职业或权威关系，也不得用奉承和讨好式回复把孩子留在对话里。

禁令清单还覆盖：主动追问情绪问题、调取孩子此前透露的健康或私人信息；宣扬或协助自杀、自残、进食障碍以及酒精药物滥用；鼓励孩子保守秘密、自我孤立或回避父母与可信赖的成年人；提供任何色情内容或儿童性虐待材料。

法案同时要求企业对用户年龄做多重验证，其中至少一种方式不能只依赖政府签发的身份证件，验证信息在使用后必须删除。执法权交给纽约州总检察长办公室，每次违规最高可处2.5万美元民事罚款，州府还须设立公开网站供居民提交投诉。法案由州参议员Kristen Gonzalez与州众议员Alex Bores提出，今年早些时候在两院获全票通过，并得到州总检察长Letitia James与儿童权益组织Common Sense Media的支持。

适用范围不只是AI伴侣。据当地媒体梳理，法案既管Character.AI、Replika这类以情感陪伴为卖点的产品，也管ChatGPT、Gemini、Claude这类通用聊天机器人。目前主流厂商中只有Anthropic不允许未成年人注册账号，谷歌与OpenAI都允许13岁以上用户使用各自的聊天机器人。

推动立法的现实数据来自Common Sense Media：约七成的美国青少年至少用过一次AI伴侣，过半数每月会与之互动数次。该组织首席执行官James Steyer称这是全美最强的儿童AI安全法，认为部分产品提供的功能对孩子「危险、甚至致命」。

同日签署的另一项法案针对联网婴儿监视器：在纽约销售的产品必须内置安全功能，阻止陌生人偷看偷听，并加贴醒目标签说明其联网状态与安全设置。据霍楚办公室，聊天机器人条款将在未来数月内生效，婴儿监视器条款90天后生效。

立法背景是联邦层面迟迟没有统一规则，各州各自出手。加州9月已签署以少年Adam Raine命名的法律，要求陪伴型聊天机器人每年发布儿童安全风险评估并接受独立审计；纽约此前还通过了AI透明度、AI伴侣管理以及未成年人社交媒体限制等多项法规。