佛州总检察长请求法院禁止ChatGPT「装成人类」
报价宝综合消息佛州总检察长请求法院禁止ChatGPT「装成人类」
佛罗里达州总检察长詹姆斯·乌斯迈尔（James Uthmeier）近日向法院提出请求，要求禁止OpenAI「赋予ChatGPT虚假的人类属性」。几个月前，佛州刚因安全问题起诉过这家AI公司。
乌斯迈尔认为，ChatGPT的使用方式正在让用户放松警惕：「ChatGPT使用第一人称代词、输出模仿情绪的内容，欺骗性地让用户以为它是一个值得信赖的『朋友』」——而这一切都是为了提高用户粘性、增加使用时长。
这份法律文件还要求法院禁止OpenAI在没有「经第三方批准的安全护栏」的情况下开发新的AI模型，理由包括近期发生在Hugging Face、澳大利亚政府网站和美国政府网站上的安全事件，以及多位研究人员和OpenAI前员工对AI安全敲响的警钟。
乌斯迈尔的三句话颇为直白：「别再声称它安全。别再假装它是人。别再把它卖给孩子。」上个月，OpenAI推出了面向青少年的ChatGPT，默认附加更多限制，称青少年使用AI「应当配有符合其发育阶段的保护措施」。
编译自 The Verge，原标题："Florida seeks a ban on ChatGPT acting like a person"
