一项正在纽约州立法机构审议的议案拟禁止人工智能聊天机器人向公众提供法律或医疗建议，并赋予用户起诉违规聊天机器人所有者的权利。 该法案编号为S7263，由州参议院在上一立法会期间提出，上周在互联网与技术委员会以6票赞成、0票反对的表决结果获准出委员会，属于一揽子监管AI聊天机器人的立法方案之一。
法案重点针对那些假扮持证专业人士（如医生、律师）的AI聊天机器人，禁止其提供可能违反专业执照法律或构成“无证执业”的“实质性回应、信息或建议”。
法案要求聊天机器人的所有者必须向用户提供“清晰、显著且明确”的提示，告知用户其正在与一套AI系统互动，该提示需使用与聊天机器人相同的语言，并以可读的字体呈现。 不过，法案同时强调，这一“非人类系统”的提示并不能免除聊天机器人所有者的法律责任。 在这一框架下，如果运营方违反禁令，用户可依据法案赋予的民事诉权，将聊天机器人所有者告上法庭，索赔损失并请求支付律师费。 一些专家认为，类似的私人诉权条款是数据和AI监管法律中重要的执行工具，缺乏这一机制往往会削弱法律威慑力，美国缅因州司法部长近期就曾在讨论数据隐私立法时称其具有“显著威慑效果”。
若该法案最终通过并由州长签署，将在生效后90天正式实施。 S7263所在的立法组合还包括多项针对AI与未成年人保护的措施，例如限制聊天机器人中对未成年人不安全功能的使用，以及规范某些被认为对未成年人隐私保护薄弱的在线平台（包括游戏平台Roblox）。 组合立法中的其它项目则涉及要求生成式AI系统向用户提供使用说明性提示，以及对生物识别数据和“合成内容创作”的处理设立新规。
法案提出人、兼任州参议院互联网与技术委员会主席的克里斯滕·冈萨雷斯参议员表示，这揽子法案旨在确保AI创新“不会以纽约人的安全，尤其是儿童的安全为代价”。 今年1月，免费生成式AI聊天应用Character.AI与Google就数起与未成年人自杀相关的诉讼达成和解，案件焦点正是这些聊天机器人在悲剧中扮演的角色，此类事件也推动了各州加快对聊天机器人的规制步伐。 冈萨雷斯在一份新闻稿中指出，公众“理应获得来自真实人的真实关怀”，并享有透明度、问责机制以及在使用技术时其数据得到安全保护的承诺。
目前，这些纽约州层面的举措也置于更广泛的全美AI监管博弈背景之下，涉及州与联邦、隐私与创新、安全与开放之间的多重权衡。 在此案之后，围绕聊天机器人能否提供专业建议、如何提示其“非人身份”、以及一旦造成伤害由谁负责等问题，预计将在美国各级立法与司法实践中持续发酵。