美国纽约州立法机构正在审议代号为S7263的法案，禁止AI聊天机器人向公众提供实质性法律或医疗建议，严禁其假扮持证专业人士，违规运营方将面临用户的民事起诉。法案要求AI需以清晰显著的方式提示用户正在与AI互动，且运营方无法因提示免除AI建议造成伤害的法律责任。立法背景是今年1月Character.AI与Google因未成年人自杀相关诉讼达成和解，参议员强调AI创新不能以公众安全为代价。若法案通过，将在90天后生效，规范AI行业发展。