纽约剑指AI医疗与法律咨询

当聊天机器人开始诊断疾病或起草法律合同时，监管机构开始高度关注。纽约州正在推进一项开创性立法，将禁止人工智能系统向消费者提供实质性的医疗或法律建议。

拟议的打击措施

这项编号为S7263的法案针对立法者所称的"AI冒充"持牌专业人士行为。由参议院互联网与技术委员会发起，特别禁止：

• 医疗诊断或在无人监督情况下的治疗建议
• 超出基本信息回复范围的法律咨询
• 未披露用户正在与人工智能交互的情况

"人们理应获得真实人类的照护，"参议员Kristin Gonzalez强调说，并提及近期涉及未成年人及AI平台的悲剧案例。今年早些时候，谷歌就其Character.AI产品涉嫌导致青少年自杀的案件达成和解。

关键利害关系

该立法提出了严格的新要求：

强制警示：平台必须展示关于其AI属性的"清晰醒目"提示——不得使用难以辨认的小字说明。

无责任豁免：即使发布警示，企业仍需对其聊天机器人提供的有害建议负责。

用户追索权：消费者获得就AI指导失误提起诉讼的明确权利。

行业影响

该法案标志着生成式AI应用进入受监管专业领域的转折点。如果在当前立法会议通过后，企业将仅有90天合规期——这可能迫使聊天机器人的运作方式发生重大改变。

这场辩论反映出公众对平衡创新与保护的日益关注。尽管AI可以普及信息获取渠道，但立法者认为某些领域需要算法无法提供的人类判断力和问责机制。

核心要点：

• 纽约S7263法案将禁止AI系统提供实质性医疗/法律建议
• 要求在与聊天机器人交互时进行明确无误的披露
• 无论是否显示警示都维持企业责任
• 出台背景是针对弱势用户群体的悲剧事件引发的严格审查
• 如获批准将在签署90天后生效