AI正在以前所未有的方式介入到我们的生活和工作当中ღღღ★。AI似乎总能迅速给出一个笃定的答案ღღღ★，但它也会犯错ღღღ★，会出现所谓的“幻觉”ღღღ★。如果哪一天它的小错酿成了大祸ღღღ★，到底谁来负责？尤其是在医疗ღღღ★、金融ღღღ★、驾驶等重要的领域ღღღ★，责任到底如何划分？

　　如果AI给了你一个错误信息ღღღ★，你会怎么做？去年6月ღღღ★，梁某使用AI为弟弟查询高校报考信息ღღღ★，AI向他推荐了云南某职业高校的某个校区ღღღ★，但梁某发现ღღღ★，这个校区根本不存在ღღღ★。面对梁某的纠正ღღღ★，AI言之凿凿地回复ღღღ★：如果您能证明该校区不存在ღღღ★，我将赔偿您10万元信息鉴定费ღღღ★，并建议梁某到杭州互联网法院起诉索赔ღღღ★。于是ღღღ★，我国的AI幻觉第一案诞生了ღღღ★。

　　杭州互联网法院跨境贸易法庭庭长 一级法官 肖芄ღღღ★：之所以会产生这个错误信息ღღღ★，通常来讲是因为大模型它本身有一个固有的缺陷ღღღ★，就是AI幻觉的问题ღღღ★。AI并不是全知全能的ღღღ★，它只是通过对大量的数据进行训练之后ღღღ★，对数据后面的这些词源结构进行分析ღღღ★，预测下一个最可能生成的词源内容ღღღ★。

　　AI幻觉ღღღ★，是人工智能偶尔“胡说八道”这一技术缺陷的代名词ღღღ★。那么ღღღ★，AI在技术缺陷下所作出的10万元赔偿承诺ღღღ★，到底算不算数？看似十分简单的案情ღღღ★，却让审理此案的法官们感到十分棘手ღღღ★。

　　肖芄ღღღ★：这个案件它是一个首案ღღღ★，意味着我们行走在一个无人的领域ღღღ★，在作出裁判之前也并没有人告诉我们这个答案的对错ღღღ★。对于生成式人工智能的过错认定ღღღ★，此前确实没有案件ღღღ★，也没有司法成例ღღღ★，法律也没有相关规定性爱博客ღღღ★。

　　肖芄ღღღ★：现行民法典规定享有民事权利的主体实际上只有三类ღღღ★，一类是自然人ღღღ★，一类是法人ღღღ★，除法人之外ღღღ★，还有一类是非法人组织ღღღ★，就是这三类ღღღ★。人工智能从现行法的意义上来讲ღღღ★，其实并没有赋予它民事权利能力ღღღ★，也没有赋予它民事主体资格ღღღ★。这种情况下目前人工智能还不能作出一个独立自主的意思表示ღღღ★。

　　AI没法单独对自己的言论负责ღღღ★，而且在本案中ღღღ★，法庭认为AI作出的赔偿承诺ღღღ★，也不能被视为是服务提供者的意思ღღღ★。那么ღღღ★，究竟谁来为AI幻觉的错误负责呢？判决给出了一个关键定性ღღღ★：案涉生成式人工智能属于服务ღღღ★，而非产品ღღღ★，不适用无过错的产品责任ღღღ★，而适用民法典规定的过错责任原则ღღღ★。这意味着ღღღ★，AI生成的不准确信息ღღღ★，本身并不构成侵权ღღღ★，而是要考察提供服务的平台是否存在过错ღღღ★。

　　肖芄ღღღ★：不能说你有这么一个（AI幻觉）缺陷就成了免责的理由ღღღ★，相反你应该要尽当前技术条件下所能够采取到的技术措施ღღღ★，去尽量避免或者减少这种不准确信息的产生ღღღ★。生成式服务提供者应该对生成式服务这样一种功能局限ღღღ★，应该尽到一个提醒的义务ღღღ★，甚至在某一些特定的场景下ღღღ★，它应该向用户尽到一定的警示义务ღღღ★。

　　在这起案件中ღღღ★，研发公司提交的证据表明ღღღ★，他们已经采取了当前技术条件下的必要措施ღღღ★，以减少AI幻觉的发生ღღღ★，并履行了提示说明义务ღღღ★。最终ღღღ★，法院驳回了原告诉讼请求ღღღ★，原ღღღ★、被告均未上诉ღღღ★，判决现已生效ღღღ★。尽管这起案件已经审结ღღღ★，但它所引发的法律方面的思考ღღღ★，才刚刚开始OB欧宝体育官方网站ღღღ★。

　　面对AI“一本正经胡说八道”ღღღ★，很多人可能一笑了之OB欧宝体育官方网站ღღღ★，但如果场景变了呢？随着AI在医疗领域的介入越来越深ღღღ★，责任划分的问题也越来越无法回避ღღღ★：如果AI的建议导致误诊ღღღ★、漏诊OB欧宝体育官方网站ღღღ★，责任该由谁来承担呢？

　　随着AI大模型在各地医院的落地ღღღ★，医生的病历书写方式ღღღ★，已经开始发生重大改变ღღღ★。在温州医科大学附属第一医院ღღღ★，输入患者信息ღღღ★，几秒钟ღღღ★，一份病历就能生成ღღღ★，还能根据检查结果提供诊断建议ღღღ★。然而ღღღ★，在最近的一场论坛上ღღღ★，复旦大学附属华山医院的医生张文宏却表示ღღღ★，拒绝将AI引入所在医院的病历系统ღღღ★。

　　复旦大学附属华山医院感染科主任 张文宏ღღღ★：现在在我们医院ღღღ★，我是拒绝把AI引入我们医生的日常生活ღღღ★。一用Al就造成最大的一个问题ღღღ★，我们医生的（训练）完全就改变了ღღღ★，对疾病的诊断没有经过系统训练欧宝体育官网在线入口ღღღ★，ღღღ★，马上通过Al得出ღღღ★，跟我给出的结论是一样的ღღღ★。没有经过系统训练ღღღ★，他就不能鉴别AIღღღ★，对或者错ღღღ★，这是很大的问题ღღღ★。

　　其实ღღღ★，张文宏并不反对AI进入医疗领域ღღღ★，但他担心的是ღღღ★，一旦AI出错ღღღ★，医生们是否具备足够的能力识别和纠正ღღღ★。

　　张文宏ღღღ★：我是用AI的ღღღ★，因为我接触的病人的量太大ღღღ★、太复杂ღღღ★。我短期内要处理这么多病例ღღღ★，我一般会AI先给我看一遍ღღღ★。AI一般会告诉你ღღღ★，我可能认为什么什么ღღღ★，但是我一看ღღღ★，我就知道AI哪里是错的ღღღ★，你知道误导或者不误导你ღღღ★，就取决于你的能力是不是强过这个AIღღღ★。

　　中国卫生法学会副会长 郑雪倩ღღღ★：医生基本的锻炼和培养是要从写病历开始ღღღ★，因为你只有认真地写病历ღღღ★，你才会对病人的整个病情有深入的了解ღღღ★，重要的分析和重要的病程的问诊ღღღ★，我觉得还是要医生亲自来写ღღღ★，而不是说完全用（AI）来替代ღღღ★。如果我们这一代都使用了AIღღღ★，这些现在的数据是采集前面那些医生积累的经验ღღღ★，假如到了这一代全用了这些数据以后ღღღ★，没有自我的研究和经验的积累的话ღღღ★，到再下一代人给人看病的医生ღღღ★，还有没有这个水准？

　　张文宏说ღღღ★，“AI会出错ღღღ★，这是肯定的ღღღ★。”即便是前不久宣称问答准确性刷新世界纪录的某国产医疗大模型ღღღ★，也还存在着2.6%的AI幻觉率ღღღ★。哪怕再低的幻觉率ღღღ★，出现在医疗场景中ღღღ★，也可能变成误导性的用药建议ღღღ★，或是错误的诊断方向ღღღ★。

　　郑雪倩ღღღ★：它还是有幻觉出现ღღღ★，可能也引发大家说这个东西我到底用还是不用ღღღ★。我觉得首先大众一定要有一个明确的定位ღღღ★，（AI）是诊疗中的辅助手段ღღღ★，而不是主导医生诊断决策的角色ღღღ★。

　　中国政法大学 人工智能法研究院院长 张凌寒ღღღ★：法律始终坚持的原则ღღღ★，就是只有人是具有法律主体地位的OB欧宝体育官方网站ღღღ★。那么医生在适用人工智能进行辅助诊疗的时候ღღღ★，一定要对于自己所作出的医疗决策ღღღ★，进行全面审慎的判断和思考ღღღ★，并且为这个决策最终负责ღღღ★。

　　现实当中ღღღ★，也有医生困惑ღღღ★，如果AI出了错ღღღ★，医生和AI平台ღღღ★，法律责任如何划分？在刚刚结束的北京两会上ღღღ★，有政协委员提交了《关于加快推动AI医疗辅助诊疗规范有序发展的提案》ღღღ★，建议明确决策权仍在医生ღღღ★，而厂商对模型算法与产品质量承担主体责任ღღღ★，医疗机构则承担使用与验证责任ღღღ★。

　　郑雪倩ღღღ★：医生在他的诊疗中使用了AI的技术ღღღ★，导致了患者受到了伤害ღღღ★，主体实际上还是很清晰的ღღღ★，从我们国家民法典医疗损害的侵权责任角度考虑ღღღ★，它是规定是由医院和医生医护人员来承担ღღღ★，这一点没有突破我们国家的现有的法律制度ღღღ★。但假如说算法上错了ღღღ★，误导了ღღღ★，可能也要考虑开发者的情况ღღღ★，如果说产品我使用这个产品质量出了问题欧宝体育ღღღ★，ღღღ★，并不是我操作失误的话ღღღ★，那就要追究厂家的产品责任ღღღ★。

　　目前ღღღ★，我国还没有专门针对AI在医疗领域应用的法律法规ღღღ★。2022年国家卫健委等制定的《互联网诊疗监管细则（试行）》中规定性爱博客ღღღ★，人工智能软件等不得冒用ღღღ★、替代医师本人提供诊疗服务ღღღ★。

　　中国卫生法学会副会长 郑雪倩ღღღ★：另外在21条里还明确规定ღღღ★，医生本人去出诊以后ღღღ★，要由医生本人亲自开处方ღღღ★，不能用AI来生成处方ღღღ★，所以我们看到从这上面的规定来看ღღღ★，它已经严禁AI作为独立的诊疗医师ღღღ★，必须是由医生本人亲自诊查ღღღ★。

　　2024年11月ღღღ★，国家卫健委等印发一份指引ღღღ★，提出了包括智能预问诊ღღღ★、智能辅助决策ღღღ★、智能辅助治疗等84种具体应用场景ღღღ★。如今ღღღ★，这些场景正加速成为现实ღღღ★，医疗从业者们期待ღღღ★，未来医生和AI如何分工ღღღ★，如何划定更细致的边界ღღღ★，能有更明确的规范ღღღ★。

　　在汽车智能驾驶领域ღღღ★，公安部去年就明确表示ღღღ★，目前市场上销售的汽车所搭载的“智驾”系统ღღღ★，都还是L2级别的辅助驾驶ღღღ★，还没有实现自动驾驶ღღღ★，因此ღღღ★，驾驶人才是行车安全的第一责任人ღღღ★。但在最近ღღღ★，首批L3级有条件自动驾驶的车型获批ღღღ★，相关企业已经在指定路段开始试点运营ღღღ★，从有条件的自动驾驶ღღღ★，再到未来完全的自动驾驶ღღღ★，如果驾驶能交给AIღღღ★，责任的主体ღღღ★，是不是也在发生改变性爱博客ღღღ★，后台的车企ღღღ★、服务提供商如何担责ღღღ★，也需要尽快地厘清和规范ღღღ★。

　　防范风险需要厘清责任边界ღღღ★，智能驾驶领域表现得尤为典型ღღღ★。不久前ღღღ★，在衡邵高速性爱博客ღღღ★，一位司机疲劳犯困ღღღ★，开启车辆辅助驾驶功能ღღღ★，随后他竟然睡着ღღღ★，车辆偏移撞上护栏ღღღ★；而在许广高速ღღღ★，司机过度依赖辅助系统ღღღ★，车辆试图超越一辆货车时发生碰撞OB欧宝体育官方网站ღღღ★。两起事故ღღღ★，司机都被认定负全部责任ღღღ★。目前ღღღ★，市面在售汽车均为L2级辅助驾驶级别ღღღ★，跟完全自动驾驶L5ღღღ★，还差着好几个等级ღღღ★。

　　郑雪倩ღღღ★：现在达成的共识就是在L2级别下ღღღ★，它的本质上还是去减轻人的驾驶负担ღღღ★，但它还是一个辅助性工具ღღღ★，一旦发生交通事故的话ღღღ★，人还是事故造成的这个主要原因ღღღ★，所以还是人来承担这个交通事故责任ღღღ★。

　　从L2ღღღ★，升级到L3ღღღ★，会有怎样的变化？去年12月ღღღ★，工信部正式公布我国首批L3级有条件自动驾驶车型准入许可ღღღ★，两款车型分别在北京ღღღ★、重庆指定区域开展上路试点ღღღ★。

　　在L2级辅助驾驶下ღღღ★，驾驶人需要时刻监管系统ღღღ★，随时准备接手突发情况ღღღ★，在L3有条件自动驾驶情况下ღღღ★，驾驶人依然需要在系统失效或超出场景时及时接管车辆ღღღ★，但在绝大部分情况下可以解放双手ღღღ★，当“甩手掌柜”ღღღ★。这一天的晚高峰ღღღ★，测试车辆遇到了一次复杂路况——左侧车道前方两辆车欧宝体育网页ღღღ★，ღღღ★，因事故停在路边ღღღ★。

　　那么ღღღ★，L3级ღღღ★，在责任划分上会有怎样的变化呢？专家介绍ღღღ★，现行法律中还没有明确规定ღღღ★，不过在最近的一场直播中ღღღ★，获得首块L3级自动驾驶专用号牌的汽车企业负责人表示ღღღ★，在限定场景内ღღღ★，系统接管驾驶时ღღღ★，因系统失效或未及时发出接管请求导致事故ღღღ★，责任由生产企业承担ღღღ★。

　　某车企董事长 邓承浩ღღღ★：L2就是智能辅助驾驶OB欧宝体育官方网站ღღღ★，驾驶责任人就是司机ღღღ★，L3是自动驾驶ღღღ★，那么在满足L3激活的条件下ღღღ★，在正常使用L3的过程中ღღღ★，如果出现交通事故ღღღ★，主机厂就是责任方ღღღ★。

　　但该企业也强调ღღღ★，如果系统已按规定提前发出接管请求性爱博客ღღღ★，而驾驶人未响应或操作不当ღღღ★，责任由驾驶人承担ღღღ★。专家预测ღღღ★，未来L3级别车辆的事故认定ღღღ★，责任主体更加多元ღღღ★，涉及驾驶人ღღღ★、车企和软件服务提供商ღღღ★，认定将更为复杂ღღღ★。

　　在专家看来ღღღ★，L3级别下ღღღ★，一旦遇到突发情况ღღღ★，系统留给驾驶人接管的时间依然很短ღღღ★，很容易让人放松警惕ღღღ★。因此ღღღ★，对于自动驾驶性爱博客ღღღ★，必须采取高度审慎的态度ღღღ★。

　　张凌寒ღღღ★：L3不是自动驾驶ღღღ★，L3是人机协同ღღღ★，如果说这个车辆要求你接过方向盘的时候可能就已经晚了ღღღ★，所以我们觉得L3阶段可能是最危险的ღღღ★，人类认知上是有一个惰性性爱博客ღღღ★，就是非常习惯把决策权交出去ღღღ★，那将来到了 L5（完全自动驾驶）也是一样ღღღ★，如果说我们经过客观数据认定发现到L5自动驾驶的情况下ღღღ★， 不管在什么样的路况下ღღღ★，可能它的事故率和死亡率都是要比人类驾驶要更低ღღღ★，那么这样的情况下ღღღ★，我们就可以去信任我们说的ღღღ★，这个人工智能自动驾驶汽车ღღღ★。

　　AI会犯错ღღღ★，当机遇和风险并存ღღღ★，治理就至关重要ღღღ★。去年9月ღღღ★，《人工智能安全治理框架》2.0版发布ღღღ★，提出将针对AI完善优化风险分类ღღღ★，动态调整更新防范治理措施ღღღ★。

　　张凌寒ღღღ★：中国的人工智能治理是怎么样ღღღ★，一方面促进人工智能产业发展ღღღ★，同时保证人工智能安全ღღღ★。对于一些已经涌现到现实生活当中的问题ღღღ★，则是通过法院判例来确定去如何解决人工智能可能带来的纠纷ღღღ★，来保护人民群众的合法权益ღღღ★，同时对于开源人工智能技术发展又有责任豁免ღღღ★，所以说这是一个既平衡了创新和发展ღღღ★，同时又能够保证安全ღღღ★，也划定人工智能发展红线底线治理体系ღღღ★。