PG(中国大陆)官方网站-电子AI辅助平台

在AI责任指令之后:医疗AI的民事责任与欧盟风险规制的局限性-PG(中国大陆)官方网站

PG新闻
分类

在AI责任指令之后:医疗AI的民事责任与欧盟风险规制的局限性

发布时间:2026-08-09 05:43:48    浏览:

[返回]

  

在AI责任指令之后:医疗AI的民事责任与欧盟风险规制的局限性

  在2025年拟议的《AI责任指令》被撤回后,与医疗AI(Healthcare AI)造成的损害相关的索赔继续通过产品责任(Product Liability)、国家医疗责任(Medical Liability)和部门监管(Sectoral Regulation)来应对。本文通过三个部署原型——CE标志的放射学分诊工具、机器学习恶化评分系统(Machine-Learning Deterioration Score)和环境临床记录员(Ambient Clinical Scribe)——在爱尔兰、意大利和德国进行分析。研究人员(代替“我们”)认为,尽管修订后的《产品责任指令》(Product Liability Directive)和《AI法案》(AI Act)已经出台,但五个反复出现的缺口仍然存在:证据不对称(Evidence Asymmetry)、文档完整性(DocumentatPG电子官方平台入口ion Integrity)、多主体控制(Multi-Actor Control)、警告与依赖(Warning and Reliance)以及不确定下的因果关系(Causation under Uncertainty)。修订后的《产品责任指令》改善了软件覆盖范围和生产者方证明工具,而《AI法案》连同适用的《医疗器械法规》(Medical Devices Regulation, MDR)通过日志记录、文档、监督和上市后义务加强了证据环境。然而,这些收获在时间和范围上并不均衡,且未能消除由供应商持有的人工制品、分布式控制以及过失方因果证明给索赔人带来的困难。因此,最直接的改进在于上游治理:关于人工制品保留和可导出性的采购条款、明确的合同控制点分配,以及部署阶段对系统设计是否真正符合临床用户预期的人类验证的评估。

  **论文解读:AI责任指令撤回后医疗AI的民事责任与欧盟风险规制的局限性——基于三种部署原型的比较分析**

  在2025年拟议的《AI责任指令》(AI Liability Directive)被撤回后,欧盟并未出现法律真空,但医疗AI(Healthcare AI)损害索赔的法律框架呈现出结构性不平衡。现有渠道包括:针对生产者方的严格产品责任(Product Liability)、针对提供者方的国家过失责任(National Fault-Based Liability),以及以部门监管(Sectoral Regulation)为基础的规范义务。然而,这些渠道并非专门为AI相关损害设计,导致索赔人在证据获取、因果关系证明等方面面临系统性困难。医疗AI的独特之处在于其损害通常是间接的——AI输出改变临床工作流程,而非直接导致伤害。例如,放射学分诊工具可能改变检查队列顺序,恶化评分系统可能影响监护决策,环境临床记录员可能污染医疗记录。这些场景中,责任不仅取决于AI错误本身,还取决于系统在临床工作流中的位置、控制关键干预点的主体以及证据的可追溯性。

  现有研究已指出修订后的《产品责任指令》(Directive (EU) 2024/2853)和《AI法案》(AI Act)在部分解决软件和证据问题上的作用,但缺乏以索赔人为中心的视角,尤其是针对医疗领域——AI系统嵌入记录依赖、多主体、对“发生了什么、记录了什么、后期能证明什么”高度敏感的决策序列。本研究旨在填补这一空白,通过爱尔兰、意大利和德国三个司法管辖区的比较分析,识别出在修订后的《产品责任指令》和《AI法案》背景下仍反复出现的结构性缺口。

  研究人员采用基于场景的比较法律分析方法,选取三个医疗AI部署原型:CE标志的放射学分诊工具(S1)、机器学习恶化评分系统(S2)和环境临床记录员(S3)。每个原型在爱尔兰、意大利和德国三个司法管辖区中应用一项预设的八步矩阵进行分析,涵盖分类、控制、索赔路径、证据要求、披露姿态、抗辩、救济程序及整体可诉性。此外,通过双透镜时间惯例(Lens A:适用85/374/EEC指令;Lens B:适用2024/2853指令)考虑产品责任法的过渡安排。监管背景包括《AI法案》的阶段性义务(附件III高风险系统自2026年8月2日起适用,附件I受监管产品包括AI医疗器械自2027年8月2日起适用)以及《医疗器械法规》(MDR)的生命周期要求。比较设计基于已记录的临床部署模式,而非抽象技术可能性,来源包括前瞻性评估、临床环境测试及文献研究。

  通过分析三个原型在三个司法管辖区的情况,研究人员发现证据不对称是最持久的缺口。在S1中,关键证据是患者特定的推理或工作流日志,显示扫描是否被优先处理及版本信息;在S2中,包括阈值历史、校准文档和警报记录;在S3中,是编辑前的AI草稿或详细来源日志。这些证据通常由供应商或其云环境持有,而非医疗机构。爱尔兰的发现规则(Discovery)虽较宽,但存在循环性困境(索赔人需先有证据才能申请获取证据)。意大利的法庭指定专家机制(CTU)可辅助识别相关文件,但间接依赖诉讼结构。德国的《民事诉讼法》第142条和独立证据程序(ZPO第485-494a条)提供更强工具,但云存储或商业敏感证据仍难获取。修订后的《产品责任指令》第9条和第10条通过证据披露和推定规则部分缓解了G1,但合理性门槛、商业秘密保护等限制依然存在。《AI法案》的日志记录和部署者保留义务(第26条)也有助益,但由于保留期短(数月)且文档主要由生产者持有,G1难以完全消除。

  研究人员发现医疗AI部署将控制权分散在生产者、部署者和临床医生之间,现有产品责任和提供者责任路径均无法清晰映射。在S1中,控制权主要在生产者设计与部署者工作流整合之间;在S2中,阈值配置引入更明确的分配问题;在S3中,包括生产者端笔记生成、提供者端采购与治理、临床医生审查与签名、下游临床医生依赖,形成链条问题。爱尔兰的共同侵权人及贡献责任法可管理多被告诉讼,但未提供AI中介控制分配规范。意大利的双轨架构(第24/2017号法律)区分机构和从业者,但难以整合生产者方。德国在组织过失和提供者方文档责任方面较强,但生产者控制、部署者配置与临床医生使用之间的界面仍未解决。修订后的《产品责任指令》主要关注生产者方,《AI法案》明确价值链角色(包括部署者成为提供者的情况),但属于公法合规分配,而非民事责任理论。

  医疗AI损害很少呈现技术事件直接导致伤害的短路径。在S1中,低优先级分诊输出可能延迟审查,进而延迟诊断,但后续治疗或结果是否改变存在争议。在S2中,未触发的警报影响监护、转诊或出院,每一步均需反事实证明。在S3中,受污染的笔记通过作者、审查、依赖和检查时机链影响临床判断。爱尔兰以“若非”检验(But-For Test)为主,因果工具在医疗场景中的扩展仍不明确。意大利使用“更可能比不可能”标准,结合第24/2017号法律的负担结构,但无法解决涉及生产者方证据缺口的多环节链条。德国通过《德国民法典》第630h条提供法定负担转移(如重大治疗错误可逆转因果关系负担),但主要针对提供者方,对生产者方设计、来源或校准问题帮助有限。修订后的《产品责任指令》第10条在技术复杂案件中引入推定规则,改进产品索赔中的因果关系证明,但未延伸至对医院的过失或治疗合同索赔——这通常是索赔人最直接的路径。《AI法案》的日志记录可照亮链条的第一个节点(如警报是否触发),但无法解决后续反事实问题(如临床医生是否会采取不同行动、是否及时、结果是否改变)。

  该缺口在S3(环境临床记录员)中最为突出。若AI生成草稿后临床医生编辑,仅最终签署版本保留,则争议——有害错误是系统生成、人为引入还是后期添加——可能变得无法解决。披露无法找回未被保留的内容。爱尔兰无类似《德国民法典》第630h(3)条的特殊文档推定;意大利第24/2017号法律可改善索赔人一般地位,但无法重建丢失的中间笔记;德国通过第630h条提供最强替代方案,但仅部分解决——可帮助证明文档不准确,但无法确定AI系统生成的内容或生产者方是否设计了足够保护措施。《AI法案》第12条要求日志记录,第26条要求部署者保留自动生成日志至少一段时间;《医疗器械法规》也要求可追溯性。但环境记录员可能不属于MDR分类,相关AI法案条款可能尚未适用,且合规的日志不一定保证保留诉讼所需的精确编辑前草稿或患者级来源细节。

  研究人员发现,生产者方通常声称临床医生仍负责任、输出需审查、系统仅辅助,但部署方式可能使系统可预见地塑造临床医生行为,超出警告暗示的程度。硬性工作列表优先化使非优先病例不突出;主动警报架构使对警报存在与否的依赖正常化;自动填充笔记和药物字段减少人类验证强度。修订后的《产品责任指令》明确规定警告本身不构成缺陷豁免;《AI法案》要求与风险、自主性和使用情境相称的人类监督措施(第14条)。但两者均未消除行为差距。在爱尔兰,中间临床行为抗辩仍然有力;意大利和德国同样保留人类专业责任。但该抗辩强度因场景而异:在S1中,临床医生可主张工作流本身已被分诊设计引导;在S2中,警报架构和转诊协议使抗辩不够直接;在S3中,生产者方观点最强(临床医生审查并签署),但若系统在可预见但未保证详细审查的条件下生成流畅、合理的草稿,人类验证故事可能最不现实。

  研究人员总结指出,在《AI责任指令》撤回后,修订后的《产品责任指令PG电子官方平台入口》和《AI法案》改善了生产者方和治理环境,但未能消除五个结构性缺口。最有效的改进来自上游治理:通过采购条款强制患者级人工制品保留与可导出性(应对G1和G5)、在AI供应链中通过合同明确分配控制点(应对G3)、以及部署阶段进行依赖架构一致性评估(应对G6和G2)。这些措施不改变实质责任规则,但改变证据环境。对于监管机构、指导机构和公共采购者,这意味着可追溯性、保留和监督设计不仅是合规事项,也影响损害事件的可重建性。研究结论部分翻译如下:

  医疗AI索赔的成功与否并非源于关于人工智能的抽象立场,而是取决于更具体的问题:系统是否清晰可归类为产品;关键人工制品是否存在;谁控制了关键风险点;工作流设计是否削弱了正式警告;以及索赔人能否针对持有不同证据片段的各方证明多步反事实。在爱尔兰、意大利和德国,这些问题产生不同的教义路径,但呈现出可识别的类似结构性摩擦。修订后的《产品责任指令》改善了软件产品和技术困难证明的生产者方环境。《AI法案》连同适用的《医疗器械法规》改善了治理和证据设置,有时显著改善。然而,由《AI责任指令》撤回暴露出的索赔人方弱点仍然明显:证据由供应商持有、来源从未保留、控制权分散在多个主体之间、过失方因果关系仍承担大部分负担。因此,当前架构是可操作的,但不完美。其最尖锐的弱点位于风险规制与民事证明之间的接口。本文的贡献在于通过医疗AI展示,这个接口是法律现在进行大部分最困难工作的地方。撤回后的位置既非真空也非完全解决。它是一个不均衡的架构,其中事前规制和事后补偿不再同步。如果需要汲取实践教训,那就是责任准备现在同样依赖于采购设计、保留架构和工作流现实,以及教义优雅。

搜索