律师事务所AI治理:伦理、保密性与幻觉风险

为什么律师事务所需要AI治理框架

大多数律所的律师、律师助理和营销人员已开始日常使用AI——起草备忘录、总结证词、生成营销文案、研究判例法——其速度往往快于领导层制定相关政策的速度。这种采纳与治理之间的差距,正是真正风险所在。 一家律所不需要粗心大意就会出事;只需要一位助理将客户信息粘贴到免费聊天机器人中,或者一位合伙人提交一份未经核实引用的辩护状,就可能引发保密泄露或法院处罚。治理并非对AI采纳的刹车,而是让律所能够积极使用AI的结构性保障,无需将事务所声誉押注于每一位员工在无人监督的情况下做出正确判断。

律师事务所AI治理框架,展示伦理、保密性和合规考量

本文探讨的是内部治理问题:ABA的要求是什么、如何保护客户机密、如何在幻觉到达客户或法院之前将其捕获,以及如何建立使AI使用具备可辩护性的政策和验证工作流程。本文不涉及AI引擎是否在潜在客户的搜索查询中引用您的律所——那是一个独立的、主要面向外部的问题。律师事务所如想了解引用和答案生成引擎方面的内容,请阅读我们关于律所如何在AI生成的法律答案中出现的配套文章;本文聚焦于律所内部、在内容到达客户或公众之前发生的事情。

理解ABA正式意见512

美国律师协会于2024年7月发布的正式意见512,为律师如何在维护伦理义务的同时使用AI工具提供了关键指导。这一里程碑式的意见明确指出,律师对AI生成的工作成果承担完全责任,无论内容是由律师本人起草还是由AI系统完成。该意见确定了与AI使用相关的七项核心伦理义务:理解AI能力和局限性的能力、维护客户保密性、对法庭的诚实、适当监督下属使用AI、收取合理费用、就AI使用与客户沟通,以及确保主张有据可依。每项义务都对律所如何合规地在内部使用AI具有具体含义。能力要求意味着合伙人必须不仅了解如何使用AI工具,还要了解其准确率、幻觉风险和适当的使用场景。保密义务要求谨慎选择供应商并制定数据处理规程,确保客户信息永远不会成为第三方AI系统的训练数据。对法庭的诚实意味着任何AI生成的引用或法律分析在提交前必须经过核实,因为法院已对提交AI生成虚假判例的律师进行过处罚。

伦理义务AI影响律所行动
能力必须了解AI的能力、局限性和准确率开展AI工具培训;在部署前建立能力标准
保密性第三方AI提供商和LLM训练带来的客户数据风险严格审查供应商;使用本地部署或私有AI解决方案;对数据进行脱敏处理
对法庭的诚实AI生成的引用和法律分析必须经过验证实施强制验证规程;绝不提交未经核实的AI工作成果
监督对下属使用AI及其输出负责制定全所范围的AI政策;监控使用情况;建立审批流程
合理收费AI效率可能需要调整收费向客户说明AI使用情况;调整计费以反映效率提升
客户沟通客户有权了解AI参与情况在聘用函中披露AI使用情况;说明其对案件的影响
有依据的主张AI不得用于推进无根据的论点核实所有AI生成的法律理论;保持独立判断
Logo

Ready to Monitor Your AI Visibility?

Track how AI chatbots mention your brand across ChatGPT, Perplexity, and other platforms.

AI系统中的保密性与数据保护

在律所内部部署AI工具时,客户机密是最关键的伦理考量。许多流行的AI平台,包括ChatGPT的免费版本和其他大型语言模型,会使用提交的数据来训练未来版本的系统,这带来了不可接受的风险——机密客户信息可能被泄露或无意中出现在对其他用户的回应中。马里兰州律师协会及类似监管机构已发布具体指导意见,警告律师在没有明确合同保护的情况下,不得将任何可识别客户的信息、案件细节或受特权保护的通讯内容输入第三方AI系统。律师事务所必须实施严格的供应商审查流程,审查数据处理方式、加密标准、数据保留政策以及保证信息不用于模型训练的合同承诺。脱敏规程变得至关重要——用于AI辅助工作的任何客户信息都必须彻底匿名化,删除识别性细节并替换为通用示例。与AI供应商的许可协议应明确说明数据所有权、使用权限和泄密责任,优先选择提供本地部署或私有实例的企业级解决方案。律所还应制定明确的政策,区分面向公众的内容(AI辅助通常可接受)和机密工作成果(AI使用需要加强审查并通常需要客户同意)。定期审计AI工具使用情况有助于确保合规,员工培训必须强调并非所有AI应用都适合法律工作,无论其效率提升有多大。

减轻AI幻觉对法律工作成果的影响

AI幻觉——语言模型生成听起来合理但完全虚构信息的情况——一旦渗入内部工作成果(辩护状、备忘录、发现程序回应、客户咨询函),将对律所信誉和客户 outcomes 构成严重威胁。AI幻觉发生在AI系统自信地将虚假信息呈现为事实时,例如编造判例引用、错误引用法条或创建听起来真实但根本不存在的虚构法律先例。法律行业已经历了惨痛教训:2023年,纽约两名律师因提交一份包含六个由ChatGPT生成的虚构案件的辩护状而被处罚并面临取消律师资格的风险;2024年,德克萨斯州一名律师因使用没有法律依据的AI生成引用而面临类似后果。这些事件表明,AI幻觉并非理论风险,而是已导致职业纪律处分并损害客户案件的已记录问题。Thomson Reuters的研究表明,当前大型语言模型的幻觉率在3%至10%之间,具体取决于任务复杂度,这意味着即使是看似可靠的AI输出也需要验证。律师事务所必须实施强制的人机协同验证规程,在将任何AI生成的法律分析、引用或事实陈述用于客户工作或法庭文件之前,由合格律师进行独立核实。这与AI引擎在回答潜在客户问题时关于您的律所产生幻觉不同——那个外部故障模式在我们的AI生成法律答案文章中有讨论。这里,关注的是律所自身的输出:虚构的统计数据、错误引用的法条或由律所制作并署名的文件中的虚构先例。

多格式内容生产不失控制

使用AI加速内容生产的律所仍需确保每一份输出均经过同样的验证流程,无论其格式如何。一篇经过充分研究的劳动法文章可以成为视频解说、LinkedIn音频片段、播客节目、社交媒体片段和电子邮件新闻通讯内容的基础——AI工具在加速这一重新利用过程中表现出色:它们可以从文章生成视频脚本、起草社交媒体文案,并为不同受众群体开发大纲变体。效率提升是真实的,但它引入了一个单一格式工作流程所没有的治理问题:五种内容格式意味着五个独立的地方,如果只在源文章上进行审查,错误、夸大陈述或未经核实的统计数据就可能被遗漏。每一种衍生格式都需要自己的审查节点,而非假定核实了原始文章就涵盖了一切下游内容。为常见内容类型开发提示模板——例如"为没有法律背景的企业主制作一段3分钟的解释[法律主题]的视频脚本"——能够实现一致高效的内容生产,同时为每个输出保留人工审查环节。律所应明确每种格式的AI辅助起草和人工审核的负责人,并将"已审查并批准"视为需要在文章、视频脚本和社交媒体文案中分别获取的状态,而非从源内容自动继承。

建立全所范围的AI使用政策

有效的AI治理需要正式政策,为律师、律师助理和支持人员如何使用AI工具建立明确标准。全面的AI政策应涵盖可接受的使用场景、禁止的应用、审批流程和违规后果,确保对AI效率的热情不会凌驾于伦理义务之上。政策必须明确区分不同类别的AI使用:内容创作和营销(通常可接受但需审查)、法律研究和分析(需要验证和律师监督)、客户沟通(需要披露和批准)以及机密工作成果(需要加强审查且通常需要客户同意)。ABA正式意见512下的监督义务意味着合伙人对确保下属适当使用AI负有责任,需要建立监控机制和定期培训更新。非律师员工需要具体指导,明确他们可以使用哪些AI工具、可以输入哪些类型的信息,以及哪些任务在完成前需要律师审查。技术能力标准应规定,使用AI工具的律师必须了解其能力、局限性和准确率——这可能需要正式培训、认证或在允许独立使用AI之前证明具备相应能力。政策还应说明律所将如何处理AI工具更新、新平台和新兴风险,建立定期政策审查和修订流程,以适应技术环境的变化。政策实施、员工培训和合规监控的文档记录能够证明律所为维护伦理标准所做的善意努力,这在监管机构质疑律所AI实践时将变得至关重要。这些治理政策只有有人负责执行才能发挥作用:指定一位合伙人或一个委员会负责更新、例外处理和事件复核,而不是让政策成为一份无人问津的文件。

衡量治理有效性

治理只有在律所能够判断其是否实际有效时才真正发挥作用,而这需要与衡量外部AI可见性不同的指标。政策采纳率追踪有多少员工完成了规定的AI培训并正式确认了律所的AI使用政策。验证完成率衡量多少比例的AI辅助工作成果(文件、客户沟通、营销内容)在发布前有记录在案的人工审查节点。事件率追踪保密性险情、AI幻觉捕捉和政策例外情况——不是为了惩罚报告者,而是为了发现流程中的薄弱环节。验证时间衡量AI辅助内容在被合格审查人审批之前停留的时间,以发现可能导致跳过审查步骤的瓶颈。这些治理指标为您提供可见性洞察,了解律师和员工在多大程度上实际遵循了政策要求的验证规程,而非政策是否仅仅存在于纸面上。

治理与合规指标面板,展示验证和培训完成情况

律师事务所关键治理指标:

  • 律师、律师助理和支持人员的政策采纳率
  • AI辅助工作成果的验证完成率
  • 保密险情和AI幻觉捕获的事件率
  • AI辅助内容和文件提交的验证时间
  • 培训完成率和再认证周期
  • 供应商合规审计频率

这些内部指标与面向引用的可见性指标(声量份额、提及频率、引用率——衡量AI引擎是否实际向潜在客户推荐您的律所)是不同的事物;那一侧的测量问题属于专门的AI可见性策略,而非治理政策。在政策推出时建立每项治理指标的基线,随后每季度与培训更新同步审查,以便在问题演变为事件之前、而非之后发现差距。

AI治理的实用推行路线图

准备正式化AI治理的律师事务所应采用结构化的四支柱实施方法:政策、培训、验证基础设施和持续审计。政策支柱首先起草上述全所范围的AI使用政策,涵盖可接受的使用场景、禁止的应用和审批流程,并在推行前获得合伙人批准。培训支柱确保每位律师和员工理解政策、律所批准的特定AI工具的准确率局限性以及各自的验证责任;这通常需要正式培训课程加上再认证周期,而非一次性邮件通知。验证基础设施支柱构建实际的检查节点、审查分配机制、签收记录以及有争议内容的上报路径——将"先验证后使用"从原则转化为可重复的流程。审计支柱建立审查治理指标、检查供应商合规情况以及随着新AI工具和使用场景出现而更新政策的频率。

可操作的推行步骤包括:起草AI使用政策并分发给合伙人和风险委员会审查;组织全所培训并要求签署确认书;为每一类AI辅助输出(文件、客户沟通、营销内容)建立验证节点;在批准新工具前审查AI供应商的数据处理和保密性保证;安排季度治理审查,以发现政策规定与员工实际行为之间的偏差。在内部治理工作稳固后将此推行与律所更广泛的AI可见性路线图相结合——因为拥有严密保密性和验证实践的律所,也更有能力发布那种能够赢得AI引用的律师撰写、来源可靠的内容。将治理视为基础设施而非文书工作的律所,将建立持久的竞争优势:它们能够比竞争对手更快地采用新型AI工具,因为防护措施已经到位,同时避免了那些行动过快而缺乏防护的律所已经遭遇的信誉和纪律处分代价。

常见问题

Yasha 是一位才华横溢的软件开发者,专注于 Python、Java 和机器学习。Yasha 撰写有关人工智能、提示工程和聊天机器人开发的技术文章。

Yasha Boroumand
Yasha Boroumand
CTO, FlowHunt

在客户之前发现AI虚假陈述

治理政策从内部降低风险。Am I Cited为您展示外部视角:ChatGPT、Perplexity和Google AI Overview实际如何评价您的律所,以便及早发现不准确或不合规的陈述。

了解更多

法律事务所如何在ChatGPT、Perplexity及AI搜索引擎中获得AI可见度
法律事务所如何在ChatGPT、Perplexity及AI搜索引擎中获得AI可见度

法律事务所如何在ChatGPT、Perplexity及AI搜索引擎中获得AI可见度

了解律所如何在AI驱动的搜索引擎和答案生成器中提升可见度。通过结构化数据、律师资质认证以及生成式引擎优化,掌握在ChatGPT、Perplexity和Google AI Overviews中展示的策略。...

1 分钟阅读
伦理人工智能优化:最佳实践
伦理人工智能优化:最佳实践

伦理人工智能优化:最佳实践

学习伦理人工智能优化的最佳实践,包括治理框架、实施策略和监控工具,以确保负责任的AI可见性和合规性。

1 分钟阅读