苏利文·克伦威尔律师事务所已向美国破产法院承认，最近一起备受瞩目的案件中的一份文件包含人工智能生成的错误，包括捏造的引文。

　　

“我们对此深感遗憾，”该公司重组主管安德鲁·迪特德里希在写给马丁·格伦法官的信中说，该文件包含人工智能“幻觉”，产生了虚构的权威性并歪曲了现有的权威性。

　　

该披露信息来自一封致美国纽约南区破产法院的信函，该律所代表的是来自英属维尔京群岛的法院指定清算人。错误出现在4月9日的一份动议中，该律所表示，在准备该动议的过程中，其人工智能使用规则并未得到遵守。

　　

此案涉及清算人追讨与太子集团及其所有者陈志相关的索赔。检方指控陈志主导了针对全球受害者的诈骗活动，并试图追回据称与该活动相关的数十亿美元加密货币。被拘留今年早些时候在柬埔寨，后来被遣返回。

　　

通过美国破产法第15章的程序，清算人正在寻求获得授权，代表债权人和所谓的受害者行事。在英属维尔京群岛注册成立的王子集团一直……链接美国当局指控东南亚存在大规模欺诈活动。已批准由英国和美国政府。

　　

根据更正后的文件，4月份提交的文件多处错误引用了案例法，并包含一些并不支持其所引用论点的引证，其中一些引证似乎完全没有依据。该律所已撤回原动议，并提交了修订版本。

　　

Prince Group 和陈律师最初发现了这些错误。他们表示，文中引用的美国破产法典条文无法找到，而且一些权威案例被错误解读或误认。他们指出，其中一例引用的案例实际上是另一个巡回法院的判决。

　　

被告在另一份文件中称，至少有28处引文有误，其中包括一些根本不存在的、归于法院的引述。他们辩称，更正的时机对他们不利，因为修改后的文件是在他们提交异议之后才提交的，并请求法院延期举行原定听证会和状态会议。

　　

苏利文·克伦威尔律师事务所表示，其政策要求律师在使用人工智能工具之前完成培训，并独立验证所有输出结果。

　　

“在任何律师获得使用生成式人工智能工具的权限之前，该律师必须完成两个必修的培训模块，培训完成情况将被跟踪和验证。培训反复强调人工智能‘幻觉’的风险，包括捏造案例引证、曲解权威和不准确的引述，”声明中写道。

　　

“它指示律师‘不要轻信任何事，要核实一切’，并明确指出，未能独立核实人工智能生成的输出结果构成违反律所政策的行为。”

　　

该公司表示，更广泛的审查发现其他文件中也存在一些细微的文书草拟问题，并将其归咎于人为错误而非人工智能。该公司没有透露最初起草动议的律师身份。

　　 人工智能被告上法庭

此次事件进一步加剧了人工智能在法律实践中造成的失误，因为各律所都在测试旨在加快研究和文书撰写速度的工具。法院最近也出现了类似情况。已批准或者批评律师提交的文件中包含人工智能生成的捏造或不准确的参考信息。在澳大利亚，一位律师脱衣舞去年，由于人工智能的应用，他们作为首席律师执业的能力受到了影响。

　　

法学院开始需要指导关于这项技术，高级法官们警告说，滥用这项技术可能会影响诉讼的公正性。

　　

近期的一些裁决也探讨了人工智能如何融入现有的法律框架，包括是否互动使用此类工具的人受到特权保护。与此同时，一些法院飞行员人工智能系统助力管理繁重的工作量。