新墨西哥州最高法院正在处罚一名律师，因为他在为客户谋杀定罪提起的上诉中加入了AI虚构的证人和伪造的警方证词。据Reuters报道，法院在周三的一份裁定中对Stephen Aarons处以5000美元罚款，并以未能"核实其AI生成的法律简报中的事实主张和法律依据"为由判定其藐视法庭。
裁定书称，该简报"包含完全虚构证人的虚假证词"，以及关于枪手衣着和外貌的"虚假证词"。法官C. Shannon Bacon在8月的一场听证会上质问Aarons为何没有意识到AI带来的风险——他在听证会上承认使用了ChatGPT，并认为它会生成一份"无可挑剔的总结"。据Reuters报道，Bacon法官表示：“律师，你看新闻吗？你听广播吗？你读任何关于这个世界正在发生什么的报道吗？因为律师依赖AI幻觉的问题每天都是头版新闻。”
随着在工作中使用AI工具的律师数量不断增加，法院发现引用被AI编造——即幻觉——的情况也在增多。去年，一名法官痛斥两家律所提交的简报包含"大量虚假、不准确且具误导性的法律引用和引文"，而MyPillow的Mike Lindell的律师也因在简报中加入AI生成的错误引文和虚假AI引用而被罚款。
“我很懊悔，但希望纪律委员会能考虑到这是一个无心的错误，“Aarons在给Reuters的一份声明中说。
关注本文的话题和作者，以便在你的个性化首页信息流中看到更多类似内容，并接收电子邮件更新。
- Emma Roth