据《纽约时报》早前报道，前特朗普律师迈克尔·科恩承认在一份法律文件中引用了虚假的、由人工智能生成的案例，而这份文件最终提交给了一位联邦法官。周五公开的文件显示，科恩误将谷歌的Bard当作“超级搜索引擎”而非AI聊天机器人，用于进行研究。
图源备注:图片由AI生成，图片授权服务商Midjourney
有关文件是一份动议，要求联邦法官缩短科恩三年的缓刑期，此前科恩因逃税等罪名被判刑。但在审查信函摘要后，美国地方法官杰西·弗曼写道:“这些案例都不存在”，并要求科恩的律师大卫·施瓦茨解释为何这三个案例被包含在动议中，以及是否他的被取消执照的客户有帮助起草这份文件。
作为回应，科恩提交了一份书面声明，表示他并未有意误导法庭，并补充称他使用谷歌Bard进行法律研究，并将一些研究结果发送给了施瓦茨。然而，科恩表示他并未意识到Bard引用的案例有可能是虚假的，也没有想到施瓦茨会在没有确认这些案例存在的情况下将它们添加到动议中。施瓦茨可能因包含虚假引用而面临惩罚。
科恩写道:“作为一名非律师，我没有及时关注法律技术（以及相关风险）的新趋势，也不知道谷歌Bard是一项生成文本服务，类似于Chat-GPT，可以显示看似真实但实际上并不存在的引用和描述。”他补充说:“相反，我理解它是一款超级搜索引擎，并曾在其他情境中多次使用它(成功地)在网上找到准确信息。”
这并非AI生成的引用首次出现在法庭上。在今年六月，两名纽约律师因在法律文件中包含ChatGPT生成的虚假法庭案例而受到制裁和罚款5000美元。一些律师甚至正在使用AI起草论点，包括说唱歌手普拉斯·米歇尔的法律团队，他目前正在寻求重新审判，因为最初的判决是有罪的。