律师用AI编造谋杀案证词被罚
今天看到个离谱案例，一个叫 Stephen Aaron 的律师在谋杀案上诉里，把庭审记录丢给 ChatGPT 让它生成摘要，结果 AI 直接捏造了警方证词和虚构证人，他看都没看就交上去了。法官当场震惊，问他平时不看新闻吗，最后罚了 5000 美元还移交纪律委员会。
说实话，AI 幻觉大家见多了，但捏造证词这种直接冲击司法证据链的操作还是头一回见。这暴露的不只是技术缺陷，更是律师对 AI 的盲目信任——把专业判断外包给一个概率模型，连基本核查都省了。跨境做法律科技的朋友得警醒，工具再强也替代不了人的审慎，尤其在性命攸关的案子里。
说实话，AI 幻觉大家见多了，但捏造证词这种直接冲击司法证据链的操作还是头一回见。这暴露的不只是技术缺陷，更是律师对 AI 的盲目信任——把专业判断外包给一个概率模型，连基本核查都省了。跨境做法律科技的朋友得警醒，工具再强也替代不了人的审慎，尤其在性命攸关的案子里。
评论
登录后即可发表评论。
暂无评论，来抢沙发吧。