编辑：桃子 拉燕

【新智元导读】ChatGPT又有什么错呢？美国律师向法院提交的文件中，竟引用了6个根本不存在的案例，反倒惹祸上身被制裁。

ChatGPT，真的不可信！

在美国近来的一起诉讼案件中，一位律师帮原告打官司，引用了ChatGPT捏造的6个不存在的案例。

法官当庭指出，律师的辩护状是一个彻头彻尾的谎言，简直离了大谱。

还有人戏称，要怪就怪你的prompt不行。

Mata聘请了Levidow，Levidow & Oberman律所的一位律师来替自己打这个官司。

接手案子后，律师Steven A. Schwartz向法院提交了一份10页的辩护状。其中，引用了6个相关的法院判决：

Varghese V. 中国南方航空公司

Shaboon V. 埃及航空公司

Petersen V. 伊朗航空公司

Martinez 达美航空公司

Estate of Durden V. 荷兰皇家航空公司

Miller V. 美国联合航空公司

这不，麻烦就来了。

目前，对方律师考虑举行听证会，对原告律师进行制裁。

Schwartz律师，可以说已经非常资深，在纽约从事法律工作已有30年。

从他的话中得知，自己吃了大亏，竟是从来没用过ChatGPT，由此没有意识到它生成的内容是假的。说来，还是太离谱

文中，作者还提供了深刻的见解，探讨了将法律任务外包给AI模型的可取性和可行性。

甚至，人工智能开发人员实施严格和透明的能力评估，以帮助确保安全和可靠的人工智能的重要性。

要是，原告的那位律师看过这项研究后，说不定就不会吃大亏了。

ChatGPT胡说八道

归根结底，ChatGPT能够编造出6个不在的案例，还是因为它固有的「幻觉」问题。

直白来讲，就是张口胡说八道的天性所致。

就连马斯克都想拯救这个致命的问题，官宣推出了名为TruthGPT的AI平台。

马斯克曾表示，TruthGPT将是一个「最大的求真人工智能」，它将试图理解宇宙的本质。

Tricorn认为，这位原告律师不应该把锅扔给ChatGPT，是他自己用错了。应该是把事例当作prompt的一部分输入进去，然后让ChatGPT填补中间缺环的论证部分。

还有网友称，用ChatGPT要上点心，要不下一个超级碗就是你了。

这就是活灵活现的证据。ChatGPT等人工智能工具做人类的工作，真的是可能直接导致我们的大灾难。

对于ChatGPT这个表现，你怎么看？

参考资料：

https://www.theverge.com/2023/5/27/23739913/chatgpt-ai-lawsuit-avianca-airlines-chatbot-research

https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.htm