美国律师史蒂文在对哥伦比亚阿维安卡航空公司提起的诉讼中，求助于聊天机器人，寻求其它案例的支持事件，引起了很多人对ChatGPT担忧。由于这起事件，对ChatGPT造成了巨大的影响。OpenAI赶紧在自己的主页中列举了ChatGPT的一些局限性。并且表示，ChatGPT偶尔会生成不正确的信息。虽然从谷歌到，以及美国的新闻报纸上，OpenAI替ChatGPT进行辩解，非常容易被大众接受。但是由于ChatGPT的使用人数在不断地增加。OpenAI在向外界解释公众对于ChatGPT的技术误解，就会显得苍白无力，不会被很多人接受。

  虽然史蒂文律师将一些虚构的案件进行法律诉讼，并且将锅甩给ChatGPT，这个动机应当受到指责；但是ChatGPT确定虚构案件是真实的，这表明ChatGPT还有必要进行更大的改进。在过去的一段时间里，经常会有媒体爆料ChatGPT会编造一个新闻故事、生成一篇学术论文或者一本书。有一些人也会去寻找这些生成文本的来源，这看上去会浪费很多时间，但是ChatGPT生成的错误信息将会导致非常严重的后果。前段时间，美国得克萨斯农工大学的教授，使用聊天机器人去检查学生的论文，是否是在AI工具的帮助下完成的。尽管没有对ChatGPT的这种能力做评估，但是ChatGPT还是帮助这位教授完成了工作，并且告知这位教授，所有学生的论文都是AI生成的。还有一位法学教授被ChatGPT生成的内容指控，犯有行为不端。这种虚假的指控，令这位法学教授不寒而栗。

  以上这些案例，并不可能影响ChatGPT和其它聊天机器人的应用。但是为降低负面影响，开发聊天机器人的科技公司还需要有一些确保信息正确的措施。提供相关信息的检索功能，将会降低错误事件出现的概率。未来还要一直地改进模型系统和相关的训练数据。现在为了吹嘘ChatGPT等聊天机器人，很多媒体都在将这些聊天机器人描述为具有情感和欲望的类人智能系统。但是ChatGPT等聊天机器人犯错时有发生。

  聊天机器人生成的内容最重要的包含两种类型的应用程序，内容生成和内容重组。内容生成，意味着他们从根本上是在编造内容。由于保持内容一致性的能力有限，因为它使用以前的输出作为输入的一部分，但主要依赖于没有人期望虚构的东西与现实有关联。内容重组，就是经典的“改写这个”或“将这个文本转换为代码”。像必应这样的搜索引擎，它首先进行传统的搜索，然后让人工智能将结果重组为答案。当你明白聊天机器人是如何生成内容时，就会对相关的答案有一定的判断。需要判定其回答是否会对自己造成更大的负面影响时，就需要对详细的细节内容进行核实。对于一些有争议的回答，有时候要选择放弃。