ChatGPT令人惊叹，但炒作过度-它能做什么和不能做什么
毫无疑问，ChatGPT是今年最重要的人工智能故事之一。这款来自Anthropic的对话式人工智能引起了公众的广泛关注，就像最近几年中其他科技发布一样。
ChatGPT似乎一夜之间迅速走红。它对自然语言提示的类似人类回应令数百万人着迷。突然之间，人工智能可以像人类一样进行随意的对话，分享巧妙的笑话，并以非常连贯的论文回应复杂的提示。
像飞蛾扑火一样，人们涌向测试ChatGPT的极限。它能够提供深思熟虑的诗歌评论吗？能分析莎士比亚吗？能调试代码吗？能进行伦理辩论吗？能讨论量子物理学吗？
是的，它在这些测试中表现出色。但在急于将ChatGPT加冕为下一代人工智能（AGI）的过程中，很多人忽视了它非常明显的局限性。
炒作的列车可能有点过早地离站了。尽管ChatGPT预示了一个有希望的未来，在很多方面，它仍然是一款令人印象深刻但专注范围狭窄的AI助手。
让我们清醒地看一下当今的ChatGPT能做什么和不能做什么。
ChatGPT的优势：闪耀之处
毫无疑问，ChatGPT展现了一种有时令人毛骨悚然地模拟人类智能的语言和推理能力。在庞大的训练数据集的支持下，ChatGPT在几个领域中展现出令人信服的性能：
对话能力
ChatGPT擅长对话任务。它真正的突破在于它自然地处理来回闲聊。
AI能够准确地跟随对话主题。它合理地回答后续问题。当迷惑时，ChatGPT甚至会礼貌地请求澄清。
这种对话流畅感比起以往的聊天机器人更加接近人类。我们已经被几十年呆板的人工智能对话所磨练。ChatGPT的雄辩和多功能性感觉像是一个巨大的飞跃。
文本生成
给ChatGPT一个写作提示，它能够生成长篇连贯的文章，仿佛是人类的写作。
例如，让它写一首诗，你可能会对它生成的隐喻和结构印象深刻。让它创作一个短篇小说，它会以一个可信的故事情节进行叙述。
这种根据简短提示生成高质量文本的能力具有巨大的实用性。企业正在使用ChatGPT撰写营销文案、电子邮件和博客文章。学生们使用它来扩展论文思路。创作者们使用它来激发原创小说情节的灵感。
知识综合
给ChatGPT一些关键事实或背景信息，它可以将这些信息综合到一个非常好的概述中。
提出关于历史、文学、科学或时事的问题，ChatGPT往往能够提供一份富有相关细节的合理摘要。
例如，问“你能简单地解释爱因斯坦的相对论吗？”你可能会被它提供的连贯解释愉快地惊艳到。
逻辑推理
ChatGPT具有较强的逻辑推理能力。在给定一组前提或约束条件的情况下，它能够得出合理的结论。
让它根据你手头上的食材推荐菜谱，它的建议通常会考虑到相容的口味和烹饪方法。
告诉ChatGPT你正在为一个四口之家计划一个拥有特定兴趣和预算的假期，它会提出周到的目的地和活动建议。
这些例子展示了在确定的领域内，ChatGPT能够建立联系并提供基于理性思考的建议。
ChatGPT的不足之处
尽管ChatGPT似乎非常出色，但在许多情况下，它会遇到问题。它的能力仍然有限且脆弱。在经过详细审查后，人级别的智能假象瓦解。
以下是ChatGPT的主要不足之处：
知识有限
人类知识的广度很快就暴露出ChatGPT的局限性。它的训练数据截止于2021年。因此，它缺乏关于时事新闻、新书或最新科学发现的最新知识。
提出一个晦涩的琐事问题或询问一个小众话题时，ChatGPT往往会回答含糊不清或承认无知。即使在更广泛的领域中，对于复杂问题，它的知识空白也变得明显。
脆弱的推理能力
给ChatGPT一道不寻常的提示或复杂的推理任务，它很容易逻辑崩溃。尽管它能很好地处理简单的推理，但在更高级的逻辑挑战面前，它会被绊倒。
例如，ChatGPT在数学应用题和演绎推理谜题方面表现困难。它无法识别自己的矛盾之处或错误的结论。
无法学习
ChatGPT无法像人类那样学习或扩展自己的能力。它无法吸纳新知识或通过经验从错误中学习。
试图教授ChatGPT一项新技能或纠正其事实错误，并不能带来长期的改进。每次对话都是从头开始。这个限制使得它在需要适应性的任务中不可靠。
没有常识
ChatGPT对于常识并不常见。尽管它可以提供动听的回答，但它缺乏人类通过生活积累的基本现实世界判断力。
如果用户没有明确提出安全问题，ChatGPT可能会自信地提供危险的建议。它会面对荒谬的假设性问题做出直接回应，而任何人都能认识到这些问题是愚蠢的。
由于缺乏适当过滤上下文的常识，ChatGPT的判断不能毫无条件地信任。
事实验证能力薄弱
不要指望ChatGPT能进行严格的事实核对。如果它在训练数据中存在虚构或不准确的信息，它常常会以坚定的口气呈现这些信息。
在回答问题时，ChatGPT并不会从多个可靠来源系统性地验证事实。因此，合理的回答之间可能夹杂着被塑造成真实的微妙虚构。
缺乏上下文
与ChatGPT进行较长的对话会凸显出它的记忆和上下文的缺失。它不能通过回忆之前的陈述来在多次交流中学习。
每个输入被视为一个独立的提示。因此，虽然ChatGPT在回答个别问题时看起来很智能，但它无法保持上下文，限制了它在更广泛对话中的推理能力。
无自我认知
ChatGPT的局限性中最明显的迹象可能是它对自己的缺乏理解。它无法解释自己的算法运作方式，讨论自己的能力或准确地进行自我反思。
如果询问ChatGPT如何如此令人信服地生成答案，它会胡乱应对和转移话题。与人类不同，它无法评估并明确表达其智能的优势和限制。
当前使用ChatGPT的负责任方法
这些限制强调了ChatGPT在目前作为对话型AI的突破中，作为真实、专业知识或智慧来源的不可靠性。
尽管如此，如果谨慎使用，它今天仍提供许多有趣和有用的应用。以下是一些负责任的使用ChatGPT的方法：
-头脑风暴-使用ChatGPT激发创意思维，收集关于感兴趣的主题的初步信息。但要验证你打算依赖的任何内容。
-起草-让ChatGPT为你写稿、文章和电子邮件，以节省时间。但要在准确性和原创性方面进行大量编辑。
-个人娱乐-享受ChatGPT作为一个有趣的伴侣，因为它具有幽默、创造力和融入他人观点的能力，但不要期待其完全连贯。
-技术帮助-从ChatGPT获取有关软件、IT问题和专业流程的解释。但要在实施之前谨慎测试其建议。
-辅助信息获取-使用ChatGPT将复杂信息翻译成简单的术语，以便更容易理解。但是要在原始来源中核实细节。
关键是要欣赏ChatGPT作为一种令人印象深刻但有缺陷的工具。将其用于增强人类创造力和知识——而不是替代它。
未来的潜力
虽然ChatGPT还需要显著成熟，但它的潜力仍然令人兴奋。Anthropic已经在开发一个在更多当前数据上训练的版本。
未来的迭代可能会索引互联网以提供准确的实时答案。类似记忆网络和基于推理的架构的升级可以解决关键的限制。
有人认为，在未来的十年或二十年内，可能会出现能与人类认知能力相媲美的真正通用人工智能。
ChatGPT提供了会话式人工智能可能有一天实现的一个小预览。我们有责任以人类价值为导向，谨慎地发展这项技术。
通过公开讨论它当前的优点和缺点，我们可以确保在人工智能在未来几年内负责任地实现其全部潜力的同时，明智地使用它。
因此，欣赏ChatGPT是一种令人印象深刻但有限的对话代理程序。在适度应用时，欣赏其娱乐价值和实用性。但是，让我们用现实的期望来平衡炒作。
如果小心地开发，像ChatGPT这样的人工智能也许会有一天赢得当今所获得的赞誉。目前，要认识到它的深远前景，同时接受它真实的局限性。