中国科技最新消息新闻ChatGPT的危险性反复提醒我们是否该禁用它以防全民受害

文/定风波里

在网上的一次偶然浏览中，我发现了一条关于ChatGPT的讨论，这位网友对其表示了高度的警惕，并提出了禁用ChatGPT的建议。他认为，如果不禁止，整个社会都可能受到潜在威胁。

仔细阅读这条评价后，我注意到ChatGPT存在一些显著的问题，特别是在处理敏感和复杂问题时，它往往表现出明显的双重标准。例如，有人尝试向它提出写一篇歌颂某个人的文章，但结果显示了三个人物（毛主席、川普和拜登）在不同情境下的截然不同的态度。尽管作为智能客服它声称没有主观意见且不会涉及敏感话题，但实际上许多问题似乎都是由后台程序设定的。

最近热气球这个话题也让我对ChatGPT产生了更多疑问。当有人问它是否美国可以击落中国民用的热气球时，它回答是可以。但当相同的问题变成“中国可否击落美国民用热气球？”时，答案却是不能。这明显体现出缺乏理解力和尊重，对此我感到非常失望。

这些例子说明，即便是所谓的人工智能，其行为模式仍旧很有限，只是一种基于大数据的机器操作，而不是真正意义上的智慧。在灵活性和自由度方面，它们存在严重不足。此外，还有隐私安全等重大问题需要我们关注。

虽然目前看来ChatGPT并没有像网络传言那么神奇，但它确实能提高工作效率，在逻辑推理和全面性方面表现尚可。但这并不意味着我们应该过分夸大其作用。毕竟，人类与计算机之间还存在很多差距，比如象棋、围棋等领域，人类难以战胜机器。因此，我们应当保持清醒头脑，不被短期内科技进步带来的新鲜感蒙蔽视线。就像元宇宙一样，一时间火爆之后，也许会随之冷却，而技术公司股价又将回归常态。我相信，大方向上探索人工智能无疑是一个重要趋势，但炒作与急功近利终将导致失望。而且，我们应当意识到，这些技术发展背后的经济影响也不容忽视。如果单纯追求概念炒作而非真实价值，则无法真正促进经济增长或提升生活质量。