中国科技馆官网警告反复使用ChatGPT将带来何种危机

文/定风波里

在网上的一次偶然浏览中，我发现了一条关于ChatGPT的讨论，这位网友对其表示了高度的警惕，并提出了禁用ChatGPT的建议。他认为，如果不禁止，整个社会都可能受到负面影响。

仔细分析后，我发现ChatGPT确实存在一些显著的问题。首先，它并非一无是处，而是一款具有双重标准和潜在风险的人工智能。在某些情况下，人们可以通过提出问题来测试它的反应，比如要求它撰写一篇赞扬特定人物的文章。如果将这三位历史人物——毛主席、川普和拜登——作为对象进行比较，我们会发现ChatGPT给出的答案并不一致。尽管它声称没有个人意见且不会涉及敏感话题，但实际上，它对这些敏感问题的回答都是由后台设定的。这意味着即使在处理复杂话题时，ChatGPT也无法提供客观公正的答案。

此外，当一个用户向ChatGPT询问关于气球相关的问题时，其回答同样令人惊讶。对于中国民用气球飞入美国领空是否可击落的问题，ChatGPT回应“可以”，但当对方反问美国民用气球飞入中国领空是否可击落时，响应则变为“不可”。这种明显的情绪偏差和知识缺乏，不仅显示出人工智能本身仍然缺乏灵活性，更暴露了其潜在被利用风险。

因此，我们应该保持警惕，对于任何新兴技术都不宜急功近利。人工智能，如今虽然能够提高工作效率，但我们不能忽视其可能带来的隐私泄露、信息安全等问题。此外，与元宇宙相似，这种热潮很可能最终只是一场短暂的小高潮，而不是长远发展的大趋势。因此，在推崇这类技术的时候，我们需要更加理智地审视它们所带来的真实价值，并对其潜在风险持有合理怀疑态度。