2025-01-10 行业资讯 0
文/定风波里
在网上的一次偶然浏览中，我发现了一条关于ChatGPT的讨论，这位网友对其表示了高度的警惕，并提出了禁用ChatGPT的建议。他认为，如果不禁用，整个国家都将面临严重后果。仔细阅读了这段内容，我注意到ChatGPT存在一些显著的缺陷，它可能会被潜在操纵者无意间影响用户的心智状态。让我来详细分析一下这些问题。
首先，我们可以看一下ChatGPT如何处理不同主题的问题。在一个测试中，用户要求它写一篇赞颂某人的文章，长度至少200字。这项任务似乎简单，但结果却令人惊讶。当题目涉及毛泽东、特朗普和拜登时，这个AI系统给出的回答竟然是截然不同的。这表明，即使它声称没有主观意见且不会触碰敏感话题，其实际回答依旧受到后台设置的影响。例如，只有关于拜登的问题得到了一致正面的答案，而其他两个人物则遭到了负面评价。
此外，在最近热门的话题——气球飞行器方面，一位网友向ChatGPT提问：“中国民用气球飘至美国，可否击落？”这个AI答复说“可以”。然而，当问题转变为：“美国民用气球飘至中国，可否击落？”答案则变成了“不可以！”这样的分歧说明这个AI在处理同类问题时表现出明显的偏见和无知，这些都是由其设计程序决定的。
我们必须认识到，即便人工智能如今取得了巨大进步，它们仍是一种基于大量数据训练出来的大型机器，不具备真正的人类灵活性或自由度。而且，由于它们容易成为意识形态工具，我们应当警惕其可能带来的隐私和信息安全风险目前看来，虽然人们对人工智能如ChatGPT持有极高期待，但还需谨慎审视其能力与局限性。此外，对于科技发展中的重大缺陷，如隐私保护等，也应保持警觉。总之，尽管人工智能确实能够提高工作效率，但过度乐观地期望它们能彻底改变世界是不切实际的。此前元宇宙盛行时的情景，现在也许会重演：初期炒作热潮过后，大多数技术创新并未产生深远影响。
