2025-01-15 手机 0
重庆科技馆探秘：GPT-3的火爆背后，究竟是智能革命还是饭碗大师？
边策 发自 凹非寺量子位 报道 公众号 QbitAI
在这座古老而又现代的城市——重庆，有一家名为“科技馆”的地方，它不仅是一座展示未来技术的大门，更是一扇通往知识海洋的窗户。最近，一款名为GPT-3的神奇工具在全球范围内掀起了一股热潮，它似乎能够做到让人难以置信的事情，却也引发了人们对其本质和潜力的一系列疑问。
GPT-3，全称第三代生成式预训练Transformer，是旧金山的一个高科技公司OpenAI开发出来的一种AI系统。它通过数年的研发，如同2012年以来计算机视觉技术一样，对文本处理领域产生了深远影响。无论是自动化客服、内容审核，还是教育辅助，这款工具都被认为具有巨大的应用前景。但与之相伴的是一连串的问题。
首先，GPT-3作为一种数据模式系统，其训练过程中依赖于庞大的文本集，无需人工干预就能完成任务。这似乎令人印象深刻，但同时也带来了一个问题：该程序不可靠性是否会破坏其整体实用性？错误答案可能给商业公司带来严重后果，而如果无法确定答案是否可靠，那么将这种技术用于教育或者其他需要高度准确性的场合就显得不可行。
有专业人士指出，即便GPT-3可以自动完成一些琐碎任务，由于其绝对不可靠性，最终还无法真正使用。而且，如果没有复杂工程调试，就更不具备商用的价值。Julian Togelius这样评价道：“ GPT-3常常像是一个聪明的学生，没有读完书，只是在废话和谎言之间跳跃，让它看起来像是流畅叙述。”
此外，还有一个更严峻的问题，那就是GPT-3输出存在偏见。当模型接受Reddit过滤后的数据进行训练时，它构建出的模型就会产生“令人震惊地偏向性”甚至歧视性的言论，这对于推广公平和包容性的社会来说，无疑是个值得关注的问题。
正如Anima Anandkumar教授所说，“我们必须意识到这些模型并不是万能的，他们可能在某些方面表现良好，但在其他方面却存在缺陷。”所以，在追求技术进步的同时，我们也要审慎考虑这些新工具如何影响我们的生活，以及我们应该如何利用它们，以确保它们服务于人类社会，而不是成为分裂或加剧现有问题的手段。
— 完 —
