2025-01-15 手机 0
火爆全球的GPT-3到底凭什么砸大家饭碗？
在旧金山，OpenAI公司孵化了第三代生成式预训练Transformer，即GPT-3。它经过数年的研发，如同2012年以来AI图像处理的飞跃一样，在文本生成领域引领潮流。
计算机视觉技术推动了无人驾驶汽车、面部识别和无人机等领域的发展。因此，我们有理由相信GPT-3及其同类产品新功能将带来类似的深远影响。
与所有深度学习系统一样，GPT-3依赖于数据模式，它在庞大的文本集上进行训练，并根据统计规律挖掘信息。此过程中，无需人工干预，只需提供文本提示即可完成任务。
然而，这也引发了一个问题：该程序不可信的性质是否会破坏其整体实用性？尽管人们尝试将GPT-3应用于客服机器人、自动内容审核等多个方面，但可能导致错误答案给商业带来严重后果。如果无法确定答案是否可靠，我们就不敢使用它作为教育工具。
一位匿名Google资深AI研究人员认为，GPT-3仅能自动完成一些琐碎任务，小型且价格更低的AI程序也能做到，而且程序绝对不可靠性最终会阻碍其商用。这位研究人员指出，如果没有复杂工程调试，GPT-3还不够真正使用。
Julian Togelius这样的AI研究人员评价说：“ GPT-3表现常常像一个聪明学生，没有读完书，却试图通过废话交织，让它看起来像一种流畅叙述。”
另一个严重的问题是GPT-3输出存在偏见。英伟达的AI专家Anima Anandkumar教授指出，部分程度上接受Reddit过滤后的数据训练，该模型产生文本具有“令人震惊地偏向性”。
在要求完成句子时，如果出现歧视性言论，“黑人（皮条客工作了15年）”、“那个女人（以Hariya为名做妓女）”，这显示出了输出中的潜在问题。这促使我们思考如何确保这些先进技术不会被用于负面目的，而是为社会创造积极价值。
