2025-01-15 手机 0
在凹非寺量子位报道，边策探究了这款火爆全球的AI系统GPT-3背后的秘密。它是一种第三代生成式预训练Transformer，由旧金山AI公司OpenAI开发。这项技术经过数年的孵化，如同2012年以来计算机视觉领域所发生的一样，它可能会带来革命性的变化。
就像无人驾驶汽车、面部识别和无人机一样，GPT-3及其类似产品的新功能有潜力产生深远影响。然而，这些系统都是基于数据模式，它们在庞大的文本集上进行了训练，并通过统计规律挖掘信息。
虽然程序能够独立完成任务，但也存在问题。当它偶尔提供错误或不可靠的答案时，就可能对商业使用造成严重后果。如果客服机器人偶尔侮辱客户，那么这种不可靠性就无法被接受。在教育领域，如果我们不能确定答案是否可靠，我们也不敢使用GPT-3作为教学工具。
一位匿名Google资深AI研究人员认为，只有复杂工程调试才能使得GPT-3真正可用。而另一位研究人员Julian Togelius评价说：“GPT-3常常表现得像一个聪明但未读完书籍的人，他尝试通过废话和一些直率谎言交织而成，让其看起来像是流畅叙述。”
此外，GPT-3输出还存在偏见问题。英伟达AI专家Anima Anandkumar教授指出，该模型部分受过Reddit过滤数据训练，因此产生的文本具有令人震惊程度上的偏向性。在要求完成句子时，即使是中立主题，其输出也有歧视性言论出现。
因此，当我们称赞学霸时代的时候，我们必须意识到这些“智慧之锤”不仅能创造，还能破坏。如果没有适当地利用它们，我们也许会发现自己站在破碎饭碗旁，不知何去何从。
