2025-03-15 数码 0
在一个充满未知和可能性的未来，人类与机器的融合正在不断深化。OpenAI预言，在不远的将来，我们将迎来比人类更聪明、更强大的智能——超级智能。但这份智慧也带来了巨大的风险：失去对技术的控制，甚至是人类灭绝的威胁。为了应对这一挑战，OpenAI正组建一个“人类护卫队”，一支由机器学习研究者和工程师组成的团队，以开发新的工具，让未来的超级智能也能遵循人类道德规范。
超级智能，如同一把双刃剑，它可以帮助我们解决世界上最重要的问题，但其巨大力量也可能导致灾难。在2030年前，它有可能到来，这让我们的任务更加紧迫。要确保这个新生灵不会背离我们的意图，我们需要建立新的监管方式，并解决如何引导和控制超级智能的问题。
OpenAI提出了一个方案，将构建第一个与人类相当的大型自动对齐研究人员，然后利用大量计算资源扩展其功能，最终使得超级智能能够理解并遵循我们所期望的人类行为。这是一个令人难以置信且雄心勃勃的目标，但如果成功，它将彻底改变我们面临问题的一切。
四年内，我们将投入20% 的计算资源于此项目中，与此同时，也会分享更多关于这个问题及其解决方法的心得体验。尽管这是个挑战，但通过集思广益，有许多想法已经在初步实验中显示出可行性。
加入这一计划的是Ilya Sutskever（OpenAI联合创始人兼首席科学家）及Jan Leike（负责「对齐」技术）的领导，以及来自公司其他团队以及以前「对齐」团队成员。此外，他们还寻找优秀新人才加入，希望跨学科专家能提供协助，以确保技术考虑到了更广泛的人类和社会问题。
最后，这支新团队不仅关注提高像ChatGPT这样的大模型安全性，还致力于发现并减少如滥用、经济损害、虚假资讯等其他潜在风险。这是一个全方位而又深刻地探讨人工智慧未来发展与应用的一次机会，是科技进步与伦理责任相结合的一个实践过程。
