2025-01-28 手机 0
北京日报客户端记者：在2023年举办的北京智源大会中，OpenAI的首席执行官Sam Altman发表了一个关于人工智能安全与对齐的问题讨论。他提出了一个问题：随着人工智能系统变得越来越强大，我们是否能够确保这些系统不会被滥用？
Altman指出，未来十年内，通用人工智能将会在几乎所有领域超越人类的专业知识。这是一个巨大的机会，但也带来了巨大的风险。如果我们不小心，一台旨在改善公共卫生结果的人工智能系统可能会出现偏差，提供毫无根据的建议，从而破坏整个医疗保健体系。同样地，一台设计用于优化农业实践的人工智能系统可能会无意中耗尽自然资源或破坏生态系统。
Altman认为，不加以控制地开发和部署AGI，将导致无法预见的事故成本，对我们所有人都有影响。他提议建立国际规范和标准，并为所有国家提供平等使用AGI的保障。此外，他鼓励国际合作，以建立全球信任，并通过可验证的手段安全地开发强大的人工智能。
Altman还认为行业应该增加透明度和促进知识共享。研究人员如果发现新的安全问题，他们应该站在更大利益层面上思考，并分享他们的成果。此外，行业应该投资于AGI安全研究，并进行可扩展监督。例如，可以尝试使用一台人工智能系统来协助另一个人工智能系统，这样的好处是它可以随着技术发展而扩展、变得更加聪明和有用。
总之，Altman相信，如果我们能合作解决AGI发展中的技术挑战，我们将能够利用它来解决世界上最重要的问题并显著改善人类生活质量。在他看来，这是一个值得追求的大目标，但需要我们共同努力才能实现。
