2025-01-28 数码 0
北京日报客户端记者：在2023年举办的北京智源大会中，OpenAI的首席执行官Sam Altman发表了一个关于人工智能安全与对齐的问题讨论。他提出了一个问题：随着人工智能系统变得越来越强大，它们将如何影响我们的世界？Altman认为，通用人工智能（AGI）在未来十年内将会超越人类在几乎所有领域的专业知识。因此，我们必须共同管理这些风险，并确保AGI的发展是安全可控的。
Altman指出，如果我们不小心，就可能出现错误和误解，比如医疗保健系统中的错误建议或者农业实践中的资源浪费，这些都可能对整个社会产生负面影响。因此，他主张建立国际标准和规范，以保障每个国家都能平等地使用AGI。他还提倡开展国际合作，以建立全球信任，并通过可验证的手段安全地开发这些强大的技术。
Altman认为，行业已经迈出了积极的一步，那就是与国际科学界和技术界合作。他鼓励增加透明度，加强知识共享，以及研究人员应站在更广泛利益层面考虑他们发现的问题。同时，他也呼吁投资于AGI安全研究，并进行监督工作，比如利用人工智能协助监控其他人工智能系统。这有助于它们随着时间的推移而变得更加聪明和有用。
总之，Altman相信人类能够利用AGI解决世界上最重要的问题并显著提高生活质量，但这需要全球范围内的人们共同努力。在这个过程中，我们看到了美国、中国以及全世界各国研究人员之间巨大的潜力，他们致力于解决AGI发展中的关键技术挑战。
