业界丨OpenAI 发布通用人工智能研究纲领:以全人类的名义承诺
近期 Facebook 泄露用户数据、针对性影响用户、Uber 无人车事故,以及全球学者联名抵制韩国开发自主武器的事情再次敲响了人工智能安全的警钟。OpenAI 也于昨日发表了一份自己的研究纲领, 表明了自己的科研使命和行动法则,希望担负起自己在「让人工智能造福全人类」这一伟大事业中的责任。文中也涵盖了他们在过去两年的研究中逐渐成形的研究策略,以及来自 OpenAI 内外的各种反馈声音。
OpenAI 的使命是确保通用人工智能(artificial general intelligence,AGI) - 能在多数有经济价值的工作中展现超越人类表现的高度自动化的系统 - 会为全人类带来福祉。OpenAI 不仅希望通过自己的努力直接建造出安全的、有益的通用人工智能,而且同样愿意帮助其它研究组织共同制造出这样的通用人工智能。为了达到这样的目标,OpenAI 为自己设定了这些纲领:广泛参与,广泛贡献OpenAI 承诺,在通用人工智能的开发过程中 OpenAI 将动用所有的影响力,确保它可以造福全人类,以及避免把人工智能/通用人工智能用于会伤害人类的、或者任务中,以及避免它们被过于集中的权力控制。OpenAI 承担的责任主要要对全人类负责。如果有必要的话,他们准备好了对外分享所有重要的研究资源;同时他们也会积极行动,尽量减小股东和 OpenAI 工作人员之间的利益冲突,保证让更多人从中受益。通用人工智能的长远安全问题OpenAI 承诺进行能够保证通用人工智能安全性的研究,并且在整个 AI 研究领域内推动这类研究的大规模展开。OpenAI 担心末端的通用人工智能开发成为一场竞争性的比赛,在比赛中也就不会分配时间在必要的安全防护措施上。所以,如果在 OpenAI 研发自己的项目之前就出现了一个价值均衡、注重安全的通用人工智能项目,OpenAI 承诺将停止和它竞争,并转而辅助这个项目。OpenAI 未来会针对每个项目列出具体的执行细节,不过典型的触发规则可能会类似「未来两年内能够成功的概率超过一半一半」。技术带头人为了能有效地向整个社会展现通用人工智能的影响力,OpenAI 也需要站在 AI 能力开发的前沿 - 在政策和安全性方面仅仅发出声音是不够的。OpenAI 相信人工智能在通用人工智能之前就会产生广泛的社会影响,OpenAI 也会在与自己的使命和经验相吻合的领域努力保持领导地位。面向合作OpenAI 会和其它研究机构以及策略制订机构积极合作,希望能够从中创建一个全球性的合作社区,共同应对通用人工智能的全球性挑战。OpenAI 承诺将为全社会公开提供信息,帮助社会走向与通用人工智能共处的时代。目前要做的内容包括公开发表大多数的人工智能研究成果,同时 OpenAI 也希望,随着未来对安全和防护的担忧越来越多,他们的老式的成果发表将会减少,更多地转变为分享安全、策略和标准化的研究。人类何时能研发出真正的通用人工智能还尚未可知,但 OpenAI 相信也希望自己的纲领可以引导自己在通用人工智能的研发过程中体现出全人类的最大利益。这份纲领发出后,已经有一些学者给出了积极的反馈,非常欢迎 OpenAI 做出这样的举动,同时也认可 OpenAI 积极、坚定的态度,钦佩 OpenAI 公开做出这样的承诺。我们也非常期盼通用人工智能的到来,而且我们也希望它真的到来的那一天真的是全人类的福祉。相信到时肯定会有 OpenAI 的功劳在其中。
- 2017年中国人工智能产业最全研究报告发布 | AI世界2018年八大趋势
- 2017年中国人工智能产业最全研究报告发布 | AI世界2018年八大趋势
- 转载:谷歌DeepMind发布最新研究:人类认知心理学开启人工智能的“黑盒子”
- 牛津、剑桥、OpenAI 等多家机构发布重磅报告,论述恶意人工智能的「罪与罚」
- 《Science》杂志:机器学习究竟将如何影响人类未来的工作? 2018-01-11 Smiletalker AI科技评论 AI 科技评论按:人工智能、机器学习相关技术已经多次刷新了人们对于「计算机能
- Facebook发布人工智能产品DeepText:能以人类智商
- Master 横扫围棋各路高手,是时候全面研究通用人工智能了!
- 斯坦福「AI百年研究」首份报告:2030年的人工智能与生活
- DeepMind新发布通用算法AlphaZero ,通用AI还远么?
- 换个角度看AI:追溯人工智能研究的历史和哲学逻辑
- 苹果发布无人驾驶研究最新进展,应用机器学习等人工智能热门技术
- 【AI应用】新研究显示,人工智能比律师审查合同更准确
- 日本京都大学新研究:AI读取脑波,重建人类思维
- 凤凰金融邢志峰:人工智能打败人类只是一个开始,AI真正落地业务场景仍面临严峻挑战
- 学界 | OpenAI 发布稀疏计算内核,更宽更深的网络,一样的计算开销
- 约翰.麦卡锡继承图灵遗愿继续推进人工智能(AI)研究
- 【人工智能】致研究者:2018 AI 研究趋势
- Gartner发布2018人工智能预测,五大未来愿景显示AI发展前景
- 用人工智能对人类进行"情绪计算" 这是一门好生意! | 研究
- 牛津大学人类未来研究所:万字长文谈AI新职场方向-政策研究