代理基础调整机器智能与人类的利益

一个技术研究议程金宝博娱乐


机器智能研究所的使命是确保创建自己的机器智能具有积极的影响。金宝博娱乐虽然这样的系统可能几十年,金宝博官方谨慎的做法是开始调查早期:安全性和可靠性的技术挑战出现可怕的工作,和唯一重要的。

技术议程讨论了六个研究领域我们认为今天的基础研究可以更容易在未来发展有金宝博娱乐超常智慧的系统可靠地与人类的利益。金宝博官方因为对这种系统的设计或实现细节,金宝博官方下面描述金宝博娱乐的研究集中在正式代理AI对齐研究基础,开发基本概念工具和理论,最有可能是有用的工程在未来强劲有益的系统。金宝博官方

支持我们的议程概述论文6篇,激励每一个主题。许多驯良的开放问题进行了讨论,我们希望可以作为指导人员渴望做早期作品AI对齐。金宝博娱乐包关闭与一个带注释的书目总结最近的研究在每个区域(截止2015年1月)。金宝博娱乐


代理基础调整机器智能与人类的利益
我住在曼谷宾佳Fallenstein内特·苏亚雷斯和(2014)


形式化的现实世界模型的两个问题
内特·苏亚雷斯(2015)
对理想化的决策理论
我住在曼谷宾佳Fallenstein内特·苏亚雷斯和(2015)
问题的推理逻辑下的不确定性
我住在曼谷宾佳Fallenstein内特·苏亚雷斯和(2015)
Vingean反射:可靠的推理变为无效来代理
Benja Fallenstein和奈特苏亚雷斯(2015)
可订正
内特·苏亚雷斯Benja Fallenstein,以利以谢Yudkowsky,和斯图尔特•阿姆斯特朗(2015)
值的学习问题
内特·苏亚雷斯(2015)

将超智与人类利益:
一个带注释的书目

内特·苏亚雷斯(2015)