所有米里出版物

文章

期刊文章 会议/研讨会论文 本章 技术报告和工作报告

最近和即将发表的论文

大卫·曼海姆和斯科特·加拉布兰特。2018。”” 分类变量的古德哈特定律”。arXiv:1803.04585(cs.AI)。

2017

瑞安·凯莉。2018。”” 屡教不改的黄道眉鹀框架”。arXiv: 1709.06275 (cs.AI)。论文发表于AAAI / ACM人工智能大会上,道德、和社会。
安德鲁Critch。2017.”” 对可转让强化学习:将优先在帕累托最优序贯决策”。arXiv:1701.01302[cs.AI]。
斯科特•GarrabrantTsvi Benson-Tilsen,安德鲁•Critch内特·苏亚雷斯和杰西卡·泰勒。2017.”” 一个正式的逻辑Non-Omniscience问题的方法”。发表于16日会议合理性和理论方面的知识。
卡贾·格雷斯,约翰•Salvatier艾伦·达福宝宝,和Owain埃文斯。2017.”” 当将人工智能超过人类表现?人工智能专家的证据”。arXiv: 1705.08807 (cs.AI)。
瓦迪姆Kosoy。2017.”” 使用不完整的模型预测”。arXiv:1705.04630(cs.LG)。
内特·苏亚雷斯和本·莱文斯坦。2017.”” 欺骗死亡在大马士革”。论文发表于第14届正式认识论车间。
以利以谢Yudkowsky和内特·苏亚雷斯。2017.”” 功能决策理论:一种新的工具理性理论”。arXiv: 1710.05060 (cs.AI)。

2016

Tsvi Benson-Tilsen和内特·苏亚雷斯。2016.”” 形式化收敛的工具性目标”。论文发表于2016 AI AAAI,道德与社会研讨会。
安德鲁Critch。2016.”” 参数有界Lob定理和健壮的有界合作代理”。arXiv:1602.04184(cs:GT)。
斯科特•GarrabrantTsvi Benson-Tilsen,安德鲁•Critch内特·苏亚雷斯和杰西卡·泰勒。2016.”” 逻辑归纳”。arXiv:1609.03543(cs.AI)。
斯科特•GarrabrantTsvi Benson-Tilsen,安德鲁•Critch内特·苏亚雷斯和杰西卡·泰勒。2016.”” 逻辑归纳(简略)”。MIRI技术报告2016-2。
斯科特•Garrabrant本亚·法伦斯坦,亚伯兰Demski,和内特·苏亚雷斯。2016.”” 电感相干性”。arXiv:1604.05288(cs:AI)。以前公布的“统一的一致性。””
斯科特•Garrabrant内特·苏亚雷斯和杰西卡·泰勒。2016.”” 渐近收敛与无限延迟在线学习”。arXiv: 1604.05280 (cs: LG)。
瓦迪姆Kosoy。2016.”” 最优多项式时间估计:贝叶斯近似算法的概念”。arXiv:1608.04112(cs.CC)。
Jan Leike杰西卡·泰勒,和Benya Fallenstein。2016.”” 真理的一个正式的解决粮食问题”。第32会议上发表的论文中不确定性人工智能。
Laurent Orseau和斯图亚特·阿姆斯特朗。2016.”” 安全可中断的代理”。第32会议上发表的论文中不确定性人工智能。
Kaj Sotala。2016.”” 定义价值的人类价值观的学习者”。论文发表于2016 AI AAAI,道德与社会研讨会。
杰西卡·泰勒。2016.”” Quantilizers:一个更安全的替代极大化者有限的优化”。论文发表于2016 AI AAAI,道德与社会研讨会。
杰西卡·泰勒,以利以谢Yudkowsky,帕特里克•LaVictoire和安德鲁Critch。2016.”” 先进的机器学习系统的校准金宝博官方”。米里技术报告2016 - 1。

2015

Benja Fallenstein Kumar和拉。2015.”” 假日Proof-Producing反射:多态性与应用程序模型”。在 交互式定理证明:第六届国际会议,2015年国际旅游业伙伴关系,南京,中国8月24日,2015年,程序。不可靠的人。
Benja Fallenstein和内特·苏亚雷斯。2015.”” Vingean反射:可靠的理由自我完善的代理”。米里技术报告2015 - 2。
Benja Fallenstein,内特·苏亚雷斯和杰西卡·泰勒。2015.”” 反光Solomonoff诱导和AIXI的变体”。在 学报2015年美国国际集团。不可靠的人。以前出版米里技术报告2015 - 8。
Benja Fallenstein,杰西卡·泰勒,还有保罗·克里斯蒂诺。2015.”” 反光的神谕:经典博弈理论的基础”。arXiv: 1508.04145 (cs.AI)。以前公布,米里技术报告2015 - 7所示。发表在简略形式为“” 反光的神谕:博弈论在人工智能的基础”在里面 LORI学报》2015
斯科特•Garrabrant悉达斯·巴斯卡,亚伯兰Demski,乔安娜•Garrabrant乔治•Koleszarik和艾凡劳埃德。2016.”” 渐近逻辑不确定性和本福德测试”。arXiv: 1510.03370 (cs.LG)。论文发表于人工总体智能第九次会议。以前出版米里技术报告2015 - 11。
卡佳恩典。2015.”” 艾斯洛玛尔会议:一个案例研究在风险降低”。米里技术报告2015 - 9。
卡佳恩典。2015.”” Leo Szilard和核武器的危险:一个案例研究在风险降低”。米里技术报告2015 - 10。
帕特里克·拉维托瓦。2015.”” 介绍Lob定理在米里的研究金宝博娱乐”。米里技术报告2015 - 6。
内特·苏亚雷斯。2015.”” 将超智与人类利益:一个带注释的书目”。米里技术报告2015 - 5。
内特·苏亚雷斯。2015.”” 形式化的现实世界模型的两个问题”。米里技术报告2015 - 3。
内特·苏亚雷斯。2018。”” 值的学习问题”。在 人工智能安全。查普曼和大厅。以前在IJCAI 2016人工智能伦理学研讨会,展出与早些时候发表米里技术报告2015 - 4。
我住在曼谷宾佳Fallenstein内特·苏亚雷斯和。2015.”” 逻辑不确定性下的推理问题”。米里技术报告2015 - 1。
我住在曼谷宾佳Fallenstein内特·苏亚雷斯和。2015.”” 对理想化的决策理论”。arXiv: 1507.01986 (cs.AI)。以前公布,米里技术报告2014 - 7所示。发表在简略形式为“” 两个试图Counterpossible形式化推理确定设置”在里面 学报2015年美国国际集团
Kaj Sotala。2015.”” 概念学习安全自治AI”。在AAAI 2015伦理和人工智能研讨会上提交的论文。

2014

斯图尔特•阿姆斯特朗Kaj Sotala,和Sean O hEigeartaigh。2014.”” 的错误,见解和著名的人工智能预测的教训,他们对未来意味着什么”。” 《实验与理论的人工智能26 (3):317 - 342。
star_icon
Mihaly Barasz,保罗•globalBenja Fallenstein,马塞洛赫列斯果夫倍烧,帕特里克•LaVictoire还有伊利泽·尤德考斯基。2014.”” 健壮的囚徒困境:合作项目平衡通过只是逻辑”。arXiv: 1401.5577 (cs.GT)。
Tsvi Benson-Tilsen。2014.”” UDT与已知的搜索顺序”。MIRI技术报告2014-4。
尼克·博斯特罗姆和Yudkowsky以利以谢。2018。”” 人工智能的伦理”。在 人工智能安全。查普曼和大厅。先前发表在 人工智能的剑桥手册(2014)。
保罗global。2014.”” Non-Omniscience,概率推理,和元数学”。米里技术报告2014 - 3。
Benja Fallenstein。2014.”” 概率逻辑中的拖延”。工作报告。
star_icon
Benja Fallenstein和内特·苏亚雷斯。2014.”” 自我参照完善时空嵌入式智能的问题”。在 学报2014年美国国际集团。不可靠的人。
本杰·法伦斯坦和尼桑·斯蒂农。2014.”” “大声”:论优先于偏好关系”。简要技术说明。
帕特里克•LaVictoireBenja Fallenstein,以利以谢Yudkowsky,Mihaly Barasz,保罗·克里斯蒂诺和马塞罗·赫雷肖夫。2014.”” 计划均衡的囚徒困境通过Lob的定理”。在AAAI 2014没有事先协调研讨会上提交的论文。
路加福音Muehlhauser和尼克·博斯特罗姆。2014.”” 为什么我们需要友好的人工智能吗”。” 认为13 (36):42-47。
路加福音Muehlhauser和比尔希巴德。2014.”” 勘探工程的人工智能”。” ACM的通信57(9):尺码。
卡尔•舒尔曼和尼克·博斯特罗姆。2014.”” 胚胎选择认知增强:好奇心还是改变?吗?”” 全球政策5(1):85-92。
内特·苏亚雷斯。2014.”” 在因果图花砖特工”。米里技术报告2014 - 5。
我住在曼谷宾佳Fallenstein内特·苏亚雷斯和。2014.”” 博特沃德1.1”。米里技术报告2014 - 2。
内特·苏亚雷斯和Benya Fallenstein。2017.”” 代理基础调整机器智能与人类利益:一个技术研究议程金宝博娱乐”。在 技术奇点:管理的旅程。不可靠的人。以前出版米里技术报告2014 - 8的名字”调整超智与人类利益:技术研究议程”。金宝博娱乐”
内特·苏亚雷斯Benja Fallenstein,以利以谢Yudkowsky,还有斯图尔特·阿姆斯特朗。2015.”” 可订正”。在AAAI 2015伦理和人工智能研讨会上提交的论文。以前出版米里技术报告2014 - 6。
以利以谢Yudkowsky。2014.”” 分布允许花砖上演了主观欧盟极大化者”。米里技术报告2014 - 1。

2013

star_icon
亚历克斯牵牛星。2013.”” 比较对Newcomblike算法决定的问题”。工作报告。美里。
斯图尔特•阿姆斯特朗尼克·博斯特罗姆,和卡尔·舒尔曼。2015.”” 赛车悬崖:人工智能发展的典范”。” 人工智能与社会(DOI 10.1007 / s00146 - 015 - 0590 - 7):1 - 6。以前出版的未来人类研究所技术报告2013 - 1。
star_icon
保罗•global以利以谢Yudkowsky,马塞洛赫列斯果夫倍烧,Mihaly Barasz。2013.”” 可定义性的“真相”在概率逻辑”。汇票。美里。
Benja Fallenstein。2013.”” 5到10的问题和瓷砖代理形式”。米里技术报告2013 - 9。
Benja Fallenstein。2013.”” 减少数学的力量在一个形式化参数多态性”。简要技术说明。美里。
Benja Fallenstein。2013.”” 无限着每下行的声音序列理论证明一致”。米里技术报告2013 - 6。
Benja Fallenstein和亚历克斯Mennen。2013.”” 预测AGI:当我们知道得那么少时,我们能说什么?吗?”工作报告。美里。
卡佳恩典。2013.”” 在六个域算法的进展”。MIRI技术报告2013-3。
杰里米·哈恩。2013.”” 科学归纳概率元数学”。米里技术报告2013 - 4。
路加福音Muehlhauser。2013.”” 智能爆炸常见问题解答”。工作报告。美里。( HTML)
star_icon
卢克Muehlhauser和路易。2013.”” 智能爆炸和机器道德”。在 奇点的假设。不可靠的人。
star_icon
路加福音Muehlhauser和安娜班子。2013.”” 爆炸的情报:证据和导入”。在 奇点的假设。不可靠的人。( 西班牙语)( 法语)( 意大利语)
路加福音Muehlhauser和克里斯•威廉森。2013.”” 理想的导师和个人CEV理论”。工作报告。美里。
将Sawin和亚伯兰Demski。2013.”” 可计算的概率分布收敛于Π相信如此1句子会不信真Π2句子”。米里技术报告2013 - 10。
内特·苏亚雷斯。2013.”” Fallenstein的怪物”。米里技术报告2013 - 7。
Kaj Sotala和罗马Yampolskiy。2014.”” 应对灾难性的美国国际集团风险:一项调查”。” 物理评论90(1):1-33。以前公布,米里技术报告2013 - 2所示。
尼森施奈尔。2013.”” 递归地定义逻辑理论是定义良好的”。米里技术报告2013 - 8。
罗马Yampolskiy约书亚狐狸。2013.”” 人工智能与人类心理模型”。在 奇点的假设。不可靠的人。
罗马Yampolskiy约书亚狐狸。2013.”” 安全工程人工总体智能”。” Topoi32(2):217 - 226。
star_icon
以利以谢Yudkowsky。2013.”” 智能爆炸微观经济学”。MIRI技术报告2013-1。
以利以谢Yudkowsky。2013.”” 拖延悖论”。简要技术说明。美里。
以利以谢Yudkowsky和马塞洛赫列斯果夫倍烧。2013.”” 瓷砖变为无效来人工智能代理,和Lobian障碍”。汇票。美里。

2012

star_icon
斯图亚特·阿姆斯特朗和Kaj Sotala。2012.”” 我们如何预测人工智能——或者没有”。在 超越人工智能:人工的梦想。皮尔森:西方大学波西米亚。
比尔希巴德。2012.”” 避免意想不到的AI行为”。在 学报2012年美国国际集团。不可靠的人。
比尔希巴德。2012.”” 安全人工智能设计的决策支持”。在 学报2012年美国国际集团。不可靠的人。
路加福音Muehlhauser。2012.”” 人工智能风险参考书目2012”。工作报告。美里。
安娜班子和卢克Muehlhauser。2012.”” 奇点峰会2011年研讨会报告”。工作报告。美里。
卡尔•舒尔曼和尼克·博斯特罗姆。2012.”” 人工智能有多难?进化参数和选择的影响”。” 《意识研究19(7-8):103-130。
Kaj Sotala。2012.”” 人工智能的优势,上传,和数字的思想”。” 机意识的国际期刊4 (1):275 - 291。
Kaj Sotala和Harri Valpola。2012.”” 合并:大脑Uploading-Related群体思维场景”。” 机意识的国际期刊4 (1):293 - 312。

二千零一十一

彼得·德·布兰科。2011.”” 本体论危机在人工代理商的价值体系金宝博官方”。arXiv: 1105.3821 (cs.AI)
丹尼尔·杜威。2011.”” 学习什么价值”。在 学报2011年美国国际集团。不可靠的人。
以利以谢Yudkowsky。2011.”” 复杂的价值系统需要实现价值的金宝博官方期货”。在 学报2011年美国国际集团。不可靠的人。

2010

约书亚·福克斯和卡尔·舒尔曼。2010.”” 超智并不意味着仁慈”。在 ECAP学报》2010。-博士。小屋。
史蒂文·卡斯,史蒂夫•Rayhawk安娜·萨拉蒙,和彼得班子。2010.”” 软件思想的经济含义”。在 ECAP学报》2010。-博士。小屋。
安娜·萨拉蒙,史蒂夫•Rayhawk和Janos Kramar。2010.”” 情报是如何理解?吗?”在 ECAP学报》2010。-博士。小屋。
卡尔·舒尔曼。2010.”” Omohundro的“基本人工智能驱动”与灾难风险”。工作报告。美里。
卡尔·舒尔曼。2010.”” 整个大脑仿真和超级有机体的进化”。工作报告。美里。
卡尔·舒尔曼和安德斯·桑德伯格。2010.”” Software-Limited奇异点的影响”。在 ECAP学报》2010。-博士。小屋。
Kaj Sotala。2010.”” 主要是无害的对文明形成威胁”。在 ECAP学报》2010。-博士。小屋。
塔尔顿家尼克。2010.”” 连贯的推断意志:元级别机器伦理方法”。工作报告。美里。
以利以谢Yudkowsky。2010.”” 永恒的决策理论”。工作报告。美里。
以利以谢Yudkowsky,卡尔·舒尔曼,安娜·萨拉蒙,罗尔夫·尼尔森史蒂文·卡斯,史蒂夫•Rayhawk和汤姆·麦凯布。2010.”” 降低人工智能带来的长期灾难性风险”。工作报告。美里。

2001 - 2009

彼得·德·布兰科。2009.”” 收敛的期望效用普遍的人工智能”。arXiv: 0907.5598 (cs.AI)。
史蒂夫•Rayhawk安娜·萨拉蒙,迈克尔•Anissimov托马斯•麦凯布和罗尔夫·纳尔逊。2009.”” 改变AI未来主义的框架:从故事到重尾分布,高维概率分布”。论文发表于ECAP 2009。
卡尔•舒尔曼和斯图亚特·阿姆斯特朗。2009.”” 军备控制和智能爆炸”。论文发表于ECAP 2009。
卡尔·舒尔曼,亨利克·琼森,塔尔顿家和尼克。2009.”” 机器伦理和超智”。在 AP-CAP学报》2009。东京大学。
卡尔·舒尔曼,尼克·塔尔顿还有亨利克·约翰逊。2009.”” 哪一种结果主义?机器伦理和道德上的分歧”。在 AP-CAP学报》2009。东京大学。
以利以谢Yudkowsky。2008.”” 人工智能作为一个全球风险的积极和消极因素”。在 全球灾难性的风险。牛津大学出版社。发表在简略形式为“友好的人工智能”在里面 奇点的假设。( 官话)( 意大利语)( 한국어)( 葡萄牙语)( Pу́сский)
以利以谢Yudkowsky。2008.”” 认知偏见可能影响全球风险的判断”。在 全球灾难性的风险。牛津大学出版社。( 意大利语)( Pу́сский)( 葡萄牙语)
以利以谢Yudkowsky。2007.”” 一般智力水平的组织”。在 人工总体智能(认知技术)。不可靠的人。
以利以谢Yudkowsky。2004.”” 连贯的推断意志”。工作报告。美里。
以利以谢Yudkowsky。2001.”” 创造友好的AI 1.0:仁慈的目标架构的分析和设计”。工作报告。美里。

注册获取新的米里技术的结果

得到通知每当一个新的技术论文发表。

平衡覆盖不足

不平衡:在哪里以及如何文明卡住

以利以谢Yudkowsky (2017)

当你认为你可以做些什么异常吗?吗?当你试图超越给定的区域,重要的是你有一个清醒的了解你的相对能力。这个故事只有结束,然而,如果你幸运地生活在一个足够的文明。

以利以谢Yudkowsky的不平衡一把锋利的明快指南对于任何质疑何时以及如何知道更好,做得更好,比现状。自由辩论的基础上混合理性决策与日常生活小贴士,Yudkowsky探讨的核心问题,当我们能(不能)预计现货系统效率低下,金宝博官方并利用他们。

RationalityCover

理性,从人工智能到僵尸

以利以谢Yudkowsky(2015)

它实际上是什么意思是合理的吗?没有好莱坞式”理性的,”其中一个拒绝所有人类感觉拥抱冷硬逻辑——真正的理性,心理学家的研究,社会科学家,和数学家。理性的做出正确的决定,即使是很困难的;你的理由,即使面临巨大的不确定性。

理性,从人工智能到僵尸,以利以谢Yudkowsky解释了认知科学的研究成果,以及自然主义哲学的思想,这有助于激发MIRI的研究项目存在的动机。金宝博娱乐

SmarterThanUsCover

比我们聪明:机器智能的兴起

斯图尔特·阿姆斯特朗(2014)

当机器变得比人类更聪明吗?人类引导未来不是因为我们最强的或最快的,但因为我们的最聪明的。当机器变得比人类聪明,我们会将方向盘。什么承诺,perils-will这些强大的机器?斯图亚特·阿姆斯特朗的新书导航这些问题清晰和智慧。

面对智能爆炸

面对智能爆炸

路加福音Muehlhauser (2013)

这个世纪的某个时候,机器将超过人类的智慧和能力水平。这一场比赛- - -”智能爆炸”——是我们历史上最重要的事件,和导航明智地将我们能做最重要的事情。

名人从阿兰·图灵和我。J好比尔欢乐和斯蒂芬·霍金警告我们。为什么我们认为霍金和公司是正确的,和我们能做些什么呢?吗?

面对智能爆炸是Muehlhauser试图回答这些问题。

ai-foom-cover

的Hanson-Yudkowsky AI-Foom辩论

罗宾·汉森以利以谢Yudkowsky (2013)

在2008年末,经济学家罗宾·汉森和人工智能理论家艾丽泽·尤德考斯基就人工智能的未来进行了一次在线辩论,特别是关于一般智能人工智能是否能够非常迅速地提高其自身的能力(又名a.a.”foom”)。詹姆斯·米勒和卡尔·舒尔曼的争论也贡献了客座文章。

最初的争论发生在一系列的博客文章,这里收集。这本书还包括一份2011年的记录。面对面辩论汉森和Yudkowsky之间在这个问题上,辩论的总结写的Kaj Sotala,2013技术报告和AI起飞动力学(“情报爆炸微观经济学”)Yudkowsky写的。

其他

188bet娱乐城

  • 分析——美里在其博客上发布一些最实质性的研究。金宝博娱乐
  • 对话——米里采访多样化研究人员和知识分子主题相关的研究。金宝博娱乐

研究人员资源金宝博娱乐