我们2018年的募款活动正在进行中!!

2017年回顾

||米里策略

这篇文章的评论2017年美里的活动,包括研究、金宝博娱乐招聘,博览会,和筹款活动。

2017年是一个大米里过渡的一年,我们把新的研究项目,有一个更大的依赖金宝博娱乐动手编程和实验工作。2018年我们继续这些项目,他们更多的在我们的描述2018年更新。这意味着更快增长的一个主要关注奠定比我们过去,包括建立基础设施和改变我们如何招募具有工程背景的接触更多的人。

阅读更多»

美里最新的招聘:爱德华Kmett !!

||新闻

多产的Haskell开发人员爱德华Kmett加入了米里团队!!

爱德华。也许是最出名的推广使用函数式编程的镜头。眼镜是一个工具,提供了一种用于访问更大的结构和成分的词汇描述你想怎么处理这些部分。

除了镜头库,爱德华维护的很大一部分在Haskell核心库库,涵盖从自动分化(大量使用在深度学习,计算机视觉,和金融风险)范畴论图形(偏见严重向组织软件),坐在绑定,RCU计划,工具编写编译器,和更多。

最初支持爱德华加入米里的形式资助来自长期米里捐赠扬塔林。增加供体的热情已经把美里在一个伟大的位置去承担更多的工程师,并考虑高度竞争top-of-their-field工程师的工资就像爱德华有兴趣与我们合作。

在美里,爱德华分裂之间的时间帮助我们成长我们的研究团队和潜水的研究他已经独立发展的背景有一段时间了:建立一个新的语言和基础金宝博娱乐设施,使人们更容易编写高度复杂的计算机程序与已知的属性。当我们的忠实粉丝,爱德华的研究方向我金宝博娱乐们描述的是独立的2018年更新,我们不认为它的一部分我们的核心研究的焦点。金宝博娱乐

我们非常兴奋有爱德华在美里。我们希望从我们的交互学习和收获了很多,团队中,我们也希望爱德华会让他和其他米里员工窃取对方最好的解决问题的启发式和聚集在研究方向。金宝博娱乐


如我们最近所述更新,我们的新行研究重理论严密性和混合的金宝博娱乐实际工程,爱德华和函数式编程社区是众所周知的:

我们所有的新方法之间的共同之处是一个专注于使用高级理论抽象,使相干推理系统构建。金宝博官方一个具体的含义,我们在Haskell编写大量的代码,和经常思考我们的代码通过镜头类型的理论。

米里的非营利组织的使命是确保自己的人工智能系统,金宝博官方一旦开发,有一个积极的影响在世界。实际上,我们想成功这一目标,不仅工作走过场的问题。

我们当前的挑战模型表示,中央症结未来的工程师可能会AI的基石就是不足够透明。我们认为,一个人,在某个地方,需要开发一些新的基础和深刻的理论/见解,超越的可能来自炼油或扩大目前标准技术。

我们认为函数式程序员的技能往往是特别适合于这类的工作,我们相信我们的新研究领域能吸收大量的程序员和计算机科学家金宝博娱乐。所以我们希望这个招聘公告双招聘会:考虑加入我们的研究工作金宝博娱乐!!

更多地了解是什么样子在美里工作,我们正在寻找什么样的候选人,看到我们最后的大文章,或米里研究员巴克Shlege金宝博娱乐ris开枪一个电子邮件

2018年11月通讯

||时事通讯

美里的2018资金筹集活动

||新闻

更新11月。28:我们更新这篇文章宣布Haskell开发者爱德华Kmett加入了米里团队!此外,我们添加了一些我们最近的链接代理基础研究金宝博娱乐

我们的捐助者的出现在很大程度上周二给!到12月。29日,,我们还包括一个匹配的机会通过职业扑克玩家丹•史密斯亚伦Merchak,马特•阿什顿和Stephen Chidwick与提高有效合作(注册)。作为他们的一部分合力完成驱动,他们会匹配捐款米里和注册,总计200美元,000.捐款可以在doubleupdrive.com,下面或直接通过捐款和发送你的捐款收据receipts@doubleupdrive.com1


米里运行它2018年筹集资金在12月31日!我们的进展(实时更新):



美里是一个数学/计算机科学研究非营利金宝博娱乐组织的使命最大化自己潜在的人道主义的好处人工智能。您可以了解更多关于我们所做的工作在“"确保自己的情报有一个积极的结果"和“"嵌入式代理”。"

我们的资金今年目标是基于2018年筹集足够的目标匹配我们的“常态”明年的预算。我们认为“每年赚到足够支付明年”作为一名优秀的启发式米里,考虑到我们是一个迅速增长的非营利的健康水平储备和预算由研究员的工资。金宝博娱乐

阅读更多»


  1. 美国税务居民从捐赠中提取税收优势感兴趣,我们建议选择2 -美里是被美国国税局501 (c)(3)组织。

2018年更新:我们的新研究方向金宝博娱乐

||米里策略,,新闻

多年来,米里的目标已经足够解决根本的困惑对齐和情报,使人类能够清楚地思考技术人工智能安全超越之前这样做这种技术进步的潜在的灾难。这个目标似乎总是对我们是困难的,但可能。1

去年,我们说,我们开始一个新的研究项目,旨在这一目标。金宝博娱乐2在这里,我们将提供背景如何思考这个新的研究方向,金宝博娱乐制定背后的一些思考我们最近决定默认共享我们的研究较少,金宝博娱乐,让有兴趣的软件工程师加入我们的团队并帮助推动我们的理解前进。

阅读更多»


  1. 这篇文章是一个混合体由各种各样的美里的员工。文章说:“内特”意味着我(Nate)认可后,和许多概念和主题在很大程度上来自于我,我写了一个像样的单词的数量。然而,我没有写所有的单词,概念和主题是建立在与一群其他米里人员合作。(这大概是署名意味着米里博客上的一段时间,明确和值得注意的。)
  2. 看到我们的2017战略更新资金筹集活动文章为更多的细节。

嵌入式的好奇心

||分析

这是的结论 嵌入式代理系列。之前的帖子:

嵌入式代理- - - - - -决策理论- - - - - -嵌入式世界模型
强大的代表团- - - - - -子系统金宝博官方对齐


最后一个字的好奇心,和智力谜题:

我描述了嵌入式代理,艾美奖,,说我不了解她评估选项,模型,模型,或分解和解决问题。

在过去,当研究人员金宝博娱乐讨论动机研究这样的问题,他们通常关注的动机人工智能的风险。人工智金宝博娱乐能研究人员想要构建机器能够以通用的方式解决问题的人,和二元论不是一个现实的思考这样的系统框架。金宝博官方特别是,这个近似特别容易打破的AI系统变的更聪明。金宝博官方当人们弄清楚如何构建通用人工智能系统,金宝博官方我们希望这些研究人员更好地理金宝博娱乐解他们的系统,金宝博官方分析他们的内部属性,并确信他们的未来行为。

这是大多数研究人员今天工作的动机updateless决策理论和子金宝博娱乐系统对齐。金宝博官方我们关心的基本概念上的难题,我们认为我们需要弄清楚为了达到对未来人工智能系统的信心,金宝博官方并没有那么多依靠蛮力搜索或试验和错误。

但理由为什么我们可能或可能不需要特定概念的见解在人工智能很长。我没有试图涉足这里讨论的细节。相反,我一直在讨论一组特定的研究方向金宝博娱乐智力拼图,而不是作为一个工具的策略。

讨论这些问题的一个缺点是工具性的策略是,它会导致一些误解为什么我们认为这种工作是如此重要。与“仪器策略”镜头,人们很容易画一条直线从给定研究问题一个给定的安全担忧。金宝博娱乐但这不是我想象实际嵌入式系统“金宝博官方贝叶斯”这在某种程度上造成的问题,如果我们不弄清楚当前的模型有什么问题理性的机构。这当然不是我想象未来人工智能系统被写在二阶逻辑!金宝博官方在大多数情况下,我不尝试直接绘制研究问题和之间的界线金宝博娱乐特定的AI失效模式

我不是思考是这样的:我们肯定做错似乎与基本概念今天当我们试图考虑机构是什么,所看到的事实,这些概念不转移到更实际的嵌入式框架。

在未来如果AI开发者仍然处理这些困惑和不完整的基本概念,他们试图实际构建强大的现实世界的优化,这似乎是一个坏的位置。和研究团体似乎不太可能解决大部分的默认的过程金宝博娱乐中只是想发展更有能力系统。金宝博官方进化肯定知道如何构建人类的大脑没有“理解”任何的,通过蛮力搜索。

嵌入式代理我想点的方式我认为是一个非常重要的和中央地方我感到困惑,,我认为未来研究人员风险也陷入混乱。金宝博娱乐

还有很多优秀的AI对齐的研究做着眼于更直接的应用程序;金宝博娱乐但是我认为的安全研究具有不同类型比谜题我在这里谈论的签金宝博娱乐名。


好奇心不是我们特权这些研究方向的终极原因。金宝博娱乐但也有一些实用优势定位对研究问题的好奇,金宝博娱乐而不是只有应用“实际影响”镜头我们如何看待世界。

当我们应用镜头世界的好奇心,我们东方走向困惑阻止我们看到明显的来源;空白的地方在我们的地图上,缺陷在我们的镜头。它鼓励检查假设和盲点,这是有用的作为一个心理与我们的“帮助战略”角度后者更容易冲动依靠我们手头的任何可靠的前提下我们可以得到更多的可靠性和闭包在我们的早期思想。

嵌入式代理是一个组织主题最后面,即使不是全部,我们的很大的好奇心。这似乎是一个中央神秘潜在的许多具体困难。

子系统金宝博官方对齐

||分析


艾美奖嵌入式代理

你想知道什么,但你还不知道怎么做。

你必须以某种方式的任务分解成sub-computations。没有原子的行为”思考”;情报必须建立原始部分。

代理被制成的零件是什么使的一部分反设事实努力,自从代理可能不得不思考可能的配置部分。

使被做的部分self-reasoning和self-modification甚至成为可能。

我们主要要讨论在本节中,不过,另一个问题是:当代理的部分,可能会有对手不仅在外部环境,但在代理。

此集群的问题子系统金宝博官方对齐:确保子系统不是南辕北辙工作;金宝博官方避免子流程优化为意想不到的目标。

  • 良性的感应
  • 良性的优化
  • 透明度
  • 内部优化

阅读更多»

强大的代表团

||分析


自我完善

因为世界是大的,代理是可能不足以完成其目标,包括在其思考的能力。

因为代理的是做的部分,它可以提高自己,变得更有能力。

改进可以采取多种形式:代理能制造工具,代理可以让继任者代理,或者代理可以学习和成长。然而,继任者或工具需要更有能力,这是值得的。

这产生了一种特殊类型的委托/代理问题:

三个委托代理问题在强大的代表团

你有一个最初的代理,和一个继任者代理。最初的代理可以决定继任者代理看起来像什么。继任者代理,然而,比最初更聪明和强大的代理。我们想知道如何有继任者代理强劲优化初始代理的目标。

问题不是(就)的继任者代理可能是恶意的。问题是,我们甚至不知道它意味着什么。

这个问题似乎很难从两个观点。

继任者

最初的代理需要找出可靠和值得信赖的更强大的比,这似乎很难。但继任者代理必须找出在什么情况下,最初的代理甚至不能理解,并试着尊重的目标继承人可以看到的东西不一致的,也似乎很困难。

起初,这可能看起来像一个根本问题比”"做决定"或“"有模型"。但视图有多种形式的“建立一个接班人”问题是一个二元视图。

嵌入式代理,未来的自我不是特权;这只是另一个环境的一部分。没有建立一个继任者,深区别股票你的目标,只是确保你自己的目标随时间保持不变。

所以,虽然我谈论“最初的“和“接班人”代理,记住,这不仅仅是人类目前面临的狭窄的问题,瞄准一个接班人。这是关于一个代理的基本问题,坚持和学习。

我们称之为集群的问题强大的代表团。例子包括:

阅读更多»