我们2018年的募款活动正在进行中!!

美里的2018资金筹集活动

||新闻

更新11月。28:我们更新这篇文章宣布Haskell开发者爱德华Kmett加入了米里团队!此外,我们添加了一些我们最近的链接代理基础研究金宝博娱乐.

我们的捐助者的出现在很大程度上周二给!到12月。29日,,我们还包括一个匹配的机会通过职业扑克玩家丹•史密斯亚伦Merchak,马特•阿什顿和Stephen Chidwick与提高有效合作(注册)。作为他们的一部分合力完成驱动,他们会匹配捐款米里和注册,总计200美元,000.捐款可以在doubleupdrive.com,下面或直接通过捐款和发送你的捐款收据receipts@doubleupdrive.com.1


米里运行它2018年筹集资金在12月31日!我们的进展(实时更新):



美里是一个数学/计算机科学研究非营利金宝博娱乐组织的使命最大化自己潜在的人道主义的好处人工智能。您可以了解更多关于我们所做的工作在“”确保自己的情报有一个积极的结果”和“”嵌入式代理”。”

我们的资金今年目标是基于2018年筹集足够的目标匹配我们的“常态”明年的预算。我们认为“每年赚到足够支付明年”作为一名优秀的启发式米里,考虑到我们是一个迅速增长的非营利的健康水平储备和预算由研究员的工资。金宝博娱乐

我们专注于常态消费为了提出来(可能非常大)搬到新的空间成本在未来几年继续增长,引入了大量的方差的模型。2

我现在的模型为我们(常态,outlier-free) 2019支出从4.4美元到5.5美元不等,4.8米高的点估计从今年的3.5美元,2017年的2.1美元。模型需要输入估计范围为所有我们的主要支出类别,但是绝大多数方差来自员工的数量我们会添加到团队。3.

在主线的场景中,我们的2019年预算分解看上去大约是这样的:


在这个场景中,我们目前有~ 1.5年的储备。因为我们1月~ 4.3美元之间。1和11月。25日,,4我们的两个目标:

  • 目标1(500美元),代表提出的区别我们今年到目前为止,和我们的点估计明年支出一切如常。
  • 目标2(1.2美元),我们需要为我们的资金流向,跟上我们的增长对我们预测的上端。5

下面,我们会总结在美里有什么新鲜事并进一步讨论我们的的空间更多的资金.

1.最近的更新

我们已经发布了一系列新的职位在我们最近的活动和策略:

  • 2018年更新:我们的新研究方向金宝博娱乐讨论了新的研究方向,我们一直在增加在过去的两年里,金宝博娱乐他们如何与我们的代理基础研究和我们的目标“金宝博娱乐deconfusion,”为什么我们采取了”nondisclosed-by-default”政策研究。金宝博娱乐

  • 嵌入式代理描述我们的代理基础研究议程的不同角度攻击一个中央困难:我们不知道金宝博娱乐如何描述好推理和决策代理嵌入到他们的环境。

  • 夏天美里更新讨论了新员工,新的捐赠和资助,和新项目我们已经招聘研究人员和AI校准人员总额增长。金宝博娱乐

而且,添加11月。28:

  • 美里的最新招:爱德华Kmett宣布我们最新招聘:Haskell开发者爱德华Kmett所指出的,推广使用镜头的函数式编程和维护大量的图书馆在Haskell核心库。

  • 2017年回顾回顾我们的活动较去年和捐助者的支持。

我们2018年更新也讨论了更广泛的工程师和计算机科学家我们现在试图招募,和更大的总人数我们试图添加到团队在不久的将来:

我们寻求那些能引起“变得不那么困惑关于人工智能对齐”工作要更快。

在实践中,这意味着:本地的人认为在数学或代码中,谁认真对待的问题变得不那么困惑AI对齐(很快!),谁是一般能力。特别是,我们正在寻找高端谷歌程序员水平的能力;你不需要1 -在-一百万测试成绩和光环的命运。你也不需要一个博士学位,明确毫升背景,甚至研究经验。金宝博娱乐

如果上面的可能是你,和在米里的想法吸引了你,我建议发送应用程序的工作或射击你的问题巴克Shlegeris,研究金宝博娱乐员米里的帮助与我们的招聘。

我们还招聘代理基础角色,虽然速度慢得多。对于那些角色,我们建议与美国和其它人敲打在人工智能交互对齐问题更少的错误和AI对齐论坛,或者在当地MIRIx组。然后我们通常雇佣代理基础人员从我们已经知道通过上述渠道,金宝博娱乐访问,和事件等AI夏天伙伴计划.

一个伟大的地方开始开发直觉是斯科特Garrabrant最近发布了这些问题定点练习,或各种资源米里研究指金宝博娱乐南.最近的一些例子公共代理/嵌入式基础工作机构包括:

这些结果相对较小,内特即将推出的瓷砖相比代理纸或Evan Hubinger,Chris van Merwijk弗拉基米尔•MikulikJoar Skalse,和斯科特Garrabrant即将推出的“内部校准问题。”然而,他们应该给的一些最近的方向我们与代理一直在推动基础工作。

2.的空间更多的资金

如上所述,最大的不确定性的来源我们的2018年预算对我们雇佣多少研究人员估计,金宝博娱乐和我们花多少钱在搬到新办公室。

在2017年我们的筹款人,我们设定一个目标的招聘10个新的研究人员在2018 - 201金宝博娱乐9年。到目前为止,我们两个研究人员,金宝博娱乐管道有足够的有前途的候选人,我仍然认为10一个可行的(尽管雄心勃勃的)的目标。

惊人的表示支持后,我们收到了从去年的捐助者(一直持续到2018年),我们有更多的比我们预期的基金,我们发现更多的方法比我们预期的更有效地使用它。特别是,我们已经能够翻译”奖金”支持我们收到2017年扩大我们的招聘范围的努力。因此,我们2018年的支出,这将在3.5美元左右,2017年实际匹配点估计我给我们的2019年预算,而不是我的预测为2018 -一个大步骤从我的预测,和一个更大的一步从去年的2.1美元的预算。6

我们两个募款活动目标,目标1(500美元)和目标2 (1.2美元),对应的预算需要我们可以很容易地预测和解释。我们2018年去更好的捐赠者的大大增加支持2017年,我们可能今天在类似的情况下,虽然我不相信这是事实。

具体地说,某种程度上,我们的决策改变的结果惊人的支持我们看到的是:

  • 我们花了更多运行全额报销人工智能计算机科学家的风险研讨会。我们在2月份第一次研讨会,,看到很多价值作为人的场地与相关技术经验开始推理更多关于人工智能的风险。从那时起,我们在2018年已经运行另一个七个项目,2019年有更多的计划。

    希望,这些研讨会也产生兴趣加入美里和其他人工智能安全研究团队。金宝博娱乐这导致了一个全职米里研究人员招聘,金宝博娱乐和10个候选人在2019年加入全职的好前景,包括两个最近的实习生。

  • 我们已经更加一致能够并且愿意支付有竞争力的薪资,顶尖的技术人才。这是招聘的一种特殊情况相对高级研究人员金宝博娱乐爱德华Kmett.

  • 我们增加了一些现有的员工工资。我们有一个非常忠诚的员工,和一些员工在米里曾要求相当低的工资,以帮助保持米里的组织成本低。员工造成的不便,这并没有多大意义,我们当前的组织规模,无论是在我们的团队的生产力和的幸福。

  • 我们运行了一个暑期实习项目研金宝博娱乐究,比我们原本要在更大的规模。

  • 我们认为选择新的办公空间能够容纳我们的扩张,我们已经能够过滤减少对价格相对于健康。我们也可以在装修上花更多的钱,我们希望制造一种工作环境,研究人员可以用更少的干扰或不便做他们的工作。金宝博娱乐

2018年积极更新成本意外增加资金转化为对我们的能力(从我们的角度看什么样)非常高价值的行为,上面的列表并希望帮助阐明在实践中会是什么样子。我们不能保证能够重复,在2019年,给定一个过度的筹款活动,但我们有理由感到乐观。



  1. 美国税务居民从捐赠中提取税收优势感兴趣,我们建议选择2 -美里是被美国国税局501 (c)(3)组织。
  2. 也就是说,我们的常态模式试图消除一次性异常成本,这样更容易明白”新标准”米里的支出和考虑我们的长期增长曲线。
  3. 这估计是相当粗糙和不确定。这个模型的一个弱点是,它将输入,好像他们是独立的,这并非总是如此。我也没有试图解释这一事实,我们可能会花更多的世界,我们看到更多的融资成功。

    然而,在最终的输出灵敏度分析表明,绝大多数的不确定性估计来自我们雇佣多少研究人员,金宝博娱乐匹配我的预期,表明模型正在做一份体面的工作跟踪直观重要的变量。我也以类似的目标,当我结束了在其他方面对我们的资金状况和当我考虑不同融资方案。

  4. 这个不包括专项资金人工智能的影响,一个独立的研究小组在制度上安置金宝博娱乐在美里。
  5. 我们也可以考虑的目标0.5”100美元,以打击范围的底部,4.4美元。然而,我担心一个100美元的目标将是误导,因为我们考虑的4.4 - -5.5美元的预算。
  6. 引用我们的2017年筹集资金后:“如果我们成功了,我们的点估计是我们的2018年预算将是2.8美元和2019年的预算将是3.5美元,从2017年的大约1.9美元。”1.9美元的数字是估计从2017年之前结束。现在我们已经修改后的2.1美元这个数字,碰巧把它符合我们2016点估计在2017年我们会花多少钱。