一个新的领域指南MIRIx

||新闻

我们刚刚发布了一个图鉴对于MIRIx组,以及谁想要涉足其他人AI对齐金宝博娱乐研究。

MIRIx是一个程序,MIRI帮助支付基本开支为希望在AI的安全问题开放工作以外的团体。你可以开始你自己的组或找到现有的聚会信息www.izmemar.com/mirix

一些MIRIx组最近升温了他们的活动,其中包括:

  • 加州大学欧文分校:丹尼尔·赫尔曼在尔湾,加利福尼亚州开始MIRIx组。联系他如果您想参与。
  • 西雅图:MIRIxSeattle是一小群这是在重新启动,并提高其活动的过程。联系帕夏卡梅舍夫如果你有兴趣。
  • 温哥华安德鲁·麦克奈特埃文Gaensbauer正在寻找更多想加入MIRIxVancouver事件谁的人。

新定位领域指南旨在提供提示和背景模型MIRIx组的基础上,我们对什么往往使一个研究小组成功或失败的经验。金宝博娱乐

这份指南的开头:


序言我:决策理论

你好!你可能会注意到你正在阅读的文档。

这个事实带有一定的影响。举例来说,你为什么读这个?你会完成吗?你会来什么决定的结果呢?你会怎么做?

请注意,无论你做什么,最终很可能有几十个甚至上百个其他人的,非常相似,你和颇为相似立场,谁就会跟着推理这非常类似于你的,并且相应地匹配做出选择。

鉴于这种情况,这是我们的建议,你让你的未来几年的决定问这个问题:“什么样的政策,如果跟类似于我所有的代理,将导致最好,这是什么政策,我的具体情况建议?”这是少的试图决定所有代理足够相似到你(这可能会导致你做出了错误的选择出于内疚或压力)问题,更类似“如果我负责在我引用类的所有代理的,我会怎么对待该类的实例与我的具体特点?”

如果这种想法导致你阅读进一步,太好了。如果它使你建立一个MIRIx章,甚至更好。在此期间,我们将继续进行,如果只有人阅读本文件是那些谁有理由期望找到其合理有用。

序言II:表面积

试想一下,你一直负责运动的固体铁是在一边一米的立方体。鉴于这样的立方体的重量〜16000英镑,而普通人可以解除〜100斤,一个天真的估计告诉你,你能解决这个问题〜150愿朋友。

但当然,一米的立方体可以容纳最多像它周围的10人。它不如果你有理论上的动力移动立方体,如果你不能把那个承受功率的有效方法。问题是受限于它的表面积

MIRIx章是增加人们思考和AI比对技术问题的工作表面积的最佳途径之一。And just as it would be a bad idea to decree “the 10 people who happen to currently be closest to the metal cube are the only ones allowed to think about how to think about this problem”, we don’t want MIRI to become the bottleneck or authority on what kinds of thinking can and should be done in the realm of嵌入式代理研究和其他相关领域。金宝博娱乐

希望是你和其他人一样,你实际上将帮助解决问题,而不只是按照指示或阅读什么的已经被写入。这份文件的目的是支持谁有兴趣做真正的突破性研究自己的人。金宝博娱乐

(阅读更多)