2019年4月简讯

张贴通过&根据新闻稿.

更新新的研究文章:需要简金宝博娱乐化的偏好,充分简化的偏好;Smoothmin和个人身份;示例人口伦理:有序的贴现效用;人类价值理论;对抗性的IDA MIRI的具体提议已经收到了一组来自开放慈善项目和伯克利生存的新资助风险倡议。来自DeepMind安全团队和Alex Turner的新闻和链接:设计代理激励…阅读更多»

开放式慈善项目和BERI的新资助

张贴通过&根据新闻.

我很高兴地宣布,MIRI已经收到了两项主要的新赠款:一项为期两年的赠款,总额为211250美元,来自开放慈善项目。伯克利生存风险计划提供的60万美元补助金。公开慈善项目的赠款是他们的新的有效利他主义支持委员会推荐的第一轮赠款的一部分:…阅读更多»

2019年3月简讯

张贴通过&根据新闻稿.

想成为参考类“解决人工智能对齐问题的人”?我们现在有一个如何开始的指南,基于我们的经验,什么往往使研究小组成功。(也在人工智能联盟论坛上)德姆斯基和加拉布兰特介绍米里的代理基金会研究“嵌入式代理”的其他更新是…金宝博娱乐阅读更多»

新的MIRIx野外指南

张贴通过&根据新闻.

我们刚刚发布了一个MIRIx小组的现场指南,以及其他想要参与人工智能校准研究的人的指南。MIRIx是一个程序,MIRI帮助支付外部团体的基本费用,这些团体希望解决人工智能安全方面的开放性问题。你可以建立自己的小组或查找有关…金宝博娱乐阅读更多»

2019年2月简讯

张贴通过&根据新闻稿.

最新的Ramana Kumar和Scott Garrabrant认为,AGI安全社区应该开始优先考虑“在没有人体模型的情况下工作良好的方法”:[T]在人体模型是一个好主意的情况下,非常好地做是很重要的;在不好的情况下,最好…阅读更多»

2019年1月简讯

张贴通过&根据新闻稿.

我们12月的募捐活动取得了成功,348名捐赠者捐款略高于95万美元。支持者利用了各种配对机会,包括雇主配对计划、WeTrust Spring的以太坊配对活动、Facebook周二的Giving Tuesday活动,以及职业扑克手丹·史密斯、亚伦·默沙克和马丁·克劳利的双人驱动,通过有效的捐赠来专业地促进。总之,匹配…阅读更多»

2018年12月简讯

张贴通过&根据新闻稿.

爱德华·克米特加入了米里小组!Edward是著名的Haskell开发人员,他推广了透镜在函数式编程中的使用,并且目前维护了Haskell核心库周围的许多库。我也很高兴地宣布另一个新成员:詹姆斯·帕约。詹姆斯在Draftable,一个软件公司工作了三年后加入了MIRI研究小组…金宝博娱乐阅读更多»