金宝博娱乐研究讲习班

7月20日至22日,二千零一十八–伯克利,加利福尼亚

第二届人工智能对准方法研讨会


人类兼容人工智能中心这个周末的研讨会聚集了来自MIRI和UC伯克利分校的研究实习生。金宝博娱乐人类兼容人工智能中心讨论人工智能安全研究的概念基础和尚待解决的问题。金宝博娱乐

11月18日至19日,二千零一十七–伯克利,加利福尼亚

第一届人工智能对准方法讲习班


这个周末的研讨会聚集了有兴趣了解和探索MIRI的交叉点的研究人员。金宝博娱乐代理基金会金宝博娱乐研究议程保罗·克里斯蒂诺的研究金宝博娱乐.

四月1-2日,二千零一十七–伯克利,加利福尼亚

第四届机器学习与人工智能安全讲习班


人工智能杂志这个研讨会聚集了具有机器学习背景的研究人员,以研究可以在当前机金宝博娱乐器学习系统和框架中建模的长期人工智能安全问题,金宝博官方例如,在““人工智能安全中的具体问题“和““先进机器学习系统的对准金宝博官方“.

这个研讨会的部分资金来自人工智能杂志.

3月25日至26日,二千零一十七–伯克利,加利福尼亚

代理基础和人工智能安全讲习班


这个为期两天的周末研讨会聚集了对长期理论人工智能安全研究感兴趣的研究人员。金宝博娱乐研讨会涵盖了当前人工智能安全研究议程和项目的背景和内容(重点是MIRI的金宝博娱乐代理基金会技术议程)它是为那些具有技术背景并且以前没有在金宝博娱乐MRI广泛工作的研究人员设计的。

12月1日至3日,二千零一十六–伯克利,加利福尼亚

第三届机器学习与人工智能安全讲习班


这个为期三天的小型研讨会聚集了具有机器学习背景的研究人员,以研究可以在当前机器学习系统和框架中金宝博娱乐建模的长期人工智能安全问题,金宝博官方例如,在““人工智能安全中的具体问题“和““先进机器学习系统的对准金宝博官方“.

包括主题使用共享嵌入的零镜头学习,之间的区别量化以及正规化,生成性对抗网络与古德哈特定律和保守概念学习.

11月11日至13日,二千零一十六–伯克利,加利福尼亚

第9次逻辑讲习班,概率,和反思


参加这个为期三天的研讨会的人,大多数是过去研讨会的老手,就MIRI的各种问题开展了工作。代理基金会技术议程.

主题包括在丰富领域的安全探索,,预测人类和预测HCH的区别,和其他决策理论衍生的决策理论.

10月21日至23日,二千零一十六–伯克利,加利福尼亚

第二届机器学习与人工智能安全讲习班


这个为期三天的小型研讨会聚集了具有机器学习背景的研究人员,以研究可以在当前机器学习系统和框架中金宝博娱乐建模的长期人工智能安全问题,金宝博官方例如,在““人工智能安全中的具体问题“和““先进机器学习系统的对准金宝博官方“.

主题包括不同本体的概念学习,,任务AGI存在的问题,,审查过的陈述,和保守概念.

8月26日至28日,二千零一十六–伯克利,加利福尼亚

第一届机器学习与人工智能安全讲习班


这个为期三天的研讨会汇集了具有机器学习背景的研究人员,研究可以在当前机器学习系统和金宝博娱乐框架中建模的长期人工智能安全问题,金宝博官方例如,在““人工智能安全中的具体问题“和““先进机器学习系统的对准金宝博官方“.

课程包括学习人类可解释的环境模型和因果模型;基于影响措施的工程造价函数,以抑制副作用;设计用于声称的计划解释的质量的稳健度量;并建立了产生温和优化的Goodhart定律的形式化模型。

8月12日至14日,二千零一十六–伯克利,加利福尼亚

第八次逻辑讲习班,概率,和反思


这次研讨会的与会者-他们都是过去研讨会的老手-就与MIRI有关的各种问题开展了工作。代理基金会技术议程,着重于决策理论和逻辑反事实的形式化构建。

6月17日,二千零一十六–伯克利,加利福尼亚

CSRBAI Agent模型与多Agent困境研讨会


来自机构的20名与会者包括:
  • 南加州大学创新技术学院
  • 卡尔顿大学
  • 人文学院的未来
  • 卡内基梅隆大学
  • 哈佛
  • 牛津大学
  • 伦敦大学学院
  • 澳大利亚国立大学
  • 加州大学伯克利分校
  • 德州大学奥斯汀分校
  • 普林斯顿大学
  • 哥伦比亚大学

这个健壮且有益人工智能系列讨论会包括一系列讲习班,以促进对与AI健壮性和可靠性相关的技术挑战的多种不同方法感兴趣的人之间的对话和协作。

第四个讲习班CSRBAI专注于设计在其环境中表现良好的代理的主题,不忽略代理自己的操作对环境或环境内的其他代理的影响。

6月11日至12日,二千零一十六–伯克利,加利福尼亚

CSRBAI偏好规范讲习班


来自机构的20名与会者包括:
  • 澳大利亚国立大学
  • 伦敦大学学院
  • 存在风险研究中心
  • 牛津大学
  • 人文学院的未来
  • 卡内基梅隆大学
  • 瑞士人工智能实验室IDSIA
  • 澳大利亚国立大学
  • 加州大学伯克利分校
  • 布朗大学
  • 蒙特利尔大学
  • 南加州大学创新技术学院

这个健壮且有益人工智能系列讨论会包括一系列讲习班,以促进对与AI健壮性和可靠性相关的技术挑战的多种不同方法感兴趣的人之间的对话和协作。

第三个研讨会CSRBAI重点讨论高性能AI系统的偏好规范主题,金宝博官方其中长期存在的需要代码的问题照我的意思去做,不是我说的变得越来越具有挑战性。

六月4-5日,二千零一十六–伯克利,加利福尼亚

CSRBAI健壮性和容错研讨会


来自机构的14名与会者包括:
  • 伦敦大学学院
  • 存在风险研究中心
  • 谷歌
  • 人文学院的未来
  • 卡内基梅隆大学
  • 澳大利亚国立大学
  • 加州大学伯克利分校
  • 瑞士人工智能实验室IDSIA
  • 康奈尔大学
  • 南加州大学创新技术学院

这个健壮且有益人工智能系列讨论会包括一系列讲习班,以促进对与AI健壮性和可靠性相关的技术挑战的多种不同方法感兴趣的人之间的对话和协作。

第二讲习班CSRBAI重点讨论了人工智能系统的鲁棒性和容错问题,金宝博官方以及如何确保当AI系统失败时,金宝博官方他们失败得体而且显而易见。

五月二十八日至二十九日,二千零一十六–伯克利,加利福尼亚

CSRBAI透明度讲习班


来自机构的20名与会者包括:
  • 俄勒冈州立大学
  • 澳大利亚国立大学
  • 人文学院的未来
  • 卡内基梅隆大学
  • IBM研金宝博娱乐究
  • 蒙特利尔学习算法研究所
  • 谷歌研究金宝博娱乐
  • 斯坦福大学
  • 谷歌
  • 加州大学伯克利分校
  • 伦敦大学学院
  • 哈佛
  • 未来生命研究所

这个健壮且有益人工智能系列讨论会包括一系列讲习班,以促进对与AI健壮性和可靠性相关的技术挑战的多种不同方法感兴趣的人之间的对话和协作。

第一个研讨会CSRBAI重点讨论AI系统中的透明度问题,金宝博官方以及如何提高透明度,同时保持能力。

四月1-3日,二千零一十六–伯克利,加利福尼亚

自我参照,类型理论,以及正式核实


参与者研究了类型理论和自动定理证明中的自参照问题,其目的是研究自己建模的系统。金宝博官方

8月28日至30日,二千零一十五–伯克利,加利福尼亚

第三届逻辑决策理论导论讲习班


这是系列介绍性研讨会中的第六次,MIRI汇集了不同背景的研究人员,金宝博娱乐在技术议程话题,并开始在该领域开展项目和合作。

这个研讨会的主题是决策理论,研讨会开始的项目将在以下职位讨论:证明长度与逻辑反事实

8月7日至9日,二千零一十五–伯克利,加利福尼亚

第二届逻辑不确定性介绍讲习班


这是系列介绍性研讨会中的第五次,MIRI汇集了不同背景的研究人员,金宝博娱乐在技术议程话题,并开始在该领域开展项目和合作。

这个研讨会的主题是逻辑不确定性,研讨会开始的项目将在以下职位讨论:逻辑一致性到底有什么用??

6月26日至28日,二千零一十五–伯克利,加利福尼亚

第一届文根反思介绍讲习班


这是系列介绍性研讨会中的第四次,MIRI汇集了不同背景的研究人员,金宝博娱乐在技术议程话题,并开始在该领域开展项目和合作。

这个研讨会的主题是文根反射,研讨会开始的项目在以下职位中进行讨论:

6月12日至14日,二千零一十五–伯克利,加利福尼亚

第二届逻辑决策理论介绍讲习班


这是系列介绍性研讨会中的第三次,MIRI汇集了不同背景的研究人员,金宝博娱乐在技术议程话题,并开始在该领域开展项目和合作。

这个研讨会的主题是决策理论,研讨会开始的项目将在以下职位讨论:有限和无穷情形的不动点定理

5月29日至31日,二千零一十五–伯克利,加利福尼亚

第一届逻辑不确定性介绍讲习班


这是系列介绍性研讨会中的第二次,MIRI汇集了不同背景的研究人员,金宝博娱乐在技术议程话题,并开始在该领域开展项目和合作。

这个研讨会的主题是逻辑不确定性,研讨会开始的项目在以下职位中进行讨论:

5月4日至6日,二千零一十五–伯克利,加利福尼亚

第一届逻辑决策理论介绍讲习班


这是系列介绍性研讨会中的第一个,MIRI汇集了不同背景的研究人员,金宝博娱乐在技术议程话题,并开始在该领域开展项目和合作。

这个研讨会的主题是决策理论,研讨会开始的项目在以下职位中进行讨论:

5月3日至11日,二千零一十四–伯克利,加利福尼亚州

第七次逻辑讲习班,概率,和反思


参加这个研讨会的人——他们都是过去研讨会的老手——就与友好人工智能有关的各种问题开展了工作。本研讨会的第一份技术报告可供查阅。在这里.

12月14日至20日,二千零一十三–伯克利,加利福尼亚州

第六次逻辑讲习班,概率,和反思


这次研讨会的与会者集中讨论了洛比障碍,,概率逻辑,以及逻辑和概率的交集。本研讨会的结果将予以说明。在这里.参见研讨会的照片在这里.

11月23日至29日,二千零一十三-牛津,英国

第五次逻辑讲习班,概率,和反思


这次研讨会的与会者调查了与反射剂,,概率逻辑,和先于逻辑陈述/逻辑全知问题。这个研讨会的一些结果在2013年12月的研讨会上进一步发展并加以描述。在这里.

9月7日至13日,二千零一十三–伯克利,加利福尼亚州

第四次逻辑讲习班,概率,和反思


9_._1_300px这个研讨会集中讨论了与下列相关的各种未决问题常规决策理论.参加者集思广益适定的问题在该地区,基于LaVictoire等人的洛比亚合作工作,在形式化方面取得一些进展无更新决策理论,并制定了额外的玩具问题,如终极Newcomb问题.

这些结果仍在以各种形式撰写。

七月8日至14日,二千零一十三–伯克利,加利福尼亚州

第三期逻辑讲习班,概率,和反思


9_._2_300px本讲习班重点讨论与自修正系统的Lbian障碍金宝博官方,以及Demski早期的工作逻辑先验概率.The primary result was a proof that attempting to create a probability distribution which performs scientific induction on Π声明,对于这些陈述的真实版本,收敛到概率1,can create zero limiting probabilities assigned to true Π声明。这个结果还在撰写中,但是,在博客帖子德姆斯基。在进一步的研讨会上,开发了其他一些进展,并对其进行了描述。在这里.

4月3日至24日,二千零一十三–伯克利,加利福尼亚州

第二期逻辑讲习班,概率,和反思


这个为期三周的研讨会同时解决了多个公开的研究问题。金宝博娱乐第一,参与者发现反射原理发现于前一个车间,尽管这一进展仍在撰写中。第二,参与者改进了LaVictoire早期的工作,产生论文“囚徒困境中的稳健合作:基于可证明逻辑的程序均衡."第三,参加者对本杰·法伦斯坦病情有所改善参数多态性方法对付自修正系统的Lbian障碍金宝博官方.

11月11日至18日,二千零一十二–伯克利,加利福尼亚州

第一期逻辑讲习班,概率,和反思


这个研讨会针对自修正系统的Lbian障碍金宝博官方.这次研讨会的主要结果是没有建设性的。漏洞在塔斯基的真理的不确定性中(通过不动点定理),后来以草稿形式写成“概率逻辑中真理的可定义性“(见讨论)在这里,,在这里,和在这里