寻找类型理论和机金宝博娱乐器自我参照方面的研究人员

||新闻

机器智能研究所(MIRI)正在接受全职研究员的申请金宝博娱乐,以开发具有自引用能力的定理证明程序,首先在该语言中实现强类型语言。这个研究项目的目标是帮助我们理解能金宝博娱乐够用类似演绎能力证明关于系统的定理的自治系统。金宝博官方申请人应具有函数式编程语言编程经验,优先选择具有依赖类型的语言,如Agda、Coq或Lean。

美里是数学和计算机科学研究所专门从事长期AI的安全性和稳健性的工作。金宝博娱乐我们的办公室是在加州伯克利,靠近加州大学伯克利分校的校园。188bet娱乐城

在类型理论类型理论

我们这个项目的目标是构建工具,以便在软件系统中更好地建模反射推理,就像我们的项目一样金宝博官方造型中本身HOL4证明助手。有哥德利式的理由认为自我参照推理是不可能的。然而,许多不能完全通用地解决的现实世界的任务承认有效的大多数一般的或启发式的方法。例如,人类在很多情况下肯定会成功地相信自己的推理。

在现代的定理证明者中有许多工具缺失,而这些工具将有助于研究自我参照推理。首先是定理证明者,他们可以利用非常相似的定理证明者构造关于软件系统的证明。金宝博官方要在强类型编程语言中构建这些工具,我们需要从编写可以引用同一语言中的程序和证明类型的程序和证明开始。

在类型论类型理论近来受到关注了相当数量。詹姆斯·查普曼的工作和我们想要的方向相似吗马特·布朗和延斯·帕尔斯伯格的,但这些项目还没有给我们,我们需要的工具。(F-ω是我们的目的太弱逻辑,像查普曼的方法没有得到我们的自我陈述。)

这是一个独立的研究项目,尽管可能会与其他研究人员进行一些合作。金宝博娱乐我们预计这将是一个多年的项目,但很难预先准确预测这项任务的难度。它可能比看上去容易,或者实际上更难。

根据项目进展情况,有兴趣在项目完成后继续与我们合作的研究人员可能会在我金宝博娱乐们的其他部分进行合作金宝博娱乐研究议程或提出他们自己的附加到我们的计划。

在MIRI工作

我们努力让在MIRI工作成为一种很棒的体验。以下是我们的运作方式:

  • 现代的工作空间。我们很多人都有带有大型外部显示器的可调节站立式办公桌。我们认为工作场所的工效学很重要,并试着把工作场所布置得尽可能舒适。我们的办公室还提供免费的零食、饮料和膳食。
  • 灵活的工作时间。这是一个受薪的工作。我们没有严格的办公时间,我们也不限制员工的假期。我们的目标是在我们的工作上迅速取得进展金宝博娱乐研究议程我们更希望研究人员能休息一天,而不是延长任务来填补额外金宝博娱乐的一天。
  • 我住在湾区。美里的办公室位于伯克利市中心,加利福尼亚州。从我们的办公室,你是一个30秒步行到BART(湾区捷运),它可以让你周围的湾区;3分钟步行到加州大学伯克利分校校园;188bet娱乐城并有30分钟的车程BART到旧金山市中心。
  • 旅行援助。如有需要,可提供签证协助。如果你要搬到旧金山湾区去,我们会为你支付3500美元的搬家费用。我们还提供公共交通通行证,每月有一大笔津贴。

这个职位工资面议,并配备了一流的医疗及牙科福利。

关于美里

MIRI是一家总部设在伯克利的研究机构,主要研究人金宝博娱乐工智能的基础问题。我们的目标是确保高质量的决策系统在未来几十年对全球产生积极影响。金宝博官方MIRI研金宝博娱乐究顾问、人工智能先驱斯图尔特·拉塞尔概述了几个原因有关高功能AI软件的关注:

  1. 效用函数可能与人类的价值观不完全一致,而人类的价值观(充其量)是非常难以确定的。
  2. 任何有足够能力的智能系统都宁愿确保自己的持续存在,并获取物理和计算资源——金宝博官方不是为了它们自己,而是为了成功完成它所分配的任务。

被优金宝博官方化的功能的系统ñ变量,其中目标取决于大小的一个子集ķ<ñ,通常会将其余未受约束的变量设置为极值;如果这些无约束变量中的一个确实是我们所关心的,那么找到的解决方案可能是非常不可取的。

我们关注的是过于复杂和自治的系统金宝博官方,软件开发人员无法预测系统及其环境可能演化成的所有可能状态。为了安全地使用这些系统,软件工金宝博官方程师需要在深层次上理解它们的行为,并且能够使用机器分析和验证技术来确认高级的系统属性。

MIRI是一家专门从事这一行的技术攻关的主要组织。金宝博娱乐我们的工作是在引用金宝博娱乐研究重点坚固有益人工智能在尼克·博斯特罗姆的文章中已经讨论过超智还有罗素和诺维格人工智能:一种现代方法

长期人工智能安全是一个迅速发展的研究领域,最近受到了公众的极大关注。金宝博娱乐我们目前的研究旨在为这一金宝博娱乐新领域提供理论基础,帮助指导未来的研究方向。

如何应用

点击这里申请。