当前位置:首页 >> 安全

投票开除奥尔特曼的董事发声:OpenAI之乱跟AI安全本来

来源:安全   2024年02月10日 12:17

财联社

在上个月底致使全球新材料圈愤恨的OpenAI“叛乱100两星期”中的,AI圈的顶流明星山姆·奥尔特曼在招来理事会扫地出门后又迅速凯旋而归。即使如此,由于事发后核心人物鲜少问及幕后的回避,整件事至今还存有诸多无论如何。

当地时间周四,现在逃离OpenAI理事会的Helen Toner公开讲出,对于外界的诸多无论如何和“知悉民众第一时间”做出一些发言。

为何要开除奥尔特曼

Toner说明,理事会开除奥尔特曼的原因与AI安全和没有关系,而是“缺少信任”。她促使解释指为:“我们辞职山姆的最终目标,是为了巩固OpenAI并使其更有能力实现其精神。”

在面临OpenAI的辩护律师设法施压理事会辞职时,她也坚持了这一立场。Toner参阅指为:“辩护律师设法确信,如果我们不立即辞职,才会违法。因为若母公司因此崩坏,我们将违反原于负起。但OpenAI是一个相当特殊的组织,非营利精神——必需人工通用人机(AGI)惠及全人类——是最重要的。”

事实上,在面临辩护律师阐释“母公司会因此崩坏”时,Toner发言指为“这样也符合我们的精神”,致使客厅里的一众母公司娱乐业不已吃惊。

对于这一点,Toner也补充道,这句话是对辩护律师“恐吓策略”的发言。她设法表达出来的是:对于创建人造福全人类的AGI这一精神而言,OpenAI的停滞假定并不是必需。

据知悉民众披露,这场叛乱的源头是奥尔特曼与Toner间的矛盾。今年10月底,在一篇Toner作为共同笔记的论文中的,OpenAI推出ChatGPT引发了主要新材料母公司核心的“紧迫感”,加剧他们放缓研发AI产品;与此同时,OpenAI的即使如此Anthropic通过延误发行其聊天机器人,避免了“招来AI炒作”的现象。

文章发表后,奥尔特曼质问Toner为何要如此直言母公司,随后他联系了其他的理事会团员,设法炒掉Toner。

然而,一些理事会团员从来不交换了与奥尔特曼的聊天记录,注意到他在与一名理事提问时备有了举例的看法,即另一名理事也显然Toner应该逃离。而在那个时间点,多名理事现在对奥尔特曼的诚实病态不已担忧。他的一系列使用暴力一点一点地削弱了这些团员对奥尔特曼的信任,并最终加剧了他被辞职。

在最新的专访中的,Toner并没有发言她与奥尔特曼间的事,仅阐释她的所有使用暴力都是出于好意。

据知悉民众说明,在奥尔特曼回归OpenAI前,他现在向Toner就“论文事件”中的的使用暴力开展过表示遗憾。

与有效人本主义的关系?

在这起事件中的,奥尔特曼的支持者经常拿Toner和另一名理事Tasha McCauley与“有效人本主义”革新运动间的关系发起攻击。

举例而言,OpenAI公司股票麦萨姆(Vinod Khosla)就曾公开发表文章指为,像“乔治城大学安全和与新兴技术中的心战略艺术总监”这样的华丽头衔,确实会加剧Toner对创新创业的十分复杂过程假定误解。OpenAI理事会团员对“有效人本主义”的信仰及其误用,确实现在阻挠了人工人机带来巨大好处的世界进程。

不过近年来Toner也长期设法与有效人本主义革新运动维持距离。她说明:“像任何社会病态一样,自从2014年以来,这个革新运动和我自己都现在再次发生了不大的变化。”

Toner于2014年从墨尔本大学完成学业,获得化学工程学位。之后她在Open Philanthropy等一系列母公司担任研究工作分析师,Open Philanthropy是一个基于有效人本主义哲学备有赠款的基金会。2019年结束在中的国有关AI生态的学习后,Toner返回美国帮助创建安全和与新兴技术中的心,并长期工作至今。

2021努瓦,Open Philanthropy的管理公司CEO Holden Karnofsky(他的女儿Daniela Amodei是Anthropic的联合创建人)引退OpenAI理事会,随后英年早逝29岁的Toner被委派为OpenAI理事。

感染新冠可以吃什么药
闹肚子拉稀吃什么药
无锡装修
阴囊肿胀
老年人头晕健忘如何改善比较好
友情链接