时政·财经·军事 | 生活·家庭·娱乐 | 体坛·历史·科技 | 摄影·旅游·文化 | 移民·教育·就业 | 数码·健康·奇闻 | 社区·评论·问卷
留园网首页 · 新闻速递首页 · 【繁體閱讀】 【网友评论:2 条】 【 热评新闻排行 】 【 热门新闻排行 】 【 即刻热度新闻排行 】 【 72小时神评妙论 】   

回不去的Altman,难以调和的OpenAI路线之争(组图)

新闻来源: 格隆汇/凤凰科技 于2023-11-20 16:33:18  提示:新闻观点不代表本网立场



“周六解雇,周日和解,周一回去上班。”原本吃瓜群众以为Sam Altman会照着乔布斯的剧本来演。

这Altman以为自己回来靠谱了,周日带着访客证记录推文一则“这是我第一次也是最后一次戴这玩意儿来这儿了”。



(来源:X)

结果剧本又给Open AI董事会撕烂了,“不好意思!我们找到人了。”内外逼宫下的董事会决定一条路走到黑,硬是不让人回来,还任命了新的临时CEO(Twitch前高管埃米特·谢尔)。

看着自己培养的合作伙伴彻底黑化,微软大哥倒吸一口凉气,不要是吧,那来我这干吧。目前这一幕,以Open AI前高管Sam Altman和Greg Brockman加入微软新AI研究团队结束。



(来源:X)

王者归来,乔布斯花了整整12年。Open AI的内部矛盾,从公司成立,到大模型作为商业化工具大范围推广时一直存在,作为一个以非营利标签自居,亟需融资继续生存的商业实体,商业营利和技术安全不一致的冲突让天秤加速倾斜。

01

被“流放”48小时


简单回顾一下此次“政变”,公司前总裁Greg Brockman(与Sam一同被董事会除名,后自行辞去职务)在事发后提供了事情的详细经过。

大意就是,公司首席科学家兼董事会成员Ilya主导了此次“政变”,先后在两人不在场的情况下,召开会议将Sam和Greg除名,Sam被直接解雇,原本可以留下来的Greg火速辞职。除了接任CEO的米拉在前一天晚上知晓,管理团队其他成员都是临时才知道这次人事巨震。

同一时间,Open AI官网迅速发布一篇文章宣布Sam Altman被解雇的决定,在阐释原因时用了“始终不坦诚”的评价形容Altman和董事会的沟通,使得董事会对他的领导失去了信心。



(来源:Open AI公告)


Sam和Greg,一个CEO,一个总裁兼董事会主席,先后被董事会赶出门是什么感受?

一脸懵逼。



(来源:X)


Sam被逐出公司后,投资人立马坐不住了。

连Open AI最大的金主爸爸,微软同样为Altman被解雇的决定感到措手不及,他们声称事先并不知情,而是等到决定做出前那几分钟才知晓。

ChatGPT能取得这么快的进展并不是Altman一个人的功劳,但将ChatGPT成功商业化,为公司带来百亿美元融资却要仰仗Altman早年在创投圈积累的强大人脉和资源。没了他充当公司的门面,竞争对手追赶Open AI的机会将大大提升。

况且Open AI还在为新一轮融资进行着谈判,外界投资者本要向Open AI员工所持股份进行要约收购,身为融资高手的Altman一走,要约收购就没办法顺利进行下去。

由于这些投资人没有董事会席位,对公司治理没有决策权,与之紧密沟通的Altman就是他们选出的代理人,他在公司的地位和外部投资人的利益攸关,因此在其离职后开始向公司董事会施压,要求让Altman“官复原职”。

但员工已经开始逼宫。

部分OpenAI 的员工要求在北美时间周六下午5点前,整个董事会必须集体辞职,并迎回Altman,否则他们就会辞职并跟随Altman。临时CEO Mira Murati、首席战略官Jason Kwon、首席运营官Brad Lightcap,都站在了Altman这一边,希望董事会辞职。

据The Verge援引一位Altman的消息人士称,OpenAI董事会目前原则上已经同意辞职,并允许二人回归,不过由于形式仍不明朗,董事会成员一直犹豫不决,以至于错过了员工要求的截止时间。

在此之前,随着两人离职,三名忠于Altman的骨干级研究人员也在周五离开了公司,因这一消息而辞职:GPT-4负责人兼OpenAI研究总监 Jakub Pachocki;人工智能风险评估团队负责人Aleksander Madry和开源基线研究员Szymon Sidor。

Altman回归的一大条件,同样是现有董事会必须走人。

整场闹剧,或者站在Sam的视角称之为一场“政变”,决定做得很草率,公关写得很草率,董事会架构更是草率,只要三票就能把CEO赶走,而且除了公司内部成员,独立董事的数量居然占了一半。

政变再早个几年,根本不会成功,因为当时董事会里还有像马斯克、里德·霍夫曼等大佬坐镇,但后来都因为利益冲突离开。19年Altman引入微软融资,为了不违背初衷同时让公司能够持续运转,Altman开创性地协调了营利和非营利组织的天然矛盾。

Open AI的结构不寻常,他的营利主体是由一个非营利性501(c)(3)公共慈善机构拥有,前者可以接受投资并设定回报率,但是要在后者的治理下展开运作,而后者又由董事会来领导。

与传统公司不同,OpenAI的董事会的任务不是最大化股东价值,他们也没有持有OpenAI的股权。相反,他们的宣言使命是确保创造出对社会“广泛有益”的人工通用智能(AGI)。



为了让董事会身份背景更加多元,除了Sam、Greg、Ilya三个联合创始人,Open AI还引进了Adam D'Angelo、Tasha McCauley以及Helen Toner来担任独立董事。

三位独董,D’Angelo是北美“知乎”Quora的创始人;McCauley是名利场跨界来的,美国演员约瑟夫·高登-莱维特的妻子;Toner是搞政治学术研究的,毕生都在和官员打交道。

可以看出,三位是跟Open AI,甚至跟AI都无关的纯路人,却在公司重要事项上有三票话语权,这就是戏剧性的一面,奇葩的董事会架构设置把Sam Altman回归的路堵死了。

可毕竟基本都是门外汉,三个独立董事不可能在Sam下台这件事上独立形成共识,因此外界几乎对董事会剩余一位公司内部成员,首席科学家—Ilya Sutskever,策划这场“政变”的可能性达成了一致。

何以至此?

02

安全主义 vs 加速主义

“政变”具体导火索不详,但显然不仅仅归咎于Sam的沟通不当,锁定核心人物后发现,矛盾依然围绕着Open AI内部研究和产品的派系斗争逐渐激化,更深层次地,是AI安全主义和硅谷技术乐观主义相互对立的一面。

在Ilya联合其他成员推动Altman和Greg下台的叙事里,这位当初从谷歌Deep Mind跳槽的天才科学家并不把自己当成Altman的“沃兹尼亚克”(与乔布斯共同创立苹果),而更像是将AI安全放置上商业利益之上的“奥本海默”。



Gillett News报道称:“Ilya认为作为CEO的山姆没有针对减轻AI风险给予足够的重视,伊利亚还对自己在公司中的作用减弱表示不满。”在谈到被指控发动政变时,Ilya表示这是董事会为了非盈利组织的使命所做的决定,即确保Open AI能够构建对全人类有益的AGI。

Altman和Greg显然是技术乐观派的代表,管理着GPT商业化的进度并且想要加快运用他们的研究成果。但Ilya却越来越担心Open AI是否坚持了管理非营利组织创造有益的AGI的使命。

曾担任Ilya博士生导师的AI先驱杰弗里·辛顿表示,过去几年,Open AI大语言模型的快速进展让Ilya对 AGI 即将到来更加充满信心,从而更加专注于预防其可能带来的危险。

本月早些时候,公司举行了第一次“开发者大会”,在会上Altman推出了GPTs,ChatGPT的自定义版本,增加GPT Store并允许通过收益分成来丰富开发生态。

在在内部一些技术安全派看来,没有经过充分审查就利用ChatGPT来挣钱是不够谨慎的,已经和公司非营利的主旨背道而驰。

可Altman不但不听劝,还要继续抬高公司的估值进行新一轮融资。



之后Greg和Altman开始全力融资,11月9日Greg与法国总统马克龙会面,随后在巴黎举行了投资者会议,意图吸引主权财富基金和欧洲家族式的大额投资。

13日在伦敦接受《金融时报》的采访时,Altman首次确认他们已经开始开发 GPT5,并正在为此筹集资金。16日在APEC首席执行官峰会上,Altman确认了技术突破,称几周前他们再度打开了“无知之幕”。

但开发日后,使用量激增给他们的服务器带来严重过载,使得筹资堆砌算力变得愈发紧迫。OpenAI经历了包括ChatGPT及其API的大规模中断。CNBC报道,开发者大会三天后,微软出于安全考虑短暂限制了员工访问ChatGPT。

据传闻,17日董事会会议上,Ilya带来两名23岁的资深工程师向董事会报告了项目的进展和潜在风险。当他表示他们不应该再筹资,不应该扩张,以及Sam擅自进行巡演时,会议变成了一场辩论,最终Ilya大发雷霆,随后推动两位联合创始人一并出局。

把时间线拉长一些,短短一年之内,Altman帮助Open AI从一家混合型研究公司转变为一家处于全面增长模式的硅谷科技公司,年营收已经超过10亿美元。

部分硅谷科技精英崇尚着一种技术创新的价值观—有效加速主义(e/acc),就是说人类应该无条件地加速技术创新,通过快速迭代来颠覆社会结构,我们认为技术颠覆可能会带来的社会风险本质上会迫使人类不断去适应,从而达到更高的意识水平。



虽然没有证据证明Altman笃信这一派观点,但从Open AI近一年取得的成就看得出,Altman是懂如何“加速”的。

而要理解技术宅大神Ilya的立场则更加复杂。Ilya对Open AI技术越有信心,对AGI的信仰越让他走向Altman的对立面。

在《麻省理工科技评论》的专访中,Ilya表示自己并不打算构建下一个GPT或图像生成模型DALL-E,而是打算弄清楚如何阻止超级人工智能变得不受控制。

他认为ChatGPT可能是有意识的,他眼中的超级人工智能跳出人类思考的局限,有着更深入的洞察力,而随着能力变得更强大,人类无法可靠地评估AI,这会带来无法估计的风险。

7月,Ilya领导发起了一项”超级对齐”活动,利用公司未来20%的算力资源,该项目旨在帮助引导超级人工智能走向人类价值观和目标,开发更多上游人工智能安全技术,为本十年实现AGI的可能性做好准备。

“对齐”的本质,是让人工智能模型按照明确的指令做事,而超级对齐,是Open AI专门用于超级智能的对齐术语。Ilya本人表示这是“兴趣驱使”,他更关心的并不是AI是否具有情感,而是AI是否对人类有真正的爱。

听上去像科幻小说,但不妨仔细理解一下。技术大牛可能对怎么赚钱不感兴趣,但对AGI的理解真的比我们高了不少层。

现在对于我们而言AI只是个工具,而Ilya已经站在数字生命体的角度去思考,所谓”真正的爱“,是无条件,超越人性,守护价值观的爱。

Ilya打算从AGI诞生的一开始,就给他植入底层原则,如同阿西莫夫著名的”机器人三定律“,通过目前基于人类反馈的强化学习可能还无法实现,但只要我们日后为超级数字生命体植入这一原则,才不会真来一出”黑客帝国“。

为何不等AGI诞生再慢慢调整?Ilya表示等不了,现在就得做。从描述上倒推进度,Open AI的研发团队可能真的积累了一些能载入史册的成果。Altman想快点用,Ilya觉得不安全,应该多堆资源在他的项目里,这里既有资源分配的分歧,也有对于如何平衡进步和安全的矛盾。

03

尾声


技术乐观主义和AI安全主义在Open AI成长史里如同两块分分合合的橡皮泥,一边受到快速商业化的推动,另一边则坚持必须极其谨慎地加以控制AI。马斯克是典型的AI威胁论代表,曾经的骨干研究人员也由于同样的分歧出走创立Anthropic。

但两位创始人的离开,意味着Open AI的融资计划可能要泡汤了,即使能够实现,缺少灵魂人物掌舵,Open AI未来商业前景的不确定性陡然增加,内部派系矛盾的不断激化也会削弱公司未来的招聘能力,原本860亿美元的估值剩下多少,对于计划参与投标的员工都会是巨大的打击。

而累计已经在Open AI上花了130亿美元的微软成了和事佬,既然要求Altman回归的谈判走向破裂,这边与Open AI还要继续合作,不得不将两人先收入麾下,放在一个新的AI研究团队下,也给其他想跟着Altman跳槽的员工吃了颗定心丸,防止人才资源迅速地涌向竞争对手。

但就这样么?通过挽救这场劳动纠纷,微软与Open AI是否能继续稳定地合作,对Open AI内部治理没有投票权的金主爸爸是否着意更多。

据外媒报道,微软曾考虑争夺OpenAI董事会的位置,或作为没有投票权的观察员加入,前提是阿尔特曼复职。但目前谈判失败,董事会成员是否会重新进行调整,目前尚不清楚。

二进宫暂时是失败了,但剧情反转格外激烈。

乔布斯的王者归来之所以传奇,在于一直被诟病不懂技术的他不像工程师般追求极致的技术成果,但更懂得倾听用户的声音,把出色的功能塞进更大的愿景里,兜售出百八十亿美元的成就。

站在乔布斯的视角,技术的优越性,恰好也是它的偏见所在,伟大产品的CEO需要站在市场和研发中间,让市场为技术路线实现反馈,而Open AI的象牙塔,有凌驾于市场的价值追求。

两个故事能否成功“对齐”,要看在未来公司商业化进度和AI技术运用上,Altman、微软、以及Open AI新晋管理层如何角力了。



OpenAI创始人阿尔特曼将加入微软 将领导新的AI研究团队

11月20日,微软CEO纳德拉(Satya Nadella)宣布,OpenAI创始人山姆·阿尔特曼(Sam Altman)、格雷格·布罗克曼(Greg Brockman)将加入微软。纳德拉还表示,两人将领导一个新的人工智能研究团队,期待着他们迅速采取行动,微软为它们的成功提供所需的资源。



纳德拉称,微软还将与OpenAI保持合作关系,期待着认识Emmett Shear和OpenAI的新领导团队并与他们合作。



阿尔特曼转发了纳德拉的消息,并回应表示“使命继续”。

时间线梳理:

11月18日 OpenAI宣布CEO阿尔特曼将离开公司,公司现CTO米拉·穆拉蒂被任命为临时首席执行官。

11月18日 OpenAI总裁格雷格·布罗克曼辞去董事会主席的职务。

11月19日 微软CEO纳德拉与阿尔特曼交谈

11月19日 OpenAI对阿尔特曼重回公司表示“乐观”,临时CEO社媒向其示好

11月20日 OpenAI临时CEO穆拉蒂计划重新聘请被解职的阿尔特特曼和前总裁格布罗克曼

11月20日 阿尔特曼现身OpenAI总部要求董事会集体辞职

11月20日 OpenAI内部信曝光,坚决解雇阿尔特曼

11月20日 纳德拉宣布OpenAI创始人阿尔特曼将加入微软

11月20日 阿尔特曼回应加盟微软:使命继续

OpenAI新CEO公布30天新政:调查阿尔特曼被罢免事件|AI前哨




希尔


凤凰网科技讯《AI前哨》北京时间11月20日,OpenAI刚刚新任命的临时CEO埃米特·希尔(Emmett Shear)周一公布了他的30天“新政”。他计划改革OpenAI的管理层,并对联合创始人、前CEO山姆·阿尔特曼(Sam Altman)被罢免事件展开调查。

希尔周一在X上发文,谈到了他出任OpenAI临时CEO的经过。他表示,自己接到了OpenAI董事会的电话,被邀请考虑一个千载难逢的机会:成为OpenAI的临时CEO。在与家人商量并思考了几个小时后,他接受了。



希尔公布30天新政


希尔表示,他的首要任务将是保证OpenAI的稳定,服务好公司客户。未来30天,他制定了一个三点计划:

——聘请一名独立调查员,深入调查导致阿尔特曼被驱逐的整个过程,并生成一份完整报告。

——继续与尽可能多的员工、合作伙伴、投资者和客户交流,做好笔记,并分享关键要点。

——根据最近的离职情况对管理和领导团队进行改革,使其成为能够为客户带来成果的有效力量。

谈到阿尔特曼被驱逐一事,希尔表示,此事“处理得非常糟糕,严重损害了我们的信任”。希尔称,对于阿尔特曼和OpenAI整个团队创造的一切,他只有尊重之情。

当地时间周日,OpenAI任命游戏直播公司Twitch前CEO希尔为新的临时CEO,以取代之前的临时领导者米拉·穆拉蒂(Mira Murati)。在阿尔特曼被驱逐后,穆拉蒂担任临时CEO,但是她一直在运作让阿尔特曼回归公司,引发董事会不满。

知情人士表示,希尔之所以能够赢得OpenAI董事会的支持,因为他过去曾认识到人工智能带来的生存威胁。希尔是一名计算机科学家,他花了十多年时间将Twitch打造成世界上最成功的视频平台之一。他的资历被认为可以领导一支大型工程团队。

			
网编:睿文

鲜花(0)

鸡蛋(0)
2 条
【手机扫描浏览分享】

扫一扫二维码[Scan QR Code]
进入内容页点击屏幕右上分享按钮
新闻速递首页 | 近期热门新闻 | 近期热评新闻 | 72小时神评妙论 | 即刻热度新闻排行
科技频道】【宠物情缘
敬请注意:新闻内容来自网络,供网友多视角阅读参考,观点不代表本网立场!若有违规侵权,请联系我们。
前期相关精彩新闻
新闻速递首页·向留园新闻区投稿·本地新闻·返回前页