OpenAI内斗的本质是“左右之争”

奥特曼们是比较温和的“右”,他想要的是可持续发展的商业公司,在此前提下适度兼顾造福人类的愿景。伊利亚则是相对激进的“左”,他想要的是近乎不掺杂“商业化淤泥”的“AI桃花源”。

2023112307582286

文 | 佘宗明

​哲学家卡尔·波普尔曾说过:乌托邦主义的吸引力,是因为没能认识到我们不可能在地上建造天国。

OpenAI首席科学家伊利亚·苏茨克沃尔(Ilya Sutskever)却用代码敲出一句:不,我偏要。

几天前,他跟OpenAI董事会几名成员,对CEO山姆·奥特曼(Sam Altman)发起罢免投票,奥特曼就此出局,AI界的“911事件”就此酿成。

是大戏,就会一波三折九曲回环。OpenAI宫斗,就在几天内变成了连续剧:

第一集,惊现政变:OpenAI董事会起意,将奥特曼扫地出门

第二集,内部动荡:OpenAI总裁跟着辞职,多名员工抗议变动

第三集,激烈博弈:临时CEO站队挺“奥”,董事会与奥特曼商谈

第四集,谈判破裂:奥特“反逼宫”败北,改组董事会要求被拒

第五集,微软入局:OpenAI新CEO上任,微软宣布奥特曼加入微软

第六集,风云再起:超95%员工签联名信,要求董事会下台

第七集,负隅顽抗:董事会寻求将OpenAI与对家合并,微软不批

第八集,变局迭出:新CEO有意离开,奥特曼与董事会矛盾被曝

最新一集,王者归来:奥特曼恢复原职,OpenAI董事会被重组

反转反转再反转,堪比3秒钟一个过山车5秒钟一个反转的国产爽文微短剧,ChatGPT想破脑袋大概都编不出这剧情。

旁观者说OpenAI里上演的是“权力的游戏”,OpenAI董事会表示100个不同意:这分明是“人民的名义”。

耐人寻味的是,这场政变中的焦点人物伊利亚,原本被视作站在奥特曼的对立面。

可没多久后,伊利亚便在马斯克家的X上发消息称:“因为参与董事会的行动,我深感后悔。我无意伤害OpenAI。”奥特曼读完后,还给他点了一连串红心。

这波内讧后俨然重归于好的举动,把很多拿着“快意恩仇”剧本准备对号入座的网络编剧们给整不会了。

就在不少人嚷着“观众的乳腺也是乳腺”时,伊利亚还秀出了更具反转意味的操作:联合700多名OpenAI员工在公开信上签字,称如果不让奥特曼复职,他们就离开公司,加入微软与奥特曼共事。伊利亚还同意罢免自己的董事会席位。

而哼着“当初是你想分开,分开就分开,现在又要用真爱,把我哄回来”的奥特曼,最终复刻“乔布斯时刻”——他又回来了。

在网上,不少人将这场政变归因于宗教与世俗的PK,理想与现实的冲突。

在我看来,太阳之下无新鲜事,这事仍未脱离传统的“左右之争”框架。

伊利亚们在左,奥特曼们在右。

 

01

有人的地方,就有左中右。

改用汉娜·阿伦特的话说:如果人们不知道一个群体的政治光谱,不能区分不同群体的基本状况,不同的价值取向和观念心智,那么,他们也就不知道如何在很多领域中行事和表态。

就拿刚当选阿根廷下任总统的“阿根廷版特朗普”哈维尔·米莱来说,虽然是左翼的民粹力量选上台,可他废除中央银行、力推美元化、解散多个公共部门、对国有企业大规模私有化等主张,尽显极右底色。

政治光谱存在于经济维度,也存在于技术领域。

以“公平,公平,还是公平”为口号的左翼,对前沿技术的态度往往是夕惕若厉,总是强调要把控风险,“AI价值对齐”使他们的惯有主张,再往前数步,就可能滑向新勒德主义。

作为动能派的马斯克,向来很难用“左右”来界定,但他在AI上的看法就接近于左翼——他经常渲染AI威胁论,认为硅基(机器)会毁灭碳基(人类)。

他之前计划推出TruthGPT宣战ChatGPT,很多人认为他是眼红OpenAI一枝独秀、眼红奥特曼抢了风头,但他更可能的动机是,对大规模AI应用的担忧和对OpenAI商业化运作方式的不满。他之前退出OpenAI董事会,之后签署呼吁暂停强AI研究的千人联名信,都与此相关。

将效率优先序前置的右翼,则往往会接入更多商业化思维,他们笃信技术进步主义,认为技术的问题就该在技术的发展中解决,更先进的技术就是解决方案本身。

今年6月,全球顶级风投公司 a16z掌舵者马克·安德森就驳斥加强对AI监管的合理性,认为“AI最大的风险是不以最大努力追求它。”

细究起来,这次OpenAI变局的始末里,也穿插着左右翼激烈博弈的脉络。

 

02

犹记得,在ChatGPT刚问世时,许多人都对OpenAI独特的公司治理架构赞叹不已——OpenAI创立时就定位为非盈利机构,致力于为全人类创造出安全有益的通用人工智能(AGI),其权力金字塔的塔尖立着董事会,董事会下面控制OpenAI的非营利母公司。

创始人自身不控股,大股东微软没有关键投票权,这般设计确实太反常规。当时很多人就由此反思:中国什么时候能出现自己的OpenAI?中国企业家何时能不只顾着低头挣钱?

但现在看,它独特的公司架构确实太挑战人性了,说得更苛刻些,就是反人性。

有挣钱的能力而不好好挣钱,除非是理想主义圣徒,一般人谁能经受住这番诱惑?

某种程度上,OpenAI今天的内讧,从它一开始背负起“非盈利”使命和“为了人类”愿景,充满着乌托邦气质的时候,就已经埋下了伏笔。

作为CEO的奥特曼是中间派偏右,他自己曾说,他在AI辩论中属于中间派。

作为首席科学家的伊利亚是左翼,其光谱色号偏“深红”,他以往偶尔在媒体中出镜都是强调AI安全问题。

作为首席技术官(CTO)的米拉·穆拉蒂,立场偏中立,跟奥特曼虽不同频却也相近,此次风波中,担任临时CEO的她力主重新聘用奥特曼,就说明了很多问题。

有意思的是,不少人此前将奥特曼被扫地出门跟乔布斯当年被踢出苹果作类比,但从擅长的能力区间看,奥特曼更接近于AI界的库克,在融资、商业化、应用生态探索等方面的能力尤为突出;伊利亚更像是管理能力和商业思维欠缺版的乔布斯,技术创新能力出类拔萃。

在OpenAI发展伊始,公司处于烧钱阶段,还不具备盈利能力,这时候,各方都能被共同的技术信仰维系在一块。他们可以对大模型不计成本地投入、对AGI了无挂碍地追求,正因如此,ChatGPT才会在同期产品中做到一览众山小。

此时的奥特曼,其能力更多的是用在为烧钱的OpenAI融资上,而不是让OpenAI盈利上。能拉来微软百亿投资,能吸引马斯克投钱进来,离不开奥特曼的长袖善舞。

ao-e

但非盈利组织的困境在于:很难做大。要想把规模做大,就必须走商业化路线,投资人不会一直为爱发电,企业不能一直“有情饮水饱”,这些都得靠盈利能力支撑;若不想把规模做大……很抱歉,当下已长成超级独角兽的OpenAI,已经容不下这种“如果”了。

今天的OpenAI已非昔日可比,它面临的,是做大做强跟非盈利之间的尖锐矛盾。

此时的奥特曼,必然会将能力用在挣钱上。就算他自己不想挣钱,他身后的投资人也会逼着他挣。

他摁下商业化按钮,发力应用生态、拓展应用场景、拓宽盈利路径,让OpenAI回归商业公司的商业化逻辑,算是顺势而为。

当此之时,几名合伙人之间的价值观分歧会加速凸显。在左边的会觉得在右边的急功近利,不顾AI风险就将它推向市场;在右侧的会觉得在左侧的不切实际,技术突破若没了商业化支撑只会是死路一条。

这就决定了,朝左的伊利亚们,跟中间靠右的奥特曼们,可以“共苦(共同打拼)”,却很难“同甘(一块赚钱)”。

毕竟,他们的使命,已经出现了歧异。

 

03

若将OpenAI这场纷争置于硅谷里左右翼思潮兴起和博弈的背景下,也许能看得更真切。

近几年,随着AI技术迎来突破性进展,硅谷两个派别——EA(effective-altruism,即有效利他主义)阵营和“e/acc(即有效加速主义)”信徒的观念PK也日趋激烈。

EA和e/acc的对峙,其实仍是保守派与激进派之争在技术发展上的映射。前者认为包括AI在内的技术应该用来解决就业、疾病和贫困等社会问题。e/acc则相信技术进步无法阻止,伴随技术革新而至的是个美妙未来。

在AI领域,EA的代表性人物是“AI教父”、卷积神经网络理论领军人物杰弗里·辛顿(Geoffrey Hinton)。他曾多次对外警告,AI会毁灭人类。

伊利亚正是辛顿的得意弟子,也是EA派新的扛旗者。

生于俄罗斯、在以色列长大、在多伦多大学学习、在斯坦福大学深造的伊利亚,起初曾加入谷歌人工智能团队Brain Team,但后来因为担心AI变得比人类更聪明,而放弃了超高薪酬,跟奥特曼一块创立了OpenAI。可以说,他不是受金钱驱动,是为了极致信仰才加入OpenAI。

伊利亚虽然是AGI的攻坚主力,可他对AI技术发展的失控从来都不无担忧,对AI能力商业化后的风险一直都抱以警惕。

以往接受采访时,他就对ChatGPT带来的假新闻、网络暴力、AI武器等新问题眉头紧锁。

今年7月份,他就在OpenAI内部推动了“超级对齐计划”,旨在确保AI发展符合人类利益。

而OpenAI原董事会中的另外三名独立董事,也都跟EA有关联。这其中,海伦·托纳就职过的机构大多由EA信徒资助,她之前曾与奥特曼发生矛盾;塔莎·麦考利信奉的便是EA;董事会改组后唯一留下的前独董、“美国版知乎”创始人亚当·迪安杰洛开发的类ChatGPT产品Poe,也隐约透露着EA主张。

刚拿到OpenAI CEO体验卡没几天就不得不退场的艾米特·谢尔,也是典型的EA信徒——他在X上就说,他希望减缓AI的发展速度,并且要与e/acc一派划清界限。

642

奥特曼显然不是他们的“价值同路人”。虽然他也提出过完善AI产品监管,但他是OpenAI高层中率先主张商业化的人。虽然他没旗帜鲜明地为e/acc站过台,但有人怀疑他用小号为其张目,他带领的OpenAI也成了e/acc信徒们的“凭栏处”。他在YC时期的老友、继任CEO陈嘉兴(Garry Tan),则用把e/acc加进社交账号名称后缀的方式,拥护这套理论。

在OpenAI董事会中,跟奥特曼站在同条战壕里的,是OpenAI原董事会主席兼总裁格雷格·布罗克曼。他这次就跟奥特曼同进退,还将矛头对准了伊利亚。

奥特曼们跟伊利亚们的价值分歧,随着OpenAI做大而日益显现。

今年6月,奥特曼跟伊利亚两人曾在美国特拉维夫大学同台对谈,当主持人提到AI存在的三大风险——工作岗位受到影响、黑客获得超级智能和系统失控时,两人就表现出了立场上的差异。

奥特曼倾向于描述AI乐观的那面,伊利亚则主张“需要适当的结构来控制这项技术的使用”。

目前看,偏右的奥特曼,赢了OpenAI原董事会中偏左的几人——这几人未必想让他回来,可员工和微软不答应。

 

04

回看此事,用ChatGPT拉开“AI大爆炸”序幕的OpenAI,最终却出现内爆,不免让人有些唏嘘。

这注定是OpenAI发展史上难以略过的节点性时刻,它充分表明:乌托邦里,终究容不下那些“世俗”的欲望。

早前OpenAI还很弱小时,矛盾隐性化,左中右尚能共存;等它成了AI领域的顶流,矛盾显性化,左中右已无法兼容——引爆冲突的,不是利益纷争,而是价值观歧异。

如今奥特曼归来,OpenAI员工、投资人和生态圈里的创业者大概会松口气:他要是不在,OpenAI商业化进展减缓,带来的链式反应会不容小觑。

结局虽定,争议未息。在舆论场中,不少人在情感上站在了伊利亚一边,认为OpenAI政变背后是科学家创始人奋力抵抗的悲歌。在他们看来,以奥特曼为代表的势力想要的,是个巨型印钞机,伊利亚们想要的,则是对人类负责任的“硅基智能”。

这很符合时下流行的舆论叙事:资本家只顾着逐利,科学家则心存良知。在这套叙事逻辑下,OpenAI内讧会被轻易归为“利益VS良知”之争,奥特曼跟伊利亚各自站在黑白两端。

以利益本位的视角去看待这其中的价值观冲突,显然有失偏颇。

毫无疑问,在AI存在诸多风险(包括制造假新闻、AI武器等)的情况下,AI的发展需要拿捏好效率与安全的分寸,要避免只顾尽早变现不顾多重风险的激进商业化策略。

在“硅基VS碳基”的算力竞争越过图灵测试奇点之前,用科技伦理约束牵制AI向失控的滑落,很有必要。

但不要因为认同纯粹的技术信仰,就贸然否定必要的商业化。指望技术创新只追求“造福人类”不追求商业化,只能在理想主义的特有语境中实现自洽,在现实中的可能性则几乎为零。

技术创新不是搭建空中楼阁,它必须立于现实地基之上,而应用场景和商业化能力就是地基。

没有依托应用而来的商业化,就没有技术持续进步——无论是技术从0到1的突破,还是从1到0.1再到1到10再到N的拓展,都需要资金支撑。而商业化能力就是反哺技术创新突破的“源头活水”,缺乏应用落地,缺乏商业变现,技术创新也很难走远。

OpenAI走到今天,离不开伊利亚的技术领导力,马斯克就说过,伊利亚是OpenAI成功的关键;更离不开奥特曼的商业运作能力,要是没他,OpenAI的钱早就不够烧了。

现在的问题是,伊利亚们是相对激进的“左”,他想要的是近乎不掺杂“商业化淤泥”的“AI桃花源”;奥特曼们是比较温和的“右”,他想要的是可持续发展的正常商业公司,在此前提下适度兼顾造福人类的愿景。

从伊利亚后来的反应看,他对参与罢免奥特曼表现出了悔意。这或许表明,他意识到了:OpenAI的长远发展,离不开奥特曼的商业运作。这是理想主义者对现实的体认。

经此一事,更多人也许对尼采老师的那句话领会更深——

理想主义者是不可救药的:如果他被扔出了他的天堂,他会再制造出一个理想的地狱。

而现实洪流,也总会为某些理想主义烈焰泼上一瓢冷水。

本文来自投稿,不代表增长黑客立场,如若转载,请注明出处:https://www.growthhk.cn/cgo/model/109485.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2023-11-23 15:43
下一篇 2023-11-23 16:54

增长黑客Growthhk.cn荐读更多>>

发表回复

登录后才能评论
特别提示:登陆使用搜索/分类/最新内容推送等功能 >>