OpenAI天才们的闹剧 从第一天就注定无解......_全球资讯热分享网(专注热点收集平台)

OpenAI天才们的闹剧 从第一天就注定无解......


OpenAI天才们的闹剧 从第一天就注定无解......

  2023-11-23 15:50:19     简体|繁體
https://refenxiang.com/1004797.html

作者:ViniWang, GenAI新世界

OpenAI风波仍在持续,一次次反转让大家纷纷吐槽,太drama了。

本周最令人震惊的消息莫过于OpenAI政变,OpenAI 首席执行官Sam Altman和元老Greg Brockman双双出局。目前最新动态是95%的OpenAI员工联名用辞职要求Altman回归,推翻董事会。原本发起逼宫的Ilya Sutskever也在签名者当中。

OpenAI内部矛盾不是第一天产生。

两种路线之争

此前首席执行官Altman和首席科学家Sutskever分歧早已露出端倪。

Sam Altman此前曾表示,OpenAI已开始构建其下一代人工智能模型GPT-5。但需要长期合作伙伴微软的进一步投资,才能将其变为现实。Altman希望能筹集到更多资金,把资金用于对大型AI 模型的训练、微调和安全测试中。

OpenAI首席科学家Sutskever曾表达了截然不同的立场:自己首要任务不是创造下一代GPT,而是研究如何阻止人工智能失控。

在公司发展路线上,他们的分歧由来已久。此前OpenAI开发者大会上,Altman宣布推出的GPTStore利益分成计划进一步激化了矛盾。

一张截图显示,有一位自称“了解情况”的人表示:

(来自reddit的爆料截图)

“OpenAI的工程师们担心,在利用ChatGPT炒作的竞赛中,没有充分的安全审查就匆忙将技术推向市场。但Altman冲在前面。他就是这样的人。不听我们的。

他关注的焦点似乎越来越多地是名利,而不是坚持我们作为一个负责任的非营利组织的原则。他做了单方面的商业决定,目的是为了利润,偏离我们的使命。

当他提出的GPT商店和收入分享,它越过了一条线。这标志着我们的核心价值受到了威胁,所以董事会做出了一个艰难的决定,解除了他的CEO职务。

Greg也面临着一些责任,并辞去了他的角色。他使Sam的许多令人不安的方向得以实现。”

看似好像是非营利路线与营利路线之争。但其实矛盾来源于OpenAI这个公司本身自相矛盾的架构。

OpenAI是一家非营利组织,也是一家营利组织。但是非营利组织的愿景大于公司的盈利组织属性。作为一个控股公司本应该以营利为目的,但在这里,公司营利属性要服从于“非营利组织的愿景”。

问题就出现了,训练大模型需要钱,又不能用爱发电。如何平衡非营利愿景和营利属性?关于这个问题,OpenAI内部矛盾重重,如果坚持营利,可能会违背“非营利造福全人类”的初心。但现在因为坚持非营利初衷而开除掉主张营利的Sam Altman,那么摆在现任董事会面前一个最大的问题是,以后钱从哪来?毕竟,大模型需要烧很多钱。

之前OpenAI并不是没有面临过“钱从哪来”这个难题。其实公司这个奇葩体制的产生,本身就是为了解决“非营利组织不能用爱发电,但是训练大模型却需要钱”这个问题。

自相矛盾的公司架构

这个自相矛盾的公司架构起点,最初只是一家公益性质的,作为非营利组织的人工智能开放性研究实验室。

2015年帕洛阿尔的一场小型宴会上,SamAltman和ElonMusk相遇。因为对人工智能的相同兴趣,他们决定共同创办一个专门用来研究人工智能的开放实验室,取名OpenAI。随后他们从谷歌挖来研究员Ilya Sutskever,让他担任实验室的首席科学家。

他们共同为OpenAI制定了一个致力于维护全人类安全和利益的目标——“人工智能对齐”。什么是“人工智能对齐”?简而言之,就是让AI系统和人类价值观利益对齐,防止AI因为和人类利益相悖,而做出损害人类安全和利益的事。这就是OpenAI的初始愿景。

公益愿景和商业融资双重属性,也为日后矛盾埋下伏笔——OpenAI是非营利实验室,致力于公益愿景,但它从事的人工智能研究却是一件需要不断烧掉巨额资金的事,需要源源不断的融资。

OpenAI起初是接受捐赠,ElonMusk承诺捐赠10亿,但是ElonMusk最终因为理念分歧分道扬镳,同时停止捐赠。Wired杂志曾报道,此前,马斯克承诺在几年内将向OpenAI捐赠10亿美元,而马斯克和OpenAI分手之际,他兑现的捐赠仅在1亿美元。

普通公司需要钱,可以出让股份,作为未来回报,换取支撑当下发展的钱。但是OpenAI是非营利性组织,它无法像营利组织公司一样出让股份融资。它需要钱,但它也需要保持公益性。

大模型研发不能停止烧钱,Sam Altman对公司进行股权架构调整:

2019年3月,OpenAI分成两个实体OpenAI Inc和OpenAI LP。OpenAI Inc作为控制核心,致力于公益愿景,保持非营利性质。而OpenAI LP则作为盈利实体,用来进行商业化融资。

在这个架构支撑下,OpenAI同年获得微软10亿美元融资。微软前后对OpenAI进行5次投资,作为回报,获得其49%的股份以及分红,但是这49%股份只在作为公司的OpenAI LP,不在控制主体OpenAI Inc。因为OpenAI Inc是个非营利组织,它决定着OpenAI的发展方向,它只受董事会控制,所以微软并没有OpenAI的决策权。

2022年11月,OpenAI推出了对话式应用ChatGPT,短短两个月内,获得上亿用户,具备了巨大的商业变现价值。随后2023年6月,OpenAI进行了第二次结构调整,成立了OpenAI Global, LLC取代原有OpenAI, L.P,这次是为了便于商业化和分红。但OpenAI Global, LLC依然受非营利组织OpenAI Inc的董事会控制。

Sam Altman在OpenAI Global, LLC推动商业化,引起了OpenAI Inc董事会的不满,董事会认为Sam Altman激进的商业化措施,忽视了安全,妨碍了OpenAI致力于人类安全的目标。而OpenAI Inc董事会的目的就是为了保证OpenAI保持“人工智能对齐”的初心。

在2023年11月6日,OpenAI开发者大会,Sam Altman宣布GPTstore计划之后,激进派、安全派的矛盾空前激化,最终出现11月18日董事会成员4:2驱逐OpenAICEO这戏剧化的一幕。

对于董事会驱逐CEO硅星人Pro和Charles Cheng(程骞,加州执业律师,耶鲁法学博士,斯坦福亚太裔校友会副主席)聊了聊,他认为OpenAI董事会罢免Altman这件事程序上并没有什么不合理之处。“理论上来讲,董事会作出的决议是有效的。即便作为非营利性组织的OpenAI,罢免CEO这个决议依然有效。”

作为非营利组织的OpenAI,CEO是要向董事会汇报的,至于Remove CEO也要具体看组织的章程。比方说,在OpenAI“罢免风波”这件事当中,OpenAI作为非营利组织,它的董事会只为一个目标负责,就是致力于“人工智能对齐”,也就是说,只要被董事会认为妨碍到这个目标实现的人,都有权力通过决议将他开除。

OpenAI的问题就在于,作为非营利组织OpenAI Inc的董事会,控制着作为公司的盈利组织OpenAI Global。营利性组织对CEO的考核标准是为股东利益最大化负责能力等。但是作为非营利组织的OpenAI Inc,对CEO的考核标准只有一条“是否促进人工智能对齐”。

当OpenAI Global处于OpenAI Inc董事会控制下,即便对于营利性组织OpenAI Global来说是能力一流的CEO,但因为考核标准不同,能力一流的CEO,依然可以被非营利组织OpenAI Inc董事会开除。

目前没有方法解决,这就是OpenAI的困局所在。

“罢免风波”给OpenAI带来了负面影响。一些中小企业担心自己依赖OpenAI的业务被禁止访问;原本计划加入GPTStore的创业者,担心Altman出走,导致GPTstore计划停止;

也有原本计划在GPTStore搭建应用的开发者,因为担心GPTstore计划不能持续,而打算转向OpenAI金主兼竞争对手微软Copilot Studio。

硅谷创业者James对硅星人Pro说,目前已经有很多startup在开始寻找其他方案了,未来对OpenAI不信任的人会变多。很多人在转投微软。可能后面一些startsup会不那么依赖OpenAI的API,这些开发者也会更多的用llm finetune。”

他说,原本看到OpenAI发布的GPTs Assistant和GPT Store出来,都以为OpenAI要一统天下了,谁知道瞬间要陨落了。

两种使命的冲突

OpenAI技术官Mira Murati曾在对话中提到一个观点:

当人们讨论“OpenAI从一个纯粹的非营利组织转变为一个营利性公司时”,Mira Murati聊到了关键一点:“关键是要保证非营利组织的使命不受影响。”

在被问到“当与微软这样的科技巨头深度合作,你认为你们的使命一致吗?”后,Mira Murati回答说“他们认同这是我们的使命。”

有人表示那并非微软的使命。而 Mira Murati回答说“确实,这不是他们的使命。但让投资者真正相信这是我们的使命至关重要。”

OpenAI Inc是一个非营利组织,致力于人类安全的目标。而OpenAI Inc董事会的目的就是为了保证OpenAI保持“人工智能对齐”的初心。

但是微软包括OpenAI Global,作为营利组织的使命就是追求盈利。

因此,像OpenAI这样奇特架构的组织,无论和营利组织微软还是和营利组织OpenAI Global放在一起就会存在矛盾,Mira Murati没有回答的是,如果当营利和非营利两种使命发生冲突,到底谁该服从于谁呢?

其实这也是目前OpenAI面临的问题,营利与非营利两种使命冲突,而且这个问题不会消失,只要OpenAI继续需要投入大量资金,继续研发人工智能,OpenAI永远面临“营利”还是“非营利”的问题。

之前Sam Altman给出的选择“营利是为了非营利。”现在Sam Altman被踢出董事会,意味着OpenAI在董事会的主导下,依然需要平衡“非营利愿景”和“商业化属性”两者之间关系。



编辑:web3528btc 来源:加密钱包代币

分享到:

  • 上一篇
    下一篇

  • 分享知识|收获智慧

    全球资讯热分享网(专注热点收集平台)
    手机查看(二维码扫一扫)

    全球资讯热分享网,最有影响力热点信息分类网站,主要集合图文、知识、日常、娱乐、财经、文化、生活、致富、女性、地区、科技等多类信息分享交流,免费提供最有价值的头条信息平台。
    « 2024年 » « 11月 »
    123
    45678910
    11121314151617
    18192021222324
    252627282930