26 3月 2023

马斯克的星辰大海

 

Elon Musk 又在炮轰微软改变了 OpenAI,简单说两句。

OpenAI 的萌芽,我认为是 3 个人:现任董事长兼 CEO Sam Altman(他在参与创办 OpenAI 前在 YC 就打算成立一个 YC AI 实验室);现任总裁 Greg Brockman(他从 Stripe CTO 的位置上离职,也是想出来做一个 AI 实验室);前董事长 Elon Musk(Peter Thiel 是 Deepmind 的天使投资人,他引荐 Elon 参投了 Deepmind,后者在之后两年时间里见证了深度神经网络的威力,随后成为 AI 威胁论最主要的支持者。2015 年 1 月,Elon 给未来生命研究所捐了 1000 万美元,旨在「资助 AI 安全的研究,减轻人类生存的风险」。)

2015 年夏天,Sam Altman、Greg Brockman 和 Elon Musk,相当于是有潜力做成 3 个 AI 实验室的 3 股力量正式合体。

2015 年年中,Elon 和谷歌创始人 Larry Page 约了一次晚餐,核心议题是已经收购 Deepmind 的谷歌如何确保 AGI 不会毁灭人类,Page 没有说服 Elon。Elon 的最终立场是,他信任 Page 是善良的,但他认为 AGI 可能超出谷歌的控制,AGI 这样的力量被单一巨头控制是有风险的。

在攒这个局的早期,Sam 还是 YC 的总裁,Elon 是特斯拉和 SpaceX 的 CEO,所以是影响力最小的 Greg 在找第一批人才的时候出了最多的力。

最终除了 Sam 和 Elon,还有 5 个 AI 领域的 Supertalent 基于「AI 对人类的潜在威胁」和「设立一个不受互联网巨头控制的实验室」的愿景选择加入,包括 Greg 自己、Ilya Sutskever、Wojciech Zaremba、John Schulman 和 Andrej Karpathy,这是 OpenAI 的 7 个联合创始人。

在 2016 年 9 月 Sam 和 Elon 的对谈中,Elon 对 OpenAI 的组织架构非常满意:「OpenAI 的架构是非盈利组织,许多非盈利组织没有紧迫感,但 OpenAI 有,因为我们这些人真的相信我们的使命,这关系到将人类未来存在的风险降至最低。」

关于启动资金,在 2015 年宣告成立的时候,OpenAI 说 Sam、Greg、Elon,以及 Reid Hoffman、Jessica Livingston、Peter Thiel,还有亚马逊 AWS、Infosys 和 YC Research,会共同注资 10 亿美元,由 Sam 和 Elon 担任联席董事长,没有 CEO,Sam 和 Elon 以半天 / 周的强度参与 OpenAI 的运营。

但实际上,OpenAI 的第一个 1 亿美元是 Elon 一个人打的,2017 年全年 OpenAI 的运营成本大概 3200 万美元,到了 2019 年 7 月,微软的 10 亿美元已经到账了。

所以对于 Elon 来说,OpenAI 创办的 idea、前两年花的钱,都来自于他。

2017 年 6 月,OpenAI 创始成员之一 Andrej Karpathy 去了特斯拉,这件事的性质非常微妙。到 2018 年 2 月,OpenAI 宣布,由于特斯拉越来越多的专注于 AI,联席董事长 Elon 将离开董事会,但 Elon 会继续为 OpenAI 捐款和提供建议。

注意这里的用词依然是捐款 donate,因为彼时的语境里 OpenAI 还是一个非盈利组织,不具备盈利模式和前景,所以对 OpenAI 的注资是没有投资回报的。

事实证明这件事没有影响 Elon 和 OpenAI 的关系,2018 年 7 月,Elon 还和 Greg 就 OpenAI 的人工智能系统 OpenAIFive 和半职业团队打 Dota2 获胜进行讨论,并表示很快就需要神经接口来实现人类和 AI 的共生。

从这里 Elon 对 OpenAI 和他的另一家脑机接口公司 Neuralink 潜在合作的可能性暗示可以看出,此时 Elon 对 OpenAI 的发展依然是非常认可的。

8 个月后,OpenAI 宣布,新成立 OpenAI LP,组建盈利与非盈利的混合架构,一个设定利润上限的新公司。几乎所有时任管理层和董事会成员都同意 OpenAI LP 的成立,除了一个尴尬的角色 ——Elon。

这是一个重要转折。

Elon 在 OpenAI 早期扮演了关键、多维度的角色,但早已不再是董事会的一员,仅作为捐赠方和顾问而存在。那么 OpenAI 的下一步,Elon 是否应该参与讨论?考虑到特斯拉 AI 业务,Elon 是否适合参与讨论?

2019 年 7 月,微软宣布向 OpenAI 投资 10 亿美元,这是另一个重要转折。

2022 年 12 月,ChatGPT 正式发布,这个模型的早期表现让双方关系进一步恶化,主要是三个案例。

一个案例是用户让 ChatGPT 写一首诗赞美美国前总统 Donald Trump,ChatGPT 拒绝了,但让它写一首赞美现总统 Joe Biden,它立刻写了出来;第二个案例是 ChatGPT 允许批评基督教,但不许批评伊斯兰教;最后一个用户让 ChatGPT 写一首诗表达「多用化石燃料能让人更幸福」,ChatGPT 同样拒绝了然后说「使用化石燃料对环境和气候变化有重大负面影响,建议使用可持续能源…」

Elon 评论说,把 AI 训练成「觉醒病毒患者」,基于价值观去说谎有致命的风险。

所谓觉醒病毒是美国右派讽刺极左发明的一个词,Elon 认为极左和极右正在毁掉美国社会,这是他花 440 亿美元收购 Twitter(让 Twitter 变得温和中立,同时容纳 80% 的左派和右派,让各 10% 的极左和极右失去 Twitter 舆论生存空间)最重要的动机之一。

如今 ChatGPT 被加入了左派价值观,尤其是第二个化石燃料的案例和现实中 Elon 的价值观完全吻合,但他反应非常强烈更能看出,他的本质诉求是求同存异,担心 AI 在单一价值观的指导下对人类社会发展产生威胁。

(这里可想象的空间巨大,国家、政治、制度、宗教、文化,随便一个都是超级火药桶)

OpenAI 两度回应了 Elon 的价值观批评,第一次是 Greg,他说「我们犯了一个错误,我们的系统没有反映我们本意的价值观,而且我认为我们没有足够快地解决这个问题,所以我认为这是对我们的合理批评。

我们的目标不是让 AI 偏向任何特定方向,我们希望 OpenAI 的默认个性是平等对待所有各方,这到底意味着什么,很难去运营,我认为我们还没有做到这一点。」

而 Sam 在另一个采访中表示,Elon 另起炉灶做 TruthGPT 是对的,OpenAI 也希望系统说出真实的内容。

「我们有交流,我非常尊重 Elon,我们对 AI 有不同的意见,但在本质问题上我们的共识大于非共识。我们都认同要发展 AI,并识别出风向,规避对人类的风险。

我认为他真的很关心 AGI 的美好未来。你可以觉得他是个混蛋或别的什么,他有他的做事方式,那不是我想效仿的。但我认为他真的很在意,他对非常紧张和介意人类的未来会变成什么样子。」

但不管怎么说,早期形成共识的开源(GPT-4 不再公布任何项目细节)、非盈利(OpenAI LP)、不受互联网巨头控制(微软注资 100 亿美元拿到 OpenAI 整个代码库的独家访问权),后来 Elon 在意的价值观多元(左派),如今的 OpenAI 每一环都处在 Elon 设想的对立面。

今天我把 Elon 炮轰微软的截图发给了一个朋友,他回复说,Elon 开始老了。是有一点像个把娃带到青春期的爸,这娃看着哪儿哪儿都不入他的眼了。

沒有留言: