返回

第328章 基础模型

首页
关灯
护眼
字:
大
中
小
上一章 回目录 下一页 进书架
    第328章 基础模型 (第1/2页)

    陈默看着屏幕,没有掩饰眼中的满意。

    OpenAI成立时间不长。

    团队能够进展如此迅速,一部分来自不计成本的算力和人才投入。

    更重要的是,他们没有沿着2015年最流行的路线,为每一种任务单独搭建模型。

    陈默从成立之初便提出,大量无标注数据、自监督训练、统一表示与跨任务迁移,才是通往更强人工智能的关键。

    他虽然不会写代码,但却能让团队避开未来数年已经被证明价值有限的岔路。

    马斯克靠向椅背,眼中难掩骄傲:“事实证明,正确的道路比多雇一千名谷歌工程师管用得多。”

    “只能让我们暂时领先。”陈默没有被演示结果冲昏头脑,“谷歌一旦确认这条路线有效,很快便能调动比我们更多的算力和人员。”

    “想把领先变成真正的优势,下一步需要将零散研究合并起来。”

    他站起身,走向白板。

    目前OpenAI内部仍将语言、图像、游戏和机器人视为几个相对独立的研究方向。

    团队已经开始共享部分底层方法,却没有统一的长期定义。

    陈默拿起笔,在白板中央写下四个字。

    基础模型。

    现场大部分人第一次看见这个词。

    “未来最重要的人工智能,不会是只能下棋、识别人脸或者回答某一种问题的专用程序。”

    “它应该先通过海量数据,学习语言、图像和现实世界中最基础的结构。”

    “随后,只需要少量数据、指令或者环境反馈,便能适应不同任务。”

    “它更接近一个承载智能能力的平台。”

    Sam盯着白板:“如果彻底按这套逻辑走,现有两千张显卡连下一代架构的门槛都摸不到,算力开销每年会翻数倍。”

    “这就是今天需要解决的第二个问题。”陈默重新坐下。

    算力扩建方案被投到屏幕上。

    OpenAI目前已经拥有两千余张GPU,并与几家云计算公司建立合作。

    这套规模放在普通研究机构中堪称奢侈。

    面对基础模型,却只能算第一步。

    技术团队希望在未来十八个月将可用算力扩大四倍,同时搭建自己的分布式训练系统。

    预计总投入超过三亿美元。

    马斯克率先表态:“我支持。如果我们因为担心花钱而放慢速度,谷歌不会给我们第二次机会。”

    陆静怡翻开预算:“钱可以解决。但三亿美元不是一次性支出。”

    她看向Sam。

    “OpenAI依靠发起人长期捐赠,能够支撑三年,未必能够支撑十年。”

    “如果基础模型真的成为你们定义的平台,商业化迟早会发生。”

    这也是桌面上第三份方案存在的原因。

    完全依赖捐赠,OpenAI很难和谷歌、微软等公司进行长期算力竞争。

    过早商业化,又可能让研究方向被收入和投资人控制。

    杨植林想起清华饭局上的问题。

    “如果未来需要商业化,哪些成果继续开放?”

    “论文、代码、训练数据,还是完整模型?”

    “全部开放,任何公司都可以拿走OpenAI投入数十亿美元训练的成果。”

    “完全封闭,OpenAI又会变成另一家普通科技公司。”

    Sam没有立即回答。

    这正是他提交组织治理方案,却始终无法彻底解决的矛盾。

    梁文丰第一次开口:“问题可能不在开放或者封闭。”

    众人看向他。

    “而在于我们将人工智能看成什么。”

    梁文丰指向白板上的基础模型。

    “如果它只是软件,最简单的方法就是卖许可证。

    (本章未完,请点击下一页继续阅读)
上一章 回目录 下一页 存书签