澳门六合彩官网 误点独家丨字节启动 Seed Edge，加码 AGI 不息

接近张一鸣的东谈主士说：“他会温雅 AI 期间细节，我方与顶尖 AI 不息者交流澳门六合彩官网，饱读吹字节 AI 东谈主才摆脱探索。”

文丨贺乾明 王与桐

剪辑丨程曼祺

2024 年下半年，商场曾传说字节跨越正筹建“大模子不息院”。随后，字节回复称：“有加宽绰模子相干不息的经久策画，但并未决定建设寂寞机构。”

咱们了解到，近期，字节跨越 AGI 不息团队终于浮出水面：

1 月下旬，字节负责开拓代号为“Seed Edge”的不息名堂，中枢方针是作念比预考试和大模子迭代更经久、更基础的 AGI 前沿不息，Seed Edge 已拟定 5 大不息方针。

中国大模子领域目下的一个上风是依托优秀的学习和工程才智，快速跟进行业最新效能：在相对细目的方进取，用更少资源、更高效能，开发出性能靠近甚而追平当先者的模子。

而 Seed Edge 的缔造则是一个不同的信号，标记着字节这家中国互联网科技巨头正试图探索 AI 原创式更正：用更多资源和东谈主才，摸索尚未细目的智能鸿沟，靠近 AGI 的将来。

张一鸣敬爱 AI 不息参预，Seed Edge 开拓 5 大不息方针

AI 是字节目下最垂青的期间和业务方针。

接近字节的东谈主士告诉咱们，字节首创东谈想法一鸣相称敬爱和强调加强 AI 不息参预，他会我方看论文，看期间关节细节，和一流 AI 不息者聊天、交流，并饱读吹字节 AI 不息团队探索、不息基础课题。

咱们了解到，在新加坡，字节有挑升的不息团队协助张一鸣泄漏前沿期间、参议不息霸术，其中之一是新加坡国立大学原耕作、字节不息员冯佳时。2023 年运转，他经常给张一鸣率领。

一位投资东谈主曾经告诉咱们，2023 年底，他发现张一鸣运转一双一去访问伏击 AI 论文的作家，其中还有未毕业的博士生。

据了解，对于缔造不息组织，字节酝酿已久。但在酿成可行决议后，里面疏导并搜集意见只用了一周。

有接近字节的东谈主士称，面对 AI 变革：“字节是中国大公司中最勇于调治的，当作速率极快。”

咱们了解到，Seed Edge 拟定的 5 大不息方针都相对经久，不会像迭代模子那样追求快速出效能：

下一代推理：探索更高效且更通用、升迁模子推理才智的身手。下一代感知：找到长入生成和泄漏默示的身手，默示和压缩实在寰球，构建 “寰球模子”。软硬一体的模子联想：从软硬一体开赴，探索 Transformer+GPU 以外的模子联想，阐发下一代硬件的才智。下一代范式：在反向传播、Transformer 架构、预考试 + 对皆的模式以外，探索更高效的模子结构和学习身手。下一代 Scaling 方针：在预考试和推理阶段的 Scaling Laws 以外，探索 Multi-Agent（多智能体）和 Test-Time Training（测试时期考试，动态调治模子参数）等方针。

据了解，Seed Edge 会先以诬捏名堂组的方式运行，探索这些不细目性更强的不息方针。

不啻下一代模子，也要得到作念出当先模子的更正才智

往日一年，字节用密集发布的大模子、豆包 App 等 AI 利用，展现了他们紧跟先进模子和作念出有效户限制居品的才智。

就在昨天（1 月 22 日），字节迭代豆包基础模子刚过一个月，又发布和会多模态才智的豆包 1.5 Pro 模子，称 “用较小激活参数，即可并排一流超大粘稠预考试模子的性能”。

豆包 1.5 Pro 是一个 MoE（搀和巨匠系统）模子，此类模子惩办问题时不必激活模子扫数参数，能升迁狡计效能、缩短本钱。MoE 模子的性能时常用才智通常的粘稠模子（惩办问题时激活扫数参数）的总参数目和 MoE 模子的激活参数目的比值来细目，这被称为 “性能杠杆”，业界此前的宽绰水平为不到 3 倍。

字节称，用十足通常的部分考试数据（9T tokens）对比考据，他们优化后的 MoE 架构，仅需激活性能相当的粘稠模子 1/7 的参数目，就能有更好阐发，性能杠杆升迁至 7 倍。

发布豆包 1.5 Pro 模子的时候，字节还明确提到，他们开发了高度自主的数据分娩体系，“坚捏不走捷径，不使用任何其他模子的数据”，确保数据起原寂寞和可靠。

至此，字节的豆包系列模子，仍是笼罩谈话、视觉、语音等不同方针，并有偏重性能或效能的不同版块，才智上也并排当先模子。而豆包 App 的日活用户则已打破千万级，成为中国最大的大模子利用，限制远超第二名。

咱们了解到，字节大模子不息团队定下的模子研发方针很高，不仅是跟进刻下行业最当先的模子，而是但愿能作念出下一代的当先模子。

Seed Edge 的缔造意味着，字节对 AI 的贪图还不啻于模子与居品，还但愿得到捏续升迁智能水平的更正才智。

比拟不停更新模子，这是一个更 “暗昧” 的方针，它所靠近的挑战，不仅是数据、算力不够，而是更根底的方针判断与旅途采取。

“2010 年代是扩大限制的时期，当今咱们再次回到了需要古迹和新发现的时期。”OpenAI 纠合首创东谈主、前首席科学家伊尔亚·苏茨克维 (Ilya Sutskever) 客岁 11 月说。

负责组建 Seed Edge 前，字节就运转参预不息 AI 基础期间。据咱们初步统计，2024 年字节的不息团队发布 100 多篇 AI 相干的论文。

“字节 AI 不息的深度、广度，远超出外界印象。” 一位字节东谈主士说。

一个例子是字节豆包大模子团队（Seed）客岁 11 月发布的论文，从物理定律的视角，酌量 Sora 等视频生成模子距离寰球模子还有多远。

他们提倡了一个与 OpenAI Sora 不息团队相背的论断：视频生成模子无法从考试数据中索求出通用的物理章程。而 OpenAI 发布 Sora 时强调它是探索物理寰球模子的一条可行旅途。

图灵奖得主、Meta 首席 AI 科学家杨立昆 （Yann LeCun）评价这个效能时说，“这不是一个让东谈主骇怪的论断，但好在有东谈主尝试讲明了这件事。”

在 AI 领域，这类酌量模子基础问题的不息，时常存在于学术界或 DeepMind 等国际大公司的基础不息团队，在中国公司中并未几见。

雷同的不息还有 Seed 团队同在客岁 11 月发布的 SuperClass 论文，它提倡了一种效果并排 CLIP，但更浅薄、高效的视觉模子预考试身手。

CLIP 由 OpenAI 提倡，是一种能让模子泄漏笔墨与图片关系的考试身手，闲居用于文生图、视觉泄漏、图像问答、具身智能等领域，但会破钞宽绰算力。

据 Seed 这篇论文先容，同样的任务、参数下，SuperClass 考试模子不错省俭约莫 50% 的显存，反应速率升迁超 20%。

SuperClass 论文被 AI 领域顶级学术会议 NeurIPS 禁受。2024 年 12 月举办的 NeurIPS 上，字节入选近 50 篇论文，在国内公司中名次前哨。

从论文数目看，字节与国际大型科技公司还有差距：NeurIPS 上，Google 入选了 120 多篇论文，微软也有杰出 100 篇。

赛后，于德豪在更衣室表示，“希望自己每天进步一点点，每个人都有缺点，都会有不足的地方，没有完美的人，但重要的是我们如何面对这些不完美。对我而言，每天的目标就是成为更好的自己，不断探索、不懈尝试，从中汲取经验，实现自我超越。大胆尝试，勇于面对挑战，不怕犯错，因为每一次尝试都是向完美迈进的一步。只有这样，我才能不断进步，成为更加出色的球员。”

把资源滚动成东谈主才密度

作念前沿探索，字节的明显上风是 “有钱、有资源”，但更伏击的是，资源能否滚动为东谈主才密度，给东谈主才更正和不息空间，终末迟缓酿成培育更多优秀东谈主才的泥土。

仅从近况看，在中国，字节对 AI 东谈主才有很强的诱惑力。

“字节是（中国 AI 领域） 东谈主才密度最高的公司。” MiniMax 首创东谈主闫俊杰前不久告诉咱们，“其他公司都差一个档，这是一个事实。”

字节 Seed 团队组建于 2023 年，仍是鸠合了一批高水平的不息员，他们主要有三个起原：

从学校毕业不久的年青不息者，如：

丁铭——2023 年从清华大学博士毕业，视觉大模子 CogVLM 的中枢作家。钟宛君——2023 年从中山大学博士毕业，读博期间曾获评 2021 MSRA Fellowship。秦禹嘉——2024 年从清华大学博士毕业，开源大模子器具学习引擎 BMTools 的中枢作家。胡声鼎——2025 年将从清华大学博士毕业，曾是端侧谈话模子 MiniCPM 的考试负责东谈主。

咱们还了解到，2024 年 5 月，字节 Seed 团队发起了面向顶尖应届博士毕业生的 Top Seed 东谈主才策画，招募了约 30 东谈主。

早年就在字节的 AI 不息者，如：

冯佳时——豆包大模子视觉基础团队负责东谈主，2021 年再行加坡国立大学加入字节，在 Google 学术的援用次数达到 6.7 万——OpenAI 的不息团队中，杰出这个数字的不到 10 东谈主。王雨轩——豆包大模子语音部门负责东谈主，2018 年从 Google 加入字节，带队作念出了效果并排 GPT-4o 豆包端到端语音模子。王明轩——豆包大谈话模子不息团队负责东谈主，2019 年加入字节，带队研生气山翻译系统，在 WMT 机器翻译评测中拿到冠军。

大模子飞扬之后新诱惑的不息者，如：

田值——光年以外原期间主干，2023 年年中加入。黄文灏——零一万物原纠合首创东谈主和预考试负责东谈主，2024 年年中加入。周畅——阿里通义大模子原期间负责东谈主，2024 年加入。

Seed Edge 名堂建设在 Seed 团队基础上，鸠合其中优秀的不息东谈主员。

字节设定了更宽松的考查机制：字节每半年考查一次绩效，但将为 Seed Edge 名堂东谈主员提供更长考查周期，同期不作念严格的进程中考查，在名堂取得打破进展后，再作念最终评估；Seed 团队主要考查模子层的效果，Seed Edge 则考查不息效能的价值。

一位接近 Seed Edge 名堂的东谈主士告诉咱们，一个相当的考查和激勉联想是：淌若一位不息者经过多轮考查周期后取得了伏击的不息效能，他们还会 “赔偿” 此前几轮周期的考查绩效，“饱读吹探索更长周期、不细目的和斗胆的课题”。

追求 AGI ，字节学着慢下来

作念 AGI 前沿探索，和字节以往尝试过的扫数新方针都不同：它本人并不指向具体业务，况且 AI 是一个更经久、更底层的期间变革。

在狡计机到互联网的期间更正和奠按期，以中国那时的举座经济和期间水平，的确莫得契机作念更正者。

而当今，中国正阅历从奴婢到可能参与原创式更正的过渡阶段。

对资源有限的公司来说，侧重跟紧前沿模子，参预相对细目和被证据的方针是合理战略。

在 OpenAI 发布 o1 后，智谱、DeepSeek、月之暗面等公司以更少资源，更强的工程化才智，在更短时期里作念出了效果并排 o1 的模子。

字节、阿里、华为、腾讯等大公司，年收入达到数千亿，甚而万亿东谈主民币限制，它们则有资源参预更前沿的期间更正。

字节 Seed Edge 列出的 5 个不息方针，目下都不是有充分的资源就不错赶紧拿到谜底，都需要经久摸索，还有可能不会有薪金。

一位字节东谈主士说：“在作念大模子这件事上，字节当今在学习 ‘慢’ 下来。”

这需要字节一定进程上跳出既有身手论和惯性，容忍更长的反馈周期、更不细目的律例，并酿成相应的新组织方法。

“要有念念象力，保捏芜俚心，便是但愿大众在业务上专注升迁领悟，方针要高远，但心态要放平。”2023 年 3 月，字节 CEO 梁汝波在字节 11 周年庆上说，对新业务要更要如斯 。

追寻 AGI，将是锤真金不怕火字节能否 “永恒有念念象力” 的一个试真金不怕火。这也不仅是对单一某家公司的发问。

题图起原：《星际穿越》