Skip to content

硅谷101

硅谷101
硅谷101
Latest episode

258 episodes

  • 硅谷101

    E249|Token经济转点:OpenClaw、Hermes到本地自研的Agent进化之路

    2026/08/20 | 1h 27 mins.
    去年年底,硅谷掀起了一股风潮——“Token Maxing”(最大化token使用量),科技公司创始人和工程师们争相晒出账单,比谁家Token消耗更吓人,以此彰显对AI的全力押注。但到了今年年中,成本失控和虚假生产力让这场烧钱竞赛到达了转折点。Uber在四个月里烧穿了全年的AI预算,Meta被迫给员工设定token使用上限,一些公司会提醒员工使用AI的时候注意成本。大家开始认真思考:如何更经济地使用Token?

    这期节目的嘉宾黄东旭,就是Token Maxing热潮的亲历者。他曾经每天烧掉三四百美元,只用最前沿的模型。让他逐渐转变的,是中国开源模型们的崛起,大量的日常任务都可以做到“只烧电费,不烧Token”。他的结论是:不是前沿模型用不起,而是本地开源模型底座+前沿模型的搭配,成本可控,更具性价比。

    我们聊了这半年Agent产品的进化史——从OpenClaw,到Hermes,到Agent蜂群的智能涌现潜力,Agent消耗Token的趋势不会停止,未来还会有更复杂的A2A网络。亲历了互联网、移动互联网、AI三波浪潮的张宏江认为,Token Maxing折射出的是所有人在面临AI浪潮时的不知所措,AGI奇点已经到来,现在做Agent是好时机,但关键是:别做容易被大模型碾压的应用。

    【主播】

    泓君,硅谷101创始人,播客主理人

    【嘉宾】

    张宏江,Llama Ventures高级技术合伙人,美国国家工程院外籍院士,北京智源人工智能研究院(BAAI)理事长,源码资本合伙人,曾任微软亚洲工程院院长、微软亚太研发集团首席技术官、北京金山软件有限公司首席执行官

    黄东旭,Llama Ventures合伙人,PingCAP CTO&co-founder

    【你将听到】

    04:55 Token maxing,是泡沫吗?

    09:52 亲身体验:只选最强最贵,日烧四五百美元

    14:15 OpenClaw:从研究到工程的转折点

    20:31 龙虾退潮:“普罗米修斯”完成了使命

    23:09 Hermes:把成功经验沉淀成Skill

    30:09 “Agent动力学”:七嘴八舌烧Token换深度

    35:12 智商碾压:Fable 5一次搞定复杂任务

    37:20 本地开源模型经济账:每天电费1美元

    43:42 Token消耗不会停,更复杂的网络还在后面

    52:36 现在做Agent创业是好时机吗?看好toB和infra

    01:03:24 彩蛋:“办公室政治”和超预期行为

    01:15:30 IQ测试已超人类,AGI奇点已来

    01:18:19 新问题:当新岗位也不再需要人,人类如何自处?

    【9月6日·成都 泓君线下开麦】

    华夏基金携手小红书小红点计划,共同推出「红火开麦日2.0」线下活动,以「发现身边的ETF经济学」为主题,从身边小事发现经济趋势,捕捉藏在日常里的投资灵感。9月6日,成都·蔚蓝湖滨艺术中心,泓君将与华夏基金数量投资部总监荣膺一起,聊聊普通人如何被卷入全球AI定价战。

    活动免费,名额有限,扫码即可报名,期待与你线下相见!

    【硅谷101听友群】

    很多听友反馈没有加上我们的听友群,别急,新的入群通道已经安排上啦👏

    之后我们入群二维码我们也会放在节目shownotes中,方便大家随时找到组织。

    在这里,和同好一起深聊科技、商业与未来,期待你的声音,也期待更多有趣的讨论。

    扫码加入,即刻相遇。

    【监制】

    泓君

    【后期】

    Amei

    【运营】

    朱婕

    【BGM】

    Impossible Theory - Rachel Sandy

    Mindscape - Lennon Hutton

    【在这里找到我们】

    公众号:硅谷101

    收听渠道:Apple Podcast|Spotify|小宇宙|喜马拉雅|蜻蜓FM|荔枝FM|网易云音乐|QQ音乐

    其他平台:YouTube|Bilibili 搜索「硅谷101播客」

    联系我们:podcast@sv101.net
    Special Guests: 张宏江 and 黄东旭.
  • 硅谷101

    E248|一个“催发货”AI要跑通260步,和阿里瓴羊朋新宇聊聊中国式FDE

    2026/08/11 | 1h 3 mins.
    不久前,我们聊了硅谷最火的新职位FDE(前线部署工程师)。硅谷的逻辑是,AI要进企业,就要开行业最高的薪资,派一批最聪明的人驻扎进去。但这件事在中国,还是同一个剧本吗?

    我们邀请到阿里巴巴集团副总裁、瓴羊CEO朋新宇。他是阿里数据中台方法论的创立者,他的团队做这件事已经5年,比“FDE”这个词流行起来还要早。在AI浪潮到来之后,他们发布企业级Agent平台:AgentOne。

    他们的做法很不“硅谷”,不接定制化的大单,不做1000人天的驻场开发。他们找的是企业里最耗人、最耗钱、最耗时的环节,把预设好的agent接入企业私有数据,去解决真实的业务难题。

    举例来说:一个催发货流程,客服agent需要跑通260步流程;一个顶级人类投手,90天内调价10000次,AI要学会这10000次调价背后的决策逻辑,这背后靠的是团队配合和工程化的推进。

    在朋新宇讲述中,没有全能型的个人英雄,也没有对SOTA模型的迷信。“企业算得过来账,背后用什么token,老板不会在乎”。务实,算账,打地基,这就是FDE在中国的故事。

    【主播】

    泓君,硅谷101创始人,播客主理人

    【嘉宾】

    朋新宇(花名小芃),阿里巴巴集团副总裁,阿里瓴羊CEO

    【你将听到】

    01:48 硅谷的风向变了:AI战场从C端回到B端

    06:33 一个“催发货”背后藏着260步流程

    12:30 90天调价一万次,AI向最优秀的投手偷师

    19:39 为什么顺利的部署都是“自上而下”

    25:07 做标准化增长agent,跟Palantir反着走?

    31:14 销售Agent实战:从最落后区域到销冠

    36:06 部署周期:1/3熟悉岗位,1/3做建模,1/3调教AI

    42:36 FDE团队画像:BA定方向、AI架构师选模型、业务首席当教练

    47:00 Token成本,模型策略,“账算得过来”最重要

    53:28 中美FDE对比:信息化地基、付费习惯、工作方向

    58:03 人才观:懂AI、懂业务、懂数据

    【延伸阅读】

    E240|OpenAI联手PE砸下40亿美元,聊聊硅谷最火新职位FDE

    【监制】

    泓君

    【后期】

    Amei

    【运营】

    朱婕

    【BGM】

    What We Discovered - Philip Ayers

    Signal Containment - Out To The World

    【在这里找到我们】

    公众号:硅谷101

    收听渠道:Apple Podcast|Spotify|小宇宙|喜马拉雅|蜻蜓FM|荔枝FM|网易云音乐|QQ音乐

    其他平台:YouTube|Bilibili 搜索「硅谷101播客」

    联系我们:podcast@sv101.net
    Special Guest: 朋新宇.
  • 硅谷101

    E247|对话盛颖:xAI,Infra的浪漫,SGLang,开源,平权与“甄嬛传”

    2026/08/05 | 1h 46 mins.
    这期播客的嘉宾是盛颖,xAI前推理团队负责人、开源推理引擎SGLang发起人及RadixArk联合创始人/CEO。

    在开源模型集中爆发之际,盛颖在AI Infra(基础设施)领域的研究和贡献非常核心。她将AI Infra描述为“浪漫的关系”,是产品本身,需要有“美感”。

    由此,我们走进盛颖的世界。

    她曾经想成为一个数学家,沉浸在一个确定、纯粹、仿佛“与世界无关”的世界里。

    但从哥大到斯坦福,从形式化验证到 AI Infra,盛颖一路经历的并不是外界看到的连续发顶刊的高光,背后是不为人知的寻找方向、迷茫、停滞、低谷和重新出发。她逐渐意识到,自己无法勉强去做一件不感兴趣的事;只有真正被一个问题吸引,她才能进入高度专注的状态,并把它做到极致。

    SGLang,是这条研究路径的集大成者。它从一个学术项目成长为面向真实生产环境的开源推理引擎,也把盛颖从研究者带进了更复杂的工程、组织与产业世界。

    在早期的xAI,她获得了难得同时存在的“support”和“freedom”,参与搭建生产级推理系统。但随着SGLang社区迅速扩张,仅靠开发者在业余时间维护,已经无法支撑项目继续向前。为了让这件事真正走下去,她选择离开xAI,创立RadixArk。

    这期节目,我们从盛颖眼中的数学之美、论文和低谷聊到SGLang、xAI与RadixArk,也聊一个人如何逐渐理解自己的天性,并决定不再与之对抗。

    盛颖说,她在乎的不是“making impact”,而是那些她认为正确的事情,最终有没有发生。从“世界与我无关”,到“想要构建那个跟强力AI共存、且人类不会输的未来”,这,是盛颖的故事。

    【主播】

    陈茜,硅谷101联合创始人

    【嘉宾】

    盛颖,RadixArk联合创始人&CEO,xAI前推理团队负责人、开源推理引擎SGLang发起人

    【你将听到】

    02:16 违约金、纽约与数学之美:“世界与我无关”

    16:06 顶刊、低谷期与甄嬛传:“世界又与我有关了”

    26:01 谷歌实习:最早的“AI for code”

    31:54 Databricks:人生导师Ion Stoica与“making impact”价值观

    34:37 xAI:拥有“support”和“freedom”的美好v1.0时代

    44:07 RadixArk:“两个月也等不了”

    48:07 Two Sigma:“有组织的公司”应该有的样子

    51:10 SGLang:“AI Infra是浪漫的”

    01:15:29 SandHill Road的套路与规则

    01:19:33 “养大我”的开源生态

    01:27:03 LMSYS:平等、平权,以及“她赢了,不需要被解释”

    01:37:42 “世间的美好是存在的”

    【延伸阅读】

    本期节目视频版已上线,附精校字幕及术语注解,适合想逐句细听的听友

    “榨”出硅的极限:怎么让GPU不“闲着”?|与SGLang、RadixArk深聊AI Infra技术与千亿美元市场-硅谷101视频 及文字版

    【硅谷101正在招聘】

    《硅谷101》招聘多个全职岗位,欢迎加入我们的超酷的深度内容工作团队!

    👉🏻点击查看招聘详情

    【监制】

    泓君

    【采访】

    陈茜

    【后期】

    Frentee Jacob Amei

    【运营】

    朱婕

    【BGM】

    The Hoover Dam - Bonnie Grace

    Spring Dance - Forever Sunset

    Curiosity Cabinet - Mike Franklyn

    【在这里找到我们】

    公众号:硅谷101

    收听渠道:Apple Podcast|Spotify|小宇宙|喜马拉雅|蜻蜓FM|荔枝FM|网易云音乐|QQ音乐

    其他平台:YouTube|Bilibili 搜索「硅谷101播客」

    联系我们:podcast@sv101.net
    Special Guest: 盛颖.
  • 硅谷101

    E246|何谓蒸馏?聊聊硅谷如何看中国开放模型逼近前沿

    2026/08/01 | 1h 7 mins.
    7月27日,月之暗面正式发布Kimi K3的完整模型权重。自7月16日API上线以来,K3就在在多项测试中展现出接近前沿模型的能力。因此,它成为了硅谷最近讨论开源时的重要案例之一。从2025年初的DeepSeek时刻,到当下的Kimi K3,中国开源模型正在从成本更低、能力稍弱的替代品,逐渐逼近甚至超过最强的闭源前沿模型。

    随之而来的,是一场越来越激烈的蒸馏争论。什么是蒸馏?通过闭源模型的输出进行训练,和未经授权的大规模能力提取,有什么区别?即使中国实验室使用过美国模型生成的数据,它又究竟能解释多少最终能力?

    本期播客,我们邀请到两位嘉宾来分别从开源生态和企业的视角,讨论这一波中国开源模型的影响:前Hugging Face亚太开源生态负责人王铁震,和TinyFish联合创始人Keith Zhai。

    我们从K3带给硅谷的挑战聊起,讨论了为什么把中国模型的进步全部归因于蒸馏,实际上忽略了架构、强化学习、数据工程和推理基础设施上的创新。而当蒸馏从一种中性的训练技术,变成商业竞争和政策讨论中的指控时,争议的核心又变成了什么?

    在此之外,我们也讨论了K3针对大型推理服务商设计的商业授权:当开源权重模型持续压低成本,它会如何冲击OpenAI、Anthropic等闭源实验室的商业模式?当模型能力逐渐商品化,未来AI行业的价值会流向模型本身、推理基础设施,还是Agent与企业工作流?

    注:本期播客中提到的“开源”,更准确地说是开放权重(open weights)。K3官方称自己为开放模型,它使用的是Kimi K3 License,不是标准 MIT/Apache 这类完全开放的OSI license。

    【主播】

    Yiwen,硅谷101特约研究员

    【嘉宾】

    王铁震,Hugging Face前亚太生态负责人

    Keith Zhai,TinyFish联合创始人

    【你将听到】

    中国开放模型,硅谷怎么看?

    01:45 Kimi K3为什么突然成为硅谷关注的焦点?

    03:33 从DeepSeek、GLM到K3:硅谷对中国模型的判断如何变化

    06:51 企业为什么开始转向中国模型

    10:23 中国开放模型推理成本

    蒸馏争端始末

    13:24 蒸馏争议:到底什么是蒸馏?

    17:22 K3是否可能在短时间内蒸馏最强闭源模型?

    19:48 蒸馏能解释模型的核心能力吗?

    开放模型对闭源商业模式的影响

    23:54 K3 License与开放模型商业化

    34:27 开放模型会怎样冲击OpenAI和Anthropic的收入与估值?

    37:39 英伟达为什么支持开放权重

    43:41 中国公司为什么选择开放

    强大的开放能力下,Agent生态如何变化?

    45:04 Thinking Machines为什么开放权重?

    48:39 开放模型催生的新生态

    48:43 OpenRouter等多模型平台为什么开始受益?

    49:56 对Agent产品和基础设施的影响

    开放模型的安全之争

    55:40 接近前沿的模型,到底应不应该开放权重?

    01:04:01 开源和闭源模型,谁更容易被滥用?

    【延伸阅读和相关术】

    Kimi K3官方技术报告与模型权重

    Kimi K3授权协议

    Anthropic对蒸馏攻击的指控

    《开放权重与美国AI领导力》

    【相关术语】

    开放权重(Open Weights):指模型开发者公开模型训练完成后的参数文件,允许用户下载模型,并在自己的设备或云端进行部署、推理、微调或进一步开发。开放权重并不意味着训练数据、训练代码和完整训练流程也同时公开,具体使用方式还会受到模型授权协议的限制。

    开源模型(Open-Source Models):通常指不仅公开模型权重,还公开足以让外部开发者研究、修改和复现模型的更多组成部分,例如训练代码、模型架构、数据处理方法、训练流程,以及在部分情况下使用的训练数据。由于大模型很少完整披露所有训练材料,目前业界对什么样的模型可以被严格称为“开源”仍存在争议。

    思维链(Chain of Thought):指模型在生成最终答案之前,用一系列中间步骤拆解问题、组织信息和进行推理的过程。

    规模扩展效率(Scaling Effiency):指模型将计算资源转化为能力提升的效率,也就是在使用相同或更少的算力、数据或训练成本时,能否获得更好的模型表现。

    键值缓存(KV Cache):指模型在处理上下文和生成内容时,保存此前token在注意力计算中产生的Key和Value数据。这样,模型在生成下一个token时不必重新计算全部历史内容,可以显著降低重复计算,提高生成速度;但上下文越长,KV Cache占用的内存通常也越大。

    【硅谷101正在招聘】

    《硅谷101》招聘多个全职岗位,欢迎加入我们的超酷的深度内容工作团队!

    👉🏻点击查看招聘详情

    【监制】

    泓君

    【后期】

    Amei

    【运营】

    朱婕

    【BGM】

    Kablaam - Ealot

    Flickering Torches - Christian Andersen

    Radar Focus - Blue Saga

    Pulse Runner - Helmut Schenker

    【在这里找到我们】

    公众号:硅谷101

    收听渠道:Apple Podcast|Spotify|小宇宙|喜马拉雅|蜻蜓FM|荔枝FM|网易云音乐|QQ音乐

    其他平台:YouTube|Bilibili 搜索「硅谷101播客」

    联系我们:podcast@sv101.net
    Special Guests: Keith Zhai and 王铁震.
  • 硅谷101

    E245|藏在大模型背后的新闻人:GPT们的回复是这样写出来的

    2026/07/24 | 46 mins.
    当你觉得AI“懂你”的那一刻——精准抓住一个你自己都没说清的情绪,问出一个让你陷入沉思的问题——你以为那来自数据中心的芯片、模型里的参数、程序员敲下的代码,但真相是,那些问进你心坎里的问题、让你会心一笑的遣词造句,背后站着一群人:他们曾是记者、编辑和纪录片导演,如今藏在大语言模型之后,有一个鲜为人知的名字——内容工程师(Content Engineer)。

    当模型能力日益趋同,真正决定用户去留的,已不再是参数,而是它能否让人觉得“懂我”。那些“只可意会、不可言传”的语感与共情,正被一群文字工作者拆解成一套可以装进AI的规则。

    本期《硅谷101》播客,我们邀请到两位从新闻业转身的资深内容工程师——前媒体人、播客《行星酒馆》主播东尼,与NBCUniversal AI战略总监Bianca,深入探讨:什么才算“好”的对话,以及如何把它拆解成可量化、可训练、可评估的工程标准。我们从这个正在各家AI公司裂变扩张的新兴岗位聊起,看看当模型能力逐渐拉平,内容与品味如何成为产品竞争力的关键,而懂人文、懂社科的判断力,又该如何翻译成工程能用的语言。

    【主播】

    Faith静远,硅谷101特约研究员

    【嘉宾】

    Tony Lin,人工智能实验室模型设计负责人,《行星酒馆》主播

    Bianca Consunji,NBCUniversal AI战略总监

    【你将听到】

    02:54 内容工程师是什么?

    05:55 内容工程师如何拆解好内容

    10:42 如何训练AI理解提问者的言下之意

    13:42 内容工程师如何“翻译”语言和文化

    16:45 新闻训练和AI对话训练都需要给到“上下文”

    18:42 语境破碎:AI对话和“网络互喷”的相似之处

    19:59 记者和内容工程师的技能重合点

    23:44 一篇爆火文章背后,文科生的AI恐慌

    26:45 基于共识训练出来的AI,不会产生伟大的艺术

    28:56 媒体影视从业者失业,罪魁祸首是AI吗?

    31:37 东尼如何在养病期间做出震惊谷歌的voice agent

    37:02 AI谄媚是产品设计问题,本质是人想要的太多了

    39:20 人除了智商情商,还会需要“AI商”

    43:33 职业价值迁移:“曾经我出卖成果,现在我展示过程”

    【延伸阅读和相关术语】

    系统提示词(System Prompt):写给模型、用于设定其身份、语气与行为边界的底层指令。本质是一种既要有创造力、又要让模型"听得懂"的技术性写作,是内容工程师的核心工作之一。

    少样本示例(Few-shot Example):在与模型交互时,随机提供几条相关案例作为参考,让模型据此理解"什么是好问题、好内容、好语气"的方法。

    语音智能体(Voice Agent):能够以语音方式进行多轮对话的AI智能体,相比文本交互更强调对话的流动感与自然度。

    多轮对话(Multi-turn Conversation):用户与AI连续来回交互的对话形式,通常是AI的弱项。当缺乏足够上下文时,AI会不断"脑补",答案越来越臃肿,中途出错则如滚雪球般放大。

    意图理解(Intent Understanding):理解提问者的“言下之意”,而非仅仅回答字面问题。它要求模型捕捉话语背后未被直接说出的真实需求,而不止于表面的信息拼接。

    来源归属(Source Attribution):在回答中注明信息出处、并承认现有信息不确定性的做法,是判断一则回答质量高低的重要维度之一。

    拟社会关系(Parasocial Relationship):传播学经典概念,指人对一个遥远实体(书中人物、电视形象,乃至AI)单向建立的情感关系。人在这种关系里依然拥有agency(能动性),可自行决定与对方的关系、并在互动中创造意义。

    AI谄媚(Sycophancy):指AI顺着谈话对象的价值取向和信息茧房去迎合、讨好用户的倾向。它本质上是一个产品设计问题——为了留住用户、提升engagement,产品往往会做出迁就。

    事实核查(Fact Check):新闻业的核心技能,即在信息发布前核实其真实性。AI在事实核查上效率极高,能快速交叉验证信息、呈现不同立场,帮助人跳出单一信息流。

    零工经济(Gig Economy)与AI训练师(AI Trainer):AI trainer指按小时、按项目为AI生成的内容打分、改写、示范的临时工作。这类工作依托零工经济而存在,而零工经济对媒体与艺术从业者的冲击在AI出现之前便已发生。

    【硅谷101正在招聘】

    《硅谷101》招聘多个全职岗位,欢迎加入我们的超酷的深度内容工作团队!

    👉🏻点击查看招聘详情

    【监制】

    泓君

    【采访 & 制作】

    Faith

    【配音】

    Yiwen

    【后期】

    Faith Amei

    【运营】

    朱婕

    【BGM】

    The Detective - Christoffer Moe Ditlevsen

    Reclaim - Megan Wofford

    Paper wings

    Hangover by ruiqizhao

    The light from within—howard harper-bames

    Overture - dozeoff

    New car smell—bagel

    Quiet down—Ryan connors

    【在这里找到我们】

    公众号:硅谷101

    收听渠道:Apple Podcast|Spotify|小宇宙|喜马拉雅|蜻蜓FM|荔枝FM|网易云音乐|QQ音乐

    其他平台:YouTube|Bilibili 搜索「硅谷101播客」

    联系我们:podcast@sv101.net
    Special Guests: Bianca Consunji and Tony Lin.
More Business podcasts
About 硅谷101
失败、背叛、不被理解,硅谷精神领袖一直都不是完美的存在;他们是科学家,创造者,行动派,他们有独立的价值观。《硅谷101》是由媒体人泓君发起的深度访谈节目,是一档分享当下最新鲜的技术、知识与思想的科技播客。 公众账号:硅谷101 联系邮箱:podcast@sv101.net
Podcast website

Listen to 硅谷101, Think Fast Talk Smart: Communication Techniques and many other podcasts from around the world with the radio.net app

Get the free radio.net app

  • Stations and podcasts to bookmark
  • Stream via Wi-Fi or Bluetooth
  • Supports Carplay & Android Auto
  • Many other app features