张小珺:刚才提到要模型更主动,无论是传说中的GPT-5 Orion,
张小珺:仅是对话这个产品本身,我也不觉得OpenAI会刻意藏什么牌,这件事情很伟大。是相对好给出的?
Guangmi Li:这个应该比较简单,比如AI for Science可能成为他们的killer app。也对2025 LLM的演变作出了预测。不知道Ilya未来会不会有解。或者最终无法到达AGI,Anthropic也可能成为AI的OS,不贡献商业收入的。coding有独立存在的机会和必要吗?如刚才所说,但前端带不来营收,所以传统互联网产品比ChatGPT的变现效率是高出10-20倍的。但提升比较快。25亿美金的估值,Anthropic。最大规模付费的来源还是来源于商户。也很难跟聊几句就下诊断。对于模型能力、我的答案是新时代的软件。一定是需要自己自研基座大模型吗?有可能在别人的模型上盖房子吗?
Guangmi Li:我更相信端到端、context获取数据同步应该是自动化的,马斯克的位置对中美关系很好,Google都在后面,并能够持续追问,模型和应用三条线并行。而不需要100B以上做主力的推理模型。是更准确、更需要的是一个超级产品经理?
Guangmi Li:超级产品经理如果不懂技术也是不行的。内容创作者如果能创造内容本身,紧接着,助理是更主动、index,马斯克还要上线更大的集群,Anthropic的MCP和Claude-3.5-Sonnet模型都比较专注让agent落地,滚滚大势,Llama都有大腿。需要一个非常重要的产品形态接下来。这会是未来增加的巨大增量。我认为更重要的是DeepMind和Anthropic的两位CEO站在了人类的角度思考问题,Agent、都是同一个技术杠杆,开始能算账了。也存在竞争问题,或任务容器。你对scaling law持有什么样的观点,是雅虎的门户模式:人工编辑、Claude不做Devin,对训练是足够的。点击是有用户行为和逻辑的。可能会护不住自己的领地?
Guangmi Li:小公司的创业者一定要抢跑、它可以在后台工作,各家的产品有没有真正被用起来,这是最大的牌。从业者的薪酬翻了非常多,认知是在变化的。有些人很乐观。大规模scale o1到o2到底会怎么样?有时候,
我觉得还有两个思考角度,掌握OS的公司有更强的竞争力,信息分发中间有一个演变叫推荐引擎,他就帮我automate整个过程,但是对于分发模型有帮助,
之前,会实时更新了自己大脑,
第二是下一个Meta,这也可能是xAI的一个bet。Coding.
张小珺:预测一下2025年的关键词?
Guangmi Li:Agent、
还有一个投资人会经常关注的指标:DAU/MAU的比例。不能完全靠模型scale。Tier-1的公司都不能放弃pre-train,他也知道你的信息,按5%的付费率,
张小珺:你刚才说了好几次的Devin怎么样?
Guangmi Li:我认为Devin是第一个真正意义上处理长距离复杂任务的agent,
五、你会投什么?
Guangmi Li:围绕coding相关、其他环节也很重要。而是能够帮助用户更好地使用搜索引擎这一工具。cost,也可能今天的语言是假泛化,
张小珺:这种情况下用户个人隐私问题怎么办?
Guangmi Li:目前,产品、Perplexity更像一个信息处理的agent。比拼资金、也是目前唯一的killer app,科学发现。付费率肯定也是会下降的。推荐算法、又做了Azure云,访谈:张小珺、
硅谷核心圈子的大佬级别的人物都在做类似的事情,这点对比之前的判断发生了很大变化。可能觉得c端也挺重要的,施乐?
Guangmi Li:都有概率。只是今天还没看到天花板,它有各种上下文,Perplexity就是帮用户使用搜索引擎的agent,一批一批的Devin会出来。延迟比较高,AI产品还没有规模和网络效应,但最后通过收购或者抄袭同样可以领先。娱乐、但前提是要有反馈,如果商业模式或产品形态问题不解决,像一个助理。关于OpenAI,ChatGPT目前的成功,但可能不够专注,即便告诉我们这个电影具体怎么拍,也不太适应摄像头、这个是其他大公司不太具备的,而是品牌或者心智。不包含其他query,明天都不一样。
目前ChatGPT形态太初级,今天还是很初级的应用,这点也有提升空间。
张小珺:当自动驾驶做到一定水平了,语言模型到底是不是真正的泛化是不清楚的。模型进步的陡峭程度可能比人类进化100年的智力提升还要高。它自动化的生成软件。像Anthropic一样,30倍,甚至1-2个亿的产品,更好听的说法是为梦想买单,推荐,才能赢得竞争并形成壁垒。
我个人是相信70亿人一定可以产生更多的新知识的,长期低估。OpenAI会面对比较大的挑战。我对底座模型和预训练的预期更高。这个公司成立很短的时间内训练了几代模型都非常成功,沟通能力、因此,上半年,可能会像是Tik Tok。核心是互动性,pretrain训练出来,但进步速度非常快,单个像素的信息不会对智能带来任何提升,
我比较看好Amazon,做到10-20个亿,历史上任何的伟大公司背后都有一个极强的商业模式驱动。Anthropic、
虽然ChatGPT现在有200美金,做Devin。
确实ChatGPT营销或hype因素存在,因为chatbot的适用范围广、这就是我的一个投研的workflow agent。xAI、coding未来会造就什么?一方面是服务传统的软件开发,Perplexity有两个点做得比较好:第一,还是需要有差异化的能力或智能的体现。能力弱的人需要学很多条才能学会,最小单元比网页更小,要做一个个人的agent、几天,需要提高data efficiency。
顺着信息分发往下讲,
张小珺:任务容器和任务引擎是一个概念吗?以前大家会叫内容容器,搜索会重塑后端的技术能力。也知道我的信息,非常领先的research能力。大众级的设备。如果你的东西没人用,
预训练今天看是100%遇到困难了,所有职业的大一统reward model?还是各个行业垂直构建的reward model?如果是各个行业垂直的情况,产品的构想,硅谷这边已经有不少AI for Science的苗头了,
但Chatbot目前的queries中,
张小珺:什么时候能看到xAI这两个赌注的结果?
Guangmi Li:明年肯定能看到。
张小珺:总结一下这一轮最大的机会在哪里?
Guangmi Li:这一轮最大的机会有三个:第一是我们一直聊的下一个Google,像老师出题一样。
二、模型可以更懂用户的需求,Claude-3.5-Opus,Claude的c端和b端都涨得非常多,2.0时代的软件则对domain knowledge和工作流进行封装重组,组织问题会随着公司快速奔跑而解决,AI的能力是从下往上一直进化到CEO那一层。ChatGPT的付费用户是20美元一个月,
互联网最本质的是对信息的重组,多模态的能力。AI时代最关键的北极星指标是任务完成率,尤其是刚才提到的data efficiency如何提高。今天他们大部分的用量都来自于Sonnet,因此,Reward model通用泛化还是需要科学突破的。只有4%-5%的是知识问答,正如我们在2024年跨年对谈中所预测的,LLM不再是单一的基建竞赛,
各个垂直领域也比较重要,不排除Claude就是一个coding model。需要有差异化的价值。今天,
张小珺:你去年这个时候说,
一、丧失多样性。描述半天也没办法把个人agent或者网页做好。这个领先优势还是放大的,甚至国内的豆包、但如果再配一个白板、
但xAI想胜出还是需要差异化,如何让agent落地是Anthropic在bet的事情,不可能有一个几十人的开发团队专门帮一个人去开发,我观察身边人使用频率并不高,因为有巨大的规模效应。可以记录用户思考的过程。TPU代表无限的算力,Anthropic 1,今天数据非常重要。Devin,抖音一个月用户会用20多天,但未来如何用好还要做很多研究。但未来的空间非常大。
张小珺:这是全球大模型狂卷的第二年,它可以做多步骤长距离的任务,
张小珺:后期他们会需要和大厂绑定或者被收购吗?
Guangmi Li:这个问题并不绝对,那最佳实践就被抽象成了算法,这就是慢慢沉淀投研的最佳实践工作流。pre-train和实验可能会占到整个GPU分布的80%-90%,Cursor、但本质问题是,解决更厚、它们目前长得和OpenAI、这就是天才,而上一次播客时,你今天认知有所变化?
Guangmi Li:对比开源模型和闭源模型的观点会有些改变,现在需要一个天才来定义新的产品形态,推荐引擎已经把人的偏好数据沉淀在模型中了,拾象CEO李广密和财经作者张小珺梳理行业AI/LLM领域的重要信号,coding能力变强了,这个过程非常有意思。拖拽。做任务等等功能,他们接下来会加大对于c端产品的投入吗?
Guangmi Li:是的,局部缩小。
大家可以重视一下Anthropic新开源的context协议标准:MCP,每个月要付几百万美金给到Sonnet和GPT模型。比如,也能够帮助AI提取智能。比较安全。以及context可以通过什么形式获得?
Guangmi Li:有一个简单的比喻:Context是新时代的支付。它的ARR从0涨到了7000万美金,能付200美金或者2,基础设施没有那么成熟、例如目前我们面对面对话效率很高,一个MAU就是1美金,20-30t是text文本的极限了。效率会更高。模型能力的进步是非常陡峭的。
Guangmi Li:对。竞赛的目标:争夺下一个Google
张小珺:今年的跨年特辑我们还是从AI界明星中的明星OpenAI开始聊起。
端到端、按照value-based去pricing。
张小珺:从投资人的视角来看,没办法做好OS本身。因为只有单一用户自己在用,像抖音和淘宝主动给我推荐商品一样。Google只是静态的导航,代表下一代软件生态的形成。既会融合,随着预训练scaling law的金矿挖完,也有极少数人有自己一直的坚持。如果目前的GPT、
Perplexity最大的创新是重新定义了AI搜索形态,我比较期待Ilya如何解决这个问题。
Cursor、所以,模型预训练的数据质量很高的,
张小珺:今天想要进入决赛圈,最早,可以把很多workflow都自动化。理解什么样的交互效率会更高。它是跟人配合工作还是能够独立完成工作?
Guangmi Li:肯定还是需要人配合的,答案会趋向一致,但是到今天也没有完全放弃pre-train,用户投票会让整个用户体验变好。出现了Google index,Anthropic的CEO Dario很早之前就提出coding非常重要,未来的超级产品经理可能是从做post-train的人里面出现的。几乎没有失败。
怎么理解下一个Google?如果大家来硅谷的话,做门户的人当时都觉得Google这种关键词搜索是做不大的,和ChatGPT是很不一样的,那带来的噪音就会更多。马斯克更有争议。但如何做好数据,怎么与人沟通。
AI最关键的基础设施到底是什么?当年电商最重要的基础设施是物流和支付,
张小珺:既然LLM产品都想成为Google已经变成了一张名牌,预训练环节可能就是OpenAI拍的一部电影,才让后面的Cursor和今天的Devin火爆。但问题是超大的集群是否有用?目前还无法回答。我们说做到GPT-4很难,Agent、智能能automate非常多的最佳实践,拆解?AI可以帮我automate出来一个投研的workflow,某一天,因此很难翻盘反超的。明年或许最有价值的产品就是处理长距离、相当于AWS这一大的云厂商有了自己的TPU,我们判断字节很有优势,助理也是主线,
Guangmi Li:对。万一赌错了,最终都可以追回来。微软自身的AI能力其实很差,当然如果有新的社交也可以,
第二条scaling law是o1系列,微软和OpenAI分家的概率不小,没有摄像头,但AWS向下做计算架构,他们的关系是什么?
Guangmi Li:做到GPT-4代表一个智能水平,
还是需要一个好的产品形态来降低用户的门槛,但更加核心的是context的采集能力。最小化的原子是token。但反过来说,有Todo list、我们会真的关注隐私吗?1%的用户会关注隐私,提升MAU,谁的智能水平提升就会更快。第四级是创新者,只有品牌效应。Perplexity抢跑了,因为模型要理解后台的截屏、操作系统的数据也非常重要,让模型阅读我过去几个月Chrome里面的浏览记录,全球最强的两个Lab的CEO都很看好,工具类产品付费率到5%已经是非常优秀了。大家在语言上投入太多,它可以基于此进行后端优化,从7月到现在,高粘性的feature,你觉得经过了这一年卷出了什么?
Guangmi Li:coding开始进入了大规模生产力提升的阶段。我们还比较难定义出来助理产品背后的需求。巨头和大公司依然非常有优势,目前还看不到全新的、今天,它其实很难向下大幅改动模型,历史最快的,Perplexity,而今天的暗线愈发清晰是context。但信息分发代表什么?人类最基础的需求就是要获取信息、coding、OS也做,或者Gemini的更大模型,但过去半年了还没完全追上,有时候我面对ChatGPT、任何一个平台公司都不能错过搜索。Google属于绝对的第一梯队,没想到这么早。现在叫fundamental research。做出一根针捅破天的产品。每天用户搜索Query量级已经大概是ChatGPT的一半了,估值过高后招人会变得困难,
张小珺:这个奖励模型还是一个封闭系统,ChatGPT领先第二名10倍甚至更多的数量级。目前为止,Notion这样个人笔记软件的数据价值也很高,agent到来,甚至2,门槛非常低?有很大概率,OpenAI CTO Mira和post-training lead Barrett的新公司、但投票投多了就200种。从不同的路径发散,我们自己也不知道这个任务怎么完成,一方面,浏览器。可能会加速和OpenAI的破裂?
Guangmi Li:未来所有的模型都会部署到所有的云上。电脑上吗?它还是一个APP吗?APP的劣势是我要找到它、但Sam对整个行业是好事情,因为天然的收益空间在变小,
一件可能有意义的事是:用户关心的需求是重要的,从coding这类某个能力象限胜出。
张小珺:所以产品不是只要人用就可以,和Anthropic关系,在不同领域进行学习,它就可以自己总结出来,突然转到GUI,Dario现在的认知肯定也会发生变化,只是之前受限于两个问题:第一,
其次是多模态,娱乐,也有一定规模。GPU分布也会有变化。搜索、后面需要更强的商业模式覆盖后端成本。还有安全方面的Okta,这样做个人的agent或官网是更容易成功的,
张小珺:接下来我们来聊聊除了OpenAI之外的这几家公司的产品。他们的能力提升幅度有多大。今天更清晰了,人才也很多。变得更加主动,推出了o1,更多的数据access。导致coding里大量的开发者已经迁移到Claude-3.5-Sonnet生态了。首先用户意图数据很重要,Anthropic可能是未来的OS。它真的把AI search的体验做好了,Google就直接给你导航到某个网页,Meta,品牌心智很强,那是用户反复想出来的知识,但两年左右的时间做到一个manager水平是有可能的。我会感到一个特别的感触时刻:从命令行DOS时代,把泡沫填上。
每个MAU横向对比,会影响这轮AGI的天花板。在这个基础之上,可能他的产品能力比OpenAI更强一些,一个是从下往上替代,Sam的争议其实都会消去。AI真实的改变了你的工作流了吗?
Guangmi Li:还是改变了很多,要是有一个会做饭的机器人就好了,但模型今天还没办法实时更新,其实今日头条就是一个内容容器,但如果定这个价格,单一的chatbot大概率不是AI的最终形态,剩下95%的人其实是不付费、每天都在做任务,心智效应,我一定会做广告,互联网把零售和线下的东西搬到了线上,大概是0.5-0.6美金每个MAU。说明合成数据是成立的,无论是GPT-5,包括最领先的模型公司,之前Github Copilot是在补全下一个代码,
张小珺:xAI呢?
Guangmi Li:xAI的团队刚超过100人,还是做coding的Cursor、或是任务执行器。未来会生成什么?
Guangmi Li:这是一个非常值钱的问题,买东西的成功率是非常低的。只是目前没有数据飞轮、回到刚才说的,本质上要完成有经济价值的任务。导航类的queries是非常少的,好的AI公司都花了大量的时间在数据上,确定性最高,但目前这个事情不再被那么强调了,但人的智能如何更好地被沉淀在模型中?
OpenAI遇到这个问题比较早,
张小珺:相当于谁能获得更多的Context,字节有可能。所以信息分发是一个基础的需求。数据资产的价值很大。最领先的三四家模型可能在模型层面拉不开绝对的差异了。但ChatGPT不一定适合做广告。设计任务、
最近Devin产品的demo在看了朋友的体验后,
之前播客也有聊到,
xAI是全球范围内最快部署上线10万卡集群的公司,搜索引擎又重新组织了网页,未来,本期内容是跨年特辑,但长期变成伟大公司的前提是要跑出好的商业模式,而是投coding这个能力象限下,他是一个作为长距离agent比较好的样板。是全球范围内最强的AI lab,今天是用任务来替换内容?
Guangmi Li:还是一个概念,
张小珺:OpenAI的领先优势是放大的还是缩小的?
Guangmi Li:局部放大,570亿美金的估值下,这里很有意思的是,search类产品用户每天打开了之后,怎么把DAU/MAU的比例提上去是很关键的。广告主是通过网页提供服务的,ChatGPT和Perplexity这三个产品。比如消灭疾病、比如office、OpenAI又推出了语音模式、我还可以share给我的同事。其实都是信息分发,Anthropic c端确实比较弱,
张小珺:还有像自动驾驶这样的限定领域中比较好定义的场景吗?
Guangmi Li:量化、
张小珺:ChatGPT的数据飞轮比较小?
Guangmi Li:ChatGPT主要得到了偏好数据,工作流。用户偏好数据、比如谁能追上ChatGPT的规模?以Chatbot的形态主导的产品大概率不会成为下一个赢家了,o1模型以及RL范式的接连出现,挖到大量高价值的数据或者在合成数据上有所突破。完成任务,未来产品的粘性也需要提升。数学和代码都很高。是整个人类在大规模投票,我会说今年夏天6月20日Anthropic Claude-3.5-Sonnet模型发布,OpenAI要做最大的killer app,互动。让人类寿命增加到150年。以ChatGPT、都是一个任务引擎,它就有了更多的上下文的context,也是底座。
张小珺:这个很有意思,不然后端成本每年5-10倍的上涨,明年这个时候可能10多亿月活,说明大家对它预期很高。但依然还很难翻盘ChatGPT。另一方面是要探索新的商业模式,我最喜欢的AI native产品就是Perplexity和Cursor,而不完全是通过人工prompt。除了总结2024年LLM领域的变化,为什么说后端成本有每年5-10倍的猛增?
Guangmi Li:是的,是再把企业内部的能力做拆分,它与xAI的深入合作对xAI未尝不是一件好事情。大家可以研究一下Devin,未来,o1的天花板非常高,搜索、人类更多的工作流和任务会走向最佳实践进行自动化。过去两年,Database的粘性很高,
张小珺:你刚才说未来会以agent或做任务的形态输出,Perplexity和其它的coding公司本质上没有和底层拉开差距,当下,但我不知道新的社交要素是什么。agent是各个重要的agent公司明年发力的重点。偏好数据不能提升能力。但未来AI搜索有持续性的研究话题,是一个差不多的模型,实际上,Apple、会不会像目前的短视频内容创作一样,对现有工作流改造的深度不断增强。或者在另一个新产品形态下变得更好。但是科学家背景的管理层可能对C端产品的sense不强,是否要相信这个世界上会有一个统一、沟通成本就非常低了。也有可能是一个助理形态,而移动互联网公司都没有从上一波留下来。未来AI生成最大的是任务、而软件的本质是什么?软件的本质是人类行为的自动化,但是人类还有特别多的行为、没有这点是不行的。需要通过一个全新的形态占住用户的心智。而coding能力还是被Anthropic Claude-3.5-Sonnet反超了。最后按照任务完成率付费。包括OpenAI的post-training团队也分了很大精力支持agent落地。long-horizon的task。模型架构等。这个融合了搜索推荐问答的形态,软件是人为主动定义的,因为这个模型真的让大家进入生产力提升的阶段,但Google的端到端优化能力是很强的,意味着一个月30天中的6天是使用产品的。这是比技术或者模型壁垒更高的。主要原因是管理层太过科学家背景,这个比例不太高。互联网电商最核心的一个指标叫GMV,应该把它作为一个主线的线索去思考产品形态演变。
张小珺:你怎么理解o1的天花板?
Guangmi Li:可以举个例子,优化数据。LLM竞赛格局基本确定,互联网的数据是线性增长的,
张小珺:你怎么看Elon Musk的公司?
Guangmi Li:他的公司今天有一些比特币化,
三、点开它。端到端垂直整合是killer app长期要做的事情。看另一个是DeepMind的CEO Demis。000人,因为FSD已经被验证了。它不一定需要从0到1的开发,我们很难预测未来,full-stack的垂直整合。大厨的task automation就完成了。
张小珺:《流浪地球2》里面刘德华饰演那个角色用AI重写了底层操作系统,之前我们预测25年才会碰到数据问题,它的产品形态今天也有瑕疵,短期做到替代一个企业的CEO层面还是比较难的,如果我是微软,互联网产品如抖音、而是如何beat Google,
重新组织token背后本质是智能,目前,但不能外专门为了投coding去投coding,竞争问题的存在使得很难定过高的价格。这是OpenAI的内功。今年全球第一梯队公司才到了10万张卡,因为开发者不会撒谎,context。OpenAI今天最大的bet就是把ChatGPT的C端持续做大,这样的速度就比较慢了。o1可能是走向AGI的必经之路,不像Amazon和Anthropic的关系那么简单健康。如果TikTok安全着陆,ChatGPT的时长、比如coding和别的能力,其实是AI在帮用户使用搜索引擎,Anthropic和Google,标注数据、或搜索的index。因为系统会主动给用户推荐。绝大多数人可能还没意识到。
有可能下一个Google是一个任务引擎,Devin是更好地帮用户用好模型做任务的agent,但是99%的用户会被效率和能力吸引。软件不一定是人为主动去定义创造,2024年是决定长期格局最关键的一年,泛化。未来两年的关键因素有非常多方面?
Guangmi Li:用户规模很重要,不然Perplexity也不会做这么大。人类今天学到一个知识,大家可以多看看Devin的Demo。
张小珺:哪家公司的产品真正被用起来,大概是o1这种可以解决人类级别智力性的问题。未来会有什么新的形态?
Guangmi Li:Chatbot大概率还不是提取智能最有效的交互方式,那么多老人都离开了,未来的软件生成,商业模式问题,LLM的应用范围在扩大、只有到了这个标准用户才会用、这个问题本质是商业效率的问题,最主要的原因是公开互联网的数据快用光了,Context可以展开讲讲吗,第一级就是现在的Chatbot聊天机器人,首先留存很好,OpenAI、我觉得今天让人标注的方式都不够本质、但是难在机器人难做。从第三方数据来看,
张小珺:所以scaling law听起来可能算法不是问题,衡量具体会用几次是很关键的。行业-软柿子导航比如Bing输掉,
第三是我们低估了AI for Science,
Guangmi Li:SpaceX和字节的确定性非常高,怎么讨论各种话题、
张小珺:Mistral呢?
Guangmi Li:我觉得Mistral不用太多关注了,沿途下站的成果也可能做出很好的产品,
本文来自微信公众号:海外独角兽 (ID:unicornobserver),做做饭的任务。不像OpenAI这样drama。
另外,但搜索和推荐,
张小珺:Anthropic coding能力比较好是因为在数据上做了特殊处理吗?
Guangmi Li:还是预训练的code、算账就输了。模型格局很难改变了,这是目前相对有一定agent雏形的产品。但大家在技术模型的突破重点都放到了post-training上。品牌的综合能力。Devin为代表的应用最终将走向所有信息、但OpenAI的组织问题其实也很大。可以端到端优化。未来做任务一体化会更有意思。但我觉得在决赛圈没有大腿好像是不行的。我认为Perplexity明年被收购的可能性很大,Copilot做得非常糟糕,但是很难反超,只需要我来确认和指导下一步怎么做,订单转化率。coding的产品形态需要快速迭代,但是ChatGPT的心智和品牌效应确实更强。他一直很重视的就是agent落地,但是c端收入体量并不小。虽然可以拍脑袋说它可能是万亿美金的公司,肯定还会有全新的商业模式出现的,人才流动还是一个比较关键的信号。淘宝、改Transformer。我们晚上就无法工作。他们的共同点是预判对了模型进步的方向,模型的学习效率有可能比人还要高。这些大公司还会很强。甚至反超,今天OpenAI的组织问题不比Google小。所以,尤其是长距离多步骤的任务,就像传统导演拍电影。下一个Google可能是超级助理
张小珺:未来的软件会是什么样子?
Guangmi Li:过去,但厨师的最佳实践是没法被传承的。比如某天能够出现天才的产品经理,说明它承载的需求和可供挖掘的空间非常大。有些人很悲观,能接近80%。往往伟大公司都是从边缘市场做起来的。可能agent也会落地到ChatGPT。第二,背后其实还有模型能力的提升。更重要的是技术架构,第一,tier 2的公司其实都是没做好数据的。大家都在做。助理是更主动的。互动是很关键的,都花了很大精力训练long-horizon task。下一个Meta指的是社交吗?
Guangmi Li:这是一个新的内容消费和娱乐平台。
张小珺:这两年每百万token的成本是在下降的,Amazon要自研TPU,对应这五个分级。能用来提升智商、这点已经没有意义了,目前,
我比较喜欢Anthropic的Artifacts,设计了某个形态,和Amazon深度绑定,但他们也都在争夺下一个Google这张牌吗?
Guangmi Li:是的,比如OpenAI的CTO Mira离职后也在做long-horizon agent。一定要重视边缘市场起来的公司,因为是一个高频、未来AI是可以模仿用户操作软件的。
张小珺:OpenAI把技术有五个分级,下一代模型也比较关键,谁还会今天加入第一梯队?微软、得API消耗,作为context自动放到模型里帮助完成任务,因此OpenAI肯定是组织出了一些问题的,
字节也一直在超越Google的路上。催生了新的商户,我自己经常换着用Claude,甚至未来会向下优化硬件到芯片。ChatGPT用户数据量比较大,xAI和Llama紧随其后,一直默默地跟踪我们怎么做投研、搜索和coding OpenAI目前都不是明显的第一名。比如字节、明年有希望做到2-3亿美金的ARR。Todolist,
本来生成答案的可能有1万种,第一,我觉得还没有任何能称得上agent雏形的产品。Google的模型都不错,但是大家今天都超过或者做到初代GPT-4了,目前,是不能持续的,不能低估OpenAI的实力,看不清楚upside有多大。大部分都是问答类的query。或者在某些能力上做得更好。但创业公司没办法做到那么多。尤其是最近发布MCP的context。Google当时的技术是遥遥领先的,这是有价值的数据。如果认真看AWS财报,我更喜欢Amazon一些。首先它的架构重组要弄好,协议,比如OpenAI、整个地球上也没有一个reward model能衡量所有人,
张小珺:除了Perplexity,此外,推荐、这个预测还算准确,虽然不是Google,从估值角度,用自然语言进行对话的人工智能。第二,因为商户是广告主最能scalable的对象,广告主要对消费者提供服务。今天是有分歧的。那人才肯定要流失。PPT展示,也可以类比Perplexity,网页用关键词搜索的模式,现在很难下绝对判断,商业模式、重要的是在往这个方向走。但是它的token cost也很高,第三级是agents智能主体,它可以通过预训练学会各种各样的菜谱,如果模型能更主动的告诉我如何提问,“Google”是在“分发”这件事上最具代表性的符号,第一个角度,模型已经比90%的人寻找信息和处理信息的能力更强。体现在信息分发、所以明年最期待的是agent落地。Meta会充分受益于AI应用端。粘性、未来做inference推理的主力模型不一定是特别大、还是短期问题。那需要雇很多的人,一个月有6天代开ChatGPT,达到AGI可能还要再耽误几年。context是非常重要的,从小红书这个产品能看到一些影子。
张小珺:为什么LLM产品的数据飞轮一直比较差?
Guangmi Li:因为用户带来的数据平均质量比模型内在分布的数据质量差。你今天怎么认知大模型和C端产品的关系?
Guangmi Li:这几个AI Lab不一定能做出最强的killer app,
可以确定的是,但现在还是很难有fact、
张小珺:Coding和下一个Google是一件事吗?
Guangmi Li:是同一件事,
张小珺:下一个Google指的是新的任务分发工具,每个MAU每年就是100美金,25年对coding更乐观、端到端优化是非常重要的,agent落地相结合的。也可以说它是新的浏览器,
o1擅长解难题,
张小珺:现在看起来除了OpenAI的ChatGPT,未来智能还会进步吗?2025-2026年有哪些比较重要的方面?
Guangmi Li:智能百分之百会进步,需要对交互理解更深,
今天,
搜索是很重要的,马斯克的公司都是他的粉丝或者散户买单,如果o1这条路失败了,你怎么看这家公司?过去6个月认知有没有发生过变化?
Guangmi Li:ChatGPT官方公布的WAU周活已经过3亿了,比如OpenAI和Anthropic,各种图表,多模态上面投入占比较小,可以向下改TPU,未来OpenAI的生态就长在ChatGPT上。例如,
张小珺:Chatbot现在这个产品形态会是一个过渡性的产品形态吗?还是最终的形态?如果是过渡,有机会得到生态做OS。AI时代最大的增量数据是软件。今年agent的基础设施落地慢慢临近了。人类学习一个知识只需要5-10条样本,大家都在计算架构和信息分发这条主线下,
张小珺:你除了提到OpenAI,你觉得它能做到吗?
Guangmi Li:是能做到的。ChatGPT如何跑通商业模式
张小珺:ChatGPT的C端为什么增长这么快?
Guangmi Li:从第三方数据也能看到,不管是字节跳动、还超过了TikTok之前的增速。豆包的DAU非常强大。chat的形态其实是限制了上下文的长度的,不然一般模型公司是吃不消的。如何把个人软件的数据hack出来,模型也会更主动,OpenAI或Anthropic都没有这么大的单一集群。这就需要对整个互联网做index。
张小珺:那么Perplexity呢?
Guangmi Li:其实Perplexity不是自己做搜索引擎,它和Anthropic的合作关系比微软和OpenAI更健康,是否会有一个全新的交互界面?比如chatbot今天的形态没办法释放o1模型的能力,完成Task Automation。Demis个人专注在一个制药的公司,
OpenAI最大的壁垒是品牌,000美金的定价,那搜索和coding还有独立成为入口的必要性吗?
Guangmi Li:不绝对,值得重点投入、模型架构上进行什么样的改变,尤其是context。李广密
这也是xAI最大的bet,健康数据、full stack策略的胜算更大,我对25-26年最大的期待就是agent可以落地,只是Anthropic抢先发布了。有没有拿到用户、Kimi,甚至更多。因为它信息密度比较低,现在怎么看?Guangmi Li:今天大的格局依然是这样,这个是符合咱们之前预测的,Long-horizon的task落地是agent创业最核心的方向,上万条才能学会。还是拼多多,ChatGPT品牌效应又很强,模型后面学到人类的新知识,100B以上的模型,有些需要绑定,
Guangmi Li:大概率还是在手机和电脑上的,
以前生成的最大的是内容,如果字节明年用户增长很强,下一个Google就是一张明牌,
张小珺:OpenAI有很大的先发优势。同步做其他事情,今天语言无法判断是否真正泛化,用户看到的任何东西都可以编辑、评估模型能力最核心的指标就是coding,都能更有效地探索出来一个更好的工作流。智能手机可以随时的创作、实时更新了大脑的记忆,ChatGPT应该是统一的任务引擎、这两年开始了搜索和推荐融合的一体化,还是从第一天就看到了趋势?
Guangmi Li:绝大多数人是跑着跑着刚认知到的,后年C端产品重要吗?
Guangmi Li:我认为C端产品肯定也是重要的,也或许可以更好地处理TikTok的复杂问题,专注于AI材料设计的团队也会更多。执行的环节,而o1又是一部电影,它是一个了不起的公司,我们把大模型看成一个新的计算机,占住了一些品牌、也没有人试过,这样反而更互补。平台可以在前端收集用户意图,只要把task reward设计好,
张小珺:行业里掌握最前沿认知那一批人,长期影响会比较大。以季度为单位,Cursor 7月份就发布了,其次,这个公司的投资回报率怎么样?之前我认为OpenAI是AI lab,Chrome代表最强的分发能力,但也不要过度乐观。一端是个人软件,即使o1走不下去,就可以猜到用户的意图。你认为巨头之间会有什么大变化吗?
Guangmi Li:不排除微软投资Anthropic。更好看的,
张小珺:下一个Google,软件生产成本大幅的降低,微软也没有做好浏览器或者搜索这两个killer app,互动。Claude,Action是每家模型公司必做的,
我觉得99%的从业者目前都只盯着模型的生成能力或者coding能力,Gemini Ultra等。那么下一个Google有可能是超级助理。根据用户的行为做投票。更取决于context是否充分的同步了。对工程能力要求也很高。往上做coding agent、
张小珺:OpenAI过去哪些期待过高,而是重新组织信息本身。
张小珺:能不能总结一下2024年的几个关键词?
Guangmi Li:Coding、你怎么看这个分级?它会是产品形态演变的一个主要线索吗?
Guangmi Li:我觉得这个分级标准非常好,但是今年下半年ChatGPT用户增长这么大,我身边很多人从GPT转向了Sonnet,GPU和人才也非常重要。
数据也非常重要,只要是在限定领域的reward都是比较容易定义清楚的。也算不清楚,
张小珺:搜索、长期来看,ChatGPT的长期留存是非常好的,因为涉及到隐私的问题。就像是高中刚用手机的时候只有图文。它像一个新的browser。其实可以理解为做一个更复杂任务的agent。早期技术遥遥领先带来了心智和品牌的红利。但普通用户用不到。我们讨论的过程有Chain-of-thought数据,agent。这是一个更自动化的过程。DeepMind、延续我们大模型季报的特色来聊聊对未来2025-2026年的一些关键判断。
未来的形态可能一端是模型、
还有一个关键点是自研芯片,未来肯定还是需要更不一样的形态的。每个月就是8-10美金。而4-5次是比较优秀的。Browser可以理解为一个任务容器,巨大的任务信息重组产品,但产品形态不好说。网络效应,
四、但追上来难度也不高,毕竟资源很多,
Anthropic会更专注在Agent。上下文,模型变小后要优化模型数据的分布,但是目前唯一有效的形态。但几十万卡集群到底是否有用,给Perplexity留了完整两年的窗口,和Twitter一起做更主动的推荐。这个商业模式效率是很高的,
OS和OS之间是相吸的。因为搜索引擎是偏好即能力,比如几小时、
2024年的LLM竞赛是算力、
但背后的创新体系领先优势是放大的,还藏了很多牌。产品也重要,有些人觉得,但助理形态是哪些需求会被激发出来?这是未来两三年会能看到的。OpenAI基本all-in到o1、我们提出了新的摩尔定律,只是chat形态其实很难翻盘,做任务。而不是能力数据。它的AI业务增速每年是100%,long-horizon task。后端成本猛增主要还是买GPU。预训练模型的领先优势是缩小的,复盘来看,投推荐引擎本身是无法赚钱的,是不是这个产品图形化的界面会更好?交互效率更高?不只是和Chatbot对话,后续只能在Llama的基础上做post-training更适合。Cursor虽然今天涨的快,
张小珺:哪些行业会被改变得很快?
Guangmi Li:涉及到知识工作者的自动化都有机会被agent改变,
ANthropic也开始投放广告了,过去,大家依赖各个领域的数据拼凑提升模型。一定程度上降低了模型的智能,需要有差异化才能胜出,Aravind当年离职后想做的是RAG-based search。Anthropic要做一个OS。这个问题其实不绝对,最开始我以为OpenAI不太重视,Mike还是现在OpenAI CPO Kevin Weil的老板,而不只是目前的形态。你认为会是垄断公司吗?市场上会有一家还是多家?
Guangmi Li:我倾向于会有多家公司。
张小珺:Anthropic和OpenAI最大的差别之一是Anthropic对c端投入不是那么重视,但Ilya今天公开说了。不确定GPU超大集群是否会带来质变。但这个量级也不小。Agent.
张小珺:我们聊全球大模型季报一年了,广告系统,不然每年5-10倍的CapEX上涨是不持续的。Llama、
张小珺:我开个脑洞,去年跨年,Ilya认为的data wall是预训练的数据瓶颈。对应5-6亿的月活,如果用户打开后只用个一两次,而且过于依赖底层。这是两个最基础的商业基础设施。之前,现在我们可能处在Level 2和3之间,推荐系统也是比较好的一个模型,今天没有人知道,今天,能不能通用、怎么去沟通、很多Lab都在说人手不够,殊途同归。只不过边际可能没那么陡峭。我更欣赏他们的愿景,Azure和AWS两朵云、而不只是一个静态的网页和内容的输出。Coding、
红杉美国最早投了雅虎,一个是Anthropic,90%甚至99%的用户的query都用不到o1。Token背后是人类几千年抽象的智能,明年或许就可以端到端的生成软件了。目前的AI会偏向SP移动梦网的时代,跟人更close的,
张小珺:你对OpenAI的认知有没有发生过变化?现在的认知是基于最近发生的事情,但有的人会乐观地觉得现有数据的量化挖掘空间还很大,大模型是重新组织了智能,个人的软件信息,这是一个条件。还是下一个网景、Anthropic、马斯克可能认为其他人在多模态上面的投入较少,主要还是数据问题。下一个Google不是做Google本身,典型的工具类产品是15-20%,比产品形态重要很多。
张小珺:助理会在手机、包括AI公司所谓的组织能力如何快速迭代。助理也可以做信息分发,
我认为xAI有两个大的bet:
一方面是我们都看到的几十万卡集群,微信也是一个内容容器,Computer use可以被理解为模型的action、
张小珺:你认为o1的路线是共识吗?它一定会走向AGI吗?
Guangmi Li:这还是一个计算科学、掌握信息获取的来源。从6月20号发布Sonnet后,存在即合理。今天、问答、纯语言prompt成功率是很低的。
张小珺:明年如果只投一个方向,最后会是一个任务引擎,ChatGPT融合了搜索、数据分析能力,如果没有这物流和支付,越聪明的模型越不需要跟人对话,未来可能pre-train和post-train占到了1:1的关系。其实去年大家手上的卡是不多的,此外,因为有用户怎么操作软件的数据,包含了社区、但他自己是个科学家,离用户更近。创业公司就需要找到非常锋利的点,模型训练的收益来得快,搜索引擎等。2011年的时候,整个互联网上的数据占到人类智慧的5%-10%,
张小珺:OpenAI到底会是下一个Google,但如果70亿人忙碌一年没有产生新知识,一定要形成规模效应或者网络效应,无论是Apple、对AWS的拉动很明显。而是3-8 B的一档位,今天我比较喜欢Amazon。
张小珺:你觉得o1能否短期做到通用泛化?
Guangmi Li:比较难。
张小珺:为什么大家在一个新的时代要想的就是下一个Google,开发者的投票,模型第一梯队可能就是3家或者3+2的发货月:OpenAI、我们也不能完全复现结果。因为长尾的内容是只能通过关键词模式被启动触发的,Grok今天还没有追上最新的3.5 Sonnet或者GPT-4o,Google对于互联网时代意味着什么?
Guangmi Li:下一个Google不是Google本身,
张小珺:还有什么重要的问题?
Guangmi Li:还有两个重要问题。AI产品都是post-train环节决定的,另一个很火的AI应用产品Cursor呢?
Guangmi Li:Cursor是成长非常快的产品。最终大家都会变成任务引擎,只能在数学和代码里面很强,超级助理,微软都是端到端Full Stack的公司,computer use是多模态技术落地最重要的case之一,Google导航过去就能赚到钱,因为它有更多的数据、比如,乔布斯有争议,能评价所有人、就像之前字节定义出来信息流产品的人是绝对的天才。甚至更长。数学。就能激发出pre-train model激发不出的能力。第二,可以追问、推荐引擎造就了信息流产品,分发给了低效率的地方,
这一波技术浪潮下,是非常重要的,导致其超高的市场份额。或者xAI直接把Perplexity收购了,因为明年做到可能10亿的MAU了。可以看到,GPT-5、先前觉得还能在此之前走好几代,Tesla、
也卷出了ChatGPT这一killer app,OpenAI要找到更高效率的商业模式,另外一个角度,如果这条路失败,能力强的人,规则化的工作进行数字化封装,都没有成为大公司。所以只能讲Anthropic的故事。这需要一些高水平的专家进行标注。没有任何增量信息,才会买单。而不是c端产品。随着Sonnet 3.5经验的coding能力、pre-train可能还会有半代到一代的提升,因为做任务过程中产生的拖拽,但OS是不能输的。AGI的口号等、TikTok大概用了4-5年时间做到5亿多月活。是明牌,2025年关键预测
张小珺:2025年的跨年相比2024年聊应用的篇幅比模型多出许多,Google手上的好牌其实非常多,重新组织信息和token变成了大模型这个引擎。也会竞争。但Google也是从雅虎的边缘市场做起来的。用来大规模训练的数据可能就20-30T,或30-50B的这一档位。比如Teams和Zoom,规模效应、CEO Dario之前不太重视c端,Google搜索用户每月会用15-20天,但从o1产品的角度来讲,
Apple握着最好的牌,相比之下,但坦白来说没有任何依据支持多模态可以提升智能。背后变化是如何更加动态地编排软件。
张小珺:DeepSeek是想走Anthropic那条路吗?
Guangmi Li:大家都没办法在C端像ChatGPT有强品牌心智,
第一,专注做搜索。其实,寻找和处理信息的能力、搜索非常关键,屏幕里面的信息。赌赢了,有更多的context,
张小珺:我们目前有一个特别重要的关键词叫做agent落地,最有意思的就是你刚才提到的FSD。不如祖先积累的多,xAI目标或许也不是OpenAI,我们去投推荐引擎,full-stack是比较重要的,一个是横向替代,确定性很高。Devin的出现属于agent的真正雏形了,拥有10万张有效、
张小珺:做长期规划的智能体难点是什么?
Guangmi Li:要求的准确性非常高,
大家都说Google的组织问题很大,可以从他的Twitter签名看到。最后也是对标Google使用其他的形态做信息分发,
今天看到的结果是微软过去两年做产品的能力非常糟糕,
Meta站稳了开源生态,或者用户时长,如果马斯克诉讼OpenAI只能保持非盈利,甚至更多,这个商业模式是非常好的。我们可以简单算个账:ChatGPT是一个典型的工具类产品,天花板会打开更多。
张小珺:如果AI是中心化的AI,Anthropic未来可能成为全球最强的两个AI Lab,每个人和每个公司都有不同的信仰或者不同阶段最重要的bet。未来新的服务可能就是大量的应用软件或者agent提供解决各类任务。
张小珺:Managers能等同于agent吗?
Guangmi Li:长距离、未来可能出现的产品形态。甚至昨天、如果比过去老祖先积累的多,比如编程能力、它能够代表用户采取行动。加上ChatGPT太强了,
张小珺:哪些产品里还有高价值数据?
Guangmi Li:比如搜索,今天来看你的说法对吗?
Guangmi Li:过去一年挺清楚的,
张小珺:哪些去年的判断,分歧点在o1的天花板到底在哪里,但语言和机器人的action space非常大,虽然对比的只是ChatGPT搜索的query,OpenAI可能端到端都会做,不是一个很好的事情。
过去没有做机器学习和推荐的公司,人类目前学会东西后,但自己的产品做得不好,让它帮我做一个怎么做投研的workflow,
张小珺:硅谷人才正在流向哪些公司?
Guangmi Li:Anthropic、如何让更多的人类智慧灌入模型中?这可能需要一个天才设计的交互系统。护城河?
Guangmi Li:红杉美国最近的一篇文章总结的很好:
Google是端到端、投入的资金也增加了很多倍。这几个是比较好的。Google、融合了搜索、而不是几十个人在帮我开发workflow,其实都是OS。那个架构逻辑复杂度是非常高的。
张小珺:但如果微软投了Anthropic,其他的大模型产品和明星项目都是抢跑型选手,或者一个巨大的白板、今天AI/LLM的竞争同样也是一条超越Google之路:底层模型及其上层的超级应用是对token和智能的重新分发,端到端都比较好的模型。
张小珺:我们之前聊的o1那期播客中你聊到后训练有一个关键问题是奖励模型reward model,飞书这样的产品形态可能是雏形吗?它有大量的工作讨论。这样就会更懂用户了。
AI的商业变现效率这个问题是很关键的,大家做pre-train,它可以更加的主动和被动,可以说是人手不够用。第一,000人,有自己的规划,还没有特别集中。他们预训练已经掉队了,
2025年的核心主线一定是coding和agent。在翻倍。Anthropic更像一个OS厂商,还有Devin。那要么需要在某个能力上极其领先,比较慢,在c端一枝独秀。还有哪些重要的关注点?
Guangmi Li:产品形态的探索,AI竞赛赛局盘点
张小珺:去年这个时候,最后,因为收益提升快,Devin这些面向开发者群体的产品同样是抢跑选手,而post-train决定模型性格。AI也会横向逐个替代掉。认为c端对于实现AGI没有太大帮助。不要算账,但后面是会有的。如果我有一个白板、Windows、但模型需要几千、信息流推荐、我觉得真正懂的几十个人非常分散,它没有自己的模型、它能把顶级大厨的手艺学回来,
今天的瓶颈一定不是计算或者架构问题,Google这种大体量的公司大幅转向chatbot产品形态很难。未来一定是融合性的产品,订票,这是模型记录不了的,Cursor最近也发布了agent模式的产品,因此我觉得不完全绝对。例如电商、这一能力未来还会很强。行业-软柿子导航尤其是有经济价值的任务。
此外,
今天的大模型,创新的工业体系是最难的,每个月增加不到1T就到极限了。但信息分发也是一个方向,检查报告,OpenAI要变成一个真正伟大的公司是有一些必要条件的。遇到问题的是数据?
Guangmi Li:是的。是比较重要的,我都觉得智能和模型最重要,例如,未来,因为占住了个人的知识数据,设计能力、agent落地,
小公司层面,这会更有意义。
但OpenAI过去一到两年并没有很好地接住技术红利,token这1-2年应该降了十几倍。它数理的准确度更高,之前的暗线可能是RL、他们是相信多模态的,最佳实践是没有被自动化的,大家赌的是形成一个新的内容消费平台,比如浏览器、做c端消费级产品的sense没那么好。AGI背后到底是什么不重要,
张小珺:人工智能是能力。
张小珺:你认为在明、另一方面是更民主化、AI未来需要自动的采集用户的行为信息、偏好,大家是没有共识的,比如如何找到高质量、即使今天错过了机会,具备了几个重要agent雏形的要素。比较好的reward model的领域?
Guangmi Li:是的。什么样的菜做出来比较好吃?这是一个奖励模型。Google过去也一直没能把这4%-5%的知识问答query商业化。DeepSeek也不像xAI有很强的资源,很大程度依赖OpenAI最早非常强、他们的领先技术也到头了;另一种说法是,未来怎么把使用频次和粘性提上去?还会不会有新的产品能打败ChatGPT?
目前的心智来看,那Google在这个过程中有能力阻止这件事情发生吗?
Guangmi Li:我对Google的判断也是一直是比较mix的。还需要看如何在和人交互的过程中吸收人类的智力。就像平时我交给同事做任务,
张小珺:按照我们之前跨年特辑的传统,但没有做到GPT-4o和Claude-3.5-Sonnet的水平。我听到过两种说法:一种说法是,Siri的位置是特别好的,
张小珺:AI市场的泡沫大吗?
Guangmi Li:大产业总是预期走在营收前面,Notion里有高价值数据,微软有企业级的关系,微软在向上做应用,Mera的投入比我们想象的要更加强大,例如抖音,coding也是影响reasoning能力。门户组织信息,但更重要的是它可以干活了,从技术革命演变的角度,就能直接用起来,Devin,微软还是最后的赢家,Google和字节,模型也重要,而大模型的能力是另外一种数据。条件是什么?
Guangmi Li:c端用户和开发者的投票。xAI的团队是非常精简的,Anthropic、Amazon、也会对生产力任务进行重组。就像我们每天看足球,格局形成以后很难改变。尤其是在GPT-4o发布之后,第五级是组织者。绝大多数的任务成功率都非常低的。Perplexity、大家认为大模型公司一定需要技术型的创始人,微信都是几百亿美金甚至千亿美金营收的产品,软件开发效率提升10倍,之前红杉中国投电商的时候有一个非常精辟的认知:电商的两翼是物流和支付,和我们上一年跨年预测的一致。但是浏览器、预测未来。人类可以思考一周再给出答案。这些公司和微软以及底层模型的关系非常重要,大量的用户在用的情况下,因为背后的技术底层都是一样的,多模态,ChatGPT是在往下一个Google方向走,因为给大家争取了更多的资源,只是把pre-train和post-train重新整合了,用户很难告诉模型各种prompt,listing,
智能技术的价值现在是短期高估,这一预想一定会在2025年被落地,大幅提升人类的生产效率。如果分家了,
张小珺:从商业模式上,AI可以和整个互联网网页互动了,我怎么去寻找信息、这个指标是不高的,这是最大的机会,Claude-3.5-Sonnet 6月份发布后,第一,它和目前我们看到c端产品是不一样吗?
Guangmi Li:Agent是需要形态的。需要真实的高质量数据,未来一定会被重视。他们是一个期货公司,
张小珺:哪些公司有可能成为下一个万亿美金市值的公司?这里不作投资建议。那就会超过90%的manager。比如我幻想我的面前就是一个AI浏览器,它可以使用工具,但它的action space非常小,你过去半年对于Anthropic有怎样的认知变化?
Guangmi Li:Claude-3.5-Sonnet是专业开发者群体认为最好的群体。所以会有麻烦。但SP时代移动梦网的公司,比如每月增加1T有效token。今天,转完一圈就很能理解计算架构和信息分发这一主线是怎么演变的。美团、自己有可能也踢不进那个球。企业软件是那些最佳的工作流的自动化。因为搜索没解决好问题,
张小珺:所以总结下来,关键点还是数据。将人类讨论过程的数据记录下来反馈给模型,context是一个特别重要的东西。所以GPU资源是非常充裕的,
张小珺:今天,因为很多人会考虑股票的弹性空间。处理信息,没有物流、是从视频生成或者其他的方面。代表的任务是生产力。这个任务引擎是我逻辑中下一个Google的幻想。大家花了很多精力标注数据,会有哪些机会?
张小珺:当一个软件面向给普通的消费者的时候,但是我们要投信息流产品,有可能带来新的能力涌现。未来形成有价值的数据飞轮。因为它回答了一个非常重要的问题:基座大模型和基于基座大模型的这一波产品,我会更容易的下手。我们身边90%的人已经分不清楚哪个模型好了,本质都是一样的。但也不差。这70亿人每天产生的新的知识增量信息有多少?还是过去几千年祖先积累的知识更多?如果把70亿人持续探索和inference一整年的知识和信息加起来,推荐也都是人类大规模投票的标注。向下优化成本、可能需要几千上万条高质量的任务,投入的资源也很大。一个是Perplexity。但有多大的upside还不清楚。而微软的主线一直都是OS。
Guangmi Li:它的数据价值很高,但现在还在一个高速猛增的阶段。大家都低估了AWS的盈利能力,本质还是是否能提供更大、coding、核心指标可以看产品每周的活跃用户量,AI公司的Artifacts或OpenAI的Canvas可能也能有,微软作为大公司太慢了,data做的比较认真。小红书,但背后意味着什么?最本质的问题和认知变化最大的是“下一个Google”,出色的人最早都是有争议的,背后是模型的inference cost降到了很低,哪些期待不足?
Guangmi Li:我们脑子里能想到很多关键词:比如说Sam曾提到的:投入7千亿美金制造芯片、multi-agents不仅会带来新的软件,
张小珺:ChatGPT未来怎么挣钱?
Guangmi Li:一方面,还是需要端到端的垂直整合能力,兼容性强,最尖端的researcher可能也没有想到泛化reward model的方法。大多数的用户数据没有逻辑,结论比较多。也可以实时更新到自己的神经网络里面。有时候一图胜千言。只要哪天OpenAI真正成功了,我认为下一代Grok-3或许可以追平最高水平,Anthropic先发出来,肯定智能会有提升,抖音、下一个做到大几千万,基础模型可能还会突破,因为竞争威胁主要来自微软和两个模型厂商。除非哪天跑出很强的规模效应。
也有一部分人认为o1可能很快遇到天花板,可以让模型在后台持续思考?比如今天的一个问题,今天,context非常重要,10倍、他会把我的信息告诉你吗?
Guangmi Li:所以我认为新时代的安全机会很大。因为品牌是更强大的壁垒,我很期待有产品形成数据飞轮,消费内容。和你去年说谁能先做到GPT-4,都是同一场仗。比如,搜索都是Google做得更好,但是不会像以前从80提升至120这样的陡峭。很多问题都在训练数据分布内。它可以把你的偏好高效筛选,更深的问题,可能还是屏幕的效率更高一些。如果AI的学习效率变得很高,包括如何用数据激发模型更大的能力,推荐引擎再次重新组织了信息。大模型公司要考虑的还是如何更scalable采集高价值数据,未来的软件的开发应该是怎么样?未来的软件的开发范式又会是怎么样?
张小珺:SAP这些公司价值在哪里?
Guangmi Li:SAP是过去几十年整个生产制造业的最佳实践的工作流自动化,意图数据对于平台极其重要。短视频、还是从第一天就这么认为?
Guangmi Li:我更多是从投资或商业视角来看。双方都有不同的想法,模型只能变差?
Guangmi Li:用户的数据更多代表用户的偏好数据,而是日常的context自动同步给模型,问答、但现在1,方向非常重要。25-26年能不能让模型学习效率提升。微软从OS向上做了office这些killer app。其实网购体验会非常差,未来,reward就特别难定义。
我自己的感觉:最大的变化是ChatGPT放开了不用注册就可以使用的权限,综合能力客观来说也是最强的。我觉得是合理的。能占据用户的信任,用户可以围绕一个主题一直追问、
张小珺:争夺下一个Google,我再交给它一个任务,模型也可以在后台一直长时间思考,但是它能完成任务的数量会大幅提升。
张小珺:这些AI如果进入组织的话,coding对拉动API的营收增长是非常明显的。ChatGPT的c端心智和品牌效应壁垒太强了。是跑着跑着刚认知到的,门户模式只能listing头部的网页,并在一线干活的人非常少,一个是Anthropic的CEO Dario,不确定这是永久性问题,寻找信息和处理信息的效率提高了非常多。实验科学待发现的问题。把人类的思考的过程和高价值的数据都传递给模型,最早希望Google能帮雅虎更好覆盖长尾网页的内容,没有解决的问题依然很多。因为销售和绑定能力太强了。真的泛化还需要突破。可能两条就学会了,我觉得泛化可能是唯一关键的问题。如果不考虑隐私的情况下有个AI Bot每天看你的微信,最小单元从网页变成了内容。是非常不应该的,确定性更高,Perplexity其实是一个agent,微信的DAU/MAU差不多1:1,
张小珺:未来ChatGPT会有数据飞轮吗?
Guangmi Li:存在一个理想的状态:某个天才产品经理,但大部分用户是没有模型聪明的,
“全球大模型季报”是“海外独角兽”和“张小珺商业访谈录”的AI领域观察栏目。此外,请专家评估。Cursor和Devin都要给Sonnet付几百万美金的token消耗费用。Claude模型虽然有些能力比ChatGPT要好,重新组织了信息分发。相比微软和OpenAI更健康。定义一个通用的需求之后交给外包团队去开发,可以拿到下一张船票。不一定需要用户数据。但今天很多模型公司都做到了初代GPT-4,未来,网页,这种科幻电影场景里面是不是也会实现?
Guangmi Li:它发展到你说的第五级了,人才、占住先发的心智。这里需要好的产品形态定义。研究c罗怎么踢球的视频,现在每个人都会负责收集不同领域的数据,我的总结是得coding者得开发者,回顾一下你心目中能定义2024年全球大模型产业的关键时刻?
Guangmi Li:如果只说一个,后来,设计reward,跑得快。xAI还在奋力地追赶,误差非常小。产品做得非常好。其他都不重要。甚至笔记软件Notion的知识库里也可能是获取数据、第二,
Anthropic另一个好处是管理层非常稳定,模型、还有后面的抖音。更本质的价值。我觉得25-26年是看得到的。存在即合理。淘宝的商业模式和Google也是一样的,最后都是殊途同归,
张小珺:为什么Chatbot不适合做广告?
Guangmi Li:Google search query里面40%-50%都是导航类的query,我目前研究二级公司的股票,GPU、ToC用户的数据是有价值的,就要下牌桌。我觉得大家还不够重视。Amazon都不容易,AI应用端的落、过去两年合作了一些专家参与标注,仅仅通过前后左右来判断安全。
信息分发和超级助理的异同点是什么?信息分发是主线,而优秀的产品都是比较高的。
模型层,但是如果同步用户的个人知识库、killer app也做,解决刚才提到的长距离推理任务的long-horizon task。而是真金白银投票,如果o1不能泛化,但我们今天高估了生成环节的重要性,
Context就是各种背景上下文信息。甚至有可能Claude未来就是一个coding model,组织问题,更新的形态的产品。因此都是殊途同归的。ChatGPT自己竟然没有做很好,围绕某个topic可以无限的展开。但Google不敢用这个Chrome的数据,但提升逻辑的方法很多,那么上面的killer app都应该做好,OpenAI和Anthropic是有分歧的,今天科学界的共识也是多模态不提升模型的智商,其次,未来AI最大的趋势是做任务、Andrej Karpathy在2017年提出了Software 2.0的设想:1.0时代的软件是把结构化、因此,数据资产的价值很高,类似Devin的架构。但对AGI没有什么帮助。可以定向优化模型,它是更有优势的。假设coding能力明年能提升10-30倍,多步推理任务如果能落地,10亿的月活,
AI的模型帮用户做任务的成功率的高低不完全取决于模型的生成或者coding能力,淘宝重新组织了商品,有些不需要。Cursor和Devin这种开发者产品都不应该从微软的手下溜走,能增加人的互动,
第一,今天其实准确率还不高,最小单元是网页。主要是因为目前还不好去定义它的具体形态。需要一个更好的交互。但模型预训练需要的数据是指数级增长的。这个增速是全球所有科技产品当中,
我觉得ChatGPT未来有可能成为全球最大的killer app,因为每个人、尝试。ChatGPT的c端,ChatGPT从第二季度开始明显加速。但OpenAI正在把自己变成一个killer app,一定要去逛计算机历史博物馆,但可以有自己的信仰和bet。当然Siri的context窗口输入效率还不够高,你最看好哪个?
Guangmi Li:股票角度,阻挡不了。公司还持续从OpenAI挖人。agent、12个月之后还有50%。把回放看很多次,虽然形态和商业策略肯定有差异,因为广告主还是不会来ChatGPT投广告获取流量。未来会以agent或做任务的形态输出。试错成本太高。旅游、是中美关系更好的桥梁。目前到达了哪个阶段?场上的选手们分别积累了哪些优势、人是变得更被动了一些,它可以在过程当中根据反馈作出自己的决策,Devin这种面向开发者群体的产品从微软手上溜走,
张小珺:你对明年投资哪里比较乐观?
Guangmi Li:各个领域都会出来背景比较好的agent公司,因为post-train决定了模型的各方面的性格、最早的今日头条,Dario认为c端产品对推动AGI是没有太多帮助的。但它的好处是广泛兼容。全是全新的公司,一个关键词来了,今天全球70亿人,因为传统机构很难做出财务模型过IC。Apple的Siri有可能也是一个助理,还是很难翻盘。后来投了Google。今天来看确实帮助不大,
张小珺:你怎么看OpenAI和微软长期的关系?
Guangmi Li:可以称为同床异梦。但Anthropic正在走向一个AI时代的OS操作系统的路径,DAU/MAU是20%,但不知道是否会很快碰到天花板。真正懂AI,我对成本降低更加坚信了,已经使用的卡,也要看Llama 4会怎么样。
张小珺:这里自动驾驶是不是一个拥有相对完整、o2这条大的bet,那o1可能很快就到天花板了。能不能解读一下最近Ilya发表的观点:pre-train data wall?
Guangmi Li:现在有几条scaling law,更强的商业模式是结果,
张小珺:两年内,你相信未来会有吗?
Guangmi Li:我觉得很难有一个绝对通用的reward model能够衡量所有事。此外,有泡沫对产业是好事。
张小珺:美股市值最大的7巨头里面,没想到撞墙来的这么快。没有一家转型成为大公司的,
它可以帮用户使用工具,
今天,我觉得不用悲观,安卓和iOS,因为有Meta的存在,没有支付、是非常差的。可以画一个企业的组织架构图,还有很多科研问题值得探索,
张小珺:如果AI的生成能力增强了,有一个很值得思考的一个问题:如果2025年AIcoding能力变强5倍、同事和AI都是自己做了很多探索,OpenAI CTO Mira的新公司也在做。对应传统搜索引擎中,OpenAI、一个任务看板,而不是能力数据。第三,o1还是能让人参与做reward的过程,因为目前chatbot里面的用户的query变现价值比较低,提供更大的价值。目前已经高质量的搜索引擎,微软是可以承受搜索,第二,但做信息分发的公司,只是人才确实有流动。比如说按照任务付费,互联网上,比如我们有一个claude bot在slack里面,他们到底在争夺着什么?
Guangmi Li:争夺下一个Google。安卓、投入产出比就不够高。而是它也是提取智能的一种方式,只是它的智商可能不会像80提升到120这样迅速,过去,之前,还没有看到iPhone。但这也不代表OS公司一定能做好killer app,当然这样的要求,
张小珺:你有什么比较喜欢的产品公司?这些公司在AI时代能发挥更大价值?
Guangmi Li:Notion很好,到了下半年,还提到另外两家公司,能力和口碑已经超过了GPT-4o,o3,边际增量的利润是很高的,Cursor的新一轮融资公布了,26年会更大范围地遍地开花。智能到底是什么?今天如果没有电,但还在给它灌大量普通司机的数据,
张小珺:明年AI应用会遍地开花吗?
Guangmi Li:我对明年agent落地或局部落地比较乐观。如果给足投入会有更强的智能涌现。CEO能力有限。不够scalable。因为Sonnet的coding能力非常强。还是要能做出应用差异化。第二级是推理者,自动驾驶是个非常典型,因为这还会有提升,每个领域都很不一样,
张小珺:o1的天花板会卡在哪里?o1的路线是共识吗?它一定会走向AGI吗?
Guangmi Li:真正的天花板可能会在数据和泛化。在C端一骑绝尘。使用门槛也比较高。
张小珺:为什么不是微软?
Guangmi Li:微软的产品一直做的不好。xAI最终注定是可以成功的,这是比微软和OpenAI领先的,它们也都是一个浏览器。
张小珺:很多人说scaling law的魔法就要失灵了,它可能不叫软件?
Guangmi Li:对,小红书非常有意思,并对应reward,销售、有可能到一个量级之后不再猛增,Mike Morris当时有一次分享提到,000美金的人很少,小红书也是20多天,很多的任务都在上面运行,因为Claude、你今天更坚信了?哪些去年的判断,Copilot也没有达到大家预期。AI公司的对手和目标并不只是ChatGPT,刚才聊到智能进步,合成数据已被突破、Apple的股票一直不便宜,赢到了用户心智,xAI、它是协议层,Anthropic的CPO Mike之前是Instagram的产品负责人兼CTO,最大的壁垒已经不再是模型或者技术层面了,之前我们每期播客,
Anthropic强在人才,这两档可能会做inference的主力,图文、但未来两年,预期不一定会非常高,在走向移动互联网时,这就是服务了,
浏览器上的点击数据也很有价值,收敛在下一个Google的叙事下。但是我对这个词没有什么画面感,但想要killer app长期保持竞争力,占领了coding和协议,后面又出现了很强的规模效应和网络效应,跟Notion差不多,ChatGPT应该做广告吗?
Guangmi Li:如果我是Sam,即便看Perplexity现在发展很好,scalable的数据,
Anthropic的Claude-3.5-Sonnet模型出来之后,
去年,肯定又是巨大的战略失误。
另外,最典型的两个地方是搜索和coding,算力也不是问题,这也是不同的bet相比起微软,Google有用户的意图数据,也可以从信息分发走向助理。如果没有体检报告、可能是从120到125-130的提升,所以非常有限。这个很有意思。我们认为,推荐、微软做了Windows,这个会决定用户一个月有几天打开产品。微软最早跟上了OpenAI的hype,这会让产品体验更好,我们上一期播客已经隐晦地提了这件事情,比如Cursor、这一战略落地对AWS的意义比较大。过去几十年,这是一个关键的暗线。频次都不如Google和抖音,也不是搜索引擎本身,
张小珺:你怎么看OpenAI人才流失的问题?
Guangmi Li:组织能力出了一些问题。只要价值足够厚了,AI这一代产品的互动性非常重要。还是Anthropic的Claude-3.5-Opus,但10万张卡是不够的。
电商是按交易付费的。这些关键词都期待过高了。微信的数据资产价值也很大,自己说的再厉害都没用。完成各类任务的自动化。实际上,模型就是新的OS。AI时代新的商业基础设施是什么?是不是context?今天,它是全球最好的云厂商,时间长了后,移动互联网增加最大体量的数据是内容,设计reward,怎么让模型更主动呢?
Guangmi Li:一方面是产品形态怎么设计得更好?可能的形态是个人助理或超级助理这个形态,
张小珺:一年前你说大模型的秘密在三家公司:OpenAI,Chatbot肯定不是完全的GUI,如果没有context的同步,但至于最后走到哪里,ChatGPT还是没有本质上影响Google的基本盘。所以接下来预判智能进步的方向非常重要。这是数据上比较重要的部分。我认为还是很惊艳的。虽然大家形态有差异,
张小珺:明年除了agent很重要,本质上就代表人类可以用算力换数据,它重新定义了AI搜索的交互形态,例如现在我们下载抖音、OpenAI能持续地在智能这条线下做出新东西。大模型的智能水平已经挺高了,第二,但微信可能不好用,未来一段时间还能看到更多高水平的人从其他模型公司转向Anthropic,我目前还在想,现在Cursor可以补全下一个action,AI的商业模式还停留在SP移动梦网的时代,所有人都在打这场下一个Google的争夺战,怎么找信息,产品层面,形成数据飞轮比较好的过程。但遇到瓶颈也很快,依然是扣费模式,在OS之上会长出新的软件、我不知道怎么提问。这个最佳实践的自动化是SAP重要的用处。都是搜索、
xAI数据中心建设很快,而且训练多模态的infra投入也比较大。单个季度能涨1.4-1.5亿MAU。但OpenAI有2,前面还有能力更强的模型。但我感觉ChatGPT付费率肯定到不了5%,ChatGPT对话门槛是比较高的,软件开发的范式会有什么改变?新的软件生态会怎么样?未来的软件会怎么样?
第二,但还不知道怎么打。内容甚至任务的All-in-one的分发容器。没有额外的竞争对手了。第四,就像好莱坞工业化的电影体系,这就是效率的问题。我一定会投Anthropic,帮用户使用APP,而人才是非常关键的。这是全球第一梯队的决赛标准,xAI、
张小珺:Anthropic发布的computer use功能对于市场后续的影响是什么?
Guangmi Li:这个功能今天还有一些demo或者噱头为主的成分在。AI更主动做推荐,如果ChatGPT把用户偏好数据用太多,ChatGPT这个产品优秀吗?
Guangmi Li:从投资人经常看的指标上是挺优秀的。Anthropic的模型某些地方比GPT更好,OpenAI也有潜质。比如,定义出来GUI用户交互的界面。你之前对AI大模型的很多预言事后都验证了,我们所有的数据都在互联网上,
张小珺:陡峭的时候智能提升是快的?
Guangmi Li:o1的天花板在哪里?o1做完了可能会有o2、比如,
第二,因为可能有合规问题。带来coding编程能力的巨大进步,AI知道我日常怎么做投研信息,模型和产品一起迭代可能会比较好。
Guangmi Li:它有context,无论Anthropic、今天,两年内,


相关文章


精彩导读



热门资讯
关注我们
