52g17c

电脑版下载

75466
8

52g17c截图Q8X2R7L1T4J5M9B6W3

内容详情

52g17c

智工具编译陈骏达编辑 Panken

智工具1月23日新闻，昨天，由着名媒体人和作家Ashlee Vance主理的Core Memory播客，宣布了对OpenAI前研究副总裁Jerry Tworek的深度专访。今年1月初决议脱离的OpenAI的Tworek分享了一个要害洞察：随着竞争加剧与组织急速膨胀，OpenAI正逐渐陷入一种难以再肩负真正高危害研究的结构性逆境，一些前沿立异的研究偏向，已经难以在OpenAI内部推进。

在正式进入访谈内容前，我们有须要相识下Tworek的传奇履历。Tworek是OpenAI元老级成员，2019年便加入该公司。他是OpenAI推理模子o1、o3背后的要害人物，将强化学习做到了极致，也让强化学习、推理模子真正进入了主流视野。别的，Tworek还在编程和Agent领域颇有建树。

今年1月7日，Tworek在X平台上分享了自己去职的新闻，谈论区涌入了诸多OpenAI大佬，言语间全是不舍之情。

这场访谈长达70分钟，实录近2万字，智工具梳理出Tworek分享的八大概害洞察：

1、OpenAI的立异逆境：本钱、增添压力等多重因素影响了OpenAI对危害的“胃口”，同时该公司尚未找到优异的跨团队的研究协作模式。

2、谷歌崛起：与其说是谷歌“回归”，不如说是OpenAI自己犯了过失，没能充分掌握住自己的领先优势。OpenAI本应该一连领先。

3、行业弊�。�5家头部AI公司路径完全趋同，研究员想在主流机械学习范式之外做点差别的事情，险些找不到合适的地方，这令人沮丧。

4、人才争取战：人才争取战已演酿成一场胰子剧，有些人频仍地替换事情，而真正投入到事情的时间未几。

5、立异引擎：明星AI研究员并不是驱动立异的焦点因素，公司自己能否打造小我私家责任感强、允许探索和做大事的情形，可能更为要害。

6、什么阻碍了立异：阻碍AI Lab研究的因素不是算力欠缺，而是缺乏专注。对OpenAI来说，“集中实力办大事”已经变得有些难题。

7、AGI时间表：现在AGI仍然缺失要害拼图，架构立异与一连学习是两大主要偏向，但AGI将会在2029年左右实现。

8、强化学习的回归：科学史已经重复证实，好的想法往往会卷土重来，判断一个想法是否主要并不难，难的是判断它什么时间会变得主要。

以下是访谈内容的完整编译：

一、竞争强烈、组织膨胀，OpenAI的立异逆境

主持人：你的去职声明写得很好，充满情绪。你在OpenAI履历了很是主要的一段时间，见证了重大的转变。那种感受怎么样？

Jerry Tworek：在OpenAI的每一年，都是一家完全差别的公司。公司自己的高速生长，以及整个AI天下的转变。

这种履历我以为在人类历史上都很少见。我很庆幸自己能亲自履历这一切。正如我之前说的，每一个阶段都完全差别。

主持人：OpenAI在2019年时或许只有30小我私家？现在已经是几千人了吧？

Jerry Tworek：说真话，很难统计清晰。全球多地办公室，遍布天下各地。现在险些找不到没听说过OpenAI的人了。而我刚加入的时间，只是几个小团队，各自做着自己的研究项目。

但有一件事始终没变——OpenAI的野心。从一最先就瞄准AGI，想真正改变天下，并且带来正面的影响。而通过ChatGPT，把智能和适用性真正分发给了全球用户，我以为这是一件很是了不起的事情。

主持人：以是你发了那条推文之后，是不是全球所有基础模子实验室都来找你了？

Jerry Tworek：确实有许多。我现在也在思索下一步该做什么。在这个行业这么多年，我已经熟悉了许多人。我并不急着做决议。

我已经一连高强度事情许多年了，甚至没太多时间好好和人谈天。现在正好可以慢下来，想一想：接下来的七年，我想怎么度过。但确实，我正在和许多人交流。

主持人：你在推文里提到，你想做一些在OpenAI没法做的研究。能详细说说吗？

Jerry Tworek：目今，在全球规模内争取“最佳AI模子”的竞争异常强烈且严苛。想要坚持竞争力，公司在运营的多个层面都面临着极大的挑战。

其中一个焦点问题在于危害肩负的意愿：从阻止落伍的角度出发，公司自然会被迫思索，事实愿意肩负多大的危害。无论是用户增添指标，照旧一连支付高昂的GPU本钱，现实都极其残酷。

也正因云云，一连展示实力、一直推出最强模子，对所有人而言都变得至关主要。这是当下险些所有主要AI公司配合面临的处境，而这种压力无疑会影响一家机构对危害的“胃口”。

另一组同样难以权衡的因向来自组织结构。公司有其组织架构图，而组织架构往往在很洪流平上决议了你能够开展什么样的研究：每个团队都需要明确的身份认同、研究界线以及其专注解决的问题荟萃。

跨组织的研究往往异常难题，而怎样在大规模条件下高效地组织研究，这个问题可能还没有被真正解决。

研究自己偏好活力，甚至可以说偏好某种水平的杂乱；而大型组织却需要秩序、结构与清晰的分工。这正是为什么“你最终交付的是你的组织架构图”这一说法云云盛行：研究事情往往会演酿成那些最适合现有职员设置的项目。

我也正是在这种配景下意识到，有一些我真正想做的研究偏向，并不是OpenAI目今的组织架构所能支持的。

二、Transformer肯定不是最终形态，有许多路径尚未获得系统性实践

主持人：我曾在播客里和Mark Chen（OpenAI首席研究官）聊过这个问题——险些所有人都在向他（以及Jakub，OpenAI首席科学家）提出自己的想法。OpenAI简直有一个优良古板：愿意肩负危害，愿意去做一些其他实验室不敢做的事情。

但现实是，无论群集了几多智慧人，资源已相当可观，这终究是一家资源有限的公司。它必需做出重大的取舍：哪些偏向值得投入，哪些现在还无法肩负本钱。

而真正足够新颖的路径，往往恰恰是那种让人犹豫的偏向——我们不知道现在该不应走，也不知道钱包是否肩负得起。

Jerry Tworek：关于Ilya提出的“研究时代”这一看法，我不确定它是否像他所形貌的那样非此即彼，但我确信，在AI和机械学习领域，仍然保存大宗尚未被充分探索的可能性。

六年前，我们选定了Transformer架构，以后人们一直对其举行Scaling，并且效果显著。路径很是清晰：每个季度训练更大的模子，使用更多盘算资源和数据，而前进似乎从未真正障碍。

但问题在于：这就是所有了吗？这是最终形态吗？我相当确定不是。模子仍然可以通过多种方法刷新，而其中许多路径至今尚未被系统性地实践。

正如你提到的，我曾在推理和强化学习扩展方面投入大宗事情。在那之前，整个领域险些把所有赌注都押在了Transformer预训练的Scaling上。

这种方法确实有用：每一次预训练都可以打造出更强的模子，其能力都会周全提升，各项评测指标也随之改善。因此，人们很容易得出结论：只要一直扩展预训练，模子就会一连变好。

但厥后，一些研究者最先相信，我们能做的不止于此。他们实验证实：若是在语言模子之上，以与预训练相当的盘算规模去扩展强化学习，就能教会模子一些仅靠预训练永远无法获得的能力。

正是由于这种探索，我们今天才拥有了这些能够自动化重大使命、显著降低盘算与数据需求的智能系一切。一旦发明新的扩展路径，就能解锁全新的能力，而若是只沿着预训练的扩展定律前进，这些能力可能需要极其漫长的时间才华泛起。

在我看来，自GPT-4宣布以来，推理模子代表了一次真正重大的能力跃迁。而我也坚信，类似这样的突破并非孤例。研究者不应只知足于渐进式刷新，更应一连思索怎样从基础上改变游戏规则。

三、头部AI玩家路径趋同，这是件令人遗憾的事儿

主持人：去年在NeurIPS上，Ilya提到“我们正在耗尽数据”，体现预训练终将触及瓶颈。

Jerry Tworek：我并不以为这意味着预训练即将终结，它仍然在一连刷新，也依然有许多优化空间。但预训练并不是提升模子能力的唯一方法，并且在许多情形下，它提升得非�；郝�。其他要领，或许能更快地推动能力跃迁。

主持人：硅谷恒久保存一种有趣的征象：科技公司往往会提出一些在外界看来怪异、甚至离经叛道的想法，而正是这些想法催生了真正倾覆性的立异。

但一旦某条路径被证实是乐成的，时势就会迅速反转，形成强烈的共识，所有人最先沿着统一偏向竞赛。

这正是我们目今所处的阶段。模子竞赛已经一连了两三年，险些所有主要实验室都在做统一件事。你以为这是个问题吗？

Jerry Tworek：我对此感应相当、相当遗憾，险些所有公司都在做和OpenAI一样的事儿。OpenAI无疑取得了重大乐成，做对了更多事儿，引领了扩展Transformer的范式，也证实晰大规模模子能够为天下创立真实而普遍的价值。

但现在，有几多公司在做着险些一模一样的事情？竞争虽然有其价值，但我们现在或许有五家严肃的AI公司，使用险些相同的手艺配方，在统一手艺基础上构建略有差别的产品。

也许这是准确的路径，但我仍然希望看到更多多样性，模子之间真正的差别，而不但是细小的调优。

若是你视察当下最顶级的模子，很少有人能真正区分它们之间的差别�；蛐砦颐怯Ω镁傩懈嗝げ猓喝糜没в氩畋鹉Ｗ佣曰�，看看他们是否能区分出差别。

我嫌疑99.9%的用户做不到。这些模子在体验上极其相似，即便它们来自差别团队、接纳了略有差别的手艺选择。在这样的情形中，真正的探索在那里？真正的立异，以及与他人区脱离来的能力，又在那里？

四、与OpenAI已泛起实质性不同，脱离比委屈相助更康健

主持人：我问一个有些尖锐的问题：你在OpenAI内外都被视为传奇人物，加入的项目乐成率极高。若是连你这样的人，都以为自己真正想做的事情在公司内部难以推进——无论公司是否明确阻挡，这种阻力自己就已经保存。

关于一家最初以研究实验室起身的公司而言，这是否是一个值得小心的信号？

Jerry Tworek：我的看法是，有时间人们会生长到某个阶段，需要与已往分道扬镳。对一家公司及其成员来说，就目的和前进偏向告竣一致极其主要。

而在某个时刻，我意识到自己对未来研究蹊径的看法，与OpenAI所选择的偏向在某种实质性层面上泛起了不同。在这种情形下，脱离也许比委屈相助要更康健。

正因云云，我也以为，若是差别公司能够真正专注于差别的事情，行业会因此变得更好。专注对一家公司而言至关主要，而OpenAI很可能正在做所有准确的事情。

也许只是我怀抱了一些不切现实的梦想。我是一个相对乐观的人，我相信天下上始终尚有许多差别的事情可以去做，这在原则上完全是可能的。

要害在于专注，把真正焦点的事情做到极致。事实上，许多事情、许多公司，只有做到这一点，才华生涯下来并进入下一个阶段。

在一个理想的天下里，应该保存大宗做着差别事情的公司。尤其是对研究职员而言，他们很难在一个自己并不真正相信的研究偏向上恒久投入。他们理应能够找到一个地方，在那里从事自己最深信的研究，并让时间来磨练其价值。

也正由于云云，我对现在险些所有公司都在做同样的事情绪应有些难过。现实是，若是你想在主流机械学习范式之外做点差别的事情，险些找不到合适的地方。这可能是现在让我最沮丧的一点。

主持人：当你最先认真思索“下一步要做什么”时，这种同质化的问题会变得尤为显着。若是所有实验室都在做同样的事，你自然也不会以为自己只是换一家大实验室就能获得真正差别的空间。

Jerry Tworek：我确着实思索人生的下一个阶段，但若是天下上能有更多选择，让人可以稍微偏离主流，去做一些不那么热门、但可能同样主要的事情，那会让我更开心，也更容易做出决议。

主持人：这就引出了一个问题：我们究竟需要什么，才华真正偏离主流？

一个投入了云云多资金和资源、又处在聚光灯下的公司，会本能地畏惧肩负危害。但问题在于，这些危害也许恰恰是须要的。那么，事实需要改变什么？这种状态未来会不会爆发改变？

Jerry Tworek：有趣的是，我小我私家着实很是喜欢冒险，别人也常这样形容我。冒险自己是一件好事。

但当危害和巨额资金绑定在一起时，愿意、也有能力肩负这种危害的人就会变得极其希罕。危害遭受能力是一种高度小我私家化、极其奇异的特质。我与许多人共事过，深切体会到这一点。

我至心以为，人们本该更愿意肩负危害，去实验更多差别的事情。尤其是研究职员这一群体——现在AI领域的薪酬水平已经相当夸张了，而这反而可能带来一种副作用：人们变得不肯意失去事情，不肯意履历糟糕的绩效周期。于是，他们更倾向于追逐短期回报。

许多研究职员自己很是智慧、也很有想法，只是整个系统的激励机制过于短视�？汕∏∈茄芯恐霸�，才最应该被勉励去冒险、去做大胆的实验——由于真正的前进，正是这样爆发的。

五、算力门槛正阻碍立异，“探索与使用”的权衡是要害问题

主持人：虽然，我们也看到了一些例子。好比游戏教父John Carmack，他去了达拉斯的“窟窿”，一度险些是单独事情，现在可能也只有少少数员工。Carmack说过：“也许我未必能做出真正差别的工具，但至少应该有人在认真实验一条完全差别的路径。”

我也和Ilya聊过，不过我并不清晰他详细在研究什么。以是我无法判断，他的事情是在延续已往的偏向，照旧某种越发激进的实验。但可以肯定的是，若是他不以为那是一条差别的蹊径，就不会去筹集那么多资金来做这件事。杨立昆显然也有与主流差别的理念。

这正是让我以为这个领域很是有趣的地方。AI在某种意义上是一个很是古老的领域，可以追溯到几十年前；但当下这套主流范式，着实是相对较新的。当我和研究职员交流时，他们仍然会说：“只要把主要论文都读一遍，很快就能跟上进度。”

可我时�；嵯�，会不会有某小我私家，突然带着一个极其激进、全新的想法泛起，彻底推动整个领域向前？现在这件事似乎变得更难了，由于你可能需要一个州那么大的数据中心来支持实验。

Jerry Tworek：这是一个重大的资源门槛，也确实让问题变得越发棘手。但这同样是一个值得认真思索、试图解决的问题。

天下上有大宗学术研究在举行，许多学生在做种种各样的探索，但其中绝大大都都严重缺乏资源。效果是，许多原本可能很有潜力的研究，最终不了了之，由于真正要害的研究往往需要大规模实验。

也正因云云，我对当下的一个趋势感应很是欣慰：确实有相当多的资金最先流向那些支持新颖、激进想法的实验。像Carmack、Ilya、杨立昆这样的人，正是当下应该保存、也应该被资助的工具。

显然，并不是所有实验都会乐成，但其中一些一定会——天下上的立异正是以这种方法爆发的。

在强化学习领域，“探索与使用”的权衡早已是一个经典看法。即即是我们在优化智能体时，也始终面临这个问题：是选择那些已被验证有用、乐成路径明确的战略，照旧实验全新的要领，用差别的方法解决旧问题？

这是一个艰难但无法回避的权衡。当我们思索智能体该怎样行动时，也许同样应该反思我们自己是怎样做选择的。

主持人：至于谁人由顶尖AI研究者组成的小圈子，人们是否真的清晰Carmack在做什么？

Jerry Tworek：说真话，我并不完全清晰。我的印象是，他正在鼎力大举押注于通过鼠标和键盘，在电子游戏中举行端到端的强化学习。若是我没记错的话，大致是这样。

而这恰恰让我以为很是有意思。恒久以来，我一直以为电子游戏是训练智能的绝佳情形之一。游戏是为人类大脑设计的，要让人类以为有趣，它们融合了故事、权力理想、解谜和问题解决，必需一连坚持新鲜感，不可变得重复。

从某种意义上说，电子游戏是为人类认知量身定制的学习情形，而问题解决这样的能力，正是我们希望智能体具备的能力。

但我们至今还没有真正智慧的模子，能够在这种高频、多模态的情形中稳固运行。这也许袒露了某些架构层面的限制。但我依然以为，在电子游戏上训练AI，是一件很是有远景的事情。

强化学习之父Richard Sutton已往做过大宗相关事情，不但是电子游戏，尚有扑克等重大博弈。我曾去过他的实验室。虽然，他昔时的游戏情形，比我们厥后在OpenAI让模子玩Dota时要简朴得多。DeepMind CEO Demis Hassabis也一直在坚持类似的想法。

六、好的想法，往往会卷土重来

主持人：有趣的是，这些思绪曾一度被以为“过时”。在ChatGPT时代，它们看起来不像是主流偏向。

Jerry Tworek：科学史重复告诉我们：好的想法往往会卷土重来。判断一个想法是否主要并不难，难的是判断它什么时间会变得主要。

七年前我刚加入OpenAI时，基于游戏的强化学习是绝对的热门。我们解决了Dota、《星际争霸》。其时DeepMind的AlphaGo更是一个里程碑。

但这些模子有一个很是显着的问题：它们险些没有天下知识。它们只是在从零最先学习怎样玩某一个游戏，而并不真正明确我们的天下。

显然，这不是准确的路径。模子首先需要对现实天下形成高条理的明确，而不但仅是对像素作出反应。从零最先的强化学习，更像是一种“蜥蜴脑”或“猴脑”的学习方法。我们真正希望的是让模子具备更笼统的看法结构。

而经由多年大规模预训练，我们终于获得了对天下极其富厚、稳固的表征。现在，是时间在此基础上重新引入强化学习了。推理模子的真正魔力，正是在于：它们在一个强盛的天下表征之上，通过强化学习构建能力层级。这才是未来的偏向。

主持人：至于天下模子，谷歌做过相关探索，杨立昆和李飞飞的研究在某种水平上也指向这一偏向。我们作为婴儿并不是生涯在黑箱中，而是通过一直试探来明确天下。以是，将天下模子与强化学习连系，在我看来是很是合理的。

Jerry Tworek：这个想法显然是准确的。真正有趣的地方在于，我们怎样将天下模子的表征构建与强化学习连系起来。强化学习用于教会模子种种手艺，而这些手艺正是模子在现实天下中运作所必需的——它付与模子实现自身目的的能力。

然而，要想实现目的，模子首先必需明确自己所处的天下；只有在具备这种明确之后，它才华形成有用的妄想与战略。这正是为什么天下模子与强化学习必需协同生长的缘故原由。一旦有人能够在一个训练优异的天下模子之上乐成地举行强化学习，那将会是一个极其令人振奋、具有里程碑意义的时刻。

七、架构立异与一连学习是两大偏向，AGI仍然缺失要害拼图

主持人：你现在对什么最感兴趣？

Jerry Tworek：总体上，我以为简朴地去重复实验室里已经在做的事情，着实意义不大。在现有的范式和设置中，仍然有许多可以调解、可以刷新的地方，但有两个偏向，我以为要么被显着低估了，要么至少没有获得足够的资源去真正推进。

第一个偏向是架构层面的立异。我们在Transformer架构上几多有些过于固步自封了。它无疑是一个伟大的架构，也已经被极其深入地探索过。

人们在对Transformer举行局部刷新、试图通过一些小的结构调解来进一步提升它时，确实遇到了不少难题，虽然，也有一些相当乐成的实验——好比希罕性显然就很是乐成，种种降低注重力机制盘算本钱的要领也取得了不错的效果。

但问题是：Transformer会是机械学习的最终架构吗？显然不会。只管Transformer的提出者们做了极其精彩的事情，险些界说了接下来十年机械学习的生长名堂，但事情远不止于此。

一定还保存其他训练大模子的要领——它们可能看起来有点像Transformer，也可能完全不像。这是一个很是值得投入精神去探索的问题。若是没有人去做这件事，那我会很愿意自己试一试。

第二个偏向是一个更热门的话题，但我并不以为现在有人真正把它做好了，那就是一连学习，以及怎样真正地、彻底地将test time与train time融合在一起。

对人类而言，这种方法再自然不过了：我们并不保存一个明确疏散的“学习模式”和“回覆模式”，一切都是在一连一直地同时爆发的。我们的模子也应该更靠近这种运作方法。

这很可能是我们在实现AGI之前，仍然缺失的几个要害能力要素之一。若是模子无法从它们所接触到的数据中一连学习，那么无论它们在其他方面何等强盛，依然会给人一种受限、甚至有些“愚钝”的感受。

主持人：说到AGI，我们上次谈天时我提到过，相比一两年前，现在我已经不太常听到关于时间线的讨论了。甚至连关于AGI自己的讨论似乎也镌汰了。以是我着实挺好奇的。

你称自己对AI持审慎乐观的态度。那么在你看来，我们现在处在AGI时间线的哪个位置？

Jerry Tworek：是的，我小我私家的看法着实也略有更新。我一直以为，扩大强化学习的规模是实现AGI的须要组成部分。约莫在一年前或一年半前，我险些坚信，只要我们把模子的强化学习规模做大，它就会成为AGI。

而现在，我不得不稍微修正这一看法。不过有些工具，只有在真正进入下一个阶段之后你才华看清。我们也必需认可，今天的模子在很是很是多的方面已经做得相当精彩了。

它们在编程方面所能做到的事情，对我来说尤其震撼——由于写代码自己就是我最喜欢的事情之一。你现在可以很是、非�？斓赝瓿纱笞谑虑�。

对十年前的一些人来说，若是你向他们展示我们今天所拥有的能力，他们可能已经会把这称作AGI了。以是，谈论AGI已经不再像已往那样离谱或猖獗。

但至少凭证我自己的界说，目今的模子仍然不可算是AGI，由于一连学习还没有以任何实质性的方法与我们的模子真正整合在一起。同时，从模子现在的状态来看，甚至在多模态感知这样的能力上也仍有显着缺失。

若是模子看不到外部天下，或者无法寓目视频并对其举行优异的明确，那么即便它们在文本明确和编程方面很是精彩，我们真的能称它们为AGI吗？

因此，要真正实现构建AGI这一文明级别的里程碑，尚有许多我称之为“须要办法”的问题需要解决。

一段时间我曾想过，若是我们真的很是起劲，若是所有事情都做得很是好，也许2026年至少会成为我们在真正优异的一连学习和真正通用的强化学习方面取得突破的一年。

我的时间线判断依然是有些浮动的。但与此同时，AI领域的生长速率确实非�？�。投资每年都在一直增添，越来越多的人进入AI领域，这扩大了人才储备，也增添了我们能够探索的想法数目。

以是我并不以为这个想法完全荒唐或不切现实。也许会更早一些，也许会稍晚一些——可能是26年，也可能是27年、28年，甚至29年。我不以为会比这再晚太多。

虽然，尚有大宗事情要做，但确实有许多人正在为实现AGI而起劲。

八、我们正处在厘革时代，坚持担心和审慎有须要

主持人：若是我的影象没错的话，在“Strawberry”项目泛起之前，你是不是在研究Q*项目？那时间有许多风声，各人都在谈论Ilya看到了Q*，知道AGI已经来了，这把所有人都吓坏了。

我的意思是，听你适才这么说，反而让人以为有点可笑。由于这确实是一件很是棘手的事情：这些系统能做到一些极其令人印象深刻的事，于是我们就会变得异常兴奋。然后时间已往，

你知道，就像现在的“Strawberry”项目一样——它确实令人难以置信，险些改变了整个领域，但我并不以为我第一次使用它的时间被“吓到了”。

Jerry Tworek：我明确你的意思。这是人类心理中很是有趣的一部分，在某种水平上也反应了我们与手艺互动的方法。

对我来说，强化学习Scale up的效果仍然很是显著，并且随着时间推移，我们会看到更多这样的效果。尤其是在编程领域，这将以许多差别的方法影响我们的生涯。

今天，举行任何大规模编程项目的体验，与一年前相比险些是天壤之别。我们会在种种各样的事情中看到这些转变。当我和我的团队，以及OpenAI的许多人，在两年前第一次看到Q*最先展现出有用迹象时，

你坐在一个房间里，眼见一项具有实质性意义的新手艺。若是你在那一刻没有感应哪怕一点点畏惧、一点点担心，没有对“我们正在做这件事会带来什么效果”爆发一丝疑虑，那么我会以为你对自己的事情不敷认真。

我以为每一位AI研究职员都应该问自己：若是我正在做的事情是全新的，具备亘古未有的能力，那么它会给天下带来什么影响？事实上，许多研究职员确着实这样思索。有时间，人们也确实会不小心走得快了一两步。

到现在为止，AI还没有对天下造成任何真正的危险。只管像“捧场奉承”这样的问题或允许以争论一下，其他问题至少据我们所知还没有。

但即便云云，我仍然以为，在向天下宣布任何新手艺时，坚持担心和审慎是一种很是好的、也很是康健的反应。

我们正处在一个厘革的时代，一个许多新事物一直向天下扩散的时代。它们会爆发许多影响，影响人们怎样度过一生，影响人们怎样看待自己、看待他人，影响人际关系，也影响国际关系，还会影响GDP和生产力。

有时间，有人写下一行代码，所引发的连锁反应却会像瀑布一样，贯串这一切。而其中所承载的责任，是相当极重的。

主持人：这些想法确实都很有原理，着实我之前也一直在重复思索这些问题。我们此前或许也零星讨论过一些。只是那段时间里，随着所谓的“OpenAI政变”事务逐渐浮出水面，我总会下意识地试着设身处地为你着想。

但在这样一个要害的时刻，一个本应被认真明确的创立物，却率先成为人们贪恋、投射与争取的工具，这自己岂非不会让人感应一种玄妙的怪异吗？

而与此同时，我看到你所创立的工具被推到聚光灯下，在尚未真正被明确之前，就被媒体重复谈论，又被卷入一场近乎胰子剧式的纷争之中。我一时间甚至不知道该用什么词来形容这种感受——说“可笑”似乎并不完全贴切。

Jerry Tworek：很难将科技天下、看法天下、人类情绪、人类生涯、人类之间的配合点以及不同相互疏散开来。我们生涯在这样一个天下：AI领域的主要加入者之间，保存着极其重大、跨越多个层面的关系网络。

要真正理清这一切，历史学家生怕需要破费许多年，甚至几十年，才华弄清这里事实爆发了什么，真真相形究竟是什么。

说真话，即即是我自己，现在对“OpenAI政变”时代爆发的一切，也只保存着很是琐屑的影象。每当有新的证词泛起，每当新的文件被披露，我们都会相识到一些此前未知的事实。未来肯定会有人把所有真相拼集出来，但天下自己就是重大的。

或许我们确实需要一种更康健的方法来讨论手艺，找到一个合适的讨论平台，让这些不同在某种水平上获得解决。但我们生涯在一个没有完善解决计划的天下，也没有完善的讨论方法。

九、不同不可阻止，只能依赖想法、信心与梦想

主持人：你也不以为X平台是一个理想的前言？

Jerry Tworek：我小我私家着实很喜畛刳X上发帖，喜欢和研究社区、和身边所有人分享想法，但X平台也并不是一个完全严肃的地方。以是许多时间，讨论总是介于玩笑和认真之间。

那么，什么才是准确的解决计划呢？当一小我私家担心某项手艺过于危险，主张应当阻止研究，而另一小我私家却以为它或许应当继续推进，由于它能够扩展人类的能力。第一小我私家又进一步以为，这甚至不是一条准确的研究路径，我们理应转向完全差别的偏向。

在手艺前进与科研探索的领域中，这样的不同险些不可阻止，而一切又都笼罩在未知之中。没有人真正知道未来会走向何方。我们所能依赖的，只有想法、信心与梦想。在这种根天性的不可确定性里，我们仍然必需继续生涯、继续选择，并且往往不得不在许多要害问题上，以某种方法学会求同存异。

主持人：是的，思量到其时媒体对Q*的高度关注，诸如“伊利亚看到了什么”之类的叙事，相关的炒作确实过于麋集了，并且险些是一月接着一月一直升级。我对此并非没有意识到，只是仍然感应有些疑心。

我之以是好奇，是由于我们中的许多人在推特上都非�；钤�，也都在差别水平上加入、放大，甚至推动了这种讨论和想象。那么，从你的角度来看，你怎样看待这种一连升温的炒作？你是否也以为，它或许需要稍微降温一些了？我小我私家以为，我们确实应该大幅降温。

Jerry Tworek：但与此同时，若是有人在七年前告诉你，OpenAI会成为一家万亿美元级别的公司，会建设史上最大规模的数据中心，拥有全球最大的网络产品之一，所有人都会时刻谈论AI。你其时一定会以为那些人疯了。这听起来自己就像是炒作。

我着实以为，在许多方面，炒作背后是有实质内容的。有时它会过头，有时又不敷，但AI确实很主要，也确实需要被讨论。我想现在已经没有人会以为AI是一个不主要的话题了。

几年前的情形肯定差别，其时确实有许多人以为AI不主要。但现在已经很清晰了，AI可能是这个天下上最主要的话题之一，值得我们一连讨论和深入思索。

希望会有多快？哪些路径是准确的？它究竟有多清静，或者多危险？这些问题虽然可以保存不同和争论，但AI已经深度地融入了这个天下，并且只会变得越来越强。

十、有些人频仍跳槽，做的实事并未几

主持人：完全赞成。但若是暂时把手艺自己放在一边，我的意思是，我报道过Meta的挖角怒潮。这件事已经酿成了一场胰子剧、一档真人秀，而不再只是关于硬核科学的问题。你已经在这个领域事情了这么久。我只是好奇，我们是不是已经越界，进入了真人秀的领域？

Jerry Tworek：但问题是，事实是谁在制造这场胰子剧呢？肯定不是我。

主持人：我的年岁足以让我亲历互联网泡沫，以及更早几个手艺周期。而这一次的感受，确实更像一场胰子剧。即便追念昔时的生产力软件大战，事情也并非云云。

很大一部分缘故原由在于，今天的利害关系着实过于重大。牵涉的资金规模、研究职员在各个实验室之间的流动，再加上一连串高度戏剧化的事务，这些因素叠加在一起，让整个时势恒久处于紧绷状态。

从一最先我就有一种强烈的感受：旧金山似乎为自己创立了一个自力的天下。与其说这是泡沫，不如说是我们相互一直说服自己，这就是终局，赌注重大，这是一场竞赛，既可能极其精彩，也可能极其糟糕。一切都高度主要，也因此带来了特另外心理肩负。

以是我确实以为，这一次很纷歧样�；チ菽逼�，一切源于一个简朴而无邪的念头：这太酷了，天下上所有的信息都触手可及，人可以相互毗连。公司是厥后才泛起的，款子竞争更是逐渐浮现的效果。而现在却似乎从一最先，整个天下的重量就压在了这件事情上。

忠实说，我不知道你们是怎么撑过来的。我看到无论是OpenAI、Anthropic照旧其他实验室，都在拼命事情、相互竞争，而赌注又云云之高。一连七八年处在这样的状态里，任何人都会被消耗。我完全明确，为什么你会想停下来休息一段时间。

这不但是体力上的消耗，更是心理上的磨损。由于一旦你真正接受了这种设定，它自己就会一直侵蚀你。

Jerry Tworek：确实，这一切都会带来心理上的消耗。不过我可以告诉你，一经有一位在应对压力方面比我履历富厚得多的人对我说过一句话：每履历一次高压时刻，就像是做了一次俯卧撑，你对压力的遭受能力都会稍微增强一点。

坦率地说这七年的事情确实磨炼了我极强的心理与情绪韧性。至少我真切地感受到，自己能够屏障掉大宗噪音和无谓的滋扰，在无论爆发什么情形时，都只管坚持稳固和坚定，不管是公司濒临瓦解、研究职员频仍流动，照旧项目被一直重新分派。

总会有一些事情爆发。我也听到有人把人才挖角比作体育队的转会。体育同盟之以是能相对有序地运作，在于它们有清晰的角色分工，以及明确的转会规则，何时可以流动，何时不可流动。遗憾的是，加州执法在这方面险些没有真正的限制。

我确实以为，若是能在这方面建设一些规则，或许会是一件好事。由于在这个行业里，确实保存这样一种征象：有些人频仍地替换事情，而真正投入到事情的时间，反而显得更少。这种情形正在爆发，并且并不有数。

主持人：那么，给AI领域加上人为帽怎么样？

Jerry Tworek：确实有些人在频仍跳槽，也有些人仍然在坚持事情，起劲把前沿继续向前推进。不过，AI 毫无疑问已经是一门大生意了。

主持人：前两天我还在和同事聊，我们需要列一份名单，上面包括所有在前沿AI机构事情过的人，还要标注他们在每一个地方待了多久�？隙ㄖ辽儆胁簧偃送瓿闪恕巴迩舐帷�，每家都呆过。

十一、揭秘OpenAI内部“波兰黑手党”：勤劳是项主要品质

主持人：我们能聊聊“波兰黑手党”吗？当我刚最先写这本关于OpenAI的书的时间，或许是2018年左右，那时整个公司里约莫只有三十小我私家。这个最初的群体中，有相当一部分来自波兰，数目多得出人意料。他们险些都是数学天才，有些人从小就相互熟悉，有些则并非云云。

不过，这确着实某种水平上反应了苏联教育系统在数学人才作育方面的卓越之处，或者也可能只是由于，只要有一小我私家先去了OpenAI，各人相互熟悉，就陆续随着去了。

Jerry Tworek：就我小我私家而言，在最终加入OpenAI之前，我完全不熟悉那里任何一小我私家，来到OpenAI纯属机缘巧合。

但在OpenAI的早期阶段，波兰人的比例确实很是高。我并不以为这种趋势能够恒久一连。现在，波兰裔员工的绝对人数比早期更多了，但思量到公司规模扩大了上百倍，这个比例着实已经不算高了。

不过，我们的教育系统确实有点工具。不过我没有亲自履历过其他教育系统，以是也无法真正判断波兰教育系统是否真的云云精彩。

波兰确实拥有许多优异的人才。而我很是浏览波兰的一点，就是波兰人很是勤劳。着实随着时间推移，尤其是在许多蓬勃国家，勤劳事情似乎越来越不被重视。生涯变得更逍遥了，人们有更多其他事情可以关注和优先思量，这自己也很正常。但波兰人确实非�？粗厍诶�。

在我出生之前，波兰照旧一个共产主义国家。就在我出生的那一年，国家转型为自由市场经济。这个历程相当残酷，但社会拥抱了这种转变，起劲探索怎样变得更具创业精神，如作甚自己的未来斗争，怎样实现经济昌盛。而事实证实，这是乐成的。

我是一个移居外洋的人，现在并不住在波兰。但每次回去，或许一年一两次吧，我都能清晰地看到国家在一连建设和生长。我看到它变得更好、更漂亮、更昌盛。这真的是一个了不起的故事。

主持人：你在外地算是个名人吗？我总以为，波兰政府可能在想：活该，我们原来可以把这件事做成的。我们当初应该把这些人都留下来。我去年去了波兰，我知道他们已经意识到这一点了。险些每小我私家都会问：你熟悉Wojciech（OpenAI联合首创人之一，也是少数仍在OpenAI事情的早期OpenAI成员）吗？

Jerry Tworek：Wojciech真的是一个了不起的人，很是友善。不过硅谷也是完全唯一无二的，雄心、规模以及活力，这并不是在天下任何地方都能容易实现的。但我可以向你包管，波兰人很是勤劳，并且能够识破“忽悠”。这一点，在生涯中真的能让你走得很远。

十二、谷歌的回归背后，是OpenAI在出错

主持人：你对谷歌的回归，或者说重新崛起感应惊讶吗？看起来他们做对了许多事情，你们一直都以为他们最终能理清思绪，然后迎头遇上吗？照旧说，这着实是个意外？

Jerry Tworek：我小我私家以为，与其说是谷歌的“回归”，不如说是OpenAI自己犯了一些过失。只管OpenAI做对了许多事情，但即便在理想情形下，它也犯过一再错，执行速率比本可以做到的要慢。

若是你是一家领先的公司，并且拥有OpenAI所具备的所有优势，那么你理应始终坚持领先。但若是你在这个历程中做出了过失决议，而别人做出了准确决议，那么别人就会遇上来。

谷歌确实做对了许多事情，他们在硬件、人才等方面拥有重大的结构性优势。当OpenAI刚起步时，谷歌在险些所有机械学习与研究偏向上都是显着的第一名。

OpenAI能够脱颖而出，主要源于对某一特定偏向、特定路径的坚定研究信心。而天下花了极其漫长的时间，才意识到这是一个很好的信心、一个很好的偏向。

即便在GPT-2、GPT-3、GPT-3.5被训练出来的时间，也并没有太多人真正放在心上。你去NeurIPS和研究职员交流，各人会以为OpenAI挺酷，但其他实验室往往会说：嗯，我们早晚也能复现。那些大语言模子挺有意思，但也就那样。

只有当OpenAI最先通过ChatGPT真正赚钱时，其他公司才突然意识到：哦，这工具现在能盈利了，我们真的需要做这件事了。

这给了OpenAI一个极其漫长的时间窗口，从构建手艺到实现商业化，而其他人直到厥后才意识到“我们真的、真的需要做了”。谷歌也是从那时起才最先认真看待大语言模子的训练。

而由于OpenAI没能充分掌握住自己的领先优势，谷歌现在在模子能力和训练方面已经很是、很是靠近了。对谷歌来说，这是件好事，我会给他们送上祝贺，由于他们扭转了时势、并且执行得很是精彩。

主持人：有哪些失误？我记得其时我报道你们推出搜索功效时，外界的说法是：OpenAI推出搜索，谷歌要完了。我其时就想，我并不确定会是这样。那么，详细的失误是什么呢？

Jerry Tworek：我不太想深入讨论内部决议的细节，哪些是对的，哪些是错的。但我再强调一次：在理想的执行情形下，若是你一最先就领先，你本应坚持领先。

十三、OpenAI需要加速进度，Anthropic令人钦佩

主持人：看起来你以为OpenAI保存一些手艺层面的失误，同时公司内部的一些戏剧性事务在某些阶段拖慢了进度。我和足够多的OpenAI内部人士聊过，他们一直在思索公司该怎样继续向前。然后在某个阶段，一批要害人物脱离了。但听起来，你适才更多是在谈手艺层面的问题。

Jerry Tworek：这些事情有时是相关的。从手艺上讲，我并不以为职员流动自己是一个严重问题。在任何公司，人来人往都应该是正常的征象。但有时，职员脱离确实是问题的征兆。

但若是公司有人说：“有人在做过失的事情，我们不再相信这家公司了，我们应该脱离”，那可能确实说明保存更深条理的问题。不过，正如我之前所说，有些事情的希望速率显然是可以更快的。

主持人：正如你所说，各大实验室在总体偏向上做的是类似的事情。那么Meta在某种水平上算是厥后者。虽然他们早就涉足AI，但现在看起来，他们是想用差别方法来做这件事，同时从其他公司挖人。

我不太清晰Meta详细在做什么，但给我的感受是，他们并不是要走出一条真正差别的蹊径，而是想走统一条路。这在我看来是一个根天性的问题。你来得晚了一点，却在做和别人一样的事情，效果可能不会太好。你以为他们真的有差别的要领吗？

Jerry Tworek：我对他们的战略并不是特殊熟悉，以是无法确定。但从外部来看，我以为他们意识到了一点：在目今的AI天下里，你可以用两种方法来思索你想做什么。

一种是，我们想打造一个在某些方面显着优于他人的模子；另一种是，我想打造一个和别人同样优异的模子，但以差别的方法去使用它，或者围绕它构建差别的产品。

就我对Meta的明确而言，这家公司关注的是毗连人、建设关系、打造体验，无论是元宇宙、社交网络，照旧其他形式的体验。我再强调一次，这只是我的推测，但我以为他们的思绪是，使用行业已司明确并掌握的AI手艺和Transformer，来实验构建这些体验。

从一家极其盈利、拥有全球最大社交网络的公司角度来看，这可能是一种相当不错的战略。

主持人：我们刚刚谈到了谷歌的回归。在OpenAI与其他公司的一连竞争中，有没有某个AI Lab给留下了特殊深刻的印象？

Jerry Tworek：我得说，这是最近才爆发的转变，但在已往一年里，我对Anthropic的钦佩水平确实大幅上升。我历来都不是特殊关注模子“个性”的那种人。虽然我听说Claude的个性不错，也许吧。

但他们在编程模子和编程智能体方面所做的事情，他们围绕这些效果建设的品牌以及他们所拥有的大宗开发者，这些绝对是令人震惊的成绩。

Anthropic起步更晚，盘算资源受限，团队规模也更小，在获取优质算力和硬件方面遇到了许多难题，但他们依然乐成构建了卓越的产品。这些产品正在改变人们开发软件的方法，并且据我所知，显著提升了企业生产力。祝贺他们。

主持人：他们似乎正处在一个高光时刻。我熟悉的每一小我私家都在谈论Claude Code，但我确实不知道，他们是怎样做出一个云云精彩、像ChatGPT一样被普遍喜欢的Claude Code的。似乎许多实验室确着实借鉴这个工具，尚有些实验室被断供了。

Jerry Tworek：是的。在OpenAI，我们也在开发Codex，这是我们自己的编程工具，它也挺不错的。有意思的是，我自己着实并没有怎么用过Claude Code。事实我其时受雇于OpenAI，以是没怎么用过。

以是我真的说不太准。但我以为Codex不是一个坏产品。只不过，从Twitter上的情绪来看，Claude确实深受全球开发者的喜欢。

十四、AI圈缺乏专注度已成普遍问题，OpenAI很难“集中实力办大事”

主持人：凭证我们之前的对话，你似乎在智识层面上对科学怀有浓重兴趣。你关于推理的研究，源自你想创立“AI科学家”的恒久愿景。当我看到你宣布脱离的那条推文时，我就在想，你事实是会继续留在这场以基础模子为中心的竞赛中，照旧会走一条差别的蹊径。我感受你可能会进入生物手艺领域，或类似的偏向，以一种相当差别的方法去追求这个目的。

Jerry Tworek：若是我能克隆自己，去做多种差别的事情，我真的很想那样做。但长话短说，在某些时刻我醒来，会意识到自己对一生中所取得的成绩感应相当知足，也感应自豪。

但我现在真正想做的，是押注一两个重大的研究偏向，并竭尽全力让它们乐成。我以为人们应该愿意肩负危害。我是那种愿意实验猖獗想法、拥有极高危害遭受能力的人之一。我以为我应该把这种能力用在一些有益的事情上。

主持人：把你脑海中的想法真正落地，需要多长时间？这是一个一年的项目吗？照旧你所说的“高危害”，需要投入四五年的人生，去追逐一个可能并不比现有手艺更好的工具？

Jerry Tworek：我绝对愿意投入大宗时间。同时，我也以为人们应该快速执行，做事慢并不是值得自满的理由。为了在研究项目上执行得好，我希望能尽快做好。

但真正主要的部分，照旧我之条件到的：专注和信心。若是你同时做许多差别的事情，就会疏散你的注重力，疏散你的资源。只管AI Lab经常说他们受限于盘算资源，因此研究变慢了，这也确实是主要的影响因素之一。但许多时间，更常见、更普遍的问题，着实是缺乏专注力。事实，你天天能分派的注重力是有限的。

我经常告诉我相助的研究职员：镌汰实验次数，但要对每一次实验思索得更深入。由于有时间，即便只是花时间，好比几个小时，不运行任何程序，仅仅更仔细地剖析实验数据，相比于运行更多实验，反而更容易带来突破。

主持人：像OpenAI这样拥有大宗盘算资源的机构，着实只是把资源疏散在了太多项目上。现实上，若是把这些资源集中到更少的项目中，算力自己是完全足够的。

Jerry Tworek：这又回到了危害肩负和信心的问题。若是你同时做三个项目，其中一个乐成了，另外两个可能被放弃。若是三个都乐成了，那虽然很是棒，但若是你只做一个项目，会推进得快得多，由于你可以越发专注，信心也越发坚定。

虽然，若是项目最后失败了，贫困就大了，但若是乐成了，就可能拥有天下上最好的模子。

对OpenAI来说，现在要让整个公司集中实力去做一些全新的、完全差别的事情，是有点难题的。要让我们完全不在乎Gemini下个季度会不会有更好的模子，也很是难做到。

这样的事情绝对需要一种特定类型的人，只有这种人才愿意去肩负危害。这正是要害所在。

主持人：我知道你不可谈论那些所谓的“神秘配方”。但我照旧很好奇，OpenAI正在朝哪个偏向生长？或者至少，从宏观上看，他们把资源投向了那里？最近OpenAI给ChatGPT加广告的新闻刷爆了全网。

Jerry Tworek：我不应该、也不可谈论OpenAI的任何妄想。

主持人：你以为，在这些模子公司中，会不会有哪一家有勇气像OpenAI一样加入广告？也许“勇气”这个词并禁绝确，由于不放广告可能自己就是一个糟糕的决议。广告变现是不是不可阻止的？

Jerry Tworek：这是一个商业战略问题，而我的事情是训练模子。

十五、OpenAI真正善于的是“1到100”，驱动立异的是“运作方法”

主持人：我并不是想为难你，只是在举行了这次完整的对话之后，我仍然在试图理清一些想法。当你谈到你想要追求的新偏向时，你确实需要一定的“马力”。你会自己举行实验，照旧必需身处一个拥有足够“能量”的地方，才华举行你想做的研究？

Jerry Tworek：这是我现在正在起劲明确的主要问题。每一项AI研究仍然需要GPU，需要算力，我需要思量什么才是最好的方法。

主持人：这是波兰的时机。他们需要给你一个国家级数据中心。

Jerry Tworek：这个主意或许不错。我还在逐渐理清自己的速录，我知道自己想做哪些类型的研究，也在一直实验弄清晰，什么才是实现它们的最佳路径。

我不止一次听别人说，你去职后比以前快乐多了。我从一个现在自己创业的人那里听说，在OpenAI事情比创业压力还要更大，这让我很是震惊。OpenAI确实是一个相当有压力的地方。

主持人：最后一个问题，除了各人追逐的工具过于相似之外，你有没有视察到AI领域内其他的重大过失？

Jerry Tworek：我不以为保存什么重大的过失。由于要让所有人都犯下统一个重大过失，着实很难。我以为这里只有一个真正的问题：怎样在探索和延续原有手艺蹊径之间取得平衡？

主持人：我适才谁人问题可能问得不太好，我更想问的是，在研究界中，是否保存一些你以为被低估了、没有获得天下足够关注的想法？

Jerry Tworek：说真话，这样的想法有许多，但它们最需要的，着实只是多一点关注、多一点盘算资源，以及多一点为之斗争的精神。

我以为有一点较量奇异：许多研究职员喜欢做从0到1的事情。许多学术研究正是云云，创立出一些全新的想法，证实它在某种水平上是可行的，然后就把它揭晓出来。

而我以为，我和我在OpenAI的团队真正善于的，以及我以为我们做得很是精彩的一点，是把研究从1推进到100，也就是接纳那些差别的、我们以前没有做过、但已经起源被验证的想法，并找出怎样让它们在大规模训练前沿模子时，可靠地事情，同时还要整合许多其他相关因素。

这正是大宗学术研究所欠缺的工具。看法验证虽然很酷，但要用某种特定手艺训练出天下上最有能力的模子之一，需要做大宗很是详细、详尽的事情。若是要领差池，可能需要数年时间，但若是你有合适的算法，知道怎样引入这些工具，可能只需要几个月。这正是我未来想多多实验的事情。

主持人：当我们谈到OpenAI的一些职员去职时，你曾说，公司应该能够遭受这些损失。但AI领域在某种水平上似乎一直是由“明星”驱动的，好比Alec Radford这样的明星人物。挖人的行为也是一连一直。

从这些实验室的行为来看，显然这些公司以为AI一个由研究明星驱动的领域。我很好奇你的看法。你适才似乎对这个问题有些犹豫。行业中既有整个学界、整个领域恒久积累的事情，也有一些要害时刻和重大的突破来自少少数小我私家。

Jerry Tworek：这是一个相当重大的话题，但我以为两件事可以同时建设。许多时间，就像你在OpenAI看到的那样，确实是少少数小我私家爆发了超乎寻常的影响，推动了一系列完全开创性的效果，并将其扩散到整个行业。我一次又一次地看到这种情形爆发。

但与此同时，每当我看到人们换公司时，我很少看到这对原公司造成真正重大的影响。公司自己的特质，或者说一种近乎“运作方法”的工具，才是真正的研究引擎，而不是某一个特定研究员是否还在这里。

我也视察到，那些在公司之间跳槽的研究员，往往在新情形中并没有那么高效。纵然他们已往经常做出伟大的事情，来到新地方后，也可能变得有些分神，需要时间顺应情形，或者暂时没有特殊新鲜的想法。

虽然，在这个领域的履历肯定能带来一些优势，但更主要的是，创立一种小我私家责任感强、允许探索、能够赋强人们去做大事的气氛。

并且，无论是这批人，照旧另一批人，都完全有可能组建出许多能够做出伟大效果的团队。我并不以为某个特定的人是不可替换的。在我看来，优异的研究结构、优异的研究文化、优异的协作方法，远比某个详细的人是否在你的团队中主要得多。

k1体育麻将胡了

52g17c

三级毛片

在线色视频免费

巨雷魅魔泳装

jiujiure最新

美女爱鸡扒

奶咪的饺子皮

竹内沙里纳夸最经典十句话

午夜大片一级试看10分钟

一级免费啪啪视频

萝莉破处

超碰在线观看黄色

人人操人人高潮喷水

精品综合91

在线免费看黄片。

区欧美性交网

18馃憴馃憴馃敒

色天天天综合色天天一区

69热视频在线观看免费App

黄片视频免费送

日本三级带日本三级带黄首页

亚洲A无码综合A国产AV

黄网免费

51禁

精品国产一区在线观看

久操一级A片

黄漫 涩爆乳自我安慰

黄色视频A级

黑人一级婬片A片AAA毛片试看

妓女直播

欧美色图偷拍视频

国产精品18久久久久久vr

美女扒开腿让男生桶爽免费视频

欧美性爱艹b大片

多人群交无码内射

人人妻人人澡人人爽人人一品区

沈星回炒菜漫画

神秘秘

国产精品免费观看

腹肌小奶狗导管素材

爱操综合

A片一线毛片无遮挡

国产 在线第一页

99国产精品国产精品毛片

1024免费手机视频

日本男同志

18馃埐馃埐馃埐馃埐馃埐馃埐馃埐馃埐馃埐馃埐馃埐馃毇

女性脱 给我揉 葡萄网

国产Aⅴ876

黄漫 涩爆乳

www欧美激情

国产欧亚色一级A片免费观看

性欧洲6-12

东京色色色

乳欲の馆

免费看黄A级毛片不卡中文

人人看人人搞人人摸

车里掀女朋友衣服含奶

特黄一级操逼av美女

亚洲欧美中文字幕在线一区下载

亚洲综合色区另类小说久久久

欧美性爱一级黄色

九九九国产视频

女人裸体 AI去衣软件

日本人口咬

岛国毛片AV在线无码不卡

国产一区二区三区无码

色呦色呦视频在线观看

日韩激情四射

黄色视频在线涩涩

国产国产人免费视频在线观看

直接免费播放黄网址

A一级毛片录像带录像片

亚洲熟妇无码久久精品疯

a∨中文字幕第一页

朵莉亚裸乳被爆 白浆的

啊 好痛 轻点ji巴又大又

黑人Gay大雕TUBE

俄罗斯做受 高潮

黄漫涩爆乳自我安慰

国产在线第一页

女性脱给我揉葡萄网

黄漫涩爆乳

朵莉亚裸乳被爆白浆的

啊好痛轻点ji巴又大又

俄罗斯做受高潮

永久免费未网