辉夜姬 反差 黄仁勋：我从不在乎市集份额、英伟达独一方向是创造新市集
“这是我听过的黄仁勋最佳的采访！”辉夜姬 反差
英伟达CEO黄仁勋的一场炉边话语再次引起热议：
英伟达从来莫得一天沟通过市集份额。
咱们所商讨的只是：若何创造下一个东西？若何将曩昔需要一年才能完成的飞轮贬低到一个月？
面临Azure和AWS等正在自主构建ASIC芯片的云策画大客户，老黄打了个譬如：
公司受到鱼塘大小的已矣，独一的方向是用设想力扩大鱼塘。（指创造新市集）
天然了，除了说起英伟达，老黄还商讨了AGI的智能彭胀、机器学习的加快、推理与熟谙的进军性……
诚然时长感东说念主（近1个半小时），但一大波网友照旧看完并交起了功课（运行卷了是吧！）
网友：学起来！学起来！
黄仁勋：将来推理的增长将强大于熟谙
鉴于视频较长，量子位先径直给大家划要点了，老黄的主要不雅点包括（省流版）：
“口袋里的AI助理”将很快以某种体式出现，尽管率先可能会不圆善；
英伟达的竞争上风在于诞生了从GPU、CPU、聚积到软件和库的全栈平台；
彭胀东说念主工智能的要点已从熟谙前转换到熟谙后和推理；
推理（inference）时策画将动作一个全新的智能彭胀向量；
将来推理的增长将强大于熟谙的增长；
闭源和开源将共存，开源模子可能用于创建特定边界的利用程序；
……
（以下为要点部分整理）
Q：对于个东说念主AI助理的发展出路，您以为咱们何时能在口袋里装上一个无所不知的AI助理？
A：很快就会以某种体式出现。这个助理一运行可能不够圆善，但会跟着时分推移不停校正，这是技巧发展的势必礼貌。
Q：刻下AI边界的发展变化速率是否是您见过最快的？
A：是的，这是因为咱们再行发明了策画。在曩昔10年里，咱们将策画的旯旮本钱贬低了10万倍，而按照摩尔定律可能只可贬低100倍。
咱们通过以下面目竣事了这少许：
引入加快策画，将本来在CPU上效果不高的管事转换到GPU上
发明新的数值精度
开垦新架构(如张量中枢)
秉承高速内存(HBM)
通过MVLink和InfiniBand竣事系统彭胀
这种快速发展使咱们从东说念主工编程转向了机器学习，通盘这个词技巧栈齐在快速创新和越过。
Q：模子范围彭胀方面有哪些变化？
A：以前咱们主要关注预熟谙模子的彭胀（要点在模子大小和数据范围），这使得所需策画材干每年增多4倍。
当今咱们看到后熟谙(post-training)和推理阶段也在彭胀。东说念主类的念念维过程不可能是一次性完成的，而是需要快念念维、慢念念维、推理、反念念、迭代和模拟等多个方式。
况兼，以前东说念主们以为预熟谙难，推理粗心，但当今齐很难了。
Q：与3-4年前比拟，您以为NVIDIA今天的上风是更大照旧更小？
A：内容上更大了。曩昔东说念主们以为芯片遐想即是追求更多的FLOPS和性能筹画，这种想法照旧落伍。
当今的要津在于通盘这个词机器学习系统的数据活水线(flywheel)，因为机器学习不单是是软件编程，而是触及通盘这个词数据处理进程。从一运行的数据经管就需要AI参与。数据的网罗、整理、熟谙前的准备等每个方式齐很复杂，需要大齐处理管事。
Q：与Intel等公司比拟，Nvidia在芯片制造和遐想方面有什么不同的计策？
A：Intel的上风在于制造和遐想更快的x86串行处理芯片，而Nvidia选拔不同计策：
在并行处理中，不需要每个晶体管齐很出色
咱们更倾向于使用更多但较慢的晶体管，而不是更少但更快的晶体管
本旨有10倍数目、速率慢20%的晶体管，也不要数目少10倍、速率快20%的晶体管
Q：对于定制ASIC(如Meta的推理加快器、亚马逊的Trainium、Google的TPU)以及供应枯竭的情况，这些是否会调动与NVIDIA的贯串动态？
A：这些齐是在作念不同的事情。NVIDIA起劲于为这个新的机器学习、生成式AI和智能Agent天下构建策画平台。
色哥网在曩昔60年里，咱们再行发明了通盘这个词策画技巧栈，从编程面目到处理器架构，从软件利用到东说念主工智能，每个层面齐发生了变革。咱们的方向是创建一个随地可用的策画平台。
Q：NVIDIA动作一家公司的中枢目标是什么？
A：构建一个无处不在的架构平台。咱们不是在争夺市集份额，而是在创造市集。咱们专注于创新和贬责下一个问题，让技巧越过的速率更快。
Q：NVIDIA对待竞争敌手和贯串伙伴的格调是什么？
A：咱们对竞争很贯通，但这不会调动咱们的职责。咱们向AWS、Azure等贯串伙伴提前共享门路图，保握透明，即使他们在开垦我方的芯片。对于开垦者和AI初创公司，咱们提供CUDA动作协调进口。
Q：对OpenAI的认识若何？若何看待它的崛起？
A： OpenAI是咱们这个时间最进军的公司之一。诚然AGI的具体界说和时分点并不是最进军的，但AI材干的发展门路图将会相配壮不雅。从生物学家到表象臆测者，从游戏遐想师到制造工程师，AI照旧在鼎新各个边界的管事面目。
我相配赏玩OpenAI鼓舞这一边界的速率和决心，并为不错资助下一代模子感到欢娱。
Q：您以为模子层是否正在走向商品化，以及这对模子公司的影响是什么？
A：模子层正在商品化，Llama的出现使得构建模子变得愈加低廉。这将导致模子公司的整合，唯独那些领有经济引擎并大致握续投资的公司才能生涯。
Q：您若何看待AI模子的将来，以及模子与东说念主工智能之间的差别？
A：模子是东说念主工智能必不可少的构成部分，但东说念主工智能是一种材干，需要利用于不同的边界。咱们将看到模子层的发展，但更进军的是东说念主工智能若何利用于各式不同的利用场景。
Q：您若何看待X公司，以及他们诞生大型超等集群着实立？
A：他们在19天内（持续需要3年）建造了一个领有100，000个GPU的超等策画机集群。这展示了咱们的平台的力量，以及咱们大致将通盘这个词生态系统集成在一齐的材干。
Q：是否定为漫步式策画和推理彭胀将会发展到更大范围？
A：是的，我对此相配护理和乐不雅。推理时策画动作一个全新的智能彭胀向量，与只是构建更大的模子天渊之隔。
Q：在东说念主工智能中，是否许多事情只可在运行时完成？
A：是的，许多智能管事不成先验地完成，许多事情需要在运行时完成。
Q：您若何看待东说念主工智能的安全性？
A：咱们必须构建安全的东说念主工智能，并为此需要与政府机构贯串。咱们照旧在诞生许多系统来确保东说念主工智能的安全性，并需要确保东说念主工智能对东说念主类是有意的。
Q：你们公司越过40%的收入来自推理，推理的进军性是否因为推理链而大大增多？
A：没错，推理链让推理的材干普及了十亿倍，这是咱们正在资格的工业翻新。将来推理的增长将强大于熟谙的增长。
Q：你们若何看待开源和闭源东说念主工智能模子的将来？
A：开源和闭源模子齐将存在，它们对于不同的行业和利用齐是必要的。开源模子有助于激活多个行业，而闭源模子则是经济模子创新的引擎。
对于上述这些，你若何看？接待在指摘区留言商讨。
参考贯串：
[1]https://x.com/StartupArchive_/status/1848693280948818070
[2]https://www.youtube.com/watch?v=bUrCR4jQQg8辉夜姬 反差