发布日期:2024-12-07 00:26 点击次数:137
配资短线炒股的收益潜力主要源于杠杆效应。通过配资炒股融资平台,投资者可以放大自己的资金,从而获得更高的收益。例如,如果投资者自有资金为10万元,配资10倍,则可动用100万元进行交易。如果股价上涨10%,投资者可获得10万元的收益,相当于自有资金的100%。
来源:华尔街见闻
目前为止,AI硬件市场主要由对英伟达训练芯片的无限需求主导。但如果通过增加训练时间和测试(推理)时间,模型就能获得更好的结果。市场需求或将从大规模预训练集群转向推理云,英伟达在推理芯片市场可能会面临更多竞争。
大模型预训练“缩放定律”定律失效?模型推理成“解药”,英伟达一家独大格局要变天?
“缩放定律”指导下,AI大模型预训练目前遭遇瓶颈。据路透12日报道,硅谷主要AI实验室的新模型训练计划目前普遍进展不顺,新模型训练遭遇拖延和令人失望的结果。比起GPT-4o,Orion被曝几乎没有任何改进,谷歌的Gemini 2.0也存在类似问题。
为克服瓶颈,OpenAI正探索“测试时计算”(training runs)技术,让模型不再受限于预训练,而能够以多步骤方法思考问题(推理)来提升表现。报道称,相关技术的应用最终推动OpenAI发布o1模型。
这可能会改变人工智能硬件的竞争格局。
目前为止,AI硬件市场主要由对英伟达训练芯片的无限需求主导。但如果通过增加训练时间和测试(推理)时间,模型就能获得更好的结果,那新一代模型可能就不再需要那么大的参数,较小的模型将直接降低成本。市场需求或将从大规模预训练集群转向推理云,英伟达在推理芯片市场可能会面临更多竞争。
“缩放定律”面临挑战
硅谷主要AI实验室的新模型训练目前普遍进展不顺。
据科技媒体The Information报道,OpenAI开发的下一个旗舰模型“Orion”,目前已经完成20%的训练。尽管表现已接近现有的GPT-4,但进步幅度却远不如前两代旗舰模型之间的飞跃。
Orion在语言任务上表现更好,但在编码等任务上可能不会优于以前的模型。且与最近发布的其他模型相比,OpenAI在其数据中心运行 Orion 的成本可能更高。
Orion的进展放缓直接挑战了人工智能领域一直奉行的“缩放定律”,即在数据量和计算资源不断增加的前提下,模型性能将持续大幅度提升。
当年最早将“缩放定律”应用于实践,并最终成功创造出ChatGPT的前Open AI联合创始人Ilya Sutskever在接受路透采访时直言,AI模型扩展训练的结果,已经趋于平稳。通过在预训练中使用更多的数据和算力,让AI模型性能暴涨的阶段可能已经到头了:
2010年代是“缩放定律”的时代,现在,我们再次回到了奇迹和发现的时代。每个人都在寻找下一个奇迹。
现在重要的是“扩大正确的规模”。
Ilya透露,他的团队正在研究一种全新的替代方法,来扩展预训练。
“测试时计算”会是破局方法吗?
OpenAI则极力否认AI模型训练面临瓶颈。作为应对,OpenAI研究人员正在探索一项“测试时计算”(training runs)的技术。十几位AI科学家、研究人员和投资者告诉路透社,他们认为正是这些技术,推动了OpenAI发布o1模型。
所谓测试时计算技术,是指在推理阶段(模型被使用时)就将模型增强,让模型可以实时生成和评估多种可能性,而不是理解选择单一答案,最终选择出最佳路径。
这种方法可以允许模型将更多的处理能力,用于数学、编码问题等具有挑战性的任务,及需要类人推理和决策的复杂操作。
在新技术的运用下,o1在GPT-4等基础模型上进行另一套训练。该模型不再受限于预训练,而能够以多步骤方法思考问题(类似于人类推理)来提升表现。o1还涉及了来自博士和行业专家策划的数据和反馈。
参与o1开发的OpenAI 研究员在上个月TEDAI大会上直言:
让AI在一手扑克牌中思考20秒,所获得的性能提升,与将模型扩大10万倍、训练时间延长10万倍的效果相同。
英伟达垄断地位有望打破?
其他科技巨头也在积极跟进。
路透援引多名知情人士报道称,来自Anthropic、xAI 和 Google DeepMind 等其他顶尖人工智能实验室的研究人员也在开发自己的技术版本的“测试时计算”。
这可能会改变人工智能硬件的竞争格局。
目前为止,AI硬件市场主要由对英伟达训练芯片的无限需求主导。但如果通过增加训练时间和测试(推理)时间,模型就能获得更好的结果,那新一代模型可能就不再需要那么大的参数,较小的模型将直接降低成本。
从红杉资本到 Andreessen Horowitz 等知名风险投资公司,他们已经投入数十亿美元资助 OpenAI 和 xAI 等多个人工智能实验室昂贵的人工智能模型开发,他们正在关注这一转变,并权衡其昂贵赌注的影响。
红杉资本合伙人 Sonya Huang 向路透社表示:
这种转变将使我们从大规模预训练集群的世界转向推理云,即用于推理的分布式云服务器。
这或许打破英伟达在训练芯片领域的垄断地位,公司在推理芯片市场可能会面临更多竞争。类似Groq的推理芯片公司或能“撕开”行业缺口。
英伟达也坦诚推理芯片需求的变化,在上个月印度演讲中,黄仁勋谈到了新技术对芯片进行推理的需求不断增加,强调了 o1 模型背后的技术的重要性:
我们现在发现了第二条“缩放定律”,这是推理时的“缩放定律”……所有这些因素都导致对 Blackwell 的需求非常高。
风险提示及免责条款
市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。
责任编辑:郭明煜 炒股融资平台
2025年4月25日至5月1日是全国第23个《职业病防治法》宣传周证券配资在线平台,今年的宣传主题是: 关爱劳动者心理健康。 江苏省卫生健康委员会、江苏省人力资源和社会保障厅、江苏省疾病预防控制中心联合打造的一系列宣传活动,权威专家走进江苏广电总台《约见名医》节目,欢迎准时相约,了解职业病防治知识! 主题访谈预告 4月26日06:00 江苏卫视频道播出 4月26日20:00 江苏城市频道播出 什么是职业病,如何防治职业病? 职业性噪声聋早期有什么症状? 我国最严重的职业病是什么? 定好闹钟证券...
2025年4月25日至5月1日是全国第23个《职业病防治法》宣传周证券配资在线平台,今年的宣传主题是: 关爱劳动者心理健康。 江苏省卫生健康委员会、江苏省人力资源和社会保障厅、江苏省疾病预防控制中心联...
炮制剧本、虚构场景、摆拍视频……从“卖惨助农”到“制造对立”股市杠杆融资,流量至上的扭曲逻辑不断侵蚀网络生态。 网络并非法外之地。前不久,四川、广西、湖北等地公安机关接连破获多起利用虚假视频引流牟利的...
出品:搜狐汽车十大股票配资平台网址 在中国汽车市场从“增量竞争”向“存量内卷”转变的变革时期,北京现代以一场名为“在中国,为中国,向全球”的战略沟通会,正式宣告了其从传统合资车企向新能源时代领跑者的全...
美国纽约市当地时间2月21日起诉特朗普政府郑州期货配资,原因是联邦紧急事务管理局因纽约市处理移民的方式不当而撤销了8050万美元资金。此前,4名联邦紧急事务管理局雇员绕过领导层,单方面为纽约市用于安置...