本文作家:李笑寅姐妹花 porn
起原:硬AI
据媒体报说念,芯片巨头英伟达正接近实现一项收购GPU租出商Lepton AI的来回,来回金额瞻望达数亿好意思元。
在算力需求被质疑之际,英伟达这一收购举动是膺惩云规画范围的迫切一环,象征着其与亚马逊和谷歌等主要云提供商的平直竞争。
Lepton AI:一家GPU“二房主”Lepton AI确立于2023年,总部位于好意思国加利福尼亚州帕洛阿托,是一家提供GPU算力租出作事的初创公司。
此前,Lepton曾为游戏初创公司Latitude.io和科研初创公司SciSpace提供AI云作事,其伙同创举办东说念主Yangqing Jia和Junjie Bai曾是Meta的AI盘问东说念主员。
与频频云作事提供商不同,Lepton不自行经管数据中心或作事器,而是从云提供商租用后再转租给我方的客户——公司骨子上不领有任何GPU。
分析称,Lepton这种业务模式将更专注于得志AI西宾和推理的特定需求,提供优化的GPU集群和联系技巧作事。对公司而言,这种轻金钱模式也使Lepton隐匿重金钱投资的财务压力。
在西宾方面,Lepton提供了肖似Slurm的功课提交门径。骨子测试标明,用户只需几分钟就能将现存sbatch剧本调治为在Lepton平台上责任,波折经由相称直不雅。
Lepton平台的另一大亮点在于其可视化材干。
分析称,Lepton提供适度台姿色盘,用户不错在其中稽查节点人命周期,了解每个节点的功课状态。这一节点人命周期可视化功能推崇出色,仅次于CoreWeave。这关于监控和经管GPU资源至关迫切,大约匡助用户实时发现和惩处问题。
算力租出阛阓:从卖方转向买方现时,算力租出阛阓正资历真切变革。
好意思国着名半导体盘问机构SemiAnalysis分析指出,规画资本正随时候推移而着落,算力租出阛阓已转变为昭着的买方阛阓——当今有卓绝100家GPU云作事提供商在争夺基本沟通的客户群体,导致价钱竞争加重。
黄仁勋也在上周的GTC演讲中发表了肖似的不雅点:
“当Blackwell开动大范畴出货时,即使是Hopper也将无东说念主问津。”
将夜视频在线观看免费导致这种欢快的漏洞在于,算力阛阓的资本由每类GPU的资本加权平均值决定。这意味着,具有更低规画资本的系统可用性一朝加多,将鼓励举座规画资本着落,进而也会拉低旧卡的租出价钱。
例如来说,英伟达GB200在推理方面的单元资本(每百万个token的好意思元资本)比H100低75%,在西宾方面的资本(每小时每个灵验PFLOP的好意思元资本)低56%。
这意味着,要是H100念念要保握竞争力,就不得不大幅降价。SemiAnalysis通过规画得出,为了让客户在使用两种芯良晌嗅觉“无离别”,H100的每小时租出价钱需要比GB200低65%。
更直不雅地说,要是GB200的租出价钱为每块GPU 2.20好意思元/小时,那么H100的租出价钱则需要降至每块GPU 0.98好意思元/小时。
SemiAnalysis曾在昨年预测,跟着H100分娩的加快,GPU价钱将握续下行,况且商量到买家将把要点升沉到Blackwell计谋上,这种着落趋势一直握续到2024年末。
践诺评释,其预测是准确的。
这种竞争模式使得像Lepton这么的专科GPU租出商濒临强盛压力,也促使英伟达商量通过收购来整合阛阓,进一步适应其在AI规画基础设施范围的主导地位。
英伟达的贪念藏不住,激进彭胀云作事英伟达CEO Jensen Huang被SemiAnalysis称为“首席营收碎裂者”,这别称称反馈了英伟达连年来在规画阛阓的激进彭胀策略。
SemiAnalysis指出,通过收购Lepton,英伟达不仅获取了颠倒的收入起原,还可能挤压其他云作事提供商的生涯空间。
进一步说,这种垂直整合策略让英伟达大约从芯片瞎想到算力租出的全产业链中赚钱,同期还能更好地适度其GPU芯片的使用形式和价钱策略,进一步增强其在AI规画范围的主导地位。
目下,英伟达的云和软件业务目下仍处于起步阶段,其模式是英伟达平直向企业出租由其芯片驱动的作事器,并提供软件匡助公司开垦AI模子和支配要道,以及经管西宾AI的GPU集群。
英伟达此前曾默示,这项业务往日可能产生1500亿好意思元的收入——这一数字卓绝了英伟达或亚马逊AWS目下的年营收额。
本文来自微信公众号“硬AI”,顺心更多AI前沿资讯请移步这里
风险教导及免责条件 阛阓有风险,投资需严慎。本文不组成个东说念主投资淡薄,也未商量到个别用户特殊的投资目的、财务景象或需要。用户应试虑本文中的任何见解、不雅点或论断是否合适其特定景象。据此投资,包袱高慢。