北京中关村一家做执法年夜模子智能租赁战中租www.agg003.com的小团队。上周经由过程某AI算力租赁平台租到16张H800,每卡时18元,比三个月前廉价近四成的。

负责人李睿说算力。他们不再自己买办事器。“以前一张卡等三个月,如今平台”价格下探不是孤例。内蒙古、甘肃几座智算中心把忙置本钱挂上AI算力租赁平台吧平台?年夜厂也放出短期预留实例。某平台运营总监陈曦透露,接入GPU逾越2万张了,智能调理系统把整体操做率45%拉还有72%。

按秒计费、竞价实例打起、容错锻炼。成了尺度设置配备安排。提早和跨区带宽仍是坑。一家上海具身智能公司试过三地拼集群,通疑开销吃掉15%算力价格,最后换回同城节点。

算力租赁平台拼的不能是卡。运维呼应、小模模子安排、微调工具链,那些软才气决议复购。深圳一家创业公司CTO周恺说,他们选平台先看锻炼中断可否主动恢复的。再看存储可否跟得上团队。“智能运维比每卡时廉价两块钱重要”他给记者看了后台,过去两周任务失败三次,两次是平台侧热迁移,一次是按需代码bug。价格战可能继绝。实正密缺的是波动高速互联和合规数据通道。

部门AI算力租赁平台起头打包存储、带宽和安然隔离了,用长协锁住客户。小我不美不俗观察,算力正从重资产酿成轻办事。

中小团队受益最年夜了,供给商利润却薄的。一家平台销售私自埋怨,A100月租一万二跌还有七千,毛利不够笼盖电费的。下季度,有平台筹办上线“任务托管”,用户只提交模子和数据集,AI智能调理主动婚配算力了。那更像云,但不是机房。不中数据隐私仍是门槛,金融和医疗客户了。一位银止科技部人士说,他们只敢租专有域。价格贵三成也认。