新浪科技讯 12月18日下昼音问,当天举办的火山引擎Force大会上欧洲杯体育,字节卓越基础框架老成东说念主赵鹏伟暗示,“更极致性价比、更深度更始、更可靠安全是AI行业的发展趋势。”
云原生是昔日十年最遑急的打算范式,大模子时间则鼓舞着云打算的变革。
火山引擎以为,下一个十年,打算范式应该从云原生插足到AI云原生的新时间。基于AI云原生的理念,火山引擎推出了新一代打算、收罗、存储和和安全居品。在打算层面,火山引擎GPU实例,通过vRDMA收罗,守旧大限制并行打算和P/D差异推理架构,显赫擢升磨真金不怕火和推理成果,裁减资本;存储上,新推出的EIC弹性极速缓存,大要终端GPU直连,使大模子推理时延裁减至1/50、资本裁减20%;在安全层面,火山将推出PCC好意思妙云做事,构建大模子的的确诳骗体系。基于PCC,企业大要终端用户数据在云上推理的端到端加密,而况性能很好,推理时延比明文格局的相反在5%以内。(罗宁)
海量资讯、精确解读,尽在新浪财经APP
包袱剪辑:尉旖涵 欧洲杯体育
|