每經(jīng)AI快訊，6月11日，據(jù)騰訊混元官微消息，為了進(jìn)一步滿足推理系統(tǒng)對(duì)動(dòng)態(tài)業(yè)務(wù)負(fù)載的適應(yīng)性、核心模塊對(duì)復(fù)雜精度和高性能融合算子的需求，HPC-Ops 推出全新更新開源升級(jí)，包含五大關(guān)鍵算子。本次升級(jí)在主流推理平臺(tái)上，有效緩解了Attention長尾延遲、顯存搬運(yùn)開銷、跨卡通信等實(shí)際工程瓶頸，多項(xiàng)性能指標(biāo)顯著優(yōu)于現(xiàn)有的開源基線。HPC-Ops 是騰訊混元 AI Infra 團(tuán)隊(duì)開源并長期維護(hù)的一套工業(yè)級(jí)、高性能的大模型推理底層算子庫。