9月16日,北京商報(bào)記者從曠視獲悉,曠視開源深度學(xué)習(xí)框架曠視天元MegEngine近日開源了MegFlow流式計(jì)算框架,助力AI算法開發(fā)者快速完成AI模型的落地應(yīng)用。MegFlow是面向計(jì)算機(jī)視覺應(yīng)用的流式計(jì)算框架,提供了一套可快速完成AI應(yīng)用部署的視覺解析服務(wù)方案。AI應(yīng)用開發(fā)者可以基于MegFlow提供的圖像和視頻解析服務(wù),最快15分鐘即可完成客制化所需功能,例如發(fā)票掃描、明火檢測(cè)等。
常規(guī)的AI算法交付流程一般分為模型訓(xùn)練、SDK封裝、業(yè)務(wù)集成和交付驗(yàn)收四個(gè)步驟,冗長(zhǎng)繁雜。MegFlow將將冗長(zhǎng)的算法交付流程簡(jiǎn)化為模型訓(xùn)練、業(yè)務(wù)集成及交付驗(yàn)收三步,AI算法研究人員可以快速將訓(xùn)練好的模型集成部署成簡(jiǎn)單易用的AI服務(wù)并完成交付。
MegFlow針對(duì)AI算法工程落地中的頻發(fā)問題,諸如性能調(diào)優(yōu)、安全性、模型加密等,都能提供行之有效的解決方案并有效提升了工程效率。技術(shù)選型上,MegFlow的研發(fā)團(tuán)隊(duì)調(diào)研了多種技術(shù)方案,最終選擇了安全且零額外開銷的Rust異步生態(tài),從基礎(chǔ)上保證了MegFlow的安全性與性能。
MegFlow支持Python插件,且僅需要開發(fā)者編寫同步的Python程序,即可實(shí)現(xiàn)可以被MegFlow異步調(diào)度的Python插件。同時(shí)MegFlow提供了一套基于Web UI的可視化調(diào)試工具,可有效提升模型部署的工作效率。
表達(dá)能力上,MegFlow支持靜態(tài)圖、動(dòng)態(tài)圖和共享圖,輔以demux、reorder、transform等函數(shù)式語義的通用插件,為搭建多樣化的AI服務(wù)提供了豐富的語義支持。(記者 魏蔚)
關(guān)鍵詞: 曠視天元 MegFlow 曠視開源 流式計(jì)算框架 AI模型