在安防行業(yè),一個“盒子”如何讓AI大模型落地?
來源:云天勵飛 編輯:ZZZ 2024-04-03 09:03:23 加入收藏
從一年前爆火的ChatGPT,到前段時間文生視頻大模型Sora,AI大模型的發(fā)展動態(tài)、議題仍不斷吸引著大眾關注和討論。
云天勵飛董事長兼CEO陳寧曾表示:“未來3年,全球80%的企業(yè)都將使用大模型。
有報告顯示,截至2023年10月,國內(nèi)公開的AI大模型數(shù)量已經(jīng)達到238個,過去5年世界上參數(shù)量超過百億的大模型大約有45個,其中9個出現(xiàn)在中國。
中國AI大模型發(fā)展勢頭正猛,但對于安防中小微企業(yè)而言,AI大模型能做什么?
安防中小微企業(yè)的痛點
對于大多承接項目規(guī)模在100萬以內(nèi)的的SMB安防企業(yè)而言,其人員配置一般以銷售為主,技術為輔,且業(yè)務多聚焦于零售、餐飲、工廠、倉儲、農(nóng)林牧漁等細分場景,往往中小微企業(yè)很難具備整體AI解決方案輸出能力。
這也使得長尾市場下,相關攝像頭設備雖已大范圍鋪開,但AI技術的落地滲透率并不高。
究其原因,主要有兩大痛點:
服務成本高
中小微企業(yè)所承接的安防項目規(guī)模相對較小,扣除掉工人、設備采購等費用支出后,項目營收小。無法進行規(guī)?;档瓦呺H成本,服務成本居高不下。
而中小微企業(yè)本身預算有限,這也意味著在整個項目中要考慮到多個需求并且做出權(quán)衡,在原有基礎上升級AI變得有門檻。
長尾需求難滿足
對于目前更多中小微企業(yè)而言,其更多的是在“搬箱子”,即上游設備廠家有什么就賣什么,安防+AI經(jīng)過近幾年的發(fā)展,也在落地上遇到了“能實現(xiàn)的客戶需求太少”“新需求的開發(fā)、交付速度慢”“生成算法精度差”“定制成本太高”等問題。
但不可否認,中國SMB安防市場規(guī)模龐大,這不僅僅是一個設備產(chǎn)品市場,更是一個工程市場。因其整體數(shù)量巨大,范圍極廣,規(guī)模累積效應也較大。
這也意味著,哪家企業(yè)能更好滿足中小微企業(yè)更多需求,幫助其解決更多痛點,哪家企業(yè)便能破局而出。
僅千元級就能用上大模型
“大模型一次訓練成本在千萬級,主流的訓推一體機價格普遍在百萬元,絕大多數(shù)企業(yè)都無法承擔這樣高昂的成本。” 云天勵飛董事長兼CEO陳寧坦言道。
對于怎么解決讓AI大模型平民化這個難題,在歷經(jīng)各種推翻和演練后,云天勵飛推出了“深目”AI模盒。
▲深目AI模盒與常規(guī)推理盒子的對比
在“算法芯片化”的核心能力下,云天勵飛基于自研大模型邊緣訓推芯片DeepEdge10 Max以及自研多模態(tài)大模型“云天天書”的深度融合,做到了將大模型塞進一個僅憑單手便可輕松托起的千元級 小盒子中。
“深目”AI模盒具備算法邊緣側(cè)在線學習能力,可實現(xiàn)“3個90%”——算法場景覆蓋超過90%、算法精度超過90%,使用成本降低90%。
也就是說,安防人都能夠根據(jù)自身場景需求,利用“深目”AI模盒,就可擁有自己“專屬” 的大模型,訓練出實戰(zhàn)應用的算法,。
如今,“深目”AI模盒已適配并可承載10億級SAM、百億級Llama2等大模型運算,可廣泛應用于AIoT邊緣視頻、移動機器人等場景。
另外,關于“盒子”里的大模型能力,其來源于云天勵飛自主研發(fā)的多模態(tài)大模型“云天天書”。
據(jù)了解,云天天書大模型包含語言大模型、多模態(tài)大模型等不同系列,在C-Eval、CMMLU等權(quán)威測試中多次獲得第一,并于去年正式通過中央網(wǎng)信辦備案。
云天天書1.0版本于2023年初正式推出,至今已完成3個版本的迭代,預計今年6月將迭代4.0 V版本。
“深目”AI模盒不僅僅是“壓縮”了大模型和芯片能力的一款全新產(chǎn)品,更是把云天勵飛大模型通過算法芯片化能力平臺“硬件化”的一次重要嘗試。
作為云天勵飛二次創(chuàng)業(yè)的首款產(chǎn)品,深目AI模盒將于6月30日正式發(fā)售且面向所有客戶統(tǒng)一發(fā)貨。
少/無數(shù)據(jù)場景也能生成算法
面對新產(chǎn)品,用戶除了關注性價比外,還需要關注產(chǎn)品是否“好用”的問題。
云天勵飛副總裁羅憶介紹,“深目”AI模盒能實現(xiàn)秒速訓練場景算法。
在“深目”AI模盒的算法訓練平臺上,有大量與生態(tài)合作伙伴共同打造的算法商城,能夠提供覆蓋14個大類、100+個小類、千余種算法。
用戶可以直接調(diào)用預訓練算法,并上傳自身場景圖片完成算法的微調(diào)和升級,快速訓練出高精度算法。
在演示中,以店外經(jīng)營為例,當用戶需要訓練識別算法時,可以直接使用平臺現(xiàn)成的算法對目標進行識別。用戶只需要對識別結(jié)果標記“正確”和“誤報”,算法精度就能通過自主學習快速提升。
那數(shù)據(jù)幾乎空白的場景,如天災人禍等極端場景,面對這樣“敏感數(shù)據(jù)”“無數(shù)據(jù)”的情況,用戶該如何訓練算法?
云天勵飛給出的答案是——使用AI合成數(shù)據(jù)來訓練算法。
據(jù)介紹,以加油站場景的吸煙識別為例,“深目”AI模盒能夠利用大模型能力,以加油站為背景,生成在該環(huán)境抽煙行為的人物,并將數(shù)據(jù)用于算法訓練中,填補訓練數(shù)據(jù)的空白。
“在我們AI合成數(shù)據(jù)的過程中,我們也會基于已有的一些真實數(shù)據(jù)并引入3D引擎去精準微調(diào)、預訓練我們的大模型,讓生成的效果更加貼近真實的場景。”云天勵飛董事長兼CEO陳寧解釋道。
十年磨一劍,出鞘必鋒芒。2014年,云天勵飛推出基于CV小模型的“深目”1.0,為“AI+公共安全”市場開啟了新紀元;2024年,云天勵飛選擇二次創(chuàng)業(yè),推出了基于自研芯片和大模型技術的“深目”AI模盒。
“深目”AI模盒的面世也充分印證了AI商業(yè)化須從方案化到運營化再到產(chǎn)品化的發(fā)展路徑,未來,我們期待云天勵飛能傳來更多AI大模型在安防落地的好消息。
評論comment