在安防行業(yè)，一個(gè)“盒子”如何讓AI大模型落地？

　　從一年前爆火的ChatGPT，到前段時(shí)間文生視頻大模型Sora，AI大模型的發(fā)展動(dòng)態(tài)、議題仍不斷吸引著(zhù)大眾關(guān)注和討論。

　　云天勵飛董事長(cháng)兼CEO陳寧曾表示：“未來(lái)3年，全球80%的企業(yè)都將使用大模型。

　　有報告顯示，截至2023年10月，國內公開(kāi)的AI大模型數量已經(jīng)達到238個(gè)，過(guò)去5年世界上參數量超過(guò)百億的大模型大約有45個(gè)，其中9個(gè)出現在中國。

　　中國AI大模型發(fā)展勢頭正猛，但對于安防中小微企業(yè)而言，AI大模型能做什么?

　　安防中小微企業(yè)的痛點(diǎn)

　　對于大多承接項目規模在100萬(wàn)以?xún)鹊牡腟MB安防企業(yè)而言，其人員配置一般以銷(xiāo)售為主，技術(shù)為輔，且業(yè)務(wù)多聚焦于零售、餐飲、工廠(chǎng)、倉儲、農林牧漁等細分場(chǎng)景，往往中小微企業(yè)很難具備整體AI解決方案輸出能力。

　　這也使得長(cháng)尾市場(chǎng)下，相關(guān)攝像頭設備雖已大范圍鋪開(kāi)，但AI技術(shù)的落地滲透率并不高。

　　究其原因，主要有兩大痛點(diǎn)：

　　服務(wù)成本高

　　中小微企業(yè)所承接的安防項目規模相對較小，扣除掉工人、設備采購等費用支出后，項目營(yíng)收小。無(wú)法進(jìn)行規?；档瓦呺H成本，服務(wù)成本居高不下。

　　而中小微企業(yè)本身預算有限，這也意味著(zhù)在整個(gè)項目中要考慮到多個(gè)需求并且做出權衡，在原有基礎上升級AI變得有門(mén)檻。

　　長(cháng)尾需求難滿(mǎn)足

　　對于目前更多中小微企業(yè)而言，其更多的是在“搬箱子”，即上游設備廠(chǎng)家有什么就賣(mài)什么，安防+AI經(jīng)過(guò)近幾年的發(fā)展，也在落地上遇到了“能實(shí)現的客戶(hù)需求太少”“新需求的開(kāi)發(fā)、交付速度慢”“生成算法精度差”“定制成本太高”等問(wèn)題。

　　但不可否認，中國SMB安防市場(chǎng)規模龐大，這不僅僅是一個(gè)設備產(chǎn)品市場(chǎng)，更是一個(gè)工程市場(chǎng)。因其整體數量巨大，范圍極廣，規模累積效應也較大。

　　這也意味著(zhù)，哪家企業(yè)能更好滿(mǎn)足中小微企業(yè)更多需求，幫助其解決更多痛點(diǎn)，哪家企業(yè)便能破局而出。

　　僅千元級就能用上大模型

　　“大模型一次訓練成本在千萬(wàn)級，主流的訓推一體機價(jià)格普遍在百萬(wàn)元，絕大多數企業(yè)都無(wú)法承擔這樣高昂的成本。” 云天勵飛董事長(cháng)兼CEO陳寧坦言道。

　　對于怎么解決讓AI大模型平民化這個(gè)難題，在歷經(jīng)各種推翻和演練后，云天勵飛推出了“深目”AI模盒。

 ▲深目AI模盒與常規推理盒子的對比

　　在“算法芯片化”的核心能力下，云天勵飛基于自研大模型邊緣訓推芯片DeepEdge10 Max以及自研多模態(tài)大模型“云天天書(shū)”的深度融合，做到了將大模型塞進(jìn)一個(gè)僅憑單手便可輕松托起的千元級 小盒子中。

　　“深目”AI模盒具備算法邊緣側在線(xiàn)學(xué)習能力，可實(shí)現“3個(gè)90%”——算法場(chǎng)景覆蓋超過(guò)90%、算法精度超過(guò)90%，使用成本降低90%。

　　也就是說(shuō)，安防人都能夠根據自身場(chǎng)景需求，利用“深目”AI模盒，就可擁有自己“專(zhuān)屬” 的大模型，訓練出實(shí)戰應用的算法，。

　　如今，“深目”AI模盒已適配并可承載10億級SAM、百億級Llama2等大模型運算，可廣泛應用于A(yíng)IoT邊緣視頻、移動(dòng)機器人等場(chǎng)景。

　　另外，關(guān)于“盒子”里的大模型能力，其來(lái)源于云天勵飛自主研發(fā)的多模態(tài)大模型“云天天書(shū)”。

　　據了解，云天天書(shū)大模型包含語(yǔ)言大模型、多模態(tài)大模型等不同系列，在C-Eval、CMMLU等權威測試中多次獲得第一，并于去年正式通過(guò)中央網(wǎng)信辦備案。

　　云天天書(shū)1.0版本于2023年初正式推出，至今已完成3個(gè)版本的迭代，預計今年6月將迭代4.0 V版本。

　　“深目”AI模盒不僅僅是“壓縮”了大模型和芯片能力的一款全新產(chǎn)品，更是把云天勵飛大模型通過(guò)算法芯片化能力平臺“硬件化”的一次重要嘗試。

　　作為云天勵飛二次創(chuàng )業(yè)的首款產(chǎn)品，深目AI模盒將于6月30日正式發(fā)售且面向所有客戶(hù)統一發(fā)貨。

　　少/無(wú)數據場(chǎng)景也能生成算法

　　面對新產(chǎn)品，用戶(hù)除了關(guān)注性?xún)r(jià)比外，還需要關(guān)注產(chǎn)品是否“好用”的問(wèn)題。

　　云天勵飛副總裁羅憶介紹，“深目”AI模盒能實(shí)現秒速訓練場(chǎng)景算法。

　　在“深目”AI模盒的算法訓練平臺上，有大量與生態(tài)合作伙伴共同打造的算法商城，能夠提供覆蓋14個(gè)大類(lèi)、100+個(gè)小類(lèi)、千余種算法。

　　用戶(hù)可以直接調用預訓練算法，并上傳自身場(chǎng)景圖片完成算法的微調和升級，快速訓練出高精度算法。

　　在演示中，以店外經(jīng)營(yíng)為例，當用戶(hù)需要訓練識別算法時(shí)，可以直接使用平臺現成的算法對目標進(jìn)行識別。用戶(hù)只需要對識別結果標記“正確”和“誤報”，算法精度就能通過(guò)自主學(xué)習快速提升。

　　那數據幾乎空白的場(chǎng)景，如天災人禍等極端場(chǎng)景，面對這樣“敏感數據”“無(wú)數據”的情況，用戶(hù)該如何訓練算法?

　　云天勵飛給出的答案是——使用AI合成數據來(lái)訓練算法。

　　據介紹，以加油站場(chǎng)景的吸煙識別為例，“深目”AI模盒能夠利用大模型能力，以加油站為背景，生成在該環(huán)境抽煙行為的人物，并將數據用于算法訓練中，填補訓練數據的空白。

　　“在我們AI合成數據的過(guò)程中，我們也會(huì )基于已有的一些真實(shí)數據并引入3D引擎去精準微調、預訓練我們的大模型，讓生成的效果更加貼近真實(shí)的場(chǎng)景。”云天勵飛董事長(cháng)兼CEO陳寧解釋道。

　　十年磨一劍，出鞘必鋒芒。2014年，云天勵飛推出基于CV小模型的“深目”1.0，為“AI+公共安全”市場(chǎng)開(kāi)啟了新紀元;2024年，云天勵飛選擇二次創(chuàng )業(yè)，推出了基于自研芯片和大模型技術(shù)的“深目”AI模盒。

　　“深目”AI模盒的面世也充分印證了AI商業(yè)化須從方案化到運營(yíng)化再到產(chǎn)品化的發(fā)展路徑，未來(lái)，我們期待云天勵飛能傳來(lái)更多AI大模型在安防落地的好消息。