10月14日，雙態(tài)IT烏鎮(zhèn)用戶大會(huì)成功舉辦。其間由百度智能云與鼎茂科技聯(lián)合舉辦的專場(chǎng)分論壇，聚集了百度智能云、鼎茂科技、建信金科、上海人工智能研究院、國方創(chuàng)新等企業(yè)、機(jī)構(gòu)的各領(lǐng)域?qū)＜?#xff0c;以“利用AI大模型技術(shù)加速推進(jìn)智能運(yùn)維大腦建設(shè)”為主題，圍繞AI大模型在技術(shù)維度、智能運(yùn)維領(lǐng)域的應(yīng)用維度、安全合規(guī)等多個(gè)角度，分享了最新的實(shí)踐經(jīng)驗(yàn)和前沿探索。

　　主題專場(chǎng)由躍為資本副總裁宋芃主持。他提到：“當(dāng)下AI大模型成為多個(gè)產(chǎn)業(yè)領(lǐng)域關(guān)注的技術(shù)重點(diǎn);同時(shí)智能運(yùn)維也在向企業(yè)IT管理的核心發(fā)展，從IT管理擴(kuò)容到更多的企業(yè)支持領(lǐng)域，新一代的智能運(yùn)維系統(tǒng)快速向企業(yè)級(jí)智能運(yùn)維大腦升級(jí)。此次百度智能云與鼎茂科技等多家機(jī)構(gòu)的專場(chǎng)研討，是大模型先鋒技術(shù)和智能運(yùn)維行業(yè)實(shí)踐領(lǐng)域的一次深度結(jié)合，將帶來更多有突破、好借鑒的精彩分享。”

—— 嘉賓分享內(nèi)容梗概 ——

　　AI技術(shù)，尤其是近期熱點(diǎn)的大語言模型突破，能夠給智能運(yùn)維領(lǐng)域帶來怎樣的加速發(fā)展，備受行業(yè)關(guān)注和期待。如何結(jié)合智能運(yùn)維相關(guān)的領(lǐng)域知識(shí)、聚焦行業(yè)場(chǎng)景，持續(xù)落地相應(yīng)AI智能化解決方案，已成為業(yè)界探索的目標(biāo)和方向。這其中有哪些挑戰(zhàn)和可能的技術(shù)路徑?

　　圍繞這些挑戰(zhàn)和解題思路，鼎茂科技CTO 何誠，分享了《企業(yè)級(jí)AIOps落地挑戰(zhàn)及與大模型結(jié)合發(fā)展趨勢(shì)》。演講主要圍繞企業(yè)級(jí)AIOps端到端智能化解決方案落地的問題和挑戰(zhàn)，提出了技術(shù)和解決方案應(yīng)對(duì)思路。同時(shí)對(duì)AI大模型技術(shù)在智能運(yùn)維領(lǐng)域的落地探索以及未來發(fā)展趨勢(shì)進(jìn)行了分享。

　　何誠總首先基于鼎茂多年的實(shí)踐經(jīng)驗(yàn)，剖析了企業(yè)在有效應(yīng)用AIOps端到端智能化解決方案的過程中面臨的三個(gè)挑戰(zhàn)：

　　數(shù)據(jù)的價(jià)值密度和標(biāo)準(zhǔn)化程度低，導(dǎo)致實(shí)際可用的樣本和數(shù)據(jù)相對(duì)較少。

　　隨著業(yè)務(wù)和環(huán)境的變化，數(shù)據(jù)分布和內(nèi)容動(dòng)態(tài)變化，使得智能化應(yīng)用方案的動(dòng)態(tài)適配以及應(yīng)用經(jīng)驗(yàn)和領(lǐng)域知識(shí)的平滑遷移難度大增。

　　從IT軟硬件資源到業(yè)務(wù)各層之間關(guān)系復(fù)雜并且相互影響，跨層多模態(tài)數(shù)據(jù)的統(tǒng)一整合分析極為困難。

　　接著何誠總分享了鼎茂在應(yīng)對(duì)這些挑戰(zhàn)中采用的有效技術(shù)解決方案以及實(shí)踐探索，包括：

　　設(shè)計(jì)并實(shí)現(xiàn)鼎茂的可觀測(cè)指標(biāo)中心，內(nèi)置IT運(yùn)維領(lǐng)域豐富的知識(shí)體系，以不同角色管理的IT運(yùn)維對(duì)象為視角和運(yùn)維核心，結(jié)合特定運(yùn)維數(shù)據(jù)體系實(shí)際狀況，分析并優(yōu)化數(shù)據(jù)治理的管理體系和價(jià)值體系，實(shí)現(xiàn)IT對(duì)象之間、對(duì)象指標(biāo)之間、指標(biāo)數(shù)據(jù)之間的依存和影響狀態(tài)可追查，為智能運(yùn)維場(chǎng)景降本增效，從而極大提升了數(shù)據(jù)資產(chǎn)價(jià)值。

　　采用多種前沿的終生學(xué)習(xí)方案，包括在線學(xué)習(xí)(Online Learning)、增量學(xué)習(xí)(Incremental Learning)、遷移學(xué)習(xí)(Transfer Learning)、強(qiáng)化學(xué)習(xí)(Reinforcement Learning)等，實(shí)現(xiàn)智能運(yùn)維解決方案的持續(xù)學(xué)習(xí)和接收反饋迭代提升。并將上述關(guān)鍵技術(shù)作為基礎(chǔ)算子能力，集成到鼎茂的AI服務(wù)引擎ARCANA-AI Engine中，縮短業(yè)務(wù)理解和智能化解決方案實(shí)現(xiàn)并落地部署時(shí)間。

　　提出”一橫、一縱、一深入“的跨層根因分析方法體系，通過鼎茂Di-RCA解決方案實(shí)現(xiàn)復(fù)雜問題，多模態(tài)數(shù)據(jù)跨層根因分析，縮小問題定界范圍，快速提升解決問題效率。

　　在探討智能運(yùn)維解決方案與AI大模型結(jié)合升級(jí)的發(fā)展趨勢(shì)上，何誠總分析了大語言模型在AIOps領(lǐng)域應(yīng)用的三個(gè)變化階段，包括直接調(diào)用外部開放大模型，結(jié)合知識(shí)圖譜構(gòu)建本地行業(yè)大模型以及未來通過本地行業(yè)大模型構(gòu)建智能運(yùn)維大腦。通過調(diào)研和分析，明確指出當(dāng)前企業(yè)級(jí)大模型應(yīng)用，應(yīng)該以結(jié)合行業(yè)知識(shí)圖譜，構(gòu)建本地行業(yè)大模型(Foundation Model)為主要目標(biāo)和方向，以此解決計(jì)算資源瓶頸、數(shù)據(jù)安全、缺乏領(lǐng)域知識(shí)產(chǎn)生幻覺等核心問題。

　　何誠總還介紹了鼎茂在智能運(yùn)維領(lǐng)域AI大模型方向探索的路徑和進(jìn)展，主要涵蓋在支持結(jié)構(gòu)化數(shù)據(jù)多任務(wù)分析的時(shí)序大模型框架，支持非結(jié)構(gòu)化數(shù)據(jù)多任務(wù)分析以及知識(shí)圖譜增強(qiáng)的語言大模型框架，以及最終實(shí)現(xiàn)支持多模態(tài)復(fù)雜問題綜合分析的統(tǒng)一領(lǐng)域大模型框架。

　　何誠總最后表示，AI技術(shù)和應(yīng)用域?qū)⒖焖侔l(fā)展，鼎茂也將始終在AI驅(qū)動(dòng)的數(shù)智平臺(tái)的基礎(chǔ)上，構(gòu)建支持企業(yè)IT運(yùn)維到業(yè)務(wù)決策端到端的智能化解決方案的智能運(yùn)維大腦，協(xié)助更多企業(yè)客戶進(jìn)行數(shù)字化和智能化變革。

　　百度文心大模型是國內(nèi)首屈一指的AI大模型，在各個(gè)產(chǎn)業(yè)的應(yīng)用正不斷擴(kuò)大和深化。百度智能云作為國內(nèi)引領(lǐng)AI技術(shù)發(fā)展的先鋒企業(yè)，其AI大模型和解決方案在各個(gè)產(chǎn)業(yè)的應(yīng)用中發(fā)揮著重要作用。

　　百度智能云私有云部高級(jí)產(chǎn)品經(jīng)理王發(fā)，分享《AI原生思維下的大模型智能運(yùn)維實(shí)踐和展望》。演講闡述了在前沿技術(shù)視角下，對(duì)于大模型和AIOps領(lǐng)域的探索和展望。

　　王發(fā)總首先強(qiáng)調(diào)了AI原生思維的重要性。隨著生成式AI技術(shù)的不斷發(fā)展，我們應(yīng)改變傳統(tǒng)思維方式，以適應(yīng)這個(gè)AI時(shí)代。AI原生應(yīng)用是利用生成、推理、記憶等AI能力，并能自然地與其他系統(tǒng)進(jìn)行交互。這不僅簡(jiǎn)化了操作流程，而且還能提供更高效的工作方式。

　　百度在智能運(yùn)維領(lǐng)域也做出了重大貢獻(xiàn)。自2000年以來，百度已經(jīng)經(jīng)歷了四個(gè)階段：人工運(yùn)維時(shí)代、自動(dòng)化運(yùn)維時(shí)代、AIOps領(lǐng)域和利用大模型加持AIOps。在這個(gè)過程中，百度推出了一系列AIOps產(chǎn)品，如異常檢測(cè)、告警收斂和故障傳播圖等。但盡管現(xiàn)有的AIOps產(chǎn)品已經(jīng)做得很好，專家們?nèi)匀话l(fā)現(xiàn)了其局限性。

　　王發(fā)總提到，為了解決現(xiàn)有問題，專家們開始探索如何利用大模型加持AIOps。由于大模型具有出色的評(píng)價(jià)能力、復(fù)雜任務(wù)拆解和執(zhí)行能力以及出色的生成能力，它們可以更好地解決運(yùn)維中的復(fù)雜問題。例如，大模型可以評(píng)價(jià)并優(yōu)化巡檢腳本;將復(fù)雜問題分解成更小的任務(wù)，以便更有效地執(zhí)行;以及通過文生文、文生圖和文生視頻等方式，快速解決問題。

　　王發(fā)總最后表示：隨著AI原生應(yīng)用的發(fā)展，我們有理由相信，未來的智能運(yùn)維將更加便捷、高效和智能化。通過很多領(lǐng)先公司的努力，我們期待看到更多創(chuàng)新和突破，以推動(dòng)智能運(yùn)維的發(fā)展。

　　AIOps技術(shù)和應(yīng)用領(lǐng)域正在進(jìn)入一個(gè)新的發(fā)展階段，其價(jià)值從傳統(tǒng)的運(yùn)維管理走向全域智能。隨著AI技術(shù)的發(fā)展，結(jié)合當(dāng)下AI大模型技術(shù)的新一代AIOps行業(yè)解決方案，正在成為許多行業(yè)未來的技術(shù)戰(zhàn)略。新一代的AIOps將以智能運(yùn)維大腦的形態(tài)出現(xiàn)，并為企業(yè)的發(fā)展提供深度服務(wù)。

　　鼎茂科技AIOps解決方案總監(jiān) 郭順友，分享《智能運(yùn)維大腦的建設(shè)思路》。詳細(xì)介紹了如何構(gòu)建企業(yè)級(jí)的智能運(yùn)維大腦，并分享了在多個(gè)行業(yè)的落地實(shí)踐。

　　他指出：智能運(yùn)維大腦是以豐富的運(yùn)維項(xiàng)目最佳實(shí)踐經(jīng)驗(yàn)為基礎(chǔ)，結(jié)合強(qiáng)大的AI算法引擎作為核心能力，融入客戶真實(shí)運(yùn)維場(chǎng)景，沉淀出的一套全域運(yùn)維能力集合。

　　鼎茂根據(jù)落地實(shí)踐經(jīng)驗(yàn)，將智能運(yùn)維大腦的建設(shè)路徑歸集為四個(gè)階段：

　　1.多維多模態(tài)數(shù)據(jù)的精細(xì)化治理;

　　2.顛覆傳統(tǒng)運(yùn)維模式，基于指標(biāo)中心進(jìn)行統(tǒng)一運(yùn)維對(duì)象模型建設(shè);

　　3.基于AI引擎閉環(huán)賦能智能化運(yùn)維場(chǎng)景;

　　4.實(shí)現(xiàn)智能運(yùn)維大腦上層的故障檢測(cè)、故障分析、故障處置、資源優(yōu)化、知識(shí)圖譜等智能化場(chǎng)景建設(shè)。

　　通過智能運(yùn)維大腦的建設(shè)，助力用戶從傳統(tǒng)運(yùn)維到一體化智能運(yùn)維發(fā)展方向的進(jìn)階，全面提升企業(yè)運(yùn)維效能和數(shù)智化運(yùn)營能力。實(shí)現(xiàn)問題的高準(zhǔn)確性發(fā)現(xiàn)和風(fēng)險(xiǎn)隱患的提前感知、高效的故障檢測(cè)和分析診斷能力、全域閉環(huán)AI算法引擎覆蓋，以及精細(xì)化的數(shù)據(jù)價(jià)值體現(xiàn)，最終實(shí)現(xiàn)運(yùn)維效率可達(dá)到1分鐘發(fā)現(xiàn)、5分鐘診斷、10分鐘處置。

　　基于對(duì)行業(yè)的深刻洞察，建信金科的DAK運(yùn)維理念-運(yùn)維數(shù)字能力、算法能力、運(yùn)維知識(shí)體系，也被包括建行在內(nèi)的眾多大型金融機(jī)構(gòu)采納為智能運(yùn)維體系建設(shè)的關(guān)注要素。

　　建信金科智能云解決方案專家趙崢，分享《基于DAK的智能運(yùn)維探索與實(shí)踐》。

　　本次分享中，趙崢總介紹了在技術(shù)趨勢(shì)、信創(chuàng)監(jiān)管、業(yè)務(wù)發(fā)展三方面需求的驅(qū)動(dòng)下，金融行業(yè)運(yùn)維數(shù)字化轉(zhuǎn)型面臨著環(huán)境多、數(shù)據(jù)多、要求高的巨大挑戰(zhàn)，同時(shí)為大家明晰了DAK運(yùn)維數(shù)字能力、算法能力、運(yùn)維知識(shí)體系的三大建設(shè)思路，分享了通過“平臺(tái)化+場(chǎng)景+知識(shí)”模式搭建全棧式智能運(yùn)維工具產(chǎn)品的經(jīng)驗(yàn)。

　　他指出，在企業(yè)智能運(yùn)維體系架構(gòu)中，知識(shí)、AI和數(shù)據(jù)三個(gè)平臺(tái)構(gòu)成了運(yùn)維大腦的核心。在知識(shí)內(nèi)容生命周期中的知識(shí)收集、知識(shí)管理、知識(shí)挖掘、知識(shí)應(yīng)用四個(gè)領(lǐng)域，自動(dòng)化與人工智能技術(shù)的快速發(fā)展，大量抽象而復(fù)雜的知識(shí)場(chǎng)景，可以不再依賴人力，通過信息技術(shù)的融合能夠形成巨大的知識(shí)賦能，構(gòu)建知識(shí)生產(chǎn)力的第二載體。

　　最后趙崢總總結(jié)：向研發(fā)和業(yè)務(wù)交付價(jià)值、重視數(shù)據(jù)和知識(shí)、建立智能化思維，將作為智能運(yùn)維實(shí)踐的重中之重。

　　AI大模型從誕生以來就伴隨著隱私性、安全性的討論。從數(shù)據(jù)隱私、模型訓(xùn)練過程的商業(yè)機(jī)密泄露、大模型公平性要求的監(jiān)管審查，以及對(duì)抗攻擊等等層面，都受到關(guān)注。

　　上海人工智能研究院總工程師，王資凱，分享《合規(guī)條件下的生成式人工智能落地》。

　　王資凱總結(jié)合目前的實(shí)際生產(chǎn)現(xiàn)狀：訓(xùn)練大的模型需要大量的高質(zhì)量訓(xùn)練數(shù)據(jù);龐大的算力需求直接提升了驚人的成本;模型效果的保障需要在算法模型的細(xì)節(jié)不斷地嘗試和優(yōu)化;推理速度是限制大模型落地應(yīng)用的重要瓶頸;黑盒體質(zhì)導(dǎo)致滿足不了垂直領(lǐng)域所要求的安全性和可解釋性……

　　針對(duì)這些現(xiàn)狀，他對(duì)AIGC的發(fā)展可能提出了一些預(yù)見性的想法：構(gòu)造高質(zhì)量的領(lǐng)域/產(chǎn)業(yè)數(shù)據(jù)集?圍繞場(chǎng)景推出小模型?推出“模型既服務(wù)”模式?針對(duì)細(xì)分領(lǐng)域/產(chǎn)業(yè)的推理設(shè)施?針對(duì)細(xì)分行業(yè)的模型測(cè)試集?圍繞細(xì)分內(nèi)容做可控生成和檢索增強(qiáng)?

　　全面就AIGC的缺陷、監(jiān)管、影響和落地幾個(gè)方面，系統(tǒng)性闡述了如何在道德和倫理規(guī)范的前提下，滿足合規(guī)條件，將生成式AI技術(shù)應(yīng)用于實(shí)際場(chǎng)景中的前景和可能性。

　　智能運(yùn)維領(lǐng)域幾年前就吸引了資本的關(guān)注，隨著技術(shù)的不斷進(jìn)步和應(yīng)用場(chǎng)景的擴(kuò)大，智能運(yùn)維領(lǐng)域也在持續(xù)演進(jìn)和創(chuàng)新，資本也在重新觀測(cè)行業(yè)的趨勢(shì)和未來。

　　國方創(chuàng)新投資總監(jiān)，張治，分享《資本視角下智能運(yùn)維領(lǐng)域的前景》。

　　他指出數(shù)字化轉(zhuǎn)型進(jìn)入深水區(qū)，云化、云原生化的趨勢(shì)不可逆，再疊加上信創(chuàng)的推動(dòng)，客戶的IT復(fù)雜度在急劇提升，這帶動(dòng)了IT運(yùn)維逐漸從人工運(yùn)維往自動(dòng)化運(yùn)維方向發(fā)展，在此背景下以IT運(yùn)維管理軟件與分析軟件為代表的IT運(yùn)維產(chǎn)品在市場(chǎng)規(guī)模也在快速提升。

　　通過與成熟海外市場(chǎng)的發(fā)展對(duì)比，他還為智能運(yùn)維行業(yè)的賽道者指出：因?yàn)橹袊默F(xiàn)實(shí)情況，現(xiàn)階段智能運(yùn)維企業(yè)的核心競(jìng)爭(zhēng)力在于從服務(wù)高IT水平客戶中產(chǎn)品、技術(shù)與場(chǎng)景的打磨，這會(huì)有一個(gè)共建的過程。這兩年我們也看到部分頭部玩家已經(jīng)完成最佳實(shí)踐方案打磨，下一階段，智能運(yùn)維企業(yè)需要尋找高質(zhì)量發(fā)展的路徑，從與客戶共建進(jìn)入到建議客戶，引領(lǐng)客戶的過程。

　　會(huì)議最后，來自用戶側(cè)和同業(yè)側(cè)的業(yè)內(nèi)人士也就大模型在領(lǐng)域內(nèi)的應(yīng)用難點(diǎn)和價(jià)值量化向與會(huì)專家進(jìn)行了互動(dòng)探討。

　　值得期待的是，智能化從技術(shù)到產(chǎn)業(yè)落地正在加速。對(duì)IT和業(yè)務(wù)決策的影響價(jià)值來看，也已經(jīng)從代碼生成、效率工具升級(jí)發(fā)展到多環(huán)節(jié)、多領(lǐng)域的賦能。同樣值得期待和關(guān)注的是，在to B智能運(yùn)維領(lǐng)域，AIGC的產(chǎn)品化時(shí)代。