物聯(lián)傳媒 旗下網(wǎng)站
登錄 注冊(cè)

慢思考AI時(shí)代來臨,CoE架構(gòu)加速驅(qū)動(dòng)大模型變革?

作者:來源網(wǎng)絡(luò)(侵權(quán)刪)
來源:RFID世界網(wǎng)
日期:2024-09-20 10:50:34
摘要:CoE(Collaboration-of-Experts,專家協(xié)同)架構(gòu),作為一種創(chuàng)新的技術(shù)架構(gòu),其核心理念是將大模型分解為多個(gè)“專家模型”,每個(gè)專家模型在特定領(lǐng)域有著深厚的積累和精準(zhǔn)的能力。這些專家模型可以根據(jù)實(shí)際需求進(jìn)行動(dòng)態(tài)組合和協(xié)同,從而提供最優(yōu)的解決方案,提升人工智能系統(tǒng)的整體性能和智能水平。
關(guān)鍵詞:AI

隨著科技的高速發(fā)展,新的技術(shù)還在不斷產(chǎn)生、不斷涌現(xiàn),刷新著人們對(duì)科技的無限想象。比如在人工智能領(lǐng)域,AI技術(shù)迭代之快,新的技術(shù)的出現(xiàn),總在不斷顛覆著人們的認(rèn)知和想象空間。


前不久,美國OpenAI公司正式推出全大新模型o1,引起了業(yè)界的廣泛關(guān)注。據(jù)悉,o1模型采用了全新的優(yōu)化算法和為其專門定制的新訓(xùn)練數(shù)據(jù)集進(jìn)行訓(xùn)練,運(yùn)用“強(qiáng)化學(xué)習(xí)”的方式,并通過“思路鏈”來處理用戶查詢的問題,這使得它在處理復(fù)雜問題時(shí)表現(xiàn)更為出色。


與以往模型不同的是,o1模型采用了“慢思考”的方式,即在回答問題前會(huì)進(jìn)行反復(fù)思考、拆解、理解、推理等復(fù)雜的深入思考后,再提供具有高質(zhì)量的回答。


值得一提的是,“慢思考”這一概念并非OpenAI首創(chuàng)。早在ISC.AI 2024大會(huì)上,360集團(tuán)創(chuàng)始人周鴻祎就提出,“用基于智能體的框架打造慢思考系統(tǒng),從而增強(qiáng)大模型的慢思考能力?!蓖瑫r(shí),360推出了其首創(chuàng)的專家協(xié)同(CoE)技術(shù)架構(gòu)及混合大模型,目前該技術(shù)架構(gòu)已應(yīng)用于多個(gè)產(chǎn)品中,比如360 AI搜索、360 AI瀏覽器。


何為CoE架構(gòu)?


CoE(Collaboration-of-Experts,專家協(xié)同)架構(gòu),作為一種創(chuàng)新的技術(shù)架構(gòu),其核心理念是將大模型分解為多個(gè)“專家模型”,每個(gè)專家模型在特定領(lǐng)域有著深厚的積累和精準(zhǔn)的能力。這些專家模型可以根據(jù)實(shí)際需求進(jìn)行動(dòng)態(tài)組合和協(xié)同,從而提供最優(yōu)的解決方案,提升人工智能系統(tǒng)的整體性能和智能水平。


與MoE架構(gòu)不同的是,CoE架構(gòu)強(qiáng)調(diào)的是多個(gè)專家模型之間的協(xié)同工作,不存在綁定關(guān)系,因此該架構(gòu)更靈活性和可擴(kuò)展性。在CoE中,一個(gè)入口同時(shí)接入多家模型,并在模型分析之前增加一個(gè)意圖識(shí)別環(huán)節(jié),以決定任務(wù)由哪款或哪幾款模型起作用。


作為一種創(chuàng)新型的技術(shù)架構(gòu),CoE架構(gòu)通過混合大模型和專家模型的協(xié)同工作,智能優(yōu)化分配資源,使得最合適的模型能夠處理最適合的任務(wù),顯著提升答案的準(zhǔn)確性和完整性,同時(shí)也提升了系統(tǒng)的整體性能和效率,為人工智能領(lǐng)域的發(fā)展注入了新的活力和動(dòng)力。


360聯(lián)手國內(nèi)大模型廠商,擊敗GPT-4o


當(dāng)下,隨著人工智能技術(shù)的快速發(fā)展,AI大模型成為當(dāng)下全球科技競(jìng)爭的新高地。大模型以其龐大的參數(shù)量、強(qiáng)大的泛化能力等,在多個(gè)領(lǐng)域展現(xiàn)出巨大的應(yīng)用潛力和價(jià)值。


但眼下的現(xiàn)狀是:大模型太多,應(yīng)用太少了。大模型不僅要跑起來,更要用起來。因此,如何讓大模型更好地應(yīng)用到具體的場(chǎng)景中并落地,為各行業(yè)創(chuàng)造出實(shí)際的價(jià)值,變得尤為重要。然而,單一企業(yè)的大模型往往存在局限性,難以滿足復(fù)雜多變的市場(chǎng)需求。


針對(duì)于此,360提出了CoE(Collaboration-of-Experts,專家協(xié)同)技術(shù)架構(gòu),為大模型的應(yīng)用帶來了一種全新的思維模式。


據(jù)悉,CoE架構(gòu)除了接入360自研大模型360智腦外,還包括智譜AI、商湯科技、百川智能、字節(jié)跳動(dòng)、百度、騰訊、科大訊飛、華為、MiniMax、零一萬物、面壁智能、阿里云、幻方量化、好未來、月之暗面等國內(nèi)主流廠商的大模型產(chǎn)品。


與此同時(shí),360宣布與國內(nèi)15家大模型開發(fā)商強(qiáng)強(qiáng)合作,推出一款A(yù)I搜索應(yīng)用產(chǎn)品——360 AI助手,其將全面內(nèi)置在360全家桶產(chǎn)品與360 AI搜索內(nèi),無需安裝額外的插件便可以直接調(diào)用各家的大模型能力,實(shí)現(xiàn)一站式體驗(yàn)國內(nèi)多達(dá)15家的最強(qiáng)大模型。

圖片

圖源:網(wǎng)絡(luò)


當(dāng)然,這個(gè)集成了多款大模型能力的「超級(jí)模型」合體的數(shù)據(jù)架構(gòu)也不負(fù)眾望,其在多方面均有著出色的表現(xiàn)和較強(qiáng)的實(shí)力。從實(shí)際效果來看,集各家所長的AI助手以80.4測(cè)試總分大幅超越GPT-4o的69.22分,且在11個(gè)能力維度上全面領(lǐng)先。

圖片

圖源:網(wǎng)絡(luò)


作為AI技術(shù)的引領(lǐng)者之一,360在大模型領(lǐng)域的創(chuàng)新和探索,不僅為自身帶來了競(jìng)爭優(yōu)勢(shì),更是為整個(gè)行業(yè)的發(fā)展拓寬了思路,帶來了更加領(lǐng)先及標(biāo)準(zhǔn)化的參考。未來,隨著技術(shù)的不斷進(jìn)步與應(yīng)用場(chǎng)景的不斷拓展,我們有理由相信大模型技術(shù)將在未來發(fā)揮更加重要的作用,推動(dòng)AI技術(shù)的持續(xù)發(fā)展和普及。


人物訪談