文 | 智能降級(jí)
近來(lái)看到個(gè)最好玩的消息,大致下面這樣:
這其實(shí)意味著大家花了很多時(shí)間做所謂的智能體,創(chuàng)造的全是負(fù)價(jià)值。
原因特簡(jiǎn)單。
來(lái)自過(guò)去產(chǎn)研陣營(yíng)的人類(lèi)總是覺(jué)得,可以通過(guò)加入人類(lèi)以為讓 AI 更好的知識(shí)(表現(xiàn)為提示詞,本質(zhì)是規(guī)則)來(lái)提升 AI 在特定方向的表現(xiàn)。
這些所謂的 " 人類(lèi)知識(shí) " 和 " 小技巧 ",表現(xiàn)出來(lái)就是提示詞(Prompt),本質(zhì)上則是一堆給 AI 的規(guī)則。
這些東西有助于提高限定目標(biāo)下的精度,但對(duì)于一個(gè)大模型來(lái)說(shuō),實(shí)則是一種戕害,是一種 " 智能降級(jí) " 的行為。
大模型的厲害之處在哪?
在于它學(xué)了海量的數(shù)據(jù),內(nèi)部形成了一個(gè)模擬真實(shí)世界的、極其復(fù)雜的概率模型。它有種 " 涌現(xiàn) " 出來(lái)的、我們都還沒(méi)完全搞懂的通用智能。
你加進(jìn)去的那些規(guī)則,就像是給一個(gè)想象力無(wú)限的畫(huà)家,硬塞了一本兒童涂色書(shū),還規(guī)定他必須在框框里涂色,不能出界。
你以為你在 " 優(yōu)化 " 他畫(huà)蘋(píng)果的能力,實(shí)際上你廢掉了他創(chuàng)作《星空》的可能。
當(dāng)你面對(duì)的需求,敞口巨大、千奇百怪、無(wú)限貼近真實(shí)世界的時(shí)候——比如一個(gè)律師的日常工作——你那點(diǎn) " 局部?jī)?yōu)化 " 就變得得不償失。
你閹割掉的通用智能部分所帶來(lái)的損失大于你費(fèi)勁匹配上的那部分需求上的收益。
最終就化成用戶(hù)的三個(gè)字:不好用。
這就是 " 智能降級(jí) ",也就是現(xiàn)在做智能體的典型陷阱。
更要命的是,大模型本身,還有像通用搜索這種腳手架,它進(jìn)步越快,陷阱就挖得越深。
要規(guī)避 " 智能降級(jí) " 這個(gè)大天坑,核心就一句話:
別再?lài)L試教 AI" 怎么思考 ",而是要給它 " 思考的材料 "。
(背后的原則就是我們 23 年就開(kāi)始提到的智能優(yōu)先)
人類(lèi)得承認(rèn) AI 的 " 腦子 "(底座模型)在無(wú)屬性的智能上已經(jīng)比人強(qiáng)了,所以不要嘗試當(dāng)一個(gè)蹩腳的 " 老師 ",而是當(dāng)它的 " 情報(bào)官 "。
給它提供它原本接觸不到的、高質(zhì)量的、獨(dú)家的 " 情報(bào) ",也就是數(shù)據(jù)和上下文。然后相信它的智商,讓它自己去推理、去判斷。
當(dāng)然因?yàn)槟阋私饽阆敫墒裁?,所以需要一個(gè)比較復(fù)雜的評(píng)估系統(tǒng)。
(這部分很復(fù)雜,本篇不展開(kāi))
沿著這個(gè)思路,讓智能體有價(jià)值方向其實(shí)很清晰:
方向一:深挖 " 獨(dú)占性上下文 "
通用大模型,懂的是公域。
它不知道你公司上周開(kāi)了什么會(huì),不知道你們最重要的客戶(hù)是誰(shuí),更不知道你們的王牌產(chǎn)品是怎么研發(fā)出來(lái)的。
這些,就是你的 " 獨(dú)占性上下文 "。這是你唯一的、也是最堅(jiān)固的護(hù)城河。
我們以前的說(shuō)法:數(shù)據(jù)的邊界是應(yīng)用的邊界。
智能體的首要價(jià)值,就是把這些散落在公司各個(gè)角落的、內(nèi)部的、私有的數(shù)據(jù),安全、高效地喂給大模型。
說(shuō)白了,就是給 AI 開(kāi) " 內(nèi)網(wǎng)權(quán)限 "。讓它能看到所有郵件、聊天記錄、會(huì)議紀(jì)要、代碼庫(kù)、產(chǎn)品文檔、客戶(hù)關(guān)系管理系統(tǒng)(CRM)里的數(shù)據(jù)。
當(dāng) AI 能看到這一切的時(shí)候,它就不再是一個(gè)只會(huì)說(shuō)胡話的 " 互聯(lián)網(wǎng)嘴替 ",而是一個(gè)真正懂你業(yè)務(wù)的 " 數(shù)字員工 "。
人類(lèi)要做的主要不是用什么技巧提高智能,而是要補(bǔ)數(shù)字化的課。上面這事深挖的話,背后是數(shù)字成本和生產(chǎn)關(guān)系問(wèn)題。
不管怎么樣,人這部分才是最大的成本和障礙。
方向二:提供 " 高勢(shì)能工具箱 "
光能看還不行,還得能干活。
但這個(gè) " 干活 ",不是你規(guī)定好一步兩步三步的僵化流程。
而是你給它一堆 " 工具 ",就像給一個(gè)聰明的工人一個(gè)工具箱,里面有錘子、有扳手、有電鉆。然后你告訴他,目標(biāo)是 " 把墻上那幅畫(huà)掛起來(lái) "。
他自己會(huì)判斷,是該用釘子和錘子,還是用膨脹螺絲和電鉆。
這個(gè) " 工具箱 ",在數(shù)字世界里就是各種 API。比如 " 查庫(kù)存 "、" 下訂單 "、" 發(fā)郵件 "、" 創(chuàng)建日歷 " ……
一個(gè)好的智能體,應(yīng)該是一個(gè)能熟練使用你給的工具箱、去自主完成你交待的目標(biāo)的 " 高級(jí)打雜工 "。它有腦子,也有手腳。
方向三其實(shí)是自我優(yōu)化,這更難搞,這篇文章里面不展開(kāi)了。
前面的第一二點(diǎn)并非是 Ai 領(lǐng)域的問(wèn)題,和過(guò)去的 ERP、數(shù)字化等等重疊度更高。一定程度是補(bǔ)課和融合。陳果同志經(jīng)常講的內(nèi)容,在這里是很有用的。比如:
說(shuō)了這么多,那到底什么樣的產(chǎn)品才能避開(kāi) " 智能降級(jí) " 的坑?
我們可以拿市面上兩種不同形態(tài)的產(chǎn)品做個(gè)對(duì)比,一下就明白了。
失敗的形態(tài):那個(gè) 5 萬(wàn)美元的合同 AI
這種產(chǎn)品,我稱(chēng)之為 " 工作流 AI"。
它明顯的問(wèn)題是靈活度不夠,而靈活度不夠則是因?yàn)檎仙疃炔粔颉?/p>
它的邏輯是,在一個(gè)封閉的軟件內(nèi)部,預(yù)設(shè)好一個(gè) " 分析合同 " 的流程。然后讓 AI 來(lái)填充這個(gè)流程里的某些環(huán)節(jié)。
這時(shí)候當(dāng)人可以和 AI 高頻交互的時(shí)候,你的工作流帶來(lái)的就基本是壞處。
它的問(wèn)題可能是:
1. 上下文缺失:它只知道你上傳的這一份合同,不知道這份合同的背景、談判過(guò)程(可能在郵件里)、相關(guān)的歷史合同(可能在另一個(gè)文件夾里)。它是個(gè) " 睜眼瞎 "。
2. 流程僵化:它把你和 AI 都鎖死在一個(gè)固定的流程里。律師想換個(gè)角度問(wèn)點(diǎn)問(wèn)題,想讓 AI 結(jié)合點(diǎn)別的信息,門(mén)兒都沒(méi)有。這就是 " 智能降級(jí) " 的重災(zāi)區(qū)。
3. 價(jià)值孤點(diǎn):它的價(jià)值,僅限于 " 分析合同 " 這一個(gè)孤零零的場(chǎng)景。它無(wú)法把這個(gè)能力,和你公司的其他工作流串聯(lián)起來(lái)。
成功的形態(tài):Glean 這樣的產(chǎn)品
Glean 的本質(zhì)是一個(gè) " 上下文平臺(tái) "。
它所有的貢獻(xiàn)在于確保我們反復(fù)說(shuō)過(guò)的:現(xiàn)實(shí)理解縱深。
它什么流程都不預(yù)設(shè)。它的唯一目標(biāo),就是打通一家公司內(nèi)部所有的數(shù)據(jù)孤島,把 Slack、Google Drive、Jira、Salesforce ……所有系統(tǒng)里的數(shù)據(jù)全都連接起來(lái),形成一個(gè)統(tǒng)一的、可供 AI 檢索和理解的 " 企業(yè)知識(shí)圖譜 " 或 " 企業(yè)大腦 "。
這部分最麻煩的活其實(shí)并不是大模型出現(xiàn)后才做好的。
國(guó)內(nèi)當(dāng)年說(shuō)的數(shù)據(jù)中臺(tái)其實(shí)和這活非常類(lèi)似。
只不過(guò)做數(shù)據(jù)中臺(tái)的公司估計(jì)掛個(gè)七七八八了吧,這從一個(gè)側(cè)面也反應(yīng)了 AI 深度應(yīng)用的現(xiàn)實(shí)難度。
下面是我隨便找的一個(gè)中臺(tái)的圖,大家可以和 Glean 的架構(gòu)比比:
下面是 Glean 的架構(gòu)圖:
做不好數(shù)據(jù)中臺(tái),智能體一樣不好用,至少牽涉生產(chǎn)關(guān)系的肯定不好用
Glean 本身,就是那個(gè)最牛的 " 情報(bào)官 "。它不教 AI 怎么思考,它只負(fù)責(zé)把最全、最準(zhǔn)的 " 情報(bào) " 喂給 AI。
當(dāng)一個(gè)智能體被架設(shè)在 Glean 這樣的平臺(tái)上,它就活了。你問(wèn)它:" 上個(gè)季度我們最重要的客戶(hù)‘ ACME 公司’那邊有什么進(jìn)展和風(fēng)險(xiǎn)?"
一個(gè) " 孤島 AI" 會(huì)一臉懵逼。
但基于 Glean 的智能體是這么干的:
1. 調(diào)取 ACME 公司在 CRM 里的所有記錄。
2. 調(diào)取與 ACME 相關(guān)的所有郵件和 Slack 聊天記錄。
3. 調(diào)取內(nèi)部關(guān)于 ACME 項(xiàng)目的會(huì)議紀(jì)要和周報(bào)。
4. 然后,它調(diào)用大模型的通用智能,把這些碎片化的信息綜合起來(lái),給出一個(gè)有理有據(jù)、包含洞察的回答:" 進(jìn)展是 XX 合同已續(xù)簽,但風(fēng)險(xiǎn)是他們的關(guān)鍵接口人最近在郵件中抱怨我們的交付延遲,相關(guān)討論在 XX 的 Slack 頻道里有記錄。"
你看,這整個(gè)過(guò)程,沒(méi)有任何人去預(yù)設(shè)一個(gè) " 客戶(hù)風(fēng)險(xiǎn)分析 " 的死板流程。
Glean 這種形態(tài),就不太會(huì)出現(xiàn) " 智能降級(jí) " 的問(wèn)題。
因?yàn)樗龅牟皇?" 減法 "(用規(guī)則限制 AI),而是 " 乘法 "(用數(shù)據(jù)拓寬 AI 的視野)。它的核心價(jià)值,不在于設(shè)計(jì)了多厲害的 Prompt,而在于構(gòu)建了多么厲害的 " 數(shù)據(jù)通路 "。
當(dāng)?shù)讓哟竽P蛷?GPT-4 升級(jí)到 GPT-5,那個(gè) 5 萬(wàn)美元的 " 孤島 AI" 可能就廢了。
但 Glean 的價(jià)值反而會(huì)暴增。因?yàn)楦鼜?qiáng)的大腦,配上更全的數(shù)據(jù),能產(chǎn)生的智能是指數(shù)級(jí)增長(zhǎng)的。
再?gòu)?qiáng)調(diào)下,上面的內(nèi)容被我簡(jiǎn)化了,用于說(shuō)明方向,真做開(kāi)發(fā)的時(shí)候,累計(jì)偏差等處理有很復(fù)雜的過(guò)程。需要架構(gòu)、領(lǐng)域模型等的綜合。我 1 年多以前寫(xiě)過(guò)些這類(lèi)文章。
說(shuō)到底,這背后是一種根本的范式轉(zhuǎn)變,一種 " 智能優(yōu)先(AI First)" 的原則。
過(guò)去的思路是 " 流程優(yōu)先 ",我們?cè)O(shè)計(jì)好流程,讓 AI 來(lái)打輔助。這背后本質(zhì)是人類(lèi)優(yōu)先,流程用于固化某種期望。
而 " 智能優(yōu)先 " 是倒過(guò)來(lái)的:我們默認(rèn)有一個(gè)聰明的 " 大腦 " 在 C 位,我們所有的工作,都是為這個(gè)大腦搭建一個(gè)能讓它發(fā)揮最大價(jià)值的環(huán)境。
我們以前管這個(gè)叫:if else 調(diào)整到 any then 的思維模式。
這個(gè)原則推到終極形態(tài),就是 " 無(wú)人公司 "。
未來(lái)的組織,不再是靠人類(lèi)員工執(zhí)行成千上萬(wàn)個(gè)僵化的 SOP(標(biāo)準(zhǔn)操作程序)。而是把整個(gè)公司的業(yè)務(wù)邏輯,都封裝到一套智能體體系里。
怎么封裝? 不是寫(xiě)死板的代碼,而是為智能體體系定義好:
1. 目標(biāo)(Goals):比如," 維持公司產(chǎn)品 A 的庫(kù)存量在 1000 到 1200 件之間 "。
2. 上下文(Context):給它接入實(shí)時(shí)的銷(xiāo)售數(shù)據(jù)、供應(yīng)鏈數(shù)據(jù)、物流信息(Glean 模式)。
3. 工具(Tools):給它調(diào)用采購(gòu)系統(tǒng) API、向供應(yīng)商發(fā)郵件 API、向人類(lèi)主管發(fā)預(yù)警 API 的權(quán)限。
這些都需要個(gè)底座,這個(gè)底座就是我們基本干黃的數(shù)據(jù)中臺(tái)。
然后,這個(gè)智能體體系就會(huì)像一個(gè)生命體一樣,7x24 小時(shí)地自主運(yùn)行,自己做決策,自己調(diào)用工具去執(zhí)行。
人類(lèi)的角色,從執(zhí)行者,變成了目標(biāo)的設(shè)定者和最終結(jié)果的監(jiān)督者。
所以,規(guī)避給 AI" 上規(guī)矩 " 并且最終產(chǎn)生 " 智能降級(jí) " 產(chǎn)品,首先要整明白個(gè)基礎(chǔ)問(wèn)題:AI 是啥,是干啥的!
( 不過(guò)說(shuō)起來(lái)很尷尬,我寫(xiě)了快兩年智能原生、智能優(yōu)先、無(wú)人公司,不說(shuō)別人,我的朋友們好多好像還是不咋理解或者認(rèn)同)