機(jī)器之心專(zhuān)欄
作者：邢振昌 (CSIRO"s Data61)、黃箐 ( JXNU）、程煜 ( JXNU）
澳大利亞 Data61 的 SE4AI 團(tuán)隊(duì)和江西師范大學(xué)智能化軟件工程實(shí)驗(yàn)室聯(lián)合打造全球首款 AI 鏈（AI chain）無(wú)代碼生產(chǎn)平臺(tái) Prompt Sapper，及相應(yīng)的方法學(xué)和 AI 服務(wù)市場(chǎng)。基礎(chǔ)模型（foundation models）帶來(lái)了前所未有的 AI “操作系統(tǒng)” 效應(yīng)和全新的人工智能交互方式，激發(fā)了 AI 服務(wù)開(kāi)發(fā)與應(yīng)用的創(chuàng)新之潮。Prompt Sapper 應(yīng)勢(shì)而生，致力于重塑軟件領(lǐng)域格局，打造人與 AI 協(xié)作智能的平臺(tái)，以釋放每個(gè)人的 AI 創(chuàng)新潛能，創(chuàng)造人人皆 AI 創(chuàng)新大師的未來(lái)！
(資料圖)
項(xiàng)目鏈接: https://github.com/AI4FutureSE
AI 鏈主網(wǎng)站: https://www.aichain.online/
Sapper IDE: https://www.promptsapper.tech/
AI 服務(wù)市場(chǎng)：https://www.aichain.store/
構(gòu)建在 AI “操作系統(tǒng)” 上的 AI 鏈（AI chain）應(yīng)用
AI 服務(wù)代表了一種我們稱(chēng)為構(gòu)建在基礎(chǔ)模型之上的 AI 鏈（AI Chain）應(yīng)用。AI 鏈應(yīng)用是一種新型的軟件產(chǎn)品，他們按照特定的工作流程組裝多次基礎(chǔ)模型調(diào)用（也可能同時(shí)調(diào)用傳統(tǒng)機(jī)器學(xué)習(xí)模型，外部數(shù)據(jù)或 APIs），從而提供某種特定的 AI 服務(wù)。
這些基礎(chǔ)模型包括當(dāng)前非常熱門(mén)的生成式預(yù)訓(xùn)練大語(yǔ)言模型比如 GPT-4、圖像生成模型 DALL-E 等。我們可以將這些基礎(chǔ)模型類(lèi)看作 AI “操作系統(tǒng)”，就如同個(gè)人電腦時(shí)代的 Windows、Linux 和 MacOS，以及移動(dòng)應(yīng)用時(shí)代的 iOS 和 Android。正如我們?cè)?jīng)調(diào)用傳統(tǒng)操作系統(tǒng) APIs 開(kāi)發(fā)軟件應(yīng)用和服務(wù)，如今我們可以通過(guò)組裝對(duì)基礎(chǔ)模型的多次調(diào)用來(lái)開(kāi)發(fā) AI 應(yīng)用和服務(wù)。
基礎(chǔ)模型解鎖軟件 3.0
然而，如上圖所示， 傳統(tǒng)操作系統(tǒng)調(diào)用和基礎(chǔ)模型調(diào)用之間存在一個(gè)本質(zhì)區(qū)別。即使自然語(yǔ)言是我們表達(dá)需求的最自然方式，在軟件 1.0/2.0 范式中，人們不得不使用計(jì)算機(jī)語(yǔ)言（如 Java、Python、JavaScript 等）與計(jì)算機(jī)交互，專(zhuān)注于解決問(wèn)題（算法，數(shù)據(jù)，模型架構(gòu)，特征等）。現(xiàn)在，一切發(fā)生了翻天覆地的變化！基礎(chǔ)模型為我們解鎖了軟件 3.0 范式，一種全新的自然語(yǔ)言編程方式 — 提示編程 ，以及基于提示編程的 AI 鏈工程。在軟件 3.0 范式中，人們可以用自然語(yǔ)言描述他們需要解決的問(wèn)題，而基礎(chǔ)模型則能理解并執(zhí)行這些自然語(yǔ)言指令。這一進(jìn)步讓人們能夠以更直觀、更自然的方式與 AI 互動(dòng)，進(jìn)一步拓寬了我們?cè)趧?chuàng)新和解決問(wèn)題上的可能性，將 AI 的力量帶給了更廣泛的受眾，實(shí)現(xiàn)了 AI 平民化的愿景。
軟件 3.0 優(yōu)勢(shì)在于為人們帶來(lái)前所未有的 AI 交互體驗(yàn)和智能應(yīng)用。但我們相信，軟件 3.0 并不會(huì)完全取代軟件 1.0/2.0。相反，這三種范式將在未來(lái)相互補(bǔ)充并共存。在各自的優(yōu)勢(shì)領(lǐng)域，它們將發(fā)揮各自的作用，共同推動(dòng)技術(shù)進(jìn)步和創(chuàng)新。這種協(xié)同發(fā)展有望讓我們更好地解決復(fù)雜問(wèn)題，釋放更多的創(chuàng)新潛能。我們的 Sapper IDE 支持三種范式的工作者（worker），詳情見(jiàn) “提示客劍譜”（Promptmanship）。
AI 2.0（基礎(chǔ)模型）賦能軟件 3.0（提示編程 + AI 鏈工程）
機(jī)器學(xué)習(xí)和軟件工程演化
如上圖所示，機(jī)器學(xué)習(xí)技術(shù)的發(fā)展經(jīng)歷了從最早期的特征工程、神經(jīng)網(wǎng)絡(luò)架構(gòu)工程，到預(yù)訓(xùn)練微調(diào)范式的目標(biāo)工程，再到近期的提示 / AI 鏈工程的演進(jìn)。盡管神經(jīng)網(wǎng)絡(luò)和預(yù)訓(xùn)練微調(diào)正在逐漸降低利用 AI 的門(mén)檻，但人們?nèi)匀幻媾R著單領(lǐng)域、多模型孤島效應(yīng)的挑戰(zhàn)。也就是說(shuō)，AI 1.0 時(shí)代缺乏一個(gè) AI “操作系統(tǒng)” 模型來(lái)支持 AI 應(yīng)用的開(kāi)發(fā)、組裝和生態(tài)系統(tǒng)。
而基礎(chǔ)模型則具備跨領(lǐng)域知識(shí)，能夠通過(guò)情景學(xué)習(xí)（in-context learning）適應(yīng)各種復(fù)雜的任務(wù)，為我們帶來(lái)了期待已久的 AI “操作系統(tǒng)” 平臺(tái)。
李開(kāi)復(fù)將這一平臺(tái)化的 AI 稱(chēng)為 AI 2.0。他認(rèn)為，聊天工具和圖文創(chuàng)作僅僅是 AI 2.0 的冰山一角，我們不應(yīng)限制對(duì) AI 2.0 潛力的想象?；A(chǔ)模型推動(dòng)了自然的人與 AI 交互方式，開(kāi)啟了軟件工程領(lǐng)域嶄新的一頁(yè) — 軟件 3.0 時(shí)代。在這個(gè)時(shí)代中，以提示編程和 AI 鏈應(yīng)用為核心，我們將迎來(lái)更加開(kāi)放和民主的 AI 服務(wù)開(kāi)發(fā)和應(yīng)用環(huán)境。Andrej Karpathy 認(rèn)為，新興的提示編程具有將 “程序員” 人數(shù)擴(kuò)大到 15 億的潛力。在就業(yè)市場(chǎng)上，出現(xiàn)了諸如 “AI 提示工程師”、“法律提示工程師” 等職位，預(yù)示著這一發(fā)展趨勢(shì)正在成為現(xiàn)實(shí)。
AI 鏈工程（SE4AIChain）: 愿景與目標(biāo)
我們的愿景是通過(guò)生成式 AI 重塑軟件格局。我們正處在將基礎(chǔ)模型的能力演變成人工智能助手的構(gòu)建階段，這個(gè)階段存在兩個(gè)非?，F(xiàn)實(shí)的機(jī)會(huì)：1. 讓人人能夠創(chuàng)建個(gè)性化的智能體，2. 讓人們可以分享和雇傭智能體服務(wù)。這樣可以讓更廣泛大眾參與到 AI 大潮并從中受益?；A(chǔ)模型和提示編程具有廣闊的前景，然而當(dāng)前的提示編程狀態(tài)就像 60 多年前軟件工程出現(xiàn)前個(gè)人英雄主義式的編程一樣?；诨A(chǔ)模型的 AI 服務(wù)開(kāi)發(fā)遠(yuǎn)遠(yuǎn)超出僅僅寫(xiě)出耀眼的提示詞，這就像系統(tǒng)化軟件工程和隨意編程之間的差別一樣。
因此，我們致力于打造一套系統(tǒng)的 AI 鏈工程基礎(chǔ)設(shè)施作為基礎(chǔ)模型的靈魂伴侶，重塑軟件領(lǐng)域格局，以釋放 AI 2.0 的全部潛力。我們的 AI 鏈工程基礎(chǔ)設(shè)施是一套 AI4SE4AI 框架（AI-powered software engineering infrastructure for AI），包括一套系統(tǒng)的 AI 鏈工程方法，我們稱(chēng)之為 “提示客劍譜”，以及相應(yīng)的開(kāi)發(fā)和部署工具，作為這個(gè)方法論的配套兵器。
為實(shí)現(xiàn)這個(gè)愿景，我們提出了以下三個(gè)目標(biāo)：
第一，從軟件工程的視角總結(jié)泛化提示工程的最佳實(shí)踐，將提示工程置于軟件工程的整體框架下，補(bǔ)充被忽視的重要軟件工程方法（例如軟件過(guò)程，系統(tǒng)設(shè)計(jì)，測(cè)試），從而形成系統(tǒng)化的 AI 鏈方法論（第一版已發(fā)布）。
第二，研發(fā) AI 鏈集成開(kāi)發(fā)環(huán)境，支持從想法到服務(wù)的全過(guò)程 AI 鏈開(kāi)發(fā)，并通過(guò)物化 AI 鏈方法論，為普通人開(kāi)發(fā)高質(zhì)量 AI 服務(wù)提供 “潤(rùn)物細(xì)無(wú)聲” 的支持（第一版已上線(xiàn)）。
第三，研發(fā) AI 服務(wù)市場(chǎng)，推進(jìn) AI 服務(wù)生態(tài)系統(tǒng)的發(fā)展，并研發(fā)負(fù)責(zé)任的 AI 鏈工程方法和技術(shù)，以增強(qiáng) AI 服務(wù)的透明性、責(zé)任性和安全性（AI 服務(wù)市場(chǎng) beta 版已上線(xiàn)）。
我們致力于建立一個(gè)開(kāi)放、協(xié)作、安全、可持續(xù)的 AI 鏈生態(tài)系統(tǒng)，為千行百業(yè)提供數(shù)字化、智能化轉(zhuǎn)型升級(jí)的支持，讓他們?cè)?AI 新時(shí)代中發(fā)揮自己的創(chuàng)造力和智慧，并從中獲益，實(shí)現(xiàn)人機(jī)共生的美好愿景。
Promptmanship（提示客劍譜）：為 AI 鏈應(yīng)用量身定制的軟件工程方法
軟件工程在幾十年的發(fā)展中積累了大量有效的方法和實(shí)踐，其中許多理念和經(jīng)驗(yàn)可以被應(yīng)用到 AI 鏈工程中。然而，隨著基礎(chǔ)模型帶來(lái)的人與 AI 交互方式的變革，我們需要審視和調(diào)整傳統(tǒng)的軟件工程方法和實(shí)踐，以適應(yīng)新興的以人為中心的自然語(yǔ)言編程范式。
一方面，大語(yǔ)言模型（如 GPT-4）編碼了海量知識(shí)并具備強(qiáng)大的對(duì)話(huà)能力，我們可以利用它們來(lái)幫助 AI 鏈工程師獲得任務(wù)知識(shí)、理解問(wèn)題以及獲得解決問(wèn)題的靈感。同時(shí)，為減輕大語(yǔ)言模型難以避免的錯(cuò)誤和幻覺(jué)的影響，我們需要對(duì)模型能力有足夠深入的理解（所謂 mechanical sympathy），并采用有效的提示設(shè)計(jì)。
另一方面，大語(yǔ)言模型不僅改變了誰(shuí)可以開(kāi)發(fā) AI 服務(wù)，而且深刻地改變了可以開(kāi)發(fā)哪些 AI 服務(wù)。這需要我們將過(guò)去以代碼為中心的開(kāi)發(fā)工具轉(zhuǎn)變?yōu)橐匀藶橹行牡墓ぞ撸蛊胀ㄈ丝梢詫?zhuān)注于解決問(wèn)題，更直觀地分析、設(shè)計(jì)、搭建和評(píng)估 AI 鏈。
Promptmanship（提示客劍譜）：為 AI 鏈應(yīng)用量身定制的軟件工程方法
因此，AI 鏈工程需要在傳統(tǒng)軟件工程方法和實(shí)踐的基礎(chǔ)上，結(jié)合大語(yǔ)言模型的優(yōu)勢(shì)，發(fā)展出一套更適應(yīng)以人為中心的自然語(yǔ)言編程范式的開(kāi)發(fā)方法和工具，以提高 AI 鏈的開(kāi)發(fā)效率和質(zhì)量。上圖展示了我們基于大量文獻(xiàn)、社區(qū)分享經(jīng)驗(yàn)以及我們自身實(shí)踐而提出的 AI 鏈工程方法學(xué)。
我們將 AI 鏈的功能單元定義為 “工作者”（worker）。AI 鏈除了涉及傳統(tǒng)軟件概念（例如需求、對(duì)象組合與協(xié)作、對(duì)象角色），還包括 AI 鏈特有的概念。例如，我們區(qū)分了三種工作者類(lèi)型（對(duì)應(yīng)三種軟件范式：Software 1.0/2.0/3.0）、四層推理能力遞增的工作者 - AI 交互模式，工作者構(gòu)型（worker stereotype），以及提示設(shè)計(jì)模式。
我們認(rèn)為 AI 鏈工程是一個(gè)快速原型（Rapid Prototyping）的過(guò)程，包括四個(gè)迭代階段：探索、設(shè)計(jì)、構(gòu)建和部署。每個(gè)階段都包括并發(fā)的活動(dòng)（受統(tǒng)一軟件過(guò)程（Rational Unified Process）啟發(fā)），包括任務(wù)建模、系統(tǒng)設(shè)計(jì)（需求分析，任務(wù)分解、AI/non-AI 關(guān)注點(diǎn)分離、工作流演練）、AI 鏈實(shí)現(xiàn)和測(cè)試，但不同階段有不同的側(cè)重（由相應(yīng)條高度展示）。不同活動(dòng)會(huì)生成或者精化不同的 AI 鏈概念（有概念下方藍(lán)色區(qū)間展示）。與所有活動(dòng)伴生，我們提出了一個(gè) “魔法增強(qiáng)魔法” 的活動(dòng)，利用大語(yǔ)言模型的知識(shí)和對(duì)話(huà)能力，幫助 AI 鏈工程師獲取任務(wù)知識(shí)、進(jìn)行需求獲取和分析，并獲得對(duì)模型能力的理解（mechanical sympathy）。
在 AI 鏈中，軟件 3.0 工作者的 "大腦" 就是他的自然語(yǔ)言提示。這些提示需要清晰地定義工作者的角色和功能。有效的提示需要?jiǎng)?chuàng)造力和實(shí)驗(yàn)，但與傳統(tǒng)編程一樣，可以通過(guò)慣用語(yǔ)和模式進(jìn)行改進(jìn)。大量文獻(xiàn)和博客提出了許多提示技巧?；谶@些提示技巧和我們自身的實(shí)戰(zhàn)經(jīng)驗(yàn)，我們總結(jié)出了四個(gè)方面的提示設(shè)計(jì)模式（見(jiàn)上表）：工作者構(gòu)型，提示注意事項(xiàng)，提示設(shè)計(jì)方面，和提示裝飾。
工作者構(gòu)型：我們定義了九種工作者元角色：輸入重寫(xiě)器、分割器、逆向提問(wèn)人、規(guī)劃師、信息詢(xún)問(wèn)者、執(zhí)行官、匯總器、狀態(tài)檢測(cè)儀和驗(yàn)證器。為了提高 AI 鏈和工作者的可調(diào)試性、重用性和組裝性，我們建議每個(gè)工作者遵循單一功能原則，擔(dān)任一個(gè)獨(dú)特的角色。當(dāng)然，一個(gè)工作者可以同時(shí)兼具多個(gè)角色，但需要注意的是，一身多則的工作者可能成為 “史詩(shī)” 級(jí)的工作者，不僅什么都干不好，而且很難優(yōu)化和控制。
提示注意事項(xiàng)：包括三個(gè)會(huì)影響提示性能的通用事項(xiàng)：Grice 會(huì)話(huà)原則、術(shù)語(yǔ)解釋、提示委員會(huì)。
提示設(shè)計(jì)方面：需要考慮語(yǔ)境（包括輸入、術(shù)語(yǔ)解釋、擬人化，和其他限定等）、指令、示例、輸出格式以及內(nèi)容形式（自由文本、半結(jié)構(gòu)化文本、代碼風(fēng)格文本）。對(duì)于功能簡(jiǎn)單的工作者，他們并不需要包括所有方面，比如簡(jiǎn)單加法問(wèn)題可以把輸入數(shù)字放到問(wèn)題中（例如，“請(qǐng)計(jì)算 5+2” 或者 “5+2 等于幾？”），也不需要語(yǔ)境、示例和輸出格式。但對(duì)于功能復(fù)雜的工作者，最好以半結(jié)構(gòu)化甚至代碼形式區(qū)分表述不同設(shè)計(jì)方面和信息。除此之外，指令可以包括一定的控制邏輯，但復(fù)雜控制邏輯最好以明確的協(xié)作工作者和工作流方式表示。
提示裝飾：不是工作者核心功能，但他們可以通過(guò) "大聲思考" 方式提升模型推理能力（自問(wèn)自答、反思），或是更好地定制模型行為和輸出（擬人化、語(yǔ)境控制）。
我們想提醒大家，這些提示模式并不能替代創(chuàng)造力和實(shí)驗(yàn)。此外，他們只是戰(zhàn)術(shù)層面的優(yōu)化。對(duì)于難度較大的任務(wù)，往往需要考慮到戰(zhàn)略層面的 AI 鏈系統(tǒng)設(shè)計(jì)。
AI 鏈生產(chǎn)平臺(tái)（Sapper IDE）
我們的 AI 鏈生產(chǎn)平臺(tái)將不同于現(xiàn)有以代碼為中心的開(kāi)發(fā)環(huán)境，因?yàn)?AI 鏈將由很多沒(méi)有計(jì)算機(jī)和編程背景的人開(kāi)發(fā)。因此，我們的最高設(shè)計(jì)準(zhǔn)則是 “以人為本”，體現(xiàn)在三個(gè)方面：
首先，我們將 “提示客劍譜”（AI 鏈工程方法學(xué)）無(wú)縫地物化到 Sapper IDE 中，使任何人都能有效地應(yīng)用最佳 AI 鏈實(shí)踐和方法。
其次，我們充分利用大語(yǔ)言模型的知識(shí)和對(duì)話(huà)能力，開(kāi)發(fā)智能副駕駛（co-pilots），為非技術(shù)人員提供全過(guò)程 AI 鏈開(kāi)發(fā)支持。
第三，我們提供全過(guò)程無(wú)代碼 AI 鏈分析、設(shè)計(jì)、開(kāi)發(fā)和部署，讓任何人都能輕松將創(chuàng)意轉(zhuǎn)化為 AI 服務(wù)。
我們的 AI 鏈 IDE 可謂是 “AI 服務(wù)的孵化器”，因?yàn)樗闹饕δ芫褪钦驹诨A(chǔ)模型的巨人肩膀上打造 AI 服務(wù)。這些服務(wù)不僅可以直接滿(mǎn)足人們的 AI 鏈開(kāi)發(fā)需求，還能啟發(fā)他們?nèi)ヌ剿鞲嗫赡苄?，并幫助他們?chuàng)造出更多更優(yōu)秀的 AI 服務(wù)。我們相信，這將會(huì)是一個(gè) AI 創(chuàng)新無(wú)限的時(shí)代，我們的 Sapper IDE 將成為千行百業(yè)開(kāi)啟這一無(wú)限潛力的 “工兵鐵鍬”！
我們?cè)赟apper IDE已開(kāi)發(fā)或正在開(kāi)發(fā)多樣的AI服務(wù)演示，涉及教育，職業(yè)培訓(xùn)，創(chuàng)意寫(xiě)作，游戲，軟件工程等多個(gè)領(lǐng)域。我們也歡迎社區(qū)用Prompt Sapper創(chuàng)作更多的創(chuàng)意AI服務(wù)，并分享到我們的AI服務(wù)市場(chǎng)。
探索視圖（Exploration View）
探索視圖支持任務(wù)探索和初步設(shè)計(jì)階段的活動(dòng)，允許用戶(hù)獲得大致的任務(wù)模型，了解任務(wù)挑戰(zhàn)，以及初步了解任務(wù)步驟、工作流、輸入 / 輸出數(shù)據(jù)和提示有效性。
如圖所示，探索視圖的左側(cè)部分是一個(gè)聊天機(jī)器人（目前封裝 GPT-3.5 API），其工作方式與普通聊天機(jī)器人（例如，ChatGPT ）相同。聊天機(jī)器人允許用戶(hù)與大型語(yǔ)言模型（LLM）進(jìn)行任何類(lèi)型的對(duì)話(huà)。當(dāng)然，我們假設(shè)用戶(hù)將圍繞他們需要開(kāi)發(fā)的 AI 服務(wù)進(jìn)行交談。與普通聊天機(jī)器人不同，探索視圖配備了一個(gè)基于 LLM（大型語(yǔ)言模型）的副駕駛員，該副駕駛員會(huì)自動(dòng)收集和分析用戶(hù)與 LLM 之間的對(duì)話(huà)，以獲取可能與后續(xù) AI 鏈分析、設(shè)計(jì)和開(kāi)發(fā)相關(guān)的任務(wù)背景（例如，所需要的功能、用戶(hù)偏好、需要避免的事項(xiàng)等）。這個(gè)副駕駛員本身就是是基于 LLM（目前為 GPT-3.5）構(gòu)建的 AI 鏈服務(wù)。它以一種不干預(yù)的方式工作，并根據(jù)用戶(hù)和 LLM 之間的對(duì)話(huà)動(dòng)態(tài)記錄筆記，如圖右側(cè)的 Task Note 面板所示。
設(shè)計(jì)視圖（Design View）
設(shè)計(jì)??視圖支持設(shè)計(jì)階段的主要活動(dòng)，并在探索和構(gòu)建階段之間起到承上啟下的重要作用。因此，它具有兩個(gè)主要功能：需求分析和 AI 鏈框架生成，分別由兩個(gè)基于 LLM 的副駕駛員提供支持。與探索視圖中的非干預(yù)式副駕駛員不同，設(shè)計(jì)視圖中的兩個(gè)副駕駛員會(huì)積極與用戶(hù)互動(dòng)，協(xié)助他們進(jìn)行需求分析和 AI 鏈框架生成。
需求分析
設(shè)計(jì)視圖的左側(cè)是一個(gè)基于 LLM 的需求分析聊天機(jī)器人（另一個(gè) AI 鏈服務(wù)）。與探索視圖中的自由式聊天機(jī)器人不同，需求分析聊天機(jī)器人充當(dāng)不間斷的逆向提問(wèn)者角色，他的工作方式如下：
1) 用戶(hù)在詢(xún)問(wèn)框中輸入任務(wù)描述（通常是對(duì)所需內(nèi)容的模糊描述）以開(kāi)始對(duì)話(huà)。
2) 需求分析聊天機(jī)器人根據(jù)初始任務(wù)描述和探索視圖中收集的任務(wù)筆記（如果有），通過(guò)一系列開(kāi)放式問(wèn)題引導(dǎo)用戶(hù)明確具體任務(wù)需求。
3) 需求分析聊天機(jī)器人會(huì)將用戶(hù)每輪的回應(yīng)逐步整合到任務(wù)描述中（顯示在右上角的任務(wù)需求框里）。
當(dāng)然，如果用戶(hù)認(rèn)為他已經(jīng)有了明確的需求，不需要需求分析聊天機(jī)器人的幫助，他可以直接在任務(wù)需求框中輸入需求。
AI 鏈框架生成
當(dāng)用戶(hù)認(rèn)為任務(wù)需求已經(jīng)清晰明確時(shí)，可以點(diǎn)擊任務(wù)需求框下方的 “Generate AI Chain Skeleton” 按鈕，請(qǐng)求 AI 鏈框架生成副駕駛生成完成任務(wù)所需的主要步驟以及每個(gè)步驟的三個(gè)候選提示?！癎enerate AI Chain Skeleton” 工作方式如下：
1) 將任務(wù)總體描述轉(zhuǎn)換為主要步驟，并為每個(gè)步驟提供名稱(chēng)和描述。
2) 為每個(gè)步驟推薦三個(gè)候選提示，用戶(hù)可以在此基礎(chǔ)上自行修改。
3) 用戶(hù)可以手動(dòng)添加控制流、刪除或重新排序步驟等操作。
4) 用戶(hù)可以使用結(jié)構(gòu)化表單編輯生成的提示，設(shè)置步驟的輸入和執(zhí)行引擎。
通過(guò)這個(gè)流程，用戶(hù)可以方便地生成 AI 鏈的框架，以及對(duì)生成的框架進(jìn)行進(jìn)一步的修改和完善。最后點(diǎn)擊設(shè)計(jì)視圖右下角的 “Generate AI Chain” 按鈕，SapperIDE 將根據(jù) AI 鏈框架自動(dòng)為每個(gè)步驟創(chuàng)建工作者并把他們組裝一個(gè)基于積木塊的 AI 鏈，可以在編程視圖中查看、編輯和執(zhí)行。
編程視圖（Block View）
我們使用基于積木塊的可視化編程來(lái)支持 AI 鏈的實(shí)現(xiàn)、執(zhí)行和調(diào)試。當(dāng)前的實(shí)現(xiàn)是基于開(kāi)源的 Blockly 項(xiàng)目。在左側(cè)面板中，用戶(hù)可以訪問(wèn) Units、Code、Prompts、Variables 和 Engines 工具箱中的積木塊用以構(gòu)建 AI 鏈。相關(guān)積木塊介紹請(qǐng)?jiān)L問(wèn)我們的文檔
（https://www.aichain.online/public/content%20pages/sapperide/blockview.html）。
為了使用戶(hù)建立和修改工作者更加直觀，所有可視化編程操作都可以直接在工作者 / 容器塊上觸發(fā)。單擊插槽右側(cè)的 "+" 圖標(biāo)可以直接添加或編輯插槽對(duì)應(yīng)的積木塊。用戶(hù)可以從工具箱中拖放塊模板將塊添加到 AI 鏈編輯器中，通過(guò)在編輯器中拖放塊來(lái)組裝塊。用戶(hù)可以通過(guò)單擊編輯器右側(cè)的 “+”、“-” 和 “aim” 按鈕來(lái)縮放編輯器或?qū)⑺x塊放置在編輯器中心。
用戶(hù)可以通過(guò) “AI Chain Execution” 菜單運(yùn)行或調(diào)試 AI 鏈。當(dāng)工作者正在運(yùn)行時(shí)，工作者塊左上角的 “bug” 信號(hào)燈將亮起。工作者執(zhí)行期間使用的實(shí)際提示和引擎輸出將輸出到塊控制臺(tái)（Block Console）。執(zhí)行所需的用戶(hù)輸入將在塊控制臺(tái)中輸入。
在調(diào)試模式下，工作者將一個(gè)接一個(gè)地執(zhí)行。當(dāng)前工作者完成運(yùn)行時(shí)，執(zhí)行將被暫停，用戶(hù)可以檢查塊控制臺(tái)中的輸出是否符合預(yù)期。如果結(jié)果符合預(yù)期，則可以繼續(xù)執(zhí)行下一個(gè)工作者?；蛘撸脩?hù)可以在提示控制臺(tái)（Prompt Console）中修改當(dāng)前工作者的提示，然后重新運(yùn)行當(dāng)前工作者。
如果將工作者塊放置在輸出塊中，則其輸出將顯示在右下角的輸出窗口中。此窗口不會(huì)顯示未放置在輸出塊中的工作者的輸出，也不會(huì)顯示提示。
塊控制臺(tái)用于幫助 AI 鏈工程師調(diào)試 AI 鏈，因此包含提示信息和中間執(zhí)行結(jié)果。右下角的輸出窗口允許工程師檢查最終用戶(hù)將看到的 AI 鏈輸出。
提示中心（Prompt Hub）
Sapper IDE 的 Prompt Hub（提示中心）提供了一個(gè)集中式的提示管理系統(tǒng)，讓用戶(hù)在 AI 鏈項(xiàng)目之間輕松共享和重用提示。通過(guò) Prompt Builder（提示生成器）和 Prompt Base（提示庫(kù)）工具箱，用戶(hù)能創(chuàng)建、編輯、導(dǎo)入和導(dǎo)出提示，使 AI 鏈項(xiàng)目開(kāi)發(fā)更高效、便捷。
用戶(hù)可以通過(guò)四個(gè)方面：上下文、指令、示例和輸出格式，以結(jié)構(gòu)化方式創(chuàng)建或編輯提示。這有助于實(shí)現(xiàn)更準(zhǔn)確的 AI 鏈項(xiàng)目功能。未來(lái)的設(shè)計(jì)視圖將允許用戶(hù)搜索提示庫(kù)或獲得自動(dòng)提示推薦，進(jìn)一步提高開(kāi)發(fā)效率。
Prompt Hub 還支持將提示下載到本地文件或從本地文件上傳到 IDE，方便在不同設(shè)備間同步提示信息。
引擎管理（Engine Management）
引擎管理功能讓用戶(hù)在 AI 鏈項(xiàng)目之間輕松共享和重用各類(lèi)引擎，如基礎(chǔ)模型、傳統(tǒng)機(jī)器學(xué)習(xí)模型（目前在開(kāi)發(fā)中，敬請(qǐng)期待）和外部 API。IDE 內(nèi)置了三個(gè)基礎(chǔ)模型：gpt-3.5-turbo、text-davinci-003、DALL-E，以及 Python 標(biāo)準(zhǔn) REPL shell。
在 FM Engines（基礎(chǔ)模型引擎）工具箱中，用戶(hù)可靈活創(chuàng)建和配置基礎(chǔ)模型引擎，調(diào)整參數(shù)如 Temperature、Maximum length、Top P、Frequency penalty 和 Presence penalty。點(diǎn)擊 “Save Engine to FM Engine”，將引擎保存以供后續(xù)編輯或?qū)С龅巾?xiàng)目。
最后，用戶(hù)還可將引擎信息下載至本地文件，或從本地文件上傳至 IDE。
AI 鏈項(xiàng)目管理（Project Management）
通過(guò) “Project Management” 菜單，用戶(hù)可創(chuàng)建新的 AI 鏈項(xiàng)目，將當(dāng)前項(xiàng)目下載到本地磁盤(pán)，或在 IDE 中打開(kāi)本地磁盤(pán)上的項(xiàng)目。點(diǎn)擊 “Download Code” 按鈕，用戶(hù)可將實(shí)現(xiàn) AI 鏈的后臺(tái)代碼下載至本地磁盤(pán)，用于其他軟件項(xiàng)目。注意，執(zhí)行下載的 AI 鏈代碼需要 sapperchain Python 庫(kù)（目前未開(kāi)源）。
在“Recent Project”菜單，我們預(yù)裝了一個(gè)演示項(xiàng)目“Hui Xiao Shi”以便于大家上手學(xué)習(xí)。
用戶(hù)若想開(kāi)源他的 AI 鏈項(xiàng)目，可將項(xiàng)目分享至 AI 鏈?zhǔn)袌?chǎng)（正在開(kāi)發(fā)）。IDE 提供了一個(gè)創(chuàng)意副駕駛員，根據(jù)任務(wù)需求和工作者提示為項(xiàng)目生成簡(jiǎn)短描述和圖片。
現(xiàn)在，IDE 支持將 AI 鏈作為本地 Web 服務(wù)部署，便于手動(dòng)部署到外部云服務(wù)器。后續(xù)我們將推出自動(dòng)云服務(wù)部署功能。
Prompt Sapper 的與眾不同之處
Prompt Sapper 受很多優(yōu)秀項(xiàng)目和工具的啟發(fā)，比如 ChatGPT, AutoGPT, LangChain, no-code AI，以及大量 prompt engineering 文獻(xiàn)和工具。但我們與眾不同之處在于以下三點(diǎn)：
人與 AI 交互光譜
1. 強(qiáng)調(diào)人工智能和人類(lèi)用戶(hù)之間的協(xié)作智能。如上圖所示，它通過(guò) AI 鏈無(wú)縫地將人類(lèi)智能與人工智能融合，有效地解決復(fù)雜問(wèn)題并實(shí)現(xiàn)共同目標(biāo)。這種協(xié)作智能促進(jìn)了整體效率的提高，降低了錯(cuò)誤率，并賦予了人類(lèi)用戶(hù)充分利用人工智能潛力的能力。這種獨(dú)特的方法使 Prompt Sapper 區(qū)別于現(xiàn)有的人類(lèi)驅(qū)動(dòng)的對(duì)話(huà)機(jī)器人（例如 ChatGPT）和以人工智能為主導(dǎo)的代理框架（例如 AutoGPT），凸顯了它的創(chuàng)新和獨(dú)特的價(jià)值主張。
2. 對(duì)計(jì)算和編程技能的更低要求。Prompt Sapper 顯著降低了創(chuàng)建符合用戶(hù)需求的復(fù)雜人工智能服務(wù)的門(mén)檻。它引入了一套基于 LLM 的虛擬產(chǎn)品經(jīng)理、架構(gòu)師和提示工程師，以幫助用戶(hù)獲取領(lǐng)域知識(shí)、分析任務(wù)要求并構(gòu)建 AI 鏈。此外，Prompt Sapper 提供直觀且用戶(hù)友好的界面，使用戶(hù)可以輕松地與人工智能進(jìn)行交互，并在不需要高級(jí)計(jì)算或編程技能的情況下原型化 AI 功能。這種方法擴(kuò)大了從人工智能進(jìn)步中受益的人群，突顯了 Prompt Sapper 在人工智能領(lǐng)域中的獨(dú)特地位。
3. 系統(tǒng)的 AI4SE4AI 框架。Prompt Sapper 高度重視軟件工程和人工智能的緊密集成，致力于創(chuàng)建一個(gè)系統(tǒng)化的 AI4SE4AI 框架。在這個(gè)框架內(nèi)，Prompt Sapper 利用人工智能技術(shù)，顯著提高軟件工程過(guò)程的效率，例如需求分析、AI 鏈設(shè)計(jì)、構(gòu)建和測(cè)試。同時(shí)，Prompt Sapper 遵循和擴(kuò)展了軟件工程的最佳實(shí)踐，以適應(yīng)由 AI 2.0 和軟件 3.0 推動(dòng)的新軟件環(huán)境。這個(gè) AI4SE4AI 框架不僅大大提高了人工智能服務(wù)的開(kāi)發(fā)效率和項(xiàng)目質(zhì)量，還支持靈活的服務(wù)重用和組裝，以及持續(xù)改進(jìn)和優(yōu)化人工智能服務(wù)，以滿(mǎn)足不斷變化的需求。
下面表格總結(jié)了 Prompt Sapper 與重要相關(guān)技術(shù)的對(duì)比，詳情請(qǐng)參閱我們的文檔（https://www.aichain.online/public/content%20pages/sappervsothers.html）
AutoGPT vs. Prompt Sapper
LangChain vs. Prompt Sapper
No-code AI vs. Prompt Sapper
Prompt Engineering vs. Prompt Sapper
展望未來(lái)
我們處于一個(gè)令人激動(dòng)的 AI 和軟件工程信息時(shí)代，我們共同見(jiàn)證著科技進(jìn)步如何改變世界。Prompt Sapper 攜手基礎(chǔ)模型和軟件工程，將不斷探索 AI 鏈工程的最佳實(shí)踐和方法學(xué)，推動(dòng)著 AI 鏈工程的發(fā)展和普及。我們計(jì)劃采用 “走出去” 和 “引進(jìn)來(lái)” 的方式來(lái)打通 AI 鏈開(kāi)發(fā)和終端用戶(hù)之間的最后一公里，將 AI 鏈工程方法學(xué)、工具和實(shí)踐帶給更多的開(kāi)發(fā)者和用戶(hù)，并推動(dòng) AI 服務(wù)市場(chǎng)和生態(tài)系統(tǒng)的發(fā)展。我們相信，AI 鏈工程將會(huì)成為未來(lái)的核心技術(shù)之一，廣泛應(yīng)用于各個(gè)領(lǐng)域和行業(yè)，為人類(lèi)創(chuàng)造更多的價(jià)值和福利。我們可以想象到，AI 鏈將能夠幫助我們更快速地解決問(wèn)題，提高工作效率，提供更加個(gè)性化的服務(wù)，同時(shí)推動(dòng)社會(huì)經(jīng)濟(jì)邁向更加智能化的未來(lái)。
關(guān)鍵詞：
