焦點日報:關于爆火的Auto-GPT的科普文
2023-04-15 19:17:26 來源:雪球網 小 中
Auto-GPT是如何工作的?
不得不說,Auto-GPT在AI領域掀起了巨大的波瀾,它就像是賦予了GPT-4記憶和實體一樣,讓它能夠獨立應對任務,甚至從經驗中學習,不斷提高自己的性能。
為了便于Auto-GPT是如何工作的,讓我們可以用一些簡單的比喻來分解它。
【資料圖】
首先,想象Auto-GPT是一個足智多謀的機器人。
我們每分配一個任務,Auto-GPT都會給出一個相應的解決計劃。比如,需要瀏覽互聯網或使用新數據,它便會調整其策略,直到任務完成。這就像擁有一個能處理各種任務的私人助手,如市場分析、客戶服務、市場營銷、財務等。
具體來說,想讓Auto-GPT運行起來,就需要依靠以下4個組件:
架構:
Auto-GPT是使用強大的GPT-4和GPT-3.5語言模型構建的,它們充當機器人的大腦,幫助它思考和推理。
自主迭代:
這就像機器人從錯誤中學習的能力。Auto-GPT 可以回顧它的工作,在以前的努力的基礎上再接再厲,并利用它的歷史來產生更準確的結果。
內存管理:
與矢量數據庫(一種內存存儲解決方案)集成,使Auto-GPT能夠保留上下文并做出更好的決策。這就像給機器人配備了長時記憶,可以記住過去的經歷。
多功能性:
Auto-GPT的文件操作、網頁瀏覽和數據檢索等功能使其用途廣泛。這就像賦予機器人多種技能來處理更廣泛的任務。
然而,這些誘人的前景可能還尚未轉化為Auto-GPT真正可以實現的能力。
天價的成本
想要在現實的生產環境中使用Auto-GPT,首先面臨的障礙便是其高昂的成本。
由于任務需要通過一系列的思維迭代來完成,為了供更好的推理和提示,模型每個step通常都會用盡所有token。
然而,GPT-4的token并不便宜。
根據OpenAI的說法,具有8K上下文窗口的GPT-4模型,對于提示部分,每1000個token收費0.03美元;而對于結果部分,每1000個token收費0.06美元。
而1000個token大概可以換算成750個英文單詞。
讓我們分解思維鏈中每個step的成本,假設每個動作都用盡了8000個token的上下文窗口,其中80%是提示(6,400個token),20%是結果(1,600個token)。
提示成本:6,400個token x 0.03美元/1,000個token = 0.192美元
結果成本:1,600 個代幣 x 0.06 美元/1,000個token = 0.096美元
因此,每個step的成本就是:0.192美元 + 0.096美元 = 0.288美元
平均而言,Auto-GPT完成一項小任務需要50個step。
因此,完成單個任務的成本就是:50個step x 0.288美元/step = 14.4美元
以VueGPT為例:這是一個Auto-GPT創建的AI,旨在使用Vue JS創建網站應用程序,我們來看看它在思維鏈中的一個step
而且這還是一次就能出結果的情況,如果需要重新生成,成本會更高。
從這個角度來看,Auto-GPT目前對大部分用戶和組織來說,都是不現實的。
開發與生產
一看,花14.4美元來完成一項復雜的任務,好像并無不妥。
舉個例子,我們首先讓Auto-GPT制作一份圣誕節食譜。然后,再找它要一份感恩節食譜的話,猜猜會發生什么?
沒錯,Auto-GPT會按照相同的思維鏈從頭再做一遍,也就是說,我們需要再花14.4美元才行。
但實際上,這兩個任務在「參數」的區別應該只有一個:節日。
既然我們已經花了14.4美元開發了一種創建食譜的方法,那么再用化相同的錢來調整參數,顯然是不符合邏輯的。
想象一下,在玩《我的世界》(Minecraft),每次都要從頭開始建造一切。顯然,這會讓游戲變得非常無趣
而這便暴露了Auto-GPT的一個根本問題:它無法區分開發和生產。
當Auto-GPT完成目標時,開發階段就完成了。不幸的是,我們并沒有辦法將這一系列操作「序列化」為一個可重用的函數,從而投入生產。
因此,用戶每次想要解決問題時都必須從開發的起點開始,不僅費時費力,而且還費錢。
這種低下效率,引發了關于Auto-GPT在現實世界生產環境中實用性的質疑,也突顯了Auto-GPT在為大型問題解決提供可持續、經濟有效的解決方案方面的局限性。
循環的泥潭
不過,如果14.4美元真的能解決問題,那么它仍然是值得的。
但問題在于,Auto-GPT在實際使用時,經常會陷入到死循環里……
那么,為什么Auto-GPT會陷入這些循環?
理解這一點,我們可以把Auto-GPT看作是依賴GPT來使用一種非常簡單的編程語言來解決任務。
解決任務的成功取決于兩個因素:編程語言中可用的函數范圍和GPT的分治法能力(divide and conquer ),即GPT能夠多好地將任務分解成預定義的編程語言。遺憾的是,GPT在這兩點上都是不足的。
Auto-GPT提供的有限功能可以在其源代碼中觀察到。例如,它提供了用于搜索網絡、管理內存、與文件交互、執行代碼和生成圖像的功能。然而,這種受限的功能集縮小了Auto-GPT能夠有效執行的任務范圍。
此外,GPT的分解和推理能力仍然受到限制。盡管GPT-4相較于GPT-3.5有了顯著的改進,但其推理能力遠非完美,進一步限制了Auto-GPT的解決問題的能力。
這種情況類似于嘗試使用Python構建像《星際爭霸》這樣復雜的游戲。雖然Python是一種強大的語言,但將《星際爭霸》分解為Python函數極具挑戰性。
本質上,有限功能集和GPT-4受限的推理能力的結合,最終造成了這個循環的泥潭,使Auto-GPT在許多情況下無法實現預期的結果。
人類與GPT的區別
分治法是Auto-GPT的關鍵。盡管GPT-3.5/4在前任基礎上有了顯著的進步,但在使用分治法時,其推理能力仍然無法達到人類水平。
問題分解不充分:
分治法的有效性在很大程度上取決于將復雜問題分解為較小、易于管理的子問題的能力。人類推理通常可以找到多種分解問題的方法,而GPT-3.5/4可能沒有同樣程度的適應性或創造力。
識別合適基本案例的難度:
人類可以直觀地選擇適當的基本案例以得到有效的解決方案。相比之下,GPT-3.5/4可能難以確定給定問題的最有效基本案例,這會顯著影響分治過程的整體效率和準確性。
問題背景理解不充分:
雖然人類可以利用其領域知識和背景理解來更好地應對復雜問題,但GPT-3.5/4受其預先訓練的知識所限,可能缺乏用分治法有效解決某些問題所需的背景信息。
處理重疊子問題:
人類通常可以識別出解決重疊子問題時,并有策略地重用先前計算過的解決方案。而GPT-3.5/4可能沒有同樣程度的意識,可能會多次冗余地解決相同的子問題,從而導致解決方案的效率降低。
Vector DB:過度的解決方案
Auto-GPT依賴向量數據庫進行更快的k-最近鄰(kNN)搜索。這些數據庫檢索先前的思維鏈,并將它們融入到當前查詢上下文中,以便為GPT提供一種記憶效果。
然而,考慮到Auto-GPT的約束和局限性,這種方法被批評為過度且不必要地消耗資源。其中,反對使用向量數據庫的主要論點源于與Auto-GPT思維鏈相關的成本約束。
一個50步的思維鏈將花費14.4美元,而一個1000步的鏈將花費更多。因此,記憶大小或思維鏈的長度很少超過四位數。在這種情況下,對最近鄰點進行窮舉搜索(即256維向量與10,000 x 256矩陣之間的點積)被證明是足夠高效的,用時不到一秒鐘。
相比之下,每個GPT-4調用大約需要10秒鐘來處理,所以實際上限制系統處理速度的是GPT,而非數據庫。
盡管在特定場景下,向量數據庫可能在某些方面具有優勢,但在Auto-GPT系統中實現向量數據庫以加速kNN「長時記憶」搜索似乎是一種不必要的奢侈和過度的解決方案。
智能體機制的誕生
Auto-GPT引入了一個非常有趣的概念,允許生成智能體來委托任務。
雖然,這種機制還處于初級階段,其潛力尚未被充分挖掘。不過,有多種方法可以增強和擴展當前的智能體系統,為更高效、更具動態性的互動提供新的可能性。
使用異步智能體可以顯著提高效率
一個潛在的改進是引入異步智能體。通過結合異步等待模式,智能體可以并發操作而不會阻塞彼此,從而顯著提高系統的整體效率和響應速度。這個概念受到了現代編程范式的啟發,這些范式已經采用了異步方法來同時管理多個任務。
另一個有前景的方向是實現智能體之間的相互通信。通過允許智能體進行通信和協作,它們可以更有效地共同解決復雜問題。這種方法類似于編程中的IPC概念,其中多個線程/進程可以共享信息和資源以實現共同目標。
生成式智能體是未來的方向
隨著GPT驅動的智能體不斷發展,這種創新方法的未來似乎十分光明。
新的研究,如「Generative Agents: Interactive Simulacra of Human Behavior」,強調了基于智能體的系統在模擬可信的人類行為方面的潛力。
論文中提出的生成式智能體,可以以復雜且引人入勝的方式互動,形成觀點,發起對話,甚至自主計劃和參加活動。這項工作進一步支持了智能體機制在AI發展中具有前景的論點。
通過擁抱面向異步編程的范式轉變并促進智能體間通信,Auto-GPT可以為更高效和動態的問題解決能力開辟新可能。
將《生成式智能體》論文中引入的架構和交互模式融入其中,可以實現大型語言模型與計算、交互式智能體的融合。這種組合有可能徹底改變在AI框架內分配和執行任務的方式,并實現更為逼真的人類行為模擬。
智能體系統的開發和探索可極大地促進AI應用的發展,為復雜問題提供更強大且動態的解決方案。
總結一下
總之,圍繞Auto-GPT的熱議引發了關于AI研究現狀以及公眾理解在推動新興技術炒作中的作用的重要問題。
正如上面所展示的,Auto-GPT在推理能力方面的局限性、向量數據庫的過度使用以及代理機制的早期發展階段,揭示了它距離成為實際解決方案還有很長的路要走。
圍繞Auto-GPT的炒作,提醒我們膚淺的理解可能讓期望過高,最終導致對AI真正能力的扭曲認識。
話雖如此,Auto-GPT確實為AI的未來指明了一個充滿希望的方向:生成式智能體系統。
最后,Han Xiao總結道:「讓我們從Auto-GPT的炒作中吸取教訓,培養關于AI研究的更為細致和知情的對話。
這樣,我們就可以利用生成式代理系統的變革力量,繼續推動AI能力的邊界,塑造一個技術真正造福人類的未來。
關鍵詞:
相關文章
- 華陽股份2022年報數據比較與解讀_全球微速訊
- 焦點日報:關于爆火的Auto-GPT的科普文
- 上話時隔三年再啟半價日,安福路288號茉莉花劇場同步開票
- 天天最新:據“華為數字能源”微信公眾號消息 華為智能電動新品發布會將于4月17日在上海舉辦
- 觀速訊丨挺過寒冬,長線小牛 —— 簡評世龍2022業績及未來預期
- 選了一圈,為什么只能選恒瑞醫藥?
- 五一國內游訂單量創5年來最高 較2019年同期增長約200%|全球新資訊
- 【天天熱聞】“五一”假期淄博再成頂流,“北京南-淄博”火車票開售1分鐘售罄
- 今日快看!中寵股份與分眾傳媒戰略合作正式簽約
- 國家開發銀行河南分行原行長傅小東受賄被判刑10年:天天觀點
- 仰望星空,腳踏實地
- 全球熱點!138、138、中環緊急呼叫138!
- 程序員投機4月14日
- 又見"父子殺"大戲!兒子被免掉董事長 拿走公章不還 還公開反對! 天天播報
- 商務部副部長:正積極推進加入《數字關系伙伴關系協定》_新動態
- 外資回來了!本周北向資金大幅加倉光伏設備 多家科技股被減持|環球速看料
- 代理商渠道分銷系統顛覆傳統銷售模式
- 天天微資訊!東電:福島第一核電站1號機組反應堆壓力容器底部可能出現穿孔
- Ai產業的十倍機會 ChatGPT+RPA=AutoGPT 環球熱訊
- 環球速看:金牛獎基金經理到底有多“牛”?安信聶世林投資體系
- 為什么伊利不漲?:獨家
- 醫美消費復蘇 玻尿酸需求依舊強勁
- 每日觀點:吃雞怎么設權限 吃雞怎么設置權限
- 世界微速訊:星輝環材:預計我國聚苯乙烯出口規模可能會有一定提升
- 今日熱訊:山東能源集團36億元戰略增資水發集團
- 當前關注:偉星股份:越南工業園一期項目主體廠房近期已順利結頂
- 今日快看!從原油,天然氣和海上風電判斷中海油長期價值和發展空間
- 每日資訊:一般的人最好退出股市,長期能賺大錢的人鳳毛麟角
- 再虧91.4億,又一造車新勢力崩了!
- 比亞迪跟華為的對比研究展望-世界快訊
熱文推薦
排行推薦

觀速訊丨挺過寒冬,長線小牛 —— 簡評世龍2022業績及未來預期

選了一圈,為什么只能選恒瑞醫藥?

五一國內游訂單量創5年來最高 較2019年同期增長約200%|全球新資訊
