焦點熱訊:作為美國微軟內部人士談談ChatGPT
2023-02-17 18:27:40 來源:雪球網 小 中
(資料圖片僅供參考)
該文來自北大校友:
我去年在西雅圖微軟, 而且就在負責開發 Bing 后臺一部分算法的 WebXT 組, 后來因為個人原因離職了. 作為了解 ChatGPT 和新 Bing 部分內幕的底層碼農, 以及 GPT-3 和 Codex 的第一批公測用戶,我來談談對 ChatGPT 的看法.
1. ChatGPT 的算法, 包括自回歸語言模型 (OpenAI 從 2017 年的 GPT-1 搞到現在, 迭代了 3.5 代了), 還有強化學習的 PPO 算法 (還記得 2018 年在 TI 表演賽上擊敗 OG 的 Dota2 AI 嗎? 就是用這個算法訓練的), 全都是已經十分成熟的公開算法, 本身沒有任何秘密可言. 但是這種超大規模訓練, 并不止依靠算法本身, 硬件和數據才是王道. 純自然語言數據, 網上公開的到處都是, 也沒有什么門檻. 但是 ChatGPT 有一個巨大的先發優勢,就是他通過搶先開始公測,收集了大量的用戶的使用數據,這是更加寶貴的數據,而這部分數據只有他們家有。只要 ChatGPT 仍然是最好用的語言 AI ,這個雪球只會越滾越大,越來越難追上。另外,為了防止 ChatGPT 輸出有害信息,OpenAI 還花了大價錢去找印度和肯尼亞的外包公司標記了大量的有害文本,用來訓練模型不要輸出有害信息,這部分數據也是 OpenAI 積淀了幾年筑起的數據壁壘。總之,小公司根本做不了 ChatGPT 這樣的工程,凡是聲稱投資區區幾億就要做 ChatGPT 這樣的 AI 的,幾乎可以認為全是詐騙;真正有可能做出類似產品的,在中國只有 BAT 這種擁有自主云計算平臺 (市場價租機器做這個就等著破產吧)、且掌握大量用戶的互聯網公司,而且最好是和 ChatGPT 錯位競爭,比如做中國可以正常聯網使用的中文模型;并且,其中最困難的部分其實是敏感詞屏蔽和有害信息過濾(ChatGPT 的屏蔽程度,在國內恐怕是不夠的,因為它仍然可能在用戶惡意誘導下說出不該說的東西)
2. 再來簡單聊聊微軟。很多華人,都覺得微軟低效是因為印度人太多,尤其是因為印度人做了CEO。但是這種言論是錯誤的。從 ChatGPT 這件事中就能看出微軟現任 CEO Satya Nadella 的眼界。首先,當時 OpenAI 缺錢、且做出來的東西都是 Dota2 AI 這種不能賺錢的東西,馬斯克都甩手不干的時候,微軟仍在默默地投錢、給機器。去年我還在 WebXT 組的時候就聽說 CEO 有意向在 Bing 用 OpenAI 的新模型,把我們嚇得不輕。后來就聽說 WebXT 組停了好多項目,開了好多人,把幾乎所有機器都借給 OpenAI 了。因為 CEO 想撥款買新機器給 OpenAI 用,遭到很多利益相關的反對,尤其是 CFO 不給批,于是只好繞過 CFO 抽調微軟原本用于研發的機器;這樣 WebXT 人多,機器少,很多研發人員干不了活,正好再裁了這些 “多余” 的研發人員。后來的事情,大家都知道了:這個 OpenAI 的 “新模型” ,它的名字叫做 ChatGPT,而且火速上了 Bing 。雖然我以前所在的 WebXT 組是這個事件中的最大受害者,但是如果作為旁觀者,我的確十分佩服 Satya Nadella 的眼界。
3. 有人說,ChatGPT 會面臨 Google 的競爭,Google 的搜索引擎仍然是最好用的,Google 的用戶是全世界最多的,Google 的自然語言 AI 技術也是領先的,所以完全可以等 Google 出競品,也能做得很好,所以不必唱衰 Google 。這里的論據都是對的,但是最后一步論證 “所以不必唱衰 Google” 這步,沒那么簡單。我看了最近一個 Satya Nadella 的訪談,他的大概意思是,ChatGPT 的技術,頭部科技公司遲早都會掌握,包括 Google;但是 ChatGPT 的推斷成本高昂,而且消耗的算力與用戶體驗高度正相關;而搜索引擎用戶粘度小,用戶永遠會去用體驗最好的那個;所以這會迫使所有科技公司搞軍備競賽,大幅推高搜索算法的成本,使得 Google 賴以生存的搜索廣告業務再也無法躺著賺錢;但是微軟的營收卻更加多元化,因此受到的沖擊會更小,卻能享受到 Edge 瀏覽器、甚至 Windows 系統市場份額增加的好處。很多人還在想第一層第二層,人家 Satya 已經想到了第五層了。說的直白一點,現在微軟就是開啟了大模型軍備競賽,想要卷死 Google。當然這并不是 “內卷”,畢竟用戶的使用體驗提升了。
$谷歌A(GOOGL)$ $微軟(MSFT)$ $浪潮信息(SZ000977)$
相關文章
- 環球速看:普京暫停美俄核協議,“給我點面子,否則下一步是退出”
- 贛鋒鋰業董事長李良彬:“鋰鹽有60萬元一噸的昨天,也可能有10萬元一噸的明天” 環球滾動
- 參加私人銀行客戶路演的大鄉里經歷
- 每日快播:汽車價格戰背后的最大贏家
- 俄羅斯貿易結算格局大改:美元歐元加速退場 人民幣占比顯著抬升
- 蘇州一樓盤可“0首付”購房?置業顧問:通過申請裝修貸抵首付-即時
- 十四屆全國人大一次會議選舉產生第十四屆全國人大常委會副委員長、秘書長|視點
- 華安證券:數據安全建設將在近兩年進入放量周期
- 聚焦稀有金屬采礦、冶煉等領域優質個股,工銀稀有金屬ETF基金(159671)今日正式上市!
- 可轉債動態管理
- 汽車服務概念股開盤沖高 中國中期開盤漲停|天天視點
- 海水提鋰概念股繼續走強 津膜科技沖擊2連板:天天信息
- 李大霄:華爾街銀行賣股求生引發恐慌 中資銀行價廉物美是中流砥柱
- 消費電子板塊異動拉升 光弘科技大漲超15%
- 視點!最強AI再次進化 ChatGPT下周升級GPT-4:支持視頻了
- 【全球聚看點】分紅61億、營收破3000億,寧德時代的年報還有哪些看點?
- 離譜...吃個大瓜-當前速遞
- 環球今亮點!核心CPI環比跌幅創11年新高,3月以小盤價值抵御調整壓力——2023年2月物價點評
- 今日報丨甘肅首條“建養一體化”旅游公路通過竣工驗收
- 風口轉向(3月9日)
- 焦點快播:股權拍賣st
- 這是一輪異常復雜的豬周期
- 天天最新:U兄、董寶珍的災難與林園的只研究未來
- 粗淺聊聊今年的思路
- 早間公告:光弘科技擬收購快板電子100%股權:全球快播
- 正開著車方向盤掉了!超12萬輛Model Y被調查 特斯拉市值一夜蒸發2000億元:天天熱文
- 微動態丨“疑似流感”難確診?多家公司:新冠、甲/乙流聯檢產品上市可期
- 全球頭條:市場早報:3000億+!“寧王”業績大曝光 驚現20%折價大宗交易
- 多地出臺新政買房就能落戶:為促進樓市更為了“搶人”|環球快看點
- 晚飯做什么飯簡單好吃要清淡_晚飯做什么飯簡單好吃
熱文推薦
排行推薦

俄羅斯貿易結算格局大改:美元歐元加速退場 人民幣占比顯著抬升

蘇州一樓盤可“0首付”購房?置業顧問:通過申請裝修貸抵首付-即時

十四屆全國人大一次會議選舉產生第十四屆全國人大常委會副委員長、秘書長|視點
