焦點熱訊:作為美國微軟內部人士談談ChatGPT

2023-02-17 18:27:40 來源:雪球網


(資料圖片僅供參考)

該文來自北大校友:

我去年在西雅圖微軟, 而且就在負責開發 Bing 后臺一部分算法的 WebXT 組, 后來因為個人原因離職了. 作為了解 ChatGPT 和新 Bing 部分內幕的底層碼農, 以及 GPT-3 和 Codex 的第一批公測用戶,我來談談對 ChatGPT 的看法.

1. ChatGPT 的算法, 包括自回歸語言模型 (OpenAI 從 2017 年的 GPT-1 搞到現在, 迭代了 3.5 代了), 還有強化學習的 PPO 算法 (還記得 2018 年在 TI 表演賽上擊敗 OG 的 Dota2 AI 嗎? 就是用這個算法訓練的), 全都是已經十分成熟的公開算法, 本身沒有任何秘密可言. 但是這種超大規模訓練, 并不止依靠算法本身, 硬件和數據才是王道. 純自然語言數據, 網上公開的到處都是, 也沒有什么門檻. 但是 ChatGPT 有一個巨大的先發優勢,就是他通過搶先開始公測,收集了大量的用戶的使用數據,這是更加寶貴的數據,而這部分數據只有他們家有。只要 ChatGPT 仍然是最好用的語言 AI ,這個雪球只會越滾越大,越來越難追上。另外,為了防止 ChatGPT 輸出有害信息,OpenAI 還花了大價錢去找印度和肯尼亞的外包公司標記了大量的有害文本,用來訓練模型不要輸出有害信息,這部分數據也是 OpenAI 積淀了幾年筑起的數據壁壘。總之,小公司根本做不了 ChatGPT 這樣的工程,凡是聲稱投資區區幾億就要做 ChatGPT 這樣的 AI 的,幾乎可以認為全是詐騙;真正有可能做出類似產品的,在中國只有 BAT 這種擁有自主云計算平臺 (市場價租機器做這個就等著破產吧)、且掌握大量用戶的互聯網公司,而且最好是和 ChatGPT 錯位競爭,比如做中國可以正常聯網使用的中文模型;并且,其中最困難的部分其實是敏感詞屏蔽和有害信息過濾(ChatGPT 的屏蔽程度,在國內恐怕是不夠的,因為它仍然可能在用戶惡意誘導下說出不該說的東西)

2. 再來簡單聊聊微軟。很多華人,都覺得微軟低效是因為印度人太多,尤其是因為印度人做了CEO。但是這種言論是錯誤的。從 ChatGPT 這件事中就能看出微軟現任 CEO Satya Nadella 的眼界。首先,當時 OpenAI 缺錢、且做出來的東西都是 Dota2 AI 這種不能賺錢的東西,馬斯克都甩手不干的時候,微軟仍在默默地投錢、給機器。去年我還在 WebXT 組的時候就聽說 CEO 有意向在 Bing 用 OpenAI 的新模型,把我們嚇得不輕。后來就聽說 WebXT 組停了好多項目,開了好多人,把幾乎所有機器都借給 OpenAI 了。因為 CEO 想撥款買新機器給 OpenAI 用,遭到很多利益相關的反對,尤其是 CFO 不給批,于是只好繞過 CFO 抽調微軟原本用于研發的機器;這樣 WebXT 人多,機器少,很多研發人員干不了活,正好再裁了這些 “多余” 的研發人員。后來的事情,大家都知道了:這個 OpenAI 的 “新模型” ,它的名字叫做 ChatGPT,而且火速上了 Bing 。雖然我以前所在的 WebXT 組是這個事件中的最大受害者,但是如果作為旁觀者,我的確十分佩服 Satya Nadella 的眼界。

3. 有人說,ChatGPT 會面臨 Google 的競爭,Google 的搜索引擎仍然是最好用的,Google 的用戶是全世界最多的,Google 的自然語言 AI 技術也是領先的,所以完全可以等 Google 出競品,也能做得很好,所以不必唱衰 Google 。這里的論據都是對的,但是最后一步論證 “所以不必唱衰 Google” 這步,沒那么簡單。我看了最近一個 Satya Nadella 的訪談,他的大概意思是,ChatGPT 的技術,頭部科技公司遲早都會掌握,包括 Google;但是 ChatGPT 的推斷成本高昂,而且消耗的算力與用戶體驗高度正相關;而搜索引擎用戶粘度小,用戶永遠會去用體驗最好的那個;所以這會迫使所有科技公司搞軍備競賽,大幅推高搜索算法的成本,使得 Google 賴以生存的搜索廣告業務再也無法躺著賺錢;但是微軟的營收卻更加多元化,因此受到的沖擊會更小,卻能享受到 Edge 瀏覽器、甚至 Windows 系統市場份額增加的好處。很多人還在想第一層第二層,人家 Satya 已經想到了第五層了。說的直白一點,現在微軟就是開啟了大模型軍備競賽,想要卷死 Google。當然這并不是 “內卷”,畢竟用戶的使用體驗提升了。

$谷歌A(GOOGL)$ $微軟(MSFT)$ $浪潮信息(SZ000977)$

關鍵詞: 軍備競賽 最好用的 搜索引擎

相關文章

熱文推薦

環球速看:普京暫停美俄核協議,“給我點面子,否則下一步是退出”
環球速看:普京暫停美俄核協議,“給我點面子,否則下一步是退出”

二十國集團外長會議期間,出現了一個戲劇性的畫面:俄......更多>

參加私人銀行客戶路演的大鄉里經歷
參加私人銀行客戶路演的大鄉里經歷

第一次接觸“私人銀行”這個詞,是在2016年,去參加證......更多>

每日快播:汽車價格戰背后的最大贏家
每日快播:汽車價格戰背后的最大贏家

自從特斯拉降價汽車價格戰已經開始,先是小鵬降價后是......更多>

排行推薦

俄羅斯貿易結算格局大改:美元歐元加速退場 人民幣占比顯著抬升
俄羅斯貿易結算格局大改:美元歐元加速退場 人民幣占比顯著抬升
俄羅斯央行周四公布的一份最新報告顯示,人民幣和盧布... 更多>
蘇州一樓盤可“0首付”購房?置業顧問:通過申請裝修貸抵首付-即時
蘇州一樓盤可“0首付”購房?置業顧問:通過申請裝修貸抵首付-即時
蘇州樓市日前傳出消息,位于陽澄湖鎮的淺棠水岸項目打... 更多>
十四屆全國人大一次會議選舉產生第十四屆全國人大常委會副委員長、秘書長|視點
十四屆全國人大一次會議選舉產生第十四屆全國人大常委會副委員長、秘書長|視點
李鴻忠、王東明、肖捷、鄭建邦、丁仲禮、郝明金、蔡達... 更多>
華安證券:數據安全建設將在近兩年進入放量周期
華安證券:數據安全建設將在近兩年進入放量周期
華安證券研報指出,數據資產價值提升以及流轉環節增加... 更多>
中信證券:看好國內激光雷達市場和產業鏈各環節的發展|報道
中信證券研報指出,海外激光雷達龍頭廠商Luminar早先... 更多>
寒潮藍色預警:內蒙古、華北、黃淮、江淮東部等地氣溫下降12℃ 局部超過16℃|環球新要聞
中央氣象臺3月10日06時發布寒潮藍色預警:受寒潮影響... 更多>
溫州新能源電池材料產業園項目簽約 總投資約80億元
據“溫州發布”微信公眾號消息,3月9日,由青山實業旗... 更多>
年報披露機構動向:外資UBS AG押注大消費
目前已披露的上市公司年報顯示,合格境外投資者(QFII... 更多>
比亞迪變相降價!兩大主力車型最多減8800元 汽車“降價潮”來了?
比亞迪也開始降價了?3月9日,比亞迪官微信息顯示,3... 更多>
舞臺劇《西安千古情》改版復演:天天速看
近日,改版后的舞臺劇《西安千古情》在西安浐灞生態區... 更多>
明天將會迎來變盤?來不及啰嗦,不然明天恐怕后悔都來不及
大家久等了,今天下午有幾位行業老友來到了板哥的城市... 更多>
20CM掀起漲停潮,光刻膠繼續走強。
指數方面,三大股指全線低開,此后大部分時間圍繞昨日... 更多>
通訊!明天有沒有機會?
最近兩天A股不是翹尾就是盤中玩深V,到底發生什么事了... 更多>
天天熱點!一劍封喉,明天大盤將長陽拉起
洗盤干的漂亮,明天將長陽拉起。實話說,今天洗盤干得... 更多>

環球微動態丨是不是弄錯了

我不喜歡你了[重生]_重生之再開始

碳化硅和凱龍高科的爆炸超預期 全

每天漲跌和過去連續漲跌的有關系嗎

再聊中字頭

廣譽遠為何拿安宮開路?

天天熱點評!本公司財務說明_財務說

招商蛇口:2月簽約銷售金額225.43億

環球即時看!萬科:本公司已于3月9

東陽、浙農簽約攜手開展元胡全產業

亚洲国产精品成人网址天堂| 午夜精品成年片色多多| 窝窝午夜看片成人精品| 亚洲欧洲国产精品香蕉网| 在线91精品亚洲网站精品成人| 久久国内精品自在自线400部o | 久久99精品久久| 老司机福利精品视频| 精品国产精品国产偷麻豆| 99久久免费国产精精品| 国产精品综合一区二区| 国产99精品久久| 亚洲国产精品高清久久久| 国产99久久久国产精品~~牛| 欧洲精品成人免费视频在线观看 | mm1313亚洲国产精品美女| 国产精品亚洲精品| 久久99热精品这里久久精品| 久久精品无码免费不卡| 国产在线精品美女观看| 久久这里只有精品国产免费10| 中文字幕亚洲精品| 亚洲国产成人一区二区精品区| 久久国产精品免费| 国产成人综合久久精品尤物| 日本精品久久久久久福利| 国产香蕉久久精品综合网| 99re热精品这里精品| 久久精品久久精品久久精品| 99久久婷婷免费国产综合精品| 亚洲综合国产精品第一页 | 国产精品成人观看视频国产奇米| 精品一久久香蕉国产线看播放| 无码人妻精品一区二区蜜桃AV| 日韩久久精品一区二区三区| 国产精品夜夜春夜夜爽久久小 | 99热在线精品观看| 久久99精品福利久久久| 久久精品一区二区| 国产精品无码无在线观看| 三级精品视频在线播放|