亚洲国产成人久久综合_久久99国产精品成人_久久久精品免费视频_欧美特黄一级大片

(資料圖片僅供參考)

該文來自北大校友:

我去年在西雅圖微軟, 而且就在負責開發 Bing 后臺一部分算法的 WebXT 組, 后來因為個人原因離職了. 作為了解 ChatGPT 和新 Bing 部分內幕的底層碼農, 以及 GPT-3 和 Codex 的第一批公測用戶，我來談談對 ChatGPT 的看法.

1. ChatGPT 的算法, 包括自回歸語言模型 (OpenAI 從 2017 年的 GPT-1 搞到現在, 迭代了 3.5 代了), 還有強化學習的 PPO 算法 (還記得 2018 年在 TI 表演賽上擊敗 OG 的 Dota2 AI 嗎? 就是用這個算法訓練的), 全都是已經十分成熟的公開算法, 本身沒有任何秘密可言. 但是這種超大規模訓練, 并不止依靠算法本身, 硬件和數據才是王道. 純自然語言數據, 網上公開的到處都是, 也沒有什么門檻. 但是 ChatGPT 有一個巨大的先發優勢，就是他通過搶先開始公測，收集了大量的用戶的使用數據，這是更加寶貴的數據，而這部分數據只有他們家有。只要 ChatGPT 仍然是最好用的語言 AI ，這個雪球只會越滾越大，越來越難追上。另外，為了防止 ChatGPT 輸出有害信息，OpenAI 還花了大價錢去找印度和肯尼亞的外包公司標記了大量的有害文本，用來訓練模型不要輸出有害信息，這部分數據也是 OpenAI 積淀了幾年筑起的數據壁壘。總之，小公司根本做不了 ChatGPT 這樣的工程，凡是聲稱投資區區幾億就要做 ChatGPT 這樣的 AI 的，幾乎可以認為全是詐騙；真正有可能做出類似產品的，在中國只有 BAT 這種擁有自主云計算平臺 （市場價租機器做這個就等著破產吧）、且掌握大量用戶的互聯網公司，而且最好是和 ChatGPT 錯位競爭，比如做中國可以正常聯網使用的中文模型；并且，其中最困難的部分其實是敏感詞屏蔽和有害信息過濾（ChatGPT 的屏蔽程度，在國內恐怕是不夠的，因為它仍然可能在用戶惡意誘導下說出不該說的東西）

2. 再來簡單聊聊微軟。很多華人，都覺得微軟低效是因為印度人太多，尤其是因為印度人做了CEO。但是這種言論是錯誤的。從 ChatGPT 這件事中就能看出微軟現任 CEO Satya Nadella 的眼界。首先，當時 OpenAI 缺錢、且做出來的東西都是 Dota2 AI 這種不能賺錢的東西，馬斯克都甩手不干的時候，微軟仍在默默地投錢、給機器。去年我還在 WebXT 組的時候就聽說 CEO 有意向在 Bing 用 OpenAI 的新模型，把我們嚇得不輕。后來就聽說 WebXT 組停了好多項目，開了好多人，把幾乎所有機器都借給 OpenAI 了。因為 CEO 想撥款買新機器給 OpenAI 用，遭到很多利益相關的反對，尤其是 CFO 不給批，于是只好繞過 CFO 抽調微軟原本用于研發的機器；這樣 WebXT 人多，機器少，很多研發人員干不了活，正好再裁了這些 “多余” 的研發人員。后來的事情，大家都知道了：這個 OpenAI 的 “新模型” ，它的名字叫做 ChatGPT，而且火速上了 Bing 。雖然我以前所在的 WebXT 組是這個事件中的最大受害者，但是如果作為旁觀者，我的確十分佩服 Satya Nadella 的眼界。

3. 有人說，ChatGPT 會面臨 Google 的競爭，Google 的搜索引擎仍然是最好用的，Google 的用戶是全世界最多的，Google 的自然語言 AI 技術也是領先的，所以完全可以等 Google 出競品，也能做得很好，所以不必唱衰 Google 。這里的論據都是對的，但是最后一步論證 “所以不必唱衰 Google” 這步，沒那么簡單。我看了最近一個 Satya Nadella 的訪談，他的大概意思是，ChatGPT 的技術，頭部科技公司遲早都會掌握，包括 Google；但是 ChatGPT 的推斷成本高昂，而且消耗的算力與用戶體驗高度正相關；而搜索引擎用戶粘度小，用戶永遠會去用體驗最好的那個；所以這會迫使所有科技公司搞軍備競賽，大幅推高搜索算法的成本，使得 Google 賴以生存的搜索廣告業務再也無法躺著賺錢；但是微軟的營收卻更加多元化，因此受到的沖擊會更小，卻能享受到 Edge 瀏覽器、甚至 Windows 系統市場份額增加的好處。很多人還在想第一層第二層，人家 Satya 已經想到了第五層了。說的直白一點，現在微軟就是開啟了大模型軍備競賽，想要卷死 Google。當然這并不是 “內卷”，畢竟用戶的使用體驗提升了。

$谷歌A(GOOGL)$ $微軟(MSFT)$ $浪潮信息(SZ000977)$

關鍵詞： 軍備競賽 最好用的 搜索引擎