我們也在優化方面做了一些工作，優化是一個瓶頸。研究生James Martens取得了突破，他提出了一種優化方法用二階函數來實現。但重點是它證明了我們可以訓練這些神經元。如果你能訓練神經網絡，你就把他變大一些，然后去找一些數據，你就會成功那么接下來的問題是，找什么樣的數據？答案是ImageNet。當時ImageNet是一個難度很高的數據集，但若想訓練一個大型卷積神經網絡，在數據集上它必須成功。

神經網絡所學習的，是產生文本的過程的一些表述。這些文本實際上是這個世界的一個映射，所以神經網絡正在學習從世界越來越多的方面看待這個世界，看待人類和社會。神經網絡學習一個壓縮的、抽象的、可用的表述。這就是從準確預測下一個詞的任務中學到的東西。此外，你對下一個詞的預測越準確，還原度越高，在這個過程中你得到世界的分辨率就越高，這就是預訓練階段的作用，但這并不能讓神經網絡表現出我們希望它能夠表現出的行為。

一個語言模型，它真正要做的是回答以下問題，如網上有一些隨機的文本，以一些前綴開始，一些提示，它將如何完成?如果只是隨機尋找一些片段填充，這和我想擁有一個助手是不同的，我想要的助手要誠實，要有幫助，要遵守一定的指導規則，這就是微調，這就是對來自于人類教師強化學習和其他形式的人工智能協助可以發揮作用的對方，不僅僅是向人類學習，也是人類和AI合作的強化學習。在這里我們不是在教授它，我們是在與它交流，希望它成為什么樣。而這個過程，也就是第二階段也是非常重要的。第二階段做得越好，這個神經網絡就越有用，越可靠。所以第二階段是非常重要的，第一階段，盡可能多地從世界的映射中學習，也就是文字。

(相關資料圖)

AI的可靠性是由是否可以被信任決定的，未來肯定可以達到完全信賴的地步。如果它不明白，也會通過提問來問清楚，它會告訴你它不知道，但同時會向你詢問更多的知識。我認為這是AI可用性影響最大的領域，未來會有最大的進步。

我們現在就面臨一個挑戰，比如讓神經網絡總結長的文檔，獲取摘要，挑戰就是能確定重要的細節沒被忽略嗎？當他的總結可以達到所有人都認同的時候，我們就可以說它的內容是可靠的。對于內容護欄也一樣，它是否清楚的遵循用戶的意圖也會成為衡量的標準。

___________________________________

在今年的 GTC 上，NVIDIA 創始人兼首席執行官黃仁勛與 OpenAI 聯合創始人、首席科學家 Ilya Sutskever 進行了一場深度對話，討論了 GPT-4、ChatGPT 背后的故事，也聊了下深度學習的未來。

如今，OpenAI 可以說是整個 AI 領域最火的研究機構。憑借強大的 GPT-4 以及與微軟必應、Office 等產品的融合，這家公司似乎要掀起一場生產力革命。

這一成就是由多方面的力量來驅動的，包括聰明的頭腦和強大的基礎設施。

在「聰明的頭腦」里，Ilya Sutskever 頗具代表性。2012 年，他和他的導師 Geoffrey Hinton 以及同學 Alex Krizhevsky 一起，用深度神經網絡刷新了 ImageNet 的歷史記錄，拉開了卷積神經網絡統治計算機視覺的序幕，標志著新一波人工智能浪潮的開始。2021 年，這個名為 AlexNet 的論文被引量突破 10 萬。

「為了加速訓練，我們用到了非飽和神經元和一個非常高效的 GPU 卷積操作實現。」Ilya Sutskever 等人在 AlexNet 的相關介紹中提到了這樣一條關鍵信息。他們還詳細說明了如何將他們的網絡映射到多個 GPU 上。從這時起，GPU 和神經網絡緊緊地綁定在一起。黃仁勛領導的英偉達自然也成了這波 AI 浪潮中不可或缺的一環。

2015 年，Ilya Sutskever 參與創辦了 OpenAI，并帶領這家公司一路向著 AI 大模型的方向前進。但隨著模型變得越來越大，訓練它們所需的算力也急劇增長。

「加速計算并非易事，2012 年，計算機視覺模型 AlexNet 動用了 GeForce GTX 580，每秒可處理 262 PetaFLOPS。該模型引發了 AI 技術的爆炸。十年之后，Transformer 出現了，GPT-3 動用了 323 ZettaFLOPS 的算力，是 AlexNet 的 100 萬倍，創造了 ChatGPT 這個震驚全世界的 AI。嶄新的計算平臺出現了，AI 的 iPhone 時代已經來臨。」黃仁勛在 GPT 大會的 Keynote 中說道。在這次大會上，英偉達發布了 ChatGPT 專用的 GPU，推理速度提升了 10 倍。

一路走來，Ilya Sutskever 和黃仁勛都是這波 AI 浪潮的見證者和重要推動者。在即將到來的「AI iPhone 時代」，兩人也必將扮演重要的領導者角色。

在這場對話中，兩人談到了深度神經網絡的能力、限制和內部工作方式，并勾勒了一些未來的圖景。

在打造 GPT-4 的過程中，Ilya Sutskever 堅信「（模型）越大越好，擴大規模是 OpenAI 的目標之一」。這自然是黃仁勛喜聞樂見的。

I had a very strong belief that bigger is better, and a goal at OpenAI was to scale. ——Ilya Sutskever

兩人的談話進行了大約 1 個小時，就像老朋友邊喝咖啡邊聊天一樣。以下是這次談話的完整視頻（帶中文字幕），大家可以在其中感受時代的脈搏。

英偉達博客：網頁鏈接 視頻鏈接：網頁鏈接

關鍵詞：