11月9日下午4點，英偉達GTC 2021開始了。
還是那個廚房，那身皮衣，但老黃這回是AI生成的嗎？
我們確認過了，這次黃仁勳全程線上，沒有使用假身！
黃老闆搖滾範的長髮再次迴歸短髮。
不過這次雖然沒有假身，又多了一個老黃的Avatar。
剛剛，黃仁勳重磅釋出了會對話的虛擬形象 Toy-Me。
黃仁勳表示，「你會看到這個虛擬形象是基於目前訓練的最大語言模型的語言處理打造，包括聲音也是用我自己的語音進行合成，還可以看到實時基於光線追蹤的精美影象。」
這個 Toy-Me 有多厲害？
黃仁勳演示3個人分別讓虛擬形象回答關於氣候變化、天文學以及生物蛋白質等棘手的問題，這個可愛的小傢伙回答行雲流水。
先是Facebook改名，後是微軟把MR平臺Mesh融入到Teams中。
此次，英偉達還推出了自己的虛擬人，更加證明了全力佈局「元宇宙」勢不可擋。
Omniverse Avatar釋出，全力擁抱「元宇宙」
英偉達在GPU技術大會上正式釋出了Omniverse Enterprise，這是一個模擬和協作平臺。按照英偉達的說法，該平臺“充當物理上精確的3D虛擬世界的結締組織”。Omniverse Enterprise利用英偉達晶片為企業客戶構建強大的計算系統，起售價為每年9000美元，透過戴爾和聯想集團等合作伙伴銷售。
英偉達執行長黃仁勳在主題演講中表示，透過Omniverse，“我們現在擁有了建立新的3D世界或模擬我們的物理世界的技術。”
在英偉達釋出的產品當中，其中就包括了用於生成互動式人工智慧化身的技術平臺Omniverse Avatar。該平臺集合了英偉達在語音人工智慧、計算機視覺、自然語言理解、推薦引擎和模擬技術方面的技術，為建立人工智慧助手打開了大門，可以幫助處理數十億的日常客戶服務互動，帶來更大的商業機會和提高客戶滿意度。
“你們會看到一個不變的主題——如何使用Omniverse來模擬倉庫、廠房和工廠、物理和生物系統、5G邊緣、機器人、自動駕駛汽車，”黃仁勳說。
可以看出，英偉達在這次GTC大會上進一步堅定了「進軍元宇宙」的決心！
其中，人工智慧阿凡達平臺（NVIDIA Omniverse Avatar）帶來了一些令人振奮功能。
正如前面所提到的，Omniverse Avatar是一款基於語音、計算機視覺、自然語言理解、推薦引擎和模擬方面的技術生成的互動式AI化身。
Avatar是具有光線跟蹤3D圖形的互動角色，可以看到、說話、就廣泛的主題進行交談，並理解自然對話的意圖。
Omniverse Avatar為建立人工智慧助手打開了大門，這些助手幾乎可以為任何行業輕鬆定製。這些可以幫助處理數十億的日常客戶服務互動，包括餐廳訂單、銀行交易、進行個人預約和預訂等等。
比如這個餐廳客戶服務Avatar就可以同時和兩個顧客進行交談和理解。
黃仁勳表示：「Omniverse Avatar結合了英偉達的基礎圖形、模擬和人工智慧技術，使一些有史以來最複雜的實時應用程式得以誕生。協作機器人和虛擬助手的使用案例令人難以置信，影響深遠。」
「全能」的阿凡達
Avatar的語音識別基於英偉達Riva，這是一個軟體開發工具包，可以識別多種語言的語音。Riva還被用來利用文字到語音功能生成類似人類的語音反應。
Avatar的自然語言理解是基於Megatron 530B大型語言模型，可以識別、理解和生成人類語言。
Megatron 530B預訓練模型在各種自然語言任務如：完形填空、閱讀理解、常識推理、自然語言推理、詞義消歧中紛紛實現SOTA。
除了可以回答問題、總結長而複雜的故事，還可以在沒有經過專門訓練的領域處理相應的問題。
Avatar的推薦引擎由NVIDIA Merlin提供，該框架允許企業建立能夠處理大量資料的深度學習推薦系統，以提出更智慧的建議。
Avatar的感知能力由NVIDIA Metropolis提供，這是一個用於影片分析的計算機視覺框架。
Avatar的頭像動畫由NVIDIA Video2Face和Audio2Face（二維和三維AI驅動的面部動畫和渲染技術）驅動。
Omniverse Avatar將這些技術組成一個應用程式，並使用NVIDIA統一計算框架進行實時處理。
對於Omniverse平臺功能更新共有4個：
Showroom是一個包含演示和示例應用程式，展示了Omniverse核心技術。
Farm一個系統層，用於協調跨多個系統、工作站、伺服器和虛擬化批作業處理，可以用於批次渲染，AI合成數據生成或分散式計算。
Omniverse AR可以將將圖形串流到手機或者AR眼鏡。Omniverse VR是英偉達首款全幀互動式光線追蹤VR。
NVIDIA Quantum-2：將超算帶入雲端
英偉達還推出了下一代 InfiniBand 網路平臺Quantum-2，該平臺可提供雲計算提供商和超級計算中心所需的極致效能、廣泛的可訪問性和強大的安全性。
作為有史以來最先進的端到端網路平臺，NVIDIA Quantum-2是一個400Gbps InfiniBand網路平臺，由NVIDIA Quantum-2交換機、ConnectX-7網路介面卡、BlueField-3資料處理單元（DPU）和所有支援新架構的軟體。
NVIDIA Quantum-2的推出，正值超級計算中心向越來越多地使用者開放之際，其中許多使用者來自這些計算中心之外。與此同時，全球的雲服務提供商也開始為客戶提供更多的超算服務。
憑藉400Gbps的高頻寬，NVIDIA Quantum-2 InfiniBand讓網路速度加倍，網路埠數量增加了3倍。效能提高了3倍，對資料中心結構交換機的需求減少了6倍，同時降低了資料中心功耗，資料中心佔用的空間也減少了7%。
與上一代技術相比，NVIDIA Quantum-2 SHARPv3網路計算技術為AI應用程式提供了32倍的加速引擎。
Quantum-2平臺的核心是新的Quantum-2 InfiniBand交換機。它搭載570億個電晶體，比擁有540億個電晶體的NVIDIA A100 GPU略大。
它具有64個400Gbps埠或128個200Gbps埠，並將在各種交換機系統中提供，多達 2，048個400Gbps埠或4，096個200Gbps 埠。交換能力是上一代Quantum-1的5倍以上。
在網路速度、交換能力和可擴充套件性上，InfiniBand都非常適合構建下一代巨型HPC系統。
NeMo Megatron框架：發力大型語言模型開發
NVIDIA 今天還打開了開發和部署大型語言模型 （LLM） 的大門，推出了用於訓練具有數萬億個引數的語言模型的NVIDIA NeMo Megatron框架、可針對新領域和語言進行訓練的Megatron 530億引數的可定製大型語言模型，以及具有多 GPU、多節點分散式推理功能的NVIDIA Triton推理伺服器。
這些工具提供了一個完備的企業級解決方案，簡化了大型語言模型的開發和部署。
NVIDIA NeMo Megatron以Megatron專案為基礎，Megatron是一個由英偉達研究人員領導的開源專案，旨在大規模研究大型轉換器語言模型的高效訓練。
該框架使用資料處理庫自動處理LLM複雜訓練，可以獲取、管理、組織和清理資料。它使用先進的資料、張量和管道並行化技術，使大型語言模型的訓練能夠高效地分佈在數千個GPU上。
NVIDIA Triton推理伺服器中的多GPU、多節點功能使LLM推理負載可以實時、跨多個GPU和節點進行擴充套件。
使用Triton推理伺服器，Megatron 530B可以在兩個NVIDIA DGX系統上執行，將CPU伺服器上的處理時間從一分鐘多縮短到0。5秒，從而實現在應用程式上快速、實時地部署大型語言模型。
Jetson AGX Orin：最小巧、最節能的「AI超算」
Jetson AGX Orin基於NVIDIA Ampere架構，保持與其前身 Jetson AGX Xavier的外形和引腳的相容性，但處理能力擴大至6倍，每秒可提供200萬億次操作，它類似於支援GPU的伺服器，但大小僅相當於人的手掌。
Jetson AGX Orin Arm Cortex-A78AE CPU，以及下一代深度學習和視覺加速器，搭載高速介面、更快的記憶體頻寬和多模式感測器，具備處理多個併發AI應用管道的能力。
新的 Jetson 計算機可加速完整的 NVIDIA AI 軟體棧，使開發人員能夠部署最大、最複雜的模型，以解決自然語言理解、3D 感知、多感測器融合等邊緣 AI 和機器人任務。
同時有訊息稱，Drive Hyperion 8自動平臺現已準備投入生產車輛。
ONE MORE THING
GTC大會上，英偉達還宣佈了2項新人工智慧驅動軟體技術——Nvidia Drive Concierge 和 Drive Chauffeur。
Nvidia Drive Concierge 是一個AI助理，它結合了語音輔助、駕駛員監控和自動停車技術。
然而，最酷的是它與 Nvidia Drive AV 自動駕駛技術的整合，提供按需代客泊車。
所以，當你說尋找停車位，它會為你自動停車。
Drive Concierge 可以執行從簡單到複雜的自然語音命令，比如打電話預訂，並且根據每個乘客的聲音進行個性化設定，為每個乘客提供自己的虛擬助手。
