NVIDIA Jarvis是NVIDIA於2020年發布推出GPU加速的套用框架，該框架使企業能夠根據自身所處行業、產品和客戶的特點，使用視頻和語音數據構建定製化對話式AI服務。從客戶支持，到實時轉錄，Jarvis助力構建實現各類定製化的語言性AI 服務。
在GTC 2021上，NVIDIA 宣布NVIDIA Jarvis 框架為開發者提供經過預先訓練的深度學習模型和軟體工具，以創建可輕鬆適應每個行業和領域的互動對話式 AI 服務。
基本介紹
- 軟體名稱：NVIDIA Jarvis
- 上線時間：2020年
產品功能,產品套用,
產品功能
基於Jarvis構建的應用程式可以套用NVIDIA A100 Tensor Core GPU中的各項創新技術進行AI計算，並使用NVIDIA TensorRT的最佳化進行推理。
Jarvis提供了一整套GPU加速軟體堆疊和工具，使開發者能夠輕鬆地創建、部署和運行端到端的實時AI應用程式，並且能夠準確理解各企業及其客戶溝通時所用的各種專業術語。
針對每天會生成數十億小時的通話、網路會議和流式傳輸視頻內容，NVIDIA Jarvis 模型可提供高度精確的語音識別、超凡的語言理解、多語言實時翻譯以及新的語音合成功能，最終可創建表達對話式 AI 代理。
藉助 GPU 加速，端到端語音流程運行時間可達到 100 毫秒內（也就是包括聆聽、理解和生成回響都在內的速度，比人眼眨眼還要快），並部署在雲端、數據中心或邊緣，可立即將規模擴展為數百萬用戶。
產品套用
NVIDIA Jarvis能夠幫助醫療、金融服務、教育和零售行業以快速和準確的方式為他們的客戶提供自動化的支持服務。首批採用Jarvis為客戶提供對話式AI產品和服務的公司包括Voca、Kensho和Square。
NVIDIA Jarvis 將支持新一代基於語言的應用程式，從而改善與人類和機器的互動。它為創建數字護士等服務開啟了大門，可幫助全天候監控患者情況，緩解醫務人員勞動量過大的難題；線上助理可以幫助了解消費者尋找的產品並推薦最佳產品；實時翻譯可以改進跨邊界工作場所的合作，讓觀眾以自己的語言暢享直播內容。
Jarvis 使用經過訓練的模型構建而成，這些模型在十億多頁的文本、六萬小時的語音數據以及不同的語言、口音、環境和術語方面接受了數百萬個GPU小時的訓練，達到世界一 流的準確性。開發者首次可使用 NVIDIA TAO 框架，針對任何任務、任何行業和任何系統，對模型輕鬆進行訓練、適配和最佳化。
開發者可以從 NVIDIA 的 NGC™目錄中選擇 Jarvis NVIDIA 預訓練模型，使用遷移學習工具包並利用自己的數據對模型進行微調，最佳化此模型，使其在實時語音服務中實現最大吞吐量和最低延遲，然後只需幾行代碼輕鬆部署模型，無需深度 AI 專業知識。
