▲NVIDIA A100 GPU

特斯拉Tesla人工智慧部門資深總監Andrej Karpathy於CVPR 2021大會中，公布自家用於訓練《自動輔助駕駛》與《自動駕駛系統》的深度神經網路超級電腦。該叢集使用720個節點，每個節點搭載8個NVIDIA A100 Tensor核心GPU（一共有5,760個GPUs），以1.8 exaflops的運算效能引領業界。（我只想到這部超級電腦用來挖礦一定超強！或許Elon Musk早已這麼做，畢竟他對比特幣是如此感興趣…）

▲特斯拉所打造的超級電腦，主要功能不是用來處理大數據，而是用於影像分析，這是CPU與GPU最大的不同，Tesla超級電腦強大之處乃是在於GPU，這方面NVIDIA是專家，AMD緊追在後，所以在此就別提什麼11代Intel i7、i9…

▲這是一般企業所使用的A100 GPU人工智慧電腦，看似強大、複雜、昂貴，但是和Tesla的超級電腦比起來，真的是小吸血鬼見到大吸血鬼…

Karpathy表示：這是一台令人難以置信的超級電腦，針對其每秒浮點運算能力評估，相信這將是「全球排名第五」的超級電腦！

Elon Musk很喜歡搞「造神運動」，因此任何很酷很屌的設備或是企劃，Elon Musk都非常有興趣，此超級電腦只是眾神兵利器之中的一項！此外，為何Tesla要捨棄沿用已久的雷達偵測，改用三鏡頭開發全新的自動駕駛系統，顯然「影像分析」這一塊比較有未來，而且更具科技與宣傳價值！

特斯拉在其開發週期的核心，為汽車產業提供前所未有的運算水準，讓自動駕駛車的工程師們能夠以最先進的技術，高效率地完成傾注畢生心血的工作。

NVIDIA A100 GPU提供各種規模的加速能力，以支援全球運算效能最高的資料中心。採用NVIDIA Ampere架構的A100 GPU，其效能表現較前一代提升20倍，且可以分割多達七個GPU執行個體，並依照不斷變化的需求進行調整。

GPU叢集是特斯拉垂直整合自動駕駛的其中一部分，其透過超過百萬輛在路上行駛的汽車，來完善和建立新功能，並持續改進。是的，這部分還涉及雲端科技，還有之前曾被拿來討論的車主隱私問題…但不可否認，這是加速自動駕駛系統研發的關鍵之一。

▲礦工與線上遊戲玩家最愛的NVIDIA A100顯示卡

從實際行車影像 到資料中心分析

特斯拉的開發週期始於「行駛中的汽車」，以shadow mode「影子模式」運行的深度神經網路，在不實際控制車輛的情況下，會在汽車的行駛過程中，悄悄進行感知並做出預測。（簡單說，就是帶著不會開車的小朋友上路，去習慣開車的視野、車距控制、道路環境、行駛速度、交通號誌、危險因子…加速建立開車視覺邏輯）

此時這些預測內容與錯誤或誤判的情況會被記錄下來，接著，特斯拉的工程師使用這些執行個體，建立一個複雜且多元場景的訓練資料集，讓深度神經網路(DNN)更加完善。（就是模擬駕駛訓練，還原真實道路駕駛環境，讓自駕系統去開車，如果發生危險駕駛行為如車輛騎上安全島就必須修正與再訓練）

特斯拉收集了約一百萬個以36 FPS錄製的十秒鐘畫面，累計出高達1.5PB的資料量。接著，深度神經網路在資料中心反覆執行這些場景，直到未出現任何錯誤。最後，再將訓練完的深度學習神經網路送回車輛，並再次展開這個過程。

Karpathy 表示：這種以大量資料來訓練深度神經網路的方式，需要使用『龐大的運算量』，這也是為什麼特斯拉要使用高效能的NVIDIA A100 GPU來建立和部署當前的超級電腦。

持續反覆運算  從錯誤中成長

除了全面且完整的訓練外，特斯拉的超級電腦亦提供自動駕駛車的工程師們，擁有在開發過程中進行實驗和反覆運算所需的效能。

Karpathy 表示，特斯拉目前部署的深度神經網路結構，可以讓二十名工程師同時在一個網路上工作，並區隔不同的功能以進行同步開發。

接著，這些深度神經網路能以較過去快速反覆運算的速度還要更快的方式，運行訓練資料集。

Karpathy表示：電腦視覺是我們進行研發及實現自動輔助駕駛的基本要素。要讓它真正發揮作用，就得訓練一個大型的神經網路並進行大量實驗。這正是我們在運算領域投入許多心力和資金的原因。