Neurális processzor
A neurális processzor ( eng. Neural Processing Unit, NPU vagy AI accelerator eng. AI accelerator ) a mikroprocesszorok és társprocesszorok speciális osztálya (gyakran speciális integrált áramkör ), amelyet mesterséges neurális hálózati algoritmusok hardveres gyorsítására , számítógépes látásra , hangra használnak. felismerés , gépi tanulás és a mesterséges intelligencia egyéb módszerei [1] .
Leírás
A neurális processzorok a számítástechnikához kapcsolódnak, és a neurális hálózat emulációjának hardveres gyorsítására és a valós idejű digitális jelfeldolgozásra használják . A neuroprocesszor rendszerint regisztereket , push-pull memóriablokkokat , kapcsolót és szorzómátrixot , dekódereket , flip-flopokat és multiplexereket tartalmazó számítástechnikai eszközt tartalmaz [2] .
A jelenlegi szakaszban (2017-től) a neurális processzorok osztálya különböző tervezésű és specializációjú chipeket tartalmazhat , például:
- A neuromorf processzorok a Cornell Egyetemen kifejlesztett fürt aszinkron architektúrára épülnek (alapvetően különbözik az IT - iparban az elmúlt 70 évben használt Neumann és Harvard számítógépes architektúrától ). A hagyományos számítástechnikai architektúrákkal ellentétben a neuromorf processzorok logikája kezdetben nagymértékben specializálódott különféle típusú mesterséges neurális hálózatok létrehozására és fejlesztésére . Az eszköz közönséges tranzisztorokat használ , amelyekből a számítási magok épülnek (minden mag általában tartalmaz egy feladatütemezőt, saját SRAM memóriát és egy útválasztót a többi maggal való kommunikációhoz), mindegyik mag több száz munkáját emulálja. neuronok és így egy több ezer ilyen magot tartalmazó áramkör integrálása algoritmikusan több százezer neuronból álló tömböt és egy nagyságrenddel több szinapszist hozhat létre . Általában az ilyen processzorokat mély gépi tanulási algoritmusokhoz használják [3] .
- A tenzorprocesszorok - eszközök általában a központi processzor által vezérelt társprocesszorok , amelyek tenzorokkal működnek - olyan objektumok, amelyek leírják az egyik lineáris tér elemeinek átalakulását egy másikba, és többdimenziós számtömbként ábrázolhatók [4] , amelyeket feldolgoznak. ilyen szoftverkönyvtárak használatával , mint például a TensorFlow . Általában saját beépített RAM -mal vannak felszerelve, és alacsony bites (8 bites) számokkal működnek, és rendkívül specializálódtak olyan műveletek végrehajtására, mint a mátrixszorzás és a konvolúció , amelyeket a gépekhez használt konvolúciós neurális hálózatok emulálására használnak. tanulási problémák [5] .
- Gépi látásprocesszorok – Sok tekintetben hasonlóak a tenzorprocesszorokhoz, de rendkívül specializálódtak a gépi látási algoritmusok felgyorsítására , amelyek konvolúciós neurális hálózatot (CNN) és skálainvariáns jellemző transzformációs (SIFT) technikákat használnak. Nagy hangsúlyt fektetnek a több végrehajtási magon keresztüli adatáramlás párhuzamosítására , beleértve a scratchpad modell használatát. - mint a többmagos digitális jelfeldolgozóknál , és a tenzorprocesszorokhoz hasonlóan kis pontosságú számításokhoz használják, a képfeldolgozásban átvéve [6] .
Történelem
Alkalmazások
Példák
Meglévő termékek
- Gépi látás processzorok :
- Tensor processzorok :
- Neuromorf processzorok :
- Az IBM TrueNorth egy neuromorf processzor, amely a hagyományos aritmetika helyett a neuronok közötti interakció elvén alapul. Az impulzusfrekvencia a jel intenzitását jelenti. 2016-ban még nincs egyetértés a mesterséges intelligencia kutatói között, hogy ez a helyes út [18] , de néhány eredmény ígéretes, mivel a gépi látási feladatoknál jelentős energiamegtakarítást sikerült elérni [19] .
- Adapteva Vízkereszt - társprocesszornak készült, tartalmaz egy jegyzettömb memóriamodellt hálózatok egy chipen, megközelíti az információáramlási programozási modellt, aminek alkalmasnak kell lennie számos gépi tanulási problémára.
- ComBox x64 Movidius PCIe Blade kártya - PCI Express bővítőkártya maximális VPU-sűrűséggel Intel Movidius (MyriadX) ultraprecíz neurális hálózatok következtetéséhez az adatközpontban
- CambriconAz MLU100 egy 64 TFLOPS félprecíziós AI processzoros PCI Express bővítőkártya vagy 128 TOPS az INT8 számításokhoz [20] .
- Cerebras Wafer Scale Engine (WSE, CS-1) – A Cerebras kísérleti szuperprocesszora 1,2 billió tranzisztort tartalmaz 400 000 mesterséges intelligencia-optimalizált számítási magba és 18 GB helyileg elosztott SRAM -ba , amelyek mindegyikét egy mesh hálózat köti össze másodpercenként 100 petabit teljes teljesítménnyel. . A Cerebras chip valójában egy szuperszámítógép egy chipen, ahol az SLAC (Sparse Linear Algebra Cores) számítási magok teljesen programozhatók, és optimalizálhatók bármilyen neurális hálózattal [21] .
- KnuPath - KnuEdge processzor, amelyet a beszédfelismerő rendszerekben és a gépi tanulás egyéb területein való működésre terveztek, a LambdaFabric csatlakozótechnológiát használja, és akár 512 ezer processzor egyetlen rendszerbe való kombinálását is lehetővé teszi [22] .
GPU termékek
AMD Radeon Instinct egy speciális AMD GPGPU kártya , amelyet gyorsítóként kínálnak a mély tanulási feladatokhoz [28] [29] .
AI-gyorsítók belső társprocesszorok (AI hardveregységek) formájában
Kutatási és fejlesztési termékek
- Indian Institute of Technology Madrasimpulzusneuronokon alapuló gyorsítót fejleszt új RISC-V architektúrarendszerekhez, amelyek célja nagy adatok feldolgozására szerverrendszereken [34] .
- szemhéj- a konvolúciós neurális hálózatokra összpontosító fejlesztés notebook memóriát és a kristályon belüli hálózati architektúrát használva.
- Fujitsu DLUa Fujitsu többblokkos és többmagos koprocesszora, amely alacsony pontosságú számításokat használ, és mély gépi tanulásra tervezték [35] .
- Intel Loihiaz Intel neuromorf processzora , amely egyetlen chipben egyesíti a tanulást, a képzést és a döntéshozatalt, lehetővé téve, hogy a rendszer autonóm és "okos" legyen anélkül, hogy a felhőhöz csatlakozna . Például az MNIST (Mixed National Institute of Standards and Technology) adatbázissal való képzés során a Loihi processzor 1 milliószor jobb, mint a többi tipikus tüskés neurális hálózat [36] .
- Kalray – mutatta meg az MPPA[37] és a konvolúciós neurális hálózatok hatékonyságának növekedéséről számoltak be a GPU -khoz képest .
- A SpiNNaker egy masszívan párhuzamos számítási architektúra, amely a hagyományos ARM architektúra magjait ötvözi a nagy neurális hálózatok szimulációjára specializálódott fejlett hálózati keretrendszerrel.
- Nulladik NPU a Qualcomm fejlesztése, amelynek célja közvetlenül a beszéd- és képfelismerő képességek mobileszközökre való eljuttatása [38] .
- Az IVA TPU egy tenzorprocesszor , amelyet az orosz IVA Technologies cég fejlesztett ki [39] [40] . 2020 októberében megjelentek az IVA TPU neurális hálózati gyorsító architektúrájának tesztelésének eredményei [41] [42] , amelyet az MLPerf nemzetközi konzorcium végzett (2018-ban a Baidu , a Google , a Harvard Egyetem , a Stanford Egyetem , a Kaliforniai Egyetem, Berkeley). ) jelentek meg.
Jegyzetek
- ↑ 1 2 A gépi tanulás népszerűsége befolyásolja a processzorarchitektúra fejlődését . szerverhírek. (2017. augusztus 31.). Letöltve: 2017. november 17. Az eredetiből archiválva : 2017. november 17.. (határozatlan)
- ↑ Neuroprocesszor, telítettségi függvények számítására szolgáló eszköz, számítástechnikai eszköz és összeadó . FindPatent.RU. Letöltve: 2017. november 17. Az eredetiből archiválva : 2017. december 1.. (Orosz)
- ↑ Az IBM 1 millió dollárért szállította az LLNL-t TrueNorth neuroprocesszorokkal . Computerra . (2016. március 31.). Letöltve: 2017. november 17. Az eredetiből archiválva : 2017. november 19. (Orosz)
- ↑ Az Intel tenzoros processzorokat fejleszt az AI-hoz . PC Week /RE. (2016. november 22.). Letöltve: 2017. november 17. Az eredetiből archiválva : 2017. december 1.. (Orosz)
- ↑ 1 2 Részletek a Google TPU Tensor társprocesszorról . szerverhírek. (2017. augusztus 25.). Letöltve: 2017. november 17. Az eredetiből archiválva : 2017. november 17.. (Orosz)
- ↑ 1 2 Az Intel bemutatja a Movidius Myriad X Vision processzort . 3DNews . (2017. augusztus 29.). Letöltve: 2017. november 17. Az eredetiből archiválva : 2017. november 17.. (Orosz)
- ↑ Nvidia Drive PX: Skálázható mesterséges intelligencia szuperszámítógép az autonóm vezetéshez . Nvidia . Letöltve: 2017. november 17. Az eredetiből archiválva : 2016. július 16. (határozatlan) (Angol)
- ↑ Az NVIDIA bemutatja a Drive PX Pegasus következő generációs robotpilóta platformját . 3DNews (2017. október 10.). Letöltve: 2017. november 17. Az eredetiből archiválva : 2017. november 17.. (határozatlan) (Orosz)
- ↑ A Movidius hajtja a világ legintelligensebb drónját . Hozzáférés dátuma: 2017. november 15. Az eredetiből archiválva : 2016. augusztus 9.. (határozatlan) (Angol)
- ↑ A Qualcomm Research szerverosztályú gépi tanulást kínál a mindennapi eszközökön . Letöltve: 2017. november 15. Az eredetiből archiválva : 2016. augusztus 8.. (határozatlan) (Angol)
- ↑ Gyomirtó gépi látórendszer tervezése (elérhetetlen link) . Letöltve: 2017. november 15. Az eredetiből archiválva : 2010. június 23. (határozatlan) (Angol)
- ↑ Az EyeQ evolúciója . Letöltve: 2017. november 18. Az eredetiből archiválva : 2017. december 7. (határozatlan)
- ↑ A Huawei megalkotta a világ első mesterséges intelligencia processzorait, az Elbrus fejlesztőinek , a CNewsnak az útját követve (2018. október 23.). Archiválva az eredetiből 2018. október 23-án. Letöltve: 2018. október 24.
- ↑ Az év vége előtt az Intel kiadja "az iparág első neurális hálózatok feldolgozására szolgáló chipjét" - az Intel Nervana Neural Network Processort . iXBT.com (2017. október 18.). Letöltve: 2017. november 21. Az eredetiből archiválva : 2017. november 15. (Orosz)
- ↑ Az Intel bemutatja a célzott neurális hálózati processzort a mély tanuláshoz , Tech Report (2017. október 17.). Archiválva az eredetiből 2017. november 24-én. Letöltve: 2017. november 17.
- ↑ Az Intel Nervana neurális hálózati processzorai (NNP) újradefiniálják az AI-szilíciumot (2017. október 17.). Archiválva az eredetiből 2017. október 20-án. Letöltve: 2017. november 17.
- ↑ A Qualcomm bemutatta a Cloud AI 100 mesterséges intelligenciagyorsítót , a Servernews.ru -t (2019. április 10.). Archiválva az eredetiből: 2019. április 10. Letöltve: 2019. április 16.
- ↑ Jan LeKun az IBM TrueNorth-on . Letöltve: 2017. november 15. Az eredetiből archiválva : 2015. július 5.. (határozatlan) (Angol)
- ↑ Az IBM a neuromorf számítástechnika új korszakát nyitja meg . - "A TrueNorth hihetetlenül hatékony: a chip mindössze 72 milliwattot fogyaszt maximális terhelés mellett, ami körülbelül 400 milliárd szinaptikus műveletnek felel meg másodpercenként wattonként - vagyis körülbelül 176 000-szer hatékonyabb, mint egy modern CPU, amely ugyanazt az agyhoz hasonló terhelést futtatja, vagy 769 alkalommal hatékonyabb, mint a többi korszerű neuromorf megközelítés." Letöltve: 2017. november 15. Az eredetiből archiválva : 2016. július 9.. (határozatlan) (Angol)
- ↑ A kínai Cambricon cég AI chipeket fejleszt adatközpontok számára. (nem elérhető link) . Letöltve: 2018. június 15. Az eredetiből archiválva : 2018. június 16. (határozatlan)
- ↑ A Cerebras egy hihetetlen méretű és teljesítményű AI processzor . 3DNews . (2019. augusztus 20.). Letöltve: 2019. augusztus 21. Az eredetiből archiválva : 2019. augusztus 20. (határozatlan)
- ↑ A KnuPath egy katonai minőségű neuromorf processzor . 3DNews . (2016. június 9.). Letöltve: 2017. november 17. Az eredetiből archiválva : 2017. november 17.. (határozatlan)
- ↑ Computex: Az Nvidia vezetője nem lát veszélyt a Google tenzorprocesszorában . " Nyílt rendszerek ". (2016. június 1.). Letöltve: 2017. november 17. Az eredetiből archiválva : 2017. december 1.. (határozatlan)
- ↑ Mit hoz az új NVIDIA Turing architektúra a piacon? . 3DNews. (2018.08.14.). Letöltve: 2018. augusztus 17. Az eredetiből archiválva : 2019. március 23. (határozatlan)
- ↑ Az NVIDIA Volta korszaka a Tesla V100 gyorsítóval kezdődött . szerverhírek. (2017. május 11.). Letöltve: 2017. november 17. Az eredetiből archiválva : 2017. december 1.. (határozatlan)
- ↑ GTC Europe 2017: Az NVIDIA TensorRT 3 könyvtár 18-szorosára gyorsítja a neurális hálózatokat egy univerzális megoldáshoz képest . szerverhírek. (2017. október 12.). Letöltve: 2017. november 17. Az eredetiből archiválva : 2017. november 17.. (határozatlan)
- ↑ Új orosz szuperszámítógép, amelyet neurális hálózatok képzésére terveztek . szerverhírek. (2017. szeptember 1.). Letöltve: 2017. november 17. Az eredetiből archiválva : 2017. november 17.. (határozatlan)
- ↑ Az AMD bejelentette a Radeon Instinct: GPU Accelerators for Deep Learning-et, 2017-ben érkezik , az Anandtech (2016. december 12.). Az eredetiből archiválva: 2016. december 12. Letöltve: 2016. december 12.
- ↑ A Radeon Instinct Machine Learning GPU-k közé tartozik a Vega, a Preview Performance és a PC Per (2016. december 12.). Archiválva az eredetiből 2017. augusztus 11-én. Letöltve: 2016. december 12.
- ↑ A Huawei a 2017-es IFA kiállításon bemutatja a mobil mesterséges intelligencia jövőjét . Letöltve: 2018. június 15. Az eredetiből archiválva : 2018. június 16. (határozatlan)
- ↑ CEVA NeuPro. AI-processzorok családja a mély tanuláshoz az élen. . Letöltve: 2018. június 15. Az eredetiből archiválva : 2018. június 16. (határozatlan)
- ↑ Az iPhone X új neurális motorja az Apple mesterséges intelligenciával kapcsolatos megközelítését példázza , The Verge (2017. szeptember 13.). Az eredetiből archiválva: 2017. szeptember 15. Letöltve: 2017. november 17.
- ↑ Az Imagination bemutatja az új PowerVR 2NX AI-gyorsítókat , 3DNews (2018. június 8.). Archiválva az eredetiből 2018. június 16-án. Letöltve: 2018. június 15.
- ↑ India előkészíti a RISC-V processzorokat – a Shakti a szervereket, az IoT-t, az elemzést (lefelé irányuló kapcsolat) célozza meg . - "A Shakti projekt immár legalább hat mikroprocesszor-tervet, valamint a kapcsolódó szöveteket és egy gyorsítóchipet tartalmaz." Letöltve: 2017. november 15. Az eredetiből archiválva : 2017. július 3. (határozatlan) (Angol)
- ↑ A Fujitsu egyedi processzort fejleszt az AI-rendszerekhez . szerverhírek. (2017. július 24.). Letöltve: 2017. november 17. Az eredetiből archiválva : 2017. november 17.. (határozatlan)
- ↑ Az Intel bemutatja a Loihi neuromorf processzort . 3DNews . (2017. szeptember 26.). Letöltve: 2017. november 17. Az eredetiből archiválva : 2017. november 17.. (határozatlan)
- ↑ Kalray MPPA . Letöltve: 2017. november 15. Az eredetiből archiválva : 2016. április 23.. (határozatlan) (Angol)
- ↑ A Qualcomm megmutatta a Zeroth neuroprocesszort . Logmag.net (2013. október 16.). Letöltve: 2017. november 17. Az eredetiből archiválva : 2017. november 17.. (határozatlan)
- ↑ beágyazott világ. IVA TPU – DNN következtetésgyorsító // NeuroMatrix Architecture for Neural Network Applications | beágyazott világ . www.embedded-world.de _ Letöltve: 2020. november 30. Az eredetiből archiválva : 2021. január 21.
- ↑ Eredeti processzorarchitektúrát hoztak létre Oroszországban, amely képes kiszorítani az NVidiát . cnews.ru . Letöltve: 2020. november 30. Az eredetiből archiválva : 2020. november 25. (határozatlan)
- ↑ Következtetési eredmények . MLPerf . Letöltve: 2020. november 30. Az eredetiből archiválva : 2020. november 28..
- ↑ Sally Ward-Foxton. A gépi tanulási referenciaérték kibővíti az élvonalbeli, adatközponti munkaterhelések támogatását ? . Embedded.com (2020. november 3.). Letöltve: 2020. november 30. Az eredetiből archiválva : 2020. november 25. (határozatlan)
Linkek