PyTorch

PyTorch
Típusú Gépi és mély tanulási könyvtár
Szerző Adam Paszke, Sam Gross, Soumith Chintala, Gregory Chanan
Beírva Python , C++ , CUDA
Operációs rendszer Linux , macOS , Windows
Első kiadás 2016. október
legújabb verzió
Engedély BSD
Weboldal pytorch.org
 Médiafájlok a Wikimedia Commons oldalon

A PyTorch egy nyílt forráskódú gépi tanulási  keretrendszer a Python számára, amely a Torch [2] [3] [4] tetejére épült . Különféle feladatokhoz használható: számítógépes látás , természetes nyelvi feldolgozás . [5] Elsősorban a Facebook mesterséges intelligencia csoport fejleszti [6] [7] [8] . Emellett egy ökoszisztéma [9] is épül e keretrendszer köré , amely külső csapatok által kifejlesztett különféle könyvtárakból áll: PyTorch Lightning és Fast.ai [10], amelyek leegyszerűsítik a betanítási modellek folyamatát, Pyro , valószínűségi programozási modul , Ubertől [11] , Flair [12] , természetes nyelvi feldolgozáshoz és Catalyst [13] , DL és RL modellek betanításához .

A PyTorch két fő magas szintű modellt kínál: [14]

PyTorch tenzorok

A tenzorok semmi különös, csak többdimenziós tömbök. A PyTorch tenzorok (Tensorok) hasonlóak a NumPy csomag tömbjeihez , de videogyorsítókkal is feldolgozhatók. A PyTorch különféle típusú tenzorokat támogat. [tizenöt]

Modulok

Autograd modul

A PyTorch automatikus megkülönböztetési módszert használ. Az előre irányuló számításokat rögzíti, majd lejátssza a színátmenetek kiszámításához ( visszaterjesztés ). Ez a módszer különösen hasznos neurális hálózatok építésénél, mivel lehetővé teszi a differenciális paraméterkorrekciók kiszámítását az előrehaladással egyidejűleg.

Optim modul

A torch.optim egy olyan modul, amely számos optimalizálási algoritmust valósít meg, amelyeket neurális hálózatok felépítésében használnak. A leggyakrabban használt módszerek többsége megvalósult.

nn modul

A PyTorch autograd modul megkönnyíti a számítási grafikonok meghatározását és a gradiensekkel való munkát, de túl alacsony szint lehet bonyolult neurális hálózatok meghatározásához. Az ilyen alkalmazások magasabb szintű absztrakciója az nn modul.

Példa

A következő kód egy egyszerű példán mutatja be a könyvtár működését: [16] [17]

import fáklya dtype = fáklya . úszó eszköz = fáklya . device ( "cpu" ) # Ez végrehajtja az összes számítást a CPU-n # device = torch.device("cuda:0") # Ez végrehajtja az összes számítást a GPU-n # Tenzor létrehozása és a tenzor kitöltése véletlen számokkal a = fáklya . randn ( 2 , 3 , eszköz = eszköz , dtype = dtype ) print ( a ) # Az A tenzor kimenete # Kimenet: tenzor([[-1,1884, 0,8498, -1,7129], # [-0,8816, 0,1944, 0,5847]]) # Tenzor létrehozása és a tenzor kitöltése véletlen számokkal b = fáklya . randn ( 2 , 3 , eszköz = eszköz , dtype = dtype ) print ( b ) # A B tenzor kimenete # Kimenet: tenzor([[ 0,7178, -0,8453, -1,3403], # [ 1,3262, 1,1512, -1,7070]]) print ( a * b ) # A két tenzor szorzásának kimenete # Kimenet: tenzor([[-0,8530, -0,7183, 2,58], # [-1,1692, 0,2238, -0,9981]]) print ( a . sum ()) # Az A tenzor összes elemének összege # Kimenet: tenzor(-2,1540) print ( a [ 1 , 2 ] ) # Az elem kimenete a második sor harmadik oszlopában # Kimenet: tenzor(0,5847) print ( a . min ()) # Az A tenzorban lévő minimális érték kiadása # Kimenet: tenzor (-1,7129)

Lásd még

Jegyzetek

  1. https://github.com/pytorch/pytorch/releases/tag/v1.13.0
  2. Yegulap, Serdar . A Facebook elhozza a GPU-val hajtott gépi tanulást a Python , InfoWorld számára  (2017. január 19.). Archiválva az eredetiből 2018. július 12-én. Letöltve: 2017. december 11.
  3. Lorica, Ben Miért kezdik az AI és a gépi tanulás kutatói elfogadni a PyTorch-ot . O'Reilly Media (2017. augusztus 3.). Letöltve: 2017. december 11. Az eredetiből archiválva : 2019. május 17.
  4. Ketkar, Nikhil. Mély tanulás Python segítségével  . - Apress, Berkeley, CA, 2017. - P. 195-208. — ISBN 9781484227657 . - doi : 10.1007/978-1-4842-2766-4_12 .
  5. ↑ Természetes nyelvi feldolgozás (NLP) PyTorch segítségével - NLP PyTorch dokumentációval  . dl4nlp.info . Letöltve: 2017. december 18. Az eredetiből archiválva : 2019. június 21.
  6. Patel, Mo. Amikor két trend összeolvad: PyTorch és ajánlórendszerek  (angol) , O'Reilly Media  (2017. december 7.). Az eredetiből archiválva : 2019. március 30. Letöltve: 2018. szeptember 30.
  7. Mannes, John . A Facebook és a Microsoft együttműködik a PyTorch-ről  Caffe2 -re , TechCrunch -ra való átalakítás egyszerűsítésére . Archiválva az eredetiből: 2020. július 6. Letöltve : 2018. szeptember 30.  „A FAIR megszokta, hogy a PyTorch-al dolgozik – egy mély tanulási keretrendszerrel, amelyet a legkorszerűbb kutatási eredmények elérésére optimalizáltak, az erőforrások korlátaitól függetlenül. Sajnos a való világban legtöbbünket korlátozzák okostelefonjaink és számítógépeink számítási képességei."
  8. Az Arakelyan, Sophia Tech óriásai nyílt forráskódú keretrendszereket használnak, hogy uralják az AI-  közösséget . Venture Beat (2017. november 29.). Letöltve: 2017. december 18. Az eredetiből archiválva : 2019. március 30.
  9. PyTorch  (angol)  (lefelé irányuló kapcsolat) . pytorch.org. Letöltve: 2019. június 16. Az eredetiből archiválva : 2019. augusztus 31.
  10. fast.ai A neurális hálók újra elhidegülnek . www.fast.ai. Letöltve: 2019. június 16. Az eredetiből archiválva : 2019. június 16.
  11. Uber AI Labs Open Sources Pyro, a Deep Probabilistic Programming Language  , Uber Engineering Blog (  2017. november 3.). Archiválva az eredetiből 2017. december 25-én. Letöltve: 2018. szeptember 30.
  12. Egy nagyon egyszerű keretrendszer a legmodernebb természetes nyelvi feldolgozáshoz (NLP): zalandoresearch/flair . — 2019-06-16. Archiválva az eredetiből 2019. június 18-án.
  13. Reprodukálható és gyors DL & RL. Hozzájáruljon a katalizátor-csapat/katalizátor fejlesztéséhez fiók létrehozásával a GitHubon . — 2019-11-25. Az eredetiből archiválva : 2019. december 22.
  14. PyTorch - Névjegy (lefelé irányuló kapcsolat) . pytorch.org . Letöltve: 2018. június 11. Az eredetiből archiválva : 2018. június 15. 
  15. Bevezetés a PyTorch-ba – Egy egyszerű, de hatékony mélytanulási könyvtár . analyticsvidhya.com . Letöltve: 2018. június 11. Az eredetiből archiválva : 2019. október 22.
  16. Jeremy Howard, Sylvain Gugger. Deep Learning for Coders a fastai és a PyTorch segítségével . - O'Reilly, 2020. - ISBN 978-1492045526 . Archiválva : 2021. október 8. a Wayback Machine -nél
  17. A Caffe2 egyesül a PyTorch -szal (2018. április 2.). Letöltve: 2021. október 8. Az eredetiből archiválva : 2019. március 30.

Irodalom

  • McMahan B., Rao D. Bevezetés a PyTorch-ba: Deep Learning in Natural Language Processing = Natural Language Processing with PyTorch. Építsen intelligens nyelvi alkalmazásokat a Deep Learning segítségével. - Péter , 2020. - 256 p. — ISBN 978-5-4461-1241-8 .

Linkek