Pipeline - a számítások rendszerezési módszere, amelyet a modern processzorokban és vezérlőkben használnak a teljesítményük növelése érdekében (az időegységenként végrehajtott utasítások számának növelése - a párhuzamosság művelete az utasítások szintjén ), számítógépek és egyéb fejlesztésekben használt technológia. digitális elektronikus eszközök.
Az ötlet több processzor utasítás párhuzamos végrehajtása. Az összetett processzorutasítások egyszerűbb lépések sorozataként jelennek meg. Ahelyett, hogy az utasításokat szekvenciálisan hajtanánk végre (megvárjuk az egyik utasítás végét, és továbblépünk a következőre), a következő utasítás az első utasítás végrehajtásának több szakaszán keresztül is végrehajtható. Ez lehetővé teszi, hogy a processzor vezérlőláncai a feldolgozás leglassabb szakaszának sebességével kapjanak utasításokat, ugyanakkor sokkal gyorsabban, mint az egyes utasítások exkluzív teljes feldolgozása az elejétől a végéig.
A jobb oldali ábra egy egyszerű ötszintű folyamatot mutat be RISC processzorokban . Itt:
A függőleges tengely szekvenciális független utasítások, a vízszintes tengely az idő. A zöld oszlop a processzor egy adott időpontban fennálló állapotát írja le, ebben a legkorábbi, felső utasítás már a regiszterbe írás állapotában van, a legújabb, alsó utasítás pedig csak olvasási folyamatban van.
Maga a "szállítószalag" kifejezés is a hasonló működési elvet alkalmazó iparból származik - az anyagot a szállítószalagon automatikusan a dolgozóhoz húzzák , aki elvégzi vele a szükséges műveleteket, az őt követő munkás pedig a kapott anyagon látja el feladatait. munkadarab, a következő valami mást csinál. Így a csővezeték végére a dolgozók lánca elvégzi az összes rábízott feladatot, fenntartva a magas termelési rátát. Például, ha a leglassabb művelet egy percet vesz igénybe, akkor minden alkatrész egy percen belül elhagyja a futószalagot. A processzorokban a dolgozók szerepét a processzor részét képező funkcionális modulok látják el.
Az időben átfedő utasítás-végrehajtás legegyszerűbb formáját Konrad Zuse valósította meg a Z3 - as gépben 1941-ben [2] .
A kis ETSVM " Ural " ( 1957 , Szovjetunió ) cső kétlépcsős szállítószalaggal rendelkezett. [3]
A modern nézetben többlépcsős szállítószalagokat Anatolij Ivanovics Kitov M -100-as gépében (1959, Szovjetunió) [ pontosít ] [4] , UNIVAC LARC (1960, USA), IBM Stretch (1961, USA) [5] valósították meg. , Atlas (1962, Nagy-Britannia) és BESM-6 (1967, Szovjetunió). Az IBM Stretch projektben a „fetch” ( eng. Fetch ), a „dekódolás” ( eng. Decode ) és a „execution” ( eng. Execute ) kifejezéseket javasolták, amelyek aztán általánosan használtak lettek.
Sok modern processzort órajelgenerátor vezérel. A belső processzor logikai elemekből és memóriacellákból – flip- flopokból – áll . Amikor megérkezik az órajelgenerátor jele, a flip-flopok felveszik új értéküket, és a „logikának” némi időbe telik, míg dekódolja az új értékeket. Aztán jön a következő jel az óragenerátortól, a flip-flopok új értékeket vesznek fel, és így tovább. Azáltal, hogy a logikai elemek sorozatait rövidebb sorozatokra bontjuk, és e rövid sorozatok közé flip-flopokat helyezünk el, csökken a logikának a jelek feldolgozásához szükséges idő. Ebben az esetben egy processzorciklus időtartama ennek megfelelően csökkenthető.
Például a RISC processzorok legegyszerűbb folyamata öt szakaszban ábrázolható, a szakaszok közötti triggerkészletekkel:
Az úgynevezett pipeline konfliktusok ( angol hazards ) megakadályozzák a következő utasítás végrehajtását az utasításfolyamból a neki szánt ciklusban. Az ütközések csökkentik a csővezeték teljesítményének tényleges felgyorsulását, és a csővezeték leállását okozhatják . Az ütközésmegoldás megköveteli, hogy a folyamatban lévő egyes utasítások végrehajtása folytatódjon, míg mások késve.
A konfliktusoknak három osztálya van [6] .
Strukturális konfliktusok az erőforrás-ütközések miatt keletkeznek, amikor a hardver nem tudja támogatni az egyidejűleg végrehajtott utasítások összes lehetséges kombinációját [7] . Ha az utasítások valamelyik kombinációja nem támogatható, akkor a processzor szerkezeti ütközésben van . Strukturális konfliktusok leggyakrabban akkor fordulnak elő, ha egy funkcionális blokk nincs teljesen folyamatban. Például egyes processzorok egyetlen memória-folyamatban osztoznak az adatok és az utasítások számára. Ennek eredményeként, ha egy utasítás adatmemória-hozzáférést tartalmaz, az ütközik egy későbbi utasítással. Az adatmemória elérésekor az ütközés feloldásához a folyamat egy ciklusra szünetel.
Az ilyen szerkezeti konfliktusok alternatívájaként a fejlesztő külön utasítás-memória hozzáférést biztosíthat a gyorsítótár különálló utasítás-gyorsítótárra és adatgyorsítótárra való felosztásával, vagy több, utasításpuffernek nevezett puffer használatával az utasítások tárolására, azonban ez nem a sorrendben történik. hogy elkerüljük a blokk költségének növekedését [8] .
Adatütközések akkor fordulnak elő, ha egy parancs függősége egy előző eredménytől jelenik meg, amikor a parancsokat egy folyamatban kombinálják. Ezek az ütközések akkor fordulnak elő, amikor a folyamat megváltoztatja az operandusok olvasási/írási hozzáférési sorrendjét, hogy az eltérjen a folyamatban lévő processzorban a szekvenciálisan végrehajtott utasítások sorrendjétől. Létezik egy adatkonfliktus-feloldási módszer: továbbítás ( angolul register forwarding ) (néha bypassnak is nevezik ) [9] . Sajnos nem minden lehetséges adatütközést lehet kezelni bypass segítségével, ebben az esetben a folyamat felfüggesztésre kerül az ütközés feloldásáig.
Vezérlési ütközések akkor fordulnak elő feltételes átvitelek és egyéb utasítások végrehajtásakor, amelyek megváltoztatják a programszámláló értékét . A vezérlés átviteli késleltetése által okozott csővezeték -leállások kezelésére számos mód létezik , de a mély csővezetékek általában agresszív eszközöket [10] használnak , például a vezérlésátvitel előrejelzését .
A csővezeték nélküli architektúra sokkal kevésbé hatékony a processzor funkcionális moduljainak kisebb terhelése miatt, miközben egy vagy kevés modul látja el funkcióját az utasításfeldolgozás során. A folyamat nem szünteti meg teljesen a processzorok moduljainak üresjárati idejét, és nem csökkenti az egyes utasítások végrehajtási idejét, hanem arra kényszeríti a processzormodulokat, hogy párhuzamosan dolgozzanak különböző utasításokon, ezáltal növelve az időegységenként végrehajtott utasítások számát. , és ezáltal a programok általános teljesítménye.
A processzorok belsejében csővezetékkel úgy vannak megtervezve, hogy az utasítások feldolgozása szakaszokra oszlik, feltételezve több utasítás egyidejű feldolgozását különböző szakaszokban. Az egyes szakaszok munkájának eredményei a memóriacellákon keresztül a következő szakaszba kerülnek, és így tovább az utasítás végrehajtásáig. A processzor ilyen felépítése, az egyes utasítások átlagos végrehajtási idejének enyhe növekedésével, ennek ellenére jelentős teljesítménynövekedést biztosít az utasítások végrehajtásának magas gyakorisága miatt.
Azonban nem minden utasítás független. A legegyszerűbb pipeline-ban, ahol az utasításfeldolgozást öt szakasz képviseli, a teljes betöltés biztosítása érdekében, miközben az első utasítás feldolgozása befejeződik, ideális esetben további négy egymást követő független utasítást kell párhuzamosan feldolgozni. Ha a szekvencia az éppen végrehajtott utasításoktól függő utasításokat tartalmaz, akkor a legegyszerűbb csővezeték vezérlési logikája felfüggeszti a folyamat több kezdeti szakaszát, ezáltal egy üres utasítást („buborékot”) helyez a folyamatba, néha ismételten, amíg a függőség fel nem oldódik. Számos trükk létezik, például a továbbítás, amelyek nagymértékben csökkentik a folyamat egy részének szüneteltetését ilyen esetekben. A processzor által egyidejűleg feldolgozott utasítások közötti függőség azonban nem teszi lehetővé a folyamatfolyamatok számának többszöröse teljesítménynövekedés elérését a csővezeték nélküli processzorokhoz képest.
A csővezeték nem minden esetben segít. Számos lehetséges hátránya van. Egy utasításfolyamat akkor nevezhető "teljesen csővezetékesnek", ha minden gépi ciklusban képes új utasítást fogadni . Ellenkező esetben késleltetéseket kell kényszeríteni a csővezetékbe, amelyek lelapítják a csővezetéket, miközben rontják a teljesítményét.
Előnyök:
Hibák:
A jobb oldalon egy általános csővezeték látható négy munkafázissal:
A felső szürke terület a végrehajtandó utasítások listája. Az alsó szürke terület a már végrehajtott utasítások listája. A középső fehér terület pedig maga a csővezeték.
A végrehajtás így megy:
| Ciklus | Akciók |
|---|---|
| 0 | Négy utasítás végrehajtása vár |
| egy |
|
| 2 |
|
| 3 |
|
| négy |
|
| 5 |
|
| 6 |
|
| 7 |
|
| nyolc |
|
| 9 | Minden utasítást betartottak |
A folyamatban lévő ütközések megoldása érdekében a processzor kénytelen késleltetni az utasítás feldolgozását azáltal, hogy „buborékot” hoz létre a folyamatban. A buboréknak az aktuátorokon való áthaladását nem kíséri hasznos munka. A második ciklusban a lila utasítás feldolgozása késik, és a harmadik ciklusban most egy buborék van a dekódolási szakaszban. A lila utasítás „után” minden utasítás egy ciklussal késik, míg a lila utasítás „előtti” utasítások végrehajtása tovább folytatódik.
Nyilvánvaló, hogy egy buborék jelenléte a folyamatban 8 ciklus teljes végrehajtási időt ad a fent bemutatott végrehajtási diagramban látható 7 ciklus helyett.
Az aktuátoroknak minden ciklusban végre kell hajtaniuk valamilyen műveletet. A buborékok a folyamat leállítása nélkül késleltetik az utasítások feldolgozását. Végrehajtásukkor nem történik hasznos munka a lekérés, a dekódolás, a végrehajtás és az eredmény írása szakaszában. Ezeket a NOP [11] [12] [13] assembler utasítással fejezhetjük ki .
Tegyük fel, hogy két szám összeadásának tipikus utasítása a СЛОЖИТЬ A, B, C. Ez az utasítás összeadja az értékeket az A és B memóriahelyeken, majd az eredményt a C memóriahelyre helyezi . Egy csővezetékes processzorban a vezérlő ezt a műveletet az űrlap szekvenciális feladataira bonthatja
LOAD A , R1 LOAD B , R2 ADD R1 , R2 , R3 ÍRJA R3 , C töltse be a következő utasítástAz R1 , R2 és R3 cellák processzorregiszterek . _ A memóriahelyeken tárolt értékeket, amelyeket A-nak és B-nek nevezünk , ezekbe a regiszterekbe töltjük (vagyis másoljuk), majd összegezzük, és az eredményt a C memóriahelyre írjuk .
Ebben a példában a folyamat három szintből áll - betöltés, végrehajtás és írás. Ezeket a lépéseket nyilvánvalóan szinteknek vagy folyamatlépéseknek nevezzük .
Egy csővezeték nélküli processzorban egyszerre csak egy lépés futhat, így az utasításnak teljesen be kell fejeződnie, mielőtt a következő utasítás elkezdődhet. Egy csővezetékes processzorban ezek a lépések egyidejűleg is végrehajthatók különböző utasításokra. Tehát amikor az első utasítás a végrehajtási lépésben van, a második utasítás a dekódolási szakaszban, a harmadik pedig az olvasási szakaszban lesz.
A pipeline nem csökkenti az utasítás végrehajtásának idejét, viszont növeli az egyidejűleg végrehajtható utasítások mennyiségét (számát), és ezzel csökkenti a végrehajtott utasítások közötti késést - növelve az ún. áteresztőképesség . Minél több réteg van egy folyamatban, annál több utasítás hajtható végre egyszerre, és annál kisebb a késleltetés a befejezett utasítások között. Minden ma gyártott mikroprocesszor legalább kétszintű csővezetéket használ.
Elméleti háromszintű csővezeték:
| Lépés | angol cím | Leírás |
|---|---|---|
| Minta | Fetch | Olvassa el az utasításokat a memóriából |
| Végrehajtás | Végrehajtás | Végezze el az utasítást |
| Felvétel | Írj vissza | Írja be az eredményt a memóriába és/vagy a regiszterekbe |
A végrehajtandó pszeudo-assembler listázás:
TERHELÉS 40, A ; 40-es számú betöltés A PÉLDA A , B ; másolat A-ból B -be ADD 20, B ; adjunk hozzá 20-at a B -hez WRITE B , 0x0300 ; írd a B-t a 0x0300 memóriahelyreA végrehajtás módja:
| Tapintat | Minta | Végrehajtás | Felvétel | Magyarázat |
|---|---|---|---|---|
| 1. intézkedés | LETÖLTÉS | A LOAD utasítás a memóriából kerül kiolvasásra. | ||
| 2. intézkedés | MÁSOLAT | LETÖLTÉS | A LOAD utasítás végrehajtásra kerül, a COPY utasítás beolvasásra kerül a memóriából. | |
| 3. intézkedés | FOLD | MÁSOLAT | LETÖLTÉS | A LOAD utasítás az eredmény írási lépésében van, ahol az eredménye (vagyis a 40 szám) az A regiszterbe kerül . Ezzel egy időben a COPY utasítás végrehajtásra kerül. Mivel az A regiszter tartalmát be kell másolnia a B regiszterbe , meg kell várnia a LOAD utasítás végét. |
| 4. intézkedés | REKORD | FOLD | MÁSOLAT | A WRITE utasítás betöltődik, míg a COPY utasítás elbúcsúzik tőlünk, és jelenleg az ADD utasítás számítása folyik. |
Stb. Vegye figyelembe, hogy az utasítások néha más utasítások eredményétől függenek (például a MÁSOLÁS utasításunktól). Ha egynél több utasítás hivatkozik egy adott helyre, akár kiolvasással (vagyis bemeneti operandusként használva), akár írással (vagyis kimeneti operandusként használva), az utasítások végrehajtása nem az eredeti programban eredetileg tervezett sorrend. , csővezeték ütközést okozhat , (amint fentebb említettük). Számos bevált technika létezik a konfliktusok megelőzésére, vagy a konfliktusok kijavítására.
Sok séma 7, 10 vagy akár 20 szintű csővezetékeket tartalmaz (mint például a Pentium 4 processzor ). A Prescott és Cedar Mill kódnevű késői Pentium 4 magok (és Pentium D származékaik) 31 szintű csővezetékkel rendelkeznek.
A Xelerator X10q processzor egy több mint ezer lépés hosszúságú csővezetékkel rendelkezik [14] . Az érme hátoldala ebben az esetben a teljes folyamat visszaállításának szükségessége abban az esetben, ha a programfolyamat megváltozik (például feltételes utasítással). Az elágazási előrejelzők megpróbálják megoldani ezt a problémát . Az elágazás előrejelzése önmagában csak ronthatja a helyzetet, ha az előrejelzés rosszul történik. Egyes alkalmazásokban, például a szuperszámítástechnikában , a programok kifejezetten úgy vannak megírva, hogy a lehető legkevesebb feltételes utasítást használjanak, így a nagyon hosszú folyamatok nagyon pozitív hatással lesznek a számítások általános sebességére, mivel a hosszú folyamatok célja a CPI ( ciklusok számának) csökkentése. az utasításhoz ).
Ha folyamatosan történik az elágazás, a gépi utasítások átrendezése jelentősen csökkenti a sebességveszteséget: a nagy valószínűséggel szükséges utasítások a csővezetékbe kerülnek. Ez a módszer hatékonyabb, mintha minden alkalommal teljesen vissza kellene állítania a csővezetéket. Az olyan programok, mint a gcov , felhasználhatók annak meghatározására, hogy az egyes ágak milyen gyakran futnak le a kódlefedettség - elemzés néven ismert technika segítségével . Bár a gyakorlatban egy ilyen elemzés az utolsó intézkedés az optimalizálásban.
A folyamatok nagy áteresztőképessége a teljesítmény csökkenéséhez vezet, ha a végrehajtható kód sok feltételes ugrást tartalmaz: a processzor nem tudja, honnan olvassa ki a következő utasítást, ezért meg kell várnia a feltételes ugrás utasítás végét, így egy üres csővezeték mögötte. Miután bejártuk az ágat, és kiderül, hogy a processzornak hova kell tovább ugrani, a következő utasításnak végig kell mennie a folyamaton, mielőtt az eredmény elérhető lesz, és a processzor újra "működne". Szélsőséges esetben a csővezetékes processzor teljesítménye elméletileg lecsökkenhet a pipeline processzorokéra, vagy még rosszabb is lehet annak következtében, hogy a folyamatnak csak egy szintje van foglalt, és a szintek között van egy kis késés.
Ha a processzor fel van szerelve csővezetékkel, akkor a memóriából kiolvasott kód nem fut azonnal, hanem egy sorba kerül ( prefetch input queue ). Ha a memóriában lévő kód megváltozik, a folyamatsorban lévő kód ugyanaz marad. Ezenkívül az utasítások gyorsítótárában lévő utasítások nem változnak . Figyelembe kell venni, hogy ez a probléma csak az önmódosító programokra és a futtatható fájlok csomagolóira jellemző.
| Digitális processzortechnológiák | |||||||||
|---|---|---|---|---|---|---|---|---|---|
| Építészet | |||||||||
| Instruction Set Architecture | |||||||||
| gépszó | |||||||||
| Párhuzamosság |
| ||||||||
| Megvalósítások | |||||||||
| Alkatrészek | |||||||||
| Energiagazdálkodás | |||||||||