Kommunikáció matematikai elmélete (cikk)

Az " A  Mathematical Theory of Communication " egy cikk, amelyet Claude Shannon 1948-ban tett közzé a Bell System amerikai telefontársaság [1] absztrakt folyóiratában, és tette világhírűvé. Számos innovatív és gyümölcsöző ötletet tartalmaz, ez a munka számos tudományos vizsgálatot indított el világszerte, amelyek a mai napig tartanak, megalapozva az információfeldolgozás, -továbbítás és -tárolás módszereinek kidolgozását.

A szerzőről

Claude Elwood Shannon amerikai matematikus és mérnök, az  információelmélet megalapítója , számos kibernetikáról szóló könyv és cikk szerzője .

Történelem

Maga az információelmélet fogalma már jóval a cikk megjelenése előtt megjelent. Sok szerző új elmélet alapjait fektette le munkájával. Például a Bell System ugyanabban a folyóiratában 1924-ben volt egy Nyquist -kiadvány , amely a cikk alapjául szolgáló rendelkezéseket tartalmazta [2] .

Shannon nem hitte, hogy felfedezést tett, amikor közzétette. Erősen támaszkodott elődei tapasztalataira; a cikk legelején azt írta, hogy „Ennek az elméletnek néhány fő pontja Nyquist és Hartley fontos munkáiban található . Ebben a cikkben kibővítjük az elméletet számos új tényezővel, különösen a zaj befolyásával a csatornában.”

Tartalom

Shannon általánosította Hartley elképzeléseit a kommunikációs csatornán továbbított üzenetekben található "információ" fogalmával. Magát a fogalmat nem fejti ki, csak megemlíti, hogy az üzeneteknek lehet valamilyen „jelentése”, vagyis olyan rendszerre utalhatnak, amelynek megvan a maga fizikai vagy spekulatív lényege. Elkezdte fontolóra venni az üzenetek folyamatos halmazait is, nem csak a végeseket. Munkássága lehetővé tette az információelmélet főbb problémáinak megoldását: a kódolást, az üzenettovábbítást és a redundancia kiküszöbölését; zajtűrést is vizsgálták .

A könyv bemutatja a logaritmikus függvényt, mint az információ mértékét, és bemutatja annak kényelmét:

1. Gyakorlatilag kényelmes. A mérnöki alkalmazásokban fontos paraméterek – mint például az idő, a sávszélesség, a kapcsolók száma és így tovább – általában lineárisan változnak, ahogy a lehetőségek száma logaritmikusan változik. Például egy kapcsoló hozzáadása megkétszerezi a csoport lehetséges állapotainak számát, eggyel növeli a 2-es bázis logaritmusát, az idő megkétszerezése az üzenetek számának négyzetes növekedését, vagy a logaritmusuk megkétszerezését eredményezi, és így tovább.
2. Ez közel áll az intuitív elképzelésünkhöz egy ilyen intézkedésről. Ez szorosan összefügg az előző ponttal, mivel a mennyiségeket intuitív módon mérjük úgy, hogy lineárisan összehasonlítjuk őket standardokkal. Tehát számunkra úgy tűnik, hogy két lyukkártyán kétszer annyi információt lehet elhelyezni, és kétszer annyi információt lehet továbbítani két azonos csatornán.
3. Matematikailag kényelmes. A határig sok passzus logaritmusban egyszerű, míg az opciók számát tekintve meglehetősen nem triviális.C. Shannon [3]

Bemutatjuk az általánosított kommunikációs rendszer fogalmát is, amely egy információforrásból, egy adóból, egy csatornából, egy vevőből és egy célállomásból áll. Shannon minden rendszert diszkrétre, folytonosra és vegyesre oszt fel.

Befolyás a tudomány különböző területeire

[2] Jóval megjelenése után, a közhiedelemmel ellentétben Shannon munkássága szinte ismeretlen volt. Íme, amit például A.N. Kolmogorov akadémikus ír erről :

— Emlékszem, még az amszterdami Nemzetközi Matematikus Kongresszuson (1954) amerikai kollégáim, a valószínűségszámítással foglalkozó szakemberek kissé eltúlzottnak tartották érdeklődésemet Shannon munkássága iránt, hiszen az inkább technika, mint matematika.A. Kolmogorov [4]

De fokozatosan a különböző tudományterületek tudósai egyre nagyobb érdeklődést mutattak a cikk iránt. Ma már nehéz megnevezni az emberi tudás egy olyan területét, ahol nem próbálnák meg ilyen vagy olyan módon alkalmazni ezt a csodálatos formulát. A publikációk száma nőtt, ami nem tudott mást, mint maga Shannon választ kiváltani, mivel ez az intézkedés kezdetben csak a kommunikációs technológia tisztán alkalmazott problémáira irányult. 1956-ban megjelent egy rövid cikke "Bandwagon", amelyben hevesen sürgette, hogy szerényebben írjanak az információelméletről, ne tekintsék ezt az elméletet mindenhatónak és egyetemesnek, ne vigyék túlzásba jelentőségét:

Nagyon ritkán lehetséges a természet több titkának egyidejű megnyitása ugyanazzal a kulccsal. Kissé mesterséges jóllétünk építménye túlságosan is könnyen összeomolhat, amint egy nap kiderül, hogy néhány varázsszó, például „információ”, „entrópia”, „redundancia” segítségével lehetetlen. hogy megoldja az összes megoldatlan problémát.C. Shannon [5]

Ennek eredményeként két fogalom jelent meg - "információelmélet" és "információátviteli elmélet". Az első olyan alapvető fogalmakat definiál, mint "az információ mennyisége", és a tudomány különböző ágaiban sokféle probléma megoldására használják. A második - már nevében is tükrözi elképzeléseinek megfelelő terjedelmét [6] .

Az információátvitel elméletének fejlődésével szembesültek azzal a problémával, hogy megbízható kódolási és dekódolási módszereket találjanak. Ez az információátvitel elméletének egy új nagy szakaszának - a kódoláselméletnek a megjelenéséhez vezetett. Tudjuk, hogy először is az a fontos következtetés, amely Shannon információelméletéből az volt, hogy túl jó csatornákat építeni pazarló; gazdaságosabb a kódolás használata. Másodszor, mivel Shannon fő kódolási tétele nem konstruktív, azaz csak egy optimális hibajavító kód létezését bizonyítja, amely maximális jelilleszkedést biztosít a csatornával, csak a hibajavító megalkotásának alapvető lehetőségét támasztja alá. kódok, amelyek ideális átvitelt biztosítanak, de nem jelzik felépítésük módját. Ennek eredményeként Shannon elmélete mozgósította a tudósok erőfeszítéseit konkrét kódok kidolgozására. [7]

Az 1950-es években sok erőfeszítést tettek arra, hogy kifejezetten kódosztályokat hozzanak létre az ígért tetszőlegesen kicsi hibavalószínűség elérése érdekében, de az eredmények csekélyek voltak. A következő évtizedben kevesebb figyelmet fordítottak erre a lenyűgöző problémára; ehelyett a kódkutatók két fő fronton indítottak tartós támadást:

• az első irány tisztán algebrai jellegű volt, és főként blokk ( lineáris ) kódoknak számított.
• A kódolással kapcsolatos kutatások második vonala meglehetősen valószínűségi jellegű volt. Ezekhez a tanulmányokhoz kapcsolódtak a kódolás és a dekódolás valószínűségi szempontú megértésére irányuló kísérletek, és ezek a kísérletek a szekvenciális dekódolás megjelenéséhez vezettek.

A szekvenciális dekódolás során bevezetik a végtelen hosszúságú nem blokkkódok osztályát, amelyek egy fával leírhatók és fakereső algoritmusok segítségével dekódolhatók. A leghasznosabb fakódok a konvolúciós kódokként ismert finomszerkezeti kódok [8] .

A hetvenes években a felmerülő technikai nehézségek miatt az algoritmusok elmélete is aktív fejlődésnek indult. Szükség volt a továbbítandó adatok tömörítésére szolgáló algoritmusok kidolgozására. Ezt követően algoritmusokat kezdtek fejleszteni az információs bankokban lévő adatok tömörítésére, a képek tömörítésére a koaxiális kábelen keresztüli továbbításhoz és mások.

Jelen idő

Az információátvitel elmélete ma  egy összetett, főleg matematikai elmélet, amely magában foglalja az információ kinyerésére, továbbítására, tárolására és osztályozására szolgáló módszerek leírását és értékelését . Kódoláselméletből, algoritmusokból és sok másból áll.

• Nagy előrelépés történt a kódoláselmélet fejlesztésében. Sokféle hibajavító kód jelent meg, amelyek egymástól bázisban, távolságban, redundanciában, szerkezetben, funkcionalitásban, energiahatékonyságban, korrelációs tulajdonságokban, kódoló és dekódoló algoritmusokban, valamint a frekvenciaspektrum alakjában különböznek egymástól (lásd Zajjavító kódolás ) .
• Napjainkban az algoritmusok elméletén alapuló gyakorlati ajánlások nagy sikerrel járnak szoftverrendszerek tervezésében és fejlesztésében [9] .

Maga a cikk továbbra is releváns marad, mivel számos mű számára alapvető.

Irodalom

• Eredeti cikk: Shannon CE A Mathematical Theory of Communication  (angol)  // Bell System Technical Journal  : folyóirat. - 1948. - 1. évf. 27. - P. 379-423.
• Orosz fordítás: Shannon K. E. A kommunikáció matematikai elmélete // Művek az információelméletről és a kibernetikáról / Per. S. Karpova. — M .: IIL , 1963. — 830 p.

Linkek

1. ↑ Shannon, 1948 .
2. ↑ 1 2 Nyquist, H. A távíró sebességét befolyásoló bizonyos tényezők  // Bell System Technical  Journal : folyóirat. - 1924. - Kt. 3 . — P. 22:324-346 .
3. ↑ Shannon, 1963 , p. 243-322.
4. ↑ Shannon, 1963 , p. 5.
5. ↑ Shannon K. E. " Bandwagon archiválva : 2012. április 15., a Wayback Machine "
6. ↑ A fizika-matematika doktora R. L. Dobrusin, Ph.D. n. B. S. Tsybakov " Az információátvitel elmélete " Archív példány 2010. február 15-én a Wayback Machine -nél , a "Szovjetunió Tudományos Akadémia Értesítője" gyűjteményben. - 1976, p. 76-81
7. ↑ Kuzmin I. V. " Az információelmélet és a kódolás alapjai  (hozzáférhetetlen link) ", 1986 - 240 p.
8. ↑ Kinegin S. V. " A hibákat vezérlő kódolás története A Wayback Machine 2012. január 13-i archivált példánya "
9. ↑ Eremeev F. " Algoritmusok elmélete archiválva 2012. november 21-én a Wayback Machine -nél "

Szótárak és enciklopédiák	nagy kínai Britannica (online)