Konvex programozás

Az oldal jelenlegi verzióját még nem ellenőrizték tapasztalt közreműködők, és jelentősen eltérhet a 2021. november 21-én felülvizsgált verziótól ; az ellenőrzések 2 szerkesztést igényelnek .

A konvex programozás a matematikai optimalizálás egy részterülete , amely a konvex függvények konvex halmazokon való minimalizálásának problémáját vizsgálja .

A konvex programozás számos területen alkalmazható, mint például az automatikus vezérlőrendszerek , jelértékelés és -feldolgozás , kommunikáció és hálózatok, áramkörök [5] , adatelemzés és modellezés, pénzügy , statisztika ( optimális kísérlettervezés ) [6] és szerkezeti optimalizálás [7] . A számítástechnika és az optimalizáló algoritmusok fejlődése a konvex programozást majdnem olyan egyszerűvé tette, mint a lineáris programozást [8] .

Definíció

A konvex programozási probléma olyan optimalizálási probléma , amelyben a célfüggvény konvex függvény , a megvalósítható megoldások tartománya pedig konvex . Egy függvény , amely valamilyen részhalmazt képez le , konvex, ha a tartomány konvex mind az összesre, mind az összesre a tartományában . Egy halmaz akkor konvex, ha minden elemére nézve bármelyik is a halmazhoz tartozik. $f$ $\mathbb {R} ^{n}$ ${\displaystyle \mathbb {R} \cup \{\pm \infty \))$ $\theta \in [0,1]$ $x,y$ $f(\theta x+(1-\theta )y)\leqslant \theta f(x)+(1-\theta )f(y)$ $x,y$ $\theta \in [0,1]$ $\theta x+(1-\theta )y$

Különösen a konvex programozás problémája az, hogy megtaláljunk néhányat , amelyen $\mathbf {x^{\ast }} \in C$

{\displaystyle \inf\{f(\mathbf {x} ):\mathbf {x} \in C\))

Ha létezik ilyen pont, akkor optimális pontnak nevezzük . Ha nem korlátozza, vagy az infimumot nem éri el, az optimalizálás határtalannak mondható . Ha üres, akkor elfogadhatatlan feladatról beszélünk [11] . $f$ $C$ $f$ $C$ $C$

Egy konvex programozási feladatról azt mondjuk, hogy szabványos formában van, ha úgy van megírva

Minimalizálja

f(\mathbf {x} )

Feltételek mellett

{\begin{aligned}&&g_{i}(\mathbf {x} )\leqslant 0,\quad i=1,\dots ,m\\&&h_{i}(\mathbf {x} )=0, \quad i=1,\dots ,p,\end{igazított}}

ahol az optimalizálási változó, a függvények konvexek és a függvények affinok [11] . $x \in \mathbb{R}^n$ ${\displaystyle f,g_{1},\ldots ,g_{m))$ ${\displaystyle h_{1},\ldots ,h_{p))$

Az optimalizálási probléma megengedett megoldási halmaza az összes pontból álló halmaz, amely megfelel a feltételeknek és . Ez a halmaz azért konvex, mert egy konvex függvény részszintű halmazai konvexek, az affin halmazok is konvexek, és a konvex halmazok metszéspontja egy konvex halmaz [12] . $f$ $GI$ $Szia}$ $x \in \mathbb{R}^n$ $g_{1}(x)\leqslant 0,\ldots ,g_{m}(x)\leqslant 0$ $h_{1}(x)=0,\ldots ,h_{p}(x)=0$

Számos optimalizálási probléma redukálható erre a szabványos formára. $f$ $-f$

Tulajdonságok

Полезные свойства задач выпуклого программирования [13] [11] :

любой локальный минимум является глобальным минимумом ;
az optimális halmaz konvex;
ha a célfüggvény erősen konvex, akkor a problémának legfeljebb egy optimális pontja van.

Эти результаты используются в теории выпуклой минимизации вместе с геометрическими понятиями из функционального анализа (на гильбертовых пространствах ), такими как теорема проектирование Гильберта , теорема об опорной гиперплоскости и лемма Фаркаша .

Példák

Следующие классы задач являются задачами выпуклого программирования или могут быть сведены к задачам выпуклого программирования путём простых преобразований [11] [14] :

Legkisebb négyzet alakú módszer
Lineáris programozás
Konvex kvadratikus optimalizálás lineáris kényszerekkel
Másodfokú programozás másodfokú kényszerekben
Kúpos optimalizálás
Geometriai programozás
Коническое программирование на конусе второго порядка
Félig határozott programozás
Entrópia maximum elv megfelelő korlátozásokkal

A Lagrange-szorzók módszere

Ekkor a meghatározás tartománya : $f(x)$ $g_{i}(x)\leqslant 0$ $1\leqslant i\leqslant m$ ${\mathcal {X}}$

{\mathcal {X}}=\left\{x\in X\vert g_{1}(x),\ldots ,g_{m}(x)\leqslant 0\right\}.

Lagrange funkció a problémára

L(x,\lambda _{0},\lambda _{1},\ldots ,\lambda _{m})=\lambda _{0}f(x)+\lambda _{1}g_ {1}(x)+\cdots +\lambda _{m}g_{m}(x).

Minden olyan ponthoz , amely a -ig minimalizálódik , léteznek valós számok , úgynevezett Lagrange-szorzók , amelyekre a következő feltételek egyidejűleg teljesülnek: $x$ $x$ $f$ $x$ $\lambda _{0},\lambda _{1},\ldots ,\lambda _{m},$

$x$ mindenre minimalizálja $L(y,\lambda _{0},\lambda _{1},\ldots ,\lambda _{m})$ $y\in X,$
$\lambda _{0},\lambda _{1},\ldots ,\lambda _{m}\geqslant 0,$ legalább eggyel $\lambda _{k}>0,$
$\lambda _{1}g_{1}(x)=\cdots =\lambda _{m}g_{m}(x)=0$ (kiegészítő nem-merevség).

Ha létezik egy "erős elfogadható pont", azaz egy pont kielégítő $z$

g_{1}(z),\ldots ,g_{m}(z)<0,

akkor a fenti állítás megkövetelhetővé erősíthető . $\lambda _{0}=1$

Ezzel szemben, ha néhány teljesíti az (1)-(3) feltételt a -val rendelkező skalárokra , akkor határozottan minimalizálja a -t . $x$ $x$ ${\displaystyle \lambda _{0},\ldots ,\lambda _{m))$ $\lambda _{0}=1$ $x$ $f$ $x$

Algoritmusok

A konvex programozási problémákat a következő modern módszerekkel oldják meg: [15]

Subgradiens sugár módszerek } (Wolf, Lemerical, Kivel),
Субградиентные проекционные методы (Поляк),
Belső pont módszer [1] önkonzisztens akadályfüggvények [16] és önszabályos gátfüggvények [17] felhasználásával .
Vágási sík módszer
Ellipszoid módszer
Subgradiens módszerek
Drift aljzatok és a drift+büntetés módszer

Az algradiens módszerek egyszerűen azért implementálhatók, mert széles körben használják őket [18] [19] . A kettős színátmenetes módszerek kettős problémára alkalmazott alámeneti módszerek . A drift+büntetés metódus hasonló a dual subgradiens módszerhez, de a fő változók időátlagát használja.

Kiterjesztések

A konvex analízis elméletének kiterjesztése és a nem konvex optimalizálási problémák közelítő megoldására szolgáló iteratív módszerek az általánosított konvexitás , az absztrakt konvex analízis területén fordulnak elő .

Lásd még

Jegyzetek

↑ 1 2 Nesterov, Nyemirovskii, 1994 .
↑ Murty és Kabadi 1987 , p. 117–129.
↑ Sahni, 1974 , p. 262-279.
↑ Pardalos és Vavasis, 1991 , p. 15-22.
↑ Boyd és Vandenberghe 2004 , p. 17.
↑ Christensen, Klarbring, 2008 , p. chpt. négy.
↑ Boyd, Vandenberghe, 2004 .
↑ Boyd és Vandenberghe 2004 , p. nyolc.
291.
335–336.
chpt. négy.
↑ Boyd és Vandenberghe 2004 , p. chpt. 2.
183–238.
42–60.
↑ A konvex programozás módszereit lásd Irriart-Urruti és Lemerical könyveiben (több könyv), valamint Rushczynski, Bercekas , valamint Boyd és Vanderberge könyveiben (belső pont módszerek).
↑ Neszterov, Nyemirovskij, 1995 .
↑ Peng, Roos, Terlaky, 2002 , p. 129–171.
↑ Bertsekas, 2009 .
↑ Bertsekas, 2015 .

Irodalom

Jean-Baptiste Hiriart-Urruty, Claude Lemarechal. Konvex elemzési és minimalizálási algoritmusok: Alapok . - 1996. - ISBN 9783540568506 .
Aharon Ben-Tal, Arkadi Semenovich Nemirovskiĭ. - 2001. - ISBN 9780898714913 .
Katta Murty, Santosh Kabadi. Néhány NP-teljes probléma a kvadratikus és nemlineáris programozásban // Matematikai programozás. 2 . – 117–129 . - doi : 10.1007/BF02592948 .
Sahni S. Számítással kapcsolatos problémák // SIAM Journal on Computing. - 1974. - Kiadás. 3 .
Panos M. Pardalos, Stephen A. Vavasis. Az egy negatív sajátértékkel rendelkező kvadratikus programozás NP-kemény // Journal of Global Optimization.
R. Tyrrell Rockafellar. Konvex elemzés . – Princeton: Princeton University Press, 1970.
R. Tyrrell Rockafellar. Lagrange-szorzók és optimalitás // SIAM Review. - 1993. - T. 35 , sz. 2 . - doi : 10.1137/1035044 .
Akshay Agrawal, Robin Verschueren, Steven Diamond, Stephen Boyd. Átíró rendszer konvex optimalizálási problémákhoz // Vezérlés és döntés. - 2018. - V. 5 , sz. 1 . - doi : 10.1080/23307706.2017.1397554 .
Jurij Neszterov, Arkadij Nyemirovskij. Belső-pont polinom algoritmusok a konvex programozásban. - Ipari és Alkalmazott Matematikai Társaság, 1995. - ISBN 978-0898715156 .
Jurij Neszterov, Arkadij Nyemirovskij. Belső pont polinomiális módszerek a konvex programozásban. - SIAM, 1994. - V. 13. - (Alkalmazott és numerikus matematikai tanulmányok). - ISBN 978-0-89871-319-0 .
Jurij Neszterov. Bevezető előadások a konvex optimalizálásról. - Boston, Dordrecht, London: Kluwer Academic Publishers, 2004. - T. 87. - (Alkalmazott optimalizálás). — ISBN 1-4020-7553-7 .
Jiming Peng, Cornelis Roos, Terlaky Tamás. Önreguláris függvények és új keresési irányok a lineáris és félig meghatározott optimalizáláshoz // Matematikai programozás. - 2002. - T. 93 , sz. 1 . — ISSN 0025-5610 . - doi : 10.1007/s101070200296 .
Dimitri P. Bertsekas, Angelia Nedic, Asuman Ozdaglar. Konvex elemzés és optimalizálás.
Dimitri P. Bertsekas. Konvex optimalizációs elmélet.
Dimitri P. Bertsekas. Konvex optimalizálási algoritmusok. - Belmont, MA.: Athena Scientific, 2015. - ISBN 978-1-886529-28-1 .
Stephen P. Boyd, Lieven Vandenberghe. Konvex optimalizálás . - Cambridge University Press, 2004. - ISBN 978-0-521-83378-3 .
Jonathan M. Borwein, Adrian Lewis. Konvex elemzés és nemlineáris optimalizálás. - Springer, 2000. - (CMS könyvek matematikából). — ISBN 0-387-29570-4 .
Peter W. Christensen, Anders Klarbring. Bevezetés a szerkezeti optimalizálásba. - Springer Science & Businees Media, 2008. - V. 153. - ISBN 9781402086663 .
Jean-Baptiste Hiriart-Urruty, Claude Lemarechal. A konvex elemzés alapjai. - Berlin: Springer, 2004. - (Grundlehren szövegkiadások). - ISBN 978-3-540-42205-1 .
Jean-Baptiste Hiriart-Urruty, Claude Lemarechal. Konvex elemzési és minimalizálási algoritmusok, I. kötet: Alapok. - Berlin: Springer-Verlag, 1993. - T. 305. - S. xviii + 417. - ISBN 978-3-540-56850-6 .
Jean-Baptiste Hiriart-Urruty, Claude Lemarechal. Konvex elemzési és minimalizálási algoritmusok, II. kötet: Fejlett elmélet és köteg módszerek. - Berlin: Springer-Verlag, 1993. - T. 306. - S. xviii + 346. — ISBN 978-3-540-56852-0 .
Krzysztof C. Kiwiel. Leszállási módszerek a nem differenciálható optimalizáláshoz. - New York: Springer-Verlag, 1985. - (Matematikai előadásjegyzetek). — ISBN 978-3-540-15642-0 .
Claude Lemarechal. Lagrange-relaxáció // Számítógépes kombinatorikus optimalizálás: A tavaszi iskola tanulmányai Schloß Dagstuhlban, 2000. május 15–19. - Berlin: Springer-Verlag, 2001. - 2241. kötet - 112-156. — ISBN 978-3-540-42877-0 . - doi : 10.1007/3-540-45586-8_4 .
Andrzej Ruszczyński. nemlineáris optimalizálás. – Princeton University Press, 2006.
Eremin I. I. , Astafiev N. N. Bevezetés a lineáris és konvex programozás elméletébe. - M. , Nauka , 1976. - 189 p.
Kamenev GK Optimális adaptív módszerek konvex testek poliéderes közelítésére. M.: VTs RAN, 2007, 230 p.
Kamenev GK Konvex testek poliéderes közelítési módszereinek hatékonyságának numerikus vizsgálata. M: Szerk. CC RAS, 2010, 118s. ISBN 978-5-91601-043-5 .

Linkek

Stephen Boyd, Lieven Vandenberghe, Konvex optimalizálás (pdf)
EE364a: Convex Optimization I , EE364b: Convex Optimization II , Oxford University tanfolyam oldala
6.253: Konvex elemzés és optimalizálás , MIT OCW kurzusoldal
Brian Borchers, A konvex optimalizálás szoftvereinek áttekintése

Optimalizálási módszerek
Egydimenziós	aranymetszet módszer Kettősség Parabola módszer Rács keresés Egységes blokkkeresési módszer Fibonacci módszer Háromszoros keresés Piyavsky módszer Strongin módszer
Nulla sorrend	Gauss módszer Nelder-Mead módszer Hook-Jeeves módszer Rosenbrock módszer Powell-módszer
Első rendelés	gradiens süllyedés Zeutendijk módszer Koordináta süllyedés Konjugált gradiens módszer Kvázi-Newtoni módszerek Levenberg-Marquardt algoritmus
másodrendű	Newton módszere Newton-Raphson módszer Broyden-Fletcher-Goldfarb-Shanno algoritmus (BFGS)
Sztochasztikus	Monte Carlo módszer Szimulált lágyítás Evolúciós algoritmusok differenciális evolúció Hangya algoritmus Részecskeraj módszer Méhtelep algoritmus Véletlenszerű séta módszer
Lineáris programozási módszerek	Simplex módszer Gomori algoritmusa Ellipszoid módszer Potenciális módszer
Nemlineáris programozási módszerek	Szekvenciális kvadratikus programozás