4
Combina¸c˜ ao de precondicionadores para os sistemas lineares oriundos dos m´ etodos de pontos interiores Yuzo Iano , Ingrid Ara´ ujo Sampaio , DECOM - Departamento de Comunica¸ oes, FEEC, UNICAMP 13083-852, Campinas, SP E-mail: [email protected], [email protected], Aurelio R. L. Oliveira Depto de Matem´ atica, Aplicada, Estat´ ıstica e Computa¸c˜ ao Cient´ ıfica, IMECC, UNICAMP 13083-859, Campinas, SP E-mail: [email protected] Palavras-chave: Otimiza¸ c˜ao, Precondicionadores, Gradientes Conjugados Precondicionados, Programa¸ c˜ao Linear, M´ etodos de Pontos Interiores. Resumo: Neste trabalho, apresentamos um m´ etodo de pontos interiores com a resolu¸ c˜aodo sistema linear necess´ ario em cada itera¸ c˜ao por m´ etodos iterativos. Vamos utilizar o m´ etodo dos gradientes conjugados precondicionado para resolu¸ ao desse sistema linear. Em particular, precondicionadores adaptativos a este sistema linear foi aplicado em conjunto com o m´ etodo dos gradientes conjugados, obtendo assim bons resultados computacionais. O precondicionador denominado fatora¸ c˜ao controlada de Cholesky(FCC) ´ e utilizado nas itera¸ oes iniciais e o pre- condicionador separador especialmente desenvolvido para itera¸ c˜oesfinais´ e ent˜ao utilizado. No entanto, esta abordagem ainda n˜ao ´ e robusta porque para muitos problemas existe uma faixa no espectro das itera¸ c˜oes onde a fatora¸ c˜ao controlada de Cholesky j´ a n˜ao´ e eficiente e o precondicio- nador separador ainda n˜ao obt´ em resultados satisfat´orios. Portanto, nossa proposta ´ e combinar estes precondicionadores com o precondicionador de Elman, visando obter um desempenho com- putacional ainda superior tanto no aspecto de robustez como no tempo total de processamento. Desta forma, as qualidades dos precondicionadores utilizados seriam combinadas melhorando a eficiˆ encia da abordagem. 1 Introdu¸ ao Desde o surgimento dos m´ etodos de pontos interiores para programa¸c˜ ao linear, c´ odigos com- putacionais sofisticados baseados nessas ideias vem se firmando como alternativas eficientes para resolu¸c˜ ao de problemas de grande porte com estruturas gen´ ericas [3, 5, 6, 7, 8]. Cada itera¸ ao de um m´ etodo de pontos interiores envolve a solu¸ ao de um ou mais sistemas lineares [5, 6]. Este ´ e o passo mais caro deste m´ etodo do ponto de vista computacional. Em aplica¸c˜ oes reais esses sistemas quase sempre possuem dimens˜ oes elevadas e alto grau de esparsidade. Usualmente m´ etodos diretos s˜ ao utilizados para resolver esses sistemas. A abordagem mais usada nas implementa¸ oes existentes ´ e a fatora¸ ao de Cholesky nas equa¸c˜ oes normais [3, 5, 6]. No entanto, por limita¸c˜ oes de tempo e mem´ oria seu uso torna-se proibitivo em muitos problemas de grande porte, fazendo com que abordagens iterativas sejam mais adequadas [1, 7, 8]. 270 ISSN 2317-3297

Combina˘c~ao de precondicionadores para os sistemas ... · uma matriz precondicionada que possua os autovalores agrupados e pr oximos a unidade, de forma a acelerar a converg^encia

  • Upload
    vucong

  • View
    216

  • Download
    0

Embed Size (px)

Citation preview

Combinacao de precondicionadores para os sistemas linearesoriundos dos metodos de pontos interiores

Yuzo Iano , Ingrid Araujo Sampaio,DECOM - Departamento de Comunicacoes, FEEC, UNICAMP

13083-852, Campinas, SP

E-mail: [email protected], [email protected],

Aurelio R. L. OliveiraDepto de Matematica, Aplicada, Estatıstica e Computacao Cientıfica, IMECC, UNICAMP

13083-859, Campinas, SP

E-mail: [email protected]

Palavras-chave: Otimizacao, Precondicionadores, Gradientes Conjugados Precondicionados,Programacao Linear, Metodos de Pontos Interiores.

Resumo: Neste trabalho, apresentamos um metodo de pontos interiores com a resolucao dosistema linear necessario em cada iteracao por metodos iterativos. Vamos utilizar o metododos gradientes conjugados precondicionado para resolucao desse sistema linear. Em particular,precondicionadores adaptativos a este sistema linear foi aplicado em conjunto com o metododos gradientes conjugados, obtendo assim bons resultados computacionais. O precondicionadordenominado fatoracao controlada de Cholesky(FCC) e utilizado nas iteracoes iniciais e o pre-condicionador separador especialmente desenvolvido para iteracoes finais e entao utilizado. Noentanto, esta abordagem ainda nao e robusta porque para muitos problemas existe uma faixa noespectro das iteracoes onde a fatoracao controlada de Cholesky ja nao e eficiente e o precondicio-nador separador ainda nao obtem resultados satisfatorios. Portanto, nossa proposta e combinarestes precondicionadores com o precondicionador de Elman, visando obter um desempenho com-putacional ainda superior tanto no aspecto de robustez como no tempo total de processamento.Desta forma, as qualidades dos precondicionadores utilizados seriam combinadas melhorando aeficiencia da abordagem.

1 Introducao

Desde o surgimento dos metodos de pontos interiores para programacao linear, codigos com-putacionais sofisticados baseados nessas ideias vem se firmando como alternativas eficientes pararesolucao de problemas de grande porte com estruturas genericas [3, 5, 6, 7, 8]. Cada iteracaode um metodo de pontos interiores envolve a solucao de um ou mais sistemas lineares [5, 6].Este e o passo mais caro deste metodo do ponto de vista computacional. Em aplicacoes reaisesses sistemas quase sempre possuem dimensoes elevadas e alto grau de esparsidade.

Usualmente metodos diretos sao utilizados para resolver esses sistemas. A abordagem maisusada nas implementacoes existentes e a fatoracao de Cholesky nas equacoes normais [3, 5, 6].No entanto, por limitacoes de tempo e memoria seu uso torna-se proibitivo em muitos problemasde grande porte, fazendo com que abordagens iterativas sejam mais adequadas [1, 7, 8].

270

ISSN 2317-3297

O precondicionador fatoracao controlada de Cholesky, proposto em 1995 [2], pode ser vistocomo uma variacao da fatoracao incompleta de Cholesky, onde o objetivo principal e construiruma matriz precondicionada que possua os autovalores agrupados e proximos a unidade, deforma a acelerar a convergencia do metodo dos gradientes conjugados, atraves do controle donumero de elementos nao nulos na fatoracao.

O precondicionador separador foi proposto para sistemas aumentados originados de metodosde pontos interiores em [7] para problemas de progrmacao linear, onde a principal caracterısticadessa classe de precondicionadores e que ela apresenta melhores resultados nas proximidades deuma solucao otima, quando os sistemas lineares ja sao muito mal condicionados.

2 Descricao do Problema

O precondicionamento e uma estrategia que deve ser aplicada aos metodos iterativos paramelhorar as caracterısticas de convergencia de sistemas que possuem a matriz de coeficientescom autovalores muito dispersos. Precondicionar um sistema linear basea-se em tornar a matrizdos coeficientes com condicoes desejadas para que o metodo que esta sendo aplicado na resolucaodo sistema seja eficiente.

2.1 Fatoracao Controlada de Cholesky

Considere a matriz ADAt ∈ <m×m fatorada em:

ADAt = LLt = LLt +R (1)

sendo:L: o fator obtido pela fatoracao completa de Cholesky;L : o fator obtido pela fatoracao incompleta de Cholesky;R: matriz dos resıduos.Usando L como uma matriz precondicionadora para ADAt, obtem-se

L−1ADAtL−t = (L−1L)(LtL−t) = (L−1L)(L−1L)t.

Definindo E = L− L e substituindo na igualdade acima temos

L−1ADAtL−t = (I + L−1E)(I + L−1E)t.

Observemos que, quando L→ L entao E → 0 e portanto LADAtL−t → I.

A fatoracao controlada de Cholesky e construıda com base na minimizacao da norma deFrobenius de E, visto que, quando ||E|| → 0 implica ||R|| → 0. Assim consideremos o seguinteproblema

min ‖E‖2F =m∑j=1

cj onde, cj =m∑i=1

|lij − lij |2. (2)

Dividindo cj em dois somatorios temos

cj =

mj+η∑k=1

|likj − likj |2 +

m∑k=mj+η+1

|likj |2,

ondemj : representa o numero de elementos nao nulos abaixo da diagonal da coluna j da matriz

original;η : representa o numero adicional de elementos nao nulos permitido na fatoracao incom-

pleta.271

ISSN 2317-3297

2.2 Precondicionador Separador

Consideremos o seguinte precondicionador simetrico em blocos para o sistema aumentado S

M−1 =

(F GH J

)onde S =

(−D At

A 0

).

A matriz do sistema aumentado precondicionada por M−1 tem a seguinte forma,(−FD−1F t + FAtGt +GAF t −FD−1Ht + FAtJ t +GAHt

−HD−1F t +HAtGt + JAF t −HD−1Ht +HAtJ t + JAHt

).

Os blocos F,G,H, e J sao construıdos com o objetivo principal de evitar a presenca de ADAt

na matriz precondicionada.Assim, fazendo J = 0 a matriz se reduz a,(

−FD−1F t + FAtGt +GAF t −FD−1Ht +GAHt

−HD−1F t +HAtGt −HD−1Ht

).

Para que os blocos fora da diagonal sejam nulos e atribuıdo Gt = (HAt)−1HD−1F t,(−FD−1F t + FAtGt +GAF t 0

0 −HD−1Ht

).

Fazendo H = [I 0]P, onde P e uma matriz de permutacao tal que HAt e nao singular, obloco HD−1Ht e equivalente a uma matriz diagonal, denotada por D−1

B , sendo,

PD−1P t =

(D−1N 0

0 D−1B

).

Por fim, atribui-se F = D12 .

A matriz precondicionada por M−1 e dada por,

M−1

(D−1 At

A 0

)M−t =

(−In +D

12AtGt +GAD

12 0

0 −D−1B

)(3)

sendo,

M−1 =

(D

12 G

H 0

), G = HtD− 1

2B−1, HP = [I 0] e AP t = [BN ].

O sistema aumentado tem dimensao n + m, onde n e o numero de variaveis e m o numerode restricoes do problema de programacao linear. Entao podemos considerar que o precondi-cionador reduz a dimensao do sistema aumentado para n, visto que a parte inferior e formadaapenas pela matriz diagonal D−1

B e, portanto de facil resolucao.

A reducao a um sistema de equacoes normais resulta na matriz,

Im +D− 1

2B B−1NDNN

tB−tD− 1

2B . (4)

Observe que a matriz precondicionada e definida positiva e tem autovalores maiores ou iguaisa um, isto e, nao tem autovalores proximos de zero.

272

ISSN 2317-3297

3 Abordagem Adotada

Para a matriz do sistema de equacoes normais ADAt o precondicionador de Elman [4] ficada forma:

(AAt)−1(ADAt)(AAt)−1.

Neste trabalho, vamos estimar o precondicionador (AAt)−1 utilizando a fatoracao controladade Cholesky nas primeiras iteracoes e o precondicionador Separador nas iteracoes finais.

Resultados preliminares em Matlab serao apresentados.

Referencias

[1] L. Bergamaschi, J. Gondzio, M. Venturin, and G. Zilli, Inexact constraint preconditio-ners for linear systems arising in interior point methods, Computational Optimization andApplications, 36 (2007) 137-147.

[2] F. F. Campos and N. R. C. Birkett, An efficient solver for multi-right hand side linearsystems based on the CCCG(η) method with applications to implicit time-dependent partialdifferential equations,SIAM J. Sci. Comput., 19 (1998), pp. 126-138.

[3] J. Czyzyk, S. Mehrotra, M. Wagner, and S. J. Wright, PCx an interior point code for linearprogramming, Optimization Methods & Software, 11-2 (1999), pp. 397-430.

[4] H. C. Elman, Preconditioning for the steady-state Navier-Stokes equations with low visco-sity, SIAM Journal on Scientific Computing, 20 (1999), pp. 2991-1316.

[5] J. Gondzio, Multiple centrality corrections in a primal-dual method for linear programming,Computational Optimization and Applications, 6 (1996), pp. 137-156.

[6] S. Mehrotra, On the implementation of a primal-dual interior point method, SIAM Journalon Optimization, 2 (1992), pp. 575-601.

[7] A. R. L. Oliveira and D. C. Sorensen, A new class of preconditioners for large-scale li-near systems from interior point methods for linear programming, Linear Algebra and ItsApplications, 394 (2005), pp. 1-24.

[8] M. I. Velazco, A. R. L. Oliveira, and F. F. Campos, A note on hybrid preconditions forlarge scale normal equations arising from interior-point methods, Optimization Methodsand Software, 25 (2010), pp. 321-332.

273

ISSN 2317-3297