^ L i ° % v^MATH

IC/94/58

INTERNATIONAL CENTRE FORTHEORETICAL PHYSICS

THEOREME DE L'APPLICATION SPECTRALEPOUR LE SPECTRE ESSENTIEL QUASI-FREDHOLM

INTERNATIONALATOMIC ENERGY

AGENCY

UNITED NATIONSEDUCATIONAL,

SCIENTIFICAND CULTURALORGANIZATION

M. Berkani

and

A. Ouahab

MIRAMARE-TRIESTE

|r

• : t\r

•i

|r

IC/94/58

International Atomic Energy Agencyand

United Nations Educational Scientific and Cultural Organization

INTERNATIONAL CENTRE FOR THEORETICAL PHYSICS

THEOREME DE L'APPLICATION SPBCTRALEPOUR LE SPECTRE ESSENTIEL QUASI-FREDHOLM

M. Berkani 'International Centre for Theoretical Physics, Trieste, Italy

and

A. OuahabDepartment of Mathematics, Faculty of Sciences, Universite Mohammed I,

Oujda, Morocco.

ABSTRACT

In 1958, T. Kato has proved (cf. [2, Theorem 4]) that a closed semi-Fredholm operatorA in Banach space can be written A = At © AQ where Ao is a nilpotent operator and A±is a regular one.

In [3] J.P. L&brousse has denned and studied quasi-Fredholm operators which are anextension of semi-Fredholm operators. He has also defined the essential quasi-Fredholmspectrum.

In this paper we prove the mapping spectral theorem for the essential quasi-Fredholmspectrum concerning bounded operators in Hilbert spaces.

MIRAMARE - TRIESTE

March 1994

'Permanent address: Department of Mathematics, Faculty of Sciences, Universite Mo-hammed I, Oujda, Morocco.

1 Preliminaires:

Soit A un operateur ferme de domaine D(A) et d'image R(A) dans un espace tie IiilbertH. Notons par N(.4) le noyau de A.Tout d'abord un resultat algebrique.

Lemme 1,1: Soit A un operateur dans un espace vectoriel, alors W conditions suivantcssont equivalentes :

(iii) Vn > 0,Vm > 0, iVfvT) C(iv) Vn > 0,Vm > 0, N(An) = Am(N(A"+m)).

Definition 1.2: (cf (4] ct [5]) Soit A un operateur feinne d'un espace de. Hilticrt // danslui meme tel que R(A) soit ferme. Alors A est dit rcgulier si A verifie Tune des conditionsequivalentes du lemme 1.1

Definition 1.3: Soit

A(J4) = {n € N : Vm € N m > n =*> (R(An) n N(A)) C (R(Aln) n N(A))}

alors on appeiera degre d'iteration stable de A la quantite dis(A) = infA(A). (Aver,dis{A) = co si

Exemple: Si A est regulier alors dis{A) — 0

Definition 1.4: Sojt A un operateur ferme d'un espace de Hilbert II dans hii memc, ondira que A est quasi-Fredholm de degre d 6 N, ce qui sera note A 6 q<j>(d), si:

(a) dis(A) = d(b) R(Ad) n N(A) est forme dans H(c) R(A) + N(Ad) est ferme dans H.

On dira que A est quasi-Fredholm (A G q</>) s'il existe un d £ N telque A € qip(d).

Definition 1.5: Soit A un operateur ferme dans un espace de Hilbert H. On dira queA est decomposable au sens de Kato de degre d si 3.1/, A' deux sous-espaces fetmes de //tels que :

a) H = M©7Vb) A{M n D(A)) C M et (A[M) est regulier

c) N C D(A), A(N) C N et A^N est nilpotent de degre d.

Et on appeiera le couple (M,N) une decomposition de Kato associee a A.

Theoreme 1.6: (voir[3, theoreme 3.2.2]) Les definitions 1.4 et 1.5 sont equivalentes.

it. * -u

' i

•: 4

Remarque 1.7:A € q4> si et seulemeut si:

ii) R(Ad) n N(A) est fermeiii) rt(/i) + A ^ ) est ferme

En effct: -Si: II suffit de prendrc d = dis(.4).-Seulenient si: Soit d0 = dis(.4) et d € A(/l)On a: R{Ada) n JV( /1) = flfA"1) n Ar(/1) (qni est ferine)=*• R{Ad") n JV( /1) est ferme.D'autre part rf0 g A(/ t ) , done d'apres [3, proposition 3.1.1] on ;i:/ i (4 ) + N{Ad) C fl(vl) + N(Ad") et comme d > d0 on a alors:/?(.4) + N(Ad) = /((/I) + Ar(/1J°) et par suito .4 e

Notons:-Par/i,^(/l) = {A € C : (4-A/) g <7<̂} done />,,j(/l) est un ouvert de C (voir [3, Proposition4.3.1]) et si on note par p(A) — {A € C ; (A-XI) est inversible}, alors p(A) C p,^(A).-Par <rE(/l) le complementaire de p^(A) dans C le spectre essentiel quasi-Fredhohu <le A,qui est un ferine de C et si on note par a{A) le spectre dassique de /t, alors trc[A) C c(A).

2 Theoreme de l'application spectrale:

Soit A un opcrateur ferme dans un cspace de Hilbert / / de domainc D(A), on supposeque p(A) ̂ 0 de sotte que, si P est un polynome dans C[X] de degre p, alors P{A) estun operateur ferme (voir[l, page 602]).

Lemme 2.1: Soit A un operateur ferine dans H tel que p(A) ^ 0 alors les proprietessuivantes sont equivalentes:

i) A £ q<S>ii) Am € q<p Vm e N"iii) II existe n g N* tel que /I" £ IJO

Preuve:

(i) =^ (ii); Soit (M, A1) une decomposition de Kato associee a .4 done on a:a) H=M® Nb) A(M n D(A)) C M et (J4|W) est regulicr

e) A(N) <Z N C D(A) et A\N est nilpotent de degre d.Or on a Am{M D P(4"1)) C 4(M n D(Am)) C M et Am(N) C <4(A') C A:.Et d'apres [5,Proposition 3.7] on a (Am\m) = (A^u)"1 est regulier.De meme (Am^-) est nilpotent de degre 1 si d < m, de degre k si m < d oil k est tel que(k-\)m < d < km.Et par suite (A/, A )̂ est une decomposition de Kato associee a Am et done Am est quasi-Fredholm.

(is) => (iii): e'est evident.(iii) => (i): Soit d = disf/l'1) et montrons que nd € IOn a Vm > d J?(J4"d) fl Ar(/1'1) C fi(4"m) n A'(A")=> R{And)r\N(A'i) n JV(J4) C fl(A""')nA'(ylI')n N{A}=*• ii(/l" ' ') n 7V(^l) C R(A n m ) n W(A) Vm > d.Soit p > nd. On a p = nk + r, 0 < r < n - 1

lk+r) f\ N(A) 3 fi{^"(t+l1) n N{A). Or TI(JI- + 1) > nd+ I ' ) n N(A) D R(A1"i) n N(A). Et par suite on a:

ft(Ap) n A'f/l) = R(And) C\ N(A) si ;; > nd, ce qui implique <|ue nd e A(.4).

Montrons que R(And) 0 /V(A) est ferine dans HOn a R(And) n / / (A) = R(A"d) n ^ ( ,4" ) n A'(.4) car N(A) C ;V(/1")Or R(And) n A'(/t") est ferme dans // car d = di.s(.4n), et ,V(,4) est. ferine=*• fi(/l"'') n Ar(.4) est ferine dans / / .

II reste a montrer que R(A) + N(A"d) est ferme dans H.Soit {i/p + i p ) p e N C R(A) + N(And) , !/„ + xp — ; » e W .Done il existe ip € D(A) tel que yp ~ A{tp)cl A'ld{xp) = 0.Comme p(A) / 0, soit /? € p(A)

4-^/) ' , oil {rk}0<k<n-i soul des coi.stantcs.

Posons 5 =

Alors

Or .4"

.411"1,?71"1 = ^S"1"1"* qui est borne.

Alors on a Anl S"-l(A(tp) + xp) - . .4""15""i(l

( l ) ) ("d) et 3t e D{A") tel que A^

^ =* ^Il lJ+"-1 (5""'(

Et d'apres (3,Proposition 3.1.1] on a: ( S " ^ ) - . ^ ; ) ) € /i(/4") + A'(.4"J)=* (S"- ' (JJ)^(O) € fl(A) + Ar(.4nd) => 5""'(r) € Ar(.4"J) + R{A),et comme .9 est inversible on a alors j 6 R(A) + ,1V(,4"1').Done on en deduit que A € q<j> cqfd.

Theoreme 2.2: Soit /I un operateur ferme dans // avee p(A) ^ 0 et P{\) =

un ]>olynome de degre p dans C[X] alors:

0 £ p

Preuve:1) Si: -Soit d = dts{P{A}) et montrons que d € A(A-A;/) VI < i < nSi d=0 alors d'apres [5, Proposition 3.7] (.4-A.7) est quasi-Fred holm dc degre 0,V 1 < t < n .Supposons que d > l . e t so i t y e R((A-\,I)m'd)nN((A-\,I)">-), alors il existe x 6tel que y = (4-A,/)TT"<i(i) .En particulier y € Z?(A") Vn > 0 .

f i) => n (A-^ir'^y) € R(P(A)d) n A-

Et comme P(A) £ q<t,(d) alors R{P(A)m) n /V(P(4)) Vm > J

(p-m,}ti

EJt=O

Ck(A-XJ)ky = Oil les {Ct}0<t<(p-ms)J sont des constantes et Co ^ 0.

Coy = P{A)'n(z)-

( p - )

-AJ) '"m j^)- E C\.(A-AiJ)V

j=) *•=]

On voit alors que y € R((A-XJ)m'm) C\ N{(A-\,I)m') Mm > d=> <h = dis{A-X,I)m- < d.

-Montrons maintenant que Ii((A-\,iy"ld) (1 N((A-X,I)m') est ferme dans //:Soil yne H((A-\,l)'""l)nN((A-\,ir') telque 3xr, € D(A""d) : yn = (J4-A,/)m"'(in)et yn-*y€ H. Done j / , , ! / £ D(^") si ;J > 0 et }

Posons Q(A) = Y[ (A-Aj)mjtl, c'est un polynome dedegie (;j-rn,)d, etd'autre part TOinme

P{A) ± 0 soit 3 e />(>!) . Posons C = (/l-jS/)"1 et B = Q(/l)C("-'"'):i.(p-m,)d

b'oii Z? = ^2 ajtC(jrm''1'"* est nil operatenr Liorn«.

Or B(yn) = qui est ferine.). Posons Y = ^''-'"•'''(j/).

Done il exisle un z £ D{P{A)d) tel que f] (A-Aj/p^y) = J l ( ' 4 - V P

Ci(j4-A,-7)*y = ), oil les {Ci,}o<jt<(rm,)j sont des constantes et Co / 0

'f

=!• y

)"') tel que CaY = (A-\J)m'd(t)- ^ ^(/i-A,/)*}'

i/)m ' ' '). Comme C est inversible et comme y € A'ff/l-A,/)"11) on a

=* 7i((/l-A,/)mitf) est ferme dans

-II reste a montrer que fl{(A-Aj/)m') + N({A-\J)m:<l) est un ferme de H:Soit rn € D(An) et yn 6 N({A-X,I)""d) td que (A-A,7)"''(.Tn) + yn — z z e H.

De meme posons Q(X) — Yl. (^-^j)m;> c 'est un polynome de degie (p-m,), et d'autre

part comme/>( /I) ^ 0, soit /3 e p(A) .Posons C =

D'ou B = E atC' r m ' '"* est un operateur borne.

«t fl =

( p K ) ( ) )Or B(A-A,/r-( In) € fi(P(<4)) et B(yn) e N(P{A)d)=* B(A-A,/p(in) + B(yrl) G fl(P(A)) + N{P{A)d) qui est ferme^ B(z)£R{P(A)}+N(P(A)d).On a B(z) = Q(A)C<p-m'>(z) - Posons 2 = C(""""'>(c).

et 3y " f t ft

oil lea {Ctjojtjij.-jn,)^^]) sont des coiistfliites et C'o 7̂ 0„

Ct(A-Xil)tZ+ I ] (-4

Z e "1') +

Done (A-A,p £ ij<̂ , et le lemme 2.1 im])liqnc que (A-A;) £(/</» V 1 < 1 < 11.

Reciproquement: On a VI < 1 < n , (A-XJ) est quasi-Fredholm, done d'aprcs leLemme precedent (A-A,7)™' est quasi-Fredholrn VI < t < n, et soit d, = A«(A-A,7p.Montrons que d £ A(P(A)) ou J=Max^ l (J,Soit y £ R{P{A)d) 0 JV(f (A)) et montrons que y £ tffffA)"1) n N(P(A))Vm > rf. (En particulier y £ O(A")) V».)

Done 3i e : y = f[(A-AJ-/)l'm'(.T) •

=* fl (A-Ai/p(y)efl{(A-A;/pJ)nA'((A-A1/p)

n

=* I I (•4-A i /)m ' (^) G fl((A-A;/pm) n jV((A-A;/)

m') Vm > d.

=s- 3i € D{A-m) : f [ (A-A,-/)1"' (j,) = (A-A,/)"1 ""(0

=* ^Cfc(^-Ai/)*y = (A-\iI)m'm[t), ou ies {Cjtlo f̂c^ -̂̂ , sont des constantes et C'o ^ 0

' v

Et de la meme maniere on montie que y £ R{A-X3I)m'm Vj ^ i

Done 3(j G DIA^"1) : y = (A-Aj/P'"1^) => [A-Xjl)m'm(h) = (A-A./p=s- *, e R(A-XjI)

7n'm => 3si € D(Am^mj : y = (A-A,7)mi"l(A-Aj/p''n(s,)Et par recurrence on voit que y € R(P{A)m) Vm > (/ => c( G A(P{A))

'| " Moiilrons que R(P(A)d) C\ N(P(A\) est ferme:: •' Soil, j / p g R ( P ( A ) d ) n N { P ( A ) ) , y p -> z , z € H

=* 3xp € £>(P(A)d) te! que yp = U"=AA-\l) If

Posons Q(X) — Y[ (^"-^j)m'i e'est un polynome de degre (p-m,), et d'autre part comme

p ( A ) ^ 0 soit P£p(A) -Posons C = {A-(iiyl ct B = Q(A)C!fm|).

D'ou B — ^^ CHC1'1'"'"'1"* esl un opeialeur borne.

=* r3(yp) JB(Z).Or Z?(yp) € ft(A-AiJ)"1'1') n JV(( A-A,7)"") qui est ferine.=> S(r) = <3(/l)[7'>'-m'>(i) e it((,4-A,/)'i"l')n A'fA-Ai/)1"1)-Et par suite z £ R{{A-\tl)

dTn') n A'(/1-A,)m').= (A-A1/)

rf'"'{*1)<') : z = (A-X}I)

dm'{s2) avec i ^ j-XJ)d^(Sl) => sj G fiffA-Aj/)^)

-^/)''T"J))Et par recurence on voit que z € R(P{A)d).

II reste a montrer que R(P(A)\ + N(P(A)d) est ferme:Soit ;,„ = P(A)(xv) + zp avec P(Af(zp) = 0 tel que yp->y.

De meme 3s2 e=> (A-\jiy™>(s

Posons Q(\) —

% soit

)"'7'', e'est un polynome de degre (;j-m;)(/, et d'autre part comme

. Posons C = {A-8iy et /? =( p , )

D'oii B = J2 akC[rrni)d~k est un operateur borne.

=> B(yp) ~->kB(y).Or B{yp) = Q(/l)C'''-m')''(y|)) € fi((/4-A,/)"-) + /V^-l-A,/)*"') qui est ferme.=*> B(y) = O(A)C'J-n")''(y) e fl((A-Ai/)m-) + N{(A-\;I)

dm-).Posons V = C<'-m')ll(3/).

3t G que

-A,7)*i/ = (A-A,-/)'"1^) + i , ou les {Ct

avec x e N((A-X,I)dm')

J s o n t des constantes et

D'autre part on a yr-z —> y-x et yp-x = P(A){xp) + zr-x avec 2p-x <E N(P(A)d) etP(A)(xr) e i?(P(A))De meme on a: B(yp-x) -* B(y-x).Or Bfyp-ar) = OtAJC^"")^!/,-!) G /i((A-A,/)m') + Ar((A-A,7)d"'-) qui est ferme.=> B(y-x) € R{(A-XJr<) + N((A-X,I)•*'-).Et par suite {y-x) G ̂ (A-A;/)"1 ') + A'((A-A,l)dm<)=> 3i , G D{Am') et J, e ^((A-Ai/)7"^) tel que :

(p-m.)d

D'ou J^ C(AA7)Ct(A-A:7) y = (A-X,I)m'{xi) + zi, oil les {Ci,}o<k<ip-m,)j sont tics constantesk=0

et Co ^ 0

f!Or j / € R{A-X,I) + N((A-X,I)dm-).Et d'apres la derniere expression on a alors y e /^(A-Ai/)17'1) + A'((A-A;/)1'"11)-D'ou il existe s, € DfA™1) et /j 6 A'((A-A, i)dm-) tel que: y = (A-A,/)"'[ (s,) + (,.De meme on montre qu'il existe aj <laus D(A'"') et (3 dans Ar((A-AJ/)

1'"'J) tel (|ue

=MA-A;/)m'(s]) + ;1 = (A-Aj/r '(s2) + [2 avoc i $ jm j

D ' o u Y^Ck(A-XiI)k{s2) + t-2 = ( A - A , / ) ' " ' ( . ? , ) + /,, o i l Icst=n

et Cu ^ 0.

€ -R(A-A,7)

sont des constanles

lI)'"'{A-X]I)m') + A'((A-A,/)m'(A-AJ/)

mJ).Et par recurrence on voit que y G R(P{A)) + N{P{A)d)=> R(P(A)) + N{P(A)d) est ferme dans H, et done P(A) est quasi-Fredholm. «,fd

Theoreme 2.3: Soit A un operateur ferme tel que f>(A) ^ 0 alors on a: P(ar(A)) =<rt(P{A)).

Preuve:

Soit P(x) = { U U ( x - x t ) m ' ) , A e c .

cr,(A).

Reciproquement: Si A € P(ffe(A)) =s- 3< € (7e(A) : A = P{t)=> P(A)-P(t)/ = P{A)-A7 n'est pas quasi-Fredholm.==> A G ^ (^ (A) ) , d'ou P(ere(A)) = crc(f(A)). cqfd

^ P(A)-XI = {UUiA-HJY').Si A € ac{P(A)) =*• P(A)-A7 n'est pas quasi-Fredholm.=> 31 < i < p (A-/3i/)Pl n'est pas quasi-Fredholm.Et d'apres le Lemme 2.1 (A-ft/) n'est pas quasi-Fredholm,Or A = P{ft) => A G P(<7ef A)).

Corollaire 2.4: Soit A un operateur ferme tel que p(A) / % et P un polynome sur Cn'ayant pas de racines dans ot(A) alors P{A) est quasi-Fredholm.

Lemme 2.5: Soit A , B deux opeiateurs fermes tels que AB=BA. Si A est quasi-Fredholm et B inversible, alors AB est quasi-Fredholm.

Preuve:

Soit d = dis(A) ; Montrons que d — dis(AB).Soit y e R((AB)d)r\N{AB).Or AB = BA et B est inversible =*• 1/ 6 A'(A) et 3a: e £>((AB)J) : (Afi)J(.r) = y^ye N(A) et y = Ad(Bd(x)) =* y e /?((A)d) n /V(.4)4 j e f l ( ( / l ) " ) n . V ( / l ) Vm > rf =*• 3( € £>(/r) : y = Am(t) etOr A'"(t) = /lm(iJ'n(S-nl(t)}) = (AB)m(B-m(t)) => jy € i?((-45)m)=> ^((AB)1') n Af(AH) C R((AB)m) n A'fylB) Vm > d, d'oii d € A(.4B)Si i = 0 =*- rf = A.s(/1)Si <f > 0 3 !i6K(/l' |-1)nJV(/i) et y g R((A)d) n N(A)=> tid-l(y) e y?((.4fi)1'-1) n N(AD) et i?^1!/ ^ R({AB'f) n Ar(.4B)Car sinon £<M(?y) = ^ - ' ( ^ ( / f fO) ) , ( e D((AB)d) =s- jy = ,4D'oii (/ =

absurd*.-.

Montrons que H((AB)d) n Ar(Afi) est ferrae dans 11:Soit yn e li((AB)d) n /V(/4B) telque yn -+ 3/ € i/On a j , n = ( A S r t i J , i , 6 O((AB)J)) et AB(yn) = 0=> yn = Ad(Bd(xn)) et A{j/n) = 0, car B est inversible.=>yeR(Ad)nN(A)^y = Ai{x) x e D(Ad) et .4(y) = 0=*• y = ^ B ' t F ' f i ) ) et /1S(J/) = 0 =*• iy e R{(AB)d) nEt par suite fi((Ai3)1') II Af(AS) est ferme.

Montrons maintenant que i?(AB) + N{(AB}'1) est ferine dans H:Soit. / 1 B ( I » ) + yn -* 1/ avec i n €f l ( -4B) (A£)'%,,) = 0=> /4(B(zJ) + ;/„-> y avec A J(^) = 0=>3z£D(A), teN(Ad): y = A(z) + t = AB(B~\z)) + tD'oii jy e /i(A5) + A'ffAB)'1) et par suite R(AB) + N([AB)d) est ferme.

Theoreme 2.6: Soit /I un operateur borne et / un fonction analytique an voisinage de"(A), alors:

Demonstration: Soit p, G CTB(A), et / une fonction analytique au voisinage de ff(A).Alors /(z)-f(fi) est anaiytique au voisinage de o(A). Elle y possede un nombre fini deracines , done:

f(z)-/{fi) = (z-/i)ma(z-Xl)""...(z-Xn)

m"g(z)

avec g{z) analytique et ne s'annulant pas sur a(A).Par le calcul fonctionnel (cf.Dunford [2]) on a:

=> j(A)-S(ix)I = (A-fLl)"'°(A-\1ir< ...(

oii (?(A) est inversible car g ne s'annule pas dans u{A).0 ( A / ) = (f(Ayf(n)I){g(A)yl seraitSi f(A)-f(p)I € q4> alors

quasi- Fredholm.D'apres le theoreme 2.2, A-jil est quasi-Fredholm, ce qui est a.bsuide.Done /(ft) £ ae(f{A)) =* /(<rt(/l)) C ^( /(A)) .

Reciproquement: Supposons que A £ <r,(/(/l)) =*• /(A)-A/ n'est pas quasi-Frcdliolm.En particulier f(A)-\l n'est pas inversible, alors il existe/i e a(A) telque /(ft) = A.on a: / ( Z ) - / ( / J ) = (i-yj)mo(j-fi1)

mi...(^-f(7,)"l"(7(s), oil g ne s'annule pas sur <r(,4).

Done f(A)-f(ii)I = (A-/i/)m»(A-^/r ' ...(A- /4n/r"fl(A) = /(A)-A/.Comme ce dernier n'est pas quasi-Fredholm, alors d'apres le theoreme 2.2 etle lemme 2.5, 3a <E {/i,/Ji, ...,/(„} telque A-al n'est pas quasi-Fredholm =*• a €Te(-4) mais/ (a ) = A =* A e /(<re(A).d'ou: /(C T ((-4))=^(/(A)). cqfd

Corrolaire 2.7: Soit A un operateur borne dans // et / une fonction analylique auvoisinage de a(A) n'ayant pas de racines dans fff(A). Alors /(A) est quasi-Fredbolin.

Acknowledgments

One of the authors (M.B.), an associate member, would like to thank Professor AbdusSalam, the International Atomic Energy Agency and UNESCO for hospitality at theInternational Centre for Theoretical Physics, Trieste.

10

I • Referent es:

[1] Dunford, N. &L Schwartz,J. Linear operators, Part 1; Wiley Inter-science, New-York (1971)[2] Kato, T. Perturbation theory for nullity deficiency and other quantities of linearoperators; J, Anal. Math. 6 (1958), 261-322[3] Labrousse, J.P. Les operateurs quasi-Fredholm une generalisation de.s operateurssemi-Fredhokn; Rend. Circ. Math. Palermo (2), 29 (1980), 161-258[4] Mbekhta, M. Generalisation de la. decomposition de Kato aux operateurs paranor-raaun et spectraux; Glasgow Math.J. (1987),159-175[5] Mbekhta, M. Resolvant generalise ct theone spectrale; J. Operator Theory 21 (19S9),69-105

: i