La transformation de Fourier Plancherel analytique des groupes de Lie. II : les groupes nilpotents

Nghiêm Xuân Hai

Annales de l'Institut Fourier, Tome 34 (1984) no. 1, pp. 1-37

Résumé (VO)

Partant de la représentation de l’algèbre de Lie $𝔤$ du groupe $G$ (nilpotent, connexe et simplement connexe) par des opérateurs différentiels rationnels dont l’existence est liée à la conjecture de Gelfand et Kirillov et démontrée dans Nghiêm Xuân Hai (Ann. Inst. Fourier, 33-4 (1983), 95–133), on calcule explicitement la transformation de Fourier-Plancherel de $G$. En particulier, on obtient la mesure de Plancherel comme une mesure à densité sur un ouvert de Zariski du spectre antihermitien du centre de l’algèbre enveloppante $𝒰\left(𝔤\right)$.

On obtient naturellement le noyau de toutes les représentations unitaires du dual réduite en même temps, avec de très bonnes propriétés : analyticité, décroissance à l’infini, et surtout, les éléments de matrices généralisées qui sont donnés par les valeurs de ces noyaux apparaissent comme des fonctions propres au sens des distributions pour l’action à gauche et à droite d’une sous-algèbre commutative de $𝒰\left(𝔤\right)$.

On donne enfin l’interprétation des représentations en termes d’opérateurs Fourier-Intégraux et on obtient un résultat remarquable : La transformation de Fourier-Plancherel se réalise avec un opérateur Fourier-Intégral à phase rationnelle et la Transformation inverse est juste de phase opposée. On obtient explicitement la transformation de Fourier des opérateurs différentiels polynomiaux sur $G$. En illustration de ces résultats, on donne le calcul explicite et rapide de cette phase pour les groupes de Lie nilpotents “assez commutatifs” (en sont les groupes de Heisenberg, les groupes de degré de nilpotence $\le 2$, les groupes triangulaires de matrices).

Abstract

The Fourier Plancherel transform for nilpotent Lie groups is given by exponentiating an infinitesimal representation of the Lie algebras by differential antisymmetrical operators of degree at most one.

This transform can be written as a Fourier Integral operator the amplitude of which is the exponential of a rational phase and the inverse Transform is given by the opposite phase.

The phase, which is polynomial except a division by a central polynomial, gives also the Fourier transform of regular differential operators on the group and the amplitude, which is an analytic function, is also the eigendistribution of a maximal abelian sub-algebra of differential operators on the group.

The rank-two case is computed as an application.

Détail

DOI : 10.5802/aif.948