Mémoires de la Société mathématique de France, n° 180. Conformally invariant differential operators

Pour un groupe de Lie réel simple G, ayant pour sous-groupe parabolique de Heisenberg P, nous étudions les représentations de la série principale dégénérée associées à ces données. La représentation minimale peut être identifiée au noyau du système d'opérateurs différentiels conformément invariants construit par Barchini, Kable et Zierau, pour un paramètre d'induction convenable. Pour étudier cette représentation, nous utilisons la transformation de Fourier pour le groupe d'Heisenberg dans la réalisation non-compacte et nous prouvons que cela conduit à une nouvelle réalisation de la représentation minimale sur un espace de fonctions L². L'action de l'algèbre de Lie est donnée par des opérateurs différentiels d'ordre ≤ 3 et nous trouvons des formules explicites pour les fonctions réalisant les K-types minimaux.

Ces modèles L² étaient construits pour les groupes SO(n, n), E₆₍₆₎, E₇₍₇₎ et E₈₍₈₎ par Kazhdan et Savin, pour le groupe G₂₍₂₎ par Gelfand, et pour le groupe SL(3, R) par Torasso, en utilisant différentes méthodes. Notre nouvelle approche fournit un traitement uniforme et systématique de ces exemples et construit également des nouveaux modèles L² pour E₆₍₂₎, E_7(-5) et E_8(-24) , pour lesquels la représentation minimale est un prolongement de la série discrète quaternionique, ainsi que pour les groupes SO(p, q) pour p ≥ q = 3 ou pour p, q≥ 4 et p + q pair.

Comme conséquence de notre construction, nous trouvons une formule explicite pour l'action d'un élément non trivial du groupe de Weyl qui, en addition à l'action simple d'un sous-groupe parabolique, génère le groupe G.

For a simple real Lie group G with Heisenberg parabolic subgroup P, we study the corresponding degenerate principal series representations. For a certain induction parameter the kernel of the conformally invariant system of second order differential operators constructed by Barchini, Kable and Zierau is a subrepresentation which turns out to be the minimal representation. To study this subrepresentation, we take the Heisenberg group Fourier transform in the non-compact picture and show that it yields a new realization of the minimal representation on a space of L²-functions. The Lie algebra action is given by differential operators of order ≤ 3 and we find explicit formulas for the functions constituting the lowest K-type.

These L²-models were previously known for the groups SO(n, n), E₆₍₆₎, E₇₍₇₎ and E₈₍₈₎ by Kazhdan and Savin, for the group G₂₍₂₎ by Gelfand, and for the group SL(3, R) by Torasso, using different methods. Our new approach provides a uniform and systematic treatment of these cases and also constructs new L²-models for E₆₍₆₎, E_7(-5) and E_8(-24) for which the minimal representation is a continuation of the quaternionic discrete series, and for the groups SO(p, q) with either p≥q = 3 or p, q ≥ 4 and p + q even.

As a byproduct of our construction, we find an explicit formula for the group action of a non-trivial Weyl group element that, together with the simple action of a parabolic subgroup, generates G.