La formule des traces relative de Jacquet–Rallis (pour les groupes unitaires ou les groupes linéaires généraux) est une identité entre des périodes des représentations automorphes et des distributions géométriques. Selon Jacquet et Rallis, une comparaison de ces deux formules des traces relatives devrait aboutir à une démonstration des conjectures de Gan–Gross–Prasad et Ichino–Ikeda pour les groupes unitaires. Les termes géométriques des groupes unitaires ou des groupes linéaires sont indexés par les points rationnels d'un espace quotient commun. Nous établissons que ces termes géométriques peuvent être vus comme des fonctionnelles sur des espaces d'intégrales orbitales semi-simples régulières locales. En outre, nous montrons que point par point ces distributions sont en fait égales, via l'identification des espaces d'intégrales orbitales locales donnée par le transfert et le lemme fondamental (essentiellement connus dans cette situation). Cela donne leur comparaison et cela clôt la partie géométrique du programme de Jacquet–Rallis. Notre résultat principal est donc un analogue de la stabilisation de la partie géométrique de la formule des traces due à Langlands, Kottwitz et Arthur.

This paper generalizes the Gan–Gross–Prasad (GGP) conjectures that were earlier formulated for tempered or more generally generic L-packets to Arthur packets, especially for the non-generic L-packets arising from Arthur parameters. The paper introduces the key notion of a relevant pair of Arthur parameters that governs the branching laws for ${{\rm GL}}_n$ and all classical groups over both local fields and global fields. It plays a role for all the branching problems studied in Gan et al. [Symplectic local root numbers, central critical L-values and restriction problems in the representation theory of classical groups. Sur les conjectures de Gross et Prasad. I, Astérisque 346 (2012), 1–109] including Bessel models and Fourier–Jacobi models.

In this paper, we propose a conjectural identity between the Fourier–Jacobi periods on symplectic groups and the central value of certain Rankin–Selberg $L$-functions. This identity can be viewed as a refinement to the global Gan–Gross–Prasad conjecture for $\text{Sp}(2n)\times \text{Mp}(2m)$. To support this conjectural identity, we show that when $n=m$ and $n=m\pm 1$, it can be deduced from the Ichino–Ikeda conjecture in some cases via theta correspondences. As a corollary, the conjectural identity holds when $n=m=1$ or when $n=2$, $m=1$ and the automorphic representation on the bigger group is endoscopic.