The twisted Ruelle zeta function on compact hyperbolic orbisurfaces and Reidemeister–Turaev torsion

[Fonction zêta de Ruelle pour les orbifolds hyperboliques de dimension $2$ et torsion de Reidemeister-Turaev]

Bénard, Léo¹ ; Frahm, Jan² ; Spilioti, Polyxeni³

¹ Institut de Mathématiques de Marseille, Aix–Marseille Université Site de Saint Charles, 3 place Victor Hugo, Case 19, 13331 Marseille Cedex 3, France
² Department of Mathematics, Aarhus University Ny Munkegade 118, 8000 Aarhus C, Denmark
³ Mathematisches Institut, Georg–August Universität Göttingen, Bunsenstraße 3–5, 37073 Göttingen, Germany

Journal de l’École polytechnique — Mathématiques, Tome 10 (2023), pp. 1391-1439

Abstract (VO)

Let $X$ be a compact hyperbolic surface with finite order singularities, $X_1$ its unit tangent bundle. We consider the Ruelle zeta function $R(s;\rho )$ associated to a representation $\rho :{\pi }_1\left(X_1\right)\to \mathrm{GL}\left(V_{\rho }\right)$. If $\rho$ does not factor through ${\pi }_1\left(X\right)$, we show that the value at $0$ of the Ruelle zeta function equals the sign-refined Reidemeister–Turaev torsion of $(X_1,\rho )$ with respect to the Euler structure induced by the geodesic flow and to the natural homology orientation of $X_1$. It generalizes Fried’s conjecture to non-unitary representations, and solves the phase and sign ambiguity in the unitary case. We also compute the vanishing order and the leading coefficient of the Ruelle zeta function at $s=0$ when $\rho$ factors through ${\pi }_1\left(X\right)$.

Résumé

Soit $X$ un orbifold hyperbolique de dimension 2, et $X_1$ son fibré unitaire tangent. Étant donnée une représentation $\rho :{\pi }_1\left(X_1\right)\to GL\left(V_{\rho }\right)$, nous étudions dans cet article une fonction zêta dynamique introduite par Ruelle, notée $R(s,\rho )$, associée à la paire $(X_1,\rho )$. Nous montrons que sa valeur en $s=0$ est un invariant topologique, la torsion de Reidemeister-Turaev $tor(X_1,\rho )$, si la représentation $\rho$ ne factorise pas par ${\pi }_1\left(X\right)$. Cela généralise des résultats de Fried, qui avait prouvé $\left|tor(X_1,\rho )\right|=\left|R(0,\rho )\right|$ pour $\rho$ unitaire et classique. Nous levons donc les restrictions sur le choix de $\rho$, et les indéterminations de phase pour la torsion. Pour cela, nous utilisons la structure d’Euler associée au flot géodésique sur $X_1$. Quand la représentation $\rho$ est un relevé d’une représentation de ${\pi }_1\left(X\right)$, nous déterminons son ordre d’annulation en $s=0$, ainsi que son coefficient dominant.

Détail

Reçu le : 2022-03-28
Accepté le : 2023-10-10
Publié le : 2023-11-16

DOI : 10.5802/jep.247

Classification : 11M36, 11F72, 37C30, 57Q10
Keywords: Hyperbolic orbisurface, twisted Ruelle zeta function, non-unitary representation, Reidemeister–Turaev torsion, Selberg trace formula
Mots-clés : Orbifold hyperbolique, fonctions zêta de Ruelle, torsion de Reidemeister-Turaev, formule des traces de Selberg

Licence : CC-BY 4.0

Droits d'auteur : Les auteurs conservent leurs droits