Asymptotic sampling formulae for $𝛬$-coalescents

Berestycki, Julien  ; Berestycki, Nathanaël  ; Limic, Vlada 

Annales de l'I.H.P. Probabilités et statistiques, Tome 50 (2014) no. 3, pp. 715-731

Abstract (VO)

We present a robust method which translates information on the speed of coming down from infinity of a genealogical tree into sampling formulae for the underlying population. We apply these results to population dynamics where the genealogy is given by a $𝛬$-coalescent. This allows us to derive an exact formula for the asymptotic behavior of the site and allele frequency spectrum and the number of segregating sites, as the sample size tends to $\infty$. Some of our results hold in the case of a general $𝛬$-coalescent that comes down from infinity, but we obtain more precise information under a regular variation assumption. In this case, we obtain results of independent interest for the time at which a mutation uniformly chosen at random was generated. This exhibits a phase transition at $\alpha =3/2$, where $\alpha \in (1,2)$ is the exponent of regular variation.

Résumé

Nous présentons une méthode robuste qui permet de traduire des informations sur la vitesse de descente de l’infini d’un arbre généalogique en formules d’échantillonnages pour la population sous-jacente. Nous appliquons cette méthode au cas où la génélaogie est donnée par un $𝛬$-coalescent. Nous en déduisons une formule exacte pour le comportement asymptotique du spectre des fréquences alléliques et du nombre de sites de ségrégation, lorsque la taille de l’échantillon tend vers l’infini. Certains de ces résultats sont valides dans le cas général où le coalescent descend de l’infini, tandis que d’autres plus précis sont obtenus sous une hypothèse de variation régulière. Dans ce cas nous obtenons également des résultats, dont l’intérêt dépasse ce contexte, sur le temps auquel une mutation choisie uniformément au hasard est apparue. Il apparaît que cette quantité connaît une transition de phase autour de la valeur $\alpha =3/2$, où $\alpha$ est l’exposant de variation régulière.

Détail

DOI : 10.1214/13-AIHP546

Classification : 60J25, 60F99, 92D25
Keywords: $\varLambda $-coalescents, speed of coming down from infinity, exchangeable coalescents, sampling formulae, infinite allele model, genetic variation