Numéro spécial : analyse des données en grande dimension

Comparison of sliced inverse regression approaches for underdetermined cases

[Comparaison d’approches de type SIR (régression inverse par tranches) pour les cas sous-déterminés ($n<p$)]

Coudret, Raphaël  ; Liquet, Benoit  ; Saracco, Jérôme 

Journal de la société française de statistique, Tome 155 (2014) no. 2, pp. 72-96

Abstract (VO)

Among methods to analyze high-dimensional data, the sliced inverse regression (SIR) is of particular interest for non-linear relations between the dependent variable and some indices of the covariate. When the dimension of the covariate is greater than the number of observations, classical versions of SIR cannot be applied. Various upgrades were then proposed to tackle this issue such as regularized SIR (RSIR) and sparse ridge SIR (SR-SIR), to estimate the parameters of the underlying model and to select variables of interest. In this paper, we introduce two new estimation methods respectively based on the QZ algorithm and on the Moore-Penrose pseudo-inverse. We also describe a new selection procedure of the most relevant components of the covariate that relies on a proximity criterion between submodels and the initial one. These approaches are compared with RSIR and SR-SIR in a simulation study. Finally we applied SIR-QZ and the associated selection procedure to a genetic dataset in order to find markers that are linked to the expression of a gene. These markers are called expression quantitative trait loci (eQTL).

Résumé

Parmi les méthodes pour analyser des données de grande dimension, la régression inverse par tranches (sliced inverse regression ou SIR en anglais) est particulièrement intéressante si des relations non-linéaires existent entre la variable à expliquer et des combinaisons linéaires des prédicteurs (appelées indices). Lorsque la dimension de ces prédicteurs est plus grande que le nombre d’observations, les versions classiques de SIR ne peuvent plus être utilisées. Des améliorations diverses comme RSIR et SR-SIR (pour regularized SIR et sparse ridge SIR) ont été proposées dans la litérature pour résoudre ce problème, estimer les paramètres du modèle sous-jacent et enfin réaliser une sélection des prédicteurs les plus pertinents (en un certain sens). Dans cet article, nous introduisons deux nouvelles procédures d’estimation basées respectivement sur l’algorithme QZ et sur l’inverse généralisé de Moore-Penrose. Nous décrivons également une méthode qui repose sur un critère de proximité entre des sous-modèles et le modèle initial pour sélectionner les prédicteurs les plus pertinents. Ces approches sont ensuite comparées avec RSIR et SR-SIR par le biais de simulations. Enfin, nous illustrons, sur un jeu de données génétiques, l’intérêt de l’approche SIR-QZ proposée et de l’algorithme de sélection de prédicteurs associé pour trouver des marqueurs liés á l’expression d’un gène. De tels marqueurs sont appelés expression quantitative trait loci ou eQTL.

Détail

Keywords: dimension reduction, high-dimensional data, semiparametric regression, sparsity
Mots-clés : grande dimension, regression semi-paramétrique, réduction de dimension, sparsité