s
19 708 Pages

en algèbre linéaire, la La décomposition Singular Value, également connu sous le nom SVD (De l'acronyme La décomposition Singular Value), Il est un particulier factorisation un matrice basée sur l'utilisation de valeurs et vecteurs propres. Étant donné une matrice réel ou complexe de dimension , il est une sorte d'écriture:

est un matrice unitaire taille , est un matrice diagonale taille rectangulaire et est le transposée conjuguée d'une matrice unitaire taille .

Les éléments de ils sont appelés valeur singulière de ; chacun m colonnes il est appelé vecteur singulier gauche tandis que chacun des n colonnes il est appelé droit vecteur singulier. Il vérifie que:

  • Les vecteurs singuliers de gauche sont les valeurs propres de
  • Les vecteurs singuliers de sont les valeurs propres de
  • Les valeurs non nulles particulières de (Trouvé sur diagonale de ) Sont les racines carrées des valeurs propres de non-null et .

histoire

A l'origine, la décomposition de la valeur singulière a été développée par des chercheurs la géométrie différentielle afin de déterminer si un forme bilinéaire Réel pourrait être équivalent à une autre par des transformations orthogonales indépendantes des deux zones prises en compte. Eugenio Beltrami en 1883, et Camille Jordan en 1874, indépendamment l'un de l'autre, ils ont découvert que les valeurs singulières de la forme bilinéaire, représentée dans une matrice, forment un ensemble complet d'invariants de formes bilinéaires. aussi James Joseph Sylvester Il est venu au résultat de SVD, Il semble indépendamment par des études Beltrami et la Jordanie. Sylvester a appelé les valeurs singulières multiplicateurs canoniques de la matrice. Le quatrième mathématicien pour découvrir la décomposition de la valeur singulière a été Autonne Léon, en 1915, qui a atteint sa formulation par l'étude des matrices décomposition polaire. La première démonstration du processus de décomposition des matrices rectangulaires et valeurs complexes semble avoir été produit par Carl Eckart et Gale Young en 1936.

En 1907, Erhard Schmidt Il a appelé un analogue des valeurs singulières pour opérateurs intégraux (Qu'ils sont compacts, sous des hypothèses faibles); il semble que, au cours de ses études, Schmidt ne connaissait pas l'existence de résultats sur la valeur singulière pour les matrices finies. Cette théorie a été développée par Émile Picard en 1910, dont il fut le premier à appeler les numéros « ValeurS singulières » et denotarli .

méthodes pratiques pour le calcul des SVD Ervand kogbetliantz millésimés entre 1954 et 1955 et Magnus Hestenes en 1958 et ont une application similaire à Procédé de Jacobi, en utilisant des rotations du plan ou des rotations de Givens. Ces approches ont été remplacées par la méthode de Gene Golub et William Kahan publié en 1965 (Golub Kahan, 1965), qui est basé sur la transformation de Householder ou réflexions. En 1970, Golub et Christian Reinsch a publié une variante de Golub / Kahan qui est encore l'un des plus utilisés.

définition

les deux une matrice. Ensuite, il existe une factorisation du même sous la forme:

est un matrice unitaire taille , est un matrice diagonale rectangulaire (pas carré mais possède des éléments non nuls uniquement lorsque les indices de ligne et de colonne coïncident) en taille et est le transposée conjuguée d'une matrice unitaire de taille, .

Cette factorisation est indiquée comme factorisation complète SVD. Dans la version normalement utilisée, appelée forme réduite SVD, la matrice Il a la dimension tandis que il est . Les éléments diagonaux de sont les valeur singulière de et ont les propriétés:

On peut montrer que le rang de la matrice Elle est égale à celle de la matrice . En particulier, il est à noter que le rang de Cela dépend des valeurs singulières et c'est précisément égal au nombre de valeurs singulières différent de zéro.

Supposons que nous ayons une matrice avec le grade , alors vous avez cette s _ {{r + 1}} = \ ldots = s _ {{n}} = 0 « /> et la décomposition SVD Il est défini comme suit:

Il est une matrice gauche singulier orthogonale, Il est le transposé conjugué d'une matrice de matrice droit singulier orthogonale et Il est une matrice singulier pour en diagonale (Ie avec des valeurs différentes de zéro).

Le rang de la matrice , et à la suite de la matrice singulière , Ils fournissent la taille réelle des trois matrices , et .

la colonnes de la matrice et lignes de la matrice représenter vecteurs propres orthogonal associé à valeurs propres respectivement et . En d'autres termes, colonnes correspondent à des valeurs singulières différente de zéro de la espace de colonne la matrice et lignes de correspondent aux valeurs singulières différentes de zéro correspondant à rangées d'espace la matrice .

De plus, il est et deux matrices unitaires, profiter des propriétés suivantes:

applications

la SVD Il a de nombreuses applications dans le domaine de l'algèbre linéaire. Tout d'abord, fournit des informations importantes sur la matrice , comme son rang, ce qu'il est son noyau et quel est votre image. Il est utilisé pour définir la pseudo-inverse d'une matrice rectangulaire utile pour la résolution du problème de la moindres carrés. Trouvez également utiliser dans la résolution système d'équations linéaires homogène.

Une autre application importante concerne le rapprochement de la matrice , avec un rang inférieur (SVD tronqué), qui est utilisé dans 'traitement d'image et 'traitement de signal.

Les applications SVD également connues dans le domaine de la 'analyse des composantes principales.[1][2]

exemple

Compte tenu du tableau:

est donnée à une décomposition en valeurs singulières par:

Il a:

Par matrices multipliant ou pour leur transposition respective est obtenue à la suite de la matrice d'identité, à-dire les deux matrices sont orthogonal:

et:

Il est possible de noter, par ailleurs, que la décomposition en valeurs singulières est pas unique pour chaque matrice. Par exemple, le choix de la même matrice , vous pouvez obtenir:

qui est une autre bonne décomposition en valeurs singulières.

notes

  1. ^ Wall-Rechtsteiner-Rocha
  2. ^ (FR) Glenn Tesler, Analyse en composantes principales (ACP) et Décomposition en Valeurs Singulières (SVD) avec des applications à microréseaux (PDF), De math.ucsd.edu, UCSD - Département de mathématiques 2015. Récupéré le 30 Juin, 2017 (déposé 30 juin 2017).

bibliographie

  • (FR) Gene H. Golub, Charles F. Van Loan, calculs de la matrice, 3à édition, Johns Hopkins University Press, 1996 ISBN 0-8018-5414-8.
  • (FR) Lloyd N. Trefethen et David Bau III, algèbre linéaire numérique, Philadelphie, Société de mathématiques appliquées et industrielles, 1997 ISBN 978-0-89871-361-9.
  • (FR) Gene H. Golub et Charles F. Van Loan, matrice Computations, 3, Johns Hopkins, 1996 ISBN 978-0-8018-5414-9.
  • (FR) Horn, Roger A;. Johnson, Charles R., section 7.3, en Analyse de la matrice, Cambridge University Press, 1985 ISBN 0-521-38632-2.
  • (FR) Horn, Roger A;. Johnson, Charles R., chapitre 3, en Sujets dans l'analyse de la matrice, Cambridge University Press, 1991 ISBN 0-521-46713-6.
  • (FR) Samet, H., Fondations des structures de données multidimensionnelles et métriques, Morgan Kaufmann, 2006 ISBN 0-12-369446-9.
  • (FR) G. Strang, section 6.7, en Introduction à l'algèbre linéaire, 3e, Wellesley-Cambridge Press, 1998 ISBN 0-9614088-5-5.
  • (FR) Michael E. Wall, Andreas Rechtsteiner, Luis M. Rocha, décomposition et analyse principale composante valeur Singulier, en D.P. Berrar, W. Dubitzky, M. Granzow (ed) Une approche pratique de l'analyse des données biopuces, Norwell, MA, Kluwer, 2003, pp. 91-109.

Articles connexes

liens externes