Gramova matice

V lineární algebře zobecňují Gramovy matice a jejich determinanty míru změny objemu u lineárních zobrazení daných obdélníkovými maticemi, podobně jako tomu činí determinant u čtvercových matic.

Gramovy matice tvořeny skalárními součiny všech dvojic z dané množiny vektorů.

Gramovy matice se ve statistice a strojovém učení využívají pro určení korelace mezi dvěma objekty.

Gramova matice i její determinant nesou jméno dánského matematika Jørgena Pedersena Grama.

Definice

Gramovou maticí ${\boldsymbol {G}}$ určenou vektory ${\boldsymbol {v}}_{1},\dots ,{\boldsymbol {v}}_{n}$ z unitárního prostoru $V$ se rozumí čtvercová matice řádu $n$ jejíž prvky jsou dány skalárními součiny daných vektorů, neboli $g_{ij}=\langle {\boldsymbol {v}}_{i}|{\boldsymbol {v}}_{j}\rangle$ .

Pro standardní skalární součin na komplexním aritmetickém vektorovém prostoru $\mathbb {C} ^{m}$ a vektory ${\boldsymbol {v}}_{1},\dots ,{\boldsymbol {v}}_{n}$ lze Gramovu matici vyjádřit součinem ${\boldsymbol {G}}={\boldsymbol {A}}^{\mathrm {H} }{\boldsymbol {A}}$ , kde sloupce matice ${\boldsymbol {A}}$ tvoří vektory ${\boldsymbol {v}}_{1},\dots ,{\boldsymbol {v}}_{n}$ a ${\boldsymbol {A}}^{\mathrm {H} }$ značí její hermitovskou transpozici. U reálných matic se uvedený vztah zjednoduší na ${\boldsymbol {G}}={\boldsymbol {A}}^{\mathrm {T} }{\boldsymbol {A}}$ , přičemž ${\boldsymbol {A}}^{\mathrm {T} }$ je transpozice matice ${\boldsymbol {A}}$ .

Obecněji lze Gramovu matici definovat i vzhledem k bilineární formě $b\colon V\times V\to T$ na prostoru $V$ nad tělesem $T$ předpisem $g_{ij}=b({\boldsymbol {v}}_{i},{\boldsymbol {v}}_{j})$ .

Gramův determinant, neboli Gramián je determinant Gramovy matice:

\det {\boldsymbol {G}}(v_{1},\dots ,v_{n})={\begin{vmatrix}\langle {\boldsymbol {v}}_{1}|{\boldsymbol {v}}_{1}\rangle &\langle {\boldsymbol {v}}_{1}|{\boldsymbol {v}}_{2}\rangle &\dots &\langle {\boldsymbol {v}}_{1}|{\boldsymbol {v}}_{n}\rangle \\\langle {\boldsymbol {v}}_{2}|{\boldsymbol {v}}_{1}\rangle &\langle {\boldsymbol {v}}_{2}|{\boldsymbol {v}}_{2}\rangle &\dots &\langle {\boldsymbol {v}}_{2}|{\boldsymbol {v}}_{n}\rangle \\\vdots &\vdots &\ddots &\vdots \\\langle {\boldsymbol {v}}_{n}|{\boldsymbol {v}}_{1}\rangle &\langle {\boldsymbol {v}}_{n}|{\boldsymbol {v}}_{2}\rangle &\dots &\langle {\boldsymbol {v}}_{n}|{\boldsymbol {v}}_{n}\rangle \end{vmatrix}}

Alternativně lze Gramův determinant definovat jako $\operatorname {Gram} ({\boldsymbol {A}})=\det({\boldsymbol {A}}^{\mathrm {T} }{\boldsymbol {A}})$ pro matice ${\boldsymbol {A}}\in T^{m\times n}$ .

Výpočet a význam Gramovy matice dvou vektorů v trojrozměrném prostoru. Hodnota odmocniny Gramova determinantu odpovídá ploše vyznačeného rovnoběžníku a dvojnásobku plochy šrafovaného trojúhelníku.

Ukázka

Gramova matice určená reálnými vektory ${\boldsymbol {v}}_{1}=(3,1,2)^{\mathrm {T} }$ a ${\boldsymbol {v}}_{2}=(1,2,1)^{\mathrm {T} }$ vůči standardnímu skalárnímu součinu na $\mathbb {R} ^{3}$ je:

{\boldsymbol {G}}(v_{1},v_{2})={\begin{pmatrix}\langle {\boldsymbol {v}}_{1}|{\boldsymbol {v}}_{1}\rangle &\langle {\boldsymbol {v}}_{1}|{\boldsymbol {v}}_{2}\rangle \\\langle {\boldsymbol {v}}_{2}|{\boldsymbol {v}}_{1}\rangle &\langle {\boldsymbol {v}}_{2}|{\boldsymbol {v}}_{2}\rangle \\\end{pmatrix}}={\begin{pmatrix}3\cdot 3+1\cdot 1+2\cdot 2&3\cdot 1+1\cdot 2+2\cdot 1\\1\cdot 3+2\cdot 1+1\cdot 2&1\cdot 1+2\cdot 2+1\cdot 1\end{pmatrix}}={\begin{pmatrix}14&7\\7&6\end{pmatrix}}

Tutéž matici lze získat i součinem:

{\boldsymbol {G}}(v_{1},v_{2})={\boldsymbol {A}}^{\mathrm {T} }{\boldsymbol {A}}={\begin{pmatrix}3&1&2\\1&2&1\end{pmatrix}}{\begin{pmatrix}3&1\\1&2\\2&1\end{pmatrix}}={\begin{pmatrix}14&7\\7&6\end{pmatrix}}

Gramův determinant matice ${\boldsymbol {A}}$ má hodnotu:

\operatorname {Gram} ({\boldsymbol {A}})=\det {\boldsymbol {G}}(v_{1},v_{2})={\begin{vmatrix}14&7\\7&6\end{vmatrix}}=14\cdot 6-7\cdot 7=35

Vlastnosti

Pomocí Gramovy matice lze testovat lineární nezávislost: dané vektory jsou lineárně nezávislé, právě když odpovídající Gramova matice má nenulový determinant.
Hodnost Gramovy matice vektorů v $\mathbb {R} ^{k}$ nebo $\mathbb {C} ^{k}$ je rovna dimenzi podprostoru generovaného jejími řádky i sloupci.
Protože ${\boldsymbol {G}}={\boldsymbol {G}}^{\mathrm {H} }$ , součin matic ${\boldsymbol {G}}$ a ${\boldsymbol {G}}^{\mathrm {H} }$ komutuje. Každá reálná nebo komplexní Gramova matice ${\boldsymbol {G}}$ je normální.
Gramova matice jakékoli ortonormální báze je jednotková matice. Jinými slovy, Gramova matice řádků nebo sloupců reálné rotační matice je jednotková. Podobně Gramova matice řádků nebo sloupců unitární matice je také jednotková.
Reálná Gramova matice je symetrická, a proto je diagonalizovatelná a její vlastní čísla jsou nezáporná. Diagonalizace Gramovy matice pak odpovídá singulárnímu rozkladu.
Gramův determinant lze také spočítat podle Binetovy–Cauchyho věty jako součet přes druhou mocninu všech maximálních subdeterminantů.

Geometrický význam

Gramův determinant je roven druhé mocnině vnějšího součinu daných vektorů. Jeho druhá odmocnina je tedy rovna objemu rovnoběžnostěnu určeného těmito vektory.

Vzhledem k tomu, že Gramův determinant je nezáporný, lze odmocnit z něj a získat vztah:

\operatorname {Vol} ({\boldsymbol {v}}_{1},\dotsc ,{\boldsymbol {v}}_{n})={\sqrt {\operatorname {Gram} ({\boldsymbol {A}})}}

pro $n$ -rozměrný objem rovnoběžnostěnu určeného vektory ${\boldsymbol {v}}_{1},\dots ,{\boldsymbol {v}}_{n}$ .

Pomocí Gramova determinantu lze spočítat objem simplexu určeného danými vektory; jeho objem je ${\frac {1}{n!}}\operatorname {Vol} ({\boldsymbol {v}}_{1},\dotsc ,{\boldsymbol {v}}_{n})$ .

Ukázka

Plocha rovnoběžníku v prostoru $\mathbb {R} ^{3}$ , jehož strany tvoří vektory ${\boldsymbol {v}}_{1}=(3,1,2)^{\mathrm {T} }$ a ${\boldsymbol {v}}_{2}=(1,2,1)^{\mathrm {T} }$ je rovna odmocnině z Gramova determinantu ${\sqrt {\det {\boldsymbol {G}}(v_{1},v_{2})}}={\sqrt {\begin{vmatrix}14&7\\7&6\end{vmatrix}}}={\sqrt {35}}$ . Trojúhelník, jehož dvě strany tvoří ${\boldsymbol {v}}_{1}$ a ${\boldsymbol {v}}_{2}$ má plochu ${\frac {\sqrt {35}}{2}}$ .

Definitnost

Z definice skalárního součinu vyplývá, že reálná Gramova matice symetrická, zatímco nad komplexními čísly je hermitovská.

Gramova matice reálných vektorů je vždy pozitivně semidefinitní a každá pozitivně semidefinitní matice je Gramovou maticí nějaké množiny vektorů. Tato množina vektorů nemusí být jednoznačně dána; například Gramova matice jakékoliv ortonormální báze je jednotková matice.

Skutečnost, že Gramova matice je pozitivně-semidefinitní, lze odvodit následovně:

{\boldsymbol {x}}^{\mathrm {H} }{\boldsymbol {Gx}}=\sum _{i,j}{\overline {x_{i}}}x_{j}\left\langle {\boldsymbol {v}}_{i}|{\boldsymbol {v}}_{j}\right\rangle =\sum _{i,j}\left\langle x_{i}{\boldsymbol {v}}_{i}|x_{j}{\boldsymbol {v}}_{j}\right\rangle ={\biggl \langle }\sum _{i}x_{i}{\boldsymbol {v}}_{i}{\biggr |}{\biggl .}\sum _{j}x_{j}{\boldsymbol {v}}_{j}{\biggr \rangle }={\biggl \|}\sum _{i}x_{i}{\boldsymbol {v}}_{i}{\biggr \|}^{2}\geq 0

První rovnost vyplývá z definice maticového součinu, druhá a třetí z bilinearity skalárního součinu a poslední z pozitivní definitnosti skalárního součinu. Gramova matice je pozitivně definitní, právě když vektory ${\boldsymbol {v}}_{i}$ jsou lineárně nezávislé (tj. ${\textstyle \sum \limits _{i}x_{i}{\boldsymbol {v}}_{i}\neq {\boldsymbol {0}}}$ pro všechny netriviální kombinace koeficientů $x_{1},\dots ,x_{n}$ ).

Vektorové realizace

Každá komplexní pozitivně semidefinitní matice ${\boldsymbol {M}}$ má rozklad:

{\boldsymbol {M}}={\boldsymbol {B}}^{\mathrm {H} }{\boldsymbol {B}}

,

kde ${\boldsymbol {B}}$ je matice typu $k\times n$ , kde $k$ je hodnost ${\boldsymbol {M}}$ , a ${\boldsymbol {B}}^{\mathrm {H} }$ je její hermitovská transpozice. V reálném případě dokonce existuje rozklad ${\boldsymbol {M}}={\boldsymbol {B}}^{\mathrm {T} }{\boldsymbol {B}}$ . Uvedený rozklad lze získat různými způsoby, například pomocí Choleského rozkladu nebo u pomocí nezáporné druhé odmocniny matice ${\boldsymbol {M}}$ .

Sloupce matice ${\boldsymbol {B}}$ určují $n$ vektorů ${\boldsymbol {b}}_{1},\dots ,{\boldsymbol {b}}_{n}$ z prostoru $\mathbb {C} ^{k}$ (případně z $k$ -rozměrného euklidovského prostoru $\mathbb {R} ^{k}$ , pro reálné matice). Prvky matice ${\boldsymbol {M}}$ pak splňují

m_{ij}={\boldsymbol {b}}_{j}^{\mathrm {H} }{\boldsymbol {b}}_{i}=\langle {\boldsymbol {b}}_{i}|{\boldsymbol {b}}_{j}\rangle

přičemž v prvním případě jde o maticový součin a ve druhém o standardní skalární součin na $\mathbb {C} ^{k}$ .

Hermitovská matice ${\boldsymbol {M}}$ je proto pozitivně semidefinitní, právě když se jedná o Gramovu matici určenou vhodnými vektory ${\boldsymbol {b}}_{1},\dots ,{\boldsymbol {b}}_{n}$ . Tyto vektory se nazývají vektorová realizace matice ${\boldsymbol {M}}$ . Analogické tvrzení pro prostory nekonečné dimenze uvádí Mercerova věta.

Jednoznačnost vektorových realizací

Pokud je ${\boldsymbol {G}}$ Gramova matice vektorů ${\boldsymbol {v}}_{1},\dots ,{\boldsymbol {v}}_{n}$ v $\mathbb {R} ^{k}$ pak použití jakékoli rotace nebo souměrnosti v $\mathbb {R} ^{k}$ (jakákoli ortogonální transformace, tj. jakákoli euklidovská izometrie zachovávající 0) na tuto posloupnost vektorů vede ke stejné Gramově matici. Pro každou ortogonální matici ${\boldsymbol {Q}}$ řádu $k$ proto platí, že Gramova matice odpovídající vektorům ${\boldsymbol {Qv}}_{1},\dots ,{\boldsymbol {Qv}}_{n}$ je také ${\boldsymbol {G}}$ .

Toto je jediný způsob, jak se dvě vektorové realizace reálné matice ${\boldsymbol {G}}$ mohou lišit: vektory ${\boldsymbol {v}}_{1},\dots ,{\boldsymbol {v}}_{n}$ jsou dány jednoznačně až na ortogonální transformace. Jinými slovy, skalární součiny $\langle {\boldsymbol {v}}_{i}|{\boldsymbol {v}}_{j}\rangle$ a $\langle {\boldsymbol {w}}_{i}|{\boldsymbol {w}}_{j}\rangle$ jsou si rovny, právě když na $\mathbb {R} ^{k}$ existuje izometrie, která převádí vektory ${\boldsymbol {v}}_{1},\dots ,{\boldsymbol {v}}_{n}$ na ${\boldsymbol {w}}_{1},\dots ,{\boldsymbol {w}}_{n}$ .

Totéž platí v komplexním případě s unitárními transformacemi namísto ortogonálních. Shoduje-li se komplexní Gramova matice daná vektory ${\boldsymbol {v}}_{1},\dots ,{\boldsymbol {v}}_{n}\in \mathbb {C} ^{k}$ s Gramovou maticí danou vektory ${\boldsymbol {w}}_{1},\dots ,{\boldsymbol {w}}_{n}\in \mathbb {C} ^{k}$ , pak lze nalézt unitární matici ${\boldsymbol {Q}}$ řádu $k$ (neboli matici splňující ${\boldsymbol {Q}}^{\mathrm {H} }{\boldsymbol {Q}}=\mathbf {I}$ ) takovou, že ${\boldsymbol {v}}_{i}={\boldsymbol {Qw}}_{i}$ pro všechna $i=1,\dots ,n$ .

Konstrukce ortonormální báze

Pomocí Gramovy matice ${\boldsymbol {G}}$ odpovídající množině lineárně nezávislých vektorů ${\boldsymbol {v}}_{1},\dots ,{\boldsymbol {v}}_{n}$ lze sestavit ortonormální bázi předpisem:

{\boldsymbol {u}}_{i}=\sum _{j}{\bigl (}{\boldsymbol {G}}^{-1/2}{\bigr )}_{ji}{\boldsymbol {v}}_{j}

Tentýž předpis v maticovém zápisu zní: ${\boldsymbol {U}}={\boldsymbol {VG}}^{-1/2}$ , přičemž sloupce matice ${\boldsymbol {U}}$ tvoří vektory ortonormální báze ${\boldsymbol {u}}_{1},\dots ,{\boldsymbol {u}}_{n}$ a matici ${\boldsymbol {V}}$ dané vektory ${\boldsymbol {v}}_{1},\dots ,{\boldsymbol {v}}_{n}$ .

Existence matice ${\boldsymbol {G}}^{-1/2}$ vyplývá z toho, že ${\boldsymbol {G}}$ je hermitovská, a proto má rozklad ${\boldsymbol {G}}={\boldsymbol {UDU}}^{\mathrm {H} }$ , kde ${\boldsymbol {U}}$ je unitární a ${\boldsymbol {D}}$ je reálná diagonální matice. Vektory ${\boldsymbol {v}}_{1},\dots ,{\boldsymbol {v}}_{n}$ jsou lineárně nezávislé, právě když ${\boldsymbol {G}}$ je pozitivně definitní, což znamená, že prvky na diagonále ${\boldsymbol {D}}$ jsou kladné. Matice ${\boldsymbol {G}}^{-1/2}$ je jednoznačně definována vztahem ${\boldsymbol {G}}^{-1/2}={\boldsymbol {UD}}^{-1/2}{\boldsymbol {U}}^{\mathrm {H} }$ . Takto získané vektory ${\boldsymbol {u}}_{1},\dots ,{\boldsymbol {u}}_{n}$ jsou ortonormální, protože:

{\begin{aligned}\langle {\boldsymbol {u}}_{i}|{\boldsymbol {u}}_{j}\rangle &=\sum _{i'}\sum _{j'}{\Bigl \langle }{\bigl (}{\boldsymbol {G}}^{-1/2}{\bigr )}_{i'i}{\boldsymbol {v}}_{i'}{\Bigr |}{\Bigl .}{\bigl (}{\boldsymbol {G}}^{-1/2}{\bigr )}_{j'j}{\boldsymbol {v}}_{j'}{\Bigr \rangle }\\[10mu]&=\sum _{i'}\sum _{j'}{\bigl (}{\boldsymbol {G}}^{-1/2}{\bigr )}_{ii'}{\boldsymbol {G}}_{i'j'}{\bigl (}{\boldsymbol {G}}^{-1/2}{\bigr )}_{j'j}\\[8mu]&={\bigl (}{\boldsymbol {G}}^{-1/2}{\boldsymbol {GG}}^{-1/2}{\bigr )}_{ij}=\delta _{ij}\end{aligned}}

V odvození byl využit vztah ${\bigl (}{\boldsymbol {G}}^{-1/2}{\bigr )}^{\mathrm {H} }={\boldsymbol {G}}^{-1/2}$ , neboť ${\boldsymbol {G}}^{-1/2}$ je z definice hermitovská.

Aplikace

Přenos stylu obrázku na základě metod souvisejících s Gramovou maticí.
V Riemannově geometrii lze pro dané vnoření $k$ -rozměrného Riemannova mnohostěnu ${\boldsymbol {M}}\subset \mathbb {R} ^{n}$ a parametrizaci $\phi :U\to M$ pro $(x_{1},\ldots ,x_{k})\in U\subset \mathbb {R} ^{k}$ spočítat objemovou formu $\omega$ na ${\boldsymbol {M}}$ vyvolanou vnořením pomocí Gramiánu souřadnicových tečných vektorů:

\omega ={\sqrt {\det {\boldsymbol {G}}}}\ dx_{1}\cdots dx_{k},\quad {\boldsymbol {G}}=\left[\left\langle {\frac {\partial \phi }{\partial x_{i}}}\right|\left.{\frac {\partial \phi }{\partial x_{j}}}\right\rangle \right]

.

Tímto způsobem lze zobecnit klasický povrchový integrál parametrizovaného povrchu

\phi :U\to S\subset \mathbb {R} ^{3}

pro

(x,y)\in U\subset \mathbb {R} ^{2}

:

\int _{S}f\ dA=\iint _{U}f(\phi (x,y))\,\left|{\frac {\partial \phi }{\partial x}}\,{\times }\,{\frac {\partial \phi }{\partial y}}\right|\,dx\,dy.

V metodě konečných prvků vzniká Gramova matice při aproximaci funkce z konečného rozměrového prostoru; položky Gramovy matice jsou pak skalárními součiny bázových funkcí konečně rozměrného podprostoru.
Tvoří-li vektory centrované náhodné veličiny, potom je Gramián přibližně úměrný kovarianční matici, přičemž úměra závisí na délce vektorů.
V teorii řízení (nebo obecněji v teorii systémů) určují vlastnosti lineárního systému Gramián řiditelnosti a Gramián pozorovatelnosti.
Gramovy matice se vyskytují v modelování neuronových sítí pro úpravy stylu obrazu, viz ukázka vpravo.^[1]
Ve strojovém učení jsou jádrové funkce často reprezentovány jako Gramovy matice.^[2]
V kvantové chemii odpovídá Gramova matice vektorů báze matici překrytí.

Odkazy

Poznámky

V tomto článku byly použity překlady textů z článků Gram matrix na anglické Wikipedii a Gramsche Determinante na německé Wikipedii.

Reference

↑ ASOKAN, Raghul. Neural Networks Intuitions: 2. Dot product, Gram Matrix and Neural Style Transfer. Medium [online]. 2019-06-21 [cit. 2024-05-24]. Dostupné online. (anglicky)
↑ LANCKRIET, Gert R. G.; CRISTIANINI, Nello; BARTLETT, Peter. Learning the Kernel Matrix with Semi-Definite Programming. USA: [s.n.] Dostupné online. DOI 10.5555/894170.

Literatura

BEČVÁŘ, Jindřich. Lineární algebra. 1.. vyd. Praha: Matfyzpress, 2019. 436 s. ISBN 978-80-7378-392-1.
HLADÍK, Milan. Lineární algebra (nejen) pro informatiky. 1.. vyd. Praha: Matfyzpress, 2019. 328 s. ISBN 978-80-7378-378-5. S. 39.
MOTL, Luboš; ZAHRADNÍK, Miloš. Pěstujeme lineární algebru [online]. [cit. 2023-02-20]. Dostupné online.

Související články

Externí odkazy

[1] ASOKAN, Raghul. Neural Networks Intuitions: 2. Dot product, Gram Matrix and Neural Style Transfer. Medium [online]. 2019-06-21 [cit. 2024-05-24]. Dostupné online. (anglicky)

[2] LANCKRIET, Gert R. G.; CRISTIANINI, Nello; BARTLETT, Peter. Learning the Kernel Matrix with Semi-Definite Programming. USA: [s.n.] Dostupné online. DOI 10.5555/894170.

[1]

[2]