Tensor decompositions and algorithms for efficient multidimensional signal processing

Aufgrund des starken Wachstums von Big-Data-Anwendungen, der weit verbreiteten Nutzung von Multisensortechnologien und der Notwendigkeit einer effizienten Datendarstellung sind mehrdimensionale Techniken ein primäres Werkzeug für viele Anwendungen der Signalverarbeitung. Mehrdimensionale Arrays oder Tensoren ermöglichen eine natürliche Darstellung hochdimensionaler Daten. Daher eignen sie sich besonders für Aufgaben mit multimodalen Datenquellen wie biomedizinischen Sensorwerten oder MIMO-Antennenarrays (Multiple Input and Multiple Output). Während tensorbasierte Techniken vor einigen Jahrzehnten noch in den Kinderschuhen steckten, haben sie heute bereits ihre Wirksamkeit in verschiedenen Anwendungsgebieten unter Beweis gestellt.
In der Literatur gibt es viele verschiedene Tensorzerlegungen, die jeweils in verschiedenen Bereichen der Signalverarbeitung Anwendung finden. In dieser Arbeit konzentrieren wir uns auf zwei Tensorfaktorisierungsmodelle: die Rang-(Lr,Lr,1) Block-Term Decomposition (BTD) und die Multilinear Generalized Singular Value Decomposition (ML-GSVD), die wir in dieser Arbeit vorschlagen.
Die ML-GSVD ist eine Erweiterung der Generalized Singular Value Decomposition (GSVD) zweier Matrizen auf den Tensorfall. Die Eigenschaften der ursprünglichen Matrix GSVD machen sie zu einem attraktiven Werkzeug für verschiedene Anwendungen, einschließlich genomischer Signalverarbeitung, MIMO-Relaying, koordinierter Strahlformung, Sicherheit der physikalischen Schicht und Mehrbenutzer-MIMO-Systemen. Da die GSVD jedoch auf zwei Matrizen beschränkt ist, ist ihre Verwendung in der drahtlosen Kommunikation auf zwei Teilnehmer beschränkt. Darüber hinaus hängt dies auch mit der Tatsache zusammen, dass in der Literatur eine Erweiterung der GSVD für mehr als zwei Matrizen fehlte, die auch die Eigenschaften der ursprünglichen Zerlegung erben würde. Daher erweitern wir in dieser Arbeit die GSVD zweier Matrizen auf den Tensorfall unter Beibehaltung ihrer Orthogonalitätseigenschaften und demonstrieren ihre effiziente Anwendung auf Mehrbenutzer-MIMO-Kommunikationssysteme. Wir bieten eine detaillierte Diskussion der ML-GSVD-Unterraumstruktur und schlagen einen Algorithmus zu ihrer Berechnung vor.
Darüber hinaus stellen wir drei Anwendungen der ML-GSVD in MIMO Kommunikationssystemen vor: Multiuser Downlink MIMO Systeme mit gemeinsamer Unicast- und Multicast-Übertragung; nicht-orthogonaler Mehrfachzugriff (NOMA); und Mehrbenutzer-MIMO-Broadcast-Systeme mit Ratenaufteilung am Sender (RSMA). Für diese Anwendungen nutzen wir die Struktur der ML-GSVD mit gemeinsamen und privaten Unterräumen und zeigen, wie die Faktoren des ML-GSVD für den Entwurf der Precoder und Decoder genutzt werden können.
Im anderen Teil der Arbeit konzentrieren wir uns auf die Rang-(Lr,Lr,1) Block-Term Decomposition. Im Gegensatz zur häufigeren Canonical Polyadic (CP)-Zerlegung wurde die Rang-(Lr,Lr,1) BTD noch nicht so umfassend untersucht und weist noch unerforschte Bereiche auf, beispielsweise ihre effiziente Berechnung. Diese Arbeit stellt die Algorithmen zur Berechnung sowohl einzelner als auch gekoppelter Rang-(Lr,Lr,1) Zerlegungen bereit, indem sie die Verbindungen der BTD- mit CP-Zerlegungen ausnutzt. Der vorgeschlagene SECSI-BTD-Algorithmus (SEmi-algebraic Framework for approximate Canonical polyadic decompositions via SImultaneous Matrix Diagonalizations) umfasst die anfängliche Berechnung der Faktorschätzungen, gefolgt von Clustering- und Verfeinerungsverfahren, die den entsprechenden Rang det BTD-Terme zurückgeben. Darüber hinaus stellen wir einen neuen Ansatz zur Schätzung der multilinearen Rangstruktur des Tensors vor, der auf der Singulärwertzerlegung höherer Ordnung (HOSVD) und k-Means-Clustering basiert. Da der vorgeschlagene SECSI-BTD-Algorithmus keine bekannte Rangstruktur erfordert, aber dennoch die bekannten Ränge nutzen kann, sofern verfügbar, ist er flexibler als die in der Literatur vorhandenen Techniken.

Als Anwendung der gekoppelten Rang-(Lr,Lr,1) Zerlegung betrachten wir die Nahfeldlokalisierung in multistatischen MIMO-Radarsystemen. Wir zeigen, wie die BTD zur Parameterschätzung im 3D-Raum basierend auf dem exakten sphärischen Wellenfrontmodell verwendet werden kann.
Abschließend betrachten wir die Anwendung des gekoppelten Rang-(Lr,Lr,1) BTD auf die Elektroenzephalogramm- (EEG) und Magnetoenzephalogramm- (MEG) Aufzeichnungen somatosensorisch evozierter elektrischer Potentiale (SEPs) und somatosensorisch evozierter Magnetfelder (SEFs), um die damit verbundenen Signalkomponenten im 200 Hz Band zu trennen. Im Gegensatz zu aktuellen Arbeiten zu diesen Daten faktorisieren wir gemeinsam den gesamten EEG-MEG-Datensatz, einschließlich der Gradiometermessungen, d. h. wir erhalten eine gekoppelte Rang-(Lr,Lr,1) BTD von vier Tensoren (EEG, MEG-MAG, MEG-GRAD1 und MEG-GRAD2).
Darüber hinaus liefert diese Arbeit Hintergrundmaterial zu den Grundlagen der multilinearen Algebra, gibt einen Überblick über die grundlegenden Matrix- und Tensorzerlegungen und identifiziert zukünftige Forschungsrichtungen.

Due to the extensive growth of big data applications, the widespread use of multisensor technologies, and the need for efficient data representations,  multidimensional techniques are a primary tool for many signal processing applications. Multidimensional arrays or tensors allow a natural representation of high-dimensional data. Therefore, they are particularly suited for tasks involving multi-modal data sources such as biomedical sensor readings or multiple-input and multiple-output (MIMO) antenna arrays. While tensor-based techniques were still in their infancy several decades ago, nowadays, they have already proven their effectiveness in various applications.
There are many different tensor decompositions in the literature, and each finds use in diverse signal processing fields. In this thesis, we focus on two tensor factorization models: the rank-(Lr,Lr,1) Block-Term Decomposition (BTD) and the Multilinear Generalized Singular Value Decomposition (ML-GSVD) that we propose in this thesis.
The ML-GSVD is an extension of the Generalized Singular Value Decomposition (GSVD) of two matrices to the tensor case. The properties of the original matrix GSVD render it an attractive tool for different applications, including genomic signal processing, MIMO relaying, coordinated beamforming, physical layer security, and multiuser MIMO systems. Yet, since the GSVD is restricted to two matrices, its use in wireless communications is limited to two users. Furthermore, this also ties into the fact that the literature lacked the extension of the GSVD for more than two matrices that would also inherit the properties of the original decomposition.  Therefore, in this thesis, we extend the GSVD of two matrices to the tensor case while preserving its orthogonality properties and demonstrate its efficient application to multi-user MIMO communication systems. We provide a detailed discussion of the ML-GSVD subspace structure and propose an algorithm to compute it.
Furthermore, we present three applications of the ML-GSVD in MIMO communication systems: multiuser downlink MIMO systems with joint unicast and multicast transmissions; non-orthogonal multiple access (NOMA); and multi-user MIMO broadcast systems with rate splitting at the transmitter. For these applications, we exploit the structure of the ML-GSVD with common and private subspaces and show how the factors of the ML-GSVD can be used for the design of the precoders and decoders.
In the other part of the thesis, we focus on the rank-(Lr,Lr,1) Block-Term Decomposition. In contrast to the more common Canonical Polyadic (CP)  decomposition, the rank-(Lr,Lr,1) decomposition has not yet been investigated as extensively and still has unexplored areas, such as its efficient computation. This thesis provides the algorithms to calculate both single and coupled rank-(Lr,Lr,1) decompositions by exploiting the connections of the BTD to CP decompositions. The proposed SECSI-BTD (SEmi-algebraic framework for approximate Canonical polyadic decompositions via SImultaneous Matrix Diagonalizations) algorithm includes the initial calculation of the factor estimates, followed by clustering and refinement procedures that return the appropriate rank-(Lr,Lr,1) BTD terms. Moreover, we introduce a new approach to estimate the multilinear rank structure of the tensor based on the higher-order singular value decomposition (HOSVD) and k-means clustering. Since the proposed SECSI-BTD algorithm does not require a known rank structure but can still take advantage of the known ranks when available, it is more flexible than the existing techniques in the literature.
As an application of the coupled rank-(Lr,Lr,1) decomposition, we consider near-field localization in multi-static  MIMO radar systems. We show how the BTD can be employed for parameter estimation in 3D space based on the exact spherical wavefront model.
Finally, we consider the application of the coupled rank-(Lr,Lr,1) BTD to the Electroencephalogram (EEG) and Magnetoencephalogram (MEG) recordings of somatosensory evoked electrical potentials (SEPs) and somatosensory evoked magnetic fields (SEFs) to separate the signal components related to the 200 Hz band activity. In contrast to state-of-the-art works on the EEG and MEG recordings, we perform the fusion of the complete data set, including the gradiometer measurements, i.e., yielding a coupled rank-(Lr,Lr,1) BTD of four tensors (EEG, MEG-MAG, MEG-GRAD1, and MEG-GRAD2).
Additionally, this thesis provides the background material on the fundamentals of multilinear algebra, reviews the basic matrix and tensor decompositions, and identifies future research directions.

Zitieren

Zitierform:
Zitierform konnte nicht geladen werden.

Rechte

Nutzung und Vervielfältigung:
Alle Rechte vorbehalten