Titel: Minimum Divergence Methods in Statistical Machine Learning: From an Information Geometric Viewpoint
Verlag: Springer
Erscheinungsjahr: 2022
Sprache: Englisch
ISBN-10: 4431569200
ISBN-13: 9784431569206
Einband: Hardcover
Zustand: New

�ber diesen Titel

Inhaltsangabe

This book explores minimum divergence methods of statistical machine learning for estimation, regression, prediction, and so forth, in which we engage in information geometry to elucidate their intrinsic properties of the corresponding loss functions, learning algorithms, and statistical models. One of the most elementary examples is Gauss's least squares estimator in a linear regression model, in which the estimator is given by minimization of the sum of squares between a response vector and a vector of the linear subspace hulled by explanatory vectors. This is extended to Fisher's maximum likelihood estimator (MLE) for an exponential model, in which the estimator is provided by minimization of the Kullback-Leibler (KL) divergence between a data distribution and a parametric distribution of the exponential model in an empirical analogue. Thus, we envisage a geometric interpretation of such minimization procedures such that a right triangle is kept with Pythagorean identity in the sense of the KL divergence. This understanding sublimates a dualistic interplay between a statistical estimation and model, which requires dual geodesic paths, called m-geodesic and e-geodesic paths, in a framework of information geometry.
We extend such a dualistic structure of the MLE and exponential model to that of the minimum divergence estimator and the maximum entropy model, which is applied to robust statistics, maximum entropy, density estimation, principal component analysis, independent component analysis, regression analysis, manifold learning, boosting algorithm, clustering, dynamic treatment regimes, and so forth. We consider a variety of information divergence measures typically including KL divergence to express departure from one probability distribution to another. An information divergence is decomposed into the cross-entropy and the (diagonal) entropy in which the entropy associates with a generative model as a family of maximum entropy distributions; the cross entropy associates with a statistical estimation method via minimization of the empirical analogue based on given data. Thus any statistical divergence includes an intrinsic object between the generative model and the estimation method. Typically, KL divergence leads to the exponential model and the maximum likelihood estimation. It is shown that any information divergence leads to a Riemannian metric and a pair of the linear connections in the framework of information geometry.
We focus on a class of information divergence generated by an increasing and convex function U, called U-divergence. It is shown that any generator function U generates the U-entropy and U-divergence, in which there is a dualistic structure between the U-divergence method and the maximum U-entropy model. We observe that a specific choice of U leads to a robust statistical procedurevia the minimum U-divergence method. If U is selected as an exponential function, then the corresponding U-entropy and U-divergence are reduced to the Boltzmann-Shanon entropy and the KL divergence; the minimum U-divergence estimator is equivalent to the MLE. For robust supervised learning to predict a class label we observe that the U-boosting algorithm performs well for contamination of mislabel examples if U is appropriately selected. We present such maximal U-entropy and minimum U-divergence methods, in particular, selecting a power function as U to provide flexible performance in statistical machine learning.

�ber die Autorin bzw. den Autor

Shinto Eguchi is currently Professor at the Institute of Statistical Mathematics.

Osamu Komori is Associate professor at the Seikei University.

��ber diesen Titel� kann sich auf eine andere Ausgabe dieses Titels beziehen.

Anbieterinformationen

We have 20 years experience selling books worldwide! Friendly customer support. Your satisfaction guaranteed!

Zur Homepage des Verk�ufers

Unternehmensdaten des Verk�ufers

Miramar International Services LLC

Gesch�ftsbedingungen und Versandinformationen

Verkaufsbedingungen

www.californiabooks.com

Widerrufsrecht

Wenn Sie Verbraucher sind, k�nnen Sie gem�� den folgenden Bestimmungen vom Vertrag zur�cktreten. Verbraucher ist jede nat�rliche Person, die zu Zwecken handelt, die nicht ihrer kaufm�nnischen, gewerblichen, k�nstlerischen oder beruflichen T�tigkeit zugerechnet werden k�nnen.

Informationen zum Widerrufsrecht

Gesetzliches Widerrufsrecht

Sie haben das Recht, den Vertrag innerhalb von 14 Tagen ohne Angabe von Gr�nden zu widerrufen.

Die Widerrufsfrist betr�gt 14 Tage ab dem Tag, an dem Sie oder ein von Ihnen benannter Dritter, der nicht der Transporteur ist, die letzte Ware oder den letzten Posten oder das letzte Exemplar in Besitz genommen hat.

Um das Widerrufsrecht auszu�ben, f�llen Sie auf unserer Website unter „Meine Eink�ufe" in „Mein Nutzerkonto" eine eindeutige Erkl�rung elektronisch aus und senden Sie sie ab. Wir werden Ihnen unverz�glich eine Best�tigung �ber den Eingang eines solchen Widerrufs auf einem dauerhaften Datentr�ger (z. B. per E-Mail) �bermitteln.

Um die Widerrufsfrist einzuhalten, reicht es aus, dass Sie Ihre Mitteilung �ber die Aus�bung des Widerrufsrechts vor Ablauf der Widerrufsfrist absenden.

Auswirkungen des Widerrufs

Wenn Sie diesen Vertrag widerrufen, erstatten wir Ihnen alle Zahlungen, die wir von Ihnen erhalten haben, einschlie�lich der Lieferkosten (mit Ausnahme der zus�tzlichen Kosten, die entstehen, wenn Sie eine andere Art der Lieferung als die von uns angebotene g�nstigste Standardlieferung gew�hlt haben).

Wir k�nnen einen Abzug von der R�ckerstattung f�r den Wertverlust der gelieferten Waren vornehmen, wenn der Verlust auf eine unn�tige Behandlung durch Sie zur�ckzuf�hren ist.

Wir werden die R�ckerstattung unverz�glich und nicht sp�ter als 14 Tage nach dem Tag vornehmen, an dem wir �ber Ihre Entscheidung, diesen Vertrag zu widerrufen, informiert wurden.

F�r die R�ckerstattung verwenden wir dasselbe Zahlungsmittel, das Sie f�r die urspr�ngliche Transaktion verwendet haben, es sei denn, Sie haben ausdr�cklich etwas anderes vereinbart; in keinem Fall werden Ihnen aufgrund einer solchen R�ckerstattung Geb�hren berechnet.

Wir k�nnen die R�ckzahlung verweigern, bis wir die Waren wieder zur�ckerhalten haben oder Sie den Nachweis erbracht haben, dass Sie die Waren zur�ckgesandt haben, je nachdem, was eher eintritt.

Sie m�ssen die Waren unverz�glich und in jedem Fall sp�testens 14 Tage ab dem Tag, an dem Sie uns �ber den Widerruf dieses Vertrags unterrichten, an California Books, Fort Wayne, Indiana, U.S.A., zur�cksenden oder �bergeben. Die Frist ist eingehalten, wenn Sie die Ware vor Ablauf der Frist von 14 Tagen zur�cksenden. Sie m�ssen die direkten Kosten der R�cksendung der Waren tragen. Sie haften nur f�r einen etwaigen Wertverlust der Waren, der auf eine Behandlung zur�ckzuf�hren ist, die nicht zur Pr�fung der Art, Eigenschaften und Funktionsweise der Waren erforderlich ist.

Ausnahmen vom Widerrufsrecht

Das Widerrufsrecht gilt nicht f�r:

Die Lieferung von Zeitungen, Zeitschriften oder Magazinen mit Ausnahme von Abonnementvertr�gen; und
Die Lieferung digitaler Inhalte, die nicht auf einem physischen Medium (z. B. auf einer CD oder DVD) geliefert werden, wenn Sie bei Ihrer Bestellung akzeptiert haben, dass wir mit der Lieferung beginnen k�nnen und dass Sie nach Beginn der Lieferung den Vertrag nicht mehr widerrufen k�nnen.

Versandbedingungen

www.californiabooks.com

Versandkosten innerhalb von USA

Versandkosten innerhalb von USA
Bestellmenge	3 bis 7�Werktage	2 bis 5�Werktage
Erster Artikel	EUR 0.00	EUR 10.36

Die Versandzeiten werden von den Verk�uferinnen und Verk�ufern festgelegt. Sie variieren je nach Versanddienstleister und Standort. Sendungen, die den Zoll passieren, k�nnen Verz�gerungen unterliegen. Eventuell anfallende Abgaben oder Geb�hren sind von der K�uferin bzw. dem K�ufer zu tragen. Die Verk�uferin bzw. der Verk�ufer kann Sie bez�glich zus�tzlicher Versandkosten kontaktieren, um einen m�glichen Anstieg der Versandkosten f�r Ihre Artikel auszugleichen.