Deterministische und stochastische Rundungsfehleranalysen von schnellen trigonometrischen Algorithmen in Gleitkomma- bzw. Festkomma-Arithmetik

Katja Ihsberner

doi:10.18453/rosdok_id00000849

Katja Ihsberner

Deterministische und stochastische Rundungsfehleranalysen von schnellen trigonometrischen Algorithmen in Gleitkomma- bzw. Festkomma-Arithmetik

Universität Rostock, 2011

https://doi.org/10.18453/rosdok_id00000849

Abstract: In this thesis, a comprehensive and unified stability analysis for a class of fast DCT (discrete cosine transform) and DST (discrete sine transform) algorithms is performed, both for fixed-point and floating-point arithmetic. Each of them is based on a factorization of the underlying orthogonal transform matrix into a product of sparse orthogonal matrices. Additionally to worst case analysis, also the average case is considered using stochastic models for the relative and absolute roundoff errors. Particularly with regard to applications in digital image processing, the stochastic analysis of roundoff error is done without assuming the data to be uncorrelated or independent.

doctoral thesis free access

title:

Deterministische und stochastische Rundungsfehleranalysen von schnellen trigonometrischen Algorithmen in Gleitkomma- bzw. Festkomma-Arithmetik

contributing persons:

Katja Ihsberner[VerfasserIn]
	1011817993
Manfred Tasche , Prof. Dr. sc. nat.[AkademischeR BetreuerIn]
Manfred Tasche , Prof. Dr. sc. nat.[AkademischeR BetreuerIn]
Gerlind Plonka-Hoch , Prof. Dr. rer. nat. habil.[AkademischeR BetreuerIn]

contributing corporate bodies:

Universität Rostock, Mathematisch-Naturwissenschaftliche Fakultät[Grad-verleihende Institution]
	2147083-2

abstract:

In dieser Dissertation wird eine umfassende und einheitliche Stabilitätsanalyse sowohl in Festkomma- als auch in Gleitkomma-Arithmetik für eine Klasse von schnellen DCT- und DST-Algorithmen durchgeführt, welche auf Faktorisierungen der orthogonalen Transformationsmatrizen in Produkte von dünnbesetzten orthogonalen Matrizen beruhen. Neben Untersuchungen für den ungünstigsten Fall (worst case) wird auch jeweils eine stochastische Rundungsfehleranalyse (average case) durchgeführt, welche ohne die in der Bildverarbeitung selten gegebene Unkorreliertheit der Eingangsdaten auskommt. [German]

In this thesis, a comprehensive and unified stability analysis for a class of fast DCT (discrete cosine transform) and DST (discrete sine transform) algorithms is performed, both for fixed-point and floating-point arithmetic. Each of them is based on a factorization of the underlying orthogonal transform matrix into a product of sparse orthogonal matrices. Additionally to worst case analysis, also the average case is considered using stochastic models for the relative and absolute roundoff errors. Particularly with regard to applications in digital image processing, the stochastic analysis of roundoff error is done without assuming the data to be uncorrelated or independent. [English]

document type:

doctoral thesis

institution:

Faculty for Mathematics and Natural Science

language:

German

subject class (DDC):

510 Mathematics

publication /
production:

Rostock: Universität Rostock

2011

identifiers: