Accurate calculation of Euclidean Norms using Double-word arithmetic
In: ISSN: 0098-3500 ; ACM Transactions on Mathematical Software ; https://hal.science/hal-03482567 ; ACM Transactions on Mathematical Software, 2023, 49 (1), pp.1-34. ⟨10.1145/3568672⟩, 2023
Online
academicJournal
Zugriff:
International audience ; We consider the computation of the Euclidean (or L2) norm of an n-dimensional vector in floating-point arithmetic. We review the classical solutions used to avoid spurious overflow or underflow and/or to obtain very accurate results. We modify a recently published algorithm (that uses double-word arithmetic) to allow for a very accurate solution, free of spurious overflows and underflows. To that purpose, we use a double-word square-root algorithm of which we provide a tight error analysis. The returned L2 norm will be within very slightly more than 0.5 ulp from the exact result, which means that we will almost always provide correct rounding.
Titel: |
Accurate calculation of Euclidean Norms using Double-word arithmetic
|
---|---|
Autor/in / Beteiligte Person: | Lefèvre, Vincent ; Louvet, Nicolas ; Muller, Jean-Michel ; Picot, Joris ; Rideau, Laurence ; Arithmétiques des ordinateurs, méthodes formelles, génération de code (ARIC) ; Laboratoire de l'Informatique du Parallélisme (LIP) ; École normale supérieure de Lyon (ENS de Lyon)-Université Claude Bernard Lyon 1 (UCBL) ; Université de Lyon-Université de Lyon-Institut National de Recherche en Informatique et en Automatique (Inria)-Centre National de la Recherche Scientifique (CNRS)-École normale supérieure de Lyon (ENS de Lyon)-Université Claude Bernard Lyon 1 (UCBL) ; Université de Lyon-Université de Lyon-Institut National de Recherche en Informatique et en Automatique (Inria)-Centre National de la Recherche Scientifique (CNRS)-Inria Lyon ; Institut National de Recherche en Informatique et en Automatique (Inria) ; Université Claude Bernard Lyon 1 (UCBL) ; Université de Lyon ; Centre National de la Recherche Scientifique (CNRS) ; École normale supérieure de Lyon (ENS de Lyon) ; Sûreté du logiciel et Preuves Mathématiques Formalisées (STAMP) ; Inria Sophia Antipolis - Méditerranée (CRISAM) ; Institut National de Recherche en Informatique et en Automatique (Inria)-Institut National de Recherche en Informatique et en Automatique (Inria) ; ANR-20-CE48-0014,NuSCAP,Sûreté numérique pour les preuves assistées par ordinateur(2020) |
Link: | |
Zeitschrift: | ISSN: 0098-3500 ; ACM Transactions on Mathematical Software ; https://hal.science/hal-03482567 ; ACM Transactions on Mathematical Software, 2023, 49 (1), pp.1-34. ⟨10.1145/3568672⟩, 2023 |
Veröffentlichung: | HAL CCSD ; Association for Computing Machinery, 2023 |
Medientyp: | academicJournal |
DOI: | 10.1145/3568672 |
Schlagwort: |
|
Sonstiges: |
|