Differences

This shows you the differences between two versions of the page.

--- lehrkraefte:blc:informatik:ffprg1-2020:zahlvar [2022/02/08 07:39]
Ivo Blöchliger [Format-Strings]
+++ lehrkraefte:blc:informatik:ffprg1-2020:zahlvar [2022/02/10 14:54] (current)
Ivo Blöchliger [Rundungsregel]
@@ Line 72: / Line 72: @@
 ===== Rundungsregel =====
 "%.2f" rundet mit der [[https://en.wikipedia.org/wiki/IEEE_754#Rounding_rules|Ties to even rule]], so ergibt z.B.
-  * "%.1f" % 0.25 -> "0.2"
+    * ''"%.1f" % 0.25 -> "0.2"''
-  * "%.1f" % 0.75 -> "0.8"
+  * ''"%.1f" % 0.75 -> "0.8"''
-  * Achtung: Viele Zahlen, die mit abbrechenden Dezimalbrüchen dargestellt werden können, können im Binärsystem als Binärbruch nicht abbrechend dargestellt werden (wie z.B. 1/10). Diese Zahlen erscheinen deshalb zufällig gerundet.
+  * Achtung: Viele Zahlen, die mit abbrechenden Dezimalbrüchen dargestellt werden können, können im Binärsystem als Binärbruch nicht abbrechend dargestellt werden (wie z.B. 1/10). Diese Zahlen erscheinen deshalb «zufällig» gerundet. Wie z.B.
+    * ''"%.1f" % 0.35 -> "0.3"'' (anstatt 0.4 wie mit der "Ties to even" Regel erwartet). Der Grund ist, dass ''"%.20f" % 0.35 -> "0.34999999999999997780"'' und damit wird abgerundet.
+    * ''"%.1f" % 0.65 -> "0.7"'' (anstatt 0.6). Grund ''"%.20f" % 0.65 ->  "0.65000000000000002220"''
 ===== Rechenungenauigkeit =====
 Was ist die Ausgabe (10 Summanden 0.1):