lehrkraefte:blc:informatik:ffprg1-2020:zahlvar

Differences

This shows you the differences between two versions of the page.

Link to this comparison view

Both sides previous revision Previous revision
Next revision
Previous revision
Last revision Both sides next revision
lehrkraefte:blc:informatik:ffprg1-2020:zahlvar [2021/02/12 18:22]
Ivo Blöchliger [Rundungsregel]
lehrkraefte:blc:informatik:ffprg1-2020:zahlvar [2022/02/10 14:53]
Ivo Blöchliger [Rundungsregel]
Line 25: Line 25:
     * %04d  Vier Stellen für Ganzzahl, mit führenden Nullen aufgefüllt.     * %04d  Vier Stellen für Ganzzahl, mit führenden Nullen aufgefüllt.
  
-Es gibt noch viel mehr Möglichkeiten und Varianten. [[https://docs.python.org/2/library/stdtypes.html#string-formatting|Siehe offizelle Dokumentation]]. In Python3 wird zwar eine andere Variante mit ''.format()'' empfohlen. Die hier präsentierte Variante ist aber so in fast allen Programmiersprachen möglich.+Es gibt noch viel mehr Möglichkeiten und Varianten. [[https://docs.python.org/2/library/stdtypes.html#string-formatting|Siehe offizelle Dokumentation]]. In Python3 wird zwar eine andere Variante mit ''.format()'' empfohlen. Die hier präsentierte Variante ist aber so auch in vielen anderen Programmiersprachen möglich, z.B. in C++, die für die Programmierung von Mikrocontrollern sehr populär ist.
  
  
Line 74: Line 74:
   * "%.1f" % 0.25 -> "0.2"   * "%.1f" % 0.25 -> "0.2"
   * "%.1f" % 0.75 -> "0.8"   * "%.1f" % 0.75 -> "0.8"
-  * Achtung: Viele Zahlen, die mit abbrechenden Dezimalbrüchen dargestellt werden können, können im Binärsystem als Binärbruch nicht abbrechend dargestellt werden (wie z.B. 1/10). Diese Zahlen erscheinen deshalb zufällig gerundet.+  * Achtung: Viele Zahlen, die mit abbrechenden Dezimalbrüchen dargestellt werden können, können im Binärsystem als Binärbruch nicht abbrechend dargestellt werden (wie z.B. 1/10). Diese Zahlen erscheinen deshalb «zufällig» gerundet. Wie z.B. 
 +    * "%.1f" % 0.35 -> "0.3" (anstatt 0.4 wie mit der "Ties to even" Regel erwartet). Der Grund ist, dass "%.20f" % 0.35 -> "0.34999999999999997780" und damit wird abegrundet. 
 +    * "%.1f" % 0.65 -> "0.7" (anstatt 0.6). Grund "%.20f" % 0.65 ->  "0.65000000000000002220"
 ===== Rechenungenauigkeit ===== ===== Rechenungenauigkeit =====
 Was ist die Ausgabe (10 Summanden 0.1): Was ist die Ausgabe (10 Summanden 0.1):
  • lehrkraefte/blc/informatik/ffprg1-2020/zahlvar.txt
  • Last modified: 2022/02/10 14:54
  • by Ivo Blöchliger