Sie sind in Kategorie Büro

Brotkrumennavigation


Donnerstag, 15. Juli 2010

OpenOffices Calc rechnet falsch

15.07.2010 · 16:48

OpenOffices Calc rechnet ungenau. Jedenfalls kann es ab der elften Stelle nichts mehr korrekt anzeigen.
Denn seit wann ist denn 1000*(123,45-132,45) nicht mehr -9000?

Formel in Tabellenkalkulation
Fehlberechnung in OpenOffice Calc

Einfach mal die Formel =1000*(123,45-132,45) eingeben und dann das Zellenformat auf 11 oder mehr Nachkommastellen einstellen.

Na gut, das wäre erst ein Fehler ab 10-11, also ab ein Hundertbillionstel.

Wichtig? Kommt eben auf die Genauigkeit an.

Autor: GwenDragon · Kategorie Büro · Permalink · Kommentare (3) · Kommentar schreiben

Kommentare

Kommentare als Feed · Kommentar schreiben

#1 Usul schrieb am 15.7.2010 21:33 folgendes:

Ich kenne dieses Verhalten von Rechenungenauigkeiten bei Gleitkommaoperationen auch bei Java, das ist nichts unübliches. Der Fehler tritt teilweise schon bei absurd trivialen Operationen auf, die man auch im Kopf rechnen könnte und wo man sich fragt, was daran so kompliziert sein soll. Wenn man solche Effekte nicht haben will, muss man fast zwangsläufig auf das Rechnen mit ganzen Zahlen zurückgreifen. Besonders im Finanzbereich macht man eigentlich nichts anderes. Im obigen Beispiel, wenn es sich bei den Zahlen in Klammern um Geldbeträge handeln würde, dann würde man diese in Cent darstellen, anstatt mit Euro und zwei Nachkommastellen zu hantieren. Dann gäbe es keine Probleme.

Mich wundert es etwas, dass du solche Phänomene noch nicht bei eigenen Projekten beobachtet hast. Oder existiert das Problem in Perl (bzw. anderen Sprachen) nicht?

#2 GwenDragon schrieb am 16.7.2010 17:43 folgendes:

Von einer Tabellenkalulation des Jahres 2010 erwarte ich, dass sie solche Fehler nicht macht.

In Perl gibt es auch Rechenungenauigkeiten, ja. Aber finanzmathematische Rechnungen oder andere mit festgelegter Genauigkeit sollten auch nicht als Fließkomma ausgeführt werden.

Nein, ich habe in eigenen Projekten noch keine solchen Fehler gehabt, denn wenn es auf Genauigkeit ankommt rechne ich mit "ganzgroßen" Integers.

#3 GwenDragon schrieb am 4.4.2011 15:15 folgendes:

Der Bug ist auch im OpenOffice-Ableger LibreOffice 3.3.1 vorhanden.

↑Artikel


Kommentar für Blogeintrag

Vorschau des Kommentars

Kommentar

Mit * gekennzeichnete Felder müssen angegeben werden.



(Textformatierung in Markdown möglich)

Hinweis zum Datenschutz

Falls es Probleme mit Kommentaren/Trackbacks gibt, bitte ich um eine Beschreibung per E-Mail.

TrackBack-URL: http://gwendragon.de/blog/Computer/Anwendungen/Buero/openoffice-calc-rechnet-falsch.html/trackback

↑Artikel