INT Funktion in Excel mit Fehlern bei Subtraktionen

Erweise ich mich hier in irgedeiner Weise als unkundig,

Jipp, das liegt am verwendeten Datentyp, Double in Deinem Fall, bzw. dem IEEE Format der realen Zahlen.

http://www.iti.fh-flensburg.de/lang/informatik/ieee-format.htm

Demnach ist 1,2 / 0,4 nicht 3 sondern 2,9999999... irgendwas und INT schneidet hier korrekt den Rest weg.

Sub Test()

Debug.Print Int(1.26 * 100 / 0.42 * 100)

Debug.Print Int(1.23 * 100 / 0.41 * 100)

Debug.Print Int(1.2 * 100 / 0.4 * 100)

Debug.Print Int(1.17 * 100 / 0.39 * 100)

Debug.Print Int(1.14 * 100 / 0.38 * 100)

Debug.Print Int(1.11 * 100 / 0.37 * 100)

Debug.Print Int(1.08 * 100 / 0.36 * 100)

End Sub

Wenn Du einen anderen Datentyp mit höherer Genauigkeit verwendest, dann stimmt es wieder:

Sub Test()

Debug.Print Int(1.26 / CDec(0.42))

Debug.Print Int(1.23 / CDec(0.41))

Debug.Print Int(1.2 / CDec(0.4))

Debug.Print Int(1.17 / CDec(0.39))

Debug.Print Int(1.14 / CDec(0.38))

Debug.Print Int(1.11 / CDec(0.37))

Debug.Print Int(1.08 / CDec(0.36))

End Sub

Sinniger ist es jedoch alle Deine Zahlen mit 100 zu multiplizieren, einen Integer daraus zu machen und dann zu teilen.

Sub Test()

Debug.Print Int(CLng(1.26 * 100) / CLng(0.42 * 100))

Debug.Print Int(CLng(1.23 * 100) / CLng(0.41 * 100))

Debug.Print Int(CLng(1.2 * 100) / CLng(0.4 * 100))

Debug.Print Int(CLng(1.17 * 100) / CLng(0.39 * 100))

Debug.Print Int(CLng(1.14 * 100) / CLng(0.38 * 100))

Debug.Print Int(CLng(1.11 * 100) / CLng(0.37 * 100))

Debug.Print Int(CLng(1.08 * 100) / CLng(0.36 * 100))

End Sub

Sieht hier kryptisch und umständlich aus, ist es aber in der Praxis nicht, wenn man seine verwendeten Variablen ordentlich deklariert. .-)

Andreas.

Hallo Rene,

probiere:

=F12-E12-0,5*(UND(F12-E12>=6;F12-E12<9))-0,75*(F12-E12>=9)

Oder: =F12-E12-WENN(F12-E12>=9;0,75;WENN(F12-E12>=6;0,5;0))

Claus

Nein das haben wir auch schon probiert. Der "Fehler" ist nur mit Excel 2013 mit 2010 ist die Datenverknüpfung brav nur intern auf das Registerfeld und nicht
\\datenpfad\ordner\....

Mir ist klar, dass wir hier über einen kleinen Fehler in der 15 Stelle sprechen. Dennoch ist er absolut unnötig und würde für eine Marssonde tödlich sein!

Unsinn, selbst die NASA rechnet nur mit 15 Nachkommastellen.

https://www.jpl.nasa.gov/edu/news/2016/3/16/how-many-decimals-of-pi-do-we-really-need/

Außerdem ist das eine FAQ, die Rundungsfehler liegen am IEEE 754

Floating-point arithmetic may give inaccurate results in Excel

Understanding Floating Point Precision, aka “Why does Excel
Give Me Seemingly Wrong Answers?” - Microsoft 365 Blog

Verwende das richtige Zellformat oder RUNDEN... wenn es wirklich notwendig ist.

Andreas.

Hallo Andreas

Vielen Dank für die rasche Antwort. Wieder mal was oder gar zweimal was dazu gelernt ;-)

Aufgefallen ist mir die Sache, weil ich eine =WENN(...) Funktion angewendet hatte (wie in einem Beispiel deiner Links) und die dann nicht die erwarteten Resultate ausgespuckt hat. Wenn ich also sicher sein will, dass meine WENN-Funktion das richtige tut,
werde ich künftig wohl immer auch noch RUNDEN müssen :-$ Schade und etwas riskant, weil das auch mal vergessen gehen kann. Und sich dann ein "TRUE" oder "FALSE" auch bei der Nasa auswirken würde... Aber ich verstehe nun das Problem und werde damit leben können
;-)

Auch Andreas.