-> Hier kostenlos registrieren
Mir ist aufgefallen das beim addieren von Real-Werten ein Rundungsfehler auftritt. Konkret habe ich unten stehenden Code geschrieben um die Impulse von einem Durchlfussmesser in einen Wert zu wandeln. Nach einiger Zeit ergibt sich aber einige stellen hinter dem Komma ein Fehler, woher kommt das, hat das auch schon jemand beobachtet?
Code:
U "M0.5_Taktmerker_1Hz"
FP M 10.1
SPBN WEIT
L MD 20
L 1.000000e-001
+R
T MD 20
WEIT: NOP 0