-> Hier kostenlos registrieren
Hallo,
ich habe folgendes Problem:
nach einen Fu_Linear_2punkt FB bekomme ich eine exponentielle Zahl (real, z.B. 9,15553e-004). Bei der weiteren Verwendung dieses Wertes kommt es zu Problemen. Z.B. bei der ROUND Funktion (Oscat), aber auch z.B. bei der MIN Funktion. Der Wert, der danach angezeit wird wird auch exponentiell dargestellt, obwohl auf eine Kommastalle gerundet werden sollte. Mit "normalen" Real- Zahlen kommt die Funktion aber klar. Ich habe nicht viel Ahnung davon, sieht mir aber nach einem Überlauf aus.
Gibt es dafür eine Lösung und wenn ja: wie sieht diese aus?
danke für die Hilfe,
Andreas
ich habe folgendes Problem:
nach einen Fu_Linear_2punkt FB bekomme ich eine exponentielle Zahl (real, z.B. 9,15553e-004). Bei der weiteren Verwendung dieses Wertes kommt es zu Problemen. Z.B. bei der ROUND Funktion (Oscat), aber auch z.B. bei der MIN Funktion. Der Wert, der danach angezeit wird wird auch exponentiell dargestellt, obwohl auf eine Kommastalle gerundet werden sollte. Mit "normalen" Real- Zahlen kommt die Funktion aber klar. Ich habe nicht viel Ahnung davon, sieht mir aber nach einem Überlauf aus.
Gibt es dafür eine Lösung und wenn ja: wie sieht diese aus?
danke für die Hilfe,
Andreas