mknoellner
Level-1
- Beiträge
- 45
- Reaktionspunkte
- 1
-> Hier kostenlos registrieren
Ich habe ein Problem bei der Umwandlung von Gleitpunktzahlen in Festpunktzahlen. Ja auch schon alles andere durchsucht.
In der S5 928B tritt folgendes auf:
Wenn ich eine Gleitpunktzahl L KG +123 +03 direkt lade und diese mit GFD in eine Festpunktzahl umwandele bekomme ich das Ergebniss 123. Ja so sollte es sein.
Da aber im Programm ein Messwert eingelesen wird z.B. 12,3 (L MD XXX, oder L DD XXX) und ich diesen mit 10,0 multipliziere (damit ich die erste Kommastelle mitnehmen kann) erhalte ich im Gleitpunktformat ebenfalls +123 +03, wenn ich diesen Wert aber nun mit GFD umwandele bekomme ich als Ergebniss 122.
Warum bitte ist dies so? Kann mir jemand helfen?
ich habe auch die werte direkt mit
L KG +123+02 eingegeben bzw
L KG +10 +02 und mit
xG multipliziert, hier kommt das gleiche komische Ergebniss von 122.
In der S5 928B tritt folgendes auf:
Wenn ich eine Gleitpunktzahl L KG +123 +03 direkt lade und diese mit GFD in eine Festpunktzahl umwandele bekomme ich das Ergebniss 123. Ja so sollte es sein.
Da aber im Programm ein Messwert eingelesen wird z.B. 12,3 (L MD XXX, oder L DD XXX) und ich diesen mit 10,0 multipliziere (damit ich die erste Kommastelle mitnehmen kann) erhalte ich im Gleitpunktformat ebenfalls +123 +03, wenn ich diesen Wert aber nun mit GFD umwandele bekomme ich als Ergebniss 122.
Warum bitte ist dies so? Kann mir jemand helfen?
ich habe auch die werte direkt mit
L KG +123+02 eingegeben bzw
L KG +10 +02 und mit
xG multipliziert, hier kommt das gleiche komische Ergebniss von 122.
Zuletzt bearbeitet: