Gleitpunktzahl umrechnen

[alonely01]

Zuviel Werbung?
-> Hier kostenlos registrieren

Hallo zusammen,

habe eine kleines Problem.
Ich soll eine Sollwertvorgabe z.B. 500 Impulse (DB1.DBD10) mit einem Faktor z.B. 1,2 gramm/Impulse (DB2.DBD20) multiplizieren um einen Sollwert in gramm zu erhalten.
Danach soll dieses Ergebnis noch gerundet werden. (Ergebnis ist keine Kommazahl).

Dieser Sollwert soll dann in einem vorgegebenen DB abgelegt werden.

Soweit kein Problem, nur in dem DB habe ich nur ein DW zur Verfügung, indem ich dieses Ergebnis speichern kann.

Hat jemand vielleicht eine Hilfe.

Gruß
Robert

 

[marlob]

Also, wenn ich dich richtig verstanden habe, dann darfst du den DB nicht abändern. Was ist denn die grösste Zahl die aus der Berechnung hervorgehen kann. Wenn der DW ein Integer ist, dann kannst du ja Werte bis zu 32767 drin speichern

 

[alonely01]

Zuviel Werbung?
-> Hier kostenlos registrieren

genau..., Marlob.
die DB-Struktur ist fest vorgegeben und nicht änderbar.

Der Wertebereich reicht mir vollkommen aus.
Maximale Zahl ist 5000.

Brauch jetzt eben eine Anweisung, die mir den DBD-Wert richtig in das DW ablegt.

 

[Larry Laffer]

Die Anweisung heißt (z.B.) RND+

Also so :

L DB1.DBD10
DTR
L 1.2
*R
RND+
T DB1.DBW 100

Gruß
LL

 

[peter(R)]

Ich würde aber trotzdem sicherheitshalber prüfen, ob das Ergebnis nach RND+
nicht größer als 32767 ist. Man kann ja nie wissen ....

peter(R)

 

[Gerri]

Zuviel Werbung?
-> Hier kostenlos registrieren

wenn größer dann verwende trunc anstelle RND+

 

[alonely01]

genau das wars... Klasse :s12:

Danke LL

Die Anweisung heißt (z.B.) RND+

Also so :

L DB1.DBD10
DTR
L 1.2
*R
RND+
T DB1.DBW 100

Gruß
LL