Step 7 Unterschiedlich Angezeigte Werte im FC und Variablen Tabelll

Trunschka

Level-2
Beiträge
44
Reaktionspunkte
2
Zuviel Werbung?
-> Hier kostenlos registrieren
Hallo,

ich arbeite mit Step 7 V5.5 SP3. Die eingesetzte CPU ist eine 317-2 PN/DP.

In einem FC mache ich eine Einfache Rechnung wo zwei Variablen vom Format Real von einander abgezogen werden. Der Wert wird dann in einer weiteren Variablen vom Typ Real abgespeichert. Alle Variablen liegen im selben DB. Wobei dies ja egal ist. Also

L Variable 1
L Variable 2
-R
T Variable 3

Im Fc sehe ich dann für Variable 1: 38.03, Variable 2: 37.33 und Variable 3: 0.15
Soweit alles richtig.
Variable 3 wird in einer csv Datei abgespeichert. Hier steht dann der Wert 0.1499977.
Diesen Wert bekomme ich auch angezeigt wenn ich mir über Variable beobachten / steuern den Wert anzeigen lasse. Variable 1 und 2 haben hier den selben Wert wie im FC, nur Variable 3 nicht.
Doppelzuweisungen habe ich kontrolliert und zusätzlich das Ergebniss in einem freien MD gespeichert. Auch hier ist es so das der Wert im FC 0.15 beträgt und in der Variablentabelle 0,1499977

Hat jeamand eine Idee?
Danke im Voraus.

Gruß
Trunschka
 
Das wird wohl das Anzeigeformat sein, wenn du im FC und in der Variablentabelle die Anzeige, z.b auf Hex umstellst sind die dann immernoch unterschiedlich.
Ausn Bauch raus wuerde ich sagen das der FC-Wert fuer die Darstelljng gerundet wird.
 
Zuviel Werbung?
-> Hier kostenlos registrieren
L Variable 1
L Variable 2
-R
T Variable 3

Im Fc sehe ich dann für Variable 1: 38.03, Variable 2: 37.33 und Variable 3: 0.15
Soweit alles richtig.

??? ich komme da auf 0,7

Ansonsten würde ich auf Rundungsfehler durch die Real-Berechnung tippen.

0,1499977 ist doch so gut wie 0,15.

Gruß.
 
Zuletzt bearbeitet:
Also ich komme da auf +0,7:p

Naja Rundungsfehler in der Berechnung würde ich nicht sagen: Der DB rundet einfach für die Ansicht.
Und mit einem Rundungsfehler von 0,153% Sollte man mit leben können wenn das Ergebnis schon um 0,55 abweicht :-D
 
OK sorry,
Variable 2 = 37.88

Wieso sind ab die Werte im FC und in der Tabelle Unterschiedlich?

In Hex sind die Werte gleich!
 
Wie schon gesagt, es liegt wahrscheinlich darum das für die Darstellung gerundet wird
und zwischen 0,15 und 0,1499977 ein minimaler Unterschied ist.

Es stehen überall die gleichen Werte. Du kannst dir das Anhand von Excel erklären.
Wenn du in ein Kästchen 0,1499977 rein schreibst, welches die Formatierung hat das es auf 2 Stellen rundet erhälst du als Ausgabe 0,15.
Aber wenn du in ein anderes Kästchen bezug auf das 1. Kästchen nimmst und dann die Formatierung auf X Stellen nach dem Komma runden einstellst erhälst du ja acuh den Wert 0,1499977.
 
Zuviel Werbung?
-> Hier kostenlos registrieren
Ja das da Rundungsfehler während der Rechnung auftretten will ich nicht abstreiten, aber ich denke in diesem Fall kann man das ausschließen.
Da er ja in der Excel-Tabelle den original Wert wieder hat.
 
wieso Originalwert? Laut Adam Riese ist das Ergebnis 0,15. Der TE erhält in Ecxel aber 0,1499977. Und da hätte ich halt (wenn er sonst alles richtig gemacht hat) auf Rundungsfehler bei der Berechnung getippt.

Gruß.
 
Ja Okay da hast du recht,
aber wissen wir denn ob die Werte die er benutzt 100% die sind die er schreibt?
Oder sind das wieder eingelesene Werte ?
 
Zuviel Werbung?
-> Hier kostenlos registrieren
Variable 1 und 2 werden so im FC, DB, Variablen Tabelle und in der csv so angezeigt.
Variable 3 wird im FC richtig (0,15) angezeigt. In der Variablen Tabelle, im DB und in der csv stehten die 0,1499977
 
Zurück
Oben