Kommastellen in REAL ( mit SCL )

[paula23]

Zuviel Werbung?
-> Hier kostenlos registrieren

Hallo Leute,

ich habe ein Problem mit meinen REAL Zahlen, diese werden nach dem Komma bei der 6ten Stellen einfach gegekürzt, ist das so? Kann man da Abhilfe schaffen?

Ich habe schwierige Berechnungen mit eine paar Zwischenschritten und diese erfordern mehr Kommastellen.

Danke für eine Info.

 

[derwestermann]

Ich fürchte, so isses. Die anhängende Seite findest Du in der Hilfe von Step7.

Ich suche noch, weil ich irgendwo mal einen erweiterten Datentyp Real mit 64 Bit gesehen habe. Ich dachte in der Oscat-Bibliothek, aber da finde ich das nicht mehr.
Oder war es doch irgendwas mit C?

Wenn ich's finde, kommt's hier rein.

 

[paula23]

Zuviel Werbung?
-> Hier kostenlos registrieren

Eine 64-Bit REAL Zahl währe genau das Richtige.

Gibts das in Step 7 ?

 

[vierlagig]

eine 64-bit-zahl gibt es nicht, aber du kannst sie dir selber basteln, mußt dann natürlich auch alle grundoperationen selber nachbilden und ich weiß nicht ob sich der aufwand lohnt...

wofür brauchst du diese genauigkeit? was willst du mit dem so errechneten wert anstellen?
da REAL sowieso einer nicht unerheblichen abweichung unterliegt solltest du dir vielleicht auch die frage stellen, ob du das richtige system für deine berechnungen ausgewählt hast ...

 

[dalbi]

Hallo,

Ich suche noch, weil ich irgendwo mal einen erweiterten Datentyp Real mit 64 Bit gesehen habe. Ich dachte in der Oscat-Bibliothek, aber da finde ich das nicht mehr.
Oder war es doch irgendwas mit C?

die Bausteine zum rechnen mit höherer Genauigkeit befinden sich in der LIB im Ordner "Arithmetik 2 Genauigkeit" (/mathematical/Double Precision/).

Gruss Daniel

 

[derwestermann]

Zuviel Werbung?
-> Hier kostenlos registrieren

Danke Albinus! Ich habe noch die Version 2.71, da gab's Longreal noch nicht.

Ja Paula, ich habe die Oscat-Bibliothek hier angehängt. Da die Bausteine in SCL geschrieben sind, passt's ja.

 

[paula23]

Das heist installieren und dann müssten mir die Long REAL zu Verfügung stehen? Ich werde mal installieren.

 

[vierlagig]

kann mir mal einer meine frage beantworten?

 

[paula23]

Zuviel Werbung?
-> Hier kostenlos registrieren

Ich habe eine Dichte Berechnung von Stoffen mit komplizierten Zwischenrechnungen der Masse bei verschiedenen Zuständen und Temperaturen und dies erfordert teilweise bis 9 Stellen nach dem Komma damit die Dichte stimmt, zur Zeit weicht die 4te Stelle nach dem Komma ab, aber bis zur 4ten Stelle interesiert mit der Wert aber und dieser muss stimmen. Die Berechnung wurde in Fortran und Excel gemacht, in SCL weicht Sie ab und das will ich vermeiden.

Gruss

 

[Jordy]

Wieso hat eine Real Zahl eine nicht unerhebliche ungenauigkeit? Klar, weil man nur paar Kommastellen hat, aber ansonsten?

 

[vierlagig]

Wieso hat eine Real Zahl eine nicht unerhebliche ungenauigkeit? Klar, weil man nur paar Kommastellen hat, aber ansonsten?

suche mal nach real rundungsfehler hier im forum ... da findest du dann auch weiterführende links zu dem thema. desweiteren ist die step7-hilfe zum datentyp real auch recht aussagekräftig ... die großen probleme treten bei berechnungen mit sehr stark abweichenden exponenten auf.

@paula: ist es nicht möglich, die berechnung mit dem faktor hundert oder 1000 durchzuführen? dadurch würdest du zwei bzw. drei nachkommastellen dazu gewinnen

 

[harrylask]

Zuviel Werbung?
-> Hier kostenlos registrieren

guckst du hier

 

[Jordy]

Super, dank Euch.

Werd ich mir nachher mal durchlesen...

 

[paula23]

Clever @vierlagig, das wird wohl das einfachste sein, muss ich mal ausprobieren aber ich denke das kann man hinbekommen.

Kann mir mal jemand die Libary Oscat erkären, zum Thema Long REAL, wie muss ich das im SCL Code verschalten, kein DB kennt REAL2 Format.

Danke.

 

[paula23]

Zuviel Werbung?
-> Hier kostenlos registrieren

@Vierlagig : Ich habe doch aber immer 6 Kommastellen egal ob ich mal oder durch 1000 rechne es werden nicht mehr Kommastellen.

 

[vierlagig]

@Vierlagig : Ich habe doch aber immer 6 Kommastellen egal ob ich mal oder durch 1000 rechne es werden nicht mehr Kommastellen.

aber die kommastellen rücken auf.

bsp.: 1,234567891 würdeste nur so haben: 1,234567 aber mit mal 1000 hast du 1234,567891 - also effektiv drei stellen mehr mußt halt nur zusehen, dass du alle werte auf diese ebene bringen kannst ...

 

[paula23]

@Vierlagig:

Ich habe aber immer nur eine Stelle vorm Komma, 2,123456 E-02 oder x 100 = 2,123456 jedenfalls ist das bei mir so.

 

[vierlagig]

Zuviel Werbung?
-> Hier kostenlos registrieren

@Vierlagig:

Ich habe aber immer nur eine Stelle vorm Komma, 2,123456 E-02 oder x 100 = 2,123456 jedenfalls ist das bei mir so.

...sorry ... mein gedankenfehler ... scheiß real!

 

[marlob]

suche mal nach real rundungsfehler hier im forum ... da findest du dann auch weiterführende links zu dem thema. desweiteren ist die step7-hilfe zum datentyp real auch recht aussagekräftig ... die großen probleme treten bei berechnungen mit sehr stark abweichenden exponenten auf.
...

Dazu haben wir doch was nettes beim Siemens Support gefunden
Wie genau kann ich mit REAL Zahlen rechnen, die in umfangreichen Formeln verwendet werden?

 

[Eliza]

@Vierlagig:

Ich habe aber immer nur eine Stelle vorm Komma, 2,123456 E-02 oder x 100 = 2,123456 jedenfalls ist das bei mir so.

Hab ich da jetzt nen Gedankenfehler drin? Wenn du 2,123456 E-02 hast, dann hast du ja eigentlich 0,02123456. Dann nimmst du halt nicht x100 sonder mal 10000, dann müsstest du 212,3456 bekommen. oder bin ich da jetzt auf dem holzweg?