STRING_TO_REAL Nachkommastellen (TC2)

[klaus313]

Zuviel Werbung?
-> Hier kostenlos registrieren

Hi,
hab folgendes Problem:

var :=STRING_TO_REAL ('3.223'); -> RESULT 3.223
var :=STRING_TO_REAL ('250661.223'); -> RESULT 250661

Bei größeren Zahlen werden die Nachkommastellen abgeschnitten.
Wie kann ich das verhindern? ( Das Stringformat kann ich leider nicht beeinflussen)

Danke
Klaus

 

[DeltaMikeAir]

Ich kenne mich mit TC2 nicht aus aber kann es sein, dass man es in exponential Schreibweise angeben muss?
Was sagt deine Hilfe dazu?

var := STRING_TO_REAL('+1.2300000E+02');

 

[PN/DP]

Zuviel Werbung?
-> Hier kostenlos registrieren

Der REAL-Datentyp kann nur 6 bis 7 Ziffern und rundet grundsätzlich zur nächsten darstellbaren Zahl. Vermutlich trickst das TC2 auch noch bei der Anzeige des REAL-Wertes und zeigt nur max 6 Ziffern an.
Brauchst Du mehr Ziffern, dann müsstest Du auf LREAL gehen - gibt es LREAL bei TC2 ? Meinst Du daß es beim Wert 250000 auf einen Rundungsfehler von 0.00425 (oder höchstens 0.223) drauf ankommt?
IEEE-754 Konverter für Fließkommazahlen

Harald

 

[Fx64]

Hallo,
in der TcUtilities.lib sind einige mehr Bausteine. Denke dort wirst Du etwas passendes finden. LREAL_TO_FMTSTR und FB_FormatString zum Beispiel.

Viele Grüße

 

[PN/DP]

Der TE braucht die Konvertierung umgekehrt von String zu (L)REAL.

Harald

 

[Fx64]

Zuviel Werbung?
-> Hier kostenlos registrieren

Stimmt, war noch zu früh. Stimmt, dann Dein Hinweis als LREAL zu handeln.

 

[klaus313]

Danke Euch, mit LREAL wird die Zahl korrekt konvertiert