TIA BUG bei einer CPU1517F-3 Bei Addition REAL Werte ?

Zuviel Werbung?
-> Hier kostenlos registrieren
Dabei wollte ich sicherstellen, dass der Bediener genau 100.0 % in der Gesamtsumme eingibt.
Du kannst es in Ganzzahlen realisieren bzw. "Festkommazahlen", da gibt es die Rundungsfehler nicht. Wenn du z.B. eine Nachkommaziffer bei den Prozenten zulassen willst, dann rechne mit verzehnfachten Festkommazahlen 0 ... 1000 für 0.0 ... 100.0
PS: Oder lasse einen der beteiligten Teilwerte nicht eingeben, sondern gib dem immer den errechneten Rest.
 
Zuletzt bearbeitet:
Zuviel Werbung?
-> Hier kostenlos registrieren
Das ist normal. Bei REAL lassen sich nicht alle Werte perfekt darstellen, dadurch bekommt man eigentlich immer Rundungsfehler in den hinteren Nachkommastellen.
Ja das trifft den Kern des Problems.

Dazu den Aufbau einer Real-Zahl angucken.

Sie besteht aus Basis und Exponent. Damit kann man sehr viele Zahlen mit sehr wenig Zeichen darstellen, man nimmt aber dabei eine gewisse Unschärfe in Kauf.

Bei Failsafe-Programmen arbeite ich drum immer mit Integer, entsprechend skaliert.
 
Zurück
Oben