Zuviel Werbung? - > Hier kostenlos beim SPS-Forum registrieren

Seite 4 von 4 ErsteErste ... 234
Ergebnis 31 bis 34 von 34

Thema: IBIS LED Anzeige ansteuern

  1. #31
    Registriert seit
    23.07.2009
    Ort
    Österreich
    Beiträge
    2.367
    Danke
    457
    Erhielt 696 Danke für 521 Beiträge

    Standard


    Zuviel Werbung?
    -> Hier kostenlos registrieren
    Zitat Zitat von Thomas_v2.1 Beitrag anzeigen
    Das ist ja in der Tat so, habe ich echt nicht mit gerechnet

    Ich kann aber momentan noch nicht detailliert erklären warum das passiert. Ich hätte gedacht, dass es bei deinem Wertebereich und Anzahl der Stellen da noch keine Probleme geben sollte. Das muss ich mir erst genauer zu Gemüte führen.
    Hätt ich mir eigentlich auch nicht erwartet.

    Wie du siehst wird 0.53*100.0 -> TRUNC -> zu 52.
    TRUNC_052.jpg

    REAL 0.53 entspricht zwar DOUBLE 0.5299999713897705.
    REAL 53 ist aber auch DOUBLE 53.
    Scheint so als würde beim *100.0 die Ungenauigkeit mit übernommen und 52.9999 draus.

    Komisch...
    If at first you don't succeed, you're not Van Damme!
    ... or maybe using TIA!

  2. #32
    Registriert seit
    29.03.2004
    Beiträge
    5.800
    Danke
    144
    Erhielt 1.709 Danke für 1.240 Beiträge

    Standard

    Was ich jetzt gefunden habe, liegt das an der Maschinengenauigkeit
    http://de.wikipedia.org/wiki/Maschinengenauigkeit

    Die Ungenauigkeit ist ein Mantissenbit.
    Bei 53.0 ist der Exponent 2^5
    Das wäre dann 2^5 * 2^23 = 0.000004

    Das Ergebnis nach Multiplikation ist genau um dieses epsilon zu klein d.h. 53 - 0.000004 und beim TRUNC bleiben dann 52 übrig.

    Bei 999.99 hat man den höchsten zu erwartenden Exponent mit 2^9. Dementsprechend könnte 0.00006 addiert werden und es sollte passen.
    Die Frage ist nur, ob es auch mal vorkommen kann, dass der Wert um dieses Epsilon zu groß ist? Wobei das nicht stören sollte, da nach der Multiplikation mit 100.0 die unteren Stellen "frei" werden.

    Ich habe da nicht mit solchen Problemen gerechnet, denn 5+2, also 7 tragende Stellen sollten ja eigentlich noch in Real zu berechnen sein.

  3. #33
    Registriert seit
    22.06.2009
    Ort
    Sassnitz
    Beiträge
    11.316
    Danke
    932
    Erhielt 3.331 Danke für 2.689 Beiträge

    Standard

    Es sollte reichen, das TRUNC durch RND zu ersetzen:
    Code:
    // Komma um 2 Dezimalstellen verschieben 100.00 == 10000
          L     #Wert
          L     1.000000e+002               // Kommastelle verschieben
          *R
          RND
          T     #inWertDInt
    Wo kommt die REAL-Zahl eigentlich her? Wie wird sie berechnet? Wäre es vielleicht genauer, die Weitenmessung (?) in Ganzzahl zu rechnen?

    Harald
    Es ist immer wieder überraschend, wie etwas plötzlich funktioniert, sobald man alles richtig macht.

    FAQ: Linkliste SIMATIC-Kommunikation über Ethernet

  4. #34
    Sternfahrer463 ist offline Neuer Benutzer
    Themenstarter
    Registriert seit
    11.02.2015
    Beiträge
    29
    Danke
    11
    Erhielt 0 Danke für 0 Beiträge

    Standard


    Zuviel Werbung?
    -> Hier kostenlos registrieren
    Bei meiner Weitenmessung zähle ich die Impulse (ein Impuls = 1cm) und wandle anschließend von Int > Dint > Real und teile durch 100 um auf Meter zu kommen.
    Ich kann also auch den Int Wert (in cm) in meinen DB übertragen.

    Christian

Ähnliche Themen

  1. Großtextanzeige/LED-Anzeige
    Von tomatensaft im Forum PC- und Netzwerktechnik
    Antworten: 2
    Letzter Beitrag: 11.10.2012, 12:56
  2. LED Motivationslaufband-Anzeige
    Von ToBo im Forum Elektronik
    Antworten: 6
    Letzter Beitrag: 09.08.2009, 22:48
  3. LED ansteuern OP77
    Von marcelmoonwalker im Forum HMI
    Antworten: 3
    Letzter Beitrag: 30.04.2009, 14:08
  4. LED-Anzeige + Maske
    Von MatthiasH24 im Forum Simatic
    Antworten: 15
    Letzter Beitrag: 08.12.2008, 12:52
  5. LED Anzeige
    Von Dirk LXXVI im Forum Elektronik
    Antworten: 1
    Letzter Beitrag: 10.08.2006, 22:01

Lesezeichen

Berechtigungen

  • Neue Themen erstellen: Nein
  • Themen beantworten: Nein
  • Anhänge hochladen: Nein
  • Beiträge bearbeiten: Nein
  •