search

StichtingRIONED / GWSW_Apps

GWSW Apps - Algemeen (beschrijvingen en reviews)
https://stichtingrioned.github.io/GWSW_Apps
MIT License
3 stars 0 forks source link

HydX: numerieke waarden met 2 decimalen #105

Closed woutervriel closed 2 months ago

woutervriel commented 6 months ago

Numerieke waarden (floats) afronden op 2 decimalen bij conversie naar hydx. Zie bijvoorbeeld veld KNP_BOK in csv knooppunt. Hier staan vaak 15 decimalen.

MarinusVonhof commented 2 months ago

Niet aangepast het GWSW definieert geen nauwkeurigheid en dit is lastig te implementern. De oorzaak ligt (waarchijnlijk?) bij de dataset, daarin staat conform het GWSW een dimensieloos getal of een string met eenheid xsd:decimal. De queries "lopen stuk" op andere eenheden zoals xsd:double (komt voor in oudere Obsurv-exports). Getest op het didactisch stelsel, zie https://apps.gwsw.nl/doc/GwswDataset__DidacStelsel_v1.6.orox.ttl . @woutervriel: kun jij deze reproduceren in de ttl van het voorbeeldbestand (didactisch stelsel)? Voor afgeleide (achteraf berekende) waarden kunnen die 15 decimalen wel voorkomen, is dat misschien het geval?

woutervriel commented 2 months ago

Ja het gaat inderdaad om, op de server, berekende waarden in veld KNP_BOK. Die extreme nauwkeurigheid van 15 decimalen is onoverzichtelijk en onnodig.

Met het didactisch stelsel is het niet reproduceerbaar. In dat bestand zitten enkel 'mooie' getallen die een mooi resultaat opleveren.

MarinusVonhof commented 2 months ago

In de huidige versie (per 20240819) is de afronding van KNP_BOK al geregeld.