[Talk-de] Genauigkeit der Koordinaten in der OSM-DB (Nachkommastellen) (Korrekturnachträge)
Christian Müller
cmue81 at gmx.de
Di Jan 14 00:46:51 UTC 2025
[..]
Mit int4 und dem Skalierungsfaktor 10.000.000 liegt demnach
der Maximalwert für eine Längen/Breitenangabe bei
(2^31-1) / 1E7 = 2.147.483.647 / 1E7 = 214,7483647 (Grad)
(EDIT: 2^31-1 geklammert)
[..]
was weder für Breitengrad- (-90 ≤ x ≤ 90) noch Längen-
gradwerte (-180.0 ≤ x ≤ 180.0) ausreichend wäre.
(EDIT: upper bound für Längengrad enthielt copy+paste
Fehler)
Gruß
Mehr Informationen über die Mailingliste Talk-de