[Talk-de] Genauigkeit der Koordinaten in der OSM-DB (Nachkommastellen) (Korrekturnachträge)

[Christian Müller]

[..]
Mit int4 und dem Skalierungsfaktor 10.000.000 liegt demnach
der Maximalwert für eine Längen/Breitenangabe bei

(2^31-1) / 1E7 = 2.147.483.647 / 1E7 = 214,7483647  (Grad)

(EDIT: 2^31-1 geklammert)

[..]
was weder für Breitengrad- (-90 ≤ x ≤ 90) noch Längen-
gradwerte (-180.0 ≤ x ≤ 180.0) ausreichend wäre.

(EDIT: upper bound für Längengrad enthielt copy+paste
Fehler)



Gruß