[Talk-de] Projekt Postleitzahlen

[Tobias Wendorff]

Am So, 21.06.2009, 12:25 schrieb Marc Schütz:

> Die Koordinaten werden in der Datenbank soviel ich weiß als 32bit-Integer
> gespeichert. WIMRE führt das zu einer Genauigkeit von ca. 10-20cm.
> Könnte es
> daran liegen? Punkte auf einen Meter genau festzulegen dürfte aber dann
> trotzdem kein Problem sein.

Nehmen wir folgende Koordinaten (7 Nachkommastellen):

1.
P1 (LAT/LON): 40.0000000, 7.0000000
P2 (LAT/LON): 40.0000000, 7.0000000
Entfernung (Vincenty auf WGS84) mit 0,5mm Genauigkeit: 0,000 m

2.
P1 (LAT/LON): 40.0000000, 7.0000000
P2 (LAT/LON): 40.0000009, 7.0000000
Entfernung (Vincenty auf WGS84) mit 0,5mm Genauigkeit: 0,100 m

3.
P1 (LAT/LON): 40.0000000, 7.0000000
P2 (LAT/LON): 40.0000009, 7.0000009
Entfernung (Vincenty auf WGS84) mit 0,5mm Genauigkeit: 0,126 m

4.
P1 (LAT/LON): 40.0000000, 7.0000000
P2 (LAT/LON): 40.0000000999, 7.0000000999
Entfernung (Vincenty auf WGS84) mit 0,5mm Genauigkeit: 0,014 m

wenn man nun auf 6 Nachkommastellen runtergeht:

5. (P2 wäre die Wirklichkeit, P1 abgekürzt)
P1 (LAT/LON): 40.000000, 7.000000
P2 (LAT/LON): 40.000009, 7.000000
Entfernung (Vincenty auf WGS84) mit 0,5mm Genauigkeit: 0,999 m

6. (P2 wäre die Wirklichkeit, P1 abgekürzt)
P1 (LAT/LON): 40.000000, 7.000000
P2 (LAT/LON): 40.000009, 7.000009
Entfernung (Vincenty auf WGS84) mit 0,5mm Genauigkeit: 1,002 m

7. (P2 wäre die Wirklichkeit, P1 abgekürzt)
P1 (LAT/LON): 40.000000, 7.000000
P2 (LAT/LON): 40.0000009999, 7.000000
Entfernung (Vincenty auf WGS84) mit 0,5mm Genauigkeit: 0,111 m

8. (P2 wäre die Wirklichkeit, P1 abgekürzt)
P1 (LAT/LON): 40.000000, 7.000000
P2 (LAT/LON): 40.0000009999, 7.000000999
Entfernung (Vincenty auf WGS84) mit 0,5mm Genauigkeit: 0,140 m

9. (P2 wäre die Wirklichkeit, P2 gerundet)
P1 (LAT/LON): 40.000000, 7.000000
P2 (LAT/LON): 40.000001, 7.000001
Entfernung (Vincenty auf WGS84) mit 0,5mm Genauigkeit: 0,140 m

Fazit (bezogen auf diese Koordinaten):
Bei 7 Nachkommastellen beträgt der maximale Fehler 1,4 cm.
Bei 6 Nachkommastellen beträgt der maximale Fehler 14,0 cm.

Grüße
Tobias