DE:Genauigkeit von Koordinaten
OSM-Datenformat
In der OSM-Datenbank werden die Koordinaten der Punkte als Dezimalzahlen mit sieben Nachkommastellen im BCD-Format gespeichert. Dies ergibt eine Auflösung von 100 Nanograd. Diese Granularität entspricht einer Genauigkeit von 11 mm für den Breitenwert und von mindestens 11 mm für den Längenwert.
Ein Punkt auf der Erdoberfläche liegt damit theoretisch maximal 8 mm von seiner OSM-Koordinate entfernt. Tatsächlich verschieben jedoch die Kontinentaldrift, die Erdgezeiten und andere geotektonische Einflüsse die Teile der Erdoberfläche ständig gegenüber dem WGS84-Bezugssystem. Zum Beispiel wandert der mitteleuropäische Teil der Eurasische Platte jährlich ca. 2,5 cm Richtung Nordosten. Andere Teile der Erdkruste wandern jährlich bis zu 10 cm.
Genauigkeit der Breite
Breitenangabe in Dezimalgrad
mind. 5 Dezimalstellen (Meter-Genauigkeit)
| gg,ggggg° | Dezimalstellen | Größe | gg°mm,mmm' | gg°mm'ss,ss" | Granularität |
|---|---|---|---|---|---|
| 1° | 0 | Grad | 1° | 1° | 111 km = 60 nm |
| 0,1° | 1 | Dezigrad | 0°06' | 0°06' | 11,1 km = 6 nm |
| 0,01° | 2 | Zentigrad | 0°00,6' | 0°00'36" | 1,11 km = 6 kbl |
| 0,001° | 3 | Milligrad | 0°00,06' | 0°00'03,6" | 111 m = 0,6 kbl |
| 0,0001° | 4 | 100 Mikrograd | 0°00,006' | 0°00'00,36" | 11,1 m |
| 0,00001° | 5 | 10 Mikrograd | 0°00,0006' | 0°00'00,04" | 1,11 m |
| 0,000001° | 6 | Mikrograd | 0°00,00006' | 0°00'00,004" | 11,1 cm |
| 0,0000001° | 7 | 100 Nanograd | 0°00,000006' | 0°00'00,0004" | 1,11 cm |
Nautisch: Grad und Dezimalminuten
mind. 4 Dezimalstellen (Meter-Genauigkeit)
Eine Bogenminute bzw. Winkelminute auf einem Meridian entspricht 1 Seemeile = 1,852 Kilometer.
| gg°mm,mmmm' | Dezimalstellen | gg,ggggg° | Meter | Seemeilen |
|---|---|---|---|---|
| 1° | 1° | 111.120 | 60 | |
| 0°10' | -1 | 0,16666667° | 18.520 | 10 |
| 0°01' | 0 | 0,01666667° | 1.852 | 1 |
| 0°00,1' | 1 | 0,00166667° | 185,2 | 0,1 |
| 0°00,01' | 2 | 0,00016667° | 18,52 | 0,01 |
| 0°00,001' | 3 | 0,00001667° | 1,852 | 0,001 |
| 0°00,0001' | 4 | 0,00000167° | 0,185 | 0,0001 |
| 0°00,00001' | 5 | 0,00000017° | 0,019 | 0,00001 |
Angabe in Grad, Bogenminuten und Bogensekunden
mind. 2 Dezimalstellen (Meter-Genauigkeit)
Eine Bogenminute bzw. Winkelminute auf einem Meridian entspricht 1 Seemeile = 1,852 Kilometer.
| gg°mm'ss,ss" | Dezimalstellen | gg,ggggg° | Meter | Seemeilen |
|---|---|---|---|---|
| 1° | 1° | 111.120 | 60 | |
| 0°10' | 0,1666667° | 18.520 | 10 | |
| 0°01' | 0,0166667° | 1.852 | 1 | |
| 0°00'10" | -1 | 0,0027667° | 308,667 | 0,16667 |
| 0°00'01" | 0 | 0,0002767° | 30,867 | 0,01667 |
| 0°00'00,1" | 1 | 0,0000277° | 3,087 | 0,00167 |
| 0°00'00,01" | 2 | 0,0000028° | 0,309 | 0,00016 |
| 0°00'00,001" | 3 | 0,0000003° | 0,031 | 0,00002 |
Genauigkeit der Länge
| Breite | Kosinus |
|---|---|
| 0° | 1 |
| 10° | 0,985 |
| 20° | 0,940 |
| 30° | 0,866 |
| 40° | 0,766 |
| 50° | 0,643 |
| 60° | 0,5 |
| 70° | 0,342 |
| 80° | 0,174 |
Die Genauigkeit einer Längenangabe ist abhängig von der Breite. Je höher die Breite, desto enger rücken die Meridiane zusammen. Der Wert in Metern ist mit dem Kosinus der Breite zu multiplizieren (außer am Äquator). Er ist also in Deutschland (50° N) nur etwa 2/3 so gross, die Genauigkeit ist entsprechend höher.
| gg,ggggg° | Stellen | gg°mm'ss,ss" | 0° | 30° | 45° | 60° | 75° |
|---|---|---|---|---|---|---|---|
| 1° | 1° | 111.120 m | 96.233 m | 78.574 m | 55.560 m | 28.760 m | |
| 0,1° | 1 | 0°06" | 11.112 | 9.623 | 7.857 | 5.556 | 2.876 |
| 0,01° | 2 | 0°00'36" | 1.111 | 962 | 786 | 556 | 288 |
| 0,001° | 3 | 0°00'03,6" | 111 | 96 | 79 | 56 | 29 |
| 0,0001° | 4 | 0°00'00,36" | 11,1 | 9,6 | 7,9 | 5,6 | 2,9 |
| 0,00001° | 5 | 0°00'00,04" | 1,11 | 0,96 | 0,79 | 0,56 | 0,29 |
| 0,000001° | 6 | 0°00'00,004" | 0,111 | 0,096 | 0,079 | 0,056 | 0,028 |
Distanz
- Breitenunterschied
- Breitenunterschied meter = (Breite A dezimal - Breite B dezimal) * 111'120m
- Längenunterschied
- Längenunterschied meter = (Länge A dezimal - Länge B dezimal) * 111'120m * cos Breite
Umrechnung in Dezimal
| Genauigkeit | Nachkommastellen gg,ggg |
|---|---|
| 10 m | 4 |
| 1 m | 5 |
| 0,1 m | 6 |
Wenn Koordinaten von [ggmmss] in [gg,ggg] umgerechnet werden oder umgekehrt, dann entstehen manchmal eine hohe Zahl von Nachkommastellen, die eine grössere Genauigkeit vorgaukeln als tatsächlich vorhanden ist.
Bei Umrechnungen ist es sinnvoll, die Ergebnisse so zu runden, dass sie die ursprüngliche Genauigkeit wiedergeben.
Noch besser wäre ein eigener Schlüssel für Genauigkeit: accuracy=##,# (m)
Umrechnung Gauss-Krüger in WGS 84
Wenn Gauß-Krüger-Koordinaten in Koordinaten des World Geodetic System 1984 (WGS 84) umgerechnet werden oder umgekehrt, dann entstehen je nach verwendeter Formel größere Ungenauigkeiten.
Auch hier können dabei mehr oder weniger Nachkommastellen entstehen, die aber nichts über die Genauigkeit aussagen.
Anzeige und Messgenauigkeit
Achtung: eine vielstellige Anzeige bedeutet nicht eine genaue Messung.
Wenn ein Gerät eine 8-stellige Anzeige für dezimale Koordinaten verwendet, also eine Messung von 1 cm anzeigen könnte, so funktioniert das nur, wenn auch das Gerät selbst eine Messgenauigkeit von 1 cm erreicht. Wenn das Gerät aber beispielsweise wie üblich eine Messgenauigkeit von 10 m aufweist, so dürfen in der 8-stelligen Anzeige die letzten 3 Stellen der Anzeige nicht berücksichtigt werden.
- sinnvolle Anzeigegenauigkeit
Die letzte Stelle der Anzeige entspricht - und erfordert! - folgende Messgenauigkeit:
(bezogen auf den Grosskreis)
|
| |||||||||||||||||||||||||||||||||||||