Gebäude verschwunden

Meine Theorie ist eher, dass beim Aktualisieren der DB via osm2pgsql irgendetwas mit der planet_osm_polygon-Tabelle schiefgelaufen ist. Also eher kein Bedienfehler im Sinn, dass komplette minutely diffs einfach nicht verarbeitet wurden.

Vom Changeset 42234532 sind ja wie gesagt alle Bäume und Straßen drin, und auch das komplette Changeset liegt in einem einzigen Minutely diff. Wäre das komplette Diff-File übersprungen worden, würden wir auch die Bäume nicht sehen (die sind alle in v1, also erst in diesem Changeset erzeugt).

Wenn es vom osm2pgsql-Lauf noch Logfiles gibt, würde es sich anbieten etwas genauer hinzusehen. Vielleicht ist da irgendein Problem, was möglicherweise später nochmal auftreten kann.

Sven hat mir gesagt, dass er einfach ein paar Diffs nicht importiert hat, weil er den falschen Pfad angegeben hat.

Die Ursache ist schon bekannt und wir wissen auch, wo man das nächste Mal genauer aufpassen muss. Zudem wird man sogar ein paar Diffs mehr importieren als notwendig (das Erzeugen des Planetfiles dauert ja auch eine Weile, während derer neue Diffs veröffentlicht werden). Wenn man das erste Diff wissen möchte, das man auf die Datenbank anwenden muss, kann man mit dem osmium-tool mit

osmium fileinfo planet.osm.pbf -eg data.maxid.nodes

erfahren, welches die höchste Node-ID im Planet ist und dann das Diff suchen, in dem die nächsthöhere ID im -Block enthalten ist.

https://www.openstreetmap.org/#map=18/54.37388/10.22861

Den Rest behalte ich mal lieber für mich, er wäre nicht allzu freundlich.

Ich hatte es mit Humor versucht.
Ok, kommt nicht gut an.

Lars

Das mag sein, erklärt aber nicht die Sache mit den Bäumen. Die dürften dann nicht auf der Karte auftauchen :sunglasses:

Aber gut, letztlich muss Sven das selbst entscheiden. Wir können hier nur Hinweise geben.

Ich bin nicht sicher, ob es relevant ist: (Evtl. die gleiche Sache wie mit den Bäumen, wie es mmd beschrieben hat.)
Wie schon im Eingangspost beschrieben, tauchen zwei der Nodes aus dem betroffenene CS in der Karte auf.
Dies sind neu hinzugefügte Nodes mit Addressinformationen zu denen noch kein building existiert.

Lars

Das mit den Diffs klingt ja einleuchtend, erklärt aber nicht alles, s.o.
Nur als Kuriosum oder falls es Bugfixern irgendwas hilft, hier noch ein anderer Fall, kürzlich im Help-Forum:
Ein Wald mit großem Campinggelände in Holland, in großem Stil umgebaut seit ca. April 2015. Waldteile in Wiesen verwandelt, Seen angelegt, alte Wege gelöscht und neue woanders angelegt, aber abgesehen von den Seen tauchte der Umbau auf der osm-Hauptkarte nie auf:
http://mc.bbbike.org/mc/?lat=52.286108&lon=5.528789&zoom=16&num=2&mt0=mapnik&mt1=osmfr
https://help.openstreetmap.org/questions/46414/multipolygon-not-working-as-expected

Hier ist das Problem, dass nicht nur neue Sachen fehlen, was ja einfach zu fixen wäre, sondern uralte Landuses und Wege noch rumgeistern, die man nicht mehr zu fassen kriegt.
Irgendwann nach längerer Zeit hatte ich einfach einen nagelneuen testway großflächig drübergezeichnet, anschließend erschienen die eingefrorenen Uralt-Tiles KOMPLETT wieder richtig. Waldrand upgedated, alle Wege auf aktuellem Stand. Nach wenigen Minuten den Hilfsway wieder gelöscht, Tiles updated: alles wunderbar.
Das lässt mich an der Fehlenden-Diff Theorie etwas zweifeln.

Es kam aber noch viel kurioser: Paar Monate später zufällig gemerkt - die Uralt-Geister-Tiles sind wieder zurück! Nachdem sie bereits aktualisiert waren, also wieder zurückgesprungen, was ich nun absolut nicht kapiere.
Seitdem hat scai im Helpforum den “Geisterwald” und einen “Geisterpfad” gelöscht gekriegt, immerhin, aber der ganze Rest ist immer noch auf altem Stand. DAS würde nun wiederum zur Diff-Theorie passen! Bin sicher, der neue “kleinere” Wald und neuen Wege würden auftauchen, wenn man sie einfach nochmal hochlädt, aber ob diesmal auch die Geister wieder automatisch verschwinden würden? Mal tun sie’s, mal nicht - nur gut, dass ich das nicht kapieren muss :wink:

Ich habe nochmal etwas die Visualisierung in turbo mit MapCSS verfeinert, so dass man die fehlenden Häuser besser erkennen kann. Ein wahllos herausgegriffener Ausschnitt im südlichen Schwarzwald und Umgebung liefert für den Zeitraum 7.-21. September immerhin > 10.000 fehlende Häuser. Der problematische Zeitraum scheint übrigens auch länger zu sein, als in den vorangehenden Posts genannt.

Ich weiß nicht, wie die Zahl für ganz DE (oder sogar global) aussieht, aber im Worst Case könnte das schnell in den 6-stelligen Bereich laufen. :expressionless:

Vielleicht kann sich Sven vor diesem Hintergrund nochmal überlegen, ob er irgendwann nicht doch mal die Seite für eine Woche einfriert und nochmal neu lädt. Muss ja nicht dieses Jahr sein. Es wäre bestimmt gut investierte Zeit.

Großer Ausschnitt: http://overpass-turbo.eu/s/jLJ
Kleinerer Ausschnitt: http://overpass-turbo.eu/s/jLH

Es sind nicht nur CS um den 16.9.2016 betroffen, sondern auch, wie hier heute geschrieben, um den 9.9.2016.

Nach meinen Nachforschungen sind nicht nur Gebäude betroffen, sondern z.B. auch das Parkhaus aus dem Nachbar-Faden, das nicht als Gebäude, sondern nur als Parkplatz und parking=multi-storey eingetragen ist. Die neuen Wege zum Parkplatz wurden gerendert. Daher bin ich der Meinung, dass alle geschlossenen Ringe betroffen sind und habe Beispiele gefunden:

In der Mitte des Kartenausschnitts fehlt der Springdale-Park
https://www.openstreetmap.de/karte.html?zoom=17&lat=30.27817&lon=-97.68285&layers=B000TF

2 Fehlende Parkplätze in Krakau
https://www.openstreetmap.de/karte.html?zoom=18&lat=50.09104&lon=19.91824&layers=B000TF

Hier fehlen zwei Wohngebiet-Flächen einschließlich der Gebäude
https://www.openstreetmap.de/karte.html?zoom=14&lat=35.48889&lon=50.91742&layers=B000TF

Hier fehlt ein Teich
https://www.openstreetmap.de/karte.html?zoom=18&lat=30.27907&lon=-97.66854&layers=B000TF

Hier fehlen Wohngebiet, Kleingärten und ein Golfplatz
https://www.openstreetmap.de/karte.html?zoom=16&lat=54.7008&lon=-5.95709&layers=B000TF

landuse=farmland fehlt auch
https://www.openstreetmap.de/karte.html?zoom=18&lat=41.77509&lon=-1.20548&layers=B000TF

Hier, nördlich Belgrad sind viele nicht gerenderte Gebäude (alle, die an diesem Tag Hausnummern bekamen). Ebenso fehlen hier die Grünanlagen westlich der Hauptstraße.
https://www.openstreetmap.de/karte.html?zoom=15&lat=44.8762&lon=20.45314&layers=B000TF

Einen merkwürdigen Fall habe ich hier noch:
Herauszoomen um zwei Stufen lässt einige Gebäude, Parkplätze, Parkplatzwege und den Allen Park verschwinden:
https://www.openstreetmap.de/karte.html?zoom=18&lat=40.60251&lon=-75.46651&layers=B000TF
Als ob der Renderer abgebrochen wurde.

Franz

+1 Ich finde, die verlustigen Tiles, welchen Zeitabschnitt auch immer, beschädigen den Anerkennungswert der DE-Karte enorm. Durch diese Problematik stimme ich dem Beitrag von User mmd voll zu. Müßig wäre es dann allerdings, jedweiden Verlust nachzurechechieren und hier zu posten. Also vielleicht erstmal eine Antwort von Sven abwarten.

Es ist relativ einfach, die ganze Sache wieder in Ordnung zu bringen. Da ja wohl die fehlenden Diffs bekannt sind, kann man für den Import das state.txt auf einen Wert vor dem ersten fehlenden Diff zurücksetzen, wobei es auf eine Stunde früher auch nicht ankommt. Hauptsache vor dem ersten fehlenden Diff. Danach den normalen Updateprozess starten und osm2pgsql rollt die ganze Chausse auf. Kann “ein wenig” dauern aber der Betrieb geht ganz gewohnt weiter.

Gruss
walter

:slight_smile:

Kann ich verstehen. Aber irgendwann werden die Gebäude mal angefasst. Sie nur zum Zweck des Neu-Renders anzufassen wäre in der Tat nicht schön, aber irgendwann trägt einer Hausnummern nach, eliminiert Überlappungen etc. Und sobald dem Tilerenderer alle Daten wieder bekannt sind, wird der Kram auch dargestellt.

Fehlende Häuser sind nicht schlimm, aber von dem Fehler sind besonders die großen Flächen (Seen, Wälder, “Landuse”) betroffen, in deren Umriss immer wieder einzelne Punkte eingefügt werden.
Wenn große Wasserflächen wie das Noor bei Eckernförde oder die Oststrecke des Nordostseekanals fehlen, sieht die Karte stark verändert aus.
Vermutlich genügt es nicht, diese Objekte zu bearbeiten, sondern man muss alle in der Zeit erstellten Punkte anfassen.
Will man nicht das Gesamtobjekt mit evtl tausenden Punkten willkürlich verschieben, werden diese Flächen wohl bis zum nächsten Datenbankimport unsichtbar bleiben.

Hallo zusammen,

ich konnte die Datenbank von meinem anderen Tileserver umkopieren. Dadurch sollten die fehlenden Daten jetzt wieder da sein. Beim Windebyer Noor sieht das schon mal gut aus: http://tile.openstreetmap.de/#map=13/54.47/9.8132

Wer weitere Tiles zum re-rendern markieren will kann das über http://tile.openstreetmap.de/ (rechte Maustaste) tun.

Gruss

Sven

Die Häuser aus dem Ursprungspost sind auf der höchsten Zoomstufe noch nicht wiederaufgetaucht.

https://www.openstreetmap.de/karte.html?zoom=18&lat=54.37397&lon=10.22956&layers=B000TF

Hmm, also ich sehe die Häuser nun in der höchsten Zoomstufe auf “OSM deutscher Stil”? Liegt bei dir vielleicht noch etwas altes im Cache? Also http://a.tile.openstreetmap.de/tiles/osmde/18/138520/83704.png zeigt bei mir die Häuser an.

Bitte rufe doch wie ich geschrieben habe http://tile.openstreetmap.de/ auf.

Dort kannst Du nachsehen (rechte Maustaste - open tile info) wann eine Kachel das letzte mal gerendert wurde.

Wenn da was von 1994 steht, dann ist sie schon auf ein altes Datum gesetzt worden und zum neu Rendern vorgesehen.

Ich sehe jedenfalls keine unterschiedlichen Häuser, wenn ich zwischen OSMde und OSM Standard hin und her schalte. Zoomlevel 19 ist Stand 19.11. 16:48 noch nicht neu gerendert, aber das wird in spätestens 1-2 Stunden der Fall sein.

Sven

Danke, indertat war mein lokaler Cache veraltet. :wink: