Render Server überlastet ?

Hallo,

kann es sein dass der Render Server von OSM überlastet ist wegen den ganzen neuen Dinge die mit Bing eingetragen werden ?

In dem Gebiet in dem ich kartiere ist an manchen stellen die dinge in den kleineren Zoom Stufen nämlich da und in den näheren nicht, obwohl diese schon ein paar wochen alt sind.

siehe hier :

http://www.openstreetmap.org/?lat=49.34711&lon=9.48587&zoom=16&layers=M

zoomt dann mal weiter rein!

Gefixt. :slight_smile:
Man kann bei Mapnik auch Kacheln zum rendern submitten, indem man sich im Browser das Bild der Kachel anzeigen läßt und dann “/dirty” an die URL anhängt.

Falls es hilft (ist auf Englisch) kann man unter http://help.openstreetmap.org/questions/178/how-often-does-the-main-mapnik-map-get-updated etwas nachlesen wie das ganze funktioniert und wieso verschiedene zoom Stufen unterschiedlich alt sind.

Aber ausgelastet ist der Sever schon gelegentlich http://munin.openstreetmap.org/openstreetmap/yevaud.openstreetmap/#renderd

Das “/dirty” sollte in den meisten faellen nicht noetig sein und bringt haeufig auch nicht viel, gelegentlich ist es aber schon nuetzlich.

Das stimmt, im Normalfall rendert das Mapnik in max. einem Tag, wenn die Serverlast normal ist. Seit dem ich den Parameter kenne, habe ich den auch erst so 1 oder 2x in ca. 4 Monaten gebraucht.

Und wie mach ich das mit der Kachel ?

Für Firefox: Mit der Maus über die betreffende Stelle fahren und eine Rechtsklick machen. Dann “Grafik anzeigen” im Kontextmenü auswählen. Dann die URL abändern und das ganze abschicken.

diese Statistiken gefallen mir… danke für den Link.
Aber, eine Frage zu “System - CPU usage”… ähm… 500% - 700% Auslastung? Sollte das nicht 50 - 70% sein? Oder gibt es dort in diesen Phasen so viele Anfragen an den Server, dass dieser so stark ausgelastet wird, dass man 5 - 7 Server benötigen würde?

Nehh, das passt schon so. Der Server hat nach http://wiki.openstreetmap.org/wiki/Servers/yevaud zwei Vierfachprozessoren, damit insgesamt 8 logische CPUs. Linux berechnet die Prozent Auslastung auf einer einzelnen CPU. Daher 800% heisst in dem Fall, alles voll ausgelastet. 100% wuerde heissen, dass nur einer der 8 CPUs ausgelastet ist.

Duerfte auch so sein, dass immer versucht wird alle CPUs auszulasten, eben mit nachrechnen diverse Tiles. Wenn also 32 CPUs da waeren wurden auch diese verwendet und ausgelastet und Updates wuerden eben noch schneller gehen.

Markus

naja, da die Statistik aber auf 1000% geht, sehe ich es als ein bisschen seltsam an. 100% ist klar… aber 1000%? naja…

Deine Antwort ist irgendwie schon logisch. Aber andererseits findet man relativ wenige 10-Kern-Server. 4, 8, 12, 16 sind normal und Standard. Aber gemäss Deiner Aussage kämen wir somit auf 400, 800, 1200, 1600%. Die 1000% fehlen. Oder haben sie effektiv 10 Cores im Einsatz?

Das ist eher ein Problem der Darstellungsgrafik 800% waere eigentich das moegliche Maximum, alles drueber eigentlich ueberfluessig. Es koennte hoechstens irgendetwas servertechnisches geben womit in der Aufzeichnung auch die 800% gesprengt werden koennten. Das gelbe in der CPU-Lastgrafik ist auch nur auch nur idle, und damit CPU-Daeumchendrehen bzw. Nichtstun. Aber eigenlich hast du auch recht, die Grafik sollte schon bei 800% abgeschnitten sein, so wie bei anderen 2xQuadCores auch. (z.B smaug http://munin.openstreetmap.org/openstreetmap/smaug.openstreetmap/cpu.html))

Markus

Hallo Markus

Es gibt auch Prozessoren wo einzelne Prozessorkerne lastabhängig übertaktet werden können. Das geschieht im wesentlichen direkt in der Hardware des Prozessors. So kann man für einen Prozessorkern durchaus auf mehr als 100% Auslastung in Relation zum nominellen Takt kommen.

Ich weis leider nicht, ob das beim Intel Xeon E5520 von yevaud der Fall ist oder nicht.

Edbert (EvanE)

Ich auch nicht, war aber der Meinung, dass man damit auch nicht ueber 800% kommen kann. Wenn ich mich recht erinnere, funktioniert das kurzzeitige Uebertakten nur, wenn ein Core voll belastet ist und die anderen nichts tun. Was Linux bei derartiger Hardware als CPU-Last angibt waere dann nochmal eine andere Frage …

Markus

Hi,

wenn ich mich nicht irre, läuft “top”(das auch einen batch-modus hat) unter Linux per default im sog. Irix-mode:

Schaltet man auf Solaris-mode um, wird die cpu-usage durch die Anzahl der procs dividiert angezeigt (=> max. 100%).
Das lässt sich auch im ~/.toprc per “Mode_irixps=0” festlegen.

Ciao,
Frank

Der Server hat Hyperthreading. Damit sind es 8 physikalische Cores und 16 logische Cores. Somit koennte das ganze bis 1600% hoch gehen. Die Graphiken sind aber im moment seit ein paar tagen etwas komisch abgeschnitten. Ich kann allerdings grade nicht sagen wieso.

6-Kern (hexa-core) sind bei Intel gang und gäbe, demnächst gibt es Westmere-EX mit 10 (physical) cores; einen 16 (physical) core von Intel gibt es jetzt bitte wo zu kaufen?

Wenn ich %user bis %steal des yevaud zusammenzähle, komme ich auf ~1600 %, so dass ich - ähnlich wie amm - denke, dass er im Hyperthreading fährt: 2 (dual socket) x 4 (QuadCore) x 2 (HT) * 100 % = 1600 % (Irix mode).

Ciao,
Frank

Das ist in dem Fall eine Frage der Darstellung: der Server hat 2-Quad-Corees eingebaut, was 8 physikalische Kerne macht. Programme wie uptime bzw der Kernel, setzen auch 100% Auslastung aller Kerne mit 1.0 also 100% gleich. nur da die Grafiken da immer mehr gestaucht werden wurden, jemehr physikalische Kerne man hat. Deshalb wir es in munim vermutlich hochskaliert auf 800% = 1.0 = Volllast. Hyperthreading ist unter Linux für die Tonne, da erscheinen zwar mehr logische CPUs in der Systemkonfig, aber das bewirkt für die laufenden Anwendungen gar nichts, da ist es egal ist, ob da noch eine zweiter logischer Kern ist, wenn gerade eine Anwendung auf einem physikalischem Kern Vollast macht, ist die der Last aller ihrer logischen Kerne auch auf Vollast.

@fabi2
Schau Dir bitte mal die Graphen genauer an,: Neben der von mir schon erwähnten Summe (=1600) wirst Du sehen,
das nach grün (system), hellblau (user) und gelb (idle) dunkelblau (iowait) komplett fehlt, obwohl dies im milltel “360 %” ausmachen müßte => Der Graph ist abgeschnitten.

Ciao,
Frank

Also ich sehe da keine 1600 und auch nicht, dass da was fehlt.

http://munin.openstreetmap.org/openstreetmap/yevaud.openstreetmap/cpu.html

cur(rent): 35.92 + 492.44 + 0.00 + 640.32 + 477.25 + 1.10 + 4.38 = 1651.41 ~ 1600
=> selbst idle (gelb) wird nicht mehr zu gänze darstellt, von iowait (dunkelblau) ganz zu schweigen.

Schaut Euch mal die Graphen von den anderen Sever an, dort ist iowait (z. B. smaug [jener hat wohl kein HT, nebenbei bemerkt]) sehr wohl vorhanden, die summe der states ergibt wieder die 100% Auslastung respektive 100% * (logical) core-Anzahl (“Irix-mode”).

Das macht mein Ubuntu-Netbook schon so:
Cpu0 : 3.6%us, 2.0%sy, 0.0%ni, 93.4%id, 1.0%wa, 0.0%hi, 0.0%si, 0.0%st
Cpu1 : 7.0%us, 2.9%sy, 0.0%ni, 90.2%id, 0.0%wa, 0.0%hi, 0.0%si, 0.0%st
=> In Summe: 200.1% ~ 200%

Ciao,
Frank