Den entscheidenden Hinweis habe ich auf http://www.geog.fu-berlin.de/de/Karto/umn_karten/legenden.shtml gefunden: “Der UMN MapServer geht bei der Berechnung des numerischen Maßstabs von einer Bildschirmauflösung von 72 ppi (pixel per inch) aus.”. Damit ergibt sich, dass Zoom 15 am Äquator einen Maßstab von 1:13542 hat, bei 85,051 °N ist er 1:1168. Wenn die Auflösung im Vordergrund steht, muss also der MINSCALEDENOM für Zoom 15 auf 13542 gesetzt werden. Das hat natürlich den Nachteil, dass nahe der Pole ein Layer mit viel zu hoher Auflösung selektiert und die Kacheln runterskaliert werden. Der MAXSCALEDENOM ist entsprechend des nächsten Layers zu wählen. Die 72 ppi ist der Default von RESOLUTION innerhalb von MAP.
Die Projektion habe ich auch hinbekommen. Der richtige Code ist EPSG:3857, die Koordinaten müssen in Metern angegeben. Die Rechenvorschrift dazu habe ich auf http://www.maptiler.org/google-maps-coordinates-tile-bounds-projection/ gefunden. EPSG:3857 ist das Gleiche wie EPSG:900913, wobei 900913 für google steht. EPSG:900913 ist ein mehr oder weniger inoffizieller Code der Projektion, ist aber oft zu finden.
Zu erwähnen ist noch, dass die Eigenschaft von JOSM, Merkator (EPSG:3857) Bilder als WGS84 (EPSG:4326) anzufordern, durch die dabei stattfindende Umprojektion zu geringen Qualitätsverlusten führt. Vor allem Schrift wird dabei unleserlich.
Vielen Dank an SunCobalt für einige entscheidende Hinweise.