Нельзя ли добавить формулу для distVincenty() из
http://www.movable-type.co.uk/scripts/latlong-vincenty.html
и использовать ее вместо greatCircleDistance ?
При этом, правда, надо бы параметры эллипсоида брать из Datum, а не
просто WGS84:
var a = 6378137, b = 6356752.314245, f = 1/298.257223563; // WGS-84 ellipsoid params
Тогда эта формула будет работать во всех случаях.