planet dump + daily diffs = бред...

Ezhick · 2010-09-02T19:40:41.000Z

Ну попробую оставить на ночь сравниваться…

UPD: diff отказывается сравнивать, говорит память исчерпана, это при 8 гб оперативки.

Ezhick · 2010-09-02T20:04:58.000Z

Посмотрел глазками начала файлов - сравнивать бесполезно - вообще другое расположение данных, совпадает только первая строка.

AMDmi3 · 2010-09-02T20:30:34.000Z

osmosis сортировать умеет - думается, отсортированные planet и результат применения диффа будут совпадать с точностью до диффа + тех 3GB которые исчезли.

Sergey_Astakhov · 2010-09-02T20:32:27.000Z

Может там просто форматирование разное? Типа там кол-во пробелов, табуляций, \r\n и т.п.

zverik1 · 2010-09-02T20:42:57.000Z

кстати да.
может, были виндовые переводы строк, а стали юниксовые.

AMDmi3 · 2010-09-02T22:33:29.000Z

Вполне может быть, в июньской планете было как раз 2G строк.

Ezhick · 2010-09-03T04:06:24.000Z

zverik:

кстати да.
может, были виндовые переводы строк, а стали юниксовые.

Виндовые? Откуда???

Ezhick · 2010-09-03T04:10:57.000Z

AMDmi3:

Вполне может быть, в июньской планете было как раз 2G строк.

Запустил osmosis --sort потом диффну, посмотрим.

AMDmi3 · 2010-09-03T13:25:23.000Z

Ну или, к примеру вот - в планете в перез закрывающим слешом стоит пробел, в выхлопе осмозиса - нет. Тэгов, правда, всего полмиллиарда.

zgremlin · 2010-09-03T14:59:03.000Z

Ezhick:

Дифф 160 гб файла? И как я потом отловлю какие 200 метров изменение от диффа, а какие левые?

Это уже чрезмерный оптимизм. Если файлы отличаются на 3 гига, то дифф будет не меньше этих 3 гиг. А скорее все 10, при условии идентичности форматирования и сохранения порядка. В данном случае более вероятно около 300 гиг

AMDmi3:

Ну или, к примеру вот - в планете в перез закрывающим слешом стоит пробел, в выхлопе осмозиса - нет. Тэгов, правда, всего полмиллиарда.

Заочно можно очень долго гадать.
Идентичные по сути xml могут отличаться форматированием кардинально.
Вот только несколько моментов:
Незначащие пробелы и переводы кареток:


<tag1><tag2></tag2></tag1>

идентично


   <tag1>
         <tag2>
         </tag2>
   </tag1>

Более того - это же идентично

<tag1><tag2/></tag1>

Можно использовать разные кодировки, можно использовать коды символов (“&32;” вместо простого пробела).
Ну и так далее…

Как вариант, стоит запостить по десятку первых строчек от исходного и получившегося файлов, тогда можно будет оценить хотя бы разницу в форматировании.

P.S. Даже разница в концах строк (2 символа под DOS/Windows и 1 под UNIX/Mac) даст больше, чем замеченные два процента, если средняя длина строки меньше 50 символов.

AMDmi3 · 2010-09-03T15:04:53.000Z

zgremlin, это все и так понятно

Ezhick · 2010-09-03T19:09:57.000Z

подскажите, чем диффнуть два 160 гб файла? первый несколько десятков миллионов строк совпали до символа, дальше meld выжрал всю оперативку и начал дико тормозить систему, пришлось прибить.

AMDmi3 · 2010-09-03T19:42:00.000Z

Обычный GNU diff не канает?

Ezhick · 2010-09-03T19:49:42.000Z

я уже писал, diff вываливается с фразой про недостаточность памяти

Sergey_Astakhov · 2010-09-03T20:07:18.000Z

А если просто grep-ом посчитать кол-во основных тегов и сравнить?

Ezhick · 2010-09-03T20:11:04.000Z

Это как? Я, знаете ли, юрист по образованию Про греп слышал, но юзать не умею

citrin · 2010-09-03T20:24:34.000Z

Ezhick:

Это как? Я, знаете ли, юрист по образованию Про греп слышал, но юзать не умею

Если не более одного тега на строку то

fgrep ‘<way’ dump1.xml | wc -l
fgrep ‘<way’ dump2.xml | wc -l

Sergey_Astakhov · 2010-09-03T21:25:42.000Z

Ezhick:

Это как? Я, знаете ли, юрист по образованию Про греп слышал, но юзать не умею

Ну типа такого:

grep -c “<node” dump.osm

Выдаст кол-во строк в файле, в которых встречается искомая подстрока.

Ezhick · 2010-09-04T07:19:49.000Z

Количество строк я получу, а как я пойму почему они исчезли? Не, тут нужен именно дифф…

mbiker · 2010-09-04T17:16:34.000Z

Ezhick:

подскажите, чем диффнуть два 160 гб файла? первый несколько десятков миллионов строк совпали до символа, дальше meld выжрал всю оперативку и начал дико тормозить систему, пришлось прибить.

Может, так:

Derive a change set between two planet files.

osmosis --read-xml file=“planet2.osm” --read-xml file=“planet1.osm” --derive-change --write-xml-change file=“planetdiff-1-2.osc”