Форум » [x]Harbour » Мусор в базах... » Ответить
Мусор в базах...
Loach: Может кто сталкивался с такой гадостью: Задачка работает у пользователей (все базы в shared режиме, но чаще всего на 1 компе у каждого). Базы без индексов не открываются. И иногда создается такое впечатление, что кто-то или что-то дописывает какой-то мусор (типа куски памяти, куски баз, куски индексов) в конец базы. ПРИЧЕМ! индексы при этом не трогаются, остаются красивыми. В итоге при следующем входе в программу все работает корректно, к базе добавляются строки, мусор не виден до первой переиндексации. Понимаю, что сумбурно все объяснил, но может у кого какие мысли будут? Пы.Сы. XHarbour 0.99.51 + FWH 2.5
Ответов - 36, стр:
1 2 All
Dima: Воспользуйся поиском по слову мусор
Pasha: Возможно, при аварийном завершении программы увеличивается размер файла. При этом в конце файла оказываются произвольные данные. А количество записей в заголовке dbf соответствует размеру файла ? Это можно увидеть только в момент появления мусора, только этот момент надо поймать
Andrey: Смотри: http://clipper.borda.ru/?1-4-0-00000279-000-0-0-1202064489 Вообще в нормальных прогах (типа БЭСТ или других) предусмотрено поле в базе с контрольной суммой записи. И при индексации или другой "починки DBF-ника" идет проверка. Если не соответствует контрольная сумма записи, то это мусор и запись удаляется. У меня тоже такой мусор появляется, только за компами в других городах не уследишь...
Loach: СпасиБо всем! Буду думать над Вариантом с контрольной суммой. У себя я сделал пунктик "Проверка корректности баз". Там открываю базу как двоичный файл и чешу по каждой записи проверяя чтобы в числовых полях и датах стояли цифры. Но этот способ выбраковки не идеален Вообще-то я заметил такую штуку: Программа стоит где-то в 20 разных местах у разных пользователей. Так вот есть люди, у которых вообще никогда такой гадости не появляется, хотя базы у них одни из самых больших. Может все-таки дело в операционках? В основном такое бывает если работают на W98 ...
Loach: Провел такой Експеримент: Вышел из программы. Вручную дописал к базе двоичный мусор. Зашел в программу. В итоге все красиво. Число записей в заголовке кривое, но прога работает без проблем как часы. Причем разные dbвьюеры реагируют по-разному: кто предлагает скорректировать заголовок, а кто работает без вопросов (и показывает мусор в конце). А вообще, те у кого такое возникает, на чем программы у вас писаны? Прросто охота локализовать проблемму: может дело в хХарборе, может в конкретной его версии???
Andrey: Loach пишет: А вообще, те у кого такое возникает, на чем программы у вас писаны? У меня такое бывало и на Клипере и на хХарборе. И на слабых машинах и на хороших. И под 98 и под ХР. Вирус тоже вносит вклад в дописывание мусора. Статистика: на 30 различных компов у 2-3 машины образуются такой мусор в файлах.
Vlad04: У меня было на хХарборе при некоректном завершении работы на рабочей станции. Практически исчезло после того как, на рабочих станциях при операции добавления записей стал использовать локальную базу рабочей станции. После того как завершал редактирование - добавлял в основную. Но клиппер такого не было в таком виде. Там свои заморочки
Andrey: Всем привет ! WinXP в качестве сервера, доп. станция тоже ХР. Вот такой мусор в базе: Поле IDZ тип "+" Как избавляться от мусора в базе ?
PSP: Andrey пишет: Как избавляться от мусора в базе ? Устранить причину(ы) его появления.
Andrey: PSP пишет: Устранить причину(ы) его появления. А какие причины могут быть ? Комп далеко, в другом городе. Могу удаленно подключиться к нему. А что править не знаю...
PSP: Andrey пишет: А какие причины могут быть ? Обычно - это аварийное/некорректное завершение программы. Очень часто из-за внезапного отключения питания компа. Ничего нового.
Andrey: А какой тогда алгоритм перезаписи базы можно сделать ? Учитывая новые форматы полей:
Haz: Andrey пишет: А какой тогда алгоритм перезаписи базы можно сделать ? Любой алгоритм, какой нравится. Но прочитав хотя бы ченчлог из харбура перед этим [pre2] * src/rdd/dbf1.c * do not copy automatically updated fields when destination area is not empty * set DBTF_CPYCTR to indicate that counters should be copied from source to destination area when original value of automatically updated fields are transferred ; Now DBF* RDDs in Harbour respects the following rules for record transfer operations (COPY TO / APPEND FROM) with automatically updated fields: - COPY TO transfers original values to destination table and finally copy counters from the source table to destination one so autoincrement fields in both tables after next append will be initialized with the same values regardless of number of copied records - even if only single record is copied then counters in destination table will inherit next values for new record from the source table. Also values of RowVer and ModTime fields are copied from source to destination table and not updated during transfer operation. - APPEND FROM works like COPY TO (original field values and then counters are copied to destination table) if the source table supports counters and destination table is empty and FLocked() or opened in exclusive mode. If source table does not support counters for given fields, i.e. it is processed by transfer RDD like DELIM or SDF (RDT_TRANSFER) or destination table is not empty or opened in shared mode and FLock is not set when APPEND FROM is executed then automatically updated fields (counters, RowVer, ModTime) are not copied and initialized with new values like for each new record added to destination table. [/pre2]
Andrey: Т.е. если специально ставить ПЕРВОЕ поле в базе типа "+" (AutoInc), то всегда можно будет из битой базы восстанавливать правильную базу ? А алгоритм копирование правильных записей - это простое (последовательное) копирование полей по AutoInc с правильным номером ? Т.е. у меня в битой базе: последовательно копирую записи до номера 3615, потом игнорирую все остальные записи до номера 3616 и далее копирую по порядку. Так ?
Dima: Andrey Да тут дело такое , даже если в поле IDZ будет правильная цифирь , то это не факт что значения в остальных полях корректны.
Haz: Andrey пишет: А алгоритм копирование правильных записей - это простое (последовательное) копирование полей по AutoInc с правильным номером ? COPY TO для записей у которых поле таймштамп не ноль ( именно время а не дата )
Andrey: Haz пишет: для записей у которых поле таймштамп не ноль ( именно время а не дата ) А как будет это выглядеть ? Синтаксис дай пожалуйста... Не работал ещё с такими полями...
Haz: Andrey пишет: Не работал ещё с такими полями... Решил на клиенте поупражняться ? Преобразуй в строку cStr := hb_TToC( tDateTime, "", "HHMMSSFFF" ) если в строке одни нули , значит эта запись мусорная с задачей "если в строке одни нули " сам справишься ?
Andrey: Haz пишет: с задачей "если в строке одни нули " сам справишься ? Да ! Спасибо !
Andrey: Не проходит .... Нужно делать 2 проверки: на IDZ > 0 и TSZ > 0
Haz: Andrey пишет: Не проходит .... Нужно делать 2 проверки: на IDZ > 0 и TSZ > 0 Задача для школьника , Проверок нужно делать столько, сколько потребуется чтобы поймать все , включая валидные значения ID, даты в полях и пр. Не нули в значениях времени это не 100% гарантия . Для первого твого скрина по этой теме пойдет, а дальше ....тут нет телепатов чтобы читать в астрале данные из твоей базы.
Andrey: Всё таки самый простой способ это моё первое предложение. по первому полю (AutoInc) последовательное копирование полей с запоминанием номера при разрыве записей и продолжением копирования. Ну и доп.проверки по другим полям.
Haz: Andrey пишет: с запоминанием номера при разрыве записей Обычно Autoinc работает примерно так В заголовке базы храниться последнее значение и при добавлении записи оно инкрементируется. Если в базе были удаления и паки - то разрывы в нумерации будут 100 % ( автоинк не восполняет дыры ) Andrey пишет: проверки по другим полям. Вот это единственный правильный способ. Как вариант - можно не копировать а удалить мусор по условию и пакануть .
nick_mi: Какая-то подозрительно регулярная порча базы. Портится, судя по скрину, одно поле, хотя если данные портятся, то крякозябры должны быть во всех полях, если связано с аварийным завершением. А посмотреть базу, именно порченные места в WIN кодировке не пробовал ?
Andrey: nick_mi пишет: Портится, судя по скрину, одно поле, хотя если данные портятся, то крякозябры должны быть во всех полях, если связано с аварийным завершением. Сбойные поля все кракозябы: Смотреть нечего !
Dima: Andrey пишет: Смотреть нечего ! nick_mi пишет: А посмотреть базу, именно порченные места в WIN кодировке не пробовал ?
Andrey: Dima пишет: nick_mi пишет: цитата: А посмотреть базу, именно порченные места в WIN кодировке не пробовал ? Последнее поле CHUMKVAR на картинке (номер дома, строка). Ну и что там в ней смотреть ? Кто попробует расшифровать ? И так везде в битых записях. Нормальные записи вытащил и всё прекрасно читается.
vvv: А если тупо железо виновато? Винт сбойный или что-то в этом роде?
Andrey: vvv пишет: А если тупо железо виновато? Винт сбойный или что-то в этом роде? Да тут много чего может быть. Починил базу, пока проблем нет. Скорее всего "скачки" электроэнергии, мусор тогда и пишется. Встречал захломлённую WinXP на которой периодически писался мусор в базы. Переустановка ХР решило проблему.
rvu: Andrey пишет: Вообще в нормальных прогах (типа БЭСТ или других) предусмотрено поле в базе с контрольной суммой записи. А есть в Харборе стандартные функции для вычисления контрольной суммой записи? Для контрольной суммы файла, я знаю, есть hb_md5file и hb_crc32. Или они не только для файлов? Кстати, чем они отличаются? Я использовал только hb_md5file.
Pasha: rvu пишет: А есть в Харборе стандартные функции для вычисления контрольной суммой записи? Для контрольной суммы файла, я знаю, есть hb_md5file и hb_crc32. Или они не только для файлов? Кстати, чем они отличаются? Я использовал только hb_md5file. Стандартной функции нет, но ничего не мешает сделать свою Мне самому когда-то пришлось при добавлении записи заполнять поле crc32, по конкатенации всех остальных полей записи, преобразованных в строку. При чтении записи соответственно crc32 проверялось
Andrey: Можно ещё в базу самым первым полем поставить [pre2] AADD( aDbf , {"ID" ,"+", 8, 0 } ) // автоинкремент[/pre2] тогда при сбоях можно визуально в программе dbedit.exe видеть и удалять "мусор" из базы.
Dima: rvu пишет: А есть в Харборе стандартные функции для вычисления контрольной суммой записи? Pasha пишет: Стандартной функции нет, но ничего не мешает сделать свою Сделал или подсказать ?
rvu: Dima пишет: Сделал или подсказать ? Выяснил, что hb_crc32 можно не только для файлов использовать, но и для полей. Пока у себя не делал, но даже если бы и сделал, все равно с интересом бы посмотрел другой пример.
Dima: rvu Например так можно [pre2] cc:="" for i = 1 to fcount() cc+=hb_valtoexp(fieldget( i )) // или что то другое вместо hb_valtoexp next hb_md5(cc) // или hb_crc32(сс) [/pre2]
rvu: А еще из функций CHECKSUM() есть.
полная версия страницы