Форум » Clipper » Чтение строк из файла » Ответить
Чтение строк из файла
AM: Вот такой, вроде как простой, вопрос, но ответа не нашёл. Есть ли в Клиппере или Харборе функция, которая читает строки (по одной) из файла? (Строки - куски текста, заканчивающиеся CRLF или LF). Где-то я встречал утверждение, что не надо делать свою буферизацию, на самом деле - надо. Если читать из файла побайтно, получается страшно долго. Я в своё время написал функцию, которая читает с буферизацией, но почему-то работает всё равно медленно:при маленьких файлах незаметно, при больших - читает намного медленнее, чем dbf такого же размера (это можно понять, записи одинаковой длины), но - в этом же самом файле любой редактор ищет намного быстрее. Есть ли что-нибудь стандартное? Кто знает? Ведь задача-то типичная.
Ответов - 36, стр:
1 2 All
Григорьев Владимир: Первое, что приходит на ум - это если размер файла меньше 64К, то можно воспользоваться стандартной функцией MEMOREAD(), с помощью которой считать весь файл в переменную, а затем использовать MEMOLINE().
AM: Спасибо, размер, правда, бывает больше 64К, но в Харборе вроде это ограничение снято. А ведь Memoline() требует указания длины строки, и только благодаря этому работает быстро. Попробовать что-то в таком роде можно, но я думал - вдруг есть что-то стандартное...
Григорьев Владимир: Где-то в Harbour я слышал про функцию ReadLine() или ReadLn(). Что касается MEMOLINE(), то длину строки нужно указать такую, которая превосходит максимальную длину строки, завершающуюся CR+LF. Максимальная длина строки в MEMOMINE() может быть равна 254 символа. Можно вообще обойтись без MEMOLINE(), а просто самому искать CR+LF с помощью функции AT().
Dima: Библиотека Nanfor - FT_FUSE + функции с этим связанные Или средствами Clipper , см. пример http://robson.fjaunet.com.br/fatec/clipper/aulas/pdf/aula_09.pdf Функция FUNCTION IMP_TELA
AM: IMP_TELA - это что-то совсем другое. Но вот нашёл в примерах MiniGui (BUFFREAD.PRG) функцию BReadLine - на первый взгляд как у меня было. Надо попробовать - вдруг будет работать быстрее?
Dima: AM пишет: IMP_TELA IMP_TELA и сопутсвующие ей функции это экранный просмотр файла любой длины средствами Clipper , на ее основе я сделал свой просмотровщик.
les: AM пишет: Ведь задача-то типичная Я что-то не понял? С клиппером идет огромная коллекция примеров, в том числе и на твою тему: CLIP52\SOURCE\TBROW\BROTEXT
AM: Dima Спасибо, Дима, но в IMP_TELA ориентация на диалог с человеком, а значит ослаблены требования к скорости. К тому же много для меня лишнего, замучаешься вычленять. les В том-то и дело, что пока не могу добиться приемлемой скорости.
Dima: AM Dima пишет: Библиотека Nanfor - FT_FUSE + функции с этим связанные Есть она у тебя или сказать где взять ?
les: AM пишет: В том-то и дело, что пока не могу добиться приемлемой скорости А какой скорости ты хотел от данных с непредсказуемым размером записи? Откажись от текстового файла, пиши в dbf
Dima: les пишет: А какой скорости ты хотел от данных с непредсказуемым размером записи? Откажись от текстового файла, пиши в dbf Подозреваю что считывает он не свои файлы (текстовые) , например многие программы типа клиент-банк выбрасывают инфу только в тексте.
les: А сколько времени длится обработка? Offtopic: несколько лет назад я на скорую руку слепил отчет (налоговая сидела на плечах). Он выполнялся минут 10:( Потом по свободе оптимизировал до 1 минуты. Мои бухи очень обиделись - некогда кофе попить;)
AM: Dima пишет: Есть она у тебя или сказать где взять ? Нету, подскажи! Dima пишет: Подозреваю что считывает он не свои файлы (текстовые) Так и есть, т.е. от меня не зависит. les пишет: А сколько времени длится обработка? Примерно 1000-10000 строк/мин. Т.е. медленно. А ведь читаются последовательно.
Dima: AM пишет: Примерно 1000-10000 строк/мин. Т.е. медленно Медленновато однако...... Nanfor можно взять тут http://www.blinkinc.com/techsupp.htm CA-Clipper 5.x / NT / Windows 95 / CPU timeslice release http://www.blinkinc.com/dl/misc/nfkit.zip
LYSK: самый простой, примитивный и в то же время эффективный способ - создать дбф с одним полем С максимально ожидаемой длины строки, сделать в него append from ... SDF и наслаждаться жизнью. проверено.
AM: Dima Извини, Дима, боюсь, что не подойдёт. Мне-то надо для Харбора. Товарищи могут спросить "Так что ж ты мозги пудришь?" Но я думал, что при наличии исходников это не важно. А здесь нужных исходников не нашёл. LYSK Можно попробовать и так, ускорение здесь, видимо, за счёт внутренней оптимизации (т.е. алгоритм, который не может быть реализован на Клиппере). Правда, хотелось бы самому управлять каждой записью (хотя бы чтобы их считать, кроме того, хочу для контроля добавлять в dbf ссылку на txt-файл и строку, в общем, задача у меня нестандартная). Вообще, наверно, критические вещи лучше написать на С, когда-нибудь я к этому приду. В принципе низкая скорость - не так уж и страшно, если бы это надо было проделывать один раз. А при отладке всего этого может быть много раз, и не всегда можно играть на обрезанных файлах.
Григорьев Владимир: MEMOREAD() и есть такое ускорение, так как весь файл целиком читается в память, а обработака отдельных записей уже происходит в памяти. Проблема только в том, что размер файла ограничен максимальным размером сроки в Clipper, то есть 0FFDCh (если мне память не изменяет). Но можно самому проделать это с помощью функций FOPEN() и различных клонов FREAD(). Просто выделяете строку максимального размера и в нее считываете последовательно файл пока не достигнете его конца. Внутри этой строки-буфера ищете последовательно комбинации CR+LF. Когда достигнут конец строки-буфера, его "кончик" переписываете в другую переменную и снова считываете всюстроку-буфер. А "кончик" соединяете с началом буфера до первого нахождения CR+LF.
Dima: AM пишет: Мне-то надо для Харбора. Да не вопрос ;) Библиотека Libmisc /* test program for hb_f*() harbour clones for nanfor's ft_f*() inplementation of : * hb_fuse() * hb_fskip() * hb_feof() * hb_frecno() * hb_freadln() * hb_flastrec() * hb_fgoto() * hb_fgotop() * hb_fgobottom() tested with Borland 32bit only */
AM: Григорьев Владимир В общем, у меня так и было, только буфер я делал размером с кластер, и строк в него помещалось сколько Бог на душу положит. Почему-то получалось медленно! (хотя заметно это стало на больших файлах, файлы типа конфигураций читались нормально).
Юра: Хи-хи-хи. Дела давно забытых дней... Была библиотека в Clippere - WildSeek function Пользовался ею. Для КАВО ее разновидность здесь: http://www.yi.com/prany/cavo/cavofront.htm Если на разберетесь, ищите для Клиппера. Использует fread(). А, вот и она на Оазисе: Look on my www site for wildseek.zip -- Phil Barnett mailto:midnight @ the-oasis.net Oasis WWW http://www.the-oasis.net FTP Site ftp://ftp.iag.net/pub/clipper Clipper FAQ http://www.the-oasis.net/clipper.html Harbour Project http://www.Harbour-Project.org Reality is the leading cause of stress among those who are in touch with it. Слушаете свою любимую песню "Валянки, валянки..."
armik: ewferg
AM: Спасибо всем за помощь! Dima Понравился набор функций hb_f*(), пригодится не только hb_freadln(), но и другие. Но одно плохо: как разделитель понимает только CRLF, а просто LF - нет. А такие файлы бывают.
Петр: AM пишет: Но одно плохо: как разделитель понимает только CRLF, а просто LF - нет. CRLF или LFCR Но ведь мы имеем дело с открытым кодом, поменял конструкции типа if ( ((*(b + x) == 13) && (*(b + x + 1) == 10)) || ((*(b + x) == 10) && (*(b + x + 1) == 13)) || (*(b + x) == 26) || ( x >= (int)read) ) на if ( ((*(b + x) == 10 ) || (*(b + x) == 26) || ( x >= (int) read) ) или что-нибудь в этом роде и опять радуешься жизни
AM: А где взять? Сама библиотека есть, исходников нет. Поискал - не нашёл.
Dima: AM пишет: А где взять? Сама библиотека есть, исходников нет. у меня тут лежит C:\CVS\xharbour\source\misc\hb_f.c
AM: Да, нашёл. Сначала файл (он завалялся в другом месте). А до этого не нашёл, т.к. искал только где положено. Спасибо.
suv7: AM пишет: Вот такой, вроде как простой, вопрос, но ответа не нашёл. Есть ли в Клиппере или Харборе функция, которая читает строки (по одной) из файла? а в чем проблема - 10 строк написать? AM пишет: Если читать из файла побайтно попробуй читать по 2 байта зараз. Будет в 2 раза быстрей Dima!!! задолбал меня форум, постоянно на пароль ругается!!!! то он с ником совпадает, то не подходит!!!!! Уже седьмой ник завел! Удали пользователя suv.... suv6 я зарегистрирую снова suv
AM: suv7 Да уже всё, проехали. Петр Нет, малость посложней получилось if ( ((*(b + x) == 13) && (*(b + x + 1) == 10)) || (*(b + x) == 26) || ( x >= (int)read) ) break; else if (*(b + x) == 10) { if ( (*(b + x+1) != 13) && (x>0) ) x--; break; } А если в конце chr(13)+chr(10)+chr(26), то напоследок выдаёт пустую строку. Может, так и д.б., это не очень важно.
Uncle_ed: Много лет назад я написал целую библиотеку функций которые использовали текстовый файл как массив. На сколько я помню в основе лежали готовые функции из библиотеки CTools-3 (кажется так называлась) Сейчас пытаюсь перевеси свои программы на xHarbour, но к сожалению не смотря на поддержку этой библиотеки функции не работают. По всей видимости поддержка CTools не полная.
Петр: Uncle_ed пишет: Петр Нет, малость посложней получилось Я же писал что-нибудь в этом роде. В оригинале (см. выше) функция обрабатывает CRLF и LFCR if ( ((*(b + x) == 13) && (*(b + x + 1) == 10)) || ((*(b + x) == 10) && (*(b + x + 1) == 13)) || (*(b + x) == 26) || ( x >= (int)read) ) { break; Если тебе просто надо обработать еще LF, т.е. можно просто добавить ИЛИ LF if ( ((*(b + x) == 13) && (*(b + x + 1) == 10)) || ((*(b + x) == 10) && (*(b + x + 1) == 13)) || (*(b + x) == 10)) || (*(b + x) == 26) || ( x >= (int)read) ) { break; Если ты не хочешь обрабатывать LFCR выбрось ((*(b + x) == 10) && (*(b + x + 1) == 13)) Определись какие разделители ты хочешь использовать. Если только CRLF и LF, то зачем делать лишнюю проверку if ( (*(b + x+1) != 13) ? И какой смысл ты вкладываешь в x-- ?
AM: Петр пишет: ((*(b + x) == 10) && (*(b + x + 1) == 13)) || (*(b + x) == 10)) Так получается тавтология. Лучше просто убрать && (*(b + x + 1) == 13)) На самом деле на практике у меня встречаются файлы с CRLF и с LF. И, естественно, надо, чтобы работало и с тем и с другим без подсказок человека. LFCR пока не было, но кто знает? Твой пример (только разобраться со скобками) правильно работает вроде бы на всех комбинациях! Но только если в функции hb_hbfskip() исправлено по-моему. Т.е. надо проверить, лишние действия и правда могут быть.
AM: Я не совсем по-русски изложил свои мысли. Для правильной работы я изменил hb_hbfskip(), и для однообразия так же изменил и hb_freadln(), и прочие. Но, видимо, эти лишнее, хотя и работает. Вообще-то методом тыка, глубоко я не копал. А есть же ещё hb_ReadAndSkip(), можно будет попробовать.
Петр: AM пишет: Так получается тавтология. Где ты ее увидел? Это нормальный код, который работает с CRLF, LFCR и LF. Изменения в других функциях (той же hb_fskip() ) нужны, причем обязательно. Для увеличения быстроты можно еще поиграться с #define b_size 4096 #define c_size 4096
AM: Петр пишет: Где ты ее увидел? Ну как же, вспомни булеву алгебру: x | x&y = x (потому что x= x&y | x&^y)
AM: Приходится поднимать старую тему. В новых версиях MiniGui нет исходников hbmisc.lib ? Дело в том, что её функции (hb_fReadLn) так и не работают с только LF в качестве конца строки. А файлы такие продолжают встречаться. Если же вставить отдельные функции в программу (в .prg или .c), в доработанном виде (как выше в теме, и как ранее работало - т.е. по большому счёту, как было в misc.lib), то происходит вылет (спрашивает, сообщать в MS об ошибке или нет). Можно где-то увидеть новые исходники, чтобы понять, как надо ещё доработать? P.S. Хотя, наверно, надо новую тему, в раздел GUI. Прошу модераторов перенести, если возможно.
Dima: AM пишет: В новых версиях MiniGui нет исходников hbmisc.lib Не там исходники ищешь , смотри сырцы (x)Harbour
полная версия страницы