Annotation of parser3/src/main/pa_common.C, revision 1.134

1.15      paf         1: /** @file
1.16      paf         2:        Parser: commonly functions.
                      3: 
1.102     paf         4:        Copyright(c) 2001, 2002 ArtLebedev Group (http://www.artlebedev.com)
1.101     paf         5:        Author: Alexandr Petrosian <paf@design.ru> (http://paf.design.ru)
1.111     paf         6: */
1.16      paf         7: 
1.134   ! paf         8: static const char* IDENT_COMMON_C="$Date: 2002/11/29 07:42:16 $"; 
1.1       paf         9: 
                     10: #include "pa_common.h"
1.4       paf        11: #include "pa_exception.h"
1.14      paf        12: #include "pa_globals.h"
1.126     paf        13: #include "pa_hash.h"
                     14: #include "pa_vstring.h"
1.1       paf        15: 
1.98      paf        16: #ifdef WIN32
                     17: #      include <windows.h>
1.126     paf        18: #else
                     19: #      define closesocket close
1.98      paf        20: #endif
                     21: 
1.93      paf        22: // some maybe-undefined constants
                     23: 
1.82      paf        24: #ifndef _O_TEXT
                     25: #      define _O_TEXT 0
                     26: #endif
                     27: #ifndef _O_BINARY
                     28: #      define _O_BINARY 0
1.47      paf        29: #endif
1.80      paf        30: 
1.93      paf        31: // locking constants
                     32: 
1.99      paf        33: #ifdef HAVE_FLOCK
                     34: 
                     35: static int lock_shared_blocking(int fd) { return flock(fd, LOCK_SH); }
                     36: static int lock_exclusive_blocking(int fd) { return flock(fd, LOCK_EX); }
                     37: static int lock_exclusive_nonblocking(int fd) { return flock(fd, LOCK_EX || LOCK_NB); }
                     38: static int unlock(int fd) { return flock(fd, LOCK_UN); }
                     39: 
1.98      paf        40: #else
1.99      paf        41: #ifdef HAVE__LOCKING
1.98      paf        42: 
1.126     paf        43: #define FLOCK(operation) lseek(fd, 0, SEEK_SET);  return _locking(fd, operation, 1)
1.99      paf        44: static int lock_shared_blocking(int fd) { FLOCK(_LK_LOCK); }
                     45: static int lock_exclusive_blocking(int fd) { FLOCK(_LK_LOCK); }
                     46: static int lock_exclusive_nonblocking(int fd) { FLOCK(_LK_NBLCK); }
                     47: static int unlock(int fd) { FLOCK(_LK_UNLCK); }
1.93      paf        48: 
1.99      paf        49: #else
                     50: #ifdef HAVE_FCNTL
1.93      paf        51: 
1.126     paf        52: #define FLOCK(cmd, arg) struct flock ls={arg, SEEK_SET};  return fcntl(fd, cmd, &ls)
1.99      paf        53: static int lock_shared_blocking(int fd) { FLOCK(F_SETLKW, F_RDLCK); }
                     54: static int lock_exclusive_blocking(int fd) { FLOCK(F_SETLKW, F_WRLCK); }
                     55: static int lock_exclusive_nonblocking(int fd) { FLOCK(F_SETLK, F_RDLCK); }
                     56: static int unlock(int fd) { FLOCK(F_SETLK, F_UNLCK); }
1.93      paf        57: 
                     58: #else
                     59: #ifdef HAVE_LOCKF
1.99      paf        60: 
1.126     paf        61: #define FLOCK(fd, operation) lseek(fd, 0, SEEK_SET);  return lockf(fd, operation, 1)
1.99      paf        62: static int lock_shared_blocking(int fd) { FLOCK(F_LOCK); } // on intel solaris man doesn't have doc on shared blocking
                     63: static int lock_exclusive_blocking(int fd) { FLOCK(F_LOCK); }
                     64: static int lock_exclusive_nonblocking(int fd) { FLOCK(F_TLOCK); }
                     65: static int unlock(int fd) { FLOCK(F_TLOCK); }
                     66: 
1.93      paf        67: #else
1.99      paf        68: 
                     69: #error unable to find file locking func
                     70: 
                     71: #endif
1.93      paf        72: #endif
                     73: #endif
                     74: #endif
                     75: 
1.127     paf        76: #define DEFAULT_USER_AGENT "parser3"
                     77: 
                     78: 
1.126     paf        79: 
                     80: static char* strnchr(char* buf, size_t size, char c) {
1.103     paf        81:        // sanity check
                     82:        if(!buf)
                     83:                return 0;
                     84: 
1.126     paf        85:        for(;  size-->0; buf++) {
1.86      paf        86:                if(*buf==c)
                     87:                        return buf;
                     88:        }
                     89: 
                     90:        return 0;
                     91: }
                     92: 
1.126     paf        93: void fix_line_breaks(char* buf, size_t& size) {
1.87      paf        94:        //_asm int 3;
1.126     paf        95:        const char* const eob=buf+size;
                     96:        char* dest=buf;
1.72      parser     97:        // fix DOS: \r\n -> \n
                     98:        // fix Macintosh: \r -> \n
1.126     paf        99:        char* bol=buf;
                    100:        while(char* eol=strnchr(bol, eob -bol, '\r')) {
1.72      parser    101:                size_t len=eol-bol;
                    102:                if(dest!=bol)
1.126     paf       103:                        memcpy(dest, bol, len); 
1.72      parser    104:                dest+=len;
1.126     paf       105:                *dest++='\n'; 
1.72      parser    106: 
1.126     paf       107:                if(&eol[1]<eob && eol[1]=='\n') { // \r, \n = DOS
1.72      parser    108:                        bol=eol+2;
1.126     paf       109:                        size--; 
                    110:                } else // \r, not \n = Macintosh
1.72      parser    111:                        bol=eol+1;
                    112:        }
                    113:        // last piece without \r, including terminating 0
                    114:        if(dest!=bol)
1.126     paf       115:                memcpy(dest, bol, eob-bol); 
1.72      parser    116: }
1.18      paf       117: 
1.126     paf       118: char* file_read_text(Pool& pool, const String& file_spec, 
                    119:                                         bool fail_on_read_problem,
                    120:                                         Hash *params, Hash** out_fields) {
1.72      parser    121:        void *result;  size_t size;
1.126     paf       122:        return file_read(pool, file_spec, result, size, true, params, out_fields, fail_on_read_problem)?(char *)result:0;
                    123: }
                    124: 
                    125: //http request stuff
                    126: /* ************************ http stuff *********************** */
                    127: 
                    128: static bool set_addr(struct sockaddr_in *addr, const char* host, const short port){
                    129:     memset(addr, 0, sizeof(*addr)); 
                    130:     addr->sin_family=AF_INET;
                    131:     addr->sin_port=htons(port); 
                    132:     if(host) {
                    133:                if(struct hostent *hostIP=gethostbyname(host)) 
                    134:                        memcpy(&addr->sin_addr, hostIP->h_addr, hostIP->h_length); 
                    135:                else
                    136:                        return false;
                    137:     } else 
                    138:                addr->sin_addr.s_addr=INADDR_ANY;
                    139:     return true;
                    140: }
                    141: 
                    142: static void http_read_response(String& response, int sock){
1.130     paf       143:        bool check_status=true;
                    144:        ssize_t EOLat=0;
1.126     paf       145:        while(true) {
                    146:                char *buf=(char *)response.pool().malloc(MAX_STRING); 
                    147:                ssize_t size=recv(sock, buf, MAX_STRING, 0); 
                    148:                if(size<=0)
                    149:                        break;
1.130     paf       150:                response.APPEND_TAINTED(buf, size, "remote HTTP server response", 0); 
                    151:                if(check_status && (EOLat=response.pos("\r\n", 2))>=0) { // checking status in first response
                    152:                        check_status=false;
                    153: 
                    154:                        const String& status_line=response.mid(0, (size_t)EOLat);
                    155:                        Array astatus(response.pool()); 
                    156:                        size_t pos_after_ref=0; status_line.split(astatus, &pos_after_ref, " ", 1); 
                    157:                        const String* status_code=astatus.get_string(1); 
                    158: 
                    159:                        if(!status_code || *status_code!="200")
                    160:                                throw Exception("http.status",
                    161:                                        status_code,
                    162:                                        "invalid HTTP response status");
                    163:                }
1.126     paf       164:     }
1.130     paf       165:        if(check_status)
                    166:                throw Exception("http.response",
                    167:                        0,
                    168:                        "bad response from host - no status found (size=%lu)", response.size()); 
1.126     paf       169: }
                    170: 
                    171: /* ********************** request *************************** */
                    172: 
                    173: #if defined(SIGALRM) && defined(HAVE_SIGSETJMP) && defined(HAVE_SIGLONGJMP)
                    174: #      define WE_CAN_USE_ALARM
                    175: #endif
                    176: 
                    177: #ifdef WE_CAN_USE_ALARM
                    178: static sigjmp_buf timeout_env;
                    179: static void timeout_handler(int sig){
                    180:     siglongjmp(timeout_env, 1); 
                    181: }
                    182: #endif
                    183: 
                    184: static void http_request(String& response,
                    185:                                                        const String *origin_string, 
                    186:                                                        const char* host, int port, 
                    187:                                                        const char* request, 
                    188:                                                        int timeout){
                    189:        if(!host)
                    190:                throw Exception("http.host", 
                    191:                        origin_string, 
                    192:                        "zero hostname");  //never
                    193: 
                    194: #ifdef WE_CAN_USE_ALARM
                    195:     signal(SIGALRM, timeout_handler); 
                    196: #endif
                    197:        int sock=-1;
                    198:        try {
                    199: #ifdef WE_CAN_USE_ALARM
                    200:                if(sigsetjmp(timeout_env, 1))
                    201:                        throw Exception("http.timeout", 
                    202:                                origin_string, 
                    203:                                "timeout occured while retrieving document"); 
                    204:                else {
                    205:                        alarm(timeout); 
                    206: #endif
                    207:                        struct sockaddr_in dest;
                    208:                
                    209:                if(!set_addr(&dest, host, port))
                    210:                                throw Exception("http.host", 
                    211:                                        origin_string, 
1.127     paf       212:                                        "can not resolve hostname \"%s\"", host); 
1.126     paf       213:                        
                    214:                        if((sock=socket(AF_INET, SOCK_STREAM, IPPROTO_TCP/*0*/))<0)
                    215:                                throw Exception("http.connect", 
                    216:                                        origin_string, 
1.127     paf       217:                                        "can not make socket: %s (%d)", strerror(errno), errno); 
1.126     paf       218:                        if(connect(sock, (struct sockaddr *)&dest, sizeof(dest)))
                    219:                                throw Exception("http.connect", 
                    220:                                        origin_string, 
1.127     paf       221:                                        "can not connect to host \"%s\": %s (%d)", host, strerror(errno), errno); 
1.126     paf       222:                        size_t request_size=strlen(request);
                    223:                        if(send(sock, request, request_size, 0)!=(ssize_t)request_size)
                    224:                                throw Exception("http.connect", 
                    225:                                        origin_string, 
1.127     paf       226:                                        "error sending request: %s (%d)", strerror(errno), errno); 
1.126     paf       227: 
                    228:                        http_read_response(response, sock); 
                    229:                        if(sock>=0) 
                    230:                                closesocket(sock); 
                    231: #ifdef WE_CAN_USE_ALARM
                    232:                }
                    233: #endif
                    234:        } catch(...) {
                    235:                if(sock>=0) 
                    236:                        closesocket(sock); 
                    237: #ifdef WE_CAN_USE_ALARM
                    238:                alarm(0); 
                    239: #endif
                    240:                /*re*/throw;
                    241:        }
                    242: }
                    243: 
1.127     paf       244: #ifndef DOXYGEN
                    245: struct Http_pass_header_info {
                    246:        String* request;
                    247:        bool user_agent_specified;
                    248: };
                    249: #endif
                    250: static void http_pass_header(const Hash::Key& key, Hash::Val *value, void *info)
1.126     paf       251: {
1.127     paf       252:        Http_pass_header_info& i=*static_cast<Http_pass_header_info *>(info);
                    253:        Pool& pool=i.request->pool();
                    254:     
1.134   ! paf       255:        // force all to URI lang
        !           256:        String& value_string=*new(pool) String(pool);
        !           257:        value_string.append(*(static_cast<Value *>(value))->get_string(), String::UL_URI,  true);
        !           258: 
        !           259:     *(i.request)<<key<<": "<< value_string <<"\n"; 
1.127     paf       260: 
                    261:        if(key.change_case(pool, String::CC_UPPER)=="USER-AGENT")
                    262:                i.user_agent_specified=true;
1.126     paf       263: }
                    264: static void file_read_http(Pool& pool, const String& file_spec, 
                    265:                                        void*& data, size_t& data_size, 
1.127     paf       266:                                        Hash *options=0, Hash** out_fields=0) {
1.126     paf       267:        char host[MAX_STRING]; 
1.129     paf       268:        const char* uri; 
1.126     paf       269:        int port;
                    270:        const char* method="GET"; 
                    271:        int timeout=2;
1.127     paf       272:        Value *vheaders=0;
1.126     paf       273: 
1.133     paf       274:        String connect_string(pool);
                    275:        // not in ^sql{... UL_SQL ...} spirit, but closer to ^file::load one
                    276:        connect_string.append(file_spec, String::UL_URI); // tainted pieces -> URI pieces
                    277: 
                    278:        char* connect_string_cstr=connect_string.cstr(String::UL_UNSPECIFIED); 
                    279:        if(strncmp(connect_string_cstr, "http://", 7)!=0)
1.126     paf       280:                throw Exception(0, 
1.133     paf       281:                        &connect_string, 
1.126     paf       282:                        "does not start with http://"); //never
1.133     paf       283:        connect_string_cstr+=7;
1.126     paf       284: 
1.133     paf       285:        strncpy(host, connect_string_cstr, sizeof(host)-1);  host[sizeof(host)-1]=0;
1.126     paf       286:        char* host_uri=lsplit(host, '/'); 
1.133     paf       287:        uri=host_uri?connect_string_cstr+(host_uri-1-host):"/"; 
1.126     paf       288:        char* port_cstr=lsplit(host, ':'); 
                    289:        char* error_pos=0;
                    290:        port=port_cstr?strtol(port_cstr, &error_pos, 0):80;
                    291: 
1.127     paf       292:        if(options) {
                    293:                int valid_options=0;
                    294:                if(Value *vmethod=static_cast<Value *>(options->get(*http_method_name))) {
                    295:                        valid_options++;
                    296:                        method=vmethod->as_string().cstr(); 
                    297:                }
                    298:                if(Value *vtimeout=static_cast<Value *>(options->get(*http_timeout_name))) {
                    299:                        valid_options++;
                    300:                        timeout=vtimeout->as_int(); 
                    301:                }
                    302:                if(vheaders=static_cast<Value *>(options->get(*http_headers_name))) {
                    303:                        valid_options++;
                    304:                }
                    305:                if(valid_options!=options->size())
                    306:                        throw Exception("parser.runtime",
                    307:                                0,
                    308:                                "invalid option passed");
1.133     paf       309:        } 
1.126     paf       310: 
                    311:        //making request
1.127     paf       312:        String request(pool);
1.126     paf       313:        request<< method <<" "<< uri <<" HTTP/1.0\nHost: "<< host<<"\n"; 
1.127     paf       314:        bool user_agent_specified=false;
                    315:        if(vheaders && !vheaders->is_string()) { // allow empty
1.133     paf       316:                if(Hash *headers=vheaders->get_hash(&connect_string)) {
1.127     paf       317:                        Http_pass_header_info info={&request};
                    318:                        headers->for_each(http_pass_header, &info); 
                    319:                        user_agent_specified=info.user_agent_specified;
                    320:                } else
                    321:                        throw Exception("parser.runtime", 
1.133     paf       322:                                &connect_string,
1.127     paf       323:                                "headers param must be hash"); 
                    324:        };
                    325:        if(!user_agent_specified) // defaulting
                    326:                request << "user-agent: " DEFAULT_USER_AGENT "\n";
1.126     paf       327:        request<<"\n"; 
                    328:        
                    329:        //sending request
                    330:        String response(pool); 
                    331:        http_request(response,
1.133     paf       332:                &connect_string, host, port, request.cstr(String::UL_UNSPECIFIED), timeout); 
1.126     paf       333:        
                    334:        //processing results    
                    335:        int pos=response.pos("\r\n\r\n", 4); 
                    336:        if(pos<1){
                    337:                throw Exception("http.response", 
1.133     paf       338:                        &connect_string,
1.126     paf       339:                        "bad response from host - no headers found"); 
                    340:        }
                    341:        String header_block=response.mid(0, pos); 
                    342:        String body=response.mid(pos+4, response.size()); 
                    343:        
                    344:        Array aheaders(pool); 
                    345:        Hash& headers=*new(pool) Hash(pool); 
                    346:        size_t pos_after_ref=0;
                    347:        header_block.split(aheaders, &pos_after_ref, "\r\n", 2); 
                    348:        
                    349:        //processing status code
                    350:        const String *status_line=aheaders.get_string(0); 
                    351:        if(!status_line){
                    352:                throw Exception("http.response", 
1.133     paf       353:                        &connect_string,
1.126     paf       354:                        "bad response from host - no status line "); 
                    355:        }
                    356:        //processing headers
                    357:        for(int i=1;i<aheaders.size();i++) {
                    358:                if(const String *line=aheaders.get_string(i)) {
                    359:                        pos=line->pos(": ", 2); 
                    360:                        if(pos<1)
                    361:                                throw Exception("http.response", 
1.133     paf       362:                                        &connect_string,
1.126     paf       363:                                        "bad response from host - bad header \"%s\"", line->cstr()); 
                    364:                                
1.128     paf       365:                        headers.put(
                    366:                                line->mid(0, pos).change_case(pool, String::CC_UPPER), 
                    367:                                new(pool) VString(line->mid(pos+2, line->size()))); 
1.126     paf       368:                } else
                    369:                        throw Exception("http.response", 
1.133     paf       370:                                &connect_string, 
1.126     paf       371:                                "bad response from host - bad headers \"%s\"", header_block.cstr()); 
                    372:        }
                    373: 
                    374:        // output response
                    375:        data=body.cstr(); data_size=body.size();
1.130     paf       376:        if(out_fields)
1.126     paf       377:                *out_fields=&headers;
1.34      paf       378: }
1.123     paf       379: 
                    380: #ifndef DOXYGEN
                    381: struct File_read_action_info {
                    382:        void **data; size_t *data_size;
1.126     paf       383: }; 
1.123     paf       384: #endif
1.126     paf       385: static void file_read_action(Pool& pool, 
                    386:                                                         struct stat& finfo, 
1.123     paf       387:                                                         int f, 
1.126     paf       388:                                                         const String& file_spec, const char* fname, bool as_text, 
1.123     paf       389:                                                         void *context) {
1.126     paf       390:        File_read_action_info& info=*static_cast<File_read_action_info *>(context); 
1.123     paf       391:        if(size_t to_read_size=(size_t)finfo.st_size) { 
1.126     paf       392:                *info.data=pool.malloc(to_read_size+(as_text?1:0), 3); 
                    393:                *info.data_size=(size_t)read(f, *info.data, to_read_size); 
1.123     paf       394: 
                    395:                if(ssize_t(*info.data_size)<0 || *info.data_size>to_read_size)
1.126     paf       396:                        throw Exception(0, 
1.123     paf       397:                                &file_spec, 
                    398:                                "read failed: actually read %lu bytes count not in [0..%lu] valid range", 
1.126     paf       399:                                        *info.data_size, to_read_size); 
1.123     paf       400:        } else { // empty file
                    401:                if(as_text) {
1.126     paf       402:                        *info.data=pool.malloc(1)1.123     paf       403:                        *(char*)(*info.data)=0;
                    404:                } else 
                    405:                        *info.data=0;
                    406:                *info.data_size=0;
                    407:                return;
                    408:        }
1.126     paf       409: }
                    410: bool file_read(Pool& pool, const String& file_spec, 
                    411:                           void*& data, size_t& data_size, 
                    412:                           bool as_text, Hash *params, Hash** out_fields, 
                    413:                           bool fail_on_read_problem) {
                    414:        bool result;
                    415:        if(file_spec.starts_with("http://", 7)) {
                    416:                // fail on read problem
                    417:                file_read_http(pool, file_spec, data, data_size, params, out_fields); 
                    418:                result=true;
                    419:        } else {
                    420:                File_read_action_info info={&data, &data_size}; 
                    421:                result=file_read_action_under_lock(pool, file_spec, 
                    422:                        "read", file_read_action, &info, 
                    423:                        as_text, fail_on_read_problem); 
                    424:        }
1.123     paf       425: 
1.126     paf       426:        if(result && as_text) {
1.131     paf       427:                // UTF-8 signature: EF BB BF
                    428:                if(data_size>=3) {
                    429:                        char *in=(char *)data;
                    430:                        if((in[0] == '\xEF') && (in[1] == '\xBB') &&
                    431:                                (in[2] == '\xBF')) {
                    432:                                data=in+3; data_size-=3;// skip prefix
                    433:                        }
                    434:                }
                    435: 
1.126     paf       436:                fix_line_breaks((char *)(data), data_size); 
1.123     paf       437:                // note: after fixing
1.126     paf       438:                ((char*&)(data))[data_size]=0;
1.123     paf       439:        }
1.126     paf       440: 
                    441:        return result;
1.123     paf       442: }
                    443: 
                    444: bool file_read_action_under_lock(Pool& pool, const String& file_spec, 
1.126     paf       445:                                const char* action_name, File_read_action action, void *context, 
                    446:                                bool as_text, 
1.123     paf       447:                                bool fail_on_read_problem) {
1.126     paf       448:        const char* fname=file_spec.cstr(String::UL_FILE_SPEC); 
1.33      paf       449:        int f;
                    450: 
                    451:        // first open, next stat:
1.45      paf       452:        // directory update of NTFS hard links performed on open.
1.33      paf       453:        // ex: 
                    454:        //   a.html:^test[] and b.html hardlink to a.html
                    455:        //   user inserts ! before ^test in a.html
1.126     paf       456:        //   directory entry of b.html in NTFS not updated at once, 
1.35      paf       457:        //   they delay update till open, so we would receive "!^test[" string
                    458:        //   if would do stat, next open.
1.123     paf       459:        // later: it seems, even this does not help sometimes
1.98      paf       460:     if((f=open(fname, O_RDONLY|(as_text?_O_TEXT:_O_BINARY)))>=0) {
1.123     paf       461:                try {
                    462:                        if(lock_shared_blocking(f)!=0)
1.126     paf       463:                                throw Exception("file.lock", 
1.123     paf       464:                                                &file_spec, 
                    465:                                                "shared lock failed: %s (%d), actual filename '%s'", 
1.126     paf       466:                                                        strerror(errno), errno, fname); 
1.123     paf       467: 
1.124     paf       468:                        struct stat finfo;
                    469:                        if(stat(fname, &finfo)!=0)
                    470:                                throw Exception("file.missing", // hardly possible: we just opened it OK
                    471:                                        &file_spec, 
                    472:                                        "stat failed: %s (%d), actual filename '%s'", 
1.126     paf       473:                                                strerror(errno), errno, fname); 
1.124     paf       474: 
1.105     paf       475: #ifdef NO_FOREIGN_GROUP_FILES
1.132     paf       476:                        if(finfo.st_gid/*foreign?*/!=getegid())
1.126     paf       477:                                throw Exception("parser.runtime", 
                    478:                                        &file_spec, 
1.123     paf       479:                                        "parser reading files of foreign group disabled [recompile parser without --disable-foreign-group-files configure option], actual filename '%s'", 
1.126     paf       480:                                                fname); 
1.105     paf       481: #endif
1.32      paf       482: 
1.126     paf       483:                        action(pool, finfo, f, file_spec, fname, as_text, context); 
1.123     paf       484:                } catch(...) {
1.126     paf       485:                        unlock(f);close(f); 
1.123     paf       486:                        if(fail_on_read_problem)
                    487:                                /*re*/throw;
                    488:                        return false;                   
                    489:                } 
1.87      paf       490: 
1.126     paf       491:                unlock(f);close(f); 
1.72      parser    492:                return true;
1.118     paf       493:     } else {
                    494:                if(fail_on_read_problem)
1.126     paf       495:                        throw Exception(errno==EACCES?"file.access":errno==ENOENT?"file.missing":0, 
1.118     paf       496:                                &file_spec, 
1.123     paf       497:                                "%s failed: %s (%d), actual filename '%s'", 
1.126     paf       498:                                        action_name, strerror(errno), errno, fname); 
1.118     paf       499:                return false;
                    500:        }
1.8       paf       501: }
                    502: 
1.63      parser    503: static void create_dir_for_file(const String& file_spec) {
                    504:        size_t pos_after=1;
                    505:        int pos_before;
                    506:        while((pos_before=file_spec.pos("/", 1, pos_after))>=0) {
1.126     paf       507:                mkdir(file_spec.mid(0, pos_before).cstr(String::UL_FILE_SPEC), 0775); 
1.63      parser    508:                pos_after=pos_before+1;
                    509:        }
                    510: }
                    511: 
1.98      paf       512: bool file_write_action_under_lock(
1.28      paf       513:                                const String& file_spec, 
1.126     paf       514:                                const char* action_name, File_write_action action, void *context, 
                    515:                                bool as_text, 
                    516:                                bool do_append, 
                    517:                                bool do_block, 
1.110     paf       518:                                bool fail_on_lock_problem) {
1.126     paf       519:        const char* fname=file_spec.cstr(String::UL_FILE_SPEC); 
1.28      paf       520:        int f;
1.80      paf       521:        if(access(fname, W_OK)!=0) // no
1.126     paf       522:                create_dir_for_file(file_spec); 
1.50      paf       523: 
1.80      paf       524:        if((f=open(fname, 
                    525:                O_CREAT|O_RDWR
                    526:                |(as_text?_O_TEXT:_O_BINARY)
1.122     paf       527:                |(do_append?O_APPEND:0), 0664))>=0) {
1.99      paf       528:                if((do_block?lock_exclusive_blocking(f):lock_exclusive_nonblocking(f))!=0) {
1.126     paf       529:                        Exception e("file.lock", 
1.110     paf       530:                                &file_spec, 
                    531:                                "shared lock failed: %s (%d), actual filename '%s'", 
1.126     paf       532:                                strerror(errno), errno, fname); 
                    533:                        close(f); 
1.110     paf       534:                        if(fail_on_lock_problem)
                    535:                                throw e;
1.98      paf       536:                        return false;
                    537:                }
1.96      paf       538: 
                    539:                try {
1.126     paf       540:                        action(f, context); 
1.96      paf       541:                } catch(...) {
1.104     paf       542:                        if(!do_append)
1.125     paf       543:                                ftruncate(f, lseek(f, 0, SEEK_CUR)); // one can not use O_TRUNC, read lower
1.126     paf       544:                        unlock(f);close(f); 
1.96      paf       545:                        /*re*/throw;
                    546:                }
1.80      paf       547:                
1.104     paf       548:                if(!do_append)
1.125     paf       549:                        ftruncate(f, lseek(f, 0, SEEK_CUR)); // O_TRUNC truncates even exclusevely write-locked file [thanks to Igor Milyakov <virtan@rotabanner.com> for discovering]
1.126     paf       550:                unlock(f);close(f); 
1.98      paf       551:                return true;
1.80      paf       552:        } else
1.126     paf       553:                throw Exception(errno==EACCES?"file.access":0, 
1.80      paf       554:                        &file_spec, 
1.96      paf       555:                        "%s failed: %s (%d), actual filename '%s'", 
1.126     paf       556:                                action_name, strerror(errno), errno, fname); 
1.96      paf       557:        // here should be nothing, see rethrow above
                    558: }
                    559: 
                    560: #ifndef DOXYGEN
                    561: struct File_write_action_info {
                    562:        const void *data; size_t size;
1.126     paf       563: }; 
1.96      paf       564: #endif
                    565: static void file_write_action(int f, void *context) {
1.126     paf       566:        File_write_action_info& info=*static_cast<File_write_action_info *>(context); 
1.113     paf       567:        if(info.size) {
1.126     paf       568:                int written=write(f, info.data, info.size); 
1.116     paf       569:                if(written<0)
1.126     paf       570:                        throw Exception(0, 
                    571:                                0, 
                    572:                                "write failed: %s (%d)",  strerror(errno), errno); 
1.113     paf       573:        }
1.96      paf       574: }
                    575: void file_write(
                    576:                                const String& file_spec, 
                    577:                                const void *data, size_t size, 
1.126     paf       578:                                bool as_text, 
1.96      paf       579:                                bool do_append) {
1.126     paf       580:        File_write_action_info info={data, size}; 
1.98      paf       581:        file_write_action_under_lock(
1.96      paf       582:                                file_spec, 
1.126     paf       583:                                "write", file_write_action, &info, 
                    584:                                as_text, 
                    585:                                do_append); 
1.30      paf       586: }
                    587: 
1.63      parser    588: // throws nothing! [this is required in file_move & file_delete]
1.50      paf       589: static void rmdir(const String& file_spec, size_t pos_after) {
                    590:        int pos_before;
                    591:        if((pos_before=file_spec.pos("/", 1, pos_after))>=0)
1.126     paf       592:                rmdir(file_spec, pos_before+1); 
1.50      paf       593:        
1.126     paf       594:        rmdir(file_spec.mid(0, pos_after-1/* / */).cstr(String::UL_FILE_SPEC)); 
1.50      paf       595: }
1.95      paf       596: bool file_delete(const String& file_spec, bool fail_on_read_problem) {
1.126     paf       597:        const char* fname=file_spec.cstr(String::UL_FILE_SPEC); 
1.54      parser    598:        if(unlink(fname)!=0)
1.93      paf       599:                if(fail_on_read_problem)
1.126     paf       600:                        throw Exception(errno==EACCES?"file.access":errno==ENOENT?"file.missing":0, 
1.93      paf       601:                                &file_spec, 
                    602:                                "unlink failed: %s (%d), actual filename '%s'", 
1.126     paf       603:                                        strerror(errno), errno, fname); 
1.93      paf       604:                else
                    605:                        return false;
1.50      paf       606: 
1.126     paf       607:        rmdir(file_spec, 1); 
1.93      paf       608:        return true;
1.60      parser    609: }
1.95      paf       610: void file_move(const String& old_spec, const String& new_spec) {
1.126     paf       611:        const char* old_spec_cstr=old_spec.cstr(String::UL_FILE_SPEC); 
                    612:        const char* new_spec_cstr=new_spec.cstr(String::UL_FILE_SPEC); 
1.63      parser    613:        
1.126     paf       614:        create_dir_for_file(new_spec); 
1.63      parser    615: 
1.60      parser    616:        if(rename(old_spec_cstr, new_spec_cstr)!=0)
1.126     paf       617:                throw Exception(errno==EACCES?"file.access":errno==ENOENT?"file.missing":0, 
1.60      parser    618:                        &old_spec, 
                    619:                        "rename failed: %s (%d), actual filename '%s' to '%s'", 
1.126     paf       620:                                strerror(errno), errno, old_spec_cstr, new_spec_cstr); 
1.63      parser    621: 
1.126     paf       622:        rmdir(old_spec, 1); 
1.31      paf       623: }
                    624: 
1.51      paf       625: 
1.126     paf       626: bool entry_exists(const char* fname, struct stat *afinfo) {
1.118     paf       627:        struct stat lfinfo;
                    628:        bool result=stat(fname, &lfinfo)==0;
                    629:        if(afinfo)
                    630:                *afinfo=lfinfo;
                    631:        return result;
1.119     paf       632: }
                    633: 
                    634: bool entry_exists(const String& file_spec) {
1.126     paf       635:        const char* fname=file_spec.cstr(String::UL_FILE_SPEC); 
                    636:        return entry_exists(fname, 0); 
1.118     paf       637: }
                    638: 
1.51      paf       639: static bool entry_readable(const String& file_spec, bool need_dir) {
1.126     paf       640:     char* fname=file_spec.cstr(String::UL_FILE_SPEC); 
1.120     paf       641:        if(need_dir) {
1.126     paf       642:                size_t size=strlen(fname); 
1.120     paf       643:                while(size) {
1.126     paf       644:                        char c=fname[size-1]; 
1.120     paf       645:                        if(c=='/' || c=='\\')
                    646:                                fname[--size]=0;
                    647:                        else
                    648:                                break;
                    649:                }
                    650:        }
1.51      paf       651:        struct stat finfo;
1.118     paf       652:        if(access(fname, R_OK)==0 && entry_exists(fname, &finfo)) {
1.109     paf       653:                bool is_dir=(finfo.st_mode&S_IFDIR) != 0;
1.51      paf       654:                return is_dir==need_dir;
                    655:        }
                    656:        return false;
                    657: }
1.31      paf       658: bool file_readable(const String& file_spec) {
1.126     paf       659:        return entry_readable(file_spec, false); 
1.51      paf       660: }
                    661: bool dir_readable(const String& file_spec) {
1.126     paf       662:        return entry_readable(file_spec, true); 
1.65      parser    663: }
                    664: String *file_readable(const String& path, const String& name) {
1.126     paf       665:        String *result=new(path.pool()) String(path); 
                    666:        *result << "/"; 
1.65      parser    667:        *result << name;
                    668:        return file_readable(*result)?result:0;
1.43      paf       669: }
                    670: bool file_executable(const String& file_spec) {
1.64      parser    671:     return access(file_spec.cstr(String::UL_FILE_SPEC), X_OK)==0;
1.44      paf       672: }
                    673: 
1.64      parser    674: bool file_stat(const String& file_spec, 
1.58      parser    675:                           size_t& rsize, 
1.126     paf       676:                           time_t& ratime, 
                    677:                           time_t& rmtime, 
                    678:                           time_t& rctime, 
1.64      parser    679:                           bool fail_on_read_problem) {
1.126     paf       680:        Pool& pool=file_spec.pool(); 
                    681:        const char* fname=file_spec.cstr(String::UL_FILE_SPEC); 
1.44      paf       682:     struct stat finfo;
                    683:        if(stat(fname, &finfo)!=0)
1.64      parser    684:                if(fail_on_read_problem)
1.126     paf       685:                        throw Exception("file.missing", 
1.67      parser    686:                                &file_spec, 
                    687:                                "getting file size failed: %s (%d), real filename '%s'", 
1.126     paf       688:                                        strerror(errno), errno, fname); 
1.64      parser    689:                else
                    690:                        return false;
1.58      parser    691:        rsize=finfo.st_size;
                    692:        ratime=finfo.st_atime;
                    693:        rmtime=finfo.st_mtime;
                    694:        rctime=finfo.st_ctime;
1.64      parser    695:        return true;
1.18      paf       696: }
                    697: 
1.126     paf       698: char* getrow(char* *row_ref, char delim) {
                    699:     char* result=*row_ref;
1.8       paf       700:     if(result) {
1.126     paf       701:                *row_ref=strchr(result, delim); 
1.8       paf       702:                if(*row_ref) 
                    703:                        *((*row_ref)++)=0; 
                    704:                else if(!*result) 
                    705:                        return 0;
                    706:     }
                    707:     return result;
                    708: }
                    709: 
1.126     paf       710: char* lsplit(char* string, char delim) {
1.23      paf       711:     if(string) {
1.126     paf       712:                char* v=strchr(string, delim); 
1.8       paf       713:                if(v) {
                    714:                        *v=0;
                    715:                        return v+1;
                    716:                }
                    717:     }
                    718:     return 0;
                    719: }
                    720: 
1.126     paf       721: char* lsplit(char* *string_ref, char delim) {
                    722:     char* result=*string_ref;
                    723:        char* next=lsplit(*string_ref, delim); 
1.8       paf       724:     *string_ref=next;
                    725:     return result;
1.9       paf       726: }
                    727: 
1.126     paf       728: char* rsplit(char* string, char delim) {
1.18      paf       729:     if(string) {
1.126     paf       730:                char* v=strrchr(string, delim); 
1.18      paf       731:                if(v) {
1.9       paf       732:                        *v=0;
                    733:                        return v+1;
                    734:                }
                    735:     }
                    736:     return NULL;       
1.10      paf       737: }
                    738: 
1.37      paf       739: /// @todo less stupid type detection
1.126     paf       740: char* format(Pool& pool, double value, char* fmt) {
                    741:        char local_buf[MAX_NUMBER]; 
1.108     paf       742:        size_t size;
                    743:        
1.10      paf       744:        if(fmt)
                    745:                if(strpbrk(fmt, "diouxX"))
                    746:                        if(strpbrk(fmt, "ouxX"))
1.126     paf       747:                                size=snprintf(local_buf, sizeof(local_buf), fmt, (uint)value); 
1.10      paf       748:                        else
1.126     paf       749:                                size=snprintf(local_buf, sizeof(local_buf), fmt, (int)value); 
1.10      paf       750:                else
1.126     paf       751:                        size=snprintf(local_buf, sizeof(local_buf), fmt, value); 
1.10      paf       752:        else
1.126     paf       753:                size=snprintf(local_buf, sizeof(local_buf), "%d", (int)value); 
1.10      paf       754:        
1.126     paf       755:        char* pool_buf=(char *)pool.malloc(size+1, 4); 
                    756:        memcpy(pool_buf, local_buf, size+1); 
1.108     paf       757:        return pool_buf;
1.12      paf       758: }
                    759: 
1.36      paf       760: size_t stdout_write(const void *buf, size_t size) {
1.12      paf       761: #ifdef WIN32
                    762:        do{
1.126     paf       763:                int chunk_written=fwrite(buf, 1, min(8*0x400, size), stdout); 
1.12      paf       764:                if(chunk_written<=0)
                    765:                        break;
                    766:                size-=chunk_written;
1.36      paf       767:                buf=((const char*)buf)+chunk_written;
1.126     paf       768:        } while(size>0); 
1.12      paf       769: 
                    770:        return size;
                    771: #else
1.126     paf       772:        return fwrite(buf, 1, size, stdout); 
1.12      paf       773: #endif
1.2       paf       774: }
1.14      paf       775: 
1.126     paf       776: char* unescape_chars(Pool& pool, const char* cp, int len) {
                    777:        char* s=(char *)pool.malloc(len + 1, 5); 
1.14      paf       778:        enum EscapeState {
1.33      paf       779:                EscapeRest, 
                    780:                EscapeFirst, 
1.14      paf       781:                EscapeSecond
                    782:        } escapeState=EscapeRest;
                    783:        int escapedValue=0;
                    784:        int srcPos=0;
                    785:        int dstPos=0;
                    786:        while(srcPos < len) {
1.126     paf       787:                int ch=cp[srcPos]; 
1.14      paf       788:                switch(escapeState) {
                    789:                        case EscapeRest:
                    790:                        if(ch=='%') {
                    791:                                escapeState=EscapeFirst;
                    792:                        } else if(ch=='+') {
1.126     paf       793:                                s[dstPos++]=' '; 
1.14      paf       794:                        } else {
                    795:                                s[dstPos++]=ch; 
                    796:                        }
                    797:                        break;
                    798:                        case EscapeFirst:
                    799:                        escapedValue=hex_value[ch] << 4;        
                    800:                        escapeState=EscapeSecond;
                    801:                        break;
                    802:                        case EscapeSecond:
1.126     paf       803:                        escapedValue +=hex_value[ch]; 
1.14      paf       804:                        s[dstPos++]=escapedValue;
                    805:                        escapeState=EscapeRest;
                    806:                        break;
                    807:                }
1.126     paf       808:                srcPos++; 
1.14      paf       809:        }
                    810:        s[dstPos]=0;
                    811:        return s;
1.24      paf       812: }
                    813: 
                    814: #ifdef WIN32
1.126     paf       815: void back_slashes_to_slashes(char* s) {
1.24      paf       816:        if(s)
                    817:                for(; *s; s++)
                    818:                        if(*s=='\\')
1.126     paf       819:                                *s='/'; 
1.24      paf       820: }
1.42      paf       821: /*
1.126     paf       822: void slashes_to_back_slashes(char* s) {
1.42      paf       823:        if(s)
                    824:                for(; *s; s++)
                    825:                        if(*s=='/')
1.126     paf       826:                                *s='\\'; 
1.42      paf       827: }
                    828: */
1.24      paf       829: #endif
1.41      paf       830: 
1.126     paf       831: bool StrEqNc(const char* s1, const char* s2, bool strict) {
1.41      paf       832:        while(true) {
                    833:                if(!(*s1)) {
                    834:                        if(!(*s2))
                    835:                                return true;
                    836:                        else
                    837:                                return !strict;
                    838:                } else if(!(*s2))
                    839:                        return !strict;
                    840:                if(isalpha(*s1)) {
                    841:                        if(tolower(*s1) !=tolower(*s2))
                    842:                                return false;
                    843:                } else if((*s1) !=(*s2))
                    844:                        return false;
1.126     paf       845:                s1++; 
                    846:                s2++; 
1.41      paf       847:        }
1.57      parser    848: }
                    849: 
1.84      paf       850: static bool isLeap(int year) {
1.57      parser    851:     return !(
                    852:              (year % 4) || ((year % 400) && !(year % 100))
1.126     paf       853:             ); 
1.57      parser    854: }
                    855: 
                    856: int getMonthDays(int year, int month) {
                    857:     int monthDays[]={
1.126     paf       858:         31, 
                    859:         isLeap(year) ? 29 : 28, 
                    860:         31, 
                    861:         30, 
                    862:         31, 
                    863:         30, 
                    864:         31, 
                    865:         31, 
                    866:         30, 
                    867:         31, 
                    868:         30, 
1.57      parser    869:         31
1.126     paf       870:     }; 
                    871:     return monthDays[month]; 
1.41      paf       872: }
1.69      parser    873: 
1.126     paf       874: void remove_crlf(char* start, char* end) {
                    875:        for(char* p=start; p<end; p++)
1.69      parser    876:                switch(*p) {
1.126     paf       877:                        case '\n': *p='|';  break;
                    878:                        case '\r': *p=' ';  break;
1.69      parser    879:                }
1.91      paf       880: }
                    881: 
                    882: 
                    883: /// must be last in this file
                    884: #undef vsnprintf
1.126     paf       885: int __vsnprintf(char* b, size_t s, const char* f, va_list l) {
1.91      paf       886:        if(!s)
                    887:                return 0;
                    888: 
                    889:        int r;
                    890:        // note: on win32& maybe somewhere else
                    891:        // vsnprintf do not writes terminating 0 in 'buffer full' case, reducing
                    892:        --s;
                    893: #if _MSC_VER
                    894:        /*
                    895:        win32: 
                    896:        mk:@MSITStore:C:\Program%20Files\Microsoft%20Visual%20Studio\MSDN\2001APR\1033\vccore.chm::/html/_crt__vsnprintf.2c_._vsnwprintf.htm
                    897: 
                    898:          if the number of bytes to write exceeds buffer, then count bytes are written and –1 is returned
                    899:        */
1.126     paf       900:        r=_vsnprintf(b, s, f, l); 
1.91      paf       901:        if(r<0) 
                    902:                r=s;
                    903: #else
1.126     paf       904:        r=vsnprintf(b, s, f, l); 
1.91      paf       905:        /*
                    906:        solaris: 
                    907:        man vsnprintf
                    908: 
                    909:          The snprintf() function returns  the  number  of  characters
                    910:        formatted, that is, the number of characters that would have
                    911:        been written to the buffer if it were large enough.  If  the
                    912:        value  of  n  is  0  on a call to snprintf(), an unspecified
                    913:        value less than 1 is returned.
                    914:        */
                    915: 
                    916:        if(r<0)
                    917:                r=0;
                    918:        else if(r>s)
                    919:                r=s;
                    920: #endif
                    921:        b[r]=0;
                    922:        return r;
                    923: }
                    924: 
1.126     paf       925: int __snprintf(char* b, size_t s, const char* f, ...) {
1.91      paf       926:        va_list l;
1.126     paf       927:     va_start(l, f); 
                    928:     int r=__vsnprintf(b, s, f, l); 
                    929:     va_end(l); 
1.91      paf       930:        return r;
1.98      paf       931: }
                    932: 
                    933: int pa_sleep(unsigned long secs, unsigned long usecs) {
1.126     paf       934:        for (;  usecs >= 1000000; ++secs, usecs -= 1000000); 
1.98      paf       935: 
                    936: #ifdef WIN32
1.126     paf       937:        Sleep(secs * 1000 + usecs / 1000); 
1.98      paf       938:        return 0;
                    939: #else
                    940:        struct timeval t;
                    941:        t.tv_sec = secs;
                    942:        t.tv_usec = usecs;
1.126     paf       943:        return (select(0, NULL, NULL, NULL, &t) == -1 ? errno : 0); 
1.98      paf       944: #endif
1.74      parser    945: }

E-mail: