[BACK]Return to pa_common.C CVS log [TXT] [DIR] Up to [parser3project] / parser3 / src / main

Diff for /parser3/src/main/pa_common.C between versions 1.143.2.21 and 1.240

version 1.143.2.21, 2003/03/04 14:55:37 version 1.240, 2009/01/12 07:47:50
Line 1 Line 1
 /** @file  /** @file
         Parser: commonly functions.          Parser: commonly functions.
   
         Copyright(c) 2001-2003 ArtLebedev Group (http://www.artlebedev.com)          Copyright(c) 2001-2005 ArtLebedev Group (http://www.artlebedev.com)
         Author: Alexandr Petrosian <paf@design.ru> (http://paf.design.ru)          Author: Alexandr Petrosian <paf@design.ru> (http://paf.design.ru)
 */  
   
 static const char* IDENT_COMMON_C="$Date$";    * BASE64 part
    *  Authors: Michael Zucchi <notzed@ximian.com>
    *           Jeffrey Stedfast <fejj@ximian.com>
    *
    *  Copyright 2000-2004 Ximian, Inc. (www.ximian.com)
    *
    *  This program is free software; you can redistribute it and/or modify
    *  it under the terms of the GNU General Public License as published by
    *  the Free Software Foundation; either version 2 of the License, or
    *  (at your option) any later version.
    *
    *  This program is distributed in the hope that it will be useful,
    *  but WITHOUT ANY WARRANTY; without even the implied warranty of
    *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
    *  GNU General Public License for more details.
    *
    *  You should have received a copy of the GNU General Public License
    *  along with this program; if not, write to the Free Software
    *  Foundation, Inc., 59 Temple Street #330, Boston, MA 02111-1307, USA.
    *
    */
   
   static const char * const IDENT_COMMON_C="$Date$"; 
   
 #include "pa_common.h"  #include "pa_common.h"
 #include "pa_exception.h"  #include "pa_exception.h"
 #include "pa_hash.h"  #include "pa_hash.h"
 #include "pa_vstring.h"  
 #include "pa_vint.h"  
 #include "pa_globals.h"  #include "pa_globals.h"
   #include "pa_charsets.h"
 #ifdef CYGWIN  #include "pa_http.h"
 #define _GNU_H_WINDOWS32_SOCKETS  #include "pa_request_charsets.h"
 // for PASCAL  #include "pcre.h"
 #include <windows.h>  
 // SOCKET  
 typedef u_int   SOCKET;  
 int PASCAL closesocket(SOCKET);  
 #else  
 #       if defined(WIN32)  
 #               include <windows.h>  
 #       else  
 #               define closesocket close  
 #       endif  
 #endif  
   
 // some maybe-undefined constants  // some maybe-undefined constants
   
Line 48  int PASCAL closesocket(SOCKET); Line 56  int PASCAL closesocket(SOCKET);
 #       endif  #       endif
 #endif  #endif
   
 // locking constants  
   
 #ifdef HAVE_FLOCK  
   
 static int lock_shared_blocking(int fd) { return flock(fd, LOCK_SH); }  
 static int lock_exclusive_blocking(int fd) { return flock(fd, LOCK_EX); }  
 static int lock_exclusive_nonblocking(int fd) { return flock(fd, LOCK_EX || LOCK_NB); }  
 static int unlock(int fd) { return flock(fd, LOCK_UN); }  
   
 #else  
 #ifdef HAVE__LOCKING  
   
 #define FLOCK(operation) lseek(fd, 0, SEEK_SET);  return _locking(fd, operation, 1)  
 static int lock_shared_blocking(int fd) { FLOCK(_LK_LOCK); }  
 static int lock_exclusive_blocking(int fd) { FLOCK(_LK_LOCK); }  
 static int lock_exclusive_nonblocking(int fd) { FLOCK(_LK_NBLCK); }  
 static int unlock(int fd) { FLOCK(_LK_UNLCK); }  
   
 #else  
 #ifdef HAVE_FCNTL  
   
 #define FLOCK(cmd, arg) struct flock ls={arg, SEEK_SET};  return fcntl(fd, cmd, &ls)  
 static int lock_shared_blocking(int fd) { FLOCK(F_SETLKW, F_RDLCK); }  
 static int lock_exclusive_blocking(int fd) { FLOCK(F_SETLKW, F_WRLCK); }  
 static int lock_exclusive_nonblocking(int fd) { FLOCK(F_SETLK, F_RDLCK); }  
 static int unlock(int fd) { FLOCK(F_SETLK, F_UNLCK); }  
   
 #else  
 #ifdef HAVE_LOCKF  
   
 #define FLOCK(fd, operation) lseek(fd, 0, SEEK_SET);  return lockf(fd, operation, 1)  
 static int lock_shared_blocking(int fd) { FLOCK(F_LOCK); } // on intel solaris man doesn't have doc on shared blocking  
 static int lock_exclusive_blocking(int fd) { FLOCK(F_LOCK); }  
 static int lock_exclusive_nonblocking(int fd) { FLOCK(F_TLOCK); }  
 static int unlock(int fd) { FLOCK(F_TLOCK); }  
   
 #else  
   
 #error unable to find file locking func  
   
 #endif  
 #endif  
 #endif  
 #endif  
   
 // defines for globals  // defines for globals
   
 #define FILE_STATUS_NAME  "status"  #define FILE_STATUS_NAME  "status"
   
 // globals  // globals
   
 StringPtr file_status_name(new String(FILE_STATUS_NAME));  const String file_status_name(FILE_STATUS_NAME);
   
 // defines for statics  
   
 #define HTTP_METHOD_NAME  "method"  
 #define HTTP_TIMEOUT_NAME    "timeout"  
 #define HTTP_HEADERS_NAME "headers"  
 #define HTTP_ANY_STATUS_NAME "any-status"  
   
 // statics  
   
 static StringPtr http_method_name(new String(HTTP_METHOD_NAME));  
 static StringPtr http_timeout_name(new String(HTTP_TIMEOUT_NAME));  
 static StringPtr http_headers_name(new String(HTTP_HEADERS_NAME));  
 static StringPtr http_any_status_name(new String(HTTP_ANY_STATUS_NAME));  
   
 // defines  
   
 #define DEFAULT_USER_AGENT "parser3"  
   
 // functions  // functions
   
 void fix_line_breaks(char* buf, size_t& size) {  void fix_line_breaks(char *str, size_t& length) {
         if(size==0)  
                 return;  
   
         //_asm int 3;          //_asm int 3;
         const char* const eob=buf+size;          const char* const eob=str+length;
         char* dest=buf;          char* dest=str;
         // fix DOS: \r\n -> \n          // fix DOS: \r\n -> \n
         // fix Macintosh: \r -> \n          // fix Macintosh: \r -> \n
         char* bol=buf;          char* bol=str;
         while(char* eol=(char*)memchr(bol, '\r', eob -bol)) {          while(char* eol=(char*)memchr(bol, '\r', eob -bol)) {
                 size_t len=eol-bol;                  size_t len=eol-bol;
                 if(dest!=bol)                  if(dest!=bol)
Line 140  void fix_line_breaks(char* buf, size_t& Line 82  void fix_line_breaks(char* buf, size_t&
   
                 if(&eol[1]<eob && eol[1]=='\n') { // \r, \n = DOS                  if(&eol[1]<eob && eol[1]=='\n') { // \r, \n = DOS
                         bol=eol+2;                          bol=eol+2;
                         size--;                           length--; 
                 } else // \r, not \n = Macintosh                  } else // \r, not \n = Macintosh
                         bol=eol+1;                          bol=eol+1;
         }          }
         // last piece without \r, including terminating 0          // last piece without \r
         if(dest!=bol)          if(dest!=bol)
                 memcpy(dest, bol, eob-bol);                   memcpy(dest, bol, eob-bol); 
           str[length]=0; // terminating
 }  }
   
 char* file_read_text(Pool& pool, Charset& charset,   char* file_read_text(Request_charsets& charsets, 
                                          StringPtr file_spec,                           const String& file_spec, 
                                          bool fail_on_read_problem,                          bool fail_on_read_problem,
                                          HashStringValue* params/*, HashStringValuePtr* out_fields*/) {                          HashStringValue* params,
                           bool transcode_result) {
         File_read_result file=          File_read_result file=
                 file_read(pool, charset, file_spec, true, params, fail_on_read_problem);                  file_read(charsets, file_spec, true, params, fail_on_read_problem, 0, 0, 0, transcode_result);
         return file.success?file.data:0;          return file.success?file.str:0;
 }  }
   
 //http request stuff  /// these options were handled but not checked elsewhere, now check them
 /* ************************ http stuff *********************** */  int pa_get_valid_file_options_count(HashStringValue& options) {
   
 static bool set_addr(struct sockaddr_in *addr, const char* host, const short port){  
     memset(addr, 0, sizeof(*addr));   
     addr->sin_family=AF_INET;  
     addr->sin_port=htons(port);   
     if(host) {  
                 if(struct hostent *hostIP=gethostbyname(host))   
                         memcpy(&addr->sin_addr, hostIP->h_addr, hostIP->h_length);   
                 else  
                         return false;  
     } else   
                 addr->sin_addr.s_addr=INADDR_ANY;  
     return true;  
 }  
   
 static int http_read_response(Pool& pool, String& response, int sock, bool fail_on_status_ne_200){  
         int result=0;          int result=0;
         ssize_t EOLat=0;          if(options.get(PA_SQL_LIMIT_NAME))
         while(true) {                  result++;
                 char *buf=new(pool) char[MAX_STRING];           if(options.get(PA_SQL_OFFSET_NAME))
                 ssize_t size=recv(sock, buf, MAX_STRING, 0);                   result++;
                 if(size<=0)          if(options.get(PA_COLUMN_SEPARATOR_NAME))
                         break;                  result++;
                 response.APPEND_TAINTED(buf, size, "remote HTTP server response", 0);           if(options.get(PA_COLUMN_ENCLOSER_NAME))
                 if(!result && (EOLat=response.pos("\r\n", 2))>=0) { // checking status in first response                  result++;
                         StringPtr status_line=response.mid(0, (size_t)EOLat);          if(options.get(PA_CHARSET_NAME))
                         ArrayString astatus;                   result++;
                         status_line->split(astatus, 0, " ", 1);   
                         StringPtr status_code=astatus.get(1);  
                         result=status_code->as_int();   
   
                         if(fail_on_status_ne_200 && result!=200)  
                                 throw Exception("http.status",  
                                         status_code,  
                                         "invalid HTTP response status");  
                 }  
         }  
         if(result)  
                 return result;  
         else  
                 throw Exception("http.response",  
                         Exception::undefined_source,  
                         "bad response from host - no status found (size=%lu)", response.size());   
 }  
   
 /* ********************** request *************************** */  
   
 #if defined(SIGALRM) && defined(HAVE_SIGSETJMP) && defined(HAVE_SIGLONGJMP)  
 #       define WE_CAN_USE_ALARM  
 #endif  
   
 #ifdef WE_CAN_USE_ALARM  
 static sigjmp_buf timeout_env;  
 static void timeout_handler(int sig){  
     siglongjmp(timeout_env, 1);   
 }  
 #endif  
   
 static int http_request(Pool& pool,  
                                                 String& response,  
                                                 StringPtr origin_string,   
                                                 const char* host, int port,   
                                                 const char* request,   
                                                 int timeout,  
                                                 bool fail_on_status_ne_200) {  
         if(!host)  
                 throw Exception("http.host",   
                         origin_string,   
                         "zero hostname");  //never  
   
 #ifdef WE_CAN_USE_ALARM  
     signal(SIGALRM, timeout_handler);   
 #endif  
         int sock=-1;  
         try {  
                 int result;  
 #ifdef WE_CAN_USE_ALARM  
                 if(sigsetjmp(timeout_env, 1))  
                         throw Exception("http.timeout",   
                                 origin_string,   
                                 "timeout occured while retrieving document");   
                 else {  
                         alarm(timeout);   
 #endif  
                         struct sockaddr_in dest;  
                   
                 if(!set_addr(&dest, host, port))  
                                 throw Exception("http.host",   
                                         origin_string,   
                                         "can not resolve hostname \"%s\"", host);   
                           
                         if((sock=socket(AF_INET, SOCK_STREAM, IPPROTO_TCP/*0*/))<0)  
                                 throw Exception("http.connect",   
                                         origin_string,   
                                         "can not make socket: %s (%d)", strerror(errno), errno);   
                         if(connect(sock, (struct sockaddr *)&dest, sizeof(dest)))  
                                 throw Exception("http.connect",   
                                         origin_string,   
                                         "can not connect to host \"%s\": %s (%d)", host, strerror(errno), errno);   
                         size_t request_size=strlen(request);  
                         if(send(sock, request, request_size, 0)!=(ssize_t)request_size)  
                                 throw Exception("http.connect",   
                                         origin_string,   
                                         "error sending request: %s (%d)", strerror(errno), errno);   
   
                         result=http_read_response(pool, response, sock, fail_on_status_ne_200);   
                         closesocket(sock);   
 #ifdef WE_CAN_USE_ALARM  
                         alarm(0);   
                 }  
 #endif  
                 return result;  
         } catch(...) {  
                 if(sock>=0)   
                         closesocket(sock);   
 #ifdef WE_CAN_USE_ALARM  
                 alarm(0);   
 #endif  
                 rethrow;  
         }  
 }  
   
 #ifndef DOXYGEN  
 struct Http_pass_header_info {  
         Pool* pool;  
         Charset* charset;  
         String* request;  
         bool user_agent_specified;  
 };  
 #endif  
 static void http_pass_header(HashStringValue::key_type key, HashStringValue::value_type value,   
                                                          Http_pass_header_info *info) {  
     *(info->request)<<*key<<": "  
                 << *attributed_meaning_to_string(*info->pool, value, String::UL_HTTP_HEADER, false)  
                 <<"\n";   
           
         if(*key->change_case(*info->pool, *info->charset, String::CC_UPPER)=="USER-AGENT")  
                 info->user_agent_specified=true;  
 }  
 #ifndef DOXYGEN  
 struct File_read_http_result {  
         char *data; size_t size;  
         HashStringValuePtr headers;  
 };   
 #endif  
 static File_read_http_result file_read_http(Pool& pool, Charset& charset, StringPtr file_spec,   
                                         HashStringValue *options=0) {  
         File_read_http_result result;  
         char host[MAX_STRING];   
         const char* uri;   
         int port;  
         CharPtr method(0);  
         int timeout=2;  
         bool fail_on_status_ne_200=true;  
         ValuePtr vheaders(0);  
   
         StringPtr connect_string(new String());  
         // not in ^sql{... UL_SQL ...} spirit, but closer to ^file::load one  
         connect_string->append(*file_spec, String::UL_URI); // tainted pieces -> URI pieces  
   
         CharPtr connect_string_cstr=connect_string->cstr(String::UL_UNSPECIFIED);   
         const char* current=connect_string_cstr;  
         if(strncmp(current, "http://", 7)!=0)  
                 throw Exception(0,   
                         connect_string,   
                         "does not start with http://"); //never  
         current+=7;  
   
         strncpy(host, current, sizeof(host)-1);  host[sizeof(host)-1]=0;  
         char* host_uri=lsplit(host, '/');   
         uri=host_uri?current+(host_uri-1-host):"/";   
         char* port_cstr=lsplit(host, ':');   
         char* error_pos=0;  
         port=port_cstr?strtol(port_cstr, &error_pos, 0):80;  
   
         if(options) {  
                 int valid_options=0;  
                 if(ValuePtr vmethod=options->get(http_method_name)) {  
                         valid_options++;  
                         method=vmethod->as_string(&pool)->cstr();  
                 }  
                 if(ValuePtr vtimeout=options->get(http_timeout_name)) {  
                         valid_options++;  
                         timeout=vtimeout->as_int();   
                 }  
                 if(vheaders=options->get(http_headers_name)) {  
                         valid_options++;  
                 }  
                 if(ValuePtr vany_status=options->get(http_any_status_name)) {  
                         valid_options++;  
                         fail_on_status_ne_200=!vany_status->as_bool();   
                 }  
   
                 if(valid_options!=options->count())  
                         throw Exception("parser.runtime",  
                                 Exception::undefined_source,  
                                 "invalid option passed");  
         }   
   
         //making request  
         String request;  
         if(method)  
                 request<<method;  
         else  
                 request<<"GET";  
         request<< " "<< uri <<" HTTP/1.0\nHost: "<< host<<"\n";   
         bool user_agent_specified=false;  
         if(vheaders && !vheaders->is_string()) { // allow empty  
                 if(HashStringValue *headers=vheaders->get_hash(connect_string)) {  
                         Http_pass_header_info info={&pool, &charset, &request};  
                         headers->for_each(http_pass_header, &info);   
                         user_agent_specified=info.user_agent_specified;  
                 } else  
                         throw Exception("parser.runtime",   
                                 connect_string,  
                                 "headers param must be hash");   
         };  
         if(!user_agent_specified) // defaulting  
                 request << "user-agent: " DEFAULT_USER_AGENT "\n";  
         request<<"\n";   
           
         //sending request  
         String response;  
         CharPtr request_cstr=request.cstr(String::UL_UNSPECIFIED);  
         int status_code=http_request(pool, response,  
                 connect_string, host, port, request_cstr,   
                 timeout, fail_on_status_ne_200);   
           
         //processing results      
         int pos=response.pos("\r\n\r\n", 4);   
         if(pos<1){  
                 throw Exception("http.response",   
                         connect_string,  
                         "bad response from host - no headers found");   
         }  
         StringPtr header_block=response.mid(0, pos);   
         StringPtr body=response.mid(pos+4, response.size());   
           
         ArrayString aheaders;  
         result.headers=HashStringValuePtr(new HashStringValue);   
         header_block->split(aheaders, 0, "\r\n", 2);   
           
         //processing headers  
         for(int i=1; i<aheaders.count(); i++) {  
                 StringPtr line=aheaders.get(i);  
                 pos=line->pos(": ", 2);   
                 if(pos<1)  
                         throw Exception("http.response",   
                                 connect_string,  
                                 "bad response from host - bad header \"%s\"", line->cstr().get());  
                           
                 result.headers->put(  
                         line->mid(0, pos)->change_case(pool, charset, String::CC_UPPER),   
                         ValuePtr(new VString(line->mid(pos+2, line->size()))));   
         }  
   
         // output response  
         result.data=new(pool) char[1/*as text puts terminating zero later*/+(result.size=body->size())];  
         body->store_to(result.data, String::UL_AS_IS);  
         result.headers->put(file_status_name, ValuePtr(new VInt(status_code)));   
         return result;          return result;
 }  }
   
 #ifndef DOXYGEN  #ifndef DOXYGEN
 struct File_read_action_info {  struct File_read_action_info {
         char **data; size_t *data_size;          char **data; size_t *data_size;
           char* buf; size_t offset; size_t count;
 };   }; 
 #endif  #endif
 static void file_read_action(Pool& pool,  static void file_read_action(
                                                          struct stat& finfo,                                   struct stat& finfo, 
                                                          int f,                                   int f, 
                                                          StringPtr file_spec, const char* fname, bool as_text,                                   const String& file_spec, const char* /*fname*/, bool as_text, 
                                                          void *context) {                                  void *context) {
         File_read_action_info& info=*static_cast<File_read_action_info *>(context);           File_read_action_info& info=*static_cast<File_read_action_info *>(context); 
         if(size_t to_read_size=(size_t)finfo.st_size) {           size_t to_read_size=info.count;
                 *info.data=new(pool) char[to_read_size+(as_text?1:0)];           if(!to_read_size)
                   to_read_size=(size_t)finfo.st_size;
           assert( !(info.buf && as_text) );
           if(to_read_size) { 
                   if(info.offset)
                           lseek(f, info.offset, SEEK_SET);
                   *info.data=info.buf
                           ? info.buf
                           : new(PointerFreeGC) char[to_read_size+(as_text?1:0)]; 
                 *info.data_size=(size_t)read(f, *info.data, to_read_size);                   *info.data_size=(size_t)read(f, *info.data, to_read_size); 
   
                 if(ssize_t(*info.data_size)<0 || *info.data_size>to_read_size)                  if(ssize_t(*info.data_size)<0 || *info.data_size>to_read_size)
                         throw Exception(0,                           throw Exception("file.read", 
                                 file_spec,                                   &file_spec, 
                                 "read failed: actually read %lu bytes count not in [0..%lu] valid range",                                   "read failed: actually read %u bytes count not in [0..%u] valid range", 
                                         *info.data_size, to_read_size);                                           *info.data_size, to_read_size); 
         } else { // empty file          } else { // empty file
                 if(as_text) {                  // for both, text and binary: for text we need that terminator, for binary we need nonzero pointer to be able to save such files
                         *info.data=new(pool) char[1];                   *info.data=new(PointerFreeGC) char[1]; 
                         *(char*)(*info.data)=0;                  *(char*)(*info.data)=0;
                 } else   
                         *info.data=0;  
                 *info.data_size=0;                  *info.data_size=0;
                 return;                  return;
         }          }
 }  }
 File_read_result file_read(Pool& pool, Charset& charset, StringPtr file_spec,   File_read_result file_read(Request_charsets& charsets, const String& file_spec, 
                            bool as_text, HashStringValue *params,                          bool as_text, HashStringValue *params,
                            bool fail_on_read_problem) {                          bool fail_on_read_problem,
         File_read_result result;                          char* buf, size_t offset, size_t count, bool transcode_text_result) {
         if(file_spec->starts_with("http://", 7)) {          File_read_result result={false, 0, 0, 0};
           if(file_spec.starts_with("http://")) {
                   if(offset || count)
                           throw Exception(PARSER_RUNTIME,
                                   0,
                                   "offset and load options are not supported for HTTP:// file load");
   
                 // fail on read problem                  // fail on read problem
                 File_read_http_result http=file_read_http(pool, charset, file_spec, params);                  File_read_http_result http=pa_internal_file_read_http(charsets, file_spec, as_text, params, transcode_text_result);
                 result.success=true;                  result.success=true;
                 result.data=http.data;                  result.str=http.str;
                 result.size=http.size;                  result.length=http.length;
                 result.headers=http.headers;                   result.headers=http.headers; 
         } else {          } else {
                 File_read_action_info info={&result.data, &result.size};                   if(params){
                 result.success=file_read_action_under_lock(pool, file_spec,                           int valid_options=pa_get_valid_file_options_count(*params);
                           if(valid_options!=params->count())
                                   throw Exception(PARSER_RUNTIME,
                                           0,
                                           "invalid option passed");
                   }
   
                   File_read_action_info info={&result.str, &result.length,
                           buf, offset, count}; 
                   result.success=file_read_action_under_lock(file_spec, 
                         "read", file_read_action, &info,                           "read", file_read_action, &info, 
                         as_text, fail_on_read_problem);                           as_text, fail_on_read_problem); 
         }  
   
         if(result.success && as_text) {                  if(as_text && result.success){
                 // UTF-8 signature: EF BB BF                          if(result.length>=3 && strncmp(result.str, "\xEF\xBB\xBF", 3)==0){
                 if(result.size>=3) {                                  // skip UTF-8 signature (BOM code)
                         char *in=(char *)result.data;                                  result.str+=3;
                         if((in[0] == '\xEF') && (in[1] == '\xBB') &&                                  result.length-=3;
                                 (in[2] == '\xBF')) {                          }
                                 result.data=in+3; result.size-=3;// skip prefix                          
                           if(result.length && transcode_text_result && params){ // must be checked because transcode returns CONST string in case length==0, which contradicts hacking few lines below
                                   if(Value* vcharset_name=params->get(PA_CHARSET_NAME)){
                                           Charset asked_charset=::charsets.get(vcharset_name->as_string().
                                                   change_case(charsets.source(), String::CC_UPPER));
   
                                           String::C body=String::C(result.str, result.length);
                                           body=Charset::transcode(body, asked_charset, charsets.source());
   
                                           result.str=const_cast<char*>(body.str); // hacking a little
                                           result.length=body.length;
                                   }
                         }                          }
                 }                  }
   
                 fix_line_breaks((char *)(result.data), result.size);   
                 // note: after fixing  
                 ((char*&)(result.data))[result.size]=0;  
         }          }
           
           if(as_text && result.length)
                   fix_line_breaks(result.str, result.length);
   
         return result;          return result;
 }  }
   
 bool file_read_action_under_lock(Pool& pool, StringPtr file_spec,   #ifdef PA_SAFE_MODE 
   void check_safe_mode(struct stat finfo, const String& file_spec, const char* fname) { 
           if(finfo.st_uid/*foreign?*/!=geteuid() 
                   && finfo.st_gid/*foreign?*/!=getegid()) 
                   throw Exception(PARSER_RUNTIME,  
                           &file_spec,  
                           "parser is in safe mode: " 
                           "reading files of foreign group and user disabled " 
                           "[recompile parser with --disable-safe-mode configure option], " 
                           "actual filename '%s', " 
                           "fuid(%d)!=euid(%d) or fgid(%d)!=egid(%d)",  
                                   fname, 
                                   finfo.st_uid, geteuid(), 
                                   finfo.st_gid, getegid()); 
   } 
   #endif 
   
   bool file_read_action_under_lock(const String& file_spec, 
                                 const char* action_name, File_read_action action, void *context,                                   const char* action_name, File_read_action action, void *context, 
                                 bool as_text,                                   bool as_text, 
                                 bool fail_on_read_problem) {                                  bool fail_on_read_problem) {
         CharPtr fname=file_spec->cstr(String::UL_FILE_SPEC);           const char* fname=file_spec.cstr(String::L_FILE_SPEC); 
         int f;          int f;
   
         // first open, next stat:          // first open, next stat:
Line 505  bool file_read_action_under_lock(Pool& p Line 248  bool file_read_action_under_lock(Pool& p
         //   they delay update till open, so we would receive "!^test[" string          //   they delay update till open, so we would receive "!^test[" string
         //   if would do stat, next open.          //   if would do stat, next open.
         // later: it seems, even this does not help sometimes          // later: it seems, even this does not help sometimes
     if((f=open(fname, O_RDONLY|(as_text?_O_TEXT:_O_BINARY)))>=0) {          if((f=open(fname, O_RDONLY|(as_text?_O_TEXT:_O_BINARY)))>=0) {
                 try {                  try {
                         if(lock_shared_blocking(f)!=0)                          if(pa_lock_shared_blocking(f)!=0)
                                 throw Exception("file.lock",                                   throw Exception("file.lock", 
                                                 file_spec,                                                   &file_spec, 
                                                 "shared lock failed: %s (%d), actual filename '%s'",                                                   "shared lock failed: %s (%d), actual filename '%s'", 
                                                         strerror(errno), errno, fname.get());                                                          strerror(errno), errno, fname);
   
                         struct stat finfo;                          struct stat finfo;
                         if(stat(fname, &finfo)!=0)                          if(stat(fname, &finfo)!=0)
                                 throw Exception("file.missing", // hardly possible: we just opened it OK                                  throw Exception("file.missing", // hardly possible: we just opened it OK
                                         file_spec,                                           &file_spec, 
                                         "stat failed: %s (%d), actual filename '%s'",                                           "stat failed: %s (%d), actual filename '%s'", 
                                                 strerror(errno), errno, fname.get());                                                  strerror(errno), errno, fname);
   
 #ifdef PA_SAFE_MODE  #ifdef PA_SAFE_MODE
                         if(finfo.st_uid/*foreign?*/!=geteuid()                          check_safe_mode(finfo, file_spec, fname);
                                 && finfo.st_gid/*foreign?*/!=getegid())  
                                 throw Exception("parser.runtime",   
                                         file_spec,   
                                         "parser is in safe mode: reading files of foreign group and user disabled [recompile parser with --disable-safe-mode configure option], actual filename '%s'",   
                                                 fname.get());  
 #endif  #endif
   
                         action(pool, finfo, f, file_spec, fname, as_text, context);                           action(finfo, f, file_spec, fname, as_text, context); 
                 } catch(...) {                  } catch(...) {
                         unlock(f);close(f);                           pa_unlock(f);close(f); 
                         if(fail_on_read_problem)                          if(fail_on_read_problem)
                                 rethrow;                                  rethrow;
                         return false;                                             return false;                   
                 }                   } 
   
                 unlock(f);close(f);                   pa_unlock(f);close(f); 
                 return true;                  return true;
     } else {          } else {
                 if(fail_on_read_problem)                  if(fail_on_read_problem)
                         throw Exception(errno==EACCES?"file.access":errno==ENOENT?"file.missing":0,                           throw Exception(errno==EACCES?"file.access":errno==ENOENT?"file.missing":0, 
                                 file_spec,                                   &file_spec, 
                                 "%s failed: %s (%d), actual filename '%s'",                                   "%s failed: %s (%d), actual filename '%s'", 
                                         action_name, strerror(errno), errno, fname.get());                                          action_name, strerror(errno), errno, fname);
                 return false;                  return false;
         }          }
 }  }
   
 static void create_dir_for_file(StringPtr file_spec) {  void create_dir_for_file(const String& file_spec) {
         size_t pos_after=1;          size_t pos_after=1;
         int pos_before;          size_t pos_before;
         while((pos_before=file_spec->pos("/", 1, pos_after))>=0) {          while((pos_before=file_spec.pos('/', pos_after))!=STRING_NOT_FOUND) {
                 mkdir(file_spec->mid(0, pos_before)->cstr(String::UL_FILE_SPEC), 0775);                   mkdir(file_spec.mid(0, pos_before).cstr(String::L_FILE_SPEC), 0775); 
                 pos_after=pos_before+1;                  pos_after=pos_before+1;
         }          }
 }  }
   
 bool file_write_action_under_lock(  bool file_write_action_under_lock(
                                 StringPtr file_spec,                                   const String& file_spec, 
                                 const char* action_name, File_write_action action, void *context,                                   const char* action_name,
                                   File_write_action action,
                                   void *context, 
                                 bool as_text,                                   bool as_text, 
                                 bool do_append,                                   bool do_append, 
                                 bool do_block,                                   bool do_block, 
                                 bool fail_on_lock_problem) {                                  bool fail_on_lock_problem) {
         CharPtr fname=file_spec->cstr(String::UL_FILE_SPEC);           const char* fname=file_spec.cstr(String::L_FILE_SPEC); 
         int f;          int f;
         if(access(fname, W_OK)!=0) // no          if(access(fname, W_OK)!=0) // no
                 create_dir_for_file(file_spec);                   create_dir_for_file(file_spec); 
Line 574  bool file_write_action_under_lock( Line 314  bool file_write_action_under_lock(
                 O_CREAT|O_RDWR                  O_CREAT|O_RDWR
                 |(as_text?_O_TEXT:_O_BINARY)                  |(as_text?_O_TEXT:_O_BINARY)
                 |(do_append?O_APPEND:PA_O_TRUNC), 0664))>=0) {                  |(do_append?O_APPEND:PA_O_TRUNC), 0664))>=0) {
                 if((do_block?lock_exclusive_blocking(f):lock_exclusive_nonblocking(f))!=0) {                  if((do_block?pa_lock_exclusive_blocking(f):pa_lock_exclusive_nonblocking(f))!=0) {
                         Exception e("file.lock",                           Exception e("file.lock", 
                                 file_spec,                                   &file_spec, 
                                 "shared lock failed: %s (%d), actual filename '%s'",                                   "shared lock failed: %s (%d), actual filename '%s'", 
                                 strerror(errno), errno, fname.get());                                  strerror(errno), errno, fname);
                         close(f);                           close(f); 
                         if(fail_on_lock_problem)                          if(fail_on_lock_problem)
                                 throw e;                                  throw e;
Line 592  bool file_write_action_under_lock( Line 332  bool file_write_action_under_lock(
                         if(!do_append)                          if(!do_append)
                                 ftruncate(f, lseek(f, 0, SEEK_CUR)); // one can not use O_TRUNC, read lower                                  ftruncate(f, lseek(f, 0, SEEK_CUR)); // one can not use O_TRUNC, read lower
 #endif  #endif
                         unlock(f);close(f);                           pa_unlock(f);close(f); 
                         rethrow;                          rethrow;
                 }                  }
                                   
Line 600  bool file_write_action_under_lock( Line 340  bool file_write_action_under_lock(
                 if(!do_append)                  if(!do_append)
                         ftruncate(f, lseek(f, 0, SEEK_CUR)); // O_TRUNC truncates even exclusevely write-locked file [thanks to Igor Milyakov <virtan@rotabanner.com> for discovering]                          ftruncate(f, lseek(f, 0, SEEK_CUR)); // O_TRUNC truncates even exclusevely write-locked file [thanks to Igor Milyakov <virtan@rotabanner.com> for discovering]
 #endif  #endif
                 unlock(f);close(f);                   pa_unlock(f);close(f); 
                 return true;                  return true;
         } else          } else
                 throw Exception(errno==EACCES?"file.access":0,                   throw Exception(errno==EACCES?"file.access":0, 
                         file_spec,                           &file_spec, 
                         "%s failed: %s (%d), actual filename '%s'",                           "%s failed: %s (%d), actual filename '%s'", 
                                 action_name, strerror(errno), errno, fname.get());                                  action_name, strerror(errno), errno, fname);
         // here should be nothing, see rethrow above          // here should be nothing, see rethrow above
 }  }
   
 #ifndef DOXYGEN  #ifndef DOXYGEN
 struct File_write_action_info {  struct File_write_action_info {
         const char *data; size_t size;          const char* str; size_t length;
 };   }; 
 #endif  #endif
 static void file_write_action(int f, void *context) {  static void file_write_action(int f, void *context) {
         File_write_action_info& info=*static_cast<File_write_action_info *>(context);           File_write_action_info& info=*static_cast<File_write_action_info *>(context); 
         if(info.size) {          if(info.length) {
                 int written=write(f, info.data, info.size);                   int written=write(f, info.str, info.length); 
                 if(written<0)                  if(written<0)
                         throw Exception(0,                           throw Exception("file.access", 
                                 Exception::undefined_source,                                   0, 
                                 "write failed: %s (%d)",  strerror(errno), errno);                                   "write failed: %s (%d)",  strerror(errno), errno); 
         }          }
 }  }
 void file_write(  void file_write(
                                 StringPtr file_spec,                                   const String& file_spec, 
                                 const char *data, size_t size,                                   const char* data, size_t size, 
                                 bool as_text,                                   bool as_text, 
                                 bool do_append) {                                  bool do_append) {
         File_write_action_info info={data, size};           File_write_action_info info={data, size}; 
   
         file_write_action_under_lock(          file_write_action_under_lock(
                 file_spec,                   file_spec, 
                 "write", file_write_action, &info,                   "write",
                   file_write_action,
                   &info, 
                 as_text,                   as_text, 
                 do_append);                   do_append); 
 }  }
   
 // throws nothing! [this is required in file_move & file_delete]  // throws nothing! [this is required in file_move & file_delete]
 static void rmdir(StringPtr file_spec, size_t pos_after) {  static void rmdir(const String& file_spec, size_t pos_after) {
         int pos_before;          size_t pos_before;
         if((pos_before=file_spec->pos("/", 1, pos_after))>=0)          if((pos_before=file_spec.pos('/', pos_after))!=STRING_NOT_FOUND)
                 rmdir(file_spec, pos_before+1);                   rmdir(file_spec, pos_before+1); 
                   
         rmdir(file_spec->mid(0, pos_after-1/* / */)->cstr(String::UL_FILE_SPEC));           rmdir(file_spec.mid(0, pos_after-1/* / */).cstr(String::L_FILE_SPEC)); 
 }  }
 bool file_delete(StringPtr file_spec, bool fail_on_read_problem) {  
         CharPtr fname=file_spec->cstr(String::UL_FILE_SPEC);   bool file_delete(const String& file_spec, bool fail_on_problem) {
           const char* fname=file_spec.cstr(String::L_FILE_SPEC); 
         if(unlink(fname)!=0)          if(unlink(fname)!=0)
                 if(fail_on_read_problem)                  if(fail_on_problem)
                         throw Exception(errno==EACCES?"file.access":errno==ENOENT?"file.missing":0,                           throw Exception(errno==EACCES?"file.access":errno==ENOENT?"file.missing":0, 
                                 file_spec,                                   &file_spec, 
                                 "unlink failed: %s (%d), actual filename '%s'",                                   "unlink failed: %s (%d), actual filename '%s'", 
                                         strerror(errno), errno, fname.get());                                          strerror(errno), errno, fname);
                 else                  else
                         return false;                          return false;
   
         rmdir(file_spec, 1);           rmdir(file_spec, 1); 
         return true;          return true;
 }  }
 void file_move(StringPtr old_spec, StringPtr new_spec) {  
         CharPtr old_spec_cstr=old_spec->cstr(String::UL_FILE_SPEC);   void file_move(const String& old_spec, const String& new_spec) {
         CharPtr new_spec_cstr=new_spec->cstr(String::UL_FILE_SPEC);           const char* old_spec_cstr=old_spec.cstr(String::L_FILE_SPEC); 
           const char* new_spec_cstr=new_spec.cstr(String::L_FILE_SPEC); 
                   
         create_dir_for_file(new_spec);           create_dir_for_file(new_spec); 
   
         if(rename(old_spec_cstr, new_spec_cstr)!=0)          if(rename(old_spec_cstr, new_spec_cstr)!=0)
                 throw Exception(errno==EACCES?"file.access":errno==ENOENT?"file.missing":0,                   throw Exception(errno==EACCES?"file.access":errno==ENOENT?"file.missing":0, 
                         old_spec,                           &old_spec, 
                         "rename failed: %s (%d), actual filename '%s' to '%s'",                           "rename failed: %s (%d), actual filename '%s' to '%s'", 
                                 strerror(errno), errno, old_spec_cstr.get(), new_spec_cstr.get());                                  strerror(errno), errno, old_spec_cstr, new_spec_cstr);
   
         rmdir(old_spec, 1);           rmdir(old_spec, 1); 
 }  }
Line 684  bool entry_exists(const char* fname, str Line 429  bool entry_exists(const char* fname, str
         return result;          return result;
 }  }
   
 bool entry_exists(StringPtr file_spec) {  bool entry_exists(const String& file_spec) {
         CharPtr fname=file_spec->cstr(String::UL_FILE_SPEC);           const char* fname=file_spec.cstr(String::L_FILE_SPEC); 
         return entry_exists(fname, 0);           return entry_exists(fname, 0); 
 }  }
   
 static bool entry_readable(StringPtr file_spec, bool need_dir) {  static bool entry_readable(const String& file_spec, bool need_dir) {
     CharPtr fname=file_spec->cstr(String::UL_FILE_SPEC);           char* fname=file_spec.cstrm(String::L_FILE_SPEC); 
         if(need_dir) {          if(need_dir) {
                 size_t size=strlen(fname);                   size_t size=strlen(fname); 
                 while(size) {                  while(size) {
Line 708  static bool entry_readable(StringPtr fil Line 453  static bool entry_readable(StringPtr fil
         }          }
         return false;          return false;
 }  }
 bool file_readable(StringPtr file_spec) {  
   bool file_exist(const String& file_spec) {
         return entry_readable(file_spec, false);           return entry_readable(file_spec, false); 
 }  }
 bool dir_readable(StringPtr file_spec) {  
   bool dir_exists(const String& file_spec) {
         return entry_readable(file_spec, true);           return entry_readable(file_spec, true); 
 }  }
 StringPtr file_readable(String& path, String& name) {  
         StringPtr result(new String(path));  const String* file_exist(const String& path, const String& name) {
         *result << "/";           String& result=*new String(path);
         *result << name;          result << "/"; 
         return file_readable(result)?result:StringPtr(0);          result << name;
 }          return file_exist(result)?&result:0;
 bool file_executable(StringPtr file_spec) {  }
     return access(file_spec->cstr(String::UL_FILE_SPEC), X_OK)==0;  
 }  bool file_executable(const String& file_spec) {
           return access(file_spec.cstr(String::L_FILE_SPEC), X_OK)==0;
 bool file_stat(StringPtr file_spec,   }
                            size_t& rsize,   
                            time_t& ratime,   bool file_stat(const String& file_spec, 
                            time_t& rmtime,                           size_t& rsize,
                            time_t& rctime,                           time_t& ratime,
                            bool fail_on_read_problem) {                          time_t& rmtime,
         CharPtr fname=file_spec->cstr(String::UL_FILE_SPEC);                           time_t& rctime,
     struct stat finfo;                          bool fail_on_read_problem) {
           const char* fname=file_spec.cstr(String::L_FILE_SPEC); 
           struct stat finfo;
         if(stat(fname, &finfo)!=0)          if(stat(fname, &finfo)!=0)
                 if(fail_on_read_problem)                  if(fail_on_read_problem)
                         throw Exception("file.missing",                           throw Exception("file.missing", 
                                 file_spec,                                   &file_spec, 
                                 "getting file size failed: %s (%d), real filename '%s'",                                   "getting file size failed: %s (%d), real filename '%s'", 
                                         strerror(errno), errno, fname.get());                                          strerror(errno), errno, fname);
                 else                  else
                         return false;                          return false;
         rsize=finfo.st_size;          rsize=finfo.st_size;
Line 748  bool file_stat(StringPtr file_spec, Line 497  bool file_stat(StringPtr file_spec,
 }  }
   
 char* getrow(char* *row_ref, char delim) {  char* getrow(char* *row_ref, char delim) {
     char* result=*row_ref;          char* result=*row_ref;
     if(result) {          if(result) {
                 *row_ref=strchr(result, delim);                   *row_ref=strchr(result, delim); 
                 if(*row_ref)                   if(*row_ref) 
                         *((*row_ref)++)=0;                           *((*row_ref)++)=0; 
                 else if(!*result)                   else if(!*result) 
                         return 0;                          return 0;
     }          }
     return result;          return result;
 }  }
   
 char* lsplit(char* string, char delim) {  char* lsplit(char* string, char delim) {
     if(string) {          if(string) {
                 char* v=strchr(string, delim);                   char* v=strchr(string, delim); 
                 if(v) {                  if(v) {
                         *v=0;                          *v=0;
                         return v+1;                          return v+1;
                 }                  }
     }          }
     return 0;          return 0;
 }  }
   
 char* lsplit(char* *string_ref, char delim) {  char* lsplit(char* *string_ref, char delim) {
     char* result=*string_ref;          char* result=*string_ref;
         char* next=lsplit(*string_ref, delim);           char* next=lsplit(*string_ref, delim); 
     *string_ref=next;          *string_ref=next;
     return result;          return result;
 }  }
   
 char* rsplit(char* string, char delim) {  char* rsplit(char* string, char delim) {
     if(string) {          if(string) {
                 char* v=strrchr(string, delim);                   char* v=strrchr(string, delim); 
                 if(v) {                  if(v) {
                         *v=0;                          *v=0;
                         return v+1;                          return v+1;
                 }                  }
     }          }
     return NULL;                  return NULL;    
 }  }
   
 /// @todo less stupid type detection  
 const char* format(Pool& pool, double value, char* fmt) {  // format: %[flags][width][.precision]type      http://msdn.microsoft.com/ru-ru/library/56e442dc(en-us,VS.80).aspx
         char local_buf[MAX_NUMBER];   //              flags: '-', '+', ' ', '#', '0'          http://msdn.microsoft.com/ru-ru/library/8aky45ct(en-us,VS.80).aspx
         size_t size;  //              width, precision: non negative decimal number
           enum FormatType {
         if(fmt)          FormatInvalid,
                 if(strpbrk(fmt, "diouxX"))          FormatInt,
                         if(strpbrk(fmt, "ouxX"))          FormatUInt,
                                 size=snprintf(local_buf, sizeof(local_buf), fmt, (uint)value);           FormatDouble
                         else  };
   FormatType format_type(char* fmt){
           enum FormatState {
                   Percent, 
                   Flags, 
                   Width,
                   Precision,
                   Done
           } state=Percent;
   
           FormatType result=FormatInvalid;
   
           char* pos=fmt;
           while(char c=*(pos++)){
                   switch(state){
                           case Percent:
                                   if(c=='%'){
                                           state=Flags;
                                   } else {
                                           return FormatInvalid; // 1st char must be '%' only
                                   }
                                   break;
                           case Flags:
                                   if(strchr("-+ #0", c)!=0){
                                           break;
                                   }
                                   // go to the next step
                           case Width:
                                   if(c=='.'){
                                           state=Precision;
                                           break;
                                   }
                                   // go to the next step
                           case Precision:
                                   if(c>='0' && c<='9'){
                                           if(state == Flags) state=Width; // no more flags
                                           break;
                                   } else if(c=='d' || c=='i'){
                                           result=FormatInt;
                                   } else if(strchr("feEgG", c)!=0){
                                           result=FormatDouble;
                                   } else if(strchr("uoxX", c)!=0){
                                           result=FormatUInt;
                                   } else {
                                           return FormatInvalid; // invalid char
                                   }
                                   state=Done;
                                   break;
                           case Done:
                                   return FormatInvalid; // no chars allowed after 'type'
                   }
           }
           return result;
   }
   
   
   const char* format(double value, char* fmt) {
           char local_buf[MAX_NUMBER];
           int size=-1;
   
           if(fmt && strlen(fmt)){
                   switch(format_type(fmt)){
                           case FormatDouble:
                                   size=snprintf(local_buf, sizeof(local_buf), fmt, value); 
                                   break;
                           case FormatInt:
                                 size=snprintf(local_buf, sizeof(local_buf), fmt, (int)value);                                   size=snprintf(local_buf, sizeof(local_buf), fmt, (int)value); 
                 else                                  break;
                         size=snprintf(local_buf, sizeof(local_buf), fmt, value);                           case FormatUInt:
         else                                  size=snprintf(local_buf, sizeof(local_buf), fmt, (uint)value); 
                 size=snprintf(local_buf, sizeof(local_buf), "%d", (int)value);                                   break;
                                   case FormatInvalid:
         return pool.copy(local_buf, size+1);                                   throw Exception(PARSER_RUNTIME, 
                                           0, 
                                           "Incorrect format string '%s' was specified.", fmt);
                   }
           } else
                   size=snprintf(local_buf, sizeof(local_buf), "%d", (int)value);
   
           if(size < 0 || size >= MAX_NUMBER-1){ // on win32 we manually reduce max size while printing
                   throw Exception(PARSER_RUNTIME, 
                           0, 
                           "Error occure white executing snprintf with format string '%s'.", fmt);
           }
   
           return pa_strdup(local_buf, (size_t)size);
 }  }
   
 size_t stdout_write(const void *buf, size_t size) {  size_t stdout_write(const void *buf, size_t size) {
 #ifdef WIN32  #ifdef WIN32
           size_t to_write = size;
         do{          do{
                 int chunk_written=fwrite(buf, 1, min(8*0x400, size), stdout);                   int chunk_written=fwrite(buf, 1, min((size_t)8*0x400, size), stdout); 
                 if(chunk_written<=0)                  if(chunk_written<=0)
                         break;                          break;
                 size-=chunk_written;                  size-=chunk_written;
                 buf=((const char*)buf)+chunk_written;                  buf=((const char*)buf)+chunk_written;
         } while(size>0);           } while(size>0); 
   
         return size;          return to_write-size;
 #else  #else
         return fwrite(buf, 1, size, stdout);           return fwrite(buf, 1, size, stdout); 
 #endif  #endif
 }  }
   
 char* unescape_chars(Pool& pool, const char* cp, int len) {  enum EscapeState {
         char* s=new(pool) char[len + 1];           EscapeRest, 
         enum EscapeState {          EscapeFirst, 
                 EscapeRest,           EscapeSecond,
                 EscapeFirst,           EscapeUnicode
                 EscapeSecond  };
         } escapeState=EscapeRest;  
         int escapedValue=0;  // @todo prescan for reduce required size (unescaped sting in 1 byte charset requires less memory usually)
   char* unescape_chars(const char* cp, int len, Charset* charset, bool ignore_plus){
           char* s=new(PointerFreeGC) char[len+1]; // must be enough (%uXXXX==6 bytes, max utf-8 char length==6 bytes)
           char* dst=s;
           EscapeState escapeState=EscapeRest;
           uint escapedValue=0;
         int srcPos=0;          int srcPos=0;
         int dstPos=0;          short int jsCnt=0;
         while(srcPos < len) {          while(srcPos<len){
                 int ch=cp[srcPos];                   uchar c=(uchar)cp[srcPos]; 
                 switch(escapeState) {                  if(c=='%'){
                         case EscapeRest:                          escapeState=EscapeFirst;
                         if(ch=='%') {                  } else {
                                 escapeState=EscapeFirst;                          switch(escapeState) {
                         } else if(ch=='+') {                                  case EscapeRest:
                                 s[dstPos++]=' ';                                           if(!ignore_plus && c=='+'){
                         } else {                                                  *dst++=' ';
                                 s[dstPos++]=ch;                                           } else {
                                                   *dst++=c;
                                           }
                                           break;
                                   case EscapeFirst:
                                           if(charset && c=='u'){
                                                   // escaped unicode value: %u0430
                                                   jsCnt=0;
                                                   escapedValue=0;
                                                   escapeState=EscapeUnicode;
                                           } else {
                                                   if(isxdigit(c)){
                                                           escapedValue=hex_value[c] << 4;
                                                           escapeState=EscapeSecond;
                                                   } else {
                                                           *dst++=c;
                                                           escapeState=EscapeRest;
                                                   }
                                           }
                                           break;
                                   case EscapeSecond:
                                           if(isxdigit(c)){
                                                   escapedValue+=hex_value[c]; 
                                                   *dst++=(char)escapedValue;
                                           }
                                           escapeState=EscapeRest;
                                           break;
                                   case EscapeUnicode:
                                           if(isxdigit(c)){
                                                   escapedValue=(escapedValue << 4) + hex_value[c];
                                                   if(++jsCnt==4){
                                                           // transcode utf8 char to client charset (we can lost some chars here)
                                                           charset->store_Char((XMLByte*&)dst, (XMLCh)escapedValue, '?');
                                                           escapeState=EscapeRest;
                                                   }
                                           } else {
                                                   // not full unicode value
                                                   escapeState=EscapeRest;
                                           }
                                           break;
                         }                          }
                         break;  
                         case EscapeFirst:  
                         escapedValue=hex_value[ch] << 4;          
                         escapeState=EscapeSecond;  
                         break;  
                         case EscapeSecond:  
                         escapedValue +=hex_value[ch];   
                         s[dstPos++]=escapedValue;  
                         escapeState=EscapeRest;  
                         break;  
                 }                  }
                 srcPos++;   
                   srcPos++;
         }          }
         s[dstPos]=0;  
           *dst=0; // zero-termination
         return s;          return s;
 }  }
   
Line 878  void slashes_to_back_slashes(char* s) { Line 742  void slashes_to_back_slashes(char* s) {
 */  */
 #endif  #endif
   
 bool StrEqNc(const char* s1, const char* s2, bool strict) {  bool StrStartFromNC(const char* str, const char* substr, bool equal){
         while(true) {          while(true) {
                 if(!(*s1)) {                  if(!(*substr)){
                         if(!(*s2))                          if(!(*str))
                                 return true;                                  return true;
                         else                          else
                                 return !strict;                                  return !equal;
                 } else if(!(*s2))                  }
                         return !strict;                  if(!(*str))
                 if(isalpha(*s1)) {                          return false;
                         if(tolower(*s1) !=tolower(*s2))                  if(isalpha((unsigned char)*str)) {
                           if(tolower((unsigned char)*str)!=tolower((unsigned char)*substr))
                                 return false;                                  return false;
                 } else if((*s1) !=(*s2))                  } else if((*str) != (*substr))
                         return false;                          return false;
                 s1++;                   str++; 
                 s2++;                   substr++; 
         }          }
 }  }
   
   size_t strpos(const char *str, const char *substr) {
           const char *p = strstr(str, substr);
           return (p==0)?STRING_NOT_FOUND:p-str;
   }
   
   // content-type: xxx; charset=WE-NEED-THIS
   // content-type: xxx; charset="WE-NEED-THIS"
   // content-type: xxx; charset="WE-NEED-THIS";
   Charset* detect_charset(const char* content_type){
           if(content_type){
                   size_t len=strlen(content_type);
                   char* CONTENT_TYPE=new(PointerFreeGC) char[len+1];
                   memcpy(CONTENT_TYPE, content_type, len);
                   for(char *p=CONTENT_TYPE; *p; p++)
                           *p=(char)toupper((unsigned char)*p);
   
                   if(const char* begin=strstr(CONTENT_TYPE, "CHARSET=")){
                           begin+=8; // skip "CHARSET="
                           char* end=0;
                           if(*begin && (*begin=='"' || *begin =='\'')){
                                   char quote=*begin;
                                   begin++;
                                   end=(char*)strchr(begin, quote);
                           }
                           if(!end)
                                   end=(char*)strchr(begin, ';');
   
                           size_t len;
                           if(end){
                                   *end=0; // terminator
                                   len=end-begin;
                           } else {
                                   len=strlen(begin);
                           }
   
                           String::Body NAME=String::Body(begin, len);
                           return &charsets.get(NAME);
                   }
           }
           return 0;
   }
   
   Charset* detect_charset(Charset& source_charset, const String& content_type){
           const String& CONTENT_TYPE=content_type.change_case(source_charset, String::CC_UPPER);
           size_t begin=CONTENT_TYPE.pos("CHARSET=");
           if(begin!=STRING_NOT_FOUND) {
                   begin+=8; // skip "CHARSET="
                   size_t end=STRING_NOT_FOUND;
   
                   if(CONTENT_TYPE.pos('"', begin)==begin){
                           begin++;
                           end=CONTENT_TYPE.pos('"', begin);
                   } else if(CONTENT_TYPE.pos('\'', begin)==begin){
                           begin++;
                           end=CONTENT_TYPE.pos('\'', begin);
                   }
   
                   if(end==STRING_NOT_FOUND)
                           end=CONTENT_TYPE.pos(';', begin);
   
                   if(end==STRING_NOT_FOUND)
                           end=CONTENT_TYPE.length();
   
                   const String::Body NAME=CONTENT_TYPE.mid(begin, end);
                   return &charsets.get(NAME);
           }
           return 0;
   }
   
   
 static bool isLeap(int year) {  static bool isLeap(int year) {
     return !(          return !(
              (year % 4) || ((year % 400) && !(year % 100))                                  (year % 4) || ((year % 400) && !(year % 100))
             );                           ); 
 }  }
   
 int getMonthDays(int year, int month) {  int getMonthDays(int year, int month) {
     int monthDays[]={          static int monthDays[]={
         31,                   31, 
         isLeap(year) ? 29 : 28,                   28, 
         31,                   31, 
         30,                   30, 
         31,                   31, 
         30,                   30, 
         31,                   31, 
         31,                   31, 
         30,                   30, 
         31,                   31, 
         30,                   30, 
         31                  31
     };           }; 
     return monthDays[month];           return (month == 1 /* january -- 0 */ && isLeap(year)) ? 29 : monthDays[month]; 
 }  }
   
 void remove_crlf(char* start, char* end) {  int remove_crlf(char* start, char* end) {
         for(char* p=start; p<end; p++)          char* from=start;
                 switch(*p) {          char* to=start;
                         case '\n': *p='|';  break;          bool skip=false;
                         case '\r': *p=' ';  break;          while(from < end){
                   switch(*from){
                           case '\n':
                           case '\r':
                           case '\t':
                           case ' ':
                                   if(!skip){
                                           *to=' ';
                                           to++;
                                           skip=true;
                                   }
                                   break;
                           default:
                                   if(from != to)
                                           *to=*from;
                                   to++;
                                   skip=false;
                 }                  }
                   from++;
           }
           return to-start;
 }  }
   
   
Line 940  int __vsnprintf(char* b, size_t s, const Line 894  int __vsnprintf(char* b, size_t s, const
         // note: on win32& maybe somewhere else          // note: on win32& maybe somewhere else
         // vsnprintf do not writes terminating 0 in 'buffer full' case, reducing          // vsnprintf do not writes terminating 0 in 'buffer full' case, reducing
         --s;          --s;
   
           // clients do not check for negative 's', feature: ignore such prints
           if((ssize_t)s<0)
                   return 0;
   
 #if _MSC_VER  #if _MSC_VER
         /*          /*
         win32:           win32: 
Line 965  int __vsnprintf(char* b, size_t s, const Line 924  int __vsnprintf(char* b, size_t s, const
   
         if(r<0)          if(r<0)
                 r=0;                  r=0;
         else if(r>s)          else if((size_t)r>s)
                 r=s;                  r=s;
 #endif  #endif
         b[r]=0;          b[r]=0;
Line 980  int __snprintf(char* b, size_t s, const Line 939  int __snprintf(char* b, size_t s, const
         return r;          return r;
 }  }
   
 int pa_sleep(unsigned long secs, unsigned long usecs) {  /* mime64 functions are from libgmime[http://spruce.sourceforge.net/gmime/] lib */
         for (;  usecs >= 1000000; ++secs, usecs -= 1000000);   /*
    *  Authors: Michael Zucchi <notzed@helixcode.com>
    *           Jeffrey Stedfast <fejj@helixcode.com>
    *
    *  Copyright 2000 Helix Code, Inc. (www.helixcode.com)
    *
    *  This program is free software; you can redistribute it and/or modify
    *  it under the terms of the GNU General Public License as published by
    *  the Free Software Foundation; either version 2 of the License, or
    *  (at your option) any later version.
    *
    *  This program is distributed in the hope that it will be useful,
    *  but WITHOUT ANY WARRANTY; without even the implied warranty of
    *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
    *  GNU General Public License for more details.
    *
    *  You should have received a copy of the GNU General Public License
    *  along with this program; if not, write to the Free Software
    *  Foundation, Inc., 59 Temple Street #330, Boston, MA 02111-1307, USA.
    *
    */
   static char *base64_alphabet =
           "ABCDEFGHIJKLMNOPQRSTUVWXYZabcdefghijklmnopqrstuvwxyz0123456789+/";
   
   /**
    * g_mime_utils_base64_encode_step:
    * @in: input stream
    * @inlen: length of the input
    * @out: output string
    * @state: holds the number of bits that are stored in @save
    * @save: leftover bits that have not yet been encoded
    *
    * Base64 encodes a chunk of data. Performs an 'encode step', only
    * encodes blocks of 3 characters to the output at a time, saves
    * left-over state in state and save (initialise to 0 on first
    * invocation).
    *
    * Returns the number of bytes encoded.
    **/
   static size_t
   g_mime_utils_base64_encode_step (const unsigned char *in, size_t inlen, unsigned char *out, int *state, int *save)
   {
           register const unsigned char *inptr;
           register unsigned char *outptr;
           
           if (inlen <= 0)
                   return 0;
           
           inptr = in;
           outptr = out;
           
           if (inlen + ((unsigned char *)save)[0] > 2) {
                   const unsigned char *inend = in + inlen - 2;
                   register int c1 = 0, c2 = 0, c3 = 0;
                   register int already;
                   
                   already = *state;
                   
                   switch (((char *)save)[0]) {
                   case 1: c1 = ((unsigned char *)save)[1]; goto skip1;
                   case 2: c1 = ((unsigned char *)save)[1];
                           c2 = ((unsigned char *)save)[2]; goto skip2;
                   }
                   
                   /* yes, we jump into the loop, no i'm not going to change it, its beautiful! */
                   while (inptr < inend) {
                           c1 = *inptr++;
                   skip1:
                           c2 = *inptr++;
                   skip2:
                           c3 = *inptr++;
                           *outptr++ = base64_alphabet [c1 >> 2];
                           *outptr++ = base64_alphabet [(c2 >> 4) | ((c1 & 0x3) << 4)];
                           *outptr++ = base64_alphabet [((c2 & 0x0f) << 2) | (c3 >> 6)];
                           *outptr++ = base64_alphabet [c3 & 0x3f];
                           /* this is a bit ugly ... */
                           if ((++already) >= 19) {
                                   *outptr++ = '\n';
                                   already = 0;
                           }
                   }
                   
                   ((unsigned char *)save)[0] = 0;
                   inlen = 2 - (inptr - inend);
                   *state = already;
           }
           
           //d(printf ("state = %d, inlen = %d\n", (int)((char *)save)[0], inlen));
           
           if (inlen > 0) {
                   register char *saveout;
                   
                   /* points to the slot for the next char to save */
                   saveout = & (((char *)save)[1]) + ((char *)save)[0];
                   
                   /* inlen can only be 0 1 or 2 */
                   switch (inlen) {
                   case 2: *saveout++ = *inptr++;
                   case 1: *saveout++ = *inptr++;
                   }
                   *(char *)save = *(char *)save+(char)inlen;
           }
           
           /*d(printf ("mode = %d\nc1 = %c\nc2 = %c\n",
                     (int)((char *)save)[0],
                     (int)((char *)save)[1],
                     (int)((char *)save)[2]));*/
           
           return (outptr - out);
   }
   
   /**
    * g_mime_utils_base64_encode_close:
    * @in: input stream
    * @inlen: length of the input
    * @out: output string
    * @state: holds the number of bits that are stored in @save
    * @save: leftover bits that have not yet been encoded
    *
    * Base64 encodes the input stream to the output stream. Call this
    * when finished encoding data with g_mime_utils_base64_encode_step to
    * flush off the last little bit.
    *
    * Returns the number of bytes encoded.
    **/
   static size_t
   g_mime_utils_base64_encode_close (const unsigned char *in, size_t inlen, unsigned char *out, int *state, int *save)
   {
           unsigned char *outptr = out;
           int c1, c2;
           
           if (inlen > 0)
                   outptr += g_mime_utils_base64_encode_step (in, inlen, outptr, state, save);
           
           c1 = ((unsigned char *)save)[1];
           c2 = ((unsigned char *)save)[2];
           
           switch (((unsigned char *)save)[0]) {
           case 2:
                   outptr[2] = base64_alphabet [(c2 & 0x0f) << 2];
                   goto skip;
           case 1:
                   outptr[2] = '=';
           skip:
                   outptr[0] = base64_alphabet [c1 >> 2];
                   outptr[1] = base64_alphabet [c2 >> 4 | ((c1 & 0x3) << 4)];
                   outptr[3] = '=';
                   outptr += 4;
                   break;
           }
           
           *outptr++ = 0;
           
           *save = 0;
           *state = 0;
           
           return (outptr - out);
   }
   
 #ifdef WIN32  static unsigned char gmime_base64_rank[256] = {
         Sleep(secs * 1000 + usecs / 1000);           255,255,255,255,255,255,255,255,255,255,255,255,255,255,255,255,
         return 0;          255,255,255,255,255,255,255,255,255,255,255,255,255,255,255,255,
 #else          255,255,255,255,255,255,255,255,255,255,255, 62,255,255,255, 63,
         struct timeval t;           52, 53, 54, 55, 56, 57, 58, 59, 60, 61,255,255,255,  0,255,255,
         t.tv_sec = secs;          255,  0,  1,  2,  3,  4,  5,  6,  7,  8,  9, 10, 11, 12, 13, 14,
         t.tv_usec = usecs;           15, 16, 17, 18, 19, 20, 21, 22, 23, 24, 25,255,255,255,255,255,
         return (select(0, NULL, NULL, NULL, &t) == -1 ? errno : 0);           255, 26, 27, 28, 29, 30, 31, 32, 33, 34, 35, 36, 37, 38, 39, 40,
 #endif           41, 42, 43, 44, 45, 46, 47, 48, 49, 50, 51,255,255,255,255,255,
           255,255,255,255,255,255,255,255,255,255,255,255,255,255,255,255,
           255,255,255,255,255,255,255,255,255,255,255,255,255,255,255,255,
           255,255,255,255,255,255,255,255,255,255,255,255,255,255,255,255,
           255,255,255,255,255,255,255,255,255,255,255,255,255,255,255,255,
           255,255,255,255,255,255,255,255,255,255,255,255,255,255,255,255,
           255,255,255,255,255,255,255,255,255,255,255,255,255,255,255,255,
           255,255,255,255,255,255,255,255,255,255,255,255,255,255,255,255,
           255,255,255,255,255,255,255,255,255,255,255,255,255,255,255,255,
   };
   
   /**
    * g_mime_utils_base64_decode_step:
    * @in: input stream
    * @inlen: max length of data to decode
    * @out: output stream
    * @state: holds the number of bits that are stored in @save
    * @save: leftover bits that have not yet been decoded
    *
    * Decodes a chunk of base64 encoded data.
    *
    * Returns the number of bytes decoded (which have been dumped in @out).
    **/
   size_t
   g_mime_utils_base64_decode_step (const unsigned char *in, size_t inlen, unsigned char *out, int *state, int *save)
   {
           const unsigned char *inptr;
           unsigned char *outptr;
           const unsigned char *inend;
           int saved;
           unsigned char c;
           int i;
           
           inend = in + inlen;
           outptr = out;
           
           /* convert 4 base64 bytes to 3 normal bytes */
           saved = *save;
           i = *state;
           inptr = in;
           while (inptr < inend) {
                   c = gmime_base64_rank[*inptr++];
                   if (c != 0xff) {
                           saved = (saved << 6) | c;
                           i++;
                           if (i == 4) {
                                   *outptr++ = (unsigned char)(saved >> 16);
                                   *outptr++ = (unsigned char)(saved >> 8);
                                   *outptr++ = (unsigned char)(saved);
                                   i = 0;
                           }
                   }
           }
           
           *save = saved;
           *state = i;
           
           /* quick scan back for '=' on the end somewhere */
           /* fortunately we can drop 1 output char for each trailing = (upto 2) */
           i = 2;
           while (inptr > in && i) {
                   inptr--;
                   if (gmime_base64_rank[*inptr] != 0xff) {
                           if (*inptr == '=' && outptr > out)
                                   outptr--;
                           i--;
                   }
           }
           
           /* if i != 0 then there is a truncation error! */
           return (outptr - out);
   }
   
   
   char* pa_base64_encode(const char *in, size_t in_size){
           /* wont go to more than 2x size (overly conservative) */
           char* result=new(PointerFreeGC) char[in_size * 2 + 6];
           int state=0;
           int save=0;
   #ifndef NDEBUG
           size_t filled=
   #endif
                   g_mime_utils_base64_encode_close ((const unsigned char*)in, in_size, 
                   (unsigned char*)result, &state, &save);
           assert(filled <= in_size * 2 + 6);
   
           return result;
   }
   
   
   char* pa_base64_encode(const String& file_spec){
           unsigned char* base64=0;
           File_base64_action_info info={&base64}; 
   
           file_read_action_under_lock(file_spec, 
                   "pa_base64_encode", file_base64_file_action, &info);
   
           return (char*)base64; 
   }
   
   
   static void file_base64_file_action(
                                   struct stat& finfo, 
                                   int f, 
                                   const String&, const char* /*fname*/, bool, 
                                   void *context) {
   
           if(finfo.st_size) { 
                   File_base64_action_info& info=*static_cast<File_base64_action_info *>(context);
                   *info.base64=new(PointerFreeGC) unsigned char[finfo.st_size * 2 + 6]; 
                   unsigned char* base64 = *info.base64;
                   int state=0;
                   int save=0;
                   int nCount;
                   do {
                           unsigned char buffer[FILE_BUFFER_SIZE];
                           nCount = file_block_read(f, buffer, sizeof(buffer));
                           if( nCount ){
                                   size_t filled=g_mime_utils_base64_encode_step ((const unsigned char*)buffer, nCount, base64, &state, &save);
                                   base64+=filled;
                           }
                   } while(nCount > 0);
                   g_mime_utils_base64_encode_close (0, 0, base64, &state, &save);
           }
 }  }
   
   void pa_base64_decode(const char *in, size_t in_size, char*& result, size_t& result_size) {
           /* wont go to more than had (overly conservative) */
           result=new(PointerFreeGC) char[in_size+1/*terminator*/];
           int state=0;
           int save=0;
           result_size=
                   g_mime_utils_base64_decode_step ((const unsigned char*)in, in_size, 
                   (unsigned char*)result, &state, &save);
           assert(result_size <= in_size);
           result[result_size]=0; // for text files
   }
   
   
   int file_block_read(const int f, unsigned char* buffer, const size_t size){
           int nCount = read(f, buffer, size);
           if (nCount < 0)
                   throw Exception("file.read", 
                           0, 
                           "read failed: %s (%d)",  strerror(errno), errno); 
           return nCount;
   }
   
   const unsigned long pa_crc32(const char *in, size_t in_size){
           unsigned long crc32=0xFFFFFFFF;
   
           InitCrc32Table();
           for(size_t i = 0; i<in_size; i++)
                   CalcCrc32(in[i], crc32);
   
           return ~crc32; 
   }
   
   const unsigned long pa_crc32(const String& file_spec){
           unsigned long crc32=0xFFFFFFFF;
           file_read_action_under_lock(file_spec, "crc32", file_crc32_file_action, &crc32);
           return ~crc32; 
   }
   
   static void file_crc32_file_action(
                                   struct stat& finfo, 
                                   int f, 
                                   const String&, const char* /*fname*/, bool, 
                                   void *context) {
           unsigned long& crc32=*static_cast<unsigned long *>(context);
           if(finfo.st_size) {
                   InitCrc32Table();
                   int nCount=0;
                   do {
                           unsigned char buffer[FILE_BUFFER_SIZE];
                           nCount = file_block_read(f, buffer, sizeof(buffer));
                           for(int i = 0; i < nCount; i++) CalcCrc32(buffer[i], crc32);
                   } while(nCount > 0);
           }
   }
   
   char* print_pcre_exec_error_text(int exec_result){
           switch(exec_result){
                   case PCRE_ERROR_BADUTF8:
                           return "validation of UTF-8 string failed while pcre_exec (%d).";
                           break;
                   default:
                           return "regular expression execute error (%d)";
           }
   }
   
Removed from v.1.143.2.21  
changed lines
  Added in v.1.240

E-mail: