Diff for /parser3/src/classes/file.C between versions 1.167 and 1.185

version 1.167, 2008/04/28 10:19:53 version 1.185, 2009/04/22 04:41:32
Line 1 Line 1
 /** @file  /** @file
         Parser: @b file parser class.          Parser: @b file parser class.
   
         Copyright (c) 2001-2005 ArtLebedev Group (http://www.artlebedev.com)          Copyright (c) 2001-2009 ArtLebedev Group (http://www.artlebedev.com)
         Author: Alexandr Petrosian <paf@design.ru> (http://paf.design.ru)          Author: Alexandr Petrosian <paf@design.ru> (http://paf.design.ru)
 */  */
   
Line 9  static const char * const IDENT_FILE_C=" Line 9  static const char * const IDENT_FILE_C="
   
 #include "pa_config_includes.h"  #include "pa_config_includes.h"
   
 #include "pcre.h"  
   
 #include "classes.h"  #include "classes.h"
 #include "pa_vmethod_frame.h"  #include "pa_vmethod_frame.h"
   
Line 26  static const char * const IDENT_FILE_C=" Line 24  static const char * const IDENT_FILE_C="
 #include "pa_charsets.h"  #include "pa_charsets.h"
 #include "pa_sql_connection.h"  #include "pa_sql_connection.h"
 #include "pa_md5.h"  #include "pa_md5.h"
   #include "pa_vregex.h"
   
 // defines  // defines
   
Line 155  static void _move(Request& r, MethodPara Line 154  static void _move(Request& r, MethodPara
 }  }
   
 static void copy_process_source(  static void copy_process_source(
                              struct stat& ,                                   struct stat& , 
                              int from_file,                                   int from_file, 
                              const String& , const char* /*fname*/, bool,                                   const String& , const char* /*fname*/, bool, 
                                  void *context) {                                  void *context) {
         int& to_file=*static_cast<int *>(context);          int& to_file=*static_cast<int *>(context);
   
         int nCount=0;          int nCount=0;
Line 167  static void copy_process_source( Line 166  static void copy_process_source(
                 nCount = file_block_read(from_file, buffer, sizeof(buffer));                  nCount = file_block_read(from_file, buffer, sizeof(buffer));
                 int written=write(to_file, buffer, nCount);                   int written=write(to_file, buffer, nCount); 
                 if( written < 0 )                  if( written < 0 )
                         throw Exception(0,                           throw Exception("file.access", 
                                 0,                                   0, 
                                 "write failed: %s (%d)",  strerror(errno), errno);                                   "write failed: %s (%d)",  strerror(errno), errno); 
                                   
Line 194  static void _copy(Request& r, MethodPara Line 193  static void _copy(Request& r, MethodPara
 }  }
   
 static void _load_pass_param(  static void _load_pass_param(
                              HashStringValue::key_type key,                                   HashStringValue::key_type key, 
                              HashStringValue::value_type value,                                   HashStringValue::value_type value, 
                              HashStringValue *dest) {                                  HashStringValue *dest) {
         dest->put(key, value);          dest->put(key, value);
 }  }
   
 static void _load(Request& r, MethodParams& params) {  static void _load(Request& r, MethodParams& params) {
         Value& vmode_name=params.as_no_junction(0, MODE_MUST_NOT_BE_CODE);          bool as_text=is_text_mode(params.as_no_junction(0, MODE_MUST_NOT_BE_CODE).as_string());
         const String& lfile_name=r.absolute(params.as_no_junction(1, FILE_NAME_MUST_NOT_BE_CODE).as_string());          const String& lfile_name=r.absolute(params.as_no_junction(1, FILE_NAME_MUST_NOT_BE_CODE).as_string());
         Value* third_param=params.count()>2?&params.as_no_junction(2, "filename or options must not be code")  
                 :0;  
         HashStringValue* third_param_hash=third_param?third_param->get_hash():0;  
         size_t alt_filename_param_index=2;  
         if(third_param_hash)  
                 alt_filename_param_index++;  
   
         HashStringValue* options=third_param_hash;          size_t param_index=params.count()-1;
           Value* param_value=param_index>1?&params.as_no_junction(param_index, "filename or options must not be code"):0;
   
           HashStringValue* options=0;
           const char *user_file_name=0;
   
           if(param_value){
                   options=param_value->get_hash();
                   if(options || param_index>2)
                           param_index--;
                   if(param_index>1){
                           const String& luser_file_name=params.as_string(param_index, FILE_NAME_MUST_BE_STRING);
                           if(!luser_file_name.is_empty())
                                   user_file_name=luser_file_name.cstr(String::L_FILE_SPEC);
                   }
           }
           if(!user_file_name)
                   user_file_name=lfile_name.cstr(String::L_FILE_SPEC);
   
         size_t offset=0;          size_t offset=0;
         size_t limit=0;          size_t limit=0;
         if(options) {  
           if(options){
                 options=new HashStringValue(*options);                  options=new HashStringValue(*options);
                 if(Value *voffset=(Value *)options->get(sql_offset_name)) {                  if(Value *voffset=(Value *)options->get(sql_offset_name)){
                         offset=r.process_to_value(*voffset).as_int();                          offset=r.process_to_value(*voffset).as_int();
                 }                  }
                 if(Value *vlimit=(Value *)options->get(sql_limit_name)) {                  if(Value *vlimit=(Value *)options->get(sql_limit_name)){
                         limit=r.process_to_value(*vlimit).as_int();                          limit=r.process_to_value(*vlimit).as_int();
                 }                  }
                 // no check on options count here, see file_read                  // no check on options count here, see file_read
         }          }
         File_read_result file=file_read(r.charsets, lfile_name,          File_read_result file=file_load(r, lfile_name,
                 is_text_mode(vmode_name.as_string()),                  as_text, options, true, 0, offset, limit
                 options, true, 0, offset, limit  
         );          );
   
         const char *user_file_name=params.count()>alt_filename_param_index?  
                 params.as_string(alt_filename_param_index, FILE_NAME_MUST_BE_STRING).cstr()  
                 :lfile_name.cstr(String::L_FILE_SPEC);  
   
         Value* vcontent_type=0;          Value* vcontent_type=0;
         if(file.headers)          if(file.headers){
         {                  if(Value* remote_content_type=file.headers->get(HTTP_CONTENT_TYPE_UPPER))
                 if(Value* remote_content_type=file.headers->get("CONTENT-TYPE"))  
                         vcontent_type=new VString(*new String(remote_content_type->as_string().cstr()));                          vcontent_type=new VString(*new String(remote_content_type->as_string().cstr()));
         }           } 
         if(!vcontent_type)          if(!vcontent_type)
Line 242  static void _load(Request& r, MethodPara Line 249  static void _load(Request& r, MethodPara
                   
         VFile& self=GET_SELF(r, VFile);          VFile& self=GET_SELF(r, VFile);
         self.set(true/*tainted*/, file.str, file.length, user_file_name, vcontent_type);          self.set(true/*tainted*/, file.str, file.length, user_file_name, vcontent_type);
         if(file.headers)  
           if(file.headers){
                 file.headers->for_each<HashStringValue*>(_load_pass_param, &self.fields());                  file.headers->for_each<HashStringValue*>(_load_pass_param, &self.fields());
           } else {
                   size_t size;
                   time_t atime, mtime, ctime;
   
                   file_stat(lfile_name, size, atime, mtime, ctime);
           
                   HashStringValue& ff=self.fields();
                   ff.put(adate_name, new VDate(atime));
                   ff.put(mdate_name, new VDate(mtime));
                   ff.put(cdate_name, new VDate(ctime));
           }
   
 }  }
   
 static void _create(Request& r, MethodParams& params) {  static void _create(Request& r, MethodParams& params) {
Line 311  struct Append_env_pair_info { Line 331  struct Append_env_pair_info {
 };  };
 #endif  #endif
 static void append_env_pair(  static void append_env_pair(
                             HashStringValue::key_type akey,                                   HashStringValue::key_type akey, 
                             HashStringValue::value_type avalue,                                   HashStringValue::value_type avalue, 
                             Append_env_pair_info *info) {                                  Append_env_pair_info *info) {
         if(akey==STDIN_EXEC_PARAM_NAME) {          if(akey==STDIN_EXEC_PARAM_NAME) {
                 info->vstdin=avalue;                  info->vstdin=avalue;
         } else if(akey==CHARSET_EXEC_PARAM_NAME) {          } else if(akey==CHARSET_EXEC_PARAM_NAME) {
Line 334  struct Pass_cgi_header_attribute_info { Line 354  struct Pass_cgi_header_attribute_info {
 };  };
 #endif  #endif
 static void pass_cgi_header_attribute(  static void pass_cgi_header_attribute(
                                       ArrayString::element_type astring,                                           ArrayString::element_type astring, 
                                       Pass_cgi_header_attribute_info* info) {                                          Pass_cgi_header_attribute_info* info) {
         size_t colon_pos=astring->pos(':');          size_t colon_pos=astring->pos(':');
         if(colon_pos!=STRING_NOT_FOUND) {          if(colon_pos!=STRING_NOT_FOUND) {
                 const String& key=astring->mid(0, colon_pos).change_case(                  const String& key=astring->mid(0, colon_pos).change_case(
                         *info->charset, String::CC_UPPER);                          *info->charset, String::CC_UPPER);
                 Value* value=new VString(astring->mid(colon_pos+1, astring->length()).trim());                  Value* value=new VString(astring->mid(colon_pos+1, astring->length()).trim());
                 info->fields->put(key, value);                  info->fields->put(key, value);
                 if(key=="CONTENT-TYPE")                  if(key==HTTP_CONTENT_TYPE_UPPER)
                         info->content_type=value;                          info->content_type=value;
         }          }
 }  }
Line 353  static void append_to_argv(Request& r, A Line 373  static void append_to_argv(Request& r, A
         }          }
 }  }
   
 inline size_t strpos(const char *s1, const char *s2) {  
         const char *p = strstr(s1, s2);  
         return (p==0)?STRING_NOT_FOUND:p-s1;  
 }  
   
 /// @todo fix `` in perl - they produced flipping consoles and no output to perl  /// @todo fix `` in perl - they produced flipping consoles and no output to perl
 static void _exec_cgi(Request& r, MethodParams& params,  static void _exec_cgi(Request& r, MethodParams& params,
                                           bool cgi) {                                            bool cgi) {
Line 454  static void _exec_cgi(Request& r, Method Line 469  static void _exec_cgi(Request& r, Method
         // argv from params          // argv from params
         ArrayString argv;          ArrayString argv;
         if(param_index < params.count()) {          if(param_index < params.count()) {
                 // influence tainting                   // influence tainting 
                 // main target -- URLencoding of tainted pieces to String::L_URI lang                  // main target -- URLencoding of tainted pieces to String::L_URI lang
                 Temp_client_charset temp(r.charsets, charset? *charset: r.charsets.source());                  Temp_client_charset temp(r.charsets, charset? *charset: r.charsets.source());
   
                 for(size_t i=param_index; i<params.count(); i++) {                  for(size_t i=param_index; i<params.count(); i++) {
                         Value& param=params.as_no_junction(i, PARAM_MUST_NOT_BE_CODE);                          Value& param=params.as_no_junction(i, PARAM_MUST_NOT_BE_CODE);
Line 536  static void _exec_cgi(Request& r, Method Line 551  static void _exec_cgi(Request& r, Method
                                 break;                                  break;
                         default: // 00                          default: // 00
                                 unix_header_break=false; // calm down, compiler                                  unix_header_break=false; // calm down, compiler
                                 throw Exception(0,                                  throw Exception("file.execute",
                                         0,                                          0,
                                         "output does not contain CGI header; "                                          "output does not contain CGI header; "
                                         "exit status=%d; stdoutsize=%u; stdout: \"%s\"; stderrsize=%u; stderr: \"%s\"",                                           "exit status=%d; stdoutsize=%u; stdout: \"%s\"; stderrsize=%u; stderr: \"%s\"", 
Line 602  static void _cgi(Request& r, MethodParam Line 617  static void _cgi(Request& r, MethodParam
 static void _list(Request& r, MethodParams& params) {  static void _list(Request& r, MethodParams& params) {
         Value& relative_path=params.as_no_junction(0, "path must not be code");          Value& relative_path=params.as_no_junction(0, "path must not be code");
   
         const String* regexp;          VRegex* vregex;
         pcre *regexp_code;          VRegexCleaner vrcleaner;
         const int ovecsize=(1/*match*/)*3;          if(params.count()>1){
         int ovector[ovecsize];                  Value& regexp=params.as_no_junction(1, "regexp must not be code");
         if(params.count()>1) {                  if(Value* value=regexp.as(VREGEX_TYPE, false)){
                 regexp=&params.as_no_junction(1, "regexp must not be code").as_string();                          vregex=static_cast<VRegex*>(value);
                   } else {
                 const char* pattern=regexp->cstr();                          vregex=new VRegex(r.charsets.source(), &regexp.as_string(), 0/*options*/);
                 const char* errptr;                          vrcleaner.vregex=vregex;
                 int erroffset;                  }
                 regexp_code=pcre_compile(pattern, PCRE_EXTRA | PCRE_DOTALL,                   vregex->study();
                         &errptr, &erroffset,   
                         r.charsets.source().pcre_tables);  
   
                 if(!regexp_code)  
                         throw Exception(0,   
                                 &regexp->mid(erroffset, regexp->length()),   
                                 "regular expression syntax error - %s", errptr);  
         } else {          } else {
                 regexp=0; // not used, just to calm down compiler                  vregex=0;
                 regexp_code=0;  
         }          }
   
   
         const char* absolute_path_cstr=r.absolute(relative_path.as_string()).cstr(String::L_FILE_SPEC);          const char* absolute_path_cstr=r.absolute(relative_path.as_string()).cstr(String::L_FILE_SPEC);
   
         Table::columns_type columns(new ArrayString);          Table::columns_type columns(new ArrayString);
         *columns+=new String("name");          *columns+=new String("name");
         Table& table=*new Table(columns);          Table& table=*new Table(columns);
   
           const int ovector_size=(1/*match*/)*3;
           int ovector[ovector_size];
   
         LOAD_DIR(absolute_path_cstr,           LOAD_DIR(absolute_path_cstr, 
                 const char* file_name_cstr=ffblk.ff_name;                  const char* file_name_cstr=ffblk.ff_name;
                 size_t file_name_size=strlen(file_name_cstr);                  size_t file_name_size=strlen(file_name_cstr);
                 bool suits=true;  
                 if(regexp_code) {  
                         int exec_result=pcre_exec(regexp_code, 0,   
                                 ffblk.ff_name, file_name_size, 0,   
                                 0, ovector, ovecsize);  
                           
                         if(exec_result==PCRE_ERROR_NOMATCH)  
                                 suits=false;  
                         else if(exec_result<0) {  
                                 (*pcre_free)(regexp_code);  
                                 throw Exception(0,   
                                         regexp,   
                                         "regular expression execute (%d)",   
                                                 exec_result);  
                         }  
                 }  
   
                 if(suits) {                  if(!vregex || vregex->exec(ffblk.ff_name, file_name_size, ovector, ovector_size)>=0) {
                         Table::element_type row(new ArrayString);                          Table::element_type row(new ArrayString);
                         *row+=new String(pa_strdup(file_name_cstr, file_name_size), file_name_size, true);                          *row+=new String(pa_strdup(file_name_cstr, file_name_size), file_name_size, true/*tainted*/);
                         table+=row;                          table+=row;
                 }                  }
         );          );
   
         if(regexp_code)  
                 pcre_free(regexp_code);  
   
         // write out result          // write out result
         r.write_no_lang(*new VTable(&table));          r.write_no_lang(*new VTable(&table));
 }  }
Line 745  static void _find(Request& r, MethodPara Line 735  static void _find(Request& r, MethodPara
   
 static void _dirname(Request& r, MethodParams& params) {  static void _dirname(Request& r, MethodParams& params) {
         const String& file_spec=params.as_string(0, FILE_NAME_MUST_BE_STRING);          const String& file_spec=params.as_string(0, FILE_NAME_MUST_BE_STRING);
     // /a/some.tar.gz > /a          // /a/some.tar.gz > /a
         // /a/b/ > /a          // /a/b/ > /a
         int afterslash=lastposafter(file_spec, 0, "/", 1, true);          int afterslash=lastposafter(file_spec, 0, "/", 1, true);
         if(afterslash>0)          if(afterslash>0)
Line 756  static void _dirname(Request& r, MethodP Line 746  static void _dirname(Request& r, MethodP
   
 static void _basename(Request& r, MethodParams& params) {  static void _basename(Request& r, MethodParams& params) {
         const String& file_spec=params.as_string(0, FILE_NAME_MUST_BE_STRING);          const String& file_spec=params.as_string(0, FILE_NAME_MUST_BE_STRING);
     // /a/some.tar.gz > some.tar.gz          // /a/some.tar.gz > some.tar.gz
         int afterslash=lastposafter(file_spec, 0, "/", 1);          int afterslash=lastposafter(file_spec, 0, "/", 1);
         r.write_assign_lang(file_spec.mid(afterslash, file_spec.length()));          r.write_assign_lang(file_spec.mid(afterslash, file_spec.length()));
 }  }
   
 static void _justname(Request& r, MethodParams& params) {  static void _justname(Request& r, MethodParams& params) {
         const String& file_spec=params.as_string(0, FILE_NAME_MUST_BE_STRING);          const String& file_spec=params.as_string(0, FILE_NAME_MUST_BE_STRING);
     // /a/some.tar.gz > some.tar          // /a/some.tar.gz > some.tar
         int afterslash=lastposafter(file_spec, 0, "/", 1);          int afterslash=lastposafter(file_spec, 0, "/", 1);
         int afterdot=lastposafter(file_spec, afterslash, ".", 1);          int afterdot=lastposafter(file_spec, afterslash, ".", 1);
         r.write_assign_lang(file_spec.mid(afterslash, afterdot!=afterslash?afterdot-1:file_spec.length()));          r.write_assign_lang(file_spec.mid(afterslash, afterdot!=afterslash?afterdot-1:file_spec.length()));
 }  }
 static void _justext(Request& r, MethodParams& params) {  static void _justext(Request& r, MethodParams& params) {
         const String& file_spec=params.as_string(0, FILE_NAME_MUST_BE_STRING);          const String& file_spec=params.as_string(0, FILE_NAME_MUST_BE_STRING);
     // /a/some.tar.gz > gz          // /a/some.tar.gz > gz
         int afterdot=lastposafter(file_spec, 0, ".", 1);          int afterdot=lastposafter(file_spec, 0, ".", 1);
         if(afterdot>0)          if(afterdot>0)
                 r.write_assign_lang(file_spec.mid(afterdot, file_spec.length()));                  r.write_assign_lang(file_spec.mid(afterdot, file_spec.length()));
Line 865  static void _sql(Request& r, MethodParam Line 855  static void _sql(Request& r, MethodParam
                 statement_string.cstr(String::L_UNSPECIFIED, r.connection());                  statement_string.cstr(String::L_UNSPECIFIED, r.connection());
         File_sql_event_handlers handlers(statement_string, statement_cstr);          File_sql_event_handlers handlers(statement_string, statement_cstr);
   
           ulong limit=SQL_NO_LIMIT;
           ulong offset=0;
   
         if(params.count()>1)          if(params.count()>1)
                 if(HashStringValue* options=                  if(HashStringValue* options=params.as_no_junction(1, PARAM_MUST_NOT_BE_CODE).get_hash()){
                         params.as_no_junction(1, PARAM_MUST_NOT_BE_CODE).get_hash()) {  
                         int valid_options=0;                          int valid_options=0;
                         if(Value* vfilename=options->get(NAME_NAME)) {                          if(Value* vfilename=options->get(NAME_NAME)) {
                                 valid_options++;                                  valid_options++;
Line 877  static void _sql(Request& r, MethodParam Line 869  static void _sql(Request& r, MethodParam
                                 valid_options++;                                  valid_options++;
                                 handlers.user_content_type=&vcontent_type->as_string();                                  handlers.user_content_type=&vcontent_type->as_string();
                         }                          }
                           if(Value* vlimit=options->get(sql_limit_name)) {
                                   valid_options++;
                                   limit=(ulong)r.process_to_value(*vlimit).as_double();
                           }
                           if(Value* voffset=options->get(sql_offset_name)) {
                                   valid_options++;
                                   offset=(ulong)r.process_to_value(*voffset).as_double();
                           }
                         if(valid_options!=options->count())                          if(valid_options!=options->count())
                                 throw Exception(PARSER_RUNTIME,                                  throw Exception(PARSER_RUNTIME,
                                         0,                                          0,
Line 887  static void _sql(Request& r, MethodParam Line 887  static void _sql(Request& r, MethodParam
         r.connection()->query(          r.connection()->query(
                 statement_cstr,                   statement_cstr, 
                 0, 0,                  0, 0,
                 0, 0,                   offset, limit,
                 handlers,                  handlers,
                 statement_string);                  statement_string);
   
Line 909  static void _sql(Request& r, MethodParam Line 909  static void _sql(Request& r, MethodParam
   
 static void _base64(Request& r, MethodParams& params) {  static void _base64(Request& r, MethodParams& params) {
         bool dynamic = !(&r.get_self() == file_class);          bool dynamic = !(&r.get_self() == file_class);
         if ( dynamic ){          if(dynamic){
         VFile& self=GET_SELF(r, VFile);                  VFile& self=GET_SELF(r, VFile);
         if(params.count()) {                  if(params.count()) {
                 // decode                          // decode: ^file::base64[encoded]
                 const char* cstr=params.as_string(0, PARAMETER_MUST_BE_STRING).cstr();                          const char* cstr=params.as_string(0, PARAMETER_MUST_BE_STRING).cstr();
                 char* decoded_cstr=0;                          char* decoded=0;
                 size_t decoded_size=0;                          size_t length=0;
                 pa_base64_decode(cstr, strlen(cstr), decoded_cstr, decoded_size);                          pa_base64_decode(cstr, strlen(cstr), decoded, length);
                 if(decoded_cstr && decoded_size)                          if(decoded && length)
                         self.set(true/*tainted*/, decoded_cstr, decoded_size);                                  self.set(true/*tainted*/, decoded, length);
         } else {                  } else {
                 // encode                           // encode: ^f.base64[]
                 const char* encoded=pa_base64_encode(self.value_ptr(), self.value_size());                          const char* encoded=pa_base64_encode(self.value_ptr(), self.value_size());
                 r.write_assign_lang(*new String(encoded, 0, true/*once ?param=base64(something) was needed*/));                          r.write_assign_lang(*new String(encoded, 0, true/*tainted. once ?param=base64(something) was needed**/));
         }                  }
         } else {          } else {
                 // encode                  // encode: ^file:base64[filespec]
                 const String& file_spec=params.as_string(0, FILE_NAME_MUST_BE_STRING);                  const String& file_spec=params.as_string(0, FILE_NAME_MUST_BE_STRING);
                 const char* encoded=pa_base64_encode(r.absolute(file_spec));                  const char* encoded=pa_base64_encode(r.absolute(file_spec));
                 r.write_assign_lang(*new String(encoded, 0, true/*once ?param=base64(something) was needed*/));                  r.write_assign_lang(*new String(encoded, 0, true/*tainted. once ?param=base64(something) was needed*/));
         }          }
 }  }
   
Line 954  static void _crc32(Request& r, MethodPar Line 954  static void _crc32(Request& r, MethodPar
   
   
 static void file_md5_file_action(  static void file_md5_file_action(
                              struct stat& finfo,                                   struct stat& finfo, 
                              int f,                                   int f, 
                              const String& , const char* /*fname*/, bool,                                   const String& , const char* /*fname*/, bool, 
                              void *context)                                  void *context)
 {  {
         PA_MD5_CTX& md5context=*static_cast<PA_MD5_CTX *>(context);          PA_MD5_CTX& md5context=*static_cast<PA_MD5_CTX *>(context);
         if(finfo.st_size) {          if(finfo.st_size) {
Line 1033  MFile::MFile(): Methoded("file") { Line 1033  MFile::MFile(): Methoded("file") {
   
         // ^file::load[mode;disk-name]          // ^file::load[mode;disk-name]
         // ^file::load[mode;disk-name;user-name]          // ^file::load[mode;disk-name;user-name]
         add_native_method("load", Method::CT_DYNAMIC, _load, 2, 3);          add_native_method("load", Method::CT_DYNAMIC, _load, 2, 4);
   
         // ^file::stat[disk-name]          // ^file::stat[disk-name]
         add_native_method("stat", Method::CT_DYNAMIC, _stat, 1, 1);          add_native_method("stat", Method::CT_DYNAMIC, _stat, 1, 1);

Removed from v.1.167  
changed lines
  Added in v.1.185


E-mail: