Diff for /parser3/src/classes/file.C between versions 1.136 and 1.263

version 1.136, 2005/08/09 08:14:47 version 1.263, 2017/05/17 14:22:11
Line 1 Line 1
 /** @file  /** @file
         Parser: @b file parser class.          Parser: @b file parser class.
   
         Copyright (c) 2001-2005 ArtLebedev Group (http://www.artlebedev.com)          Copyright (c) 2001-2017 Art. Lebedev Studio (http://www.artlebedev.com)
         Author: Alexandr Petrosian <paf@design.ru> (http://paf.design.ru)          Author: Alexandr Petrosian <paf@design.ru> (http://paf.design.ru)
 */  */
   
 static const char * const IDENT_FILE_C="$Date$";  
   
 #include "pa_config_includes.h"  #include "pa_config_includes.h"
   
 #include "pcre.h"  
   
 #include "classes.h"  #include "classes.h"
 #include "pa_vmethod_frame.h"  #include "pa_vmethod_frame.h"
   
Line 25  static const char * const IDENT_FILE_C=" Line 21  static const char * const IDENT_FILE_C="
 #include "pa_charset.h"  #include "pa_charset.h"
 #include "pa_charsets.h"  #include "pa_charsets.h"
 #include "pa_sql_connection.h"  #include "pa_sql_connection.h"
   #include "pa_md5.h"
   #include "pa_vregex.h"
   #include "pa_version.h"
   
   volatile const char * IDENT_FILE_C="$Id$";
   
 // defines  // defines
   
 #define TEXT_MODE_NAME "text"  
 #define BINARY_MODE_NAME "binary"  
 #define STDIN_EXEC_PARAM_NAME "stdin"  #define STDIN_EXEC_PARAM_NAME "stdin"
 #define CHARSET_EXEC_PARAM_NAME "charset"  #define CHARSET_EXEC_PARAM_NAME "charset"
   
 #define NAME_NAME "name"  #define NAME_NAME "name"
   #define KEEP_EMPTY_DIRS_NAME "keep-empty-dirs"
   #define SUPPRESS_EXCEPTION_NAME "exception"
   
 // externs  // externs
   
 extern String sql_limit_name;  extern String sql_limit_name;
 extern String sql_offset_name;  extern String sql_offset_name;
   
   // helpers
   
   class File_list_table_template_columns: public ArrayString {
   public:
           File_list_table_template_columns() {
                   *this+=new String("name");
                   *this+=new String("dir");
                   *this+=new String("size");
                   *this+=new String("cdate");
                   *this+=new String("mdate");
                   *this+=new String("adate");
           }
   };
   
   Table file_list_table_template(new File_list_table_template_columns);
   
 // class  // class
   
 class MFile: public Methoded {  class MFile: public Methoded {
 public: // VStateless_class  public: // VStateless_class
                   Value* create_new_value(Pool&) { return new VFile(); }
         Value* create_new_value(Pool&, HashStringValue&) { return new VFile(); }  
   
 public: // Methoded  
         bool used_directly() { return true; }  
   
 public:  public:
         MFile();          MFile();
   
 };  };
   
 // global variable  // global variable
   
 DECLARE_CLASS_VAR(file, new MFile, 0);  DECLARE_CLASS_VAR(file, new MFile);
   
 // consts  // consts
   
Line 107  static const char* suexec_safe_env_lst[] Line 118  static const char* suexec_safe_env_lst[]
   
 // statics  // statics
   
   static const String::Body size_name("size");
 static const String::Body adate_name("adate");  static const String::Body adate_name("adate");
 static const String::Body mdate_name("mdate");  static const String::Body mdate_name("mdate");
 static const String::Body cdate_name("cdate");  static const String::Body cdate_name("cdate");
   
 // methods  // methods
   
 static bool is_text_mode(const String& mode) {  
         if(mode==TEXT_MODE_NAME)  
                 return true;  
         if(mode==BINARY_MODE_NAME)  
                 return false;  
         throw Exception("parser.runtime",  
                 &mode,  
                 "is invalid mode, must be either '"TEXT_MODE_NAME"' or '"BINARY_MODE_NAME"'");  
 }  
   
 static void _save(Request& r, MethodParams& params) {  static void _save(Request& r, MethodParams& params) {
         Value& vmode_name=params. as_no_junction(0, "mode must not be code");          bool is_text=VFile::is_text_mode(params.as_string(0, MODE_MUST_NOT_BE_CODE));
         Value& vfile_name=params.as_no_junction(1, "file name must not be code");          Value& vfile_name=params.as_no_junction(1, FILE_NAME_MUST_NOT_BE_CODE);
   
           Charset* asked_charset=0;
           if(params.count()>2)
                   if(HashStringValue* options=params.as_hash(2)){
                           int valid_options=0;
                           if(Value* vcharset_name=options->get(PA_CHARSET_NAME)){
                                   asked_charset=&pa_charsets.get(vcharset_name->as_string());
                                   valid_options++;
                           }
                           if(valid_options != options->count())
                                   throw Exception(PARSER_RUNTIME, 0, CALLED_WITH_INVALID_OPTION);
                   }
   
         // save          // save
         GET_SELF(r, VFile).save(r.absolute(vfile_name.as_string()),          GET_SELF(r, VFile).save(r.charsets, r.absolute(vfile_name.as_string()), is_text, asked_charset);
                 is_text_mode(vmode_name.as_string()));  
 }  }
   
 static void _delete(Request& r, MethodParams& params) {  static void _delete(Request& r, MethodParams& params) {
         Value& vfile_name=params.as_no_junction(0, "file name must not be code");          const String& file_name=params.as_string(0, FILE_NAME_MUST_NOT_BE_CODE);
           bool keep_empty_dirs=false;
           bool fail_on_problem=true;
   
           if(params.count()>1)
                   if(HashStringValue* options=params.as_hash(1)){
                           int valid_options=0;
                           if(Value* vkeep_empty_dirs=options->get(KEEP_EMPTY_DIRS_NAME)){
                                   keep_empty_dirs=r.process(*vkeep_empty_dirs).as_bool();
                                   valid_options++;
                           }
                           if(Value* vsuppress_exception=options->get(SUPPRESS_EXCEPTION_NAME)){
                                   fail_on_problem=r.process(*vsuppress_exception).as_bool();
                                   valid_options++;
                           }
                           if(valid_options != options->count())
                                   throw Exception(PARSER_RUNTIME, 0, CALLED_WITH_INVALID_OPTION);
                   }
   
         // unlink          // unlink
         file_delete(r.absolute(vfile_name.as_string()));          file_delete(r.absolute(file_name), fail_on_problem, keep_empty_dirs);
 }  }
   
 static void _move(Request& r, MethodParams& params) {  static void _move(Request& r, MethodParams& params) {
         Value& vfrom_file_name=params.as_no_junction(0, "from file name must not be code");          Value& vfrom_file_name=params.as_no_junction(0, "from file name must not be code");
         Value& vto_file_name=params.as_no_junction(1, "to file name must not be code");          Value& vto_file_name=params.as_no_junction(1, "to file name must not be code");
           bool keep_empty_dirs=false;
   
           if(params.count()>2)
                   if(HashStringValue* options=params.as_hash(2)){
                           int valid_options=0;
                           if(Value* vkeep_empty_dirs=options->get(KEEP_EMPTY_DIRS_NAME)){
                                   keep_empty_dirs=r.process(*vkeep_empty_dirs).as_bool();
                                   valid_options++;
                           }
                           if(valid_options != options->count())
                                   throw Exception(PARSER_RUNTIME, 0, CALLED_WITH_INVALID_OPTION);
                   }
   
         // move          // move
         file_move(          file_move(
                 r.absolute(vfrom_file_name.as_string()),                  r.absolute(vfrom_file_name.as_string()),
                 r.absolute(vto_file_name.as_string()));                  r.absolute(vto_file_name.as_string()),
                   keep_empty_dirs);
   }
   
   static void copy_process_source(struct stat&, int from_file, const String&, void *context) {
           int& to_file=*static_cast<int *>(context);
   
           int nCount=0;
           do {
                   unsigned char buffer[FILE_BUFFER_SIZE];
                   nCount = file_block_read(from_file, buffer, sizeof(buffer));
                   int written=write(to_file, buffer, nCount); 
                   if( written < 0 )
                           throw Exception("file.access", 
                                   0, 
                                   "write failed: %s (%d)",  strerror(errno), errno); 
                   
           } while(nCount > 0);
   }
   
   static void copy_open_target(int f, void *from_spec) {
           String& file_spec=*static_cast<String *>(from_spec);
           file_read_action_under_lock(file_spec, "copy", copy_process_source, &f);
   }
   
   static void _copy(Request& r, MethodParams& params) {
           Value& vfrom_file_name=params.as_no_junction(0, "from file name must not be code");
           Value& vto_file_name=params.as_no_junction(1, "to file name must not be code");
   
           String from_spec = r.absolute(vfrom_file_name.as_string());
           const String& to_spec = r.absolute(vto_file_name.as_string());
           
           file_write_action_under_lock(
                           to_spec,
                           "copy",
                           copy_open_target,
                           &from_spec);
 }  }
   
 static void _load_pass_param(  static void _load_pass_param(
                              HashStringValue::key_type key,                                   HashStringValue::key_type key, 
                              HashStringValue::value_type value,                                   HashStringValue::value_type value, 
                              HashStringValue *dest) {                                  HashStringValue *dest) {
         dest->put(key, value);          dest->put(key, value);
 }  }
   
 static void _load(Request& r, MethodParams& params) {  static void _load(Request& r, MethodParams& params) {
         Value& vmode_name=params. as_no_junction(0, "mode must not be code");          bool as_text=VFile::is_text_mode(params.as_string(0, MODE_MUST_NOT_BE_CODE));
         const String& lfile_name=r.absolute(params.as_no_junction(1, "file name must not be code").as_string());          const String& lfile_name=r.absolute(params.as_string(1, FILE_NAME_MUST_NOT_BE_CODE));
         Value* third_param=params.count()>2?&params.as_no_junction(2, "filename or options must not be code")  
                 :0;          size_t param_index=params.count()-1;
         HashStringValue* third_param_hash=third_param?third_param->get_hash():0;          Value* param_value=param_index>1?&params.as_no_junction(param_index, "file name or options must not be code"):0;
         size_t alt_filename_param_index=2;  
         if(third_param_hash)          HashStringValue* options=0;
                 alt_filename_param_index++;          const String* user_file_name=0;
   
           if(param_value){
                   options=param_value->get_hash();
                   if(options || param_index>2)
                           param_index--;
                   if(param_index>1){
                           const String& luser_file_name=params.as_string(param_index, FILE_NAME_MUST_BE_STRING);
                           if(!luser_file_name.is_empty())
                                   user_file_name=&luser_file_name;
                   }
           }
           if(!user_file_name)
                   user_file_name=&lfile_name;
   
         HashStringValue* options=third_param_hash;  
         size_t offset=0;          size_t offset=0;
         size_t limit=0;          size_t limit=0;
         if(options) {  
           if(options){
                 options=new HashStringValue(*options);                  options=new HashStringValue(*options);
                 if(Value *voffset=(Value *)options->get(sql_offset_name)) {                  if(Value *voffset=(Value *)options->get(sql_offset_name)){
                         options->remove(sql_offset_name);                          offset=r.process(*voffset).as_int();
                         offset=r.process_to_value(*voffset).as_int();                  }
                 }                  if(Value *vlimit=(Value *)options->get(sql_limit_name)){
                 if(Value *vlimit=(Value *)options->get(sql_limit_name)) {                          limit=r.process(*vlimit).as_int();
                         options->remove(sql_limit_name);  
                         limit=r.process_to_value(*vlimit).as_int();  
                 }                  }
                 // no check on options count here, see file_read                  // no check on options count here, see file_read
         }          }
         File_read_result file=file_read(r.charsets, lfile_name,          File_read_result file=file_load(r, lfile_name,
                 is_text_mode(vmode_name.as_string()),                  as_text, options, true, 0, offset, limit
                 options, true, 0, offset, limit  
         );          );
   
         const char *user_file_name=params.count()>alt_filename_param_index?  
                 params.as_string(alt_filename_param_index, "filename must be string").cstr()  
                 :lfile_name.cstr(String::L_FILE_SPEC);  
   
         Value* vcontent_type=0;          Value* vcontent_type=0;
         if(file.headers)          if(file.headers){
         {                  if(Value* remote_content_type=file.headers->get(HTTP_CONTENT_TYPE_UPPER))
                 if(Value* remote_content_type=file.headers->get("CONTENT-TYPE"))  
                         vcontent_type=new VString(*new String(remote_content_type->as_string().cstr()));                          vcontent_type=new VString(*new String(remote_content_type->as_string().cstr()));
         }           } 
         if(!vcontent_type)  
                 vcontent_type=new VString(r.mime_type_of(user_file_name));          VFile& self=GET_SELF(r, VFile);
           self.set(true/*tainted*/, as_text, file.str, file.length, user_file_name, vcontent_type, &r);
   
           if(file.headers){
                   file.headers->for_each<HashStringValue*>(_load_pass_param, &self.fields());
           } else {
                   uint64_t size;
                   time_t atime, mtime, ctime;
   
                   file_stat(lfile_name, size, atime, mtime, ctime);
                   
                   HashStringValue& ff=self.fields();
                   ff.put(adate_name, new VDate((pa_time_t)atime));
                   ff.put(mdate_name, new VDate((pa_time_t)mtime));
                   ff.put(cdate_name, new VDate((pa_time_t)ctime));
           }
   }
   
   static void _create(Request& r, MethodParams& params) {
           const String* mode=0;
           const String* file_name=0;
           bool is_text=true;
   
           // new format: ^file::create[string-or-file-content[;$.mode[text|binary] $.name[...] $.content-type[...] $.charset[...] ]]
           size_t content_index=0;
           size_t options_index=1;
           bool extended_options=true;
   
           if(params.count()>=3){
                   // old format: ^file::create[text|binary;file-name;string-or-file-content[;options]] 
                   mode=&params.as_string(0, MODE_MUST_NOT_BE_CODE);
                   is_text=VFile::is_text_mode(*mode);
                   file_name=&params.as_string(1, FILE_NAME_MUST_NOT_BE_CODE);
                   content_index=2;
                   options_index=3;
                   extended_options=false;
           }
   
           VString* vcontent_type=0;
           Charset* to_charset=0;
           Charset* from_charset=0;
           if(params.count()>options_index)
                   if(HashStringValue* options=params.as_hash(options_index)) {
                           int valid_options=0;
                           if(extended_options) {
                                   if(Value* vmode=options->get(MODE_NAME)) {
                                           mode=&vmode->as_string();
                                           is_text=VFile::is_text_mode(*mode);
                                           valid_options++;
                                   }
                                   if(Value* vfile_name=options->get(NAME_NAME)) {
                                           file_name=&vfile_name->as_string();
                                           valid_options++;
                                   }
                           }
                           if(Value* vcharset_name=options->get("to-charset")) {
                                   to_charset=&pa_charsets.get(vcharset_name->as_string());
                                   valid_options++;
                           }
                           if(Value* vcharset_name=options->get("from-charset")) {
                                   from_charset=&pa_charsets.get(vcharset_name->as_string());
                                   valid_options++;
                           }
                           if(Value* vcharset_name=options->get(PA_CHARSET_NAME)) {
                                   if(to_charset)
                                           throw Exception(PARSER_RUNTIME, 0, "charset option can not be used with to-charset");
                                   to_charset=&pa_charsets.get(vcharset_name->as_string());
                                   valid_options++;
                           }
                           if(Value* value=options->get(CONTENT_TYPE_NAME)) {
                                   vcontent_type=new VString(value->as_string());
                                   valid_options++;
                           }
                           if(valid_options != options->count())
                                   throw Exception(PARSER_RUNTIME, 0, CALLED_WITH_INVALID_OPTION);
                   }
   
           Value& vcontent=params.as_no_junction(content_index, "content must be string or file");
   
         VFile& self=GET_SELF(r, VFile);          VFile& self=GET_SELF(r, VFile);
         self.set(true/*tainted*/, file.str, file.length, user_file_name, vcontent_type);  
         if(file.headers)          if(const String* content_str=vcontent.get_string()){
                 file.headers->for_each(_load_pass_param, &self.fields());                  String::Body body=content_str->cstr_to_string_body_untaint(String::L_AS_IS, r.connection(false), &r.charsets); // explode content, honor tainting changes
                   self.set(true/*tainted*/, is_text, body.cstrm(), body.length(), file_name, vcontent_type, &r);
           } else {
                   VFile& fcontent=*vcontent.as_vfile(String::L_AS_IS); // can't be null
                   if(mode){
                           self.set(fcontent, &is_text, file_name, vcontent_type, &r);
                           if(is_text && !fcontent.is_text_mode())
                                   from_charset=self.detect_binary_charset(from_charset);
                   } else {
                           self.set(fcontent, 0, file_name, vcontent_type, &r);
                           is_text=fcontent.is_text_mode();
                   }
           }
   
           if(to_charset || from_charset)
                   if(is_text)
                           self.transcode(from_charset ? *from_charset : r.charsets.source(), to_charset ? *to_charset : r.charsets.source());
                   else
                           throw Exception(PARSER_RUNTIME, 0, "charset options can not be used with binary content");
 }  }
   
 static void _stat(Request& r, MethodParams& params) {  static void _stat(Request& r, MethodParams& params) {
         Value& vfile_name=params.as_no_junction(0, "file name must not be code");          const String& lfile_name=params.as_string(0, FILE_NAME_MUST_NOT_BE_CODE);
   
         const String& lfile_name=vfile_name.as_string();          uint64_t size;
   
         size_t size;  
         time_t atime, mtime, ctime;          time_t atime, mtime, ctime;
         file_stat(r.absolute(lfile_name),          file_stat(r.absolute(lfile_name), size, atime, mtime, ctime);
                 size,  
                 atime, mtime, ctime);  
                   
         VFile& self=GET_SELF(r, VFile);          VFile& self=GET_SELF(r, VFile);
         self.set(true/*tainted*/, 0/*no bytes*/, size);  
           self.set_binary(true/*tainted*/, 0 /*no bytes*/, 0 /*fake size*/, &lfile_name, 0, &r);
         HashStringValue& ff=self.fields();          HashStringValue& ff=self.fields();
         ff.put(adate_name, new VDate(atime));          ff.put(size_name, new VDouble((double)size) /*real size*/);
         ff.put(mdate_name, new VDate(mtime));          ff.put(adate_name, new VDate((pa_time_t)atime));
         ff.put(cdate_name, new VDate(ctime));          ff.put(mdate_name, new VDate((pa_time_t)mtime));
         ff.put(content_type_name, new VString(r.mime_type_of(lfile_name.cstr(String::L_FILE_SPEC))));          ff.put(cdate_name, new VDate((pa_time_t)ctime));
 }  }
   
 static bool is_safe_env_key(const char* key) {  static bool is_safe_env_key(const char* key) {
         for(const char* validator=key; *validator; validator++) {          for(const char* validator=key; *validator; validator++) {
                 char c=*validator;                  char c=*validator;
                 if(!(c>='A' && c<='Z' || c>='0' && c<='9' || c=='_' || c=='-'))                  if(!( (c>='A' && c<='Z') || (c>='0' && c<='9') || (c=='_' || c=='-') ))
                         return false;                          return false;
         }          }
   #ifdef PA_SAFE_MODE
         if(strncasecmp(key, "HTTP_", 5)==0)          if(strncasecmp(key, "HTTP_", 5)==0)
                 return true;                  return true;
         if(strncasecmp(key, "CGI_", 4)==0)          if(strncasecmp(key, "CGI_", 4)==0)
Line 239  static bool is_safe_env_key(const char* Line 416  static bool is_safe_env_key(const char*
                         return true;                          return true;
         }          }
         return false;          return false;
   #else
           return true;
   #endif
 }  }
 #ifndef DOXYGEN  #ifndef DOXYGEN
 struct Append_env_pair_info {  struct Append_env_pair_info {
           Request_charsets* charsets;
         HashStringString* env;          HashStringString* env;
         Value* vstdin;          Value* vstdin;
         Value* vcharset;  
 };  };
 #endif  #endif
 static void append_env_pair(  static void append_env_pair(
                             HashStringValue::key_type akey,                                   HashStringValue::key_type akey, 
                             HashStringValue::value_type avalue,                                   HashStringValue::value_type avalue, 
                             Append_env_pair_info *info) {                                  Append_env_pair_info *info) {
         if(akey==STDIN_EXEC_PARAM_NAME) {          if(akey==STDIN_EXEC_PARAM_NAME) {
                 info->vstdin=avalue;                  info->vstdin=avalue;
         } else if(akey==CHARSET_EXEC_PARAM_NAME) {          } else if(akey==CHARSET_EXEC_PARAM_NAME) {
                 info->vcharset=avalue;                  // ignore, already processed
         } else {          } else {
                 if(!is_safe_env_key(akey.cstr()))                  if(!is_safe_env_key(akey.cstr()))
                         throw Exception("parser.runtime",                          throw Exception(PARSER_RUNTIME,
                                 new String(akey, String::L_TAINTED),                                  new String(akey, String::L_TAINTED),
                                 "not safe environment variable");                                  "not safe environment variable");
                 info->env->put(akey, avalue->as_string().cstr_to_string_body(String::L_UNSPECIFIED));                  info->env->put(akey, avalue->as_string().cstr_to_string_body_untaint(String::L_AS_IS, 0, info->charsets));
         }          }
 }  }
 #ifndef DOXYGEN  #ifndef DOXYGEN
Line 271  struct Pass_cgi_header_attribute_info { Line 451  struct Pass_cgi_header_attribute_info {
 };  };
 #endif  #endif
 static void pass_cgi_header_attribute(  static void pass_cgi_header_attribute(
                                       ArrayString::element_type astring,                                           ArrayString::element_type astring, 
                                       Pass_cgi_header_attribute_info* info) {                                          Pass_cgi_header_attribute_info* info) {
         size_t colon_pos=astring->pos(':');          size_t colon_pos=astring->pos(':');
         if(colon_pos!=STRING_NOT_FOUND) {          if(colon_pos!=STRING_NOT_FOUND) {
                 const String& key=astring->mid(0, colon_pos).change_case(                  const String& key=astring->mid(0, colon_pos).change_case(
                         *info->charset, String::CC_UPPER);                          *info->charset, String::CC_UPPER);
                 Value* value=new VString(astring->mid(colon_pos+1, astring->length()).trim());                  Value* value=new VString(astring->mid(colon_pos+1, astring->length()).trim());
                 info->fields->put(key, value);                  info->fields->put(key, value);
                 if(key=="CONTENT-TYPE")                  if(key==HTTP_CONTENT_TYPE_UPPER)
                         info->content_type=value;                          info->content_type=value;
         }          }
 }  }
   
   static void append_to_argv(Request& r, ArrayString& argv, const String* str){
           if(!str->is_empty())
                   argv+=new String(str->cstr_to_string_body_untaint(String::L_AS_IS, r.connection(false), &r.charsets), String::L_AS_IS);
   }
   
 /// @todo fix `` in perl - they produced flipping consoles and no output to perl  /// @todo fix `` in perl - they produced flipping consoles and no output to perl
 static void _exec_cgi(Request& r, MethodParams& params,  static void _exec_cgi(Request& r, MethodParams& params, bool cgi) {
                                           bool cgi) {          bool is_text=true;
           size_t param_index=0;
           const String& mode=params.as_string(0, FIRST_ARG_MUST_NOT_BE_CODE);
           if(VFile::is_valid_mode(mode)) {
                   is_text=VFile::is_text_mode(mode);
                   param_index++;
           }
   
         Value& vfile_name=params.as_no_junction(0, "file name must not be code");          if(param_index>=params.count())
                   throw Exception(PARSER_RUNTIME, 0, FILE_NAME_MUST_BE_SPECIFIED);
   
         const String& script_name=r.absolute(vfile_name.as_string());          const String& script_name=r.absolute(params.as_string(param_index++, FILE_NAME_MUST_NOT_BE_CODE));
   
         HashStringString env;          HashStringString env;
         #define ECSTR(name, value_cstr) \          #define ECSTR(name, value_cstr) if(value_cstr) env.put(#name, value_cstr);
                 if(value_cstr) \          // passing environment
                         env.put( \          for(SAPI::Env::Iterator i(r.sapi_info); i; i.next() )
                                 String::Body(#name), \                  env.put(i.key(), i.value() );
                                 String::Body(value_cstr, 0)); \  
         // passing SAPI::environment  
         if(const char *const *pairs=SAPI::environment(r.sapi_info)) {  
                 while(const char* pair=*pairs++)  
                         if(const char* eq_at=strchr(pair, '='))  
                                 if(eq_at[1]) // has value  
                                         env.put(  
                                                 pa_strdup(pair, eq_at-pair),  
                                                 pa_strdup(eq_at+1, 0));  
         }  
   
         // const          // const
         ECSTR(GATEWAY_INTERFACE, "CGI/1.1");          ECSTR(GATEWAY_INTERFACE, "CGI/1.1");
           ECSTR(PARSER_VERSION, PARSER_VERSION);
         // from Request.info          // from Request.info
         ECSTR(DOCUMENT_ROOT, r.request_info.document_root);          ECSTR(DOCUMENT_ROOT, r.request_info.document_root);
         ECSTR(PATH_TRANSLATED, r.request_info.path_translated);          ECSTR(PATH_TRANSLATED, r.request_info.path_translated);
Line 316  static void _exec_cgi(Request& r, Method Line 500  static void _exec_cgi(Request& r, Method
         ECSTR(QUERY_STRING, r.request_info.query_string);          ECSTR(QUERY_STRING, r.request_info.query_string);
         ECSTR(REQUEST_URI, r.request_info.uri);          ECSTR(REQUEST_URI, r.request_info.uri);
         ECSTR(CONTENT_TYPE, r.request_info.content_type);          ECSTR(CONTENT_TYPE, r.request_info.content_type);
         char content_length_cstr[MAX_NUMBER];            ECSTR(CONTENT_LENGTH, format(r.request_info.content_length, "%u"));
         snprintf(content_length_cstr, MAX_NUMBER, "%u", r.request_info.content_length);  
         //String content_length(content_length_cstr);  
         ECSTR(CONTENT_LENGTH, content_length_cstr);  
         // SCRIPT_*          // SCRIPT_*
         env.put(String::Body("SCRIPT_NAME"), script_name);          env.put("SCRIPT_NAME", script_name);
         //env.put(String::Body("SCRIPT_FILENAME"), ??&script_name);  
   
         bool stdin_specified=false;  
         // environment & stdin from param          // environment & stdin from param
         String *in=new String();          bool in_is_text_mode=true;
           String::C in;
         Charset *charset=0; // default script works raw_in 'source' charset = no transcoding needed          Charset *charset=0; // default script works raw_in 'source' charset = no transcoding needed
         if(params.count()>1) {          if(param_index < params.count()) {
                 Value& venv=params.as_no_junction(1, "env must not be code");                  if(HashStringValue* user_env=params.as_hash(param_index++, "env")) {
                 if(HashStringValue* user_env=venv.get_hash()) {                          // $.charset  [previewing to handle URI pieces]
                         Append_env_pair_info info={&env, 0, 0};                          if(Value* vcharset=user_env->get(CHARSET_EXEC_PARAM_NAME))
                         user_env->for_each(append_env_pair, &info);                                  charset=&pa_charsets.get(vcharset->as_string());
   
                           // $.others
                           Append_env_pair_info info={&r.charsets, &env, 0};
                           {
                                   // influence tainting
                                   // main target -- $.QUERY_STRING -- URLencoding of tainted pieces to String::L_URI lang
                                   Temp_client_charset temp(r.charsets, charset? *charset: r.charsets.source());
                                   user_env->for_each<Append_env_pair_info*>(append_env_pair, &info);
                           }
                         // $.stdin                          // $.stdin
                         if(info.vstdin) {                          if(info.vstdin) {
                                 stdin_specified=true;  
                                 if(const String* sstdin=info.vstdin->get_string()) {                                  if(const String* sstdin=info.vstdin->get_string()) {
                                         in->append(*sstdin, String::L_CLEAN, true);                                          // untaint stdin
                                           in = String::C(sstdin->cstr_to_string_body_untaint(String::L_AS_IS, r.connection(false), &r.charsets));
                                 } else                                  } else
                                         if(VFile* vfile=static_cast<VFile *>(info.vstdin->as("file", false)))                                          if(VFile* vfile=static_cast<VFile *>(info.vstdin->as("file"))){
                                                 in->append_know_length((const char* )vfile->value_ptr(), vfile->value_size(), String::L_TAINTED);                                                  in = String::C((const char* )vfile->value_ptr(), vfile->value_size());
                                         else                                                  in_is_text_mode = vfile->is_text_mode();
                                                 throw Exception("parser.runtime",                                          } else
                                                         0,                                                  throw Exception(PARSER_RUNTIME, 0, STDIN_EXEC_PARAM_NAME " parameter must be string or file");
                                                         STDIN_EXEC_PARAM_NAME " parameter must be string or file");                          }
                         }  
                         // $.charset  
                         if(info.vcharset)  
                                 charset=&charsets.get(info.vcharset->as_string()  
                                         .change_case(r.charsets.source(), String::CC_UPPER));  
                 }                  }
         }          }
   
         // argv from params          // argv from params
         ArrayString argv;          ArrayString argv;
         if(params.count()>2) {          if(param_index < params.count()) {
                 for(size_t i=2; i<params.count(); i++)                  // influence tainting 
                         argv+=&params.as_string(i, "parameter must be string");                  Temp_client_charset temp(r.charsets, charset? *charset: r.charsets.source());
   
                   for(size_t i=param_index; i<params.count(); i++) {
                           Value& param=params.as_no_junction(i, PARAM_MUST_NOT_BE_CODE);
                           if(param.is_defined()){
                                   if(param.is_string()){
                                           append_to_argv(r, argv, param.get_string());
                                   } else {
                                           Table* table=param.get_table();
                                           if(table){
                                                   for(size_t j=0; j<table->count(); j++)
                                                           append_to_argv(r, argv, table->get(j)->get(0));
                                           } else {
                                                   throw Exception(PARSER_RUNTIME, 0, "param must be string or table");
                                           }
                                   }
                           }
                   }
         }          }
   
         // transcode if necessary          // transcode if necessary
         if(charset) {          if(charset) {
                 Charset::transcode(env, r.charsets.source(), *charset);                  Charset::transcode(env, r.charsets.source(), *charset);
                 Charset::transcode(argv, r.charsets.source(), *charset);                  Charset::transcode(argv, r.charsets.source(), *charset);
                 in=&Charset::transcode(*in, r.charsets.source(), *charset);                  if(in_is_text_mode)
                           in=Charset::transcode(in, r.charsets.source(), *charset);
         }          }
         // @todo           // @todo 
         // ifdef WIN32 do  OEM->ANSI transcode on some(.cmd?) programs to           // ifdef WIN32 do  OEM->ANSI transcode on some(.cmd?) programs to 
         // match silent conversion in OS          // match silent conversion in OS
   
         // exec!          // exec!
         PA_exec_result execution=          PA_exec_result execution=pa_exec(false/*forced_allow*/, script_name, &env, argv, in);
                 pa_exec(false/*forced_allow*/, script_name, &env, argv, *in);  
   
         String *real_out=&execution.out;          File_read_result *file_out=&execution.out;
         String *real_err=&execution.err;          String *real_err=&execution.err;
         // transcode if necessary  
         if(charset) {          // transcode err if necessary (@todo: need fix line breaks in err as well )
                 real_out=&Charset::transcode(*real_out, *charset, r.charsets.source());          if(charset)
                 real_err=&Charset::transcode(*real_err, *charset, r.charsets.source());                  real_err=&Charset::transcode(*real_err, *charset, r.charsets.source());
   
           if(file_out->length && is_text){
                   fix_line_breaks(file_out->str, file_out->length);
                   // treat output as string
                   String *real_out = new String(file_out->str);
   
                   // transcode out if necessary
                   if(charset)
                           real_out=&Charset::transcode(*real_out, *charset, r.charsets.source());
   
                   // FIXME: unsafe cast
                   file_out->str=const_cast<char *>(real_out->cstr()); // hacking a little
                   file_out->length = real_out->length();
         }          }
   
         VFile& self=GET_SELF(r, VFile);          VFile& self=GET_SELF(r, VFile);
   
         const String* body=real_out; // ^file:exec          if(cgi) { // ^file::cgi
         const char* eol_marker=0; size_t eol_marker_size;                  const char* eol_marker=0;
         const String* header=0;                  size_t eol_marker_size;
         if(cgi) { // ^file:cgi  
                 // construct with 'out' body and header                  // construct with 'out' body and header
                 size_t dos_pos=real_out->pos("\r\n\r\n", 4);                  size_t dos_pos=(file_out->length)?strpos(file_out->str, "\r\n\r\n"):STRING_NOT_FOUND;
                 size_t unix_pos=real_out->pos("\n\n", 2);                  size_t unix_pos=(file_out->length)?strpos(file_out->str, "\n\n"):STRING_NOT_FOUND;
   
                 bool unix_header_break;                  bool unix_header_break;
                 switch((dos_pos!=STRING_NOT_FOUND?10:00) + (unix_pos!=STRING_NOT_FOUND?01:00)) {                  switch((dos_pos!=STRING_NOT_FOUND?10:00) + (unix_pos!=STRING_NOT_FOUND?01:00)) {
                 case 10: // dos                          case 10: // dos
                         unix_header_break=false;                                  unix_header_break=false;
                         break;                                  break;
                 case 01: // unix                          case 01: // unix
                         unix_header_break=true;                                  unix_header_break=true;
                         break;                                  break;
                 case 11: // dos & unix                          case 11: // dos & unix
                         unix_header_break=unix_pos<dos_pos;                                  unix_header_break=unix_pos<dos_pos;
                         break;                                  break;
                 default: // 00                          default: // 00
                         unix_header_break=false; // calm down, compiler                                  unix_header_break=false; // calm down, compiler
                         throw Exception(0,                                  throw Exception("file.execute",
                                 0,                                          0,
                                 "output does not contain CGI header; "                                          "output does not contain CGI header; "
                                 "exit status=%d; stdoutsize=%u; stdout: \"%s\"; stderrsize=%u; stderr: \"%s\"",                                           "exit status=%d; stdoutsize=%u; stdout: \"%s\"; stderrsize=%u; stderr: \"%s\"", 
                                         execution.status,                                                   execution.status, 
                                         (uint)real_out->length(), real_out->cstr(),                                                  file_out->length, (file_out->length) ? (file_out->str) : "",
                                         (uint)real_err->length(), real_err->cstr());                                                  real_err->length(), real_err->cstr());
                         break; //never reached                                  break; //never reached
                 }                  }
   
                 int header_break_pos;                  size_t header_break_pos;
                 if(unix_header_break) {                  if(unix_header_break) {
                         header_break_pos=unix_pos;                          header_break_pos=unix_pos;
                         eol_marker="\n"; eol_marker_size=1;                          eol_marker="\n";
                           eol_marker_size=1;
                 } else {                  } else {
                         header_break_pos=dos_pos;                          header_break_pos=dos_pos;
                         eol_marker="\r\n"; eol_marker_size=2;                          eol_marker="\r\n";
                           eol_marker_size=2;
                 }                  }
   
                 header=&real_out->mid(0, header_break_pos);                  file_out->str[header_break_pos] = 0;
                 body=&real_out->mid(header_break_pos+eol_marker_size*2, real_out->length());                  String *header=new String(file_out->str);
         }                  unsigned long headersize = header_break_pos+eol_marker_size*2;
         // body                  file_out->str += headersize;
         self.set(false/*not tainted*/, body->cstr(), body->length());                  file_out->length -= headersize;
   
         // $fields << header                  // $body
         if(header && eol_marker) {                  self.set(false/*not tainted*/, is_text, file_out->str, file_out->length);
                 ArrayString rows;  
                 size_t pos_after=0;                  // $fields << header
                 header->split(rows, pos_after, eol_marker);                  if(header) {
                 Pass_cgi_header_attribute_info info={0, 0, 0};                          ArrayString rows;
                 info.charset=&r.charsets.source();                          header->split(rows, 0, eol_marker);
                 info.fields=&self.fields();                          Pass_cgi_header_attribute_info info={0, 0, 0};
                 rows.for_each(pass_cgi_header_attribute, &info);                          info.charset=&r.charsets.source();
                 if(info.content_type)                          info.fields=&self.fields();
                         self.fields().put(content_type_name, info.content_type);                          rows.for_each(pass_cgi_header_attribute, &info);
                           if(info.content_type)
                                   self.fields().put(content_type_name, info.content_type);
                   }
           } else { // ^file::exec
                   // $body
                   self.set(false/*not tainted*/, is_text, file_out->str ? file_out->str : pa_strdup("") /*to distinguish from stat-ed file*/, file_out->length);
         }          }
   
         // $status          // $status
         self.fields().put(file_status_name, new VInt(execution.status));          self.fields().put(file_status_name, new VInt(execution.status));
                   
         // $stderr          // $stderr
         if(real_err->length())          if(!real_err->is_empty())
                 self.fields().put(                  self.fields().put("stderr", new VString(*real_err));
                         String::Body("stderr"),  
                         new VString(*real_err));  
 }  }
 static void _exec(Request& r, MethodParams& params) {  static void _exec(Request& r, MethodParams& params) {
         _exec_cgi(r, params, false);          _exec_cgi(r, params, false);
Line 462  static void _cgi(Request& r, MethodParam Line 682  static void _cgi(Request& r, MethodParam
 static void _list(Request& r, MethodParams& params) {  static void _list(Request& r, MethodParams& params) {
         Value& relative_path=params.as_no_junction(0, "path must not be code");          Value& relative_path=params.as_no_junction(0, "path must not be code");
   
         const String* regexp;          bool stat=false;
         pcre *regexp_code;          VRegex* vregex=0;
         const int ovecsize=(1/*match*/)*3;          VRegexCleaner vrcleaner;
         int ovector[ovecsize];  
         if(params.count()>1) {          if(params.count()>1){
                 regexp=&params.as_no_junction(1, "regexp must not be code").as_string();                  Value& voption=params.as_no_junction(1, "option must not be code");
                   if(voption.is_defined()) {
                 const char* pattern=regexp->cstr();                          Value* vfilter=0;
                 const char* errptr;                          if(HashStringValue* options=voption.get_hash()) {
                 int erroffset;                                  int valid_options=0;
                 regexp_code=pcre_compile(pattern, PCRE_EXTRA | PCRE_DOTALL,                                   if(Value* vstat=options->get("stat")) {
                         &errptr, &erroffset,                                           stat=r.process(*vstat).as_bool();
                         r.charsets.source().pcre_tables);                                          valid_options++;
                                   }
                 if(!regexp_code)                                  if(Value* value=options->get("filter")) {
                         throw Exception(0,                                           vfilter=value;
                                 &regexp->mid(erroffset, regexp->length()),                                           valid_options++;
                                 "regular expression syntax error - %s", errptr);                                  }
         } else {                                  if(valid_options!=options->count())
                 regexp=0; // not used, just to calm down compiler                                          throw Exception(PARSER_RUNTIME, 0, CALLED_WITH_INVALID_OPTION);
                 regexp_code=0;                          } else {
                                   vfilter=&voption;
                           }
                           if(vfilter) {
                                   if(Value* value=vfilter->as(VREGEX_TYPE)) {
                                           vregex=static_cast<VRegex*>(value);
                                   } else if(vfilter->is_string()) {
                                           if(!vfilter->get_string()->trim().is_empty()) {
                                                   vregex=new VRegex(r.charsets.source(), &vfilter->as_string(), 0/*options*/);
                                                   vregex->study();
                                                   vrcleaner.vregex=vregex;
                                           }
                                   } else {
                                           throw Exception(PARSER_RUNTIME, 0, "filter must be regex or string");
                                   }
                           }
                   }
         }          }
   
           const char* absolute_path_cstr=r.absolute(relative_path.as_string()).taint_cstr(String::L_FILE_SPEC);
   
         const char* absolute_path_cstr=r.absolute(relative_path.as_string()).cstr(String::L_FILE_SPEC);          Table::Action_options table_options;
           Table& table=*new Table(file_list_table_template, table_options);
   
         Table::columns_type columns(new ArrayString);          const int ovector_size=(1/*match*/)*3;
         *columns+=new String("name");          int ovector[ovector_size];
         Table& table=*new Table(columns);  
   
         LOAD_DIR(absolute_path_cstr,           LOAD_DIR(absolute_path_cstr, 
                 const char* file_name_cstr=ffblk.ff_name;                  const char* file_name_cstr=ffblk.name();
                 size_t file_name_size=strlen(file_name_cstr);                  size_t file_name_size=strlen(file_name_cstr);
                 bool suits=true;  
                 if(regexp_code) {  
                         int exec_result=pcre_exec(regexp_code, 0,   
                                 ffblk.ff_name, file_name_size, 0,   
                                 0, ovector, ovecsize);  
                           
                         if(exec_result==PCRE_ERROR_NOMATCH)  
                                 suits=false;  
                         else if(exec_result<0) {  
                                 (*pcre_free)(regexp_code);  
                                 throw Exception(0,   
                                         regexp,   
                                         "regular expression execute (%d)",   
                                                 exec_result);  
                         }  
                 }  
   
                 if(suits) {                  if(!vregex || vregex->exec(file_name_cstr, file_name_size, ovector, ovector_size)>=0) {
                         Table::element_type row(new ArrayString);                          Table::element_type row(new ArrayString);
                         *row+=new String(pa_strdup(file_name_cstr, file_name_size), file_name_size, true);                          *row+=new String(pa_strdup(file_name_cstr, file_name_size), String::L_TAINTED);
                           *row+=new String(String::Body::Format(ffblk.is_dir(stat) ? 1 : 0), String::L_CLEAN);
                           if(stat) {
                                   *row+=VDouble(ffblk.size()).get_string();
                                   *row+=new String(String::Body::Format((int)ffblk.c_timestamp()), String::L_CLEAN);
                                   *row+=new String(String::Body::Format((int)ffblk.m_timestamp()), String::L_CLEAN);
                                   *row+=new String(String::Body::Format((int)ffblk.a_timestamp()), String::L_CLEAN);
                           }
                         table+=row;                          table+=row;
                 }                  }
         );          );
   
         if(regexp_code)  
                 pcre_free(regexp_code);  
   
         // write out result          // write out result
         r.write_no_lang(*new VTable(&table));          r.write(*new VTable(&table));
 }  }
   
 #ifndef DOXYGEN  #ifndef DOXYGEN
Line 532  struct Lock_execute_body_info { Line 757  struct Lock_execute_body_info {
         Value* body_code;          Value* body_code;
 };  };
 #endif  #endif
   
 static void lock_execute_body(int , void *ainfo) {  static void lock_execute_body(int , void *ainfo) {
         Lock_execute_body_info& info=*static_cast<Lock_execute_body_info *>(ainfo);          Lock_execute_body_info& info=*static_cast<Lock_execute_body_info *>(ainfo);
         // execute body          // execute body
         info.r->write_assign_lang(info.r->process(*info.body_code));          info.r->write(info.r->process(*info.body_code));
 };  }
   
 static void _lock(Request& r, MethodParams& params) {  static void _lock(Request& r, MethodParams& params) {
         const String& file_spec=r.absolute(params.as_string(0, "file name must be string"));          const String& file_spec=r.absolute(params.as_string(0, FILE_NAME_MUST_BE_STRING));
         Lock_execute_body_info info={          Lock_execute_body_info info={
                 &r,                   &r, 
                 &params.as_junction(1, "body must be code")                  &params.as_junction(1, "body must be code")
         };          };
   
         file_write_action_under_lock(file_spec, "lock", lock_execute_body, &info);          file_write_action_under_lock(
                           file_spec,
                           "lock",
                           lock_execute_body,
                           &info);
 }  }
   
 static int lastposafter(const String& s, size_t after, const char* substr, size_t substr_size, bool beforelast=false) {  static size_t afterlastslash(const String& str) {
         size_t size=0; // just to calm down compiler          size_t pos=str.strrpbrk("/\\");
         if(beforelast)          return pos!=STRING_NOT_FOUND?pos+1:0;
                 size=s.length();  }
         size_t at;  
         while((at=s.pos(String::Body(substr, substr_size), after))!=STRING_NOT_FOUND) {  
                 size_t newafter=at+substr_size/*skip substr*/;  
                 if(beforelast && newafter==size)  
                         break;  
                 after=newafter;  
         }  
   
         return after;  static size_t afterlastslash(const String& str, size_t right) {
           size_t pos=str.strrpbrk("/\\", 0, right);
           return pos!=STRING_NOT_FOUND?pos+1:0;
 }  }
   
 static void _find(Request& r, MethodParams& params) {  static void _find(Request& r, MethodParams& params) {
         const String& file_name=params.as_no_junction(0, "file name must not be code").as_string();          const String& file_name=params.as_string(0, FILE_NAME_MUST_NOT_BE_CODE);
   
           Value* not_found_code=(params.count()==2)?&params.as_junction(1, "not-found param must be code"):0;
   
         const String* file_spec;          const String* file_spec;
         if(file_name.first_char()=='/')          if(file_name.first_char()=='/')
                 file_spec=&file_name;                  file_spec=&file_name;
Line 571  static void _find(Request& r, MethodPara Line 800  static void _find(Request& r, MethodPara
                 file_spec=&r.relative(r.request_info.uri, file_name);                  file_spec=&r.relative(r.request_info.uri, file_name);
   
         // easy way          // easy way
         if(file_readable(r.absolute(*file_spec))) {          if(file_exist(r.absolute(*file_spec))) {
                 r.write_assign_lang(*file_spec);                  r.write(*file_spec);
                 return;                  return;
         }          }
   
         // monkey way          // monkey way
         int after_base_slash=lastposafter(*file_spec, 0, "/", 1);          size_t last_slash=file_spec->strrpbrk("/\\");
         const String* dirname=&file_spec->mid(0, after_base_slash);          const String& dirname=file_spec->mid(0, last_slash!=STRING_NOT_FOUND?last_slash:0);
         const String& basename=file_spec->mid(after_base_slash, file_spec->length());          const String& basename=file_spec->mid(last_slash!=STRING_NOT_FOUND?last_slash+1:0, file_spec->length());
   
         int after_monkey_slash;          size_t rpos=dirname.is_empty()?0:dirname.length()-1;
         while((after_monkey_slash=lastposafter(*dirname, 0, "/", 1, true))>0) {          while((rpos=dirname.rskipchars("/\\", 0, rpos))!=STRING_NOT_FOUND){
                   size_t slash=dirname.strrpbrk("/\\", 0, rpos);
                   if(slash==STRING_NOT_FOUND)
                           break;
                 String test_name;                  String test_name;
                 test_name<<*(dirname=&dirname->mid(0, after_monkey_slash));                  test_name << dirname.mid(0, slash+1);
                 test_name<<basename;                  test_name << basename;
                 if(file_readable(r.absolute(test_name))) {                  if(file_exist(r.absolute(test_name))) {
                         r.write_assign_lang(test_name);                          r.write(test_name);
                         return;                          return;
                 }                  }
                   rpos=slash;
         }          }
   
         // no way, not found          // no way, not found
         if(params.count()==2) {          if(not_found_code)
                 Value& not_found_code=params.as_junction(1, "not-found param must be code");                  r.write(r.process(*not_found_code));
                 r.write_pass_lang(r.process(not_found_code));  
         }  
 }  }
   
 static void _dirname(Request& r, MethodParams& params) {  static void _dirname(Request& r, MethodParams& params) {
         const String& file_spec=params.as_string(0, "file name must be string");          const String& file_spec=params.as_string(0, FILE_NAME_MUST_BE_STRING);
     // /a/some.tar.gz > /a          // works as *nix dirname
         // /a/b/ > /a  
         int afterslash=lastposafter(file_spec, 0, "/", 1, true);          // empty   > .
         if(afterslash>0)          // /       > /
                 r.write_assign_lang(file_spec.mid(0, afterslash==1?1:afterslash-1));          // /a      > /
         else          // /a/     > /
                 r.write_assign_lang(String(".", 1));          // /a/some.tar.gz > /a
           // /a/b/   > /a
           // /a///b/ > /a
           // /a/b/// > /a
           // file    > .
   
           if(file_spec.is_empty()) {
                   r.write(String("."));
                   return;
           }
   
           size_t p;
           size_t slash;
           if((p=file_spec.rskipchars("/\\"))==STRING_NOT_FOUND)
                   r.write(String("/"));
           else {
                   if((slash=file_spec.strrpbrk("/\\", 0, p))!=STRING_NOT_FOUND) {
                           if((p=file_spec.rskipchars("/\\", 0, slash))==STRING_NOT_FOUND)
                                   p=slash;
                           r.write(file_spec.mid(0, p+1));
                           return;
                   }
                   r.write(String("."));
           }
 }  }
   
 static void _basename(Request& r, MethodParams& params) {  static void _basename(Request& r, MethodParams& params) {
         const String& file_spec=params.as_string(0, "file name must be string");          const String& file_spec=params.as_string(0, FILE_NAME_MUST_BE_STRING);
     // /a/some.tar.gz > some.tar.gz          // works as *nix basename
         int afterslash=lastposafter(file_spec, 0, "/", 1);  
         r.write_assign_lang(file_spec.mid(afterslash, file_spec.length()));          // empty   > .
           // /       > /
           // /a      > a
           // /a/     > a
           // /a/some.tar.gz > some.tar.gz
           // /a/b/   > b
           // /a///b/ > b
           // /a/b/// > b
           // file    > file
   
           if(file_spec.is_empty()) {
                   r.write(String("."));
                   return;
           }
   
           size_t p=file_spec.rskipchars("/\\");
           if(p==STRING_NOT_FOUND)
                   r.write(String("/"));
           else
                   r.write(file_spec.mid(afterlastslash(file_spec, p), p+1));
 }  }
   
 static void _justname(Request& r, MethodParams& params) {  static void _justname(Request& r, MethodParams& params) {
         const String& file_spec=params.as_string(0, "file name must be string");          const String& file_spec=params.as_string(0, FILE_NAME_MUST_BE_STRING);
     // /a/some.tar.gz > some.tar          // /a/some.tar.gz > some.tar
         int afterslash=lastposafter(file_spec, 0, "/", 1);          // /a/b.c/ > empty
         int afterdot=lastposafter(file_spec, afterslash, ".", 1);          // /a/b.c  > b
         r.write_assign_lang(file_spec.mid(afterslash, afterdot!=afterslash?afterdot-1:file_spec.length()));          size_t pos=afterlastslash(file_spec);
           size_t dotpos=file_spec.strrpbrk(".", pos);
           r.write(file_spec.mid(pos, dotpos!=STRING_NOT_FOUND?dotpos:file_spec.length()));
 }  }
   
 static void _justext(Request& r, MethodParams& params) {  static void _justext(Request& r, MethodParams& params) {
         const String& file_spec=params.as_string(0, "file name must be string");          const String& file_spec=params.as_string(0, FILE_NAME_MUST_BE_STRING);
     // /a/some.tar.gz > gz          // /a/some.tar.gz > gz
         int afterdot=lastposafter(file_spec, 0, ".", 1);          // /a/b.c/ > empty
         if(afterdot>0)          size_t pos=afterlastslash(file_spec);
                 r.write_assign_lang(file_spec.mid(afterdot, file_spec.length()));          size_t dotpos=file_spec.strrpbrk(".", pos);
           if(dotpos!=STRING_NOT_FOUND)
                   r.write(file_spec.mid(dotpos+1, file_spec.length()));
 }  }
   
 static void _fullpath(Request& r, MethodParams& params) {  static void _fullpath(Request& r, MethodParams& params) {
         const String& file_spec=params.as_string(0, "file name must be string");          const String& file_spec=params.as_string(0, FILE_NAME_MUST_BE_STRING);
         const String* result;          const String* result;
         if(file_spec.first_char()=='/')          if(file_spec.first_char()=='/')
                 result=&file_spec;                  result=&file_spec;
Line 649  static void _fullpath(Request& r, Method Line 927  static void _fullpath(Request& r, Method
                 }                  }
                 result=&full_disk_path.mid(document_root_length,  full_disk_path.length());                  result=&full_disk_path.mid(document_root_length,  full_disk_path.length());
         }          }
         r.write_assign_lang(*result);          r.write(*result);
 }  }
   
 static void _sql_string(Request& r, MethodParams&) {  static void _sql_string(Request& r, MethodParams&) {
         VFile& self=GET_SELF(r, VFile);          VFile& self=GET_SELF(r, VFile);
   
         const char *quoted=r.connection()->quote(self.value_ptr(), self.value_size());          const char *quoted=r.connection()->quote(self.value_ptr(), self.value_size());
         r.write_assign_lang(*new String(quoted));          r.write(*new String(quoted));
 }  }
   
 #ifndef DOXYGEN  #ifndef DOXYGEN
Line 679  public: Line 957  public:
   
         bool add_column(SQL_Error& error, const char* /*str*/, size_t /*length*/) {          bool add_column(SQL_Error& error, const char* /*str*/, size_t /*length*/) {
                 if(got_columns++==3) {                  if(got_columns++==3) {
                         error=SQL_Error("parser.runtime", "result must contain not more then 3 columns");                          error=SQL_Error(PARSER_RUNTIME, "result must contain not more then 3 columns");
                         return true;                          return true;
                 }                  }
                 return false;                  return false;
Line 694  public: Line 972  public:
                                         break;                                          break;
                                 case 1:                                  case 1:
                                         if(!user_file_name) // user not specified?                                          if(!user_file_name) // user not specified?
                                                 user_file_name=new String(str, length, true);                                                  user_file_name=new String(str, String::L_TAINTED);
                                         break;                                          break;
                                 case 2:                                  case 2:
                                         if(!user_content_type) // user not specified?                                          if(!user_content_type) // user not specified?
                                                 user_content_type=new String(str, length, true);                                                  user_content_type=new String(str, String::L_TAINTED);
                                         break;                                          break;
                                 default:                                  default:
                                         error=SQL_Error("parser.runtime", "result must not contain more then one row, three rows");                                          error=SQL_Error(PARSER_RUNTIME, "result must not contain more then one row, three columns");
                                         return true;                                          return true;
                         }                          }
                         return false;                          return false;
                 } catch(...) {                  } catch(...) {
                         error=SQL_Error("exception occured in File_sql_event_handlers::add_row_cell");                          error=SQL_Error("exception occurred in File_sql_event_handlers::add_row_cell");
                         return true;                          return true;
                 }                  }
         }          }
Line 715  public: Line 993  public:
 static void _sql(Request& r, MethodParams& params) {  static void _sql(Request& r, MethodParams& params) {
         Value& statement=params.as_junction(0, "statement must be code");          Value& statement=params.as_junction(0, "statement must be code");
   
         Temp_lang temp_lang(r, String::L_SQL);  
         const String& statement_string=r.process_to_string(statement);          const String& statement_string=r.process_to_string(statement);
         const char* statement_cstr=          const char* statement_cstr=statement_string.untaint_cstr(String::L_SQL, r.connection());
                 statement_string.cstr(String::L_UNSPECIFIED, r.connection());  
         File_sql_event_handlers handlers(statement_string, statement_cstr);          File_sql_event_handlers handlers(statement_string, statement_cstr);
   
           ulong limit=SQL_NO_LIMIT;
           ulong offset=0;
   
         if(params.count()>1)          if(params.count()>1)
                 if(HashStringValue* options=                  if(HashStringValue* options=params.as_hash(1, "sql options")) {
                         params.as_no_junction(1, "param must not be code").get_hash()) {  
                         int valid_options=0;                          int valid_options=0;
                         if(Value* vfilename=options->get(NAME_NAME)) {                          if(Value* vfilename=options->get(NAME_NAME)) {
                                 valid_options++;                                  valid_options++;
Line 733  static void _sql(Request& r, MethodParam Line 1012  static void _sql(Request& r, MethodParam
                                 valid_options++;                                  valid_options++;
                                 handlers.user_content_type=&vcontent_type->as_string();                                  handlers.user_content_type=&vcontent_type->as_string();
                         }                          }
                           if(Value* vlimit=options->get(sql_limit_name)) {
                                   valid_options++;
                                   limit=(ulong)r.process(*vlimit).as_double();
                           }
                           if(Value* voffset=options->get(sql_offset_name)) {
                                   valid_options++;
                                   offset=(ulong)r.process(*voffset).as_double();
                           }
                         if(valid_options!=options->count())                          if(valid_options!=options->count())
                                 throw Exception("parser.runtime",                                  throw Exception(PARSER_RUNTIME, 0, CALLED_WITH_INVALID_OPTION);
                                         0,  
                                         "called with invalid option");  
                 }                  }
   
   
         r.connection()->query(          r.connection()->query(
                 statement_cstr,                   statement_cstr, 
                 0, 0,                  0, 0,
                 0, 0,                   offset, limit,
                 handlers,                  handlers,
                 statement_string);                  statement_string);
   
         if(!handlers.value)          if(!handlers.value.str)
                 throw Exception("parser.runtime",                  throw Exception(PARSER_RUNTIME, 0, "produced no result");
                         0,  
                         "produced no result");  
   
         const char* user_file_name_cstr=handlers.user_file_name? handlers.user_file_name->cstr(): 0;  
   
         VString* vcontent_type=handlers.user_content_type?   
                 new VString(*handlers.user_content_type)  
                 : user_file_name_cstr?  
                         new VString(r.mime_type_of(user_file_name_cstr))  
                         : 0;  
         VFile& self=GET_SELF(r, VFile);          VFile& self=GET_SELF(r, VFile);
         self.set(true/*tainted*/, handlers.value.str, handlers.value.length, user_file_name_cstr, vcontent_type);  
           self.set_binary(true/*tainted*/, handlers.value.str, handlers.value.length, handlers.user_file_name
                                   , handlers.user_content_type ? new VString(*handlers.user_content_type) : 0
                                   , &r);
   }
   
   static void _base64(Request& r, MethodParams& params) {
           bool dynamic=!(&r.get_self() == file_class);
           if(dynamic) {
                   VFile& self=GET_SELF(r, VFile);
                   if(params.count()) {
                           // decode: 
                           //      ^file::base64[encoded] // backward
                           //      ^file::base64[mode;user-file-name;encoded[;$.content-type[...] $.strict(true|false)]]
                           bool is_text=false;
                           bool strict=false;
                           VString* vcontent_type=0;
                           const String* user_file_name=0;
                           size_t param_index=0;
   
                           if(params.count() > 1) {
                                   if(params.count() < 3)
                                           throw Exception(PARSER_RUNTIME,
                                                   0,
                                                   "constructor can not have less then 3 parameters (has %d parameters)",
                                                   params.count()); // actually it accepts 1 parameter (backward)
   
                                   is_text=VFile::is_text_mode(params.as_string(0, MODE_MUST_NOT_BE_CODE));
                                   user_file_name=&params.as_string(1, FILE_NAME_MUST_BE_STRING);
   
                                   if(params.count() == 4)
                                           if(HashStringValue* options=params.as_hash(3)) {
                                                   int valid_options=0;
                                                   if(Value* value=options->get(CONTENT_TYPE_NAME)) {
                                                           vcontent_type=new VString(value->as_string());
                                                           valid_options++;
                                                   }
                                                   if(Value* vstrict=options->get(BASE64_STRICT_OPTION_NAME)) {
                                                           strict=r.process(*vstrict).as_bool();
                                                           valid_options++;
                                                   }
                                                   if(valid_options!=options->count())
                                                           throw Exception(PARSER_RUNTIME, 0, CALLED_WITH_INVALID_OPTION);
                                           }
   
                                   param_index=2;
                           }
   
                           const char* encoded=params.as_string(param_index, PARAMETER_MUST_BE_STRING).cstr();
   
                           char* decoded=0;
                           size_t length=0;
                           pa_base64_decode(encoded, strlen(encoded), decoded, length, strict);
   
                           self.set(true/*tainted*/, is_text, decoded, length, user_file_name, vcontent_type, &r);
                   } else {
                           // encode: ^f.base64[]
                           const char* encoded=pa_base64_encode(self.value_ptr(), self.value_size());
                           r.write(*new String(encoded, String::L_TAINTED/*once ?param=base64(something) was needed**/));
                   }
           } else {
                   // encode: ^file:base64[filespec]
                   const String& file_spec=params.as_string(0, FILE_NAME_MUST_BE_STRING);
                   const char* encoded=pa_base64_encode(r.absolute(file_spec));
                   r.write(*new String(encoded, String::L_TAINTED/*once ?param=base64(something) was needed*/));
           }
 }  }
   
 // constructor  static void _crc32(Request& r, MethodParams& params) {
           unsigned long crc32 = 0;
           if(&r.get_self() == file_class) {
                   // ^file:crc32[file-name]
                   if(params.count()) {
                           const String& file_spec=params.as_string(0, FILE_NAME_MUST_BE_STRING);
                           crc32=pa_crc32(r.absolute(file_spec));
                   } else {
                           throw Exception(PARSER_RUNTIME, 0, FILE_NAME_MUST_BE_SPECIFIED);
                   }
           } else {
                   // ^file.crc32[]
                   VFile& self=GET_SELF(r, VFile);
                   crc32=pa_crc32(self.value_ptr(), self.value_size());
           }
           r.write(*new VInt(crc32));
   }
   
 MFile::MFile(): Methoded("file") {  
         // ^save[mode;file-name]  
         add_native_method("save", Method::CT_DYNAMIC, _save, 2, 2);  
   
         // ^delete[file-name]  static void file_md5_file_action(struct stat& finfo, int f, const String&, void *context)
         add_native_method("delete", Method::CT_STATIC, _delete, 1, 1);  {
           PA_MD5_CTX& md5context=*static_cast<PA_MD5_CTX *>(context);
           if(finfo.st_size) {
                   int nCount=0;
                   do {
                           unsigned char buffer[FILE_BUFFER_SIZE];
                           nCount = file_block_read(f, buffer, sizeof(buffer));
                           if ( nCount ){
                                   pa_MD5Update(&md5context, (const unsigned char*)buffer, nCount);
                           }
                   } while(nCount > 0);
           }
   }
   
         // ^move[from-file-name;to-file-name]  const char* pa_md5(const String& file_spec)
         add_native_method("move", Method::CT_STATIC, _move, 2, 2);  {
           PA_MD5_CTX context;
           unsigned char digest[16];
           pa_MD5Init(&context);
           file_read_action_under_lock(file_spec, "md5", file_md5_file_action, &context);
           pa_MD5Final(digest, &context);
           
           return hex_string(digest, sizeof(digest), false);
   }
   
         // ^load[mode;disk-name]  const char* pa_md5(const char *in, size_t in_size)
         // ^load[mode;disk-name;user-name]  {
         add_native_method("load", Method::CT_DYNAMIC, _load, 2, 3);          PA_MD5_CTX context;
           unsigned char digest[16];
           pa_MD5Init(&context);
           pa_MD5Update(&context, (const unsigned char*)in, in_size);
           pa_MD5Final(digest, &context);
           
           return hex_string(digest, sizeof(digest), false);
   }
   
         // ^stat[disk-name]  static void _md5(Request& r, MethodParams& params) {
           const char* md5;
           if(&r.get_self() == file_class) {
                   // ^file:md5[file-name]
                   if(params.count()) {
                           const String& file_spec=params.as_string(0, FILE_NAME_MUST_BE_STRING);
                           md5=pa_md5(r.absolute(file_spec));
                   } else {
                           throw Exception(PARSER_RUNTIME, 0, FILE_NAME_MUST_BE_SPECIFIED);
                   }
           } else {
                   // ^file.md5[]
                   VFile& self=GET_SELF(r, VFile);
                   md5=pa_md5(self.value_ptr(), self.value_size());
   
           }
           r.write(*new String(md5));
   }
   
   // constructor
   
   MFile::MFile(): Methoded("file") {
           // ^file::create[text|binary;file-name;string-or-file[;options hash]]
           // ^file::create[string-or-file[;options hash]]
           add_native_method("create", Method::CT_DYNAMIC, _create, 1, 4);
   
           // ^file.save[mode;file-name]
           // ^file.save[mode;file-name;$.charset[...]]
           add_native_method("save", Method::CT_DYNAMIC, _save, 2, 3);
   
           // ^file:delete[file-name]
           // ^file:delete[file-name;$.keep-empty-dir(true)$.exception(false)]
           add_native_method("delete", Method::CT_STATIC, _delete, 1, 2);
   
           // ^file:move[from-file-name;to-file-name]
           // ^file:move[from-file-name;to-file-name;$.keep-empty-dir(true)]
           add_native_method("move", Method::CT_STATIC, _move, 2, 3);
   
           // ^file::load[mode;disk-name]
           // ^file::load[mode;disk-name;user-name]
           // ^file::load[mode;disk-name;user-name;options hash]
           // ^file::load[mode;disk-name;options hash]
           add_native_method("load", Method::CT_DYNAMIC, _load, 2, 4);
   
           // ^file::stat[disk-name]
         add_native_method("stat", Method::CT_DYNAMIC, _stat, 1, 1);          add_native_method("stat", Method::CT_DYNAMIC, _stat, 1, 1);
   
         // ^cgi[file-name]          // ^file::cgi[mode;file-name]
         // ^cgi[file-name;env hash]          // ^file::cgi[mode;file-name;env hash]
         // ^cgi[file-name;env hash;1cmd;2line;3ar;4g;5s]          // ^file::cgi[mode;file-name;env hash;1cmd;2line;3ar;4g;5s]
         add_native_method("cgi", Method::CT_DYNAMIC, _cgi, 1, 2+50);          add_native_method("cgi", Method::CT_DYNAMIC, _cgi, 1, 3+50);
   
         // ^exec[file-name]          // ^file::exec[mode;file-name]
         // ^exec[file-name;env hash]          // ^file::exec[mode;file-name;env hash]
         // ^exec[file-name;env hash;1cmd;2line;3ar;4g;5s]          // ^file::exec[mode;file-name;env hash;1cmd;2line;3ar;4g;5s]
         add_native_method("exec", Method::CT_DYNAMIC, _exec, 1, 2+50);          add_native_method("exec", Method::CT_DYNAMIC, _exec, 1, 3+50);
   
         // ^file:list[path]          // ^file:list[path]
         // ^file:list[path][regexp]          // ^file:list[path][regexp]
           // ^file:list[path][$.filter[regexp] $.stat(true)]
         add_native_method("list", Method::CT_STATIC, _list, 1, 2);          add_native_method("list", Method::CT_STATIC, _list, 1, 2);
   
         // ^file:lock[path]{code}          // ^file:lock[path]{code}
         add_native_method("lock", Method::CT_STATIC, _lock, 2, 2);          add_native_method("lock", Method::CT_STATIC, _lock, 2, 2);
   
         // ^find[file-name]          // ^file:find[file-name]
         // ^find[file-name]{when-not-found}          // ^file:find[file-name]{when-not-found}
         add_native_method("find", Method::CT_STATIC, _find, 1, 2);          add_native_method("find", Method::CT_STATIC, _find, 1, 2);
   
     // ^file:dirname[/a/some.tar.gz]=/a          // ^file:dirname[/a/some.tar.gz]=/a
         // ^file:dirname[/a/b/]=/a          // ^file:dirname[/a/b/]=/a
         add_native_method("dirname", Method::CT_STATIC, _dirname, 1, 1);          add_native_method("dirname", Method::CT_STATIC, _dirname, 1, 1);
     // ^file:basename[/a/some.tar.gz]=some.tar.gz          // ^file:basename[/a/some.tar.gz]=some.tar.gz
     add_native_method("basename", Method::CT_STATIC, _basename, 1, 1);          add_native_method("basename", Method::CT_STATIC, _basename, 1, 1);
     // ^file:justname[/a/some.tar.gz]=some.tar          // ^file:justname[/a/some.tar.gz]=some.tar
         add_native_method("justname", Method::CT_STATIC, _justname, 1, 1);          add_native_method("justname", Method::CT_STATIC, _justname, 1, 1);
     // ^file:justext[/a/some.tar.gz]=gz          // ^file:justext[/a/some.tar.gz]=gz
         add_native_method("justext", Method::CT_STATIC, _justext, 1, 1);          add_native_method("justext", Method::CT_STATIC, _justext, 1, 1);
     // /some/page.html: ^file:fullpath[a.gif] => /some/a.gif          // /some/page.html: ^file:fullpath[a.gif] => /some/a.gif
         add_native_method("fullpath", Method::CT_STATIC, _fullpath, 1, 1);          add_native_method("fullpath", Method::CT_STATIC, _fullpath, 1, 1);
   
     // ^file.sql-string[]          // ^file.sql-string[]
         add_native_method("sql-string", Method::CT_DYNAMIC, _sql_string, 0, 0);          add_native_method("sql-string", Method::CT_DYNAMIC, _sql_string, 0, 0);
   
     // ^file::sql[[alt_name]]{}          // ^file::sql{}
           // ^file::sql{}[options hash]
         add_native_method("sql", Method::CT_DYNAMIC, _sql, 1, 2);          add_native_method("sql", Method::CT_DYNAMIC, _sql, 1, 2);
   
           // encode:
           //   ^file.base64[]
           //   ^file:base64[file-name]
           // decode:
           //   ^file::base64[encoded] // backward
           //   ^file::base64[mode;user-file-name;encoded]
           //   ^file::base64[mode;user-file-name;encoded;$.content-type[...]]
           add_native_method("base64", Method::CT_ANY, _base64, 0, 4);
   
           // ^file.crc32[]
           // ^file:crc32[file-name]
           add_native_method("crc32", Method::CT_ANY, _crc32, 0, 1);
   
           // ^file.md5[]
           // ^file:md5[file-name]
           add_native_method("md5", Method::CT_ANY, _md5, 0, 1);
   
           // ^file:copy[from-file-name;to-file-name]
           add_native_method("copy", Method::CT_STATIC, _copy, 2, 2);
 }  }

Removed from v.1.136  
changed lines
  Added in v.1.263


E-mail: