Diff for /parser3/src/classes/string.C between versions 1.201 and 1.243

version 1.201, 2012/01/08 05:58:27 version 1.243, 2019/11/20 20:48:25
Line 1 Line 1
 /** @file  /** @file
         Parser: @b string parser class.          Parser: @b string parser class.
   
         Copyright (c) 2001-2009 ArtLebedev Group (http://www.artlebedev.com)          Copyright (c) 2001-2017 Art. Lebedev Studio (http://www.artlebedev.com)
         Author: Alexandr Petrosian <paf@design.ru> (http://paf.design.ru)          Author: Alexandr Petrosian <paf@design.ru> (http://paf.design.ru)
 */  */
   
 static const char * const IDENT_STRING_C="$Date$";  
   
 #include "classes.h"  #include "classes.h"
 #include "pa_vmethod_frame.h"  #include "pa_vmethod_frame.h"
   #include "pa_base64.h"
   
 #include "pa_request.h"  #include "pa_request.h"
 #include "pa_vdouble.h"  #include "pa_vdouble.h"
Line 22  static const char * const IDENT_STRING_C Line 21  static const char * const IDENT_STRING_C
 #include "pa_vregex.h"  #include "pa_vregex.h"
 #include "pa_charsets.h"  #include "pa_charsets.h"
   
   volatile const char * IDENT_STRING_C="$Id$";
   
 // class  // class
   
 class MString: public Methoded {  class MString: public Methoded {
Line 31  public: Line 32  public:
   
 // global variable  // global variable
   
 DECLARE_CLASS_VAR(string, new MString, 0);  DECLARE_CLASS_VAR(string, new MString);
   
 // void class, inherited from string and thus should be inited afterwards  // void class, inherited from string and thus should be inited afterwards
   
Line 42  public: Line 43  public:
   
 // void global variable should be after string global variable  // void global variable should be after string global variable
   
 DECLARE_CLASS_VAR(void, new MVoid, 0);  DECLARE_CLASS_VAR(void, new MVoid);
   
 // defines for statics  // defines for statics
   
Line 53  DECLARE_CLASS_VAR(void, new MVoid, 0); Line 54  DECLARE_CLASS_VAR(void, new MVoid, 0);
   
 #define MODE_APPEND "append"  #define MODE_APPEND "append"
   
   #define UNESCAPE_MODE_JS "js"
   #define UNESCAPE_MODE_URI "uri"
   
 // statics  // statics
   
 static const String match_var_name(MATCH_VAR_NAME);  static const String match_var_name(MATCH_VAR_NAME);
Line 61  static const String match_var_name(MATCH Line 65  static const String match_var_name(MATCH
   
 static void _length(Request& r, MethodParams&) {  static void _length(Request& r, MethodParams&) {
         double result=GET_SELF(r, VString).string().length(r.charsets.source());          double result=GET_SELF(r, VString).string().length(r.charsets.source());
         r.write_no_lang(*new VDouble(result));          r.write(*new VDouble(result));
 }  }
   
 static void _int(Request& r, MethodParams& params) {  static void _int(Request& r, MethodParams& params) {
         const String& self_string=GET_SELF(r, VString).string();          const String& self_string=GET_SELF(r, VString).string();
         int converted;          int converted;
         try {  
                 if(self_string.is_empty())          if(self_string.is_empty()) {
                         throw Exception(PARSER_RUNTIME,  
                                 0,  
                                 "unable to convert empty string without default specified");  
                 converted=self_string.as_int();  
         } catch(...) { // convert problem  
                 if(params.count()>0)                  if(params.count()>0)
                         converted=params.as_int(0, "default must be int", r); // (default)                          converted=params.as_int(0, "default must be int", r); // (default)
                 else                  else
                         rethrow; // we have a problem when no default                                             throw Exception(PARSER_RUNTIME, 0, "unable to convert empty string without default specified");
           } else {
                   try {
                           converted=self_string.as_int();
                   } catch(...) { // convert problem
                           if(params.count()>0)
                                   converted=params.as_int(0, "default must be int", r); // (default)
                           else
                                   rethrow; // we have a problem when no default
                   }
         }          }
         r.write_no_lang(*new VInt(converted));  
           r.write(*new VInt(converted));
 }  }
   
 static void _double(Request& r, MethodParams& params) {  static void _double(Request& r, MethodParams& params) {
         const String& self_string=GET_SELF(r, VString).string();          const String& self_string=GET_SELF(r, VString).string();
         double converted;  
         try {          if(self_string.is_empty()) {
                 if(self_string.is_empty())  
                         throw Exception(PARSER_RUNTIME,  
                                 0,  
                                 "unable to convert empty string without default specified");  
                 converted=self_string.as_double();  
         } catch(...) { // convert problem  
                 if(params.count()>0)                  if(params.count()>0)
                         converted=params.as_double(0, "default must be double", r); // (default)                          r.write(*new VDouble(params.as_double(0, "default must be double", r))); // (default)
                 else                  else
                         rethrow; // we have a problem when no default                          throw Exception(PARSER_RUNTIME, 0, "unable to convert empty string without default specified");
           } else {
                   try {
                           r.write(*new VDouble(self_string.as_double()));
                   } catch(...) { // convert problem
                           if(params.count()>0)
                                   r.write(*new VDouble(params.as_double(0, "default must be double", r))); // (default)
                           else
                                   rethrow; // we have a problem when no default
                   }
         }          }
   
         r.write_no_lang(*new VDouble(converted));  
 }  }
   
 static void _bool(Request& r, MethodParams& params) {  static void _bool(Request& r, MethodParams& params) {
         const String& self_string=GET_SELF(r, VString).string();          const String& self_string=GET_SELF(r, VString).string();
         bool converted;          bool converted;
         try {          const char *str=self_string.cstr();
                 if(self_string.is_empty())  
                         throw Exception(PARSER_RUNTIME,          if(self_string.is_empty()) {
                                 0,  
                                 "unable to convert empty string without default specified");  
                   
                 try {  
                         converted=self_string.as_bool();  
                 } catch(...) {  
                         const String& lower_string=self_string.change_case(r.charsets.source(), String::CC_LOWER);  
                         if(lower_string == "true"){  
                                 converted=true;  
                         } else if (lower_string == "false"){  
                                 converted=false;  
                         } else {  
                                 rethrow;  
                         }  
                 }  
         } catch(...) { // convert problem  
                 if(params.count()>0)                  if(params.count()>0)
                         converted=params.as_bool(0, "default must be bool", r); // (default)                          converted=params.as_bool(0, "default must be bool", r); // (default)
                 else                  else
                         rethrow; // we have a problem when no default                          throw Exception(PARSER_RUNTIME, 0, "unable to convert empty string without default specified");
           } else if( (str[0]=='T' || str[0]=='t') && (str[1]=='R' || str[1]=='r') && (str[2]=='U' || str[2]=='u') &&
                      (str[3]=='E' || str[3]=='e') && str[4]==0 ) { // "true"
                   converted=true;
           } else if( (str[0]=='F' || str[0]=='f') && (str[1]=='A' || str[1]=='a') && (str[2]=='L' || str[2]=='l') &&
                      (str[3]=='S' || str[3]=='s') && (str[4]=='E' || str[4]=='e') && str[5]==0 ) { // "false"
                   converted=false;
           } else {
                   try {
                           converted=self_string.as_bool();
                   } catch(...) { // convert problem
                           if(params.count()>0)
                                   converted=params.as_bool(0, "default must be bool", r); // (default)
                           else
                                   rethrow; // we have a problem when no default
                   }
         }          }
   
         r.write_no_lang(VBool::get(converted));          r.write(VBool::get(converted));
 }  }
   
 /*not static*/void _string_format(Request& r, MethodParams& params) {  /*not static*/void _string_format(Request& r, MethodParams& params) {
Line 140  static void _bool(Request& r, MethodPara Line 149  static void _bool(Request& r, MethodPara
   
         const char* buf=format(r.get_self().as_double(), fmt.trim().cstrm());          const char* buf=format(r.get_self().as_double(), fmt.trim().cstrm());
   
         r.write_no_lang(String(buf));          r.write(String(buf));
 }  }
   
 static void _left(Request& r, MethodParams& params) {  static void _left(Request& r, MethodParams& params) {
         ssize_t sn=params.as_int(0, "n must be int", r);          ssize_t sn=params.as_int(0, "n must be int", r);
         if(sn<0)  
                 throw Exception(PARSER_RUNTIME,  
                         0,   
                         "n(%d) must be >=0", sn);  
         size_t n=(size_t)sn;  
   
         const String& string=GET_SELF(r, VString).string();          const String& string=GET_SELF(r, VString).string();
         r.write_assign_lang(string.mid(r.charsets.source(), 0, n));          r.write(sn<0 ? string : string.mid(r.charsets.source(), 0, (size_t)sn));
 }  }
   
 static void _right(Request& r, MethodParams& params) {  static void _right(Request& r, MethodParams& params) {
         ssize_t sn=(size_t)params.as_int(0, "n must be int", r);          ssize_t sn=params.as_int(0, "n must be int", r);
         if(sn<0)          if(sn>0){
                 throw Exception(PARSER_RUNTIME,                  size_t n=(size_t)sn;
                         0,                   const String& string=GET_SELF(r, VString).string();
                         "n(%d) must be >=0", sn);                  size_t length=string.length(r.charsets.source());
         size_t n=(size_t)sn;                  r.write(n<length ? string.mid(r.charsets.source(), length-n, length, length) : string);
           }
         const String& string=GET_SELF(r, VString).string();  
         size_t length=string.length(r.charsets.source());  
         r.write_assign_lang(n<length?string.mid(r.charsets.source(), length-n, length, length):string);  
 }  }
   
 static void _mid(Request& r, MethodParams& params) {  static void _mid(Request& r, MethodParams& params) {
Line 173  static void _mid(Request& r, MethodParam Line 173  static void _mid(Request& r, MethodParam
   
         ssize_t sbegin=params.as_int(0, "p must be int", r);          ssize_t sbegin=params.as_int(0, "p must be int", r);
         if(sbegin<0)          if(sbegin<0)
                 throw Exception(PARSER_RUNTIME,                  throw Exception(PARSER_RUNTIME, 0,  "p(%d) must be >=0", sbegin);
                         0,   
                         "p(%d) must be >=0", sbegin);  
         size_t begin=(size_t)sbegin;          size_t begin=(size_t)sbegin;
   
         size_t end;          size_t end;
Line 183  static void _mid(Request& r, MethodParam Line 181  static void _mid(Request& r, MethodParam
         if(params.count()>1) {          if(params.count()>1) {
                 ssize_t sn=params.as_int(1, "n must be int", r);                  ssize_t sn=params.as_int(1, "n must be int", r);
                 if(sn<0)                  if(sn<0)
                         throw Exception(PARSER_RUNTIME,                          throw Exception(PARSER_RUNTIME, 0, "n(%d) must be >=0", sn);
                                 0,   
                                 "n(%d) must be >=0", sn);  
                 end=begin+(size_t)sn;                  end=begin+(size_t)sn;
         } else {          } else {
                 length=string.length(r.charsets.source());                  length=string.length(r.charsets.source());
                 end=length;                  end=length;
         }          }
   
         r.write_assign_lang(string.mid(r.charsets.source(), begin, end, length));          r.write(string.mid(r.charsets.source(), begin, end, length));
 }  }
   
 static void _pos(Request& r, MethodParams& params) {  static void _pos(Request& r, MethodParams& params) {
Line 203  static void _pos(Request& r, MethodParam Line 199  static void _pos(Request& r, MethodParam
         if(params.count()>1){          if(params.count()>1){
                 offset=params.as_int(1, "n must be int", r);                  offset=params.as_int(1, "n must be int", r);
                 if(offset<0)                  if(offset<0)
                         throw Exception(PARSER_RUNTIME,                          throw Exception(PARSER_RUNTIME, 0, "n(%d) must be >=0", offset);
                                 0,   
                                 "n(%d) must be >=0", offset);  
         }          }
   
         r.write_no_lang(*new VInt((int)string.pos(r.charsets.source(), substr.as_string(), (size_t)offset)));          r.write(*new VInt((int)string.pos(r.charsets.source(), substr.as_string(), (size_t)offset)));
 }  }
   
 static void split_list(MethodParams& params, int paramIndex,  static void split_list(MethodParams& params, int paramIndex, const String& string, ArrayString& result) {
                        const String& string,   
                        ArrayString& result) {  
         Value& delim_value=params.as_no_junction(paramIndex, "delimiter must not be code");          Value& delim_value=params.as_no_junction(paramIndex, "delimiter must not be code");
           string.split(result, 0, delim_value.as_string());
         size_t pos_after=0;  
         string.split(result, pos_after, delim_value.as_string());  
 }  }
   
 #define SPLIT_LEFT 0x0001  #define SPLIT_LEFT 0x0001
Line 245  static int split_options(const String* o Line 235  static int split_options(const String* o
                         if(options->pos(o->keyL)!=STRING_NOT_FOUND                           if(options->pos(o->keyL)!=STRING_NOT_FOUND 
                                 || (o->keyU && options->pos(o->keyU)!=STRING_NOT_FOUND)) {                                  || (o->keyU && options->pos(o->keyU)!=STRING_NOT_FOUND)) {
                                 if(result & o->checkBit)                                  if(result & o->checkBit)
                                         throw Exception(PARSER_RUNTIME,                                          throw Exception(PARSER_RUNTIME, options, "conflicting split options");
                                                 options,  
                                                 "conflicting split options");  
                                 result |= o->setBit;                                  result |= o->setBit;
                         }                          }
         }          }
Line 293  static Table& split_horizontal(ArrayStri Line 281  static Table& split_horizontal(ArrayStri
         return table;          return table;
 }  }
   
 static void split_with_options(Request& r, MethodParams& params,  static void split_with_options(Request& r, MethodParams& params, int bits) {
                                                            int bits) {  
         const String& string=GET_SELF(r, VString).string();          const String& string=GET_SELF(r, VString).string();
         size_t params_count=params.count();          size_t params_count=params.count();
   
Line 305  static void split_with_options(Request& Line 292  static void split_with_options(Request&
                 const String* options=0;                  const String* options=0;
                 if(params_count>1)                  if(params_count>1)
                         options=&params.as_string(1, OPTIONS_MUST_NOT_BE_CODE);                          options=&params.as_string(1, OPTIONS_MUST_NOT_BE_CODE);
                   
                 bits=split_options(options);                  bits=split_options(options);
         }          }
   
Line 316  static void split_with_options(Request& Line 302  static void split_with_options(Request&
         if(params_count>2){          if(params_count>2){
                 column_name=&params.as_string(2, COLUMN_NAME_MUST_BE_STRING);                  column_name=&params.as_string(2, COLUMN_NAME_MUST_BE_STRING);
                 if (horizontal && !column_name->is_empty())                   if (horizontal && !column_name->is_empty()) 
                         throw Exception(PARSER_RUNTIME,                          throw Exception(PARSER_RUNTIME, column_name, "column name can't be specified with horisontal split");
                                 column_name,  
                                 "column name can't be specified with horisontal split");  
         }           } 
         if(!column_name || column_name->is_empty())          if(!column_name || column_name->is_empty())
                 column_name=new String("piece");                  column_name=new String("piece");
   
         Table& table=horizontal?split_horizontal(pieces, right):split_vertical(pieces, right, column_name);          Table& table=horizontal?split_horizontal(pieces, right):split_vertical(pieces, right, column_name);
   
         r.write_no_lang(*new VTable(&table));          r.write(*new VTable(&table));
 }  }
 static void _split(Request& r, MethodParams& params) {  static void _split(Request& r, MethodParams& params) {
         split_with_options(r, params, 0 /* maybe-determine from param #2 */);          split_with_options(r, params, 0 /* maybe-determine from param #2 */);
Line 352  struct Replace_action_info { Line 336  struct Replace_action_info {
 };  };
 #endif  #endif
 /// @todo they can do $global[$result] there, getting pointer to later-invalid local var, kill this  /// @todo they can do $global[$result] there, getting pointer to later-invalid local var, kill this
 static void replace_action(Table& table, ArrayString* row,   static void replace_action(Table& table, ArrayString* row, int prestart, int prefinish, int poststart, int postfinish, void *info) {
                                 int prestart, int prefinish,   
                                 int poststart, int postfinish,  
                                 void *info) {  
         Replace_action_info& ai=*static_cast<Replace_action_info *>(info);          Replace_action_info& ai=*static_cast<Replace_action_info *>(info);
         if(row) { // begin&middle          if(row) { // begin&middle
                 // piece from last match['prestart'] to beginning of this match['prefinish']                  // piece from last match['prestart'] to beginning of this match['prefinish']
Line 388  static void _match(Request& r, MethodPar Line 369  static void _match(Request& r, MethodPar
   
         if(Value* value=regexp.as(VREGEX_TYPE)){          if(Value* value=regexp.as(VREGEX_TYPE)){
                 if(options && options->is_defined())                  if(options && options->is_defined())
                         throw Exception(PARSER_RUNTIME,                          throw Exception(PARSER_RUNTIME, 0, "you can not specify regex-object and options together");
                                 0,  
                                 "you can not specify regex-object and options together"  
                         );  
                 vregex=static_cast<VRegex*>(value);                  vregex=static_cast<VRegex*>(value);
         } else {          } else {
                 vregex=new VRegex(r.charsets.source(),                  vregex=new VRegex(r.charsets.source(), &regexp.as_string(), (options) ? (&options->as_string()) : 0);
                         &regexp.as_string(),  
                         (options)?(&options->as_string()):0);  
                 vregex->study();                  vregex->study();
                 vrcleaner.vregex=vregex;                  vrcleaner.vregex=vregex;
         }          }
   
         Temp_lang temp_lang(r, String::L_PASS_APPENDED);  
         const String& src=GET_SELF(r, VString).string();          const String& src=GET_SELF(r, VString).string();
         int matches_count=0;          int matches_count=0;
   
         if(params_count<3) { // search          if(params_count<3) { // search
                 Table* table=src.match(vregex,                  Table* table=src.match(vregex, search_action, 0, matches_count);
                         search_action, 0,  
                         matches_count);  
   
                 if(table){                  if(table){
                         r.write_no_lang(*new VTable(table));                          r.write(*new VTable(table));
                 } else {                  } else {
                         r.write_no_lang(*new VInt(matches_count));                          r.write(*new VInt(matches_count));
                 }                  }
   
         } else { // replace          } else { // replace
Line 429  static void _match(Request& r, MethodPar Line 402  static void _match(Request& r, MethodPar
                         if(replacement->is_defined())                          if(replacement->is_defined())
                                 replacement_code=replacement;                                  replacement_code=replacement;
                 } else if(!replacement->is_void())                  } else if(!replacement->is_void())
                         throw Exception(PARSER_RUNTIME,                          throw Exception(PARSER_RUNTIME, 0, "replacement option should be junction or string");
                                 0,  
                                 "replacement option should be junction or string");  
   
                 Value* default_code=(params_count==4)?&params.as_junction(3, "default value must be code"):0;                  Value* default_code=(params_count==4) ? &params.as_junction(3, "default value must be code") : 0;
   
                 String result;                  String result;
                 VTable* vtable=new VTable;                  VTable* vtable=new VTable;
Line 446  static void _match(Request& r, MethodPar Line 417  static void _match(Request& r, MethodPar
                 };                  };
   
                 if(is_junction){                  if(is_junction){
                         Temp_value_element temp( *replacement_code->get_junction()->method_frame, match_var_name, vtable);                          Temp_value_element temp(r, *replacement_code->get_junction()->method_frame, match_var_name, vtable);
                         src.match(vregex, replace_action, &info, matches_count);                          src.match(vregex, replace_action, &info, matches_count);
                 } else {                  } else {
                         src.match(vregex, replace_action, &info, matches_count);                          src.match(vregex, replace_action, &info, matches_count);
Line 455  static void _match(Request& r, MethodPar Line 426  static void _match(Request& r, MethodPar
                 if(!matches_count && default_code)                  if(!matches_count && default_code)
                         r.process_write(*default_code);                          r.process_write(*default_code);
                 else                  else
                         r.write_assign_lang(result);                          r.write(result);
         }          }
 }  }
   
 static void change_case(Request& r, MethodParams&,   static void change_case(Request& r, MethodParams&, String::Change_case_kind kind) {
                                                 String::Change_case_kind kind) {  
         const String& src=GET_SELF(r, VString).string();          const String& src=GET_SELF(r, VString).string();
   
         r.write_assign_lang(src.change_case(r.charsets.source(), kind));          r.write(src.change_case(r.charsets.source(), kind));
 }  }
 static void _upper(Request& r, MethodParams& params) {  static void _upper(Request& r, MethodParams& params) {
         change_case(r, params, String::CC_UPPER);          change_case(r, params, String::CC_UPPER);
Line 474  static void _lower(Request& r, MethodPar Line 444  static void _lower(Request& r, MethodPar
   
 #ifndef DOXYGEN  #ifndef DOXYGEN
 class String_sql_event_handlers: public SQL_Driver_query_event_handlers {  class String_sql_event_handlers: public SQL_Driver_query_event_handlers {
         const String& statement_string; const char* statement_cstr;  
         bool got_column;          bool got_column;
 public:  public:
         bool got_cell;          bool got_cell;
         String& result;          const String* result;
 public:  public:
         String_sql_event_handlers(          String_sql_event_handlers():
                 const String& astatement_string, const char* astatement_cstr):  
                 statement_string(astatement_string), statement_cstr(astatement_cstr),  
                 got_column(false),                  got_column(false),
                 got_cell(false),                  got_cell(false),
                 result(*new String) {}                  result(&String::Empty) {}
   
         bool add_column(SQL_Error& error, const char* /*str*/, size_t /*length*/) {          bool add_column(SQL_Error& error, const char* /*str*/, size_t /*length*/) {
                 if(got_column) {                  if(got_column) {
                         error=SQL_Error(PARSER_RUNTIME,                          error=SQL_Error("result must contain exactly one column");
                                 //statement_string,  
                                 "result must contain exactly one column");  
                         return true;                          return true;
                 }                  }
                 got_column=true;                  got_column=true;
Line 499  public: Line 464  public:
         }          }
         bool before_rows(SQL_Error& /*error*/ ) { /* ignore */ return false; }          bool before_rows(SQL_Error& /*error*/ ) { /* ignore */ return false; }
         bool add_row(SQL_Error& /*error*/) { /* ignore */ return false; }          bool add_row(SQL_Error& /*error*/) { /* ignore */ return false; }
         bool add_row_cell(SQL_Error& error, const char* str, size_t length) {          bool add_row_cell(SQL_Error& error, const char* str, size_t) {
                 if(got_cell) {                  if(got_cell) {
                         error=SQL_Error(PARSER_RUNTIME,                          error=SQL_Error("result must not contain more then one row");
                                 //statement_string,  
                                 "result must not contain more then one row");  
                         return true;                          return true;
                 }                  }
   
                 try {                  try {
                         got_cell=true;                          got_cell=true;
                         result.append_know_length(str, length, String::L_TAINTED);                          result=new String(str, String::L_TAINTED /* no length as 0x00 can be inside */ );
                         return false;                          return false;
                 } catch(...) {                  } catch(...) {
                         error=SQL_Error("exception occured in String_sql_event_handlers::add_row_cell");                          error=SQL_Error("exception occurred in String_sql_event_handlers::add_row_cell");
                         return true;                          return true;
                 }                  }
         }          }
 };  };
 #endif  #endif
 extern String sql_bind_name;  
 extern String sql_limit_name;  
 extern String sql_offset_name;  
 extern String sql_default_name;  
 extern String sql_distinct_name;  
 extern int marshal_binds(HashStringValue& hash, SQL_Driver::Placeholder*& placeholders);  extern int marshal_binds(HashStringValue& hash, SQL_Driver::Placeholder*& placeholders);
 extern void unmarshal_bind_updates(HashStringValue& hash, int placeholder_count, SQL_Driver::Placeholder* placeholders);  extern void unmarshal_bind_updates(HashStringValue& hash, int placeholder_count, SQL_Driver::Placeholder* placeholders);
   
 const String* sql_result_string(Request& r, MethodParams& params,  const String* sql_result_string(Request& r, MethodParams& params, Value*& default_code) {
                                 HashStringValue*& options, Value*& default_code) {  
         Value& statement=params.as_junction(0, "statement must be code");          Value& statement=params.as_junction(0, "statement must be code");
   
         HashStringValue* bind=0;          HashStringValue* bind=0;
Line 535  const String* sql_result_string(Request& Line 492  const String* sql_result_string(Request&
         ulong offset=0;          ulong offset=0;
         default_code=0;          default_code=0;
         if(params.count()>1)          if(params.count()>1)
                 if((options=params.as_hash(1))) {                  if(HashStringValue* options=params.as_hash(1, "sql options")) {
                         int valid_options=0;                          int valid_options=0;
                         if(Value* vbind=options->get(sql_bind_name)) {                          if(Value* vbind=options->get(sql_bind_name)) {
                                 valid_options++;                                  valid_options++;
Line 543  const String* sql_result_string(Request& Line 500  const String* sql_result_string(Request&
                         }                          }
                         if(Value* vlimit=options->get(sql_limit_name)) {                          if(Value* vlimit=options->get(sql_limit_name)) {
                                 valid_options++;                                  valid_options++;
                                 limit=(ulong)r.process_to_value(*vlimit).as_double();                                  limit=(ulong)r.process(*vlimit).as_double();
                         }                          }
                         if(Value* voffset=options->get(sql_offset_name)) {                          if(Value* voffset=options->get(sql_offset_name)) {
                                 valid_options++;                                  valid_options++;
                                 offset=(ulong)r.process_to_value(*voffset).as_double();                                  offset=(ulong)r.process(*voffset).as_double();
                         }                          }
                         if((default_code=options->get(sql_default_name))) {                          if((default_code=options->get(sql_default_name))) {
                                 valid_options++;                                  valid_options++;
Line 555  const String* sql_result_string(Request& Line 512  const String* sql_result_string(Request&
                         if(valid_options!=options->count())                          if(valid_options!=options->count())
                                 throw Exception(PARSER_RUNTIME, 0, CALLED_WITH_INVALID_OPTION);                                  throw Exception(PARSER_RUNTIME, 0, CALLED_WITH_INVALID_OPTION);
                 }                  }
         else  
                 options=0;  
   
         SQL_Driver::Placeholder* placeholders=0;          SQL_Driver::Placeholder* placeholders=0;
         uint placeholders_count=0;          uint placeholders_count=0;
         if(bind)          if(bind)
                 placeholders_count=marshal_binds(*bind, placeholders);                  placeholders_count=marshal_binds(*bind, placeholders);
   
         Temp_lang temp_lang(r, String::L_SQL);  
         const String& statement_string=r.process_to_string(statement);          const String& statement_string=r.process_to_string(statement);
         const char* statement_cstr=statement_string.untaint_cstr(r.flang, r.connection());          const char* statement_cstr=statement_string.untaint_cstr(String::L_SQL, r.connection());
   
         String_sql_event_handlers handlers(statement_string, statement_cstr);          String_sql_event_handlers handlers;
   
         r.connection()->query(          r.connection()->query(statement_cstr, placeholders_count, placeholders, offset, limit, handlers, statement_string);
                 statement_cstr,   
                 placeholders_count, placeholders,  
                 offset, limit,   
                 handlers,  
                 statement_string);  
                   
         if(bind)          if(bind)
                 unmarshal_bind_updates(*bind, placeholders_count, placeholders);                  unmarshal_bind_updates(*bind, placeholders_count, placeholders);
Line 582  const String* sql_result_string(Request& Line 531  const String* sql_result_string(Request&
         if(!handlers.got_cell)          if(!handlers.got_cell)
                 return 0; // no lines, caller should return second param[default value]                  return 0; // no lines, caller should return second param[default value]
   
         return &handlers.result;          return handlers.result;
 }  }
   
 static void _sql(Request& r, MethodParams& params) {  static void _sql(Request& r, MethodParams& params) {
   
         HashStringValue* options;  
         Value* default_code;          Value* default_code;
         const String* string=sql_result_string(r, params, options, default_code);          const String* string=sql_result_string(r, params, default_code);
         if(!string) {          if(!string) {
                 if(default_code) {                  if(default_code) {
                         string=&r.process_to_string(*default_code);                          string=&r.process_to_string(*default_code);
                 } else                  } else
                         throw Exception(PARSER_RUNTIME,                          throw Exception(PARSER_RUNTIME, 0, "produced no result, but no default option specified");
                                 0,  
                                 "produced no result, but no default option specified");  
         }          }
   
         r.write_assign_lang(*string);          r.write(*string);
 }  }
   
 static void _replace(Request& r, MethodParams& params) {  static void _replace(Request& r, MethodParams& params) {
Line 607  static void _replace(Request& r, MethodP Line 553  static void _replace(Request& r, MethodP
   
         if(params.count()==1) {          if(params.count()==1) {
                 // ^string.replace[table]                  // ^string.replace[table]
                 Table* table=params.as_no_junction(0, PARAM_MUST_NOT_BE_CODE).get_table();                  Table* table=params.as_table(0, "param");
                 if(!table)  
                         throw Exception(PARSER_RUNTIME,  
                                 0,  
                                 "parameter must be table");  
                 Dictionary dict(*table);                  Dictionary dict(*table);
                 r.write_assign_lang(src.replace(dict));                  r.write(src.replace(dict));
         } else {          } else {
                 // ^string.replace[from-string;to-string]                  // ^string.replace[from-string;to-string]
                 Dictionary dict(                  Dictionary dict(params.as_string(0, "from must be string"), params.as_string(1, "to must be string"));
                                                 params.as_string(0, "from must be string"),                  r.write(src.replace(dict));
                                                 params.as_string(1, "to must be string")  
                                         );  
                 r.write_assign_lang(src.replace(dict));  
         }          }
   
 }  }
Line 630  static void _save(Request& r, MethodPara Line 569  static void _save(Request& r, MethodPara
         Charset* asked_charset=0;          Charset* asked_charset=0;
   
         size_t file_name_index=0;          size_t file_name_index=0;
         if(params.count()>1)          if(params.count()>1) {
                 if(HashStringValue* options=params.as_no_junction(1, "second parameter should be string or hash").get_hash()){                  if(HashStringValue* options=params.as_no_junction(1, "second parameter should be string or hash").get_hash()){
                           // ^file.save[filespec;$.charset[] $.append(true)]
                         int valid_options=0;                          int valid_options=0;
                         if(Value* vcharset_name=options->get(PA_CHARSET_NAME)){                          if(Value* vcharset_name=options->get(PA_CHARSET_NAME)){
                                 asked_charset=&::charsets.get(vcharset_name->as_string().change_case(r.charsets.source(), String::CC_UPPER));                                  asked_charset=&pa_charsets.get(vcharset_name->as_string());
                                 valid_options++;                                  valid_options++;
                         }                          }
                         if(Value* vappend=options->get(MODE_APPEND)){                          if(Value* vappend=options->get(MODE_APPEND)){
Line 644  static void _save(Request& r, MethodPara Line 584  static void _save(Request& r, MethodPara
                         if(valid_options != options->count())                          if(valid_options != options->count())
                                 throw Exception(PARSER_RUNTIME, 0, CALLED_WITH_INVALID_OPTION);                                  throw Exception(PARSER_RUNTIME, 0, CALLED_WITH_INVALID_OPTION);
                 } else {                  } else {
                           // ^file.save[append;filespec]
                         const String& mode=params.as_string(0, "mode must be string");                          const String& mode=params.as_string(0, "mode must be string");
                         if(mode==MODE_APPEND){                          if(mode==MODE_APPEND){
                                 do_append=true;                                  do_append=true;
Line 653  static void _save(Request& r, MethodPara Line 594  static void _save(Request& r, MethodPara
                                         &mode,                                          &mode,
                                         "unknown mode, must be 'append'");                                          "unknown mode, must be 'append'");
                 }                  }
           }
   
         const String& file_name=params.as_string(file_name_index, FILE_NAME_MUST_BE_STRING);          const String& file_name=params.as_string(file_name_index, FILE_NAME_MUST_BE_STRING);
         const String& src=GET_SELF(r, VString).string();          const String& src=GET_SELF(r, VString).string();
   
         String::Body sbody=src.cstr_to_string_body_untaint(String::L_AS_IS, r.connection(false/*no error if none*/));          String::Body sbody=src.cstr_to_string_body_untaint(String::L_AS_IS, r.connection(false), &r.charsets);
   
         // write          // write
         file_write(r.charsets, r.absolute(file_name), sbody.cstr(), sbody.length(), true, do_append, asked_charset);          file_write(r.charsets, r.absolute(file_name), sbody.cstr(), sbody.length(), true, do_append, asked_charset);
Line 666  static void _save(Request& r, MethodPara Line 608  static void _save(Request& r, MethodPara
 static void _normalize(Request& r, MethodParams&) {  static void _normalize(Request& r, MethodParams&) {
         const String& src=GET_SELF(r, VString).string();          const String& src=GET_SELF(r, VString).string();
   
         r.write_assign_lang(src);          r.write(src);
 }  }
   
 static void _trim(Request& r, MethodParams& params) {  static void _trim(Request& r, MethodParams& params) {
Line 677  static void _trim(Request& r, MethodPara Line 619  static void _trim(Request& r, MethodPara
         const char* chars=0;          const char* chars=0;
         if(params_count>0) {          if(params_count>0) {
                 const String& skind=params.as_string(0, "'where' must be string");                  const String& skind=params.as_string(0, "'where' must be string");
                 if(!skind.is_empty())                  if(!skind.is_empty()) {
                         if(skind==TRIM_BOTH_OPTION)                          if(skind==TRIM_BOTH_OPTION)
                                 kind=String::TRIM_BOTH;                                  kind=String::TRIM_BOTH;
                         else if(skind==TRIM_START_OPTION || skind=="start")                          else if(skind==TRIM_START_OPTION || skind=="start")
                                 kind=String::TRIM_START;                                  kind=String::TRIM_START;
                         else if(skind==TRIM_END_OPTION || skind=="end")                          else if(skind==TRIM_END_OPTION || skind=="end")
                                 kind=String::TRIM_END;                                  kind=String::TRIM_END;
                           else if(params_count==1)
                                   chars=skind.cstr();
                         else                          else
                                 throw Exception(PARSER_RUNTIME,                                  throw Exception(PARSER_RUNTIME, &skind, "'kind' must be one of " TRIM_START_OPTION ", " TRIM_BOTH_OPTION ", " TRIM_END_OPTION);
                                         &skind,                  }
                                         "'kind' must be one of "TRIM_START_OPTION", "TRIM_BOTH_OPTION", "TRIM_END_OPTION);  
   
                 if(params_count>1) {                  if(params_count>1) {
                         const String& schars=params.as_string(1, "'chars' must be string");                          const String& schars=params.as_string(1, "'chars' must be string");
Line 696  static void _trim(Request& r, MethodPara Line 639  static void _trim(Request& r, MethodPara
                 }                  }
         }          }
   
         r.write_assign_lang(src.trim(kind, chars, &r.charsets.source()));          r.write(src.trim(kind, chars, &r.charsets.source()));
   }
   
   Base64Options base64_encode_options(Request& r, HashStringValue* options) {
           Base64Options result;
           if(options) {
                   int valid_options=0;
                   for(HashStringValue::Iterator i(*options); i; i.next()) {
                           String::Body key=i.key();
                           Value* value=i.value();
                           if(key == "pad") {
                                   result.pad=r.process(*value).as_bool();
                                   valid_options++;
                           } else if(key == "wrap") {
                                   result.wrap=r.process(*value).as_bool();
                                   valid_options++;
                           } else if(key == "url-safe") {
                                   if(r.process(*value).as_bool())
                                           result.set_url_safe_abc();
                                   valid_options++;
                           }
                   }
   
                   if(valid_options != options->count())
                           throw Exception(PARSER_RUNTIME, 0, CALLED_WITH_INVALID_OPTION);
           }
           return result;
   }
   
   Base64Options base64_decode_options(Request& r, HashStringValue* options) {
           Base64Options result;
           if(options) {
                   int valid_options=0;
                   for(HashStringValue::Iterator i(*options); i; i.next() ) {
                           String::Body key=i.key();
                           Value* value=i.value();
                           if(key == "pad") {
                                   result.pad=r.process(*value).as_bool();
                                   valid_options++;
                           } else if(key == "strict") {
                                   result.strict=r.process(*value).as_bool();
                                   valid_options++;
                           } else if(key == "url-safe") {
                                   if(r.process(*value).as_bool())
                                           result.set_url_safe_abc();
                                   valid_options++;
                           }
                   }
   
                   if(valid_options != options->count())
                           throw Exception(PARSER_RUNTIME, 0, CALLED_WITH_INVALID_OPTION);
           }
           return result;
 }  }
   
 static void _base64(Request& r, MethodParams& params) {  static void _base64(Request& r, MethodParams& params) {
         if(params.count()) {          if(&r.get_self() == string_class) {
                 // decode: ^string:base64[encoded]                  // decode: ^string:base64[encoded[;options]]
                 const char* cstr=params.as_string(0, PARAMETER_MUST_BE_STRING).cstr();                  const char* cstr=params.count() ? params.as_string(0, PARAMETER_MUST_BE_STRING).cstr() : "";
                   Base64Options options = base64_decode_options(r, params.count() > 1 ? params.as_hash(1) : NULL);
   
                 char* decoded=0;                  char* decoded=0;
                 size_t length=0;                  size_t length=pa_base64_decode(cstr, strlen(cstr), decoded, options);
                 pa_base64_decode(cstr, strlen(cstr), decoded, length);  
                 if(decoded && length){                  if(decoded && length){
                         if(memchr((const char*)decoded, 0, length))                          if(memchr(decoded, 0, length))
                                 throw Exception(PARSER_RUNTIME,                                  throw Exception(PARSER_RUNTIME, 0, "Invalid \\x00 character found while decoding to string. Decode to file instead.");
                                         0,  
                                         "Invalid \\x00 character found while decode to string. Decode it to file instead.");  
   
                         fix_line_breaks(decoded, length);                          fix_line_breaks(decoded, length);
   
                         if(length)                          if(length)
                                 r.write_assign_lang(*new String(decoded, String::L_TAINTED));                                  r.write(*new String(decoded, String::L_TAINTED));
                 }                  }
         } else {          } else {
                 // encode: ^str.base64[]                  // encode: ^str.base64[options]
                   VString& self=GET_SELF(r, VString);
                   const char* cstr=self.string().cstr();
                   Base64Options options = base64_encode_options(r, params.count() ? params.as_hash(0) : NULL);
                   const char* encoded=pa_base64_encode(cstr, strlen(cstr), options);
                   r.write(*new String(encoded, String::L_TAINTED /*once ?param=base64(something) was needed*/ ));
           }
   }
   
   static void _idna(Request& r, MethodParams& params) {
           if(&r.get_self() == string_class) {
                   // decode: ^string:idna[encoded]
                   const char* cstr=params.count() ? params.as_string(0, PARAMETER_MUST_BE_STRING).cstr() : "";
                   r.write(*new String(pa_idna_decode(cstr, r.charsets.source()), String::L_TAINTED));
           } else {
                   // encode: ^str.idna[]
                 VString& self=GET_SELF(r, VString);                  VString& self=GET_SELF(r, VString);
                 const char* cstr=self.string().cstr();                  const char* cstr=self.string().cstr();
                 const char* encoded=pa_base64_encode(cstr, strlen(cstr));                  r.write(*new String(pa_idna_encode(cstr, r.charsets.source()), String::L_TAINTED));
                 r.write_assign_lang(*new String(encoded, String::L_TAINTED/*once ?param=base64(something) was needed*/));  
         }          }
 }  }
   
 static void _escape(Request& r, MethodParams&){  static void _js_escape(Request& r, MethodParams&){
         const String& src=GET_SELF(r, VString).string();          const String& src=GET_SELF(r, VString).string();
         r.write_assign_lang(src.escape(r.charsets.source()));          r.write(src.escape(r.charsets.source()));
 }  }
   
 static void _unescape(Request& r, MethodParams& params){  static void _js_unescape(Request& r, MethodParams& params){
         const String& src=params.as_string(0, PARAMETER_MUST_BE_STRING);          const String& src=params.as_string(0, PARAMETER_MUST_BE_STRING);
         if(const char* result=unescape_chars(src.cstr(), src.length(), &r.charsets.source(), true))          if(const char* result=unescape_chars(src.cstr(), src.length(), &r.charsets.source(), true))
                 r.write_assign_lang(*new String(result));                  r.write(*new String(result, String::L_TAINTED));
   }
   
   static void _unescape(Request& r, MethodParams& params){
           const String& mode=params.as_string(0, MODE_MUST_NOT_BE_CODE);
           const String& src=params.as_string(1, PARAMETER_MUST_BE_STRING);
   
           Charset* from_charset=&r.charsets.client();
   
           if(params.count() > 2)
                   if(HashStringValue* options=params.as_hash(2)) {
                           int valid_options=0;
                           if(Value* vcharset_name=options->get(PA_CHARSET_NAME)){
                                   from_charset=&pa_charsets.get(vcharset_name->as_string());
                                   valid_options++;
                           }
                           if(valid_options!=options->count())
                                   throw Exception(PARSER_RUNTIME, 0, CALLED_WITH_INVALID_OPTION);
                   }
   
           bool mode_js;
           if(mode==UNESCAPE_MODE_JS){
                   mode_js=true;
           } else if(mode==UNESCAPE_MODE_URI){
                   mode_js=false;
           } else {
                   throw Exception(PARSER_RUNTIME, &mode, "is invalid mode, must be either '" UNESCAPE_MODE_JS "' or '" UNESCAPE_MODE_URI "'");
           }
   
           const char* unescaped=unescape_chars(src.cstr(), src.length(), from_charset, mode_js);
           if(*unescaped){
                   const String* result=new String(Charset::transcode(unescaped, *from_charset, r.charsets.source()), String::L_TAINTED);
                   r.write(*result);
           }
   }
   
   static void _contains(Request& r, MethodParams& params) {
           // empty or whitespace string is hash compatible
           GET_SELF(r, VString).get_element(params.as_string(0, "key must be string"));
           // ignoring result as it allways null
           r.write(VBool::get(false));
 }  }
   
 // constructor  // constructor
Line 771  MString::MString(): Methoded("string") { Line 821  MString::MString(): Methoded("string") {
         // ^string.split[delim][options]          // ^string.split[delim][options]
         // ^string.split[delim][options][column name]          // ^string.split[delim][options][column name]
         add_native_method("split", Method::CT_DYNAMIC, _split, 1, 3);          add_native_method("split", Method::CT_DYNAMIC, _split, 1, 3);
                 // old names for backward compatibility          // old names for backward compatibility
                 // ^string.lsplit[delim]          // ^string.lsplit[delim]
                 add_native_method("lsplit", Method::CT_DYNAMIC, _lsplit, 1, 1);          add_native_method("lsplit", Method::CT_DYNAMIC, _lsplit, 1, 1);
                 // ^string.rsplit[delim]          // ^string.rsplit[delim]
                 add_native_method("rsplit", Method::CT_DYNAMIC, _rsplit, 1, 1);          add_native_method("rsplit", Method::CT_DYNAMIC, _rsplit, 1, 1);
           
         // ^string.match[regexp][options]          // ^string.match[regexp][options]
         // ^string.match[regexp][options]{replacement-code}          // ^string.match[regexp][options]{replacement-code}
         // ^string.match[regexp][options]{replacement-code}{code-if-nothing-is-found}          // ^string.match[regexp][options]{replacement-code}{code-if-nothing-is-found}
Line 806  MString::MString(): Methoded("string") { Line 856  MString::MString(): Methoded("string") {
         add_native_method("trim", Method::CT_DYNAMIC, _trim, 0, 2);          add_native_method("trim", Method::CT_DYNAMIC, _trim, 0, 2);
   
         // ^string.base64[] << encode          // ^string.base64[] << encode
         // ^string:base64[encoded string] << decode               // ^string:base64[encoded string] << decode
         add_native_method("base64", Method::CT_ANY, _base64, 0, 1);          add_native_method("base64", Method::CT_ANY, _base64, 0, 2);
   
           // ^string.idna[] << encode
           // ^string:idna[encoded string] << decode
           add_native_method("idna", Method::CT_ANY, _idna, 0, 1);
   
         // ^string.js-escape[]          // ^string.js-escape[]
         add_native_method("js-escape", Method::CT_ANY, _escape, 0, 0);          add_native_method("js-escape", Method::CT_DYNAMIC, _js_escape, 0, 0);
   
         // ^string:js-unescape[escaped%uXXXXstring]          // ^string:js-unescape[escaped%uXXXXstring]
         add_native_method("js-unescape", Method::CT_STATIC, _unescape, 1, 1);          add_native_method("js-unescape", Method::CT_STATIC, _js_unescape, 1, 1);
 }         
           // ^string:unescape[js|uri;escaped;$.charset[...]]
           add_native_method("unescape", Method::CT_STATIC, _unescape, 2, 3);
   
           // ^string.contains[key] for hash compatibility
           add_native_method("contains", Method::CT_DYNAMIC, _contains, 1, 1);
   }

Removed from v.1.201  
changed lines
  Added in v.1.243


E-mail: