[BACK]Return to table.C CVS log [TXT] [DIR] Up to [parser3project] / parser3 / src / classes

Diff for /parser3/src/classes/table.C between versions 1.281 and 1.360

version 1.281, 2011/05/19 06:58:40 version 1.360, 2021/12/22 21:59:50
Line 1 Line 1
 /** @file  /** @file
         Parser: @b table parser class.          Parser: @b table parser class.
   
         Copyright (c) 2001-2009 ArtLebedev Group (http://www.artlebedev.com)          Copyright (c) 2001-2020 Art. Lebedev Studio (http://www.artlebedev.com)
         Author: Alexandr Petrosian <paf@design.ru> (http://paf.design.ru)          Author: Alexandr Petrosian <paf@design.ru> (http://paf.design.ru)
 */  */
   
 static const char * const IDENT_TABLE_C="$Date$";  #include "pa_config_includes.h"
   
 #if (!defined(NO_STRINGSTREAM) && !defined(FREEBSD4))  #if (!defined(NO_STRINGSTREAM) && !defined(FREEBSD4) && !defined(PA_DEBUG_DISABLE_GC))
 #include <sstream>  #include <sstream>
   #include "../lib/gc/include/gc_allocator.h"
   #define USE_STRINGSTREAM
 #endif  #endif
   
 #include "classes.h"  #include "classes.h"
Line 23  static const char * const IDENT_TABLE_C= Line 25  static const char * const IDENT_TABLE_C=
 #include "pa_vbool.h"  #include "pa_vbool.h"
 #include "pa_array.h"  #include "pa_array.h"
   
   volatile const char * IDENT_TABLE_C="$Id$";
   
 // class  // class
   
 class MTable: public Methoded {  class MTable: public Methoded {
Line 34  public: Line 38  public:
   
 // global variable  // global variable
   
 DECLARE_CLASS_VAR(table, new MTable, 0);  DECLARE_CLASS_VAR(table, new MTable);
   
 #define TABLE_REVERSE_NAME "reverse"  
   
 // globals  // globals
   
 String sql_bind_name(SQL_BIND_NAME);  #define TABLE_REVERSE_NAME "reverse"
 String sql_limit_name(PA_SQL_LIMIT_NAME);  
 String sql_offset_name(PA_SQL_OFFSET_NAME);  
 String sql_default_name(SQL_DEFAULT_NAME);  
 String sql_distinct_name(SQL_DISTINCT_NAME);  
 String sql_value_type_name(SQL_VALUE_TYPE_NAME);  
 String table_reverse_name(TABLE_REVERSE_NAME);  String table_reverse_name(TABLE_REVERSE_NAME);
   
 // methods  // methods
   
 static Table::Action_options get_action_options(Request& r, MethodParams& params,   static Table::Action_options get_action_options(Request& r, MethodParams& params, size_t options_index, const Table& source) {
                                                 size_t options_index, const Table& source) {  
         Table::Action_options result;          Table::Action_options result;
         if(params.count() <= options_index)          if(params.count() <= options_index)
                 return result;                  return result;
   
         Value& maybe_options=params[options_index];          HashStringValue* options=params.as_hash(options_index);
 /* can not do it:   
         want to enable ^table::create[$source;  
 #               $.option[]  
         ]  
         but there is ^table.locate[name;value]  
   
         ...if(voptions.is_defined() && !voptions.is_string()))  
         if(maybe_options.is_string()) { // allow empty options  
                 result.defined=true;  
                 return result;  
         }  
 */  
         HashStringValue* options=maybe_options.get_hash();  
         if(!options)          if(!options)
                 return result;                  return result;
   
Line 85  static Table::Action_options get_action_ Line 68  static Table::Action_options get_action_
                         if(soffset == "cur")                          if(soffset == "cur")
                                 result.offset=source.current();                                  result.offset=source.current();
                         else                          else
                                 throw Exception(PARSER_RUNTIME,                                  throw Exception(PARSER_RUNTIME, &soffset, "must be 'cur' string or expression");
                                         &soffset,  
                                         "must be 'cur' string or expression");  
                 } else                   } else 
                         result.offset=r.process_to_value(*voffset).as_int();                          result.offset=r.process(*voffset).as_int();
         }          }
         if(Value* vlimit=options->get(sql_limit_name)) {          if(Value* vlimit=options->get(sql_limit_name)) {
                 valid_options++;                  valid_options++;
                 result.limit=r.process_to_value(*vlimit).as_int();                  result.limit=r.process(*vlimit).as_int();
         }          }
         if(Value *vreverse=(Value *)options->get(table_reverse_name)) {           if(Value *vreverse=(Value *)options->get(table_reverse_name)) { 
                 valid_options++;                   valid_options++; 
                 result.reverse=r.process_to_value(*vreverse).as_bool();                   result.reverse=r.process(*vreverse).as_bool(); 
                 if(result.reverse && !defined_offset)                   if(result.reverse && !defined_offset) 
                         result.offset=source.count()-1;                           result.offset=source.count()-1; 
         }           } 
Line 107  static Table::Action_options get_action_ Line 88  static Table::Action_options get_action_
   
         return result;          return result;
 }  }
 static void check_option_param(bool options_defined,   
                           MethodParams& params, size_t next_param_index,  
                           const char *msg) {  
         if(next_param_index+(options_defined?1:0) != params.count())  
                 throw Exception(PARSER_RUNTIME,  
                         0,  
                         "%s", msg);  
 }  
   
 struct TableSeparators {  struct TableControlChars {
         char column;  const String* scolumn;          char separator;  const String* sseparator;
         char encloser; const String* sencloser;          char encloser; const String* sencloser;
   
         TableSeparators():          char separators[3];
                 column('\t'), scolumn(new String("\t")),  
           TableControlChars():
                   separator('\t'), sseparator(new String("\t")),
                 encloser(0), sencloser(0)                  encloser(0), sencloser(0)
         {}          {
                   strcpy(separators,"\t\n");
           }
   
         int load( HashStringValue& options ) {          int load( HashStringValue& options ) {
                 int result=0;                  int result=0;
                 if(Value* vseparator=options.get(PA_COLUMN_SEPARATOR_NAME)) {                  if(Value* vseparator=options.get(PA_COLUMN_SEPARATOR_NAME)) {
                         scolumn=&vseparator->as_string();                          sseparator=&vseparator->as_string();
                         if(scolumn->length()!=1)                          if(sseparator->length()!=1)
                                 throw Exception(PARSER_RUNTIME,                                  throw Exception(PARSER_RUNTIME, sseparator, "separator must be one byte character");
                                         scolumn,                          separator=sseparator->first_char();
                                         "separator must be one character long");                          separators[0]=separator;
                         column=scolumn->first_char();  
                         result++;                          result++;
                 }                  }
                 if(Value* vencloser=options.get(PA_COLUMN_ENCLOSER_NAME)) {                  if(Value* vencloser=options.get(PA_COLUMN_ENCLOSER_NAME)) {
                         sencloser=&vencloser->as_string();                          sencloser=&vencloser->as_string();
                         if(sencloser->length()!=1)                          if(sencloser->is_empty()){
                                 throw Exception(PARSER_RUNTIME,                                  encloser=0;
                                         sencloser,                          } else {
                                         "encloser must be one character long");                                  if(sencloser->length()!=1)
                         encloser=sencloser->first_char();                                          throw Exception(PARSER_RUNTIME, sencloser, "encloser must be empty or one byte character");
                                   encloser=sencloser->first_char();
                           }
                         result++;                          result++;
                 }                  }
                 return result;                  return result;
         }          }
 };  };
   
   
   struct lsplit_sresult {
           String* piece;
           char delim;
   
           lsplit_sresult() : piece(0), delim(0){}
   
           operator bool() { return piece!=0; }
   
           void append(String *str){
                   if(piece)
                           *piece << *str;
                   else
                           piece = str;
           }
   };
   
   class StringSplitHelper : public String {
   public:
           char* base;
   
           StringSplitHelper(String astring) : String(astring), base(cstrm()) {}
   
           bool check_lang(const char *pos){
                   return langs.check_lang(L_AS_IS, pos-base, 1);
           }
   
           String *extract(char *pos){
                   String *result=new String;
                   if(size_t len=strlen(pos)){
                           // first: their langs
                           result->langs.append(result->body, langs, pos-base, len);
                           // next: letters themselves
                           result->body=Body(pos);
                   }
                   return result;
           }
   };
   
   inline lsplit_sresult lsplit(char* *string_ref, const char* delims, StringSplitHelper& helper) {
           lsplit_sresult result;
           if(char *pos=*string_ref) {
                   while(pos=strpbrk(pos, delims)) {
                           if(helper.check_lang(pos)){
                                   result.delim=*pos;
                                   *pos=0;
                                   result.piece=helper.extract(*string_ref);
                                   *string_ref=pos+1;
                                   return result;
                           }
                           pos++;
                   }
                   result.piece=helper.extract(*string_ref);
                   *string_ref=0;
           }
           return result;
   }
   
   static lsplit_sresult lsplit(char** string_ref, const char* delims, char encloser, StringSplitHelper& helper) {
           lsplit_sresult result;
   
           if(char *pos=*string_ref) {
                   if(encloser && *pos==encloser && helper.check_lang(pos)) {
                           *string_ref=++pos;
   
                           // we are enclosed, searching for second encloser
                           while(1) {
                                   if(pos=strchr(pos, encloser)){
                                           if(helper.check_lang(pos)){
                                                   *(pos++)=0;
                                                   result.append(helper.extract(*string_ref));
                                                   if(*pos==encloser && helper.check_lang(pos)){ // double-encloser stands for encloser
                                                           *string_ref=pos;
                                                   } else {
                                                           *string_ref=pos;
                                                           break;
                                                   }
                                           }
                                           pos++;
                                   } else {
                                           result.append(helper.extract(*string_ref));
                                           *string_ref=0;
                                           return result;
                                   }
                           }
   
                           // we are no longer enclosed, searching for delimiter
                           while(pos=strpbrk(pos, delims)) {
                                   if(helper.check_lang(pos)){
                                           result.delim=*pos;
                                           if(pos>*string_ref){
                                                   *pos=0;
                                                   result.append(helper.extract(*string_ref));
                                           }
                                           *string_ref=pos+1;
                                           return result;
                                   }
                                   pos++;
                           }
                           result.append(helper.extract(*string_ref));
                           *string_ref=0;
                   } else
                           return lsplit(string_ref, delims, helper);
           }
           return result;
   }
   
   static void skip_clean_empty_lines(char** data_ref, StringSplitHelper& helper) {
           if(*data_ref) {
                   while(**data_ref == '\n' && helper.check_lang(*data_ref))
                           (*data_ref)++;
           }
   }
   
 static void _create(Request& r, MethodParams& params) {  static void _create(Request& r, MethodParams& params) {
         // clone/copy part?          // clone/copy part?
         if(Table *source=params[0].get_table()) {          if(Table *source=params[0].get_table()) {
                 Table::Action_options o=get_action_options(r, params, 1, *source);                  Table::Action_options o=get_action_options(r, params, 1, *source);
                 check_option_param(o.defined, params, 1,                   if(params.count()>2)
                         "too many parameters");                          throw Exception(PARSER_RUNTIME, 0, "too many parameters");
                 GET_SELF(r, VTable).set_table(*new Table(*source, o));                  GET_SELF(r, VTable).set_table(*new Table(*source, o));
                 return;                  return;
         }          }
Line 165  static void _create(Request& r, MethodPa Line 258  static void _create(Request& r, MethodPa
                 if(params[0].is_string()){ // can be nameless only                  if(params[0].is_string()){ // can be nameless only
                         const String& snameless=params.as_string(0, "called with more then 1 param, first param may be only string 'nameless' or junction");                          const String& snameless=params.as_string(0, "called with more then 1 param, first param may be only string 'nameless' or junction");
                         if(snameless!="nameless")                          if(snameless!="nameless")
                                 throw Exception(PARSER_RUNTIME,                                  throw Exception(PARSER_RUNTIME, &snameless, "table::create called with more then 1 param, first param may be only 'nameless'");
                                         &snameless,  
                                         "table::create called with more then 1 param, first param may be only 'nameless'");  
                         nameless=true;                          nameless=true;
                         data_param_index++;                          data_param_index++;
                 }                  }
         }          }
   
         HashStringValue *options=0;          HashStringValue *options=0;
         TableSeparators separators;          TableControlChars control_chars;
   
         size_t options_param_index=data_param_index+1;          size_t options_param_index=data_param_index+1;
         if(          if( options_param_index<params.count() && (options=params.as_hash(options_param_index)) ) {
                 options_param_index<params.count()                  if(control_chars.load(*options)!=options->count())
                 && (options=params.as_no_junction(options_param_index, "additional params must be hash").get_hash())                          throw Exception(PARSER_RUNTIME, 0, CALLED_WITH_INVALID_OPTION);
         ) {  
                 // cloning, so that we could change  
                 options=new HashStringValue(*options);  
                 separators.load(*options);  
                 if(separators.encloser){  
                         throw Exception(PARSER_RUNTIME,  
                                 0,  
                                 "encloser not supported for table::create yet");  
                 }  
         }          }
   
         // data          // data
         Temp_lang temp_lang(r, String::L_PASS_APPENDED);          StringSplitHelper sdata(r.process_to_string(params.as_junction(data_param_index, "body must be table or code")));
         const String&  data=          char *data=sdata.base;
                 r.process_to_string(params.as_junction(data_param_index, "body must be code"));  
   
         // parse columns          // parse columns
         size_t raw_pos_after=0;  
         Table::columns_type columns;          Table::columns_type columns;
           if(nameless) {
         if(nameless){                  columns=0; // nameless
                 columns=Table::columns_type(0); // nameless  
         } else {          } else {
                 columns=Table::columns_type(new ArrayString);                  columns=new ArrayString;
                   while( lsplit_sresult sr=lsplit(&data, control_chars.separators, control_chars.encloser, sdata) ) {
                 ArrayString head;                          *columns+=sr.piece;
                 data.split(head, raw_pos_after, "\n", String::L_AS_IS, 1);                          if(sr.delim=='\n') 
                 if(head.count()) {                                  break;
                         size_t col_pos_after=0;  
                         head[0]->split(*columns, col_pos_after, *separators.scolumn, String::L_AS_IS);  
                 }                  }
         }          }
           
         Table& table=*new Table(columns);          Table& table=*new Table(columns);
         // parse cells          int columns_count=columns ? columns->count(): 0;
   
         ArrayString rows;  
         data.split(rows, raw_pos_after, "\n", String::L_AS_IS);  
         Array_iterator<const String*> i(rows);  
         while(i.has_next()) {  
                 Table::element_type row(new ArrayString);  
                 const String& string=*i.next();  
                 // remove comment lines  
                 if(string.is_empty())  
                         continue;  
   
                 size_t col_pos_after=0;          // parse cells
                 string.split(*row, col_pos_after, *separators.scolumn, String::L_AS_IS);          Table::element_type row(new ArrayString(columns_count));
                 table+=row;          skip_clean_empty_lines(&data, sdata);
           while( lsplit_sresult sr=lsplit(&data, control_chars.separators, control_chars.encloser, sdata) ) {
                   if(sr.piece->is_empty() && !sr.delim && !row->count()) // append last empty column [if without \n]
                           break;
                   *row+=sr.piece;
                   if(sr.delim=='\n') {
                           table+=row;
                           row=new ArrayString(columns_count);
                           skip_clean_empty_lines(&data, sdata);
                   }
         }          }
           // last line [if without \n]
           if(row->count())
                   table+=row;
           
         // replace any previous table value          // replace any previous table value
         GET_SELF(r, VTable).set_table(table);          GET_SELF(r, VTable).set_table(table);
 }  }
Line 239  struct lsplit_result { Line 318  struct lsplit_result {
         char* piece;          char* piece;
         char delim;          char delim;
   
           lsplit_result(char *apiece=0) : piece(apiece), delim(0){}
         operator bool() { return piece!=0; }          operator bool() { return piece!=0; }
 };  };
   
 inline lsplit_result lsplit(char* string, char delim1, char delim2) {  inline lsplit_result lsplit(char* *string_ref, const char* delims) {
         lsplit_result result;          lsplit_result result(*string_ref);
         if(string) {          if(result.piece) {
                 char delims[]={delim1, delim2, 0};                  if(char* v=strpbrk(result.piece, delims)) {
                 if(char* v=strpbrk(string, delims)) {  
                         result.delim=*v;                          result.delim=*v;
                         *v=0;                          *v=0;
                         result.piece=v+1;                          *string_ref=v+1;
                         return result;                          return result;
                 }                  }
                   *string_ref=0;
         }          }
         result.piece=0;  
         result.delim=0;  
         return result;  
 }  
   
 inline lsplit_result lsplit(char* *string_ref, char delim1, char delim2) {  
         lsplit_result result;  
         result.piece=*string_ref;  
         lsplit_result next=lsplit(*string_ref, delim1, delim2);  
         result.delim=next.delim;  
         *string_ref=next.piece;  
         return result;          return result;
 }  }
   
 static lsplit_result lsplit(char** string_ref, char delim1, char delim2, char encloser) {  static lsplit_result lsplit(char** string_ref, const char* delims, char encloser) {
         lsplit_result result;          lsplit_result result(*string_ref);
   
         if(char* string=*string_ref) {          if(result.piece) {
                 if(encloser && *string==encloser) {                  if(encloser && *result.piece==encloser) {
                         string++;                          result.piece++;
                                                   
                           char c;
                         char *read;                          char *read;
                         char *write;                          char *write;
                         write=read=string;                          write=read=result.piece;
                         char c;  
                         while((c=*read++)) {                          // we are enclosed, searching for second encloser
                           while(c=*read++) {
                                 if(c==encloser) {                                  if(c==encloser) {
                                         char n=*read;                                          if(*read==encloser) // double-encloser stands for encloser
                                         if(n==encloser) // double-encloser stands for encloser  
                                                 read++;  
                                         else if(n==delim1 || n==delim2) {  
                                                 result.delim=n;  
                                                 read++;                                                  read++;
                                                 break;                                          else
                                         }                                                  break; // note: skipping encloser
                                 }                                  }
   
                                 *write++=c;                                  *write++=c;
                         }                          }
   
                           // we are no longer enclosed, searching for delimiter
                           while(c=*read++) {
                                   if(c==delims[0] || c==delims[1]) {
                                           result.delim=c;
                                           break;
                                   } else 
                                           *write++=c;
                           }
   
                         *write=0; // terminate                          *write=0; // terminate
                         *string_ref=c? read: 0;                          *string_ref=c ? read : 0;
                         result.piece=string;  
                         return result;                          return result;
                 } else                  } else
                         return lsplit(string_ref, delim1, delim2);                          return lsplit(string_ref, delims);
         }          }
         result.piece=0;  
         return result;          return result;
 }  }
   
 static void skip_empty_and_comment_lines( char** data_ref ) {  static void skip_empty_and_comment_lines( char** data_ref ) {
         if(char *data=*data_ref) {          while(*data_ref) {
                 while( char c=*data ) {                  if(**data_ref == '\n'){
                         if( c== '\n' || c == '#' ) {                          (*data_ref)++;
                                 /*nowhere=*/getrow(&data); // remove empty&comment lines                  } else {
                                 if(!(*data_ref=data))                          if(**data_ref == '#' )
                                         break;                                  /*nowhere=*/getrow(data_ref);
                                 continue;                          else
                         }                                  break;
                         break;  
                 }                  }
         }          }
 }  }
   
 static void skip_empty_lines( char** data_ref ) {  static void skip_empty_lines( char** data_ref ) {
         if(char *data=*data_ref) {          if(*data_ref) {
                 while( char c=*data ) {                  while(**data_ref == '\n')
                         if( c== '\n' ) {                          (*data_ref)++;
                                 /*nowhere=*/getrow(&data); // remove empty lines  
                                 if(!(*data_ref=data))  
                                         break;  
                                 continue;  
                         }  
                         break;  
                 }  
         }          }
 }  }
   
Line 342  static void _load(Request& r, MethodPara Line 408  static void _load(Request& r, MethodPara
         size_t options_param_index=filename_param_index+1;          size_t options_param_index=filename_param_index+1;
   
         HashStringValue *options=0;          HashStringValue *options=0;
         TableSeparators separators;          TableControlChars control_chars;
         if(options_param_index<params.count()          if(options_param_index<params.count() && (options=params.as_hash(options_param_index)))
                 && (options=params.as_no_junction(options_param_index, "additional params must be hash").get_hash())) {                  control_chars.load(*options);
                 // cloning, so that we could change [to simplify checks on params inside file_read_text  
                 options=new HashStringValue(*options);  
                 separators.load(*options);  
         }  
   
         // loading text          // loading text
         char *data=file_load_text(r,          char *data=file_load_text(r, r.full_disk_path(params.as_string(filename_param_index, FILE_NAME_MUST_BE_STRING)), true, options);
                 r.absolute(params.as_string(filename_param_index, FILE_NAME_MUST_BE_STRING)),  
                 true,  
                 options  
         );  
   
         Skip_lines_action skip_lines_action = (separators.column=='#' || separators.encloser=='#') ? skip_empty_lines : skip_empty_and_comment_lines;          Skip_lines_action skip_lines_action = (control_chars.separator=='#' || control_chars.encloser=='#') ? skip_empty_lines : skip_empty_and_comment_lines;
   
         // parse columns          // parse columns
         Table::columns_type columns;          Table::columns_type columns;
         if(nameless) {          if(nameless) {
                 columns=Table::columns_type(0); // nameless                  columns=0; // nameless
         } else {          } else {
                 columns=Table::columns_type(new ArrayString);                  columns=new ArrayString;
   
                 skip_lines_action(&data);                  skip_lines_action(&data);
                 while( lsplit_result sr=lsplit(&data, separators.column, '\n', separators.encloser) ) {                  while( lsplit_result sr=lsplit(&data, control_chars.separators, control_chars.encloser) ) {
                         *columns+=new String(sr.piece, String::L_TAINTED);                          *columns+=new String(sr.piece, String::L_TAINTED);
                         if(sr.delim=='\n')                           if(sr.delim=='\n') 
                                 break;                                  break;
Line 375  static void _load(Request& r, MethodPara Line 433  static void _load(Request& r, MethodPara
         }          }
                   
         Table& table=*new Table(columns);          Table& table=*new Table(columns);
         int columns_count=columns? columns->count(): 0;          int columns_count=columns ? columns->count(): 0;
   
         // parse cells          // parse cells
         Table::element_type row(new ArrayString(columns_count));          Table::element_type row(new ArrayString(columns_count));
         skip_lines_action(&data);          skip_lines_action(&data);
         while( lsplit_result sr=lsplit(&data, separators.column, '\n', separators.encloser) ) {          while( lsplit_result sr=lsplit(&data, control_chars.separators, control_chars.encloser) ) {
                 if(!*sr.piece && !sr.delim && !row->count()) // append last empty column [if without \n]                  if(!*sr.piece && !sr.delim && !row->count()) // append last empty column [if without \n]
                         break;                          break;
                 *row+=new String(sr.piece, String::L_TAINTED);                  *row+=new String(sr.piece, String::L_TAINTED);
Line 398  static void _load(Request& r, MethodPara Line 456  static void _load(Request& r, MethodPara
         GET_SELF(r, VTable).set_table(table);          GET_SELF(r, VTable).set_table(table);
 }  }
   
 #if (!defined(NO_STRINGSTREAM) && !defined(FREEBSD4))  #ifdef USE_STRINGSTREAM
   
 #include "gc_allocator.h"  
   
 typedef std::basic_stringstream<char, std::char_traits<char>, gc_allocator<char> > pa_stringstream;  typedef std::basic_stringstream<char, std::char_traits<char>, gc_allocator<char> > pa_stringstream;
 typedef std::basic_string<char, std::char_traits<char>, gc_allocator<char> > pa_string;  typedef std::basic_string<char, std::char_traits<char>, gc_allocator<char> > pa_string;
   
 void maybe_enclose( pa_stringstream& to, const String& from, char encloser ) {  static void enclose( pa_stringstream& to, const String* from, char encloser ) {
         if(encloser) {          if(from){
                 to<<encloser;                  to<<encloser;
                 // while we have 'encloser'...                  // while we have 'encloser'...
                 size_t pos_after=0;                  size_t pos_after=0;
                 for( size_t pos_before; (pos_before=from.pos( encloser, pos_after ))!=STRING_NOT_FOUND; pos_after=pos_before) {                  for( size_t pos_before; (pos_before=from->pos( encloser, pos_after ))!=STRING_NOT_FOUND; pos_after=pos_before) {
                         pos_before++; // including first encloser (and skipping it for next pos)                          pos_before++; // including first encloser (and skipping it for next pos)
                         to<<from.mid(pos_after, pos_before).cstr();                          to<<from->mid(pos_after, pos_before).cstr();
                         to<<encloser; // doubling encloser                          to<<encloser; // doubling encloser
                 }                  }
                 // last piece                  // last piece
                 size_t from_length=from.length();                  size_t from_length=from->length();
                 if(pos_after<from_length)                  if(pos_after<from_length)
                         to<<from.mid(pos_after, from_length).cstr();                          to<<from->mid(pos_after, from_length).cstr();
   
                 to<<encloser;                  to<<encloser;
         } else          } else {
                 to<<from.cstr();                  to<<encloser<<encloser;
           }
   }
   
   static void table_to_csv(pa_stringstream& result, Table& table, TableControlChars& control_chars, bool output_column_names) {
           if(output_column_names) {
                   if(table.columns()) { // named table
                           if(control_chars.encloser){
                                   for(Array_iterator<const String*> i(*table.columns()); i.has_next(); ) {
                                           enclose( result, i.next(), control_chars.encloser );
                                           if(i.has_next())
                                                   result<<control_chars.separator;
                                   }
                           } else {
                                   for(Array_iterator<const String*> i(*table.columns()); i.has_next(); ) {
                                           result<<i.next()->cstr();
                                           if(i.has_next())
                                                   result<<control_chars.separator;
                                   }
                           }
                   } else { // nameless table [we were asked to output column names]
                           if(int lsize=table.count()?table[0]->count():0)
                                   for(int column=0; column<lsize; column++) {
                                           if(control_chars.encloser) {
                                                   result<<control_chars.encloser<<column<<control_chars.encloser;
                                           } else {
                                                   result<<column;
                                           }
                                           if(column<lsize-1){
                                                   result<<control_chars.separator;
                                           }
                                   }
                           else
                                   result<<"empty nameless table";
                   }
                   result<<'\n';
           }
   
           // process data lines
           Array_iterator<ArrayString*> i(table);
           if(control_chars.encloser){
                   while(i.has_next()) {
                           for(Array_iterator<const String*> c(*i.next()); c.has_next(); ) {
                                   enclose( result, c.next(), control_chars.encloser );
                                   if(c.has_next())
                                           result<<control_chars.separator;
                           }
                           result<<'\n';
                   }
           } else {
                   while(i.has_next()) {
                           for(Array_iterator<const String*> c(*i.next()); c.has_next(); ) {
                                   result<<c.next()->cstr();
                                   if(c.has_next())
                                           result<<control_chars.separator;
                           }
                           result<<'\n';
                   }
           }
 }  }
   
 #else  #else
   
 void maybe_enclose( String& to, const String& from, char encloser, const String* sencloser ) {  void enclose( String& to, const String* from, char encloser, const String* sencloser ) {
         if(encloser) {          if(from){
                 to<<*sencloser;                  to<<*sencloser;
                 // while we have 'encloser'...                  // while we have 'encloser'...
                 size_t pos_after=0;                  size_t pos_after=0;
                 for( size_t pos_before; (pos_before=from.pos( encloser, pos_after ))!=STRING_NOT_FOUND; pos_after=pos_before) {                  for( size_t pos_before; (pos_before=from->pos( encloser, pos_after ))!=STRING_NOT_FOUND; pos_after=pos_before) {
                         pos_before++; // including first encloser (and skipping it for next pos)                          pos_before++; // including first encloser (and skipping it for next pos)
                         to<<from.mid(pos_after, pos_before);                          to<<from->mid(pos_after, pos_before);
                         to<<*sencloser; // doubling encloser                          to<<*sencloser; // doubling encloser
                 }                  }
                 // last piece                  // last piece
                 size_t from_length=from.length();                  size_t from_length=from->length();
                 if(pos_after<from_length)                  if(pos_after<from_length)
                         to<<from.mid(pos_after, from_length);                          to<<from->mid(pos_after, from_length);
   
                 to<<*sencloser;                  to<<*sencloser;
         } else          } else {
                 to<<from;                  to<<*sencloser<<*sencloser;
           }
 }  }
   
   static void table_to_csv(String& result, Table& table, TableControlChars& control_chars, bool output_column_names) {
           if(output_column_names) {
                   if(table.columns()) { // named table
                           if(control_chars.encloser) {
                                   for(Array_iterator<const String*> i(*table.columns()); i.has_next(); ) {
                                           enclose( result, i.next(), control_chars.encloser, control_chars.sencloser );
                                           if(i.has_next())
                                                   result<<*control_chars.sseparator;
                                   }
                           } else {
                                   for(Array_iterator<const String*> i(*table.columns()); i.has_next(); ) {
                                           result<<*i.next();
                                           if(i.has_next())
                                                   result<<*control_chars.sseparator;
                                   }
                           }
                   } else { // nameless table [we were asked to output column names]
                           if(int lsize=table.count()?table[0]->count():0)
                                   for(int column=0; column<lsize; column++) {
                                           if(control_chars.encloser) {
                                                   result<<*control_chars.sencloser<<String::Body::Format(column)<<*control_chars.sencloser;
                                           } else {
                                                   result<<String::Body::Format(column);
                                           }
                                           if(column<lsize-1){
                                                   result<<*control_chars.sseparator;
                                           }
                                   }
                           else
                                   result.append_help_length("empty nameless table", 0, String::L_CLEAN);
                   }
                   result.append_know_length("\n", 1, String::L_CLEAN);
           }
   
           // data lines
           Array_iterator<ArrayString*> i(table);
           if(control_chars.encloser){
                   while(i.has_next()) {
                           for(Array_iterator<const String*> c(*i.next()); c.has_next(); ) {
                                   enclose( result, c.next(), control_chars.encloser, control_chars.sencloser );
                                   if(c.has_next())
                                           result<<*control_chars.sseparator;
                           }
                           result.append_know_length("\n", 1, String::L_CLEAN);
                   }
           } else {
                   while(i.has_next()) {
                           for(Array_iterator<const String*> c(*i.next()); c.has_next(); ) {
                                   result<<*c.next();
                                   if(c.has_next())
                                           result<<*control_chars.sseparator;
                           }
                           result.append_know_length("\n", 1, String::L_CLEAN);
                   }
           }
   }
 #endif // don't use stringstream  #endif // don't use stringstream
   
   
 static void _save(Request& r, MethodParams& params) {  static void _save(Request& r, MethodParams& params) {
         const String& first_arg=params.as_string(0, FIRST_ARG_MUST_NOT_BE_CODE);          const String& first_arg=params.as_string(0, FIRST_ARG_MUST_NOT_BE_CODE);
         size_t param_index=1;          size_t param_index=1;
Line 465  static void _save(Request& r, MethodPara Line 635  static void _save(Request& r, MethodPara
                 --param_index;                  --param_index;
   
         const String& file_name=params.as_string(param_index++, FILE_NAME_MUST_NOT_BE_CODE);          const String& file_name=params.as_string(param_index++, FILE_NAME_MUST_NOT_BE_CODE);
         String file_spec=r.absolute(file_name);          String file_spec=r.full_disk_path(file_name);
   
         if(do_append && file_exist(file_spec))          if(do_append && file_exist(file_spec))
                 output_column_names=false;                  output_column_names=false;
   
         TableSeparators separators;          TableControlChars control_chars;
         if(param_index<params.count())          if(param_index<params.count())
                 if(HashStringValue* options=params.as_hash(param_index++,                   if(HashStringValue* options=params.as_hash(param_index++)) {
                                 "additional params must be hash",                          int valid_options=control_chars.load(*options);
                                 "additional params must be hash (did you spell mode parameter correctly?)"  
                 )) {  
                         int valid_options=separators.load(*options);  
                         if(valid_options!=options->count())                          if(valid_options!=options->count())
                                 throw Exception(PARSER_RUNTIME, 0, CALLED_WITH_INVALID_OPTION);                                  throw Exception(PARSER_RUNTIME, 0, CALLED_WITH_INVALID_OPTION);
                 }                  }
   
         if(param_index<params.count())          if(param_index<params.count())
                 throw Exception(PARSER_RUNTIME,                  throw Exception(PARSER_RUNTIME, 0, "bad mode (must be nameless or append)");
                         0,  
                         "bad mode (must be nameless or append)");  
   
         Table& table=GET_SELF(r, VTable).table();          Table& table=GET_SELF(r, VTable).table();
   
 #if (!defined(NO_STRINGSTREAM) && !defined(FREEBSD4))  #ifdef USE_STRINGSTREAM
   
         pa_stringstream ost(std::stringstream::out);          pa_stringstream ost(std::stringstream::out);
   
         // process header          table_to_csv(ost, table, control_chars, output_column_names);
         if(output_column_names) {  
                 if(table.columns()) { // named table  
                         for(Array_iterator<const String*> i(*table.columns()); i.has_next(); ) {  
                                 maybe_enclose( ost, *i.next(), separators.encloser );  
                                 if(i.has_next()){  
                                         ost<<separators.column;  
                                 }  
                         }  
                 } else { // nameless table [we were asked to output column names]  
                         if(int lsize=table.count()?table[0]->count():0)  
                                 for(int column=0; column<lsize; column++) {  
                                         if(separators.encloser) {  
                                                 ost<<separators.encloser<<column<<separators.encloser;  
                                         } else {  
                                                 ost<<column;  
                                         }  
                                         if(column<lsize-1){  
                                                 ost<<separators.column;  
                                         }  
                                 }  
                         else  
                                 ost<<"empty nameless table";  
                 }  
                 ost<<'\n';  
         }  
   
         // process data lines  
         Array_iterator<ArrayString*> i(table);  
         while(i.has_next()) {  
                 for(Array_iterator<const String*> c(*i.next()); c.has_next(); ) {  
                         maybe_enclose( ost, *c.next(), separators.encloser );  
                         if(c.has_next())  
                                 ost<<separators.column;  
                 }  
                 ost<<'\n';  
         }  
   
         // write          // write
         {  
                 pa_string data=ost.str();                  pa_string data=ost.str();
                 const char* data_cstr=data.c_str();                  const char* data_cstr=data.c_str();
   
                 file_write(r.charsets, file_spec, data_cstr, data.length(), true /* as text */, do_append);                  file_write(r.charsets, file_spec, data_cstr, data.length(), true /* as text */, do_append);
         }  
   
 #else  #else
   
         String sdata;          String sdata;
         if(output_column_names) {  
                 if(table.columns()) { // named table  
                         for(Array_iterator<const String*> i(*table.columns()); i.has_next(); ) {  
                                 maybe_enclose( sdata, *i.next(), separators.encloser, separators.sencloser );  
                                 if(i.has_next())  
                                         sdata<<*separators.scolumn;  
                         }  
                 } else { // nameless table [we were asked to output column names]  
                         if(int lsize=table.count()?table[0]->count():0)  
                                 for(int column=0; column<lsize; column++) {  
                                         char *cindex_tab=new(PointerFreeGC) char[MAX_NUMBER];  
                                         sdata.append_know_length(cindex_tab,   
                                                 snprintf(cindex_tab, MAX_NUMBER,   
                                                         column<lsize-1?"%d%c":"%d", column, separators.column),  
                                                         String::L_CLEAN);  
                                 }  
                         else  
                                 sdata.append_help_length("empty nameless table", 0, String::L_CLEAN);  
                 }  
                 sdata.append_know_length("\n", 1, String::L_CLEAN);  
         }  
   
         // data lines          table_to_csv(sdata, table, control_chars, output_column_names);
         Array_iterator<ArrayString*> i(table);  
         while(i.has_next()) {  
                 for(Array_iterator<const String*> c(*i.next()); c.has_next(); ) {  
                         maybe_enclose( sdata, *c.next(), separators.encloser, separators.sencloser );  
                         if(c.has_next())  
                                 sdata<<*separators.scolumn;  
                 }  
                 sdata.append_know_length("\n", 1, String::L_CLEAN);  
         }  
   
         // write          // write
         {  
                 const char* data_cstr=sdata.cstr();                  const char* data_cstr=sdata.cstr();
                 file_write(r.charsets, file_spec, data_cstr, sdata.length(), true, do_append);          file_write(r.charsets, file_spec, data_cstr, sdata.length(), true /* as text */, do_append);
                 if(*data_cstr) // not empty (when empty it's not heap memory)                  if(*data_cstr) // not empty (when empty it's not heap memory)
                         pa_free((void*)data_cstr); // not needed anymore                          pa_free((void*)data_cstr); // not needed anymore
   #endif
   }
   
   static void _csv_string(Request& r, MethodParams& params) {
           bool output_column_names=true;
           size_t param_index=0;
           if(params.count()>0 && params[0].is_string()) {
                   if(params.as_string(0, FIRST_ARG_MUST_NOT_BE_CODE)=="nameless") {
                           output_column_names=false;
                           param_index++;
                   } else {
                           throw Exception(PARSER_RUNTIME, 0, "bad mode (must be nameless)");
                   }
         }          }
   
 #endif // don't use stringstream          TableControlChars control_chars;
           if(param_index<params.count())
                   if(HashStringValue* options=params.as_hash(param_index++)) {
                           int valid_options=control_chars.load(*options);
                           if(valid_options!=options->count())
                                   throw Exception(PARSER_RUNTIME, 0, CALLED_WITH_INVALID_OPTION);
                   }
   
           Table& table=GET_SELF(r, VTable).table();
   
   #ifdef USE_STRINGSTREAM
           pa_stringstream ost(std::stringstream::out);
   
           table_to_csv(ost, table, control_chars, output_column_names);
   
           r.write(*new VString(*new String(pa_strdup(ost.str().c_str()), String::L_CLEAN)));
   #else
           String sdata;
   
           table_to_csv(sdata, table, control_chars, output_column_names);
   
           r.write(*new VString(*new String(sdata.cstr(), String::L_CLEAN)));
   #endif
 }  }
   
 static void _count(Request& r, MethodParams& params) {  static void _count(Request& r, MethodParams& params) {
Line 591  static void _count(Request& r, MethodPar Line 718  static void _count(Request& r, MethodPar
         if(params.count()) {          if(params.count()) {
                 const String& param=params.as_string(0, PARAMETER_MUST_BE_STRING);                  const String& param=params.as_string(0, PARAMETER_MUST_BE_STRING);
                 if(param == "columns")                  if(param == "columns")
                         result = table.columns() ? table.columns()->count() : 0;                          result = table.columns() ? table.columns()->count() : table.max_cells();
                 else if(param == "cells")                  else if(param == "cells")
                         result = table.count() ? table[table.current()]->count() : 0;                          result = table.count() ? table[table.current()]->count() : 0;
                 else if(param == "rows") // synonim for ^table.count[]                  else if(param == "rows") // synonim for ^table.count[]
Line 601  static void _count(Request& r, MethodPar Line 728  static void _count(Request& r, MethodPar
         } else          } else
                 result = table.count();                  result = table.count();
   
         r.write_no_lang(*new VInt(result));          r.write(*new VInt(result));
 }  }
   
 static void _line(Request& r, MethodParams&) {  static void _line(Request& r, MethodParams&) {
         int result=1+GET_SELF(r, VTable).table().current();          int result=1+GET_SELF(r, VTable).table().current();
         r.write_no_lang(*new VInt(result));          r.write(*new VInt(result));
 }  }
   
 static void _offset(Request& r, MethodParams& params) {  static void _offset(Request& r, MethodParams& params) {
Line 620  static void _offset(Request& r, MethodPa Line 747  static void _offset(Request& r, MethodPa
                     else if(whence=="set")                      else if(whence=="set")
                                 absolute=true;                                  absolute=true;
                     else                      else
                                 throw Exception(PARSER_RUNTIME,                                  throw Exception(PARSER_RUNTIME, &whence, "is invalid whence, valid are 'cur' or 'set'");
                                         &whence,  
                                         "is invalid whence, valid are 'cur' or 'set'");  
                 }                  }
                                   
                 int offset=params.as_int(params.count()-1, "offset must be expression", r);                  int offset=params.as_int(params.count()-1, "offset must be expression", r);
                 table.offset(absolute, offset);                  table.offset(absolute, offset);
         } else          } else
                 r.write_no_lang(*new VInt(table.current()));                  r.write(*new VInt(table.current()));
 }  }
   
 static void _menu(Request& r, MethodParams& params) {  static void _menu(Request& r, MethodParams& params) {
Line 639  static void _menu(Request& r, MethodPara Line 764  static void _menu(Request& r, MethodPara
         Value* delim_maybe_code=params.count()>1?&params[1]:0;          Value* delim_maybe_code=params.count()>1?&params[1]:0;
   
         Table& table=GET_SELF(r, VTable).table();          Table& table=GET_SELF(r, VTable).table();
         int saved_current=table.current();          size_t saved_current=table.current();
         int size=table.count();  
   
         if(delim_maybe_code) { // delimiter set          if(delim_maybe_code) { // delimiter set
                 bool need_delim=false;                  bool need_delim=false;
                 for(int row=0; row<size; row++) {                  for(size_t row=0; row<table.count(); row++) {
                         table.set_current(row);                          table.set_current(row);
   
                         StringOrValue sv_processed=r.process(body_code);                          Value& sv_processed=r.process(body_code);
                         Request::Skip lskip=r.get_skip(); r.set_skip(Request::SKIP_NOTHING);                          TempSkip4Delimiter skip(r);
   
                         const String* s_processed=sv_processed.get_string();                          const String* s_processed=sv_processed.get_string();
                         if(s_processed && !s_processed->is_empty()) { // we have body                          if(s_processed && !s_processed->is_empty()) { // we have body
                                 if(need_delim) // need delim & iteration produced string?                                  if(need_delim) // need delim & iteration produced string?
                                         r.write_pass_lang(r.process(*delim_maybe_code));                                          r.write(r.process(*delim_maybe_code));
                                 else                                  else
                                         need_delim=true;                                          need_delim=true;
                         }                          }
   
                         r.write_pass_lang(sv_processed);                          r.write(sv_processed);
   
                         if(lskip==Request::SKIP_BREAK)                          if(skip.check_break())
                                 break;                                  break;
                 }                  }
         } else {          } else {
                 for(int row=0; row<size; row++) {                  for(size_t row=0; row<table.count(); row++) {
                         table.set_current(row);                          table.set_current(row);
     
                         r.process_write(body_code);                          r.process_write(body_code);
                         Request::Skip lskip=r.get_skip(); r.set_skip(Request::SKIP_NOTHING);  
     
                         if(lskip==Request::SKIP_BREAK)                          if(r.check_skip_break())
                                 break;                                  break;
                 }                  }
         }          }
Line 684  struct Row_info { Line 807  struct Row_info {
         Value* key_code;          Value* key_code;
         size_t key_field;          size_t key_field;
         Array<int>* value_fields;          Array<int>* value_fields;
           Value* value_code;
         HashStringValue* hash;          HashStringValue* hash;
         Table2hash_distint distinct;          Table2hash_distint distinct;
         size_t row;          size_t row;
Line 694  static void table_row_to_hash(Table::ele Line 818  static void table_row_to_hash(Table::ele
         const String* key;          const String* key;
         if(info->key_code) {          if(info->key_code) {
                 info->table->set_current(info->row++); // change context row                  info->table->set_current(info->row++); // change context row
                 StringOrValue sv_processed=info->r->process(*info->key_code);                  Value& sv_processed=info->r->process(*info->key_code);
                 key=&sv_processed.as_string();                  key=&sv_processed.as_string();
         } else {          } else {
                 key=info->key_field<row->count()?row->get(info->key_field):0;                  key=info->key_field < row->count() ? row->get(info->key_field) : 0;
         }          }
   
         if(!key)          if(!key)
Line 706  static void table_row_to_hash(Table::ele Line 830  static void table_row_to_hash(Table::ele
         bool exist=false;          bool exist=false;
         switch(info->value_type) {          switch(info->value_type) {
                 case C_STRING: {                  case C_STRING: {
                         size_t index=info->value_fields->get(0);                          if(info->value_fields->count()){
                         exist=info->hash->put_dont_replace(*key, (index < row->count()) ? new VString(*row->get(index)) : new VString());                                  size_t index=info->value_fields->get(0);
                                   exist=info->hash->put_dont_replace(*key, (index < row->count()) ? new VString(*row->get(index)) : VString::empty());
                           } else {
                                   exist=info->hash->put_dont_replace(*key, VString::empty());
                           }
                         break;                          break;
                 }                  }
                 case C_HASH: {                  case C_HASH: {
                         VHash* vhash=new VHash;                          VHash* vhash=new VHash;
                         HashStringValue& hash=vhash->hash();                          HashStringValue& hash=vhash->hash();
                         for(Array_iterator<int> i(*info->value_fields); i.has_next(); ) {                          Table::columns_type columns=info->table->columns();
                                 size_t value_field=i.next();                          if(info->value_fields){ // selected fields (can be empty)
                                 if(value_field<row->count())                                  for(Array_iterator<int> i(*info->value_fields); i.has_next(); ) {
                                         hash.put(                                          size_t value_field=i.next();
                                                 *info->table->columns()->get(value_field),                                           if(value_field<row->count())
                                                 new VString(*row->get(value_field)));                                                  hash.put(columns ? *columns->get(value_field) : String(format(value_field, 0)), new VString(*row->get(value_field)));
                                   }
                           } else { // all fields
                                   for(size_t index=0; index<row->count(); index++) {
                                           hash.put(columns && index < columns->count() ? *columns->get(index) : String(format(index, 0)), new VString(*row->get(index)));
                                   }
                         }                          }
   
                         exist=info->hash->put_dont_replace(*key, vhash);                          exist=info->hash->put_dont_replace(*key, vhash);
                         break;                          break;
                 }                  }
Line 739  static void table_row_to_hash(Table::ele Line 871  static void table_row_to_hash(Table::ele
                                 table=new Table(*info->table, table_options/*no rows, just structure*/);                                  table=new Table(*info->table, table_options/*no rows, just structure*/);
                                 info->hash->put(*key, new VTable(table));                                  info->hash->put(*key, new VTable(table));
                         }                          }
                         *table+=row;                          Table::element_type row_copy(new ArrayString(row->count()));
                           row_copy->append(*row);
                           *table+=row_copy;
                           break;
                   }
                   case C_CODE: {
                           if(!info->key_code)
                                   info->table->set_current(info->row++); // change context row
                           exist=info->hash->put_dont_replace(*key, &info->r->process(*info->value_code));
                         break;                          break;
                 }                  }
         }          }
         if(exist && info->distinct==D_ILLEGAL)          if(exist && info->distinct==D_ILLEGAL)
                 throw Exception(PARSER_RUNTIME,                  throw Exception(PARSER_RUNTIME, key, "duplicate key");
                         key,  
                         "duplicate key");  
 }  }
   
 Table2hash_value_type get_value_type(Value& vvalue_type){  Table2hash_value_type get_value_type(Value& vvalue_type){
Line 759  Table2hash_value_type get_value_type(Val Line 897  Table2hash_value_type get_value_type(Val
                 } else if (svalue_type == "hash") {                  } else if (svalue_type == "hash") {
                         return C_HASH;                          return C_HASH;
                 } else {                  } else {
                         throw Exception(PARSER_RUNTIME,                          throw Exception(PARSER_RUNTIME, &svalue_type, "must be 'hash', 'table' or 'string'");
                                 &svalue_type,  
                                 "must be 'hash', 'table' or 'string'");  
                 }                  }
         } else {          } else {
                 throw Exception(PARSER_RUNTIME,                  throw Exception(PARSER_RUNTIME, 0, "'type' must be string");
                         0,  
                         "'type' must be hash");  
         }          }
 }  }
   
   static Table2hash_distint get_distinct(Value& vdistinct, Table2hash_value_type& value_type){
           if(vdistinct.is_string()) {
                   const String& sdistinct=*vdistinct.get_string();
                   if(sdistinct!="tables")
                           throw Exception(PARSER_RUNTIME, &sdistinct, "must be 'tables' or true/false");
                   value_type=C_TABLE;
                   return D_FIRST;
           }
           return vdistinct.as_bool() ? D_FIRST : D_ILLEGAL;
   }
   
 static void _hash(Request& r, MethodParams& params) {  static void _hash(Request& r, MethodParams& params) {
         Table& self_table=GET_SELF(r, VTable).table();          Table& self_table=GET_SELF(r, VTable).table();
         VHash& result=*new VHash;          VHash& result=*new VHash;
         if(Table::columns_type columns=self_table.columns()){  
                 if(columns->count()>0) {  
                         Table2hash_distint distinct=D_ILLEGAL;  
                         Table2hash_value_type value_type=C_HASH;  
                         int param_index=params.count()-1;  
                         if(param_index>0) {  
                                 if(HashStringValue* options=params.as_no_junction(param_index, PARAM_MUST_NOT_BE_CODE).get_hash()){ // options where specified  
                                         --param_index;  
                                         int valid_options=0;  
                                         if(Value* vdistinct_code=options->get(sql_distinct_name)) { // $.distinct ?  
                                                 valid_options++;  
                                                 Value& vdistinct_value=r.process_to_value(*vdistinct_code);  
                                                 if(vdistinct_value.is_string()) {  
                                                         const String& sdistinct=*vdistinct_value.get_string();  
                                                         if(sdistinct=="tables") {  
                                                                 value_type=C_TABLE;  
                                                                 distinct=D_FIRST;  
                                                         } else {  
                                                                 throw Exception(PARSER_RUNTIME,  
                                                                         &sdistinct,  
                                                                         "must be 'tables' or true/false");  
                                                         }  
                                                 } else {  
                                                         distinct=vdistinct_value.as_bool()?D_FIRST:D_ILLEGAL;  
                                                 }  
                                         }  
                                         if(Value* vvalue_type_code=options->get(sql_value_type_name)) { // $.type ?  
                                                 if(value_type==C_TABLE) // $.distinct[tables] already was specified  
                                                         throw Exception(PARSER_RUNTIME,  
                                                                 0,  
                                                                 "you can't specify $.distinct[tables] and $.type[] together");  
   
                                                 valid_options++;          Table2hash_distint distinct=D_ILLEGAL;
                                                 value_type=get_value_type(r.process_to_value(*vvalue_type_code));          Table2hash_value_type value_type=C_HASH;
                                         }  
   
                                         if(valid_options!=options->count())          int param_index=params.count()-1;
                                                 throw Exception(PARSER_RUNTIME, 0, CALLED_WITH_INVALID_OPTION);          if(param_index>0) {
                                 }                  if(params[1].get_junction())
                           value_type=C_CODE;
   
                   if(HashStringValue* options=params[param_index].get_hash()){ // can't use .as_hash because the 2nd param could be table so .as_hash throws an error
                           --param_index;
                           int valid_options=0;
                           if(Value* vdistinct_code=options->get(sql_distinct_name)) { // $.distinct ?
                                   valid_options++;
                                   distinct=get_distinct(r.process(*vdistinct_code), value_type);
                           }
                           if(Value* vvalue_type_code=options->get(sql_value_type_name)) { // $.type ?
                                   if(value_type==C_TABLE) // $.distinct[tables] already was specified
                                           throw Exception(PARSER_RUNTIME, 0, "you can't specify $.distinct[tables] and $.type[] together");
                                   if(value_type==C_CODE)
                                           throw Exception(PARSER_RUNTIME, 0, "you can't specify $.type[] if value is code");
                                   valid_options++;
                                   value_type=get_value_type(r.process(*vvalue_type_code));
                         }                          }
   
                         if(param_index==2) // options was specified but not as hash                          if(valid_options!=options->count())
                                 throw Exception(PARSER_RUNTIME, 0, OPTIONS_MUST_BE_HASH);                                  throw Exception(PARSER_RUNTIME, 0, CALLED_WITH_INVALID_OPTION);
                   }
           }
   
                         Array<int> value_fields;          if(param_index==2) // options were specified but not as hash
                         if(param_index==0){ // list of columns wasn't specified                  throw Exception(PARSER_RUNTIME, 0, "options must be hash");
                                 if(value_type==C_STRING) // $.type[string]  
                                         throw Exception(PARSER_RUNTIME,  
                                                 0,  
                                                 "you must specify one value field with option $.type[string]");  
                                   
                                 for(size_t i=0; i<columns->count(); i++) // by all columns, including key  
                                         value_fields+=i;  
   
                         } else { // list of columns was specified  
                                 if(value_type==C_TABLE)  
                                         throw Exception(PARSER_RUNTIME,  
                                                 0,  
                                                 "you can't specify value field(s) with option $.distinct[tables] or $.type[tables]");  
   
                                 Value& value_fields_param=params.as_no_junction(param_index, "value field(s) must not be code");  
                                 if(value_fields_param.is_string()) { // one column as string was specified  
                                         value_fields+=self_table.column_name2index(*value_fields_param.get_string(), true);  
                                 } else if(Table* value_fields_table=value_fields_param.get_table()) { // list of columns were specified in table  
                                         for(Array_iterator<Table::element_type> i(*value_fields_table); i.has_next(); ) {  
                                                 const String& value_field_name =*i.next()->get(0);  
                                                 value_fields +=self_table.column_name2index(value_field_name, true);  
                                         }  
                                 } else  
                                         throw Exception(PARSER_RUNTIME,  
                                                 0,  
                                                 "value field(s) must be string or table");  
                         }  
   
                         if(value_type==C_STRING && value_fields.count()!=1)  
                                 throw Exception(PARSER_RUNTIME,  
                                         0,  
                                         "you can specify only one value field with option $.type[string]");  
   
                         {  
                                 Value* key_param=&params[0];  
                                 Row_info info={  
                                         &r,  
                                         &self_table,  
                                         /*key_code=*/key_param->get_junction()?key_param:0,  
                                         /*key_field=*/0/*filled below*/,  
                                         &value_fields,  
                                         &result.hash(),  
                                         distinct,  
                                         /*row=*/0,  
                                         value_type  
                                 };  
                                 info.key_field=(info.key_code?-1  
                                                 :self_table.column_name2index(key_param->as_string(), true));  
   
                                 int saved_current=self_table.current();  
                                 self_table.for_each(table_row_to_hash, &info);  
                                 self_table.set_current(saved_current);  
   
                                 result.extract_default();          bool value_all=false;
           Array<int> value_fields;
           Value* value_code=0;
   
           if(param_index==0){ // list of columns wasn't specified
                   if(value_type==C_STRING)
                           throw Exception(PARSER_RUNTIME, 0, "you must specify one value field with option $.type[string]");
   
                   value_all=true; // all columns, including key
           } else { // list of columns or code was specified
                   if(value_type==C_TABLE)
                           throw Exception(PARSER_RUNTIME, 0, "you can't specify value field(s) with option $.distinct[tables] or $.type[tables]");
   
                   Value& value_fields_param=params[1];
                   if(value_fields_param.get_junction()){ // code specified
                           value_code=&value_fields_param;
                   } else if(value_fields_param.is_string()) { // one column as string was specified
                           const String &field_name=*value_fields_param.get_string();
                           if(!field_name.is_empty())
                                   value_fields+=self_table.column_name2index(field_name, true);
                   } else if(Table* value_fields_table=value_fields_param.get_table()) { // list of columns were specified in table
                           for(Array_iterator<Table::element_type> i(*value_fields_table); i.has_next(); ) {
                                   const String& value_field_name =*i.next()->get(0);
                                   value_fields +=self_table.column_name2index(value_field_name, true);
                         }                          }
                 }                  } else
                           throw Exception(PARSER_RUNTIME, 0, "value field(s) must be string or table or code");
   
                   if(value_type==C_STRING && value_fields.count()>1)
                           throw Exception(PARSER_RUNTIME, 0, "you can't specify more then one value field with option $.type[string]");
         }          }
         r.write_no_lang(result);  
           Value* key_param=&params[0];
           Row_info info={
                   &r,
                   &self_table,
                   /*key_code=*/key_param->get_junction() ? key_param : 0,
                   /*key_field=*/0/*filled below*/,
                   value_all ? NULL : &value_fields,
                   value_code,
                   &result.hash(),
                   distinct,
                   /*row=*/0,
                   value_type
           };
           info.key_field=(info.key_code ? -1 : self_table.column_name2index(key_param->as_string(), true));
   
           int saved_current=self_table.current();
           self_table.for_each(table_row_to_hash, &info);
           self_table.set_current(saved_current);
   
           result.extract_default();
   
           r.write(result);
 }  }
   
 #ifndef DOXYGEN  #ifndef DOXYGEN
 struct Table_seq_item {  struct Table_seq_item : public PA_Allocated {
         ArrayString* row;          ArrayString* row;
         union {          union {
                 const char *c_str;                  const char *c_str;
Line 907  static int sort_cmp_double(const void *a Line 1035  static int sort_cmp_double(const void *a
 static void _sort(Request& r, MethodParams& params) {  static void _sort(Request& r, MethodParams& params) {
         Value& key_maker=params.as_junction(0, "key-maker must be code");          Value& key_maker=params.as_junction(0, "key-maker must be code");
   
         bool reverse=params.count()>1/*..[desc|asc|]*/?          bool reverse=params.count()>1 /*..[desc|asc|]*/ && params.as_no_junction(1, "order must not be code").as_string()=="desc"; // default=asc
                 reverse=params.as_no_junction(1, "order must not be code").as_string()=="desc":  
                 false; // default=asc  
   
         Table& old_table=GET_SELF(r, VTable).table();          Table& old_table=GET_SELF(r, VTable).table();
         Table& new_table=*new Table(old_table.columns());          Table& new_table=*new Table(old_table.columns());
   
         Table_seq_item* seq=new(PointerFreeGC) Table_seq_item[old_table.count()];          Table_seq_item* seq=new Table_seq_item[old_table.count()];
         int i;          int i;
   
         // calculate key values          // calculate key values
Line 924  static void _sort(Request& r, MethodPara Line 1050  static void _sort(Request& r, MethodPara
                 old_table.set_current(i);                  old_table.set_current(i);
                 // calculate key value                  // calculate key value
                 seq[i].row=old_table[i];                  seq[i].row=old_table[i];
                 Value& value=r.process_to_value(key_maker).as_expr_result(true/*return string as-is*/);                  Value& value=r.process(key_maker);
                 if(i==0) // determining key values type by first one                  if(i==0) // determining key values type by first one
                         key_values_are_strings=value.is_string();                          key_values_are_strings=value.is_string();
   
                 if(key_values_are_strings)                  if(key_values_are_strings)
                         seq[i].value.c_str=value.as_string().cstr();                          seq[i].value.c_str=value.as_string().cstr();
                 else                  else
                         seq[i].value.d=value.as_double();                          seq[i].value.d=value.as_expr_result().as_double();
         }          }
   
         // @todo: handle this elsewhere          // @todo: handle this elsewhere
         if(r.charsets.source().NAME()=="KOI8-R" && key_values_are_strings) {          if(r.charsets.source().NAME()=="KOI8-R" && key_values_are_strings) {
                 for(i=0; i<old_count; i++)                  for(i=0; i<old_count; i++)
                         if(*seq[i].value.c_str)                          if(*seq[i].value.c_str)
                                 seq[i].value.c_str=Charset::transcode(seq[i].value.c_str, r.charsets.source(), UTF8_charset).cstr();                                  seq[i].value.c_str=Charset::transcode(seq[i].value.c_str, r.charsets.source(), pa_UTF8_charset).cstr();
         }          }
   
         // sort keys          // sort keys
         _qsort(seq, old_count, sizeof(Table_seq_item),           qsort(seq, old_count, sizeof(Table_seq_item), key_values_are_strings?sort_cmp_string:sort_cmp_double);
                 key_values_are_strings?sort_cmp_string:sort_cmp_double);  
   
         // reorder table as they require in 'seq'          // reorder table as they require in 'seq'
         for(i=0; i<old_count; i++)          for(i=0; i<old_count; i++)
Line 963  struct Expression_is_true_info { Line 1088  struct Expression_is_true_info {
 #endif  #endif
   
 static bool expression_is_true(Table&, Expression_is_true_info* info) {  static bool expression_is_true(Table&, Expression_is_true_info* info) {
         return info->r->process_to_value(*info->expression_code).as_bool();          return info->r->process(*info->expression_code).as_bool();
 }  }
   
 static bool _locate_expression(Table& table, Request& r, MethodParams& params) {  static bool _locate_expression(Table& table, Request& r, MethodParams& params) {
         Value& expression_code=params.as_junction(0, "must be expression");          Value& expression_code=params.as_junction(0, "must be expression");
         const size_t options_index=1;          Table::Action_options o=get_action_options(r, params, 1, table);
         Table::Action_options o=get_action_options(r, params, options_index, table);          if(params.count()>2)
         check_option_param(o.defined, params, options_index, "locate by expression only has parameters: expression and, maybe, options");                  throw Exception(PARSER_RUNTIME, 0, "locate by expression only has parameters: expression and, maybe, options");
   
         Expression_is_true_info info={&r, &expression_code};          Expression_is_true_info info={&r, &expression_code};
         return table.table_first_that(expression_is_true, &info, o);          return table.table_first_that(expression_is_true, &info, o);
 }  }
Line 979  static bool _locate_expression(Table& ta Line 1103  static bool _locate_expression(Table& ta
 static bool _locate_name_value(Table& table, Request& r, MethodParams& params) {  static bool _locate_name_value(Table& table, Request& r, MethodParams& params) {
         const String& name=params.as_string(0, "column name must be string");          const String& name=params.as_string(0, "column name must be string");
         const String& value=params.as_string(1, VALUE_MUST_BE_STRING);          const String& value=params.as_string(1, VALUE_MUST_BE_STRING);
         const size_t options_index=2;          Table::Action_options o=get_action_options(r, params, 2, table);
         Table::Action_options o=get_action_options(r, params, options_index, table);  
         check_option_param(o.defined, params, options_index, "locate by name has parameters: name, value and, maybe, options");  
   
         return table.locate(name, value, o);          return table.locate(name, value, o);
 }  }
   
 static void _locate(Request& r, MethodParams& params) {  static void _locate(Request& r, MethodParams& params) {
         Table& table=GET_SELF(r, VTable).table();          Table& table=GET_SELF(r, VTable).table();
   
         bool result=params[0].get_junction()?          bool result=params[0].get_junction() || (params.count() == 1) ?
                 _locate_expression(table, r, params) :                  _locate_expression(table, r, params) :
                 _locate_name_value(table, r, params);                  _locate_name_value(table, r, params);
         r.write_no_lang(VBool::get(result));          r.write(VBool::get(result));
 }  }
   
   
Line 1000  static void _flip(Request& r, MethodPara Line 1121  static void _flip(Request& r, MethodPara
         Table& old_table=GET_SELF(r, VTable).table();          Table& old_table=GET_SELF(r, VTable).table();
         Table& new_table=*new Table(0);          Table& new_table=*new Table(0);
         if(size_t old_count=old_table.count())          if(size_t old_count=old_table.count())
                 if(size_t old_cols=old_table.columns()?old_table.columns()->count():old_table[0]->count())                   if(size_t old_cols=old_table.columns()?old_table.columns()->count():old_table.max_cells())
                         for(size_t column=0; column<old_cols; column++) {                          for(size_t column=0; column<old_cols; column++) {
                                 Table::element_type new_row(new ArrayString(old_count));                                  Table::element_type new_row(new ArrayString(old_count));
                                 for(size_t i=0; i<old_count; i++) {                                  for(size_t i=0; i<old_count; i++) {
Line 1010  static void _flip(Request& r, MethodPara Line 1131  static void _flip(Request& r, MethodPara
                                 new_table+=new_row;                                  new_table+=new_row;
                         }                          }
   
         r.write_no_lang(*new VTable(&new_table));          r.write(*new VTable(&new_table));
 }  }
   
 static void _append(Request& r, MethodParams& params) {  static void _foreach(Request& r, MethodParams& params) {
         Temp_lang temp_lang(r, String::L_PASS_APPENDED);          InCycle temp(r);
         const String& string=r.process_to_string(params[0]);  
           const String* rownum_var_name=&params.as_string(0, "rownum-var name must be string");
           const String* value_var_name=&params.as_string(1, "value-var name must be string");
   
           Value& body_code=params.as_junction(2, "body must be code");
           
           Value* delim_maybe_code=params.count()>3?&params[3]:0;
   
           Table& table=GET_SELF(r, VTable).table();
           size_t saved_current=table.current();
   
           rownum_var_name=rownum_var_name->is_empty()? 0 : rownum_var_name;
           value_var_name=value_var_name->is_empty()? 0 : value_var_name;
   
           Value* var_context=r.get_method_frame()->caller();
   
           if(delim_maybe_code) { // delimiter set
                   bool need_delim=false;
                   for(size_t row=0; row<table.count(); row++) {
                           table.set_current(row);
   
                           if(rownum_var_name)
                                   r.put_element(*var_context, *rownum_var_name, new VString(*new String(String::Body::Format(row), String::L_CLEAN)));
                           if(value_var_name)
                                   r.put_element(*var_context, *value_var_name, new VTable(&table));
   
                           Value& sv_processed=r.process(body_code);
                           TempSkip4Delimiter skip(r);
   
                           const String* s_processed=sv_processed.get_string();
                           if(s_processed && !s_processed->is_empty()) { // we have body
                                   if(need_delim) // need delim & iteration produced string?
                                           r.write(r.process(*delim_maybe_code));
                                   else
                                           need_delim=true;
                           }
   
                           r.write(sv_processed);
   
                           if(skip.check_break())
                                   break;
                   }
           } else {
                   for(size_t row=0; row<table.count(); row++) {
                           table.set_current(row);
    
                           if(rownum_var_name)
                                   r.put_element(*var_context, *rownum_var_name, new VString(*new String(String::Body::Format(row), String::L_CLEAN)));
                           if(value_var_name)
                                   r.put_element(*var_context, *value_var_name, new VTable(&table));
   
                           r.process_write(body_code);
    
                           if(r.check_skip_break())
                                   break;
                   }
           }
           table.set_current(saved_current);
   }
   
   static void update_cell(HashStringValue::key_type aname, HashStringValue::value_type avalue, VTable *dest) {
           dest->put_element(String(aname, String::L_CLEAN), avalue); // new not required
   }
   
   inline Table::element_type row_from_string(Request& r, Value &param){
           if(!param.is_string() && !param.get_junction())
                   throw Exception(PARSER_RUNTIME, 0, "row must be string, code or hash");
   
           const String& string=r.process_to_string(param);
   
         // parse cells          // parse cells
         Table::element_type row=new ArrayString;          Table::element_type row=new ArrayString;
         size_t pos_after=0;          string.split(*row, 0, "\t", String::L_AS_IS);
         string.split(*row, pos_after, "\t", String::L_AS_IS);  
   
         GET_SELF(r, VTable).table()+=row;          return row;
   }
   
   static void _append(Request& r, MethodParams& params) {
           VTable vtable=GET_SELF(r, VTable);
           Table& table=vtable.table();
   
           HashStringValue* hash=params[0].get_hash();
           if(hash){
                   table+=new ArrayString();
                   size_t saved_current=table.current();
                   table.set_current(table.count()-1);
                   hash->for_each<VTable*>(update_cell, &vtable);
                   table.set_current(saved_current);
           } else {
                   table+=row_from_string(r, params[0]);
           }
   }
   
   static void _insert(Request& r, MethodParams& params) {
           VTable vtable=GET_SELF(r, VTable);
           Table& table=vtable.table();
           HashStringValue* hash=params[0].get_hash();
           if(hash){
                   table.insert(table.current(), new ArrayString());
                   hash->for_each<VTable*>(update_cell, &vtable);
           } else {
                   table.insert(table.current(), row_from_string(r, params[0]));
           }
   }
   
   static void _delete(Request& r, MethodParams&) {
           Table& table=GET_SELF(r, VTable).table();
           table.remove_current();
 }  }
   
 static void join_named_row(Table& src, Table* dest) {  static void join_named_row(Table& src, Table* dest) {
Line 1039  static void join_nameless_row(Table& src Line 1260  static void join_nameless_row(Table& src
         *dest+=src[src.current()];          *dest+=src[src.current()];
 }  }
 static void _join(Request& r, MethodParams& params) {  static void _join(Request& r, MethodParams& params) {
         Table* maybe_src=params.as_no_junction(0, "table ref must not be code").get_table();          if(Table* src=params.as_table(0, "source")){
         if(!maybe_src)                  Table::Action_options o=get_action_options(r, params, 1, *src);
                 throw Exception(PARSER_RUNTIME,   
                         0,                   Table& dest=GET_SELF(r, VTable).table();
                         "source is not a table");                  if(src == &dest)
         Table& src=*maybe_src;                          throw Exception(PARSER_RUNTIME, 0, "source and destination are same table");
   
         Table::Action_options o=get_action_options(r, params, 1, src);                  if(dest.columns()) // dest is named
         check_option_param(o.defined, params, 1,                          src->table_for_each(join_named_row, &dest, o);
                 "invalid extra parameter");                  else // dest is nameless
                           src->table_for_each(join_nameless_row, &dest, o);
         Table& dest=GET_SELF(r, VTable).table();          }
         if(&src == &dest)  
                 throw Exception(PARSER_RUNTIME,   
                         0,   
                         "source and destination are same table");  
   
         if(dest.columns()) // dest is named  
                 src.table_for_each(join_named_row, &dest, o);  
         else // dest is nameless  
                 src.table_for_each(join_nameless_row, &dest, o);  
 }  }
   
 #ifndef DOXYGEN  #ifndef DOXYGEN
Line 1079  public: Line 1291  public:
                         columns+=new String(str, String::L_TAINTED /* no length as 0x00 can be inside */);                          columns+=new String(str, String::L_TAINTED /* no length as 0x00 can be inside */);
                         return false;                          return false;
                 } catch(...) {                  } catch(...) {
                         error=SQL_Error("exception occured in Table_sql_event_handlers::add_column");                          error=SQL_Error("exception occurred in Table_sql_event_handlers::add_column");
                         return true;                          return true;
                 }                  }
         }          }
         bool before_rows(SQL_Error& error) {           bool before_rows(SQL_Error& error) {
                   if(table) {
                           error=SQL_Error("result must contain exactly one table");
                           return true;
                   }
                 try {                  try {
                         table=new Table(&columns);                          table=new Table(&columns);
                         columns_count=columns.count();                          columns_count=columns.count();
                         return false;                          return false;
                 } catch(...) {                  } catch(...) {
                         error=SQL_Error("exception occured in Table_sql_event_handlers::before_rows");                          error=SQL_Error("exception occurred in Table_sql_event_handlers::before_rows");
                         return true;                          return true;
                 }                  }
         }          }
Line 1098  public: Line 1314  public:
                         *table+=row=new ArrayString(columns_count);                          *table+=row=new ArrayString(columns_count);
                         return false;                          return false;
                 } catch(...) {                  } catch(...) {
                         error=SQL_Error("exception occured in Table_sql_event_handlers::add_row");                          error=SQL_Error("exception occurred in Table_sql_event_handlers::add_row");
                         return true;                          return true;
                 }                  }
         }          }
         bool add_row_cell(SQL_Error& error, const char* str, size_t ) {          bool add_row_cell(SQL_Error& error, const char* str, size_t ) {
                 try {                  try {
                         *row+=new String(str, String::L_TAINTED /* no length as 0x00 can be inside */);                          *row+=str?new String(str, String::L_TAINTED /* no length as 0x00 can be inside */):&String::Empty;
                         return false;                          return false;
                 } catch(...) {                  } catch(...) {
                         error=SQL_Error("exception occured in Table_sql_event_handlers::add_row_cell");                          error=SQL_Error("exception occurred in Table_sql_event_handlers::add_row_cell");
                         return true;                          return true;
                 }                  }
         }          }
 };  };
 #endif  #endif
   
 static void marshal_bind(  static void marshal_bind( HashStringValue::key_type aname, HashStringValue::value_type avalue, SQL_Driver::Placeholder** pptr) {
                                                  HashStringValue::key_type aname,   
                                                  HashStringValue::value_type avalue,  
                                                  SQL_Driver::Placeholder** pptr)   
 {  
         SQL_Driver::Placeholder& ph=**pptr;          SQL_Driver::Placeholder& ph=**pptr;
         ph.name=aname.cstr();          ph.name=aname.cstr();
         ph.value=avalue->as_string().untaint_cstr(String::L_AS_IS);          ph.value=avalue->as_string().untaint_cstr(String::L_AS_IS);
Line 1131  static void marshal_bind( Line 1343  static void marshal_bind(
 // not static, used elsewhere  // not static, used elsewhere
 int marshal_binds(HashStringValue& hash, SQL_Driver::Placeholder*& placeholders) {  int marshal_binds(HashStringValue& hash, SQL_Driver::Placeholder*& placeholders) {
         int hash_count=hash.count();          int hash_count=hash.count();
         placeholders=new(UseGC) SQL_Driver::Placeholder[hash_count];          placeholders=new(PointerGC) SQL_Driver::Placeholder[hash_count];
         SQL_Driver::Placeholder* ptr=placeholders;          SQL_Driver::Placeholder* ptr=placeholders;
         hash.for_each<SQL_Driver::Placeholder**>(marshal_bind, &ptr);          hash.for_each<SQL_Driver::Placeholder**>(marshal_bind, &ptr);
         return hash_count;          return hash_count;
Line 1158  static void _sql(Request& r, MethodParam Line 1370  static void _sql(Request& r, MethodParam
         ulong limit=SQL_NO_LIMIT;          ulong limit=SQL_NO_LIMIT;
         ulong offset=0;          ulong offset=0;
         if(params.count()>1)          if(params.count()>1)
                 if(HashStringValue* options=params.as_hash(1)) {                  if(HashStringValue* options=params.as_hash(1, "sql options")) {
                         int valid_options=0;                          int valid_options=0;
                         if(Value* vbind=options->get(sql_bind_name)) {                          if(Value* vbind=options->get(sql_bind_name)) {
                                 valid_options++;                                  valid_options++;
Line 1166  static void _sql(Request& r, MethodParam Line 1378  static void _sql(Request& r, MethodParam
                         }                          }
                         if(Value* vlimit=options->get(sql_limit_name)) {                          if(Value* vlimit=options->get(sql_limit_name)) {
                                 valid_options++;                                  valid_options++;
                                 limit=(ulong)r.process_to_value(*vlimit).as_double();                                  limit=(ulong)r.process(*vlimit).as_double();
                         }                          }
                         if(Value* voffset=options->get(sql_offset_name)) {                          if(Value* voffset=options->get(sql_offset_name)) {
                                 valid_options++;                                  valid_options++;
                                 offset=(ulong)r.process_to_value(*voffset).as_double();                                  offset=(ulong)r.process(*voffset).as_double();
                         }                          }
                         if(valid_options!=options->count())                          if(valid_options!=options->count())
                                 throw Exception(PARSER_RUNTIME, 0, CALLED_WITH_INVALID_OPTION);                                  throw Exception(PARSER_RUNTIME, 0, CALLED_WITH_INVALID_OPTION);
Line 1181  static void _sql(Request& r, MethodParam Line 1393  static void _sql(Request& r, MethodParam
         if(bind)          if(bind)
                 placeholders_count=marshal_binds(*bind, placeholders);                  placeholders_count=marshal_binds(*bind, placeholders);
   
         Temp_lang temp_lang(r, String::L_SQL);  
         const String&  statement_string=r.process_to_string(statement);          const String&  statement_string=r.process_to_string(statement);
         const char* statement_cstr=statement_string.untaint_cstr(r.flang, r.connection());          const char* statement_cstr=statement_string.untaint_cstr(String::L_SQL, r.connection());
   
         Table_sql_event_handlers handlers;          Table_sql_event_handlers handlers;
 #ifdef RESOURCES_DEBUG  
         struct timeval mt[2];  
         //measure:before  
         gettimeofday(&mt[0],NULL);  
 #endif    
         r.connection()->query(          r.connection()->query(
                 statement_cstr,                   statement_cstr, 
                 placeholders_count, placeholders,                  placeholders_count, placeholders,
Line 1198  static void _sql(Request& r, MethodParam Line 1405  static void _sql(Request& r, MethodParam
                 handlers,                  handlers,
                 statement_string);                  statement_string);
                   
 #ifdef RESOURCES_DEBUG  
                 //measure:after connect  
         gettimeofday(&mt[1],NULL);  
           
         double t[2];  
         for(int i=0;i<2;i++)  
             t[i]=mt[i].tv_sec+mt[i].tv_usec/1000000.0;  
               
         r.sql_request_time+=t[1]-t[0];  
 #endif                            
   
         if(bind)          if(bind)
                 unmarshal_bind_updates(*bind, placeholders_count, placeholders);                  unmarshal_bind_updates(*bind, placeholders_count, placeholders);
   
Line 1240  static void _columns(Request& r, MethodP Line 1436  static void _columns(Request& r, MethodP
                 }                  }
         }          }
   
         r.write_no_lang(*new VTable(&result_table));          r.write(*new VTable(&result_table));
 }  }
   
 static void _select(Request& r, MethodParams& params) {  static void _select(Request& r, MethodParams& params) {
           InCycle temp(r);
         Value& vcondition=params.as_expression(0, "condition must be number, bool or expression");          Value& vcondition=params.as_expression(0, "condition must be number, bool or expression");
   
         Table& source_table=GET_SELF(r, VTable).table();          Table& source_table=GET_SELF(r, VTable).table();
   
         int limit=source_table.count();          int limit=source_table.count();
         int offset = 0;          int offset=0;
         bool reverse = false;          bool reverse=false;
                   
         if(params.count()>1)          if(params.count()>1)
                 if(HashStringValue* options=params.as_hash(1)) {                  if(HashStringValue* options=params.as_hash(1)) {
                         int valid_options=0;                          int valid_options=0;
                         if(Value* vlimit=options->get(sql_limit_name)) {                          if(Value* vlimit=options->get(sql_limit_name)) {
                                 valid_options++;                                  valid_options++;
                                 limit=r.process_to_value(*vlimit).as_int();                                  limit=r.process(*vlimit).as_int();
                         }                          }
                         if(Value* voffset=options->get(sql_offset_name)) {                          if(Value* voffset=options->get(sql_offset_name)) {
                                 valid_options++;                                  valid_options++;
                                 offset=r.process_to_value(*voffset).as_int();                                  offset=r.process(*voffset).as_int();
                         }                          }
                         if(Value* vreverse=options->get(table_reverse_name)) {                          if(Value* vreverse=options->get(table_reverse_name)) {
                                 valid_options++;                                  valid_options++;
                                 reverse=r.process_to_value(*vreverse).as_bool();                                  reverse=r.process(*vreverse).as_bool();
                         }                          }
                         if(valid_options!=options->count())                          if(valid_options!=options->count())
                                 throw Exception(PARSER_RUNTIME,                                  throw Exception(PARSER_RUNTIME, 0, CALLED_WITH_INVALID_OPTION);
                                         0,  
                                         "called with invalid option");  
                 }                  }
   
         Table& result_table=*new Table(source_table.columns());          Table& result_table=*new Table(source_table.columns());
   
         int saved_current=source_table.current();          size_t size=source_table.count();
         int size=source_table.count();          if(offset<0)
         int appended = 0;                  offset+=size;
           if(size && limit>0 && offset>=0 && (size_t)offset<size){
         if(reverse){                  size_t saved_current=source_table.current();
                 for(int row=size-1; row >=0 && result_table.count() < limit; row--) {                  size_t appended=0;
                         source_table.set_current(row);  
                   if(reverse){
                           for(size_t row=size-1; result_table.count() < (size_t)limit; row--) {
                                   source_table.set_current(row);
   
                         bool condition=r.process_to_value(vcondition, false/*don't intercept string*/).as_bool();                                  bool condition=r.process(vcondition).as_bool();
   
                         if(condition && ++appended > offset) // ...condition is true, adding to the result                                  if(r.check_skip_break())
                                 result_table+=source_table[row];                                          break;
                 }  
         } else {                                  if(condition && ++appended > (size_t)offset) // ...condition is true, adding to the result
                 for(int row=0; row < size && result_table.count() < limit; row++) {                                          result_table+=source_table[row];
                         source_table.set_current(row);                                  if(row==0) break;
                           }
                   } else {
                           for(size_t row=0; row < size && result_table.count() < (size_t)limit; row++) {
                                   source_table.set_current(row);
   
                                   bool condition=r.process(vcondition).as_bool();
   
                         bool condition=r.process_to_value(vcondition, false/*don't intercept string*/).as_bool();                                  if(r.check_skip_break())
                                           break;
   
                         if(condition && ++appended > offset) // ...condition is true, adding to the result                                  if(condition && ++appended > (size_t)offset) // ...condition is true, adding to the result
                                 result_table+=source_table[row];                                          result_table+=source_table[row];
                           }
                 }                  }
                   source_table.set_current(saved_current);
         }          }
         source_table.set_current(saved_current);  
   
         r.write_no_lang(*new VTable(&result_table));          r.write(*new VTable(&result_table));
   }
   
   
   static void _rename(Request& r, MethodParams& params) {
           const String* name_from=NULL;
           const String* name_to=NULL;
           HashStringValue* names=NULL;
   
           if(params.count()>1){
                   name_from=&params.as_string(0, COLUMN_NAME_MUST_BE_STRING);
                   name_to=&params.as_string(1, COLUMN_NAME_MUST_BE_STRING);
           } else
                   names=params.as_hash(0);
   
           Table& table=GET_SELF(r, VTable).table();
           if(Table::columns_type columns=table.columns()) {
                   if(names){
                           for(int i=0; i<columns->count(); i++) {
                                   const String *column = columns->get(i);
                                   if(Value* vto=names->get(*column)){
                                           if(const String *sto=vto->get_string())
                                                   columns->put(i, sto);
                                           else
                                                   throw Exception(PARSER_RUNTIME, column, COLUMN_NAME_MUST_BE_STRING);
                                   }
                           }
                   } else if(name_from){
                           for(int i=0; i<columns->count(); i++) {
                                   const String *column = columns->get(i);
                                   if(*column == *name_from)
                                           columns->put(i, name_to);
                           }
                   }
                   table.column_names_init();
           } else
                   throw Exception(PARSER_RUNTIME, 0, "columns renaming is not supported for nameless tables");
 }  }
   
 // constructor  // constructor
Line 1323  MTable::MTable(): Methoded("table") { Line 1565  MTable::MTable(): Methoded("table") {
   
         // add_native_method("save_old", Method::CT_DYNAMIC, _save_old, 1, 3);          // add_native_method("save_old", Method::CT_DYNAMIC, _save_old, 1, 3);
   
           // ^table.csv-string[]
           // ^table.csv-string[nameless]
           // ^table.csv-string[nameless;$.encloser["] $.separator[,]]
           add_native_method("csv-string", Method::CT_DYNAMIC, _csv_string, 0, 2);
   
         // ^table.count[]          // ^table.count[]
         // ^table.count[rows]          // ^table.count[rows]
         // ^table.count[columns]          // ^table.count[columns]
Line 1355  MTable::MTable(): Methoded("table") { Line 1602  MTable::MTable(): Methoded("table") {
         // ^table.flip[]          // ^table.flip[]
         add_native_method("flip", Method::CT_DYNAMIC, _flip, 0, 0);          add_native_method("flip", Method::CT_DYNAMIC, _flip, 0, 0);
   
         // ^table.append{r{tab}e{tab}c{tab}o{tab}r{tab}d}          // ^table.foreach[row-num;value]{code}
           // ^table.foreach[row-num;value]{code}[delim]
           add_native_method("foreach", Method::CT_DYNAMIC, _foreach, 3, 4);
   
           // ^table.append{row{tab}data}
         add_native_method("append", Method::CT_DYNAMIC, _append, 1, 1);          add_native_method("append", Method::CT_DYNAMIC, _append, 1, 1);
   
           // ^table.insert{row{tab}data} before current row
           add_native_method("insert", Method::CT_DYNAMIC, _insert, 1, 1);
   
           // ^table.delete[] current row
           add_native_method("delete", Method::CT_DYNAMIC, _delete, 0, 0);
   
         // ^table.join[table][$.limit(10) $.offset(1) $.offset[cur] ]          // ^table.join[table][$.limit(10) $.offset(1) $.offset[cur] ]
         add_native_method("join", Method::CT_DYNAMIC, _join, 1, 2);          add_native_method("join", Method::CT_DYNAMIC, _join, 1, 2);
   
Line 1371  MTable::MTable(): Methoded("table") { Line 1628  MTable::MTable(): Methoded("table") {
   
         // ^table.select(expression) = table          // ^table.select(expression) = table
         add_native_method("select", Method::CT_DYNAMIC, _select, 1, 2);          add_native_method("select", Method::CT_DYNAMIC, _select, 1, 2);
   
           // ^table.rename[column name from;column name to] 
           // ^table.rename[ $.[column name from][column name to] ... ]
           add_native_method("rename", Method::CT_DYNAMIC, _rename, 1, 2);
 }  }
Removed from v.1.281  
changed lines
  Added in v.1.360

E-mail: