Diff for /parser3/src/classes/table.C between versions 1.173 and 1.232

version 1.173, 2003/04/04 13:44:59 version 1.232, 2007/08/20 10:07:36
Line 1 Line 1
 /** @file  /** @file
         Parser: @b table parser class.          Parser: @b table parser class.
   
         Copyright (c) 2001, 2003 ArtLebedev Group (http://www.artlebedev.com)          Copyright (c) 2001-2005 ArtLebedev Group (http://www.artlebedev.com)
         Author: Alexandr Petrosian <paf@design.ru> (http://paf.design.ru)          Author: Alexandr Petrosian <paf@design.ru> (http://paf.design.ru)
 */  */
   
 static const char* IDENT_TABLE_C="$Date$";  static const char * const IDENT_TABLE_C="$Date$";
   
   #include <sstream>
   using namespace std;
   
 #include "classes.h"  #include "classes.h"
   #include "pa_vmethod_frame.h"
   
 #include "pa_common.h"  #include "pa_common.h"
 #include "pa_request.h"  #include "pa_request.h"
 #include "pa_vtable.h"  #include "pa_vtable.h"
Line 17  static const char* IDENT_TABLE_C="$Date$ Line 22  static const char* IDENT_TABLE_C="$Date$
   
 // class  // class
   
 class MTable : public Methoded {  class MTable: public Methoded {
 public: // VStateless_class  public: // VStateless_class
         Value *create_new_value(Pool& pool) { return new(pool) VTable(pool); }          Value* create_new_value(Pool&, HashStringValue&) { return new VTable(); }
   
 public:  public:
         MTable(Pool& pool);          MTable();
   
 public: // Methoded  public: // Methoded
         bool used_directly() { return true; }          bool used_directly() { return true; }
 };  };
   
 // methods  // global variable
   
 static void get_copy_options(Request& r, const String& method_name, MethodParams *params, int param_index,  DECLARE_CLASS_VAR(table, new MTable, 0);
                                                          const Table& source,  
                                                          int& offset,  
                                                          int& limit) {  
         offset=0;  
         limit=0;  
         if(params->size()<=param_index)  
                 return;  
   
         Value& voptions=params->as_no_junction(param_index, "options must be hash, not code");  // externs
         if(!voptions.is_string()) {  
                 if(Hash *options=voptions.get_hash(&method_name)) {  extern String cycle_data_name;
                         int valid_options=0;  
                         if(Value *voffset=(Value *)options->get(*sql_offset_name)) {  // defines for globals
                                 valid_options++;  
                                 if(voffset->is_string()) {  #define SQL_BIND_NAME "bind"
                                         const String& soffset=*voffset->get_string();  #define SQL_DEFAULT_NAME "default"
                                         if(soffset == "cur")  #define SQL_DISTINCT_NAME "distinct"
                                                 offset=source.current();  #define SQL_VALUE_TYPE_NAME "type"
                                         else  #define TABLE_REVERSE_NAME "reverse"
                                                 throw Exception("parser.runtime",  
                                                         &soffset,  
                                                         "must be 'cur' string or expression");  // globals
                                 } else   
                                         offset=r.process_to_value(*voffset).as_int();  String sql_bind_name(SQL_BIND_NAME);
                         }  String sql_limit_name(PA_SQL_LIMIT_NAME);
                         if(Value *vlimit=(Value *)options->get(*sql_limit_name)) {  String sql_offset_name(PA_SQL_OFFSET_NAME);
                                 valid_options++;  String sql_default_name(SQL_DEFAULT_NAME);
                                 limit=r.process_to_value(*vlimit).as_int();  String sql_distinct_name(SQL_DISTINCT_NAME);
                         }  String sql_value_type_name(SQL_VALUE_TYPE_NAME);
                         if(valid_options!=options->size())  String table_reverse_name(TABLE_REVERSE_NAME);
                                 throw Exception("parser.runtime",  
                                         &method_name,  // methods
                                         "called with invalid option");  
                 } else  static Table::Action_options get_action_options(Request& r, MethodParams& params, 
                         throw Exception("parser.runtime",                                                  const Table& source) {
                                 &method_name,          Table::Action_options result;
                                 "options must be hash");          if(!params.count())
                   return result;
   
           Value& maybe_options=params.last();
   /* can not do it: 
           want to enable ^table::create[$source;
   #               $.option[]
           ]
           but there is ^table.locate[name;value]
   
           ...if(voptions.is_defined() && !voptions.is_string()))
           if(maybe_options.is_string()) { // allow empty options
                   result.defined=true;
                   return result;
           }
   */
           HashStringValue* options=maybe_options.get_hash();
           if(!options)
                   return result;
   
           result.defined=true;
           bool defined_offset=false;
   
           int valid_options=0;
           if(Value* voffset=options->get(sql_offset_name)) {
                   valid_options++;
                   defined_offset=true;
                   if(voffset->is_string()) {
                           const String&  soffset=*voffset->get_string();
                           if(soffset == "cur")
                                   result.offset=source.current();
                           else
                                   throw Exception(PARSER_RUNTIME,
                                           &soffset,
                                           "must be 'cur' string or expression");
                   } else 
                           result.offset=r.process_to_value(*voffset).as_int();
         }          }
         if(!limit) // zero limit = sould be 'nothing to copy', for methods zero means 'all'          if(Value* vlimit=options->get(sql_limit_name)) {
                 limit=-1; // thus fixing                  valid_options++;
                   result.limit=r.process_to_value(*vlimit).as_int();
           }
           if(Value *vreverse=(Value *)options->get(table_reverse_name)) { 
                   valid_options++; 
                   result.reverse=r.process_to_value(*vreverse).as_bool(); 
                   if(result.reverse && !defined_offset) 
                           result.offset=source.count()-1; 
           } 
   
           if(valid_options!=options->count())
                   throw Exception(PARSER_RUNTIME,
                           0,
                           "called with invalid option");
   
           return result;
   }
   static void check_option_param(bool options_defined, 
                             MethodParams& params, size_t next_param_index,
                             const char *msg) {
           if(next_param_index+(options_defined?1:0) != params.count())
                   throw Exception(PARSER_RUNTIME,
                           0,
                           "%s", msg);
 }  }
   
 static void _create(Request& r, const String& method_name, MethodParams *params) {  static void _create(Request& r, MethodParams& params) {
         Pool& pool=r.pool();  
         // clone/copy part?          // clone/copy part?
         if(const Table *source=params->get(0).get_table()) {          if(Table *source=params[0].get_table()) {
                 int offset, limit;                  Table::Action_options o=get_action_options(r, params, *source);
                 get_copy_options(r, method_name, params, 1, *source,                   check_option_param(o.defined, params, 1, 
                         offset, limit);                          "too many parameters");
                 static_cast<VTable *>(r.get_self())->set_table(*new(pool) Table(pool, *source, offset, limit));                  GET_SELF(r, VTable).set_table(*new Table(*source, o));
                 return;                  return;
         }          }
   
         // data is last parameter          // data is last parameter
         Temp_lang temp_lang(r, String::UL_PASS_APPENDED);          Temp_lang temp_lang(r, String::L_PASS_APPENDED);
         const String& data=          const String&  data=
                 r.process_to_string(params->as_junction(params->size()-1, "body must be code"));                  r.process_to_string(params.as_junction(params.count()-1, "body must be code"));
   
         size_t pos_after=0;  
         // parse columns          // parse columns
         Array *columns;          size_t raw_pos_after=0;
         if(params->size()==2) {          Table::columns_type columns;
                 columns=0;          if(params.count()==2) {
                   const String& snameless=params.as_string(0, "called with two params, first param may only be string 'nameless'");
                   if(snameless!="nameless")
                           throw Exception(PARSER_RUNTIME,
                                   &snameless,
                                   "table::create called with two params, first param may only be 'nameless'");
                   columns=Table::columns_type(0); // nameless
         } else {          } else {
                 columns=new(pool) Array(pool);                  columns=Table::columns_type(new ArrayString);
   
                 Array head(pool);                  ArrayString head;
                 data.split(head, &pos_after, "\n", 1, String::UL_AS_IS, 1);                  data.split(head, raw_pos_after, "\n", String::L_AS_IS, 1);
                 if(head.size())                  if(head.count()) {
                         head.get_string(0)->split(*columns, 0, "\t", 1, String::UL_AS_IS);                          size_t col_pos_after=0;
                           head[0]->split(*columns, col_pos_after, "\t", String::L_AS_IS);
                   }
         }          }
   
         Table& table=*new(pool) Table(pool, &method_name, columns);          Table& table=*new Table(columns);
         // parse cells          // parse cells
         Array rows(pool);  
         data.split(rows, &pos_after, "\n", 1, String::UL_AS_IS);          ArrayString rows;
         Array_iter i(rows);          data.split(rows, raw_pos_after, "\n", String::L_AS_IS);
           Array_iterator<const String*> i(rows);
         while(i.has_next()) {          while(i.has_next()) {
                 Array& row=*new(pool) Array(pool);                  Table::element_type row(new ArrayString);
                 const String& string=*i.next_string();                  const String&  string=*i.next();
                 // remove comment lines                  // remove comment lines
                 if(!string.size())                  if(!string.length())
                         continue;                          continue;
   
                 string.split(row, 0, "\t", 1, String::UL_AS_IS);                  size_t col_pos_after=0;
                 table+=&row;                  string.split(*row, col_pos_after, "\t", String::L_AS_IS);
                   table+=row;
         }          }
   
         // replace any previous table value          // replace any previous table value
         static_cast<VTable *>(r.get_self())->set_table(table);          GET_SELF(r, VTable).set_table(table);
 }  }
   
 static void _load(Request& r, const String& method_name, MethodParams *params) {  struct lsplit_result {
         Pool& pool=r.pool();          char* piece;
         const String& first_param=params->as_string(0, "file name must be string");          char delim;
   
           operator bool() { return piece!=0; }
   };
   
   inline lsplit_result lsplit(char* string, char delim1, char delim2) {
           lsplit_result result;
       if(string) {
                   char delims[]={delim1, delim2, 0};
                   if(char* v=strpbrk(string, delims)) {
                           result.delim=*v;
                           *v=0;
                           result.piece=v+1;
                           return result;
                   }
       }
           result.piece=0;
           result.delim=0;
       return result;
   }
   
   inline lsplit_result lsplit(char* *string_ref, char delim1, char delim2) {
       lsplit_result result;
           result.piece=*string_ref;
           lsplit_result next=lsplit(*string_ref, delim1, delim2);
           result.delim=next.delim;
           *string_ref=next.piece;
       return result;
   }
   
   static lsplit_result lsplit(char** string_ref, char delim1, char delim2, char encloser) {
           lsplit_result result;
   
       if(char* string=*string_ref) {
                   if(encloser && *string==encloser) {
               string++;
                           
                           char *read;
                           char *write;
                           write=read=string;
                           char c;
                           while((c=*read++)) {
                                   if(c==encloser) {
                                           char n=*read;
                                           if(n==encloser) // double-encloser stands for encloser
                                                   read++;
                                           else if(n==delim1 || n==delim2) {
                                                   result.delim=n;
                                                   read++;
                                                   break;
                                           }
                                   }
   
                                   *write++=c;
                           }
                           *write=0; // terminate
                           *string_ref=c? read: 0;
                           result.piece=string;
                           return result;
                   } else
                           return lsplit(string_ref, delim1, delim2);
       }
           result.piece=0;
       return result;
   }
   
   static void skip_empty_and_comment_lines( char** data_ref ) {
           if(char *data=*data_ref) {
                   while( char c=*data ) {
                           if( c== '\n' || c == '#' ) {
                                   /*nowhere=*/getrow(&data); // remove empty&comment lines
                                   if(!(*data_ref=data))
                                           break;
                                   continue;
                           }
                           break;
                   }
           }
   }
   
   struct TableSeparators {
           char column;  const String* scolumn;
           char encloser; const String* sencloser;
   
           TableSeparators():
                   column('\t'), scolumn(new String("\t", false)),
                   encloser(0), sencloser(0)
           {}
           int load( HashStringValue& options ) {
                   int result=0;
                   if(Value* vseparator=options.get(PA_COLUMN_SEPARATOR_NAME)) {
                           scolumn=&vseparator->as_string();
                           if(scolumn->length()!=1)
                                   throw Exception(PARSER_RUNTIME,
                                           scolumn,
                                           "separator must be one character long");
                           column=scolumn->first_char();
                           result++;
                   }
                   if(Value* vencloser=options.get(PA_COLUMN_ENCLOSER_NAME)) {
                           sencloser=&vencloser->as_string();
                           if(sencloser->length()!=1)
                                   throw Exception(PARSER_RUNTIME,
                                           sencloser,
                                           "encloser must be one character long");
                           encloser=sencloser->first_char();
                           result++;
                   }
                   return result;
           }
   };
   
   static void _load(Request& r, MethodParams& params) {
           const String&  first_param=params.as_string(0, FILE_NAME_MUST_BE_STRING);
         int filename_param_index=0;          int filename_param_index=0;
         bool nameless=first_param=="nameless";          bool nameless=first_param=="nameless";
         if(nameless)          if(nameless)
                 filename_param_index++;                  filename_param_index++;
         int options_param_index=filename_param_index+1;          size_t options_param_index=filename_param_index+1;
           
           HashStringValue *options=0;
           TableSeparators separators;
           if(options_param_index<params.count()
                   && (options=params.as_no_junction(options_param_index, "additional params must be hash").get_hash())) {
                   // cloning, so that we could change [to simplify checks on params inside file_read_text
                   options=new HashStringValue(*options);
                   separators.load(*options);
           }
   
         // loading text          // loading text
         char *data=file_read_text(pool,           char *data=file_read_text(r.charsets,
                 r.absolute(params->as_string(filename_param_index, "file name must be string")),                  r.absolute(params.as_string(filename_param_index, FILE_NAME_MUST_BE_STRING)),
                 true,                  true,
                 options_param_index<params->size()?params->as_no_junction(options_param_index, "additional params must be hash").get_hash(&method_name):0                  options
         );          );
   
         // parse columns          // parse columns
         Array *columns;          Table::columns_type columns;
 #ifndef NO_STRING_ORIGIN  
         const Origin& origin=method_name.origin();  
         const char *file=origin.file;  
         uint line=origin.line;  
 #endif  
         if(nameless) {          if(nameless) {
                 columns=0; // nameless                  columns=Table::columns_type(0); // nameless
         } else {          } else {
                 columns=new(pool) Array(pool);                  columns=Table::columns_type(new ArrayString);
   
                 while(char *row_chars=getrow(&data)) {                  skip_empty_and_comment_lines(&data);
                         // remove empty&comment lines                  while( lsplit_result sr=lsplit(&data, separators.column, '\n', separators.encloser) ) {
                         if(!*row_chars || *row_chars == '#')                          *columns+=new String(sr.piece, 0, true);
                                 continue;                          if(sr.delim=='\n') 
                         do {                                  break;
                                 String *name=new(pool) String(pool);  
                                 name->APPEND_TAINTED(lsplit(&row_chars, '\t'), 0, file, line++);  
                                 *columns+=name;  
                         } while(row_chars);  
   
                         break;  
                 }                  }
         }          }
           
           Table& table=*new Table(columns);
           int columns_count=columns? columns->count(): 0;
   
         // parse cells          // parse cells
         Table& table=*new(pool) Table(pool, &method_name, columns);          Table::element_type row(new ArrayString(columns_count));
         char *row_chars;          skip_empty_and_comment_lines(&data);
         while(row_chars=getrow(&data)) {          while( lsplit_result sr=lsplit(&data, separators.column, '\n', separators.encloser) ) {
                 // remove empty&comment lines                  if(!*sr.piece && !sr.delim && !row->count()) // append last empty column [if without \n]
                 if(!*row_chars || *row_chars == '#')                          break;
                         continue;                  *row+=new String(sr.piece, 0, true);
                 Array *row=new(pool) Array(pool);                  if(sr.delim=='\n') {
                 while(char *cell_chars=lsplit(&row_chars, '\t')) {                          table+=row;
                         String *cell=new(pool) String(pool);                          row=new ArrayString(columns_count);
                         cell->APPEND_TAINTED(cell_chars, 0, file, line);                          skip_empty_and_comment_lines(&data);
                         *row+=cell;  
                 }                  }
 #ifndef NO_STRING_ORIGIN          }
                 line++;          // last line [if without \n]
 #endif          if(row->count())
                 table+=row;                  table+=row;
         };          
   
         // replace any previous table value          // replace any previous table value
         static_cast<VTable *>(r.get_self())->set_table(table);          GET_SELF(r, VTable).set_table(table);
 }  }
   
 /// @todo "x\nx" "xxx""xx"  void maybe_enclose( String& to, const String& from, char encloser, const String* sencloser ) {
 static void _save(Request& r, const String& method_name, MethodParams *params) {          if(encloser) {
         Pool& pool=r.pool();                  to<<*sencloser;
         Value& vfile_name=params->as_no_junction(params->size()-1,                   // while we have 'encloser'...
                 "file name must not be code");                  size_t pos_after=0;
                   for( size_t pos_before; (pos_before=from.pos( encloser, pos_after ))!=STRING_NOT_FOUND; pos_after=pos_before) {
                           pos_before++; // including first encloser (and skipping it for next pos)
               to<<from.mid(pos_after, pos_before);
                           to<<*sencloser; // doubling encloser
                   }
                   // last piece
                   size_t from_length=from.length();
                   if(pos_after<from_length)
                           to<<from.mid(pos_after, from_length);
   
         Table& table=static_cast<VTable *>(r.get_self())->table(&method_name);                  to<<*sencloser;
           } else
                   to<<from;
   }
   
   void maybe_enclose( ostringstream& to, const String& from, char encloser ) {
           if(encloser) {
                   to<<encloser;
                   // while we have 'encloser'...
                   size_t pos_after=0;
                   for( size_t pos_before; (pos_before=from.pos( encloser, pos_after ))!=STRING_NOT_FOUND; pos_after=pos_before) {
                           pos_before++; // including first encloser (and skipping it for next pos)
               to<<from.mid(pos_after, pos_before).cstr();
                           to<<encloser; // doubling encloser
                   }
                   // last piece
                   size_t from_length=from.length();
                   if(pos_after<from_length)
                           to<<from.mid(pos_after, from_length).cstr();
   
                   to<<encloser;
           } else
                   to<<from.cstr();
   }
   
   
   static void _save_old(Request& r, MethodParams& params) {
           const String& first_arg=params.as_string(0, "first argument must not be code");
           size_t param_index=1;
   
         bool do_append=false;          bool do_append=false;
         String sdata(pool);          bool output_column_names=true;
         if(params->size()==1) { // named output  
                 // write out names line          // mode?
           if(first_arg=="append")
                   do_append=true;
           else if(first_arg=="nameless")
                   output_column_names=false;
           else
                   --param_index;
   
           const String& file_name=params.as_string(param_index++, FILE_NAME_MUST_NOT_BE_CODE);
   
           TableSeparators separators;
           if(param_index<params.count()) {
                   Value& voptions=params.as_no_junction(param_index++, "additional params must be hash");
                   if( voptions.is_defined() && !voptions.is_string() ) {
                           if(HashStringValue* options=voptions.get_hash()) {
                                   int valid_options=separators.load(*options);
                                   if(valid_options!=options->count())
                                           throw Exception(PARSER_RUNTIME,
                                                   0,
                                                   "invalid option passed");
                           } else {
                                   throw Exception(PARSER_RUNTIME,
                                           0,
                                           "additional params must be hash (did you spell mode parameter correctly?)");
                           }
                   }
           }
           if(param_index<params.count())
                   throw Exception(PARSER_RUNTIME,
                           0,
                           "bad mode (must be nameless or append)");
   
           Table& table=GET_SELF(r, VTable).table();
   
           String sdata;
           if(output_column_names) {
                 if(table.columns()) { // named table                  if(table.columns()) { // named table
                         Array_iter i(*table.columns());                          for(Array_iterator<const String*> i(*table.columns()); i.has_next(); ) {
                         while(i.has_next()) {                                  maybe_enclose( sdata, *i.next(), separators.encloser, separators.sencloser );
                                 sdata.append(*i.next_string(), //*static_cast<String *>(table.columns()->quick_get(column)),   
                                         String::UL_TABLE);  
                                 if(i.has_next())                                  if(i.has_next())
                                         sdata.APPEND_CONST("\t");                                          sdata<<*separators.scolumn;
                         }                          }
                 } else { // nameless table                  } else { // nameless table [we were asked to output column names]
                         if(int lsize=table.size()?static_cast<Array *>(table.get(0))->size():0)                          if(int lsize=table.count()?table[0]->count():0)
                                 for(int column=0; column<lsize; column++) {                                  for(int column=0; column<lsize; column++) {
                                         char *cindex_tab=(char *)pool.malloc(MAX_NUMBER);                                          char *cindex_tab=new(PointerFreeGC) char[MAX_NUMBER];
                                         snprintf(cindex_tab, MAX_NUMBER, "%d\t", column);                                          sdata.append_know_length(cindex_tab, 
                                         sdata.APPEND_CONST(cindex_tab);                                                  snprintf(cindex_tab, MAX_NUMBER, 
                                                           column<lsize-1?"%d%c":"%d", column, separators.column),
                                                           String::L_CLEAN);
                                 }                                  }
                         else                          else
                                 sdata.APPEND_CONST("empty nameless table");                                  sdata.append_help_length("empty nameless table", 0, String::L_CLEAN);
                 }                  }
                 sdata.APPEND_CONST("\n");                  sdata.append_know_length("\n", 1, String::L_CLEAN);
         } else { // mode specified  
                 const String& mode=params->as_string(0, "mode must be string");  
                 if(mode=="append")  
                         do_append=true;  
                 else if(mode=="nameless")  
                         /*ok, already skipped names output*/;  
                 else  
                         throw Exception("parser.runtime",  
                                 &mode,  
                                 "unknown mode, must be 'append'");  
   
         }          }
   
         // data lines          // data lines
         Array_iter i(table);          Array_iterator<ArrayString*> i(table);
         while(i.has_next()) {          while(i.has_next()) {
                 Array_iter c(*static_cast<Array *>(i.next()));                  for(Array_iterator<const String*> c(*i.next()); c.has_next(); ) {
                 while(c.has_next()) {                          maybe_enclose( sdata, *c.next(), separators.encloser, separators.sencloser );
                         if(const String *s=c.next_string())  
                                 sdata.append(*s,  
                                         String::UL_TABLE);  
                         if(c.has_next())                          if(c.has_next())
                                 sdata.APPEND_CONST("\t");                                  sdata<<*separators.scolumn;
                 }                  }
                 sdata.APPEND_CONST("\n");                  sdata.append_know_length("\n", 1, String::L_CLEAN);
         }          }
   
         // write          // write
         file_write(r.absolute(vfile_name.as_string()),           {
                 sdata.cstr(), sdata.size(), true, do_append);                  const char* data_cstr=sdata.cstr();
                   file_write(r.absolute(file_name), 
                           data_cstr, sdata.length(), true, do_append);
                   if(*data_cstr) // not empty (when empty it's not heap memory)
                           pa_free((void*)data_cstr); // not needed anymore
           }
 }  }
   
 static void _count(Request& r, const String& method_name, MethodParams *) {  static void _save(Request& r, MethodParams& params) {
         Pool& pool=r.pool();          const String& first_arg=params.as_string(0, "first argument must not be code");
         int result=static_cast<VTable *>(r.get_self())->table(&method_name).size();          size_t param_index=1;
         r.write_no_lang(*new(pool) VInt(pool, result));  
           bool do_append=false;
           bool output_column_names=true;
   
           // mode?
           if(first_arg=="append")
                   do_append=true;
           else if(first_arg=="nameless")
                   output_column_names=false;
           else
                   --param_index;
   
           const String& file_name=params.as_string(param_index++, FILE_NAME_MUST_NOT_BE_CODE);
   
           TableSeparators separators;
           if(param_index<params.count()) {
                   Value& voptions=params.as_no_junction(param_index++, "additional params must be hash");
                   if( voptions.is_defined() && !voptions.is_string() ) {
                           if(HashStringValue* options=voptions.get_hash()) {
                                   int valid_options=separators.load(*options);
                                   if(valid_options!=options->count())
                                           throw Exception(PARSER_RUNTIME,
                                                   0,
                                                   "invalid option passed");
                           } else {
                                   throw Exception(PARSER_RUNTIME,
                                           0,
                                           "additional params must be hash (did you spell mode parameter correctly?)");
                           }
                   }
           }
           if(param_index<params.count())
                   throw Exception(PARSER_RUNTIME,
                           0,
                           "bad mode (must be nameless or append)");
   
           Table& table=GET_SELF(r, VTable).table();
   
           ostringstream ost(stringstream::out);
   
           // process header
           if(output_column_names) {
                   if(table.columns()) { // named table
                           for(Array_iterator<const String*> i(*table.columns()); i.has_next(); ) {
                                   maybe_enclose( ost, *i.next(), separators.encloser );
                                   if(i.has_next()){
                                           ost<<separators.column;
                                   }
                           }
                   } else { // nameless table [we were asked to output column names]
                           if(int lsize=table.count()?table[0]->count():0)
                                   for(int column=0; column<lsize; column++) {
                                           if(separators.encloser) {
                                                   ost<<separators.encloser<<column<<separators.encloser;
                                           } else {
                                           ost<<column;
                                           }
                                           if(column<lsize-1){
                                                   ost<<separators.column;
                                           }
                                   }
                           else
                                   ost<<"empty nameless table";
                   }
                   ost<<'\n';
           }
   
           // process data lines
           Array_iterator<ArrayString*> i(table);
           while(i.has_next()) {
                   for(Array_iterator<const String*> c(*i.next()); c.has_next(); ) {
                           maybe_enclose( ost, *c.next(), separators.encloser );
                           if(c.has_next())
                                   ost<<separators.column;
                   }
                   ost<<'\n';
           }
   
           // write
           {
                   string data=ost.str();
                   const char* data_cstr = data.c_str();
   
                   file_write(r.absolute(file_name), data_cstr, data.length(), true /* as text */, do_append);
           }
   }
   
   static void _count(Request& r, MethodParams&) {
           int result=GET_SELF(r, VTable).table().count();
           r.write_no_lang(*new VInt(result));
 }  }
   
 static void _line(Request& r, const String& method_name, MethodParams *) {  static void _line(Request& r, MethodParams&) {
         Pool& pool=r.pool();          int result=1+GET_SELF(r, VTable).table().current();
         int result=1+static_cast<VTable *>(r.get_self())->table(&method_name).current();          r.write_no_lang(*new VInt(result));
         r.write_no_lang(*new(pool) VInt(pool, result));  
 }  }
   
 static void _offset(Request& r, const String& method_name, MethodParams *params) {  static void _offset(Request& r, MethodParams& params) {
         Pool& pool=r.pool();          Table& table=GET_SELF(r, VTable).table();
         Table& table=static_cast<VTable *>(r.get_self())->table(&method_name);          if(params.count()) {
         if(params->size()) {  
                 bool absolute=false;                  bool absolute=false;
                 if(params->size()>1) {                  if(params.count()>1) {
                     const String& whence=params->as_string(0, "whence must be string");                      const String&  whence=params.as_string(0, "whence must be string");
                     if(whence=="cur")                      if(whence=="cur")
                                 absolute=false;                                  absolute=false;
                     else if(whence=="set")                      else if(whence=="set")
                                 absolute=true;                                  absolute=true;
                     else                      else
                                 throw Exception("parser.runtime",                                  throw Exception(PARSER_RUNTIME,
                                         &whence,                                          &whence,
                                         "is invalid whence, valid are 'cur' or 'set'");                                          "is invalid whence, valid are 'cur' or 'set'");
                 }                  }
                                   
                 Value& offset_expr=params->as_junction(params->size()-1, "offset must be expression");                  int offset=params.as_int(params.count()-1, "offset must be expression", r);
                 table.offset(absolute, r.process_to_value(offset_expr).as_int());                  table.offset(absolute, offset);
         } else          } else
                 r.write_no_lang(*new(pool) VInt(pool, table.current()));                  r.write_no_lang(*new VInt(table.current()));
 }  }
   
 static void _menu(Request& r, const String& method_name, MethodParams *params) {  static void _menu(Request& r, MethodParams& params) {
         Value& body_code=params->as_junction(0, "body must be code");          Temp_hash_value<const String::Body, void*> 
                   cycle_data_setter(r.classes_conf, cycle_data_name, /*any not null flag*/&r);
   
           Value& body_code=params.as_junction(0, "body must be code");
                   
         Value *delim_maybe_code=params->size()>1?&params->get(1):0;          Value* delim_maybe_code=params.count()>1?&params[1]:0;
   
         Table& table=static_cast<VTable *>(r.get_self())->table(&method_name);          Table& table=GET_SELF(r, VTable).table();
         bool need_delim=false;          bool need_delim=false;
         int saved_current=table.current();          int saved_current=table.current();
         int size=table.size();          int size=table.count();
         for(int row=0; row<size; row++) {          for(int row=0; row<size; row++) {
                 table.set_current(row);                  table.set_current(row);
   
                 StringOrValue sv_processed=r.process(body_code);                  StringOrValue sv_processed=r.process(body_code);
                 const String *s_processed=sv_processed.get_string();                  Request::Skip lskip=r.get_skip(); r.set_skip(Request::SKIP_NOTHING);
                 if(delim_maybe_code && s_processed && s_processed->size()) { // delimiter set and we have body                  const String* s_processed=sv_processed.get_string();
                   if(delim_maybe_code && s_processed && s_processed->length()) { // delimiter set and we have body
                         if(need_delim) // need delim & iteration produced string?                          if(need_delim) // need delim & iteration produced string?
                                 r.write_pass_lang(r.process(*delim_maybe_code));                                  r.write_pass_lang(r.process(*delim_maybe_code));
                         need_delim=true;                          need_delim=true;
                 }                  }
                 r.write_pass_lang(sv_processed);                  r.write_pass_lang(sv_processed);
   
                   if(lskip==Request::SKIP_BREAK)
                           break;
         }          }
         table.set_current(saved_current);          table.set_current(saved_current);
 }  }
   
 #ifndef DOXYGEN  #ifndef DOXYGEN
   enum Table2hash_distint { D_ILLEGAL, D_FIRST };
   enum Table2hash_value_type { C_HASH, C_STRING, C_TABLE };
 struct Row_info {  struct Row_info {
         Request *r;          Request *r;
         Table *table;          Table *table;
         Value *key_code;          Value* key_code;
         int key_field;          size_t key_field;
         Array *value_fields;          Array<int>* value_fields;
         Hash *hash;          HashStringValue* hash;
         bool distinct;          Table2hash_distint distinct;
         int row;          size_t row;
           Table2hash_value_type value_type;
 };  };
 #endif  #endif
 static void table_row_to_hash(Array::Item *value, void *info) {  static void table_row_to_hash(Table::element_type row, Row_info *info) {
         Array& row=*static_cast<Array *>(value);          const String* key;
         Row_info& ri=*static_cast<Row_info *>(info);          if(info->key_code) {
         Pool& pool=ri.table->pool();                  info->table->set_current(info->row++); // change context row
                   StringOrValue sv_processed=info->r->process(*info->key_code);
         const String *key;  
         if(ri.key_code) {  
                 ri.table->set_current(ri.row++); // change context row  
                 StringOrValue sv_processed=ri.r->process(*ri.key_code);  
                 key=&sv_processed.as_string();                  key=&sv_processed.as_string();
         } else          } else {
                 key=ri.key_field<row.size()?row.get_string(ri.key_field):0;                  key=info->key_field<row->count()?row->get(info->key_field):0;
           }
   
         if(!key)          if(!key)
                 return; // ignore rows without key [too-short-record_array if-indexed]                  return; // ignore rows without key [too-short-record_array if-indexed]
                                   
         VHash& result=*new(pool) VHash(pool);          bool exist = false;
         Hash& hash=*result.get_hash(0);          switch (info->value_type) {
         for(int i=0; i<ri.value_fields->size(); i++) {          case C_STRING:
                 int value_field=ri.value_fields->get_int(i);                  {
                 if(value_field<row.size())                          exist=info->hash->put_dont_replace(*key, new VString(*row->get(info->value_fields->get(0))));
                         hash.put(                  }
                                 *ri.table->columns()->get_string(value_field),                   break;
                                 new(pool) VString(*row.get_string(value_field)));          case C_HASH:
         }                  {
                           VHash* vhash=new VHash;
         if(ri.hash->put_dont_replace(*key, &result)) // put. existed?                          HashStringValue& hash=vhash->hash();
                 if(!ri.distinct)                          for(Array_iterator<int> i(*info->value_fields); i.has_next(); ) {
                         throw Exception("parser.runtime",                                  size_t value_field=i.next();
                                 key,                                  if(value_field<row->count())
                                 "duplicate key");                                          hash.put(
 }                                                  *info->table->columns()->get(value_field), 
 static void _hash(Request& r, const String& method_name, MethodParams *params) {                                                  new VString(*row->get(value_field)));
         Pool& pool=r.pool();                          }
         Table& self_table=static_cast<VTable *>(r.get_self())->table(&method_name);  
         Value& result=*new(pool) VHash(pool);                          exist=info->hash->put_dont_replace(*key, vhash);
         if(const Array *columns=self_table.columns())                  }
                 if(columns->size()>0) {                  break;
                         bool distinct=false;          case C_TABLE:
                         int param_index=params->size()-1;                  {
                           VTable* vtable=(VTable*)info->hash->get(*key); // put. table existed?
                           if( info->distinct==D_ILLEGAL ){
                                   exist=true;
                                   break;
                           }
   
                           Table* table;
                           if(vtable) {
                                   table=vtable->get_table();
                           } else {
                                   // no? creating table of same structure as source
                                   Table::Action_options table_options(0, 0);
                                   table=new Table(*info->table, table_options/*no rows, just structure*/);
                                   info->hash->put(*key, new VTable(table));
                           }
                           *table+=row;
                   }
                   break;
           }
           if(exist && info->distinct==D_ILLEGAL)
                   throw Exception(PARSER_RUNTIME,
                           key,
                           "duplicate key");
   }
   static void _hash(Request& r, MethodParams& params) {
           Table& self_table=GET_SELF(r, VTable).table();
           VHash& result=*new VHash;
           if(Table::columns_type columns=self_table.columns())
                   if(columns->count()>0) {
                           Table2hash_distint distinct=D_ILLEGAL;
                           Table2hash_value_type value_type=C_HASH;
                           int param_index=params.count()-1;
                         if(param_index>0) {                          if(param_index>0) {
                                 if(Hash *options=                                  if(HashStringValue* options=
                                         params->as_no_junction(param_index, "param must not be code").get_hash(0)) {                                          params.as_no_junction(param_index, "param must not be code").get_hash()
                                   ){
                                         --param_index;                                          --param_index;
                                         int valid_options=0;                                          int valid_options=0;
                                         if(Value *vdistinct=(Value *)options->get(*sql_distinct_name)) {                                          if(Value* vdistinct_code=options->get(sql_distinct_name)) {
                                                 valid_options++;                                                  valid_options++;
                                                 distinct=r.process_to_value(*vdistinct).as_bool();                                                  Value& vdistinct_value=r.process_to_value(*vdistinct_code);
                                                   if(vdistinct_value.is_string()) {
                                                           const String& sdistinct=*vdistinct_value.get_string();
                                                           if(sdistinct=="tables") {
                                                                   value_type=C_TABLE;
                                                                   distinct=D_FIRST;
                                                           } else
                                                                   throw Exception(PARSER_RUNTIME,
                                                                           &sdistinct,
                                                                           "must be 'tables' or true/false");
                                                   } else
                                                           distinct=vdistinct_value.as_bool()?D_FIRST:D_ILLEGAL;
                                         }                                          }
                                         if(valid_options!=options->size())                                          if(Value* vvalue_type_code=options->get(sql_value_type_name)) {
                                                 throw Exception("parser.runtime",                                                  if(value_type==C_TABLE){ // $.distinct[tables] was specified
                                                         &method_name,                                                          throw Exception(PARSER_RUNTIME,
                                                                   0,
                                                                   "you can't specify $.distinct[tables] and $.values[] together.");
                                                   } else {
                                                           valid_options++;
                                                           Value& vvalue_type_value=r.process_to_value(*vvalue_type_code);
                                                           if(vvalue_type_value.is_string()) {
                                                                   const String& svalue_type=*vvalue_type_value.get_string();
                                                                   if(svalue_type == "table"){
                                                                           value_type=C_TABLE;
                                                                   } else if (svalue_type == "string") {
                                                                           value_type=C_STRING;
                                                                   } else if (svalue_type == "hash") {
                                                                           value_type=C_HASH;
                                                                   } else {
                                                                           throw Exception(PARSER_RUNTIME,
                                                                                   &svalue_type,
                                                                                   "must be 'hash', 'table' or 'string'");
                                                                   }
                                                           }
                                                   }
                                           } 
   
                                           if(valid_options!=options->count())
                                                   throw Exception(PARSER_RUNTIME,
                                                           0,
                                                         "called with invalid option");                                                          "called with invalid option");
                                 }                                  }
                         }                          }
                         if(param_index==2) // bad options param type                          if(param_index==2) // bad options param type
                                 throw Exception("parser.runtime",                                  throw Exception(PARSER_RUNTIME,
                                         &method_name,                                          0,
                                         "options must be hash");                                          "options must be hash");
   
                         Array value_fields(pool);                          Array<int> value_fields;
                         if(param_index>0) {                          if(param_index>0) {
                                 Value& value_fields_param=params->as_no_junction(param_index, "value field(s) must not be code");                                  if(value_type==C_TABLE)
                                           throw Exception(PARSER_RUNTIME,
                                                   0,
                                                   "in distinct[tables] mode you may not specify value field(s)");
                                   Value& value_fields_param=params.as_no_junction(param_index, "value field(s) must not be code");
                                 if(value_fields_param.is_string()) {                                  if(value_fields_param.is_string()) {
                                         value_fields+=self_table.column_name2index(value_fields_param.as_string(), true);                                          value_fields+=self_table.column_name2index(
                                 } else if(Table *value_fields_table=value_fields_param.get_table()) {                                                  *value_fields_param.get_string(), true);
                                         for(int i=0; i<value_fields_table->size(); i++) {                                  } else if(Table* value_fields_table=value_fields_param.get_table()) {
                                                 const String& value_field_name=                                          for(Array_iterator<Table::element_type> i(*value_fields_table); 
                                                         *static_cast<Array *>(value_fields_table->get(i))->get_string(0);                                                  i.has_next(); ) {
                                                 value_fields+=self_table.column_name2index(value_field_name, true);                                                  const String& value_field_name
                                                           =*i.next()->get(0);
                                                   value_fields
                                                           +=self_table.column_name2index(value_field_name, true);
                                         }                                          }
                                 } else                                  } else
                                         throw Exception("parser.runtime",                                          throw Exception(PARSER_RUNTIME,
                                                 &method_name,                                                  0,
                                                 "value field(s) must be string or self_table"                                                  "value field(s) must be string or table");
                                         );  
                         } else { // by all columns, including key                          } else { // by all columns, including key
                                 for(int i=0; i<columns->size(); i++)                                  if(value_type==C_STRING)
                                         value_fields+=i;                                          throw Exception(PARSER_RUNTIME,
                                                   0,
                                                   "with $.values[string] you must specify one value field(s)");
                                   // if(!(distinct!=D_ILLEGAL && distinct!=D_FIRST))
                                           for(size_t i=0; i<columns->count(); i++)
                                                   value_fields+=i;
                         }                          }
   
                         Value& key_param=params->get(0);                          if(value_type==C_STRING && value_fields.count()!=1)
                         Value *key_code=key_param.get_junction()?&key_param:0;                                  throw Exception(PARSER_RUNTIME,
                         int key_field=key_code?-1                                          0,
                                 :self_table.column_name2index(key_param.as_string(), true);                                          "you can specify one value field with this $.type[].");
   
                         Row_info row_info={&r, &self_table, key_code, key_field, &value_fields, result.get_hash(0), distinct};                          {
                                   Value* key_param=&params[0];
                                   Row_info info={
                                           &r,
                                           &self_table,
                                           /*key_code=*/key_param->get_junction()?key_param:0,
                                           /*key_field=*/0/*filled below*/,
                                           &value_fields,
                                           &result.hash(),
                                           distinct,
                                           /*row=*/0,
                                           value_type
                                   };
                                   info.key_field=(info.key_code?-1
                                                   :self_table.column_name2index(key_param->as_string(), true));
   
                                   int saved_current=self_table.current();
                                   self_table.for_each(table_row_to_hash, &info);
                                   self_table.set_current(saved_current);
   
                         int saved_current=self_table.current();                                  result.extract_default();
                         self_table.for_each(table_row_to_hash, &row_info);                          }
                         self_table.set_current(saved_current);  
                 }                  }
         r.write_no_lang(result);          r.write_no_lang(result);
 }  }
   
 #ifndef DOXYGEN  #ifndef DOXYGEN
 struct Table_seq_item {  struct Table_seq_item {
         Array *row;          ArrayString* row;
         union {          union {
                 char *c_str;                  const char *c_str;
                 double d;                  double d;
         } value;          } value;
 };  };
Line 441  static int sort_cmp_double(const void *a Line 874  static int sort_cmp_double(const void *a
         else           else 
                 return 0;                  return 0;
 }  }
 static void _sort(Request& r, const String& method_name, MethodParams *params) {  static void _sort(Request& r, MethodParams& params) {
         Pool& pool=r.pool();          Value& key_maker=params.as_junction(0, "key-maker must be code");
         Value& key_maker=params->as_junction(0, "key-maker must be code");  
   
         bool reverse=params->size()>1/*..[desc|asc|]*/?          bool reverse=params.count()>1/*..[desc|asc|]*/?
                 reverse=params->as_no_junction(1, "order must not be code").as_string()=="desc":                  reverse=params.as_no_junction(1, "order must not be code").as_string()=="desc":
                 false; // default=asc                  false; // default=asc
   
         Table& old_table=static_cast<VTable *>(r.get_self())->table(&method_name);          Table& old_table=GET_SELF(r, VTable).table();
         if(old_table.size()==0)          Table& new_table=*new Table(old_table.columns());
                 return;  
   
         Table& new_table=*new(pool) Table(pool, &method_name, old_table.columns());  
   
         Table_seq_item *seq=(Table_seq_item *)pool.malloc(sizeof(Table_seq_item)*old_table.size());          Table_seq_item* seq=new(PointerFreeGC) Table_seq_item[old_table.count()];
         int i;          int i;
   
         // calculate key values          // calculate key values
         bool key_values_are_strings=true;          bool key_values_are_strings=true;
         for(i=0; i<old_table.size(); i++) {          int old_count=old_table.count();
           for(i=0; i<old_count; i++) {
                 old_table.set_current(i);                  old_table.set_current(i);
                 // calculate key value                  // calculate key value
                 seq[i].row=(MethodParams *)old_table.get(i);                  seq[i].row=old_table[i];
                 Value& value=*r.process_to_value(key_maker).as_expr_result(true/*return string as-is*/);                  Value& value=r.process_to_value(key_maker).as_expr_result(true/*return string as-is*/);
                 if(i==0) // determining key values type by first one                  if(i==0) // determining key values type by first one
                         key_values_are_strings=value.is_string();                          key_values_are_strings=value.is_string();
   
Line 474  static void _sort(Request& r, const Stri Line 904  static void _sort(Request& r, const Stri
                         seq[i].value.d=value.as_double();                          seq[i].value.d=value.as_double();
         }          }
         // sort keys          // sort keys
         _qsort(seq, old_table.size(), sizeof(Table_seq_item),           _qsort(seq, old_count, sizeof(Table_seq_item), 
                 key_values_are_strings?sort_cmp_string:sort_cmp_double);                  key_values_are_strings?sort_cmp_string:sort_cmp_double);
   
         // reorder table as they require in 'seq'          // reorder table as they require in 'seq'
         for(i=0; i<old_table.size(); i++)          for(i=0; i<old_count; i++)
                 new_table+=seq[reverse?old_table.size()-1-i:i].row;                  new_table+=Table::element_type(seq[reverse?old_count-1-i:i].row);
   
           delete[] seq;
   
         // replace any previous table value          // replace any previous table value
         static_cast<VTable *>(r.get_self())->set_table(new_table);          GET_SELF(r, VTable).set_table(new_table);
 }  }
   
 static bool _locate_expression(Request& r, const String& method_name, MethodParams *params) {  #ifndef DOXYGEN
         if(params->size()>1)  struct Expression_is_true_info {
                 throw Exception("parser.runtime",           Request* r;
                         &method_name,          Value* expression_code;
                         "locate by expression has only one parameter - expression");  };
   #endif
         Value& expression_code=params->as_junction(0, "must be expression");  static bool expression_is_true(Table&, Expression_is_true_info* info) {
           return info->r->process_to_value(*info->expression_code).as_bool();
         Table& table=static_cast<VTable *>(r.get_self())->table(&method_name);  
         int saved_current=table.current();  
         int size=table.size();  
         for(int row=0; row<size; row++) {  
                 table.set_current(row);  
   
                 if(r.process_to_value(expression_code).as_bool())  
                         return true;  
         }  
         table.set_current(saved_current);  
         return false;  
 }  }
 static bool _locate_name_value(Request& r, const String& method_name, MethodParams *params) {  static bool _locate_expression(Table& table, Table::Action_options o,
         if(params->size()>2)                                 Request& r, MethodParams& params) {
                 throw Exception("parser.runtime",           check_option_param(o.defined, params, 1,
                         &method_name,                  "locate by expression only has parameters: expression and, maybe, options");
                         "locate by name and value has only two parameters - name and value");          Value& expression_code=params.as_junction(0, "must be expression");
   
         Table& table=static_cast<VTable *>(r.get_self())->table(&method_name);          Expression_is_true_info info={&r, &expression_code};
         return table.locate(          return table.table_first_that(expression_is_true, &info, o);
                 params->as_string(0, "column name must be string"),  }
                 params->as_string(1, "value must be string")  static bool _locate_name_value(Table& table, Table::Action_options o,
         );                                 Request&, MethodParams& params) {
           check_option_param(o.defined, params, 2,
                   "locate by locate by name has parameters: name, value and, maybe, options");
           const String& name=params.as_string(0, "column name must be string");
           const String& value=params.as_string(1, VALUE_MUST_BE_STRING);
           return table.locate(name, value, o);
   }
   static void _locate(Request& r, MethodParams& params) {
           Table& table=GET_SELF(r, VTable).table();
   
           Table::Action_options o=get_action_options(r, params, table);
   
           bool result=params[0].get_junction()?
                   _locate_expression(table, o, r, params) :
                   _locate_name_value(table, o, r, params);
           r.write_no_lang(*new VBool(result));
 }  }
 static void _locate(Request& r, const String& method_name, MethodParams *params) {  
         Pool& pool=r.pool();  
         bool result=params->get(0).get_junction()?  static void _flip(Request& r, MethodParams&) {
                 _locate_expression(r, method_name, params) :          Table& old_table=GET_SELF(r, VTable).table();
                 _locate_name_value(r, method_name, params);          Table& new_table=*new Table(0);
         r.write_no_lang(*new(pool) VBool(pool, result));          if(size_t old_count=old_table.count())
 }                  if(size_t old_cols=old_table[0]->count()) 
                           for(size_t column=0; column<old_cols; column++) {
 static void _flip(Request& r, const String& method_name, MethodParams *params) {                                  Table::element_type new_row(new ArrayString(old_count));
         Pool& pool=r.pool();                                  for(size_t i=0; i<old_count; i++) {
         Table& old_table=static_cast<VTable *>(r.get_self())->table(&method_name);                                          Table::element_type old_row=old_table[i];
         Table& new_table=*new(pool) Table(pool, &method_name, 0/*nameless*/);                                          *new_row+=column<old_row->count()?old_row->get(column):new String;
         if(old_table.size())  
                 if(int old_cols=old_table.at(0).size())   
                         for(int column=0; column<old_cols; column++) {  
                                 Array& new_row=*new(pool) Array(pool, old_table.size());  
                                 for(int i=0; i<old_table.size(); i++) {  
                                         const Array& old_row=old_table.at(i);  
                                         new_row+=column<old_row.size()?old_row.get(column):new(pool) String(pool);  
                                 }                                  }
                                 new_table+=&new_row;                                  new_table+=new_row;
                         }                          }
   
         r.write_no_lang(*new(pool) VTable(pool, &new_table));          r.write_no_lang(*new VTable(&new_table));
 }  }
   
 static void _append(Request& r, const String& method_name, MethodParams *params) {  static void _append(Request& r, MethodParams& params) {
         Pool& pool=r.pool();  
         // data          // data
         Temp_lang temp_lang(r, String::UL_PASS_APPENDED);          Temp_lang temp_lang(r, String::L_PASS_APPENDED);
         const String& string=          const String& string=r.process_to_string(params.as_junction(0, "body must be code"));
                 r.process_to_string(params->as_junction(0, "body must be code"));  
   
         // parse cells          // parse cells
         Array& row=*new(pool) Array(pool);          Table::element_type row=new ArrayString;
         string.split(row, 0, "\t", 1, String::UL_AS_IS);          size_t pos_after=0;
           string.split(*row, pos_after, "\t", String::L_AS_IS);
   
         static_cast<VTable *>(r.get_self())->table(&method_name)+=&row;          GET_SELF(r, VTable).table()+=row;
 }  }
   
 static void _join(Request& r, const String& method_name, MethodParams *params) {  static void join_named_row(Table& src, Table* dest) {
         Pool& pool=r.pool();          Table::columns_type dest_columns=dest->columns();
           size_t dest_columns_count=dest_columns->count();
         Table *maybe_src=params->as_no_junction(0, "table ref must not be code").get_table();          Table::element_type dest_row(new ArrayString(dest_columns_count));
           for(size_t dest_column=0; dest_column<dest_columns_count; dest_column++) {
                   const String* src_item=src.item(*dest_columns->get(dest_column));
                   *dest_row+=src_item?src_item:new String;
           }
           *dest+=dest_row;
   }
   static void join_nameless_row(Table& src, Table* dest) {
           *dest+=src[src.current()];
   }
   static void _join(Request& r, MethodParams& params) {
           Table* maybe_src=params.as_no_junction(0, "table ref must not be code").get_table();
         if(!maybe_src)          if(!maybe_src)
                 throw Exception("parser.runtime",                   throw Exception(PARSER_RUNTIME, 
                         &method_name,                           0, 
                         "source is not a table");                          "source is not a table");
   
         Table& src=*maybe_src;          Table& src=*maybe_src;
         Table& dest=static_cast<VTable *>(r.get_self())->table(&method_name);  
           Table::Action_options o=get_action_options(r, params, src);
           check_option_param(o.defined, params, 1,
                   "invalid extra parameter");
   
           Table& dest=GET_SELF(r, VTable).table();
         if(&src == &dest)          if(&src == &dest)
                 throw Exception("parser.runtime",                   throw Exception(PARSER_RUNTIME, 
                         &method_name,                           0, 
                         "source and destination are same table");                          "source and destination are same table");
   
         int offset, limit;          if(dest.columns()) // dest is named
         get_copy_options(r, method_name, params, 1, src,                   src.table_for_each(join_named_row, &dest, o);
                 offset, limit);          else // dest is nameless
                   src.table_for_each(join_nameless_row, &dest, o);
         if(const Array *dest_columns=dest.columns()) { // dest is named  
                 int saved_src_current=src.current();  
                 int m=src.size()-offset;  
                 if(!limit || limit>m)  
                         limit=m;  
                 int end=offset+limit;  
                 for(int src_row=offset; src_row<end; src_row++) {  
                         src.set_current(src_row);  
                         Array& dest_row=*new(pool) Array(pool);  
                         for(int dest_column=0; dest_column<dest_columns->size(); dest_column++) {  
                                 const String *src_item=src.item(*dest_columns->get_string(dest_column));  
                                 dest_row+=src_item?src_item:new(pool) String(pool);  
                         }  
                         dest+=&dest_row;  
                 }  
                 src.set_current(saved_src_current);  
         } else { // dest is nameless  
                 for(int src_row=0; src_row<src.size(); src_row++)  
                         dest+=&src.at(src_row);  
         }  
 }  }
   
 #ifndef DOXYGEN  #ifndef DOXYGEN
 class Table_sql_event_handlers: public SQL_Driver_query_event_handlers {  class Table_sql_event_handlers: public SQL_Driver_query_event_handlers {
           ArrayString& columns;
           int columns_count;
           ArrayString* row;
 public:  public:
         Table_sql_event_handlers(Pool& apool, const String& amethod_name,          Table* table;
                 const String& astatement_string, const char *astatement_cstr) :  public:
                 pool(apool),           Table_sql_event_handlers() :
                 method_name(amethod_name),                  columns(*new ArrayString), row(0), table(0) {
                 statement_string(astatement_string),  
                 statement_cstr(astatement_cstr),  
                 columns(*new(pool) Array(pool)),  
                 row(0)  
                 table(0)  
         {  
         }          }
   
         bool add_column(SQL_Error& error, void *ptr, size_t size) {          bool add_column(SQL_Error& error, const char *str, size_t length) {
                 try {                  try {
                         String *column=new(pool) String(pool);                          columns+=new String(str, length, true);
                         column->APPEND_TAINTED(  
                                 (const char *)ptr, size,   
                                 statement_cstr, 0);  
                         columns+=column;  
                         return false;                          return false;
                 } catch(...) {                  } catch(...) {
                         error=SQL_Error("exception occured in Table_sql_event_handlers::add_column");                          error=SQL_Error("exception occured in Table_sql_event_handlers::add_column");
Line 629  public: Line 1045  public:
         }          }
         bool before_rows(SQL_Error& error) {           bool before_rows(SQL_Error& error) { 
                 try {                  try {
                         table=new(pool) Table(pool, &method_name, &columns);                          table=new Table(&columns);
                           columns_count=columns.count();
                         return false;                          return false;
                 } catch(...) {                  } catch(...) {
                         error=SQL_Error("exception occured in Table_sql_event_handlers::before_rows");                          error=SQL_Error("exception occured in Table_sql_event_handlers::before_rows");
Line 638  public: Line 1055  public:
         }          }
         bool add_row(SQL_Error& error) {          bool add_row(SQL_Error& error) {
                 try {                  try {
                         (*table)+=(row=new(pool) Array(pool));                          *table+=row=new ArrayString(columns_count);
                         return false;                          return false;
                 } catch(...) {                  } catch(...) {
                         error=SQL_Error("exception occured in Table_sql_event_handlers::add_row");                          error=SQL_Error("exception occured in Table_sql_event_handlers::add_row");
                         return true;                          return true;
                 }                  }
         }          }
         bool add_row_cell(SQL_Error& error, void *ptr, size_t size) {          bool add_row_cell(SQL_Error& error, const char* str, size_t length) {
                 try {                  try {
                         String *cell=new(pool) String(pool);                          String& cell=*new String;
                         if(size)                          if(length)
                                 cell->APPEND_TAINTED(                                  cell.append_know_length(str, length, String::L_TAINTED);
                                         (const char *)ptr, size,                           *row+=&cell;
                                         statement_cstr, table->size()-1);  
                         (*row)+=cell;  
                         return false;                          return false;
                 } catch(...) {                  } catch(...) {
                         error=SQL_Error("exception occured in Table_sql_event_handlers::add_row_cell");                          error=SQL_Error("exception occured in Table_sql_event_handlers::add_row_cell");
                         return true;                          return true;
                 }                  }
         }          }
   
 private:  
         Pool& pool;  
         const String& method_name;  
         const String& statement_string; const char *statement_cstr;  
         Array& columns;  
         Array *row;  
 public:  
         Table *table;  
 };  };
 #endif  #endif
 static void _sql(Request& r, const String& method_name, MethodParams *params) {  
         Pool& pool=r.pool();  
   
         Value& statement=params->as_junction(0, "statement must be code");  static void marshal_bind(
                                                    HashStringValue::key_type aname, 
                                                    HashStringValue::value_type avalue,
                                                    SQL_Driver::Placeholder** pptr) 
   {
           SQL_Driver::Placeholder& ph=**pptr;
           ph.name=aname.cstr();
           ph.value=avalue->as_string().cstr(String::L_UNSPECIFIED);
           ph.is_null=avalue->get_class()==void_class;
           ph.were_updated=false;
   
           (*pptr)++;
   }
   
   // not static, used elsewhere
   int marshal_binds(HashStringValue& hash, SQL_Driver::Placeholder*& placeholders) {
           int hash_count=hash.count();
           placeholders=new(UseGC) SQL_Driver::Placeholder[hash_count];
           SQL_Driver::Placeholder* ptr=placeholders;
           hash.for_each<SQL_Driver::Placeholder**>(marshal_bind, &ptr);
           return hash_count;
   }
   
   // not static, used elsewhere
   void unmarshal_bind_updates(HashStringValue& hash, int placeholder_count, SQL_Driver::Placeholder* placeholders) {
           SQL_Driver::Placeholder* ph=placeholders;
           for(int i=0; i<placeholder_count; i++, ph++)
                   if(ph->were_updated) {
                           Value* value;
                           if(ph->is_null)
                                   value=new VVoid();
                           else
                                   if(ph->value)
                                           value=new VString(*new String(ph->value, 0, true/*tainted*/));
                                   else
                                           value=new VString(*new String());                                       
                           hash.put(ph->name, value);
                   }
   }
   
   static void _sql(Request& r, MethodParams& params) {
           Value& statement=params.as_junction(0, "statement must be code");
   
           HashStringValue* bind=0;
         ulong limit=0;          ulong limit=0;
         ulong offset=0;          ulong offset=0;
         if(params->size()>1) {          if(params.count()>1) {
                 Value& voptions=params->as_no_junction(1, "options must be hash, not code");                  Value& voptions=params.as_no_junction(1, "options must be hash, not code");
                 if(!voptions.is_string())                  if(voptions.is_defined() && !voptions.is_string())
                         if(Hash *options=voptions.get_hash(&method_name)) {                          if(HashStringValue* options=voptions.get_hash()) {
                                 int valid_options=0;                                  int valid_options=0;
                                 if(Value *vlimit=(Value *)options->get(*sql_limit_name)) {                                  if(Value* vbind=options->get(sql_bind_name)) {
                                           valid_options++;
                                           bind=vbind->get_hash();
                                   }
                                   if(Value* vlimit=options->get(sql_limit_name)) {
                                         valid_options++;                                          valid_options++;
                                         limit=(ulong)r.process_to_value(*vlimit).as_double();                                          limit=(ulong)r.process_to_value(*vlimit).as_double();
                                 }                                  }
                                 if(Value *voffset=(Value *)options->get(*sql_offset_name)) {                                  if(Value* voffset=options->get(sql_offset_name)) {
                                         valid_options++;                                          valid_options++;
                                         offset=(ulong)r.process_to_value(*voffset).as_double();                                          offset=(ulong)r.process_to_value(*voffset).as_double();
                                 }                                  }
                                 if(valid_options!=options->size())                                  if(valid_options!=options->count())
                                         throw Exception("parser.runtime",                                          throw Exception(PARSER_RUNTIME,
                                                 &method_name,                                                  0,
                                                 "called with invalid option");                                                  "called with invalid option");
                         } else                          } else
                                 throw Exception("parser.runtime",                                  throw Exception(PARSER_RUNTIME,
                                         &method_name,                                          0,
                                         "options must be hash");                                          "options must be hash");
         }          }
   
         Temp_lang temp_lang(r, String::UL_SQL);          SQL_Driver::Placeholder* placeholders=0;
         const String& statement_string=r.process_to_string(statement);          uint placeholders_count=0;
         const char *statement_cstr=          if(bind)
                 statement_string.cstr(String::UL_UNSPECIFIED, r.connection(&method_name));                  placeholders_count=marshal_binds(*bind, placeholders);
         Table_sql_event_handlers handlers(pool, method_name,  
                 statement_string, statement_cstr);          Temp_lang temp_lang(r, String::L_SQL);
           const String&  statement_string=r.process_to_string(statement);
           const char* statement_cstr=
                   statement_string.cstr(String::L_UNSPECIFIED, r.connection());
           Table_sql_event_handlers handlers;
 #ifdef RESOURCES_DEBUG  #ifdef RESOURCES_DEBUG
         struct timeval mt[2];          struct timeval mt[2];
         //measure:before          //measure:before
         gettimeofday(&mt[0],NULL);          gettimeofday(&mt[0],NULL);
 #endif    #endif  
         r.connection(&method_name)->query(          r.connection()->query(
                 statement_cstr, offset, limit,                   statement_cstr, 
                   placeholders_count, placeholders,
                   offset, limit, 
                 handlers,                  handlers,
                 statement_string);                  statement_string);
                   
Line 727  static void _sql(Request& r, const Strin Line 1183  static void _sql(Request& r, const Strin
         r.sql_request_time+=t[1]-t[0];          r.sql_request_time+=t[1]-t[0];
 #endif                            #endif                          
   
         Table *result=          if(bind)
                 handlers.table?handlers.table: // query resulted in table? return it                  unmarshal_bind_updates(*bind, placeholders_count, placeholders);
                 new(pool) Table(pool, &method_name, 0); // query returned no table, fake it  
           Table& result=
                   handlers.table?*handlers.table: // query resulted in table? return it
                   *new Table(Table::columns_type(0)); // query returned no table, fake it
   
         // replace any previous table value          // replace any previous table value
         static_cast<VTable *>(r.get_self())->set_table(*result);          GET_SELF(r, VTable).set_table(result);
 }  }
   
 static void _columns(Request& r, const String& method_name, MethodParams *) {  static void _columns(Request& r, MethodParams&) {
         Pool& pool=r.pool();  
   
         Array& result_columns=*new(pool) Array(pool);          Table::columns_type result_columns(new ArrayString);
         result_columns+=new(pool) String(pool, "column");          *result_columns+=new String("column");
         Table& result_table=*new(pool) Table(pool, &method_name, &result_columns);          Table& result_table=*new Table(result_columns);
   
         Table& source_table=static_cast<VTable *>(r.get_self())->table(&method_name);          Table& source_table=GET_SELF(r, VTable).table();
         if(const Array *source_columns=source_table.columns()) {          if(Table::columns_type source_columns=source_table.columns()) {
                 Array_iter i(*source_columns);                  for(Array_iterator<const String*> i(*source_columns); i.has_next(); ) {
                 while(i.has_next()) {                          Table::element_type result_row(new ArrayString);
                         Array& result_row=*new(pool) Array(pool);                          *result_row+=i.next();
                         result_row+=i.next();                          result_table+=result_row;
                         result_table+=&result_row;  
                 }                  }
         }          }
   
         r.write_no_lang(*new(pool) VTable(pool, &result_table));          r.write_no_lang(*new VTable(&result_table));
 }  }
   
 static void _select(Request& r, const String& method_name, MethodParams *params) {  static void _select(Request& r, MethodParams& params) {
         Pool& pool=r.pool();          Value& vcondition=params.as_expression(0, "condition must be number, bool or expression");
   
         Value& vcondition=params->as_junction(0, "condition must be expression");  
   
         Table& source_table=static_cast<VTable *>(r.get_self())->table(&method_name);          Table& source_table=GET_SELF(r, VTable).table();
         Table& result_table=*new(pool) Table(pool,           Table& result_table=*new Table(source_table.columns());
                 source_table.origin_string(),   
                 source_table.columns()  
         );  
   
         int saved_current=source_table.current();          int saved_current=source_table.current();
         int size=source_table.size();          int size=source_table.count();
         for(int row=0; row<size; row++) {          for(int row=0; row<size; row++) {
                 source_table.set_current(row);                  source_table.set_current(row);
   
                 bool condition=r.process_to_value(vcondition,                   bool condition=r.process_to_value(vcondition, 
                                 /*0/*no name* /,*/  
                                 false/*don't intercept string*/).as_bool();                                  false/*don't intercept string*/).as_bool();
   
                 if(condition) // ...condition is true=                  if(condition) // ...condition is true=
                         result_table+=&source_table.at(row); // =green light to go to result                          result_table+=source_table[row]; // =green light to go to result
         }          }
         source_table.set_current(saved_current);          source_table.set_current(saved_current);
   
         r.write_no_lang(*new(pool) VTable(pool, &result_table));          r.write_no_lang(*new VTable(&result_table));
 }  }
   
 // constructor  // constructor
   
 MTable::MTable(Pool& apool) : Methoded(apool, "table") {  MTable::MTable(): Methoded("table") {
         // ^table::create{data}          // ^table::create{data}
         // ^table::create[nameless]{data}          // ^table::create[nameless]{data}
         // ^table::create[table]          // ^table::create[table]
Line 799  MTable::MTable(Pool& apool) : Methoded(a Line 1250  MTable::MTable(Pool& apool) : Methoded(a
   
         // ^table.save[file]            // ^table.save[file]  
         // ^table.save[nameless;file]          // ^table.save[nameless;file]
         add_native_method("save", Method::CT_DYNAMIC, _save, 1, 2);          add_native_method("save", Method::CT_DYNAMIC, _save, 1, 3);
   
           // add_native_method("save_old", Method::CT_DYNAMIC, _save_old, 1, 3);
   
         // ^table.count[]          // ^table.count[]
         add_native_method("count", Method::CT_DYNAMIC, _count, 0, 0);          add_native_method("count", Method::CT_DYNAMIC, _count, 0, 0);
Line 825  MTable::MTable(Pool& apool) : Methoded(a Line 1278  MTable::MTable(Pool& apool) : Methoded(a
         add_native_method("sort", Method::CT_DYNAMIC, _sort, 1, 2);          add_native_method("sort", Method::CT_DYNAMIC, _sort, 1, 2);
   
         // ^table.locate[field;value]          // ^table.locate[field;value]
         add_native_method("locate", Method::CT_DYNAMIC, _locate, 1, 2);          add_native_method("locate", Method::CT_DYNAMIC, _locate, 1, 3);
   
         // ^table.flip[]          // ^table.flip[]
         add_native_method("flip", Method::CT_DYNAMIC, _flip, 0, 0);          add_native_method("flip", Method::CT_DYNAMIC, _flip, 0, 0);
Line 847  MTable::MTable(Pool& apool) : Methoded(a Line 1300  MTable::MTable(Pool& apool) : Methoded(a
         // ^table.select(expression) = table          // ^table.select(expression) = table
         add_native_method("select", Method::CT_DYNAMIC, _select, 1, 1);          add_native_method("select", Method::CT_DYNAMIC, _select, 1, 1);
 }  }
   
 // global variable  
   
 Methoded *table_class;  
   
 // creator  
   
 Methoded *MTable_create(Pool& pool) {  
         return table_class=new(pool) MTable(pool);  
 }  

Removed from v.1.173  
changed lines
  Added in v.1.232


E-mail: