Diff for /parser3/src/classes/table.C between versions 1.233 and 1.296

version 1.233, 2007/08/28 09:28:18 version 1.296, 2013/10/04 21:21:54
Line 1 Line 1
 /** @file  /** @file
         Parser: @b table parser class.          Parser: @b table parser class.
   
         Copyright (c) 2001-2005 ArtLebedev Group (http://www.artlebedev.com)          Copyright (c) 2001-2012 Art. Lebedev Studio (http://www.artlebedev.com)
         Author: Alexandr Petrosian <paf@design.ru> (http://paf.design.ru)          Author: Alexandr Petrosian <paf@design.ru> (http://paf.design.ru)
 */  */
   
 static const char * const IDENT_TABLE_C="$Date$";  #if (!defined(NO_STRINGSTREAM) && !defined(FREEBSD4))
   
 #include <sstream>  #include <sstream>
 using namespace std;  #endif
   
 #include "classes.h"  #include "classes.h"
 #include "pa_vmethod_frame.h"  #include "pa_vmethod_frame.h"
   
 #include "pa_common.h"  #include "pa_common.h"
 #include "pa_request.h"  #include "pa_request.h"
   #include "pa_charsets.h"
 #include "pa_vtable.h"  #include "pa_vtable.h"
 #include "pa_vint.h"  #include "pa_vint.h"
 #include "pa_sql_connection.h"  #include "pa_sql_connection.h"
 #include "pa_vbool.h"  #include "pa_vbool.h"
   #include "pa_array.h"
   
   volatile const char * IDENT_TABLE_C="$Id$";
   
 // class  // class
   
 class MTable: public Methoded {  class MTable: public Methoded {
 public: // VStateless_class  public: // VStateless_class
         Value* create_new_value(Pool&, HashStringValue&) { return new VTable(); }          Value* create_new_value(Pool&) { return new VTable(); }
   
 public:  public:
         MTable();          MTable();
   
 public: // Methoded  
         bool used_directly() { return true; }  
 };  };
   
 // global variable  // global variable
   
 DECLARE_CLASS_VAR(table, new MTable, 0);  DECLARE_CLASS_VAR(table, new MTable, 0);
   
 // externs  
   
 extern String cycle_data_name;  
   
 #define TABLE_REVERSE_NAME "reverse"  #define TABLE_REVERSE_NAME "reverse"
   
 // globals  // globals
Line 56  String table_reverse_name(TABLE_REVERSE_ Line 51  String table_reverse_name(TABLE_REVERSE_
 // methods  // methods
   
 static Table::Action_options get_action_options(Request& r, MethodParams& params,   static Table::Action_options get_action_options(Request& r, MethodParams& params, 
                                                 const Table& source) {                                                  size_t options_index, const Table& source) {
         Table::Action_options result;          Table::Action_options result;
         if(!params.count())          if(params.count() <= options_index)
                 return result;                  return result;
   
         Value& maybe_options=params.last();          HashStringValue* options=params.as_hash(options_index);
 /* can not do it:   
         want to enable ^table::create[$source;  
 #               $.option[]  
         ]  
         but there is ^table.locate[name;value]  
   
         ...if(voptions.is_defined() && !voptions.is_string()))  
         if(maybe_options.is_string()) { // allow empty options  
                 result.defined=true;  
                 return result;  
         }  
 */  
         HashStringValue* options=maybe_options.get_hash();  
         if(!options)          if(!options)
                 return result;                  return result;
   
Line 108  static Table::Action_options get_action_ Line 90  static Table::Action_options get_action_
         }           } 
   
         if(valid_options!=options->count())          if(valid_options!=options->count())
                 throw Exception(PARSER_RUNTIME,                  throw Exception(PARSER_RUNTIME, 0, CALLED_WITH_INVALID_OPTION);
                         0,  
                         "called with invalid option");  
   
         return result;          return result;
 }  }
Line 123  static void check_option_param(bool opti Line 103  static void check_option_param(bool opti
                         "%s", msg);                          "%s", msg);
 }  }
   
   struct TableSeparators {
           char column;  const String* scolumn;
           char encloser; const String* sencloser;
   
           TableSeparators():
                   column('\t'), scolumn(new String("\t")),
                   encloser(0), sencloser(0)
           {}
           int load( HashStringValue& options ) {
                   int result=0;
                   if(Value* vseparator=options.get(PA_COLUMN_SEPARATOR_NAME)) {
                           scolumn=&vseparator->as_string();
                           if(scolumn->length()!=1)
                                   throw Exception(PARSER_RUNTIME,
                                           scolumn,
                                           "separator must be one character long");
                           column=scolumn->first_char();
                           result++;
                   }
                   if(Value* vencloser=options.get(PA_COLUMN_ENCLOSER_NAME)) {
                           sencloser=&vencloser->as_string();
                           if(sencloser->length()!=1)
                                   throw Exception(PARSER_RUNTIME,
                                           sencloser,
                                           "encloser must be one character long");
                           encloser=sencloser->first_char();
                           result++;
                   }
                   return result;
           }
   };
   
 static void _create(Request& r, MethodParams& params) {  static void _create(Request& r, MethodParams& params) {
         // clone/copy part?          // clone/copy part?
         if(Table *source=params[0].get_table()) {          if(Table *source=params[0].get_table()) {
                 Table::Action_options o=get_action_options(r, params, *source);                  Table::Action_options o=get_action_options(r, params, 1, *source);
                 check_option_param(o.defined, params, 1,                   check_option_param(o.defined, params, 1, 
                         "too many parameters");                          "too many parameters");
                 GET_SELF(r, VTable).set_table(*new Table(*source, o));                  GET_SELF(r, VTable).set_table(*new Table(*source, o));
                 return;                  return;
         }          }
   
         // data is last parameter          size_t data_param_index=0;
           bool nameless=false;
   
           if(params.count()>1) {
                   if(params[0].is_string()){ // can be nameless only
                           const String& snameless=params.as_string(0, "called with more then 1 param, first param may be only string 'nameless' or junction");
                           if(snameless!="nameless")
                                   throw Exception(PARSER_RUNTIME,
                                           &snameless,
                                           "table::create called with more then 1 param, first param may be only 'nameless'");
                           nameless=true;
                           data_param_index++;
                   }
           }
   
           HashStringValue *options=0;
           TableSeparators separators;
   
           size_t options_param_index=data_param_index+1;
           if(
                   options_param_index<params.count()
                   && (options=params.as_hash(options_param_index))
           ) {
                   // cloning, so that we could change
                   options=new HashStringValue(*options);
                   separators.load(*options);
                   if(separators.encloser){
                           throw Exception(PARSER_RUNTIME,
                                   0,
                                   "encloser not supported for table::create yet");
                   }
           }
   
           // data
         Temp_lang temp_lang(r, String::L_PASS_APPENDED);          Temp_lang temp_lang(r, String::L_PASS_APPENDED);
         const String&  data=          const String&  data=
                 r.process_to_string(params.as_junction(params.count()-1, "body must be code"));                  r.process_to_string(params.as_junction(data_param_index, "body must be code"));
   
         // parse columns          // parse columns
         size_t raw_pos_after=0;          size_t raw_pos_after=0;
         Table::columns_type columns;          Table::columns_type columns;
         if(params.count()==2) {  
                 const String& snameless=params.as_string(0, "called with two params, first param may only be string 'nameless'");          if(nameless){
                 if(snameless!="nameless")  
                         throw Exception(PARSER_RUNTIME,  
                                 &snameless,  
                                 "table::create called with two params, first param may only be 'nameless'");  
                 columns=Table::columns_type(0); // nameless                  columns=Table::columns_type(0); // nameless
         } else {          } else {
                 columns=Table::columns_type(new ArrayString);                  columns=Table::columns_type(new ArrayString);
Line 155  static void _create(Request& r, MethodPa Line 196  static void _create(Request& r, MethodPa
                 data.split(head, raw_pos_after, "\n", String::L_AS_IS, 1);                  data.split(head, raw_pos_after, "\n", String::L_AS_IS, 1);
                 if(head.count()) {                  if(head.count()) {
                         size_t col_pos_after=0;                          size_t col_pos_after=0;
                         head[0]->split(*columns, col_pos_after, "\t", String::L_AS_IS);                          if(head[0]->is_empty())
                                   *columns += new String();
                           else
                                   head[0]->split(*columns, col_pos_after, *separators.scolumn, String::L_AS_IS);
                 }                  }
         }          }
   
Line 167  static void _create(Request& r, MethodPa Line 211  static void _create(Request& r, MethodPa
         Array_iterator<const String*> i(rows);          Array_iterator<const String*> i(rows);
         while(i.has_next()) {          while(i.has_next()) {
                 Table::element_type row(new ArrayString);                  Table::element_type row(new ArrayString);
                 const String&  string=*i.next();                  const String& string=*i.next();
                 // remove comment lines                  // remove comment lines
                 if(!string.length())                  if(string.is_empty())
                         continue;                          continue;
   
                 size_t col_pos_after=0;                  size_t col_pos_after=0;
                 string.split(*row, col_pos_after, "\t", String::L_AS_IS);                  string.split(*row, col_pos_after, *separators.scolumn, String::L_AS_IS);
                 table+=row;                  table+=row;
         }          }
   
Line 190  struct lsplit_result { Line 234  struct lsplit_result {
   
 inline lsplit_result lsplit(char* string, char delim1, char delim2) {  inline lsplit_result lsplit(char* string, char delim1, char delim2) {
         lsplit_result result;          lsplit_result result;
     if(string) {          if(string) {
                 char delims[]={delim1, delim2, 0};                  char delims[]={delim1, delim2, 0};
                 if(char* v=strpbrk(string, delims)) {                  if(char* v=strpbrk(string, delims)) {
                         result.delim=*v;                          result.delim=*v;
Line 198  inline lsplit_result lsplit(char* string Line 242  inline lsplit_result lsplit(char* string
                         result.piece=v+1;                          result.piece=v+1;
                         return result;                          return result;
                 }                  }
     }          }
         result.piece=0;          result.piece=0;
         result.delim=0;          result.delim=0;
     return result;          return result;
 }  }
   
 inline lsplit_result lsplit(char* *string_ref, char delim1, char delim2) {  inline lsplit_result lsplit(char* *string_ref, char delim1, char delim2) {
     lsplit_result result;          lsplit_result result;
         result.piece=*string_ref;          result.piece=*string_ref;
         lsplit_result next=lsplit(*string_ref, delim1, delim2);          lsplit_result next=lsplit(*string_ref, delim1, delim2);
         result.delim=next.delim;          result.delim=next.delim;
         *string_ref=next.piece;          *string_ref=next.piece;
     return result;          return result;
 }  }
   
 static lsplit_result lsplit(char** string_ref, char delim1, char delim2, char encloser) {  static lsplit_result lsplit(char** string_ref, char delim1, char delim2, char encloser) {
         lsplit_result result;          lsplit_result result;
   
     if(char* string=*string_ref) {          if(char* string=*string_ref) {
                 if(encloser && *string==encloser) {                  if(encloser && *string==encloser) {
             string++;                          string++;
                                                   
                         char *read;                          char *read;
                         char *write;                          char *write;
                         write=read=string;                          write=read=string;
                         char c;                          char c;
                         while((c=*read++)) {                          // we are enclosed, searching for second encloser
                           while(c=*read++) {
                                 if(c==encloser) {                                  if(c==encloser) {
                                         char n=*read;                                          if(*read==encloser) // double-encloser stands for encloser
                                         if(n==encloser) // double-encloser stands for encloser  
                                                 read++;  
                                         else if(n==delim1 || n==delim2) {  
                                                 result.delim=n;  
                                                 read++;                                                  read++;
                                                 break;                                          else
                                         }                                                  break; // note: skipping encloser
                                 }                                  }
   
                                 *write++=c;                                  *write++=c;
                         }                          }
                           // we are no longer enclosed, searching for delimiter, skipping extra enclosers
                           while(c=*read++) {
                                   if(c==delim1 || c==delim2) {
                                           result.delim=c;
                                           break;
                                   } else  if(c!=encloser)
                                           *write++=c;
                           }
                         *write=0; // terminate                          *write=0; // terminate
                         *string_ref=c? read: 0;                          *string_ref=c? read: 0;
                         result.piece=string;                          result.piece=string;
                         return result;                          return result;
                 } else                  } else
                         return lsplit(string_ref, delim1, delim2);                          return lsplit(string_ref, delim1, delim2);
     }          }
         result.piece=0;          result.piece=0;
     return result;          return result;
 }  }
   
 static void skip_empty_and_comment_lines( char** data_ref ) {  static void skip_empty_and_comment_lines( char** data_ref ) {
Line 263  static void skip_empty_and_comment_lines Line 311  static void skip_empty_and_comment_lines
         }          }
 }  }
   
 struct TableSeparators {  static void skip_empty_lines( char** data_ref ) {
         char column;  const String* scolumn;          if(char *data=*data_ref) {
         char encloser; const String* sencloser;                  while( char c=*data ) {
                           if( c== '\n' ) {
         TableSeparators():                                  /*nowhere=*/getrow(&data); // remove empty lines
                 column('\t'), scolumn(new String("\t", false)),                                  if(!(*data_ref=data))
                 encloser(0), sencloser(0)                                          break;
         {}                                  continue;
         int load( HashStringValue& options ) {                          }
                 int result=0;                          break;
                 if(Value* vseparator=options.get(PA_COLUMN_SEPARATOR_NAME)) {  
                         scolumn=&vseparator->as_string();  
                         if(scolumn->length()!=1)  
                                 throw Exception(PARSER_RUNTIME,  
                                         scolumn,  
                                         "separator must be one character long");  
                         column=scolumn->first_char();  
                         result++;  
                 }  
                 if(Value* vencloser=options.get(PA_COLUMN_ENCLOSER_NAME)) {  
                         sencloser=&vencloser->as_string();  
                         if(sencloser->length()!=1)  
                                 throw Exception(PARSER_RUNTIME,  
                                         sencloser,  
                                         "encloser must be one character long");  
                         encloser=sencloser->first_char();  
                         result++;  
                 }                  }
                 return result;  
         }          }
 };  }
   
   typedef void (*Skip_lines_action)(char** data_ref);
   
 static void _load(Request& r, MethodParams& params) {  static void _load(Request& r, MethodParams& params) {
         const String&  first_param=params.as_string(0, FILE_NAME_MUST_BE_STRING);          const String&  first_param=params.as_string(0, FILE_NAME_MUST_BE_STRING);
Line 306  static void _load(Request& r, MethodPara Line 338  static void _load(Request& r, MethodPara
         HashStringValue *options=0;          HashStringValue *options=0;
         TableSeparators separators;          TableSeparators separators;
         if(options_param_index<params.count()          if(options_param_index<params.count()
                 && (options=params.as_no_junction(options_param_index, "additional params must be hash").get_hash())) {                  && (options=params.as_hash(options_param_index))) {
                 // cloning, so that we could change [to simplify checks on params inside file_read_text                  // cloning, so that we could change [to simplify checks on params inside file_read_text
                 options=new HashStringValue(*options);                  options=new HashStringValue(*options);
                 separators.load(*options);                  separators.load(*options);
         }          }
   
         // loading text          // loading text
         char *data=file_read_text(r.charsets,          char *data=file_load_text(r,
                 r.absolute(params.as_string(filename_param_index, FILE_NAME_MUST_BE_STRING)),                  r.absolute(params.as_string(filename_param_index, FILE_NAME_MUST_BE_STRING)),
                 true,                  true,
                 options                  options
         );          );
   
           Skip_lines_action skip_lines_action = (separators.column=='#' || separators.encloser=='#') ? skip_empty_lines : skip_empty_and_comment_lines;
   
         // parse columns          // parse columns
         Table::columns_type columns;          Table::columns_type columns;
         if(nameless) {          if(nameless) {
Line 326  static void _load(Request& r, MethodPara Line 360  static void _load(Request& r, MethodPara
         } else {          } else {
                 columns=Table::columns_type(new ArrayString);                  columns=Table::columns_type(new ArrayString);
   
                 skip_empty_and_comment_lines(&data);                  skip_lines_action(&data);
                 while( lsplit_result sr=lsplit(&data, separators.column, '\n', separators.encloser) ) {                  while( lsplit_result sr=lsplit(&data, separators.column, '\n', separators.encloser) ) {
                         *columns+=new String(sr.piece, 0, true);                          *columns+=new String(sr.piece, String::L_TAINTED);
                         if(sr.delim=='\n')                           if(sr.delim=='\n') 
                                 break;                                  break;
                 }                  }
Line 339  static void _load(Request& r, MethodPara Line 373  static void _load(Request& r, MethodPara
   
         // parse cells          // parse cells
         Table::element_type row(new ArrayString(columns_count));          Table::element_type row(new ArrayString(columns_count));
         skip_empty_and_comment_lines(&data);          skip_lines_action(&data);
         while( lsplit_result sr=lsplit(&data, separators.column, '\n', separators.encloser) ) {          while( lsplit_result sr=lsplit(&data, separators.column, '\n', separators.encloser) ) {
                 if(!*sr.piece && !sr.delim && !row->count()) // append last empty column [if without \n]                  if(!*sr.piece && !sr.delim && !row->count()) // append last empty column [if without \n]
                         break;                          break;
                 *row+=new String(sr.piece, 0, true);                  *row+=new String(sr.piece, String::L_TAINTED);
                 if(sr.delim=='\n') {                  if(sr.delim=='\n') {
                         table+=row;                          table+=row;
                         row=new ArrayString(columns_count);                          row=new ArrayString(columns_count);
                         skip_empty_and_comment_lines(&data);                          skip_lines_action(&data);
                 }                  }
         }          }
         // last line [if without \n]          // last line [if without \n]
Line 358  static void _load(Request& r, MethodPara Line 392  static void _load(Request& r, MethodPara
         GET_SELF(r, VTable).set_table(table);          GET_SELF(r, VTable).set_table(table);
 }  }
   
 void maybe_enclose( String& to, const String& from, char encloser, const String* sencloser ) {  #if (!defined(NO_STRINGSTREAM) && !defined(FREEBSD4))
   
   #include "gc_allocator.h"
   
   typedef std::basic_stringstream<char, std::char_traits<char>, gc_allocator<char> > pa_stringstream;
   typedef std::basic_string<char, std::char_traits<char>, gc_allocator<char> > pa_string;
   
   void maybe_enclose( pa_stringstream& to, const String& from, char encloser ) {
         if(encloser) {          if(encloser) {
                 to<<*sencloser;                  to<<encloser;
                 // while we have 'encloser'...                  // while we have 'encloser'...
                 size_t pos_after=0;                  size_t pos_after=0;
                 for( size_t pos_before; (pos_before=from.pos( encloser, pos_after ))!=STRING_NOT_FOUND; pos_after=pos_before) {                  for( size_t pos_before; (pos_before=from.pos( encloser, pos_after ))!=STRING_NOT_FOUND; pos_after=pos_before) {
                         pos_before++; // including first encloser (and skipping it for next pos)                          pos_before++; // including first encloser (and skipping it for next pos)
             to<<from.mid(pos_after, pos_before);                          to<<from.mid(pos_after, pos_before).cstr();
                         to<<*sencloser; // doubling encloser                          to<<encloser; // doubling encloser
                 }                  }
                 // last piece                  // last piece
                 size_t from_length=from.length();                  size_t from_length=from.length();
                 if(pos_after<from_length)                  if(pos_after<from_length)
                         to<<from.mid(pos_after, from_length);                          to<<from.mid(pos_after, from_length).cstr();
   
                 to<<*sencloser;                  to<<encloser;
         } else          } else
                 to<<from;                  to<<from.cstr();
 }  }
   
 void maybe_enclose( ostringstream& to, const String& from, char encloser ) {  #else
   
   void maybe_enclose( String& to, const String& from, char encloser, const String* sencloser ) {
         if(encloser) {          if(encloser) {
                 to<<encloser;                  to<<*sencloser;
                 // while we have 'encloser'...                  // while we have 'encloser'...
                 size_t pos_after=0;                  size_t pos_after=0;
                 for( size_t pos_before; (pos_before=from.pos( encloser, pos_after ))!=STRING_NOT_FOUND; pos_after=pos_before) {                  for( size_t pos_before; (pos_before=from.pos( encloser, pos_after ))!=STRING_NOT_FOUND; pos_after=pos_before) {
                         pos_before++; // including first encloser (and skipping it for next pos)                          pos_before++; // including first encloser (and skipping it for next pos)
             to<<from.mid(pos_after, pos_before).cstr();                          to<<from.mid(pos_after, pos_before);
                         to<<encloser; // doubling encloser                          to<<*sencloser; // doubling encloser
                 }                  }
                 // last piece                  // last piece
                 size_t from_length=from.length();                  size_t from_length=from.length();
                 if(pos_after<from_length)                  if(pos_after<from_length)
                         to<<from.mid(pos_after, from_length).cstr();                          to<<from.mid(pos_after, from_length);
   
                 to<<encloser;                  to<<*sencloser;
         } else          } else
                 to<<from.cstr();                  to<<from;
 }  }
   
   #endif // don't use stringstream
   
 static void _save_old(Request& r, MethodParams& params) {  static void _save(Request& r, MethodParams& params) {
         const String& first_arg=params.as_string(0, "first argument must not be code");          const String& first_arg=params.as_string(0, FIRST_ARG_MUST_NOT_BE_CODE);
         size_t param_index=1;          size_t param_index=1;
   
         bool do_append=false;          bool do_append=false;
Line 415  static void _save_old(Request& r, Method Line 459  static void _save_old(Request& r, Method
                 --param_index;                  --param_index;
   
         const String& file_name=params.as_string(param_index++, FILE_NAME_MUST_NOT_BE_CODE);          const String& file_name=params.as_string(param_index++, FILE_NAME_MUST_NOT_BE_CODE);
           String file_spec=r.absolute(file_name);
   
           if(do_append && file_exist(file_spec))
                   output_column_names=false;
   
         TableSeparators separators;          TableSeparators separators;
         if(param_index<params.count()) {          if(param_index<params.count())
                 Value& voptions=params.as_no_junction(param_index++, "additional params must be hash");                  if(HashStringValue* options=params.as_hash(param_index++)) {
                 if( voptions.is_defined() && !voptions.is_string() ) {                          int valid_options=separators.load(*options);
                         if(HashStringValue* options=voptions.get_hash()) {                          if(valid_options!=options->count())
                                 int valid_options=separators.load(*options);                                  throw Exception(PARSER_RUNTIME, 0, CALLED_WITH_INVALID_OPTION);
                                 if(valid_options!=options->count())  
                                         throw Exception(PARSER_RUNTIME,  
                                                 0,  
                                                 "invalid option passed");  
                         } else {  
                                 throw Exception(PARSER_RUNTIME,  
                                         0,  
                                         "additional params must be hash (did you spell mode parameter correctly?)");  
                         }  
                 }                  }
         }  
         if(param_index<params.count())          if(param_index<params.count())
                 throw Exception(PARSER_RUNTIME,                  throw Exception(PARSER_RUNTIME,
                         0,                          0,
Line 440  static void _save_old(Request& r, Method Line 479  static void _save_old(Request& r, Method
   
         Table& table=GET_SELF(r, VTable).table();          Table& table=GET_SELF(r, VTable).table();
   
         String sdata;  #if (!defined(NO_STRINGSTREAM) && !defined(FREEBSD4))
   
           pa_stringstream ost(std::stringstream::out);
   
           // process header
         if(output_column_names) {          if(output_column_names) {
                 if(table.columns()) { // named table                  if(table.columns()) { // named table
                         for(Array_iterator<const String*> i(*table.columns()); i.has_next(); ) {                          for(Array_iterator<const String*> i(*table.columns()); i.has_next(); ) {
                                 maybe_enclose( sdata, *i.next(), separators.encloser, separators.sencloser );                                  maybe_enclose( ost, *i.next(), separators.encloser );
                                 if(i.has_next())                                  if(i.has_next()){
                                         sdata<<*separators.scolumn;                                          ost<<separators.column;
                                   }
                         }                          }
                 } else { // nameless table [we were asked to output column names]                  } else { // nameless table [we were asked to output column names]
                         if(int lsize=table.count()?table[0]->count():0)                          if(int lsize=table.count()?table[0]->count():0)
                                 for(int column=0; column<lsize; column++) {                                  for(int column=0; column<lsize; column++) {
                                         char *cindex_tab=new(PointerFreeGC) char[MAX_NUMBER];                                          if(separators.encloser) {
                                         sdata.append_know_length(cindex_tab,                                                   ost<<separators.encloser<<column<<separators.encloser;
                                                 snprintf(cindex_tab, MAX_NUMBER,                                           } else {
                                                         column<lsize-1?"%d%c":"%d", column, separators.column),                                                  ost<<column;
                                                         String::L_CLEAN);                                          }
                                           if(column<lsize-1){
                                                   ost<<separators.column;
                                           }
                                 }                                  }
                         else                          else
                                 sdata.append_help_length("empty nameless table", 0, String::L_CLEAN);                                  ost<<"empty nameless table";
                 }                  }
                 sdata.append_know_length("\n", 1, String::L_CLEAN);                  ost<<'\n';
         }          }
   
         // data lines          // process data lines
         Array_iterator<ArrayString*> i(table);          Array_iterator<ArrayString*> i(table);
         while(i.has_next()) {          while(i.has_next()) {
                 for(Array_iterator<const String*> c(*i.next()); c.has_next(); ) {                  for(Array_iterator<const String*> c(*i.next()); c.has_next(); ) {
                         maybe_enclose( sdata, *c.next(), separators.encloser, separators.sencloser );                          maybe_enclose( ost, *c.next(), separators.encloser );
                         if(c.has_next())                          if(c.has_next())
                                 sdata<<*separators.scolumn;                                  ost<<separators.column;
                 }                  }
                 sdata.append_know_length("\n", 1, String::L_CLEAN);                  ost<<'\n';
         }          }
   
         // write          // write
         {          {
                 const char* data_cstr=sdata.cstr();                  pa_string data=ost.str();
                 file_write(r.absolute(file_name),                   const char* data_cstr=data.c_str();
                         data_cstr, sdata.length(), true, do_append);  
                 if(*data_cstr) // not empty (when empty it's not heap memory)  
                         pa_free((void*)data_cstr); // not needed anymore  
         }  
 }  
   
 static void _save(Request& r, MethodParams& params) {  
         const String& first_arg=params.as_string(0, "first argument must not be code");  
         size_t param_index=1;  
   
         bool do_append=false;  
         bool output_column_names=true;  
   
         // mode?  
         if(first_arg=="append")  
                 do_append=true;  
         else if(first_arg=="nameless")  
                 output_column_names=false;  
         else  
                 --param_index;  
   
         const String& file_name=params.as_string(param_index++, FILE_NAME_MUST_NOT_BE_CODE);  
   
         TableSeparators separators;                  file_write(r.charsets, file_spec, data_cstr, data.length(), true /* as text */, do_append);
         if(param_index<params.count()) {  
                 Value& voptions=params.as_no_junction(param_index++, "additional params must be hash");  
                 if( voptions.is_defined() && !voptions.is_string() ) {  
                         if(HashStringValue* options=voptions.get_hash()) {  
                                 int valid_options=separators.load(*options);  
                                 if(valid_options!=options->count())  
                                         throw Exception(PARSER_RUNTIME,  
                                                 0,  
                                                 "invalid option passed");  
                         } else {  
                                 throw Exception(PARSER_RUNTIME,  
                                         0,  
                                         "additional params must be hash (did you spell mode parameter correctly?)");  
                         }  
                 }  
         }          }
         if(param_index<params.count())  
                 throw Exception(PARSER_RUNTIME,  
                         0,  
                         "bad mode (must be nameless or append)");  
   
         Table& table=GET_SELF(r, VTable).table();  #else
   
         ostringstream ost(stringstream::out);  
   
         // process header          String sdata;
         if(output_column_names) {          if(output_column_names) {
                 if(table.columns()) { // named table                  if(table.columns()) { // named table
                         for(Array_iterator<const String*> i(*table.columns()); i.has_next(); ) {                          for(Array_iterator<const String*> i(*table.columns()); i.has_next(); ) {
                                 maybe_enclose( ost, *i.next(), separators.encloser );                                  maybe_enclose( sdata, *i.next(), separators.encloser, separators.sencloser );
                                 if(i.has_next()){                                  if(i.has_next())
                                         ost<<separators.column;                                          sdata<<*separators.scolumn;
                                 }  
                         }                          }
                 } else { // nameless table [we were asked to output column names]                  } else { // nameless table [we were asked to output column names]
                         if(int lsize=table.count()?table[0]->count():0)                          if(int lsize=table.count()?table[0]->count():0)
                                 for(int column=0; column<lsize; column++) {                                  for(int column=0; column<lsize; column++) {
                                         if(separators.encloser) {                                          char *cindex_tab=new(PointerFreeGC) char[MAX_NUMBER];
                                                 ost<<separators.encloser<<column<<separators.encloser;                                          sdata.append_know_length(cindex_tab, 
                                         } else {                                                  snprintf(cindex_tab, MAX_NUMBER, 
                                         ost<<column;                                                          column<lsize-1?"%d%c":"%d", column, separators.column),
                                         }                                                          String::L_CLEAN);
                                         if(column<lsize-1){  
                                                 ost<<separators.column;  
                                         }  
                                 }                                  }
                         else                          else
                                 ost<<"empty nameless table";                                  sdata.append_help_length("empty nameless table", 0, String::L_CLEAN);
                 }                  }
                 ost<<'\n';                  sdata.append_know_length("\n", 1, String::L_CLEAN);
         }          }
   
         // process data lines          // data lines
         Array_iterator<ArrayString*> i(table);          Array_iterator<ArrayString*> i(table);
         while(i.has_next()) {          while(i.has_next()) {
                 for(Array_iterator<const String*> c(*i.next()); c.has_next(); ) {                  for(Array_iterator<const String*> c(*i.next()); c.has_next(); ) {
                         maybe_enclose( ost, *c.next(), separators.encloser );                          maybe_enclose( sdata, *c.next(), separators.encloser, separators.sencloser );
                         if(c.has_next())                          if(c.has_next())
                                 ost<<separators.column;                                  sdata<<*separators.scolumn;
                 }                  }
                 ost<<'\n';                  sdata.append_know_length("\n", 1, String::L_CLEAN);
         }          }
   
         // write          // write
         {          {
                 string data=ost.str();                  const char* data_cstr=sdata.cstr();
                 const char* data_cstr = data.c_str();                  file_write(r.charsets, file_spec, data_cstr, sdata.length(), true, do_append);
                   if(*data_cstr) // not empty (when empty it's not heap memory)
                 file_write(r.absolute(file_name), data_cstr, data.length(), true /* as text */, do_append);                          pa_free((void*)data_cstr); // not needed anymore
         }          }
   
   #endif // don't use stringstream
 }  }
   
 static void _count(Request& r, MethodParams&) {  static void _count(Request& r, MethodParams& params) {
         int result=GET_SELF(r, VTable).table().count();          Table& table=GET_SELF(r, VTable).table();
           size_t result=0;
           if(params.count()) {
                   const String& param=params.as_string(0, PARAMETER_MUST_BE_STRING);
                   if(param == "columns")
                           result = table.columns() ? table.columns()->count() : 0;
                   else if(param == "cells")
                           result = table.count() ? table[table.current()]->count() : 0;
                   else if(param == "rows") // synonim for ^table.count[]
                           result = table.count();
                   else
                           throw Exception(PARSER_RUNTIME, &param, "parameter must be 'columns', 'cells' and 'rows' only");
           } else
                   result = table.count();
   
         r.write_no_lang(*new VInt(result));          r.write_no_lang(*new VInt(result));
 }  }
   
Line 607  static void _offset(Request& r, MethodPa Line 623  static void _offset(Request& r, MethodPa
 }  }
   
 static void _menu(Request& r, MethodParams& params) {  static void _menu(Request& r, MethodParams& params) {
         Temp_hash_value<const String::Body, void*>           InCycle temp(r);
                 cycle_data_setter(r.classes_conf, cycle_data_name, /*any not null flag*/&r);  
   
         Value& body_code=params.as_junction(0, "body must be code");          Value& body_code=params.as_junction(0, "body must be code");
                   
         Value* delim_maybe_code=params.count()>1?&params[1]:0;          Value* delim_maybe_code=params.count()>1?&params[1]:0;
   
         Table& table=GET_SELF(r, VTable).table();          Table& table=GET_SELF(r, VTable).table();
         bool need_delim=false;          size_t saved_current=table.current();
         int saved_current=table.current();          size_t size=table.count();
         int size=table.count();  
         for(int row=0; row<size; row++) {  
                 table.set_current(row);  
   
                 StringOrValue sv_processed=r.process(body_code);  
                 Request::Skip lskip=r.get_skip(); r.set_skip(Request::SKIP_NOTHING);  
                 const String* s_processed=sv_processed.get_string();  
                 if(delim_maybe_code && s_processed && s_processed->length()) { // delimiter set and we have body  
                         if(need_delim) // need delim & iteration produced string?  
                                 r.write_pass_lang(r.process(*delim_maybe_code));  
                         need_delim=true;  
                 }  
                 r.write_pass_lang(sv_processed);  
   
                 if(lskip==Request::SKIP_BREAK)          if(delim_maybe_code) { // delimiter set
                         break;                  bool need_delim=false;
                   for(size_t row=0; row<size; row++) {
                           table.set_current(row);
   
                           StringOrValue sv_processed=r.process(body_code);
                           Request::Skip lskip=r.get_skip(); r.set_skip(Request::SKIP_NOTHING);
   
                           const String* s_processed=sv_processed.get_string();
                           if(s_processed && !s_processed->is_empty()) { // we have body
                                   if(need_delim) // need delim & iteration produced string?
                                           r.write_pass_lang(r.process(*delim_maybe_code));
                                   else
                                           need_delim=true;
                           }
   
                           r.write_pass_lang(sv_processed);
   
                           if(lskip==Request::SKIP_BREAK)
                                   break;
                   }
           } else {
                   for(size_t row=0; row<size; row++) {
                           table.set_current(row);
    
                           r.process_write(body_code);
                           Request::Skip lskip=r.get_skip(); r.set_skip(Request::SKIP_NOTHING);
    
                           if(lskip==Request::SKIP_BREAK)
                                   break;
                   }
         }          }
         table.set_current(saved_current);          table.set_current(saved_current);
 }  }
Line 663  static void table_row_to_hash(Table::ele Line 694  static void table_row_to_hash(Table::ele
         if(!key)          if(!key)
                 return; // ignore rows without key [too-short-record_array if-indexed]                  return; // ignore rows without key [too-short-record_array if-indexed]
                                   
         bool exist = false;          bool exist=false;
         switch (info->value_type) {          switch(info->value_type) {
         case C_STRING:                  case C_STRING: {
                 {                          size_t index=info->value_fields->get(0);
                         exist=info->hash->put_dont_replace(*key, new VString(*row->get(info->value_fields->get(0))));                          exist=info->hash->put_dont_replace(*key, (index < row->count()) ? new VString(*row->get(index)) : new VString());
                 }                          break;
                 break;                  }
         case C_HASH:                  case C_HASH: {
                 {  
                         VHash* vhash=new VHash;                          VHash* vhash=new VHash;
                         HashStringValue& hash=vhash->hash();                          HashStringValue& hash=vhash->hash();
                         for(Array_iterator<int> i(*info->value_fields); i.has_next(); ) {                          for(Array_iterator<int> i(*info->value_fields); i.has_next(); ) {
Line 683  static void table_row_to_hash(Table::ele Line 713  static void table_row_to_hash(Table::ele
                         }                          }
   
                         exist=info->hash->put_dont_replace(*key, vhash);                          exist=info->hash->put_dont_replace(*key, vhash);
                           break;
                 }                  }
                 break;                  case C_TABLE: {
         case C_TABLE:                          VTable* vtable=(VTable*)info->hash->get(*key); // table exist?
                 {  
                         VTable* vtable=(VTable*)info->hash->get(*key); // put. table existed?  
                         if( info->distinct==D_ILLEGAL ){  
                                 exist=true;  
                                 break;  
                         }  
   
                         Table* table;                          Table* table;
                         if(vtable) {                          if(vtable) {
                                   if(info->distinct==D_ILLEGAL) {
                                           exist=true;
                                           break;
                                   }
                                 table=vtable->get_table();                                  table=vtable->get_table();
                         } else {                          } else {
                                 // no? creating table of same structure as source                                  // no? creating table of same structure as source
Line 703  static void table_row_to_hash(Table::ele Line 731  static void table_row_to_hash(Table::ele
                                 info->hash->put(*key, new VTable(table));                                  info->hash->put(*key, new VTable(table));
                         }                          }
                         *table+=row;                          *table+=row;
                           break;
                 }                  }
                 break;  
         }          }
         if(exist && info->distinct==D_ILLEGAL)          if(exist && info->distinct==D_ILLEGAL)
                 throw Exception(PARSER_RUNTIME,                  throw Exception(PARSER_RUNTIME,
Line 736  Table2hash_value_type get_value_type(Val Line 764  Table2hash_value_type get_value_type(Val
 static void _hash(Request& r, MethodParams& params) {  static void _hash(Request& r, MethodParams& params) {
         Table& self_table=GET_SELF(r, VTable).table();          Table& self_table=GET_SELF(r, VTable).table();
         VHash& result=*new VHash;          VHash& result=*new VHash;
         if(Table::columns_type columns=self_table.columns())          if(Table::columns_type columns=self_table.columns()){
                 if(columns->count()>0) {                  if(columns->count()>0) {
                         Table2hash_distint distinct=D_ILLEGAL;                          Table2hash_distint distinct=D_ILLEGAL;
                         Table2hash_value_type value_type=C_HASH;                          Table2hash_value_type value_type=C_HASH;
                         int param_index=params.count()-1;                          int param_index=params.count()-1;
                         if(param_index>0) {                          if(param_index>0) {
                                 if(HashStringValue* options=                                  if(HashStringValue* options=params.as_no_junction(param_index, PARAM_MUST_NOT_BE_CODE).get_hash()){ // can't use .as_has because the 2nd param could be table so .as_hash throws an error
                                         params.as_no_junction(param_index, "param must not be code").get_hash()  
                                 ){  
                                         --param_index;                                          --param_index;
                                         int valid_options=0;                                          int valid_options=0;
                                         if(Value* vdistinct_code=options->get(sql_distinct_name)) {                                          if(Value* vdistinct_code=options->get(sql_distinct_name)) { // $.distinct ?
                                                 valid_options++;                                                  valid_options++;
                                                 Value& vdistinct_value=r.process_to_value(*vdistinct_code);                                                  Value& vdistinct_value=r.process_to_value(*vdistinct_code);
                                                 if(vdistinct_value.is_string()) {                                                  if(vdistinct_value.is_string()) {
Line 755  static void _hash(Request& r, MethodPara Line 781  static void _hash(Request& r, MethodPara
                                                         if(sdistinct=="tables") {                                                          if(sdistinct=="tables") {
                                                                 value_type=C_TABLE;                                                                  value_type=C_TABLE;
                                                                 distinct=D_FIRST;                                                                  distinct=D_FIRST;
                                                         } else                                                          } else {
                                                                 throw Exception(PARSER_RUNTIME,                                                                  throw Exception(PARSER_RUNTIME,
                                                                         &sdistinct,                                                                          &sdistinct,
                                                                         "must be 'tables' or true/false");                                                                          "must be 'tables' or true/false");
                                                 } else                                                          }
                                                   } else {
                                                         distinct=vdistinct_value.as_bool()?D_FIRST:D_ILLEGAL;                                                          distinct=vdistinct_value.as_bool()?D_FIRST:D_ILLEGAL;
                                                   }
                                         }                                          }
                                         if(Value* vvalue_type_code=options->get(sql_value_type_name)) {                                          if(Value* vvalue_type_code=options->get(sql_value_type_name)) { // $.type ?
                                                 if(value_type==C_TABLE){ // $.distinct[tables] was specified already                                                  if(value_type==C_TABLE) // $.distinct[tables] already was specified
                                                         throw Exception(PARSER_RUNTIME,                                                          throw Exception(PARSER_RUNTIME,
                                                                 0,                                                                  0,
                                                                 "you can't specify $.distinct[tables] and $.type[] together.");                                                                  "you can't specify $.distinct[tables] and $.type[] together");
                                                 } else {  
                                                         valid_options++;                                                  valid_options++;
                                                         value_type=get_value_type(r.process_to_value(*vvalue_type_code));                                                  value_type=get_value_type(r.process_to_value(*vvalue_type_code));
                                                 }                                          }
                                         }   
   
                                         if(valid_options!=options->count())                                          if(valid_options!=options->count())
                                                 throw Exception(PARSER_RUNTIME,                                                  throw Exception(PARSER_RUNTIME, 0, CALLED_WITH_INVALID_OPTION);
                                                         0,  
                                                         "called with invalid option");  
                                 }                                  }
                         }                          }
                         if(param_index==2) // bad options param type  
                                 throw Exception(PARSER_RUNTIME,                          if(param_index==2) // options was specified but not as hash
                                         0,                                  throw Exception(PARSER_RUNTIME, 0, "options must be hash");
                                         "options must be hash");  
   
                         Array<int> value_fields;                          Array<int> value_fields;
                         if(param_index>0) {                          if(param_index==0){ // list of columns wasn't specified
                                   if(value_type==C_STRING) // $.type[string]
                                           throw Exception(PARSER_RUNTIME,
                                                   0,
                                                   "you must specify one value field with option $.type[string]");
                                   
                                   for(size_t i=0; i<columns->count(); i++) // by all columns, including key
                                           value_fields+=i;
   
                           } else { // list of columns was specified
                                 if(value_type==C_TABLE)                                  if(value_type==C_TABLE)
                                         throw Exception(PARSER_RUNTIME,                                          throw Exception(PARSER_RUNTIME,
                                                 0,                                                  0,
                                                 "in distinct[tables] mode you may not specify value field(s)");                                                  "you can't specify value field(s) with option $.distinct[tables] or $.type[tables]");
   
                                 Value& value_fields_param=params.as_no_junction(param_index, "value field(s) must not be code");                                  Value& value_fields_param=params.as_no_junction(param_index, "value field(s) must not be code");
                                 if(value_fields_param.is_string()) {                                  if(value_fields_param.is_string()) { // one column as string was specified
                                         value_fields+=self_table.column_name2index(                                          value_fields+=self_table.column_name2index(*value_fields_param.get_string(), true);
                                                 *value_fields_param.get_string(), true);                                  } else if(Table* value_fields_table=value_fields_param.get_table()) { // list of columns were specified in table
                                 } else if(Table* value_fields_table=value_fields_param.get_table()) {                                          for(Array_iterator<Table::element_type> i(*value_fields_table); i.has_next(); ) {
                                         for(Array_iterator<Table::element_type> i(*value_fields_table);                                                   const String& value_field_name =*i.next()->get(0);
                                                 i.has_next(); ) {                                                  value_fields +=self_table.column_name2index(value_field_name, true);
                                                 const String& value_field_name  
                                                         =*i.next()->get(0);  
                                                 value_fields  
                                                         +=self_table.column_name2index(value_field_name, true);  
                                         }                                          }
                                 } else                                  } else
                                         throw Exception(PARSER_RUNTIME,                                          throw Exception(PARSER_RUNTIME,
                                                 0,                                                  0,
                                                 "value field(s) must be string or table");                                                  "value field(s) must be string or table");
   
                         } else { // by all columns, including key  
                                 if(value_type==C_STRING)  
                                         throw Exception(PARSER_RUNTIME,  
                                                 0,  
                                                 "with $.type[string] you must specify one value field(s)");  
                                 // if(!(distinct!=D_ILLEGAL && distinct!=D_FIRST))  
                                         for(size_t i=0; i<columns->count(); i++)  
                                                 value_fields+=i;  
                         }                          }
   
                         if(value_type==C_STRING && value_fields.count()!=1)                          if(value_type==C_STRING && value_fields.count()!=1)
                                 throw Exception(PARSER_RUNTIME,                                  throw Exception(PARSER_RUNTIME,
                                         0,                                          0,
                                         "you can specify one value field with this $.type[].");                                          "you can specify only one value field with option $.type[string]");
   
                         {                          {
                                 Value* key_param=&params[0];                                  Value* key_param=&params[0];
Line 845  static void _hash(Request& r, MethodPara Line 866  static void _hash(Request& r, MethodPara
                                 result.extract_default();                                  result.extract_default();
                         }                          }
                 }                  }
           }
         r.write_no_lang(result);          r.write_no_lang(result);
 }  }
   
Line 893  static void _sort(Request& r, MethodPara Line 915  static void _sort(Request& r, MethodPara
                 old_table.set_current(i);                  old_table.set_current(i);
                 // calculate key value                  // calculate key value
                 seq[i].row=old_table[i];                  seq[i].row=old_table[i];
                 Value& value=r.process_to_value(key_maker).as_expr_result(true/*return string as-is*/);                  Value& value=r.process_to_value(key_maker);
                 if(i==0) // determining key values type by first one                  if(i==0) // determining key values type by first one
                         key_values_are_strings=value.is_string();                          key_values_are_strings=value.is_string();
   
                 if(key_values_are_strings)                  if(key_values_are_strings)
                         seq[i].value.c_str=value.as_string().cstr();                          seq[i].value.c_str=value.as_string().cstr();
                 else                  else
                         seq[i].value.d=value.as_double();                          seq[i].value.d=value.as_expr_result().as_double();
           }
   
           // @todo: handle this elsewhere
           if(r.charsets.source().NAME()=="KOI8-R" && key_values_are_strings) {
                   for(i=0; i<old_count; i++)
                           if(*seq[i].value.c_str)
                                   seq[i].value.c_str=Charset::transcode(seq[i].value.c_str, r.charsets.source(), UTF8_charset).cstr();
         }          }
   
         // sort keys          // sort keys
         _qsort(seq, old_count, sizeof(Table_seq_item),           qsort(seq, old_count, sizeof(Table_seq_item), key_values_are_strings?sort_cmp_string:sort_cmp_double);
                 key_values_are_strings?sort_cmp_string:sort_cmp_double);  
   
         // reorder table as they require in 'seq'          // reorder table as they require in 'seq'
         for(i=0; i<old_count; i++)          for(i=0; i<old_count; i++)
Line 922  struct Expression_is_true_info { Line 951  struct Expression_is_true_info {
         Value* expression_code;          Value* expression_code;
 };  };
 #endif  #endif
   
 static bool expression_is_true(Table&, Expression_is_true_info* info) {  static bool expression_is_true(Table&, Expression_is_true_info* info) {
         return info->r->process_to_value(*info->expression_code).as_bool();          return info->r->process_to_value(*info->expression_code).as_bool();
 }  }
 static bool _locate_expression(Table& table, Table::Action_options o,  
                                Request& r, MethodParams& params) {  static bool _locate_expression(Table& table, Request& r, MethodParams& params) {
         check_option_param(o.defined, params, 1,  
                 "locate by expression only has parameters: expression and, maybe, options");  
         Value& expression_code=params.as_junction(0, "must be expression");          Value& expression_code=params.as_junction(0, "must be expression");
           const size_t options_index=1;
           Table::Action_options o=get_action_options(r, params, options_index, table);
           check_option_param(o.defined, params, options_index, "locate by expression only has parameters: expression and, maybe, options");
   
         Expression_is_true_info info={&r, &expression_code};          Expression_is_true_info info={&r, &expression_code};
         return table.table_first_that(expression_is_true, &info, o);          return table.table_first_that(expression_is_true, &info, o);
 }  }
 static bool _locate_name_value(Table& table, Table::Action_options o,  
                                Request&, MethodParams& params) {  static bool _locate_name_value(Table& table, Request& r, MethodParams& params) {
         check_option_param(o.defined, params, 2,  
                 "locate by locate by name has parameters: name, value and, maybe, options");  
         const String& name=params.as_string(0, "column name must be string");          const String& name=params.as_string(0, "column name must be string");
         const String& value=params.as_string(1, VALUE_MUST_BE_STRING);          const String& value=params.as_string(1, VALUE_MUST_BE_STRING);
           const size_t options_index=2;
           Table::Action_options o=get_action_options(r, params, options_index, table);
           check_option_param(o.defined, params, options_index, "locate by name has parameters: name, value and, maybe, options");
   
         return table.locate(name, value, o);          return table.locate(name, value, o);
 }  }
   
 static void _locate(Request& r, MethodParams& params) {  static void _locate(Request& r, MethodParams& params) {
         Table& table=GET_SELF(r, VTable).table();          Table& table=GET_SELF(r, VTable).table();
   
         Table::Action_options o=get_action_options(r, params, table);          bool result=params[0].get_junction() || (params.count() == 1) ?
                   _locate_expression(table, r, params) :
         bool result=params[0].get_junction()?                  _locate_name_value(table, r, params);
                 _locate_expression(table, o, r, params) :          r.write_no_lang(VBool::get(result));
                 _locate_name_value(table, o, r, params);  
         r.write_no_lang(*new VBool(result));  
 }  }
   
   
Line 958  static void _flip(Request& r, MethodPara Line 990  static void _flip(Request& r, MethodPara
         Table& old_table=GET_SELF(r, VTable).table();          Table& old_table=GET_SELF(r, VTable).table();
         Table& new_table=*new Table(0);          Table& new_table=*new Table(0);
         if(size_t old_count=old_table.count())          if(size_t old_count=old_table.count())
                 if(size_t old_cols=old_table[0]->count())                   if(size_t old_cols=old_table.columns()?old_table.columns()->count():old_table[0]->count()) 
                         for(size_t column=0; column<old_cols; column++) {                          for(size_t column=0; column<old_cols; column++) {
                                 Table::element_type new_row(new ArrayString(old_count));                                  Table::element_type new_row(new ArrayString(old_count));
                                 for(size_t i=0; i<old_count; i++) {                                  for(size_t i=0; i<old_count; i++) {
Line 971  static void _flip(Request& r, MethodPara Line 1003  static void _flip(Request& r, MethodPara
         r.write_no_lang(*new VTable(&new_table));          r.write_no_lang(*new VTable(&new_table));
 }  }
   
   static void _foreach(Request& r, MethodParams& params) {
           InCycle temp(r);
   
           const String& rownum_name=params.as_string(0, "rownum-var name must be string");
           const String& value_name=params.as_string(1, "value-var name must be string");
   
           Value& body_code=params.as_junction(2, "body must be code");
           
           Value* delim_maybe_code=params.count()>3?&params[3]:0;
   
           Table& table=GET_SELF(r, VTable).table();
           size_t saved_current=table.current();
           size_t size=table.count();
   
           const String* rownum_var_name=rownum_name.is_empty()? 0 : &rownum_name;
           const String* value_var_name=value_name.is_empty()? 0 : &value_name;
   
           Value* var_context=r.get_method_frame()->caller();
   
           if(delim_maybe_code) { // delimiter set
                   bool need_delim=false;
                   for(size_t row=0; row<size; row++) {
                           table.set_current(row);
   
                           if(rownum_var_name)
                                   var_context->put_element(*rownum_var_name, new VString(*new String(String::Body::Format(row), String::L_CLEAN)));
                           if(value_var_name)
                                   var_context->put_element(*value_var_name, new VTable(&table));
   
                           StringOrValue sv_processed=r.process(body_code);
                           Request::Skip lskip=r.get_skip(); r.set_skip(Request::SKIP_NOTHING);
   
                           const String* s_processed=sv_processed.get_string();
                           if(s_processed && !s_processed->is_empty()) { // we have body
                                   if(need_delim) // need delim & iteration produced string?
                                           r.write_pass_lang(r.process(*delim_maybe_code));
                                   else
                                           need_delim=true;
                           }
   
                           r.write_pass_lang(sv_processed);
   
                           if(lskip==Request::SKIP_BREAK)
                                   break;
                   }
           } else {
                   for(size_t row=0; row<size; row++) {
                           table.set_current(row);
    
                           if(rownum_var_name)
                                   var_context->put_element(*rownum_var_name, new VString(*new String(String::Body::Format(row), String::L_CLEAN)));
                           if(value_var_name)
                                   var_context->put_element(*value_var_name, new VTable(&table));
   
                           r.process_write(body_code);
                           Request::Skip lskip=r.get_skip(); r.set_skip(Request::SKIP_NOTHING);
    
                           if(lskip==Request::SKIP_BREAK)
                                   break;
                   }
           }
           table.set_current(saved_current);
   }
   
 static void _append(Request& r, MethodParams& params) {  static void _append(Request& r, MethodParams& params) {
         // data  
         Temp_lang temp_lang(r, String::L_PASS_APPENDED);          Temp_lang temp_lang(r, String::L_PASS_APPENDED);
         const String& string=r.process_to_string(params.as_junction(0, "body must be code"));          const String& string=r.process_to_string(params[0]);
   
         // parse cells          // parse cells
         Table::element_type row=new ArrayString;          Table::element_type row=new ArrayString;
Line 998  static void join_nameless_row(Table& src Line 1093  static void join_nameless_row(Table& src
         *dest+=src[src.current()];          *dest+=src[src.current()];
 }  }
 static void _join(Request& r, MethodParams& params) {  static void _join(Request& r, MethodParams& params) {
         Table* maybe_src=params.as_no_junction(0, "table ref must not be code").get_table();          Table& src=*params.as_table(0, "source");
         if(!maybe_src)  
                 throw Exception(PARSER_RUNTIME,   
                         0,   
                         "source is not a table");  
         Table& src=*maybe_src;  
   
         Table::Action_options o=get_action_options(r, params, src);          Table::Action_options o=get_action_options(r, params, 1, src);
         check_option_param(o.defined, params, 1,          check_option_param(o.defined, params, 1, "invalid extra parameter");
                 "invalid extra parameter");  
   
         Table& dest=GET_SELF(r, VTable).table();          Table& dest=GET_SELF(r, VTable).table();
         if(&src == &dest)          if(&src == &dest)
Line 1033  public: Line 1122  public:
                 columns(*new ArrayString), row(0), table(0) {                  columns(*new ArrayString), row(0), table(0) {
         }          }
   
         bool add_column(SQL_Error& error, const char *str, size_t length) {          bool add_column(SQL_Error& error, const char *str, size_t ) {
                 try {                  try {
                         columns+=new String(str, length, true);                          columns+=new String(str, String::L_TAINTED /* no length as 0x00 can be inside */);
                         return false;                          return false;
                 } catch(...) {                  } catch(...) {
                         error=SQL_Error("exception occured in Table_sql_event_handlers::add_column");                          error=SQL_Error("exception occured in Table_sql_event_handlers::add_column");
Line 1061  public: Line 1150  public:
                         return true;                          return true;
                 }                  }
         }          }
         bool add_row_cell(SQL_Error& error, const char* str, size_t length) {          bool add_row_cell(SQL_Error& error, const char* str, size_t ) {
                 try {                  try {
                         String& cell=*new String;                          *row+=str?new String(str, String::L_TAINTED /* no length as 0x00 can be inside */):&String::Empty;
                         if(length)  
                                 cell.append_know_length(str, length, String::L_TAINTED);  
                         *row+=&cell;  
                         return false;                          return false;
                 } catch(...) {                  } catch(...) {
                         error=SQL_Error("exception occured in Table_sql_event_handlers::add_row_cell");                          error=SQL_Error("exception occured in Table_sql_event_handlers::add_row_cell");
Line 1083  static void marshal_bind( Line 1169  static void marshal_bind(
 {  {
         SQL_Driver::Placeholder& ph=**pptr;          SQL_Driver::Placeholder& ph=**pptr;
         ph.name=aname.cstr();          ph.name=aname.cstr();
         ph.value=avalue->as_string().cstr(String::L_UNSPECIFIED);          ph.value=avalue->as_string().untaint_cstr(String::L_AS_IS);
         ph.is_null=avalue->get_class()==void_class;          ph.is_null=avalue->get_class()==void_class;
         ph.were_updated=false;          ph.were_updated=false;
   
Line 1106  void unmarshal_bind_updates(HashStringVa Line 1192  void unmarshal_bind_updates(HashStringVa
                 if(ph->were_updated) {                  if(ph->were_updated) {
                         Value* value;                          Value* value;
                         if(ph->is_null)                          if(ph->is_null)
                                 value=new VVoid();                                  value=VVoid::get();
                         else                          else
                                 if(ph->value)                                  value=new VString(*new String(ph->value, String::L_TAINTED));
                                         value=new VString(*new String(ph->value, 0, true/*tainted*/));  
                                 else  
                                         value=new VString(*new String());                                         
                         hash.put(ph->name, value);                          hash.put(ph->name, value);
                 }                  }
 }  }
Line 1120  static void _sql(Request& r, MethodParam Line 1203  static void _sql(Request& r, MethodParam
         Value& statement=params.as_junction(0, "statement must be code");          Value& statement=params.as_junction(0, "statement must be code");
   
         HashStringValue* bind=0;          HashStringValue* bind=0;
         ulong limit=0;          ulong limit=SQL_NO_LIMIT;
         ulong offset=0;          ulong offset=0;
         if(params.count()>1) {          if(params.count()>1)
                 Value& voptions=params.as_no_junction(1, "options must be hash, not code");                  if(HashStringValue* options=params.as_hash(1, "sql options")) {
                 if(voptions.is_defined() && !voptions.is_string())                          int valid_options=0;
                         if(HashStringValue* options=voptions.get_hash()) {                          if(Value* vbind=options->get(sql_bind_name)) {
                                 int valid_options=0;                                  valid_options++;
                                 if(Value* vbind=options->get(sql_bind_name)) {                                  bind=vbind->get_hash();
                                         valid_options++;                          }
                                         bind=vbind->get_hash();                          if(Value* vlimit=options->get(sql_limit_name)) {
                                 }                                  valid_options++;
                                 if(Value* vlimit=options->get(sql_limit_name)) {                                  limit=(ulong)r.process_to_value(*vlimit).as_double();
                                         valid_options++;                          }
                                         limit=(ulong)r.process_to_value(*vlimit).as_double();                          if(Value* voffset=options->get(sql_offset_name)) {
                                 }                                  valid_options++;
                                 if(Value* voffset=options->get(sql_offset_name)) {                                  offset=(ulong)r.process_to_value(*voffset).as_double();
                                         valid_options++;                          }
                                         offset=(ulong)r.process_to_value(*voffset).as_double();                          if(valid_options!=options->count())
                                 }                                  throw Exception(PARSER_RUNTIME, 0, CALLED_WITH_INVALID_OPTION);
                                 if(valid_options!=options->count())                  }
                                         throw Exception(PARSER_RUNTIME,  
                                                 0,  
                                                 "called with invalid option");  
                         } else  
                                 throw Exception(PARSER_RUNTIME,  
                                         0,  
                                         "options must be hash");  
         }  
   
         SQL_Driver::Placeholder* placeholders=0;          SQL_Driver::Placeholder* placeholders=0;
         uint placeholders_count=0;          uint placeholders_count=0;
Line 1156  static void _sql(Request& r, MethodParam Line 1231  static void _sql(Request& r, MethodParam
   
         Temp_lang temp_lang(r, String::L_SQL);          Temp_lang temp_lang(r, String::L_SQL);
         const String&  statement_string=r.process_to_string(statement);          const String&  statement_string=r.process_to_string(statement);
         const char* statement_cstr=          const char* statement_cstr=statement_string.untaint_cstr(r.flang, r.connection());
                 statement_string.cstr(String::L_UNSPECIFIED, r.connection());  
         Table_sql_event_handlers handlers;          Table_sql_event_handlers handlers;
 #ifdef RESOURCES_DEBUG  
         struct timeval mt[2];  
         //measure:before  
         gettimeofday(&mt[0],NULL);  
 #endif    
         r.connection()->query(          r.connection()->query(
                 statement_cstr,                   statement_cstr, 
                 placeholders_count, placeholders,                  placeholders_count, placeholders,
Line 1171  static void _sql(Request& r, MethodParam Line 1242  static void _sql(Request& r, MethodParam
                 handlers,                  handlers,
                 statement_string);                  statement_string);
                   
 #ifdef RESOURCES_DEBUG  
                 //measure:after connect  
         gettimeofday(&mt[1],NULL);  
           
         double t[2];  
         for(int i=0;i<2;i++)  
             t[i]=mt[i].tv_sec+mt[i].tv_usec/1000000.0;  
               
         r.sql_request_time+=t[1]-t[0];  
 #endif                            
   
         if(bind)          if(bind)
                 unmarshal_bind_updates(*bind, placeholders_count, placeholders);                  unmarshal_bind_updates(*bind, placeholders_count, placeholders);
   
Line 1220  static void _select(Request& r, MethodPa Line 1280  static void _select(Request& r, MethodPa
         Value& vcondition=params.as_expression(0, "condition must be number, bool or expression");          Value& vcondition=params.as_expression(0, "condition must be number, bool or expression");
   
         Table& source_table=GET_SELF(r, VTable).table();          Table& source_table=GET_SELF(r, VTable).table();
   
           int limit=source_table.count();
           int offset=0;
           bool reverse=false;
           
           if(params.count()>1)
                   if(HashStringValue* options=params.as_hash(1)) {
                           int valid_options=0;
                           if(Value* vlimit=options->get(sql_limit_name)) {
                                   valid_options++;
                                   limit=r.process_to_value(*vlimit).as_int();
                           }
                           if(Value* voffset=options->get(sql_offset_name)) {
                                   valid_options++;
                                   offset=r.process_to_value(*voffset).as_int();
                           }
                           if(Value* vreverse=options->get(table_reverse_name)) {
                                   valid_options++;
                                   reverse=r.process_to_value(*vreverse).as_bool();
                           }
                           if(valid_options!=options->count())
                                   throw Exception(PARSER_RUNTIME, 0, CALLED_WITH_INVALID_OPTION);
                   }
   
         Table& result_table=*new Table(source_table.columns());          Table& result_table=*new Table(source_table.columns());
   
         int saved_current=source_table.current();          size_t size=source_table.count();
         int size=source_table.count();          if(offset<0)
         for(int row=0; row<size; row++) {                  offset+=size;
                 source_table.set_current(row);          if(size && limit>0 && offset>=0 && (size_t)offset<size){
                   size_t saved_current=source_table.current();
                   size_t appended=0;
   
                   if(reverse){
                           for(size_t row=size-1; result_table.count() < (size_t)limit; row--) {
                                   source_table.set_current(row);
   
                                   bool condition=r.process_to_value(vcondition, false/*don't intercept string*/).as_bool();
   
                                   if(condition && ++appended > (size_t)offset) // ...condition is true, adding to the result
                                           result_table+=source_table[row];
                                   if(row==0) break;
                           }
                   } else {
                           for(size_t row=0; row < size && result_table.count() < (size_t)limit; row++) {
                                   source_table.set_current(row);
   
                 bool condition=r.process_to_value(vcondition,                                   bool condition=r.process_to_value(vcondition, false/*don't intercept string*/).as_bool();
                                 false/*don't intercept string*/).as_bool();  
   
                 if(condition) // ...condition is true=                                  if(condition && ++appended > (size_t)offset) // ...condition is true, adding to the result
                         result_table+=source_table[row]; // =green light to go to result                                          result_table+=source_table[row];
                           }
                   }
                   source_table.set_current(saved_current);
         }          }
         source_table.set_current(saved_current);  
   
         r.write_no_lang(*new VTable(&result_table));          r.write_no_lang(*new VTable(&result_table));
 }  }
Line 1244  MTable::MTable(): Methoded("table") { Line 1345  MTable::MTable(): Methoded("table") {
         // ^table::create{data}          // ^table::create{data}
         // ^table::create[nameless]{data}          // ^table::create[nameless]{data}
         // ^table::create[table]          // ^table::create[table]
         add_native_method("create", Method::CT_DYNAMIC, _create, 1, 2);          add_native_method("create", Method::CT_DYNAMIC, _create, 1, 3);
         // old name for compatibility with <= v 1.141 2002/01/25 11:33:45 paf          // old name for compatibility with <= v 1.141 2002/01/25 11:33:45 paf
         add_native_method("set", Method::CT_DYNAMIC, _create, 1, 2);           add_native_method("set", Method::CT_DYNAMIC, _create, 1, 3); 
   
         // ^table::load[file]            // ^table::load[file]  
         // ^table::load[nameless;file]          // ^table::load[nameless;file]
Line 1259  MTable::MTable(): Methoded("table") { Line 1360  MTable::MTable(): Methoded("table") {
         // add_native_method("save_old", Method::CT_DYNAMIC, _save_old, 1, 3);          // add_native_method("save_old", Method::CT_DYNAMIC, _save_old, 1, 3);
   
         // ^table.count[]          // ^table.count[]
         add_native_method("count", Method::CT_DYNAMIC, _count, 0, 0);          // ^table.count[rows]
           // ^table.count[columns]
           // ^table.count[cells]
           add_native_method("count", Method::CT_DYNAMIC, _count, 0, 1);
   
         // ^table.line[]          // ^table.line[]
         add_native_method("line", Method::CT_DYNAMIC, _line, 0, 0);          add_native_method("line", Method::CT_DYNAMIC, _line, 0, 0);
Line 1273  MTable::MTable(): Methoded("table") { Line 1377  MTable::MTable(): Methoded("table") {
         // ^table.menu{code}[delim]          // ^table.menu{code}[delim]
         add_native_method("menu", Method::CT_DYNAMIC, _menu, 1, 2);          add_native_method("menu", Method::CT_DYNAMIC, _menu, 1, 2);
   
         // ^table:hash[key field name]          // ^table.hash[key field name]
         // ^table:hash[key field name][value field name(s) string/table]          // ^table.hash[key field name][value field name(s) string/table]
         add_native_method("hash", Method::CT_DYNAMIC, _hash, 1, 3);          add_native_method("hash", Method::CT_DYNAMIC, _hash, 1, 3);
   
         // ^table.sort{string-key-maker} ^table.sort{string-key-maker}[desc|asc]          // ^table.sort{string-key-maker} ^table.sort{string-key-maker}[desc|asc]
Line 1287  MTable::MTable(): Methoded("table") { Line 1391  MTable::MTable(): Methoded("table") {
         // ^table.flip[]          // ^table.flip[]
         add_native_method("flip", Method::CT_DYNAMIC, _flip, 0, 0);          add_native_method("flip", Method::CT_DYNAMIC, _flip, 0, 0);
   
           // ^table.foreach[row-num;value]{code}
           // ^table.foreach[row-num;value]{code}[delim]
           add_native_method("foreach", Method::CT_DYNAMIC, _foreach, 3, 4);
   
         // ^table.append{r{tab}e{tab}c{tab}o{tab}r{tab}d}          // ^table.append{r{tab}e{tab}c{tab}o{tab}r{tab}d}
         add_native_method("append", Method::CT_DYNAMIC, _append, 1, 1);          add_native_method("append", Method::CT_DYNAMIC, _append, 1, 1);
   
Line 1294  MTable::MTable(): Methoded("table") { Line 1402  MTable::MTable(): Methoded("table") {
         add_native_method("join", Method::CT_DYNAMIC, _join, 1, 2);          add_native_method("join", Method::CT_DYNAMIC, _join, 1, 2);
   
   
         // ^table:sql[query]          // ^table::sql[query]
         // ^table:sql[query][$.limit(1) $.offset(2)]          // ^table::sql[query][$.limit(1) $.offset(2)]
         add_native_method("sql", Method::CT_DYNAMIC, _sql, 1, 2);          add_native_method("sql", Method::CT_DYNAMIC, _sql, 1, 2);
   
         // ^table:columns[[column name]]          // ^table.columns[[column name]]
         add_native_method("columns", Method::CT_DYNAMIC, _columns, 0, 1);          add_native_method("columns", Method::CT_DYNAMIC, _columns, 0, 1);
   
         // ^table.select(expression) = table          // ^table.select(expression) = table
         add_native_method("select", Method::CT_DYNAMIC, _select, 1, 1);          add_native_method("select", Method::CT_DYNAMIC, _select, 1, 2);
 }  }

Removed from v.1.233  
changed lines
  Added in v.1.296


E-mail: