Annotation of parser3/src/classes/table.C, revision 1.382

1.20      paf         1: /** @file
1.47      paf         2:        Parser: @b table parser class.
1.20      paf         3: 
1.370     moko        4:        Copyright (c) 2001-2024 Art. Lebedev Studio (http://www.artlebedev.com)
1.361     moko        5:        Authors: Konstantin Morshnev <moko@design.ru>, Alexandr Petrosian <paf@design.ru>
1.154     paf         6: */
1.221     paf         7: 
1.351     moko        8: #include "pa_config_includes.h"
                      9: 
                     10: #if (!defined(NO_STRINGSTREAM) && !defined(FREEBSD4) && !defined(PA_DEBUG_DISABLE_GC))
                     11: #include <sstream>
                     12: #include "../lib/gc/include/gc_allocator.h"
                     13: #define USE_STRINGSTREAM
                     14: #endif
                     15: 
1.105     parser     16: #include "classes.h"
1.182     paf        17: #include "pa_vmethod_frame.h"
                     18: 
1.16      paf        19: #include "pa_common.h"
1.1       paf        20: #include "pa_request.h"
1.265     misha      21: #include "pa_charsets.h"
1.1       paf        22: #include "pa_vtable.h"
1.6       paf        23: #include "pa_vint.h"
1.51      paf        24: #include "pa_sql_connection.h"
1.72      paf        25: #include "pa_vbool.h"
1.277     moko       26: #include "pa_array.h"
1.367     moko       27: #include "pa_varray.h"
1.1       paf        28: 
1.382   ! moko       29: volatile const char * IDENT_TABLE_C="$Id: table.C,v 1.381 2025/05/27 15:10:24 moko Exp $";
1.286     moko       30: 
1.66      paf        31: // class
                     32: 
1.182     paf        33: class MTable: public Methoded {
1.66      paf        34: public: // VStateless_class
1.264     misha      35:        Value* create_new_value(Pool&) { return new VTable(); }
1.66      paf        36: public:
1.182     paf        37:        MTable();
1.66      paf        38: };
1.1       paf        39: 
1.182     paf        40: // global variable
                     41: 
1.313     moko       42: DECLARE_CLASS_VAR(table, new MTable);
1.182     paf        43: 
                     44: // globals
                     45: 
1.347     moko       46: #define TABLE_REVERSE_NAME "reverse"
1.182     paf        47: String table_reverse_name(TABLE_REVERSE_NAME);
                     48: 
1.1       paf        49: // methods
1.66      paf        50: 
1.319     moko       51: static Table::Action_options get_action_options(Request& r, MethodParams& params, size_t options_index, const Table& source) {
1.176     paf        52:        Table::Action_options result;
1.268     misha      53:        if(params.count() <= options_index)
1.182     paf        54:                return result;
                     55: 
1.288     misha      56:        HashStringValue* options=params.as_hash(options_index);
1.176     paf        57:        if(!options)
                     58:                return result;
                     59: 
                     60:        result.defined=true;
                     61:        bool defined_offset=false;
                     62: 
                     63:        int valid_options=0;
1.182     paf        64:        if(Value* voffset=options->get(sql_offset_name)) {
1.176     paf        65:                valid_options++;
                     66:                defined_offset=true;
                     67:                if(voffset->is_string()) {
1.182     paf        68:                        const String&  soffset=*voffset->get_string();
1.176     paf        69:                        if(soffset == "cur")
                     70:                                result.offset=source.current();
                     71:                        else
1.318     moko       72:                                throw Exception(PARSER_RUNTIME, &soffset, "must be 'cur' string or expression");
1.364     moko       73:                } else {
                     74:                        int offset=r.process(*voffset).as_int();
                     75:                        result.offset=offset < 0 ? 0 : offset;
                     76:                }
1.176     paf        77:        }
1.182     paf        78:        if(Value* vlimit=options->get(sql_limit_name)) {
1.176     paf        79:                valid_options++;
1.364     moko       80:                int limit=r.process(*vlimit).as_int();
                     81:                result.limit=limit < 0 ? 0: limit;
1.176     paf        82:        }
1.364     moko       83:        if(Value *vreverse=(Value *)options->get(table_reverse_name)) {
1.182     paf        84:                valid_options++; 
1.335     moko       85:                result.reverse=r.process(*vreverse).as_bool(); 
1.182     paf        86:                if(result.reverse && !defined_offset) 
                     87:                        result.offset=source.count()-1; 
1.364     moko       88:        }
1.182     paf        89: 
                     90:        if(valid_options!=options->count())
1.272     misha      91:                throw Exception(PARSER_RUNTIME, 0, CALLED_WITH_INVALID_OPTION);
1.176     paf        92: 
                     93:        return result;
                     94: }
1.157     paf        95: 
1.319     moko       96: struct TableControlChars {
                     97:        char separator;  const String* sseparator;
1.236     misha      98:        char encloser; const String* sencloser;
                     99: 
1.320     moko      100:        char separators[3];
                    101: 
1.319     moko      102:        TableControlChars():
                    103:                separator('\t'), sseparator(new String("\t")),
1.236     misha     104:                encloser(0), sencloser(0)
1.320     moko      105:        {
                    106:                strcpy(separators,"\t\n");
                    107:        }
                    108: 
1.236     misha     109:        int load( HashStringValue& options ) {
                    110:                int result=0;
                    111:                if(Value* vseparator=options.get(PA_COLUMN_SEPARATOR_NAME)) {
1.319     moko      112:                        sseparator=&vseparator->as_string();
                    113:                        if(sseparator->length()!=1)
1.323     moko      114:                                throw Exception(PARSER_RUNTIME, sseparator, "separator must be one byte character");
1.319     moko      115:                        separator=sseparator->first_char();
1.320     moko      116:                        separators[0]=separator;
1.236     misha     117:                        result++;
                    118:                }
                    119:                if(Value* vencloser=options.get(PA_COLUMN_ENCLOSER_NAME)) {
                    120:                        sencloser=&vencloser->as_string();
1.297     moko      121:                        if(sencloser->is_empty()){
                    122:                                encloser=0;
                    123:                        } else {
1.325     moko      124:                                if(sencloser->length()!=1)
                    125:                                        throw Exception(PARSER_RUNTIME, sencloser, "encloser must be empty or one byte character");
                    126:                                encloser=sencloser->first_char();
1.297     moko      127:                        }
1.236     misha     128:                        result++;
                    129:                }
                    130:                return result;
                    131:        }
                    132: };
                    133: 
1.319     moko      134: 
1.322     moko      135: struct lsplit_sresult {
                    136:        String* piece;
                    137:        char delim;
                    138: 
                    139:        lsplit_sresult() : piece(0), delim(0){}
                    140: 
                    141:        operator bool() { return piece!=0; }
                    142: 
                    143:        void append(String *str){
                    144:                if(piece)
                    145:                        *piece << *str;
                    146:                else
                    147:                        piece = str;
                    148:        }
                    149: };
                    150: 
                    151: class StringSplitHelper : public String {
                    152: public:
                    153:        char* base;
                    154: 
                    155:        StringSplitHelper(String astring) : String(astring), base(cstrm()) {}
                    156: 
                    157:        bool check_lang(const char *pos){
                    158:                return langs.check_lang(L_AS_IS, pos-base, 1);
                    159:        }
                    160: 
                    161:        String *extract(char *pos){
                    162:                String *result=new String;
1.330     moko      163:                if(size_t len=strlen(pos)){
                    164:                        // first: their langs
                    165:                        result->langs.append(result->body, langs, pos-base, len);
                    166:                        // next: letters themselves
                    167:                        result->body=Body(pos);
                    168:                }
1.322     moko      169:                return result;
                    170:        }
                    171: };
                    172: 
                    173: inline lsplit_sresult lsplit(char* *string_ref, const char* delims, StringSplitHelper& helper) {
                    174:        lsplit_sresult result;
                    175:        if(char *pos=*string_ref) {
1.327     moko      176:                while(pos=strpbrk(pos, delims)) {
                    177:                        if(helper.check_lang(pos)){
                    178:                                result.delim=*pos;
                    179:                                *pos=0;
1.322     moko      180:                                result.piece=helper.extract(*string_ref);
1.327     moko      181:                                *string_ref=pos+1;
1.322     moko      182:                                return result;
                    183:                        }
1.327     moko      184:                        pos++;
1.322     moko      185:                }
                    186:                result.piece=helper.extract(*string_ref);
                    187:                *string_ref=0;
                    188:        }
                    189:        return result;
                    190: }
                    191: 
                    192: static lsplit_sresult lsplit(char** string_ref, const char* delims, char encloser, StringSplitHelper& helper) {
                    193:        lsplit_sresult result;
                    194: 
                    195:        if(char *pos=*string_ref) {
                    196:                if(encloser && *pos==encloser && helper.check_lang(pos)) {
                    197:                        *string_ref=++pos;
                    198: 
                    199:                        // we are enclosed, searching for second encloser
                    200:                        while(1) {
1.328     moko      201:                                if(pos=strchr(pos, encloser)){
                    202:                                        if(helper.check_lang(pos)){
                    203:                                                *(pos++)=0;
1.322     moko      204:                                                result.append(helper.extract(*string_ref));
1.328     moko      205:                                                if(*pos==encloser && helper.check_lang(pos)){ // double-encloser stands for encloser
1.333     moko      206:                                                        *string_ref=pos;
1.322     moko      207:                                                } else {
1.328     moko      208:                                                        *string_ref=pos;
1.322     moko      209:                                                        break;
                    210:                                                }
                    211:                                        }
1.333     moko      212:                                        pos++;
1.327     moko      213:                                } else {
1.322     moko      214:                                        result.append(helper.extract(*string_ref));
                    215:                                        *string_ref=0;
                    216:                                        return result;
                    217:                                }
                    218:                        }
                    219: 
                    220:                        // we are no longer enclosed, searching for delimiter
1.328     moko      221:                        while(pos=strpbrk(pos, delims)) {
                    222:                                if(helper.check_lang(pos)){
                    223:                                        result.delim=*pos;
                    224:                                        if(pos>*string_ref){
                    225:                                                *pos=0;
1.322     moko      226:                                                result.append(helper.extract(*string_ref));
                    227:                                        }
1.328     moko      228:                                        *string_ref=pos+1;
1.322     moko      229:                                        return result;
                    230:                                }
1.328     moko      231:                                pos++;
1.322     moko      232:                        }
                    233:                        result.append(helper.extract(*string_ref));
                    234:                        *string_ref=0;
                    235:                } else
                    236:                        return lsplit(string_ref, delims, helper);
                    237:        }
                    238:        return result;
                    239: }
                    240: 
                    241: static void skip_clean_empty_lines(char** data_ref, StringSplitHelper& helper) {
                    242:        if(*data_ref) {
                    243:                while(**data_ref == '\n' && helper.check_lang(*data_ref))
                    244:                        (*data_ref)++;
                    245:        }
                    246: }
                    247: 
1.182     paf       248: static void _create(Request& r, MethodParams& params) {
1.157     paf       249:        // clone/copy part?
1.182     paf       250:        if(Table *source=params[0].get_table()) {
1.268     misha     251:                Table::Action_options o=get_action_options(r, params, 1, *source);
1.303     moko      252:                if(params.count()>2)
                    253:                        throw Exception(PARSER_RUNTIME, 0, "too many parameters");
1.182     paf       254:                GET_SELF(r, VTable).set_table(*new Table(*source, o));
1.157     paf       255:                return;
                    256:        }
1.142     paf       257: 
1.236     misha     258:        size_t data_param_index=0;
                    259:        bool nameless=false;
                    260: 
                    261:        if(params.count()>1) {
                    262:                if(params[0].is_string()){ // can be nameless only
1.365     moko      263:                        const String& snameless=params.as_string(0, "called with more than 1 param, first param may be only string 'nameless' or junction");
1.236     misha     264:                        if(snameless!="nameless")
1.365     moko      265:                                throw Exception(PARSER_RUNTIME, &snameless, "table::create called with more than 1 param, first param may be only 'nameless'");
1.236     misha     266:                        nameless=true;
                    267:                        data_param_index++;
                    268:                }
                    269:        }
                    270: 
                    271:        HashStringValue *options=0;
1.319     moko      272:        TableControlChars control_chars;
1.236     misha     273: 
                    274:        size_t options_param_index=data_param_index+1;
1.322     moko      275:        if( options_param_index<params.count() && (options=params.as_hash(options_param_index)) ) {
1.324     moko      276:                if(control_chars.load(*options)!=options->count())
                    277:                        throw Exception(PARSER_RUNTIME, 0, CALLED_WITH_INVALID_OPTION);
1.236     misha     278:        }
                    279: 
                    280:        // data
1.322     moko      281:        StringSplitHelper sdata(r.process_to_string(params.as_junction(data_param_index, "body must be table or code")));
                    282:        char *data=sdata.base;
1.44      paf       283: 
                    284:        // parse columns
1.182     paf       285:        Table::columns_type columns;
1.322     moko      286:        if(nameless) {
                    287:                columns=0; // nameless
1.21      paf       288:        } else {
1.322     moko      289:                columns=new ArrayString;
                    290:                while( lsplit_sresult sr=lsplit(&data, control_chars.separators, control_chars.encloser, sdata) ) {
                    291:                        *columns+=sr.piece;
                    292:                        if(sr.delim=='\n') 
                    293:                                break;
1.182     paf       294:                }
1.44      paf       295:        }
1.322     moko      296:        
                    297:        Table& table=*new Table(columns);
                    298:        int columns_count=columns ? columns->count(): 0;
1.44      paf       299: 
                    300:        // parse cells
1.322     moko      301:        Table::element_type row(new ArrayString(columns_count));
                    302:        skip_clean_empty_lines(&data, sdata);
                    303:        while( lsplit_sresult sr=lsplit(&data, control_chars.separators, control_chars.encloser, sdata) ) {
                    304:                if(sr.piece->is_empty() && !sr.delim && !row->count()) // append last empty column [if without \n]
                    305:                        break;
                    306:                *row+=sr.piece;
                    307:                if(sr.delim=='\n') {
                    308:                        table+=row;
                    309:                        row=new ArrayString(columns_count);
                    310:                        skip_clean_empty_lines(&data, sdata);
                    311:                }
                    312:        }
                    313:        // last line [if without \n]
                    314:        if(row->count())
1.182     paf       315:                table+=row;
1.322     moko      316:        
1.44      paf       317:        // replace any previous table value
1.182     paf       318:        GET_SELF(r, VTable).set_table(table);
1.44      paf       319: }
                    320: 
1.187     paf       321: struct lsplit_result {
                    322:        char* piece;
                    323:        char delim;
                    324: 
1.321     moko      325:        lsplit_result(char *apiece=0) : piece(apiece), delim(0){}
1.187     paf       326:        operator bool() { return piece!=0; }
                    327: };
                    328: 
1.321     moko      329: inline lsplit_result lsplit(char* *string_ref, const char* delims) {
                    330:        lsplit_result result(*string_ref);
                    331:        if(result.piece) {
                    332:                if(char* v=strpbrk(result.piece, delims)) {
1.187     paf       333:                        result.delim=*v;
                    334:                        *v=0;
1.321     moko      335:                        *string_ref=v+1;
1.187     paf       336:                        return result;
                    337:                }
1.322     moko      338:                *string_ref=0;
1.273     misha     339:        }
                    340:        return result;
1.187     paf       341: }
                    342: 
1.320     moko      343: static lsplit_result lsplit(char** string_ref, const char* delims, char encloser) {
1.321     moko      344:        lsplit_result result(*string_ref);
1.187     paf       345: 
1.321     moko      346:        if(result.piece) {
                    347:                if(encloser && *result.piece==encloser) {
                    348:                        result.piece++;
1.187     paf       349:                        
1.321     moko      350:                        char c;
1.187     paf       351:                        char *read;
                    352:                        char *write;
1.321     moko      353:                        write=read=result.piece;
                    354: 
1.290     moko      355:                        // we are enclosed, searching for second encloser
                    356:                        while(c=*read++) {
1.187     paf       357:                                if(c==encloser) {
1.290     moko      358:                                        if(*read==encloser) // double-encloser stands for encloser
1.187     paf       359:                                                read++;
1.290     moko      360:                                        else
                    361:                                                break; // note: skipping encloser
1.187     paf       362:                                }
                    363:                                *write++=c;
                    364:                        }
1.321     moko      365: 
1.329     moko      366:                        // we are no longer enclosed, searching for delimiter
1.290     moko      367:                        while(c=*read++) {
1.320     moko      368:                                if(c==delims[0] || c==delims[1]) {
1.290     moko      369:                                        result.delim=c;
                    370:                                        break;
1.329     moko      371:                                } else 
1.290     moko      372:                                        *write++=c;
                    373:                        }
1.321     moko      374: 
1.187     paf       375:                        *write=0; // terminate
1.321     moko      376:                        *string_ref=c ? read : 0;
1.187     paf       377:                        return result;
                    378:                } else
1.320     moko      379:                        return lsplit(string_ref, delims);
1.273     misha     380:        }
                    381:        return result;
1.187     paf       382: }
                    383: 
                    384: static void skip_empty_and_comment_lines( char** data_ref ) {
1.322     moko      385:        while(*data_ref) {
                    386:                if(**data_ref == '\n'){
                    387:                        (*data_ref)++;
                    388:                } else {
                    389:                        if(**data_ref == '#' )
                    390:                                /*nowhere=*/getrow(data_ref);
                    391:                        else
                    392:                                break;
1.187     paf       393:                }
                    394:        }
                    395: }
                    396: 
1.273     misha     397: static void skip_empty_lines( char** data_ref ) {
1.322     moko      398:        if(*data_ref) {
                    399:                while(**data_ref == '\n')
                    400:                        (*data_ref)++;
1.273     misha     401:        }
                    402: }
                    403: 
                    404: typedef void (*Skip_lines_action)(char** data_ref);
                    405: 
1.182     paf       406: static void _load(Request& r, MethodParams& params) {
1.376     moko      407:        const String&  first_param=params.as_file_name(0);
1.168     paf       408:        int filename_param_index=0;
                    409:        bool nameless=first_param=="nameless";
                    410:        if(nameless)
                    411:                filename_param_index++;
1.182     paf       412:        size_t options_param_index=filename_param_index+1;
1.186     paf       413: 
                    414:        HashStringValue *options=0;
1.319     moko      415:        TableControlChars control_chars;
1.349     moko      416:        if(options_param_index<params.count() && (options=params.as_hash(options_param_index)))
1.319     moko      417:                control_chars.load(*options);
1.186     paf       418: 
1.44      paf       419:        // loading text
1.376     moko      420:        char *data=file_load_text(r, r.full_disk_path(params.as_file_name(filename_param_index)), true, options);
1.44      paf       421: 
1.319     moko      422:        Skip_lines_action skip_lines_action = (control_chars.separator=='#' || control_chars.encloser=='#') ? skip_empty_lines : skip_empty_and_comment_lines;
1.273     misha     423: 
1.1       paf       424:        // parse columns
1.182     paf       425:        Table::columns_type columns;
1.168     paf       426:        if(nameless) {
1.322     moko      427:                columns=0; // nameless
1.1       paf       428:        } else {
1.322     moko      429:                columns=new ArrayString;
1.1       paf       430: 
1.273     misha     431:                skip_lines_action(&data);
1.320     moko      432:                while( lsplit_result sr=lsplit(&data, control_chars.separators, control_chars.encloser) ) {
1.256     misha     433:                        *columns+=new String(sr.piece, String::L_TAINTED);
1.187     paf       434:                        if(sr.delim=='\n') 
                    435:                                break;
1.139     paf       436:                }
1.1       paf       437:        }
1.187     paf       438:        
                    439:        Table& table=*new Table(columns);
1.322     moko      440:        int columns_count=columns ? columns->count(): 0;
1.1       paf       441: 
                    442:        // parse cells
1.218     paf       443:        Table::element_type row(new ArrayString(columns_count));
1.273     misha     444:        skip_lines_action(&data);
1.320     moko      445:        while( lsplit_result sr=lsplit(&data, control_chars.separators, control_chars.encloser) ) {
1.201     paf       446:                if(!*sr.piece && !sr.delim && !row->count()) // append last empty column [if without \n]
                    447:                        break;
1.256     misha     448:                *row+=new String(sr.piece, String::L_TAINTED);
1.187     paf       449:                if(sr.delim=='\n') {
                    450:                        table+=row;
1.218     paf       451:                        row=new ArrayString(columns_count);
1.273     misha     452:                        skip_lines_action(&data);
1.1       paf       453:                }
1.187     paf       454:        }
                    455:        // last line [if without \n]
                    456:        if(row->count())
1.1       paf       457:                table+=row;
1.187     paf       458:        
1.1       paf       459:        // replace any previous table value
1.182     paf       460:        GET_SELF(r, VTable).set_table(table);
1.1       paf       461: }
1.2       paf       462: 
1.297     moko      463: #ifdef USE_STRINGSTREAM
1.269     misha     464: 
                    465: typedef std::basic_stringstream<char, std::char_traits<char>, gc_allocator<char> > pa_stringstream;
                    466: typedef std::basic_string<char, std::char_traits<char>, gc_allocator<char> > pa_string;
                    467: 
1.298     moko      468: static void enclose( pa_stringstream& to, const String* from, char encloser ) {
1.297     moko      469:        if(from){
1.257     misha     470:                to<<encloser;
1.188     paf       471:                // while we have 'encloser'...
1.189     paf       472:                size_t pos_after=0;
1.297     moko      473:                for( size_t pos_before; (pos_before=from->pos( encloser, pos_after ))!=STRING_NOT_FOUND; pos_after=pos_before) {
1.220     paf       474:                        pos_before++; // including first encloser (and skipping it for next pos)
1.297     moko      475:                        to<<from->mid(pos_after, pos_before).cstr();
1.257     misha     476:                        to<<encloser; // doubling encloser
1.188     paf       477:                }
                    478:                // last piece
1.297     moko      479:                size_t from_length=from->length();
1.188     paf       480:                if(pos_after<from_length)
1.297     moko      481:                        to<<from->mid(pos_after, from_length).cstr();
                    482:                to<<encloser;
                    483:        } else {
                    484:                to<<encloser<<encloser;
                    485:        }
                    486: }
                    487: 
1.319     moko      488: static void table_to_csv(pa_stringstream& result, Table& table, TableControlChars& control_chars, bool output_column_names) {
1.297     moko      489:        if(output_column_names) {
                    490:                if(table.columns()) { // named table
1.319     moko      491:                        if(control_chars.encloser){
1.362     moko      492:                                for(Array_iterator<const String*> i(*table.columns()); i; ) {
1.319     moko      493:                                        enclose( result, i.next(), control_chars.encloser );
1.362     moko      494:                                        if(i)
1.319     moko      495:                                                result<<control_chars.separator;
1.297     moko      496:                                }
                    497:                        } else {
1.362     moko      498:                                for(Array_iterator<const String*> i(*table.columns()); i; ) {
1.297     moko      499:                                        result<<i.next()->cstr();
1.362     moko      500:                                        if(i)
1.319     moko      501:                                                result<<control_chars.separator;
1.297     moko      502:                                }
                    503:                        }
                    504:                } else { // nameless table [we were asked to output column names]
                    505:                        if(int lsize=table.count()?table[0]->count():0)
                    506:                                for(int column=0; column<lsize; column++) {
1.319     moko      507:                                        if(control_chars.encloser) {
                    508:                                                result<<control_chars.encloser<<column<<control_chars.encloser;
1.297     moko      509:                                        } else {
                    510:                                                result<<column;
                    511:                                        }
                    512:                                        if(column<lsize-1){
1.319     moko      513:                                                result<<control_chars.separator;
1.297     moko      514:                                        }
                    515:                                }
                    516:                        else
                    517:                                result<<"empty nameless table";
                    518:                }
                    519:                result<<'\n';
                    520:        }
1.188     paf       521: 
1.297     moko      522:        // process data lines
                    523:        Array_iterator<ArrayString*> i(table);
1.319     moko      524:        if(control_chars.encloser){
1.362     moko      525:                while(i) {
                    526:                        for(Array_iterator<const String*> c(*i.next()); c; ) {
1.319     moko      527:                                enclose( result, c.next(), control_chars.encloser );
1.362     moko      528:                                if(c)
1.319     moko      529:                                        result<<control_chars.separator;
1.297     moko      530:                        }
                    531:                        result<<'\n';
                    532:                }
                    533:        } else {
1.362     moko      534:                while(i) {
                    535:                        for(Array_iterator<const String*> c(*i.next()); c; ) {
1.297     moko      536:                                result<<c.next()->cstr();
1.362     moko      537:                                if(c)
1.319     moko      538:                                        result<<control_chars.separator;
1.297     moko      539:                        }
                    540:                        result<<'\n';
                    541:                }
                    542:        }
1.188     paf       543: }
                    544: 
1.241     misha     545: #else
                    546: 
1.298     moko      547: void enclose( String& to, const String* from, char encloser, const String* sencloser ) {
1.297     moko      548:        if(from){
1.257     misha     549:                to<<*sencloser;
1.224     misha     550:                // while we have 'encloser'...
                    551:                size_t pos_after=0;
1.297     moko      552:                for( size_t pos_before; (pos_before=from->pos( encloser, pos_after ))!=STRING_NOT_FOUND; pos_after=pos_before) {
1.224     misha     553:                        pos_before++; // including first encloser (and skipping it for next pos)
1.297     moko      554:                        to<<from->mid(pos_after, pos_before);
1.257     misha     555:                        to<<*sencloser; // doubling encloser
1.224     misha     556:                }
                    557:                // last piece
1.297     moko      558:                size_t from_length=from->length();
1.224     misha     559:                if(pos_after<from_length)
1.297     moko      560:                        to<<from->mid(pos_after, from_length);
1.257     misha     561:                to<<*sencloser;
1.297     moko      562:        } else {
                    563:                to<<*sencloser<<*sencloser;
                    564:        }
1.224     misha     565: }
                    566: 
1.319     moko      567: static void table_to_csv(String& result, Table& table, TableControlChars& control_chars, bool output_column_names) {
1.297     moko      568:        if(output_column_names) {
                    569:                if(table.columns()) { // named table
1.319     moko      570:                        if(control_chars.encloser) {
1.362     moko      571:                                for(Array_iterator<const String*> i(*table.columns()); i; ) {
1.319     moko      572:                                        enclose( result, i.next(), control_chars.encloser, control_chars.sencloser );
1.362     moko      573:                                        if(i)
1.319     moko      574:                                                result<<*control_chars.sseparator;
1.297     moko      575:                                }
                    576:                        } else {
1.362     moko      577:                                for(Array_iterator<const String*> i(*table.columns()); i; ) {
1.297     moko      578:                                        result<<*i.next();
1.362     moko      579:                                        if(i)
1.319     moko      580:                                                result<<*control_chars.sseparator;
1.297     moko      581:                                }
                    582:                        }
                    583:                } else { // nameless table [we were asked to output column names]
                    584:                        if(int lsize=table.count()?table[0]->count():0)
                    585:                                for(int column=0; column<lsize; column++) {
1.319     moko      586:                                        if(control_chars.encloser) {
1.363     moko      587:                                                result<<*control_chars.sencloser<<pa_uitoa(column)<<*control_chars.sencloser;
1.298     moko      588:                                        } else {
1.363     moko      589:                                                result<<pa_uitoa(column);
1.298     moko      590:                                        }
                    591:                                        if(column<lsize-1){
1.319     moko      592:                                                result<<*control_chars.sseparator;
1.298     moko      593:                                        }
1.297     moko      594:                                }
                    595:                        else
                    596:                                result.append_help_length("empty nameless table", 0, String::L_CLEAN);
                    597:                }
                    598:                result.append_know_length("\n", 1, String::L_CLEAN);
                    599:        }
                    600: 
                    601:        // data lines
                    602:        Array_iterator<ArrayString*> i(table);
1.319     moko      603:        if(control_chars.encloser){
1.362     moko      604:                while(i) {
                    605:                        for(Array_iterator<const String*> c(*i.next()); c; ) {
1.319     moko      606:                                enclose( result, c.next(), control_chars.encloser, control_chars.sencloser );
1.362     moko      607:                                if(c)
1.319     moko      608:                                        result<<*control_chars.sseparator;
1.297     moko      609:                        }
                    610:                        result.append_know_length("\n", 1, String::L_CLEAN);
                    611:                }
                    612:        } else {
1.362     moko      613:                while(i) {
                    614:                        for(Array_iterator<const String*> c(*i.next()); c; ) {
1.297     moko      615:                                result<<*c.next();
1.362     moko      616:                                if(c)
1.319     moko      617:                                        result<<*control_chars.sseparator;
1.297     moko      618:                        }
                    619:                        result.append_know_length("\n", 1, String::L_CLEAN);
                    620:                }
                    621:        }
                    622: }
1.257     misha     623: #endif // don't use stringstream
1.241     misha     624: 
1.297     moko      625: 
1.241     misha     626: static void _save(Request& r, MethodParams& params) {
1.377     moko      627:        const String& first_arg=params.as_string(0, PARAMETER_MUST_BE_STRING);
1.188     paf       628:        size_t param_index=1;
                    629: 
                    630:        bool do_append=false;
                    631:        bool output_column_names=true;
                    632: 
                    633:        // mode?
                    634:        if(first_arg=="append")
                    635:                do_append=true;
                    636:        else if(first_arg=="nameless")
                    637:                output_column_names=false;
                    638:        else
                    639:                --param_index;
                    640: 
1.376     moko      641:        const String& file_name=params.as_file_name(param_index++);
1.350     moko      642:        String file_spec=r.full_disk_path(file_name);
1.246     misha     643: 
                    644:        if(do_append && file_exist(file_spec))
                    645:                output_column_names=false;
1.188     paf       646: 
1.319     moko      647:        TableControlChars control_chars;
1.281     misha     648:        if(param_index<params.count())
1.288     misha     649:                if(HashStringValue* options=params.as_hash(param_index++)) {
1.319     moko      650:                        int valid_options=control_chars.load(*options);
1.281     misha     651:                        if(valid_options!=options->count())
                    652:                                throw Exception(PARSER_RUNTIME, 0, CALLED_WITH_INVALID_OPTION);
1.222     paf       653:                }
1.281     misha     654: 
1.188     paf       655:        if(param_index<params.count())
1.318     moko      656:                throw Exception(PARSER_RUNTIME, 0, "bad mode (must be nameless or append)");
1.22      paf       657: 
1.182     paf       658:        Table& table=GET_SELF(r, VTable).table();
1.31      paf       659: 
1.297     moko      660: #ifdef USE_STRINGSTREAM
1.269     misha     661:        pa_stringstream ost(std::stringstream::out);
1.257     misha     662: 
1.319     moko      663:        table_to_csv(ost, table, control_chars, output_column_names);
1.31      paf       664: 
                    665:        // write
1.269     misha     666:                pa_string data=ost.str();
1.257     misha     667:                const char* data_cstr=data.c_str();
1.267     misha     668:                file_write(r.charsets, file_spec, data_cstr, data.length(), true /* as text */, do_append);
1.241     misha     669: #else
1.257     misha     670:        String sdata;
1.224     misha     671: 
1.319     moko      672:        table_to_csv(sdata, table, control_chars, output_column_names);
1.224     misha     673: 
                    674:        // write
1.257     misha     675:                const char* data_cstr=sdata.cstr();
1.297     moko      676:        file_write(r.charsets, file_spec, data_cstr, sdata.length(), true /* as text */, do_append);
1.257     misha     677:                if(*data_cstr) // not empty (when empty it's not heap memory)
                    678:                        pa_free((void*)data_cstr); // not needed anymore
1.297     moko      679: #endif
                    680: }
                    681: 
                    682: static void _csv_string(Request& r, MethodParams& params) {
                    683:        bool output_column_names=true;
                    684:        size_t param_index=0;
                    685:        if(params.count()>0 && params[0].is_string()) {
1.377     moko      686:                if(params.as_string(0, PARAM_MUST_NOT_BE_CODE)=="nameless") {
1.297     moko      687:                        output_column_names=false;
                    688:                        param_index++;
                    689:                } else {
1.318     moko      690:                        throw Exception(PARSER_RUNTIME, 0, "bad mode (must be nameless)");
1.297     moko      691:                }
1.224     misha     692:        }
1.240     misha     693: 
1.319     moko      694:        TableControlChars control_chars;
1.297     moko      695:        if(param_index<params.count())
                    696:                if(HashStringValue* options=params.as_hash(param_index++)) {
1.319     moko      697:                        int valid_options=control_chars.load(*options);
1.297     moko      698:                        if(valid_options!=options->count())
                    699:                                throw Exception(PARSER_RUNTIME, 0, CALLED_WITH_INVALID_OPTION);
                    700:                }
                    701: 
                    702:        Table& table=GET_SELF(r, VTable).table();
                    703: 
                    704: #ifdef USE_STRINGSTREAM
                    705:        pa_stringstream ost(std::stringstream::out);
                    706: 
1.319     moko      707:        table_to_csv(ost, table, control_chars, output_column_names);
1.297     moko      708: 
1.338     moko      709:        r.write(*new VString(*new String(pa_strdup(ost.str().c_str()), String::L_CLEAN)));
1.297     moko      710: #else
                    711:        String sdata;
                    712: 
1.319     moko      713:        table_to_csv(sdata, table, control_chars, output_column_names);
1.297     moko      714: 
1.338     moko      715:        r.write(*new VString(*new String(sdata.cstr(), String::L_CLEAN)));
1.297     moko      716: #endif
1.224     misha     717: }
                    718: 
1.280     misha     719: static void _count(Request& r, MethodParams& params) {
                    720:        Table& table=GET_SELF(r, VTable).table();
                    721:        size_t result=0;
                    722:        if(params.count()) {
                    723:                const String& param=params.as_string(0, PARAMETER_MUST_BE_STRING);
                    724:                if(param == "columns")
1.310     moko      725:                        result = table.columns() ? table.columns()->count() : table.max_cells();
1.280     misha     726:                else if(param == "cells")
                    727:                        result = table.count() ? table[table.current()]->count() : 0;
                    728:                else if(param == "rows") // synonim for ^table.count[]
                    729:                        result = table.count();
                    730:                else
                    731:                        throw Exception(PARSER_RUNTIME, &param, "parameter must be 'columns', 'cells' and 'rows' only");
                    732:        } else
                    733:                result = table.count();
                    734: 
1.338     moko      735:        r.write(*new VInt(result));
1.6       paf       736: }
                    737: 
1.182     paf       738: static void _line(Request& r, MethodParams&) {
                    739:        int result=1+GET_SELF(r, VTable).table().current();
1.338     moko      740:        r.write(*new VInt(result));
1.6       paf       741: }
                    742: 
1.182     paf       743: static void _offset(Request& r, MethodParams& params) {
                    744:        Table& table=GET_SELF(r, VTable).table();
                    745:        if(params.count()) {
1.133     paf       746:                bool absolute=false;
1.182     paf       747:                if(params.count()>1) {
                    748:                    const String&  whence=params.as_string(0, "whence must be string");
1.133     paf       749:                    if(whence=="cur")
1.134     paf       750:                                absolute=false;
1.133     paf       751:                    else if(whence=="set")
1.134     paf       752:                                absolute=true;
1.133     paf       753:                    else
1.369     moko      754:                                throw Exception(PARSER_RUNTIME, &whence, "is an invalid whence, valid are 'cur' or 'set'");
1.157     paf       755:                }
1.133     paf       756:                
1.211     paf       757:                int offset=params.as_int(params.count()-1, "offset must be expression", r);
                    758:                table.offset(absolute, offset);
1.151     paf       759:        } else
1.338     moko      760:                r.write(*new VInt(table.current()));
1.6       paf       761: }
                    762: 
1.182     paf       763: static void _menu(Request& r, MethodParams& params) {
1.263     misha     764:        InCycle temp(r);
1.221     paf       765: 
1.182     paf       766:        Value& body_code=params.as_junction(0, "body must be code");
1.7       paf       767:        
1.182     paf       768:        Value* delim_maybe_code=params.count()>1?&params[1]:0;
1.7       paf       769: 
1.182     paf       770:        Table& table=GET_SELF(r, VTable).table();
1.372     moko      771:        Temp_current tc(table);
1.7       paf       772: 
1.251     misha     773:        if(delim_maybe_code) { // delimiter set
1.250     misha     774:                bool need_delim=false;
1.316     moko      775:                for(size_t row=0; row<table.count(); row++) {
1.250     misha     776:                        table.set_current(row);
                    777: 
1.334     moko      778:                        Value& sv_processed=r.process(body_code);
1.341     moko      779:                        TempSkip4Delimiter skip(r);
1.250     misha     780: 
                    781:                        const String* s_processed=sv_processed.get_string();
1.251     misha     782:                        if(s_processed && !s_processed->is_empty()) { // we have body
1.250     misha     783:                                if(need_delim) // need delim & iteration produced string?
1.338     moko      784:                                        r.write(r.process(*delim_maybe_code));
1.250     misha     785:                                else
                    786:                                        need_delim=true;
                    787:                        }
                    788: 
1.338     moko      789:                        r.write(sv_processed);
1.242     misha     790: 
1.341     moko      791:                        if(skip.check_break())
1.250     misha     792:                                break;
                    793:                }
                    794:        } else {
1.316     moko      795:                for(size_t row=0; row<table.count(); row++) {
1.250     misha     796:                        table.set_current(row);
                    797:  
                    798:                        r.process_write(body_code);
                    799:  
1.341     moko      800:                        if(r.check_skip_break())
1.250     misha     801:                                break;
1.7       paf       802:                }
                    803:        }
                    804: }
                    805: 
1.110     parser    806: #ifndef DOXYGEN
1.74      paf       807: struct Row_info {
1.166     paf       808:        Request *r;
1.74      paf       809:        Table *table;
1.182     paf       810:        Value* key_code;
                    811:        size_t key_field;
                    812:        Array<int>* value_fields;
1.315     moko      813:        Value* value_code;
1.182     paf       814:        HashStringValue* hash;
1.174     paf       815:        Table2hash_distint distinct;
1.182     paf       816:        size_t row;
1.227     misha     817:        Table2hash_value_type value_type;
1.74      paf       818: };
1.110     parser    819: #endif
1.182     paf       820: static void table_row_to_hash(Table::element_type row, Row_info *info) {
                    821:        const String* key;
                    822:        if(info->key_code) {
                    823:                info->table->set_current(info->row++); // change context row
1.334     moko      824:                Value& sv_processed=info->r->process(*info->key_code);
1.166     paf       825:                key=&sv_processed.as_string();
1.227     misha     826:        } else {
1.358     moko      827:                key=info->key_field < row->count() ? row->get(info->key_field) : 0;
1.227     misha     828:        }
1.166     paf       829: 
                    830:        if(!key)
                    831:                return; // ignore rows without key [too-short-record_array if-indexed]
1.74      paf       832:                
1.243     misha     833:        bool exist=false;
                    834:        switch(info->value_type) {
                    835:                case C_STRING: {
1.317     moko      836:                        if(info->value_fields->count()){
                    837:                                size_t index=info->value_fields->get(0);
                    838:                                exist=info->hash->put_dont_replace(*key, (index < row->count()) ? new VString(*row->get(index)) : VString::empty());
                    839:                        } else {
                    840:                                exist=info->hash->put_dont_replace(*key, VString::empty());
                    841:                        }
1.243     misha     842:                        break;
1.227     misha     843:                }
1.243     misha     844:                case C_HASH: {
1.182     paf       845:                        VHash* vhash=new VHash;
                    846:                        HashStringValue& hash=vhash->hash();
1.358     moko      847:                        Table::columns_type columns=info->table->columns();
                    848:                        if(info->value_fields){ // selected fields (can be empty)
1.362     moko      849:                                for(Array_iterator<int> i(*info->value_fields); i; ) {
1.358     moko      850:                                        size_t value_field=i.next();
                    851:                                        if(value_field<row->count())
1.381     moko      852:                                                hash.put(columns ? *columns->get(value_field) : String::Body::uitoa(value_field), new VString(*row->get(value_field)));
1.358     moko      853:                                }
                    854:                        } else { // all fields
                    855:                                for(size_t index=0; index<row->count(); index++) {
1.381     moko      856:                                        hash.put(columns && index < columns->count() ? *columns->get(index) : String::Body::uitoa(index), new VString(*row->get(index)));
1.358     moko      857:                                }
1.174     paf       858:                        }
1.227     misha     859:                        exist=info->hash->put_dont_replace(*key, vhash);
1.243     misha     860:                        break;
1.174     paf       861:                }
1.243     misha     862:                case C_TABLE: {
                    863:                        VTable* vtable=(VTable*)info->hash->get(*key); // table exist?
1.174     paf       864:                        Table* table;
1.227     misha     865:                        if(vtable) {
1.243     misha     866:                                if(info->distinct==D_ILLEGAL) {
                    867:                                        exist=true;
                    868:                                        break;
                    869:                                }
1.174     paf       870:                                table=vtable->get_table();
1.227     misha     871:                        } else {
1.174     paf       872:                                // no? creating table of same structure as source
1.179     paf       873:                                Table::Action_options table_options(0, 0);
1.182     paf       874:                                table=new Table(*info->table, table_options/*no rows, just structure*/);
                    875:                                info->hash->put(*key, new VTable(table));
1.174     paf       876:                        }
1.308     moko      877:                        Table::element_type row_copy(new ArrayString(row->count()));
                    878:                        row_copy->append(*row);
                    879:                        *table+=row_copy;
1.243     misha     880:                        break;
1.174     paf       881:                }
1.315     moko      882:                case C_CODE: {
                    883:                        if(!info->key_code)
                    884:                                info->table->set_current(info->row++); // change context row
1.334     moko      885:                        exist=info->hash->put_dont_replace(*key, &info->r->process(*info->value_code));
1.315     moko      886:                        break;
                    887:                }
1.74      paf       888:        }
1.227     misha     889:        if(exist && info->distinct==D_ILLEGAL)
1.314     moko      890:                throw Exception(PARSER_RUNTIME, key, "duplicate key");
1.74      paf       891: }
1.235     misha     892: 
                    893: Table2hash_value_type get_value_type(Value& vvalue_type){
                    894:        if(vvalue_type.is_string()) {
                    895:                const String& svalue_type=*vvalue_type.get_string();
                    896:                if(svalue_type == "table"){
                    897:                        return C_TABLE;
                    898:                } else if (svalue_type == "string") {
                    899:                        return C_STRING;
                    900:                } else if (svalue_type == "hash") {
                    901:                        return C_HASH;
                    902:                } else {
1.314     moko      903:                        throw Exception(PARSER_RUNTIME, &svalue_type, "must be 'hash', 'table' or 'string'");
1.235     misha     904:                }
                    905:        } else {
1.314     moko      906:                throw Exception(PARSER_RUNTIME, 0, "'type' must be string");
1.235     misha     907:        }
                    908: }
                    909: 
1.315     moko      910: static Table2hash_distint get_distinct(Value& vdistinct, Table2hash_value_type& value_type){
                    911:        if(vdistinct.is_string()) {
                    912:                const String& sdistinct=*vdistinct.get_string();
                    913:                if(sdistinct!="tables")
                    914:                        throw Exception(PARSER_RUNTIME, &sdistinct, "must be 'tables' or true/false");
                    915:                value_type=C_TABLE;
                    916:                return D_FIRST;
                    917:        }
                    918:        return vdistinct.as_bool() ? D_FIRST : D_ILLEGAL;
                    919: }
                    920: 
1.182     paf       921: static void _hash(Request& r, MethodParams& params) {
                    922:        Table& self_table=GET_SELF(r, VTable).table();
                    923:        VHash& result=*new VHash;
1.358     moko      924: 
                    925:        Table2hash_distint distinct=D_ILLEGAL;
                    926:        Table2hash_value_type value_type=C_HASH;
                    927: 
                    928:        int param_index=params.count()-1;
                    929:        if(param_index>0) {
                    930:                if(params[1].get_junction())
                    931:                        value_type=C_CODE;
1.226     misha     932: 
1.358     moko      933:                if(HashStringValue* options=params[param_index].get_hash()){ // can't use .as_hash because the 2nd param could be table so .as_hash throws an error
                    934:                        --param_index;
                    935:                        int valid_options=0;
                    936:                        if(Value* vdistinct_code=options->get(sql_distinct_name)) { // $.distinct ?
                    937:                                valid_options++;
                    938:                                distinct=get_distinct(r.process(*vdistinct_code), value_type);
                    939:                        }
                    940:                        if(Value* vvalue_type_code=options->get(sql_value_type_name)) { // $.type ?
                    941:                                if(value_type==C_TABLE) // $.distinct[tables] already was specified
                    942:                                        throw Exception(PARSER_RUNTIME, 0, "you can't specify $.distinct[tables] and $.type[] together");
                    943:                                if(value_type==C_CODE)
                    944:                                        throw Exception(PARSER_RUNTIME, 0, "you can't specify $.type[] if value is code");
                    945:                                valid_options++;
                    946:                                value_type=get_value_type(r.process(*vvalue_type_code));
1.163     paf       947:                        }
1.238     misha     948: 
1.358     moko      949:                        if(valid_options!=options->count())
                    950:                                throw Exception(PARSER_RUNTIME, 0, CALLED_WITH_INVALID_OPTION);
                    951:                }
                    952:        }
1.289     misha     953: 
1.358     moko      954:        if(param_index==2) // options were specified but not as hash
                    955:                throw Exception(PARSER_RUNTIME, 0, "options must be hash");
1.315     moko      956: 
1.358     moko      957:        bool value_all=false;
                    958:        Array<int> value_fields;
                    959:        Value* value_code=0;
                    960: 
                    961:        if(param_index==0){ // list of columns wasn't specified
                    962:                if(value_type==C_STRING)
                    963:                        throw Exception(PARSER_RUNTIME, 0, "you must specify one value field with option $.type[string]");
                    964: 
                    965:                value_all=true; // all columns, including key
                    966:        } else { // list of columns or code was specified
                    967:                if(value_type==C_TABLE)
                    968:                        throw Exception(PARSER_RUNTIME, 0, "you can't specify value field(s) with option $.distinct[tables] or $.type[tables]");
                    969: 
                    970:                Value& value_fields_param=params[1];
                    971:                if(value_fields_param.get_junction()){ // code specified
                    972:                        value_code=&value_fields_param;
                    973:                } else if(value_fields_param.is_string()) { // one column as string was specified
                    974:                        const String &field_name=*value_fields_param.get_string();
                    975:                        if(!field_name.is_empty())
                    976:                                value_fields+=self_table.column_name2index(field_name, true);
                    977:                } else if(Table* value_fields_table=value_fields_param.get_table()) { // list of columns were specified in table
1.362     moko      978:                        for(Array_iterator<Table::element_type> i(*value_fields_table); i; ) {
1.358     moko      979:                                const String& value_field_name =*i.next()->get(0);
                    980:                                value_fields +=self_table.column_name2index(value_field_name, true);
1.239     misha     981:                        }
1.358     moko      982:                } else
                    983:                        throw Exception(PARSER_RUNTIME, 0, "value field(s) must be string or table or code");
1.74      paf       984: 
1.358     moko      985:                if(value_type==C_STRING && value_fields.count()>1)
1.365     moko      986:                        throw Exception(PARSER_RUNTIME, 0, "you can't specify more than one value field with option $.type[string]");
1.358     moko      987:        }
                    988: 
                    989:        Value* key_param=&params[0];
                    990:        Row_info info={
                    991:                &r,
                    992:                &self_table,
                    993:                /*key_code=*/key_param->get_junction() ? key_param : 0,
                    994:                /*key_field=*/0/*filled below*/,
                    995:                value_all ? NULL : &value_fields,
                    996:                value_code,
                    997:                &result.hash(),
                    998:                distinct,
                    999:                /*row=*/0,
                   1000:                value_type
                   1001:        };
                   1002:        info.key_field=(info.key_code ? -1 : self_table.column_name2index(key_param->as_string(), true));
                   1003: 
1.374     moko     1004:        Temp_current tc(self_table);
                   1005:        for(Table::RobustIterator i(self_table); i; i.next()) {
                   1006:                table_row_to_hash(i.value(), &info);
                   1007:        }
1.182     paf      1008: 
1.358     moko     1009:        result.extract_default();
1.207     paf      1010: 
1.338     moko     1011:        r.write(result);
1.74      paf      1012: }
                   1013: 
1.373     moko     1014: static void _array(Request& r, MethodParams& params) {
                   1015:        Table& table=GET_SELF(r, VTable).table();
                   1016:        VArray& result=*new VArray;
                   1017:        ArrayValue& array=result.array();
                   1018: 
                   1019:        Table2hash_value_type value_type=C_HASH;
                   1020:        Array<int> value_fields;
                   1021:        Value* value_code=0;
                   1022: 
                   1023:        if(params.count()>0) {
                   1024:                if(params[0].get_junction()){
                   1025:                        value_type=C_CODE;
                   1026:                        value_code=&params[0];
                   1027:                } else if(params[0].is_string()) {
                   1028:                        const String &field_name=*params[0].get_string();
                   1029:                        if(!field_name.is_empty()){
                   1030:                                value_type=C_STRING;
                   1031:                                value_fields+=table.column_name2index(field_name, true);
                   1032:                        }
                   1033:                } else {
                   1034:                        throw Exception(PARSER_RUNTIME, 0, "value field must be string or code or empty");
                   1035:                }
                   1036:        }
                   1037: 
1.374     moko     1038:        Temp_current tc(table);
                   1039:        for(Table::RobustIterator i(table); i; i.next()) {
1.373     moko     1040:                switch(value_type) {
                   1041:                        case C_STRING: {
                   1042:                                size_t index=value_fields.get(0);
                   1043:                                Table::element_type row=i.value();
                   1044:                                array+=(index < row->count() ? new VString(*row->get(index)) : VString::empty());
                   1045:                                break;
                   1046:                        }
                   1047:                        case C_HASH: {
                   1048:                                VHash* vhash=new VHash;
                   1049:                                HashStringValue& hash=vhash->hash();
                   1050:                                Table::element_type row=i.value();
                   1051:                                Table::columns_type columns=table.columns();
                   1052:                                for(size_t index=0; index<row->count(); index++) {
                   1053:                                        hash.put(columns && index < columns->count() ? *columns->get(index) : String(pa_uitoa(index)), new VString(*row->get(index)));
                   1054:                                }
                   1055:                                array+=vhash;
                   1056:                                break;
                   1057:                        }
                   1058:                        case C_CODE: {
                   1059:                                table.set_current(i.index());
                   1060:                                array+=&r.process(*value_code);
                   1061:                                break;
                   1062:                        }
                   1063:                }
                   1064:        }
                   1065: 
                   1066:        r.write(result);
                   1067: }
                   1068: 
1.367     moko     1069: static void _cells(Request& r, MethodParams& params) {
                   1070:        Table& self_table=GET_SELF(r, VTable).table();
                   1071:        size_t row_size=self_table[self_table.current()]->count(); // number of columns in current row
                   1072: 
                   1073:        if(params.count()){
1.379     moko     1074:                int limit=params.as_int(params.count()-1, "limit must be expression", r);
1.367     moko     1075:                if(limit<0)
                   1076:                        limit=0;
1.368     moko     1077:                if((size_t)limit<row_size)
1.367     moko     1078:                        row_size=limit;
                   1079:        }
                   1080: 
                   1081:        VArray& result=*new VArray(row_size);
                   1082:        ArrayValue& result_array=result.array();
                   1083: 
                   1084:        for(size_t index=0; index<row_size; index++){
                   1085:                const String* column_item=self_table.item(index);
                   1086:                result_array+=column_item ? new VString(*column_item) : VString::empty();
                   1087:        }
1.371     moko     1088: 
                   1089:        result_array.confirm_all_used();
1.367     moko     1090:        r.write(result);
                   1091: }
                   1092: 
1.110     parser   1093: #ifndef DOXYGEN
1.344     moko     1094: struct Table_seq_item : public PA_Allocated {
1.182     paf      1095:        ArrayString* row;
1.34      paf      1096:        union {
1.182     paf      1097:                const char *c_str;
1.34      paf      1098:                double d;
                   1099:        } value;
1.32      paf      1100: };
1.110     parser   1101: #endif
1.34      paf      1102: static int sort_cmp_string(const void *a, const void *b) {
                   1103:        return strcmp(
1.78      paf      1104:                static_cast<const Table_seq_item *>(a)->value.c_str, 
                   1105:                static_cast<const Table_seq_item *>(b)->value.c_str
1.34      paf      1106:        );
                   1107: }
                   1108: static int sort_cmp_double(const void *a, const void *b) {
1.78      paf      1109:        double va=static_cast<const Table_seq_item *>(a)->value.d;
                   1110:        double vb=static_cast<const Table_seq_item *>(b)->value.d;
1.34      paf      1111:        if(va<vb)
                   1112:                return -1;
                   1113:        else if(va>vb)
                   1114:                return +1;
                   1115:        else 
                   1116:                return 0;
                   1117: }
1.182     paf      1118: static void _sort(Request& r, MethodParams& params) {
                   1119:        Value& key_maker=params.as_junction(0, "key-maker must be code");
1.61      paf      1120: 
1.339     moko     1121:        bool reverse=params.count()>1 /*..[desc|asc|]*/ && params.as_no_junction(1, "order must not be code").as_string()=="desc"; // default=asc
1.32      paf      1122: 
1.182     paf      1123:        Table& old_table=GET_SELF(r, VTable).table();
                   1124:        Table& new_table=*new Table(old_table.columns());
1.34      paf      1125: 
1.344     moko     1126:        Table_seq_item* seq=new Table_seq_item[old_table.count()];
1.34      paf      1127:        int i;
                   1128: 
                   1129:        // calculate key values
                   1130:        bool key_values_are_strings=true;
1.182     paf      1131:        int old_count=old_table.count();
                   1132:        for(i=0; i<old_count; i++) {
1.101     parser   1133:                old_table.set_current(i);
1.32      paf      1134:                // calculate key value
1.182     paf      1135:                seq[i].row=old_table[i];
1.335     moko     1136:                Value& value=r.process(key_maker);
1.34      paf      1137:                if(i==0) // determining key values type by first one
                   1138:                        key_values_are_strings=value.is_string();
                   1139: 
                   1140:                if(key_values_are_strings)
                   1141:                        seq[i].value.c_str=value.as_string().cstr();
                   1142:                else
1.287     moko     1143:                        seq[i].value.d=value.as_expr_result().as_double();
1.32      paf      1144:        }
1.265     misha    1145: 
                   1146:        // @todo: handle this elsewhere
                   1147:        if(r.charsets.source().NAME()=="KOI8-R" && key_values_are_strings) {
                   1148:                for(i=0; i<old_count; i++)
                   1149:                        if(*seq[i].value.c_str)
1.332     moko     1150:                                seq[i].value.c_str=Charset::transcode(seq[i].value.c_str, r.charsets.source(), pa_UTF8_charset).cstr();
1.265     misha    1151:        }
                   1152: 
1.266     misha    1153:        // sort keys
1.295     moko     1154:        qsort(seq, old_count, sizeof(Table_seq_item), key_values_are_strings?sort_cmp_string:sort_cmp_double);
1.32      paf      1155: 
1.34      paf      1156:        // reorder table as they require in 'seq'
1.182     paf      1157:        for(i=0; i<old_count; i++)
                   1158:                new_table+=Table::element_type(seq[reverse?old_count-1-i:i].row);
                   1159: 
                   1160:        delete[] seq;
1.32      paf      1161: 
1.116     parser   1162:        // replace any previous table value
1.182     paf      1163:        GET_SELF(r, VTable).set_table(new_table);
1.32      paf      1164: }
                   1165: 
1.176     paf      1166: #ifndef DOXYGEN
1.182     paf      1167: struct Expression_is_true_info {
1.176     paf      1168:        Request* r;
                   1169:        Value* expression_code;
                   1170: };
                   1171: #endif
1.275     misha    1172: 
1.191     paf      1173: static bool expression_is_true(Table&, Expression_is_true_info* info) {
1.335     moko     1174:        return info->r->process(*info->expression_code).as_bool();
1.176     paf      1175: }
1.275     misha    1176: 
                   1177: static bool _locate_expression(Table& table, Request& r, MethodParams& params) {
1.182     paf      1178:        Value& expression_code=params.as_junction(0, "must be expression");
1.303     moko     1179:        Table::Action_options o=get_action_options(r, params, 1, table);
                   1180:        if(params.count()>2)
                   1181:                throw Exception(PARSER_RUNTIME, 0, "locate by expression only has parameters: expression and, maybe, options");
1.182     paf      1182:        Expression_is_true_info info={&r, &expression_code};
                   1183:        return table.table_first_that(expression_is_true, &info, o);
1.145     paf      1184: }
1.275     misha    1185: 
                   1186: static bool _locate_name_value(Table& table, Request& r, MethodParams& params) {
1.182     paf      1187:        const String& name=params.as_string(0, "column name must be string");
1.232     misha    1188:        const String& value=params.as_string(1, VALUE_MUST_BE_STRING);
1.303     moko     1189:        Table::Action_options o=get_action_options(r, params, 2, table);
1.182     paf      1190:        return table.locate(name, value, o);
                   1191: }
1.275     misha    1192: 
1.182     paf      1193: static void _locate(Request& r, MethodParams& params) {
                   1194:        Table& table=GET_SELF(r, VTable).table();
1.72      paf      1195: 
1.291     moko     1196:        bool result=params[0].get_junction() || (params.count() == 1) ?
1.275     misha    1197:                _locate_expression(table, r, params) :
                   1198:                _locate_name_value(table, r, params);
1.338     moko     1199:        r.write(VBool::get(result));
1.145     paf      1200: }
1.182     paf      1201: 
                   1202: 
1.191     paf      1203: static void _flip(Request& r, MethodParams&) {
1.182     paf      1204:        Table& old_table=GET_SELF(r, VTable).table();
1.184     paf      1205:        Table& new_table=*new Table(0);
1.182     paf      1206:        if(size_t old_count=old_table.count())
1.310     moko     1207:                if(size_t old_cols=old_table.columns()?old_table.columns()->count():old_table.max_cells())
1.182     paf      1208:                        for(size_t column=0; column<old_cols; column++) {
                   1209:                                Table::element_type new_row(new ArrayString(old_count));
                   1210:                                for(size_t i=0; i<old_count; i++) {
                   1211:                                        Table::element_type old_row=old_table[i];
                   1212:                                        *new_row+=column<old_row->count()?old_row->get(column):new String;
1.39      paf      1213:                                }
1.182     paf      1214:                                new_table+=new_row;
1.39      paf      1215:                        }
                   1216: 
1.338     moko     1217:        r.write(*new VTable(&new_table));
1.39      paf      1218: }
                   1219: 
1.293     misha    1220: static void _foreach(Request& r, MethodParams& params) {
                   1221:        InCycle temp(r);
                   1222: 
1.331     moko     1223:        const String* rownum_var_name=&params.as_string(0, "rownum-var name must be string");
                   1224:        const String* value_var_name=&params.as_string(1, "value-var name must be string");
1.293     misha    1225: 
                   1226:        Value& body_code=params.as_junction(2, "body must be code");
                   1227:        
                   1228:        Value* delim_maybe_code=params.count()>3?&params[3]:0;
                   1229: 
                   1230:        Table& table=GET_SELF(r, VTable).table();
1.372     moko     1231:        Temp_current tc(table);
1.293     misha    1232: 
1.331     moko     1233:        rownum_var_name=rownum_var_name->is_empty()? 0 : rownum_var_name;
                   1234:        value_var_name=value_var_name->is_empty()? 0 : value_var_name;
1.293     misha    1235: 
                   1236:        Value* var_context=r.get_method_frame()->caller();
                   1237: 
                   1238:        if(delim_maybe_code) { // delimiter set
                   1239:                bool need_delim=false;
1.316     moko     1240:                for(size_t row=0; row<table.count(); row++) {
1.293     misha    1241:                        table.set_current(row);
                   1242: 
                   1243:                        if(rownum_var_name)
1.363     moko     1244:                                r.put_element(*var_context, *rownum_var_name, new VString(*new String(pa_uitoa(row), String::L_CLEAN)));
1.293     misha    1245:                        if(value_var_name)
1.299     moko     1246:                                r.put_element(*var_context, *value_var_name, new VTable(&table));
1.293     misha    1247: 
1.334     moko     1248:                        Value& sv_processed=r.process(body_code);
1.341     moko     1249:                        TempSkip4Delimiter skip(r);
1.293     misha    1250: 
                   1251:                        const String* s_processed=sv_processed.get_string();
                   1252:                        if(s_processed && !s_processed->is_empty()) { // we have body
                   1253:                                if(need_delim) // need delim & iteration produced string?
1.338     moko     1254:                                        r.write(r.process(*delim_maybe_code));
1.293     misha    1255:                                else
                   1256:                                        need_delim=true;
                   1257:                        }
                   1258: 
1.338     moko     1259:                        r.write(sv_processed);
1.293     misha    1260: 
1.341     moko     1261:                        if(skip.check_break())
1.293     misha    1262:                                break;
                   1263:                }
                   1264:        } else {
1.316     moko     1265:                for(size_t row=0; row<table.count(); row++) {
1.293     misha    1266:                        table.set_current(row);
                   1267:  
                   1268:                        if(rownum_var_name)
1.363     moko     1269:                                r.put_element(*var_context, *rownum_var_name, new VString(*new String(pa_uitoa(row), String::L_CLEAN)));
1.293     misha    1270:                        if(value_var_name)
1.300     moko     1271:                                r.put_element(*var_context, *value_var_name, new VTable(&table));
1.293     misha    1272: 
                   1273:                        r.process_write(body_code);
                   1274:  
1.341     moko     1275:                        if(r.check_skip_break())
1.293     misha    1276:                                break;
                   1277:                }
                   1278:        }
                   1279: }
                   1280: 
1.309     moko     1281: static void update_cell(HashStringValue::key_type aname, HashStringValue::value_type avalue, VTable *dest) {
                   1282:        dest->put_element(String(aname, String::L_CLEAN), avalue); // new not required
                   1283: }
                   1284: 
                   1285: inline Table::element_type row_from_string(Request& r, Value &param){
                   1286:        if(!param.is_string() && !param.get_junction())
                   1287:                throw Exception(PARSER_RUNTIME, 0, "row must be string, code or hash");
                   1288: 
                   1289:        const String& string=r.process_to_string(param);
1.41      paf      1290: 
                   1291:        // parse cells
1.182     paf      1292:        Table::element_type row=new ArrayString;
1.326     moko     1293:        string.split(*row, 0, "\t", String::L_AS_IS);
1.41      paf      1294: 
1.309     moko     1295:        return row;
1.41      paf      1296: }
                   1297: 
1.309     moko     1298: static void _append(Request& r, MethodParams& params) {
                   1299:        VTable vtable=GET_SELF(r, VTable);
                   1300:        Table& table=vtable.table();
1.306     moko     1301: 
1.309     moko     1302:        HashStringValue* hash=params[0].get_hash();
                   1303:        if(hash){
1.372     moko     1304:                Temp_current tc(table);
1.309     moko     1305:                table+=new ArrayString();
                   1306:                table.set_current(table.count()-1);
                   1307:                hash->for_each<VTable*>(update_cell, &vtable);
                   1308:        } else {
                   1309:                table+=row_from_string(r, params[0]);
                   1310:        }
1.382   ! moko     1311: 
        !          1312:        if(table.count() > pa_array_limit)
        !          1313:                throw Exception(PARSER_RUNTIME, 0, "table size (%d) exceeds limit $MAIN:LIMITS.max_array_size (%d)", table.count(), pa_array_limit);
1.309     moko     1314: }
1.306     moko     1315: 
1.309     moko     1316: static void _insert(Request& r, MethodParams& params) {
                   1317:        VTable vtable=GET_SELF(r, VTable);
                   1318:        Table& table=vtable.table();
                   1319:        HashStringValue* hash=params[0].get_hash();
                   1320:        if(hash){
                   1321:                table.insert(table.current(), new ArrayString());
                   1322:                hash->for_each<VTable*>(update_cell, &vtable);
                   1323:        } else {
                   1324:                table.insert(table.current(), row_from_string(r, params[0]));
                   1325:        }
1.382   ! moko     1326: 
        !          1327:        if(table.count() > pa_array_limit)
        !          1328:                throw Exception(PARSER_RUNTIME, 0, "table size (%d) exceeds limit $MAIN:LIMITS.max_array_size (%d)", table.count(), pa_array_limit);
1.306     moko     1329: }
                   1330: 
1.311     moko     1331: static void _delete(Request& r, MethodParams&) {
1.307     moko     1332:        Table& table=GET_SELF(r, VTable).table();
                   1333:        table.remove_current();
                   1334: }
                   1335: 
1.182     paf      1336: static void join_named_row(Table& src, Table* dest) {
                   1337:        Table::columns_type dest_columns=dest->columns();
                   1338:        size_t dest_columns_count=dest_columns->count();
                   1339:        Table::element_type dest_row(new ArrayString(dest_columns_count));
                   1340:        for(size_t dest_column=0; dest_column<dest_columns_count; dest_column++) {
                   1341:                const String* src_item=src.item(*dest_columns->get(dest_column));
                   1342:                *dest_row+=src_item?src_item:new String;
                   1343:        }
                   1344:        *dest+=dest_row;
                   1345: }
                   1346: static void join_nameless_row(Table& src, Table* dest) {
                   1347:        *dest+=src[src.current()];
                   1348: }
                   1349: static void _join(Request& r, MethodParams& params) {
1.355     moko     1350:        if(Table* src=params.as_table(0, "source")){
                   1351:                Table::Action_options o=get_action_options(r, params, 1, *src);
1.176     paf      1352: 
1.355     moko     1353:                Table& dest=GET_SELF(r, VTable).table();
                   1354:                if(src == &dest)
                   1355:                        throw Exception(PARSER_RUNTIME, 0, "source and destination are same table");
                   1356: 
                   1357:                if(dest.columns()) // dest is named
                   1358:                        src->table_for_each(join_named_row, &dest, o);
                   1359:                else // dest is nameless
                   1360:                        src->table_for_each(join_nameless_row, &dest, o);
                   1361:        }
1.42      paf      1362: }
                   1363: 
1.94      parser   1364: #ifndef DOXYGEN
1.169     paf      1365: class Table_sql_event_handlers: public SQL_Driver_query_event_handlers {
1.182     paf      1366:        ArrayString& columns;
1.218     paf      1367:        int columns_count;
1.182     paf      1368:        ArrayString* row;
1.94      parser   1369: public:
1.182     paf      1370:        Table* table;
                   1371: public:
                   1372:        Table_sql_event_handlers() :
                   1373:                columns(*new ArrayString), row(0), table(0) {
1.94      parser   1374:        }
                   1375: 
1.279     misha    1376:        bool add_column(SQL_Error& error, const char *str, size_t ) {
1.170     paf      1377:                try {
1.274     moko     1378:                        columns+=new String(str, String::L_TAINTED /* no length as 0x00 can be inside */);
1.170     paf      1379:                        return false;
                   1380:                } catch(...) {
1.343     moko     1381:                        error=SQL_Error("exception occurred in Table_sql_event_handlers::add_column");
1.170     paf      1382:                        return true;
                   1383:                }
                   1384:        }
1.348     moko     1385:        bool before_rows(SQL_Error& error) {
                   1386:                if(table) {
                   1387:                        error=SQL_Error("result must contain exactly one table");
                   1388:                        return true;
                   1389:                }
1.170     paf      1390:                try {
1.182     paf      1391:                        table=new Table(&columns);
1.218     paf      1392:                        columns_count=columns.count();
1.170     paf      1393:                        return false;
                   1394:                } catch(...) {
1.343     moko     1395:                        error=SQL_Error("exception occurred in Table_sql_event_handlers::before_rows");
1.170     paf      1396:                        return true;
                   1397:                }
                   1398:        }
                   1399:        bool add_row(SQL_Error& error) {
                   1400:                try {
1.218     paf      1401:                        *table+=row=new ArrayString(columns_count);
1.170     paf      1402:                        return false;
                   1403:                } catch(...) {
1.343     moko     1404:                        error=SQL_Error("exception occurred in Table_sql_event_handlers::add_row");
1.170     paf      1405:                        return true;
                   1406:                }
                   1407:        }
1.279     misha    1408:        bool add_row_cell(SQL_Error& error, const char* str, size_t ) {
1.170     paf      1409:                try {
1.292     misha    1410:                        *row+=str?new String(str, String::L_TAINTED /* no length as 0x00 can be inside */):&String::Empty;
1.170     paf      1411:                        return false;
                   1412:                } catch(...) {
1.343     moko     1413:                        error=SQL_Error("exception occurred in Table_sql_event_handlers::add_row_cell");
1.170     paf      1414:                        return true;
                   1415:                }
1.94      parser   1416:        }
                   1417: };
                   1418: #endif
1.204     paf      1419: 
1.347     moko     1420: static void marshal_bind( HashStringValue::key_type aname, HashStringValue::value_type avalue, SQL_Driver::Placeholder** pptr) {
1.204     paf      1421:        SQL_Driver::Placeholder& ph=**pptr;
                   1422:        ph.name=aname.cstr();
1.261     misha    1423:        ph.value=avalue->as_string().untaint_cstr(String::L_AS_IS);
1.204     paf      1424:        ph.is_null=avalue->get_class()==void_class;
                   1425:        ph.were_updated=false;
                   1426: 
                   1427:        (*pptr)++;
                   1428: }
                   1429: 
                   1430: // not static, used elsewhere
                   1431: int marshal_binds(HashStringValue& hash, SQL_Driver::Placeholder*& placeholders) {
                   1432:        int hash_count=hash.count();
1.344     moko     1433:        placeholders=new(PointerGC) SQL_Driver::Placeholder[hash_count];
1.204     paf      1434:        SQL_Driver::Placeholder* ptr=placeholders;
1.221     paf      1435:        hash.for_each<SQL_Driver::Placeholder**>(marshal_bind, &ptr);
1.204     paf      1436:        return hash_count;
                   1437: }
                   1438: 
                   1439: // not static, used elsewhere
                   1440: void unmarshal_bind_updates(HashStringValue& hash, int placeholder_count, SQL_Driver::Placeholder* placeholders) {
                   1441:        SQL_Driver::Placeholder* ph=placeholders;
                   1442:        for(int i=0; i<placeholder_count; i++, ph++)
                   1443:                if(ph->were_updated) {
                   1444:                        Value* value;
                   1445:                        if(ph->is_null)
1.248     misha    1446:                                value=VVoid::get();
1.204     paf      1447:                        else
1.380     moko     1448:                                value=new VString(ph->value);
1.204     paf      1449:                        hash.put(ph->name, value);
                   1450:                }
                   1451: }
                   1452: 
1.182     paf      1453: static void _sql(Request& r, MethodParams& params) {
                   1454:        Value& statement=params.as_junction(0, "statement must be code");
1.49      paf      1455: 
1.204     paf      1456:        HashStringValue* bind=0;
1.244     misha    1457:        ulong limit=SQL_NO_LIMIT;
1.100     parser   1458:        ulong offset=0;
1.281     misha    1459:        if(params.count()>1)
1.288     misha    1460:                if(HashStringValue* options=params.as_hash(1, "sql options")) {
1.281     misha    1461:                        int valid_options=0;
                   1462:                        if(Value* vbind=options->get(sql_bind_name)) {
                   1463:                                valid_options++;
                   1464:                                bind=vbind->get_hash();
                   1465:                        }
                   1466:                        if(Value* vlimit=options->get(sql_limit_name)) {
                   1467:                                valid_options++;
1.335     moko     1468:                                limit=(ulong)r.process(*vlimit).as_double();
1.281     misha    1469:                        }
                   1470:                        if(Value* voffset=options->get(sql_offset_name)) {
                   1471:                                valid_options++;
1.335     moko     1472:                                offset=(ulong)r.process(*voffset).as_double();
1.281     misha    1473:                        }
                   1474:                        if(valid_options!=options->count())
                   1475:                                throw Exception(PARSER_RUNTIME, 0, CALLED_WITH_INVALID_OPTION);
                   1476:                }
1.49      paf      1477: 
1.204     paf      1478:        SQL_Driver::Placeholder* placeholders=0;
                   1479:        uint placeholders_count=0;
                   1480:        if(bind)
                   1481:                placeholders_count=marshal_binds(*bind, placeholders);
                   1482: 
1.182     paf      1483:        const String&  statement_string=r.process_to_string(statement);
1.337     moko     1484:        const char* statement_cstr=statement_string.untaint_cstr(String::L_SQL, r.connection());
1.260     misha    1485: 
1.182     paf      1486:        Table_sql_event_handlers handlers;
1.294     moko     1487: 
1.182     paf      1488:        r.connection()->query(
1.203     paf      1489:                statement_cstr, 
1.208     paf      1490:                placeholders_count, placeholders,
1.203     paf      1491:                offset, limit, 
1.160     paf      1492:                handlers,
                   1493:                statement_string);
1.135     paf      1494:        
1.204     paf      1495:        if(bind)
                   1496:                unmarshal_bind_updates(*bind, placeholders_count, placeholders);
1.96      parser   1497: 
1.182     paf      1498:        Table& result=
                   1499:                handlers.table?*handlers.table: // query resulted in table? return it
                   1500:                *new Table(Table::columns_type(0)); // query returned no table, fake it
1.49      paf      1501: 
                   1502:        // replace any previous table value
1.182     paf      1503:        GET_SELF(r, VTable).set_table(result);
1.49      paf      1504: }
                   1505: 
1.233     misha    1506: static void _columns(Request& r, MethodParams& params) {
                   1507:        const String* column_column_name;
                   1508:        if(params.count()>0)
                   1509:                column_column_name=&params.as_string(0, COLUMN_NAME_MUST_BE_STRING);
                   1510:        else 
                   1511:                column_column_name=new String("column");
1.88      parser   1512: 
1.182     paf      1513:        Table::columns_type result_columns(new ArrayString);
1.233     misha    1514:        *result_columns+=column_column_name;
1.182     paf      1515:        Table& result_table=*new Table(result_columns);
1.88      parser   1516: 
1.182     paf      1517:        Table& source_table=GET_SELF(r, VTable).table();
                   1518:        if(Table::columns_type source_columns=source_table.columns()) {
1.362     moko     1519:                for(Array_iterator<const String*> i(*source_columns); i; ) {
1.182     paf      1520:                        Table::element_type result_row(new ArrayString);
                   1521:                        *result_row+=i.next();
                   1522:                        result_table+=result_row;
1.88      parser   1523:                }
                   1524:        }
                   1525: 
1.338     moko     1526:        r.write(*new VTable(&result_table));
1.88      parser   1527: }
                   1528: 
1.182     paf      1529: static void _select(Request& r, MethodParams& params) {
1.359     moko     1530:        InCycle temp(r);
1.231     misha    1531:        Value& vcondition=params.as_expression(0, "condition must be number, bool or expression");
1.148     paf      1532: 
1.182     paf      1533:        Table& source_table=GET_SELF(r, VTable).table();
1.148     paf      1534: 
1.277     moko     1535:        int limit=source_table.count();
1.282     misha    1536:        int offset=0;
                   1537:        bool reverse=false;
1.278     moko     1538:        
1.281     misha    1539:        if(params.count()>1)
                   1540:                if(HashStringValue* options=params.as_hash(1)) {
                   1541:                        int valid_options=0;
                   1542:                        if(Value* vlimit=options->get(sql_limit_name)) {
                   1543:                                valid_options++;
1.335     moko     1544:                                limit=r.process(*vlimit).as_int();
1.281     misha    1545:                        }
                   1546:                        if(Value* voffset=options->get(sql_offset_name)) {
                   1547:                                valid_options++;
1.335     moko     1548:                                offset=r.process(*voffset).as_int();
1.281     misha    1549:                        }
                   1550:                        if(Value* vreverse=options->get(table_reverse_name)) {
                   1551:                                valid_options++;
1.335     moko     1552:                                reverse=r.process(*vreverse).as_bool();
1.281     misha    1553:                        }
                   1554:                        if(valid_options!=options->count())
1.288     misha    1555:                                throw Exception(PARSER_RUNTIME, 0, CALLED_WITH_INVALID_OPTION);
1.281     misha    1556:                }
                   1557: 
                   1558:        Table& result_table=*new Table(source_table.columns());
1.277     moko     1559: 
1.283     misha    1560:        size_t size=source_table.count();
                   1561:        if(offset<0)
                   1562:                offset+=size;
1.284     misha    1563:        if(size && limit>0 && offset>=0 && (size_t)offset<size){
1.372     moko     1564:                Temp_current tcurrent(source_table);
1.282     misha    1565:                size_t appended=0;
                   1566: 
                   1567:                if(reverse){
                   1568:                        for(size_t row=size-1; result_table.count() < (size_t)limit; row--) {
                   1569:                                source_table.set_current(row);
                   1570: 
1.336     moko     1571:                                bool condition=r.process(vcondition).as_bool();
1.282     misha    1572: 
1.359     moko     1573:                                if(r.check_skip_break())
                   1574:                                        break;
                   1575: 
1.378     moko     1576:                                if(condition && ++appended > (size_t)offset && source_table.valid(row)) // ...condition is true, adding to the result
1.282     misha    1577:                                        result_table+=source_table[row];
                   1578:                                if(row==0) break;
                   1579:                        }
                   1580:                } else {
                   1581:                        for(size_t row=0; row < size && result_table.count() < (size_t)limit; row++) {
                   1582:                                source_table.set_current(row);
1.148     paf      1583: 
1.336     moko     1584:                                bool condition=r.process(vcondition).as_bool();
1.277     moko     1585: 
1.359     moko     1586:                                if(r.check_skip_break())
                   1587:                                        break;
                   1588: 
1.378     moko     1589:                                if(condition && ++appended > (size_t)offset && source_table.valid(row)) // ...condition is true, adding to the result
1.282     misha    1590:                                        result_table+=source_table[row];
                   1591:                        }
1.277     moko     1592:                }
1.148     paf      1593:        }
                   1594: 
1.338     moko     1595:        r.write(*new VTable(&result_table));
1.148     paf      1596: }
                   1597: 
1.356     moko     1598: 
                   1599: static void _rename(Request& r, MethodParams& params) {
                   1600:        const String* name_from=NULL;
                   1601:        const String* name_to=NULL;
                   1602:        HashStringValue* names=NULL;
                   1603: 
                   1604:        if(params.count()>1){
                   1605:                name_from=&params.as_string(0, COLUMN_NAME_MUST_BE_STRING);
                   1606:                name_to=&params.as_string(1, COLUMN_NAME_MUST_BE_STRING);
                   1607:        } else
1.357     moko     1608:                names=params.as_hash(0);
1.356     moko     1609: 
                   1610:        Table& table=GET_SELF(r, VTable).table();
                   1611:        if(Table::columns_type columns=table.columns()) {
                   1612:                if(names){
1.368     moko     1613:                        for(size_t i=0; i<columns->count(); i++) {
1.356     moko     1614:                                const String *column = columns->get(i);
                   1615:                                if(Value* vto=names->get(*column)){
1.357     moko     1616:                                        if(const String *sto=vto->get_string())
                   1617:                                                columns->put(i, sto);
                   1618:                                        else
1.356     moko     1619:                                                throw Exception(PARSER_RUNTIME, column, COLUMN_NAME_MUST_BE_STRING);
                   1620:                                }
                   1621:                        }
1.357     moko     1622:                } else if(name_from){
1.368     moko     1623:                        for(size_t i=0; i<columns->count(); i++) {
1.356     moko     1624:                                const String *column = columns->get(i);
                   1625:                                if(*column == *name_from)
                   1626:                                        columns->put(i, name_to);
                   1627:                        }
                   1628:                }
                   1629:                table.column_names_init();
1.357     moko     1630:        } else
                   1631:                throw Exception(PARSER_RUNTIME, 0, "columns renaming is not supported for nameless tables");
1.356     moko     1632: }
                   1633: 
1.66      paf      1634: // constructor
                   1635: 
1.182     paf      1636: MTable::MTable(): Methoded("table") {
1.142     paf      1637:        // ^table::create{data}
                   1638:        // ^table::create[nameless]{data}
                   1639:        // ^table::create[table]
1.236     misha    1640:        add_native_method("create", Method::CT_DYNAMIC, _create, 1, 3);
1.142     paf      1641:        // old name for compatibility with <= v 1.141 2002/01/25 11:33:45 paf
1.236     misha    1642:        add_native_method("set", Method::CT_DYNAMIC, _create, 1, 3); 
1.2       paf      1643: 
1.142     paf      1644:        // ^table::load[file]  
                   1645:        // ^table::load[nameless;file]
1.168     paf      1646:        add_native_method("load", Method::CT_DYNAMIC, _load, 1, 3);
1.22      paf      1647: 
                   1648:        // ^table.save[file]  
                   1649:        // ^table.save[nameless;file]
1.188     paf      1650:        add_native_method("save", Method::CT_DYNAMIC, _save, 1, 3);
1.6       paf      1651: 
1.224     misha    1652:        // add_native_method("save_old", Method::CT_DYNAMIC, _save_old, 1, 3);
                   1653: 
1.297     moko     1654:        // ^table.csv-string[]
                   1655:        // ^table.csv-string[nameless]
                   1656:        // ^table.csv-string[nameless;$.encloser["] $.separator[,]]
                   1657:        add_native_method("csv-string", Method::CT_DYNAMIC, _csv_string, 0, 2);
                   1658: 
1.6       paf      1659:        // ^table.count[]
1.280     misha    1660:        // ^table.count[rows]
                   1661:        // ^table.count[columns]
                   1662:        // ^table.count[cells]
                   1663:        add_native_method("count", Method::CT_DYNAMIC, _count, 0, 1);
1.6       paf      1664: 
                   1665:        // ^table.line[]
1.66      paf      1666:        add_native_method("line", Method::CT_DYNAMIC, _line, 0, 0);
1.6       paf      1667: 
1.10      paf      1668:        // ^table.offset[]  
1.133     paf      1669:        // ^table.offset(offset)
                   1670:        // ^table.offset[cur|set](offset)
                   1671:        add_native_method("offset", Method::CT_DYNAMIC, _offset, 0, 2);
1.7       paf      1672: 
1.10      paf      1673:        // ^table.menu{code}  
                   1674:        // ^table.menu{code}[delim]
1.66      paf      1675:        add_native_method("menu", Method::CT_DYNAMIC, _menu, 1, 2);
1.74      paf      1676: 
1.239     misha    1677:        // ^table.hash[key field name]
                   1678:        // ^table.hash[key field name][value field name(s) string/table]
1.163     paf      1679:        add_native_method("hash", Method::CT_DYNAMIC, _hash, 1, 3);
1.32      paf      1680: 
1.373     moko     1681:        // ^table.array[]
                   1682:        // ^table.array[string]
                   1683:        // ^table.array{code}
                   1684:        add_native_method("array", Method::CT_DYNAMIC, _array, 0, 1);
                   1685: 
1.367     moko     1686:        // ^table.cells[]
                   1687:        // ^table.cells(limit)
                   1688:        add_native_method("cells", Method::CT_DYNAMIC, _cells, 0, 1);
                   1689: 
1.102     parser   1690:        // ^table.sort{string-key-maker} ^table.sort{string-key-maker}[desc|asc]
                   1691:        // ^table.sort(numeric-key-maker) ^table.sort(numeric-key-maker)[desc|asc]
1.66      paf      1692:        add_native_method("sort", Method::CT_DYNAMIC, _sort, 1, 2);
1.8       paf      1693: 
1.36      paf      1694:        // ^table.locate[field;value]
1.176     paf      1695:        add_native_method("locate", Method::CT_DYNAMIC, _locate, 1, 3);
1.39      paf      1696: 
                   1697:        // ^table.flip[]
1.66      paf      1698:        add_native_method("flip", Method::CT_DYNAMIC, _flip, 0, 0);
1.41      paf      1699: 
1.293     misha    1700:        // ^table.foreach[row-num;value]{code}
                   1701:        // ^table.foreach[row-num;value]{code}[delim]
                   1702:        add_native_method("foreach", Method::CT_DYNAMIC, _foreach, 3, 4);
                   1703: 
1.306     moko     1704:        // ^table.append{row{tab}data}
1.66      paf      1705:        add_native_method("append", Method::CT_DYNAMIC, _append, 1, 1);
1.42      paf      1706: 
1.306     moko     1707:        // ^table.insert{row{tab}data} before current row
                   1708:        add_native_method("insert", Method::CT_DYNAMIC, _insert, 1, 1);
                   1709: 
1.307     moko     1710:        // ^table.delete[] current row
                   1711:        add_native_method("delete", Method::CT_DYNAMIC, _delete, 0, 0);
                   1712: 
1.157     paf      1713:        // ^table.join[table][$.limit(10) $.offset(1) $.offset[cur] ]
                   1714:        add_native_method("join", Method::CT_DYNAMIC, _join, 1, 2);
1.49      paf      1715: 
                   1716: 
1.239     misha    1717:        // ^table::sql[query]
                   1718:        // ^table::sql[query][$.limit(1) $.offset(2)]
1.100     parser   1719:        add_native_method("sql", Method::CT_DYNAMIC, _sql, 1, 2);
1.88      parser   1720: 
1.239     misha    1721:        // ^table.columns[[column name]]
1.233     misha    1722:        add_native_method("columns", Method::CT_DYNAMIC, _columns, 0, 1);
1.148     paf      1723: 
                   1724:        // ^table.select(expression) = table
1.277     moko     1725:        add_native_method("select", Method::CT_DYNAMIC, _select, 1, 2);
1.356     moko     1726: 
                   1727:        // ^table.rename[column name from;column name to] 
                   1728:        // ^table.rename[ $.[column name from][column name to] ... ]
                   1729:        add_native_method("rename", Method::CT_DYNAMIC, _rename, 1, 2);
1.40      paf      1730: }

E-mail: