Diff for /parser3/src/main/untaint.C between versions 1.67 and 1.170

version 1.67, 2001/10/08 14:09:18 version 1.170, 2015/10/26 01:21:59
Line 1 Line 1
 /** @file  /** @file
         Parser: String class part: untaint mechanizm.          Parser: String class part: untaint mechanizm.
   
         Copyright(c) 2001 ArtLebedev Group(http://www.artlebedev.com)          Copyright (c) 2001-2015 Art. Lebedev Studio (http://www.artlebedev.com)
         Author: Alexander Petrosyan <paf@design.ru>(http://design.ru/paf)          Author: Alexandr Petrosian <paf@design.ru> (http://paf.design.ru)
   
         $Id$  
 */  */
   
 #include "pa_pool.h"  volatile const char * IDENT_UNTAINT_C="$Id$";
   
   
 #include "pa_string.h"  #include "pa_string.h"
 #include "pa_hash.h"  #include "pa_hash.h"
 #include "pa_exception.h"  #include "pa_exception.h"
 #include "pa_table.h"  #include "pa_table.h"
 #include "pa_globals.h"  #include "pa_globals.h"
 #include "pa_sql_connection.h"  
 #include "pa_dictionary.h"  #include "pa_dictionary.h"
 #include "pa_common.h"  #include "pa_common.h"
   #include "pa_charset.h"
   #include "pa_request_charsets.h"
   #include "pa_sapi.h"
   
 #define escape(action) \  extern "C" { // author forgot to do that
   #include "ec.h"
   }
   
   #include "pa_sql_connection.h"
   
   // defines
   
   #undef CORD_ec_append
   // redefining to intercept flushes and implement whitespace optimization
   // of all consequent white space chars leaving only first one
   #define CORD_ec_append(x, c) \
       {  \
           bool skip=false; \
           if(optimize) switch(c) { \
           case ' ': case '\n': case '\t': \
                   if(whitespace) \
                           skip=true; /*skipping subsequent*/ \
                   else \
                           whitespace=true; \
                   break; \
           default: \
                   whitespace=false; \
                   break; \
           } \
           if(!skip) { \
                   if ((x)[0].ec_bufptr == (x)[0].ec_buf + CORD_BUFSZ) { \
                           CORD_ec_flush_buf(x); \
                   } \
                   *((x)[0].ec_bufptr)++ = (c); \
           } \
       }
   
   #define escape_fragment(action) \
           for(; fragment_length--; CORD_next(info->pos)) { \
                   char c=CORD_pos_fetch(info->pos); \
                   action \
           }
   
   #define encode(need_encode_func, prefix, otherwise)  \
           if(need_encode_func(c)) { \
                   CORD_ec_append(info->result, prefix); \
                   to_hex(c); \
           } else \
                   CORD_ec_append(info->result, otherwise);
   
   #define to_hex(c) \
         { \          { \
                 const char *src=row->item.ptr; \                  CORD_ec_append(info->result, hex_digits[((unsigned char)c) >> 4]); \
                 for(int size=row->item.size; size--; src++) \                  CORD_ec_append(info->result, hex_digits[((unsigned char)c) & 0x0F]); \
                         action \  
         }          }
 #define _default  default: *dest++=*src; break  
 #define encode(need_encode_func, prefix)  \  
                 default: \  
                         if(need_encode_func(*src)) { \  
                                 static const char *hex="0123456789ABCDEF"; \  
                                 char chunk[3]={prefix}; \  
                                 chunk[1]=hex[((unsigned char)*src)/0x10]; \  
                                 chunk[2]=hex[((unsigned char)*src)%0x10]; \  
                                 memcpy(dest, chunk, 3);  dest+=3; \  
                         } else \  
                                 *dest++=*src; \  
                         break  
 #define to_char(c)  *dest++=c  
 #define to_string(b, bsize)  \  
                 memcpy(dest, b, bsize); \  
                 dest+=bsize; \  
   
 inline bool need_file_encode(unsigned char c){  #define to_char(c)  { CORD_ec_append(info->result, c); whitespace=false; }
     if((c>='0') &&(c<='9') ||(c>='A') &&(c<='Z') ||(c>='a') &&(c<='z'))   #define to_string(s)  { CORD_ec_append_cord(info->result, (CORD)(s)); whitespace=false; }
                 return false;  #define _default CORD_ec_append(info->result, c)
   
     return !strchr(  inline bool need_file_encode(unsigned char c){
 #ifdef WIN32          // russian letters and space ENABLED
                 ":\\~"          // encoding only these...
           return strchr(
                           "*?\"<>|"
   #ifndef WIN32
                           ":\\"
 #endif  #endif
                 "./()_-", c);                          , c)!=0;
 }  }
   
 inline bool need_uri_encode(unsigned char c){  inline bool need_uri_encode(unsigned char c){
     if((c>='0') &&(c<='9') ||(c>='A') &&(c<='Z') ||(c>='a') &&(c<='z'))           return !(pa_isalnum(c) || strchr("_-./*", c));
                 return false;  }
   
     return !strchr("_-./", c);  inline bool need_regex_escape(unsigned char c){
           return strchr("\\^$.[]|()?*+{}-", c)!=0;
 }  }
 inline bool need_http_header_encode(unsigned char c){  
     if(strchr(" , :", c))  
                 return false;  
   
         return need_uri_encode(c);  
 }  
   
 //  
   
 static const char * String_Untaint_lang_name[]={  
         "U", ///< zero value handy for hash lookup @see untaint_lang_name2enum  
         "C", ///< clean  
         "T",  ///< tainted, untaint language as assigned later   
         // untaint languages. assigned by ^untaint[lang]{...}  
         "P",  
                 /**<  
                         leave language built into string being appended.  
                         just a flag, that value not stored  
                 */  
         "A",     ///< leave all characters intact  
         "F", ///< filename  
         "H",    ///< text in HTTP response header  
         "M",    ///< text in mail header  
         "URI",       ///< text in uri  
         "T",     ///< ^table:set body  
         "SQL",       ///< ^table:sql body  
         "JS",        ///< JavaScript code  
         "HTML",      ///< HTML code (for editing)  
         "UHTML", ///< HTML code with USER chars  
 };  
   
   inline bool need_parser_code_escape(unsigned char c){
           return strchr("^$;@()[]{}:#\"", c)!=0;
   }
   
 // String  // String
   
 static bool typo_present(Array::Item *value, const void *info) {  
         Array *row=static_cast<Array *>(value);  
         const char *src=static_cast<const char *>(info);  
   
         int partial;  
         row->get_string(0)->cmp(partial, src);  
         return   
                 partial==0 || // full match  
                 partial==1; // typo left column starts 'src'  
 }  
   
 /*  /*
   
 HTTP-header    = field-name ":" [ field-value ] CRLF  HTTP-header    = field-name ":" [ field-value ] CRLF
   
        field-name     = token  field-name     = token
        field-value    = *( field-content | LWS )  field-value    = *( field-content | LWS )
   
        field-content  = <the OCTETs making up the field-value  field-content  = <the OCTETs making up the field-value
                         and consisting of either *TEXT or combinations                          and consisting of either *TEXT or combinations
                         of token, tspecials, and quoted-string>                          of token, tspecials, and quoted-string>
   
   
   
 word           = token | quoted-string  
   
 token          = 1*<any CHAR except CTLs or tspecials>  token          = 1*<any CHAR except CTLs or tspecials>
   word           = token | quoted-string
   quoted-string  = ( <"> *(qdtext | quoted-pair ) <"> )
   qdtext         = <any TEXT except <">>
   quoted-pair    = "\" CHAR
   
   OCTET          = <any 8-bit sequence of data>
   CHAR           = <any US-ASCII character (octets 0 - 127)>
   
 tspecials      = "(" | ")" | "<" | ">" | "@"  tspecials      = "(" | ")" | "<" | ">" | "@"
                       | "," | ";" | ":" | "\" | <">                 | "," | ";" | ":" | "\" | <">
                       | "/" | "[" | "]" | "?" | "="                 | "/" | "[" | "]" | "?" | "="
                       | "{" | "}" | SP | HT                 | "{" | "}" | SP | HT
   
 SP             = <US-ASCII SP, space (32)>  SP             = <US-ASCII SP, space (32)>
 HT             = <US-ASCII HT, horizontal-tab (9)>  HT             = <US-ASCII HT, horizontal-tab (9)>
   
 LWS            = [CRLF] 1*( SP | HT )  LWS            = [CRLF] 1*( SP | HT )
 TEXT           = <any OCTET except CTLs,  TEXT           = <any OCTET except CTLs, but including LWS>
                         but including LWS>  CTL            = <any US-ASCII control character (octets 0 - 31) and DEL (127)>
   
 quoted-pair    = "\" CHAR  
   
   if(strchr("()<>@,;:\\\"/[]?={} \t", *ptr))    if(strchr("()<>@,;:\\\"/[]?={} \t", *ptr))
 */  */
 inline bool need_quote_http_header(const char *ptr, size_t size) {  inline bool need_quote_http_header(const char* ptr, size_t size) {
         for(; size--; ptr++)          for(; size--; ptr++)
                 if(strchr(";\\\"= \t" /* excluded ()<>@, :/ ? []{} */, *ptr))                  if(strchr(";\\\"= \t" /* excluded ()<>@, :/ ? []{} */, *ptr))
                         return true;                          return true;
         return false;          return false;
 }  }
   
 /** @todo maybe additional check "are all pieces are clean?" would be profitable?  #ifndef DOXYGEN
         @todo fix potential forigins_mode buf overrun  struct Append_fragment_info {
           String::Language lang;
           String::Languages* dest_languages;
           size_t dest_body_plan_length;
   };
   #endif
   int append_fragment_optimizing(char alang, size_t asize, Append_fragment_info* info) {
           const String::Language lang=(String::Language)(unsigned char)alang;
           // main idea here:
           // tainted piece would get OPTIMIZED bit from 'lang'
           // clean piece would be marked OPTIMIZED manually
           // pieces with determined languages [not tainted|clean] would retain theirs langs
           info->dest_languages->append(info->dest_body_plan_length, 
                   lang==String::L_TAINTED?
                           info->lang
                           :lang==String::L_CLEAN?
                                   (String::Language)(String::L_CLEAN|String::L_OPTIMIZE_BIT) // ORing with OPTIMIZED flag
                                   :lang,
                   asize);
           info->dest_body_plan_length+=asize;
   
           return 0; // 0=continue
   }
   int append_fragment_nonoptimizing(char alang, size_t asize, Append_fragment_info* info) {
           const String::Language lang=(String::Language)(unsigned char)alang;
           // The core idea: tainted pieces got marked with context's lang
           info->dest_languages->append(info->dest_body_plan_length, 
                   lang==String::L_TAINTED?
                           info->lang
                           :lang,
                   asize);
           info->dest_body_plan_length+=asize;
   
           return 0; // 0=continue
   }
   
   /** 
           appends to other String,
           marking all tainted pieces of it with @a lang.
           or marking ALL pieces of it with a @a lang when @a forced to,
           and propagating OPTIMIZE language bit.
 */  */
 size_t String::cstr_bufsize(Untaint_lang lang) const {  String& String::append_to(String& dest, Language ilang, bool forced) const {
         return (lang==UL_AS_IS?size():size()*UNTAINT_TIMES_BIGGER*(forigins_mode?10:1)) +1;          if(is_empty())
                   return dest;
   
           // first: fragment infos
           
           if(ilang==L_PASS_APPENDED) // without language-change?
                   dest.langs.appendHelper(dest.body, langs, body);
           else if(forced) //forcing passed lang?
                   dest.langs.appendHelper(dest.body, ilang, body);
           else {
                   if(langs.opt.is_not_just_lang){
                           Append_fragment_info info={ilang, &dest.langs, dest.body.length()};
                           langs.for_each(body, ilang&L_OPTIMIZE_BIT?
                                   append_fragment_optimizing
                                   :append_fragment_nonoptimizing, &info);
                   } else {
                           Language lang=langs.opt.lang;
                           // see append_fragment_* for explanation
                           if(ilang&L_OPTIMIZE_BIT){
                                   dest.langs.appendHelper(dest.body,
                                           lang==String::L_TAINTED?
                                                   ilang
                                                   :lang==String::L_CLEAN?
                                                           (String::Language)(String::L_CLEAN|String::L_OPTIMIZE_BIT)
                                                           :lang,
                                           body);
                           } else {
                                   dest.langs.appendHelper(dest.body, lang==String::L_TAINTED ? ilang:lang, body);
                           }
                   }
           }
   
           // next: letters
           dest.body<<body;
   
           ASSERT_STRING_INVARIANT(dest);
           return dest;
 }  }
   
 /** @todo fix theoretical \n mem overrun in TYPO replacements  /** http://www.ietf.org/rfc/rfc2047.txt
   RFC
   (3) As a replacement for a 'word' entity within a 'phrase', for example,
       one that precedes an address in a From, To, or Cc header.  The ABNF
       definition for 'phrase' from RFC 822 thus becomes:
   
       phrase = 1*( encoded-word / word )
   
       In this case the set of characters that may be used in a "Q"-encoded
       'encoded-word' is restricted to: <upper and lower case ASCII
       letters, decimal digits, "!", "*", "+", "-", "/", "=", and "_"
       (underscore, ASCII 95.)>.  An 'encoded-word' that appears within a
       'phrase' MUST be separated from any adjacent 'word', 'text' or
       'special' by 'linear-white-space'.
   ...
      (2) The 8-bit hexadecimal value 20 (e.g., ISO-8859-1 SPACE) may be
          represented as "_" (underscore, ASCII 95.).  (This character may
          not pass through some internetwork mail gateways, but its use
          will greatly enhance readability of "Q" encoded data with mail
          readers that do not support this encoding.)  Note that the "_"
          always represents hexadecimal 20, even if the SPACE character
          occupies a different code position in the character set in use.
   
           paf: obviously, 
                   without "=", or one could not differ "=E0" and "russian letter a"
                   and without "_", or in would mean 0x20
   */
   inline bool mail_header_char_valid_within_Qencoded(char c) {
           return (pa_isalnum((unsigned char)c) || strchr("!*+-/", c));
   }
   inline bool addr_spec_soon(const char *src) {
           for(char c; (c=*src); src++)
                   if(c=='<')
                           return true;
                   else if(!(c==' ' || c=='\t'))
                           return false;
           return false;
   }
   /**
           RFC 
           Upper case should be used for hexadecimal digits "A" through "F"
           The 8-bit hexadecimal value 20 (e.g., ISO-8859-1 SPACE) 
           may be represented as "_" 
 */  */
 char *String::store_to(char *dest, Untaint_lang lang,   inline bool mail_header_nonspace_char(char c) {
                                            SQL_Connection *connection,          return c != 0x20;
                                            const char *charset) const {  }
         // $MAIN:html-typo table  
         Dictionary *user_typo_dict=static_cast<Dictionary *>(pool().tag());  inline void ec_append(CORD_ec& result, bool& optimize, bool& whitespace, CORD_pos pos, size_t size) {
         Dictionary *typo_dict=user_typo_dict?user_typo_dict:default_typo_dict;          while(size--) {
                   CORD_ec_append(result, CORD_pos_fetch(pos));
         bool whitespace=true;                  CORD_next(pos);
         const Chunk *chunk=&head;           }
         do {  }
                 const Chunk::Row *row=chunk->rows;  inline void pa_CORD_pos_advance(CORD_pos pos, size_t n) {
                 for(size_t i=0; i<chunk->count; i++, row++) {          while(true) {
                         if(row==append_here)                  long avail=CORD_pos_chars_left(pos);
                                 goto break2;                  if(avail<=0) {
                           CORD_next(pos);
                         Untaint_lang to_lang=lang==UL_UNSPECIFIED?row->item.lang:lang;                          if(!--n)
                                   break;
                         char *dest_before_origins=dest;                  } else if((size_t)avail<n) {
                           CORD_pos_advance(pos, avail);
                         if(forigins_mode) {                          n-=avail;
 #ifndef NO_STRING_ORIGIN                  } else { // avail>=n
                                 if(row->item.origin.file)                          CORD_pos_advance(pos, n);
                                         dest+=sprintf(dest, "%s(%d)",                          break;
                                                 row->item.origin.file,                  }
                                                 1+row->item.origin.line);          }
                                 else  }
                                         dest+=sprintf(dest, "unknown");  
   #ifndef DOXYGEN
   struct Cstr_to_string_body_block_info {
           // input
           String::Language lang;
           SQL_Connection* connection;
           const Request_charsets* charsets;
           const String::Body* body;
   
           // output
           CORD_ec result;
   
           // private
           CORD_pos pos;
           size_t fragment_begin;
           bool whitespace;
           const char* exception;
   };
 #endif  #endif
                                 dest+=sprintf(dest, "#%s: ",  
                                         String_Untaint_lang_name[to_lang]);  
                         }  
                         char *dest_after_origins=dest;  
   
                         // WARNING:  // @todo: replace info->body->mid with something that uses info->pos
                         //      string can grow only UNTAINT_TIMES_BIGGER  int cstr_to_string_body_block(String::Language to_lang, size_t fragment_length, Cstr_to_string_body_block_info* info) {
                         switch(to_lang) {          bool& whitespace=info->whitespace;
                         case UL_CLEAN:          size_t fragment_end=info->fragment_begin+fragment_length;
                                 // clean piece          //fprintf(stderr, "%d, %d =%s=\n", to_lang, fragment_length, info->body->cstr());
                                 { // optimizing whitespace          
                                         const char *src=row->item.ptr;           bool optimize=(to_lang & String::L_OPTIMIZE_BIT)!=0;
                                         for(int size=row->item.size; size--; src++)          if(!optimize)
                                                 switch(*src) {                  whitespace=false;
                                                 case ' ': case '\n': case '\t':                  
                                                         if(!whitespace) {          switch(to_lang & ~String::L_OPTIMIZE_BIT) {
                                                                 *dest++=*src;          case String::L_CLEAN:
                                                                 whitespace=true;          case String::L_TAINTED:
                                                         }          case String::L_AS_IS:
                                                         break;                  // clean piece
                                                 default:  
                                                         whitespace=false;                  // tainted piece, but undefined untaint language
                                                         *dest++=*src;                  // for VString.as_double of tainted values
                                                         break;                  // for ^process{body} evaluation
                                                 }  
                   // tainted, untaint language: as-is
                   ec_append(info->result, optimize, whitespace, info->pos, fragment_length);
                   break;
           case String::L_FILE_SPEC:
                   // tainted, untaint language: file [name]
                   {
                           escape_fragment(
                                   encode(need_file_encode, '_', c); 
                           );
                   }
                   break;
           case String::L_URI:
                   // tainted, untaint language: uri
                   {
                           const char *fragment_str=info->body->mid(info->fragment_begin, fragment_length).cstr();
                           // skip source [we use recoded version]
                           pa_CORD_pos_advance(info->pos, fragment_length);
                           String::C output(fragment_str, fragment_length);
                           if(info->charsets)
                                   output=Charset::transcode(output, info->charsets->source(), info->charsets->client());
   
                           char c;
                           for(const char* src=output.str; (c=*src++); )
                                   encode(need_uri_encode, '%', c);
                   }
                   break;
           case String::L_HTTP_HEADER:
                   // tainted, untaint language: http-field-content-text
                   escape_fragment(switch(c) {
                           case '\n': 
                           case '\r': to_string(" ");  break;
                           default: _default; break;
                   });
                   break;
           case String::L_MAIL_HEADER:
                   // tainted, untaint language: mail-header
                   // http://www.ietf.org/rfc/rfc2047.txt
                   if(info->charsets) {
                           size_t mail_size;
                           const char *mail_ptr=
                                   info->body->mid(info->fragment_begin, mail_size=fragment_length).cstr();
                           // skip source [we use recoded version]
                           pa_CORD_pos_advance(info->pos, mail_size);
   
                           const char* charset_name=info->charsets->mail().NAME().cstr();
   
                           // Subject: Re: parser3: =?koi8-r?Q?=D3=C5=CD=C9=CE=C1=D2?=
                           bool to_quoted_printable=false;
   
                           bool email=false;
                           uchar c;
                           for(const char* src=mail_ptr; (c=(uchar)*src++); ) {
                                   if(c=='\r' || c=='\n')
                                           c=' ';
                                   if(to_quoted_printable && (c==',' || c == '"' || addr_spec_soon(src-1/*position to 'c'*/))) {
                                           email=c=='<';
                                           to_string("?=");
                                           to_quoted_printable=false;
                                 }                                  }
                                 break;                                  //RFC   + An 'encoded-word' MUST NOT appear in any portion of an 'addr-spec'.
                         case UL_TAINTED:                                  if(!email && (
                                 // tainted piece, but undefined untaint language                                          ( !to_quoted_printable && (c & 0x80) )  // starting quote-printable-encoding on first 8bit char
                                 // for VString.as_double of tainted values                                          || ( to_quoted_printable && !mail_header_char_valid_within_Qencoded(c) )
                                 // for ^process{body} evaluation                                          )) {
                         case UL_AS_IS:                                          if(!to_quoted_printable) {
                                 // tainted, untaint language: as-is                                                  to_string("=?");
                                 memcpy(dest, row->item.ptr, row->item.size);                                                   to_string(charset_name);
                                 dest+=row->item.size;                                                  to_string("?Q?");
                                 break;                                                  to_quoted_printable=true;
                         case UL_FILE_SPEC:  
                                 // tainted, untaint language: file [name]  
                                 escape(switch(*src) {  
                                         case ' ': to_char('_');  break;  
                                         encode(need_file_encode, '+');  
                                 });  
                                 break;  
                         case UL_URI:  
                                 // tainted, untaint language: uri  
                                 escape(switch(*src) {  
                                         case ' ': to_char('+');  break;  
                                         encode(need_uri_encode, '%');  
                                 });  
                                 break;  
                         case UL_HTTP_HEADER:  
                                 // tainted, untaint language: http-field-content-text  
                                 escape(switch(*src) {  
                                         case ' ': to_char('+');  break;  
                                         encode(need_uri_encode, '%');  
                                 });  
                                 break;  
                         case UL_MAIL_HEADER:  
                                 // tainted, untaint language: mail-header  
                                 if(charset) {  
                                         // Subject: Re: parser3: =?koi8-r?Q?=D3=C5=CD=C9=CE=C1=D2?=  
                                         const char *src=row->item.ptr;   
                                         bool to_quoted_printable=false;  
                                         for(int size=row->item.size; size--; src++) {  
                                                 if(*src & 0x80) {  
                                                         if(!to_quoted_printable) {  
                                                                 dest+=sprintf(dest, "=?%.15s?Q?", charset);  
                                                                 to_quoted_printable=true;  
                                                         }  
                                                         dest+=sprintf(dest, "=%02X", *src & 0xFF);  
                                                 } else {  
                                                         *dest++=*src;                                             
                                                 }  
                                         }                                          }
                                         if(to_quoted_printable) // close                                          encode(mail_header_nonspace_char, '=', '_'); 
                                                 dest+=sprintf(dest, "?=");                                  } else
                                           to_char(c);
                                   if(c=='>')
                                           email=false;
                           }
                           if(to_quoted_printable) // close
                                   to_string("?=");
                   
                   } else
                           ec_append(info->result, optimize, whitespace, info->pos, fragment_length);
                   break;
           case String::L_SQL:
                   // tainted, untaint language: sql
                   if(info->connection) {
                           const char *fragment_str=info->body->mid(info->fragment_begin, fragment_length).cstr();
                           // skip source [we use recoded version]
                           pa_CORD_pos_advance(info->pos, fragment_length);
   
                           to_string(info->connection->quote(fragment_str, fragment_length));
                   } else {
                           info->exception="untaint in SQL language failed - no connection specified";
                           info->fragment_begin=fragment_end;
                           return 1; // stop processing. can't throw exception here
                   }
                   break;
           case String::L_JS:
                   escape_fragment(switch(c) {
                           case '\n': to_string("\\n");  break;
                           case '"': to_string("\\\"");  break;
                           case '\'': to_string("\\'");  break;
                           case '\\': to_string("\\\\");  break;
                           case '\xFF': to_string("\\\xFF");  break;
                           case '\r': to_string("\\r");  break;
                           default: _default; break;
                   });
                   break;
           case String::L_XML:
                   // [2]    Char    ::=    #x9 | #xA | #xD | [#x20-#xD7FF] | [#xE000-#xFFFD] | [#x10000-#x10FFFF] 
                   escape_fragment(switch(c) {
                           case '\x20':
                           case '\x9':
                           case '\xA':
                           case '\xD': // this is usually removed on input
                                   _default; 
                                   break;
                           case '&': to_string("&amp;");  break;
                           case '>': to_string("&gt;");  break;
                           case '<': to_string("&lt;");  break;
                           case '"': to_string("&quot;");  break;
                           case '\'': to_string("&apos;");  break;
                           default: 
                                   if(((unsigned char)c)<0x20) {
                                           // fixing it, so that libxml would not result
                                           // in fatal error parsing text
                                           // though it really violates standard.
                                           // to indicate there were an error
                                           // replace bad char not to it's code, 
                                           // which we can do,
                                           // but rather to '!' to show that input were actually
                                           // invalid.
                                           // life: shows that MSIE can somehow garble form values
                                           // so that they contain these chars.
                                           to_char('!'); 
                                 } else {                                  } else {
                                         memcpy(dest, row->item.ptr, row->item.size);                                           _default; 
                                         dest+=row->item.size;  
                                 }                                  }
                                 break;                                  break;
                         case UL_TABLE:                   });
                                 // tainted, untaint language: table                  break;
                                 escape(switch(*src) {          case String::L_HTML:
                                         case '\t': to_char(' ');  break;                  escape_fragment(switch(c) {
                                         case '\n': to_char(' ');  break;                          case '&': to_string("&amp;");  break;
                                         _default;                          case '>': to_string("&gt;");  break;
                                 });                          case '<': to_string("&lt;");  break;
                                 break;                          case '"': to_string("&quot;");  break;
                         case UL_SQL:                          default: _default; break;
                                 // tainted, untaint language: sql                  });
                                 if(connection)                  break;
                                         dest+=connection->quote(dest, row->item.ptr, row->item.size);          case String::L_REGEX:
                                 else                  // tainted, untaint language: regex
                                         THROW(0, 0,                  escape_fragment(
                                                 this,                          if(need_regex_escape(c))
                                                 "untaint in SQL language failed - no connection specified");                                  to_char('\\')
                                 break;                          _default;
                         case UL_JS:                  );
                                 escape(switch(*src) {                  break;
                                         case '"': to_string("\\\"", 2);  break;          case String::L_JSON:
                                         case '\'': to_string("\\'", 2);  break;                  // tainted, untaint language: json <http://json.org/>
                                         case '\n': to_string("\\n", 2);  break;                  // escape '"' '\' '/' '\n' '\t' '\r' '\b' '\f' chars and escape chars as \uXXXX if output charset != UTF-8
                                         case '\\': to_string("\\\\", 2);  break;                  {
                                         case '\xFF': to_string("\\\xFF", 2);  break;                          if(info->charsets==NULL || info->charsets->client().isUTF8()){
                                         _default;                                  // escaping to \uXXXX is not needed
                                 });                                  escape_fragment(switch((unsigned char)c) {
                                 break;                                          case '\n': to_string("\\n");  break;
                         case UL_XML:                                          case '"' : to_string("\\\""); break;
                                 escape(switch(*src) {                                          case '\\': to_string("\\\\"); break;
                                         case '&': to_string("&amp;", 5);  break;                                          case '/' : to_string("\\/");  break;
                                         case '>': to_string("&gt;", 4);  break;                                          case '\t': to_string("\\t");  break;
                                         case '<': to_string("&lt;", 4);  break;                                          case '\r': to_string("\\r");  break;
                                         case '"': to_string("&quot;", 6);  break;                                          case '\b': to_string("\\b");  break;
                                         case '\'': to_string("&apos;", 6);  break;                                          case '\f': to_string("\\f");  break;
                                         _default;                                          case 0xE2: // \u2028 and \u2029 (line/paragraph separators), check bug #1023
                                 });                                                  if(info->charsets && info->charsets->source().isUTF8() && fragment_length>=2){
                                 break;                                                          CORD_next(info->pos);
                         case UL_HTML:                                                          char c1=CORD_pos_fetch(info->pos);
                                 escape(switch(*src) {                                                          CORD_next(info->pos);
                                         case '&': to_string("&amp;", 5);  break;                                                          char c2=CORD_pos_fetch(info->pos);
                                         case '>': to_string("&gt;", 4);  break;                                                          if((unsigned char)c1 == 0x80 && ((unsigned char)c2 >= 0xA8 && (unsigned char)c2 <= 0xAF)){
                                         case '<': to_string("&lt;", 4);  break;                                                                  to_string("\\u20");
                                         case '"': to_string("&quot;", 6);  break;                                                                  to_hex(((unsigned char)c2-0x80));
                                         _default;                                                          } else {
                                 });                                                                  CORD_ec_append(info->result, c);
                                 break;                                                                  CORD_ec_append(info->result, c1);
                         case UL_USER_HTML: {                                                                  CORD_ec_append(info->result, c2);
                                 // tainted, untaint language: html-typo                                                          }
                                 if(!typo_dict) // never, always has default                                                          fragment_length-=2;
                                         THROW(0, 0,                                                  } else {
                                                 this,                                                          _default;
                                                 "untaint to user-html lang failed, no typo table");  
   
                                 char *html_for_typo=  
                                         (char *)malloc(row->item.size*2/* '\n' -> '\' 'n' */+1);  
                                 // note:  
                                 //   there still is a possibility that user   
                                 //   would not replace \n as she supposed to  
                                 //   and rather replace \ and n into huge strings  
                                 //   thus causing memory overrun  
                                 //   this can be dealed by allocating *2 memory, but that's too expensive  
                                 size_t html_for_typo_size;  
                                 { // local dest  
                                         char *dest=html_for_typo;  
                                         escape(switch(*src) {  
                                                 // convinient name for typo match "\n"  
                                                 case '\n':   
                                                         to_string("\\n", 2);  
                                                         break;  
                                                 _default;  
                                         });  
                                         *dest=0;  
                                         html_for_typo_size=dest-html_for_typo;  
                                 }  
                                 // typo table replacements  
                                 const char *src=html_for_typo;  
                                 do {  
                                         // there is a row where first column starts 'src'  
                                         if(Table::Item *item=typo_dict->first_that_starts(src)) {  
                                                 // get a=>b values  
                                                 const String& a=*static_cast<Array *>(item)->get_string(0);  
                                                 const String& b=*static_cast<Array *>(item)->get_string(1);  
                                                 // overflow check:  
                                                 //   b allowed to be max UNTAINT_TIMES_BIGGER then a  
                                                 if(b.size()>UNTAINT_TIMES_BIGGER*a.size()) {  
                                                         pool().set_tag(0); // avoid recursion  
                                                         THROW(0, 0,   
                                                                 &b,   
                                                                 "is %g times longer then '%s', "  
                                                                 "while maximum, handled by Parser, is %d",   
                                                                         ((double)b.size())/a.size(),   
                                                                         a.cstr(),   
                                                                         UNTAINT_TIMES_BIGGER);  
                                                 }                                                  }
                                                                                                   break;
                                                 // skip 'a' in 'src'                                          default: 
                                                 src+=a.size();                                                  if((unsigned char)c < 0x20){
                                                 // write 'b' to 'dest'                                                          to_string("\\u00");
                                                 b.store_to(dest);                                                          to_hex(c);
                                                 // skip 'b' in 'dest'                                                  } else {
                                                 dest+=b.size();                                                          _default;
                                         } else                                                  }
                                                 *dest++=*src++;                                                  break;
                                 } while(*src);                                  });
                                 break;                          } else {
                                 }                                  const char *fragment_str=info->body->mid(info->fragment_begin, fragment_length).cstr();
                         default:                                  // skip source [we use recoded version]
                                 THROW(0, 0,                                   pa_CORD_pos_advance(info->pos, fragment_length);
                                         this,                                   to_string(Charset::escape_JSON(String::C(fragment_str, fragment_length), info->charsets->source()).str);
                                         "unknown untaint language #%d of %d piece",   
                                                 static_cast<int>(row->item.lang),   
                                                 i); // never  
                                 break; // never  
                         }                          }
                   }
                   break;
           case String::L_HTTP_COOKIE:
                   // tainted, untaint language: cookie (3.3.0 and higher: %uXXXX in UTF-8)
                   if(info->charsets) {
                           const char *fragment_str=info->body->mid(info->fragment_begin, fragment_length).cstr();
                           // skip source [we use recoded version]
                           pa_CORD_pos_advance(info->pos, fragment_length);
                           to_string(Charset::escape(String::C(fragment_str, fragment_length), info->charsets->source()).str);
                   } else
                           ec_append(info->result, optimize, whitespace, info->pos, fragment_length);
                   break;
           case String::L_PARSER_CODE:
                   // for auto-untaint in process
                   escape_fragment(
                           if(need_parser_code_escape(c))
                                   to_char('^');
                           _default;
                   );
                   break;
           default:
                   SAPI::abort("unknown untaint language #%d", 
                           static_cast<int>(to_lang)); // should never
                   break; // never
           }
   
                         if((lang==UL_UNSPECIFIED?row->item.lang:lang)!=UL_CLEAN)          info->fragment_begin=fragment_end;
                                 whitespace=false;  
   
                         if(forigins_mode)          return 0; // 0=continue
                                 if(dest==dest_after_origins) // never moved==optimized space  }
                                         dest=dest_before_origins;  
                                 else {  
                                         remove_crlf(dest_after_origins, dest);  
   
                                         to_char('\n');  
                                 }  
                 }  
                 chunk=row->link;  
         } while(chunk);  
   
 break2:  String::Body String::cstr_to_string_body_taint(Language lang, SQL_Connection* connection, const Request_charsets *charsets) const {
         return dest;          if(is_empty())
                   return String::Body();
   
           Cstr_to_string_body_block_info info;
           // input
           info.lang=lang;
           info.connection=connection;
           info.charsets=charsets;
           info.body=&body;
           // output
           CORD_ec_init(info.result);
           // private
           body.set_pos(info.pos, 0);
           info.fragment_begin=0;
           info.exception=0;
           info.whitespace=true;
   
           cstr_to_string_body_block(lang, length(), &info);
   
           if(info.exception)
                   throw Exception(0,
                           0,
                           info.exception);
   
           return String::Body(CORD_ec_to_cord(info.result));
   }
   
   int cstr_to_string_body_block_untaint(char alang, size_t fragment_length, Cstr_to_string_body_block_info* info){
           const String::Language lang=(String::Language)(unsigned char)alang;
           // see append_fragment_* for explanation
           if(info->lang&String::L_OPTIMIZE_BIT)
                   return cstr_to_string_body_block(
                           lang==String::L_TAINTED?
                                   info->lang
                                   :lang==String::L_CLEAN?
                                           (String::Language)(String::L_CLEAN|String::L_OPTIMIZE_BIT)
                                           :lang,
                           fragment_length, info);
           else
                   return cstr_to_string_body_block(lang==String::L_TAINTED ? info->lang:lang, fragment_length, info);
   }
   
   String::Body String::cstr_to_string_body_untaint(Language lang, SQL_Connection* connection, const Request_charsets *charsets) const {
           if(is_empty())
                   return String::Body();
   
           Cstr_to_string_body_block_info info;
           // input
           info.lang=lang;
           info.connection=connection;
           info.charsets=charsets;
           info.body=&body;
           // output
           CORD_ec_init(info.result);
           // private
           body.set_pos(info.pos, 0);
           info.fragment_begin=0;
           info.exception=0;
           info.whitespace=true;
   
           langs.for_each(body, cstr_to_string_body_block_untaint, &info);
   
           if(info.exception)
                   throw Exception(0,
                           0,
                           info.exception);
   
           return String::Body(CORD_ec_to_cord(info.result));
   }
   
   const char* String::untaint_and_transcode_cstr(Language lang, const Request_charsets *charsets) const {
           if(charsets && &charsets->source() != &charsets->client()){
                   // Note: L_URI is allready transcoded during untaint, but transcode does not affect %XX
                   return Charset::transcode(cstr_to_string_body_untaint(lang, 0, charsets), charsets->source(), charsets->client()).cstr();
           } else
                   return cstr_to_string_body_untaint(lang, 0, charsets).cstr();
 }  }

Removed from v.1.67  
changed lines
  Added in v.1.170


E-mail: