Diff for /parser3/src/main/untaint.C between versions 1.141 and 1.176

version 1.141, 2008/07/16 17:06:44 version 1.176, 2020/12/15 17:10:37
Line 1 Line 1
 /** @file  /** @file
         Parser: String class part: untaint mechanizm.          Parser: String class part: untaint mechanizm.
   
         Copyright(c) 2001-2005 ArtLebedev Group (http://www.artlebedev.com)          Copyright (c) 2001-2020 Art. Lebedev Studio (http://www.artlebedev.com)
         Author: Alexandr Petrosian <paf@design.ru> (http://paf.design.ru)          Author: Alexandr Petrosian <paf@design.ru> (http://paf.design.ru)
 */  */
   
 static const char * const IDENT_UNTAINT_C="$Date$";  volatile const char * IDENT_UNTAINT_C="$Id$";
   
   
 #include "pa_string.h"  #include "pa_string.h"
Line 20  static const char * const IDENT_UNTAINT_ Line 20  static const char * const IDENT_UNTAINT_
 #include "pa_sapi.h"  #include "pa_sapi.h"
   
 extern "C" { // author forgot to do that  extern "C" { // author forgot to do that
 #include "ec.h"  #include "../lib/cord/include/ec.h"
 }  }
   
 #include "pa_sql_connection.h"  #include "pa_sql_connection.h"
Line 52  extern "C" { // author forgot to do that Line 52  extern "C" { // author forgot to do that
         } \          } \
     }      }
   
   
 #define escape_fragment(action) \  #define escape_fragment(action) \
         for(; fragment_length--; CORD_next(info->pos)) { \          for(; fragment_length--; CORD_next(info->pos)) { \
                 char c=CORD_pos_fetch(info->pos); \                  char c=CORD_pos_fetch(info->pos); \
                 action \                  action \
         }          }
 #define _default CORD_ec_append(info->result, c)  
 #define encode(need_encode_func, prefix, otherwise)  \  #define encode(need_encode_func, prefix, otherwise)  \
         if(need_encode_func(c)) { \          if(need_encode_func(c)) { \
                 static const char* hex="0123456789ABCDEF"; \  
                 CORD_ec_append(info->result, prefix); \                  CORD_ec_append(info->result, prefix); \
                 CORD_ec_append(info->result, hex[((unsigned char)c)/0x10]); \                  to_hex(c); \
                 CORD_ec_append(info->result, hex[((unsigned char)c)%0x10]); \  
         } else \          } else \
                 CORD_ec_append(info->result, otherwise);                  CORD_ec_append(info->result, otherwise);
   
   #define to_hex(c) \
           { \
                   CORD_ec_append(info->result, hex_digits[((unsigned char)c) >> 4]); \
                   CORD_ec_append(info->result, hex_digits[((unsigned char)c) & 0x0F]); \
           }
   
 #define to_char(c)  { CORD_ec_append(info->result, c); whitespace=false; }  #define to_char(c)  { CORD_ec_append(info->result, c); whitespace=false; }
 #define to_string(s)  { CORD_ec_append_cord(info->result, s); whitespace=false; }  #define to_string(s)  { CORD_ec_append_cord(info->result, (CORD)(s)); whitespace=false; }
   #define _default CORD_ec_append(info->result, c)
   
 inline bool need_file_encode(unsigned char c){  inline bool need_file_encode(unsigned char c){
         // russian letters and space ENABLED          // russian letters and space ENABLED
         // encoding only these...          // encoding only these...
         return strchr(          return strchr(
                           "*?'\"<>|"                          "*?\"<>|"
 #ifndef WIN32  #ifndef WIN32
                           ":\\"                          ":\\"
 #endif  #endif
                           , c)!=0;                          , c)!=0;
 }  }
 inline bool need_uri_encode(unsigned char c){  
     if((c>='0') &&(c<='9') ||(c>='A') &&(c<='Z') ||(c>='a') &&(c<='z'))   
                 return false;  
   
     return !strchr("_-./", c);  inline bool need_uri_encode(unsigned char c){
           return !(pa_isalnum(c) || strchr("_-./*", c));
 }  }
 inline bool need_http_header_encode(unsigned char c){  
     if(strchr(" , :", c))  
                 return false;  
   
         return need_uri_encode(c);  
 }  
 inline bool need_regex_escape(unsigned char c){  inline bool need_regex_escape(unsigned char c){
         return strchr("\\^$.[]|()?*+{}", c)!=0;          return strchr("\\^$.[]|()?*+{}-", c)!=0;
   }
   
   inline bool need_parser_code_escape(unsigned char c){
           return strchr("^$;@()[]{}:#\"", c)!=0;
 }  }
   
 // String  // String
Line 101  inline bool need_regex_escape(unsigned c Line 103  inline bool need_regex_escape(unsigned c
 /*  /*
 HTTP-header    = field-name ":" [ field-value ] CRLF  HTTP-header    = field-name ":" [ field-value ] CRLF
   
        field-name     = token  field-name     = token
        field-value    = *( field-content | LWS )  field-value    = *( field-content | LWS )
   
        field-content  = <the OCTETs making up the field-value  field-content  = <the OCTETs making up the field-value
                         and consisting of either *TEXT or combinations                          and consisting of either *TEXT or combinations
                         of token, tspecials, and quoted-string>                          of token, tspecials, and quoted-string>
   
   
   
 word           = token | quoted-string  
   
 token          = 1*<any CHAR except CTLs or tspecials>  token          = 1*<any CHAR except CTLs or tspecials>
   word           = token | quoted-string
   quoted-string  = ( <"> *(qdtext | quoted-pair ) <"> )
   qdtext         = <any TEXT except <">>
   quoted-pair    = "\" CHAR
   
   OCTET          = <any 8-bit sequence of data>
   CHAR           = <any US-ASCII character (octets 0 - 127)>
   
 tspecials      = "(" | ")" | "<" | ">" | "@"  tspecials      = "(" | ")" | "<" | ">" | "@"
                       | "," | ";" | ":" | "\" | <">                 | "," | ";" | ":" | "\" | <">
                       | "/" | "[" | "]" | "?" | "="                 | "/" | "[" | "]" | "?" | "="
                       | "{" | "}" | SP | HT                 | "{" | "}" | SP | HT
   
 SP             = <US-ASCII SP, space (32)>  SP             = <US-ASCII SP, space (32)>
 HT             = <US-ASCII HT, horizontal-tab (9)>  HT             = <US-ASCII HT, horizontal-tab (9)>
   
 LWS            = [CRLF] 1*( SP | HT )  LWS            = [CRLF] 1*( SP | HT )
 TEXT           = <any OCTET except CTLs,  TEXT           = <any OCTET except CTLs, but including LWS>
                         but including LWS>  CTL            = <any US-ASCII control character (octets 0 - 31) and DEL (127)>
   
 quoted-pair    = "\" CHAR  
   
   if(strchr("()<>@,;:\\\"/[]?={} \t", *ptr))    if(strchr("()<>@,;:\\\"/[]?={} \t", *ptr))
 */  */
Line 176  int append_fragment_nonoptimizing(char a Line 179  int append_fragment_nonoptimizing(char a
         return 0; // 0=continue          return 0; // 0=continue
 }  }
   
   
   /** 
           appends to other String without language change
   */
   
   String& String::append_to(String& dest) const {
           if(is_empty())
                   return dest;
   
           // first: fragment infos
           dest.langs.appendHelper(dest.body, langs, body);
   
           // next: letters
           dest.body<<body;
   
           ASSERT_STRING_INVARIANT(dest);
           return dest;
   }
   
 /**   /** 
         appends to other String,          appends to other String,
         marking all tainted pieces of it with @a lang.          marking all tainted pieces of it with @a lang.
         or marking ALL pieces of it with a @a lang when @a forced to,          or marking ALL pieces of it with a @a lang when @a forced to,
         and propagating OPTIMIZE language bit.          and propagating OPTIMIZE language bit.
 */  */
 String& String::append_to(String& dest, Language lang, bool forced) const {  String& String::append_to(String& dest, Language ilang, bool forced) const {
         if(is_empty())          if(is_empty())
                 return dest;                  return dest;
   
         // first: fragment infos          // first: fragment infos
                   
         if(lang==L_PASS_APPENDED) // without language-change?          if(forced) //forcing passed lang?
                 dest.langs.append(dest.body, body.length(), langs);                  dest.langs.appendHelper(dest.body, ilang, body);
         else if(forced) //forcing passed lang?          else {
                 dest.langs.append(dest.body, lang, length());                  if(langs.opt.is_not_just_lang){
         else {                           Append_fragment_info info={ilang, &dest.langs, dest.body.length()};
                 Append_fragment_info info={lang, &dest.langs, dest.body.length()};                          langs.for_each(body, ilang&L_OPTIMIZE_BIT?
             langs.for_each(body, lang&L_OPTIMIZE_BIT?                                  append_fragment_optimizing
                         append_fragment_optimizing                                  :append_fragment_nonoptimizing, &info);
                         :append_fragment_nonoptimizing, &info);                  } else {
                           Language lang=langs.opt.lang;
                           // see append_fragment_* for explanation
                           if(ilang&L_OPTIMIZE_BIT){
                                   dest.langs.appendHelper(dest.body,
                                           lang==String::L_TAINTED?
                                                   ilang
                                                   :lang==String::L_CLEAN?
                                                           (String::Language)(String::L_CLEAN|String::L_OPTIMIZE_BIT)
                                                           :lang,
                                           body);
                           } else {
                                   dest.langs.appendHelper(dest.body, lang==String::L_TAINTED ? ilang:lang, body);
                           }
                   }
         }          }
   
         // next: letters          // next: letters
Line 234  RFC Line 270  RFC
                 and without "_", or in would mean 0x20                  and without "_", or in would mean 0x20
 */  */
 inline bool mail_header_char_valid_within_Qencoded(char c) {  inline bool mail_header_char_valid_within_Qencoded(char c) {
         return c>='A' && c<='Z'          return (pa_isalnum((unsigned char)c) || strchr("!*+-/", c));
                 || c>='a' && c<='Z'  
                 || c>='0' && c<='9'  
                 || strchr("!*+-/", c);  
 }  }
 inline bool addr_spec_soon(const char *src) {  inline bool addr_spec_soon(const char *src) {
         for(char c; (c=*src); src++)          for(char c; (c=*src); src++)
Line 298  struct Cstr_to_string_body_block_info { Line 331  struct Cstr_to_string_body_block_info {
         const char* exception;          const char* exception;
 };  };
 #endif  #endif
 int cstr_to_string_body_block(char alang, size_t fragment_length, Cstr_to_string_body_block_info* info) {  
         const String::Language fragment_lang=(String::Language)(unsigned char)alang;  // @todo: replace info->body->mid with something that uses info->pos
   int cstr_to_string_body_block(String::Language to_lang, size_t fragment_length, Cstr_to_string_body_block_info* info) {
         bool& whitespace=info->whitespace;          bool& whitespace=info->whitespace;
         size_t fragment_end=info->fragment_begin+fragment_length;          size_t fragment_end=info->fragment_begin+fragment_length;
         //fprintf(stderr, "%d, %d =%s=\n", fragment_lang, fragment_length, info->body->cstr());          //fprintf(stderr, "%d, %d =%s=\n", to_lang, fragment_length, info->body->cstr());
                   
         String::Language to_lang=info->lang==String::L_UNSPECIFIED?fragment_lang:info->lang;  
         bool optimize=(to_lang & String::L_OPTIMIZE_BIT)!=0;          bool optimize=(to_lang & String::L_OPTIMIZE_BIT)!=0;
         if(!optimize)          if(!optimize)
                 whitespace=false;                  whitespace=false;
Line 325  int cstr_to_string_body_block(char alang Line 358  int cstr_to_string_body_block(char alang
         case String::L_FILE_SPEC:          case String::L_FILE_SPEC:
                 // tainted, untaint language: file [name]                  // tainted, untaint language: file [name]
                 {                  {
                         bool is1251=(info->charsets && info->charsets->source().NAME()=="WINDOWS-1251");  
                         escape_fragment(                          escape_fragment(
                                 // Macintosh has problems with small Russian letter 'r'                                  encode(need_file_encode, '_', c); 
                                 if( is1251 && c=='\xF0' ) {  
                                         // fixing that letter for most common charset  
                                         to_char('p');  
                                 } else // fallback to default  
                                         encode(need_file_encode, '_', c);   
                         );                          );
                 }                  }
                 break;                  break;
Line 343  int cstr_to_string_body_block(char alang Line 370  int cstr_to_string_body_block(char alang
                         // skip source [we use recoded version]                          // skip source [we use recoded version]
                         pa_CORD_pos_advance(info->pos, fragment_length);                          pa_CORD_pos_advance(info->pos, fragment_length);
                         String::C output(fragment_str, fragment_length);                          String::C output(fragment_str, fragment_length);
                         if(info->charsets)                           if(info->charsets)
                                 output=Charset::transcode(output,                                   output=Charset::transcode(output, info->charsets->source(), info->charsets->client());
                                         info->charsets->source(),   
                                         info->charsets->client());  
   
                         char c;                          char c;
                         for(const char* src=output.str; (c=*src++); )                           for(const char* src=output.str; (c=*src++); )
                                 encode(need_uri_encode, '%', c);                                  encode(need_uri_encode, '%', c);
                 }                  }
                 break;                  break;
         case String::L_HTTP_HEADER:          case String::L_HTTP_HEADER:
                 // tainted, untaint language: http-field-content-text                  // tainted, untaint language: http-field-content-text
                 // the same as L_URI BUT not transcoded into $response:charset before encoding                  escape_fragment(switch(c) {
                 escape_fragment(                          case '\n': 
                         encode(need_uri_encode, '%', c);                          case '\r': to_string(" ");  break;
                 );                          default: _default; break;
                   });
                 break;                  break;
         case String::L_MAIL_HEADER:          case String::L_MAIL_HEADER:
                 // tainted, untaint language: mail-header                  // tainted, untaint language: mail-header
Line 377  int cstr_to_string_body_block(char alang Line 403  int cstr_to_string_body_block(char alang
   
                         bool email=false;                          bool email=false;
                         uchar c;                          uchar c;
                         for(const char* src=mail_ptr; (c=(uchar)*src++); ) {                          for(const char* src=mail_ptr; c=(uchar)*src; src++) {
                                 if(c=='\r' || c=='\n')                                  if(c=='\r' || c=='\n')
                                         c=' ';                                          c=' ';
                                 if(to_quoted_printable && (c==',' || c == '"' || addr_spec_soon(src-1/*position to 'c'*/))) {                                  if(to_quoted_printable && (c==',' || c == '"' || addr_spec_soon(src))) {
                                         email=c=='<';                                          email=c=='<';
                                         to_string("?=");                                          to_string("?=");
                                         to_quoted_printable=false;                                          to_quoted_printable=false;
                                 }                                  }
                                 //RFC   + An 'encoded-word' MUST NOT appear in any portion of an 'addr-spec'.                                  //RFC   + An 'encoded-word' MUST NOT appear in any portion of an 'addr-spec'.
                                 if(!email && (                                  if(!email && (
                                         !to_quoted_printable && (c & 0x80)  // starting quote-printable-encoding on first 8bit char                                          ( !to_quoted_printable && (c & 0x80 || (c == ' ' && src == mail_ptr) ) )  // starting quote-printable-encoding on first 8bit char or leading space (issue #123)
                                         || to_quoted_printable && !mail_header_char_valid_within_Qencoded(c)                                          || ( to_quoted_printable && !mail_header_char_valid_within_Qencoded(c) )
                                         )) {                                          )) {
                                         if(!to_quoted_printable) {                                          if(!to_quoted_printable) {
                                                 to_string("=?");                                                  to_string("=?");
Line 429  int cstr_to_string_body_block(char alang Line 455  int cstr_to_string_body_block(char alang
                         case '\'': to_string("\\'");  break;                          case '\'': to_string("\\'");  break;
                         case '\\': to_string("\\\\");  break;                          case '\\': to_string("\\\\");  break;
                         case '\xFF': to_string("\\\xFF");  break;                          case '\xFF': to_string("\\\xFF");  break;
                           case '\r': to_string("\\r");  break;
                         default: _default; break;                          default: _default; break;
                 });                  });
                 break;                  break;
Line 482  int cstr_to_string_body_block(char alang Line 509  int cstr_to_string_body_block(char alang
                         _default;                          _default;
                 );                  );
                 break;                  break;
           case String::L_JSON:
                   // tainted, untaint language: json <http://json.org/>
                   // escape '"' '\' '/' '\n' '\t' '\r' '\b' '\f' chars and escape chars as \uXXXX if output charset != UTF-8
                   {
                           if(info->charsets==NULL || info->charsets->client().isUTF8()){
                                   // escaping to \uXXXX is not needed
                                   escape_fragment(switch((unsigned char)c) {
                                           case '\n': to_string("\\n");  break;
                                           case '"' : to_string("\\\""); break;
                                           case '\\': to_string("\\\\"); break;
                                           case '/' : to_string("\\/");  break;
                                           case '\t': to_string("\\t");  break;
                                           case '\r': to_string("\\r");  break;
                                           case '\b': to_string("\\b");  break;
                                           case '\f': to_string("\\f");  break;
                                           case 0xE2: // \u2028 and \u2029 (line/paragraph separators), check bug #1023
                                                   if(info->charsets && info->charsets->source().isUTF8() && fragment_length>=2){
                                                           CORD_next(info->pos);
                                                           char c1=CORD_pos_fetch(info->pos);
                                                           CORD_next(info->pos);
                                                           char c2=CORD_pos_fetch(info->pos);
                                                           if((unsigned char)c1 == 0x80 && ((unsigned char)c2 >= 0xA8 && (unsigned char)c2 <= 0xAF)){
                                                                   to_string("\\u20");
                                                                   to_hex(((unsigned char)c2-0x80));
                                                           } else {
                                                                   CORD_ec_append(info->result, c);
                                                                   CORD_ec_append(info->result, c1);
                                                                   CORD_ec_append(info->result, c2);
                                                           }
                                                           fragment_length-=2;
                                                   } else {
                                                           _default;
                                                   }
                                                   break;
                                           default: 
                                                   if((unsigned char)c < 0x20){
                                                           to_string("\\u00");
                                                           to_hex(c);
                                                   } else {
                                                           _default;
                                                   }
                                                   break;
                                   });
                           } else {
                                   const char *fragment_str=info->body->mid(info->fragment_begin, fragment_length).cstr();
                                   // skip source [we use recoded version]
                                   pa_CORD_pos_advance(info->pos, fragment_length);
                                   to_string(Charset::escape_JSON(String::C(fragment_str, fragment_length), info->charsets->source()).str);
                           }
                   }
                   break;
         case String::L_HTTP_COOKIE:          case String::L_HTTP_COOKIE:
                 // tainted, untaint language: cookie (3.3.0 and higher: %uXXXX in UTF-8)                  // tainted, untaint language: cookie (3.3.0 and higher: %uXXXX in UTF-8)
                 {                  if(info->charsets) {
                         const char *fragment_str=info->body->mid(info->fragment_begin, fragment_length).cstr();                          const char *fragment_str=info->body->mid(info->fragment_begin, fragment_length).cstr();
                         // skip source [we use recoded version]                          // skip source [we use recoded version]
                         pa_CORD_pos_advance(info->pos, fragment_length);                          pa_CORD_pos_advance(info->pos, fragment_length);
                         String::C output(fragment_str, fragment_length);                          to_string(Charset::escape(String::C(fragment_str, fragment_length), info->charsets->source()).str);
                                           } else
                         output=Charset::escape(output, info->charsets->source());                          ec_append(info->result, optimize, whitespace, info->pos, fragment_length);
                         //throw Exception(0, 0, output);                  break;
                         to_string(output);          case String::L_PARSER_CODE:
                   // for auto-untaint in process
                 }                  escape_fragment(
                           if(need_parser_code_escape(c))
                                   to_char('^');
                           _default;
                   );
                 break;                  break;
         default:          default:
                 SAPI::abort("unknown untaint language #%d",                   SAPI::die("unknown untaint language #%d", static_cast<int>(to_lang)); // should never
                         static_cast<int>(to_lang)); // should never  
                 break; // never                  break; // never
         }          }
   
Line 508  int cstr_to_string_body_block(char alang Line 589  int cstr_to_string_body_block(char alang
 }  }
   
   
 String::Body String::cstr_to_string_body(Language lang,   String::Body String::cstr_to_string_body_taint(Language lang, SQL_Connection* connection, const Request_charsets *charsets) const {
                   SQL_Connection* connection,  
                   const Request_charsets *charsets) const {  
         if(is_empty())          if(is_empty())
                 return String::Body();                  return String::Body();
   
Line 528  String::Body String::cstr_to_string_body Line 607  String::Body String::cstr_to_string_body
         info.exception=0;          info.exception=0;
         info.whitespace=true;          info.whitespace=true;
   
         langs.for_each(body, cstr_to_string_body_block, &info);          cstr_to_string_body_block(lang, length(), &info);
         if(info.exception){  
           if(info.exception)
                 throw Exception(0,                  throw Exception(0,
                         0,                          0,
                         info.exception);                          info.exception);
         }  
   
         return String::Body(CORD_ec_to_cord(info.result));          return String::Body(CORD_ec_to_cord(info.result));
 }  }
   
   int cstr_to_string_body_block_untaint(char alang, size_t fragment_length, Cstr_to_string_body_block_info* info){
           const String::Language lang=(String::Language)(unsigned char)alang;
           // see append_fragment_* for explanation
           if(info->lang&String::L_OPTIMIZE_BIT)
                   return cstr_to_string_body_block(
                           lang==String::L_TAINTED?
                                   info->lang
                                   :lang==String::L_CLEAN?
                                           (String::Language)(String::L_CLEAN|String::L_OPTIMIZE_BIT)
                                           :lang,
                           fragment_length, info);
           else
                   return cstr_to_string_body_block(lang==String::L_TAINTED ? info->lang:lang, fragment_length, info);
   }
   
   String::Body String::cstr_to_string_body_untaint(Language lang, SQL_Connection* connection, const Request_charsets *charsets) const {
           if(is_empty())
                   return String::Body();
   
           Cstr_to_string_body_block_info info;
           // input
           info.lang=lang;
           info.connection=connection;
           info.charsets=charsets;
           info.body=&body;
           // output
           CORD_ec_init(info.result);
           // private
           body.set_pos(info.pos, 0);
           info.fragment_begin=0;
           info.exception=0;
           info.whitespace=true;
   
           langs.for_each(body, cstr_to_string_body_block_untaint, &info);
   
           if(info.exception)
                   throw Exception(0,
                           0,
                           info.exception);
   
           return String::Body(CORD_ec_to_cord(info.result));
   }
   
   const char* String::untaint_and_transcode_cstr(Language lang, const Request_charsets *charsets) const {
           if(charsets && &charsets->source() != &charsets->client()){
                   // Note: L_URI is allready transcoded during untaint, but transcode does not affect %XX
                   return Charset::transcode(cstr_to_string_body_untaint(lang, 0, charsets), charsets->source(), charsets->client()).cstr();
           } else
                   return cstr_to_string_body_untaint(lang, 0, charsets).cstr();
   }

Removed from v.1.141  
changed lines
  Added in v.1.176


E-mail: