[BACK]Return to untaint.C CVS log [TXT] [DIR] Up to [parser3project] / parser3 / src / main

Diff for /parser3/src/main/untaint.C between versions 1.133 and 1.170

version 1.133, 2004/07/01 07:20:10 version 1.170, 2015/10/26 01:21:59
Line 1 Line 1
 /** @file  /** @file
         Parser: String class part: untaint mechanizm.          Parser: String class part: untaint mechanizm.
   
         Copyright(c) 2001-2004 ArtLebedev Group (http://www.artlebedev.com)          Copyright (c) 2001-2015 Art. Lebedev Studio (http://www.artlebedev.com)
         Author: Alexandr Petrosian <paf@design.ru> (http://paf.design.ru)          Author: Alexandr Petrosian <paf@design.ru> (http://paf.design.ru)
 */  */
   
 static const char * const IDENT_UNTAINT_C="$Date$";  volatile const char * IDENT_UNTAINT_C="$Id$";
   
   
 #include "pa_string.h"  #include "pa_string.h"
Line 52  extern "C" { // author forgot to do that Line 52  extern "C" { // author forgot to do that
         } \          } \
     }      }
   
   #define escape_fragment(action) \
 #define escape(action) \  
         for(; fragment_length--; CORD_next(info->pos)) { \          for(; fragment_length--; CORD_next(info->pos)) { \
                 char c=CORD_pos_fetch(info->pos); \                  char c=CORD_pos_fetch(info->pos); \
                 action \                  action \
         }          }
 #define _default CORD_ec_append(info->result, c)  
 #define encode(need_encode_func, prefix, otherwise)  \  #define encode(need_encode_func, prefix, otherwise)  \
         if(need_encode_func(c)) { \          if(need_encode_func(c)) { \
                 static const char* hex="0123456789ABCDEF"; \  
                 CORD_ec_append(info->result, prefix); \                  CORD_ec_append(info->result, prefix); \
                 CORD_ec_append(info->result, hex[((unsigned char)c)/0x10]); \                  to_hex(c); \
                 CORD_ec_append(info->result, hex[((unsigned char)c)%0x10]); \  
         } else \          } else \
                 CORD_ec_append(info->result, otherwise);                  CORD_ec_append(info->result, otherwise);
   
   #define to_hex(c) \
           { \
                   CORD_ec_append(info->result, hex_digits[((unsigned char)c) >> 4]); \
                   CORD_ec_append(info->result, hex_digits[((unsigned char)c) & 0x0F]); \
           }
   
 #define to_char(c)  { CORD_ec_append(info->result, c); whitespace=false; }  #define to_char(c)  { CORD_ec_append(info->result, c); whitespace=false; }
 #define to_string(s)  { CORD_ec_append_cord(info->result, s); whitespace=false; }  #define to_string(s)  { CORD_ec_append_cord(info->result, (CORD)(s)); whitespace=false; }
   #define _default CORD_ec_append(info->result, c)
   
 inline bool need_file_encode(unsigned char c){  inline bool need_file_encode(unsigned char c){
         // russian letters and space ENABLED          // russian letters and space ENABLED
         // encoding only these...          // encoding only these...
         return strchr(          return strchr(
                           "*?'\"<>|"                          "*?\"<>|"
 #ifndef WIN32  #ifndef WIN32
                           ":\\"                          ":\\"
 #endif  #endif
                           , c)!=0;                          , c)!=0;
 }  }
   
 inline bool need_uri_encode(unsigned char c){  inline bool need_uri_encode(unsigned char c){
     if((c>='0') &&(c<='9') ||(c>='A') &&(c<='Z') ||(c>='a') &&(c<='z'))           return !(pa_isalnum(c) || strchr("_-./*", c));
                 return false;  }
   
     return !strchr("_-./", c);  inline bool need_regex_escape(unsigned char c){
           return strchr("\\^$.[]|()?*+{}-", c)!=0;
 }  }
 inline bool need_http_header_encode(unsigned char c){  
     if(strchr(" , :", c))  
                 return false;  
   
         return need_uri_encode(c);  inline bool need_parser_code_escape(unsigned char c){
           return strchr("^$;@()[]{}:#\"", c)!=0;
 }  }
   
 // String  // String
Line 98  inline bool need_http_header_encode(unsi Line 103  inline bool need_http_header_encode(unsi
 /*  /*
 HTTP-header    = field-name ":" [ field-value ] CRLF  HTTP-header    = field-name ":" [ field-value ] CRLF
   
        field-name     = token  field-name     = token
        field-value    = *( field-content | LWS )  field-value    = *( field-content | LWS )
   
        field-content  = <the OCTETs making up the field-value  field-content  = <the OCTETs making up the field-value
                         and consisting of either *TEXT or combinations                          and consisting of either *TEXT or combinations
                         of token, tspecials, and quoted-string>                          of token, tspecials, and quoted-string>
   
   
   
 word           = token | quoted-string  
   
 token          = 1*<any CHAR except CTLs or tspecials>  token          = 1*<any CHAR except CTLs or tspecials>
   word           = token | quoted-string
   quoted-string  = ( <"> *(qdtext | quoted-pair ) <"> )
   qdtext         = <any TEXT except <">>
   quoted-pair    = "\" CHAR
   
   OCTET          = <any 8-bit sequence of data>
   CHAR           = <any US-ASCII character (octets 0 - 127)>
   
 tspecials      = "(" | ")" | "<" | ">" | "@"  tspecials      = "(" | ")" | "<" | ">" | "@"
                       | "," | ";" | ":" | "\" | <">                 | "," | ";" | ":" | "\" | <">
                       | "/" | "[" | "]" | "?" | "="                 | "/" | "[" | "]" | "?" | "="
                       | "{" | "}" | SP | HT                 | "{" | "}" | SP | HT
   
 SP             = <US-ASCII SP, space (32)>  SP             = <US-ASCII SP, space (32)>
 HT             = <US-ASCII HT, horizontal-tab (9)>  HT             = <US-ASCII HT, horizontal-tab (9)>
   
 LWS            = [CRLF] 1*( SP | HT )  LWS            = [CRLF] 1*( SP | HT )
 TEXT           = <any OCTET except CTLs,  TEXT           = <any OCTET except CTLs, but including LWS>
                         but including LWS>  CTL            = <any US-ASCII control character (octets 0 - 31) and DEL (127)>
   
 quoted-pair    = "\" CHAR  
   
   if(strchr("()<>@,;:\\\"/[]?={} \t", *ptr))    if(strchr("()<>@,;:\\\"/[]?={} \t", *ptr))
 */  */
Line 179  int append_fragment_nonoptimizing(char a Line 185  int append_fragment_nonoptimizing(char a
         or marking ALL pieces of it with a @a lang when @a forced to,          or marking ALL pieces of it with a @a lang when @a forced to,
         and propagating OPTIMIZE language bit.          and propagating OPTIMIZE language bit.
 */  */
 String& String::append_to(String& dest, Language lang, bool forced) const {  String& String::append_to(String& dest, Language ilang, bool forced) const {
         if(is_empty())          if(is_empty())
                 return dest;                  return dest;
   
         // first: fragment infos          // first: fragment infos
                   
         if(lang==L_PASS_APPENDED) // without language-change?          if(ilang==L_PASS_APPENDED) // without language-change?
                 dest.langs.append(dest.body, body.length(), langs);                  dest.langs.appendHelper(dest.body, langs, body);
         else if(forced) //forcing passed lang?          else if(forced) //forcing passed lang?
                 dest.langs.append(dest.body, lang, length());                  dest.langs.appendHelper(dest.body, ilang, body);
         else {           else {
                 Append_fragment_info info={lang, &dest.langs, dest.body.length()};                  if(langs.opt.is_not_just_lang){
             langs.for_each(body, lang&L_OPTIMIZE_BIT?                          Append_fragment_info info={ilang, &dest.langs, dest.body.length()};
                         append_fragment_optimizing                          langs.for_each(body, ilang&L_OPTIMIZE_BIT?
                         :append_fragment_nonoptimizing, &info);                                  append_fragment_optimizing
                                   :append_fragment_nonoptimizing, &info);
                   } else {
                           Language lang=langs.opt.lang;
                           // see append_fragment_* for explanation
                           if(ilang&L_OPTIMIZE_BIT){
                                   dest.langs.appendHelper(dest.body,
                                           lang==String::L_TAINTED?
                                                   ilang
                                                   :lang==String::L_CLEAN?
                                                           (String::Language)(String::L_CLEAN|String::L_OPTIMIZE_BIT)
                                                           :lang,
                                           body);
                           } else {
                                   dest.langs.appendHelper(dest.body, lang==String::L_TAINTED ? ilang:lang, body);
                           }
                   }
         }          }
   
         // next: letters          // next: letters
Line 231  RFC Line 253  RFC
                 and without "_", or in would mean 0x20                  and without "_", or in would mean 0x20
 */  */
 inline bool mail_header_char_valid_within_Qencoded(char c) {  inline bool mail_header_char_valid_within_Qencoded(char c) {
         return c>='A' && c<='Z'          return (pa_isalnum((unsigned char)c) || strchr("!*+-/", c));
                 || c>='a' && c<='Z'  
                 || c>='0' && c<='9'  
                 || strchr("!*+-/", c);  
 }  }
 inline bool addr_spec_soon(const char *src) {  inline bool addr_spec_soon(const char *src) {
         for(char c; (c=*src); src++)          for(char c; (c=*src); src++)
Line 292  struct Cstr_to_string_body_block_info { Line 311  struct Cstr_to_string_body_block_info {
         CORD_pos pos;          CORD_pos pos;
         size_t fragment_begin;          size_t fragment_begin;
         bool whitespace;          bool whitespace;
           const char* exception;
 };  };
 #endif  #endif
 int cstr_to_string_body_block(char alang, size_t fragment_length, Cstr_to_string_body_block_info* info) {  
         const String::Language fragment_lang=(String::Language)(unsigned char)alang;  // @todo: replace info->body->mid with something that uses info->pos
   int cstr_to_string_body_block(String::Language to_lang, size_t fragment_length, Cstr_to_string_body_block_info* info) {
         bool& whitespace=info->whitespace;          bool& whitespace=info->whitespace;
         size_t fragment_end=info->fragment_begin+fragment_length;          size_t fragment_end=info->fragment_begin+fragment_length;
         //fprintf(stderr, "%d, %d\n", fragment.lang, fragment.length);          //fprintf(stderr, "%d, %d =%s=\n", to_lang, fragment_length, info->body->cstr());
   
                   
         String::Language to_lang=info->lang==String::L_UNSPECIFIED?fragment_lang:info->lang;  
         bool optimize=(to_lang & String::L_OPTIMIZE_BIT)!=0;          bool optimize=(to_lang & String::L_OPTIMIZE_BIT)!=0;
         if(!optimize)          if(!optimize)
                 whitespace=false;                  whitespace=false;
Line 321  int cstr_to_string_body_block(char alang Line 340  int cstr_to_string_body_block(char alang
                 break;                  break;
         case String::L_FILE_SPEC:          case String::L_FILE_SPEC:
                 // tainted, untaint language: file [name]                  // tainted, untaint language: file [name]
                 escape(                  {
                         // Macintosh has problems with small Russian letter 'r'                          escape_fragment(
                         if( c=='\xF0' && info->charsets && info->charsets->source().NAME()=="WINDOWS-1251" ) {  
                                 // fixing that letter for most common charset  
                                 to_char('p');  
                         } else // fallback to default  
                                 encode(need_file_encode, '_', c);                                   encode(need_file_encode, '_', c); 
                 );                          );
                   }
                 break;                  break;
         case String::L_URI:          case String::L_URI:
                 // tainted, untaint language: uri                  // tainted, untaint language: uri
Line 337  int cstr_to_string_body_block(char alang Line 353  int cstr_to_string_body_block(char alang
                         // skip source [we use recoded version]                          // skip source [we use recoded version]
                         pa_CORD_pos_advance(info->pos, fragment_length);                          pa_CORD_pos_advance(info->pos, fragment_length);
                         String::C output(fragment_str, fragment_length);                          String::C output(fragment_str, fragment_length);
                         if(info->charsets)                           if(info->charsets)
                                 output=Charset::transcode(output,                                   output=Charset::transcode(output, info->charsets->source(), info->charsets->client());
                                         info->charsets->source(),   
                                         info->charsets->client());  
   
                         char c;                          char c;
                         for(const char* src=output.str; (c=*src++); )                           for(const char* src=output.str; (c=*src++); )
                                 encode(need_uri_encode, '%', c);                                  encode(need_uri_encode, '%', c);
                 }                  }
                 break;                  break;
         case String::L_HTTP_HEADER:          case String::L_HTTP_HEADER:
                 // tainted, untaint language: http-field-content-text                  // tainted, untaint language: http-field-content-text
                 escape(                  escape_fragment(switch(c) {
                         encode(need_uri_encode, '%', c);                          case '\n': 
                 );                          case '\r': to_string(" ");  break;
                           default: _default; break;
                   });
                 break;                  break;
         case String::L_MAIL_HEADER:          case String::L_MAIL_HEADER:
                 // tainted, untaint language: mail-header                  // tainted, untaint language: mail-header
Line 371  int cstr_to_string_body_block(char alang Line 387  int cstr_to_string_body_block(char alang
                         bool email=false;                          bool email=false;
                         uchar c;                          uchar c;
                         for(const char* src=mail_ptr; (c=(uchar)*src++); ) {                          for(const char* src=mail_ptr; (c=(uchar)*src++); ) {
                                   if(c=='\r' || c=='\n')
                                           c=' ';
                                 if(to_quoted_printable && (c==',' || c == '"' || addr_spec_soon(src-1/*position to 'c'*/))) {                                  if(to_quoted_printable && (c==',' || c == '"' || addr_spec_soon(src-1/*position to 'c'*/))) {
                                         email=c=='<';                                          email=c=='<';
                                         to_string("?=");                                          to_string("?=");
Line 378  int cstr_to_string_body_block(char alang Line 396  int cstr_to_string_body_block(char alang
                                 }                                  }
                                 //RFC   + An 'encoded-word' MUST NOT appear in any portion of an 'addr-spec'.                                  //RFC   + An 'encoded-word' MUST NOT appear in any portion of an 'addr-spec'.
                                 if(!email && (                                  if(!email && (
                                         !to_quoted_printable && (c & 0x80)  // starting quote-printable-encoding on first 8bit char                                          ( !to_quoted_printable && (c & 0x80) )  // starting quote-printable-encoding on first 8bit char
                                         || to_quoted_printable && !mail_header_char_valid_within_Qencoded(c)                                          || ( to_quoted_printable && !mail_header_char_valid_within_Qencoded(c) )
                                         )) {                                          )) {
                                         if(!to_quoted_printable) {                                          if(!to_quoted_printable) {
                                                 to_string("=?");                                                  to_string("=?");
Line 407  int cstr_to_string_body_block(char alang Line 425  int cstr_to_string_body_block(char alang
                         pa_CORD_pos_advance(info->pos, fragment_length);                          pa_CORD_pos_advance(info->pos, fragment_length);
   
                         to_string(info->connection->quote(fragment_str, fragment_length));                          to_string(info->connection->quote(fragment_str, fragment_length));
                 } else                  } else {
                         throw Exception(0,                          info->exception="untaint in SQL language failed - no connection specified";
                                 0,                          info->fragment_begin=fragment_end;
                                 "untaint in SQL language failed - no connection specified");                          return 1; // stop processing. can't throw exception here
                   }
                 break;                  break;
         case String::L_JS:          case String::L_JS:
                 escape(switch(c) {                  escape_fragment(switch(c) {
                           case '\n': to_string("\\n");  break;
                         case '"': to_string("\\\"");  break;                          case '"': to_string("\\\"");  break;
                         case '\'': to_string("\\'");  break;                          case '\'': to_string("\\'");  break;
                         case '\n': to_string("\\n");  break;  
                         case '\\': to_string("\\\\");  break;                          case '\\': to_string("\\\\");  break;
                         case '\xFF': to_string("\\\xFF");  break;                          case '\xFF': to_string("\\\xFF");  break;
                           case '\r': to_string("\\r");  break;
                         default: _default; break;                          default: _default; break;
                 });                  });
                 break;                  break;
         case String::L_XML:          case String::L_XML:
                 // [2]    Char    ::=    #x9 | #xA | #xD | [#x20-#xD7FF] | [#xE000-#xFFFD] | [#x10000-#x10FFFF]                   // [2]    Char    ::=    #x9 | #xA | #xD | [#x20-#xD7FF] | [#xE000-#xFFFD] | [#x10000-#x10FFFF] 
                 escape(switch(c) {                  escape_fragment(switch(c) {
                         case '\x9':                           case '\x20':
                         case '\xA':                           case '\x9':
                           case '\xA':
                         case '\xD': // this is usually removed on input                          case '\xD': // this is usually removed on input
                                 _default;                                   _default; 
                                 break;                                  break;
Line 455  int cstr_to_string_body_block(char alang Line 476  int cstr_to_string_body_block(char alang
                 });                  });
                 break;                  break;
         case String::L_HTML:          case String::L_HTML:
                 escape(switch(c) {                  escape_fragment(switch(c) {
                         case '&': to_string("&amp;");  break;                          case '&': to_string("&amp;");  break;
                         case '>': to_string("&gt;");  break;                          case '>': to_string("&gt;");  break;
                         case '<': to_string("&lt;");  break;                          case '<': to_string("&lt;");  break;
Line 463  int cstr_to_string_body_block(char alang Line 484  int cstr_to_string_body_block(char alang
                         default: _default; break;                          default: _default; break;
                 });                  });
                 break;                  break;
           case String::L_REGEX:
                   // tainted, untaint language: regex
                   escape_fragment(
                           if(need_regex_escape(c))
                                   to_char('\\')
                           _default;
                   );
                   break;
           case String::L_JSON:
                   // tainted, untaint language: json <http://json.org/>
                   // escape '"' '\' '/' '\n' '\t' '\r' '\b' '\f' chars and escape chars as \uXXXX if output charset != UTF-8
                   {
                           if(info->charsets==NULL || info->charsets->client().isUTF8()){
                                   // escaping to \uXXXX is not needed
                                   escape_fragment(switch((unsigned char)c) {
                                           case '\n': to_string("\\n");  break;
                                           case '"' : to_string("\\\""); break;
                                           case '\\': to_string("\\\\"); break;
                                           case '/' : to_string("\\/");  break;
                                           case '\t': to_string("\\t");  break;
                                           case '\r': to_string("\\r");  break;
                                           case '\b': to_string("\\b");  break;
                                           case '\f': to_string("\\f");  break;
                                           case 0xE2: // \u2028 and \u2029 (line/paragraph separators), check bug #1023
                                                   if(info->charsets && info->charsets->source().isUTF8() && fragment_length>=2){
                                                           CORD_next(info->pos);
                                                           char c1=CORD_pos_fetch(info->pos);
                                                           CORD_next(info->pos);
                                                           char c2=CORD_pos_fetch(info->pos);
                                                           if((unsigned char)c1 == 0x80 && ((unsigned char)c2 >= 0xA8 && (unsigned char)c2 <= 0xAF)){
                                                                   to_string("\\u20");
                                                                   to_hex(((unsigned char)c2-0x80));
                                                           } else {
                                                                   CORD_ec_append(info->result, c);
                                                                   CORD_ec_append(info->result, c1);
                                                                   CORD_ec_append(info->result, c2);
                                                           }
                                                           fragment_length-=2;
                                                   } else {
                                                           _default;
                                                   }
                                                   break;
                                           default: 
                                                   if((unsigned char)c < 0x20){
                                                           to_string("\\u00");
                                                           to_hex(c);
                                                   } else {
                                                           _default;
                                                   }
                                                   break;
                                   });
                           } else {
                                   const char *fragment_str=info->body->mid(info->fragment_begin, fragment_length).cstr();
                                   // skip source [we use recoded version]
                                   pa_CORD_pos_advance(info->pos, fragment_length);
                                   to_string(Charset::escape_JSON(String::C(fragment_str, fragment_length), info->charsets->source()).str);
                           }
                   }
                   break;
           case String::L_HTTP_COOKIE:
                   // tainted, untaint language: cookie (3.3.0 and higher: %uXXXX in UTF-8)
                   if(info->charsets) {
                           const char *fragment_str=info->body->mid(info->fragment_begin, fragment_length).cstr();
                           // skip source [we use recoded version]
                           pa_CORD_pos_advance(info->pos, fragment_length);
                           to_string(Charset::escape(String::C(fragment_str, fragment_length), info->charsets->source()).str);
                   } else
                           ec_append(info->result, optimize, whitespace, info->pos, fragment_length);
                   break;
           case String::L_PARSER_CODE:
                   // for auto-untaint in process
                   escape_fragment(
                           if(need_parser_code_escape(c))
                                   to_char('^');
                           _default;
                   );
                   break;
         default:          default:
                 SAPI::abort("unknown untaint language #%d",                   SAPI::abort("unknown untaint language #%d", 
                         static_cast<int>(to_lang)); // should never                          static_cast<int>(to_lang)); // should never
Line 475  int cstr_to_string_body_block(char alang Line 573  int cstr_to_string_body_block(char alang
 }  }
   
   
 String::Body String::cstr_to_string_body(Language lang,   String::Body String::cstr_to_string_body_taint(Language lang, SQL_Connection* connection, const Request_charsets *charsets) const {
                   SQL_Connection* connection,          if(is_empty())
                   const Request_charsets *charsets) const {                  return String::Body();
   
           Cstr_to_string_body_block_info info;
           // input
           info.lang=lang;
           info.connection=connection;
           info.charsets=charsets;
           info.body=&body;
           // output
           CORD_ec_init(info.result);
           // private
           body.set_pos(info.pos, 0);
           info.fragment_begin=0;
           info.exception=0;
           info.whitespace=true;
   
           cstr_to_string_body_block(lang, length(), &info);
   
           if(info.exception)
                   throw Exception(0,
                           0,
                           info.exception);
   
           return String::Body(CORD_ec_to_cord(info.result));
   }
   
   int cstr_to_string_body_block_untaint(char alang, size_t fragment_length, Cstr_to_string_body_block_info* info){
           const String::Language lang=(String::Language)(unsigned char)alang;
           // see append_fragment_* for explanation
           if(info->lang&String::L_OPTIMIZE_BIT)
                   return cstr_to_string_body_block(
                           lang==String::L_TAINTED?
                                   info->lang
                                   :lang==String::L_CLEAN?
                                           (String::Language)(String::L_CLEAN|String::L_OPTIMIZE_BIT)
                                           :lang,
                           fragment_length, info);
           else
                   return cstr_to_string_body_block(lang==String::L_TAINTED ? info->lang:lang, fragment_length, info);
   }
   
   String::Body String::cstr_to_string_body_untaint(Language lang, SQL_Connection* connection, const Request_charsets *charsets) const {
           if(is_empty())
                   return String::Body();
   
         Cstr_to_string_body_block_info info;          Cstr_to_string_body_block_info info;
         // input          // input
Line 490  String::Body String::cstr_to_string_body Line 631  String::Body String::cstr_to_string_body
         // private          // private
         body.set_pos(info.pos, 0);          body.set_pos(info.pos, 0);
         info.fragment_begin=0;          info.fragment_begin=0;
           info.exception=0;
         info.whitespace=true;          info.whitespace=true;
   
         if(!is_empty())          langs.for_each(body, cstr_to_string_body_block_untaint, &info);
                 langs.for_each(body, cstr_to_string_body_block, &info);  
           if(info.exception)
                   throw Exception(0,
                           0,
                           info.exception);
   
         return String::Body(CORD_ec_to_cord(info.result));          return String::Body(CORD_ec_to_cord(info.result));
 }  }
   
   const char* String::untaint_and_transcode_cstr(Language lang, const Request_charsets *charsets) const {
           if(charsets && &charsets->source() != &charsets->client()){
                   // Note: L_URI is allready transcoded during untaint, but transcode does not affect %XX
                   return Charset::transcode(cstr_to_string_body_untaint(lang, 0, charsets), charsets->source(), charsets->client()).cstr();
           } else
                   return cstr_to_string_body_untaint(lang, 0, charsets).cstr();
   }
Removed from v.1.133  
changed lines
  Added in v.1.170

E-mail: