Diff for /parser3/src/main/untaint.C between versions 1.134.6.2.2.1 and 1.160

version 1.134.6.2.2.1, 2006/03/01 18:44:55 version 1.160, 2010/11/15 23:47:56
Line 1 Line 1
 /** @file  /** @file
         Parser: String class part: untaint mechanizm.          Parser: String class part: untaint mechanizm.
   
         Copyright(c) 2001-2006 ArtLebedev Group (http://www.artlebedev.com)          Copyright(c) 2001-2005 ArtLebedev Group (http://www.artlebedev.com)
         Author: Alexandr Petrosian <paf@design.ru> (http://paf.design.ru)          Author: Alexandr Petrosian <paf@design.ru> (http://paf.design.ru)
 */  */
   
Line 53  extern "C" { // author forgot to do that Line 53  extern "C" { // author forgot to do that
     }      }
   
   
 #define escape(action) \  #define escape_fragment(action) \
         for(; fragment_length--; CORD_next(info->pos)) { \          for(; fragment_length--; CORD_next(info->pos)) { \
                 char c=CORD_pos_fetch(info->pos); \                  char c=CORD_pos_fetch(info->pos); \
                 action \                  action \
Line 74  inline bool need_file_encode(unsigned ch Line 74  inline bool need_file_encode(unsigned ch
         // russian letters and space ENABLED          // russian letters and space ENABLED
         // encoding only these...          // encoding only these...
         return strchr(          return strchr(
                           "*?'\"<>|"                          "*?'\"<>|"
 #ifndef WIN32  #ifndef WIN32
                           ":\\"                          ":\\"
 #endif  #endif
                           , c)!=0;                          , c)!=0;
 }  }
   
 inline bool need_uri_encode(unsigned char c){  inline bool need_uri_encode(unsigned char c){
     if((c>='0') &&(c<='9') ||(c>='A') &&(c<='Z') ||(c>='a') &&(c<='z'))           if((c>='0') && (c<='9') || (c>='A') && (c<='Z') || (c>='a') && (c<='z'))
                 return false;                  return false;
   
     return !strchr("_-./", c);          return !strchr("_-./*", c);
 }  }
 inline bool need_http_header_encode(unsigned char c){  
     if(strchr(" , :", c))  
                 return false;  
   
         return need_uri_encode(c);  
 }  
 inline bool need_regex_escape(unsigned char c){  inline bool need_regex_escape(unsigned char c){
         return strchr("\\^$.[]|()?*+{}", c)!=0;          return strchr("\\^$.[]|()?*+{}-", c)!=0;
   }
   
   inline bool need_parser_code_escape(unsigned char c){
           return strchr("^$;@()[]{}:#\"", c)!=0;
 }  }
   
 // String  // String
Line 101  inline bool need_regex_escape(unsigned c Line 101  inline bool need_regex_escape(unsigned c
 /*  /*
 HTTP-header    = field-name ":" [ field-value ] CRLF  HTTP-header    = field-name ":" [ field-value ] CRLF
   
        field-name     = token  field-name     = token
        field-value    = *( field-content | LWS )  field-value    = *( field-content | LWS )
   
        field-content  = <the OCTETs making up the field-value  field-content  = <the OCTETs making up the field-value
                         and consisting of either *TEXT or combinations                          and consisting of either *TEXT or combinations
                         of token, tspecials, and quoted-string>                          of token, tspecials, and quoted-string>
   
   
   
 word           = token | quoted-string  
   
 token          = 1*<any CHAR except CTLs or tspecials>  token          = 1*<any CHAR except CTLs or tspecials>
   word           = token | quoted-string
   quoted-string  = ( <"> *(qdtext | quoted-pair ) <"> )
   qdtext         = <any TEXT except <">>
   quoted-pair    = "\" CHAR
   
   OCTET          = <any 8-bit sequence of data>
   CHAR           = <any US-ASCII character (octets 0 - 127)>
   
 tspecials      = "(" | ")" | "<" | ">" | "@"  tspecials      = "(" | ")" | "<" | ">" | "@"
                       | "," | ";" | ":" | "\" | <">                 | "," | ";" | ":" | "\" | <">
                       | "/" | "[" | "]" | "?" | "="                 | "/" | "[" | "]" | "?" | "="
                       | "{" | "}" | SP | HT                 | "{" | "}" | SP | HT
   
 SP             = <US-ASCII SP, space (32)>  SP             = <US-ASCII SP, space (32)>
 HT             = <US-ASCII HT, horizontal-tab (9)>  HT             = <US-ASCII HT, horizontal-tab (9)>
   
 LWS            = [CRLF] 1*( SP | HT )  LWS            = [CRLF] 1*( SP | HT )
 TEXT           = <any OCTET except CTLs,  TEXT           = <any OCTET except CTLs, but including LWS>
                         but including LWS>  CTL            = <any US-ASCII control character (octets 0 - 31) and DEL (127)>
   
 quoted-pair    = "\" CHAR  
   
   if(strchr("()<>@,;:\\\"/[]?={} \t", *ptr))    if(strchr("()<>@,;:\\\"/[]?={} \t", *ptr))
 */  */
Line 182  int append_fragment_nonoptimizing(char a Line 183  int append_fragment_nonoptimizing(char a
         or marking ALL pieces of it with a @a lang when @a forced to,          or marking ALL pieces of it with a @a lang when @a forced to,
         and propagating OPTIMIZE language bit.          and propagating OPTIMIZE language bit.
 */  */
 String& String::append_to(String& dest, Language lang, bool forced) const {  String& String::append_to(String& dest, Language ilang, bool forced) const {
         if(is_empty())          if(is_empty())
                 return dest;                  return dest;
   
         // first: fragment infos          // first: fragment infos
                   
         if(lang==L_PASS_APPENDED) // without language-change?          if(ilang==L_PASS_APPENDED) // without language-change?
                 dest.langs.append(dest.body, body.length(), langs);                  dest.langs.appendHelper(dest.body, langs, body);
         else if(forced) //forcing passed lang?          else if(forced) //forcing passed lang?
                 dest.langs.append(dest.body, lang, length());                  dest.langs.appendHelper(dest.body, ilang, body);
         else {           else {
                 Append_fragment_info info={lang, &dest.langs, dest.body.length()};                  if(langs.opt.is_not_just_lang){
             langs.for_each(body, lang&L_OPTIMIZE_BIT?                          Append_fragment_info info={ilang, &dest.langs, dest.body.length()};
                         append_fragment_optimizing                          langs.for_each(body, ilang&L_OPTIMIZE_BIT?
                         :append_fragment_nonoptimizing, &info);                                  append_fragment_optimizing
                                   :append_fragment_nonoptimizing, &info);
                   } else {
                           Language lang=langs.opt.lang;
                           // see append_fragment_* for explanation
                           if(ilang&L_OPTIMIZE_BIT){
                                   dest.langs.appendHelper(dest.body,
                                           lang==String::L_TAINTED?
                                                   ilang
                                                   :lang==String::L_CLEAN?
                                                           (String::Language)(String::L_CLEAN|String::L_OPTIMIZE_BIT)
                                                           :lang,
                                           body);
                           } else {
                                   dest.langs.appendHelper(dest.body, lang==String::L_TAINTED ? ilang:lang, body);
                           }
                   }
         }          }
   
         // next: letters          // next: letters
Line 295  struct Cstr_to_string_body_block_info { Line 312  struct Cstr_to_string_body_block_info {
         CORD_pos pos;          CORD_pos pos;
         size_t fragment_begin;          size_t fragment_begin;
         bool whitespace;          bool whitespace;
           const char* exception;
 };  };
 #endif  #endif
 int cstr_to_string_body_block(char alang, size_t fragment_length, Cstr_to_string_body_block_info* info) {  
         const String::Language fragment_lang=(String::Language)(unsigned char)alang;  // @todo: replace info->body->mid with something that uses info->pos
   int cstr_to_string_body_block(String::Language to_lang, size_t fragment_length, Cstr_to_string_body_block_info* info) {
         bool& whitespace=info->whitespace;          bool& whitespace=info->whitespace;
         size_t fragment_end=info->fragment_begin+fragment_length;          size_t fragment_end=info->fragment_begin+fragment_length;
         //fprintf(stderr, "%d, %d\n", fragment.lang, fragment.length);          //fprintf(stderr, "%d, %d =%s=\n", to_lang, fragment_length, info->body->cstr());
   
                   
         String::Language to_lang=info->lang==String::L_UNSPECIFIED?fragment_lang:info->lang;  
         bool optimize=(to_lang & String::L_OPTIMIZE_BIT)!=0;          bool optimize=(to_lang & String::L_OPTIMIZE_BIT)!=0;
         if(!optimize)          if(!optimize)
                 whitespace=false;                  whitespace=false;
Line 324  int cstr_to_string_body_block(char alang Line 341  int cstr_to_string_body_block(char alang
                 break;                  break;
         case String::L_FILE_SPEC:          case String::L_FILE_SPEC:
                 // tainted, untaint language: file [name]                  // tainted, untaint language: file [name]
                 escape(                  {
                         // Macintosh has problems with small Russian letter 'r'                          escape_fragment(
                         if( c=='\xF0' && info->charsets && info->charsets->source().NAME()=="WINDOWS-1251" ) {  
                                 // fixing that letter for most common charset  
                                 to_char('p');  
                         } else // fallback to default  
                                 encode(need_file_encode, '_', c);                                   encode(need_file_encode, '_', c); 
                 );                          );
                   }
                 break;                  break;
         case String::L_URI:          case String::L_URI:
                 // tainted, untaint language: uri                  // tainted, untaint language: uri        
                 {                  {        
                         const char *fragment_str=info->body->mid(info->fragment_begin, fragment_length).cstr();                          const char *fragment_str=info->body->mid(info->fragment_begin, fragment_length).cstr();  
                         // skip source [we use recoded version]                          // skip source [we use recoded version]  
                         pa_CORD_pos_advance(info->pos, fragment_length);                          pa_CORD_pos_advance(info->pos, fragment_length);         
                         String::C output(fragment_str, fragment_length);                          String::C output(fragment_str, fragment_length);         
                         if(info->charsets)                           if(info->charsets)       
                                 output=Charset::transcode(output,                                   output=Charset::transcode(output,        
                                         info->charsets->source(),                                           info->charsets->source(),        
                                         info->charsets->client());                                          info->charsets->client());       
   
                         char c;                          char c;  
                         for(const char* src=output.str; (c=*src++); )                           for(const char* src=output.str; (c=*src++); )    
                                 encode(need_uri_encode, '%', c);                                  encode(need_uri_encode, '%', c);         
                 }                  }
                 break;                  break;
         case String::L_HTTP_HEADER:          case String::L_HTTP_HEADER:
                 // tainted, untaint language: http-field-content-text                  // tainted, untaint language: http-field-content-text
                 escape(                  escape_fragment(
                         encode(need_uri_encode, '%', c);                          encode(need_uri_encode, '%', c);
                 );                  );
                 break;                  break;
Line 412  int cstr_to_string_body_block(char alang Line 426  int cstr_to_string_body_block(char alang
                         pa_CORD_pos_advance(info->pos, fragment_length);                          pa_CORD_pos_advance(info->pos, fragment_length);
   
                         to_string(info->connection->quote(fragment_str, fragment_length));                          to_string(info->connection->quote(fragment_str, fragment_length));
                 } else                  } else {
                         throw Exception(0,                          info->exception="untaint in SQL language failed - no connection specified";
                                 0,                          info->fragment_begin=fragment_end;
                                 "untaint in SQL language failed - no connection specified");                          return 1; // stop processing. can't throw exception here
                   }
                 break;                  break;
         case String::L_JS:          case String::L_JS:
                 escape(switch(c) {                  escape_fragment(switch(c) {
                           case '\n': to_string("\\n");  break;
                         case '"': to_string("\\\"");  break;                          case '"': to_string("\\\"");  break;
                         case '\'': to_string("\\'");  break;                          case '\'': to_string("\\'");  break;
                         case '\n': to_string("\\n");  break;  
                         case '\\': to_string("\\\\");  break;                          case '\\': to_string("\\\\");  break;
                         case '\xFF': to_string("\\\xFF");  break;                          case '\xFF': to_string("\\\xFF");  break;
                           case '\r': to_string("\\r");  break;
                         default: _default; break;                          default: _default; break;
                 });                  });
                 break;                  break;
         case String::L_XML:          case String::L_XML:
                 // [2]    Char    ::=    #x9 | #xA | #xD | [#x20-#xD7FF] | [#xE000-#xFFFD] | [#x10000-#x10FFFF]                   // [2]    Char    ::=    #x9 | #xA | #xD | [#x20-#xD7FF] | [#xE000-#xFFFD] | [#x10000-#x10FFFF] 
                 escape(switch(c) {                  escape_fragment(switch(c) {
                         case '\x9':                           case '\x20':
                         case '\xA':                           case '\x9':
                           case '\xA':
                         case '\xD': // this is usually removed on input                          case '\xD': // this is usually removed on input
                                 _default;                                   _default; 
                                 break;                                  break;
Line 460  int cstr_to_string_body_block(char alang Line 477  int cstr_to_string_body_block(char alang
                 });                  });
                 break;                  break;
         case String::L_HTML:          case String::L_HTML:
                 escape(switch(c) {                  escape_fragment(switch(c) {
                         case '&': to_string("&amp;");  break;                          case '&': to_string("&amp;");  break;
                         case '>': to_string("&gt;");  break;                          case '>': to_string("&gt;");  break;
                         case '<': to_string("&lt;");  break;                          case '<': to_string("&lt;");  break;
Line 470  int cstr_to_string_body_block(char alang Line 487  int cstr_to_string_body_block(char alang
                 break;                  break;
         case String::L_REGEX:          case String::L_REGEX:
                 // tainted, untaint language: regex                  // tainted, untaint language: regex
                 escape(                  escape_fragment(
                         if(need_regex_escape(c))                          if(need_regex_escape(c))
                                 to_char('\\')                                  to_char('\\')
                         _default;                          _default;
                 );                  );
                 break;                  break;
           case String::L_JSON:
                   // tainted, untaint language: json <http://json.org/>
                   // escape '"' '\' '/' '\n' '\t' '\r' '\b' '\f' chars and escape chars as \uXXXX if output charset != UTF-8
                   {
                           if(info->charsets==NULL || info->charsets->client().isUTF8()){
                                   // escaping to \uXXXX is not needed
                                   escape_fragment(switch(c) {
                                           case '\n': to_string("\\n");  break;
                                           case '"' : to_string("\\\""); break;
                                           case '\\': to_string("\\\\"); break;
                                           case '/' : to_string("\\/");  break;
                                           case '\t': to_string("\\t");  break;
                                           case '\r': to_string("\\r");  break;
                                           case '\b': to_string("\\b");  break;
                                           case '\f': to_string("\\f");  break;
                                           default  : _default; break;
                                   });
                           } else {
                                   const char *fragment_str=info->body->mid(info->fragment_begin, fragment_length).cstr();
                                   // skip source [we use recoded version]
                                   pa_CORD_pos_advance(info->pos, fragment_length);
                                   String::C output(fragment_str, fragment_length);
   
                                   output=Charset::escape_JSON(output, info->charsets->source());
                                   to_string(output);
                           }
                   }
                   break;
           case String::L_HTTP_COOKIE:
                   // tainted, untaint language: cookie (3.3.0 and higher: %uXXXX in UTF-8)
                   if(info->charsets) {
                           const char *fragment_str=info->body->mid(info->fragment_begin, fragment_length).cstr();
                           // skip source [we use recoded version]
                           pa_CORD_pos_advance(info->pos, fragment_length);
                           String::C output(fragment_str, fragment_length);
                           
                           output=Charset::escape(output, info->charsets->source());
                           to_string(output);
                   } else
                           ec_append(info->result, optimize, whitespace, info->pos, fragment_length);
                   break;
           case String::L_PARSER_CODE:
                   // for auto-untaint in process
                   escape_fragment(
                           if(need_parser_code_escape(c))
                                   to_char('^');
                           _default;
                   );
                   break;
         default:          default:
                 SAPI::abort("unknown untaint language #%d",                   SAPI::abort("unknown untaint language #%d", 
                         static_cast<int>(to_lang)); // should never                          static_cast<int>(to_lang)); // should never
Line 488  int cstr_to_string_body_block(char alang Line 554  int cstr_to_string_body_block(char alang
 }  }
   
   
 String::Body String::cstr_to_string_body(Language lang,   String::Body String::cstr_to_string_body_taint(Language lang, SQL_Connection* connection, const Request_charsets *charsets) const {
                   SQL_Connection* connection,          if(is_empty())
                   const Request_charsets *charsets) const {                  return String::Body();
   
           Cstr_to_string_body_block_info info;
           // input
           info.lang=lang;
           info.connection=connection;
           info.charsets=charsets;
           info.body=&body;
           // output
           CORD_ec_init(info.result);
           // private
           body.set_pos(info.pos, 0);
           info.fragment_begin=0;
           info.exception=0;
           info.whitespace=true;
   
           cstr_to_string_body_block(lang, length(), &info);
   
           if(info.exception)
                   throw Exception(0,
                           0,
                           info.exception);
   
           return String::Body(CORD_ec_to_cord(info.result));
   }
   
   int cstr_to_string_body_block_untaint(char alang, size_t fragment_length, Cstr_to_string_body_block_info* info){
           const String::Language lang=(String::Language)(unsigned char)alang;
           // see append_fragment_* for explanation
           if(info->lang&String::L_OPTIMIZE_BIT)
                   return cstr_to_string_body_block(
                           lang==String::L_TAINTED?
                                   info->lang
                                   :lang==String::L_CLEAN?
                                           (String::Language)(String::L_CLEAN|String::L_OPTIMIZE_BIT)
                                           :lang,
                           fragment_length, info);
           else
                   return cstr_to_string_body_block(lang==String::L_TAINTED ? info->lang:lang, fragment_length, info);
   }
   
   String::Body String::cstr_to_string_body_untaint(Language lang, SQL_Connection* connection, const Request_charsets *charsets) const {
         if(is_empty())          if(is_empty())
                 return String::Body();                  return String::Body();
   
Line 505  String::Body String::cstr_to_string_body Line 612  String::Body String::cstr_to_string_body
         // private          // private
         body.set_pos(info.pos, 0);          body.set_pos(info.pos, 0);
         info.fragment_begin=0;          info.fragment_begin=0;
           info.exception=0;
         info.whitespace=true;          info.whitespace=true;
   
         langs.for_each(body, cstr_to_string_body_block, &info);          langs.for_each(body, cstr_to_string_body_block_untaint, &info);
   
           if(info.exception)
                   throw Exception(0,
                           0,
                           info.exception);
   
         return String::Body(CORD_ec_to_cord(info.result));          return String::Body(CORD_ec_to_cord(info.result));
 }  }
   
   const char* String::untaint_and_transcode_cstr(Language lang, const Request_charsets *charsets) const {
           if(charsets && &charsets->source() != &charsets->client()){
                   // Note: L_URI is allready transcoded during untaint, but transcode does not affect %XX
                   return Charset::transcode(cstr_to_string_body_untaint(lang, 0, charsets), charsets->source(), charsets->client()).cstr();
           } else
                   return cstr_to_string_body_untaint(lang, 0, charsets).cstr();
   }

Removed from v.1.134.6.2.2.1  
changed lines
  Added in v.1.160


E-mail: