lib/base/estring.cpp

   1 #include <string>
   2 #include <ctype.h>
   3 #include <limits.h>
   4 #include <lib/base/elock.h>
   5 #include <lib/base/eerror.h>
   6
   7 static pthread_mutex_t lock=PTHREAD_ADAPTIVE_MUTEX_INITIALIZER_NP;
   8
   9 std::string getNum(int val, int sys)
  10 {
  11 //      Returns a string that contain the value val as string
  12 //      if sys == 16 than hexadezimal if sys == 10 than decimal
  13         char buf[12];
  14
  15         if (sys == 10)
  16                 std::snprintf(buf, 12, "%i", val);
  17         else if (sys == 16)
  18                 std::snprintf(buf, 12, "%X", val);
  19
  20         std::string res;
  21         res.assign(buf);
  22         return res;
  23 }
  24
  25                 // 8859-x to dvb coding tables. taken from www.unicode.org/Public/MAPPINGS/ISO8859/
  26 static unsigned long c88595[128]={
  27 0x0080, 0x0081, 0x0082, 0x0083, 0x0084, 0x0085, 0x0086, 0x0087, 0x0088, 0x0089, 0x008a, 0x008b, 0x008c, 0x008d, 0x008e, 0x008f,
  28 0x0090, 0x0091, 0x0092, 0x0093, 0x0094, 0x0095, 0x0096, 0x0097, 0x0098, 0x0099, 0x009a, 0x009b, 0x009c, 0x009d, 0x009e, 0x009f,
  29 0x00a0, 0x0401, 0x0402, 0x0403, 0x0404, 0x0405, 0x0406, 0x0407, 0x0408, 0x0409, 0x040a, 0x040b, 0x040c, 0x00ad, 0x040e, 0x040f,
  30 0x0410, 0x0411, 0x0412, 0x0413, 0x0414, 0x0415, 0x0416, 0x0417, 0x0418, 0x0419, 0x041a, 0x041b, 0x041c, 0x041d, 0x041e, 0x041f,
  31 0x0420, 0x0421, 0x0422, 0x0423, 0x0424, 0x0425, 0x0426, 0x0427, 0x0428, 0x0429, 0x042a, 0x042b, 0x042c, 0x042d, 0x042e, 0x042f,
  32 0x0430, 0x0431, 0x0432, 0x0433, 0x0434, 0x0435, 0x0436, 0x0437, 0x0438, 0x0439, 0x043a, 0x043b, 0x043c, 0x043d, 0x043e, 0x043f,
  33 0x0440, 0x0441, 0x0442, 0x0443, 0x0444, 0x0445, 0x0446, 0x0447, 0x0448, 0x0449, 0x044a, 0x044b, 0x044c, 0x044d, 0x044e, 0x044f,
  34 0x2116, 0x0451, 0x0452, 0x0453, 0x0454, 0x0455, 0x0456, 0x0457, 0x0458, 0x0459, 0x045a, 0x045b, 0x045c, 0x00a7, 0x045e, 0x045f};
  35
  36 static unsigned long c88596[128]={
  37 0x0080, 0x0081, 0x0082, 0x0083, 0x0084, 0x0085, 0x0086, 0x0087, 0x0088, 0x0089, 0x008a, 0x008b, 0x008c, 0x008d, 0x008e, 0x008f,
  38 0x0090, 0x0091, 0x0092, 0x0093, 0x0094, 0x0095, 0x0096, 0x0097, 0x0098, 0x0099, 0x009a, 0x009b, 0x009c, 0x009d, 0x009e, 0x009f,
  39 0x00a0, 0x0000, 0x0000, 0x0000, 0x00a4, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x060c, 0x00ad, 0x0000, 0x0000,
  40 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x061b, 0x0000, 0x0000, 0x0000, 0x061f,
  41 0x0000, 0x0621, 0x0622, 0x0623, 0x0624, 0x0625, 0x0626, 0x0627, 0x0628, 0x0629, 0x062a, 0x062b, 0x062c, 0x062d, 0x062e, 0x062f,
  42 0x0630, 0x0631, 0x0632, 0x0633, 0x0634, 0x0635, 0x0636, 0x0637, 0x0638, 0x0639, 0x063a, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000,
  43 0x0640, 0x0641, 0x0642, 0x0643, 0x0644, 0x0645, 0x0646, 0x0647, 0x0648, 0x0649, 0x064a, 0x064b, 0x064c, 0x064d, 0x064e, 0x064f,
  44 0x0650, 0x0651, 0x0652, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000};
  45
  46 static unsigned long c88597[128]={
  47 0x0080, 0x0081, 0x0082, 0x0083, 0x0084, 0x0085, 0x0086, 0x0087, 0x0088, 0x0089, 0x008a, 0x008b, 0x008c, 0x008d, 0x008e, 0x008f,
  48 0x0090, 0x0091, 0x0092, 0x0093, 0x0094, 0x0095, 0x0096, 0x0097, 0x0098, 0x0099, 0x009a, 0x009b, 0x009c, 0x009d, 0x009e, 0x009f,
  49 0x00a0, 0x2018, 0x2019, 0x00a3, 0x0000, 0x0000, 0x00a6, 0x00a7, 0x00a8, 0x00a9, 0x0000, 0x00ab, 0x00ac, 0x00ad, 0x0000, 0x2015,
  50 0x00b0, 0x00b1, 0x00b2, 0x00b3, 0x0384, 0x0385, 0x0386, 0x00b7, 0x0388, 0x0389, 0x038a, 0x00bb, 0x038c, 0x00bd, 0x038e, 0x038f,
  51 0x0390, 0x0391, 0x0392, 0x0393, 0x0394, 0x0395, 0x0396, 0x0397, 0x0398, 0x0399, 0x039a, 0x039b, 0x039c, 0x039d, 0x039e, 0x039f,
  52 0x03a0, 0x03a1, 0x0000, 0x03a3, 0x03a4, 0x03a5, 0x03a6, 0x03a7, 0x03a8, 0x03a9, 0x03aa, 0x03ab, 0x03ac, 0x03ad, 0x03ae, 0x03af,
  53 0x03b0, 0x03b1, 0x03b2, 0x03b3, 0x03b4, 0x03b5, 0x03b6, 0x03b7, 0x03b8, 0x03b9, 0x03ba, 0x03bb, 0x03bc, 0x03bd, 0x03be, 0x03bf,
  54 0x03c0, 0x03c1, 0x03c2, 0x03c3, 0x03c4, 0x03c5, 0x03c6, 0x03c7, 0x03c8, 0x03c9, 0x03ca, 0x03cb, 0x03cc, 0x03cd, 0x03ce, 0x0000};
  55
  56 static unsigned long c88598[128]={
  57 0x0080, 0x0081, 0x0082, 0x0083, 0x0084, 0x0085, 0x0086, 0x0087, 0x0088, 0x0089, 0x008a, 0x008b, 0x008c, 0x008d, 0x008e, 0x008f,
  58 0x0090, 0x0091, 0x0092, 0x0093, 0x0094, 0x0095, 0x0096, 0x0097, 0x0098, 0x0099, 0x009a, 0x009b, 0x009c, 0x009d, 0x009e, 0x009f,
  59 0x00a0, 0x0000, 0x00a2, 0x00a3, 0x00a4, 0x00a5, 0x00a6, 0x00a7, 0x00a8, 0x00a9, 0x00d7, 0x00ab, 0x00ac, 0x00ad, 0x00ae, 0x00af,
  60 0x00b0, 0x00b1, 0x00b2, 0x00b3, 0x00b4, 0x00b5, 0x00b6, 0x00b7, 0x00b8, 0x00b9, 0x00f7, 0x00bb, 0x00bc, 0x00bd, 0x00be, 0x0000,
  61 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000,
  62 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x2017,
  63 0x05d0, 0x05d1, 0x05d2, 0x05d3, 0x05d4, 0x05d5, 0x05d6, 0x05d7, 0x05d8, 0x05d9, 0x05da, 0x05db, 0x05dc, 0x05dd, 0x05de, 0x05df,
  64 0x05e0, 0x05e1, 0x05e2, 0x05e3, 0x05e4, 0x05e5, 0x05e6, 0x05e7, 0x05e8, 0x05e9, 0x05ea, 0x0000, 0x0000, 0x200e, 0x200f, 0x0000};
  65
  66 static unsigned long c88599[128]={
  67 0x0080, 0x0081, 0x0082, 0x0083, 0x0084, 0x0085, 0x0086, 0x0087, 0x0088, 0x0089, 0x008a, 0x008b, 0x008c, 0x008d, 0x008e, 0x008f,
  68 0x0090, 0x0091, 0x0092, 0x0093, 0x0094, 0x0095, 0x0096, 0x0097, 0x0098, 0x0099, 0x009a, 0x009b, 0x009c, 0x009d, 0x009e, 0x009f,
  69 0x00a0, 0x00a1, 0x00a2, 0x00a3, 0x00a4, 0x00a5, 0x00a6, 0x00a7, 0x00a8, 0x00a9, 0x00aa, 0x00ab, 0x00ac, 0x00ad, 0x00ae, 0x00af,
  70 0x00b0, 0x00b1, 0x00b2, 0x00b3, 0x00b4, 0x00b5, 0x00b6, 0x00b7, 0x00b8, 0x00b9, 0x00ba, 0x00bb, 0x00bc, 0x00bd, 0x00be, 0x00bf,
  71 0x00c0, 0x00c1, 0x00c2, 0x00c3, 0x00c4, 0x00c5, 0x00c6, 0x00c7, 0x00c8, 0x00c9, 0x00ca, 0x00cb, 0x00cc, 0x00cd, 0x00ce, 0x00cf,
  72 0x011e, 0x00d1, 0x00d2, 0x00d3, 0x00d4, 0x00d5, 0x00d6, 0x00d7, 0x00d8, 0x00d9, 0x00da, 0x00db, 0x00dc, 0x0130, 0x015e, 0x00df,
  73 0x00e0, 0x00e1, 0x00e2, 0x00e3, 0x00e4, 0x00e5, 0x00e6, 0x00e7, 0x00e8, 0x00e9, 0x00ea, 0x00eb, 0x00ec, 0x00ed, 0x00ee, 0x00ef,
  74 0x011f, 0x00f1, 0x00f2, 0x00f3, 0x00f4, 0x00f5, 0x00f6, 0x00f7, 0x00f8, 0x00f9, 0x00fa, 0x00fb, 0x00fc, 0x0131, 0x015f, 0x00ff};
  75
  76                 // UPC Direct / HBO strange two-character encoding. 0xC2 means acute, 0xC8 doule 'dot', 0xCA small 'circle', 0xCD double 'acute', 0xCF acute.
  77                 // many thanks to the czechs who helped me while solving this.
  78 static inline unsigned int doCzech(int c1, int c2)
  79 {
  80         switch (c1)
  81         {
  82         case 0xC2: // acute
  83                 switch (c2)
  84                 {
  85                 case 'A': return 0x00C1;
  86                 case 'a': return 0x00E1;
  87                 case 'E': return 0x00C9;
  88                 case 'e': return 0x00E9;
  89                 case 'I': return 0x00CD;
  90                 case 'i': return 0x00ED;
  91                 case 'O': return 0x00D3;
  92                 case 'o': return 0x00F3; // corrected, was 0x00E3
  93                 case 'U': return 0x00DA;
  94                 case 'u': return 0x00FA;
  95                 case 'Y': return 0x00DD;
  96                 case 'y': return 0x00FD;
  97                 default:
  98                         return 0;
  99                 }
 100         case 0xC8: // double 'dot'
 101                 switch (c2)
 102                 {
 103                 case 'A': return 0x00C4;
 104                 case 'a': return 0x00E4;
 105                 case 'E': return 0x00CB;
 106                 case 'e': return 0x00EB;
 107                 case 'O': return 0x00D6;
 108                 case 'o': return 0x00F6;
 109                 case 'U': return 0x00DC;
 110                 case 'u': return 0x00FC;
 111                 default:
 112                         return 0;
 113                 }
 114         case 0xCA: // small 'circle'
 115                 switch (c2)
 116                 {
 117                 case 'U': return 0x016E;
 118                 case 'u': return 0x016F;
 119                 default:
 120                         return 0;
 121                 }
 122         case 0xCD: // double 'acute'
 123                 switch (c2)
 124                 {
 125                 case 'O': return 0x0150;
 126                 case 'o': return 0x0151;
 127                 case 'U': return 0x0170;
 128                 case 'u': return 0x0171;
 129                 default:
 130                         return 0;
 131                 }
 132         case 0xCF: // caron
 133                 switch (c2)
 134                 {
 135                 case 'C': return 0x010C;
 136                 case 'c': return 0x010D;
 137                 case 'D': return 0x010E;
 138                 case 'd': return 0x010F;
 139                 case 'E': return 0x011A;
 140                 case 'e': return 0x011B;
 141                 case 'L': return 0x013D;        // not sure if they really exist.
 142                 case 'l': return 0x013E;
 143                 case 'N': return 0x0147;
 144                 case 'n': return 0x0148;
 145                 case 'R': return 0x0158;
 146                 case 'r': return 0x0159;
 147                 case 'S': return 0x0160;
 148                 case 's': return 0x0161;
 149                 case 'T': return 0x0164;
 150                 case 't': return 0x0165;
 151                 case 'Z': return 0x017D;
 152                 case 'z': return 0x017E;
 153                 default:
 154                         return 0;
 155                 }
 156         default:
 157                 return 0;
 158         }
 159 }
 160
 161 static inline unsigned int recode(unsigned char d, int cp)
 162 {
 163         if (d < 0x80)
 164                 return d;
 165         switch (cp)
 166         {
 167         case 0:         // 8859-1 Latin1 <-> unicode mapping
 168                 return d;
 169         case 1:         // 8859-5 -> unicode mapping
 170                 return c88595[d-0x80];
 171         case 2:         // 8859-6 -> unicode mapping
 172                 return c88596[d-0x80];
 173         case 3:         // 8859-7 -> unicode mapping
 174                 return c88597[d-0x80];
 175         case 4:         // 8859-8 -> unicode mapping
 176                 return c88598[d-0x80];
 177         case 5:         // 8859-9 -> unicode mapping
 178                 return c88599[d-0x80];
 179         default:
 180                 return d;
 181         }
 182 }
 183
 184 std::string convertDVBUTF8(unsigned char *data, int len, int table)
 185 {
 186         int i;
 187         if (!len)
 188                 return "";
 189
 190         i=0;
 191         if (data[0] <= 5)
 192                 table=data[i++];
 193         if ((data[0] >= 0x10) && (data[0] <= 0x12))
 194                 return "<unsupported encoding>";
 195
 196         int bytesneeded=0, t=0, s=i;
 197
 198         for (; i<len; ++i)
 199         {
 200                 unsigned long code=0;
 201                 if ((table == 5) && ((data[i] == 0xC2) || (data[i] == 0xC8) || (data[i] == 0xCA) || (data[i] == 0xCD) || (data[i] == 0xCF)) && (i+1 < len))
 202                                 // braindead czech encoding...
 203                         if ((code=doCzech(data[i], data[i+1])))
 204                                 ++i;
 205                 if (!code)
 206                         code=recode(data[i], table);
 207                 if (!code)
 208                         continue;
 209                 if (code >= 0x10000)
 210                         bytesneeded++;
 211                 if (code >= 0x800)
 212                         bytesneeded++;
 213                 if (code >= 0x80)
 214                         bytesneeded++;
 215                 bytesneeded++;
 216         }
 217
 218         i=s;
 219
 220         unsigned char res[bytesneeded];
 221
 222         while (i < len)
 223         {
 224                 unsigned long code=0;
 225                 if ((table == 5) && ((data[i] == 0xC2) || (data[i] == 0xC8) || (data[i] == 0xCA) || (data[i] == 0xCD) || (data[i] == 0xCF)) && (i+1 < len))
 226                                 // braindead czech encoding...
 227                         if ((code=doCzech(data[i], data[i+1])))
 228                                 i+=2;
 229                 if (!code)
 230                         code=recode(data[i++], table);
 231                 if (!code)
 232                         continue;
 233                                 // Unicode->UTF8 encoding
 234                 if (code < 0x80) // identity ascii <-> utf8 mapping
 235                         res[t++]=char(code);
 236                 else if (code < 0x800) // two byte mapping
 237                 {
 238                         res[t++]=(code>>6)|0xC0;
 239                         res[t++]=(code&0x3F)|0x80;
 240                 } else if (code < 0x10000) // three bytes mapping
 241                 {
 242                         res[t++]=(code>>12)|0xE0;
 243                         res[t++]=((code>>6)&0x3F)|0x80;
 244                         res[t++]=(code&0x3F)|0x80;
 245                 } else
 246                 {
 247                         res[t++]=(code>>18)|0xF0;
 248                         res[t++]=((code>>12)&0x3F)|0x80;
 249                         res[t++]=((code>>6)&0x3F)|0x80;
 250                         res[t++]=(code&0x3F)|0x80;
 251                 }
 252         }
 253         if ( t != bytesneeded)
 254                 eFatal("t: %d, bytesneeded: %d", t, bytesneeded);
 255         return std::string().assign((char*)res, t);
 256 }
 257
 258 std::string convertUTF8DVB(const std::string &string)
 259 {
 260         std::string ss=std::string();
 261
 262         int len=string.length();
 263         for(int i=0;i<len;i++){
 264                 unsigned char c1=string[i];
 265                 unsigned int c;
 266                 if(c1<0x80)
 267                         c=c1;
 268                 else{
 269                         i++;
 270                         unsigned char c2=string[i];
 271                         c=((c1&0x3F)<<6) + (c2&0x3F);
 272                 }
 273                 // c = UNICODE
 274                 // now search it in table
 275                 if(c>=0x80){
 276                         for(unsigned int j=0;j<128;j++){
 277                                 if(c88599[j]==c){            // now only 8859-9 ....
 278                                         c=0x80+j;
 279                                         break;
 280                                 }
 281                         }
 282                 }
 283                 ss+=c;
 284         }
 285
 286         return ss;
 287 }
 288
 289 std::string convertLatin1UTF8(const std::string &string)
 290 {
 291         unsigned int bytesneeded=0, t=0, i;
 292
 293         unsigned int len=string.size();
 294
 295         for (i=0; i<len; ++i)
 296         {
 297                 unsigned long code=string[i];
 298                 if (!code)
 299                         continue;
 300                 if (code >= 0x10000)
 301                         bytesneeded++;
 302                 if (code >= 0x800)
 303                         bytesneeded++;
 304                 if (code >= 0x80)
 305                         bytesneeded++;
 306                 bytesneeded++;
 307         }
 308
 309         i=0;
 310
 311         unsigned char res[bytesneeded];
 312
 313         while (i < len)
 314         {
 315                 unsigned long code=string[i++];
 316                                 // Unicode->UTF8 encoding
 317                 if (code < 0x80) // identity latin <-> utf8 mapping
 318                         res[t++]=char(code);
 319                 else if (code < 0x800) // two byte mapping
 320                 {
 321                         res[t++]=(code>>6)|0xC0;
 322                         res[t++]=(code&0x3F)|0x80;
 323                 } else if (code < 0x10000) // three bytes mapping
 324                 {
 325                         res[t++]=(code>>12)|0xE0;
 326                         res[t++]=((code>>6)&0x3F)|0x80;
 327                         res[t++]=(code&0x3F)|0x80;
 328                 } else
 329                 {
 330                         res[t++]=(code>>18)|0xF0;
 331                         res[t++]=((code>>12)&0x3F)|0x80;
 332                         res[t++]=((code>>6)&0x3F)|0x80;
 333                         res[t++]=(code&0x3F)|0x80;
 334                 }
 335         }
 336         if ( t != bytesneeded)
 337                 eFatal("t: %d, bytesneeded: %d", t, bytesneeded);
 338         return std::string().assign((char*)res, t);
 339 }
 340
 341 int isUTF8(const std::string &string)
 342 {
 343         unsigned int len=string.size();
 344
 345         for (unsigned int i=0; i < len; ++i)
 346         {
 347                 if (!(string[i]&0x80)) // normal ASCII
 348                         continue;
 349                 if ((string[i] & 0xE0) == 0xC0) // one char following.
 350                 {
 351                                 // first, length check:
 352                         if (i+1 >= len)
 353                                 return 0; // certainly NOT utf-8
 354                         i++;
 355                         if ((string[i]&0xC0) != 0x80)
 356                                 return 0; // no, not UTF-8.
 357                 } else if ((string[i] & 0xF0) == 0xE0)
 358                 {
 359                         if ((i+1) >= len)
 360                                 return 0;
 361                         i++;
 362                         if ((string[i]&0xC0) != 0x80)
 363                                 return 0;
 364                         i++;
 365                         if ((string[i]&0xC0) != 0x80)
 366                                 return 0;
 367                 }
 368         }
 369         return 1; // can be UTF8 (or pure ASCII, at least no non-UTF-8 8bit characters)
 370 }
 371