- add more python stuff
[enigma2.git] / lib / base / estring.cpp
1 #include <string>
2 #include <ctype.h>
3 #include <limits.h>
4 #include <lib/base/elock.h>
5 #include <lib/base/eerror.h>
6
7 static pthread_mutex_t lock=PTHREAD_ADAPTIVE_MUTEX_INITIALIZER_NP;
8
9 std::string getNum(int val, int sys)
10 {
11 //      Returns a string that contain the value val as string
12 //      if sys == 16 than hexadezimal if sys == 10 than decimal
13         char buf[12];
14
15         if (sys == 10)
16                 std::snprintf(buf, 12, "%i", val);
17         else if (sys == 16)
18                 std::snprintf(buf, 12, "%X", val);              
19         
20         std::string res;
21         res.assign(buf);
22         return res;
23 }
24
25                 // 8859-x to dvb coding tables. taken from www.unicode.org/Public/MAPPINGS/ISO8859/
26 static unsigned long c88595[128]={
27 0x0080, 0x0081, 0x0082, 0x0083, 0x0084, 0x0085, 0x0086, 0x0087, 0x0088, 0x0089, 0x008a, 0x008b, 0x008c, 0x008d, 0x008e, 0x008f, 
28 0x0090, 0x0091, 0x0092, 0x0093, 0x0094, 0x0095, 0x0096, 0x0097, 0x0098, 0x0099, 0x009a, 0x009b, 0x009c, 0x009d, 0x009e, 0x009f, 
29 0x00a0, 0x0401, 0x0402, 0x0403, 0x0404, 0x0405, 0x0406, 0x0407, 0x0408, 0x0409, 0x040a, 0x040b, 0x040c, 0x00ad, 0x040e, 0x040f, 
30 0x0410, 0x0411, 0x0412, 0x0413, 0x0414, 0x0415, 0x0416, 0x0417, 0x0418, 0x0419, 0x041a, 0x041b, 0x041c, 0x041d, 0x041e, 0x041f, 
31 0x0420, 0x0421, 0x0422, 0x0423, 0x0424, 0x0425, 0x0426, 0x0427, 0x0428, 0x0429, 0x042a, 0x042b, 0x042c, 0x042d, 0x042e, 0x042f, 
32 0x0430, 0x0431, 0x0432, 0x0433, 0x0434, 0x0435, 0x0436, 0x0437, 0x0438, 0x0439, 0x043a, 0x043b, 0x043c, 0x043d, 0x043e, 0x043f, 
33 0x0440, 0x0441, 0x0442, 0x0443, 0x0444, 0x0445, 0x0446, 0x0447, 0x0448, 0x0449, 0x044a, 0x044b, 0x044c, 0x044d, 0x044e, 0x044f, 
34 0x2116, 0x0451, 0x0452, 0x0453, 0x0454, 0x0455, 0x0456, 0x0457, 0x0458, 0x0459, 0x045a, 0x045b, 0x045c, 0x00a7, 0x045e, 0x045f};
35
36 static unsigned long c88596[128]={
37 0x0080, 0x0081, 0x0082, 0x0083, 0x0084, 0x0085, 0x0086, 0x0087, 0x0088, 0x0089, 0x008a, 0x008b, 0x008c, 0x008d, 0x008e, 0x008f, 
38 0x0090, 0x0091, 0x0092, 0x0093, 0x0094, 0x0095, 0x0096, 0x0097, 0x0098, 0x0099, 0x009a, 0x009b, 0x009c, 0x009d, 0x009e, 0x009f, 
39 0x00a0, 0x0000, 0x0000, 0x0000, 0x00a4, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x060c, 0x00ad, 0x0000, 0x0000, 
40 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x061b, 0x0000, 0x0000, 0x0000, 0x061f, 
41 0x0000, 0x0621, 0x0622, 0x0623, 0x0624, 0x0625, 0x0626, 0x0627, 0x0628, 0x0629, 0x062a, 0x062b, 0x062c, 0x062d, 0x062e, 0x062f, 
42 0x0630, 0x0631, 0x0632, 0x0633, 0x0634, 0x0635, 0x0636, 0x0637, 0x0638, 0x0639, 0x063a, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 
43 0x0640, 0x0641, 0x0642, 0x0643, 0x0644, 0x0645, 0x0646, 0x0647, 0x0648, 0x0649, 0x064a, 0x064b, 0x064c, 0x064d, 0x064e, 0x064f, 
44 0x0650, 0x0651, 0x0652, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000};
45
46 static unsigned long c88597[128]={
47 0x0080, 0x0081, 0x0082, 0x0083, 0x0084, 0x0085, 0x0086, 0x0087, 0x0088, 0x0089, 0x008a, 0x008b, 0x008c, 0x008d, 0x008e, 0x008f, 
48 0x0090, 0x0091, 0x0092, 0x0093, 0x0094, 0x0095, 0x0096, 0x0097, 0x0098, 0x0099, 0x009a, 0x009b, 0x009c, 0x009d, 0x009e, 0x009f, 
49 0x00a0, 0x2018, 0x2019, 0x00a3, 0x0000, 0x0000, 0x00a6, 0x00a7, 0x00a8, 0x00a9, 0x0000, 0x00ab, 0x00ac, 0x00ad, 0x0000, 0x2015, 
50 0x00b0, 0x00b1, 0x00b2, 0x00b3, 0x0384, 0x0385, 0x0386, 0x00b7, 0x0388, 0x0389, 0x038a, 0x00bb, 0x038c, 0x00bd, 0x038e, 0x038f, 
51 0x0390, 0x0391, 0x0392, 0x0393, 0x0394, 0x0395, 0x0396, 0x0397, 0x0398, 0x0399, 0x039a, 0x039b, 0x039c, 0x039d, 0x039e, 0x039f, 
52 0x03a0, 0x03a1, 0x0000, 0x03a3, 0x03a4, 0x03a5, 0x03a6, 0x03a7, 0x03a8, 0x03a9, 0x03aa, 0x03ab, 0x03ac, 0x03ad, 0x03ae, 0x03af, 
53 0x03b0, 0x03b1, 0x03b2, 0x03b3, 0x03b4, 0x03b5, 0x03b6, 0x03b7, 0x03b8, 0x03b9, 0x03ba, 0x03bb, 0x03bc, 0x03bd, 0x03be, 0x03bf, 
54 0x03c0, 0x03c1, 0x03c2, 0x03c3, 0x03c4, 0x03c5, 0x03c6, 0x03c7, 0x03c8, 0x03c9, 0x03ca, 0x03cb, 0x03cc, 0x03cd, 0x03ce, 0x0000};
55
56 static unsigned long c88598[128]={
57 0x0080, 0x0081, 0x0082, 0x0083, 0x0084, 0x0085, 0x0086, 0x0087, 0x0088, 0x0089, 0x008a, 0x008b, 0x008c, 0x008d, 0x008e, 0x008f, 
58 0x0090, 0x0091, 0x0092, 0x0093, 0x0094, 0x0095, 0x0096, 0x0097, 0x0098, 0x0099, 0x009a, 0x009b, 0x009c, 0x009d, 0x009e, 0x009f, 
59 0x00a0, 0x0000, 0x00a2, 0x00a3, 0x00a4, 0x00a5, 0x00a6, 0x00a7, 0x00a8, 0x00a9, 0x00d7, 0x00ab, 0x00ac, 0x00ad, 0x00ae, 0x00af, 
60 0x00b0, 0x00b1, 0x00b2, 0x00b3, 0x00b4, 0x00b5, 0x00b6, 0x00b7, 0x00b8, 0x00b9, 0x00f7, 0x00bb, 0x00bc, 0x00bd, 0x00be, 0x0000, 
61 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 
62 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x0000, 0x2017, 
63 0x05d0, 0x05d1, 0x05d2, 0x05d3, 0x05d4, 0x05d5, 0x05d6, 0x05d7, 0x05d8, 0x05d9, 0x05da, 0x05db, 0x05dc, 0x05dd, 0x05de, 0x05df, 
64 0x05e0, 0x05e1, 0x05e2, 0x05e3, 0x05e4, 0x05e5, 0x05e6, 0x05e7, 0x05e8, 0x05e9, 0x05ea, 0x0000, 0x0000, 0x200e, 0x200f, 0x0000};
65
66 static unsigned long c88599[128]={
67 0x0080, 0x0081, 0x0082, 0x0083, 0x0084, 0x0085, 0x0086, 0x0087, 0x0088, 0x0089, 0x008a, 0x008b, 0x008c, 0x008d, 0x008e, 0x008f, 
68 0x0090, 0x0091, 0x0092, 0x0093, 0x0094, 0x0095, 0x0096, 0x0097, 0x0098, 0x0099, 0x009a, 0x009b, 0x009c, 0x009d, 0x009e, 0x009f, 
69 0x00a0, 0x00a1, 0x00a2, 0x00a3, 0x00a4, 0x00a5, 0x00a6, 0x00a7, 0x00a8, 0x00a9, 0x00aa, 0x00ab, 0x00ac, 0x00ad, 0x00ae, 0x00af, 
70 0x00b0, 0x00b1, 0x00b2, 0x00b3, 0x00b4, 0x00b5, 0x00b6, 0x00b7, 0x00b8, 0x00b9, 0x00ba, 0x00bb, 0x00bc, 0x00bd, 0x00be, 0x00bf, 
71 0x00c0, 0x00c1, 0x00c2, 0x00c3, 0x00c4, 0x00c5, 0x00c6, 0x00c7, 0x00c8, 0x00c9, 0x00ca, 0x00cb, 0x00cc, 0x00cd, 0x00ce, 0x00cf, 
72 0x011e, 0x00d1, 0x00d2, 0x00d3, 0x00d4, 0x00d5, 0x00d6, 0x00d7, 0x00d8, 0x00d9, 0x00da, 0x00db, 0x00dc, 0x0130, 0x015e, 0x00df, 
73 0x00e0, 0x00e1, 0x00e2, 0x00e3, 0x00e4, 0x00e5, 0x00e6, 0x00e7, 0x00e8, 0x00e9, 0x00ea, 0x00eb, 0x00ec, 0x00ed, 0x00ee, 0x00ef, 
74 0x011f, 0x00f1, 0x00f2, 0x00f3, 0x00f4, 0x00f5, 0x00f6, 0x00f7, 0x00f8, 0x00f9, 0x00fa, 0x00fb, 0x00fc, 0x0131, 0x015f, 0x00ff};
75
76                 // UPC Direct / HBO strange two-character encoding. 0xC2 means acute, 0xC8 doule 'dot', 0xCA small 'circle', 0xCD double 'acute', 0xCF acute.
77                 // many thanks to the czechs who helped me while solving this.
78 static inline unsigned int doCzech(int c1, int c2)
79 {
80         switch (c1)
81         {
82         case 0xC2: // acute
83                 switch (c2)
84                 {
85                 case 'A': return 0x00C1;
86                 case 'a': return 0x00E1;
87                 case 'E': return 0x00C9;
88                 case 'e': return 0x00E9;
89                 case 'I': return 0x00CD;
90                 case 'i': return 0x00ED;
91                 case 'O': return 0x00D3;
92                 case 'o': return 0x00F3; // corrected, was 0x00E3
93                 case 'U': return 0x00DA;
94                 case 'u': return 0x00FA;
95                 case 'Y': return 0x00DD;
96                 case 'y': return 0x00FD;
97                 default:
98                         return 0;
99                 }
100         case 0xC8: // double 'dot'
101                 switch (c2)
102                 {
103                 case 'A': return 0x00C4;
104                 case 'a': return 0x00E4;
105                 case 'E': return 0x00CB;
106                 case 'e': return 0x00EB;
107                 case 'O': return 0x00D6;
108                 case 'o': return 0x00F6;
109                 case 'U': return 0x00DC;
110                 case 'u': return 0x00FC;
111                 default:
112                         return 0;
113                 }
114         case 0xCA: // small 'circle'
115                 switch (c2)               
116                 {                         
117                 case 'U': return 0x016E;  
118                 case 'u': return 0x016F;  
119                 default:                  
120                         return 0;             
121                 }                         
122         case 0xCD: // double 'acute'
123                 switch (c2)               
124                 {                         
125                 case 'O': return 0x0150;  
126                 case 'o': return 0x0151;  
127                 case 'U': return 0x0170;  
128                 case 'u': return 0x0171;  
129                 default:                  
130                         return 0;             
131                 }                         
132         case 0xCF: // caron
133                 switch (c2)
134                 {
135                 case 'C': return 0x010C;
136                 case 'c': return 0x010D;
137                 case 'D': return 0x010E;
138                 case 'd': return 0x010F;
139                 case 'E': return 0x011A;
140                 case 'e': return 0x011B;
141                 case 'L': return 0x013D;        // not sure if they really exist.
142                 case 'l': return 0x013E;
143                 case 'N': return 0x0147;
144                 case 'n': return 0x0148;
145                 case 'R': return 0x0158;
146                 case 'r': return 0x0159;
147                 case 'S': return 0x0160;
148                 case 's': return 0x0161;
149                 case 'T': return 0x0164;
150                 case 't': return 0x0165;
151                 case 'Z': return 0x017D;
152                 case 'z': return 0x017E;
153                 default:
154                         return 0;
155                 }
156         default:
157                 return 0;
158         }
159 }
160
161 static inline unsigned int recode(unsigned char d, int cp)
162 {
163         if (d < 0x80)
164                 return d;
165         switch (cp)
166         {
167         case 0:         // 8859-1 Latin1 <-> unicode mapping
168                 return d;
169         case 1:         // 8859-5 -> unicode mapping
170                 return c88595[d-0x80];
171         case 2:         // 8859-6 -> unicode mapping
172                 return c88596[d-0x80];
173         case 3:         // 8859-7 -> unicode mapping
174                 return c88597[d-0x80];
175         case 4:         // 8859-8 -> unicode mapping
176                 return c88598[d-0x80];
177         case 5:         // 8859-9 -> unicode mapping
178                 return c88599[d-0x80];
179         default:
180                 return d;
181         }
182 }
183
184 std::string convertDVBUTF8(unsigned char *data, int len, int table)
185 {
186         int i;
187         if (!len)
188                 return "";
189                 
190         i=0;
191         if (data[0] <= 5)
192                 table=data[i++];
193         if ((data[0] >= 0x10) && (data[0] <= 0x12))
194                 return "<unsupported encoding>";
195
196         int bytesneeded=0, t=0, s=i;
197         
198         for (; i<len; ++i)
199         {
200                 unsigned long code=0;
201                 if ((table == 5) && ((data[i] == 0xC2) || (data[i] == 0xC8) || (data[i] == 0xCA) || (data[i] == 0xCD) || (data[i] == 0xCF)) && (i+1 < len))
202                                 // braindead czech encoding...
203                         if ((code=doCzech(data[i], data[i+1])))
204                                 ++i;
205                 if (!code)
206                         code=recode(data[i], table);
207                 if (!code)
208                         continue;
209                 if (code >= 0x10000)
210                         bytesneeded++;
211                 if (code >= 0x800)
212                         bytesneeded++;
213                 if (code >= 0x80)
214                         bytesneeded++;
215                 bytesneeded++;
216         }
217         
218         i=s;
219         
220         unsigned char res[bytesneeded];
221         
222         while (i < len)
223         {
224                 unsigned long code=0;
225                 if ((table == 5) && ((data[i] == 0xC2) || (data[i] == 0xC8) || (data[i] == 0xCA) || (data[i] == 0xCD) || (data[i] == 0xCF)) && (i+1 < len))
226                                 // braindead czech encoding...
227                         if ((code=doCzech(data[i], data[i+1])))
228                                 i+=2;
229                 if (!code)
230                         code=recode(data[i++], table);
231                 if (!code)
232                         continue;
233                                 // Unicode->UTF8 encoding
234                 if (code < 0x80) // identity ascii <-> utf8 mapping
235                         res[t++]=char(code);
236                 else if (code < 0x800) // two byte mapping
237                 {
238                         res[t++]=(code>>6)|0xC0;
239                         res[t++]=(code&0x3F)|0x80;
240                 } else if (code < 0x10000) // three bytes mapping
241                 {
242                         res[t++]=(code>>12)|0xE0;
243                         res[t++]=((code>>6)&0x3F)|0x80;
244                         res[t++]=(code&0x3F)|0x80;
245                 } else
246                 {
247                         res[t++]=(code>>18)|0xF0;
248                         res[t++]=((code>>12)&0x3F)|0x80;
249                         res[t++]=((code>>6)&0x3F)|0x80;
250                         res[t++]=(code&0x3F)|0x80;
251                 }
252         }
253         if ( t != bytesneeded)
254                 eFatal("t: %d, bytesneeded: %d", t, bytesneeded);
255         return std::string().assign((char*)res, t);
256 }
257
258 std::string convertUTF8DVB(const std::string &string)
259 {
260         std::string ss=std::string();
261         
262         int len=string.length();
263         for(int i=0;i<len;i++){
264                 unsigned char c1=string[i];
265                 unsigned int c;
266                 if(c1<0x80)
267                         c=c1;
268                 else{
269                         i++;
270                         unsigned char c2=string[i];
271                         c=((c1&0x3F)<<6) + (c2&0x3F);
272                 }
273                 // c = UNICODE
274                 // now search it in table
275                 if(c>=0x80){
276                         for(unsigned int j=0;j<128;j++){
277                                 if(c88599[j]==c){            // now only 8859-9 ....
278                                         c=0x80+j;
279                                         break;
280                                 }
281                         }
282                 }
283                 ss+=c;
284         }
285
286         return ss;
287 }
288
289 std::string convertLatin1UTF8(const std::string &string)
290 {
291         unsigned int bytesneeded=0, t=0, i;
292         
293         unsigned int len=string.size();
294         
295         for (i=0; i<len; ++i)
296         {
297                 unsigned long code=string[i];
298                 if (!code)
299                         continue;
300                 if (code >= 0x10000)
301                         bytesneeded++;
302                 if (code >= 0x800)
303                         bytesneeded++;
304                 if (code >= 0x80)
305                         bytesneeded++;
306                 bytesneeded++;
307         }
308         
309         i=0;
310         
311         unsigned char res[bytesneeded];
312         
313         while (i < len)
314         {
315                 unsigned long code=string[i++];
316                                 // Unicode->UTF8 encoding
317                 if (code < 0x80) // identity latin <-> utf8 mapping
318                         res[t++]=char(code);
319                 else if (code < 0x800) // two byte mapping
320                 {
321                         res[t++]=(code>>6)|0xC0;
322                         res[t++]=(code&0x3F)|0x80;
323                 } else if (code < 0x10000) // three bytes mapping
324                 {
325                         res[t++]=(code>>12)|0xE0;
326                         res[t++]=((code>>6)&0x3F)|0x80;
327                         res[t++]=(code&0x3F)|0x80;
328                 } else
329                 {
330                         res[t++]=(code>>18)|0xF0;
331                         res[t++]=((code>>12)&0x3F)|0x80;
332                         res[t++]=((code>>6)&0x3F)|0x80;
333                         res[t++]=(code&0x3F)|0x80;
334                 }
335         }
336         if ( t != bytesneeded)
337                 eFatal("t: %d, bytesneeded: %d", t, bytesneeded);
338         return std::string().assign((char*)res, t);
339 }
340
341 int isUTF8(const std::string &string)
342 {
343         unsigned int len=string.size();
344         
345         for (unsigned int i=0; i < len; ++i)
346         {
347                 if (!(string[i]&0x80)) // normal ASCII
348                         continue;
349                 if ((string[i] & 0xE0) == 0xC0) // one char following.
350                 {
351                                 // first, length check:
352                         if (i+1 >= len)
353                                 return 0; // certainly NOT utf-8
354                         i++;
355                         if ((string[i]&0xC0) != 0x80)
356                                 return 0; // no, not UTF-8.
357                 } else if ((string[i] & 0xF0) == 0xE0)
358                 {
359                         if ((i+1) >= len)
360                                 return 0;
361                         i++;
362                         if ((string[i]&0xC0) != 0x80)
363                                 return 0;
364                         i++;
365                         if ((string[i]&0xC0) != 0x80)
366                                 return 0;
367                 }
368         }
369         return 1; // can be UTF8 (or pure ASCII, at least no non-UTF-8 8bit characters)
370 }
371