tests/uniconv/test-u16-conv-from-enc.c

   1 /* Test of conversion to UTF-16 from legacy encodings.
   2    Copyright (C) 2007-2009 Free Software Foundation, Inc.
   3
   4    This program is free software: you can redistribute it and/or modify
   5    it under the terms of the GNU General Public License as published by
   6    the Free Software Foundation; either version 3 of the License, or
   7    (at your option) any later version.
   8
   9    This program is distributed in the hope that it will be useful,
  10    but WITHOUT ANY WARRANTY; without even the implied warranty of
  11    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  12    GNU General Public License for more details.
  13
  14    You should have received a copy of the GNU General Public License
  15    along with this program.  If not, see <http://www.gnu.org/licenses/>.  */
  16
  17 /* Written by Bruno Haible <bruno@clisp.org>, 2007.  */
  18
  19 #include <config.h>
  20
  21 #include "uniconv.h"
  22
  23 #include <stdio.h>
  24 #include <stdlib.h>
  25 #include <string.h>
  26
  27 #include "unistr.h"
  28
  29 #define SIZEOF(array) (sizeof (array) / sizeof (array[0]))
  30 #define ASSERT(expr) \
  31   do                                                                         \
  32     {                                                                        \
  33       if (!(expr))                                                           \
  34         {                                                                    \
  35           fprintf (stderr, "%s:%d: assertion failed\n", __FILE__, __LINE__); \
  36           fflush (stderr);                                                   \
  37           abort ();                                                          \
  38         }                                                                    \
  39     }                                                                        \
  40   while (0)
  41
  42 /* Magic number for detecting bounds violations.  */
  43 #define MAGIC 0x1983EFF1
  44
  45 static size_t *
  46 new_offsets (size_t n)
  47 {
  48   size_t *offsets = (size_t *) malloc ((n + 1) * sizeof (size_t));
  49   offsets[n] = MAGIC;
  50   return offsets;
  51 }
  52
  53 int
  54 main ()
  55 {
  56   static enum iconv_ilseq_handler handlers[] =
  57     { iconveh_error, iconveh_question_mark, iconveh_escape_sequence };
  58   size_t h;
  59   size_t o;
  60   size_t i;
  61
  62 #if HAVE_ICONV
  63   /* Assume that iconv() supports at least the encodings ASCII, ISO-8859-1,
  64      ISO-8859-2, and UTF-8.  */
  65
  66   /* Test conversion from ISO-8859-1 to UTF-16 with no errors.  */
  67   for (h = 0; h < SIZEOF (handlers); h++)
  68     {
  69       enum iconv_ilseq_handler handler = handlers[h];
  70       static const char input[] = "\304rger mit b\366sen B\374bchen ohne Augenma\337";
  71       static const uint16_t expected[] = /* Ärger mit bösen Bübchen ohne Augenmaß */
  72         {
  73           0xC4, 'r', 'g', 'e', 'r', ' ', 'm', 'i', 't', ' ', 'b', 0xF6, 's',
  74           'e', 'n', ' ', 'B', 0xFC, 'b', 'c', 'h', 'e', 'n', ' ', 'o', 'h',
  75           'n', 'e', ' ', 'A', 'u', 'g', 'e', 'n', 'm', 'a', 0xDF
  76         };
  77       for (o = 0; o < 2; o++)
  78         {
  79           size_t *offsets = (o ? new_offsets (strlen (input)) : NULL);
  80           size_t length;
  81           uint16_t *result = u16_conv_from_encoding ("ISO-8859-1", handler,
  82                                                      input, strlen (input),
  83                                                      offsets,
  84                                                      NULL, &length);
  85           ASSERT (result != NULL);
  86           ASSERT (length == SIZEOF (expected));
  87           ASSERT (u16_cmp (result, expected, SIZEOF (expected)) == 0);
  88           if (o)
  89             {
  90               for (i = 0; i < 37; i++)
  91                 ASSERT (offsets[i] == i);
  92               ASSERT (offsets[37] == MAGIC);
  93               free (offsets);
  94             }
  95           free (result);
  96         }
  97     }
  98
  99   /* Test conversion from ISO-8859-2 to UTF-16 with no errors.  */
 100   for (h = 0; h < SIZEOF (handlers); h++)
 101     {
 102       enum iconv_ilseq_handler handler = handlers[h];
 103       static const char input[] = "Rafa\263 Maszkowski"; /* Rafał Maszkowski */
 104       static const uint16_t expected[] =
 105         {
 106           'R', 'a', 'f', 'a', 0x0142, ' ', 'M', 'a', 's', 'z', 'k', 'o', 'w',
 107           's', 'k', 'i'
 108         };
 109       for (o = 0; o < 2; o++)
 110         {
 111           size_t *offsets = (o ? new_offsets (strlen (input)) : NULL);
 112           size_t length;
 113           uint16_t *result = u16_conv_from_encoding ("ISO-8859-2", handler,
 114                                                      input, strlen (input),
 115                                                      offsets,
 116                                                      NULL, &length);
 117           ASSERT (result != NULL);
 118           ASSERT (length == SIZEOF (expected));
 119           ASSERT (u16_cmp (result, expected, SIZEOF (expected)) == 0);
 120           if (o)
 121             {
 122               for (i = 0; i < 16; i++)
 123                 ASSERT (offsets[i] == i);
 124               ASSERT (offsets[16] == MAGIC);
 125               free (offsets);
 126             }
 127           free (result);
 128         }
 129     }
 130
 131   /* autodetect_jp is only supported when iconv() support ISO-2022-JP-2.  */
 132 # if defined _LIBICONV_VERSION || !(defined _AIX || defined __sgi || defined __hpux || defined __osf__ || defined __sun)
 133   /* Test conversions from autodetect_jp to UTF-16.  */
 134   for (h = 0; h < SIZEOF (handlers); h++)
 135     {
 136       enum iconv_ilseq_handler handler = handlers[h];
 137       static const char input[] = "\244\263\244\363\244\313\244\301\244\317"; /* こんにちは in EUC-JP */
 138       static const uint16_t expected[] = /* こんにちは */
 139         {
 140           0x3053, 0x3093, 0x306B, 0x3061, 0x306F
 141         };
 142       for (o = 0; o < 2; o++)
 143         {
 144           size_t *offsets = (o ? new_offsets (strlen (input)) : NULL);
 145           size_t length;
 146           uint16_t *result = u16_conv_from_encoding ("autodetect_jp", handler,
 147                                                      input, strlen (input),
 148                                                      offsets,
 149                                                      NULL, &length);
 150           ASSERT (result != NULL);
 151           ASSERT (length == SIZEOF (expected));
 152           ASSERT (u16_cmp (result, expected, SIZEOF (expected)) == 0);
 153           if (o)
 154             {
 155               for (i = 0; i < 10; i++)
 156                 ASSERT (offsets[i] == ((i % 2) == 0 ? i / 2 : (size_t)(-1)));
 157               ASSERT (offsets[10] == MAGIC);
 158               free (offsets);
 159             }
 160           free (result);
 161         }
 162     }
 163   for (h = 0; h < SIZEOF (handlers); h++)
 164     {
 165       enum iconv_ilseq_handler handler = handlers[h];
 166       static const char input[] = "\202\261\202\361\202\311\202\277\202\315"; /* こんにちは in Shift_JIS */
 167       static const uint16_t expected[] = /* こんにちは */
 168         {
 169           0x3053, 0x3093, 0x306B, 0x3061, 0x306F
 170         };
 171       for (o = 0; o < 2; o++)
 172         {
 173           size_t *offsets = (o ? new_offsets (strlen (input)) : NULL);
 174           size_t length;
 175           uint16_t *result = u16_conv_from_encoding ("autodetect_jp", handler,
 176                                                      input, strlen (input),
 177                                                      offsets,
 178                                                      NULL, &length);
 179           ASSERT (result != NULL);
 180           ASSERT (length == SIZEOF (expected));
 181           ASSERT (u16_cmp (result, expected, SIZEOF (expected)) == 0);
 182           if (o)
 183             {
 184               for (i = 0; i < 10; i++)
 185                 ASSERT (offsets[i] == ((i % 2) == 0 ? i / 2 : (size_t)(-1)));
 186               ASSERT (offsets[10] == MAGIC);
 187               free (offsets);
 188             }
 189           free (result);
 190         }
 191     }
 192   for (h = 0; h < SIZEOF (handlers); h++)
 193     {
 194       enum iconv_ilseq_handler handler = handlers[h];
 195       static const char input[] = "\033$B$3$s$K$A$O\033(B"; /* こんにちは in ISO-2022-JP-2 */
 196       static const uint16_t expected[] = /* こんにちは */
 197         {
 198           0x3053, 0x3093, 0x306B, 0x3061, 0x306F
 199         };
 200       for (o = 0; o < 2; o++)
 201         {
 202           size_t *offsets = (o ? new_offsets (strlen (input)) : NULL);
 203           size_t length;
 204           uint16_t *result = u16_conv_from_encoding ("autodetect_jp", handler,
 205                                                      input, strlen (input),
 206                                                      offsets,
 207                                                      NULL, &length);
 208           ASSERT (result != NULL);
 209           ASSERT (length == SIZEOF (expected));
 210           ASSERT (u16_cmp (result, expected, SIZEOF (expected)) == 0);
 211           if (o)
 212             {
 213               for (i = 0; i < 16; i++)
 214                 ASSERT (offsets[i] == (i == 0 ? 0 :
 215                                        i == 5 ? 1 :
 216                                        i == 7 ? 2 :
 217                                        i == 9 ? 3 :
 218                                        i == 11 ? 4 :
 219                                        i == 13 ? 5 :
 220                                        (size_t)(-1)));
 221               ASSERT (offsets[16] == MAGIC);
 222               free (offsets);
 223             }
 224           free (result);
 225         }
 226     }
 227 # endif
 228
 229 #endif
 230
 231   return 0;
 232 }