tests/uniconv/test-u8-conv-from-enc.c

   1 /* Test of conversion to UTF-8 from legacy encodings.
   2    Copyright (C) 2007 Free Software Foundation, Inc.
   3
   4    This program is free software: you can redistribute it and/or modify
   5    it under the terms of the GNU General Public License as published by
   6    the Free Software Foundation; either version 3 of the License, or
   7    (at your option) any later version.
   8
   9    This program is distributed in the hope that it will be useful,
  10    but WITHOUT ANY WARRANTY; without even the implied warranty of
  11    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  12    GNU General Public License for more details.
  13
  14    You should have received a copy of the GNU General Public License
  15    along with this program.  If not, see <http://www.gnu.org/licenses/>.  */
  16
  17 /* Written by Bruno Haible <bruno@clisp.org>, 2007.  */
  18
  19 #include <config.h>
  20
  21 #include "uniconv.h"
  22
  23 #include <stdio.h>
  24 #include <stdlib.h>
  25 #include <string.h>
  26
  27 #include "unistr.h"
  28
  29 #define SIZEOF(array) (sizeof (array) / sizeof (array[0]))
  30 #define ASSERT(expr) \
  31   do                                                                         \
  32     {                                                                        \
  33       if (!(expr))                                                           \
  34         {                                                                    \
  35           fprintf (stderr, "%s:%d: assertion failed\n", __FILE__, __LINE__); \
  36           abort ();                                                          \
  37         }                                                                    \
  38     }                                                                        \
  39   while (0)
  40
  41 /* Magic number for detecting bounds violations.  */
  42 #define MAGIC 0x1983EFF1
  43
  44 static size_t *
  45 new_offsets (size_t n)
  46 {
  47   size_t *offsets = (size_t *) malloc ((n + 1) * sizeof (size_t));
  48   offsets[n] = MAGIC;
  49   return offsets;
  50 }
  51
  52 int
  53 main ()
  54 {
  55   static enum iconv_ilseq_handler handlers[] =
  56     { iconveh_error, iconveh_question_mark, iconveh_escape_sequence };
  57   size_t h;
  58   size_t o;
  59   size_t i;
  60
  61 #if HAVE_ICONV
  62   /* Assume that iconv() supports at least the encodings ASCII, ISO-8859-1,
  63      ISO-8859-2, and UTF-8.  */
  64
  65   /* Test conversion from ISO-8859-1 to UTF-8 with no errors.  */
  66   for (h = 0; h < SIZEOF (handlers); h++)
  67     {
  68       enum iconv_ilseq_handler handler = handlers[h];
  69       static const char input[] = "\304rger mit b\366sen B\374bchen ohne Augenma\337";
  70       static const uint8_t expected[] = "\303\204rger mit b\303\266sen B\303\274bchen ohne Augenma\303\237";
  71       for (o = 0; o < 2; o++)
  72         {
  73           size_t *offsets = (o ? new_offsets (strlen (input)) : NULL);
  74           uint8_t *result = NULL;
  75           size_t length = 0;
  76           int retval = u8_conv_from_encoding ("ISO-8859-1", handler,
  77                                               input, strlen (input),
  78                                               offsets,
  79                                               &result, &length);
  80           ASSERT (retval == 0);
  81           ASSERT (length == u8_strlen (expected));
  82           ASSERT (result != NULL && u8_cmp (result, expected, u8_strlen (expected)) == 0);
  83           if (o)
  84             {
  85               for (i = 0; i < 37; i++)
  86                 ASSERT (offsets[i] == (i < 1 ? i :
  87                                        i < 12 ? i + 1 :
  88                                        i < 18 ? i + 2 :
  89                                        i + 3));
  90               ASSERT (offsets[37] == MAGIC);
  91               free (offsets);
  92             }
  93           free (result);
  94         }
  95     }
  96
  97   /* Test conversion from ISO-8859-2 to UTF-8 with no errors.  */
  98   for (h = 0; h < SIZEOF (handlers); h++)
  99     {
 100       enum iconv_ilseq_handler handler = handlers[h];
 101       static const char input[] = "Rafa\263 Maszkowski"; /* Rafał Maszkowski */
 102       static const uint8_t expected[] = "Rafa\305\202 Maszkowski";
 103       for (o = 0; o < 2; o++)
 104         {
 105           size_t *offsets = (o ? new_offsets (strlen (input)) : NULL);
 106           uint8_t *result = NULL;
 107           size_t length = 0;
 108           int retval = u8_conv_from_encoding ("ISO-8859-2", handler,
 109                                               input, strlen (input),
 110                                               offsets,
 111                                               &result, &length);
 112           ASSERT (retval == 0);
 113           ASSERT (length == u8_strlen (expected));
 114           ASSERT (result != NULL && u8_cmp (result, expected, u8_strlen (expected)) == 0);
 115           if (o)
 116             {
 117               for (i = 0; i < 16; i++)
 118                 ASSERT (offsets[i] == (i < 5 ? i :
 119                                        i + 1));
 120               ASSERT (offsets[16] == MAGIC);
 121               free (offsets);
 122             }
 123           free (result);
 124         }
 125     }
 126
 127   /* autodetect_jp is only supported when iconv() support ISO-2022-JP-2.  */
 128 # if defined _LIBICONV_VERSION || !(defined _AIX || defined __sgi || defined __hpux || defined __osf__)
 129   /* Test conversions from autodetect_jp to UTF-8.  */
 130   for (h = 0; h < SIZEOF (handlers); h++)
 131     {
 132       enum iconv_ilseq_handler handler = handlers[h];
 133       static const char input[] = "\244\263\244\363\244\313\244\301\244\317"; /* こんにちは in EUC-JP */
 134       static const uint8_t expected[] = "\343\201\223\343\202\223\343\201\253\343\201\241\343\201\257"; /* こんにちは */
 135       for (o = 0; o < 2; o++)
 136         {
 137           size_t *offsets = (o ? new_offsets (strlen (input)) : NULL);
 138           uint8_t *result = NULL;
 139           size_t length = 0;
 140           int retval = u8_conv_from_encoding ("autodetect_jp", handler,
 141                                               input, strlen (input),
 142                                               offsets,
 143                                               &result, &length);
 144           ASSERT (retval == 0);
 145           ASSERT (length == u8_strlen (expected));
 146           ASSERT (result != NULL && u8_cmp (result, expected, u8_strlen (expected)) == 0);
 147           if (o)
 148             {
 149               for (i = 0; i < 10; i++)
 150                 ASSERT (offsets[i] == ((i % 2) == 0 ? (i / 2) * 3 : (size_t)(-1)));
 151               ASSERT (offsets[10] == MAGIC);
 152               free (offsets);
 153             }
 154           free (result);
 155         }
 156     }
 157   for (h = 0; h < SIZEOF (handlers); h++)
 158     {
 159       enum iconv_ilseq_handler handler = handlers[h];
 160       static const char input[] = "\202\261\202\361\202\311\202\277\202\315"; /* こんにちは in Shift_JIS */
 161       static const uint8_t expected[] = "\343\201\223\343\202\223\343\201\253\343\201\241\343\201\257"; /* こんにちは */
 162       for (o = 0; o < 2; o++)
 163         {
 164           size_t *offsets = (o ? new_offsets (strlen (input)) : NULL);
 165           uint8_t *result = NULL;
 166           size_t length = 0;
 167           int retval = u8_conv_from_encoding ("autodetect_jp", handler,
 168                                               input, strlen (input),
 169                                               offsets,
 170                                               &result, &length);
 171           ASSERT (retval == 0);
 172           ASSERT (length == u8_strlen (expected));
 173           ASSERT (result != NULL && u8_cmp (result, expected, u8_strlen (expected)) == 0);
 174           if (o)
 175             {
 176               for (i = 0; i < 10; i++)
 177                 ASSERT (offsets[i] == ((i % 2) == 0 ? (i / 2) * 3 : (size_t)(-1)));
 178               ASSERT (offsets[10] == MAGIC);
 179               free (offsets);
 180             }
 181           free (result);
 182         }
 183     }
 184   for (h = 0; h < SIZEOF (handlers); h++)
 185     {
 186       enum iconv_ilseq_handler handler = handlers[h];
 187       static const char input[] = "\033$B$3$s$K$A$O\033(B"; /* こんにちは in ISO-2022-JP-2 */
 188       static const uint8_t expected[] = "\343\201\223\343\202\223\343\201\253\343\201\241\343\201\257"; /* こんにちは */
 189       for (o = 0; o < 2; o++)
 190         {
 191           size_t *offsets = (o ? new_offsets (strlen (input)) : NULL);
 192           uint8_t *result = NULL;
 193           size_t length = 0;
 194           int retval = u8_conv_from_encoding ("autodetect_jp", handler,
 195                                               input, strlen (input),
 196                                               offsets,
 197                                               &result, &length);
 198           ASSERT (retval == 0);
 199           ASSERT (length == u8_strlen (expected));
 200           ASSERT (result != NULL && u8_cmp (result, expected, u8_strlen (expected)) == 0);
 201           if (o)
 202             {
 203               for (i = 0; i < 16; i++)
 204                 ASSERT (offsets[i] == (i == 0 ? 0 :
 205                                        i == 5 ? 3 :
 206                                        i == 7 ? 6 :
 207                                        i == 9 ? 9 :
 208                                        i == 11 ? 12 :
 209                                        i == 13 ? 15 :
 210                                        (size_t)(-1)));
 211               ASSERT (offsets[16] == MAGIC);
 212               free (offsets);
 213             }
 214           free (result);
 215         }
 216     }
 217 # endif
 218
 219 #endif
 220
 221   return 0;
 222 }