tests/uninorm/test-u16-nfkd.c

   1 /* Test of compatibility decomposition of UTF-16 strings.
   2    Copyright (C) 2009 Free Software Foundation, Inc.
   3
   4    This program is free software: you can redistribute it and/or modify
   5    it under the terms of the GNU General Public License as published by
   6    the Free Software Foundation; either version 3 of the License, or
   7    (at your option) any later version.
   8
   9    This program is distributed in the hope that it will be useful,
  10    but WITHOUT ANY WARRANTY; without even the implied warranty of
  11    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  12    GNU General Public License for more details.
  13
  14    You should have received a copy of the GNU General Public License
  15    along with this program.  If not, see <http://www.gnu.org/licenses/>.  */
  16
  17 /* Written by Bruno Haible <bruno@clisp.org>, 2009.  */
  18
  19 #include <config.h>
  20
  21 #if GNULIB_UNINORM_U16_NORMALIZE
  22
  23 #include "uninorm.h"
  24
  25 #include <signal.h>
  26 #include <stdio.h>
  27 #include <stdlib.h>
  28 #include <unistd.h>
  29
  30 #include "unistr.h"
  31
  32 #define SIZEOF(array) (sizeof (array) / sizeof (array[0]))
  33 #define ASSERT(expr) \
  34   do                                                                         \
  35     {                                                                        \
  36       if (!(expr))                                                           \
  37         {                                                                    \
  38           fprintf (stderr, "%s:%d: assertion failed\n", __FILE__, __LINE__); \
  39           fflush (stderr);                                                   \
  40           abort ();                                                          \
  41         }                                                                    \
  42     }                                                                        \
  43   while (0)
  44
  45 static int
  46 check (const uint16_t *input, size_t input_length,
  47        const uint16_t *expected, size_t expected_length)
  48 {
  49   size_t length;
  50   uint16_t *result;
  51
  52   /* Test return conventions with resultbuf == NULL.  */
  53   result = u16_normalize (UNINORM_NFKD, input, input_length, NULL, &length);
  54   if (!(result != NULL))
  55     return 1;
  56   if (!(length == expected_length))
  57     return 2;
  58   if (!(u16_cmp (result, expected, expected_length) == 0))
  59     return 3;
  60   free (result);
  61
  62   /* Test return conventions with resultbuf too small.  */
  63   if (expected_length > 0)
  64     {
  65       uint16_t *preallocated;
  66
  67       length = expected_length - 1;
  68       preallocated = (uint16_t *) malloc (length * sizeof (uint16_t));
  69       result = u16_normalize (UNINORM_NFKD, input, input_length, preallocated, &length);
  70       if (!(result != NULL))
  71         return 4;
  72       if (!(result != preallocated))
  73         return 5;
  74       if (!(length == expected_length))
  75         return 6;
  76       if (!(u16_cmp (result, expected, expected_length) == 0))
  77         return 7;
  78       free (result);
  79       free (preallocated);
  80     }
  81
  82   /* Test return conventions with resultbuf large enough.  */
  83   {
  84     uint16_t *preallocated;
  85
  86     length = expected_length;
  87     preallocated = (uint16_t *) malloc (length * sizeof (uint16_t));
  88     result = u16_normalize (UNINORM_NFKD, input, input_length, preallocated, &length);
  89     if (!(result != NULL))
  90       return 8;
  91     if (!(preallocated == NULL || result == preallocated))
  92       return 9;
  93     if (!(length == expected_length))
  94       return 10;
  95     if (!(u16_cmp (result, expected, expected_length) == 0))
  96       return 11;
  97     free (preallocated);
  98   }
  99
 100   return 0;
 101 }
 102
 103 void
 104 test_u16_nfkd (void)
 105 {
 106   { /* Empty string.  */
 107     ASSERT (check (NULL, 0, NULL, 0) == 0);
 108   }
 109   { /* SPACE */
 110     static const uint16_t input[]    = { 0x0020 };
 111     ASSERT (check (input, SIZEOF (input), input, SIZEOF (input)) == 0);
 112   }
 113
 114   { /* LATIN CAPITAL LETTER A WITH DIAERESIS */
 115     static const uint16_t input[]    = { 0x00C4 };
 116     static const uint16_t expected[] = { 0x0041, 0x0308 };
 117     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 118   }
 119
 120   { /* LATIN CAPITAL LETTER A WITH DIAERESIS AND MACRON */
 121     static const uint16_t input[]    = { 0x01DE };
 122     static const uint16_t expected[] = { 0x0041, 0x0308, 0x0304 };
 123     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 124   }
 125
 126   { /* GREEK DIALYTIKA AND PERISPOMENI */
 127     static const uint16_t input[]    = { 0x1FC1 };
 128     static const uint16_t expected[] = { 0x0020, 0x0308, 0x0342 };
 129     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 130   }
 131
 132   { /* SCRIPT SMALL L */
 133     static const uint16_t input[]    = { 0x2113 };
 134     static const uint16_t expected[] = { 0x006C };
 135     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 136   }
 137
 138   { /* NO-BREAK SPACE */
 139     static const uint16_t input[]    = { 0x00A0 };
 140     static const uint16_t expected[] = { 0x0020 };
 141     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 142   }
 143
 144   { /* ARABIC LETTER VEH INITIAL FORM */
 145     static const uint16_t input[]    = { 0xFB6C };
 146     static const uint16_t expected[] = { 0x06A4 };
 147     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 148   }
 149
 150   { /* ARABIC LETTER VEH MEDIAL FORM */
 151     static const uint16_t input[]    = { 0xFB6D };
 152     static const uint16_t expected[] = { 0x06A4 };
 153     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 154   }
 155
 156   { /* ARABIC LETTER VEH FINAL FORM */
 157     static const uint16_t input[]    = { 0xFB6B };
 158     static const uint16_t expected[] = { 0x06A4 };
 159     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 160   }
 161
 162   { /* ARABIC LETTER VEH ISOLATED FORM */
 163     static const uint16_t input[]    = { 0xFB6A };
 164     static const uint16_t expected[] = { 0x06A4 };
 165     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 166   }
 167
 168   { /* CIRCLED NUMBER FIFTEEN */
 169     static const uint16_t input[]    = { 0x246E };
 170     static const uint16_t expected[] = { 0x0031, 0x0035 };
 171     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 172   }
 173
 174   { /* TRADE MARK SIGN */
 175     static const uint16_t input[]    = { 0x2122 };
 176     static const uint16_t expected[] = { 0x0054, 0x004D };
 177     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 178   }
 179
 180   { /* LATIN SUBSCRIPT SMALL LETTER I */
 181     static const uint16_t input[]    = { 0x1D62 };
 182     static const uint16_t expected[] = { 0x0069 };
 183     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 184   }
 185
 186   { /* PRESENTATION FORM FOR VERTICAL LEFT PARENTHESIS */
 187     static const uint16_t input[]    = { 0xFE35 };
 188     static const uint16_t expected[] = { 0x0028 };
 189     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 190   }
 191
 192   { /* FULLWIDTH LATIN CAPITAL LETTER A */
 193     static const uint16_t input[]    = { 0xFF21 };
 194     static const uint16_t expected[] = { 0x0041 };
 195     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 196   }
 197
 198   { /* HALFWIDTH IDEOGRAPHIC COMMA */
 199     static const uint16_t input[]    = { 0xFF64 };
 200     static const uint16_t expected[] = { 0x3001 };
 201     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 202   }
 203
 204   { /* SMALL IDEOGRAPHIC COMMA */
 205     static const uint16_t input[]    = { 0xFE51 };
 206     static const uint16_t expected[] = { 0x3001 };
 207     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 208   }
 209
 210   { /* SQUARE MHZ */
 211     static const uint16_t input[]    = { 0x3392 };
 212     static const uint16_t expected[] = { 0x004D, 0x0048, 0x007A };
 213     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 214   }
 215
 216   { /* VULGAR FRACTION THREE EIGHTHS */
 217     static const uint16_t input[]    = { 0x215C };
 218     static const uint16_t expected[] = { 0x0033, 0x2044, 0x0038 };
 219     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 220   }
 221
 222   { /* MICRO SIGN */
 223     static const uint16_t input[]    = { 0x00B5 };
 224     static const uint16_t expected[] = { 0x03BC };
 225     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 226   }
 227
 228   { /* ARABIC LIGATURE SALLALLAHOU ALAYHE WASALLAM */
 229     static const uint16_t input[]    = { 0xFDFA };
 230     static const uint16_t expected[] =
 231       { 0x0635, 0x0644, 0x0649, 0x0020, 0x0627, 0x0644, 0x0644, 0x0647, 0x0020,
 232         0x0639, 0x0644, 0x064A, 0x0647, 0x0020, 0x0648, 0x0633, 0x0644, 0x0645
 233       };
 234     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 235   }
 236
 237   { /* HANGUL SYLLABLE GEUL */
 238     static const uint16_t input[]    = { 0xAE00 };
 239     static const uint16_t expected[] = { 0x1100, 0x1173, 0x11AF };
 240     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 241   }
 242
 243   { /* HANGUL SYLLABLE GEU */
 244     static const uint16_t input[]    = { 0xADF8 };
 245     static const uint16_t expected[] = { 0x1100, 0x1173 };
 246     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 247   }
 248
 249   { /* "Grüß Gott. Здравствуйте! x=(-b±sqrt(b²-4ac))/(2a)  日本語,中文,한글" */
 250     static const uint16_t input[] =
 251       { 'G', 'r', 0x00FC, 0x00DF, ' ', 'G', 'o', 't', 't', '.', ' ',
 252         0x0417, 0x0434, 0x0440, 0x0430, 0x0432, 0x0441, 0x0442, 0x0432, 0x0443,
 253         0x0439, 0x0442, 0x0435, '!', ' ',
 254         'x', '=', '(', '-', 'b', 0x00B1, 's', 'q', 'r', 't', '(', 'b', 0x00B2,
 255         '-', '4', 'a', 'c', ')', ')', '/', '(', '2', 'a', ')', ' ', ' ',
 256         0x65E5, 0x672C, 0x8A9E, ',', 0x4E2D, 0x6587, ',', 0xD55C, 0xAE00, '\n'
 257       };
 258     static const uint16_t expected[] =
 259       { 'G', 'r', 0x0075, 0x0308, 0x00DF, ' ', 'G', 'o', 't', 't', '.', ' ',
 260         0x0417, 0x0434, 0x0440, 0x0430, 0x0432, 0x0441, 0x0442, 0x0432, 0x0443,
 261         0x0438, 0x0306, 0x0442, 0x0435, '!', ' ',
 262         'x', '=', '(', '-', 'b', 0x00B1, 's', 'q', 'r', 't', '(', 'b', 0x0032,
 263         '-', '4', 'a', 'c', ')', ')', '/', '(', '2', 'a', ')', ' ', ' ',
 264         0x65E5, 0x672C, 0x8A9E, ',', 0x4E2D, 0x6587, ',',
 265         0x1112, 0x1161, 0x11AB, 0x1100, 0x1173, 0x11AF, '\n'
 266       };
 267     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 268   }
 269
 270 #if HAVE_DECL_ALARM
 271   /* Declare failure if test takes too long, by using default abort
 272      caused by SIGALRM.  */
 273   signal (SIGALRM, SIG_DFL);
 274   alarm (50);
 275 #endif
 276
 277   /* Check that the sorting is not O(n²) but O(n log n).  */
 278   {
 279     int pass;
 280     for (pass = 0; pass < 3; pass++)
 281       {
 282         size_t repeat = 1;
 283         size_t m = 100000;
 284         uint16_t *input = (uint16_t *) malloc (2 * m * sizeof (uint16_t));
 285         if (input != NULL)
 286           {
 287             uint16_t *expected = input + m;
 288             size_t m1 = m / 2;
 289             size_t m2 = (m - 1) / 2;
 290             /* NB: m1 + m2 == m - 1.  */
 291             uint16_t *p;
 292             size_t i;
 293
 294             input[0] = 0x0041;
 295             p = input + 1;
 296             switch (pass)
 297               {
 298               case 0:
 299                 for (i = 0; i < m1; i++)
 300                   *p++ = 0x0319;
 301                 for (i = 0; i < m2; i++)
 302                   *p++ = 0x0300;
 303                 break;
 304
 305               case 1:
 306                 for (i = 0; i < m2; i++)
 307                   *p++ = 0x0300;
 308                 for (i = 0; i < m1; i++)
 309                   *p++ = 0x0319;
 310                 break;
 311
 312               case 2:
 313                 for (i = 0; i < m2; i++)
 314                   {
 315                     *p++ = 0x0319;
 316                     *p++ = 0x0300;
 317                   }
 318                 for (; i < m1; i++)
 319                   *p++ = 0x0319;
 320                 break;
 321
 322               default:
 323                 abort ();
 324               }
 325
 326             expected[0] = 0x0041;
 327             p = expected + 1;
 328             for (i = 0; i < m1; i++)
 329               *p++ = 0x0319;
 330             for (i = 0; i < m2; i++)
 331               *p++ = 0x0300;
 332
 333             for (; repeat > 0; repeat--)
 334               ASSERT (check (input, m, expected, m) == 0);
 335
 336             free (input);
 337           }
 338       }
 339   }
 340 }
 341
 342 #else
 343
 344 void
 345 test_u16_nfkd (void)
 346 {
 347 }
 348
 349 #endif