tests/uninorm/test-u16-nfkd.c

   1 /* Test of compatibility decomposition of UTF-16 strings.
   2    Copyright (C) 2009 Free Software Foundation, Inc.
   3
   4    This program is free software: you can redistribute it and/or modify
   5    it under the terms of the GNU General Public License as published by
   6    the Free Software Foundation; either version 3 of the License, or
   7    (at your option) any later version.
   8
   9    This program is distributed in the hope that it will be useful,
  10    but WITHOUT ANY WARRANTY; without even the implied warranty of
  11    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  12    GNU General Public License for more details.
  13
  14    You should have received a copy of the GNU General Public License
  15    along with this program.  If not, see <http://www.gnu.org/licenses/>.  */
  16
  17 /* Written by Bruno Haible <bruno@clisp.org>, 2009.  */
  18
  19 #include <config.h>
  20
  21 #if GNULIB_UNINORM_U16_NORMALIZE
  22
  23 #include "uninorm.h"
  24
  25 #include <signal.h>
  26 #include <stdio.h>
  27 #include <stdlib.h>
  28 #include <unistd.h>
  29
  30 #include "unistr.h"
  31
  32 #define SIZEOF(array) (sizeof (array) / sizeof (array[0]))
  33 #define ASSERT(expr) \
  34   do                                                                         \
  35     {                                                                        \
  36       if (!(expr))                                                           \
  37         {                                                                    \
  38           fprintf (stderr, "%s:%d: assertion failed\n", __FILE__, __LINE__); \
  39           fflush (stderr);                                                   \
  40           abort ();                                                          \
  41         }                                                                    \
  42     }                                                                        \
  43   while (0)
  44
  45 static int
  46 check (const uint16_t *input, size_t input_length,
  47        const uint16_t *expected, size_t expected_length)
  48 {
  49   size_t length;
  50   uint16_t *result;
  51
  52   /* Test return conventions with resultbuf == NULL.  */
  53   result = u16_normalize (UNINORM_NFKD, input, input_length, NULL, &length);
  54   if (!(result != NULL))
  55     return 1;
  56   if (!(length == expected_length))
  57     return 2;
  58   if (!(u16_cmp (result, expected, expected_length) == 0))
  59     return 3;
  60   free (result);
  61
  62   /* Test return conventions with resultbuf too small.  */
  63   if (expected_length > 0)
  64     {
  65       uint16_t *preallocated;
  66
  67       length = expected_length - 1;
  68       preallocated = (uint16_t *) malloc (length * sizeof (uint16_t));
  69       result = u16_normalize (UNINORM_NFKD, input, input_length, preallocated, &length);
  70       if (!(result != NULL))
  71         return 4;
  72       if (!(result != preallocated))
  73         return 5;
  74       if (!(length == expected_length))
  75         return 6;
  76       if (!(u16_cmp (result, expected, expected_length) == 0))
  77         return 7;
  78       free (result);
  79       free (preallocated);
  80     }
  81
  82   /* Test return conventions with resultbuf large enough.  */
  83   {
  84     uint16_t *preallocated;
  85
  86     length = expected_length;
  87     preallocated = (uint16_t *) malloc (length * sizeof (uint16_t));
  88     result = u16_normalize (UNINORM_NFKD, input, input_length, preallocated, &length);
  89     if (!(result != NULL))
  90       return 8;
  91     if (!(result == preallocated))
  92       return 9;
  93     if (!(length == expected_length))
  94       return 10;
  95     if (!(u16_cmp (result, expected, expected_length) == 0))
  96       return 11;
  97     free (preallocated);
  98   }
  99
 100   return 0;
 101 }
 102
 103 void
 104 test_u16_nfkd (void)
 105 {
 106   { /* SPACE */
 107     static const uint16_t input[]    = { 0x0020 };
 108     ASSERT (check (input, SIZEOF (input), input, SIZEOF (input)) == 0);
 109   }
 110
 111   { /* LATIN CAPITAL LETTER A WITH DIAERESIS */
 112     static const uint16_t input[]    = { 0x00C4 };
 113     static const uint16_t expected[] = { 0x0041, 0x0308 };
 114     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 115   }
 116
 117   { /* LATIN CAPITAL LETTER A WITH DIAERESIS AND MACRON */
 118     static const uint16_t input[]    = { 0x01DE };
 119     static const uint16_t expected[] = { 0x0041, 0x0308, 0x0304 };
 120     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 121   }
 122
 123   { /* GREEK DIALYTIKA AND PERISPOMENI */
 124     static const uint16_t input[]    = { 0x1FC1 };
 125     static const uint16_t expected[] = { 0x0020, 0x0308, 0x0342 };
 126     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 127   }
 128
 129   { /* SCRIPT SMALL L */
 130     static const uint16_t input[]    = { 0x2113 };
 131     static const uint16_t expected[] = { 0x006C };
 132     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 133   }
 134
 135   { /* NO-BREAK SPACE */
 136     static const uint16_t input[]    = { 0x00A0 };
 137     static const uint16_t expected[] = { 0x0020 };
 138     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 139   }
 140
 141   { /* ARABIC LETTER VEH INITIAL FORM */
 142     static const uint16_t input[]    = { 0xFB6C };
 143     static const uint16_t expected[] = { 0x06A4 };
 144     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 145   }
 146
 147   { /* ARABIC LETTER VEH MEDIAL FORM */
 148     static const uint16_t input[]    = { 0xFB6D };
 149     static const uint16_t expected[] = { 0x06A4 };
 150     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 151   }
 152
 153   { /* ARABIC LETTER VEH FINAL FORM */
 154     static const uint16_t input[]    = { 0xFB6B };
 155     static const uint16_t expected[] = { 0x06A4 };
 156     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 157   }
 158
 159   { /* ARABIC LETTER VEH ISOLATED FORM */
 160     static const uint16_t input[]    = { 0xFB6A };
 161     static const uint16_t expected[] = { 0x06A4 };
 162     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 163   }
 164
 165   { /* CIRCLED NUMBER FIFTEEN */
 166     static const uint16_t input[]    = { 0x246E };
 167     static const uint16_t expected[] = { 0x0031, 0x0035 };
 168     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 169   }
 170
 171   { /* TRADE MARK SIGN */
 172     static const uint16_t input[]    = { 0x2122 };
 173     static const uint16_t expected[] = { 0x0054, 0x004D };
 174     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 175   }
 176
 177   { /* LATIN SUBSCRIPT SMALL LETTER I */
 178     static const uint16_t input[]    = { 0x1D62 };
 179     static const uint16_t expected[] = { 0x0069 };
 180     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 181   }
 182
 183   { /* PRESENTATION FORM FOR VERTICAL LEFT PARENTHESIS */
 184     static const uint16_t input[]    = { 0xFE35 };
 185     static const uint16_t expected[] = { 0x0028 };
 186     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 187   }
 188
 189   { /* FULLWIDTH LATIN CAPITAL LETTER A */
 190     static const uint16_t input[]    = { 0xFF21 };
 191     static const uint16_t expected[] = { 0x0041 };
 192     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 193   }
 194
 195   { /* HALFWIDTH IDEOGRAPHIC COMMA */
 196     static const uint16_t input[]    = { 0xFF64 };
 197     static const uint16_t expected[] = { 0x3001 };
 198     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 199   }
 200
 201   { /* SMALL IDEOGRAPHIC COMMA */
 202     static const uint16_t input[]    = { 0xFE51 };
 203     static const uint16_t expected[] = { 0x3001 };
 204     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 205   }
 206
 207   { /* SQUARE MHZ */
 208     static const uint16_t input[]    = { 0x3392 };
 209     static const uint16_t expected[] = { 0x004D, 0x0048, 0x007A };
 210     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 211   }
 212
 213   { /* VULGAR FRACTION THREE EIGHTHS */
 214     static const uint16_t input[]    = { 0x215C };
 215     static const uint16_t expected[] = { 0x0033, 0x2044, 0x0038 };
 216     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 217   }
 218
 219   { /* MICRO SIGN */
 220     static const uint16_t input[]    = { 0x00B5 };
 221     static const uint16_t expected[] = { 0x03BC };
 222     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 223   }
 224
 225   { /* ARABIC LIGATURE SALLALLAHOU ALAYHE WASALLAM */
 226     static const uint16_t input[]    = { 0xFDFA };
 227     static const uint16_t expected[] =
 228       { 0x0635, 0x0644, 0x0649, 0x0020, 0x0627, 0x0644, 0x0644, 0x0647, 0x0020,
 229         0x0639, 0x0644, 0x064A, 0x0647, 0x0020, 0x0648, 0x0633, 0x0644, 0x0645
 230       };
 231     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 232   }
 233
 234   { /* HANGUL SYLLABLE GEUL */
 235     static const uint16_t input[]    = { 0xAE00 };
 236     static const uint16_t expected[] = { 0x1100, 0x1173, 0x11AF };
 237     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 238   }
 239
 240   { /* HANGUL SYLLABLE GEU */
 241     static const uint16_t input[]    = { 0xADF8 };
 242     static const uint16_t expected[] = { 0x1100, 0x1173 };
 243     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 244   }
 245
 246   { /* "Grüß Gott. Здравствуйте! x=(-b±sqrt(b²-4ac))/(2a)  日本語,中文,한글" */
 247     static const uint16_t input[] =
 248       { 'G', 'r', 0x00FC, 0x00DF, ' ', 'G', 'o', 't', 't', '.', ' ',
 249         0x0417, 0x0434, 0x0440, 0x0430, 0x0432, 0x0441, 0x0442, 0x0432, 0x0443,
 250         0x0439, 0x0442, 0x0435, '!', ' ',
 251         'x', '=', '(', '-', 'b', 0x00B1, 's', 'q', 'r', 't', '(', 'b', 0x00B2,
 252         '-', '4', 'a', 'c', ')', ')', '/', '(', '2', 'a', ')', ' ', ' ',
 253         0x65E5, 0x672C, 0x8A9E, ',', 0x4E2D, 0x6587, ',', 0xD55C, 0xAE00, '\n'
 254       };
 255     static const uint16_t expected[] =
 256       { 'G', 'r', 0x0075, 0x0308, 0x00DF, ' ', 'G', 'o', 't', 't', '.', ' ',
 257         0x0417, 0x0434, 0x0440, 0x0430, 0x0432, 0x0441, 0x0442, 0x0432, 0x0443,
 258         0x0438, 0x0306, 0x0442, 0x0435, '!', ' ',
 259         'x', '=', '(', '-', 'b', 0x00B1, 's', 'q', 'r', 't', '(', 'b', 0x0032,
 260         '-', '4', 'a', 'c', ')', ')', '/', '(', '2', 'a', ')', ' ', ' ',
 261         0x65E5, 0x672C, 0x8A9E, ',', 0x4E2D, 0x6587, ',',
 262         0x1112, 0x1161, 0x11AB, 0x1100, 0x1173, 0x11AF, '\n'
 263       };
 264     ASSERT (check (input, SIZEOF (input), expected, SIZEOF (expected)) == 0);
 265   }
 266
 267 #if HAVE_DECL_ALARM
 268   /* Declare failure if test takes too long, by using default abort
 269      caused by SIGALRM.  */
 270   signal (SIGALRM, SIG_DFL);
 271   alarm (50);
 272 #endif
 273
 274   /* Check that the sorting is not O(n²) but O(n log n).  */
 275   {
 276     int pass;
 277     for (pass = 0; pass < 3; pass++)
 278       {
 279         size_t repeat = 1;
 280         size_t m = 100000;
 281         uint16_t *input = (uint16_t *) malloc (2 * m * sizeof (uint16_t));
 282         if (input != NULL)
 283           {
 284             uint16_t *expected = input + m;
 285             size_t m1 = m / 2;
 286             size_t m2 = (m - 1) / 2;
 287             /* NB: m1 + m2 == m - 1.  */
 288             uint16_t *p;
 289             size_t i;
 290
 291             input[0] = 0x0041;
 292             p = input + 1;
 293             switch (pass)
 294               {
 295               case 0:
 296                 for (i = 0; i < m1; i++)
 297                   *p++ = 0x0319;
 298                 for (i = 0; i < m2; i++)
 299                   *p++ = 0x0300;
 300                 break;
 301
 302               case 1:
 303                 for (i = 0; i < m2; i++)
 304                   *p++ = 0x0300;
 305                 for (i = 0; i < m1; i++)
 306                   *p++ = 0x0319;
 307                 break;
 308
 309               case 2:
 310                 for (i = 0; i < m2; i++)
 311                   {
 312                     *p++ = 0x0319;
 313                     *p++ = 0x0300;
 314                   }
 315                 for (; i < m1; i++)
 316                   *p++ = 0x0319;
 317                 break;
 318
 319               default:
 320                 abort ();
 321               }
 322
 323             expected[0] = 0x0041;
 324             p = expected + 1;
 325             for (i = 0; i < m1; i++)
 326               *p++ = 0x0319;
 327             for (i = 0; i < m2; i++)
 328               *p++ = 0x0300;
 329
 330             for (; repeat > 0; repeat--)
 331               ASSERT (check (input, m, expected, m) == 0);
 332
 333             free (input);
 334           }
 335       }
 336   }
 337 }
 338
 339 #else
 340
 341 void
 342 test_u16_nfkd (void)
 343 {
 344 }
 345
 346 #endif