tests/unicase/test-u8-casefold.c

   1 /* Test of casefolding mapping for UTF-8 strings.
   2    Copyright (C) 2009-2014 Free Software Foundation, Inc.
   3
   4    This program is free software: you can redistribute it and/or modify
   5    it under the terms of the GNU General Public License as published by
   6    the Free Software Foundation; either version 3 of the License, or
   7    (at your option) any later version.
   8
   9    This program is distributed in the hope that it will be useful,
  10    but WITHOUT ANY WARRANTY; without even the implied warranty of
  11    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  12    GNU General Public License for more details.
  13
  14    You should have received a copy of the GNU General Public License
  15    along with this program.  If not, see <http://www.gnu.org/licenses/>.  */
  16
  17 /* Written by Bruno Haible <bruno@clisp.org>, 2009.  */
  18
  19 #include <config.h>
  20
  21 #include "unicase.h"
  22
  23 #include <stdlib.h>
  24
  25 #include "unistr.h"
  26 #include "uninorm.h"
  27 #include "macros.h"
  28
  29 static int
  30 check (const uint8_t *input, size_t input_length,
  31        const char *iso639_language, uninorm_t nf,
  32        const uint8_t *expected, size_t expected_length)
  33 {
  34   size_t length;
  35   uint8_t *result;
  36
  37   /* Test return conventions with resultbuf == NULL.  */
  38   result = u8_casefold (input, input_length, iso639_language, nf, NULL, &length);
  39   if (!(result != NULL))
  40     return 1;
  41   if (!(length == expected_length))
  42     return 2;
  43   if (!(u8_cmp (result, expected, expected_length) == 0))
  44     return 3;
  45   free (result);
  46
  47   /* Test return conventions with resultbuf too small.  */
  48   if (expected_length > 0)
  49     {
  50       uint8_t *preallocated;
  51
  52       length = expected_length - 1;
  53       preallocated = (uint8_t *) malloc (length * sizeof (uint8_t));
  54       result = u8_casefold (input, input_length, iso639_language, nf, preallocated, &length);
  55       if (!(result != NULL))
  56         return 4;
  57       if (!(result != preallocated))
  58         return 5;
  59       if (!(length == expected_length))
  60         return 6;
  61       if (!(u8_cmp (result, expected, expected_length) == 0))
  62         return 7;
  63       free (result);
  64       free (preallocated);
  65     }
  66
  67   /* Test return conventions with resultbuf large enough.  */
  68   {
  69     uint8_t *preallocated;
  70
  71     length = expected_length;
  72     preallocated = (uint8_t *) malloc (length * sizeof (uint8_t));
  73     result = u8_casefold (input, input_length, iso639_language, nf, preallocated, &length);
  74     if (!(result != NULL))
  75       return 8;
  76     if (!(preallocated == NULL || result == preallocated))
  77       return 9;
  78     if (!(length == expected_length))
  79       return 10;
  80     if (!(u8_cmp (result, expected, expected_length) == 0))
  81       return 11;
  82     free (preallocated);
  83   }
  84
  85   return 0;
  86 }
  87
  88 int
  89 main ()
  90 {
  91   { /* Empty string.  */
  92     ASSERT (check (NULL, 0, NULL, NULL, NULL, 0) == 0);
  93     ASSERT (check (NULL, 0, NULL, UNINORM_NFC, NULL, 0) == 0);
  94   }
  95
  96   /* Simple string.  */
  97   { /* "Grüß Gott. Здравствуйте! x=(-b±sqrt(b²-4ac))/(2a)  日本語,中文,한글" */
  98     static const uint8_t input[] =
  99       { 'G', 'r', 0xC3, 0xBC, 0xC3, 0x9F, ' ', 'G', 'o', 't', 't', '.', ' ',
 100         0xD0, 0x97, 0xD0, 0xB4, 0xD1, 0x80, 0xD0, 0xB0, 0xD0, 0xB2, 0xD1, 0x81,
 101         0xD1, 0x82, 0xD0, 0xB2, 0xD1, 0x83, 0xD0, 0xB9, 0xD1, 0x82, 0xD0, 0xB5,
 102         '!', ' ', 'x', '=', '(', '-', 'b', 0xC2, 0xB1, 's', 'q', 'r', 't', '(',
 103         'b', 0xC2, 0xB2, '-', '4', 'a', 'c', ')', ')', '/', '(', '2', 'a', ')',
 104         ' ', ' ', 0xE6, 0x97, 0xA5, 0xE6, 0x9C, 0xAC, 0xE8, 0xAA, 0x9E, ',',
 105         0xE4, 0xB8, 0xAD, 0xE6, 0x96, 0x87, ',',
 106         0xED, 0x95, 0x9C, 0xEA, 0xB8, 0x80, '\n'
 107       };
 108     static const uint8_t casefolded[] =
 109       { 'g', 'r', 0xC3, 0xBC, 0x73, 0x73, ' ', 'g', 'o', 't', 't', '.', ' ',
 110         0xD0, 0xB7, 0xD0, 0xB4, 0xD1, 0x80, 0xD0, 0xB0, 0xD0, 0xB2, 0xD1, 0x81,
 111         0xD1, 0x82, 0xD0, 0xB2, 0xD1, 0x83, 0xD0, 0xB9, 0xD1, 0x82, 0xD0, 0xB5,
 112         '!', ' ', 'x', '=', '(', '-', 'b', 0xC2, 0xB1, 's', 'q', 'r', 't', '(',
 113         'b', 0xC2, 0xB2, '-', '4', 'a', 'c', ')', ')', '/', '(', '2', 'a', ')',
 114         ' ', ' ', 0xE6, 0x97, 0xA5, 0xE6, 0x9C, 0xAC, 0xE8, 0xAA, 0x9E, ',',
 115         0xE4, 0xB8, 0xAD, 0xE6, 0x96, 0x87, ',',
 116         0xED, 0x95, 0x9C, 0xEA, 0xB8, 0x80, '\n'
 117       };
 118     ASSERT (check (input, SIZEOF (input), NULL, NULL, casefolded, SIZEOF (casefolded)) == 0);
 119   }
 120
 121   /* Case mapping can increase the number of Unicode characters.  */
 122   { /* LATIN SMALL LETTER N PRECEDED BY APOSTROPHE */
 123     static const uint8_t input[]      = { 0xC5, 0x89 };
 124     static const uint8_t casefolded[] = { 0xCA, 0xBC, 0x6E };
 125     ASSERT (check (input, SIZEOF (input), NULL, NULL, casefolded, SIZEOF (casefolded)) == 0);
 126   }
 127   { /* GREEK SMALL LETTER IOTA WITH DIALYTIKA AND TONOS */
 128     static const uint8_t input[]      = { 0xCE, 0x90 };
 129     static const uint8_t casefolded[] = { 0xCE, 0xB9, 0xCC, 0x88, 0xCC, 0x81 };
 130     ASSERT (check (input, SIZEOF (input), NULL, NULL, casefolded, SIZEOF (casefolded)) == 0);
 131   }
 132
 133   /* Turkish letters i İ ı I */
 134   { /* LATIN CAPITAL LETTER I */
 135     static const uint8_t input[]         = { 0x49 };
 136     static const uint8_t casefolded[]    = { 0x69 };
 137     static const uint8_t casefolded_tr[] = { 0xC4, 0xB1 };
 138     ASSERT (check (input, SIZEOF (input), NULL, NULL, casefolded, SIZEOF (casefolded)) == 0);
 139     ASSERT (check (input, SIZEOF (input), "tr", NULL, casefolded_tr, SIZEOF (casefolded_tr)) == 0);
 140   }
 141   { /* LATIN SMALL LETTER I */
 142     static const uint8_t input[]      = { 0x69 };
 143     static const uint8_t casefolded[] = { 0x69 };
 144     ASSERT (check (input, SIZEOF (input), NULL, NULL, casefolded, SIZEOF (casefolded)) == 0);
 145     ASSERT (check (input, SIZEOF (input), "tr", NULL, casefolded, SIZEOF (casefolded)) == 0);
 146   }
 147   { /* LATIN CAPITAL LETTER I WITH DOT ABOVE */
 148     static const uint8_t input[]         = { 0xC4, 0xB0 };
 149     static const uint8_t casefolded[]    = { 0x69, 0xCC, 0x87 };
 150     static const uint8_t casefolded_tr[] = { 0x69 };
 151     ASSERT (check (input, SIZEOF (input), NULL, NULL, casefolded, SIZEOF (casefolded)) == 0);
 152     ASSERT (check (input, SIZEOF (input), "tr", NULL, casefolded_tr, SIZEOF (casefolded_tr)) == 0);
 153   }
 154   { /* LATIN SMALL LETTER DOTLESS I */
 155     static const uint8_t input[]      = { 0xC4, 0xB1 };
 156     static const uint8_t casefolded[] = { 0xC4, 0xB1 };
 157     ASSERT (check (input, SIZEOF (input), NULL, NULL, casefolded, SIZEOF (casefolded)) == 0);
 158     ASSERT (check (input, SIZEOF (input), "tr", NULL, casefolded, SIZEOF (casefolded)) == 0);
 159   }
 160   { /* "topkapı" */
 161     static const uint8_t input[] =
 162       { 0x74, 0x6F, 0x70, 0x6B, 0x61, 0x70, 0xC4, 0xB1 };
 163     static const uint8_t casefolded[] =
 164       { 0x74, 0x6F, 0x70, 0x6B, 0x61, 0x70, 0xC4, 0xB1 };
 165     ASSERT (check (input, SIZEOF (input), NULL, NULL, casefolded, SIZEOF (casefolded)) == 0);
 166     ASSERT (check (input, SIZEOF (input), "tr", NULL, casefolded, SIZEOF (casefolded)) == 0);
 167   }
 168
 169   /* Uppercasing can increase the number of Unicode characters.  */
 170   { /* "heiß" */
 171     static const uint8_t input[]      = { 0x68, 0x65, 0x69, 0xC3, 0x9F };
 172     static const uint8_t casefolded[] = { 0x68, 0x65, 0x69, 0x73, 0x73 };
 173     ASSERT (check (input, SIZEOF (input), NULL, NULL, casefolded, SIZEOF (casefolded)) == 0);
 174   }
 175
 176   /* Case mappings for some characters can depend on the surrounding characters.  */
 177   { /* "περισσότερες πληροφορίες" */
 178     static const uint8_t input[] =
 179       {
 180         0xCF, 0x80, 0xCE, 0xB5, 0xCF, 0x81, 0xCE, 0xB9, 0xCF, 0x83, 0xCF, 0x83,
 181         0xCF, 0x8C, 0xCF, 0x84, 0xCE, 0xB5, 0xCF, 0x81, 0xCE, 0xB5, 0xCF, 0x82,
 182         ' ', 0xCF, 0x80, 0xCE, 0xBB, 0xCE, 0xB7, 0xCF, 0x81, 0xCE, 0xBF,
 183         0xCF, 0x86, 0xCE, 0xBF, 0xCF, 0x81, 0xCE, 0xAF, 0xCE, 0xB5, 0xCF, 0x82
 184       };
 185     static const uint8_t casefolded[] =
 186       {
 187         0xCF, 0x80, 0xCE, 0xB5, 0xCF, 0x81, 0xCE, 0xB9, 0xCF, 0x83, 0xCF, 0x83,
 188         0xCF, 0x8C, 0xCF, 0x84, 0xCE, 0xB5, 0xCF, 0x81, 0xCE, 0xB5, 0xCF, 0x83,
 189         ' ', 0xCF, 0x80, 0xCE, 0xBB, 0xCE, 0xB7, 0xCF, 0x81, 0xCE, 0xBF,
 190         0xCF, 0x86, 0xCE, 0xBF, 0xCF, 0x81, 0xCE, 0xAF, 0xCE, 0xB5, 0xCF, 0x83
 191       };
 192     ASSERT (check (input, SIZEOF (input), NULL, NULL, casefolded, SIZEOF (casefolded)) == 0);
 193   }
 194
 195   /* Case mapping can require subsequent normalization.  */
 196   { /* LATIN SMALL LETTER J WITH CARON, COMBINING DOT BELOW */
 197     static const uint8_t input[]                 = { 0xC7, 0xB0, 0xCC, 0xA3 };
 198     static const uint8_t casefolded[]            = { 0x6A, 0xCC, 0x8C, 0xCC, 0xA3 };
 199     static const uint8_t casefolded_decomposed[] = { 0x6A, 0xCC, 0xA3, 0xCC, 0x8C };
 200     static const uint8_t casefolded_normalized[] = { 0xC7, 0xB0, 0xCC, 0xA3 };
 201     ASSERT (check (input, SIZEOF (input), NULL, NULL,        casefolded, SIZEOF (casefolded)) == 0);
 202     ASSERT (check (input, SIZEOF (input), NULL, UNINORM_NFD, casefolded_decomposed, SIZEOF (casefolded_decomposed)) == 0);
 203     ASSERT (check (input, SIZEOF (input), NULL, UNINORM_NFC, casefolded_normalized, SIZEOF (casefolded_normalized)) == 0);
 204   }
 205
 206   return 0;
 207 }