avoid gcc 3.4.3 bug on long double NaN on Irix 6.5
[gnulib.git] / tests / test-isnan.c
1 /* Test of isnand() substitute.
2    Copyright (C) 2007-2009 Free Software Foundation, Inc.
3
4    This program is free software: you can redistribute it and/or modify
5    it under the terms of the GNU General Public License as published by
6    the Free Software Foundation; either version 3 of the License, or
7    (at your option) any later version.
8
9    This program is distributed in the hope that it will be useful,
10    but WITHOUT ANY WARRANTY; without even the implied warranty of
11    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12    GNU General Public License for more details.
13
14    You should have received a copy of the GNU General Public License
15    along with this program.  If not, see <http://www.gnu.org/licenses/>.  */
16
17 /* Written by Ben Pfaff <blp@cs.stanford.edu>, from code by Bruno
18    Haible <bruno@clisp.org>.  */
19
20 #include <config.h>
21
22 #include <math.h>
23
24 #include <float.h>
25 #include <limits.h>
26 #include <stdio.h>
27 #include <stdlib.h>
28
29 #include "nan.h"
30
31 #define ASSERT(expr) \
32   do                                                                         \
33     {                                                                        \
34       if (!(expr))                                                           \
35         {                                                                    \
36           fprintf (stderr, "%s:%d: assertion failed\n", __FILE__, __LINE__); \
37           fflush (stderr);                                                   \
38           abort ();                                                          \
39         }                                                                    \
40     }                                                                        \
41   while (0)
42
43 /* HP cc on HP-UX 10.20 has a bug with the constant expression -0.0f.
44    So we use -zero instead.  */
45 float zerof = 0.0f;
46
47 /* HP cc on HP-UX 10.20 has a bug with the constant expression -0.0.
48    So we use -zero instead.  */
49 double zerod = 0.0;
50
51 /* On HP-UX 10.20, negating 0.0L does not yield -0.0L.
52    So we use minus_zerol instead.
53    IRIX cc can't put -0.0L into .data, but can compute at runtime.
54    Note that the expression -LDBL_MIN * LDBL_MIN does not work on other
55    platforms, such as when cross-compiling to PowerPC on MacOS X 10.5.  */
56 #if defined __hpux || defined __sgi
57 static long double
58 compute_minus_zerol (void)
59 {
60   return -LDBL_MIN * LDBL_MIN;
61 }
62 # define minus_zerol compute_minus_zerol ()
63 #else
64 long double minus_zerol = -0.0L;
65 #endif
66
67 static void
68 test_float (void)
69 {
70   /* Finite values.  */
71   ASSERT (!isnan (3.141f));
72   ASSERT (!isnan (3.141e30f));
73   ASSERT (!isnan (3.141e-30f));
74   ASSERT (!isnan (-2.718f));
75   ASSERT (!isnan (-2.718e30f));
76   ASSERT (!isnan (-2.718e-30f));
77   ASSERT (!isnan (0.0f));
78   ASSERT (!isnan (-zerof));
79   /* Infinite values.  */
80   ASSERT (!isnan (1.0f / 0.0f));
81   ASSERT (!isnan (-1.0f / 0.0f));
82   /* Quiet NaN.  */
83   ASSERT (isnan (NaNf ()));
84 #if defined FLT_EXPBIT0_WORD && defined FLT_EXPBIT0_BIT
85   /* Signalling NaN.  */
86   {
87     #define NWORDSF \
88       ((sizeof (float) + sizeof (unsigned int) - 1) / sizeof (unsigned int))
89     typedef union { float value; unsigned int word[NWORDSF]; } memory_float;
90     memory_float m;
91     m.value = NaNf ();
92 # if FLT_EXPBIT0_BIT > 0
93     m.word[FLT_EXPBIT0_WORD] ^= (unsigned int) 1 << (FLT_EXPBIT0_BIT - 1);
94 # else
95     m.word[FLT_EXPBIT0_WORD + (FLT_EXPBIT0_WORD < NWORDSF / 2 ? 1 : - 1)]
96       ^= (unsigned int) 1 << (sizeof (unsigned int) * CHAR_BIT - 1);
97 # endif
98     if (FLT_EXPBIT0_WORD < NWORDSF / 2)
99       m.word[FLT_EXPBIT0_WORD + 1] |= (unsigned int) 1 << FLT_EXPBIT0_BIT;
100     else
101       m.word[0] |= (unsigned int) 1;
102     ASSERT (isnan (m.value));
103   }
104 #endif
105 }
106
107 static void
108 test_double (void)
109 {
110   /* Finite values.  */
111   ASSERT (!isnan (3.141));
112   ASSERT (!isnan (3.141e30));
113   ASSERT (!isnan (3.141e-30));
114   ASSERT (!isnan (-2.718));
115   ASSERT (!isnan (-2.718e30));
116   ASSERT (!isnan (-2.718e-30));
117   ASSERT (!isnan (0.0));
118   ASSERT (!isnan (-zerod));
119   /* Infinite values.  */
120   ASSERT (!isnan (1.0 / 0.0));
121   ASSERT (!isnan (-1.0 / 0.0));
122   /* Quiet NaN.  */
123   ASSERT (isnan (NaNd ()));
124 #if defined DBL_EXPBIT0_WORD && defined DBL_EXPBIT0_BIT
125   /* Signalling NaN.  */
126   {
127     #define NWORDSD \
128       ((sizeof (double) + sizeof (unsigned int) - 1) / sizeof (unsigned int))
129     typedef union { double value; unsigned int word[NWORDSD]; } memory_double;
130     memory_double m;
131     m.value = NaNd ();
132 # if DBL_EXPBIT0_BIT > 0
133     m.word[DBL_EXPBIT0_WORD] ^= (unsigned int) 1 << (DBL_EXPBIT0_BIT - 1);
134 # else
135     m.word[DBL_EXPBIT0_WORD + (DBL_EXPBIT0_WORD < NWORDSD / 2 ? 1 : - 1)]
136       ^= (unsigned int) 1 << (sizeof (unsigned int) * CHAR_BIT - 1);
137 # endif
138     m.word[DBL_EXPBIT0_WORD + (DBL_EXPBIT0_WORD < NWORDSD / 2 ? 1 : - 1)]
139       |= (unsigned int) 1 << DBL_EXPBIT0_BIT;
140     ASSERT (isnan (m.value));
141   }
142 #endif
143 }
144
145 static void
146 test_long_double (void)
147 {
148   #define NWORDSL \
149     ((sizeof (long double) + sizeof (unsigned int) - 1) / sizeof (unsigned int))
150   typedef union { unsigned int word[NWORDSL]; long double value; }
151           memory_long_double;
152
153   /* Finite values.  */
154   ASSERT (!isnan (3.141L));
155   ASSERT (!isnan (3.141e30L));
156   ASSERT (!isnan (3.141e-30L));
157   ASSERT (!isnan (-2.718L));
158   ASSERT (!isnan (-2.718e30L));
159   ASSERT (!isnan (-2.718e-30L));
160   ASSERT (!isnan (0.0L));
161   ASSERT (!isnan (minus_zerol));
162   /* Infinite values.  */
163   ASSERT (!isnan (1.0L / 0.0L));
164   ASSERT (!isnan (-1.0L / 0.0L));
165   /* Quiet NaN.  */
166   ASSERT (isnan (NaNl ()));
167
168 #if defined LDBL_EXPBIT0_WORD && defined LDBL_EXPBIT0_BIT
169   /* A bit pattern that is different from a Quiet NaN.  With a bit of luck,
170      it's a Signalling NaN.  */
171   {
172     memory_long_double m;
173     m.value = NaNl ();
174 # if LDBL_EXPBIT0_BIT > 0
175     m.word[LDBL_EXPBIT0_WORD] ^= (unsigned int) 1 << (LDBL_EXPBIT0_BIT - 1);
176 # else
177     m.word[LDBL_EXPBIT0_WORD + (LDBL_EXPBIT0_WORD < NWORDSL / 2 ? 1 : - 1)]
178       ^= (unsigned int) 1 << (sizeof (unsigned int) * CHAR_BIT - 1);
179 # endif
180     m.word[LDBL_EXPBIT0_WORD + (LDBL_EXPBIT0_WORD < NWORDSL / 2 ? 1 : - 1)]
181       |= (unsigned int) 1 << LDBL_EXPBIT0_BIT;
182     ASSERT (isnan (m.value));
183   }
184 #endif
185
186 #if ((defined __ia64 && LDBL_MANT_DIG == 64) || (defined __x86_64__ || defined __amd64__) || (defined __i386 || defined __i386__ || defined _I386 || defined _M_IX86 || defined _X86_))
187 /* Representation of an 80-bit 'long double' as an initializer for a sequence
188    of 'unsigned int' words.  */
189 # ifdef WORDS_BIGENDIAN
190 #  define LDBL80_WORDS(exponent,manthi,mantlo) \
191      { ((unsigned int) (exponent) << 16) | ((unsigned int) (manthi) >> 16), \
192        ((unsigned int) (manthi) << 16) | (unsigned int) (mantlo) >> 16),    \
193        (unsigned int) (mantlo) << 16                                        \
194      }
195 # else
196 #  define LDBL80_WORDS(exponent,manthi,mantlo) \
197      { mantlo, manthi, exponent }
198 # endif
199   { /* Quiet NaN.  */
200     static memory_long_double x =
201       { LDBL80_WORDS (0xFFFF, 0xC3333333, 0x00000000) };
202     ASSERT (isnan (x.value));
203   }
204   {
205     /* Signalling NaN.  */
206     static memory_long_double x =
207       { LDBL80_WORDS (0xFFFF, 0x83333333, 0x00000000) };
208     ASSERT (isnan (x.value));
209   }
210   /* The isnan function should recognize Pseudo-NaNs, Pseudo-Infinities,
211      Pseudo-Zeroes, Unnormalized Numbers, and Pseudo-Denormals, as defined in
212        Intel IA-64 Architecture Software Developer's Manual, Volume 1:
213        Application Architecture.
214        Table 5-2 "Floating-Point Register Encodings"
215        Figure 5-6 "Memory to Floating-Point Register Data Translation"
216    */
217   { /* Pseudo-NaN.  */
218     static memory_long_double x =
219       { LDBL80_WORDS (0xFFFF, 0x40000001, 0x00000000) };
220     ASSERT (isnan (x.value));
221   }
222   { /* Pseudo-Infinity.  */
223     static memory_long_double x =
224       { LDBL80_WORDS (0xFFFF, 0x00000000, 0x00000000) };
225     ASSERT (isnan (x.value));
226   }
227   { /* Pseudo-Zero.  */
228     static memory_long_double x =
229       { LDBL80_WORDS (0x4004, 0x00000000, 0x00000000) };
230     ASSERT (isnan (x.value));
231   }
232   { /* Unnormalized number.  */
233     static memory_long_double x =
234       { LDBL80_WORDS (0x4000, 0x63333333, 0x00000000) };
235     ASSERT (isnan (x.value));
236   }
237   { /* Pseudo-Denormal.  */
238     static memory_long_double x =
239       { LDBL80_WORDS (0x0000, 0x83333333, 0x00000000) };
240     ASSERT (isnan (x.value));
241   }
242 #endif
243 }
244
245 int
246 main ()
247 {
248   test_float ();
249   test_double ();
250   test_long_double ();
251   return 0;
252 }