avoid gcc 3.4.3 bug on long double NaN on Irix 6.5
[gnulib.git] / tests / test-isnanl.h
1 /* Test of isnanl() substitute.
2    Copyright (C) 2007-2009 Free Software Foundation, Inc.
3
4    This program is free software: you can redistribute it and/or modify
5    it under the terms of the GNU General Public License as published by
6    the Free Software Foundation; either version 3 of the License, or
7    (at your option) any later version.
8
9    This program is distributed in the hope that it will be useful,
10    but WITHOUT ANY WARRANTY; without even the implied warranty of
11    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12    GNU General Public License for more details.
13
14    You should have received a copy of the GNU General Public License
15    along with this program.  If not, see <http://www.gnu.org/licenses/>.  */
16
17 /* Written by Bruno Haible <bruno@clisp.org>, 2007.  */
18
19 #include <float.h>
20 #include <limits.h>
21 #include <stdio.h>
22 #include <stdlib.h>
23
24 #include "nan.h"
25
26 #define ASSERT(expr) \
27   do                                                                         \
28     {                                                                        \
29       if (!(expr))                                                           \
30         {                                                                    \
31           fprintf (stderr, "%s:%d: assertion failed\n", __FILE__, __LINE__); \
32           fflush (stderr);                                                   \
33           abort ();                                                          \
34         }                                                                    \
35     }                                                                        \
36   while (0)
37
38 /* On HP-UX 10.20, negating 0.0L does not yield -0.0L.
39    So we use minus_zero instead.
40    IRIX cc can't put -0.0L into .data, but can compute at runtime.
41    Note that the expression -LDBL_MIN * LDBL_MIN does not work on other
42    platforms, such as when cross-compiling to PowerPC on MacOS X 10.5.  */
43 #if defined __hpux || defined __sgi
44 static long double
45 compute_minus_zero (void)
46 {
47   return -LDBL_MIN * LDBL_MIN;
48 }
49 # define minus_zero compute_minus_zero ()
50 #else
51 long double minus_zero = -0.0L;
52 #endif
53
54 int
55 main ()
56 {
57   #define NWORDS \
58     ((sizeof (long double) + sizeof (unsigned int) - 1) / sizeof (unsigned int))
59   typedef union { unsigned int word[NWORDS]; long double value; }
60           memory_long_double;
61
62   /* Finite values.  */
63   ASSERT (!isnanl (3.141L));
64   ASSERT (!isnanl (3.141e30L));
65   ASSERT (!isnanl (3.141e-30L));
66   ASSERT (!isnanl (-2.718L));
67   ASSERT (!isnanl (-2.718e30L));
68   ASSERT (!isnanl (-2.718e-30L));
69   ASSERT (!isnanl (0.0L));
70   ASSERT (!isnanl (minus_zero));
71   /* Infinite values.  */
72   ASSERT (!isnanl (1.0L / 0.0L));
73   ASSERT (!isnanl (-1.0L / 0.0L));
74   /* Quiet NaN.  */
75   ASSERT (isnanl (NaNl ()));
76
77 #if defined LDBL_EXPBIT0_WORD && defined LDBL_EXPBIT0_BIT
78   /* A bit pattern that is different from a Quiet NaN.  With a bit of luck,
79      it's a Signalling NaN.  */
80   {
81     memory_long_double m;
82     m.value = NaNl ();
83 # if LDBL_EXPBIT0_BIT > 0
84     m.word[LDBL_EXPBIT0_WORD] ^= (unsigned int) 1 << (LDBL_EXPBIT0_BIT - 1);
85 # else
86     m.word[LDBL_EXPBIT0_WORD + (LDBL_EXPBIT0_WORD < NWORDS / 2 ? 1 : - 1)]
87       ^= (unsigned int) 1 << (sizeof (unsigned int) * CHAR_BIT - 1);
88 # endif
89     m.word[LDBL_EXPBIT0_WORD + (LDBL_EXPBIT0_WORD < NWORDS / 2 ? 1 : - 1)]
90       |= (unsigned int) 1 << LDBL_EXPBIT0_BIT;
91     ASSERT (isnanl (m.value));
92   }
93 #endif
94
95 #if ((defined __ia64 && LDBL_MANT_DIG == 64) || (defined __x86_64__ || defined __amd64__) || (defined __i386 || defined __i386__ || defined _I386 || defined _M_IX86 || defined _X86_))
96 /* Representation of an 80-bit 'long double' as an initializer for a sequence
97    of 'unsigned int' words.  */
98 # ifdef WORDS_BIGENDIAN
99 #  define LDBL80_WORDS(exponent,manthi,mantlo) \
100      { ((unsigned int) (exponent) << 16) | ((unsigned int) (manthi) >> 16), \
101        ((unsigned int) (manthi) << 16) | (unsigned int) (mantlo) >> 16),    \
102        (unsigned int) (mantlo) << 16                                        \
103      }
104 # else
105 #  define LDBL80_WORDS(exponent,manthi,mantlo) \
106      { mantlo, manthi, exponent }
107 # endif
108   { /* Quiet NaN.  */
109     static memory_long_double x =
110       { LDBL80_WORDS (0xFFFF, 0xC3333333, 0x00000000) };
111     ASSERT (isnanl (x.value));
112   }
113   {
114     /* Signalling NaN.  */
115     static memory_long_double x =
116       { LDBL80_WORDS (0xFFFF, 0x83333333, 0x00000000) };
117     ASSERT (isnanl (x.value));
118   }
119   /* The isnanl function should recognize Pseudo-NaNs, Pseudo-Infinities,
120      Pseudo-Zeroes, Unnormalized Numbers, and Pseudo-Denormals, as defined in
121        Intel IA-64 Architecture Software Developer's Manual, Volume 1:
122        Application Architecture.
123        Table 5-2 "Floating-Point Register Encodings"
124        Figure 5-6 "Memory to Floating-Point Register Data Translation"
125    */
126   { /* Pseudo-NaN.  */
127     static memory_long_double x =
128       { LDBL80_WORDS (0xFFFF, 0x40000001, 0x00000000) };
129     ASSERT (isnanl (x.value));
130   }
131   { /* Pseudo-Infinity.  */
132     static memory_long_double x =
133       { LDBL80_WORDS (0xFFFF, 0x00000000, 0x00000000) };
134     ASSERT (isnanl (x.value));
135   }
136   { /* Pseudo-Zero.  */
137     static memory_long_double x =
138       { LDBL80_WORDS (0x4004, 0x00000000, 0x00000000) };
139     ASSERT (isnanl (x.value));
140   }
141   { /* Unnormalized number.  */
142     static memory_long_double x =
143       { LDBL80_WORDS (0x4000, 0x63333333, 0x00000000) };
144     ASSERT (isnanl (x.value));
145   }
146   { /* Pseudo-Denormal.  */
147     static memory_long_double x =
148       { LDBL80_WORDS (0x0000, 0x83333333, 0x00000000) };
149     ASSERT (isnanl (x.value));
150   }
151 #endif
152
153   return 0;
154 }