ceil, floor: avoid spurious failure with icc
[gnulib.git] / tests / test-ceilf2.c
1 /* Test of rounding towards positive infinity.
2    Copyright (C) 2007-2010 Free Software Foundation, Inc.
3
4    This program is free software: you can redistribute it and/or modify
5    it under the terms of the GNU General Public License as published by
6    the Free Software Foundation; either version 3 of the License, or
7    (at your option) any later version.
8
9    This program is distributed in the hope that it will be useful,
10    but WITHOUT ANY WARRANTY; without even the implied warranty of
11    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12    GNU General Public License for more details.
13
14    You should have received a copy of the GNU General Public License
15    along with this program.  If not, see <http://www.gnu.org/licenses/>.  */
16
17 /* Written by Bruno Haible <bruno@clisp.org>, 2007.  */
18
19 /* When this test fails on some platform, build it together with the gnulib
20    module 'fprintf-posix' for optimal debugging output.  */
21
22 #include <config.h>
23
24 #include <math.h>
25
26 #include <float.h>
27 #include <stdbool.h>
28 #include <stdint.h>
29 #include <stdio.h>
30
31 #include "isnanf-nolibm.h"
32 #include "macros.h"
33
34
35 /* The reference implementation, taken from lib/ceil.c.  */
36
37 #define DOUBLE float
38 #define MANT_DIG FLT_MANT_DIG
39 #define L_(literal) literal##f
40
41 /* 2^(MANT_DIG-1).  */
42 static const DOUBLE TWO_MANT_DIG =
43   /* Assume MANT_DIG <= 5 * 31.
44      Use the identity
45        n = floor(n/5) + floor((n+1)/5) + ... + floor((n+4)/5).  */
46   (DOUBLE) (1U << ((MANT_DIG - 1) / 5))
47   * (DOUBLE) (1U << ((MANT_DIG - 1 + 1) / 5))
48   * (DOUBLE) (1U << ((MANT_DIG - 1 + 2) / 5))
49   * (DOUBLE) (1U << ((MANT_DIG - 1 + 3) / 5))
50   * (DOUBLE) (1U << ((MANT_DIG - 1 + 4) / 5));
51
52 DOUBLE
53 ceilf_reference (DOUBLE x)
54 {
55   /* The use of 'volatile' guarantees that excess precision bits are dropped
56      at each addition step and before the following comparison at the caller's
57      site.  It is necessary on x86 systems where double-floats are not IEEE
58      compliant by default, to avoid that the results become platform and compiler
59      option dependent.  'volatile' is a portable alternative to gcc's
60      -ffloat-store option.  */
61   volatile DOUBLE y = x;
62   volatile DOUBLE z = y;
63
64   if (z > L_(0.0))
65     {
66       /* Work around ICC's desire to optimize denormal floats to 0.  */
67       if (z < FLT_MIN)
68         return L_(1.0);
69       /* Avoid rounding errors for values near 2^k, where k >= MANT_DIG-1.  */
70       if (z < TWO_MANT_DIG)
71         {
72           /* Round to the next integer (nearest or up or down, doesn't matter).  */
73           z += TWO_MANT_DIG;
74           z -= TWO_MANT_DIG;
75           /* Enforce rounding up.  */
76           if (z < y)
77             z += L_(1.0);
78         }
79     }
80   else if (z < L_(0.0))
81     {
82       /* Avoid rounding errors for values near -2^k, where k >= MANT_DIG-1.  */
83       if (z > - TWO_MANT_DIG)
84         {
85           /* Round to the next integer (nearest or up or down, doesn't matter).  */
86           z -= TWO_MANT_DIG;
87           z += TWO_MANT_DIG;
88           /* Enforce rounding up.  */
89           if (z < y)
90             z += L_(1.0);
91         }
92     }
93   return z;
94 }
95
96
97 /* Test for equality.  */
98 static int
99 equal (DOUBLE x, DOUBLE y)
100 {
101   return (isnanf (x) ? isnanf (y) : x == y);
102 }
103
104 /* Test whether the result for a given argument is correct.  */
105 static bool
106 correct_result_p (DOUBLE x, DOUBLE result)
107 {
108   return
109     (x > 0 && x <= 1 ? result == L_(1.0) :
110      x + 1 > x ? result >= x && result <= x + 1 && result - x < 1 :
111      equal (result, x));
112 }
113
114 /* Test the function for a given argument.  */
115 static int
116 check (float x)
117 {
118   /* If the reference implementation is incorrect, bail out immediately.  */
119   float reference = ceilf_reference (x);
120   ASSERT (correct_result_p (x, reference));
121   /* If the actual implementation is wrong, return an error code.  */
122   {
123     float result = ceilf (x);
124     if (correct_result_p (x, result))
125       return 0;
126     else
127       {
128 #if GNULIB_TEST_FPRINTF_POSIX
129         fprintf (stderr, "ceilf %g(%a) = %g(%a) or %g(%a)?\n",
130                  x, x, reference, reference, result, result);
131 #endif
132         return 1;
133       }
134   }
135 }
136
137 #define NUM_HIGHBITS 12
138 #define NUM_LOWBITS 4
139
140 int
141 main ()
142 {
143   unsigned int highbits;
144   unsigned int lowbits;
145   int error = 0;
146   for (highbits = 0; highbits < (1 << NUM_HIGHBITS); highbits++)
147     for (lowbits = 0; lowbits < (1 << NUM_LOWBITS); lowbits++)
148       {
149         /* Combine highbits and lowbits into a floating-point number,
150            sign-extending the lowbits to 32-NUM_HIGHBITS bits.  */
151         union { float f; uint32_t i; } janus;
152         janus.i = ((uint32_t) highbits << (32 - NUM_HIGHBITS))
153                   | ((uint32_t) ((int32_t) ((uint32_t) lowbits << (32 - NUM_LOWBITS))
154                                  >> (32 - NUM_LOWBITS - NUM_HIGHBITS))
155                      >> NUM_HIGHBITS);
156         error |= check (janus.f);
157       }
158   return (error ? 1 : 0);
159 }