strerror_r: avoid corrupting errno on Solaris
[gnulib.git] / m4 / strerror_r.m4
1 # strerror_r.m4 serial 8
2 dnl Copyright (C) 2002, 2007-2011 Free Software Foundation, Inc.
3 dnl This file is free software; the Free Software Foundation
4 dnl gives unlimited permission to copy and/or distribute it,
5 dnl with or without modifications, as long as this notice is preserved.
6
7 AC_DEFUN([gl_FUNC_STRERROR_R],
8 [
9   AC_REQUIRE([gl_HEADER_STRING_H_DEFAULTS])
10   AC_REQUIRE([gl_HEADER_ERRNO_H])
11   AC_REQUIRE([AC_CANONICAL_HOST]) dnl for cross-compiles
12
13   dnl Persuade Solaris <string.h> to declare strerror_r().
14   AC_REQUIRE([gl_USE_SYSTEM_EXTENSIONS])
15
16   dnl Some systems don't declare strerror_r() if _THREAD_SAFE and _REENTRANT
17   dnl are not defined.
18   AC_CHECK_DECLS_ONCE([strerror_r])
19   if test $ac_cv_have_decl_strerror_r = no; then
20     HAVE_DECL_STRERROR_R=0
21   fi
22
23   AC_CHECK_FUNCS([strerror_r])
24   if test $ac_cv_func_strerror_r = yes; then
25     if test -z "$ERRNO_H"; then
26       dnl The POSIX prototype is:  int strerror_r (int, char *, size_t);
27       dnl glibc, Cygwin:           char *strerror_r (int, char *, size_t);
28       dnl AIX 5.1, OSF/1 5.1:      int strerror_r (int, char *, int);
29       AC_CACHE_CHECK([for strerror_r with POSIX signature],
30         [gl_cv_func_strerror_r_posix_signature],
31         [AC_COMPILE_IFELSE(
32            [AC_LANG_PROGRAM(
33               [[#include <string.h>
34                 int strerror_r (int, char *, size_t);
35               ]],
36               [])],
37            [gl_cv_func_strerror_r_posix_signature=yes],
38            [gl_cv_func_strerror_r_posix_signature=no])
39         ])
40       if test $gl_cv_func_strerror_r_posix_signature = yes; then
41         dnl AIX 6.1 strerror_r fails by returning -1, not an error number.
42         dnl HP-UX 11.31 strerror_r always fails when the buffer length argument
43         dnl is less than 80.
44         dnl FreeBSD 8.s strerror_r claims failure on 0
45         dnl Solaris 10 strerror_r corrupts errno on failure
46         AC_CACHE_CHECK([whether strerror_r works],
47           [gl_cv_func_strerror_r_works],
48           [AC_RUN_IFELSE(
49              [AC_LANG_PROGRAM(
50                 [[#include <errno.h>
51                   #include <string.h>
52                 ]],
53                 [[int result = 0;
54                   char buf[79];
55                   if (strerror_r (EACCES, buf, 0) < 0)
56                     result |= 1;
57                   errno = 0;
58                   if (strerror_r (EACCES, buf, sizeof buf) != 0)
59                     result |= 2;
60                   if (strerror_r (0, buf, sizeof buf) != 0)
61                     result |= 4;
62                   if (errno)
63                     result |= 8;
64                   errno = 0;
65                   if (strerror_r (-3, buf, sizeof buf) != 0)
66                     result |= 0x10;
67                   if (errno)
68                     result |= 0x20;
69                   return result;
70                 ]])],
71              [gl_cv_func_strerror_r_works=yes],
72              [gl_cv_func_strerror_r_works=no],
73              [
74 changequote(,)dnl
75               case "$host_os" in
76                        # Guess no on AIX.
77                 aix*)  gl_cv_func_strerror_r_works="guessing no";;
78                        # Guess no on HP-UX.
79                 hpux*) gl_cv_func_strerror_r_works="guessing no";;
80                        # Guess no on FreeBSD.
81                 freebsd*)  gl_cv_func_strerror_r_works="guessing no";;
82                        # Guess yes otherwise.
83                 *)     gl_cv_func_strerror_r_works="guessing yes";;
84               esac
85 changequote([,])dnl
86              ])
87           ])
88         case "$gl_cv_func_strerror_r_works" in
89           *no) REPLACE_STRERROR_R=1 ;;
90         esac
91       else
92         dnl The system's strerror() has a wrong signature. Replace it.
93         REPLACE_STRERROR_R=1
94         dnl glibc >= 2.3.4 and cygwin 1.7.9 have a function __xpg_strerror_r.
95         AC_CHECK_FUNCS([__xpg_strerror_r])
96       fi
97     else
98       dnl The system's strerror_r() cannot know about the new errno values we
99       dnl add to <errno.h>. Replace it.
100       REPLACE_STRERROR_R=1
101     fi
102   fi
103   if test $HAVE_DECL_STRERROR_R = 0 || test $REPLACE_STRERROR_R = 1; then
104     AC_LIBOBJ([strerror_r])
105     gl_PREREQ_STRERROR_R
106   fi
107 ])
108
109 # Prerequisites of lib/strerror_r.c.
110 AC_DEFUN([gl_PREREQ_STRERROR_R], [
111   AC_CHECK_FUNCS_ONCE([catgets])
112   :
113 ])