tests/test-fcntl.c

   1 /* Test of fcntl(2).
   2    Copyright (C) 2009 Free Software Foundation, Inc.
   3
   4    This program is free software: you can redistribute it and/or modify
   5    it under the terms of the GNU General Public License as published by
   6    the Free Software Foundation; either version 3 of the License, or
   7    (at your option) any later version.
   8
   9    This program is distributed in the hope that it will be useful,
  10    but WITHOUT ANY WARRANTY; without even the implied warranty of
  11    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  12    GNU General Public License for more details.
  13
  14    You should have received a copy of the GNU General Public License
  15    along with this program.  If not, see <http://www.gnu.org/licenses/>.  */
  16
  17 /* Written by Eric Blake <ebb9@byu.net>, 2009.  */
  18
  19 #include <config.h>
  20
  21 /* Specification.  */
  22 #include <fcntl.h>
  23
  24 /* Helpers.  */
  25 #include <errno.h>
  26 #include <stdarg.h>
  27 #include <stdbool.h>
  28 #include <stdio.h>
  29 #include <stdlib.h>
  30 #include <unistd.h>
  31
  32 #if (defined _WIN32 || defined __WIN32__) && ! defined __CYGWIN__
  33 /* Get declarations of the Win32 API functions.  */
  34 # define WIN32_LEAN_AND_MEAN
  35 # include <windows.h>
  36 #endif
  37
  38 #include "binary-io.h"
  39
  40 /* Use O_CLOEXEC if available, but test works without it.  */
  41 #ifndef O_CLOEXEC
  42 # define O_CLOEXEC 0
  43 #endif
  44
  45 #if !O_BINARY
  46 # define setmode(f,m) zero ()
  47 static int zero (void) { return 0; }
  48 #endif
  49
  50 #define ASSERT(expr) \
  51   do                                                                         \
  52     {                                                                        \
  53       if (!(expr))                                                           \
  54         {                                                                    \
  55           fprintf (stderr, "%s:%d: assertion failed\n", __FILE__, __LINE__); \
  56           fflush (stderr);                                                   \
  57           abort ();                                                          \
  58         }                                                                    \
  59     }                                                                        \
  60   while (0)
  61
  62 /* Return true if FD is open.  */
  63 static bool
  64 is_open (int fd)
  65 {
  66 #if (defined _WIN32 || defined __WIN32__) && ! defined __CYGWIN__
  67   /* On Win32, the initial state of unassigned standard file
  68      descriptors is that they are open but point to an
  69      INVALID_HANDLE_VALUE, and there is no fcntl.  */
  70   return (HANDLE) _get_osfhandle (fd) != INVALID_HANDLE_VALUE;
  71 #else
  72 # ifndef F_GETFL
  73 #  error Please port fcntl to your platform
  74 # endif
  75   return 0 <= fcntl (fd, F_GETFL);
  76 #endif
  77 }
  78
  79 /* Return true if FD is open and inheritable across exec/spawn.  */
  80 static bool
  81 is_inheritable (int fd)
  82 {
  83 #if (defined _WIN32 || defined __WIN32__) && ! defined __CYGWIN__
  84   /* On Win32, the initial state of unassigned standard file
  85      descriptors is that they are open but point to an
  86      INVALID_HANDLE_VALUE, and there is no fcntl.  */
  87   HANDLE h = (HANDLE) _get_osfhandle (fd);
  88   DWORD flags;
  89   if (h == INVALID_HANDLE_VALUE || GetHandleInformation (h, &flags) == 0)
  90     return false;
  91   return (flags & HANDLE_FLAG_INHERIT) != 0;
  92 #else
  93 # ifndef F_GETFD
  94 #  error Please port fcntl to your platform
  95 # endif
  96   int i = fcntl (fd, F_GETFD);
  97   return 0 <= i && (i & FD_CLOEXEC) == 0;
  98 #endif
  99 }
 100
 101 /* Return non-zero if FD is open in the given MODE, which is either
 102    O_TEXT or O_BINARY.  */
 103 static bool
 104 is_mode (int fd, int mode)
 105 {
 106   int value = setmode (fd, O_BINARY);
 107   setmode (fd, value);
 108   return mode == value;
 109 }
 110
 111 /* Since native fcntl can have more supported operations than our
 112    replacement is aware of, and since various operations assign
 113    different types to the vararg argument, a wrapper around fcntl must
 114    be able to pass a vararg of unknown type on through to the original
 115    fcntl.  Make sure that this works properly: func1 behaves like the
 116    original fcntl interpreting the vararg as an int or a pointer to a
 117    struct, and func2 behaves like rpl_fcntl that doesn't know what
 118    type to forward.  */
 119 struct dummy_struct
 120 {
 121   long filler;
 122   int value;
 123 };
 124 static int
 125 func1 (int a, ...)
 126 {
 127   va_list arg;
 128   int i;
 129   va_start (arg, a);
 130   if (a < 4)
 131     i = va_arg (arg, int);
 132   else
 133     {
 134       struct dummy_struct *s = va_arg (arg, struct dummy_struct *);
 135       i = s->value;
 136     }
 137   va_end (arg);
 138   return i;
 139 }
 140 static int
 141 func2 (int a, ...)
 142 {
 143   va_list arg;
 144   void *p;
 145   va_start (arg, a);
 146   p = va_arg (arg, void *);
 147   va_end (arg);
 148   return func1 (a, p);
 149 }
 150
 151 /* Ensure that all supported fcntl actions are distinct, and
 152    usable in preprocessor expressions.  */
 153 static void
 154 check_flags (void)
 155 {
 156   switch (0)
 157     {
 158 #ifdef F_DUPFD
 159     case F_DUPFD:
 160 # if F_DUPFD
 161 # endif
 162 #endif
 163
 164 #ifdef F_DUPFD_CLOEXEC
 165     case F_DUPFD_CLOEXEC:
 166 # if F_DUPFD_CLOEXEC
 167 # endif
 168 #endif
 169
 170 #ifdef F_GETFD
 171     case F_GETFD:
 172 # if F_GETFD
 173 # endif
 174 #endif
 175
 176 #ifdef F_SETFD
 177     case F_SETFD:
 178 # if F_SETFD
 179 # endif
 180 #endif
 181
 182 #ifdef F_GETFL
 183     case F_GETFL:
 184 # if F_GETFL
 185 # endif
 186 #endif
 187
 188 #ifdef F_SETFL
 189     case F_SETFL:
 190 # if F_SETFL
 191 # endif
 192 #endif
 193
 194 #ifdef F_GETOWN
 195     case F_GETOWN:
 196 # if F_GETOWN
 197 # endif
 198 #endif
 199
 200 #ifdef F_SETOWN
 201     case F_SETOWN:
 202 # if F_SETOWN
 203 # endif
 204 #endif
 205
 206 #ifdef F_GETLK
 207     case F_GETLK:
 208 # if F_GETLK
 209 # endif
 210 #endif
 211
 212 #ifdef F_SETLK
 213     case F_SETLK:
 214 # if F_SETLK
 215 # endif
 216 #endif
 217
 218 #ifdef F_SETLKW
 219     case F_SETLKW:
 220 # if F_SETLKW
 221 # endif
 222 #endif
 223
 224       ;
 225     }
 226 }
 227
 228 int
 229 main (int argc, char **argv)
 230 {
 231   const char *file = "test-fcntl.tmp";
 232   int fd;
 233
 234   /* Sanity check that rpl_fcntl is likely to work.  */
 235   ASSERT (func2 (1, 2) == 2);
 236   ASSERT (func2 (2, -2) == -2);
 237   ASSERT (func2 (3, 0x80000000) == 0x80000000);
 238   {
 239     struct dummy_struct s = { 0L, 4 };
 240     ASSERT (func2 (4, &s) == 4);
 241   }
 242   check_flags ();
 243
 244 #if HAVE_FCNTL
 245
 246   /* Assume std descriptors were provided by invoker, and ignore fds
 247      that might have been inherited.  */
 248   fd = creat (file, 0600);
 249   ASSERT (STDERR_FILENO < fd);
 250   close (fd + 1);
 251   close (fd + 2);
 252
 253   /* For F_DUPFD*, the source must be valid.  */
 254   errno = 0;
 255   ASSERT (fcntl (-1, F_DUPFD, 0) == -1);
 256   ASSERT (errno == EBADF);
 257   errno = 0;
 258   ASSERT (fcntl (fd + 1, F_DUPFD, 0) == -1);
 259   ASSERT (errno == EBADF);
 260   errno = 0;
 261   ASSERT (fcntl (10000000, F_DUPFD, 0) == -1);
 262   ASSERT (errno == EBADF);
 263   errno = 0;
 264   ASSERT (fcntl (-1, F_DUPFD_CLOEXEC, 0) == -1);
 265   ASSERT (errno == EBADF);
 266   errno = 0;
 267   ASSERT (fcntl (fd + 1, F_DUPFD_CLOEXEC, 0) == -1);
 268   ASSERT (errno == EBADF);
 269   errno = 0;
 270   ASSERT (fcntl (10000000, F_DUPFD_CLOEXEC, 0) == -1);
 271   ASSERT (errno == EBADF);
 272
 273   /* For F_DUPFD*, the destination must be valid.  */
 274   ASSERT (getdtablesize () < 10000000);
 275   errno = 0;
 276   ASSERT (fcntl (fd, F_DUPFD, -1) == -1);
 277   ASSERT (errno == EINVAL);
 278   errno = 0;
 279   ASSERT (fcntl (fd, F_DUPFD, 10000000) == -1);
 280   ASSERT (errno == EINVAL);
 281   ASSERT (getdtablesize () < 10000000);
 282   errno = 0;
 283   ASSERT (fcntl (fd, F_DUPFD_CLOEXEC, -1) == -1);
 284   ASSERT (errno == EINVAL);
 285   errno = 0;
 286   ASSERT (fcntl (fd, F_DUPFD_CLOEXEC, 10000000) == -1);
 287   ASSERT (errno == EINVAL);
 288
 289   /* For F_DUPFD*, check for correct inheritance, as well as
 290      preservation of text vs. binary.  */
 291   setmode (fd, O_BINARY);
 292   ASSERT (is_open (fd));
 293   ASSERT (!is_open (fd + 1));
 294   ASSERT (!is_open (fd + 2));
 295   ASSERT (is_inheritable (fd));
 296   ASSERT (is_mode (fd, O_BINARY));
 297
 298   ASSERT (fcntl (fd, F_DUPFD, fd) == fd + 1);
 299   ASSERT (is_open (fd));
 300   ASSERT (is_open (fd + 1));
 301   ASSERT (!is_open (fd + 2));
 302   ASSERT (is_inheritable (fd + 1));
 303   ASSERT (is_mode (fd, O_BINARY));
 304   ASSERT (is_mode (fd + 1, O_BINARY));
 305   ASSERT (close (fd + 1) == 0);
 306
 307   ASSERT (fcntl (fd, F_DUPFD_CLOEXEC, fd + 2) == fd + 2);
 308   ASSERT (is_open (fd));
 309   ASSERT (!is_open (fd + 1));
 310   ASSERT (is_open (fd + 2));
 311   ASSERT (is_inheritable (fd));
 312   ASSERT (!is_inheritable (fd + 2));
 313   ASSERT (is_mode (fd, O_BINARY));
 314   ASSERT (is_mode (fd + 2, O_BINARY));
 315   ASSERT (close (fd) == 0);
 316
 317   setmode (fd + 2, O_TEXT);
 318   ASSERT (fcntl (fd + 2, F_DUPFD, fd + 1) == fd + 1);
 319   ASSERT (!is_open (fd));
 320   ASSERT (is_open (fd + 1));
 321   ASSERT (is_open (fd + 2));
 322   ASSERT (is_inheritable (fd + 1));
 323   ASSERT (!is_inheritable (fd + 2));
 324   ASSERT (is_mode (fd + 1, O_TEXT));
 325   ASSERT (is_mode (fd + 2, O_TEXT));
 326   ASSERT (close (fd + 1) == 0);
 327
 328   ASSERT (fcntl (fd + 2, F_DUPFD_CLOEXEC, 0) == fd);
 329   ASSERT (is_open (fd));
 330   ASSERT (!is_open (fd + 1));
 331   ASSERT (is_open (fd + 2));
 332   ASSERT (!is_inheritable (fd));
 333   ASSERT (!is_inheritable (fd + 2));
 334   ASSERT (is_mode (fd, O_TEXT));
 335   ASSERT (is_mode (fd + 2, O_TEXT));
 336   ASSERT (close (fd + 2) == 0);
 337
 338   /* Cleanup.  */
 339   ASSERT (close (fd) == 0);
 340   ASSERT (unlink (file) == 0);
 341
 342 #endif /* HAVE_FCNTL */
 343
 344   return 0;
 345 }