lib/cloexec.c

   1 /* closexec.c - set or clear the close-on-exec descriptor flag
   2
   3    Copyright (C) 1991, 2004, 2005, 2006, 2009 Free Software
   4    Foundation, Inc.
   5
   6    This program is free software: you can redistribute it and/or modify
   7    it under the terms of the GNU General Public License as published by
   8    the Free Software Foundation; either version 3 of the License, or
   9    (at your option) any later version.
  10
  11    This program is distributed in the hope that it will be useful,
  12    but WITHOUT ANY WARRANTY; without even the implied warranty of
  13    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  14    GNU General Public License for more details.
  15
  16    You should have received a copy of the GNU General Public License
  17    along with this program.  If not, see <http://www.gnu.org/licenses/>.
  18
  19    The code is taken from glibc/manual/llio.texi  */
  20
  21 #include <config.h>
  22
  23 #include "cloexec.h"
  24
  25 #include <errno.h>
  26 #include <fcntl.h>
  27 #include <unistd.h>
  28
  29 #if (defined _WIN32 || defined __WIN32__) && ! defined __CYGWIN__
  30 /* Native Woe32 API.  */
  31 # define WIN32_LEAN_AND_MEAN
  32 # include <windows.h>
  33 # include <io.h>
  34 #endif
  35
  36
  37 /* Set the `FD_CLOEXEC' flag of DESC if VALUE is true,
  38    or clear the flag if VALUE is false.
  39    Return 0 on success, or -1 on error with `errno' set.
  40
  41    Note that on MingW, this function does NOT protect DESC from being
  42    inherited into spawned children.  Instead, either use dup_cloexec
  43    followed by closing the original DESC, or use interfaces such as
  44    open or pipe2 that accept flags like O_CLOEXEC to create DESC
  45    non-inheritable in the first place.  */
  46
  47 int
  48 set_cloexec_flag (int desc, bool value)
  49 {
  50 #if defined F_GETFD && defined F_SETFD
  51
  52   int flags = fcntl (desc, F_GETFD, 0);
  53
  54   if (0 <= flags)
  55     {
  56       int newflags = (value ? flags | FD_CLOEXEC : flags & ~FD_CLOEXEC);
  57
  58       if (flags == newflags
  59           || fcntl (desc, F_SETFD, newflags) != -1)
  60         return 0;
  61     }
  62
  63   return -1;
  64
  65 #else
  66
  67   if (desc < 0)
  68     {
  69       errno = EBADF;
  70       return -1;
  71     }
  72   return dup2 (desc, desc) == desc ? 0 : -1;
  73
  74 #endif
  75 }
  76
  77
  78 /* Duplicates a file handle FD, while marking the copy to be closed
  79    prior to exec or spawn.  Returns -1 and sets errno if FD could not
  80    be duplicated.  */
  81
  82 int
  83 dup_cloexec (int fd)
  84 {
  85   int nfd;
  86
  87 #if (defined _WIN32 || defined __WIN32__) && ! defined __CYGWIN__
  88
  89   /* Native Woe32 API.  */
  90   HANDLE curr_process = GetCurrentProcess ();
  91   HANDLE old_handle = (HANDLE) _get_osfhandle (fd);
  92   HANDLE new_handle;
  93
  94   if (old_handle == INVALID_HANDLE_VALUE)
  95     {
  96       /* fd is closed, or is open to no handle at all.
  97          We cannot duplicate fd in this case, because _open_osfhandle
  98          fails for an INVALID_HANDLE_VALUE argument.  */
  99       errno = EBADF;
 100       return -1;
 101     }
 102
 103   if (!DuplicateHandle (curr_process,               /* SourceProcessHandle */
 104                         old_handle,                 /* SourceHandle */
 105                         curr_process,               /* TargetProcessHandle */
 106                         (PHANDLE) &new_handle,      /* TargetHandle */
 107                         (DWORD) 0,                  /* DesiredAccess */
 108                         FALSE,                      /* InheritHandle */
 109                         DUPLICATE_SAME_ACCESS))     /* Options */
 110     {
 111       /* TODO: Translate GetLastError () into errno.  */
 112       errno = EMFILE;
 113       return -1;
 114     }
 115
 116   nfd = _open_osfhandle ((long) new_handle, O_BINARY | O_NOINHERIT);
 117   if (nfd < 0)
 118     {
 119       CloseHandle (new_handle);
 120       errno = EMFILE;
 121       return -1;
 122     }
 123
 124 #  if REPLACE_FCHDIR
 125   if (0 <= nfd)
 126     result = _gl_register_dup (fd, nfd);
 127 #  endif
 128   return nfd;
 129
 130 #else /* !_WIN32 */
 131
 132   /* Unix API.  */
 133
 134 # ifdef F_DUPFD_CLOEXEC
 135   nfd = fcntl (fd, F_DUPFD_CLOEXEC, 0);
 136 #  if REPLACE_FCHDIR
 137   if (0 <= nfd)
 138     nfd = _gl_register_dup (fd, nfd);
 139 #  endif
 140
 141 # else /* !F_DUPFD_CLOEXEC */
 142   nfd = dup (fd);
 143   if (0 <= nfd && set_cloexec_flag (nfd, true) < 0)
 144     {
 145       int saved_errno = errno;
 146       close (nfd);
 147       nfd = -1;
 148       errno = saved_errno;
 149     }
 150 # endif /* !F_DUPFD_CLOEXEC */
 151
 152   return nfd;
 153
 154 #endif /* !_WIN32 */
 155 }