New module 'msvc-nothrow'. Makes _get_osfhandle safe on MSVC 9.
[gnulib.git] / lib / dup2.c
1 /* Duplicate an open file descriptor to a specified file descriptor.
2
3    Copyright (C) 1999, 2004-2007, 2009-2011 Free Software Foundation, Inc.
4
5    This program is free software: you can redistribute it and/or modify
6    it under the terms of the GNU General Public License as published by
7    the Free Software Foundation; either version 3 of the License, or
8    (at your option) any later version.
9
10    This program is distributed in the hope that it will be useful,
11    but WITHOUT ANY WARRANTY; without even the implied warranty of
12    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
13    GNU General Public License for more details.
14
15    You should have received a copy of the GNU General Public License
16    along with this program.  If not, see <http://www.gnu.org/licenses/>.  */
17
18 /* written by Paul Eggert */
19
20 #include <config.h>
21
22 /* Specification.  */
23 #include <unistd.h>
24
25 #include <errno.h>
26 #include <fcntl.h>
27
28 #if (defined _WIN32 || defined __WIN32__) && ! defined __CYGWIN__
29 /* Get declarations of the Win32 API functions.  */
30 # define WIN32_LEAN_AND_MEAN
31 # include <windows.h>
32 /* Get _get_osfhandle.  */
33 # include "msvc-nothrow.h"
34 #endif
35
36 #include "msvc-inval.h"
37
38 #if HAVE_DUP2
39
40 # undef dup2
41
42 # if HAVE_MSVC_INVALID_PARAMETER_HANDLER
43 static inline int
44 dup2_nothrow (int fd, int desired_fd)
45 {
46   int result;
47
48   TRY_MSVC_INVAL
49     {
50       result = dup2 (fd, desired_fd);
51     }
52   CATCH_MSVC_INVAL
53     {
54       result = -1;
55       errno = EBADF;
56     }
57   DONE_MSVC_INVAL;
58
59   return result;
60 }
61 # else
62 #  define dup2_nothrow dup2
63 # endif
64
65 int
66 rpl_dup2 (int fd, int desired_fd)
67 {
68   int result;
69 # if (defined _WIN32 || defined __WIN32__) && ! defined __CYGWIN__
70   /* If fd is closed, mingw hangs on dup2 (fd, fd).  If fd is open,
71      dup2 (fd, fd) returns 0, but all further attempts to use fd in
72      future dup2 calls will hang.  */
73   if (fd == desired_fd)
74     {
75       if ((HANDLE) _get_osfhandle (fd) == INVALID_HANDLE_VALUE)
76         {
77           errno = EBADF;
78           return -1;
79         }
80       return fd;
81     }
82   /* Wine 1.0.1 return 0 when desired_fd is negative but not -1:
83      http://bugs.winehq.org/show_bug.cgi?id=21289 */
84   if (desired_fd < 0)
85     {
86       errno = EBADF;
87       return -1;
88     }
89 # elif !defined __linux__
90   /* On Haiku, dup2 (fd, fd) mistakenly clears FD_CLOEXEC.  */
91   if (fd == desired_fd)
92     return fcntl (fd, F_GETFL) == -1 ? -1 : fd;
93 # endif
94
95   result = dup2_nothrow (fd, desired_fd);
96
97 # ifdef __linux__
98   /* Correct a Linux return value.
99      <http://git.kernel.org/?p=linux/kernel/git/stable/linux-2.6.30.y.git;a=commitdiff;h=2b79bc4f7ebbd5af3c8b867968f9f15602d5f802>
100    */
101   if (fd == desired_fd && result == (unsigned int) -EBADF)
102     {
103       errno = EBADF;
104       result = -1;
105     }
106 # endif
107   if (result == 0)
108     result = desired_fd;
109   /* Correct a cygwin 1.5.x errno value.  */
110   else if (result == -1 && errno == EMFILE)
111     errno = EBADF;
112 # if REPLACE_FCHDIR
113   if (fd != desired_fd && result != -1)
114     result = _gl_register_dup (fd, result);
115 # endif
116   return result;
117 }
118
119 #else /* !HAVE_DUP2 */
120
121 /* On older platforms, dup2 did not exist.  */
122
123 # ifndef F_DUPFD
124 static int
125 dupfd (int fd, int desired_fd)
126 {
127   int duplicated_fd = dup (fd);
128   if (duplicated_fd < 0 || duplicated_fd == desired_fd)
129     return duplicated_fd;
130   else
131     {
132       int r = dupfd (fd, desired_fd);
133       int e = errno;
134       close (duplicated_fd);
135       errno = e;
136       return r;
137     }
138 }
139 # endif
140
141 int
142 dup2 (int fd, int desired_fd)
143 {
144   int result = fcntl (fd, F_GETFL) < 0 ? -1 : fd;
145   if (result == -1 || fd == desired_fd)
146     return result;
147   close (desired_fd);
148 # ifdef F_DUPFD
149   result = fcntl (fd, F_DUPFD, desired_fd);
150 #  if REPLACE_FCHDIR
151   if (0 <= result)
152     result = _gl_register_dup (fd, result);
153 #  endif
154 # else
155   result = dupfd (fd, desired_fd);
156 # endif
157   if (result == -1 && (errno == EMFILE || errno == EINVAL))
158     errno = EBADF;
159   return result;
160 }
161 #endif /* !HAVE_DUP2 */