dup2: Make code more maintainable.
[gnulib.git] / lib / dup2.c
1 /* Duplicate an open file descriptor to a specified file descriptor.
2
3    Copyright (C) 1999, 2004-2007, 2009-2011 Free Software Foundation, Inc.
4
5    This program is free software: you can redistribute it and/or modify
6    it under the terms of the GNU General Public License as published by
7    the Free Software Foundation; either version 3 of the License, or
8    (at your option) any later version.
9
10    This program is distributed in the hope that it will be useful,
11    but WITHOUT ANY WARRANTY; without even the implied warranty of
12    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
13    GNU General Public License for more details.
14
15    You should have received a copy of the GNU General Public License
16    along with this program.  If not, see <http://www.gnu.org/licenses/>.  */
17
18 /* written by Paul Eggert */
19
20 #include <config.h>
21
22 /* Specification.  */
23 #include <unistd.h>
24
25 #include <errno.h>
26 #include <fcntl.h>
27
28 #if (defined _WIN32 || defined __WIN32__) && ! defined __CYGWIN__
29 /* Get declarations of the Win32 API functions.  */
30 # define WIN32_LEAN_AND_MEAN
31 # include <windows.h>
32 #endif
33
34 #include "msvc-inval.h"
35
36 #if HAVE_DUP2
37
38 # undef dup2
39
40 # if HAVE_MSVC_INVALID_PARAMETER_HANDLER
41 static inline int
42 dup2_nothrow (int fd, int desired_fd)
43 {
44   int result;
45
46   TRY_MSVC_INVAL
47     {
48       result = dup2 (fd, desired_fd);
49     }
50   CATCH_MSVC_INVAL
51     {
52       result = -1;
53       errno = EBADF;
54     }
55   DONE_MSVC_INVAL;
56
57   return result;
58 }
59 # else
60 #  define dup2_nothrow dup2
61 # endif
62
63 int
64 rpl_dup2 (int fd, int desired_fd)
65 {
66   int result;
67 # if (defined _WIN32 || defined __WIN32__) && ! defined __CYGWIN__
68   /* If fd is closed, mingw hangs on dup2 (fd, fd).  If fd is open,
69      dup2 (fd, fd) returns 0, but all further attempts to use fd in
70      future dup2 calls will hang.  */
71   if (fd == desired_fd)
72     {
73       HANDLE handle;
74
75       TRY_MSVC_INVAL
76         {
77           handle = (HANDLE) _get_osfhandle (fd);
78         }
79       CATCH_MSVC_INVAL
80         {
81           handle = INVALID_HANDLE_VALUE;
82         }
83       DONE_MSVC_INVAL;
84
85       if (handle == INVALID_HANDLE_VALUE)
86         {
87           errno = EBADF;
88           return -1;
89         }
90       return fd;
91     }
92   /* Wine 1.0.1 return 0 when desired_fd is negative but not -1:
93      http://bugs.winehq.org/show_bug.cgi?id=21289 */
94   if (desired_fd < 0)
95     {
96       errno = EBADF;
97       return -1;
98     }
99 # elif !defined __linux__
100   /* On Haiku, dup2 (fd, fd) mistakenly clears FD_CLOEXEC.  */
101   if (fd == desired_fd)
102     return fcntl (fd, F_GETFL) == -1 ? -1 : fd;
103 # endif
104
105   result = dup2_nothrow (fd, desired_fd);
106
107 # ifdef __linux__
108   /* Correct a Linux return value.
109      <http://git.kernel.org/?p=linux/kernel/git/stable/linux-2.6.30.y.git;a=commitdiff;h=2b79bc4f7ebbd5af3c8b867968f9f15602d5f802>
110    */
111   if (fd == desired_fd && result == (unsigned int) -EBADF)
112     {
113       errno = EBADF;
114       result = -1;
115     }
116 # endif
117   if (result == 0)
118     result = desired_fd;
119   /* Correct a cygwin 1.5.x errno value.  */
120   else if (result == -1 && errno == EMFILE)
121     errno = EBADF;
122 # if REPLACE_FCHDIR
123   if (fd != desired_fd && result != -1)
124     result = _gl_register_dup (fd, result);
125 # endif
126   return result;
127 }
128
129 #else /* !HAVE_DUP2 */
130
131 /* On older platforms, dup2 did not exist.  */
132
133 # ifndef F_DUPFD
134 static int
135 dupfd (int fd, int desired_fd)
136 {
137   int duplicated_fd = dup (fd);
138   if (duplicated_fd < 0 || duplicated_fd == desired_fd)
139     return duplicated_fd;
140   else
141     {
142       int r = dupfd (fd, desired_fd);
143       int e = errno;
144       close (duplicated_fd);
145       errno = e;
146       return r;
147     }
148 }
149 # endif
150
151 int
152 dup2 (int fd, int desired_fd)
153 {
154   int result = fcntl (fd, F_GETFL) < 0 ? -1 : fd;
155   if (result == -1 || fd == desired_fd)
156     return result;
157   close (desired_fd);
158 # ifdef F_DUPFD
159   result = fcntl (fd, F_DUPFD, desired_fd);
160 #  if REPLACE_FCHDIR
161   if (0 <= result)
162     result = _gl_register_dup (fd, result);
163 #  endif
164 # else
165   result = dupfd (fd, desired_fd);
166 # endif
167   if (result == -1 && (errno == EMFILE || errno == EINVAL))
168     errno = EBADF;
169   return result;
170 }
171 #endif /* !HAVE_DUP2 */