dup2: Support for MSVC.
[gnulib.git] / lib / dup2.c
1 /* Duplicate an open file descriptor to a specified file descriptor.
2
3    Copyright (C) 1999, 2004-2007, 2009-2011 Free Software Foundation, Inc.
4
5    This program is free software: you can redistribute it and/or modify
6    it under the terms of the GNU General Public License as published by
7    the Free Software Foundation; either version 3 of the License, or
8    (at your option) any later version.
9
10    This program is distributed in the hope that it will be useful,
11    but WITHOUT ANY WARRANTY; without even the implied warranty of
12    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
13    GNU General Public License for more details.
14
15    You should have received a copy of the GNU General Public License
16    along with this program.  If not, see <http://www.gnu.org/licenses/>.  */
17
18 /* written by Paul Eggert */
19
20 #include <config.h>
21
22 /* Specification.  */
23 #include <unistd.h>
24
25 #include <errno.h>
26 #include <fcntl.h>
27
28 #if (defined _WIN32 || defined __WIN32__) && ! defined __CYGWIN__
29 /* Get declarations of the Win32 API functions.  */
30 # define WIN32_LEAN_AND_MEAN
31 # include <windows.h>
32 #endif
33
34 #include "msvc-inval.h"
35
36 #if HAVE_DUP2
37
38 # undef dup2
39
40 int
41 rpl_dup2 (int fd, int desired_fd)
42 {
43   int result;
44 # if (defined _WIN32 || defined __WIN32__) && ! defined __CYGWIN__
45   /* If fd is closed, mingw hangs on dup2 (fd, fd).  If fd is open,
46      dup2 (fd, fd) returns 0, but all further attempts to use fd in
47      future dup2 calls will hang.  */
48   if (fd == desired_fd)
49     {
50       HANDLE handle;
51
52       TRY_MSVC_INVAL
53         {
54           handle = (HANDLE) _get_osfhandle (fd);
55         }
56       CATCH_MSVC_INVAL
57         {
58           handle = INVALID_HANDLE_VALUE;
59         }
60       DONE_MSVC_INVAL
61
62       if (handle == INVALID_HANDLE_VALUE)
63         {
64           errno = EBADF;
65           return -1;
66         }
67       return fd;
68     }
69   /* Wine 1.0.1 return 0 when desired_fd is negative but not -1:
70      http://bugs.winehq.org/show_bug.cgi?id=21289 */
71   if (desired_fd < 0)
72     {
73       errno = EBADF;
74       return -1;
75     }
76 # elif !defined __linux__
77   /* On Haiku, dup2 (fd, fd) mistakenly clears FD_CLOEXEC.  */
78   if (fd == desired_fd)
79     return fcntl (fd, F_GETFL) == -1 ? -1 : fd;
80 # endif
81
82   TRY_MSVC_INVAL
83     {
84       result = dup2 (fd, desired_fd);
85     }
86   CATCH_MSVC_INVAL
87     {
88       result = -1;
89       errno = EBADF;
90     }
91   DONE_MSVC_INVAL
92
93 # ifdef __linux__
94   /* Correct a Linux return value.
95      <http://git.kernel.org/?p=linux/kernel/git/stable/linux-2.6.30.y.git;a=commitdiff;h=2b79bc4f7ebbd5af3c8b867968f9f15602d5f802>
96    */
97   if (fd == desired_fd && result == (unsigned int) -EBADF)
98     {
99       errno = EBADF;
100       result = -1;
101     }
102 # endif
103   if (result == 0)
104     result = desired_fd;
105   /* Correct a cygwin 1.5.x errno value.  */
106   else if (result == -1 && errno == EMFILE)
107     errno = EBADF;
108 # if REPLACE_FCHDIR
109   if (fd != desired_fd && result != -1)
110     result = _gl_register_dup (fd, result);
111 # endif
112   return result;
113 }
114
115 #else /* !HAVE_DUP2 */
116
117 /* On older platforms, dup2 did not exist.  */
118
119 # ifndef F_DUPFD
120 static int
121 dupfd (int fd, int desired_fd)
122 {
123   int duplicated_fd = dup (fd);
124   if (duplicated_fd < 0 || duplicated_fd == desired_fd)
125     return duplicated_fd;
126   else
127     {
128       int r = dupfd (fd, desired_fd);
129       int e = errno;
130       close (duplicated_fd);
131       errno = e;
132       return r;
133     }
134 }
135 # endif
136
137 int
138 dup2 (int fd, int desired_fd)
139 {
140   int result = fcntl (fd, F_GETFL) < 0 ? -1 : fd;
141   if (result == -1 || fd == desired_fd)
142     return result;
143   close (desired_fd);
144 # ifdef F_DUPFD
145   result = fcntl (fd, F_DUPFD, desired_fd);
146 #  if REPLACE_FCHDIR
147   if (0 <= result)
148     result = _gl_register_dup (fd, result);
149 #  endif
150 # else
151   result = dupfd (fd, desired_fd);
152 # endif
153   if (result == -1 && (errno == EMFILE || errno == EINVAL))
154     errno = EBADF;
155   return result;
156 }
157 #endif /* !HAVE_DUP2 */