lib/ptsname_r.c

   1 /* Determine name of the slave side of a pseudo-terminal.
   2    Copyright (C) 1998, 2002, 2010-2012 Free Software Foundation, Inc.
   3
   4    This program is free software: you can redistribute it and/or modify
   5    it under the terms of the GNU General Public License as published by
   6    the Free Software Foundation; either version 3 of the License, or
   7    (at your option) any later version.
   8
   9    This program is distributed in the hope that it will be useful,
  10    but WITHOUT ANY WARRANTY; without even the implied warranty of
  11    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  12    GNU General Public License for more details.
  13
  14    You should have received a copy of the GNU General Public License
  15    along with this program.  If not, see <http://www.gnu.org/licenses/>.  */
  16
  17 #include <config.h>
  18
  19 #include <stdlib.h>
  20
  21 #include <errno.h>
  22 #include <fcntl.h>
  23 #include <string.h>
  24 #include <sys/stat.h>
  25 #include <unistd.h>
  26
  27 #ifdef _LIBC
  28 # include <paths.h>
  29 #else
  30 # ifndef _PATH_TTY
  31 #  define _PATH_TTY "/dev/tty"
  32 # endif
  33 # ifndef _PATH_DEV
  34 #  define _PATH_DEV "/dev/"
  35 # endif
  36
  37 # define __set_errno(e) errno = (e)
  38 # define __isatty isatty
  39 # define __stat stat
  40 # define __ttyname_r ttyname_r
  41 # define __ptsname_r ptsname_r
  42
  43 #endif
  44
  45 #ifdef __sun
  46 /* Get ioctl() and 'struct strioctl'.  */
  47 # include <stropts.h>
  48 /* Get ISPTM.  */
  49 # include <sys/stream.h>
  50 # include <sys/ptms.h>
  51 /* Get the major, minor macros.  */
  52 # include <sys/sysmacros.h>
  53 # include <stdio.h>
  54 #endif
  55
  56
  57 /* Store at most BUFLEN characters of the pathname of the slave pseudo
  58    terminal associated with the master FD is open on in BUF.
  59    Return 0 on success, otherwise an error number.  */
  60 int
  61 __ptsname_r (int fd, char *buf, size_t buflen)
  62 {
  63   int save_errno = errno;
  64   int err;
  65   struct stat st;
  66
  67   if (buf == NULL)
  68     {
  69       __set_errno (EINVAL);
  70       return EINVAL;
  71     }
  72
  73 #if defined __sun /* Solaris */
  74   if (fstat (fd, &st) < 0)
  75     return errno;
  76   if (!(S_ISCHR (st.st_mode) && major (st.st_rdev) == 0))
  77     {
  78       errno = ENOTTY;
  79       return errno;
  80     }
  81   {
  82     /* Master ptys can be recognized through a STREAMS ioctl.  See
  83        "STREAMS-based Pseudo-Terminal Subsystem"
  84        <http://docs.oracle.com/cd/E18752_01/html/816-4855/termsub15-44781.html>
  85        and "STREAMS ioctl commands"
  86        <http://docs.oracle.com/cd/E18752_01/html/816-5177/streamio-7i.html>
  87      */
  88     struct strioctl ioctl_arg;
  89     ioctl_arg.ic_cmd = ISPTM;
  90     ioctl_arg.ic_timout = 0;
  91     ioctl_arg.ic_len = 0;
  92     ioctl_arg.ic_dp = NULL;
  93
  94     if (ioctl (fd, I_STR, &ioctl_arg) < 0)
  95       {
  96         errno = ENOTTY;
  97         return errno;
  98       }
  99   }
 100   {
 101     char tmpbuf[9 + 10 + 1];
 102     int n = sprintf (tmpbuf, "/dev/pts/%u", minor (st.st_rdev));
 103     if (n >= buflen)
 104       {
 105         errno = ERANGE;
 106         return errno;
 107       }
 108     memcpy (buf, tmpbuf, n + 1);
 109   }
 110 #else
 111   if (!__isatty (fd))
 112     {
 113 #if ISATTY_FAILS_WITHOUT_SETTING_ERRNO && defined F_GETFL /* IRIX, Solaris */
 114       /* Set errno.  */
 115       if (fcntl (fd, F_GETFL) != -1)
 116         errno = ENOTTY;
 117 #else
 118       /* We rely on isatty to set errno properly (i.e. EBADF or ENOTTY).  */
 119 #endif
 120       return errno;
 121     }
 122
 123   if (buflen < strlen (_PATH_TTY) + 3)
 124     {
 125       __set_errno (ERANGE);
 126       return ERANGE;
 127     }
 128
 129   err = __ttyname_r (fd, buf, buflen);
 130   if (err != 0)
 131     {
 132       __set_errno (err);
 133       return errno;
 134     }
 135
 136   buf[sizeof (_PATH_DEV) - 1] = 't';
 137 #endif
 138
 139   if (__stat (buf, &st) < 0)
 140     return errno;
 141
 142   __set_errno (save_errno);
 143   return 0;
 144 }