Add support for HP-UX ACLs.
[gnulib.git] / lib / file-has-acl.c
1 /* Test whether a file has a nontrivial access control list.
2
3    Copyright (C) 2002-2003, 2005-2008 Free Software Foundation, Inc.
4
5    This program is free software: you can redistribute it and/or modify
6    it under the terms of the GNU General Public License as published by
7    the Free Software Foundation; either version 3 of the License, or
8    (at your option) any later version.
9
10    This program is distributed in the hope that it will be useful,
11    but WITHOUT ANY WARRANTY; without even the implied warranty of
12    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
13    GNU General Public License for more details.
14
15    You should have received a copy of the GNU General Public License
16    along with this program.  If not, see <http://www.gnu.org/licenses/>.
17
18    Written by Paul Eggert and Andreas Gruenbacher.  */
19
20 #include <config.h>
21
22 #include "acl.h"
23
24 #include "acl-internal.h"
25
26
27 #if USE_ACL && HAVE_ACL_GET_FILE
28
29 # if HAVE_ACL_TYPE_EXTENDED /* MacOS X */
30
31 /* ACL is an ACL, from a file, stored as type ACL_TYPE_EXTENDED.
32    Return 1 if the given ACL is non-trivial.
33    Return 0 if it is trivial.  */
34 int
35 acl_extended_nontrivial (acl_t acl)
36 {
37   /* acl is non-trivial if it is non-empty.  */
38   return (acl_entries (acl) > 0);
39 }
40
41 # else /* Linux, FreeBSD, IRIX, Tru64 */
42
43 /* ACL is an ACL, from a file, stored as type ACL_TYPE_ACCESS.
44    Return 1 if the given ACL is non-trivial.
45    Return 0 if it is trivial, i.e. equivalent to a simple stat() mode.
46    Return -1 and set errno upon failure to determine it.  */
47 int
48 acl_access_nontrivial (acl_t acl)
49 {
50   /* acl is non-trivial if it has some entries other than for "user::",
51      "group::", and "other::".  Normally these three should be present
52      at least, allowing us to write
53         return (3 < acl_entries (acl));
54      but the following code is more robust.  */
55 #  if HAVE_ACL_FIRST_ENTRY /* Linux, FreeBSD */
56
57   acl_entry_t ace;
58   int at_end;
59
60   for (at_end = acl_get_entry (acl, ACL_FIRST_ENTRY, &ace);
61        !at_end;
62        at_end = acl_get_entry (acl, ACL_NEXT_ENTRY, &ace))
63     {
64       acl_tag_t tag;
65       if (acl_get_tag_type (ace, &tag) < 0)
66         return -1;
67       if (!(tag == ACL_USER_OBJ || tag == ACL_GROUP_OBJ || tag == ACL_OTHER))
68         return 1;
69     }
70   return 0;
71
72 #  else /* IRIX, Tru64 */
73 #   if HAVE_ACL_TO_SHORT_TEXT /* IRIX */
74   /* Don't use acl_get_entry: it is undocumented.  */
75
76   int count = acl->acl_cnt;
77   int i;
78
79   for (i = 0; i < count; i++)
80     {
81       acl_entry_t ace = &acl->acl_entry[i];
82       acl_tag_t tag = ace->ae_tag;
83
84       if (!(tag == ACL_USER_OBJ || tag == ACL_GROUP_OBJ
85             || tag == ACL_OTHER_OBJ))
86         return 1;
87     }
88   return 0;
89
90 #   endif
91 #   if HAVE_ACL_FREE_TEXT /* Tru64 */
92   /* Don't use acl_get_entry: it takes only one argument and does not work.  */
93
94   int count = acl->acl_num;
95   acl_entry_t ace;
96
97   for (ace = acl->acl_first; count > 0; ace = ace->next, count--)
98     {
99       acl_tag_t tag;
100       acl_perm_t perm;
101
102       tag = ace->entry->acl_type;
103       if (!(tag == ACL_USER_OBJ || tag == ACL_GROUP_OBJ || tag == ACL_OTHER))
104         return 1;
105
106       perm = ace->entry->acl_perm;
107       /* On Tru64, perm can also contain non-standard bits such as
108          PERM_INSERT, PERM_DELETE, PERM_MODIFY, PERM_LOOKUP, ... */
109       if ((perm & ~(ACL_READ | ACL_WRITE | ACL_EXECUTE)) != 0)
110         return 1;
111     }
112   return 0;
113
114 #   endif
115 #  endif
116 }
117
118 # endif
119
120
121 #elif USE_ACL && HAVE_ACL && defined GETACL /* Solaris, Cygwin, not HP-UX */
122
123 /* Test an ACL retrieved with GETACL.
124    Return 1 if the given ACL, consisting of COUNT entries, is non-trivial.
125    Return 0 if it is trivial, i.e. equivalent to a simple stat() mode.  */
126 int
127 acl_nontrivial (int count, aclent_t *entries)
128 {
129   int i;
130
131   for (i = 0; i < count; i++)
132     {
133       aclent_t *ace = &entries[i];
134
135       /* Note: If ace->a_type = USER_OBJ, ace->a_id is the st_uid from stat().
136          If ace->a_type = GROUP_OBJ, ace->a_id is the st_gid from stat().
137          We don't need to check ace->a_id in these cases.  */
138       if (!(ace->a_type == USER_OBJ
139             || ace->a_type == GROUP_OBJ
140             || ace->a_type == OTHER_OBJ
141             /* Note: Cygwin does not return a CLASS_OBJ ("mask:") entry
142                sometimes.  */
143             || ace->a_type == CLASS_OBJ))
144         return 1;
145     }
146   return 0;
147 }
148
149 # ifdef ACE_GETACL
150
151 /* Test an ACL retrieved with ACE_GETACL.
152    Return 1 if the given ACL, consisting of COUNT entries, is non-trivial.
153    Return 0 if it is trivial, i.e. equivalent to a simple stat() mode.  */
154 int
155 acl_ace_nontrivial (int count, ace_t *entries)
156 {
157   int i;
158
159   for (i = 0; i < count; i++)
160     {
161       ace_t *ace = &entries[i];
162
163       /* Note: If ace->a_flags = ACE_OWNER, ace->a_who is the st_uid from
164          stat().  If ace->a_flags = ACE_GROUP, ace->a_who is the st_gid from
165          stat().  We don't need to check ace->a_who in these cases.  */
166       if (!(ace->a_type == ALLOW
167             && (ace->a_flags == ACE_OWNER
168                 || ace->a_flags == ACE_GROUP
169                 || ace->a_flags == ACE_OTHER)))
170         return 1;
171     }
172   return 0;
173 }
174
175 # endif
176
177 #elif USE_ACL && HAVE_GETACL /* HP-UX */
178
179 /* Return 1 if the given ACL is non-trivial.
180    Return 0 if it is trivial, i.e. equivalent to a simple stat() mode.  */
181 int
182 acl_nontrivial (int count, struct acl_entry *entries, struct stat *sb)
183 {
184   int i;
185
186   for (i = 0; i < count; i++)
187     {
188       struct acl_entry *ace = &entries[i];
189
190       if (!((ace->uid == sb->st_uid && ace->gid == ACL_NSGROUP)
191             || (ace->uid == ACL_NSUSER && ace->gid == sb->st_gid)
192             || (ace->uid == ACL_NSUSER && ace->gid == ACL_NSGROUP)))
193         return 1;
194     }
195   return 0;
196 }
197
198 #endif
199
200
201 /* Return 1 if NAME has a nontrivial access control list, 0 if NAME
202    only has no or a base access control list, and -1 (setting errno)
203    on error.  SB must be set to the stat buffer of FILE.  */
204
205 int
206 file_has_acl (char const *name, struct stat const *sb)
207 {
208 #if USE_ACL
209   if (! S_ISLNK (sb->st_mode))
210     {
211 # if HAVE_ACL_GET_FILE
212
213       /* POSIX 1003.1e (draft 17 -- abandoned) specific version.  */
214       /* Linux, FreeBSD, MacOS X, IRIX, Tru64 */
215       int ret;
216
217       if (HAVE_ACL_EXTENDED_FILE) /* Linux */
218         {
219           /* On Linux, acl_extended_file is an optimized function: It only
220              makes two calls to getxattr(), one for ACL_TYPE_ACCESS, one for
221              ACL_TYPE_DEFAULT.  */
222           ret = acl_extended_file (name);
223         }
224       else /* FreeBSD, MacOS X, IRIX, Tru64 */
225         {
226 #  if HAVE_ACL_TYPE_EXTENDED /* MacOS X */
227           /* On MacOS X, acl_get_file (name, ACL_TYPE_ACCESS)
228              and acl_get_file (name, ACL_TYPE_DEFAULT)
229              always return NULL / EINVAL.  There is no point in making
230              these two useless calls.  The real ACL is retrieved through
231              acl_get_file (name, ACL_TYPE_EXTENDED).  */
232           acl_t acl = acl_get_file (name, ACL_TYPE_EXTENDED);
233           if (acl)
234             {
235               ret = acl_extended_nontrivial (acl);
236               acl_free (acl);
237             }
238           else
239             ret = -1;
240 #  else /* FreeBSD, IRIX, Tru64 */
241           acl_t acl = acl_get_file (name, ACL_TYPE_ACCESS);
242           if (acl)
243             {
244               int saved_errno;
245
246               ret = acl_access_nontrivial (acl);
247               saved_errno = errno;
248               acl_free (acl);
249               errno = saved_errno;
250 #   if HAVE_ACL_FREE_TEXT /* Tru64 */
251               /* On OSF/1, acl_get_file (name, ACL_TYPE_DEFAULT) always
252                  returns NULL with errno not set.  There is no point in
253                  making this call.  */
254 #   else /* FreeBSD, IRIX */
255               /* On Linux, FreeBSD, IRIX, acl_get_file (name, ACL_TYPE_ACCESS)
256                  and acl_get_file (name, ACL_TYPE_DEFAULT) on a directory
257                  either both succeed or both fail; it depends on the
258                  filesystem.  Therefore there is no point in making the second
259                  call if the first one already failed.  */
260               if (ret == 0 && S_ISDIR (sb->st_mode))
261                 {
262                   acl = acl_get_file (name, ACL_TYPE_DEFAULT);
263                   if (acl)
264                     {
265                       ret = (0 < acl_entries (acl));
266                       acl_free (acl);
267                     }
268                   else
269                     ret = -1;
270                 }
271 #   endif
272             }
273           else
274             ret = -1;
275 #  endif
276         }
277       if (ret < 0)
278         return ACL_NOT_WELL_SUPPORTED (errno) ? 0 : -1;
279       return ret;
280
281 # elif HAVE_ACL && defined GETACLCNT /* Solaris, Cygwin, not HP-UX */
282
283 #  if HAVE_ACL_TRIVIAL
284
285       /* Solaris 10 (newer version), which has additional API declared in
286          <sys/acl.h> (acl_t) and implemented in libsec (acl_set, acl_trivial,
287          acl_fromtext, ...).  */
288       return acl_trivial (name);
289
290 #  else /* Solaris, Cygwin, general case */
291
292       /* Solaris 2.5 through Solaris 10, Cygwin, and contemporaneous versions
293          of Unixware.  The acl() call returns the access and default ACL both
294          at once.  */
295       int count;
296       {
297         aclent_t *entries;
298
299         for (;;)
300           {
301             count = acl (name, GETACLCNT, 0, NULL);
302
303             if (count < 0)
304               {
305                 if (errno == ENOSYS || errno == ENOTSUP)
306                   break;
307                 else
308                   return -1;
309               }
310
311             if (count == 0)
312               break;
313
314             /* Don't use MIN_ACL_ENTRIES:  It's set to 4 on Cygwin, but Cygwin
315                returns only 3 entries for files with no ACL.  But this is safe:
316                If there are more than 4 entries, there cannot be only the
317                "user::", "group::", "other:", and "mask:" entries.  */
318             if (count > 4)
319               return 1;
320
321             entries = (aclent_t *) malloc (count * sizeof (aclent_t));
322             if (entries == NULL)
323               {
324                 errno = ENOMEM;
325                 return -1;
326               }
327             if (acl (name, GETACL, count, entries) == count)
328               {
329                 if (acl_nontrivial (count, entries))
330                   {
331                     free (entries);
332                     return 1;
333                   }
334                 free (entries);
335                 break;
336               }
337             /* Huh? The number of ACL entries changed since the last call.
338                Repeat.  */
339             free (entries);
340           }
341       }
342
343 #   ifdef ACE_GETACL
344       /* Solaris also has a different variant of ACLs, used in ZFS and NFSv4
345          file systems (whereas the other ones are used in UFS file systems).  */
346       {
347         ace_t *entries;
348
349         for (;;)
350           {
351             count = acl (name, ACE_GETACLCNT, 0, NULL);
352
353             if (count < 0)
354               {
355                 if (errno == ENOSYS || errno == EINVAL)
356                   break;
357                 else
358                   return -1;
359               }
360
361             if (count == 0)
362               break;
363
364             /* If there are more than 3 entries, there cannot be only the
365                ACE_OWNER, ACE_GROUP, ACE_OTHER entries.  */
366             if (count > 3)
367               return 1;
368
369             entries = (ace_t *) malloc (count * sizeof (ace_t));
370             if (entries == NULL)
371               {
372                 errno = ENOMEM;
373                 return -1;
374               }
375             if (acl (name, ACE_GETACL, count, entries) == count)
376               {
377                 if (acl_ace_nontrivial (count, entries))
378                   {
379                     free (entries);
380                     return 1;
381                   }
382                 free (entries);
383                 break;
384               }
385             /* Huh? The number of ACL entries changed since the last call.
386                Repeat.  */
387             free (entries);
388           }
389       }
390 #   endif
391
392       return 0;
393 #  endif
394
395 # elif HAVE_GETACL /* HP-UX */
396
397       int count;
398       struct acl_entry entries[NACLENTRIES];
399
400       for (;;)
401         {
402           count = getacl (name, 0, NULL);
403
404           if (count < 0)
405             return (errno == ENOSYS || errno == EOPNOTSUPP ? 0 : -1);
406
407           if (count == 0)
408             return 0;
409
410           if (count > NACLENTRIES)
411             /* If NACLENTRIES cannot be trusted, use dynamic memory
412                allocation.  */
413             abort ();
414
415           /* If there are more than 3 entries, there cannot be only the
416              (uid,%), (%,gid), (%,%) entries.  */
417           if (count > 3)
418             return 1;
419
420           if (getacl (name, count, entries) == count)
421             {
422               struct stat statbuf;
423
424               if (stat (name, &statbuf) < 0)
425                 return -1;
426
427               return acl_nontrivial (count, entries, &statbuf);
428             }
429           /* Huh? The number of ACL entries changed since the last call.
430              Repeat.  */
431         }
432
433 # endif
434     }
435 #endif
436
437   /* FIXME: Add support for AIX.  Please see Samba's
438      source/lib/sysacls.c file for fix-related ideas.  */
439
440   return 0;
441 }