NEWS.stable: log cherry-pick [3180807]->[768eb31] doc/lgpl-2.1.texi
[gnulib.git] / lib / file-has-acl.c
1 /* Test whether a file has a nontrivial access control list.
2
3    Copyright (C) 2002-2003, 2005-2011 Free Software Foundation, Inc.
4
5    This program is free software: you can redistribute it and/or modify
6    it under the terms of the GNU General Public License as published by
7    the Free Software Foundation; either version 3 of the License, or
8    (at your option) any later version.
9
10    This program is distributed in the hope that it will be useful,
11    but WITHOUT ANY WARRANTY; without even the implied warranty of
12    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
13    GNU General Public License for more details.
14
15    You should have received a copy of the GNU General Public License
16    along with this program.  If not, see <http://www.gnu.org/licenses/>.
17
18    Written by Paul Eggert, Andreas Grünbacher, and Bruno Haible.  */
19
20 #include <config.h>
21
22 #include "acl.h"
23
24 #include "acl-internal.h"
25
26
27 #if USE_ACL && HAVE_ACL_GET_FILE
28
29 # if HAVE_ACL_TYPE_EXTENDED /* MacOS X */
30
31 /* ACL is an ACL, from a file, stored as type ACL_TYPE_EXTENDED.
32    Return 1 if the given ACL is non-trivial.
33    Return 0 if it is trivial.  */
34 int
35 acl_extended_nontrivial (acl_t acl)
36 {
37   /* acl is non-trivial if it is non-empty.  */
38   return (acl_entries (acl) > 0);
39 }
40
41 # else /* Linux, FreeBSD, IRIX, Tru64 */
42
43 /* ACL is an ACL, from a file, stored as type ACL_TYPE_ACCESS.
44    Return 1 if the given ACL is non-trivial.
45    Return 0 if it is trivial, i.e. equivalent to a simple stat() mode.
46    Return -1 and set errno upon failure to determine it.  */
47 int
48 acl_access_nontrivial (acl_t acl)
49 {
50   /* acl is non-trivial if it has some entries other than for "user::",
51      "group::", and "other::".  Normally these three should be present
52      at least, allowing us to write
53         return (3 < acl_entries (acl));
54      but the following code is more robust.  */
55 #  if HAVE_ACL_FIRST_ENTRY /* Linux, FreeBSD */
56
57   acl_entry_t ace;
58   int got_one;
59
60   for (got_one = acl_get_entry (acl, ACL_FIRST_ENTRY, &ace);
61        got_one > 0;
62        got_one = acl_get_entry (acl, ACL_NEXT_ENTRY, &ace))
63     {
64       acl_tag_t tag;
65       if (acl_get_tag_type (ace, &tag) < 0)
66         return -1;
67       if (!(tag == ACL_USER_OBJ || tag == ACL_GROUP_OBJ || tag == ACL_OTHER))
68         return 1;
69     }
70   return got_one;
71
72 #  else /* IRIX, Tru64 */
73 #   if HAVE_ACL_TO_SHORT_TEXT /* IRIX */
74   /* Don't use acl_get_entry: it is undocumented.  */
75
76   int count = acl->acl_cnt;
77   int i;
78
79   for (i = 0; i < count; i++)
80     {
81       acl_entry_t ace = &acl->acl_entry[i];
82       acl_tag_t tag = ace->ae_tag;
83
84       if (!(tag == ACL_USER_OBJ || tag == ACL_GROUP_OBJ
85             || tag == ACL_OTHER_OBJ))
86         return 1;
87     }
88   return 0;
89
90 #   endif
91 #   if HAVE_ACL_FREE_TEXT /* Tru64 */
92   /* Don't use acl_get_entry: it takes only one argument and does not work.  */
93
94   int count = acl->acl_num;
95   acl_entry_t ace;
96
97   for (ace = acl->acl_first; count > 0; ace = ace->next, count--)
98     {
99       acl_tag_t tag;
100       acl_perm_t perm;
101
102       tag = ace->entry->acl_type;
103       if (!(tag == ACL_USER_OBJ || tag == ACL_GROUP_OBJ || tag == ACL_OTHER))
104         return 1;
105
106       perm = ace->entry->acl_perm;
107       /* On Tru64, perm can also contain non-standard bits such as
108          PERM_INSERT, PERM_DELETE, PERM_MODIFY, PERM_LOOKUP, ... */
109       if ((perm & ~(ACL_READ | ACL_WRITE | ACL_EXECUTE)) != 0)
110         return 1;
111     }
112   return 0;
113
114 #   endif
115 #  endif
116 }
117
118 # endif
119
120
121 #elif USE_ACL && HAVE_FACL && defined GETACL /* Solaris, Cygwin, not HP-UX */
122
123 # if !defined ACL_NO_TRIVIAL /* Solaris <= 10, Cygwin */
124
125 /* Test an ACL retrieved with GETACL.
126    Return 1 if the given ACL, consisting of COUNT entries, is non-trivial.
127    Return 0 if it is trivial, i.e. equivalent to a simple stat() mode.  */
128 int
129 acl_nontrivial (int count, aclent_t *entries)
130 {
131   int i;
132
133   for (i = 0; i < count; i++)
134     {
135       aclent_t *ace = &entries[i];
136
137       /* Note: If ace->a_type = USER_OBJ, ace->a_id is the st_uid from stat().
138          If ace->a_type = GROUP_OBJ, ace->a_id is the st_gid from stat().
139          We don't need to check ace->a_id in these cases.  */
140       if (!(ace->a_type == USER_OBJ
141             || ace->a_type == GROUP_OBJ
142             || ace->a_type == OTHER_OBJ
143             /* Note: Cygwin does not return a CLASS_OBJ ("mask:") entry
144                sometimes.  */
145             || ace->a_type == CLASS_OBJ))
146         return 1;
147     }
148   return 0;
149 }
150
151 #  ifdef ACE_GETACL
152
153 /* Test an ACL retrieved with ACE_GETACL.
154    Return 1 if the given ACL, consisting of COUNT entries, is non-trivial.
155    Return 0 if it is trivial, i.e. equivalent to a simple stat() mode.  */
156 int
157 acl_ace_nontrivial (int count, ace_t *entries)
158 {
159   int i;
160
161   /* The flags in the ace_t structure changed in a binary incompatible way
162      when ACL_NO_TRIVIAL etc. were introduced in <sys/acl.h> version 1.15.
163      How to distinguish the two conventions at runtime?
164      In the old convention, usually three ACEs have a_flags = ACE_OWNER /
165      ACE_GROUP / ACE_OTHER, in the range 0x0100..0x0400.  In the new
166      convention, these values are not used.  */
167   int old_convention = 0;
168
169   for (i = 0; i < count; i++)
170     if (entries[i].a_flags & (ACE_OWNER | ACE_GROUP | ACE_OTHER))
171       {
172         old_convention = 1;
173         break;
174       }
175
176   if (old_convention)
177     /* Running on Solaris 10.  */
178     for (i = 0; i < count; i++)
179       {
180         ace_t *ace = &entries[i];
181
182         /* Note:
183            If ace->a_flags = ACE_OWNER, ace->a_who is the st_uid from stat().
184            If ace->a_flags = ACE_GROUP, ace->a_who is the st_gid from stat().
185            We don't need to check ace->a_who in these cases.  */
186         if (!(ace->a_type == ALLOW
187               && (ace->a_flags == ACE_OWNER
188                   || ace->a_flags == ACE_GROUP
189                   || ace->a_flags == ACE_OTHER)))
190           return 1;
191       }
192   else
193     /* Running on Solaris 10 (newer version) or Solaris 11.  */
194     for (i = 0; i < count; i++)
195       {
196         ace_t *ace = &entries[i];
197
198         if (!(ace->a_type == ACE_ACCESS_ALLOWED_ACE_TYPE
199               && (ace->a_flags == NEW_ACE_OWNER
200                   || ace->a_flags
201                      == (NEW_ACE_GROUP | NEW_ACE_IDENTIFIER_GROUP)
202                   || ace->a_flags == ACE_EVERYONE)
203               && (ace->a_access_mask
204                   & ~(NEW_ACE_READ_DATA | NEW_ACE_WRITE_DATA | NEW_ACE_EXECUTE))
205                  == 0))
206           return 1;
207       }
208
209   return 0;
210 }
211
212 #  endif
213
214 # endif
215
216 #elif USE_ACL && HAVE_GETACL /* HP-UX */
217
218 /* Return 1 if the given ACL is non-trivial.
219    Return 0 if it is trivial, i.e. equivalent to a simple stat() mode.  */
220 int
221 acl_nontrivial (int count, struct acl_entry *entries, struct stat *sb)
222 {
223   int i;
224
225   for (i = 0; i < count; i++)
226     {
227       struct acl_entry *ace = &entries[i];
228
229       if (!((ace->uid == sb->st_uid && ace->gid == ACL_NSGROUP)
230             || (ace->uid == ACL_NSUSER && ace->gid == sb->st_gid)
231             || (ace->uid == ACL_NSUSER && ace->gid == ACL_NSGROUP)))
232         return 1;
233     }
234   return 0;
235 }
236
237 #elif USE_ACL && (HAVE_ACLX_GET || HAVE_STATACL) /* AIX */
238
239 /* Return 1 if the given ACL is non-trivial.
240    Return 0 if it is trivial, i.e. equivalent to a simple stat() mode.  */
241 int
242 acl_nontrivial (struct acl *a)
243 {
244   /* The normal way to iterate through an ACL is like this:
245        struct acl_entry *ace;
246        for (ace = a->acl_ext; ace != acl_last (a); ace = acl_nxt (ace))
247          {
248            struct ace_id *aei;
249            switch (ace->ace_type)
250              {
251              case ACC_PERMIT:
252              case ACC_DENY:
253              case ACC_SPECIFY:
254                ...;
255              }
256            for (aei = ace->ace_id; aei != id_last (ace); aei = id_nxt (aei))
257              ...
258          }
259    */
260   return (acl_last (a) != a->acl_ext ? 1 : 0);
261 }
262
263 # if HAVE_ACLX_GET && defined ACL_AIX_WIP /* newer AIX */
264
265 /* Return 1 if the given ACL is non-trivial.
266    Return 0 if it is trivial, i.e. equivalent to a simple stat() mode.  */
267 int
268 acl_nfs4_nontrivial (nfs4_acl_int_t *a)
269 {
270 #  if 1 /* let's try this first */
271   return (a->aclEntryN > 0 ? 1 : 0);
272 #  else
273   int count = a->aclEntryN;
274   int i;
275
276   for (i = 0; i < count; i++)
277     {
278       nfs4_ace_int_t *ace = &a->aclEntry[i];
279
280       if (!((ace->flags & ACE4_ID_SPECIAL) != 0
281             && (ace->aceWho.special_whoid == ACE4_WHO_OWNER
282                 || ace->aceWho.special_whoid == ACE4_WHO_GROUP
283                 || ace->aceWho.special_whoid == ACE4_WHO_EVERYONE)
284             && ace->aceType == ACE4_ACCESS_ALLOWED_ACE_TYPE
285             && ace->aceFlags == 0
286             && (ace->aceMask & ~(ACE4_READ_DATA | ACE4_LIST_DIRECTORY
287                                  | ACE4_WRITE_DATA | ACE4_ADD_FILE
288                                  | ACE4_EXECUTE)) == 0))
289         return 1;
290     }
291   return 0;
292 #  endif
293 }
294
295 # endif
296
297 #elif USE_ACL && HAVE_ACLSORT /* NonStop Kernel */
298
299 /* Test an ACL retrieved with ACL_GET.
300    Return 1 if the given ACL, consisting of COUNT entries, is non-trivial.
301    Return 0 if it is trivial, i.e. equivalent to a simple stat() mode.  */
302 int
303 acl_nontrivial (int count, struct acl *entries)
304 {
305   int i;
306
307   for (i = 0; i < count; i++)
308     {
309       struct acl *ace = &entries[i];
310
311       /* Note: If ace->a_type = USER_OBJ, ace->a_id is the st_uid from stat().
312          If ace->a_type = GROUP_OBJ, ace->a_id is the st_gid from stat().
313          We don't need to check ace->a_id in these cases.  */
314       if (!(ace->a_type == USER_OBJ /* no need to check ace->a_id here */
315             || ace->a_type == GROUP_OBJ /* no need to check ace->a_id here */
316             || ace->a_type == CLASS_OBJ
317             || ace->a_type == OTHER_OBJ))
318         return 1;
319     }
320   return 0;
321 }
322
323 #endif
324
325
326 /* Return 1 if NAME has a nontrivial access control list, 0 if NAME
327    only has no or a base access control list, and -1 (setting errno)
328    on error.  SB must be set to the stat buffer of FILE.  */
329
330 int
331 file_has_acl (char const *name, struct stat const *sb)
332 {
333 #if USE_ACL
334   if (! S_ISLNK (sb->st_mode))
335     {
336 # if HAVE_ACL_GET_FILE
337
338       /* POSIX 1003.1e (draft 17 -- abandoned) specific version.  */
339       /* Linux, FreeBSD, MacOS X, IRIX, Tru64 */
340       int ret;
341
342       if (HAVE_ACL_EXTENDED_FILE) /* Linux */
343         {
344           /* On Linux, acl_extended_file is an optimized function: It only
345              makes two calls to getxattr(), one for ACL_TYPE_ACCESS, one for
346              ACL_TYPE_DEFAULT.  */
347           ret = acl_extended_file (name);
348         }
349       else /* FreeBSD, MacOS X, IRIX, Tru64 */
350         {
351 #  if HAVE_ACL_TYPE_EXTENDED /* MacOS X */
352           /* On MacOS X, acl_get_file (name, ACL_TYPE_ACCESS)
353              and acl_get_file (name, ACL_TYPE_DEFAULT)
354              always return NULL / EINVAL.  There is no point in making
355              these two useless calls.  The real ACL is retrieved through
356              acl_get_file (name, ACL_TYPE_EXTENDED).  */
357           acl_t acl = acl_get_file (name, ACL_TYPE_EXTENDED);
358           if (acl)
359             {
360               ret = acl_extended_nontrivial (acl);
361               acl_free (acl);
362             }
363           else
364             ret = -1;
365 #  else /* FreeBSD, IRIX, Tru64 */
366           acl_t acl = acl_get_file (name, ACL_TYPE_ACCESS);
367           if (acl)
368             {
369               int saved_errno;
370
371               ret = acl_access_nontrivial (acl);
372               saved_errno = errno;
373               acl_free (acl);
374               errno = saved_errno;
375 #   if HAVE_ACL_FREE_TEXT /* Tru64 */
376               /* On OSF/1, acl_get_file (name, ACL_TYPE_DEFAULT) always
377                  returns NULL with errno not set.  There is no point in
378                  making this call.  */
379 #   else /* FreeBSD, IRIX */
380               /* On Linux, FreeBSD, IRIX, acl_get_file (name, ACL_TYPE_ACCESS)
381                  and acl_get_file (name, ACL_TYPE_DEFAULT) on a directory
382                  either both succeed or both fail; it depends on the
383                  file system.  Therefore there is no point in making the second
384                  call if the first one already failed.  */
385               if (ret == 0 && S_ISDIR (sb->st_mode))
386                 {
387                   acl = acl_get_file (name, ACL_TYPE_DEFAULT);
388                   if (acl)
389                     {
390                       ret = (0 < acl_entries (acl));
391                       acl_free (acl);
392                     }
393                   else
394                     ret = -1;
395                 }
396 #   endif
397             }
398           else
399             ret = -1;
400 #  endif
401         }
402       if (ret < 0)
403         return ACL_NOT_WELL_SUPPORTED (errno) ? 0 : -1;
404       return ret;
405
406 # elif HAVE_FACL && defined GETACLCNT /* Solaris, Cygwin, not HP-UX */
407
408 #  if defined ACL_NO_TRIVIAL
409
410       /* Solaris 10 (newer version), which has additional API declared in
411          <sys/acl.h> (acl_t) and implemented in libsec (acl_set, acl_trivial,
412          acl_fromtext, ...).  */
413       return acl_trivial (name);
414
415 #  else /* Solaris, Cygwin, general case */
416
417       /* Solaris 2.5 through Solaris 10, Cygwin, and contemporaneous versions
418          of Unixware.  The acl() call returns the access and default ACL both
419          at once.  */
420       int count;
421       {
422         aclent_t *entries;
423
424         for (;;)
425           {
426             count = acl (name, GETACLCNT, 0, NULL);
427
428             if (count < 0)
429               {
430                 if (errno == ENOSYS || errno == ENOTSUP)
431                   break;
432                 else
433                   return -1;
434               }
435
436             if (count == 0)
437               break;
438
439             /* Don't use MIN_ACL_ENTRIES:  It's set to 4 on Cygwin, but Cygwin
440                returns only 3 entries for files with no ACL.  But this is safe:
441                If there are more than 4 entries, there cannot be only the
442                "user::", "group::", "other:", and "mask:" entries.  */
443             if (count > 4)
444               return 1;
445
446             entries = (aclent_t *) malloc (count * sizeof (aclent_t));
447             if (entries == NULL)
448               {
449                 errno = ENOMEM;
450                 return -1;
451               }
452             if (acl (name, GETACL, count, entries) == count)
453               {
454                 if (acl_nontrivial (count, entries))
455                   {
456                     free (entries);
457                     return 1;
458                   }
459                 free (entries);
460                 break;
461               }
462             /* Huh? The number of ACL entries changed since the last call.
463                Repeat.  */
464             free (entries);
465           }
466       }
467
468 #   ifdef ACE_GETACL
469       /* Solaris also has a different variant of ACLs, used in ZFS and NFSv4
470          file systems (whereas the other ones are used in UFS file systems).  */
471       {
472         ace_t *entries;
473
474         for (;;)
475           {
476             count = acl (name, ACE_GETACLCNT, 0, NULL);
477
478             if (count < 0)
479               {
480                 if (errno == ENOSYS || errno == EINVAL)
481                   break;
482                 else
483                   return -1;
484               }
485
486             if (count == 0)
487               break;
488
489             /* If there are more than 3 entries, there cannot be only the
490                ACE_OWNER, ACE_GROUP, ACE_OTHER entries.  */
491             if (count > 3)
492               return 1;
493
494             entries = (ace_t *) malloc (count * sizeof (ace_t));
495             if (entries == NULL)
496               {
497                 errno = ENOMEM;
498                 return -1;
499               }
500             if (acl (name, ACE_GETACL, count, entries) == count)
501               {
502                 if (acl_ace_nontrivial (count, entries))
503                   {
504                     free (entries);
505                     return 1;
506                   }
507                 free (entries);
508                 break;
509               }
510             /* Huh? The number of ACL entries changed since the last call.
511                Repeat.  */
512             free (entries);
513           }
514       }
515 #   endif
516
517       return 0;
518 #  endif
519
520 # elif HAVE_GETACL /* HP-UX */
521
522       int count;
523       struct acl_entry entries[NACLENTRIES];
524
525       for (;;)
526         {
527           count = getacl (name, 0, NULL);
528
529           if (count < 0)
530             return (errno == ENOSYS || errno == EOPNOTSUPP ? 0 : -1);
531
532           if (count == 0)
533             return 0;
534
535           if (count > NACLENTRIES)
536             /* If NACLENTRIES cannot be trusted, use dynamic memory
537                allocation.  */
538             abort ();
539
540           /* If there are more than 3 entries, there cannot be only the
541              (uid,%), (%,gid), (%,%) entries.  */
542           if (count > 3)
543             return 1;
544
545           if (getacl (name, count, entries) == count)
546             {
547               struct stat statbuf;
548
549               if (stat (name, &statbuf) < 0)
550                 return -1;
551
552               return acl_nontrivial (count, entries, &statbuf);
553             }
554           /* Huh? The number of ACL entries changed since the last call.
555              Repeat.  */
556         }
557
558 # elif HAVE_ACLX_GET && defined ACL_AIX_WIP /* AIX */
559
560       acl_type_t type;
561       char aclbuf[1024];
562       void *acl = aclbuf;
563       size_t aclsize = sizeof (aclbuf);
564       mode_t mode;
565
566       for (;;)
567         {
568           /* The docs say that type being 0 is equivalent to ACL_ANY, but it
569              is not true, in AIX 5.3.  */
570           type.u64 = ACL_ANY;
571           if (aclx_get (name, 0, &type, aclbuf, &aclsize, &mode) >= 0)
572             break;
573           if (errno != ENOSPC)
574             {
575               if (acl != aclbuf)
576                 {
577                   int saved_errno = errno;
578                   free (acl);
579                   errno = saved_errno;
580                 }
581               return -1;
582             }
583           aclsize = 2 * aclsize;
584           if (acl != aclbuf)
585             free (acl);
586           acl = malloc (aclsize);
587           if (acl == NULL)
588             {
589               errno = ENOMEM;
590               return -1;
591             }
592         }
593
594       if (type.u64 == ACL_AIXC)
595         {
596           int result = acl_nontrivial ((struct acl *) acl);
597           if (acl != aclbuf)
598             free (acl);
599           return result;
600         }
601       else if (type.u64 == ACL_NFS4)
602         {
603           int result = acl_nfs4_nontrivial ((nfs4_acl_int_t *) acl);
604           if (acl != aclbuf)
605             free (acl);
606           return result;
607         }
608       else
609         {
610           /* A newer type of ACL has been introduced in the system.
611              We should better support it.  */
612           if (acl != aclbuf)
613             free (acl);
614           errno = EINVAL;
615           return -1;
616         }
617
618 # elif HAVE_STATACL /* older AIX */
619
620       union { struct acl a; char room[4096]; } u;
621
622       if (statacl (name, STX_NORMAL, &u.a, sizeof (u)) < 0)
623         return -1;
624
625       return acl_nontrivial (&u.a);
626
627 # elif HAVE_ACLSORT /* NonStop Kernel */
628
629       int count;
630       struct acl entries[NACLENTRIES];
631
632       for (;;)
633         {
634           count = acl ((char *) name, ACL_CNT, NACLENTRIES, NULL);
635
636           if (count < 0)
637             return -1;
638
639           if (count == 0)
640             return 0;
641
642           if (count > NACLENTRIES)
643             /* If NACLENTRIES cannot be trusted, use dynamic memory
644                allocation.  */
645             abort ();
646
647           /* If there are more than 4 entries, there cannot be only the
648              four base ACL entries.  */
649           if (count > 4)
650             return 1;
651
652           if (acl ((char *) name, ACL_GET, count, entries) == count)
653             return acl_nontrivial (count, entries);
654           /* Huh? The number of ACL entries changed since the last call.
655              Repeat.  */
656         }
657
658 # endif
659     }
660 #endif
661
662   return 0;
663 }