file-has-acl: revert both recent changes, 80af92af and 95f7c57f
[gnulib.git] / lib / file-has-acl.c
1 /* Test whether a file has a nontrivial access control list.
2
3    Copyright (C) 2002-2003, 2005-2011 Free Software Foundation, Inc.
4
5    This program is free software: you can redistribute it and/or modify
6    it under the terms of the GNU General Public License as published by
7    the Free Software Foundation; either version 3 of the License, or
8    (at your option) any later version.
9
10    This program is distributed in the hope that it will be useful,
11    but WITHOUT ANY WARRANTY; without even the implied warranty of
12    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
13    GNU General Public License for more details.
14
15    You should have received a copy of the GNU General Public License
16    along with this program.  If not, see <http://www.gnu.org/licenses/>.
17
18    Written by Paul Eggert, Andreas Grünbacher, and Bruno Haible.  */
19
20 #include <config.h>
21
22 #include "acl.h"
23
24 #include "acl-internal.h"
25
26
27 #if USE_ACL && HAVE_ACL_GET_FILE
28
29 # if HAVE_ACL_TYPE_EXTENDED /* MacOS X */
30
31 /* ACL is an ACL, from a file, stored as type ACL_TYPE_EXTENDED.
32    Return 1 if the given ACL is non-trivial.
33    Return 0 if it is trivial.  */
34 int
35 acl_extended_nontrivial (acl_t acl)
36 {
37   /* acl is non-trivial if it is non-empty.  */
38   return (acl_entries (acl) > 0);
39 }
40
41 # else /* Linux, FreeBSD, IRIX, Tru64 */
42
43 /* ACL is an ACL, from a file, stored as type ACL_TYPE_ACCESS.
44    Return 1 if the given ACL is non-trivial.
45    Return 0 if it is trivial, i.e. equivalent to a simple stat() mode.
46    Return -1 and set errno upon failure to determine it.  */
47 int
48 acl_access_nontrivial (acl_t acl)
49 {
50   /* acl is non-trivial if it has some entries other than for "user::",
51      "group::", and "other::".  Normally these three should be present
52      at least, allowing us to write
53         return (3 < acl_entries (acl));
54      but the following code is more robust.  */
55 #  if HAVE_ACL_FIRST_ENTRY /* Linux, FreeBSD */
56
57   acl_entry_t ace;
58   int got_one;
59
60   for (got_one = acl_get_entry (acl, ACL_FIRST_ENTRY, &ace);
61        got_one > 0;
62        got_one = acl_get_entry (acl, ACL_NEXT_ENTRY, &ace))
63     {
64       acl_tag_t tag;
65       if (acl_get_tag_type (ace, &tag) < 0)
66         return -1;
67       if (!(tag == ACL_USER_OBJ || tag == ACL_GROUP_OBJ || tag == ACL_OTHER))
68         return 1;
69     }
70   return got_one;
71
72 #  else /* IRIX, Tru64 */
73 #   if HAVE_ACL_TO_SHORT_TEXT /* IRIX */
74   /* Don't use acl_get_entry: it is undocumented.  */
75
76   int count = acl->acl_cnt;
77   int i;
78
79   for (i = 0; i < count; i++)
80     {
81       acl_entry_t ace = &acl->acl_entry[i];
82       acl_tag_t tag = ace->ae_tag;
83
84       if (!(tag == ACL_USER_OBJ || tag == ACL_GROUP_OBJ
85             || tag == ACL_OTHER_OBJ))
86         return 1;
87     }
88   return 0;
89
90 #   endif
91 #   if HAVE_ACL_FREE_TEXT /* Tru64 */
92   /* Don't use acl_get_entry: it takes only one argument and does not work.  */
93
94   int count = acl->acl_num;
95   acl_entry_t ace;
96
97   for (ace = acl->acl_first; count > 0; ace = ace->next, count--)
98     {
99       acl_tag_t tag;
100       acl_perm_t perm;
101
102       tag = ace->entry->acl_type;
103       if (!(tag == ACL_USER_OBJ || tag == ACL_GROUP_OBJ || tag == ACL_OTHER))
104         return 1;
105
106       perm = ace->entry->acl_perm;
107       /* On Tru64, perm can also contain non-standard bits such as
108          PERM_INSERT, PERM_DELETE, PERM_MODIFY, PERM_LOOKUP, ... */
109       if ((perm & ~(ACL_READ | ACL_WRITE | ACL_EXECUTE)) != 0)
110         return 1;
111     }
112   return 0;
113
114 #   endif
115 #  endif
116 }
117
118 # endif
119
120
121 #elif USE_ACL && HAVE_FACL && defined GETACL /* Solaris, Cygwin, not HP-UX */
122
123 /* Test an ACL retrieved with GETACL.
124    Return 1 if the given ACL, consisting of COUNT entries, is non-trivial.
125    Return 0 if it is trivial, i.e. equivalent to a simple stat() mode.  */
126 int
127 acl_nontrivial (int count, aclent_t *entries)
128 {
129   int i;
130
131   for (i = 0; i < count; i++)
132     {
133       aclent_t *ace = &entries[i];
134
135       /* Note: If ace->a_type = USER_OBJ, ace->a_id is the st_uid from stat().
136          If ace->a_type = GROUP_OBJ, ace->a_id is the st_gid from stat().
137          We don't need to check ace->a_id in these cases.  */
138       if (!(ace->a_type == USER_OBJ
139             || ace->a_type == GROUP_OBJ
140             || ace->a_type == OTHER_OBJ
141             /* Note: Cygwin does not return a CLASS_OBJ ("mask:") entry
142                sometimes.  */
143             || ace->a_type == CLASS_OBJ))
144         return 1;
145     }
146   return 0;
147 }
148
149 # ifdef ACE_GETACL
150
151 /* Test an ACL retrieved with ACE_GETACL.
152    Return 1 if the given ACL, consisting of COUNT entries, is non-trivial.
153    Return 0 if it is trivial, i.e. equivalent to a simple stat() mode.  */
154 int
155 acl_ace_nontrivial (int count, ace_t *entries)
156 {
157   int i;
158
159   /* The flags in the ace_t structure changed in a binary incompatible way
160      when ACL_NO_TRIVIAL etc. were introduced in <sys/acl.h> version 1.15.
161      How to distinguish the two conventions at runtime?
162      In the old convention, usually three ACEs have a_flags = ACE_OWNER /
163      ACE_GROUP / ACE_OTHER, in the range 0x0100..0x0400.  In the new
164      convention, these values are not used.  */
165   int old_convention = 0;
166
167   for (i = 0; i < count; i++)
168     if (entries[i].a_flags & (OLD_ACE_OWNER | OLD_ACE_GROUP | OLD_ACE_OTHER))
169       {
170         old_convention = 1;
171         break;
172       }
173
174   if (old_convention)
175     /* Running on Solaris 10.  */
176     for (i = 0; i < count; i++)
177       {
178         ace_t *ace = &entries[i];
179
180         /* Note:
181            If ace->a_flags = ACE_OWNER, ace->a_who is the st_uid from stat().
182            If ace->a_flags = ACE_GROUP, ace->a_who is the st_gid from stat().
183            We don't need to check ace->a_who in these cases.  */
184         if (!(ace->a_type == OLD_ALLOW
185               && (ace->a_flags == OLD_ACE_OWNER
186                   || ace->a_flags == OLD_ACE_GROUP
187                   || ace->a_flags == OLD_ACE_OTHER)))
188           return 1;
189       }
190   else
191     {
192       /* Running on Solaris 10 (newer version) or Solaris 11.  */
193       unsigned int access_masks[6] =
194         {
195           0, /* owner@ deny */
196           0, /* owner@ allow */
197           0, /* group@ deny */
198           0, /* group@ allow */
199           0, /* everyone@ deny */
200           0  /* everyone@ allow */
201         };
202
203       for (i = 0; i < count; i++)
204         {
205           ace_t *ace = &entries[i];
206           unsigned int index1;
207           unsigned int index2;
208
209           if (ace->a_type == NEW_ACE_ACCESS_ALLOWED_ACE_TYPE)
210             index1 = 1;
211           else if (ace->a_type == NEW_ACE_ACCESS_DENIED_ACE_TYPE)
212             index1 = 0;
213           else
214             return 1;
215
216           if (ace->a_flags == NEW_ACE_OWNER)
217             index2 = 0;
218           else if (ace->a_flags == (NEW_ACE_GROUP | NEW_ACE_IDENTIFIER_GROUP))
219             index2 = 2;
220           else if (ace->a_flags == NEW_ACE_EVERYONE)
221             index2 = 4;
222           else
223             return 1;
224
225           access_masks[index1 + index2] |= ace->a_access_mask;
226         }
227
228       /* The same bit shouldn't be both allowed and denied.  */
229       if (access_masks[0] & access_masks[1])
230         return 1;
231       if (access_masks[2] & access_masks[3])
232         return 1;
233       if (access_masks[4] & access_masks[5])
234         return 1;
235
236       /* Check minimum masks.  */
237       if ((NEW_ACE_WRITE_NAMED_ATTRS
238            | NEW_ACE_WRITE_ATTRIBUTES
239            | NEW_ACE_WRITE_ACL
240            | NEW_ACE_WRITE_OWNER)
241           & ~ access_masks[1])
242         return 1;
243       access_masks[1] &= ~(NEW_ACE_WRITE_NAMED_ATTRS
244                            | NEW_ACE_WRITE_ATTRIBUTES
245                            | NEW_ACE_WRITE_ACL
246                            | NEW_ACE_WRITE_OWNER);
247       if ((NEW_ACE_WRITE_NAMED_ATTRS
248            | NEW_ACE_WRITE_ATTRIBUTES
249            | NEW_ACE_WRITE_ACL
250            | NEW_ACE_WRITE_OWNER)
251           & ~ access_masks[4])
252         return 1;
253       access_masks[4] &= ~(NEW_ACE_WRITE_NAMED_ATTRS
254                            | NEW_ACE_WRITE_ATTRIBUTES
255                            | NEW_ACE_WRITE_ACL
256                            | NEW_ACE_WRITE_OWNER);
257       if ((NEW_ACE_READ_NAMED_ATTRS
258            | NEW_ACE_READ_ATTRIBUTES
259            | NEW_ACE_READ_ACL
260            | NEW_ACE_SYNCHRONIZE)
261           & ~ access_masks[5])
262         return 1;
263       access_masks[5] &= ~(NEW_ACE_READ_NAMED_ATTRS
264                            | NEW_ACE_READ_ATTRIBUTES
265                            | NEW_ACE_READ_ACL
266                            | NEW_ACE_SYNCHRONIZE);
267
268       /* Check the allowed or denied bits.  */
269       if ((access_masks[0] | access_masks[1])
270           != (NEW_ACE_READ_DATA
271               | NEW_ACE_WRITE_DATA | NEW_ACE_APPEND_DATA
272               | NEW_ACE_EXECUTE))
273         return 1;
274       if ((access_masks[2] | access_masks[3])
275           != (NEW_ACE_READ_DATA
276               | NEW_ACE_WRITE_DATA | NEW_ACE_APPEND_DATA
277               | NEW_ACE_EXECUTE))
278         return 1;
279       if ((access_masks[4] | access_masks[5])
280           != (NEW_ACE_READ_DATA
281               | NEW_ACE_WRITE_DATA | NEW_ACE_APPEND_DATA
282               | NEW_ACE_EXECUTE))
283         return 1;
284
285       /* Check that the NEW_ACE_WRITE_DATA and NEW_ACE_APPEND_DATA bits are
286          either both allowed or both denied.  */
287       if (((access_masks[0] & NEW_ACE_WRITE_DATA) != 0)
288           != ((access_masks[0] & NEW_ACE_APPEND_DATA) != 0))
289         return 1;
290       if (((access_masks[2] & NEW_ACE_WRITE_DATA) != 0)
291           != ((access_masks[2] & NEW_ACE_APPEND_DATA) != 0))
292         return 1;
293       if (((access_masks[4] & NEW_ACE_WRITE_DATA) != 0)
294           != ((access_masks[4] & NEW_ACE_APPEND_DATA) != 0))
295         return 1;
296     }
297
298   return 0;
299 }
300
301 # endif
302
303 #elif USE_ACL && HAVE_GETACL /* HP-UX */
304
305 /* Return 1 if the given ACL is non-trivial.
306    Return 0 if it is trivial, i.e. equivalent to a simple stat() mode.  */
307 int
308 acl_nontrivial (int count, struct acl_entry *entries, struct stat *sb)
309 {
310   int i;
311
312   for (i = 0; i < count; i++)
313     {
314       struct acl_entry *ace = &entries[i];
315
316       if (!((ace->uid == sb->st_uid && ace->gid == ACL_NSGROUP)
317             || (ace->uid == ACL_NSUSER && ace->gid == sb->st_gid)
318             || (ace->uid == ACL_NSUSER && ace->gid == ACL_NSGROUP)))
319         return 1;
320     }
321   return 0;
322 }
323
324 # if HAVE_ACLV_H /* HP-UX >= 11.11 */
325
326 /* Return 1 if the given ACL is non-trivial.
327    Return 0 if it is trivial, i.e. equivalent to a simple stat() mode.  */
328 int
329 aclv_nontrivial (int count, struct acl *entries)
330 {
331   int i;
332
333   for (i = 0; i < count; i++)
334     {
335       struct acl *ace = &entries[i];
336
337       /* Note: If ace->a_type = USER_OBJ, ace->a_id is the st_uid from stat().
338          If ace->a_type = GROUP_OBJ, ace->a_id is the st_gid from stat().
339          We don't need to check ace->a_id in these cases.  */
340       if (!(ace->a_type == USER_OBJ /* no need to check ace->a_id here */
341             || ace->a_type == GROUP_OBJ /* no need to check ace->a_id here */
342             || ace->a_type == CLASS_OBJ
343             || ace->a_type == OTHER_OBJ))
344         return 1;
345     }
346   return 0;
347 }
348
349 # endif
350
351 #elif USE_ACL && (HAVE_ACLX_GET || HAVE_STATACL) /* AIX */
352
353 /* Return 1 if the given ACL is non-trivial.
354    Return 0 if it is trivial, i.e. equivalent to a simple stat() mode.  */
355 int
356 acl_nontrivial (struct acl *a)
357 {
358   /* The normal way to iterate through an ACL is like this:
359        struct acl_entry *ace;
360        for (ace = a->acl_ext; ace != acl_last (a); ace = acl_nxt (ace))
361          {
362            struct ace_id *aei;
363            switch (ace->ace_type)
364              {
365              case ACC_PERMIT:
366              case ACC_DENY:
367              case ACC_SPECIFY:
368                ...;
369              }
370            for (aei = ace->ace_id; aei != id_last (ace); aei = id_nxt (aei))
371              ...
372          }
373    */
374   return (acl_last (a) != a->acl_ext ? 1 : 0);
375 }
376
377 # if HAVE_ACLX_GET && defined ACL_AIX_WIP /* newer AIX */
378
379 /* Return 1 if the given ACL is non-trivial.
380    Return 0 if it is trivial, i.e. equivalent to a simple stat() mode.  */
381 int
382 acl_nfs4_nontrivial (nfs4_acl_int_t *a)
383 {
384 #  if 1 /* let's try this first */
385   return (a->aclEntryN > 0 ? 1 : 0);
386 #  else
387   int count = a->aclEntryN;
388   int i;
389
390   for (i = 0; i < count; i++)
391     {
392       nfs4_ace_int_t *ace = &a->aclEntry[i];
393
394       if (!((ace->flags & ACE4_ID_SPECIAL) != 0
395             && (ace->aceWho.special_whoid == ACE4_WHO_OWNER
396                 || ace->aceWho.special_whoid == ACE4_WHO_GROUP
397                 || ace->aceWho.special_whoid == ACE4_WHO_EVERYONE)
398             && ace->aceType == ACE4_ACCESS_ALLOWED_ACE_TYPE
399             && ace->aceFlags == 0
400             && (ace->aceMask & ~(ACE4_READ_DATA | ACE4_LIST_DIRECTORY
401                                  | ACE4_WRITE_DATA | ACE4_ADD_FILE
402                                  | ACE4_EXECUTE)) == 0))
403         return 1;
404     }
405   return 0;
406 #  endif
407 }
408
409 # endif
410
411 #elif USE_ACL && HAVE_ACLSORT /* NonStop Kernel */
412
413 /* Test an ACL retrieved with ACL_GET.
414    Return 1 if the given ACL, consisting of COUNT entries, is non-trivial.
415    Return 0 if it is trivial, i.e. equivalent to a simple stat() mode.  */
416 int
417 acl_nontrivial (int count, struct acl *entries)
418 {
419   int i;
420
421   for (i = 0; i < count; i++)
422     {
423       struct acl *ace = &entries[i];
424
425       /* Note: If ace->a_type = USER_OBJ, ace->a_id is the st_uid from stat().
426          If ace->a_type = GROUP_OBJ, ace->a_id is the st_gid from stat().
427          We don't need to check ace->a_id in these cases.  */
428       if (!(ace->a_type == USER_OBJ /* no need to check ace->a_id here */
429             || ace->a_type == GROUP_OBJ /* no need to check ace->a_id here */
430             || ace->a_type == CLASS_OBJ
431             || ace->a_type == OTHER_OBJ))
432         return 1;
433     }
434   return 0;
435 }
436
437 #endif
438
439
440 /* Return 1 if NAME has a nontrivial access control list, 0 if NAME
441    only has no or a base access control list, and -1 (setting errno)
442    on error.  SB must be set to the stat buffer of NAME, obtained
443    through stat() or lstat().  */
444
445 int
446 file_has_acl (char const *name, struct stat const *sb)
447 {
448 #if USE_ACL
449   if (! S_ISLNK (sb->st_mode))
450     {
451 # if HAVE_ACL_GET_FILE
452
453       /* POSIX 1003.1e (draft 17 -- abandoned) specific version.  */
454       /* Linux, FreeBSD, MacOS X, IRIX, Tru64 */
455       int ret;
456
457       if (HAVE_ACL_EXTENDED_FILE) /* Linux */
458         {
459           /* On Linux, acl_extended_file is an optimized function: It only
460              makes two calls to getxattr(), one for ACL_TYPE_ACCESS, one for
461              ACL_TYPE_DEFAULT.  */
462           ret = acl_extended_file (name);
463         }
464       else /* FreeBSD, MacOS X, IRIX, Tru64 */
465         {
466 #  if HAVE_ACL_TYPE_EXTENDED /* MacOS X */
467           /* On MacOS X, acl_get_file (name, ACL_TYPE_ACCESS)
468              and acl_get_file (name, ACL_TYPE_DEFAULT)
469              always return NULL / EINVAL.  There is no point in making
470              these two useless calls.  The real ACL is retrieved through
471              acl_get_file (name, ACL_TYPE_EXTENDED).  */
472           acl_t acl = acl_get_file (name, ACL_TYPE_EXTENDED);
473           if (acl)
474             {
475               ret = acl_extended_nontrivial (acl);
476               acl_free (acl);
477             }
478           else
479             ret = -1;
480 #  else /* FreeBSD, IRIX, Tru64 */
481           acl_t acl = acl_get_file (name, ACL_TYPE_ACCESS);
482           if (acl)
483             {
484               int saved_errno;
485
486               ret = acl_access_nontrivial (acl);
487               saved_errno = errno;
488               acl_free (acl);
489               errno = saved_errno;
490 #   if HAVE_ACL_FREE_TEXT /* Tru64 */
491               /* On OSF/1, acl_get_file (name, ACL_TYPE_DEFAULT) always
492                  returns NULL with errno not set.  There is no point in
493                  making this call.  */
494 #   else /* FreeBSD, IRIX */
495               /* On Linux, FreeBSD, IRIX, acl_get_file (name, ACL_TYPE_ACCESS)
496                  and acl_get_file (name, ACL_TYPE_DEFAULT) on a directory
497                  either both succeed or both fail; it depends on the
498                  file system.  Therefore there is no point in making the second
499                  call if the first one already failed.  */
500               if (ret == 0 && S_ISDIR (sb->st_mode))
501                 {
502                   acl = acl_get_file (name, ACL_TYPE_DEFAULT);
503                   if (acl)
504                     {
505                       ret = (0 < acl_entries (acl));
506                       acl_free (acl);
507                     }
508                   else
509                     ret = -1;
510                 }
511 #   endif
512             }
513           else
514             ret = -1;
515 #  endif
516         }
517       if (ret < 0)
518         return ACL_NOT_WELL_SUPPORTED (errno) ? 0 : -1;
519       return ret;
520
521 # elif HAVE_FACL && defined GETACLCNT /* Solaris, Cygwin, not HP-UX */
522
523 #  if defined ACL_NO_TRIVIAL
524
525       /* Solaris 10 (newer version), which has additional API declared in
526          <sys/acl.h> (acl_t) and implemented in libsec (acl_set, acl_trivial,
527          acl_fromtext, ...).  */
528       return acl_trivial (name);
529
530 #  else /* Solaris, Cygwin, general case */
531
532       /* Solaris 2.5 through Solaris 10, Cygwin, and contemporaneous versions
533          of Unixware.  The acl() call returns the access and default ACL both
534          at once.  */
535       int count;
536       {
537         aclent_t *entries;
538
539         for (;;)
540           {
541             count = acl (name, GETACLCNT, 0, NULL);
542
543             if (count < 0)
544               {
545                 if (errno == ENOSYS || errno == ENOTSUP)
546                   break;
547                 else
548                   return -1;
549               }
550
551             if (count == 0)
552               break;
553
554             /* Don't use MIN_ACL_ENTRIES:  It's set to 4 on Cygwin, but Cygwin
555                returns only 3 entries for files with no ACL.  But this is safe:
556                If there are more than 4 entries, there cannot be only the
557                "user::", "group::", "other:", and "mask:" entries.  */
558             if (count > 4)
559               return 1;
560
561             entries = (aclent_t *) malloc (count * sizeof (aclent_t));
562             if (entries == NULL)
563               {
564                 errno = ENOMEM;
565                 return -1;
566               }
567             if (acl (name, GETACL, count, entries) == count)
568               {
569                 if (acl_nontrivial (count, entries))
570                   {
571                     free (entries);
572                     return 1;
573                   }
574                 free (entries);
575                 break;
576               }
577             /* Huh? The number of ACL entries changed since the last call.
578                Repeat.  */
579             free (entries);
580           }
581       }
582
583 #   ifdef ACE_GETACL
584       /* Solaris also has a different variant of ACLs, used in ZFS and NFSv4
585          file systems (whereas the other ones are used in UFS file systems).  */
586       {
587         ace_t *entries;
588
589         for (;;)
590           {
591             count = acl (name, ACE_GETACLCNT, 0, NULL);
592
593             if (count < 0)
594               {
595                 if (errno == ENOSYS || errno == EINVAL)
596                   break;
597                 else
598                   return -1;
599               }
600
601             if (count == 0)
602               break;
603
604             /* In the old (original Solaris 10) convention:
605                If there are more than 3 entries, there cannot be only the
606                ACE_OWNER, ACE_GROUP, ACE_OTHER entries.
607                In the newer Solaris 10 and Solaris 11 convention:
608                If there are more than 6 entries, there cannot be only the
609                ACE_OWNER, ACE_GROUP, ACE_EVERYONE entries, each once with
610                NEW_ACE_ACCESS_ALLOWED_ACE_TYPE and once with
611                NEW_ACE_ACCESS_DENIED_ACE_TYPE.  */
612             if (count > 6)
613               return 1;
614
615             entries = (ace_t *) malloc (count * sizeof (ace_t));
616             if (entries == NULL)
617               {
618                 errno = ENOMEM;
619                 return -1;
620               }
621             if (acl (name, ACE_GETACL, count, entries) == count)
622               {
623                 if (acl_ace_nontrivial (count, entries))
624                   {
625                     free (entries);
626                     return 1;
627                   }
628                 free (entries);
629                 break;
630               }
631             /* Huh? The number of ACL entries changed since the last call.
632                Repeat.  */
633             free (entries);
634           }
635       }
636 #   endif
637
638       return 0;
639 #  endif
640
641 # elif HAVE_GETACL /* HP-UX */
642
643       for (;;)
644         {
645           int count;
646           struct acl_entry entries[NACLENTRIES];
647
648           count = getacl (name, 0, NULL);
649
650           if (count < 0)
651             {
652               /* ENOSYS is seen on newer HP-UX versions.
653                  EOPNOTSUPP is typically seen on NFS mounts.
654                  ENOTSUP was seen on Quantum StorNext file systems (cvfs).  */
655               if (errno == ENOSYS || errno == EOPNOTSUPP || errno == ENOTSUP)
656                 break;
657               else
658                 return -1;
659             }
660
661           if (count == 0)
662             return 0;
663
664           if (count > NACLENTRIES)
665             /* If NACLENTRIES cannot be trusted, use dynamic memory
666                allocation.  */
667             abort ();
668
669           /* If there are more than 3 entries, there cannot be only the
670              (uid,%), (%,gid), (%,%) entries.  */
671           if (count > 3)
672             return 1;
673
674           if (getacl (name, count, entries) == count)
675             {
676               struct stat statbuf;
677
678               if (stat (name, &statbuf) < 0)
679                 return -1;
680
681               return acl_nontrivial (count, entries, &statbuf);
682             }
683           /* Huh? The number of ACL entries changed since the last call.
684              Repeat.  */
685         }
686
687 #  if HAVE_ACLV_H /* HP-UX >= 11.11 */
688
689       for (;;)
690         {
691           int count;
692           struct acl entries[NACLVENTRIES];
693
694           count = acl ((char *) name, ACL_CNT, NACLVENTRIES, entries);
695
696           if (count < 0)
697             {
698               /* EOPNOTSUPP is seen on NFS in HP-UX 11.11, 11.23.
699                  EINVAL is seen on NFS in HP-UX 11.31.  */
700               if (errno == ENOSYS || errno == EOPNOTSUPP || errno == EINVAL)
701                 break;
702               else
703                 return -1;
704             }
705
706           if (count == 0)
707             return 0;
708
709           if (count > NACLVENTRIES)
710             /* If NACLVENTRIES cannot be trusted, use dynamic memory
711                allocation.  */
712             abort ();
713
714           /* If there are more than 4 entries, there cannot be only the
715              four base ACL entries.  */
716           if (count > 4)
717             return 1;
718
719           if (acl ((char *) name, ACL_GET, count, entries) == count)
720             return aclv_nontrivial (count, entries);
721           /* Huh? The number of ACL entries changed since the last call.
722              Repeat.  */
723         }
724
725 #  endif
726
727 # elif HAVE_ACLX_GET && defined ACL_AIX_WIP /* AIX */
728
729       acl_type_t type;
730       char aclbuf[1024];
731       void *acl = aclbuf;
732       size_t aclsize = sizeof (aclbuf);
733       mode_t mode;
734
735       for (;;)
736         {
737           /* The docs say that type being 0 is equivalent to ACL_ANY, but it
738              is not true, in AIX 5.3.  */
739           type.u64 = ACL_ANY;
740           if (aclx_get (name, 0, &type, aclbuf, &aclsize, &mode) >= 0)
741             break;
742           if (errno == ENOSYS)
743             return 0;
744           if (errno != ENOSPC)
745             {
746               if (acl != aclbuf)
747                 {
748                   int saved_errno = errno;
749                   free (acl);
750                   errno = saved_errno;
751                 }
752               return -1;
753             }
754           aclsize = 2 * aclsize;
755           if (acl != aclbuf)
756             free (acl);
757           acl = malloc (aclsize);
758           if (acl == NULL)
759             {
760               errno = ENOMEM;
761               return -1;
762             }
763         }
764
765       if (type.u64 == ACL_AIXC)
766         {
767           int result = acl_nontrivial ((struct acl *) acl);
768           if (acl != aclbuf)
769             free (acl);
770           return result;
771         }
772       else if (type.u64 == ACL_NFS4)
773         {
774           int result = acl_nfs4_nontrivial ((nfs4_acl_int_t *) acl);
775           if (acl != aclbuf)
776             free (acl);
777           return result;
778         }
779       else
780         {
781           /* A newer type of ACL has been introduced in the system.
782              We should better support it.  */
783           if (acl != aclbuf)
784             free (acl);
785           errno = EINVAL;
786           return -1;
787         }
788
789 # elif HAVE_STATACL /* older AIX */
790
791       union { struct acl a; char room[4096]; } u;
792
793       if (statacl (name, STX_NORMAL, &u.a, sizeof (u)) < 0)
794         return -1;
795
796       return acl_nontrivial (&u.a);
797
798 # elif HAVE_ACLSORT /* NonStop Kernel */
799
800       int count;
801       struct acl entries[NACLENTRIES];
802
803       for (;;)
804         {
805           count = acl ((char *) name, ACL_CNT, NACLENTRIES, NULL);
806
807           if (count < 0)
808             {
809               if (errno == ENOSYS || errno == ENOTSUP)
810                 break;
811               else
812                 return -1;
813             }
814
815           if (count == 0)
816             return 0;
817
818           if (count > NACLENTRIES)
819             /* If NACLENTRIES cannot be trusted, use dynamic memory
820                allocation.  */
821             abort ();
822
823           /* If there are more than 4 entries, there cannot be only the
824              four base ACL entries.  */
825           if (count > 4)
826             return 1;
827
828           if (acl ((char *) name, ACL_GET, count, entries) == count)
829             return acl_nontrivial (count, entries);
830           /* Huh? The number of ACL entries changed since the last call.
831              Repeat.  */
832         }
833
834 # endif
835     }
836 #endif
837
838   return 0;
839 }