lib/file-has-acl.c

   1 /* Test whether a file has a nontrivial access control list.
   2
   3    Copyright (C) 2002-2003, 2005-2011 Free Software Foundation, Inc.
   4
   5    This program is free software: you can redistribute it and/or modify
   6    it under the terms of the GNU General Public License as published by
   7    the Free Software Foundation; either version 3 of the License, or
   8    (at your option) any later version.
   9
  10    This program is distributed in the hope that it will be useful,
  11    but WITHOUT ANY WARRANTY; without even the implied warranty of
  12    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  13    GNU General Public License for more details.
  14
  15    You should have received a copy of the GNU General Public License
  16    along with this program.  If not, see <http://www.gnu.org/licenses/>.
  17
  18    Written by Paul Eggert, Andreas Grünbacher, and Bruno Haible.  */
  19
  20 #include <config.h>
  21
  22 #include "acl.h"
  23
  24 #include "acl-internal.h"
  25
  26
  27 #if USE_ACL && HAVE_ACL_GET_FILE
  28
  29 # if HAVE_ACL_TYPE_EXTENDED /* MacOS X */
  30
  31 /* ACL is an ACL, from a file, stored as type ACL_TYPE_EXTENDED.
  32    Return 1 if the given ACL is non-trivial.
  33    Return 0 if it is trivial.  */
  34 int
  35 acl_extended_nontrivial (acl_t acl)
  36 {
  37   /* acl is non-trivial if it is non-empty.  */
  38   return (acl_entries (acl) > 0);
  39 }
  40
  41 # else /* Linux, FreeBSD, IRIX, Tru64 */
  42
  43 /* ACL is an ACL, from a file, stored as type ACL_TYPE_ACCESS.
  44    Return 1 if the given ACL is non-trivial.
  45    Return 0 if it is trivial, i.e. equivalent to a simple stat() mode.
  46    Return -1 and set errno upon failure to determine it.  */
  47 int
  48 acl_access_nontrivial (acl_t acl)
  49 {
  50   /* acl is non-trivial if it has some entries other than for "user::",
  51      "group::", and "other::".  Normally these three should be present
  52      at least, allowing us to write
  53         return (3 < acl_entries (acl));
  54      but the following code is more robust.  */
  55 #  if HAVE_ACL_FIRST_ENTRY /* Linux, FreeBSD */
  56
  57   acl_entry_t ace;
  58   int got_one;
  59
  60   for (got_one = acl_get_entry (acl, ACL_FIRST_ENTRY, &ace);
  61        got_one > 0;
  62        got_one = acl_get_entry (acl, ACL_NEXT_ENTRY, &ace))
  63     {
  64       acl_tag_t tag;
  65       if (acl_get_tag_type (ace, &tag) < 0)
  66         return -1;
  67       if (!(tag == ACL_USER_OBJ || tag == ACL_GROUP_OBJ || tag == ACL_OTHER))
  68         return 1;
  69     }
  70   return got_one;
  71
  72 #  else /* IRIX, Tru64 */
  73 #   if HAVE_ACL_TO_SHORT_TEXT /* IRIX */
  74   /* Don't use acl_get_entry: it is undocumented.  */
  75
  76   int count = acl->acl_cnt;
  77   int i;
  78
  79   for (i = 0; i < count; i++)
  80     {
  81       acl_entry_t ace = &acl->acl_entry[i];
  82       acl_tag_t tag = ace->ae_tag;
  83
  84       if (!(tag == ACL_USER_OBJ || tag == ACL_GROUP_OBJ
  85             || tag == ACL_OTHER_OBJ))
  86         return 1;
  87     }
  88   return 0;
  89
  90 #   endif
  91 #   if HAVE_ACL_FREE_TEXT /* Tru64 */
  92   /* Don't use acl_get_entry: it takes only one argument and does not work.  */
  93
  94   int count = acl->acl_num;
  95   acl_entry_t ace;
  96
  97   for (ace = acl->acl_first; count > 0; ace = ace->next, count--)
  98     {
  99       acl_tag_t tag;
 100       acl_perm_t perm;
 101
 102       tag = ace->entry->acl_type;
 103       if (!(tag == ACL_USER_OBJ || tag == ACL_GROUP_OBJ || tag == ACL_OTHER))
 104         return 1;
 105
 106       perm = ace->entry->acl_perm;
 107       /* On Tru64, perm can also contain non-standard bits such as
 108          PERM_INSERT, PERM_DELETE, PERM_MODIFY, PERM_LOOKUP, ... */
 109       if ((perm & ~(ACL_READ | ACL_WRITE | ACL_EXECUTE)) != 0)
 110         return 1;
 111     }
 112   return 0;
 113
 114 #   endif
 115 #  endif
 116 }
 117
 118 # endif
 119
 120
 121 #elif USE_ACL && HAVE_FACL && defined GETACL /* Solaris, Cygwin, not HP-UX */
 122
 123 /* Test an ACL retrieved with GETACL.
 124    Return 1 if the given ACL, consisting of COUNT entries, is non-trivial.
 125    Return 0 if it is trivial, i.e. equivalent to a simple stat() mode.  */
 126 int
 127 acl_nontrivial (int count, aclent_t *entries)
 128 {
 129   int i;
 130
 131   for (i = 0; i < count; i++)
 132     {
 133       aclent_t *ace = &entries[i];
 134
 135       /* Note: If ace->a_type = USER_OBJ, ace->a_id is the st_uid from stat().
 136          If ace->a_type = GROUP_OBJ, ace->a_id is the st_gid from stat().
 137          We don't need to check ace->a_id in these cases.  */
 138       if (!(ace->a_type == USER_OBJ
 139             || ace->a_type == GROUP_OBJ
 140             || ace->a_type == OTHER_OBJ
 141             /* Note: Cygwin does not return a CLASS_OBJ ("mask:") entry
 142                sometimes.  */
 143             || ace->a_type == CLASS_OBJ))
 144         return 1;
 145     }
 146   return 0;
 147 }
 148
 149 # ifdef ACE_GETACL
 150
 151 /* Test an ACL retrieved with ACE_GETACL.
 152    Return 1 if the given ACL, consisting of COUNT entries, is non-trivial.
 153    Return 0 if it is trivial, i.e. equivalent to a simple stat() mode.  */
 154 int
 155 acl_ace_nontrivial (int count, ace_t *entries)
 156 {
 157   int i;
 158
 159   /* The flags in the ace_t structure changed in a binary incompatible way
 160      when ACL_NO_TRIVIAL etc. were introduced in <sys/acl.h> version 1.15.
 161      How to distinguish the two conventions at runtime?
 162      In the old convention, usually three ACEs have a_flags = ACE_OWNER /
 163      ACE_GROUP / ACE_OTHER, in the range 0x0100..0x0400.  In the new
 164      convention, these values are not used.  */
 165   int old_convention = 0;
 166
 167   for (i = 0; i < count; i++)
 168     if (entries[i].a_flags & (OLD_ACE_OWNER | OLD_ACE_GROUP | OLD_ACE_OTHER))
 169       {
 170         old_convention = 1;
 171         break;
 172       }
 173
 174   if (old_convention)
 175     /* Running on Solaris 10.  */
 176     for (i = 0; i < count; i++)
 177       {
 178         ace_t *ace = &entries[i];
 179
 180         /* Note:
 181            If ace->a_flags = ACE_OWNER, ace->a_who is the st_uid from stat().
 182            If ace->a_flags = ACE_GROUP, ace->a_who is the st_gid from stat().
 183            We don't need to check ace->a_who in these cases.  */
 184         if (!(ace->a_type == OLD_ALLOW
 185               && (ace->a_flags == OLD_ACE_OWNER
 186                   || ace->a_flags == OLD_ACE_GROUP
 187                   || ace->a_flags == OLD_ACE_OTHER)))
 188           return 1;
 189       }
 190   else
 191     {
 192       /* Running on Solaris 10 (newer version) or Solaris 11.  */
 193       unsigned int access_masks[6] =
 194         {
 195           0, /* owner@ deny */
 196           0, /* owner@ allow */
 197           0, /* group@ deny */
 198           0, /* group@ allow */
 199           0, /* everyone@ deny */
 200           0  /* everyone@ allow */
 201         };
 202
 203       for (i = 0; i < count; i++)
 204         {
 205           ace_t *ace = &entries[i];
 206           unsigned int index1;
 207           unsigned int index2;
 208
 209           if (ace->a_type == NEW_ACE_ACCESS_ALLOWED_ACE_TYPE)
 210             index1 = 1;
 211           else if (ace->a_type == NEW_ACE_ACCESS_DENIED_ACE_TYPE)
 212             index1 = 0;
 213           else
 214             return 1;
 215
 216           if (ace->a_flags == NEW_ACE_OWNER)
 217             index2 = 0;
 218           else if (ace->a_flags == (NEW_ACE_GROUP | NEW_ACE_IDENTIFIER_GROUP))
 219             index2 = 2;
 220           else if (ace->a_flags == NEW_ACE_EVERYONE)
 221             index2 = 4;
 222           else
 223             return 1;
 224
 225           access_masks[index1 + index2] |= ace->a_access_mask;
 226         }
 227
 228       /* The same bit shouldn't be both allowed and denied.  */
 229       if (access_masks[0] & access_masks[1])
 230         return 1;
 231       if (access_masks[2] & access_masks[3])
 232         return 1;
 233       if (access_masks[4] & access_masks[5])
 234         return 1;
 235
 236       /* Check minimum masks.  */
 237       if ((NEW_ACE_WRITE_NAMED_ATTRS
 238            | NEW_ACE_WRITE_ATTRIBUTES
 239            | NEW_ACE_WRITE_ACL
 240            | NEW_ACE_WRITE_OWNER)
 241           & ~ access_masks[1])
 242         return 1;
 243       access_masks[1] &= ~(NEW_ACE_WRITE_NAMED_ATTRS
 244                            | NEW_ACE_WRITE_ATTRIBUTES
 245                            | NEW_ACE_WRITE_ACL
 246                            | NEW_ACE_WRITE_OWNER);
 247       if ((NEW_ACE_WRITE_NAMED_ATTRS
 248            | NEW_ACE_WRITE_ATTRIBUTES
 249            | NEW_ACE_WRITE_ACL
 250            | NEW_ACE_WRITE_OWNER)
 251           & ~ access_masks[4])
 252         return 1;
 253       access_masks[4] &= ~(NEW_ACE_WRITE_NAMED_ATTRS
 254                            | NEW_ACE_WRITE_ATTRIBUTES
 255                            | NEW_ACE_WRITE_ACL
 256                            | NEW_ACE_WRITE_OWNER);
 257       if ((NEW_ACE_READ_NAMED_ATTRS
 258            | NEW_ACE_READ_ATTRIBUTES
 259            | NEW_ACE_READ_ACL
 260            | NEW_ACE_SYNCHRONIZE)
 261           & ~ access_masks[5])
 262         return 1;
 263       access_masks[5] &= ~(NEW_ACE_READ_NAMED_ATTRS
 264                            | NEW_ACE_READ_ATTRIBUTES
 265                            | NEW_ACE_READ_ACL
 266                            | NEW_ACE_SYNCHRONIZE);
 267
 268       /* Check the allowed or denied bits.  */
 269       if ((access_masks[0] | access_masks[1])
 270           != (NEW_ACE_READ_DATA
 271               | NEW_ACE_WRITE_DATA | NEW_ACE_APPEND_DATA
 272               | NEW_ACE_EXECUTE))
 273         return 1;
 274       if ((access_masks[2] | access_masks[3])
 275           != (NEW_ACE_READ_DATA
 276               | NEW_ACE_WRITE_DATA | NEW_ACE_APPEND_DATA
 277               | NEW_ACE_EXECUTE))
 278         return 1;
 279       if ((access_masks[4] | access_masks[5])
 280           != (NEW_ACE_READ_DATA
 281               | NEW_ACE_WRITE_DATA | NEW_ACE_APPEND_DATA
 282               | NEW_ACE_EXECUTE))
 283         return 1;
 284
 285       /* Check that the NEW_ACE_WRITE_DATA and NEW_ACE_APPEND_DATA bits are
 286          either both allowed or both denied.  */
 287       if (((access_masks[0] & NEW_ACE_WRITE_DATA) != 0)
 288           != ((access_masks[0] & NEW_ACE_APPEND_DATA) != 0))
 289         return 1;
 290       if (((access_masks[2] & NEW_ACE_WRITE_DATA) != 0)
 291           != ((access_masks[2] & NEW_ACE_APPEND_DATA) != 0))
 292         return 1;
 293       if (((access_masks[4] & NEW_ACE_WRITE_DATA) != 0)
 294           != ((access_masks[4] & NEW_ACE_APPEND_DATA) != 0))
 295         return 1;
 296     }
 297
 298   return 0;
 299 }
 300
 301 # endif
 302
 303 #elif USE_ACL && HAVE_GETACL /* HP-UX */
 304
 305 /* Return 1 if the given ACL is non-trivial.
 306    Return 0 if it is trivial, i.e. equivalent to a simple stat() mode.  */
 307 int
 308 acl_nontrivial (int count, struct acl_entry *entries, struct stat *sb)
 309 {
 310   int i;
 311
 312   for (i = 0; i < count; i++)
 313     {
 314       struct acl_entry *ace = &entries[i];
 315
 316       if (!((ace->uid == sb->st_uid && ace->gid == ACL_NSGROUP)
 317             || (ace->uid == ACL_NSUSER && ace->gid == sb->st_gid)
 318             || (ace->uid == ACL_NSUSER && ace->gid == ACL_NSGROUP)))
 319         return 1;
 320     }
 321   return 0;
 322 }
 323
 324 # if HAVE_ACLV_H /* HP-UX >= 11.11 */
 325
 326 /* Return 1 if the given ACL is non-trivial.
 327    Return 0 if it is trivial, i.e. equivalent to a simple stat() mode.  */
 328 int
 329 aclv_nontrivial (int count, struct acl *entries)
 330 {
 331   int i;
 332
 333   for (i = 0; i < count; i++)
 334     {
 335       struct acl *ace = &entries[i];
 336
 337       /* Note: If ace->a_type = USER_OBJ, ace->a_id is the st_uid from stat().
 338          If ace->a_type = GROUP_OBJ, ace->a_id is the st_gid from stat().
 339          We don't need to check ace->a_id in these cases.  */
 340       if (!(ace->a_type == USER_OBJ /* no need to check ace->a_id here */
 341             || ace->a_type == GROUP_OBJ /* no need to check ace->a_id here */
 342             || ace->a_type == CLASS_OBJ
 343             || ace->a_type == OTHER_OBJ))
 344         return 1;
 345     }
 346   return 0;
 347 }
 348
 349 # endif
 350
 351 #elif USE_ACL && (HAVE_ACLX_GET || HAVE_STATACL) /* AIX */
 352
 353 /* Return 1 if the given ACL is non-trivial.
 354    Return 0 if it is trivial, i.e. equivalent to a simple stat() mode.  */
 355 int
 356 acl_nontrivial (struct acl *a)
 357 {
 358   /* The normal way to iterate through an ACL is like this:
 359        struct acl_entry *ace;
 360        for (ace = a->acl_ext; ace != acl_last (a); ace = acl_nxt (ace))
 361          {
 362            struct ace_id *aei;
 363            switch (ace->ace_type)
 364              {
 365              case ACC_PERMIT:
 366              case ACC_DENY:
 367              case ACC_SPECIFY:
 368                ...;
 369              }
 370            for (aei = ace->ace_id; aei != id_last (ace); aei = id_nxt (aei))
 371              ...
 372          }
 373    */
 374   return (acl_last (a) != a->acl_ext ? 1 : 0);
 375 }
 376
 377 # if HAVE_ACLX_GET && defined ACL_AIX_WIP /* newer AIX */
 378
 379 /* Return 1 if the given ACL is non-trivial.
 380    Return 0 if it is trivial, i.e. equivalent to a simple stat() mode.  */
 381 int
 382 acl_nfs4_nontrivial (nfs4_acl_int_t *a)
 383 {
 384 #  if 1 /* let's try this first */
 385   return (a->aclEntryN > 0 ? 1 : 0);
 386 #  else
 387   int count = a->aclEntryN;
 388   int i;
 389
 390   for (i = 0; i < count; i++)
 391     {
 392       nfs4_ace_int_t *ace = &a->aclEntry[i];
 393
 394       if (!((ace->flags & ACE4_ID_SPECIAL) != 0
 395             && (ace->aceWho.special_whoid == ACE4_WHO_OWNER
 396                 || ace->aceWho.special_whoid == ACE4_WHO_GROUP
 397                 || ace->aceWho.special_whoid == ACE4_WHO_EVERYONE)
 398             && ace->aceType == ACE4_ACCESS_ALLOWED_ACE_TYPE
 399             && ace->aceFlags == 0
 400             && (ace->aceMask & ~(ACE4_READ_DATA | ACE4_LIST_DIRECTORY
 401                                  | ACE4_WRITE_DATA | ACE4_ADD_FILE
 402                                  | ACE4_EXECUTE)) == 0))
 403         return 1;
 404     }
 405   return 0;
 406 #  endif
 407 }
 408
 409 # endif
 410
 411 #elif USE_ACL && HAVE_ACLSORT /* NonStop Kernel */
 412
 413 /* Test an ACL retrieved with ACL_GET.
 414    Return 1 if the given ACL, consisting of COUNT entries, is non-trivial.
 415    Return 0 if it is trivial, i.e. equivalent to a simple stat() mode.  */
 416 int
 417 acl_nontrivial (int count, struct acl *entries)
 418 {
 419   int i;
 420
 421   for (i = 0; i < count; i++)
 422     {
 423       struct acl *ace = &entries[i];
 424
 425       /* Note: If ace->a_type = USER_OBJ, ace->a_id is the st_uid from stat().
 426          If ace->a_type = GROUP_OBJ, ace->a_id is the st_gid from stat().
 427          We don't need to check ace->a_id in these cases.  */
 428       if (!(ace->a_type == USER_OBJ /* no need to check ace->a_id here */
 429             || ace->a_type == GROUP_OBJ /* no need to check ace->a_id here */
 430             || ace->a_type == CLASS_OBJ
 431             || ace->a_type == OTHER_OBJ))
 432         return 1;
 433     }
 434   return 0;
 435 }
 436
 437 #endif
 438
 439
 440 /* Return 1 if NAME has a nontrivial access control list, 0 if NAME
 441    only has no or a base access control list, and -1 (setting errno)
 442    on error.  SB must be set to the stat buffer of NAME, obtained
 443    through stat() or lstat().  */
 444
 445 int
 446 file_has_acl (char const *name, struct stat const *sb)
 447 {
 448 #if USE_ACL
 449   if (! S_ISLNK (sb->st_mode))
 450     {
 451 # if HAVE_ACL_GET_FILE
 452
 453       /* POSIX 1003.1e (draft 17 -- abandoned) specific version.  */
 454       /* Linux, FreeBSD, MacOS X, IRIX, Tru64 */
 455       int ret;
 456
 457       if (HAVE_ACL_EXTENDED_FILE || HAVE_ACL_EXTENDED_FILE_NOFOLLOW) /* Linux */
 458         {
 459 #  if HAVE_ACL_EXTENDED_FILE_NOFOLLOW
 460           /* acl_extended_file_nofollow() uses lgetxattr() in order to prevent
 461              unnecessary mounts, but it returns the same result as we already
 462              know that NAME is not a symbolic link at this point (modulo the
 463              TOCTTOU race condition).  */
 464           ret = acl_extended_file_nofollow (name);
 465 #  else
 466           /* On Linux, acl_extended_file is an optimized function: It only
 467              makes two calls to getxattr(), one for ACL_TYPE_ACCESS, one for
 468              ACL_TYPE_DEFAULT.  */
 469           ret = acl_extended_file (name);
 470 #  endif
 471         }
 472       else /* FreeBSD, MacOS X, IRIX, Tru64 */
 473         {
 474 #  if HAVE_ACL_TYPE_EXTENDED /* MacOS X */
 475           /* On MacOS X, acl_get_file (name, ACL_TYPE_ACCESS)
 476              and acl_get_file (name, ACL_TYPE_DEFAULT)
 477              always return NULL / EINVAL.  There is no point in making
 478              these two useless calls.  The real ACL is retrieved through
 479              acl_get_file (name, ACL_TYPE_EXTENDED).  */
 480           acl_t acl = acl_get_file (name, ACL_TYPE_EXTENDED);
 481           if (acl)
 482             {
 483               ret = acl_extended_nontrivial (acl);
 484               acl_free (acl);
 485             }
 486           else
 487             ret = -1;
 488 #  else /* FreeBSD, IRIX, Tru64 */
 489           acl_t acl = acl_get_file (name, ACL_TYPE_ACCESS);
 490           if (acl)
 491             {
 492               int saved_errno;
 493
 494               ret = acl_access_nontrivial (acl);
 495               saved_errno = errno;
 496               acl_free (acl);
 497               errno = saved_errno;
 498 #   if HAVE_ACL_FREE_TEXT /* Tru64 */
 499               /* On OSF/1, acl_get_file (name, ACL_TYPE_DEFAULT) always
 500                  returns NULL with errno not set.  There is no point in
 501                  making this call.  */
 502 #   else /* FreeBSD, IRIX */
 503               /* On Linux, FreeBSD, IRIX, acl_get_file (name, ACL_TYPE_ACCESS)
 504                  and acl_get_file (name, ACL_TYPE_DEFAULT) on a directory
 505                  either both succeed or both fail; it depends on the
 506                  file system.  Therefore there is no point in making the second
 507                  call if the first one already failed.  */
 508               if (ret == 0 && S_ISDIR (sb->st_mode))
 509                 {
 510                   acl = acl_get_file (name, ACL_TYPE_DEFAULT);
 511                   if (acl)
 512                     {
 513                       ret = (0 < acl_entries (acl));
 514                       acl_free (acl);
 515                     }
 516                   else
 517                     ret = -1;
 518                 }
 519 #   endif
 520             }
 521           else
 522             ret = -1;
 523 #  endif
 524         }
 525       if (ret < 0)
 526         return ACL_NOT_WELL_SUPPORTED (errno) ? 0 : -1;
 527       return ret;
 528
 529 # elif HAVE_FACL && defined GETACLCNT /* Solaris, Cygwin, not HP-UX */
 530
 531 #  if defined ACL_NO_TRIVIAL
 532
 533       /* Solaris 10 (newer version), which has additional API declared in
 534          <sys/acl.h> (acl_t) and implemented in libsec (acl_set, acl_trivial,
 535          acl_fromtext, ...).  */
 536       return acl_trivial (name);
 537
 538 #  else /* Solaris, Cygwin, general case */
 539
 540       /* Solaris 2.5 through Solaris 10, Cygwin, and contemporaneous versions
 541          of Unixware.  The acl() call returns the access and default ACL both
 542          at once.  */
 543       int count;
 544       {
 545         aclent_t *entries;
 546
 547         for (;;)
 548           {
 549             count = acl (name, GETACLCNT, 0, NULL);
 550
 551             if (count < 0)
 552               {
 553                 if (errno == ENOSYS || errno == ENOTSUP)
 554                   break;
 555                 else
 556                   return -1;
 557               }
 558
 559             if (count == 0)
 560               break;
 561
 562             /* Don't use MIN_ACL_ENTRIES:  It's set to 4 on Cygwin, but Cygwin
 563                returns only 3 entries for files with no ACL.  But this is safe:
 564                If there are more than 4 entries, there cannot be only the
 565                "user::", "group::", "other:", and "mask:" entries.  */
 566             if (count > 4)
 567               return 1;
 568
 569             entries = (aclent_t *) malloc (count * sizeof (aclent_t));
 570             if (entries == NULL)
 571               {
 572                 errno = ENOMEM;
 573                 return -1;
 574               }
 575             if (acl (name, GETACL, count, entries) == count)
 576               {
 577                 if (acl_nontrivial (count, entries))
 578                   {
 579                     free (entries);
 580                     return 1;
 581                   }
 582                 free (entries);
 583                 break;
 584               }
 585             /* Huh? The number of ACL entries changed since the last call.
 586                Repeat.  */
 587             free (entries);
 588           }
 589       }
 590
 591 #   ifdef ACE_GETACL
 592       /* Solaris also has a different variant of ACLs, used in ZFS and NFSv4
 593          file systems (whereas the other ones are used in UFS file systems).  */
 594       {
 595         ace_t *entries;
 596
 597         for (;;)
 598           {
 599             count = acl (name, ACE_GETACLCNT, 0, NULL);
 600
 601             if (count < 0)
 602               {
 603                 if (errno == ENOSYS || errno == EINVAL)
 604                   break;
 605                 else
 606                   return -1;
 607               }
 608
 609             if (count == 0)
 610               break;
 611
 612             /* In the old (original Solaris 10) convention:
 613                If there are more than 3 entries, there cannot be only the
 614                ACE_OWNER, ACE_GROUP, ACE_OTHER entries.
 615                In the newer Solaris 10 and Solaris 11 convention:
 616                If there are more than 6 entries, there cannot be only the
 617                ACE_OWNER, ACE_GROUP, ACE_EVERYONE entries, each once with
 618                NEW_ACE_ACCESS_ALLOWED_ACE_TYPE and once with
 619                NEW_ACE_ACCESS_DENIED_ACE_TYPE.  */
 620             if (count > 6)
 621               return 1;
 622
 623             entries = (ace_t *) malloc (count * sizeof (ace_t));
 624             if (entries == NULL)
 625               {
 626                 errno = ENOMEM;
 627                 return -1;
 628               }
 629             if (acl (name, ACE_GETACL, count, entries) == count)
 630               {
 631                 if (acl_ace_nontrivial (count, entries))
 632                   {
 633                     free (entries);
 634                     return 1;
 635                   }
 636                 free (entries);
 637                 break;
 638               }
 639             /* Huh? The number of ACL entries changed since the last call.
 640                Repeat.  */
 641             free (entries);
 642           }
 643       }
 644 #   endif
 645
 646       return 0;
 647 #  endif
 648
 649 # elif HAVE_GETACL /* HP-UX */
 650
 651       for (;;)
 652         {
 653           int count;
 654           struct acl_entry entries[NACLENTRIES];
 655
 656           count = getacl (name, 0, NULL);
 657
 658           if (count < 0)
 659             {
 660               /* ENOSYS is seen on newer HP-UX versions.
 661                  EOPNOTSUPP is typically seen on NFS mounts.
 662                  ENOTSUP was seen on Quantum StorNext file systems (cvfs).  */
 663               if (errno == ENOSYS || errno == EOPNOTSUPP || errno == ENOTSUP)
 664                 break;
 665               else
 666                 return -1;
 667             }
 668
 669           if (count == 0)
 670             return 0;
 671
 672           if (count > NACLENTRIES)
 673             /* If NACLENTRIES cannot be trusted, use dynamic memory
 674                allocation.  */
 675             abort ();
 676
 677           /* If there are more than 3 entries, there cannot be only the
 678              (uid,%), (%,gid), (%,%) entries.  */
 679           if (count > 3)
 680             return 1;
 681
 682           if (getacl (name, count, entries) == count)
 683             {
 684               struct stat statbuf;
 685
 686               if (stat (name, &statbuf) < 0)
 687                 return -1;
 688
 689               return acl_nontrivial (count, entries, &statbuf);
 690             }
 691           /* Huh? The number of ACL entries changed since the last call.
 692              Repeat.  */
 693         }
 694
 695 #  if HAVE_ACLV_H /* HP-UX >= 11.11 */
 696
 697       for (;;)
 698         {
 699           int count;
 700           struct acl entries[NACLVENTRIES];
 701
 702           count = acl ((char *) name, ACL_CNT, NACLVENTRIES, entries);
 703
 704           if (count < 0)
 705             {
 706               /* EOPNOTSUPP is seen on NFS in HP-UX 11.11, 11.23.
 707                  EINVAL is seen on NFS in HP-UX 11.31.  */
 708               if (errno == ENOSYS || errno == EOPNOTSUPP || errno == EINVAL)
 709                 break;
 710               else
 711                 return -1;
 712             }
 713
 714           if (count == 0)
 715             return 0;
 716
 717           if (count > NACLVENTRIES)
 718             /* If NACLVENTRIES cannot be trusted, use dynamic memory
 719                allocation.  */
 720             abort ();
 721
 722           /* If there are more than 4 entries, there cannot be only the
 723              four base ACL entries.  */
 724           if (count > 4)
 725             return 1;
 726
 727           if (acl ((char *) name, ACL_GET, count, entries) == count)
 728             return aclv_nontrivial (count, entries);
 729           /* Huh? The number of ACL entries changed since the last call.
 730              Repeat.  */
 731         }
 732
 733 #  endif
 734
 735 # elif HAVE_ACLX_GET && defined ACL_AIX_WIP /* AIX */
 736
 737       acl_type_t type;
 738       char aclbuf[1024];
 739       void *acl = aclbuf;
 740       size_t aclsize = sizeof (aclbuf);
 741       mode_t mode;
 742
 743       for (;;)
 744         {
 745           /* The docs say that type being 0 is equivalent to ACL_ANY, but it
 746              is not true, in AIX 5.3.  */
 747           type.u64 = ACL_ANY;
 748           if (aclx_get (name, 0, &type, aclbuf, &aclsize, &mode) >= 0)
 749             break;
 750           if (errno == ENOSYS)
 751             return 0;
 752           if (errno != ENOSPC)
 753             {
 754               if (acl != aclbuf)
 755                 {
 756                   int saved_errno = errno;
 757                   free (acl);
 758                   errno = saved_errno;
 759                 }
 760               return -1;
 761             }
 762           aclsize = 2 * aclsize;
 763           if (acl != aclbuf)
 764             free (acl);
 765           acl = malloc (aclsize);
 766           if (acl == NULL)
 767             {
 768               errno = ENOMEM;
 769               return -1;
 770             }
 771         }
 772
 773       if (type.u64 == ACL_AIXC)
 774         {
 775           int result = acl_nontrivial ((struct acl *) acl);
 776           if (acl != aclbuf)
 777             free (acl);
 778           return result;
 779         }
 780       else if (type.u64 == ACL_NFS4)
 781         {
 782           int result = acl_nfs4_nontrivial ((nfs4_acl_int_t *) acl);
 783           if (acl != aclbuf)
 784             free (acl);
 785           return result;
 786         }
 787       else
 788         {
 789           /* A newer type of ACL has been introduced in the system.
 790              We should better support it.  */
 791           if (acl != aclbuf)
 792             free (acl);
 793           errno = EINVAL;
 794           return -1;
 795         }
 796
 797 # elif HAVE_STATACL /* older AIX */
 798
 799       union { struct acl a; char room[4096]; } u;
 800
 801       if (statacl (name, STX_NORMAL, &u.a, sizeof (u)) < 0)
 802         return -1;
 803
 804       return acl_nontrivial (&u.a);
 805
 806 # elif HAVE_ACLSORT /* NonStop Kernel */
 807
 808       int count;
 809       struct acl entries[NACLENTRIES];
 810
 811       for (;;)
 812         {
 813           count = acl ((char *) name, ACL_CNT, NACLENTRIES, NULL);
 814
 815           if (count < 0)
 816             {
 817               if (errno == ENOSYS || errno == ENOTSUP)
 818                 break;
 819               else
 820                 return -1;
 821             }
 822
 823           if (count == 0)
 824             return 0;
 825
 826           if (count > NACLENTRIES)
 827             /* If NACLENTRIES cannot be trusted, use dynamic memory
 828                allocation.  */
 829             abort ();
 830
 831           /* If there are more than 4 entries, there cannot be only the
 832              four base ACL entries.  */
 833           if (count > 4)
 834             return 1;
 835
 836           if (acl ((char *) name, ACL_GET, count, entries) == count)
 837             return acl_nontrivial (count, entries);
 838           /* Huh? The number of ACL entries changed since the last call.
 839              Repeat.  */
 840         }
 841
 842 # endif
 843     }
 844 #endif
 845
 846   return 0;
 847 }