lib/file-has-acl.c

   1 /* Test whether a file has a nontrivial access control list.
   2
   3    Copyright (C) 2002-2003, 2005-2011 Free Software Foundation, Inc.
   4
   5    This program is free software: you can redistribute it and/or modify
   6    it under the terms of the GNU General Public License as published by
   7    the Free Software Foundation; either version 3 of the License, or
   8    (at your option) any later version.
   9
  10    This program is distributed in the hope that it will be useful,
  11    but WITHOUT ANY WARRANTY; without even the implied warranty of
  12    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  13    GNU General Public License for more details.
  14
  15    You should have received a copy of the GNU General Public License
  16    along with this program.  If not, see <http://www.gnu.org/licenses/>.
  17
  18    Written by Paul Eggert, Andreas Grünbacher, and Bruno Haible.  */
  19
  20 #include <config.h>
  21
  22 #include "acl.h"
  23
  24 #include "acl-internal.h"
  25
  26
  27 #if USE_ACL && HAVE_ACL_GET_FILE
  28
  29 # if HAVE_ACL_TYPE_EXTENDED /* MacOS X */
  30
  31 /* ACL is an ACL, from a file, stored as type ACL_TYPE_EXTENDED.
  32    Return 1 if the given ACL is non-trivial.
  33    Return 0 if it is trivial.  */
  34 int
  35 acl_extended_nontrivial (acl_t acl)
  36 {
  37   /* acl is non-trivial if it is non-empty.  */
  38   return (acl_entries (acl) > 0);
  39 }
  40
  41 # else /* Linux, FreeBSD, IRIX, Tru64 */
  42
  43 /* ACL is an ACL, from a file, stored as type ACL_TYPE_ACCESS.
  44    Return 1 if the given ACL is non-trivial.
  45    Return 0 if it is trivial, i.e. equivalent to a simple stat() mode.
  46    Return -1 and set errno upon failure to determine it.  */
  47 int
  48 acl_access_nontrivial (acl_t acl)
  49 {
  50   /* acl is non-trivial if it has some entries other than for "user::",
  51      "group::", and "other::".  Normally these three should be present
  52      at least, allowing us to write
  53         return (3 < acl_entries (acl));
  54      but the following code is more robust.  */
  55 #  if HAVE_ACL_FIRST_ENTRY /* Linux, FreeBSD */
  56
  57   acl_entry_t ace;
  58   int got_one;
  59
  60   for (got_one = acl_get_entry (acl, ACL_FIRST_ENTRY, &ace);
  61        got_one > 0;
  62        got_one = acl_get_entry (acl, ACL_NEXT_ENTRY, &ace))
  63     {
  64       acl_tag_t tag;
  65       if (acl_get_tag_type (ace, &tag) < 0)
  66         return -1;
  67       if (!(tag == ACL_USER_OBJ || tag == ACL_GROUP_OBJ || tag == ACL_OTHER))
  68         return 1;
  69     }
  70   return got_one;
  71
  72 #  else /* IRIX, Tru64 */
  73 #   if HAVE_ACL_TO_SHORT_TEXT /* IRIX */
  74   /* Don't use acl_get_entry: it is undocumented.  */
  75
  76   int count = acl->acl_cnt;
  77   int i;
  78
  79   for (i = 0; i < count; i++)
  80     {
  81       acl_entry_t ace = &acl->acl_entry[i];
  82       acl_tag_t tag = ace->ae_tag;
  83
  84       if (!(tag == ACL_USER_OBJ || tag == ACL_GROUP_OBJ
  85             || tag == ACL_OTHER_OBJ))
  86         return 1;
  87     }
  88   return 0;
  89
  90 #   endif
  91 #   if HAVE_ACL_FREE_TEXT /* Tru64 */
  92   /* Don't use acl_get_entry: it takes only one argument and does not work.  */
  93
  94   int count = acl->acl_num;
  95   acl_entry_t ace;
  96
  97   for (ace = acl->acl_first; count > 0; ace = ace->next, count--)
  98     {
  99       acl_tag_t tag;
 100       acl_perm_t perm;
 101
 102       tag = ace->entry->acl_type;
 103       if (!(tag == ACL_USER_OBJ || tag == ACL_GROUP_OBJ || tag == ACL_OTHER))
 104         return 1;
 105
 106       perm = ace->entry->acl_perm;
 107       /* On Tru64, perm can also contain non-standard bits such as
 108          PERM_INSERT, PERM_DELETE, PERM_MODIFY, PERM_LOOKUP, ... */
 109       if ((perm & ~(ACL_READ | ACL_WRITE | ACL_EXECUTE)) != 0)
 110         return 1;
 111     }
 112   return 0;
 113
 114 #   endif
 115 #  endif
 116 }
 117
 118 # endif
 119
 120
 121 #elif USE_ACL && HAVE_FACL && defined GETACL /* Solaris, Cygwin, not HP-UX */
 122
 123 /* Test an ACL retrieved with GETACL.
 124    Return 1 if the given ACL, consisting of COUNT entries, is non-trivial.
 125    Return 0 if it is trivial, i.e. equivalent to a simple stat() mode.  */
 126 int
 127 acl_nontrivial (int count, aclent_t *entries)
 128 {
 129   int i;
 130
 131   for (i = 0; i < count; i++)
 132     {
 133       aclent_t *ace = &entries[i];
 134
 135       /* Note: If ace->a_type = USER_OBJ, ace->a_id is the st_uid from stat().
 136          If ace->a_type = GROUP_OBJ, ace->a_id is the st_gid from stat().
 137          We don't need to check ace->a_id in these cases.  */
 138       if (!(ace->a_type == USER_OBJ
 139             || ace->a_type == GROUP_OBJ
 140             || ace->a_type == OTHER_OBJ
 141             /* Note: Cygwin does not return a CLASS_OBJ ("mask:") entry
 142                sometimes.  */
 143             || ace->a_type == CLASS_OBJ))
 144         return 1;
 145     }
 146   return 0;
 147 }
 148
 149 # ifdef ACE_GETACL
 150
 151 /* Test an ACL retrieved with ACE_GETACL.
 152    Return 1 if the given ACL, consisting of COUNT entries, is non-trivial.
 153    Return 0 if it is trivial, i.e. equivalent to a simple stat() mode.  */
 154 int
 155 acl_ace_nontrivial (int count, ace_t *entries)
 156 {
 157   int i;
 158
 159   /* The flags in the ace_t structure changed in a binary incompatible way
 160      when ACL_NO_TRIVIAL etc. were introduced in <sys/acl.h> version 1.15.
 161      How to distinguish the two conventions at runtime?
 162      In the old convention, usually three ACEs have a_flags = ACE_OWNER /
 163      ACE_GROUP / ACE_OTHER, in the range 0x0100..0x0400.  In the new
 164      convention, these values are not used.  */
 165   int old_convention = 0;
 166
 167   for (i = 0; i < count; i++)
 168     if (entries[i].a_flags & (OLD_ACE_OWNER | OLD_ACE_GROUP | OLD_ACE_OTHER))
 169       {
 170         old_convention = 1;
 171         break;
 172       }
 173
 174   if (old_convention)
 175     /* Running on Solaris 10.  */
 176     for (i = 0; i < count; i++)
 177       {
 178         ace_t *ace = &entries[i];
 179
 180         /* Note:
 181            If ace->a_flags = ACE_OWNER, ace->a_who is the st_uid from stat().
 182            If ace->a_flags = ACE_GROUP, ace->a_who is the st_gid from stat().
 183            We don't need to check ace->a_who in these cases.  */
 184         if (!(ace->a_type == OLD_ALLOW
 185               && (ace->a_flags == OLD_ACE_OWNER
 186                   || ace->a_flags == OLD_ACE_GROUP
 187                   || ace->a_flags == OLD_ACE_OTHER)))
 188           return 1;
 189       }
 190   else
 191     {
 192       /* Running on Solaris 10 (newer version) or Solaris 11.  */
 193       unsigned int access_masks[6] =
 194         {
 195           0, /* owner@ deny */
 196           0, /* owner@ allow */
 197           0, /* group@ deny */
 198           0, /* group@ allow */
 199           0, /* everyone@ deny */
 200           0  /* everyone@ allow */
 201         };
 202
 203       for (i = 0; i < count; i++)
 204         {
 205           ace_t *ace = &entries[i];
 206           unsigned int index1;
 207           unsigned int index2;
 208
 209           if (ace->a_type == NEW_ACE_ACCESS_ALLOWED_ACE_TYPE)
 210             index1 = 1;
 211           else if (ace->a_type == NEW_ACE_ACCESS_DENIED_ACE_TYPE)
 212             index1 = 0;
 213           else
 214             return 1;
 215
 216           if (ace->a_flags == NEW_ACE_OWNER)
 217             index2 = 0;
 218           else if (ace->a_flags == (NEW_ACE_GROUP | NEW_ACE_IDENTIFIER_GROUP))
 219             index2 = 2;
 220           else if (ace->a_flags == ACE_EVERYONE)
 221             index2 = 4;
 222           else
 223             return 1;
 224
 225           access_masks[index1 + index2] |= ace->a_access_mask;
 226         }
 227
 228       /* The same bit shouldn't be both allowed and denied.  */
 229       if (access_masks[0] & access_masks[1])
 230         return 1;
 231       if (access_masks[2] & access_masks[3])
 232         return 1;
 233       if (access_masks[4] & access_masks[5])
 234         return 1;
 235
 236       /* Check minimum masks.  */
 237       if ((NEW_ACE_WRITE_NAMED_ATTRS
 238            | NEW_ACE_WRITE_ATTRIBUTES
 239            | NEW_ACE_WRITE_ACL
 240            | NEW_ACE_WRITE_OWNER)
 241           & ~ access_masks[1])
 242         return 1;
 243       access_masks[1] &= ~(NEW_ACE_WRITE_NAMED_ATTRS
 244                            | NEW_ACE_WRITE_ATTRIBUTES
 245                            | NEW_ACE_WRITE_ACL
 246                            | NEW_ACE_WRITE_OWNER);
 247       if ((NEW_ACE_WRITE_NAMED_ATTRS
 248            | NEW_ACE_WRITE_ATTRIBUTES
 249            | NEW_ACE_WRITE_ACL
 250            | NEW_ACE_WRITE_OWNER)
 251           & ~ access_masks[4])
 252         return 1;
 253       access_masks[4] &= ~(NEW_ACE_WRITE_NAMED_ATTRS
 254                            | NEW_ACE_WRITE_ATTRIBUTES
 255                            | NEW_ACE_WRITE_ACL
 256                            | NEW_ACE_WRITE_OWNER);
 257       if ((NEW_ACE_READ_NAMED_ATTRS
 258            | NEW_ACE_READ_ATTRIBUTES
 259            | NEW_ACE_READ_ACL
 260            | NEW_ACE_SYNCHRONIZE)
 261           & ~ access_masks[5])
 262         return 1;
 263       access_masks[5] &= ~(NEW_ACE_READ_NAMED_ATTRS
 264                            | NEW_ACE_READ_ATTRIBUTES
 265                            | NEW_ACE_READ_ACL
 266                            | NEW_ACE_SYNCHRONIZE);
 267
 268       /* Check the allowed or denied bits.  */
 269       if ((access_masks[0] | access_masks[1])
 270           != (NEW_ACE_READ_DATA
 271               | NEW_ACE_WRITE_DATA | NEW_ACE_APPEND_DATA
 272               | NEW_ACE_EXECUTE))
 273         return 1;
 274       if ((access_masks[2] | access_masks[3])
 275           != (NEW_ACE_READ_DATA
 276               | NEW_ACE_WRITE_DATA | NEW_ACE_APPEND_DATA
 277               | NEW_ACE_EXECUTE))
 278         return 1;
 279       if ((access_masks[4] | access_masks[5])
 280           != (NEW_ACE_READ_DATA
 281               | NEW_ACE_WRITE_DATA | NEW_ACE_APPEND_DATA
 282               | NEW_ACE_EXECUTE))
 283         return 1;
 284
 285       /* Check that the NEW_ACE_WRITE_DATA and NEW_ACE_APPEND_DATA bits are
 286          either both allowed or both denied.  */
 287       if (((access_masks[0] & NEW_ACE_WRITE_DATA) != 0)
 288           != ((access_masks[0] & NEW_ACE_APPEND_DATA) != 0))
 289         return 1;
 290       if (((access_masks[2] & NEW_ACE_WRITE_DATA) != 0)
 291           != ((access_masks[2] & NEW_ACE_APPEND_DATA) != 0))
 292         return 1;
 293       if (((access_masks[4] & NEW_ACE_WRITE_DATA) != 0)
 294           != ((access_masks[4] & NEW_ACE_APPEND_DATA) != 0))
 295         return 1;
 296     }
 297
 298   return 0;
 299 }
 300
 301 # endif
 302
 303 #elif USE_ACL && HAVE_GETACL /* HP-UX */
 304
 305 /* Return 1 if the given ACL is non-trivial.
 306    Return 0 if it is trivial, i.e. equivalent to a simple stat() mode.  */
 307 int
 308 acl_nontrivial (int count, struct acl_entry *entries, struct stat *sb)
 309 {
 310   int i;
 311
 312   for (i = 0; i < count; i++)
 313     {
 314       struct acl_entry *ace = &entries[i];
 315
 316       if (!((ace->uid == sb->st_uid && ace->gid == ACL_NSGROUP)
 317             || (ace->uid == ACL_NSUSER && ace->gid == sb->st_gid)
 318             || (ace->uid == ACL_NSUSER && ace->gid == ACL_NSGROUP)))
 319         return 1;
 320     }
 321   return 0;
 322 }
 323
 324 # if HAVE_ACLV_H /* HP-UX >= 11.11 */
 325
 326 /* Return 1 if the given ACL is non-trivial.
 327    Return 0 if it is trivial, i.e. equivalent to a simple stat() mode.  */
 328 int
 329 aclv_nontrivial (int count, struct acl *entries)
 330 {
 331   int i;
 332
 333   for (i = 0; i < count; i++)
 334     {
 335       struct acl *ace = &entries[i];
 336
 337       /* Note: If ace->a_type = USER_OBJ, ace->a_id is the st_uid from stat().
 338          If ace->a_type = GROUP_OBJ, ace->a_id is the st_gid from stat().
 339          We don't need to check ace->a_id in these cases.  */
 340       if (!(ace->a_type == USER_OBJ /* no need to check ace->a_id here */
 341             || ace->a_type == GROUP_OBJ /* no need to check ace->a_id here */
 342             || ace->a_type == CLASS_OBJ
 343             || ace->a_type == OTHER_OBJ))
 344         return 1;
 345     }
 346   return 0;
 347 }
 348
 349 # endif
 350
 351 #elif USE_ACL && (HAVE_ACLX_GET || HAVE_STATACL) /* AIX */
 352
 353 /* Return 1 if the given ACL is non-trivial.
 354    Return 0 if it is trivial, i.e. equivalent to a simple stat() mode.  */
 355 int
 356 acl_nontrivial (struct acl *a)
 357 {
 358   /* The normal way to iterate through an ACL is like this:
 359        struct acl_entry *ace;
 360        for (ace = a->acl_ext; ace != acl_last (a); ace = acl_nxt (ace))
 361          {
 362            struct ace_id *aei;
 363            switch (ace->ace_type)
 364              {
 365              case ACC_PERMIT:
 366              case ACC_DENY:
 367              case ACC_SPECIFY:
 368                ...;
 369              }
 370            for (aei = ace->ace_id; aei != id_last (ace); aei = id_nxt (aei))
 371              ...
 372          }
 373    */
 374   return (acl_last (a) != a->acl_ext ? 1 : 0);
 375 }
 376
 377 # if HAVE_ACLX_GET && defined ACL_AIX_WIP /* newer AIX */
 378
 379 /* Return 1 if the given ACL is non-trivial.
 380    Return 0 if it is trivial, i.e. equivalent to a simple stat() mode.  */
 381 int
 382 acl_nfs4_nontrivial (nfs4_acl_int_t *a)
 383 {
 384 #  if 1 /* let's try this first */
 385   return (a->aclEntryN > 0 ? 1 : 0);
 386 #  else
 387   int count = a->aclEntryN;
 388   int i;
 389
 390   for (i = 0; i < count; i++)
 391     {
 392       nfs4_ace_int_t *ace = &a->aclEntry[i];
 393
 394       if (!((ace->flags & ACE4_ID_SPECIAL) != 0
 395             && (ace->aceWho.special_whoid == ACE4_WHO_OWNER
 396                 || ace->aceWho.special_whoid == ACE4_WHO_GROUP
 397                 || ace->aceWho.special_whoid == ACE4_WHO_EVERYONE)
 398             && ace->aceType == ACE4_ACCESS_ALLOWED_ACE_TYPE
 399             && ace->aceFlags == 0
 400             && (ace->aceMask & ~(ACE4_READ_DATA | ACE4_LIST_DIRECTORY
 401                                  | ACE4_WRITE_DATA | ACE4_ADD_FILE
 402                                  | ACE4_EXECUTE)) == 0))
 403         return 1;
 404     }
 405   return 0;
 406 #  endif
 407 }
 408
 409 # endif
 410
 411 #elif USE_ACL && HAVE_ACLSORT /* NonStop Kernel */
 412
 413 /* Test an ACL retrieved with ACL_GET.
 414    Return 1 if the given ACL, consisting of COUNT entries, is non-trivial.
 415    Return 0 if it is trivial, i.e. equivalent to a simple stat() mode.  */
 416 int
 417 acl_nontrivial (int count, struct acl *entries)
 418 {
 419   int i;
 420
 421   for (i = 0; i < count; i++)
 422     {
 423       struct acl *ace = &entries[i];
 424
 425       /* Note: If ace->a_type = USER_OBJ, ace->a_id is the st_uid from stat().
 426          If ace->a_type = GROUP_OBJ, ace->a_id is the st_gid from stat().
 427          We don't need to check ace->a_id in these cases.  */
 428       if (!(ace->a_type == USER_OBJ /* no need to check ace->a_id here */
 429             || ace->a_type == GROUP_OBJ /* no need to check ace->a_id here */
 430             || ace->a_type == CLASS_OBJ
 431             || ace->a_type == OTHER_OBJ))
 432         return 1;
 433     }
 434   return 0;
 435 }
 436
 437 #endif
 438
 439
 440 /* Return 1 if NAME has a nontrivial access control list, 0 if NAME
 441    only has no or a base access control list, and -1 (setting errno)
 442    on error.  SB must be set to the stat buffer of FILE.  */
 443
 444 int
 445 file_has_acl (char const *name, struct stat const *sb)
 446 {
 447 #if USE_ACL
 448   if (! S_ISLNK (sb->st_mode))
 449     {
 450 # if HAVE_ACL_GET_FILE
 451
 452       /* POSIX 1003.1e (draft 17 -- abandoned) specific version.  */
 453       /* Linux, FreeBSD, MacOS X, IRIX, Tru64 */
 454       int ret;
 455
 456       if (HAVE_ACL_EXTENDED_FILE || HAVE_ACL_EXTENDED_FILE_NOFOLLOW) /* Linux */
 457         {
 458 #  if HAVE_ACL_EXTENDED_FILE_NOFOLLOW
 459           /* acl_extended_file_nofollow() uses lgetxattr() in order to prevent
 460              unnecessary mounts, but it returns the same result as we already
 461              know that NAME is not a symbolic link at this point (modulo the
 462              TOCTTOU race condition).  */
 463           ret = acl_extended_file_nofollow (name);
 464 #  else
 465           /* On Linux, acl_extended_file is an optimized function: It only
 466              makes two calls to getxattr(), one for ACL_TYPE_ACCESS, one for
 467              ACL_TYPE_DEFAULT.  */
 468           ret = acl_extended_file (name);
 469 #  endif
 470         }
 471       else /* FreeBSD, MacOS X, IRIX, Tru64 */
 472         {
 473 #  if HAVE_ACL_TYPE_EXTENDED /* MacOS X */
 474           /* On MacOS X, acl_get_file (name, ACL_TYPE_ACCESS)
 475              and acl_get_file (name, ACL_TYPE_DEFAULT)
 476              always return NULL / EINVAL.  There is no point in making
 477              these two useless calls.  The real ACL is retrieved through
 478              acl_get_file (name, ACL_TYPE_EXTENDED).  */
 479           acl_t acl = acl_get_file (name, ACL_TYPE_EXTENDED);
 480           if (acl)
 481             {
 482               ret = acl_extended_nontrivial (acl);
 483               acl_free (acl);
 484             }
 485           else
 486             ret = -1;
 487 #  else /* FreeBSD, IRIX, Tru64 */
 488           acl_t acl = acl_get_file (name, ACL_TYPE_ACCESS);
 489           if (acl)
 490             {
 491               int saved_errno;
 492
 493               ret = acl_access_nontrivial (acl);
 494               saved_errno = errno;
 495               acl_free (acl);
 496               errno = saved_errno;
 497 #   if HAVE_ACL_FREE_TEXT /* Tru64 */
 498               /* On OSF/1, acl_get_file (name, ACL_TYPE_DEFAULT) always
 499                  returns NULL with errno not set.  There is no point in
 500                  making this call.  */
 501 #   else /* FreeBSD, IRIX */
 502               /* On Linux, FreeBSD, IRIX, acl_get_file (name, ACL_TYPE_ACCESS)
 503                  and acl_get_file (name, ACL_TYPE_DEFAULT) on a directory
 504                  either both succeed or both fail; it depends on the
 505                  file system.  Therefore there is no point in making the second
 506                  call if the first one already failed.  */
 507               if (ret == 0 && S_ISDIR (sb->st_mode))
 508                 {
 509                   acl = acl_get_file (name, ACL_TYPE_DEFAULT);
 510                   if (acl)
 511                     {
 512                       ret = (0 < acl_entries (acl));
 513                       acl_free (acl);
 514                     }
 515                   else
 516                     ret = -1;
 517                 }
 518 #   endif
 519             }
 520           else
 521             ret = -1;
 522 #  endif
 523         }
 524       if (ret < 0)
 525         return ACL_NOT_WELL_SUPPORTED (errno) ? 0 : -1;
 526       return ret;
 527
 528 # elif HAVE_FACL && defined GETACLCNT /* Solaris, Cygwin, not HP-UX */
 529
 530 #  if defined ACL_NO_TRIVIAL
 531
 532       /* Solaris 10 (newer version), which has additional API declared in
 533          <sys/acl.h> (acl_t) and implemented in libsec (acl_set, acl_trivial,
 534          acl_fromtext, ...).  */
 535       return acl_trivial (name);
 536
 537 #  else /* Solaris, Cygwin, general case */
 538
 539       /* Solaris 2.5 through Solaris 10, Cygwin, and contemporaneous versions
 540          of Unixware.  The acl() call returns the access and default ACL both
 541          at once.  */
 542       int count;
 543       {
 544         aclent_t *entries;
 545
 546         for (;;)
 547           {
 548             count = acl (name, GETACLCNT, 0, NULL);
 549
 550             if (count < 0)
 551               {
 552                 if (errno == ENOSYS || errno == ENOTSUP)
 553                   break;
 554                 else
 555                   return -1;
 556               }
 557
 558             if (count == 0)
 559               break;
 560
 561             /* Don't use MIN_ACL_ENTRIES:  It's set to 4 on Cygwin, but Cygwin
 562                returns only 3 entries for files with no ACL.  But this is safe:
 563                If there are more than 4 entries, there cannot be only the
 564                "user::", "group::", "other:", and "mask:" entries.  */
 565             if (count > 4)
 566               return 1;
 567
 568             entries = (aclent_t *) malloc (count * sizeof (aclent_t));
 569             if (entries == NULL)
 570               {
 571                 errno = ENOMEM;
 572                 return -1;
 573               }
 574             if (acl (name, GETACL, count, entries) == count)
 575               {
 576                 if (acl_nontrivial (count, entries))
 577                   {
 578                     free (entries);
 579                     return 1;
 580                   }
 581                 free (entries);
 582                 break;
 583               }
 584             /* Huh? The number of ACL entries changed since the last call.
 585                Repeat.  */
 586             free (entries);
 587           }
 588       }
 589
 590 #   ifdef ACE_GETACL
 591       /* Solaris also has a different variant of ACLs, used in ZFS and NFSv4
 592          file systems (whereas the other ones are used in UFS file systems).  */
 593       {
 594         ace_t *entries;
 595
 596         for (;;)
 597           {
 598             count = acl (name, ACE_GETACLCNT, 0, NULL);
 599
 600             if (count < 0)
 601               {
 602                 if (errno == ENOSYS || errno == EINVAL)
 603                   break;
 604                 else
 605                   return -1;
 606               }
 607
 608             if (count == 0)
 609               break;
 610
 611             /* In the old (original Solaris 10) convention:
 612                If there are more than 3 entries, there cannot be only the
 613                ACE_OWNER, ACE_GROUP, ACE_OTHER entries.
 614                In the newer Solaris 10 and Solaris 11 convention:
 615                If there are more than 6 entries, there cannot be only the
 616                ACE_OWNER, ACE_GROUP, ACE_EVERYONE entries, each once with
 617                NEW_ACE_ACCESS_ALLOWED_ACE_TYPE and once with
 618                NEW_ACE_ACCESS_DENIED_ACE_TYPE.  */
 619             if (count > 6)
 620               return 1;
 621
 622             entries = (ace_t *) malloc (count * sizeof (ace_t));
 623             if (entries == NULL)
 624               {
 625                 errno = ENOMEM;
 626                 return -1;
 627               }
 628             if (acl (name, ACE_GETACL, count, entries) == count)
 629               {
 630                 if (acl_ace_nontrivial (count, entries))
 631                   {
 632                     free (entries);
 633                     return 1;
 634                   }
 635                 free (entries);
 636                 break;
 637               }
 638             /* Huh? The number of ACL entries changed since the last call.
 639                Repeat.  */
 640             free (entries);
 641           }
 642       }
 643 #   endif
 644
 645       return 0;
 646 #  endif
 647
 648 # elif HAVE_GETACL /* HP-UX */
 649
 650       for (;;)
 651         {
 652           int count;
 653           struct acl_entry entries[NACLENTRIES];
 654
 655           count = getacl (name, 0, NULL);
 656
 657           if (count < 0)
 658             {
 659               /* ENOSYS is seen on newer HP-UX versions.
 660                  EOPNOTSUPP is typically seen on NFS mounts.
 661                  ENOTSUP was seen on Quantum StorNext file systems (cvfs).  */
 662               if (errno == ENOSYS || errno == EOPNOTSUPP || errno == ENOTSUP)
 663                 break;
 664               else
 665                 return -1;
 666             }
 667
 668           if (count == 0)
 669             return 0;
 670
 671           if (count > NACLENTRIES)
 672             /* If NACLENTRIES cannot be trusted, use dynamic memory
 673                allocation.  */
 674             abort ();
 675
 676           /* If there are more than 3 entries, there cannot be only the
 677              (uid,%), (%,gid), (%,%) entries.  */
 678           if (count > 3)
 679             return 1;
 680
 681           if (getacl (name, count, entries) == count)
 682             {
 683               struct stat statbuf;
 684
 685               if (stat (name, &statbuf) < 0)
 686                 return -1;
 687
 688               return acl_nontrivial (count, entries, &statbuf);
 689             }
 690           /* Huh? The number of ACL entries changed since the last call.
 691              Repeat.  */
 692         }
 693
 694 #  if HAVE_ACLV_H /* HP-UX >= 11.11 */
 695
 696       for (;;)
 697         {
 698           int count;
 699           struct acl entries[NACLVENTRIES];
 700
 701           count = acl ((char *) name, ACL_CNT, NACLVENTRIES, entries);
 702
 703           if (count < 0)
 704             {
 705               /* EOPNOTSUPP is seen on NFS in HP-UX 11.11, 11.23.
 706                  EINVAL is seen on NFS in HP-UX 11.31.  */
 707               if (errno == ENOSYS || errno == EOPNOTSUPP || errno == EINVAL)
 708                 break;
 709               else
 710                 return -1;
 711             }
 712
 713           if (count == 0)
 714             return 0;
 715
 716           if (count > NACLVENTRIES)
 717             /* If NACLVENTRIES cannot be trusted, use dynamic memory
 718                allocation.  */
 719             abort ();
 720
 721           /* If there are more than 4 entries, there cannot be only the
 722              four base ACL entries.  */
 723           if (count > 4)
 724             return 1;
 725
 726           if (acl ((char *) name, ACL_GET, count, entries) == count)
 727             return aclv_nontrivial (count, entries);
 728           /* Huh? The number of ACL entries changed since the last call.
 729              Repeat.  */
 730         }
 731
 732 #  endif
 733
 734 # elif HAVE_ACLX_GET && defined ACL_AIX_WIP /* AIX */
 735
 736       acl_type_t type;
 737       char aclbuf[1024];
 738       void *acl = aclbuf;
 739       size_t aclsize = sizeof (aclbuf);
 740       mode_t mode;
 741
 742       for (;;)
 743         {
 744           /* The docs say that type being 0 is equivalent to ACL_ANY, but it
 745              is not true, in AIX 5.3.  */
 746           type.u64 = ACL_ANY;
 747           if (aclx_get (name, 0, &type, aclbuf, &aclsize, &mode) >= 0)
 748             break;
 749           if (errno != ENOSPC)
 750             {
 751               if (acl != aclbuf)
 752                 {
 753                   int saved_errno = errno;
 754                   free (acl);
 755                   errno = saved_errno;
 756                 }
 757               return -1;
 758             }
 759           aclsize = 2 * aclsize;
 760           if (acl != aclbuf)
 761             free (acl);
 762           acl = malloc (aclsize);
 763           if (acl == NULL)
 764             {
 765               errno = ENOMEM;
 766               return -1;
 767             }
 768         }
 769
 770       if (type.u64 == ACL_AIXC)
 771         {
 772           int result = acl_nontrivial ((struct acl *) acl);
 773           if (acl != aclbuf)
 774             free (acl);
 775           return result;
 776         }
 777       else if (type.u64 == ACL_NFS4)
 778         {
 779           int result = acl_nfs4_nontrivial ((nfs4_acl_int_t *) acl);
 780           if (acl != aclbuf)
 781             free (acl);
 782           return result;
 783         }
 784       else
 785         {
 786           /* A newer type of ACL has been introduced in the system.
 787              We should better support it.  */
 788           if (acl != aclbuf)
 789             free (acl);
 790           errno = EINVAL;
 791           return -1;
 792         }
 793
 794 # elif HAVE_STATACL /* older AIX */
 795
 796       union { struct acl a; char room[4096]; } u;
 797
 798       if (statacl (name, STX_NORMAL, &u.a, sizeof (u)) < 0)
 799         return -1;
 800
 801       return acl_nontrivial (&u.a);
 802
 803 # elif HAVE_ACLSORT /* NonStop Kernel */
 804
 805       int count;
 806       struct acl entries[NACLENTRIES];
 807
 808       for (;;)
 809         {
 810           count = acl ((char *) name, ACL_CNT, NACLENTRIES, NULL);
 811
 812           if (count < 0)
 813             {
 814               if (errno == ENOSYS || errno == ENOTSUP)
 815                 break;
 816               else
 817                 return -1;
 818             }
 819
 820           if (count == 0)
 821             return 0;
 822
 823           if (count > NACLENTRIES)
 824             /* If NACLENTRIES cannot be trusted, use dynamic memory
 825                allocation.  */
 826             abort ();
 827
 828           /* If there are more than 4 entries, there cannot be only the
 829              four base ACL entries.  */
 830           if (count > 4)
 831             return 1;
 832
 833           if (acl ((char *) name, ACL_GET, count, entries) == count)
 834             return acl_nontrivial (count, entries);
 835           /* Huh? The number of ACL entries changed since the last call.
 836              Repeat.  */
 837         }
 838
 839 # endif
 840     }
 841 #endif
 842
 843   return 0;
 844 }