15fc173b0b850a609753b90484aea0627ba36e5e
[gnulib.git] / lib / unistdio / u-vsprintf.h
1 /* Formatted output to strings.
2    Copyright (C) 1999, 2002, 2006-2007 Free Software Foundation, Inc.
3
4    This program is free software: you can redistribute it and/or modify it
5    under the terms of the GNU Lesser General Public License as published
6    by the Free Software Foundation; either version 3 of the License, or
7    (at your option) any later version.
8
9    This program is distributed in the hope that it will be useful,
10    but WITHOUT ANY WARRANTY; without even the implied warranty of
11    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
12    Lesser General Public License for more details.
13
14    You should have received a copy of the GNU Lesser General Public License
15    along with this program.  If not, see <http://www.gnu.org/licenses/>.  */
16
17 /* Some systems, like OSF/1 4.0 and Woe32, don't have EOVERFLOW.  */
18 #ifndef EOVERFLOW
19 # define EOVERFLOW E2BIG
20 #endif
21
22 #ifndef SIZE_MAX
23 # define SIZE_MAX ((size_t) -1)
24 #endif
25
26 int
27 VSPRINTF (DCHAR_T *buf, const FCHAR_T *format, va_list args)
28 {
29   /* Pass an infinite length.  But note that *vasnprintf may fail if the buffer
30      argument is larger than INT_MAX (if that fits into a 'size_t' at all).
31      Also note that glibc's iconv fails with E2BIG when we pass a length that
32      is so large that buf + length wraps around, i.e.
33      (uintptr_t) (buf + length) < (uintptr_t) buf.  */
34   size_t length;
35   DCHAR_T *result;
36
37   /* Set length = min (SIZE_MAX, INT_MAX, - (uintptr_t) buf - 1).  */
38   length = (SIZE_MAX < INT_MAX ? SIZE_MAX : INT_MAX);
39   if (length > (~ (uintptr_t) buf) / sizeof (DCHAR_T))
40     length = (~ (uintptr_t) buf) / sizeof (DCHAR_T);
41
42   result = VASNPRINTF (buf, &length, format, args);
43   if (result == NULL)
44     return -1;
45
46   /* The infinite buffer size guarantees that the result is not malloc()ed.  */
47   if (result != buf)
48     {
49       /* length is near SIZE_MAX.  */
50       free (result);
51       errno = EOVERFLOW;
52       return -1;
53     }
54
55   if (length > INT_MAX)
56     {
57       errno = EOVERFLOW;
58       return -1;
59     }
60
61   /* Return the number of resulting units, excluding the trailing NUL.  */
62   return length;
63 }