acb84b877b4584c204d4a9ff9dfac4e29b94b30b
[gnulib.git] / lib / unistdio / u-vsprintf.h
1 /* Formatted output to strings.
2    Copyright (C) 1999, 2002, 2006-2007 Free Software Foundation, Inc.
3
4    This program is free software; you can redistribute it and/or modify it
5    under the terms of the GNU Library General Public License as published
6    by the Free Software Foundation; either version 2, or (at your option)
7    any later version.
8
9    This program is distributed in the hope that it will be useful,
10    but WITHOUT ANY WARRANTY; without even the implied warranty of
11    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
12    Library General Public License for more details.
13
14    You should have received a copy of the GNU Library General Public
15    License along with this program; if not, write to the Free Software
16    Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301,
17    USA.  */
18
19 /* Some systems, like OSF/1 4.0 and Woe32, don't have EOVERFLOW.  */
20 #ifndef EOVERFLOW
21 # define EOVERFLOW E2BIG
22 #endif
23
24 #ifndef SIZE_MAX
25 # define SIZE_MAX ((size_t) -1)
26 #endif
27
28 int
29 VSPRINTF (DCHAR_T *buf, const FCHAR_T *format, va_list args)
30 {
31   /* Pass an infinite length.  But note that *vasnprintf may fail if the buffer
32      argument is larger than INT_MAX (if that fits into a 'size_t' at all).
33      Also note that glibc's iconv fails with E2BIG when we pass a length that
34      is so large that buf + length wraps around, i.e.
35      (uintptr_t) (buf + length) < (uintptr_t) buf.  */
36   size_t length;
37   DCHAR_T *result;
38
39   /* Set length = min (SIZE_MAX, INT_MAX, - (uintptr_t) buf - 1).  */
40   length = (SIZE_MAX < INT_MAX ? SIZE_MAX : INT_MAX);
41   if (length > (~ (uintptr_t) buf) / sizeof (DCHAR_T))
42     length = (~ (uintptr_t) buf) / sizeof (DCHAR_T);
43
44   result = VASNPRINTF (buf, &length, format, args);
45   if (result == NULL)
46     return -1;
47
48   /* The infinite buffer size guarantees that the result is not malloc()ed.  */
49   if (result != buf)
50     {
51       /* length is near SIZE_MAX.  */
52       free (result);
53       errno = EOVERFLOW;
54       return -1;
55     }
56
57   if (length > INT_MAX)
58     {
59       errno = EOVERFLOW;
60       return -1;
61     }
62
63   /* Return the number of resulting units, excluding the trailing NUL.  */
64   return length;
65 }