Fix endless loop when the given allocated size was > INT_MAX.
[gnulib.git] / lib / vsprintf.c
1 /* Formatted output to strings.
2    Copyright (C) 2004, 2006-2007 Free Software Foundation, Inc.
3
4    This program is free software; you can redistribute it and/or modify
5    it under the terms of the GNU General Public License as published by
6    the Free Software Foundation; either version 2, or (at your option)
7    any later version.
8
9    This program is distributed in the hope that it will be useful,
10    but WITHOUT ANY WARRANTY; without even the implied warranty of
11    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12    GNU General Public License for more details.
13
14    You should have received a copy of the GNU General Public License along
15    with this program; if not, write to the Free Software Foundation,
16    Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.  */
17
18 #ifdef HAVE_CONFIG_H
19 # include <config.h>
20 #endif
21
22 /* Specification.  */
23 #include <stdio.h>
24
25 #include <errno.h>
26 #include <limits.h>
27 #include <stdarg.h>
28 #include <stdlib.h>
29
30 #include "vasnprintf.h"
31
32 /* Some systems, like OSF/1 4.0 and Woe32, don't have EOVERFLOW.  */
33 #ifndef EOVERFLOW
34 # define EOVERFLOW E2BIG
35 #endif
36
37 #ifndef SIZE_MAX
38 # define SIZE_MAX ((size_t) -1)
39 #endif
40
41 /* Print formatted output to string STR.
42    Return string length of formatted string.  On error, return a negative
43    value.  */
44 int
45 vsprintf (char *str, const char *format, va_list args)
46 {
47   char *output;
48   size_t len;
49   /* vasnprintf fails with EOVERFLOW when the buffer size argument is larger
50      than INT_MAX (if that fits into a 'size_t' at all).  */
51   size_t lenbuf = (SIZE_MAX < INT_MAX ? SIZE_MAX : INT_MAX);
52
53   output = vasnprintf (str, &lenbuf, format, args);
54   len = lenbuf;
55
56   if (!output)
57     return -1;
58
59   if (output != str)
60     {
61       /* len is near SIZE_MAX.  */
62       free (output);
63       errno = EOVERFLOW;
64       return -1;
65     }
66
67   if (len > INT_MAX)
68     {
69       errno = EOVERFLOW;
70       return -1;
71     }
72
73   return len;
74 }