3a37efdaa02d9cf713fa7c080113f828a79476c6
[privoxy.git] / jcc.c
1 const char jcc_rcs[] = "$Id: jcc.c,v 1.237 2009/03/27 14:32:04 fabiankeil Exp $";
2 /*********************************************************************
3  *
4  * File        :  $Source: /cvsroot/ijbswa/current/jcc.c,v $
5  *
6  * Purpose     :  Main file.  Contains main() method, main loop, and
7  *                the main connection-handling function.
8  *
9  * Copyright   :  Written by and Copyright (C) 2001-2009 the SourceForge
10  *                Privoxy team. http://www.privoxy.org/
11  *
12  *                Based on the Internet Junkbuster originally written
13  *                by and Copyright (C) 1997 Anonymous Coders and
14  *                Junkbusters Corporation.  http://www.junkbusters.com
15  *
16  *                This program is free software; you can redistribute it
17  *                and/or modify it under the terms of the GNU General
18  *                Public License as published by the Free Software
19  *                Foundation; either version 2 of the License, or (at
20  *                your option) any later version.
21  *
22  *                This program is distributed in the hope that it will
23  *                be useful, but WITHOUT ANY WARRANTY; without even the
24  *                implied warranty of MERCHANTABILITY or FITNESS FOR A
25  *                PARTICULAR PURPOSE.  See the GNU General Public
26  *                License for more details.
27  *
28  *                The GNU General Public License should be included with
29  *                this file.  If not, you can view it at
30  *                http://www.gnu.org/copyleft/gpl.html
31  *                or write to the Free Software Foundation, Inc., 59
32  *                Temple Place - Suite 330, Boston, MA  02111-1307, USA.
33  *
34  * Revisions   :
35  *    $Log: jcc.c,v $
36  *    Revision 1.237  2009/03/27 14:32:04  fabiankeil
37  *    If spawning a child in listen_loop() fails, send a real
38  *    HTTP response to the client and continue listening for
39  *    new connections without artificial delay.
40  *
41  *    Revision 1.236  2009/03/25 17:30:24  fabiankeil
42  *    In serve(), keep the client socket open until we marked the
43  *    server socket as unused. This should increase the chances
44  *    that we reuse the connection for the client's next request
45  *    to the same destination.
46  *
47  *    Revision 1.235  2009/03/18 21:01:20  fabiankeil
48  *    Comment fix. Spotted by Roland.
49  *
50  *    Revision 1.234  2009/03/18 20:48:42  fabiankeil
51  *    If the --no-daemon option is used, enable LOG_LEVEL_INFO
52  *    before the config file has been parsed (as we always did).
53  *
54  *    Revision 1.233  2009/03/13 14:10:07  fabiankeil
55  *    Fix some more harmless warnings on amd64.
56  *
57  *    Revision 1.232  2009/03/08 19:29:16  fabiankeil
58  *    Reinitialize the timeout structure every time before passing
59  *    it to select(). Apparently some implementations mess with it.
60  *    Probably fixes #2669131 reported by cyberpatrol.
61  *
62  *    Revision 1.231  2009/03/08 14:19:23  fabiankeil
63  *    Fix justified (but harmless) compiler warnings
64  *    on platforms where sizeof(int) < sizeof(long).
65  *
66  *    Revision 1.230  2009/03/07 13:09:17  fabiankeil
67  *    Change csp->expected_content and_csp->expected_content_length from
68  *    size_t to unsigned long long to reduce the likelihood of integer
69  *    overflows that would let us close the connection prematurely.
70  *    Bug found while investigating #2669131, reported by cyberpatrol.
71  *
72  *    Revision 1.229  2009/03/07 11:17:01  fabiankeil
73  *    Fix compiler warning.
74  *
75  *    Revision 1.228  2009/03/06 20:30:13  fabiankeil
76  *    Log unsigned values as such.
77  *
78  *    Revision 1.227  2009/03/02 19:18:11  fabiankeil
79  *    Streamline parse_http_request()'s prototype. As
80  *    cparser pointed out it doesn't actually use csp.
81  *
82  *    Revision 1.226  2009/03/01 18:28:24  fabiankeil
83  *    Help clang understand that we aren't dereferencing
84  *    NULL pointers here.
85  *
86  *    Revision 1.225  2009/02/19 18:09:32  fabiankeil
87  *    Unbreak build without FEATURE_CONNECTION_KEEP_ALIVE.
88  *    Noticed by David.
89  *
90  *    Revision 1.224  2009/02/14 15:32:04  fabiankeil
91  *    Add the request URL to the timeout message in chat().
92  *    Suggested by Lee.
93  *
94  *    Revision 1.223  2009/02/09 21:21:16  fabiankeil
95  *    Now that init_log_module() is called earlier, call show_version()
96  *    later on from main() directly so it doesn't get called for --help
97  *    or --version.
98  *
99  *    Revision 1.222  2009/02/08 12:56:51  fabiankeil
100  *    Call initialize_mutexes() before init_log_module() again.
101  *    Broken since r220, might be the cause of Lee's #2579448.
102  *
103  *    Revision 1.221  2009/02/06 18:02:58  fabiankeil
104  *    When dropping privileges, also give up membership in supplementary
105  *    groups. Thanks to Matthias Drochner for reporting the problem,
106  *    providing the initial patch and testing the final version.
107  *
108  *    Revision 1.220  2009/02/04 18:29:07  fabiankeil
109  *    Initialize the log module before parsing arguments.
110  *    Thanks to Matthias Drochner for the report.
111  *
112  *    Revision 1.219  2009/01/31 16:08:21  fabiankeil
113  *    Remove redundant error check in receive_client_request().
114  *
115  *    Revision 1.218  2009/01/31 12:25:54  fabiankeil
116  *    Flatten indentation in receive_client_request().
117  *
118  *    Revision 1.217  2009/01/07 19:50:09  fabiankeil
119  *    - If the socket-timeout has been reached and the client
120  *      hasn't received any data yet, send an explanation before
121  *      closing the connection.
122  *    - In get_request_line(), signal timeouts the right way.
123  *
124  *    Revision 1.216  2008/12/24 22:13:11  ler762
125  *    fix GCC 3.4.4 warning
126  *
127  *    Revision 1.215  2008/12/24 17:06:19  fabiankeil
128  *    Keep a thread around to timeout alive connections
129  *    even if no new requests are coming in.
130  *
131  *    Revision 1.214  2008/12/20 14:53:55  fabiankeil
132  *    Add config option socket-timeout to control the time
133  *    Privoxy waits for data to arrive on a socket. Useful
134  *    in case of stale ssh tunnels or when fuzz-testing.
135  *
136  *    Revision 1.213  2008/12/15 18:45:51  fabiankeil
137  *    When logging crunches, log the whole URL, so one can easily
138  *    differentiate between vanilla HTTP and CONNECT requests.
139  *
140  *    Revision 1.212  2008/12/14 15:46:22  fabiankeil
141  *    Give crunched requests their own log level.
142  *
143  *    Revision 1.211  2008/12/06 10:05:03  fabiankeil
144  *    Downgrade "Received x bytes while expecting y." message to
145  *    LOG_LEVEL_CONNECT as it doesn't necessarily indicate an error.
146  *
147  *    Revision 1.210  2008/12/02 22:03:18  fabiankeil
148  *    Don't miscalculate byte_count if we don't get all the
149  *    server headers with one read_socket() call. With keep-alive
150  *    support enabled, this caused delays until the server closed
151  *    the connection.
152  *
153  *    Revision 1.209  2008/11/27 09:44:04  fabiankeil
154  *    Cosmetics for the last commit: Don't watch out for
155  *    the last chunk if the content isn't chunk-encoded or
156  *    if we already determined the content length previously.
157  *
158  *    Revision 1.208  2008/11/26 18:24:17  fabiankeil
159  *    Recognize that the server response is complete if the
160  *    last chunk is read together with the server headers.
161  *    Reported by Lee.
162  *
163  *    Revision 1.207  2008/11/25 17:25:16  fabiankeil
164  *    Don't convert the client-header list to text until we need to.
165  *
166  *    Revision 1.206  2008/11/23 17:00:11  fabiankeil
167  *    Some more chat() cosmetics.
168  *
169  *    Revision 1.205  2008/11/16 12:43:49  fabiankeil
170  *    Turn keep-alive support into a runtime feature
171  *    that is disabled by setting keep-alive-timeout
172  *    to a negative value.
173  *
174  *    Revision 1.204  2008/11/06 19:42:17  fabiankeil
175  *    Fix last-chunk detection hack to also apply
176  *    if buf[] contains nothing but the last-chunk.
177  *
178  *    Revision 1.203  2008/11/06 18:34:35  fabiankeil
179  *    Factor receive_client_request() and
180  *    parse_client_request() out of chat().
181  *
182  *    Revision 1.202  2008/11/02 18:40:34  fabiankeil
183  *    If we received a different amount of data than we expected,
184  *    log a warning and make sure the server socket isn't reused.
185  *
186  *    Revision 1.201  2008/11/02 16:48:20  fabiankeil
187  *    Revert revision 1.195 and try again.
188  *
189  *    Revision 1.200  2008/10/26 16:53:18  fabiankeil
190  *    Fix gcc44 warning.
191  *
192  *    Revision 1.199  2008/10/26 15:36:10  fabiankeil
193  *    Remove two debug messages with LOG_LEVEL_INFO.
194  *
195  *    Revision 1.198  2008/10/22 15:19:55  fabiankeil
196  *    Once More, With Feeling: if there is no logfile
197  *    because the user didn't specify one, we shouldn't
198  *    call init_error_log() after receiving SIGHUP either.
199  *
200  *    Revision 1.197  2008/10/20 17:02:40  fabiankeil
201  *    If SIGHUP is received while we aren't running in daemon
202  *    mode, calling init_error_log() would be a mistake.
203  *
204  *    Revision 1.196  2008/10/16 09:16:41  fabiankeil
205  *    - Fix two gcc44 conversion warnings.
206  *    - Don't bother logging the last five bytes
207  *      of the 0-chunk.
208  *
209  *    Revision 1.195  2008/10/13 16:04:37  fabiankeil
210  *    Make sure we don't try to reuse tainted server sockets.
211  *
212  *    Revision 1.194  2008/10/12 18:35:18  fabiankeil
213  *    The last commit was a bit too ambitious, apparently the content
214  *    length adjustment is only necessary if we aren't buffering.
215  *
216  *    Revision 1.193  2008/10/12 15:57:35  fabiankeil
217  *    Fix content length calculation if we read headers
218  *    and the start of the body at once. Now that we have
219  *    FEATURE_CONNECTION_KEEP_ALIVE, it actually matters.
220  *
221  *    Revision 1.192  2008/10/11 18:19:14  fabiankeil
222  *    Even more chat() cosmetics.
223  *
224  *    Revision 1.191  2008/10/11 18:00:14  fabiankeil
225  *    Reformat some comments in chat().
226  *
227  *    Revision 1.190  2008/10/11 14:58:00  fabiankeil
228  *    In case of chunk-encoded content, stop reading if
229  *    the buffer looks like it ends with the last chunk.
230  *
231  *    Revision 1.189  2008/10/11 09:53:00  fabiankeil
232  *    Let server_response_is_complete() deal properly with
233  *    content that is neither buffered nor read all at once.
234  *
235  *    Revision 1.188  2008/10/09 18:21:41  fabiankeil
236  *    Flush work-in-progress changes to keep outgoing connections
237  *    alive where possible. Incomplete and mostly #ifdef'd out.
238  *
239  *    Revision 1.187  2008/09/07 12:35:05  fabiankeil
240  *    Add mutex lock support for _WIN32.
241  *
242  *    Revision 1.186  2008/09/04 08:13:58  fabiankeil
243  *    Prepare for critical sections on Windows by adding a
244  *    layer of indirection before the pthread mutex functions.
245  *
246  *    Revision 1.185  2008/08/30 12:03:07  fabiankeil
247  *    Remove FEATURE_COOKIE_JAR.
248  *
249  *    Revision 1.184  2008/08/22 15:34:45  fabiankeil
250  *    - Silence LLVM/Clang complaint.
251  *    - Make received_hup_signal static.
252  *    - Hide definitions for basedir, pidfile and received_hup_signal
253  *      from __EMX__ as they only seem to be used in case of #ifdef unix.
254  *
255  *    Revision 1.183  2008/08/21 07:09:35  fabiankeil
256  *    Accept Shoutcast responses again. Problem reported
257  *    and fix suggested by Stefan in #2062860.
258  *
259  *    Revision 1.182  2008/06/27 11:13:56  fabiankeil
260  *    Fix possible NULL-pointer dereference reported
261  *    by din_a4 in #2003937. Pointy hat to me.
262  *
263  *    Revision 1.181  2008/05/21 15:47:15  fabiankeil
264  *    Streamline sed()'s prototype and declare
265  *    the header parse and add structures static.
266  *
267  *    Revision 1.180  2008/05/21 15:26:32  fabiankeil
268  *    - Mark csp as immutable for send_crunch_response().
269  *    - Fix comment spelling.
270  *
271  *    Revision 1.179  2008/05/20 20:13:32  fabiankeil
272  *    Factor update_server_headers() out of sed(), ditch the
273  *    first_run hack and make server_patterns_light static.
274  *
275  *    Revision 1.178  2008/05/10 13:23:38  fabiankeil
276  *    Don't provide get_header() with the whole client state
277  *    structure when it only needs access to csp->iob.
278  *
279  *    Revision 1.177  2008/05/10 11:51:12  fabiankeil
280  *    Make the "read the rest of the headers" loop a bit more readable.
281  *
282  *    Revision 1.176  2008/05/10 11:37:57  fabiankeil
283  *    - Instead of logging when the IIS5 hack is enabled, log when it fails.
284  *    - Remove useless comment.
285  *
286  *    Revision 1.175  2008/05/09 18:53:59  fabiankeil
287  *    Fix comment grammar.
288  *
289  *    Revision 1.174  2008/05/07 18:05:53  fabiankeil
290  *    Remove the pointless buffer in client_protocol_is_unsupported().
291  *
292  *    Revision 1.173  2008/05/06 15:09:00  fabiankeil
293  *    Least-effort fix for bug #1821930 (reported by Lee):
294  *    If the response doesn't look like HTTP,
295  *    tell the client and log the problem.
296  *
297  *    Revision 1.172  2008/04/16 16:38:21  fabiankeil
298  *    Don't pass the whole csp structure to flush_socket()
299  *    when it only needs a file descriptor and a buffer.
300  *
301  *    Revision 1.171  2008/03/27 18:27:25  fabiankeil
302  *    Remove kill-popups action.
303  *
304  *    Revision 1.170  2008/03/06 16:33:46  fabiankeil
305  *    If limit-connect isn't used, don't limit CONNECT requests to port 443.
306  *
307  *    Revision 1.169  2008/03/04 18:30:39  fabiankeil
308  *    Remove the treat-forbidden-connects-like-blocks action. We now
309  *    use the "blocked" page for forbidden CONNECT requests by default.
310  *
311  *    Revision 1.168  2008/03/02 12:25:25  fabiankeil
312  *    Also use shiny new connect_port_is_forbidden() in jcc.c.
313  *
314  *    Revision 1.167  2008/02/23 16:57:12  fabiankeil
315  *    Rename url_actions() to get_url_actions() and let it
316  *    use the standard parameter ordering.
317  *
318  *    Revision 1.166  2008/02/23 16:33:43  fabiankeil
319  *    Let forward_url() use the standard parameter ordering
320  *    and mark its second parameter immutable.
321  *
322  *    Revision 1.165  2008/02/02 19:36:56  fabiankeil
323  *    Remove the "Listening ... for local connections only" log message.
324  *    Whether or not remote connections are able to reach Privoxy is up
325  *    to the operating system.
326  *
327  *    Revision 1.164  2007/12/16 18:32:46  fabiankeil
328  *    Prevent the log messages for CONNECT requests to unacceptable
329  *    ports from printing the limit-connect argument as [null] if
330  *    limit-connect hasn't been explicitly enabled.
331  *
332  *    Revision 1.163  2007/12/13 01:47:11  david__schmidt
333  *    Make sure all console-mode apps get a usage() instance
334  *
335  *    Revision 1.162  2007/12/06 17:54:57  fabiankeil
336  *    Reword NO_SERVER_DATA_RESPONSE to make it harder
337  *    to misunderstand what the message is all about.
338  *
339  *    Revision 1.161  2007/12/04 19:44:22  fabiankeil
340  *    Unbreak trustfile which previously didn't work without
341  *    FEATURE_TOGGLE. Fixes BR#1843585, reported by Lee.
342  *
343  *    Revision 1.160  2007/11/29 18:00:29  fabiankeil
344  *    Plug memory leak. Spotted by Valgrind, triggered by
345  *    Privoxy-Regression-Test feeding proxyfuzz.py.
346  *
347  *    Revision 1.159  2007/11/24 14:34:09  fabiankeil
348  *    In the HTTP snipplets, refer to the client as client.
349  *
350  *    Revision 1.158  2007/11/11 16:44:17  fabiankeil
351  *    Emit a log message when activating the MS IIS5 hack.
352  *
353  *    Revision 1.157  2007/11/03 17:34:49  fabiankeil
354  *    Log the "weak randomization factor" warning only
355  *    once for mingw32 and provide some more details.
356  *
357  *    Revision 1.156  2007/11/01 18:20:58  fabiankeil
358  *    Initialize log module after initializing mutexes, future
359  *    deadlocks in that code should now work cross-platform.
360  *
361  *    Revision 1.155  2007/10/23 20:12:45  fabiankeil
362  *    Fix first CSUCCEED line to end in \r\n as required by RFC1945.
363  *    Reported by Bert van Leeuwen in BR#1818808.
364  *
365  *    Revision 1.154  2007/10/19 17:00:08  fabiankeil
366  *    Downgrade "Flushing header and buffers" message to LOG_LEVEL_INFO.
367  *
368  *    Revision 1.153  2007/10/14 14:12:41  fabiankeil
369  *    When in daemon mode, close stderr after the configuration file has been
370  *    parsed the first time. If logfile isn't set, stop logging. Fixes BR#897436.
371  *
372  *    Revision 1.152  2007/10/04 18:03:34  fabiankeil
373  *    - Fix a crash when parsing invalid requests whose first header
374  *      is rejected by get_header(). Regression (re?)introduced
375  *      in r1.143 by yours truly.
376  *    - Move ACTION_VANILLA_WAFER handling into parsers.c's
377  *      client_cookie_adder() to make sure send-vanilla-wafer can be
378  *      controlled through tags (and thus regression-tested).
379  *
380  *    Revision 1.151  2007/09/29 10:21:16  fabiankeil
381  *    - Move get_filter_function() from jcc.c to filters.c
382  *      so the filter functions can be static.
383  *    - Don't bother filtering body-less responses.
384  *
385  *    Revision 1.150  2007/09/28 16:39:29  fabiankeil
386  *    Execute content filters through execute_content_filter().
387  *
388  *    Revision 1.149  2007/09/04 15:08:48  fabiankeil
389  *    Initialize req to NULL to make sure it's defined if the
390  *    first read_socket() call fails. Reported by icmp30.
391  *
392  *    Revision 1.148  2007/08/26 16:47:13  fabiankeil
393  *    Add Stephen Gildea's --pre-chroot-nslookup patch [#1276666],
394  *    extensive comments moved to user manual.
395  *
396  *    Revision 1.147  2007/08/25 14:42:40  fabiankeil
397  *    Don't crash if a broken header filter wiped out the request line.
398  *
399  *    Revision 1.146  2007/08/20 17:09:32  fabiankeil
400  *    Fix byte_count calculation in case of flushes
401  *    and don't parse the server headers a second time.
402  *
403  *    Revision 1.145  2007/08/19 13:13:31  fabiankeil
404  *    - If there's a connection problem after we already forwarded
405  *      parts of the original content, just hang up. Fixes BR#1776724.
406  *    - Fix warnings about unused code on mingw32.
407  *    - In case of flushes, calculate the byte count
408  *      less incorrectly (I think).
409  *
410  *    Revision 1.144  2007/08/11 14:43:22  fabiankeil
411  *    Add some more prototypes for static functions.
412  *
413  *    Revision 1.143  2007/08/05 13:58:19  fabiankeil
414  *    Comment out request_contains_null_bytes() until it's used again.
415  *
416  *    Revision 1.142  2007/08/05 13:50:26  fabiankeil
417  *    #1763173 from Stefan Huehner: s@const static@static const@
418  *    and declare some more functions static.
419  *
420  *    Revision 1.141  2007/08/04 09:56:23  fabiankeil
421  *    - Log rejected CONNECT requests with LOG_LEVEL_INFO
422  *      and explain why they were rejected in the first place.
423  *    - Fix the LOG_LEVEL_CLF message for crunches of unallowed
424  *      CONNECT requests. The request line was missing.
425  *    - Add two more XXX reminders as we don't have enough already.
426  *
427  *    Revision 1.140  2007/07/21 11:51:36  fabiankeil
428  *    As Hal noticed, checking dispatch_cgi() as the last cruncher
429  *    looks like a bug if CGI requests are blocked unintentionally,
430  *    so don't do it unless the user enabled the new config option
431  *    "allow-cgi-request-crunching".
432  *
433  *    Revision 1.139  2007/07/14 07:46:41  fabiankeil
434  *    - Allow to rewrite the request destination behind the client's back.
435  *    - Turn the weird-looking unconditional for loop that
436  *      reads the client request into a conditional while loop.
437  *      Move the stuff that only runs once out of the loop.
438  *    - Move parts of chat(), server_content_type() and the
439  *      necessary stuff to fix BR#1750917 into get_filter_function().
440  *
441  *    Revision 1.138  2007/06/03 18:45:18  fabiankeil
442  *    Temporary workaround for BR#1730105.
443  *
444  *    Revision 1.137  2007/06/01 18:16:36  fabiankeil
445  *    Use the same mutex for gethostbyname() and gethostbyaddr() to prevent
446  *    deadlocks and crashes on OpenBSD and possibly other OS with neither
447  *    gethostbyname_r() nor gethostaddr_r(). Closes BR#1729174.
448  *    Thanks to Ralf Horstmann for report and solution.
449  *
450  *    Revision 1.136  2007/06/01 16:41:11  fabiankeil
451  *    Add forward-override{} to change the forwarding settings through
452  *    action sections. This is mainly interesting to forward different
453  *    clients differently (for example based on User-Agent or request
454  *    origin).
455  *
456  *    Revision 1.135  2007/05/24 17:03:50  fabiankeil
457  *    - Let usage() mention the --chroot parameter.
458  *    - Use read_socket() consistently and always leave
459  *      the last buffer byte alone, even in cases where
460  *      null termination (currently) doesn't matter.
461  *
462  *    Revision 1.134  2007/05/16 14:59:46  fabiankeil
463  *    - Fix config file loading on Unix if no config file is specified.
464  *      Since r1.97 Privoxy would always interpret the last argument as
465  *      config file, even if it's a valid command line option.
466  *    - Abort in case of unrecognized command line options. Closes #1719696.
467  *    - Remove a bunch of unnecessary strcpy() calls (yay for c&p without thinking).
468  *    - Replace the remaining strcpy() and strcat() calls with strlcpy() and strcat().
469  *
470  *    Revision 1.133  2007/05/04 11:23:19  fabiankeil
471  *    - Don't rerun crunchers that only depend on the request URL.
472  *    - Don't count redirects and CGI requests as "blocked requests".
473  *
474  *    Revision 1.132  2007/04/25 15:15:17  fabiankeil
475  *    Support crunching based on tags created by server-header taggers.
476  *
477  *    Revision 1.131  2007/04/22 13:24:50  fabiankeil
478  *    Make HTTP snippets static (again). Add a Content-Type for those
479  *    with content so the browser doesn't guess it based on the URL.
480  *
481  *    Revision 1.130  2007/04/19 13:47:34  fabiankeil
482  *    Move crunching and request line rebuilding out of chat().
483  *
484  *    Revision 1.129  2007/04/15 16:39:20  fabiankeil
485  *    Introduce tags as alternative way to specify which
486  *    actions apply to a request. At the moment tags can be
487  *    created based on client and server headers.
488  *
489  *    Revision 1.128  2007/03/25 16:55:54  fabiankeil
490  *    Don't CLF-log CONNECT requests twice.
491  *
492  *    Revision 1.127  2007/03/20 13:53:17  fabiankeil
493  *    Log the source address for ACL-related connection drops.
494  *
495  *    Revision 1.126  2007/03/17 15:20:05  fabiankeil
496  *    New config option: enforce-blocks.
497  *
498  *    Revision 1.125  2007/03/09 14:12:00  fabiankeil
499  *    - Move null byte check into separate function.
500  *    - Don't confuse the client with error pages
501  *      if a CONNECT request was already confirmed.
502  *
503  *    Revision 1.124  2007/02/23 14:59:54  fabiankeil
504  *    Speed up NULL byte escaping and only log the complete
505  *    NULL byte requests with header debugging enabled.
506  *
507  *    Revision 1.123  2007/02/21 18:42:10  fabiankeil
508  *    Answer requests that contain NULL bytes with
509  *    a custom response instead of waiting for more
510  *    data until the client eventually hangs up.
511  *
512  *    Revision 1.122  2007/02/07 11:12:02  fabiankeil
513  *    - Move delivery and logging of crunched responses
514  *      from chat() into send_crunch_response().
515  *    - Display the reason for generating http_responses.
516  *    - Log the content length for LOG_LEVEL_CLF correctly
517  *      (still incorrect for some fixed responses).
518  *    - Reword an incorrect comment about
519  *      treat-forbidden-connects-like-blocks violating
520  *      the specs.
521  *    - Add some log messages.
522  *
523  *    Revision 1.121  2007/01/27 10:52:56  fabiankeil
524  *    Move mutex initialization into separate
525  *    function and exit in case of errors.
526  *
527  *    Revision 1.120  2007/01/26 14:18:42  fabiankeil
528  *    - Start to reduce chat()'s line count and move
529  *      parts of it into separate functions.
530  *    - Add "HTTP/1.1 100 Continue" hack for BR 756734.
531  *
532  *    Revision 1.119  2007/01/25 14:02:30  fabiankeil
533  *    - Add Proxy-Agent header to HTTP snippets that are
534  *      supposed to reach HTTP clients only.
535  *    - Made a few CONNECT log messages more descriptive.
536  *    - Catch completely empty server responses (as seen
537  *      with Tor's fake ".noconnect" top level domain).
538  *    - Use shiny new "forwarding-failed" template for socks errors.
539  *
540  *    Revision 1.118  2007/01/07 07:43:43  joergs
541  *    AmigaOS4 support added.
542  *
543  *    Revision 1.117  2006/12/31 17:56:37  fabiankeil
544  *    Added config option accept-intercepted-requests
545  *    and disabled it by default.
546  *
547  *    Revision 1.116  2006/12/29 19:08:22  fabiankeil
548  *    Reverted parts of my last commit
549  *    to keep error handling working.
550  *
551  *    Revision 1.115  2006/12/29 17:38:57  fabiankeil
552  *    Fixed gcc43 conversion warnings.
553  *
554  *    Revision 1.114  2006/12/27 18:52:02  fabiankeil
555  *    Fix -pedantic ISO C warning about converting
556  *    from function pointer to object pointer.
557  *
558  *    Revision 1.113  2006/12/26 17:38:50  fabiankeil
559  *    Silence compiler warning I introduced with my last commit.
560  *
561  *    Revision 1.112  2006/12/26 17:31:41  fabiankeil
562  *    Mutex protect rand() if POSIX threading
563  *    is used, warn the user if that's not possible
564  *    and stop using it on _WIN32 where it could
565  *    cause crashes.
566  *
567  *    Revision 1.111  2006/12/23 16:15:06  fabiankeil
568  *    Don't prevent core dumps by catching SIGABRT.
569  *    It's rude and makes debugging unreasonable painful.
570  *
571  *    Revision 1.110  2006/12/13 14:52:53  etresoft
572  *    Fix build failure on MacOS X. Global symbols can be either static or extern, but not both.
573  *
574  *    Revision 1.109  2006/12/06 19:41:40  fabiankeil
575  *    Privoxy is now able to run as intercepting
576  *    proxy in combination with any packet filter
577  *    that does the port redirection. The destination
578  *    is extracted from the "Host:" header which
579  *    should be available for nearly all requests.
580  *
581  *    Moved HTTP snipplets into jcc.c.
582  *    Added error message for gopher proxy requests.
583  *
584  *    Revision 1.108  2006/11/28 15:38:51  fabiankeil
585  *    Only unlink the pidfile if it's actually used.
586  *
587  *    Change order of interception checks to make
588  *    it possible to block or redirect requests for
589  *    the cgi pages.
590  *
591  *    Revision 1.107  2006/11/13 19:05:51  fabiankeil
592  *    Make pthread mutex locking more generic. Instead of
593  *    checking for OSX and OpenBSD, check for FEATURE_PTHREAD
594  *    and use mutex locking unless there is an _r function
595  *    available. Better safe than sorry.
596  *
597  *    Fixes "./configure --disable-pthread" and should result
598  *    in less threading-related problems on pthread-using platforms,
599  *    but it still doesn't fix BR#1122404.
600  *
601  *    Revision 1.106  2006/11/06 19:58:23  fabiankeil
602  *    Move pthread.h inclusion from jcc.c to jcc.h.
603  *    Fixes build on x86-freebsd1 (FreeBSD 5.4-RELEASE).
604  *
605  *    Revision 1.105  2006/11/06 14:26:02  fabiankeil
606  *    Don't exit after receiving the second SIGHUP on Solaris.
607  *
608  *    Fixes BR 1052235, but the same problem may exist on other
609  *    systems. Once 3.0.6 is out we should use sigset()
610  *    where available and see if it breaks anything.
611  *
612  *    Revision 1.104  2006/09/23 13:26:38  roro
613  *    Replace TABs by spaces in source code.
614  *
615  *    Revision 1.103  2006/09/21 12:54:43  fabiankeil
616  *    Fix +redirect{}. Didn't work with -fast-redirects.
617  *
618  *    Revision 1.102  2006/09/06 13:03:04  fabiankeil
619  *    Respond with 400 and a short text message
620  *    if the client tries to use Privoxy as FTP proxy.
621  *
622  *    Revision 1.101  2006/09/06 09:23:37  fabiankeil
623  *    Make number of retries in case of forwarded-connect problems
624  *    a config file option (forwarded-connect-retries) and use 0 as
625  *    default.
626  *
627  *    Revision 1.100  2006/09/03 19:42:59  fabiankeil
628  *    Set random(3) seed.
629  *
630  *    Revision 1.99  2006/09/02 15:36:42  fabiankeil
631  *    Follow the OpenBSD port's lead and protect the resolve
632  *    functions on OpenBSD as well.
633  *
634  *    Revision 1.98  2006/08/24 11:01:34  fabiankeil
635  *    --user fix. Only use the user as group if no group is specified.
636  *    Solves BR 1492612. Thanks to Spinor S. and David Laight.
637  *
638  *    Revision 1.97  2006/08/18 15:23:17  david__schmidt
639  *    Windows service (re-)integration
640  *
641  *    The new args are:
642  *
643  *    --install[:service_name]
644  *    --uninstall[:service_name]
645  *    --service
646  *
647  *    They work as follows:
648  *    --install will create a service for you and then terminate.
649  *    By default the service name will be "privoxy" (without the quotes).
650  *    However you can run multiple services if you wish, just by adding
651  *    a colon and then a name (no spaces).
652  *
653  *    --uninstall follows the exact same rules a --install.
654  *
655  *    --service is used when the program is executed by the service
656  *    control manager, and in normal circumstances would never be
657  *    used as a command line argument.
658  *
659  *    Revision 1.96  2006/08/15 20:12:36  david__schmidt
660  *    Windows service integration
661  *
662  *    Revision 1.95  2006/08/03 02:46:41  david__schmidt
663  *    Incorporate Fabian Keil's patch work:
664 http://www.fabiankeil.de/sourcecode/privoxy/
665  *
666  *    Revision 1.94  2006/07/18 14:48:46  david__schmidt
667  *    Reorganizing the repository: swapping out what was HEAD (the old 3.1 branch)
668  *    with what was really the latest development (the v_3_0_branch branch)
669  *
670  *    Revision 1.92.2.16  2005/04/03 20:10:50  david__schmidt
671  *    Thanks to Jindrich Makovicka for a race condition fix for the log
672  *    file.  The race condition remains for non-pthread implementations.
673  *    Reference patch #1175720.
674  *
675  *    Revision 1.92.2.15  2004/10/03 12:53:32  david__schmidt
676  *    Add the ability to check jpeg images for invalid
677  *    lengths of comment blocks.  Defensive strategy
678  *    against the exploit:
679  *       Microsoft Security Bulletin MS04-028
680  *       Buffer Overrun in JPEG Processing (GDI+) Could
681  *       Allow Code Execution (833987)
682  *    Enabled with +inspect-jpegs in actions files.
683  *
684  *    Revision 1.92.2.14  2003/12/12 12:52:53  oes
685  *    - Fixed usage info for non-unix platforms
686  *    - Fixed small cmdline parsing bug
687  *
688  *    Revision 1.92.2.13  2003/11/27 19:20:27  oes
689  *    Diagnostics: Now preserve the returncode of pthread_create
690  *    in errno. Closes BR #775721. Thanks to Geoffrey Hausheer.
691  *
692  *    Revision 1.92.2.12  2003/07/11 11:34:19  oes
693  *    No longer ignore SIGCHLD. Fixes bug #769381
694  *
695  *    Revision 1.92.2.11  2003/05/14 12:32:02  oes
696  *    Close jarfile on graceful exit, remove stray line
697  *
698  *    Revision 1.92.2.10  2003/05/08 15:13:46  oes
699  *    Cosmetics: Killed a warning, a typo and an allocation left at exit
700  *
701  *    Revision 1.92.2.9  2003/04/03 15:08:42  oes
702  *    No longer rely on non-POSIX.1 extensions of getcwd().
703  *    Fixes bug #711001
704  *
705  *    Revision 1.92.2.8  2003/03/31 13:12:32  oes
706  *    Replaced setenv() by posix-compliant putenv()
707  *    Thanks to Neil McCalden (nmcc AT users.sf.net).
708  *
709  *    Revision 1.92.2.7  2003/03/17 16:48:59  oes
710  *    Added chroot ability, thanks to patch by Sviatoslav Sviridov
711  *
712  *    Revision 1.92.2.6  2003/03/11 11:55:00  oes
713  *    Clean-up and extension of improvements for forked mode:
714  *     - Child's return code now consists of flags RC_FLAG_*
715  *     - Reporting toggle to parent now properly #ifdef'ed
716  *     - Children now report blocking to parent. This enables
717  *       statistics in forked mode
718  *
719  *    Revision 1.92.2.5  2003/03/10 23:45:32  oes
720  *    Fixed bug #700381: Non-Threaded version now capable of being toggled.
721  *    Children now report having been toggled through _exit(17), parents
722  *    watch for that code and toggle themselves if found.
723  *
724  *    Revision 1.92.2.4  2003/03/07 03:41:04  david__schmidt
725  *    Wrapping all *_r functions (the non-_r versions of them) with 
726  *    mutex semaphores for OSX.  Hopefully this will take care of all 
727  *    of those pesky crash reports.
728  *
729  *    Revision 1.92.2.3  2003/02/28 12:53:06  oes
730  *    Fixed two mostly harmless mem leaks
731  *
732  *    Revision 1.92.2.2  2002/11/20 14:37:47  oes
733  *    Fix: Head of global clients list now initialized to NULL
734  *
735  *    Revision 1.92.2.1  2002/09/25 14:52:24  oes
736  *    Added basic support for OPTIONS and TRACE HTTP methods:
737  *     - New interceptor direct_response() added in chat().
738  *     - sed() moved to earlier in the process, so that the
739  *       Host: header is evaluated before actions and forwarding
740  *       are decided on.
741  *
742  *    Revision 1.92  2002/05/08 16:00:46  oes
743  *    Chat's buffer handling:
744  *     - Fixed bug with unchecked out-of-mem conditions
745  *       while reading client request & server headers
746  *     - No longer predict if the buffer limit will be exceeded
747  *       in the next read -- check add_to_iob's new
748  *       return code. If buffer couldn't be extended
749  *       (policy or out-of-mem) while
750  *       - reading from client: abort
751  *       - reading server headers: send error page
752  *       - buffering server body for filter: flush,
753  *         and if that fails: send error page
754  *
755  *    Revision 1.91  2002/04/08 20:35:58  swa
756  *    fixed JB spelling
757  *
758  *    Revision 1.90  2002/04/02 14:57:28  oes
759  *    Made sending wafers independent of FEATURE_COOKIE_JAR
760  *
761  *    Revision 1.89  2002/03/31 17:18:59  jongfoster
762  *    Win32 only: Enabling STRICT to fix a VC++ compile warning.
763  *
764  *    Revision 1.88  2002/03/27 14:32:43  david__schmidt
765  *    More compiler warning message maintenance
766  *
767  *    Revision 1.87  2002/03/26 22:29:54  swa
768  *    we have a new homepage!
769  *
770  *    Revision 1.86  2002/03/25 17:04:55  david__schmidt
771  *    Workaround for closing the jarfile before load_config() comes around again
772  *
773  *    Revision 1.85  2002/03/24 15:23:33  jongfoster
774  *    Name changes
775  *
776  *    Revision 1.84  2002/03/24 13:25:43  swa
777  *    name change related issues
778  *
779  *    Revision 1.83  2002/03/16 23:54:06  jongfoster
780  *    Adding graceful termination feature, to help look for memory leaks.
781  *    If you enable this (which, by design, has to be done by hand
782  *    editing config.h) and then go to http://i.j.b/die, then the program
783  *    will exit cleanly after the *next* request.  It should free all the
784  *    memory that was used.
785  *
786  *    Revision 1.82  2002/03/13 00:27:05  jongfoster
787  *    Killing warnings
788  *
789  *    Revision 1.81  2002/03/12 01:42:50  oes
790  *    Introduced modular filters
791  *
792  *    Revision 1.80  2002/03/11 22:07:05  david__schmidt
793  *    OS/2 port maintenance:
794  *    - Fixed EMX build - it had decayed a little
795  *    - Fixed inexplicable crash during FD_ZERO - must be due to a bad macro.
796  *      substituted a memset for now.
797  *
798  *    Revision 1.79  2002/03/09 20:03:52  jongfoster
799  *    - Making various functions return int rather than size_t.
800  *      (Undoing a recent change).  Since size_t is unsigned on
801  *      Windows, functions like read_socket that return -1 on
802  *      error cannot return a size_t.
803  *
804  *      THIS WAS A MAJOR BUG - it caused frequent, unpredictable
805  *      crashes, and also frequently caused JB to jump to 100%
806  *      CPU and stay there.  (Because it thought it had just
807  *      read ((unsigned)-1) == 4Gb of data...)
808  *
809  *    - The signature of write_socket has changed, it now simply
810  *      returns success=0/failure=nonzero.
811  *
812  *    - Trying to get rid of a few warnings --with-debug on
813  *      Windows, I've introduced a new type "jb_socket".  This is
814  *      used for the socket file descriptors.  On Windows, this
815  *      is SOCKET (a typedef for unsigned).  Everywhere else, it's
816  *      an int.  The error value can't be -1 any more, so it's
817  *      now JB_INVALID_SOCKET (which is -1 on UNIX, and in
818  *      Windows it maps to the #define INVALID_SOCKET.)
819  *
820  *    - The signature of bind_port has changed.
821  *
822  *    Revision 1.78  2002/03/08 21:35:04  oes
823  *    Added optional group supplement to --user option. Will now use default group of user if no group given
824  *
825  *    Revision 1.77  2002/03/07 03:52:06  oes
826  *     - Fixed compiler warnings etc
827  *     - Improved handling of failed DNS lookups
828  *
829  *    Revision 1.76  2002/03/06 22:54:35  jongfoster
830  *    Automated function-comment nitpicking.
831  *
832  *    Revision 1.75  2002/03/06 10:02:19  oes
833  *    Fixed stupid bug when --user was not given
834  *
835  *    Revision 1.74  2002/03/06 00:49:31  jongfoster
836  *    Fixing warning on Windows
837  *    Making #ifdefs that refer to the same variable consistently
838  *    use #ifdef unix rather than mixing #ifdef unix & #ifndef OS2
839  *
840  *    Revision 1.73  2002/03/05 23:57:30  hal9
841  *    Stray character 's' on line 1618 was breaking build.
842  *
843  *    Revision 1.72  2002/03/05 21:33:45  david__schmidt
844  *    - Re-enable OS/2 building after new parms were added
845  *    - Fix false out of memory report when resolving CGI templates when no IP
846  *      address is available of failed attempt (a la no such domain)
847  *
848  *    Revision 1.71  2002/03/05 18:13:56  oes
849  *    Added --user option
850  *
851  *    Revision 1.70  2002/03/05 04:52:42  oes
852  *    Deleted non-errlog debugging code
853  *
854  *    Revision 1.69  2002/03/04 23:50:00  jongfoster
855  *    Splitting off bind_port() call into bind_port_helper(), with
856  *    improved logging.
857  *
858  *    Revision 1.68  2002/03/04 20:17:32  oes
859  *    Fixed usage info
860  *
861  *    Revision 1.67  2002/03/04 18:18:57  oes
862  *    - Removed _DEBUG mode
863  *    - Cleand up cmdline parsing
864  *    - Introduced --no-daemon, --pidfile options
865  *    - Cleaned up signal handling:
866  *      - Terminate cleanly on INT, TERM and ABRT
867  *      - Schedule logfile for re-opening on HUP
868  *      - Ignore CHLD and PIPE
869  *      - Leave the rest with their default handlers
870  *      - Uniform handler registration
871  *    - Added usage() function
872  *    - Played styleguide police
873  *
874  *    Revision 1.66  2002/03/03 15:06:55  oes
875  *    Re-enabled automatic config reloading
876  *
877  *    Revision 1.65  2002/03/03 14:49:11  oes
878  *    Fixed CLF logging: Now uses client's original HTTP request
879  *
880  *    Revision 1.64  2002/03/03 09:18:03  joergs
881  *    Made jumbjuster work on AmigaOS again.
882  *
883  *    Revision 1.63  2002/03/02 04:14:50  david__schmidt
884  *    Clean up a little CRLF unpleasantness that suddenly appeared
885  *
886  *    Revision 1.62  2002/02/20 23:17:23  jongfoster
887  *    Detecting some out-of memory conditions and exiting with a log message.
888  *
889  *    Revision 1.61  2002/01/17 21:01:52  jongfoster
890  *    Moving all our URL and URL pattern parsing code to urlmatch.c.
891  *
892  *    Revision 1.60  2001/12/30 14:07:32  steudten
893  *    - Add signal handling (unix)
894  *    - Add SIGHUP handler (unix)
895  *    - Add creation of pidfile (unix)
896  *    - Add action 'top' in rc file (RH)
897  *    - Add entry 'SIGNALS' to manpage
898  *    - Add exit message to logfile (unix)
899  *
900  *    Revision 1.59  2001/12/13 14:07:18  oes
901  *    Fixed Bug: 503 error page now sent OK
902  *
903  *    Revision 1.58  2001/11/30 23:37:24  jongfoster
904  *    Renaming the Win32 config file to config.txt - this is almost the
905  *    same as the corresponding UNIX name "config"
906  *
907  *    Revision 1.57  2001/11/16 00:47:43  jongfoster
908  *    Changing the tty-disconnection code to use setsid().
909  *
910  *    Revision 1.56  2001/11/13 20:20:54  jongfoster
911  *    Tabs->spaces, fixing a bug with missing {} around an if()
912  *
913  *    Revision 1.55  2001/11/13 20:14:53  jongfoster
914  *    Patch for FreeBSD setpgrp() as suggested by Alexander Lazic
915  *
916  *    Revision 1.54  2001/11/07 00:03:14  steudten
917  *    Give reliable return value if an error
918  *    occurs not just 0 with new daemon mode.
919  *
920  *    Revision 1.53  2001/11/05 21:41:43  steudten
921  *    Add changes to be a real daemon just for unix os.
922  *    (change cwd to /, detach from controlling tty, set
923  *    process group and session leader to the own process.
924  *    Add DBG() Macro.
925  *    Add some fatal-error log message for failed malloc().
926  *    Add '-d' if compiled with 'configure --with-debug' to
927  *    enable debug output.
928  *
929  *    Revision 1.52  2001/10/26 20:11:20  jongfoster
930  *    Fixing type mismatch
931  *
932  *    Revision 1.51  2001/10/26 17:38:28  oes
933  *    Cosmetics
934  *
935  *    Revision 1.50  2001/10/25 03:40:48  david__schmidt
936  *    Change in porting tactics: OS/2's EMX porting layer doesn't allow multiple
937  *    threads to call select() simultaneously.  So, it's time to do a real, live,
938  *    native OS/2 port.  See defines for __EMX__ (the porting layer) vs. __OS2__
939  *    (native). Both versions will work, but using __OS2__ offers multi-threading.
940  *
941  *    Revision 1.49  2001/10/23 21:41:35  jongfoster
942  *    Added call to initialize the (statically-allocated of course)
943  *    "out of memory" CGI response.
944  *
945  *    Revision 1.48  2001/10/10 19:56:46  jongfoster
946  *    Moving some code that wasn't cookie-related out of an #ifdef
947  *    FEATURE_COOKIE_JAR
948  *
949  *    Revision 1.47  2001/10/10 16:44:36  oes
950  *    Added CONNECT destination port limitation check
951  *
952  *    Revision 1.46  2001/10/08 15:17:41  oes
953  *    Re-enabled SSL forwarding
954  *
955  *    Revision 1.45  2001/10/07 15:42:11  oes
956  *    Replaced 6 boolean members of csp with one bitmap (csp->flags)
957  *
958  *    Moved downgrading of the HTTP version from parse_http_request to
959  *      chat(), since we can't decide if it is necessary before we have
960  *      determined the actions for the URL. The HTTP command is now
961  *      *always* re-built so the repairs need no longer be special-cased.
962  *
963  *    filter_popups now gets a csp pointer so it can raise the new
964  *      CSP_FLAG_MODIFIED flag.
965  *
966  *    Bugfix
967  *
968  *    Added configurable size limit for the IOB. If the IOB grows so
969  *      large that the next read would exceed the limit, the header
970  *      is generated, and the header & unfiltered buffer are flushed
971  *      to the client. Chat then continues in non-buffering,
972  *      non-filtering body mode.
973  *
974  *    Revision 1.44  2001/10/02 18:13:57  oes
975  *    Ooops
976  *
977  *    Revision 1.43  2001/10/02 15:32:13  oes
978  *    Moved generation of hdr
979  *
980  *    Revision 1.42  2001/09/21 23:02:02  david__schmidt
981  *    Cleaning up 2 compiler warnings on OS/2.
982  *
983  *    Revision 1.41  2001/09/16 17:05:14  jongfoster
984  *    Removing unused #include showarg.h
985  *
986  *    Revision 1.40  2001/09/16 15:41:45  jongfoster
987  *    Fixing signed/unsigned comparison warning.
988  *
989  *    Revision 1.39  2001/09/16 13:21:27  jongfoster
990  *    Changes to use new list functions.
991  *
992  *    Revision 1.38  2001/09/16 13:01:46  jongfoster
993  *    Removing redundant function call that zeroed zalloc()'d memory.
994  *
995  *    Revision 1.37  2001/09/10 11:12:24  oes
996  *    Deleted unused variable
997  *
998  *    Revision 1.36  2001/09/10 10:56:15  oes
999  *    Silenced compiler warnings
1000  *
1001  *    Revision 1.35  2001/07/31 14:44:22  oes
1002  *    Deleted unused size parameter from filter_popups()
1003  *
1004  *    Revision 1.34  2001/07/30 22:08:36  jongfoster
1005  *    Tidying up #defines:
1006  *    - All feature #defines are now of the form FEATURE_xxx
1007  *    - Permanently turned off WIN_GUI_EDIT
1008  *    - Permanently turned on WEBDAV and SPLIT_PROXY_ARGS
1009  *
1010  *    Revision 1.33  2001/07/29 19:32:00  jongfoster
1011  *    Renaming _main() [mingw32 only] to real_main(), for ANSI compliance.
1012  *
1013  *    Revision 1.32  2001/07/29 18:47:05  jongfoster
1014  *    Adding missing #include "loadcfg.h"
1015  *
1016  *    Revision 1.31  2001/07/29 12:17:48  oes
1017  *    Applied pthread fix by Paul Lieverse
1018  *
1019  *    Revision 1.30  2001/07/25 22:57:13  jongfoster
1020  *    __BEOS__ no longer overrides FEATURE_PTHREAD.
1021  *    This is because FEATURE_PTHREAD will soon be widely used, so I
1022  *    want to keep it simple.
1023  *
1024  *    Revision 1.29  2001/07/24 12:47:06  oes
1025  *    Applied BeOS support update by Eugenia
1026  *
1027  *    Revision 1.28  2001/07/23 13:26:12  oes
1028  *    Fixed bug in popup-killing for the first read that caused binary garbage to be sent between headers and body
1029  *
1030  *    Revision 1.27  2001/07/19 19:09:47  haroon
1031  *    - Added code to take care of the situation where while processing the first
1032  *      server response (which includes the server header), after finding the end
1033  *      of the headers we were not looking past the end of the headers for
1034  *      content modification. I enabled it for filter_popups.
1035  *      Someone else should look to see if other similar operations should be
1036  *      done to the discarded portion of the buffer.
1037  *
1038  *      Note 2001/07/20: No, the other content modification mechanisms will process
1039  *                       the whole iob later anyway. --oes
1040  *
1041  *    Revision 1.26  2001/07/18 12:31:36  oes
1042  *    cosmetics
1043  *
1044  *    Revision 1.25  2001/07/15 19:43:49  jongfoster
1045  *    Supports POSIX threads.
1046  *    Also removed some unused #includes.
1047  *
1048  *    Revision 1.24  2001/07/13 14:00:40  oes
1049  *     - Generic content modification scheme:
1050  *       Each feature has its own applicability flag that is set
1051  *       from csp->action->flags.
1052  *       Replaced the "filtering" int flag , by a function pointer
1053  *       "content_filter" to the function that will do the content
1054  *       modification. If it is != NULL, the document will be buffered
1055  *       and processed through *content_filter, which must set
1056  *       csp->content_length and return a modified copy of the body
1057  *       or return NULL (on failiure).
1058  *     - Changed csp->is_text to the more generic bitmap csp->content_type
1059  *       which can currently take the valued CT_TEXT or CT_GIF
1060  *     - Reformatting etc
1061  *     - Removed all #ifdef PCRS
1062  *
1063  *    Revision 1.23  2001/07/02 02:28:25  iwanttokeepanon
1064  *    Added "#ifdef ACL_FILES" conditional compilation to line 1291 to exclude
1065  *    the `block_acl' call.  This prevents a compilation error when the user
1066  *    does not wish to use the "ACL" feature.
1067  *
1068  *    Revision 1.22  2001/06/29 21:45:41  oes
1069  *    Indentation, CRLF->LF, Tab-> Space
1070  *
1071  *    Revision 1.21  2001/06/29 13:29:36  oes
1072  *    - Cleaned up, improved comments
1073  *    - Unified all possible interceptors (CGI,
1074  *      block, trust, fast_redirect) in one
1075  *      place, with one (CGI) answer generation
1076  *      mechansim. Much clearer now.
1077  *    - Removed the GIF image generation, which
1078  *      is now done in filters.c:block_url()
1079  *    - Made error conditions like domain lookup
1080  *      failiure or (various) problems while talking
1081  *      to the server use cgi.c:error_response()
1082  *      instead of generating HTML/HTTP in chat() (yuck!)
1083  *    - Removed logentry from cancelled commit
1084  *
1085  *    Revision 1.20  2001/06/09 10:55:28  jongfoster
1086  *    Changing BUFSIZ ==> BUFFER_SIZE
1087  *
1088  *    Revision 1.19  2001/06/07 23:12:52  jongfoster
1089  *    Replacing function pointer in struct gateway with a directly
1090  *    called function forwarded_connect().
1091  *    Replacing struct gateway with struct forward_spec
1092  *
1093  *    Revision 1.18  2001/06/03 19:12:16  oes
1094  *    introduced new cgi handling
1095  *
1096  *    Revision 1.17  2001/06/01 20:07:23  jongfoster
1097  *    Now uses action +image-blocker{} rather than config->tinygif
1098  *
1099  *    Revision 1.16  2001/06/01 18:49:17  jongfoster
1100  *    Replaced "list_share" with "list" - the tiny memory gain was not
1101  *    worth the extra complexity.
1102  *
1103  *    Revision 1.15  2001/05/31 21:24:47  jongfoster
1104  *    Changed "permission" to "action" throughout.
1105  *    Removed DEFAULT_USER_AGENT - it must now be specified manually.
1106  *    Moved vanilla wafer check into chat(), since we must now
1107  *    decide whether or not to add it based on the URL.
1108  *
1109  *    Revision 1.14  2001/05/29 20:14:01  joergs
1110  *    AmigaOS bugfix: PCRS needs a lot of stack, stacksize for child threads
1111  *    increased.
1112  *
1113  *    Revision 1.13  2001/05/29 09:50:24  jongfoster
1114  *    Unified blocklist/imagelist/permissionslist.
1115  *    File format is still under discussion, but the internal changes
1116  *    are (mostly) done.
1117  *
1118  *    Also modified interceptor behaviour:
1119  *    - We now intercept all URLs beginning with one of the following
1120  *      prefixes (and *only* these prefixes):
1121  *        * http://i.j.b/
1122  *        * http://ijbswa.sf.net/config/
1123  *        * http://ijbswa.sourceforge.net/config/
1124  *    - New interceptors "home page" - go to http://i.j.b/ to see it.
1125  *    - Internal changes so that intercepted and fast redirect pages
1126  *      are not replaced with an image.
1127  *    - Interceptors now have the option to send a binary page direct
1128  *      to the client. (i.e. ijb-send-banner uses this)
1129  *    - Implemented show-url-info interceptor.  (Which is why I needed
1130  *      the above interceptors changes - a typical URL is
1131  *      "http://i.j.b/show-url-info?url=www.somesite.com/banner.gif".
1132  *      The previous mechanism would not have intercepted that, and
1133  *      if it had been intercepted then it then it would have replaced
1134  *      it with an image.)
1135  *
1136  *    Revision 1.12  2001/05/27 22:17:04  oes
1137  *
1138  *    - re_process_buffer no longer writes the modified buffer
1139  *      to the client, which was very ugly. It now returns the
1140  *      buffer, which it is then written by chat.
1141  *
1142  *    - content_length now adjusts the Content-Length: header
1143  *      for modified documents rather than crunch()ing it.
1144  *      (Length info in csp->content_length, which is 0 for
1145  *      unmodified documents)
1146  *
1147  *    - For this to work, sed() is called twice when filtering.
1148  *
1149  *    Revision 1.11  2001/05/26 17:27:53  jongfoster
1150  *    Added support for CLF and fixed LOG_LEVEL_LOG.
1151  *    Also did CRLF->LF fix of my previous patch.
1152  *
1153  *    Revision 1.10  2001/05/26 15:26:15  jongfoster
1154  *    ACL feature now provides more security by immediately dropping
1155  *    connections from untrusted hosts.
1156  *
1157  *    Revision 1.9  2001/05/26 00:28:36  jongfoster
1158  *    Automatic reloading of config file.
1159  *    Removed obsolete SIGHUP support (Unix) and Reload menu option (Win32).
1160  *    Most of the global variables have been moved to a new
1161  *    struct configuration_spec, accessed through csp->config->globalname
1162  *    Most of the globals remaining are used by the Win32 GUI.
1163  *
1164  *    Revision 1.8  2001/05/25 22:43:18  jongfoster
1165  *    Fixing minor memory leak and buffer overflow.
1166  *
1167  *    Revision 1.7  2001/05/25 22:34:30  jongfoster
1168  *    Hard tabs->Spaces
1169  *
1170  *    Revision 1.6  2001/05/23 00:13:58  joergs
1171  *    AmigaOS support fixed.
1172  *
1173  *    Revision 1.5  2001/05/22 18:46:04  oes
1174  *
1175  *    - Enabled filtering banners by size rather than URL
1176  *      by adding patterns that replace all standard banner
1177  *      sizes with the "Junkbuster" gif to the re_filterfile
1178  *
1179  *    - Enabled filtering WebBugs by providing a pattern
1180  *      which kills all 1x1 images
1181  *
1182  *    - Added support for PCRE_UNGREEDY behaviour to pcrs,
1183  *      which is selected by the (nonstandard and therefore
1184  *      capital) letter 'U' in the option string.
1185  *      It causes the quantifiers to be ungreedy by default.
1186  *      Appending a ? turns back to greedy (!).
1187  *
1188  *    - Added a new interceptor ijb-send-banner, which
1189  *      sends back the "Junkbuster" gif. Without imagelist or
1190  *      MSIE detection support, or if tinygif = 1, or the
1191  *      URL isn't recognized as an imageurl, a lame HTML
1192  *      explanation is sent instead.
1193  *
1194  *    - Added new feature, which permits blocking remote
1195  *      script redirects and firing back a local redirect
1196  *      to the browser.
1197  *      The feature is conditionally compiled, i.e. it
1198  *      can be disabled with --disable-fast-redirects,
1199  *      plus it must be activated by a "fast-redirects"
1200  *      line in the config file, has its own log level
1201  *      and of course wants to be displayed by show-proxy-args
1202  *      Note: Boy, all the #ifdefs in 1001 locations and
1203  *      all the fumbling with configure.in and acconfig.h
1204  *      were *way* more work than the feature itself :-(
1205  *
1206  *    - Because a generic redirect template was needed for
1207  *      this, tinygif = 3 now uses the same.
1208  *
1209  *    - Moved GIFs, and other static HTTP response templates
1210  *      to project.h
1211  *
1212  *    - Some minor fixes
1213  *
1214  *    - Removed some >400 CRs again (Jon, you really worked
1215  *      a lot! ;-)
1216  *
1217  *    Revision 1.4  2001/05/21 19:34:01  jongfoster
1218  *    Made failure to bind() a fatal error.
1219  *
1220  *    Revision 1.3  2001/05/20 01:21:20  jongfoster
1221  *    Version 2.9.4 checkin.
1222  *    - Merged popupfile and cookiefile, and added control over PCRS
1223  *      filtering, in new "permissionsfile".
1224  *    - Implemented LOG_LEVEL_FATAL, so that if there is a configuration
1225  *      file error you now get a message box (in the Win32 GUI) rather
1226  *      than the program exiting with no explanation.
1227  *    - Made killpopup use the PCRS MIME-type checking and HTTP-header
1228  *      skipping.
1229  *    - Removed tabs from "config"
1230  *    - Moved duplicated url parsing code in "loaders.c" to a new funcition.
1231  *    - Bumped up version number.
1232  *
1233  *    Revision 1.2  2001/05/17 22:34:44  oes
1234  *     - Added hint on GIF char array generation to jcc.c
1235  *     - Cleaned CRLF's from the sources and related files
1236  *     - Repaired logging for REF and FRC
1237  *
1238  *    Revision 1.1.1.1  2001/05/15 13:58:56  oes
1239  *    Initial import of version 2.9.3 source tree
1240  *
1241  *
1242  *********************************************************************/
1243 \f
1244
1245 #include "config.h"
1246
1247 #include <stdio.h>
1248 #include <sys/types.h>
1249 #include <stdlib.h>
1250 #include <string.h>
1251 #include <signal.h>
1252 #include <fcntl.h>
1253 #include <errno.h>
1254 #include <assert.h>
1255
1256 #ifdef _WIN32
1257 # ifndef FEATURE_PTHREAD
1258 #  ifndef STRICT
1259 #   define STRICT
1260 #  endif
1261 #  include <windows.h>
1262 #  include <process.h>
1263 # endif /* ndef FEATURE_PTHREAD */
1264
1265 # include "win32.h"
1266 # ifndef _WIN_CONSOLE
1267 #  include "w32log.h"
1268 # endif /* ndef _WIN_CONSOLE */
1269 # include "w32svrapi.h"
1270
1271 #else /* ifndef _WIN32 */
1272
1273 # if !defined (__OS2__)
1274 # include <unistd.h>
1275 # include <sys/wait.h>
1276 # endif /* ndef __OS2__ */
1277 # include <sys/time.h>
1278 # include <sys/stat.h>
1279 # include <sys/ioctl.h>
1280
1281 #ifdef sun
1282 #include <sys/termios.h>
1283 #endif /* sun */
1284
1285 #ifdef unix
1286 #include <pwd.h>
1287 #include <grp.h>
1288 #endif
1289
1290 # include <signal.h>
1291
1292 # ifdef __BEOS__
1293 #  include <socket.h>  /* BeOS has select() for sockets only. */
1294 #  include <OS.h>      /* declarations for threads and stuff. */
1295 # endif
1296
1297 # if defined(__EMX__) || defined(__OS2__)
1298 #  include <sys/select.h>  /* OS/2/EMX needs a little help with select */
1299 # endif
1300 # ifdef __OS2__
1301 #define INCL_DOS
1302 # include <os2.h>
1303 #define bzero(B,N) memset(B,0x00,n)
1304 # endif
1305
1306 # ifndef FD_ZERO
1307 #  include <select.h>
1308 # endif
1309
1310 #endif
1311
1312 #include "project.h"
1313 #include "list.h"
1314 #include "jcc.h"
1315 #include "filters.h"
1316 #include "loaders.h"
1317 #include "parsers.h"
1318 #include "miscutil.h"
1319 #include "errlog.h"
1320 #include "jbsockets.h"
1321 #include "gateway.h"
1322 #include "actions.h"
1323 #include "cgi.h"
1324 #include "loadcfg.h"
1325 #include "urlmatch.h"
1326
1327 const char jcc_h_rcs[] = JCC_H_VERSION;
1328 const char project_h_rcs[] = PROJECT_H_VERSION;
1329
1330 int no_daemon = 0;
1331 struct client_state  clients[1];
1332 struct file_list     files[1];
1333
1334 #ifdef FEATURE_STATISTICS
1335 int urls_read     = 0;     /* total nr of urls read inc rejected */
1336 int urls_rejected = 0;     /* total nr of urls rejected */
1337 #endif /* def FEATURE_STATISTICS */
1338
1339 #ifdef FEATURE_GRACEFUL_TERMINATION
1340 int g_terminate = 0;
1341 #endif
1342
1343 #if !defined(_WIN32) && !defined(__OS2__) && !defined(AMIGA)
1344 static void sig_handler(int the_signal);
1345 #endif
1346 static int client_protocol_is_unsupported(const struct client_state *csp, char *req);
1347 static jb_err get_request_destination_elsewhere(struct client_state *csp, struct list *headers);
1348 static jb_err get_server_headers(struct client_state *csp);
1349 static const char *crunch_reason(const struct http_response *rsp);
1350 static void send_crunch_response(const struct client_state *csp, struct http_response *rsp);
1351 static char *get_request_line(struct client_state *csp);
1352 static jb_err receive_client_request(struct client_state *csp);
1353 static jb_err parse_client_request(struct client_state *csp);
1354 static void build_request_line(struct client_state *csp, const struct forward_spec *fwd, char **request_line);
1355 static jb_err change_request_destination(struct client_state *csp);
1356 static void chat(struct client_state *csp);
1357 static void serve(struct client_state *csp);
1358 #if !defined(_WIN32) || defined(_WIN_CONSOLE)
1359 static void usage(const char *myname);
1360 #endif
1361 static void initialize_mutexes(void);
1362 static jb_socket bind_port_helper(struct configuration_spec *config);
1363 static void listen_loop(void);
1364
1365 #ifdef AMIGA
1366 void serve(struct client_state *csp);
1367 #else /* ifndef AMIGA */
1368 static void serve(struct client_state *csp);
1369 #endif /* def AMIGA */
1370
1371 #ifdef __BEOS__
1372 static int32 server_thread(void *data);
1373 #endif /* def __BEOS__ */
1374
1375 #ifdef _WIN32
1376 #define sleep(N)  Sleep(((N) * 1000))
1377 #endif
1378
1379 #ifdef __OS2__
1380 #define sleep(N)  DosSleep(((N) * 100))
1381 #endif
1382
1383 #ifdef MUTEX_LOCKS_AVAILABLE
1384 /*
1385  * XXX: Does the locking stuff really belong in this file?
1386  */
1387 privoxy_mutex_t log_mutex;
1388 privoxy_mutex_t log_init_mutex;
1389 privoxy_mutex_t connection_reuse_mutex;
1390
1391 #if !defined(HAVE_GETHOSTBYADDR_R) || !defined(HAVE_GETHOSTBYNAME_R)
1392 privoxy_mutex_t resolver_mutex;
1393 #endif /* !defined(HAVE_GETHOSTBYADDR_R) || !defined(HAVE_GETHOSTBYNAME_R) */
1394
1395 #ifndef HAVE_GMTIME_R
1396 privoxy_mutex_t gmtime_mutex;
1397 #endif /* ndef HAVE_GMTIME_R */
1398
1399 #ifndef HAVE_LOCALTIME_R
1400 privoxy_mutex_t localtime_mutex;
1401 #endif /* ndef HAVE_GMTIME_R */
1402
1403 #ifndef HAVE_RANDOM
1404 privoxy_mutex_t rand_mutex;
1405 #endif /* ndef HAVE_RANDOM */
1406
1407 #endif /* def MUTEX_LOCKS_AVAILABLE */
1408
1409 #if defined(unix)
1410 const char *basedir = NULL;
1411 const char *pidfile = NULL;
1412 static int received_hup_signal = 0;
1413 #endif /* defined unix */
1414
1415 /* HTTP snipplets. */
1416 static const char CSUCCEED[] =
1417    "HTTP/1.0 200 Connection established\r\n"
1418    "Proxy-Agent: Privoxy/" VERSION "\r\n\r\n";
1419
1420 static const char CHEADER[] =
1421    "HTTP/1.0 400 Invalid header received from client\r\n"
1422    "Proxy-Agent: Privoxy " VERSION "\r\n"
1423    "Content-Type: text/plain\r\n"
1424    "Connection: close\r\n\r\n"
1425    "Invalid header received from client.\r\n";
1426
1427 static const char FTP_RESPONSE[] =
1428    "HTTP/1.0 400 Invalid request received from client\r\n"
1429    "Content-Type: text/plain\r\n"
1430    "Connection: close\r\n\r\n"
1431    "Invalid request. Privoxy doesn't support FTP.\r\n";
1432
1433 static const char GOPHER_RESPONSE[] =
1434    "HTTP/1.0 400 Invalid request received from client\r\n"
1435    "Content-Type: text/plain\r\n"
1436    "Connection: close\r\n\r\n"
1437    "Invalid request. Privoxy doesn't support gopher.\r\n";
1438
1439 /* XXX: should be a template */
1440 static const char MISSING_DESTINATION_RESPONSE[] =
1441    "HTTP/1.0 400 Bad request received from client\r\n"
1442    "Proxy-Agent: Privoxy " VERSION "\r\n"
1443    "Content-Type: text/plain\r\n"
1444    "Connection: close\r\n\r\n"
1445    "Bad request. Privoxy was unable to extract the destination.\r\n";
1446
1447 /* XXX: should be a template */
1448 static const char NO_SERVER_DATA_RESPONSE[] =
1449    "HTTP/1.0 502 Server or forwarder response empty\r\n"
1450    "Proxy-Agent: Privoxy " VERSION "\r\n"
1451    "Content-Type: text/plain\r\n"
1452    "Connection: close\r\n\r\n"
1453    "Empty server or forwarder response.\r\n"
1454    "The connection has been closed but Privoxy didn't receive any data.\r\n";
1455
1456 /* XXX: should be a template */
1457 static const char INVALID_SERVER_HEADERS_RESPONSE[] =
1458    "HTTP/1.0 502 Server or forwarder response invalid\r\n"
1459    "Proxy-Agent: Privoxy " VERSION "\r\n"
1460    "Content-Type: text/plain\r\n"
1461    "Connection: close\r\n\r\n"
1462    "Bad response. The server or forwarder response doesn't look like HTTP.\r\n";
1463
1464 #if 0
1465 /* XXX: should be a template */
1466 static const char NULL_BYTE_RESPONSE[] =
1467    "HTTP/1.0 400 Bad request received from client\r\n"
1468    "Proxy-Agent: Privoxy " VERSION "\r\n"
1469    "Content-Type: text/plain\r\n"
1470    "Connection: close\r\n\r\n"
1471    "Bad request. Null byte(s) before end of request.\r\n";
1472 #endif
1473
1474 /* XXX: should be a template */
1475 static const char MESSED_UP_REQUEST_RESPONSE[] =
1476    "HTTP/1.0 400 Malformed request after rewriting\r\n"
1477    "Proxy-Agent: Privoxy " VERSION "\r\n"
1478    "Content-Type: text/plain\r\n"
1479    "Connection: close\r\n\r\n"
1480    "Bad request. Messed up with header filters.\r\n";
1481
1482 static const char TOO_MANY_CONNECTIONS_RESPONSE[] =
1483    "HTTP/1.0 503 Too many open connections\r\n"
1484    "Proxy-Agent: Privoxy " VERSION "\r\n"
1485    "Content-Type: text/plain\r\n"
1486    "Connection: close\r\n\r\n"
1487    "Maximum number of open connections reached.\r\n";
1488
1489 /* XXX: should be a template */
1490 static const char CONNECTION_TIMEOUT_RESPONSE[] =
1491    "HTTP/1.0 504 Connection timeout\r\n"
1492    "Proxy-Agent: Privoxy " VERSION "\r\n"
1493    "Content-Type: text/plain\r\n"
1494    "Connection: close\r\n\r\n"
1495    "The connection timed out.\r\n";
1496
1497 /* A function to crunch a response */
1498 typedef struct http_response *(*crunch_func_ptr)(struct client_state *);
1499
1500 /* Crunch function flags */
1501 #define CF_NO_FLAGS        0
1502 /* Cruncher applies to forced requests as well */
1503 #define CF_IGNORE_FORCE    1
1504 /* Crunched requests are counted for the block statistics */
1505 #define CF_COUNT_AS_REJECT 2
1506
1507 /* A crunch function and its flags */
1508 struct cruncher
1509 {
1510    const crunch_func_ptr cruncher;
1511    const int flags;
1512 };
1513
1514 static int crunch_response_triggered(struct client_state *csp, const struct cruncher crunchers[]);
1515
1516 /* Complete list of cruncher functions */
1517 static const struct cruncher crunchers_all[] = {
1518    { direct_response, CF_COUNT_AS_REJECT|CF_IGNORE_FORCE},
1519    { block_url,       CF_COUNT_AS_REJECT },
1520 #ifdef FEATURE_TRUST
1521    { trust_url,       CF_COUNT_AS_REJECT },
1522 #endif /* def FEATURE_TRUST */
1523    { redirect_url,    CF_NO_FLAGS  },
1524    { dispatch_cgi,    CF_IGNORE_FORCE},
1525    { NULL,            0 }
1526 };
1527
1528 /* Light version, used after tags are applied */
1529 static const struct cruncher crunchers_light[] = {
1530    { block_url,       CF_COUNT_AS_REJECT },
1531    { redirect_url,    CF_NO_FLAGS },
1532    { NULL,            0 }
1533 };
1534
1535
1536 /*
1537  * XXX: Don't we really mean
1538  *
1539  * #if defined(unix)
1540  *
1541  * here?
1542  */
1543 #if !defined(_WIN32) && !defined(__OS2__) && !defined(AMIGA)
1544 /*********************************************************************
1545  *
1546  * Function    :  sig_handler 
1547  *
1548  * Description :  Signal handler for different signals.
1549  *                Exit gracefully on TERM and INT
1550  *                or set a flag that will cause the errlog
1551  *                to be reopened by the main thread on HUP.
1552  *
1553  * Parameters  :
1554  *          1  :  the_signal = the signal cause this function to call
1555  *
1556  * Returns     :  - 
1557  *
1558  *********************************************************************/
1559 static void sig_handler(int the_signal)
1560 {
1561    switch(the_signal)
1562    {
1563       case SIGTERM:
1564       case SIGINT:
1565          log_error(LOG_LEVEL_INFO, "exiting by signal %d .. bye", the_signal);
1566 #if defined(unix)
1567          if(pidfile)
1568          {
1569             unlink(pidfile);
1570          }
1571 #endif /* unix */
1572          exit(the_signal);
1573          break;
1574
1575       case SIGHUP:
1576 #if defined(unix)
1577          received_hup_signal = 1;
1578 #endif
1579          break;         
1580
1581       default:
1582          /* 
1583           * We shouldn't be here, unless we catch signals
1584           * in main() that we can't handle here!
1585           */
1586          log_error(LOG_LEVEL_FATAL, "sig_handler: exiting on unexpected signal %d", the_signal);
1587    }
1588    return;
1589
1590 }
1591 #endif
1592
1593
1594 /*********************************************************************
1595  *
1596  * Function    :  client_protocol_is_unsupported
1597  *
1598  * Description :  Checks if the client used a known unsupported
1599  *                protocol and deals with it by sending an error
1600  *                response.
1601  *
1602  * Parameters  :
1603  *          1  :  csp = Current client state (buffers, headers, etc...)
1604  *          2  :  req = the first request line send by the client
1605  *
1606  * Returns     :  TRUE if an error response has been generated, or
1607  *                FALSE if the request doesn't look invalid.
1608  *
1609  *********************************************************************/
1610 static int client_protocol_is_unsupported(const struct client_state *csp, char *req)
1611 {
1612    /*
1613     * If it's a FTP or gopher request, we don't support it.
1614     *
1615     * These checks are better than nothing, but they might
1616     * not work in all configurations and some clients might
1617     * have problems digesting the answer.
1618     *
1619     * They should, however, never cause more problems than
1620     * Privoxy's old behaviour (returning the misleading HTML
1621     * error message:
1622     *
1623     * "Could not resolve http://(ftp|gopher)://example.org").
1624     */
1625    if (!strncmpic(req, "GET ftp://", 10) || !strncmpic(req, "GET gopher://", 13))
1626    {
1627       const char *response = NULL;
1628       const char *protocol = NULL;
1629
1630       if (!strncmpic(req, "GET ftp://", 10))
1631       {
1632          response = FTP_RESPONSE;
1633          protocol = "FTP";
1634       }
1635       else
1636       {
1637          response = GOPHER_RESPONSE;
1638          protocol = "GOPHER";
1639       }
1640       log_error(LOG_LEVEL_ERROR,
1641          "%s tried to use Privoxy as %s proxy: %s",
1642          csp->ip_addr_str, protocol, req);
1643       log_error(LOG_LEVEL_CLF,
1644          "%s - - [%T] \"%s\" 400 0", csp->ip_addr_str, req);
1645       freez(req);
1646       write_socket(csp->cfd, response, strlen(response));
1647
1648       return TRUE;
1649    }
1650
1651    return FALSE;
1652 }
1653
1654
1655 /*********************************************************************
1656  *
1657  * Function    :  get_request_destination_elsewhere
1658  *
1659  * Description :  If the client's request was redirected into
1660  *                Privoxy without the client's knowledge,
1661  *                the request line lacks the destination host.
1662  *
1663  *                This function tries to get it elsewhere,
1664  *                provided accept-intercepted-requests is enabled.
1665  *
1666  *                "Elsewhere" currently only means "Host: header",
1667  *                but in the future we may ask the redirecting
1668  *                packet filter to look the destination up.
1669  *
1670  *                If the destination stays unknown, an error
1671  *                response is send to the client and headers
1672  *                are freed so that chat() can return directly.
1673  *
1674  * Parameters  :
1675  *          1  :  csp = Current client state (buffers, headers, etc...)
1676  *          2  :  headers = a header list
1677  *
1678  * Returns     :  JB_ERR_OK if the destination is now known, or
1679  *                JB_ERR_PARSE if it isn't.
1680  *
1681  *********************************************************************/
1682 static jb_err get_request_destination_elsewhere(struct client_state *csp, struct list *headers)
1683 {
1684    char *req;
1685
1686    if (!(csp->config->feature_flags & RUNTIME_FEATURE_ACCEPT_INTERCEPTED_REQUESTS))
1687    {
1688       log_error(LOG_LEVEL_ERROR, "%s's request: \'%s\' is invalid."
1689          " Privoxy isn't configured to accept intercepted requests.",
1690          csp->ip_addr_str, csp->http->cmd);
1691       /* XXX: Use correct size */
1692       log_error(LOG_LEVEL_CLF, "%s - - [%T] \"%s\" 400 0",
1693          csp->ip_addr_str, csp->http->cmd);
1694
1695       write_socket(csp->cfd, CHEADER, strlen(CHEADER));
1696       destroy_list(headers);
1697
1698       return JB_ERR_PARSE;
1699    }
1700    else if (JB_ERR_OK == get_destination_from_headers(headers, csp->http))
1701    {
1702       /* Split the domain we just got for pattern matching */
1703       init_domain_components(csp->http);
1704
1705       return JB_ERR_OK;
1706    }
1707    else
1708    {
1709       /* We can't work without destination. Go spread the news.*/
1710
1711       req = list_to_text(headers);
1712       chomp(req);
1713       /* XXX: Use correct size */
1714       log_error(LOG_LEVEL_CLF, "%s - - [%T] \"%s\" 400 0",
1715          csp->ip_addr_str, csp->http->cmd);
1716       log_error(LOG_LEVEL_ERROR,
1717          "Privoxy was unable to get the destination for %s's request:\n%s\n%s",
1718          csp->ip_addr_str, csp->http->cmd, req);
1719       freez(req);
1720
1721       write_socket(csp->cfd, MISSING_DESTINATION_RESPONSE, strlen(MISSING_DESTINATION_RESPONSE));
1722       destroy_list(headers);
1723
1724       return JB_ERR_PARSE;
1725    }
1726    /*
1727     * TODO: If available, use PF's ioctl DIOCNATLOOK as last resort
1728     * to get the destination IP address, use it as host directly
1729     * or do a reverse DNS lookup first.
1730     */
1731 }
1732
1733
1734 /*********************************************************************
1735  *
1736  * Function    :  get_server_headers
1737  *
1738  * Description :  Parses server headers in iob and fills them
1739  *                into csp->headers so that they can later be
1740  *                handled by sed().
1741  *
1742  * Parameters  :
1743  *          1  :  csp = Current client state (buffers, headers, etc...)
1744  *
1745  * Returns     :  JB_ERR_OK if everything went fine, or
1746  *                JB_ERR_PARSE if the headers were incomplete.
1747  *
1748  *********************************************************************/
1749 static jb_err get_server_headers(struct client_state *csp)
1750 {
1751    int continue_hack_in_da_house = 0;
1752    char * header;
1753
1754    while (((header = get_header(csp->iob)) != NULL) || continue_hack_in_da_house)
1755    {
1756       if (header == NULL)
1757       {
1758          /*
1759           * continue hack in da house. Ignore the ending of
1760           * this head and continue enlisting header lines.
1761           * The reason is described below.
1762           */
1763          enlist(csp->headers, "");
1764          continue_hack_in_da_house = 0;
1765          continue;
1766       }
1767       else if (0 == strncmpic(header, "HTTP/1.1 100", 12))
1768       {
1769          /*
1770           * It's a bodyless continue response, don't
1771           * stop header parsing after reaching its end.
1772           *
1773           * As a result Privoxy will concatenate the
1774           * next response's head and parse and deliver
1775           * the headers as if they belonged to one request.
1776           *
1777           * The client will separate them because of the
1778           * empty line between them.
1779           *
1780           * XXX: What we're doing here is clearly against
1781           * the intended purpose of the continue header,
1782           * and under some conditions (HTTP/1.0 client request)
1783           * it's a standard violation.
1784           *
1785           * Anyway, "sort of against the spec" is preferable
1786           * to "always getting confused by Continue responses"
1787           * (Privoxy's behaviour before this hack was added)
1788           */
1789          log_error(LOG_LEVEL_HEADER, "Continue hack in da house.");
1790          continue_hack_in_da_house = 1;
1791       }
1792       else if (*header == '\0') 
1793       {
1794          /*
1795           * If the header is empty, but the Continue hack
1796           * isn't active, we can assume that we reached the
1797           * end of the buffer before we hit the end of the
1798           * head.
1799           *
1800           * Inform the caller an let it decide how to handle it.
1801           */
1802          return JB_ERR_PARSE;
1803       }
1804
1805       if (JB_ERR_MEMORY == enlist(csp->headers, header))
1806       {
1807          /*
1808           * XXX: Should we quit the request and return a
1809           * out of memory error page instead?
1810           */
1811          log_error(LOG_LEVEL_ERROR,
1812             "Out of memory while enlisting server headers. %s lost.",
1813             header);
1814       }
1815       freez(header);
1816    }
1817
1818    return JB_ERR_OK;
1819 }
1820
1821
1822 /*********************************************************************
1823  *
1824  * Function    :  crunch_reason
1825  *
1826  * Description :  Translates the crunch reason code into a string.
1827  *
1828  * Parameters  :
1829  *          1  :  rsp = a http_response
1830  *
1831  * Returns     :  A string with the crunch reason or an error description.
1832  *
1833  *********************************************************************/
1834 static const char *crunch_reason(const struct http_response *rsp)
1835 {
1836    char * reason = NULL;
1837
1838    assert(rsp != NULL);
1839    if (rsp == NULL)
1840    {
1841       return "Internal error while searching for crunch reason";
1842    }
1843
1844    switch (rsp->reason)
1845    {
1846       case RSP_REASON_UNSUPPORTED:
1847          reason = "Unsupported HTTP feature";
1848          break;
1849       case RSP_REASON_BLOCKED:
1850          reason = "Blocked";
1851          break;
1852       case RSP_REASON_UNTRUSTED:
1853          reason = "Untrusted";
1854          break;
1855       case RSP_REASON_REDIRECTED:
1856          reason = "Redirected";
1857          break;
1858       case RSP_REASON_CGI_CALL:
1859          reason = "CGI Call";
1860          break;
1861       case RSP_REASON_NO_SUCH_DOMAIN:
1862          reason = "DNS failure";
1863          break;
1864       case RSP_REASON_FORWARDING_FAILED:
1865          reason = "Forwarding failed";
1866          break;
1867       case RSP_REASON_CONNECT_FAILED:
1868          reason = "Connection failure";
1869          break;
1870       case RSP_REASON_OUT_OF_MEMORY:
1871          reason = "Out of memory (may mask other reasons)";
1872          break;
1873       default:
1874          reason = "No reason recorded";
1875          break;
1876    }
1877
1878    return reason;
1879 }
1880
1881
1882 /*********************************************************************
1883  *
1884  * Function    :  send_crunch_response
1885  *
1886  * Description :  Delivers already prepared response for
1887  *                intercepted requests, logs the interception
1888  *                and frees the response.
1889  *
1890  * Parameters  :
1891  *          1  :  csp = Current client state (buffers, headers, etc...)
1892  *          1  :  rsp = Fully prepared response. Will be freed on exit.
1893  *
1894  * Returns     :  Nothing.
1895  *
1896  *********************************************************************/
1897 static void send_crunch_response(const struct client_state *csp, struct http_response *rsp)
1898 {
1899       const struct http_request *http = csp->http;
1900       char status_code[4];
1901
1902       assert(rsp != NULL);
1903       assert(rsp->head != NULL);
1904
1905       if (rsp == NULL)
1906       {
1907          /*
1908           * Not supposed to happen. If it does
1909           * anyway, treat it as an unknown error.
1910           */
1911          cgi_error_unknown(csp, rsp, RSP_REASON_INTERNAL_ERROR);
1912          /* return code doesn't matter */
1913       }
1914
1915       if (rsp == NULL)
1916       {
1917          /* If rsp is still NULL, we have serious internal problems. */
1918          log_error(LOG_LEVEL_FATAL,
1919             "NULL response in send_crunch_response and cgi_error_unknown failed as well.");
1920       }
1921
1922       /*
1923        * Extract the status code from the actual head
1924        * that was send to the client. It is the only
1925        * way to get it right for all requests, including
1926        * the fixed ones for out-of-memory problems.
1927        *
1928        * A head starts like this: 'HTTP/1.1 200...'
1929        *                           0123456789|11
1930        *                                     10
1931        */
1932       status_code[0] = rsp->head[9];
1933       status_code[1] = rsp->head[10];
1934       status_code[2] = rsp->head[11];
1935       status_code[3] = '\0';
1936
1937       /* Write the answer to the client */
1938       if (write_socket(csp->cfd, rsp->head, rsp->head_length)
1939        || write_socket(csp->cfd, rsp->body, rsp->content_length))
1940       {
1941          /* There is nothing we can do about it. */
1942          log_error(LOG_LEVEL_ERROR, "write to: %s failed: %E", csp->http->host);
1943       }
1944
1945       /* Log that the request was crunched and why. */
1946       log_error(LOG_LEVEL_CRUNCH, "%s: %s", crunch_reason(rsp), http->url);
1947       log_error(LOG_LEVEL_CLF, "%s - - [%T] \"%s\" %s %u",
1948          csp->ip_addr_str, http->ocmd, status_code, rsp->content_length);
1949
1950       /* Clean up and return */
1951       if (cgi_error_memory() != rsp)
1952       {
1953          free_http_response(rsp);
1954       } 
1955       return;
1956 }
1957
1958
1959 #if 0
1960 /*********************************************************************
1961  *
1962  * Function    :  request_contains_null_bytes
1963  *
1964  * Description :  Checks for NULL bytes in the request and sends
1965  *                an error message to the client if any were found.
1966  *
1967  *                XXX: currently not used, see comment in chat().
1968  *
1969  * Parameters  :
1970  *          1  :  csp = Current client state (buffers, headers, etc...)
1971  *          2  :  buf = Data from the client's request to check.
1972  *          3  :  len = The data length.
1973  *
1974  * Returns     :  TRUE if the request contained one or more NULL bytes, or
1975  *                FALSE otherwise.
1976  *
1977  *********************************************************************/
1978 static int request_contains_null_bytes(const struct client_state *csp, char *buf, int len)
1979 {
1980    size_t c_len; /* Request lenght when treated as C string */
1981
1982    c_len = strlen(buf);
1983
1984    if (c_len < len)
1985    {
1986       /*
1987        * Null byte(s) found. Log the request,
1988        * return an error response and hang up.
1989        */
1990       size_t tmp_len = c_len;
1991
1992       do
1993       {
1994         /*
1995          * Replace NULL byte(s) with '°' characters
1996          * so the request can be logged as string.
1997          * XXX: Is there a better replacement character?
1998          */
1999          buf[tmp_len]='°';
2000          tmp_len += strlen(buf+tmp_len);
2001       } while (tmp_len < len);
2002
2003       log_error(LOG_LEVEL_ERROR, "%s\'s request contains at least one NULL byte "
2004          "(length=%d, strlen=%u).", csp->ip_addr_str, len, c_len);
2005       log_error(LOG_LEVEL_HEADER, 
2006          "Offending request data with NULL bytes turned into \'°\' characters: %s", buf);
2007
2008       write_socket(csp->cfd, NULL_BYTE_RESPONSE, strlen(NULL_BYTE_RESPONSE));
2009
2010       /* XXX: Log correct size */
2011       log_error(LOG_LEVEL_CLF, "%s - - [%T] \"Invalid request\" 400 0", csp->ip_addr_str);
2012
2013       return TRUE;
2014    }
2015
2016    return FALSE;
2017 }
2018 #endif
2019
2020
2021 /*********************************************************************
2022  *
2023  * Function    :  crunch_response_triggered
2024  *
2025  * Description :  Checks if the request has to be crunched,
2026  *                and delivers the crunch response if necessary.
2027  *
2028  * Parameters  :
2029  *          1  :  csp = Current client state (buffers, headers, etc...)
2030  *          2  :  crunchers = list of cruncher functions to run
2031  *
2032  * Returns     :  TRUE if the request was answered with a crunch response
2033  *                FALSE otherwise.
2034  *
2035  *********************************************************************/
2036 static int crunch_response_triggered(struct client_state *csp, const struct cruncher crunchers[])
2037 {
2038    struct http_response *rsp = NULL;
2039    const struct cruncher *c;
2040
2041    /*
2042     * If CGI request crunching is disabled,
2043     * check the CGI dispatcher out of order to
2044     * prevent unintentional blocks or redirects. 
2045     */
2046    if (!(csp->config->feature_flags & RUNTIME_FEATURE_CGI_CRUNCHING)
2047        && (NULL != (rsp = dispatch_cgi(csp))))
2048    {
2049       /* Deliver, log and free the interception response. */
2050       send_crunch_response(csp, rsp);
2051       return TRUE;
2052    }
2053
2054    for (c = crunchers; c->cruncher != NULL; c++)
2055    {
2056       /*
2057        * Check the cruncher if either Privoxy is toggled
2058        * on and the request isn't forced, or if the cruncher
2059        * applies to forced requests as well.
2060        */
2061       if (((csp->flags & CSP_FLAG_TOGGLED_ON) &&
2062           !(csp->flags & CSP_FLAG_FORCED)) ||
2063           (c->flags & CF_IGNORE_FORCE))
2064       {
2065          rsp = c->cruncher(csp);
2066          if (NULL != rsp)
2067          {
2068             /* Deliver, log and free the interception response. */
2069             send_crunch_response(csp, rsp);
2070 #ifdef FEATURE_STATISTICS
2071             if (c->flags & CF_COUNT_AS_REJECT)
2072             {
2073                csp->flags |= CSP_FLAG_REJECTED;
2074             }
2075 #endif /* def FEATURE_STATISTICS */
2076
2077             return TRUE;
2078          }
2079       }
2080    }
2081
2082    return FALSE;
2083 }
2084
2085
2086 /*********************************************************************
2087  *
2088  * Function    :  build_request_line
2089  *
2090  * Description :  Builds the HTTP request line.
2091  *
2092  *                If a HTTP forwarder is used it expects the whole URL,
2093  *                web servers only get the path.
2094  *
2095  * Parameters  :
2096  *          1  :  csp = Current client state (buffers, headers, etc...)
2097  *          2  :  fwd = The forwarding spec used for the request
2098  *                XXX: Should use http->fwd instead.
2099  *          3  :  request_line = The old request line which will be replaced.
2100  *
2101  * Returns     :  Nothing. Terminates in case of memory problems.
2102  *
2103  *********************************************************************/
2104 static void build_request_line(struct client_state *csp, const struct forward_spec *fwd, char **request_line)
2105 {
2106    struct http_request *http = csp->http;
2107
2108    assert(http->ssl == 0);
2109
2110    /*
2111     * Downgrade http version from 1.1 to 1.0
2112     * if +downgrade action applies.
2113     */
2114    if ( (csp->action->flags & ACTION_DOWNGRADE)
2115      && (!strcmpic(http->ver, "HTTP/1.1")))
2116    {
2117       freez(http->ver);
2118       http->ver = strdup("HTTP/1.0");
2119
2120       if (http->ver == NULL)
2121       {
2122          log_error(LOG_LEVEL_FATAL, "Out of memory downgrading HTTP version");
2123       }
2124    }
2125
2126    /*
2127     * Rebuild the request line.
2128     */
2129    freez(*request_line);
2130    *request_line = strdup(http->gpc);
2131    string_append(request_line, " ");
2132
2133    if (fwd->forward_host)
2134    {
2135       string_append(request_line, http->url);
2136    }
2137    else
2138    {
2139       string_append(request_line, http->path);
2140    }
2141    string_append(request_line, " ");
2142    string_append(request_line, http->ver);
2143
2144    if (*request_line == NULL)
2145    {
2146       log_error(LOG_LEVEL_FATAL, "Out of memory writing HTTP command");
2147    }
2148    log_error(LOG_LEVEL_HEADER, "New HTTP Request-Line: %s", *request_line);
2149 }
2150
2151
2152 /*********************************************************************
2153  *
2154  * Function    :  change_request_destination
2155  *
2156  * Description :  Parse a (rewritten) request line and regenerate
2157  *                the http request data.
2158  *
2159  * Parameters  :
2160  *          1  :  csp = Current client state (buffers, headers, etc...)
2161  *
2162  * Returns     :  Forwards the parse_http_request() return code.
2163  *                Terminates in case of memory problems.
2164  *
2165  *********************************************************************/
2166 static jb_err change_request_destination(struct client_state *csp)
2167 {
2168    struct http_request *http = csp->http;
2169    jb_err err;
2170
2171    log_error(LOG_LEVEL_INFO, "Rewrite detected: %s", csp->headers->first->str);
2172    free_http_request(http);
2173    err = parse_http_request(csp->headers->first->str, http);
2174    if (JB_ERR_OK != err)
2175    {
2176       log_error(LOG_LEVEL_ERROR, "Couldn't parse rewritten request: %s.",
2177          jb_err_to_string(err));
2178    }
2179    else
2180    {
2181       /* XXX: ocmd is a misleading name */
2182       http->ocmd = strdup(http->cmd);
2183       if (http->ocmd == NULL)
2184       {
2185          log_error(LOG_LEVEL_FATAL,
2186             "Out of memory copying rewritten HTTP request line");
2187       }
2188    }
2189
2190    return err;
2191 }
2192
2193
2194 #ifdef FEATURE_CONNECTION_KEEP_ALIVE
2195 /*********************************************************************
2196  *
2197  * Function    :  server_response_is_complete
2198  *
2199  * Description :  Determines whether we should stop reading
2200  *                from the server socket.
2201  *
2202  * Parameters  :
2203  *          1  :  csp = Current client state (buffers, headers, etc...)
2204  *          2  :  content_length = Length of content received so far.
2205  *
2206  * Returns     :  TRUE if the response is complete,
2207  *                FALSE otherwise.
2208  *
2209  *********************************************************************/
2210 static int server_response_is_complete(struct client_state *csp,
2211    unsigned long long content_length)
2212 {
2213    int content_length_known = !!(csp->flags & CSP_FLAG_CONTENT_LENGTH_SET);
2214
2215    if (!strcmpic(csp->http->gpc, "HEAD"))
2216    {
2217       /*
2218        * "HEAD" implies no body, we are thus expecting
2219        * no content. XXX: incomplete "list" of methods?
2220        */
2221       csp->expected_content_length = 0;
2222       content_length_known = TRUE;
2223    }
2224
2225    if (csp->http->status == 304)
2226    {
2227       /*
2228        * Expect no body. XXX: incomplete "list" of status codes?
2229        */
2230       csp->expected_content_length = 0;
2231       content_length_known = TRUE;
2232    }
2233
2234    return (content_length_known && ((0 == csp->expected_content_length)
2235             || (csp->expected_content_length <= content_length)));
2236 }
2237
2238
2239 /*********************************************************************
2240  *
2241  * Function    :  wait_for_alive_connections
2242  *
2243  * Description :  Waits for alive connections to timeout.
2244  *
2245  * Parameters  :  N/A
2246  *
2247  * Returns     :  N/A
2248  *
2249  *********************************************************************/
2250 static void wait_for_alive_connections()
2251 {
2252    int connections_alive = close_unusable_connections();
2253
2254    while (0 < connections_alive)
2255    {
2256       log_error(LOG_LEVEL_CONNECT,
2257          "Waiting for %d connections to timeout.",
2258          connections_alive);
2259       sleep(60);
2260       connections_alive = close_unusable_connections();
2261    }
2262
2263    log_error(LOG_LEVEL_CONNECT, "No connections to wait for left.");
2264
2265 }
2266 #endif /* FEATURE_CONNECTION_KEEP_ALIVE */
2267
2268
2269 /*********************************************************************
2270  *
2271  * Function    :  mark_server_socket_tainted
2272  *
2273  * Description :  Makes sure we don't reuse a server socket
2274  *                (if we didn't read everything the server sent
2275  *                us reusing the socket would lead to garbage).
2276  *
2277  * Parameters  :
2278  *          1  :  csp = Current client state (buffers, headers, etc...)
2279  *
2280  * Returns     :  void.
2281  *
2282  *********************************************************************/
2283 static void mark_server_socket_tainted(struct client_state *csp)
2284 {
2285    if ((csp->flags & CSP_FLAG_SERVER_CONNECTION_KEEP_ALIVE))
2286    {
2287       log_error(LOG_LEVEL_CONNECT, "Unsetting keep-alive flag.");
2288       csp->flags &= ~CSP_FLAG_SERVER_CONNECTION_KEEP_ALIVE;
2289    }
2290 }
2291
2292 /*********************************************************************
2293  *
2294  * Function    :  get_request_line
2295  *
2296  * Description : Read the client request line.
2297  *
2298  * Parameters  :
2299  *          1  :  csp = Current client state (buffers, headers, etc...)
2300  *
2301  * Returns     :  Pointer to request line or NULL in case of errors.
2302  *
2303  *********************************************************************/
2304 static char *get_request_line(struct client_state *csp)
2305 {
2306    char buf[BUFFER_SIZE];
2307    char *request_line = NULL;
2308    int len;
2309
2310    memset(buf, 0, sizeof(buf));
2311
2312    do
2313    {
2314       if (!data_is_available(csp->cfd, csp->config->socket_timeout))
2315       {
2316          log_error(LOG_LEVEL_ERROR,
2317             "Stopped waiting for the request line.");
2318          write_socket(csp->cfd, CONNECTION_TIMEOUT_RESPONSE,
2319             strlen(CONNECTION_TIMEOUT_RESPONSE));
2320          return NULL;
2321       }
2322
2323       len = read_socket(csp->cfd, buf, sizeof(buf) - 1);
2324
2325       if (len <= 0) return NULL;
2326
2327       /*
2328        * If there is no memory left for buffering the
2329        * request, there is nothing we can do but hang up
2330        */
2331       if (add_to_iob(csp, buf, len))
2332       {
2333          return NULL;
2334       }
2335
2336       request_line = get_header(csp->iob);
2337
2338    } while ((NULL != request_line) && ('\0' == *request_line));
2339
2340    return request_line;
2341
2342 }
2343
2344
2345 /*********************************************************************
2346  *
2347  * Function    :  receive_client_request
2348  *
2349  * Description : Read the client's request (more precisely the
2350  *               client headers) and answer it if necessary.
2351  *
2352  *               Note that since we're not using select() we could get
2353  *               blocked here if a client connected, then didn't say
2354  *               anything!
2355  *
2356  * Parameters  :
2357  *          1  :  csp = Current client state (buffers, headers, etc...)
2358  *
2359  * Returns     :  JB_ERR_OK, JB_ERR_PARSE or JB_ERR_MEMORY
2360  *
2361  *********************************************************************/
2362 static jb_err receive_client_request(struct client_state *csp)
2363 {
2364    char buf[BUFFER_SIZE];
2365    char *p;
2366    char *req = NULL;
2367    struct http_request *http;
2368    int len;
2369    jb_err err;
2370
2371    /* Temporary copy of the client's headers before they get enlisted in csp->headers */
2372    struct list header_list;
2373    struct list *headers = &header_list;
2374
2375    http = csp->http;
2376
2377    memset(buf, 0, sizeof(buf));
2378
2379    req = get_request_line(csp);
2380    if (req == NULL)
2381    {
2382       return JB_ERR_PARSE;
2383    }
2384    assert(*req != '\0');
2385
2386    if (client_protocol_is_unsupported(csp, req))
2387    {
2388       return JB_ERR_PARSE;
2389    }
2390
2391 #ifdef FEATURE_FORCE_LOAD
2392    /*
2393     * If this request contains the FORCE_PREFIX and blocks
2394     * aren't enforced, get rid of it and set the force flag.
2395     */
2396    if (strstr(req, FORCE_PREFIX))
2397    {
2398       if (csp->config->feature_flags & RUNTIME_FEATURE_ENFORCE_BLOCKS)
2399       {
2400          log_error(LOG_LEVEL_FORCE,
2401             "Ignored force prefix in request: \"%s\".", req);
2402       }
2403       else
2404       {
2405          strclean(req, FORCE_PREFIX);
2406          log_error(LOG_LEVEL_FORCE, "Enforcing request: \"%s\".", req);
2407          csp->flags |= CSP_FLAG_FORCED;
2408       }
2409    }
2410 #endif /* def FEATURE_FORCE_LOAD */
2411
2412    err = parse_http_request(req, http);
2413    freez(req);
2414    if (JB_ERR_OK != err)
2415    {
2416       write_socket(csp->cfd, CHEADER, strlen(CHEADER));
2417       /* XXX: Use correct size */
2418       log_error(LOG_LEVEL_CLF, "%s - - [%T] \"Invalid request\" 400 0", csp->ip_addr_str);
2419       log_error(LOG_LEVEL_ERROR,
2420          "Couldn't parse request line received from %s: %s",
2421          csp->ip_addr_str, jb_err_to_string(err));
2422
2423       free_http_request(http);
2424       return JB_ERR_PARSE;
2425    }
2426
2427    /* grab the rest of the client's headers */
2428    init_list(headers);
2429    for (;;)
2430    {
2431       p = get_header(csp->iob);
2432
2433       if (p == NULL)
2434       {
2435          /* There are no additional headers to read. */
2436          break;
2437       }
2438
2439       if (*p == '\0')
2440       {
2441          /*
2442           * We didn't receive a complete header
2443           * line yet, get the rest of it.
2444           */
2445          if (!data_is_available(csp->cfd, csp->config->socket_timeout))
2446          {
2447             log_error(LOG_LEVEL_ERROR,
2448                "Stopped grabbing the client headers.");
2449             return JB_ERR_PARSE;
2450          }
2451
2452          len = read_socket(csp->cfd, buf, sizeof(buf) - 1);
2453          if (len <= 0)
2454          {
2455             log_error(LOG_LEVEL_ERROR, "read from client failed: %E");
2456             destroy_list(headers);
2457             return JB_ERR_PARSE;
2458          }
2459          
2460          if (add_to_iob(csp, buf, len))
2461          {
2462             /*
2463              * If there is no memory left for buffering the
2464              * request, there is nothing we can do but hang up
2465              */
2466             destroy_list(headers);
2467             return JB_ERR_MEMORY;
2468          }
2469       }
2470       else
2471       {
2472          /*
2473           * We were able to read a complete
2474           * header and can finaly enlist it.
2475           */
2476          enlist(headers, p);
2477          freez(p);
2478       }
2479    }
2480
2481    if (http->host == NULL)
2482    {
2483       /*
2484        * If we still don't know the request destination,
2485        * the request is invalid or the client uses
2486        * Privoxy without its knowledge.
2487        */
2488       if (JB_ERR_OK != get_request_destination_elsewhere(csp, headers))
2489       {
2490          /*
2491           * Our attempts to get the request destination
2492           * elsewhere failed or Privoxy is configured
2493           * to only accept proxy requests.
2494           *
2495           * An error response has already been send
2496           * and we're done here.
2497           */
2498          return JB_ERR_PARSE;
2499       }
2500    }
2501
2502    /*
2503     * Determine the actions for this URL
2504     */
2505 #ifdef FEATURE_TOGGLE
2506    if (!(csp->flags & CSP_FLAG_TOGGLED_ON))
2507    {
2508       /* Most compatible set of actions (i.e. none) */
2509       init_current_action(csp->action);
2510    }
2511    else
2512 #endif /* ndef FEATURE_TOGGLE */
2513    {
2514       get_url_actions(csp, http);
2515    }
2516
2517    /* 
2518     * Save a copy of the original request for logging
2519     */
2520    http->ocmd = strdup(http->cmd);
2521    if (http->ocmd == NULL)
2522    {
2523       log_error(LOG_LEVEL_FATAL,
2524          "Out of memory copying HTTP request line");
2525    }
2526    enlist(csp->headers, http->cmd);
2527
2528    /* Append the previously read headers */
2529    list_append_list_unique(csp->headers, headers);
2530    destroy_list(headers);
2531
2532    return JB_ERR_OK;
2533
2534 }
2535
2536
2537 /*********************************************************************
2538  *
2539  * Function    : parse_client_request
2540  *
2541  * Description : Parses the client's request and decides what to do
2542  *               with it.
2543  *
2544  *               Note that since we're not using select() we could get
2545  *               blocked here if a client connected, then didn't say
2546  *               anything!
2547  *
2548  * Parameters  :
2549  *          1  :  csp = Current client state (buffers, headers, etc...)
2550  *
2551  * Returns     :  JB_ERR_OK or JB_ERR_PARSE
2552  *
2553  *********************************************************************/
2554 static jb_err parse_client_request(struct client_state *csp)
2555 {
2556    struct http_request *http = csp->http;
2557    jb_err err;
2558
2559    err = sed(csp, FILTER_CLIENT_HEADERS);
2560    if (JB_ERR_OK != err)
2561    {
2562       /* XXX: Should be handled in sed(). */
2563       assert(err == JB_ERR_PARSE);
2564       log_error(LOG_LEVEL_FATAL, "Failed to parse client headers.");
2565    }
2566    csp->flags |= CSP_FLAG_CLIENT_HEADER_PARSING_DONE;
2567
2568    /* Check request line for rewrites. */
2569    if ((NULL == csp->headers->first->str)
2570       || (strcmp(http->cmd, csp->headers->first->str) &&
2571          (JB_ERR_OK != change_request_destination(csp))))
2572    {
2573       /*
2574        * A header filter broke the request line - bail out.
2575        */
2576       write_socket(csp->cfd, MESSED_UP_REQUEST_RESPONSE, strlen(MESSED_UP_REQUEST_RESPONSE));
2577       /* XXX: Use correct size */
2578       log_error(LOG_LEVEL_CLF,
2579          "%s - - [%T] \"Invalid request generated\" 500 0", csp->ip_addr_str);
2580       log_error(LOG_LEVEL_ERROR,
2581          "Invalid request line after applying header filters.");
2582       free_http_request(http);
2583
2584       return JB_ERR_PARSE;
2585    }
2586
2587    return JB_ERR_OK;
2588
2589 }
2590
2591
2592 /*********************************************************************
2593  *
2594  * Function    :  chat
2595  *
2596  * Description :  Once a connection to the client has been accepted,
2597  *                this function is called (via serve()) to handle the
2598  *                main business of the communication.  When this
2599  *                function returns, the caller must close the client
2600  *                socket handle.
2601  *
2602  *                FIXME: chat is nearly thousand lines long.
2603  *                Ridiculous.
2604  *
2605  * Parameters  :
2606  *          1  :  csp = Current client state (buffers, headers, etc...)
2607  *
2608  * Returns     :  Nothing.
2609  *
2610  *********************************************************************/
2611 static void chat(struct client_state *csp)
2612 {
2613    char buf[BUFFER_SIZE];
2614    char *hdr;
2615    char *p;
2616    fd_set rfds;
2617    int n;
2618    jb_socket maxfd;
2619    int server_body;
2620    int ms_iis5_hack = 0;
2621    unsigned long long byte_count = 0;
2622    int forwarded_connect_retries = 0;
2623    int max_forwarded_connect_retries = csp->config->forwarded_connect_retries;
2624    const struct forward_spec *fwd;
2625    struct http_request *http;
2626    long len = 0; /* for buffer sizes (and negative error codes) */
2627
2628    /* Function that does the content filtering for the current request */
2629    filter_function_ptr content_filter = NULL;
2630
2631    /* Skeleton for HTTP response, if we should intercept the request */
2632    struct http_response *rsp;
2633    struct timeval timeout;
2634
2635    memset(buf, 0, sizeof(buf));
2636
2637    http = csp->http;
2638
2639    if (receive_client_request(csp) != JB_ERR_OK)
2640    {
2641       return;
2642    }
2643    if (parse_client_request(csp) != JB_ERR_OK)
2644    {
2645       return;
2646    }
2647
2648    /* decide how to route the HTTP request */
2649    fwd = forward_url(csp, http);
2650    if (NULL == fwd)
2651    {
2652       log_error(LOG_LEVEL_FATAL, "gateway spec is NULL!?!?  This can't happen!");
2653       /* Never get here - LOG_LEVEL_FATAL causes program exit */
2654       return;
2655    }
2656
2657    /*
2658     * build the http request to send to the server
2659     * we have to do one of the following:
2660     *
2661     * create = use the original HTTP request to create a new
2662     *          HTTP request that has either the path component
2663     *          without the http://domainspec (w/path) or the
2664     *          full orininal URL (w/url)
2665     *          Note that the path and/or the HTTP version may
2666     *          have been altered by now.
2667     *
2668     * connect = Open a socket to the host:port of the server
2669     *           and short-circuit server and client socket.
2670     *
2671     * pass =  Pass the request unchanged if forwarding a CONNECT
2672     *         request to a parent proxy. Note that we'll be sending
2673     *         the CFAIL message ourselves if connecting to the parent
2674     *         fails, but we won't send a CSUCCEED message if it works,
2675     *         since that would result in a double message (ours and the
2676     *         parent's). After sending the request to the parent, we simply
2677     *         tunnel.
2678     *
2679     * here's the matrix:
2680     *                        SSL
2681     *                    0        1
2682     *                +--------+--------+
2683     *                |        |        |
2684     *             0  | create | connect|
2685     *                | w/path |        |
2686     *  Forwarding    +--------+--------+
2687     *                |        |        |
2688     *             1  | create | pass   |
2689     *                | w/url  |        |
2690     *                +--------+--------+
2691     *
2692     */
2693
2694    if (http->ssl && connect_port_is_forbidden(csp))
2695    {
2696       const char *acceptable_connect_ports =
2697          csp->action->string[ACTION_STRING_LIMIT_CONNECT];
2698       assert(NULL != acceptable_connect_ports);
2699       log_error(LOG_LEVEL_INFO, "Request from %s marked for blocking. "
2700          "limit-connect{%s} doesn't allow CONNECT requests to port %d.",
2701          csp->ip_addr_str, acceptable_connect_ports, csp->http->port);
2702       csp->action->flags |= ACTION_BLOCK;
2703       http->ssl = 0;
2704    }
2705
2706    if (http->ssl == 0)
2707    {
2708       freez(csp->headers->first->str);
2709       build_request_line(csp, fwd, &csp->headers->first->str);
2710    }
2711
2712    /*
2713     * We have a request. Check if one of the crunchers wants it.
2714     */
2715    if (crunch_response_triggered(csp, crunchers_all))
2716    {
2717       /*
2718        * Yes. The client got the crunch response
2719        * and we are done here after cleaning up.
2720        */
2721       /* XXX: why list_remove_all()? */
2722       list_remove_all(csp->headers);
2723
2724       return;
2725    }
2726
2727    log_error(LOG_LEVEL_GPC, "%s%s", http->hostport, http->path);
2728
2729    if (fwd->forward_host)
2730    {
2731       log_error(LOG_LEVEL_CONNECT, "via %s:%d to: %s",
2732          fwd->forward_host, fwd->forward_port, http->hostport);
2733    }
2734    else
2735    {
2736       log_error(LOG_LEVEL_CONNECT, "to %s", http->hostport);
2737    }
2738
2739    /* here we connect to the server, gateway, or the forwarder */
2740
2741    while ((csp->sfd = forwarded_connect(fwd, http, csp))
2742       && (errno == EINVAL)
2743       && (forwarded_connect_retries++ < max_forwarded_connect_retries))
2744    {
2745       log_error(LOG_LEVEL_ERROR,
2746          "failed request #%u to connect to %s. Trying again.",
2747          forwarded_connect_retries, http->hostport);
2748    }
2749
2750    if (csp->sfd == JB_INVALID_SOCKET)
2751    {
2752       if (fwd->type != SOCKS_NONE)
2753       {
2754          /* Socks error. */
2755          rsp = error_response(csp, "forwarding-failed", errno);
2756       }
2757       else if (errno == EINVAL)
2758       {
2759          rsp = error_response(csp, "no-such-domain", errno);
2760       }
2761       else
2762       {
2763          rsp = error_response(csp, "connect-failed", errno);
2764          log_error(LOG_LEVEL_CONNECT, "connect to: %s failed: %E",
2765             http->hostport);
2766       }
2767
2768       /* Write the answer to the client */
2769       if (rsp != NULL)
2770       {
2771          send_crunch_response(csp, rsp);
2772       }
2773
2774       return;
2775    }
2776
2777    hdr = list_to_text(csp->headers);
2778    if (hdr == NULL)
2779    {
2780       /* FIXME Should handle error properly */
2781       log_error(LOG_LEVEL_FATAL, "Out of memory parsing client header");
2782    }
2783    list_remove_all(csp->headers);
2784
2785    if (fwd->forward_host || (http->ssl == 0))
2786    {
2787       /*
2788        * Write the client's (modified) header to the server
2789        * (along with anything else that may be in the buffer)
2790        */
2791       if (write_socket(csp->sfd, hdr, strlen(hdr))
2792        || (flush_socket(csp->sfd, csp->iob) <  0))
2793       {
2794          log_error(LOG_LEVEL_CONNECT,
2795             "write header to: %s failed: %E", http->hostport);
2796
2797          rsp = error_response(csp, "connect-failed", errno);
2798          if (rsp)
2799          {
2800             send_crunch_response(csp, rsp);
2801          }
2802
2803          freez(hdr);
2804          return;
2805       }
2806    }
2807    else
2808    {
2809       /*
2810        * We're running an SSL tunnel and we're not forwarding,
2811        * so just send the "connect succeeded" message to the
2812        * client, flush the rest, and get out of the way.
2813        */
2814       if (write_socket(csp->cfd, CSUCCEED, strlen(CSUCCEED)))
2815       {
2816          freez(hdr);
2817          return;
2818       }
2819       IOB_RESET(csp);
2820    }
2821
2822    log_error(LOG_LEVEL_CONNECT, "to %s successful", http->hostport);
2823
2824    /* we're finished with the client's header */
2825    freez(hdr);
2826
2827    maxfd = (csp->cfd > csp->sfd) ? csp->cfd : csp->sfd;
2828
2829    /* pass data between the client and server
2830     * until one or the other shuts down the connection.
2831     */
2832
2833    server_body = 0;
2834
2835    for (;;)
2836    {
2837 #ifdef __OS2__
2838       /*
2839        * FD_ZERO here seems to point to an errant macro which crashes.
2840        * So do this by hand for now...
2841        */
2842       memset(&rfds,0x00,sizeof(fd_set));
2843 #else
2844       FD_ZERO(&rfds);
2845 #endif
2846       FD_SET(csp->cfd, &rfds);
2847       FD_SET(csp->sfd, &rfds);
2848
2849 #ifdef FEATURE_CONNECTION_KEEP_ALIVE
2850       if ((csp->flags & CSP_FLAG_CHUNKED)
2851          && !(csp->flags & CSP_FLAG_CONTENT_LENGTH_SET)
2852          && ((csp->iob->eod - csp->iob->cur) >= 5)
2853          && !memcmp(csp->iob->eod-5, "0\r\n\r\n", 5))
2854       {
2855          log_error(LOG_LEVEL_CONNECT,
2856             "Looks like we read the last chunk together with "
2857             "the server headers. We better stop reading.");
2858          byte_count = (unsigned long long)(csp->iob->eod - csp->iob->cur);
2859          csp->expected_content_length = byte_count;
2860          csp->flags |= CSP_FLAG_CONTENT_LENGTH_SET;
2861       }
2862       if (server_body && server_response_is_complete(csp, byte_count))
2863       {
2864          log_error(LOG_LEVEL_CONNECT,
2865             "Done reading from server. Expected content length: %llu. "
2866             "Actual content length: %llu. Most recently received: %d.",
2867             csp->expected_content_length, byte_count, len);
2868          len = 0;
2869          /*
2870           * XXX: should not jump around,
2871           * chat() is complicated enough already.
2872           */
2873          goto reading_done;
2874       }
2875 #endif  /* FEATURE_CONNECTION_KEEP_ALIVE */
2876
2877       timeout.tv_sec = csp->config->socket_timeout;
2878       timeout.tv_usec = 0;
2879       n = select((int)maxfd+1, &rfds, NULL, NULL, &timeout);
2880
2881       if (n == 0)
2882       {
2883          log_error(LOG_LEVEL_ERROR,
2884             "Didn't receive data in time: %s", http->url);
2885          if ((byte_count == 0) && (http->ssl == 0))
2886          {
2887             write_socket(csp->cfd, CONNECTION_TIMEOUT_RESPONSE,
2888                strlen(CONNECTION_TIMEOUT_RESPONSE));
2889          }
2890          mark_server_socket_tainted(csp);
2891          return;
2892       }
2893       else if (n < 0)
2894       {
2895          log_error(LOG_LEVEL_ERROR, "select() failed!: %E");
2896          mark_server_socket_tainted(csp);
2897          return;
2898       }
2899
2900       /*
2901        * This is the body of the browser's request,
2902        * just read and write it.
2903        */
2904       if (FD_ISSET(csp->cfd, &rfds))
2905       {
2906          len = read_socket(csp->cfd, buf, sizeof(buf) - 1);
2907
2908          if (len <= 0)
2909          {
2910             /* XXX: not sure if this is necessary. */
2911             mark_server_socket_tainted(csp);
2912             break; /* "game over, man" */
2913          }
2914
2915          if (write_socket(csp->sfd, buf, (size_t)len))
2916          {
2917             log_error(LOG_LEVEL_ERROR, "write to: %s failed: %E", http->host);
2918             mark_server_socket_tainted(csp);
2919             return;
2920          }
2921          continue;
2922       }
2923
2924       /*
2925        * The server wants to talk. It could be the header or the body.
2926        * If `hdr' is null, then it's the header otherwise it's the body.
2927        * FIXME: Does `hdr' really mean `host'? No.
2928        */
2929       if (FD_ISSET(csp->sfd, &rfds))
2930       {
2931          fflush(0);
2932          len = read_socket(csp->sfd, buf, sizeof(buf) - 1);
2933
2934          if (len < 0)
2935          {
2936             log_error(LOG_LEVEL_ERROR, "read from: %s failed: %E", http->host);
2937
2938             if (http->ssl && (fwd->forward_host == NULL))
2939             {
2940                /*
2941                 * Just hang up. We already confirmed the client's CONNECT
2942                 * request with status code 200 and unencrypted content is
2943                 * no longer welcome.
2944                 */
2945                log_error(LOG_LEVEL_ERROR,
2946                   "CONNECT already confirmed. Unable to tell the client about the problem.");
2947                return;
2948             }
2949             else if (byte_count)
2950             {
2951                /*
2952                 * Just hang up. We already transmitted the original headers
2953                 * and parts of the original content and therefore missed the
2954                 * chance to send an error message (without risking data corruption).
2955                 *
2956                 * XXX: we could retry with a fancy range request here.
2957                 */
2958                log_error(LOG_LEVEL_ERROR, "Already forwarded the original headers. "
2959                   "Unable to tell the client about the problem.");
2960                mark_server_socket_tainted(csp);
2961                return;
2962             }
2963
2964             rsp = error_response(csp, "connect-failed", errno);
2965             if (rsp)
2966             {
2967                send_crunch_response(csp, rsp);
2968             }
2969
2970             return;
2971          }
2972
2973 #ifdef FEATURE_CONNECTION_KEEP_ALIVE
2974          if (csp->flags & CSP_FLAG_CHUNKED)
2975          {
2976             if ((len >= 5) && !memcmp(buf+len-5, "0\r\n\r\n", 5))
2977             {
2978                /* XXX: this is a temporary hack */
2979                log_error(LOG_LEVEL_CONNECT,
2980                   "Looks like we reached the end of the last chunk. "
2981                   "We better stop reading.");
2982                csp->expected_content_length = byte_count + (unsigned long long)len;
2983                csp->flags |= CSP_FLAG_CONTENT_LENGTH_SET;
2984             }
2985          }
2986          reading_done:
2987 #endif  /* FEATURE_CONNECTION_KEEP_ALIVE */
2988
2989          /*
2990           * Add a trailing zero to let be able to use string operations.
2991           * XXX: do we still need this with filter_popups gone?
2992           */
2993          buf[len] = '\0';
2994
2995          /*
2996           * Normally, this would indicate that we've read
2997           * as much as the server has sent us and we can
2998           * close the client connection.  However, Microsoft
2999           * in its wisdom has released IIS/5 with a bug that
3000           * prevents it from sending the trailing \r\n in
3001           * a 302 redirect header (and possibly other headers).
3002           * To work around this if we've haven't parsed
3003           * a full header we'll append a trailing \r\n
3004           * and see if this now generates a valid one.
3005           *
3006           * This hack shouldn't have any impacts.  If we've
3007           * already transmitted the header or if this is a
3008           * SSL connection, then we won't bother with this
3009           * hack.  So we only work on partially received
3010           * headers.  If we append a \r\n and this still
3011           * doesn't generate a valid header, then we won't
3012           * transmit anything to the client.
3013           */
3014          if (len == 0)
3015          {
3016
3017             if (server_body || http->ssl)
3018             {
3019                /*
3020                 * If we have been buffering up the document,
3021                 * now is the time to apply content modification
3022                 * and send the result to the client.
3023                 */
3024                if (content_filter)
3025                {
3026                   p = execute_content_filter(csp, content_filter);
3027                   /*
3028                    * If the content filter fails, use the original
3029                    * buffer and length.
3030                    * (see p != NULL ? p : csp->iob->cur below)
3031                    */
3032                   if (NULL == p)
3033                   {
3034                      csp->content_length = (size_t)(csp->iob->eod - csp->iob->cur);
3035                   }
3036
3037                   if (JB_ERR_OK != update_server_headers(csp))
3038                   {
3039                      log_error(LOG_LEVEL_FATAL,
3040                         "Failed to update server headers. after filtering.");
3041                   }
3042
3043                   hdr = list_to_text(csp->headers);
3044                   if (hdr == NULL)
3045                   {
3046                      /* FIXME Should handle error properly */
3047                      log_error(LOG_LEVEL_FATAL, "Out of memory parsing server header");
3048                   }
3049
3050                   if (write_socket(csp->cfd, hdr, strlen(hdr))
3051                    || write_socket(csp->cfd,
3052                          ((p != NULL) ? p : csp->iob->cur), (size_t)csp->content_length))
3053                   {
3054                      log_error(LOG_LEVEL_ERROR, "write modified content to client failed: %E");
3055                      freez(hdr);
3056                      freez(p);
3057                      mark_server_socket_tainted(csp);
3058                      return;
3059                   }
3060
3061                   freez(hdr);
3062                   freez(p);
3063                }
3064
3065                break; /* "game over, man" */
3066             }
3067
3068             /*
3069              * This is NOT the body, so
3070              * Let's pretend the server just sent us a blank line.
3071              */
3072             snprintf(buf, sizeof(buf), "\r\n");
3073             len = (int)strlen(buf);
3074
3075             /*
3076              * Now, let the normal header parsing algorithm below do its
3077              * job.  If it fails, we'll exit instead of continuing.
3078              */
3079
3080             ms_iis5_hack = 1;
3081          }
3082
3083          /*
3084           * If this is an SSL connection or we're in the body
3085           * of the server document, just write it to the client,
3086           * unless we need to buffer the body for later content-filtering
3087           */
3088          if (server_body || http->ssl)
3089          {
3090             if (content_filter)
3091             {
3092                /*
3093                 * If there is no memory left for buffering the content, or the buffer limit
3094                 * has been reached, switch to non-filtering mode, i.e. make & write the
3095                 * header, flush the iob and buf, and get out of the way.
3096                 */
3097                if (add_to_iob(csp, buf, len))
3098                {
3099                   size_t hdrlen;
3100                   long flushed;
3101
3102                   log_error(LOG_LEVEL_INFO,
3103                      "Flushing header and buffers. Stepping back from filtering.");
3104
3105                   hdr = list_to_text(csp->headers);
3106                   if (hdr == NULL)
3107                   {
3108                      /* 
3109                       * Memory is too tight to even generate the header.
3110                       * Send our static "Out-of-memory" page.
3111                       */
3112                      log_error(LOG_LEVEL_ERROR, "Out of memory while trying to flush.");
3113                      rsp = cgi_error_memory();
3114                      send_crunch_response(csp, rsp);
3115                      mark_server_socket_tainted(csp);
3116                      return;
3117                   }
3118                   hdrlen = strlen(hdr);
3119
3120                   if (write_socket(csp->cfd, hdr, hdrlen)
3121                    || ((flushed = flush_socket(csp->cfd, csp->iob)) < 0)
3122                    || (write_socket(csp->cfd, buf, (size_t)len)))
3123                   {
3124                      log_error(LOG_LEVEL_CONNECT,
3125                         "Flush header and buffers to client failed: %E");
3126                      freez(hdr);
3127                      mark_server_socket_tainted(csp);
3128                      return;
3129                   }
3130
3131                   /*
3132                    * Reset the byte_count to the amount of bytes
3133                    * we just flushed. len will be added a few lines below,
3134                    * hdrlen doesn't matter for LOG_LEVEL_CLF.
3135                    */
3136                   byte_count = (unsigned long long)flushed;
3137                   freez(hdr);
3138                   content_filter = NULL;
3139                   server_body = 1;
3140                }
3141             }
3142             else
3143             {
3144                if (write_socket(csp->cfd, buf, (size_t)len))
3145                {
3146                   log_error(LOG_LEVEL_ERROR, "write to client failed: %E");
3147                   mark_server_socket_tainted(csp);
3148                   return;
3149                }
3150             }
3151             byte_count += (unsigned long long)len;
3152             continue;
3153          }
3154          else
3155          {
3156             const char *header_start;
3157             /*
3158              * We're still looking for the end of the server's header.
3159              * Buffer up the data we just read.  If that fails, there's
3160              * little we can do but send our static out-of-memory page.
3161              */
3162             if (add_to_iob(csp, buf, len))
3163             {
3164                log_error(LOG_LEVEL_ERROR, "Out of memory while looking for end of server headers.");
3165                rsp = cgi_error_memory();
3166                send_crunch_response(csp, rsp);               
3167                mark_server_socket_tainted(csp);
3168                return;
3169             }
3170
3171             header_start = csp->iob->cur;
3172
3173             /* Convert iob into something sed() can digest */
3174             if (JB_ERR_PARSE == get_server_headers(csp))
3175             {
3176                if (ms_iis5_hack)
3177                {
3178                   /*
3179                    * Well, we tried our MS IIS/5 hack and it didn't work.
3180                    * The header is incomplete and there isn't anything
3181                    * we can do about it.
3182                    */
3183                   log_error(LOG_LEVEL_INFO,
3184                      "MS IIS5 hack didn't produce valid headers.");
3185                   break;
3186                }
3187                else
3188                {
3189                   /*
3190                    * Since we have to wait for more from the server before
3191                    * we can parse the headers we just continue here.
3192                    */
3193                   long header_offset = csp->iob->cur - header_start;
3194                   assert(csp->iob->cur >= header_start);
3195                   byte_count += (unsigned long long)(len - header_offset);
3196                   log_error(LOG_LEVEL_CONNECT, "Continuing buffering headers. "
3197                      "byte_count: %llu. header_offset: %d. len: %d.",
3198                      byte_count, header_offset, len);
3199                   continue;
3200                }
3201             }
3202
3203             /* Did we actually get anything? */
3204             if (NULL == csp->headers->first)
3205             {
3206                log_error(LOG_LEVEL_ERROR, "Empty server or forwarder response.");
3207                log_error(LOG_LEVEL_CLF, "%s - - [%T] \"%s\" 502 0", csp->ip_addr_str, http->cmd);
3208                write_socket(csp->cfd, NO_SERVER_DATA_RESPONSE, strlen(NO_SERVER_DATA_RESPONSE));
3209                free_http_request(http);
3210                mark_server_socket_tainted(csp);
3211                return;
3212             }
3213
3214             assert(csp->headers->first->str);
3215             assert(!http->ssl);
3216             if (strncmpic(csp->headers->first->str, "HTTP", 4) &&
3217                 strncmpic(csp->headers->first->str, "ICY", 3))
3218             {
3219                /*
3220                 * It doesn't look like a HTTP (or Shoutcast) response:
3221                 * tell the client and log the problem.
3222                 */
3223                if (strlen(csp->headers->first->str) > 30)
3224                {
3225                   csp->headers->first->str[30] = '\0';
3226                }
3227                log_error(LOG_LEVEL_ERROR,
3228                   "Invalid server or forwarder response. Starts with: %s",
3229                   csp->headers->first->str);
3230                log_error(LOG_LEVEL_CLF,
3231                   "%s - - [%T] \"%s\" 502 0", csp->ip_addr_str, http->cmd);
3232                write_socket(csp->cfd, INVALID_SERVER_HEADERS_RESPONSE,
3233                   strlen(INVALID_SERVER_HEADERS_RESPONSE));
3234                free_http_request(http);
3235                mark_server_socket_tainted(csp);
3236                return;
3237             }
3238
3239             /*
3240              * We have now received the entire server header,
3241              * filter it and send the result to the client
3242              */
3243             if (JB_ERR_OK != sed(csp, FILTER_SERVER_HEADERS))
3244             {
3245                log_error(LOG_LEVEL_FATAL, "Failed to parse server headers.");
3246             }
3247             hdr = list_to_text(csp->headers);
3248             if (hdr == NULL)
3249             {
3250                /* FIXME Should handle error properly */
3251                log_error(LOG_LEVEL_FATAL, "Out of memory parsing server header");
3252             }
3253
3254             if (crunch_response_triggered(csp, crunchers_light))
3255             {
3256                /*
3257                 * One of the tags created by a server-header
3258                 * tagger triggered a crunch. We already
3259                 * delivered the crunch response to the client
3260                 * and are done here after cleaning up.
3261                 */
3262                 freez(hdr);
3263                 mark_server_socket_tainted(csp);
3264                 return;
3265             }
3266             /* Buffer and pcrs filter this if appropriate. */
3267
3268             if (!http->ssl) /* We talk plaintext */
3269             {
3270                content_filter = get_filter_function(csp);
3271             }
3272             /*
3273              * Only write if we're not buffering for content modification
3274              */
3275             if (!content_filter)
3276             {
3277                /*
3278                 * Write the server's (modified) header to
3279                 * the client (along with anything else that
3280                 * may be in the buffer)
3281                 */
3282
3283                if (write_socket(csp->cfd, hdr, strlen(hdr))
3284                 || ((len = flush_socket(csp->cfd, csp->iob)) < 0))
3285                {
3286                   log_error(LOG_LEVEL_CONNECT, "write header to client failed: %E");
3287
3288                   /*
3289                    * The write failed, so don't bother mentioning it
3290                    * to the client... it probably can't hear us anyway.
3291                    */
3292                   freez(hdr);
3293                   mark_server_socket_tainted(csp);
3294                   return;
3295                }
3296
3297                byte_count += (unsigned long long)len;
3298             }
3299             else
3300             {
3301                /*
3302                 * XXX: the header lenght should probably
3303                 * be calculated by get_server_headers().
3304                 */
3305                long header_length = csp->iob->cur - header_start;
3306                assert(csp->iob->cur > header_start);
3307                byte_count += (unsigned long long)(len - header_length);
3308             }
3309
3310             /* we're finished with the server's header */
3311
3312             freez(hdr);
3313             server_body = 1;
3314
3315             /*
3316              * If this was a MS IIS/5 hack then it means the server
3317              * has already closed the connection. Nothing more to read.
3318              * Time to bail.
3319              */
3320             if (ms_iis5_hack)
3321             {
3322                log_error(LOG_LEVEL_INFO,
3323                   "Closed server connection detected with MS IIS5 hack enabled.");
3324                break;
3325             }
3326          }
3327          continue;
3328       }
3329       mark_server_socket_tainted(csp);
3330       return; /* huh? we should never get here */
3331    }
3332
3333    if (csp->content_length == 0)
3334    {
3335       /*
3336        * If Privoxy didn't recalculate the Content-Lenght,
3337        * byte_count is still correct.
3338        */
3339       csp->content_length = byte_count;
3340    }
3341
3342 #ifdef FEATURE_CONNECTION_KEEP_ALIVE
3343    if ((csp->flags & CSP_FLAG_CONTENT_LENGTH_SET)
3344       && (csp->expected_content_length != byte_count))
3345    {
3346       log_error(LOG_LEVEL_CONNECT,
3347          "Received %llu bytes while expecting %llu.",
3348          byte_count, csp->expected_content_length);
3349       mark_server_socket_tainted(csp);
3350    }
3351 #endif
3352
3353    log_error(LOG_LEVEL_CLF, "%s - - [%T] \"%s\" 200 %llu",
3354       csp->ip_addr_str, http->ocmd, csp->content_length);
3355 }
3356
3357
3358 /*********************************************************************
3359  *
3360  * Function    :  serve
3361  *
3362  * Description :  This is little more than chat.  We only "serve" to
3363  *                to close (or remember) any socket that chat may have
3364  *                opened.
3365  *
3366  * Parameters  :
3367  *          1  :  csp = Current client state (buffers, headers, etc...)
3368  *
3369  * Returns     :  N/A
3370  *
3371  *********************************************************************/
3372 #ifdef AMIGA
3373 void serve(struct client_state *csp)
3374 #else /* ifndef AMIGA */
3375 static void serve(struct client_state *csp)
3376 #endif /* def AMIGA */
3377 {
3378    chat(csp);
3379
3380    if (csp->sfd != JB_INVALID_SOCKET)
3381    {
3382 #ifdef FEATURE_CONNECTION_KEEP_ALIVE
3383       static int monitor_thread_running = 0;
3384
3385       if ((csp->config->feature_flags & RUNTIME_FEATURE_CONNECTION_KEEP_ALIVE)
3386        && (csp->flags & CSP_FLAG_SERVER_CONNECTION_KEEP_ALIVE))
3387       {
3388          remember_connection(csp->sfd, csp->http, forward_url(csp, csp->http));
3389          close_socket(csp->cfd);
3390          csp->cfd = JB_INVALID_SOCKET;
3391          privoxy_mutex_lock(&connection_reuse_mutex);
3392          if (!monitor_thread_running)
3393          {
3394             monitor_thread_running = 1;
3395             privoxy_mutex_unlock(&connection_reuse_mutex);
3396             wait_for_alive_connections();
3397             privoxy_mutex_lock(&connection_reuse_mutex);
3398             monitor_thread_running = 0;
3399          }
3400          privoxy_mutex_unlock(&connection_reuse_mutex);
3401       }
3402       else
3403       {
3404          forget_connection(csp->sfd);
3405          close_socket(csp->sfd);
3406       }
3407 #else
3408       close_socket(csp->sfd);
3409 #endif /* def FEATURE_CONNECTION_KEEP_ALIVE */
3410    }
3411
3412    if (csp->cfd != JB_INVALID_SOCKET)
3413    {
3414       close_socket(csp->cfd);
3415    }
3416
3417    csp->flags &= ~CSP_FLAG_ACTIVE;
3418
3419 }
3420
3421
3422 #ifdef __BEOS__
3423 /*********************************************************************
3424  *
3425  * Function    :  server_thread
3426  *
3427  * Description :  We only exist to call `serve' in a threaded environment.
3428  *
3429  * Parameters  :
3430  *          1  :  data = Current client state (buffers, headers, etc...)
3431  *
3432  * Returns     :  Always 0.
3433  *
3434  *********************************************************************/
3435 static int32 server_thread(void *data)
3436 {
3437    serve((struct client_state *) data);
3438    return 0;
3439
3440 }
3441 #endif
3442
3443
3444 #if !defined(_WIN32) || defined(_WIN_CONSOLE)
3445 /*********************************************************************
3446  *
3447  * Function    :  usage
3448  *
3449  * Description :  Print usage info & exit.
3450  *
3451  * Parameters  :  Pointer to argv[0] for identifying ourselves
3452  *
3453  * Returns     :  No. ,-)
3454  *
3455  *********************************************************************/
3456 static void usage(const char *myname)
3457 {
3458    printf("Privoxy version " VERSION " (" HOME_PAGE_URL ")\n"
3459           "Usage: %s "
3460 #if defined(unix)
3461           "[--chroot] "
3462 #endif /* defined(unix) */
3463           "[--help] "
3464 #if defined(unix)
3465           "[--no-daemon] [--pidfile pidfile] [--pre-chroot-nslookup hostname] [--user user[.group]] "
3466 #endif /* defined(unix) */
3467           "[--version] [configfile]\n"
3468           "Aborting\n", myname);
3469
3470    exit(2);
3471
3472 }
3473 #endif /* #if !defined(_WIN32) || defined(_WIN_CONSOLE) */
3474
3475
3476 #ifdef MUTEX_LOCKS_AVAILABLE
3477 /*********************************************************************
3478  *
3479  * Function    :  privoxy_mutex_lock
3480  *
3481  * Description :  Locks a mutex.
3482  *
3483  * Parameters  :
3484  *          1  :  mutex = The mutex to lock.
3485  *
3486  * Returns     :  Void. May exit in case of errors.
3487  *
3488  *********************************************************************/
3489 void privoxy_mutex_lock(privoxy_mutex_t *mutex)
3490 {
3491 #ifdef FEATURE_PTHREAD
3492    int err = pthread_mutex_lock(mutex);
3493    if (err)
3494    {
3495       if (mutex != &log_mutex)
3496       {
3497          log_error(LOG_LEVEL_FATAL,
3498             "Mutex locking failed: %s.\n", strerror(err));
3499       }
3500       exit(1);
3501    }
3502 #else
3503    EnterCriticalSection(mutex);
3504 #endif /* def FEATURE_PTHREAD */
3505 }
3506
3507
3508 /*********************************************************************
3509  *
3510  * Function    :  privoxy_mutex_unlock
3511  *
3512  * Description :  Unlocks a mutex.
3513  *
3514  * Parameters  :
3515  *          1  :  mutex = The mutex to unlock.
3516  *
3517  * Returns     :  Void. May exit in case of errors.
3518  *
3519  *********************************************************************/
3520 void privoxy_mutex_unlock(privoxy_mutex_t *mutex)
3521 {
3522 #ifdef FEATURE_PTHREAD
3523    int err = pthread_mutex_unlock(mutex);
3524    if (err)
3525    {
3526       if (mutex != &log_mutex)
3527       {
3528          log_error(LOG_LEVEL_FATAL,
3529             "Mutex unlocking failed: %s.\n", strerror(err));
3530       }
3531       exit(1);
3532    }
3533 #else
3534    LeaveCriticalSection(mutex);
3535 #endif /* def FEATURE_PTHREAD */
3536 }
3537
3538
3539 /*********************************************************************
3540  *
3541  * Function    :  privoxy_mutex_init
3542  *
3543  * Description :  Prepares a mutex.
3544  *
3545  * Parameters  :
3546  *          1  :  mutex = The mutex to initialize.
3547  *
3548  * Returns     :  Void. May exit in case of errors.
3549  *
3550  *********************************************************************/
3551 static void privoxy_mutex_init(privoxy_mutex_t *mutex)
3552 {
3553 #ifdef FEATURE_PTHREAD
3554    int err = pthread_mutex_init(mutex, 0);
3555    if (err)
3556    {
3557       printf("Fatal error. Mutex initialization failed: %s.\n",
3558          strerror(err));
3559       exit(1);
3560    }
3561 #else
3562    InitializeCriticalSection(mutex);
3563 #endif /* def FEATURE_PTHREAD */
3564 }
3565 #endif /* def MUTEX_LOCKS_AVAILABLE */
3566
3567 /*********************************************************************
3568  *
3569  * Function    :  initialize_mutexes
3570  *
3571  * Description :  Prepares mutexes if mutex support is available.
3572  *
3573  * Parameters  :  None
3574  *
3575  * Returns     :  Void, exits in case of errors.
3576  *
3577  *********************************************************************/
3578 static void initialize_mutexes(void)
3579 {
3580 #ifdef MUTEX_LOCKS_AVAILABLE
3581    /*
3582     * Prepare global mutex semaphores
3583     */
3584    privoxy_mutex_init(&log_mutex);
3585    privoxy_mutex_init(&log_init_mutex);
3586    privoxy_mutex_init(&connection_reuse_mutex);
3587
3588    /*
3589     * XXX: The assumptions below are a bit naive
3590     * and can cause locks that aren't necessary.
3591     *
3592     * For example older FreeBSD versions (< 6.x?)
3593     * have no gethostbyname_r, but gethostbyname is
3594     * thread safe.
3595     */
3596 #if !defined(HAVE_GETHOSTBYADDR_R) || !defined(HAVE_GETHOSTBYNAME_R)
3597    privoxy_mutex_init(&resolver_mutex);
3598 #endif /* !defined(HAVE_GETHOSTBYADDR_R) || !defined(HAVE_GETHOSTBYNAME_R) */
3599    /*
3600     * XXX: should we use a single mutex for
3601     * localtime() and gmtime() as well?
3602     */
3603 #ifndef HAVE_GMTIME_R
3604    privoxy_mutex_init(&gmtime_mutex);
3605 #endif /* ndef HAVE_GMTIME_R */
3606
3607 #ifndef HAVE_LOCALTIME_R
3608    privoxy_mutex_init(&localtime_mutex);
3609 #endif /* ndef HAVE_GMTIME_R */
3610
3611 #ifndef HAVE_RANDOM
3612    privoxy_mutex_init(&rand_mutex);
3613 #endif /* ndef HAVE_RANDOM */
3614 #endif /* def MUTEX_LOCKS_AVAILABLE */
3615 }
3616
3617
3618 /*********************************************************************
3619  *
3620  * Function    :  main
3621  *
3622  * Description :  Load the config file and start the listen loop.
3623  *                This function is a lot more *sane* with the `load_config'
3624  *                and `listen_loop' functions; although it stills does
3625  *                a *little* too much for my taste.
3626  *
3627  * Parameters  :
3628  *          1  :  argc = Number of parameters (including $0).
3629  *          2  :  argv = Array of (char *)'s to the parameters.
3630  *
3631  * Returns     :  1 if : can't open config file, unrecognized directive,
3632  *                stats requested in multi-thread mode, can't open the
3633  *                log file, can't open the jar file, listen port is invalid,
3634  *                any load fails, and can't bind port.
3635  *
3636  *                Else main never returns, the process must be signaled
3637  *                to terminate execution.  Or, on Windows, use the
3638  *                "File", "Exit" menu option.
3639  *
3640  *********************************************************************/
3641 #ifdef __MINGW32__
3642 int real_main(int argc, const char *argv[])
3643 #else
3644 int main(int argc, const char *argv[])
3645 #endif
3646 {
3647    int argc_pos = 0;
3648    unsigned int random_seed;
3649 #ifdef unix
3650    struct passwd *pw = NULL;
3651    struct group *grp = NULL;
3652    char *p;
3653    int do_chroot = 0;
3654    char *pre_chroot_nslookup_to_load_resolver = NULL;
3655 #endif
3656
3657    Argc = argc;
3658    Argv = argv;
3659
3660    configfile =
3661 #if !defined(_WIN32)
3662    "config"
3663 #else
3664    "config.txt"
3665 #endif
3666       ;
3667
3668    /* Prepare mutexes if supported and necessary. */
3669    initialize_mutexes();
3670
3671    /* Enable logging until further notice. */
3672    init_log_module();
3673
3674    /*
3675     * Parse the command line arguments
3676     *
3677     * XXX: simply printing usage information in case of
3678     * invalid arguments isn't particularly user friendly.
3679     */
3680    while (++argc_pos < argc)
3681    {
3682 #ifdef _WIN32
3683       /* Check to see if the service must be installed or uninstalled */
3684       if (strncmp(argv[argc_pos], "--install", 9) == 0)
3685       {
3686          const char *pName = argv[argc_pos] + 9;
3687          if (*pName == ':')
3688             pName++;
3689          exit( (install_service(pName)) ? 0 : 1 );
3690       }
3691       else if (strncmp(argv[argc_pos], "--uninstall", + 11) == 0)
3692       {
3693          const char *pName = argv[argc_pos] + 11;
3694          if (*pName == ':')
3695             pName++;
3696          exit((uninstall_service(pName)) ? 0 : 1);
3697       }
3698       else if (strcmp(argv[argc_pos], "--service" ) == 0)
3699       {
3700          bRunAsService = TRUE;
3701          w32_set_service_cwd();
3702          atexit(w32_service_exit_notify);
3703       }
3704       else
3705 #endif /* defined(_WIN32) */
3706
3707
3708 #if !defined(_WIN32) || defined(_WIN_CONSOLE)
3709
3710       if (strcmp(argv[argc_pos], "--help") == 0)
3711       {
3712          usage(argv[0]);
3713       }
3714
3715       else if(strcmp(argv[argc_pos], "--version") == 0)
3716       {
3717          printf("Privoxy version " VERSION " (" HOME_PAGE_URL ")\n");
3718          exit(0);
3719       }
3720
3721 #if defined(unix)
3722
3723       else if (strcmp(argv[argc_pos], "--no-daemon" ) == 0)
3724       {
3725          set_debug_level(LOG_LEVEL_FATAL | LOG_LEVEL_ERROR | LOG_LEVEL_INFO);
3726          no_daemon = 1;
3727       }
3728
3729       else if (strcmp(argv[argc_pos], "--pidfile" ) == 0)
3730       {
3731          if (++argc_pos == argc) usage(argv[0]);
3732          pidfile = strdup(argv[argc_pos]);
3733       }
3734
3735       else if (strcmp(argv[argc_pos], "--user" ) == 0)
3736       {
3737          if (++argc_pos == argc) usage(argv[argc_pos]);
3738
3739          if ((NULL != (p = strchr(argv[argc_pos], '.'))) && *(p + 1) != '0')
3740          {
3741             *p++ = '\0';
3742             if (NULL == (grp = getgrnam(p)))
3743             {
3744                log_error(LOG_LEVEL_FATAL, "Group %s not found.", p);
3745             }
3746          }
3747
3748          if (NULL == (pw = getpwnam(argv[argc_pos])))
3749          {
3750             log_error(LOG_LEVEL_FATAL, "User %s not found.", argv[argc_pos]);
3751          }
3752
3753          if (p != NULL) *--p = '\0';
3754       }
3755
3756       else if (strcmp(argv[argc_pos], "--pre-chroot-nslookup" ) == 0)
3757       {
3758          if (++argc_pos == argc) usage(argv[0]);
3759          pre_chroot_nslookup_to_load_resolver = strdup(argv[argc_pos]);
3760       }
3761
3762       else if (strcmp(argv[argc_pos], "--chroot" ) == 0)
3763       {
3764          do_chroot = 1;
3765       }
3766 #endif /* defined(unix) */
3767
3768       else if (argc_pos + 1 != argc)
3769       {
3770          /*
3771           * This is neither the last command line
3772           * option, nor was it recognized before,
3773           * therefore it must be invalid.
3774           */
3775          usage(argv[0]);
3776       }
3777       else
3778
3779 #endif /* defined(_WIN32) && !defined(_WIN_CONSOLE) */
3780       {
3781          configfile = argv[argc_pos];
3782       }
3783
3784    } /* -END- while (more arguments) */
3785
3786    show_version(Argv[0]);
3787
3788 #if defined(unix)
3789    if ( *configfile != '/' )
3790    {
3791       char cwd[BUFFER_SIZE];
3792       char *abs_file;
3793       size_t abs_file_size; 
3794
3795       /* make config-filename absolute here */
3796       if (NULL == getcwd(cwd, sizeof(cwd)))
3797       {
3798          perror("failed to get current working directory");
3799          exit( 1 );
3800       }
3801
3802       /* XXX: why + 5? */
3803       abs_file_size = strlen(cwd) + strlen(configfile) + 5;
3804       basedir = strdup(cwd);
3805
3806       if (NULL == basedir ||
3807           NULL == (abs_file = malloc(abs_file_size)))
3808       {
3809          perror("malloc failed");
3810          exit( 1 );
3811       }
3812       strlcpy(abs_file, basedir, abs_file_size);
3813       strlcat(abs_file, "/", abs_file_size );
3814       strlcat(abs_file, configfile, abs_file_size);
3815       configfile = abs_file;
3816    }
3817 #endif /* defined unix */
3818
3819
3820    files->next = NULL;
3821    clients->next = NULL;
3822
3823    /* XXX: factor out initialising after the next stable release. */
3824 #ifdef AMIGA
3825    InitAmiga();
3826 #elif defined(_WIN32)
3827    InitWin32();
3828 #endif
3829
3830    random_seed = (unsigned int)time(NULL);
3831 #ifdef HAVE_RANDOM
3832    srandom(random_seed);
3833 #else
3834    srand(random_seed);
3835 #endif /* ifdef HAVE_RANDOM */
3836
3837    /*
3838     * Unix signal handling
3839     *
3840     * Catch the abort, interrupt and terminate signals for a graceful exit
3841     * Catch the hangup signal so the errlog can be reopened.
3842     * Ignore the broken pipe signals (FIXME: Why?)
3843     */
3844 #if !defined(_WIN32) && !defined(__OS2__) && !defined(AMIGA)
3845 {
3846    int idx;
3847    const int catched_signals[] = { SIGTERM, SIGINT, SIGHUP, 0 };
3848    const int ignored_signals[] = { SIGPIPE, 0 };
3849
3850    for (idx = 0; catched_signals[idx] != 0; idx++)
3851    {
3852 #ifdef sun /* FIXME: Is it safe to check for HAVE_SIGSET instead? */ 
3853       if (sigset(catched_signals[idx], sig_handler) == SIG_ERR)
3854 #else
3855       if (signal(catched_signals[idx], sig_handler) == SIG_ERR)
3856 #endif /* ifdef sun */
3857       {
3858          log_error(LOG_LEVEL_FATAL, "Can't set signal-handler for signal %d: %E", catched_signals[idx]);
3859       }
3860    }
3861
3862    for (idx = 0; ignored_signals[idx] != 0; idx++)
3863    {
3864       if (signal(ignored_signals[idx], SIG_IGN) == SIG_ERR)
3865       {
3866          log_error(LOG_LEVEL_FATAL, "Can't set ignore-handler for signal %d: %E", ignored_signals[idx]);
3867       }
3868    }
3869
3870 }
3871 #else /* ifdef _WIN32 */
3872 # ifdef _WIN_CONSOLE
3873    /*
3874     * We *are* in a windows console app.
3875     * Print a verbose messages about FAQ's and such
3876     */
3877    printf("%s", win32_blurb);
3878 # endif /* def _WIN_CONSOLE */
3879 #endif /* def _WIN32 */
3880
3881
3882    /* Initialize the CGI subsystem */
3883    cgi_init_error_messages();
3884
3885    /*
3886     * If runnig on unix and without the --nodaemon
3887     * option, become a daemon. I.e. fork, detach
3888     * from tty and get process group leadership
3889     */
3890 #if defined(unix)
3891 {
3892    pid_t pid = 0;
3893 #if 0
3894    int   fd;
3895 #endif
3896
3897    if (!no_daemon)
3898    {
3899       pid  = fork();
3900
3901       if ( pid < 0 ) /* error */
3902       {
3903          perror("fork");
3904          exit( 3 );
3905       }
3906       else if ( pid != 0 ) /* parent */
3907       {
3908          int status;
3909          pid_t wpid;
3910          /*
3911           * must check for errors
3912           * child died due to missing files aso
3913           */
3914          sleep( 1 );
3915          wpid = waitpid( pid, &status, WNOHANG );
3916          if ( wpid != 0 )
3917          {
3918             exit( 1 );
3919          }
3920          exit( 0 );
3921       }
3922       /* child */
3923 #if 1
3924       /* Should be more portable, but not as well tested */
3925       setsid();
3926 #else /* !1 */
3927 #ifdef __FreeBSD__
3928       setpgrp(0,0);
3929 #else /* ndef __FreeBSD__ */
3930       setpgrp();
3931 #endif /* ndef __FreeBSD__ */
3932       fd = open("/dev/tty", O_RDONLY);
3933       if ( fd )
3934       {
3935          /* no error check here */
3936          ioctl( fd, TIOCNOTTY,0 );
3937          close ( fd );
3938       }
3939 #endif /* 1 */
3940       /*
3941        * stderr (fd 2) will be closed later on,
3942        * when the config file has been parsed.
3943        */
3944
3945       close( 0 );
3946       close( 1 );
3947       chdir("/");
3948
3949    } /* -END- if (!no_daemon) */
3950
3951    /*
3952     * As soon as we have written the PID file, we can switch
3953     * to the user and group ID indicated by the --user option
3954     */
3955    write_pid_file();
3956
3957    if (NULL != pw)
3958    {
3959       if (setgid((NULL != grp) ? grp->gr_gid : pw->pw_gid))
3960       {
3961          log_error(LOG_LEVEL_FATAL, "Cannot setgid(): Insufficient permissions.");
3962       }
3963       if (NULL != grp)
3964       {
3965          if (setgroups(1, &grp->gr_gid))
3966          {
3967             log_error(LOG_LEVEL_FATAL, "setgroups() failed: %E");
3968          }
3969       }
3970       else if (initgroups(pw->pw_name, pw->pw_gid))
3971       {
3972          log_error(LOG_LEVEL_FATAL, "initgroups() failed: %E");
3973       }
3974       if (do_chroot)
3975       {
3976          if (!pw->pw_dir)
3977          {
3978             log_error(LOG_LEVEL_FATAL, "Home directory for %s undefined", pw->pw_name);
3979          }
3980          /* Read the time zone file from /etc before doing chroot. */
3981          tzset();
3982          if (NULL != pre_chroot_nslookup_to_load_resolver
3983              && '\0' != pre_chroot_nslookup_to_load_resolver[0])
3984          {
3985             /* Initialize resolver library. */
3986             (void) resolve_hostname_to_ip(pre_chroot_nslookup_to_load_resolver);
3987          }
3988          if (chroot(pw->pw_dir) < 0)
3989          {
3990             log_error(LOG_LEVEL_FATAL, "Cannot chroot to %s", pw->pw_dir);
3991          }
3992          if (chdir ("/"))
3993          {
3994             log_error(LOG_LEVEL_FATAL, "Cannot chdir /");
3995          }
3996       }
3997       if (setuid(pw->pw_uid))
3998       {
3999          log_error(LOG_LEVEL_FATAL, "Cannot setuid(): Insufficient permissions.");
4000       }
4001       if (do_chroot)
4002       {
4003          char putenv_dummy[64];
4004
4005          strlcpy(putenv_dummy, "HOME=/", sizeof(putenv_dummy));
4006          if (putenv(putenv_dummy) != 0)
4007          {
4008             log_error(LOG_LEVEL_FATAL, "Cannot putenv(): HOME");
4009          }                
4010
4011          snprintf(putenv_dummy, sizeof(putenv_dummy), "USER=%s", pw->pw_name);
4012          if (putenv(putenv_dummy) != 0)
4013          {
4014             log_error(LOG_LEVEL_FATAL, "Cannot putenv(): USER");
4015          }
4016       }
4017    }
4018    else if (do_chroot)
4019    {
4020       log_error(LOG_LEVEL_FATAL, "Cannot chroot without --user argument.");
4021    }
4022 }
4023 #endif /* defined unix */
4024
4025 #ifdef _WIN32
4026    /* This will be FALSE unless the command line specified --service
4027     */
4028    if (bRunAsService)
4029    {
4030       /* Yup, so now we must attempt to establish a connection 
4031        * with the service dispatcher. This will only work if this
4032        * process was launched by the service control manager to
4033        * actually run as a service. If this isn't the case, i've
4034        * known it take around 30 seconds or so for the call to return.
4035        */
4036
4037       /* The StartServiceCtrlDispatcher won't return until the service is stopping */
4038       if (w32_start_service_ctrl_dispatcher(w32ServiceDispatchTable))
4039       {
4040          /* Service has run, and at this point is now being stopped, so just return */
4041          return 0;
4042       }
4043
4044 #ifdef _WIN_CONSOLE
4045       printf("Warning: Failed to connect to Service Control Dispatcher\nwhen starting as a service!\n");
4046 #endif
4047       /* An error occurred. Usually it's because --service was wrongly specified
4048        * and we were unable to connect to the Service Control Dispatcher because
4049        * it wasn't expecting us and is therefore not listening.
4050        *
4051        * For now, just continue below to call the listen_loop function.
4052        */
4053    }
4054 #endif /* def _WIN32 */
4055
4056    listen_loop();
4057
4058    /* NOTREACHED */
4059    return(-1);
4060
4061 }
4062
4063
4064 /*********************************************************************
4065  *
4066  * Function    :  bind_port_helper
4067  *
4068  * Description :  Bind the listen port.  Handles logging, and aborts
4069  *                on failure.
4070  *
4071  * Parameters  :
4072  *          1  :  config = Privoxy configuration.  Specifies port
4073  *                         to bind to.
4074  *
4075  * Returns     :  Port that was opened.
4076  *
4077  *********************************************************************/
4078 static jb_socket bind_port_helper(struct configuration_spec * config)
4079 {
4080    int result;
4081    jb_socket bfd;
4082
4083    if (config->haddr == NULL)
4084    {
4085       log_error(LOG_LEVEL_INFO, "Listening on port %d on all IP addresses",
4086                 config->hport);
4087    }
4088    else
4089    {
4090       log_error(LOG_LEVEL_INFO, "Listening on port %d on IP address %s",
4091                 config->hport, config->haddr);
4092    }
4093
4094    result = bind_port(config->haddr, config->hport, &bfd);
4095
4096    if (result < 0)
4097    {
4098       switch(result)
4099       {
4100          case -3 :
4101             log_error(LOG_LEVEL_FATAL, "can't bind to %s:%d: "
4102                "There may be another Privoxy or some other "
4103                "proxy running on port %d",
4104                (NULL != config->haddr) ? config->haddr : "INADDR_ANY",
4105                       config->hport, config->hport);
4106
4107          case -2 :
4108             log_error(LOG_LEVEL_FATAL, "can't bind to %s:%d: " 
4109                "The hostname is not resolvable",
4110                (NULL != config->haddr) ? config->haddr : "INADDR_ANY", config->hport);
4111
4112          default :
4113             log_error(LOG_LEVEL_FATAL, "can't bind to %s:%d: because %E",
4114                (NULL != config->haddr) ? config->haddr : "INADDR_ANY", config->hport);
4115       }
4116
4117       /* shouldn't get here */
4118       return JB_INVALID_SOCKET;
4119    }
4120
4121    config->need_bind = 0;
4122
4123    return bfd;
4124 }
4125
4126
4127 #ifdef _WIN32
4128 /* Without this simple workaround we get this compiler warning from _beginthread
4129  *     warning C4028: formal parameter 1 different from declaration
4130  */
4131 void w32_service_listen_loop(void *p)
4132 {
4133    listen_loop();
4134 }
4135 #endif /* def _WIN32 */
4136
4137
4138 /*********************************************************************
4139  *
4140  * Function    :  listen_loop
4141  *
4142  * Description :  bind the listen port and enter a "FOREVER" listening loop.
4143  *
4144  * Parameters  :  N/A
4145  *
4146  * Returns     :  Never.
4147  *
4148  *********************************************************************/
4149 static void listen_loop(void)
4150 {
4151    struct client_state *csp = NULL;
4152    jb_socket bfd;
4153    struct configuration_spec * config;
4154
4155    config = load_config();
4156
4157 #ifdef FEATURE_CONNECTION_KEEP_ALIVE
4158    /*
4159     * XXX: Should be relocated once it no
4160     * longer needs to emit log messages.
4161     */
4162    initialize_reusable_connections();
4163 #endif /* def FEATURE_CONNECTION_KEEP_ALIVE */
4164
4165    bfd = bind_port_helper(config);
4166
4167 #ifdef FEATURE_GRACEFUL_TERMINATION
4168    while (!g_terminate)
4169 #else
4170    for (;;)
4171 #endif
4172    {
4173 #if !defined(FEATURE_PTHREAD) && !defined(_WIN32) && !defined(__BEOS__) && !defined(AMIGA) && !defined(__OS2__)
4174       while (waitpid(-1, NULL, WNOHANG) > 0)
4175       {
4176          /* zombie children */
4177       }
4178 #endif /* !defined(FEATURE_PTHREAD) && !defined(_WIN32) && !defined(__BEOS__) && !defined(AMIGA) */
4179
4180       /*
4181        * Free data that was used by died threads
4182        */
4183       sweep();
4184
4185 #if defined(unix)
4186       /*
4187        * Re-open the errlog after HUP signal
4188        */
4189       if (received_hup_signal)
4190       {
4191          if (NULL != config->logfile)
4192          {
4193             init_error_log(Argv[0], config->logfile);
4194          }
4195          received_hup_signal = 0;
4196       }
4197 #endif
4198
4199       if ( NULL == (csp = (struct client_state *) zalloc(sizeof(*csp))) )
4200       {
4201          log_error(LOG_LEVEL_FATAL, "malloc(%d) for csp failed: %E", sizeof(*csp));
4202          continue;
4203       }
4204
4205       csp->flags |= CSP_FLAG_ACTIVE;
4206       csp->sfd    = JB_INVALID_SOCKET;
4207
4208       csp->config = config = load_config();
4209
4210       if ( config->need_bind )
4211       {
4212          /*
4213           * Since we were listening to the "old port", we will not see
4214           * a "listen" param change until the next IJB request.  So, at
4215           * least 1 more request must be made for us to find the new
4216           * setting.  I am simply closing the old socket and binding the
4217           * new one.
4218           *
4219           * Which-ever is correct, we will serve 1 more page via the
4220           * old settings.  This should probably be a "show-proxy-args"
4221           * request.  This should not be a so common of an operation
4222           * that this will hurt people's feelings.
4223           */
4224
4225          close_socket(bfd);
4226
4227          bfd = bind_port_helper(config);
4228       }
4229
4230       log_error(LOG_LEVEL_CONNECT, "Listening for new connections ... ");
4231
4232       if (!accept_connection(csp, bfd))
4233       {
4234          log_error(LOG_LEVEL_CONNECT, "accept failed: %E");
4235
4236 #ifdef AMIGA
4237          if(!childs)
4238          {
4239             exit(1);
4240          }
4241 #endif
4242          freez(csp);
4243          continue;
4244       }
4245       else
4246       {
4247          log_error(LOG_LEVEL_CONNECT, "accepted connection from %s", csp->ip_addr_str);
4248       }
4249
4250 #ifdef FEATURE_TOGGLE
4251       if (global_toggle_state)
4252 #endif /* def FEATURE_TOGGLE */
4253       {
4254          csp->flags |= CSP_FLAG_TOGGLED_ON;
4255       }
4256
4257       if (run_loader(csp))
4258       {
4259          log_error(LOG_LEVEL_FATAL, "a loader failed - must exit");
4260          /* Never get here - LOG_LEVEL_FATAL causes program exit */
4261       }
4262
4263 #ifdef FEATURE_ACL
4264       if (block_acl(NULL,csp))
4265       {
4266          log_error(LOG_LEVEL_CONNECT, "Connection from %s dropped due to ACL", csp->ip_addr_str);
4267          close_socket(csp->cfd);
4268          freez(csp);
4269          continue;
4270       }
4271 #endif /* def FEATURE_ACL */
4272
4273       /* add it to the list of clients */
4274       csp->next = clients->next;
4275       clients->next = csp;
4276
4277       if (config->multi_threaded)
4278       {
4279          int child_id;
4280
4281 /* this is a switch () statment in the C preprocessor - ugh */
4282 #undef SELECTED_ONE_OPTION
4283
4284 /* Use Pthreads in preference to native code */
4285 #if defined(FEATURE_PTHREAD) && !defined(SELECTED_ONE_OPTION)
4286 #define SELECTED_ONE_OPTION
4287          {
4288             pthread_t the_thread;
4289             pthread_attr_t attrs;
4290
4291             pthread_attr_init(&attrs);
4292             pthread_attr_setdetachstate(&attrs, PTHREAD_CREATE_DETACHED);
4293             errno = pthread_create(&the_thread, &attrs,
4294                (void * (*)(void *))serve, csp);
4295             child_id = errno ? -1 : 0;
4296             pthread_attr_destroy(&attrs);
4297          }
4298 #endif
4299
4300 #if defined(_WIN32) && !defined(_CYGWIN) && !defined(SELECTED_ONE_OPTION)
4301 #define SELECTED_ONE_OPTION
4302          child_id = _beginthread(
4303             (void (*)(void *))serve,
4304             64 * 1024,
4305             csp);
4306 #endif
4307
4308 #if defined(__OS2__) && !defined(SELECTED_ONE_OPTION)
4309 #define SELECTED_ONE_OPTION
4310          child_id = _beginthread(
4311             (void(* _Optlink)(void*))serve,
4312             NULL,
4313             64 * 1024,
4314             csp);
4315 #endif
4316
4317 #if defined(__BEOS__) && !defined(SELECTED_ONE_OPTION)
4318 #define SELECTED_ONE_OPTION
4319          {
4320             thread_id tid = spawn_thread
4321                (server_thread, "server", B_NORMAL_PRIORITY, csp);
4322
4323             if ((tid >= 0) && (resume_thread(tid) == B_OK))
4324             {
4325                child_id = (int) tid;
4326             }
4327             else
4328             {
4329                child_id = -1;
4330             }
4331          }
4332 #endif
4333
4334 #if defined(AMIGA) && !defined(SELECTED_ONE_OPTION)
4335 #define SELECTED_ONE_OPTION
4336          csp->cfd = ReleaseSocket(csp->cfd, -1);
4337          
4338 #ifdef __amigaos4__
4339          child_id = (int)CreateNewProcTags(NP_Entry, (ULONG)server_thread,
4340                                            NP_Output, Output(),
4341                                            NP_CloseOutput, FALSE,
4342                                            NP_Name, (ULONG)"privoxy child",
4343                                            NP_Child, TRUE,
4344                                            TAG_DONE);
4345 #else
4346          child_id = (int)CreateNewProcTags(NP_Entry, (ULONG)server_thread,
4347                                            NP_Output, Output(),
4348                                            NP_CloseOutput, FALSE,
4349                                            NP_Name, (ULONG)"privoxy child",
4350                                            NP_StackSize, 200*1024,
4351                                            TAG_DONE);
4352 #endif
4353          if(0 != child_id)
4354          {
4355             childs++;
4356             ((struct Task *)child_id)->tc_UserData = csp;
4357             Signal((struct Task *)child_id, SIGF_SINGLE);
4358             Wait(SIGF_SINGLE);
4359          }
4360 #endif
4361
4362 #if !defined(SELECTED_ONE_OPTION)
4363          child_id = fork();
4364
4365          /* This block is only needed when using fork().
4366           * When using threads, the server thread was
4367           * created and run by the call to _beginthread().
4368           */
4369          if (child_id == 0)   /* child */
4370          {
4371             int rc = 0;
4372 #ifdef FEATURE_TOGGLE
4373             int inherited_toggle_state = global_toggle_state;
4374 #endif /* def FEATURE_TOGGLE */
4375
4376             serve(csp);
4377
4378             /* 
4379              * If we've been toggled or we've blocked the request, tell Mom
4380              */
4381
4382 #ifdef FEATURE_TOGGLE
4383             if (inherited_toggle_state != global_toggle_state)
4384             {
4385                rc |= RC_FLAG_TOGGLED;
4386             }
4387 #endif /* def FEATURE_TOGGLE */
4388
4389 #ifdef FEATURE_STATISTICS  
4390             if (csp->flags & CSP_FLAG_REJECTED)
4391             {
4392                rc |= RC_FLAG_BLOCKED;
4393             }
4394 #endif /* ndef FEATURE_STATISTICS */
4395
4396             _exit(rc);
4397          }
4398          else if (child_id > 0) /* parent */
4399          {
4400             /* in a fork()'d environment, the parent's
4401              * copy of the client socket and the CSP
4402              * are not used.
4403              */
4404             int child_status;
4405 #if !defined(_WIN32) && !defined(__CYGWIN__)
4406
4407             wait( &child_status );
4408
4409             /* 
4410              * Evaluate child's return code: If the child has
4411              *  - been toggled, toggle ourselves
4412              *  - blocked its request, bump up the stats counter
4413              */
4414
4415 #ifdef FEATURE_TOGGLE
4416             if (WIFEXITED(child_status) && (WEXITSTATUS(child_status) & RC_FLAG_TOGGLED))
4417             {
4418                global_toggle_state = !global_toggle_state;
4419             }
4420 #endif /* def FEATURE_TOGGLE */
4421
4422 #ifdef FEATURE_STATISTICS
4423             urls_read++;
4424             if (WIFEXITED(child_status) && (WEXITSTATUS(child_status) & RC_FLAG_BLOCKED))
4425             {
4426                urls_rejected++;
4427             }
4428 #endif /* def FEATURE_STATISTICS */ 
4429
4430 #endif /* !defined(_WIN32) && defined(__CYGWIN__) */
4431             close_socket(csp->cfd);
4432             csp->flags &= ~CSP_FLAG_ACTIVE;
4433          }
4434 #endif
4435
4436 #undef SELECTED_ONE_OPTION
4437 /* end of cpp switch () */
4438
4439          if (child_id < 0)
4440          {
4441             /*
4442              * Spawning the child failed, assume it's because
4443              * there are too many children running already.
4444              * XXX: If you assume ...
4445              */
4446             log_error(LOG_LEVEL_ERROR,
4447                "Unable to take any additional connections: %E");
4448             write_socket(csp->cfd, TOO_MANY_CONNECTIONS_RESPONSE,
4449                strlen(TOO_MANY_CONNECTIONS_RESPONSE));
4450             close_socket(csp->cfd);
4451             csp->flags &= ~CSP_FLAG_ACTIVE;
4452          }
4453       }
4454       else
4455       {
4456          serve(csp);
4457       }
4458    }
4459
4460    /* NOTREACHED unless FEATURE_GRACEFUL_TERMINATION is defined */
4461
4462    /* Clean up.  Aim: free all memory (no leaks) */
4463 #ifdef FEATURE_GRACEFUL_TERMINATION
4464
4465    log_error(LOG_LEVEL_ERROR, "Graceful termination requested");
4466
4467    unload_current_config_file();
4468    unload_current_actions_file();
4469    unload_current_re_filterfile();
4470 #ifdef FEATURE_TRUST
4471    unload_current_trust_file();
4472 #endif
4473
4474    if (config->multi_threaded)
4475    {
4476       int i = 60;
4477       do
4478       {
4479          sleep(1);
4480          sweep();
4481       } while ((clients->next != NULL) && (--i > 0));
4482
4483       if (i <= 0)
4484       {
4485          log_error(LOG_LEVEL_ERROR, "Graceful termination failed - still some live clients after 1 minute wait.");
4486       }
4487    }
4488    sweep();
4489    sweep();
4490
4491 #if defined(unix)
4492    freez(basedir);
4493 #endif
4494    freez(configfile);
4495
4496 #if defined(_WIN32) && !defined(_WIN_CONSOLE)
4497    /* Cleanup - remove taskbar icon etc. */
4498    TermLogWindow();
4499 #endif
4500
4501    exit(0);
4502 #endif /* FEATURE_GRACEFUL_TERMINATION */
4503
4504 }
4505
4506
4507 /*
4508   Local Variables:
4509   tab-width: 3
4510   end:
4511 */