58578e471772a902d93eb279881edad1d6cd4d20
[privoxy.git] / jcc.c
1 const char jcc_rcs[] = "$Id: jcc.c,v 1.175 2008/05/09 18:53:59 fabiankeil Exp $";
2 /*********************************************************************
3  *
4  * File        :  $Source: /cvsroot/ijbswa/current/jcc.c,v $
5  *
6  * Purpose     :  Main file.  Contains main() method, main loop, and
7  *                the main connection-handling function.
8  *
9  * Copyright   :  Written by and Copyright (C) 2001-2008 the SourceForge
10  *                Privoxy team. http://www.privoxy.org/
11  *
12  *                Based on the Internet Junkbuster originally written
13  *                by and Copyright (C) 1997 Anonymous Coders and
14  *                Junkbusters Corporation.  http://www.junkbusters.com
15  *
16  *                This program is free software; you can redistribute it
17  *                and/or modify it under the terms of the GNU General
18  *                Public License as published by the Free Software
19  *                Foundation; either version 2 of the License, or (at
20  *                your option) any later version.
21  *
22  *                This program is distributed in the hope that it will
23  *                be useful, but WITHOUT ANY WARRANTY; without even the
24  *                implied warranty of MERCHANTABILITY or FITNESS FOR A
25  *                PARTICULAR PURPOSE.  See the GNU General Public
26  *                License for more details.
27  *
28  *                The GNU General Public License should be included with
29  *                this file.  If not, you can view it at
30  *                http://www.gnu.org/copyleft/gpl.html
31  *                or write to the Free Software Foundation, Inc., 59
32  *                Temple Place - Suite 330, Boston, MA  02111-1307, USA.
33  *
34  * Revisions   :
35  *    $Log: jcc.c,v $
36  *    Revision 1.175  2008/05/09 18:53:59  fabiankeil
37  *    Fix comment grammar.
38  *
39  *    Revision 1.174  2008/05/07 18:05:53  fabiankeil
40  *    Remove the pointless buffer in client_protocol_is_unsupported().
41  *
42  *    Revision 1.173  2008/05/06 15:09:00  fabiankeil
43  *    Least-effort fix for bug #1821930 (reported by Lee):
44  *    If the response doesn't look like HTTP,
45  *    tell the client and log the problem.
46  *
47  *    Revision 1.172  2008/04/16 16:38:21  fabiankeil
48  *    Don't pass the whole csp structure to flush_socket()
49  *    when it only needs a file descriptor and a buffer.
50  *
51  *    Revision 1.171  2008/03/27 18:27:25  fabiankeil
52  *    Remove kill-popups action.
53  *
54  *    Revision 1.170  2008/03/06 16:33:46  fabiankeil
55  *    If limit-connect isn't used, don't limit CONNECT requests to port 443.
56  *
57  *    Revision 1.169  2008/03/04 18:30:39  fabiankeil
58  *    Remove the treat-forbidden-connects-like-blocks action. We now
59  *    use the "blocked" page for forbidden CONNECT requests by default.
60  *
61  *    Revision 1.168  2008/03/02 12:25:25  fabiankeil
62  *    Also use shiny new connect_port_is_forbidden() in jcc.c.
63  *
64  *    Revision 1.167  2008/02/23 16:57:12  fabiankeil
65  *    Rename url_actions() to get_url_actions() and let it
66  *    use the standard parameter ordering.
67  *
68  *    Revision 1.166  2008/02/23 16:33:43  fabiankeil
69  *    Let forward_url() use the standard parameter ordering
70  *    and mark its second parameter immutable.
71  *
72  *    Revision 1.165  2008/02/02 19:36:56  fabiankeil
73  *    Remove the "Listening ... for local connections only" log message.
74  *    Whether or not remote connections are able to reach Privoxy is up
75  *    to the operating system.
76  *
77  *    Revision 1.164  2007/12/16 18:32:46  fabiankeil
78  *    Prevent the log messages for CONNECT requests to unacceptable
79  *    ports from printing the limit-connect argument as [null] if
80  *    limit-connect hasn't been explicitly enabled.
81  *
82  *    Revision 1.163  2007/12/13 01:47:11  david__schmidt
83  *    Make sure all console-mode apps get a usage() instance
84  *
85  *    Revision 1.162  2007/12/06 17:54:57  fabiankeil
86  *    Reword NO_SERVER_DATA_RESPONSE to make it harder
87  *    to misunderstand what the message is all about.
88  *
89  *    Revision 1.161  2007/12/04 19:44:22  fabiankeil
90  *    Unbreak trustfile which previously didn't work without
91  *    FEATURE_TOGGLE. Fixes BR#1843585, reported by Lee.
92  *
93  *    Revision 1.160  2007/11/29 18:00:29  fabiankeil
94  *    Plug memory leak. Spotted by Valgrind, triggered by
95  *    Privoxy-Regression-Test feeding proxyfuzz.py.
96  *
97  *    Revision 1.159  2007/11/24 14:34:09  fabiankeil
98  *    In the HTTP snipplets, refer to the client as client.
99  *
100  *    Revision 1.158  2007/11/11 16:44:17  fabiankeil
101  *    Emit a log message when activating the MS IIS5 hack.
102  *
103  *    Revision 1.157  2007/11/03 17:34:49  fabiankeil
104  *    Log the "weak randomization factor" warning only
105  *    once for mingw32 and provide some more details.
106  *
107  *    Revision 1.156  2007/11/01 18:20:58  fabiankeil
108  *    Initialize log module after initializing mutexes, future
109  *    deadlocks in that code should now work cross-platform.
110  *
111  *    Revision 1.155  2007/10/23 20:12:45  fabiankeil
112  *    Fix first CSUCCEED line to end in \r\n as required by RFC1945.
113  *    Reported by Bert van Leeuwen in BR#1818808.
114  *
115  *    Revision 1.154  2007/10/19 17:00:08  fabiankeil
116  *    Downgrade "Flushing header and buffers" message to LOG_LEVEL_INFO.
117  *
118  *    Revision 1.153  2007/10/14 14:12:41  fabiankeil
119  *    When in daemon mode, close stderr after the configuration file has been
120  *    parsed the first time. If logfile isn't set, stop logging. Fixes BR#897436.
121  *
122  *    Revision 1.152  2007/10/04 18:03:34  fabiankeil
123  *    - Fix a crash when parsing invalid requests whose first header
124  *      is rejected by get_header(). Regression (re?)introduced
125  *      in r1.143 by yours truly.
126  *    - Move ACTION_VANILLA_WAFER handling into parsers.c's
127  *      client_cookie_adder() to make sure send-vanilla-wafer can be
128  *      controlled through tags (and thus regression-tested).
129  *
130  *    Revision 1.151  2007/09/29 10:21:16  fabiankeil
131  *    - Move get_filter_function() from jcc.c to filters.c
132  *      so the filter functions can be static.
133  *    - Don't bother filtering body-less responses.
134  *
135  *    Revision 1.150  2007/09/28 16:39:29  fabiankeil
136  *    Execute content filters through execute_content_filter().
137  *
138  *    Revision 1.149  2007/09/04 15:08:48  fabiankeil
139  *    Initialize req to NULL to make sure it's defined if the
140  *    first read_socket() call fails. Reported by icmp30.
141  *
142  *    Revision 1.148  2007/08/26 16:47:13  fabiankeil
143  *    Add Stephen Gildea's --pre-chroot-nslookup patch [#1276666],
144  *    extensive comments moved to user manual.
145  *
146  *    Revision 1.147  2007/08/25 14:42:40  fabiankeil
147  *    Don't crash if a broken header filter wiped out the request line.
148  *
149  *    Revision 1.146  2007/08/20 17:09:32  fabiankeil
150  *    Fix byte_count calculation in case of flushes
151  *    and don't parse the server headers a second time.
152  *
153  *    Revision 1.145  2007/08/19 13:13:31  fabiankeil
154  *    - If there's a connection problem after we already forwarded
155  *      parts of the original content, just hang up. Fixes BR#1776724.
156  *    - Fix warnings about unused code on mingw32.
157  *    - In case of flushes, calculate the byte count
158  *      less incorrectly (I think).
159  *
160  *    Revision 1.144  2007/08/11 14:43:22  fabiankeil
161  *    Add some more prototypes for static functions.
162  *
163  *    Revision 1.143  2007/08/05 13:58:19  fabiankeil
164  *    Comment out request_contains_null_bytes() until it's used again.
165  *
166  *    Revision 1.142  2007/08/05 13:50:26  fabiankeil
167  *    #1763173 from Stefan Huehner: s@const static@static const@
168  *    and declare some more functions static.
169  *
170  *    Revision 1.141  2007/08/04 09:56:23  fabiankeil
171  *    - Log rejected CONNECT requests with LOG_LEVEL_INFO
172  *      and explain why they were rejected in the first place.
173  *    - Fix the LOG_LEVEL_CLF message for crunches of unallowed
174  *      CONNECT requests. The request line was missing.
175  *    - Add two more XXX reminders as we don't have enough already.
176  *
177  *    Revision 1.140  2007/07/21 11:51:36  fabiankeil
178  *    As Hal noticed, checking dispatch_cgi() as the last cruncher
179  *    looks like a bug if CGI requests are blocked unintentionally,
180  *    so don't do it unless the user enabled the new config option
181  *    "allow-cgi-request-crunching".
182  *
183  *    Revision 1.139  2007/07/14 07:46:41  fabiankeil
184  *    - Allow to rewrite the request destination behind the client's back.
185  *    - Turn the weird-looking unconditional for loop that
186  *      reads the client request into a conditional while loop.
187  *      Move the stuff that only runs once out of the loop.
188  *    - Move parts of chat(), server_content_type() and the
189  *      necessary stuff to fix BR#1750917 into get_filter_function().
190  *
191  *    Revision 1.138  2007/06/03 18:45:18  fabiankeil
192  *    Temporary workaround for BR#1730105.
193  *
194  *    Revision 1.137  2007/06/01 18:16:36  fabiankeil
195  *    Use the same mutex for gethostbyname() and gethostbyaddr() to prevent
196  *    deadlocks and crashes on OpenBSD and possibly other OS with neither
197  *    gethostbyname_r() nor gethostaddr_r(). Closes BR#1729174.
198  *    Thanks to Ralf Horstmann for report and solution.
199  *
200  *    Revision 1.136  2007/06/01 16:41:11  fabiankeil
201  *    Add forward-override{} to change the forwarding settings through
202  *    action sections. This is mainly interesting to forward different
203  *    clients differently (for example based on User-Agent or request
204  *    origin).
205  *
206  *    Revision 1.135  2007/05/24 17:03:50  fabiankeil
207  *    - Let usage() mention the --chroot parameter.
208  *    - Use read_socket() consistently and always leave
209  *      the last buffer byte alone, even in cases where
210  *      null termination (currently) doesn't matter.
211  *
212  *    Revision 1.134  2007/05/16 14:59:46  fabiankeil
213  *    - Fix config file loading on Unix if no config file is specified.
214  *      Since r1.97 Privoxy would always interpret the last argument as
215  *      config file, even if it's a valid command line option.
216  *    - Abort in case of unrecognized command line options. Closes #1719696.
217  *    - Remove a bunch of unnecessary strcpy() calls (yay for c&p without thinking).
218  *    - Replace the remaining strcpy() and strcat() calls with strlcpy() and strcat().
219  *
220  *    Revision 1.133  2007/05/04 11:23:19  fabiankeil
221  *    - Don't rerun crunchers that only depend on the request URL.
222  *    - Don't count redirects and CGI requests as "blocked requests".
223  *
224  *    Revision 1.132  2007/04/25 15:15:17  fabiankeil
225  *    Support crunching based on tags created by server-header taggers.
226  *
227  *    Revision 1.131  2007/04/22 13:24:50  fabiankeil
228  *    Make HTTP snippets static (again). Add a Content-Type for those
229  *    with content so the browser doesn't guess it based on the URL.
230  *
231  *    Revision 1.130  2007/04/19 13:47:34  fabiankeil
232  *    Move crunching and request line rebuilding out of chat().
233  *
234  *    Revision 1.129  2007/04/15 16:39:20  fabiankeil
235  *    Introduce tags as alternative way to specify which
236  *    actions apply to a request. At the moment tags can be
237  *    created based on client and server headers.
238  *
239  *    Revision 1.128  2007/03/25 16:55:54  fabiankeil
240  *    Don't CLF-log CONNECT requests twice.
241  *
242  *    Revision 1.127  2007/03/20 13:53:17  fabiankeil
243  *    Log the source address for ACL-related connection drops.
244  *
245  *    Revision 1.126  2007/03/17 15:20:05  fabiankeil
246  *    New config option: enforce-blocks.
247  *
248  *    Revision 1.125  2007/03/09 14:12:00  fabiankeil
249  *    - Move null byte check into separate function.
250  *    - Don't confuse the client with error pages
251  *      if a CONNECT request was already confirmed.
252  *
253  *    Revision 1.124  2007/02/23 14:59:54  fabiankeil
254  *    Speed up NULL byte escaping and only log the complete
255  *    NULL byte requests with header debugging enabled.
256  *
257  *    Revision 1.123  2007/02/21 18:42:10  fabiankeil
258  *    Answer requests that contain NULL bytes with
259  *    a custom response instead of waiting for more
260  *    data until the client eventually hangs up.
261  *
262  *    Revision 1.122  2007/02/07 11:12:02  fabiankeil
263  *    - Move delivery and logging of crunched responses
264  *      from chat() into send_crunch_response().
265  *    - Display the reason for generating http_responses.
266  *    - Log the content length for LOG_LEVEL_CLF correctly
267  *      (still incorrect for some fixed responses).
268  *    - Reword an incorrect comment about
269  *      treat-forbidden-connects-like-blocks violating
270  *      the specs.
271  *    - Add some log messages.
272  *
273  *    Revision 1.121  2007/01/27 10:52:56  fabiankeil
274  *    Move mutex initialization into separate
275  *    function and exit in case of errors.
276  *
277  *    Revision 1.120  2007/01/26 14:18:42  fabiankeil
278  *    - Start to reduce chat()'s line count and move
279  *      parts of it into separate functions.
280  *    - Add "HTTP/1.1 100 Continue" hack for BR 756734.
281  *
282  *    Revision 1.119  2007/01/25 14:02:30  fabiankeil
283  *    - Add Proxy-Agent header to HTTP snippets that are
284  *      supposed to reach HTTP clients only.
285  *    - Made a few CONNECT log messages more descriptive.
286  *    - Catch completely empty server responses (as seen
287  *      with Tor's fake ".noconnect" top level domain).
288  *    - Use shiny new "forwarding-failed" template for socks errors.
289  *
290  *    Revision 1.118  2007/01/07 07:43:43  joergs
291  *    AmigaOS4 support added.
292  *
293  *    Revision 1.117  2006/12/31 17:56:37  fabiankeil
294  *    Added config option accept-intercepted-requests
295  *    and disabled it by default.
296  *
297  *    Revision 1.116  2006/12/29 19:08:22  fabiankeil
298  *    Reverted parts of my last commit
299  *    to keep error handling working.
300  *
301  *    Revision 1.115  2006/12/29 17:38:57  fabiankeil
302  *    Fixed gcc43 conversion warnings.
303  *
304  *    Revision 1.114  2006/12/27 18:52:02  fabiankeil
305  *    Fix -pedantic ISO C warning about converting
306  *    from function pointer to object pointer.
307  *
308  *    Revision 1.113  2006/12/26 17:38:50  fabiankeil
309  *    Silence compiler warning I introduced with my last commit.
310  *
311  *    Revision 1.112  2006/12/26 17:31:41  fabiankeil
312  *    Mutex protect rand() if POSIX threading
313  *    is used, warn the user if that's not possible
314  *    and stop using it on _WIN32 where it could
315  *    cause crashes.
316  *
317  *    Revision 1.111  2006/12/23 16:15:06  fabiankeil
318  *    Don't prevent core dumps by catching SIGABRT.
319  *    It's rude and makes debugging unreasonable painful.
320  *
321  *    Revision 1.110  2006/12/13 14:52:53  etresoft
322  *    Fix build failure on MacOS X. Global symbols can be either static or extern, but not both.
323  *
324  *    Revision 1.109  2006/12/06 19:41:40  fabiankeil
325  *    Privoxy is now able to run as intercepting
326  *    proxy in combination with any packet filter
327  *    that does the port redirection. The destination
328  *    is extracted from the "Host:" header which
329  *    should be available for nearly all requests.
330  *
331  *    Moved HTTP snipplets into jcc.c.
332  *    Added error message for gopher proxy requests.
333  *
334  *    Revision 1.108  2006/11/28 15:38:51  fabiankeil
335  *    Only unlink the pidfile if it's actually used.
336  *
337  *    Change order of interception checks to make
338  *    it possible to block or redirect requests for
339  *    the cgi pages.
340  *
341  *    Revision 1.107  2006/11/13 19:05:51  fabiankeil
342  *    Make pthread mutex locking more generic. Instead of
343  *    checking for OSX and OpenBSD, check for FEATURE_PTHREAD
344  *    and use mutex locking unless there is an _r function
345  *    available. Better safe than sorry.
346  *
347  *    Fixes "./configure --disable-pthread" and should result
348  *    in less threading-related problems on pthread-using platforms,
349  *    but it still doesn't fix BR#1122404.
350  *
351  *    Revision 1.106  2006/11/06 19:58:23  fabiankeil
352  *    Move pthread.h inclusion from jcc.c to jcc.h.
353  *    Fixes build on x86-freebsd1 (FreeBSD 5.4-RELEASE).
354  *
355  *    Revision 1.105  2006/11/06 14:26:02  fabiankeil
356  *    Don't exit after receiving the second SIGHUP on Solaris.
357  *
358  *    Fixes BR 1052235, but the same problem may exist on other
359  *    systems. Once 3.0.6 is out we should use sigset()
360  *    where available and see if it breaks anything.
361  *
362  *    Revision 1.104  2006/09/23 13:26:38  roro
363  *    Replace TABs by spaces in source code.
364  *
365  *    Revision 1.103  2006/09/21 12:54:43  fabiankeil
366  *    Fix +redirect{}. Didn't work with -fast-redirects.
367  *
368  *    Revision 1.102  2006/09/06 13:03:04  fabiankeil
369  *    Respond with 400 and a short text message
370  *    if the client tries to use Privoxy as FTP proxy.
371  *
372  *    Revision 1.101  2006/09/06 09:23:37  fabiankeil
373  *    Make number of retries in case of forwarded-connect problems
374  *    a config file option (forwarded-connect-retries) and use 0 as
375  *    default.
376  *
377  *    Revision 1.100  2006/09/03 19:42:59  fabiankeil
378  *    Set random(3) seed.
379  *
380  *    Revision 1.99  2006/09/02 15:36:42  fabiankeil
381  *    Follow the OpenBSD port's lead and protect the resolve
382  *    functions on OpenBSD as well.
383  *
384  *    Revision 1.98  2006/08/24 11:01:34  fabiankeil
385  *    --user fix. Only use the user as group if no group is specified.
386  *    Solves BR 1492612. Thanks to Spinor S. and David Laight.
387  *
388  *    Revision 1.97  2006/08/18 15:23:17  david__schmidt
389  *    Windows service (re-)integration
390  *
391  *    The new args are:
392  *
393  *    --install[:service_name]
394  *    --uninstall[:service_name]
395  *    --service
396  *
397  *    They work as follows:
398  *    --install will create a service for you and then terminate.
399  *    By default the service name will be "privoxy" (without the quotes).
400  *    However you can run multiple services if you wish, just by adding
401  *    a colon and then a name (no spaces).
402  *
403  *    --uninstall follows the exact same rules a --install.
404  *
405  *    --service is used when the program is executed by the service
406  *    control manager, and in normal circumstances would never be
407  *    used as a command line argument.
408  *
409  *    Revision 1.96  2006/08/15 20:12:36  david__schmidt
410  *    Windows service integration
411  *
412  *    Revision 1.95  2006/08/03 02:46:41  david__schmidt
413  *    Incorporate Fabian Keil's patch work:
414 http://www.fabiankeil.de/sourcecode/privoxy/
415  *
416  *    Revision 1.94  2006/07/18 14:48:46  david__schmidt
417  *    Reorganizing the repository: swapping out what was HEAD (the old 3.1 branch)
418  *    with what was really the latest development (the v_3_0_branch branch)
419  *
420  *    Revision 1.92.2.16  2005/04/03 20:10:50  david__schmidt
421  *    Thanks to Jindrich Makovicka for a race condition fix for the log
422  *    file.  The race condition remains for non-pthread implementations.
423  *    Reference patch #1175720.
424  *
425  *    Revision 1.92.2.15  2004/10/03 12:53:32  david__schmidt
426  *    Add the ability to check jpeg images for invalid
427  *    lengths of comment blocks.  Defensive strategy
428  *    against the exploit:
429  *       Microsoft Security Bulletin MS04-028
430  *       Buffer Overrun in JPEG Processing (GDI+) Could
431  *       Allow Code Execution (833987)
432  *    Enabled with +inspect-jpegs in actions files.
433  *
434  *    Revision 1.92.2.14  2003/12/12 12:52:53  oes
435  *    - Fixed usage info for non-unix platforms
436  *    - Fixed small cmdline parsing bug
437  *
438  *    Revision 1.92.2.13  2003/11/27 19:20:27  oes
439  *    Diagnostics: Now preserve the returncode of pthread_create
440  *    in errno. Closes BR #775721. Thanks to Geoffrey Hausheer.
441  *
442  *    Revision 1.92.2.12  2003/07/11 11:34:19  oes
443  *    No longer ignore SIGCHLD. Fixes bug #769381
444  *
445  *    Revision 1.92.2.11  2003/05/14 12:32:02  oes
446  *    Close jarfile on graceful exit, remove stray line
447  *
448  *    Revision 1.92.2.10  2003/05/08 15:13:46  oes
449  *    Cosmetics: Killed a warning, a typo and an allocation left at exit
450  *
451  *    Revision 1.92.2.9  2003/04/03 15:08:42  oes
452  *    No longer rely on non-POSIX.1 extensions of getcwd().
453  *    Fixes bug #711001
454  *
455  *    Revision 1.92.2.8  2003/03/31 13:12:32  oes
456  *    Replaced setenv() by posix-compliant putenv()
457  *    Thanks to Neil McCalden (nmcc AT users.sf.net).
458  *
459  *    Revision 1.92.2.7  2003/03/17 16:48:59  oes
460  *    Added chroot ability, thanks to patch by Sviatoslav Sviridov
461  *
462  *    Revision 1.92.2.6  2003/03/11 11:55:00  oes
463  *    Clean-up and extension of improvements for forked mode:
464  *     - Child's return code now consists of flags RC_FLAG_*
465  *     - Reporting toggle to parent now properly #ifdef'ed
466  *     - Children now report blocking to parent. This enables
467  *       statistics in forked mode
468  *
469  *    Revision 1.92.2.5  2003/03/10 23:45:32  oes
470  *    Fixed bug #700381: Non-Threaded version now capable of being toggled.
471  *    Children now report having been toggled through _exit(17), parents
472  *    watch for that code and toggle themselves if found.
473  *
474  *    Revision 1.92.2.4  2003/03/07 03:41:04  david__schmidt
475  *    Wrapping all *_r functions (the non-_r versions of them) with 
476  *    mutex semaphores for OSX.  Hopefully this will take care of all 
477  *    of those pesky crash reports.
478  *
479  *    Revision 1.92.2.3  2003/02/28 12:53:06  oes
480  *    Fixed two mostly harmless mem leaks
481  *
482  *    Revision 1.92.2.2  2002/11/20 14:37:47  oes
483  *    Fix: Head of global clients list now initialized to NULL
484  *
485  *    Revision 1.92.2.1  2002/09/25 14:52:24  oes
486  *    Added basic support for OPTIONS and TRACE HTTP methods:
487  *     - New interceptor direct_response() added in chat().
488  *     - sed() moved to earlier in the process, so that the
489  *       Host: header is evaluated before actions and forwarding
490  *       are decided on.
491  *
492  *    Revision 1.92  2002/05/08 16:00:46  oes
493  *    Chat's buffer handling:
494  *     - Fixed bug with unchecked out-of-mem conditions
495  *       while reading client request & server headers
496  *     - No longer predict if the buffer limit will be exceeded
497  *       in the next read -- check add_to_iob's new
498  *       return code. If buffer couldn't be extended
499  *       (policy or out-of-mem) while
500  *       - reading from client: abort
501  *       - reading server headers: send error page
502  *       - buffering server body for filter: flush,
503  *         and if that fails: send error page
504  *
505  *    Revision 1.91  2002/04/08 20:35:58  swa
506  *    fixed JB spelling
507  *
508  *    Revision 1.90  2002/04/02 14:57:28  oes
509  *    Made sending wafers independent of FEATURE_COOKIE_JAR
510  *
511  *    Revision 1.89  2002/03/31 17:18:59  jongfoster
512  *    Win32 only: Enabling STRICT to fix a VC++ compile warning.
513  *
514  *    Revision 1.88  2002/03/27 14:32:43  david__schmidt
515  *    More compiler warning message maintenance
516  *
517  *    Revision 1.87  2002/03/26 22:29:54  swa
518  *    we have a new homepage!
519  *
520  *    Revision 1.86  2002/03/25 17:04:55  david__schmidt
521  *    Workaround for closing the jarfile before load_config() comes around again
522  *
523  *    Revision 1.85  2002/03/24 15:23:33  jongfoster
524  *    Name changes
525  *
526  *    Revision 1.84  2002/03/24 13:25:43  swa
527  *    name change related issues
528  *
529  *    Revision 1.83  2002/03/16 23:54:06  jongfoster
530  *    Adding graceful termination feature, to help look for memory leaks.
531  *    If you enable this (which, by design, has to be done by hand
532  *    editing config.h) and then go to http://i.j.b/die, then the program
533  *    will exit cleanly after the *next* request.  It should free all the
534  *    memory that was used.
535  *
536  *    Revision 1.82  2002/03/13 00:27:05  jongfoster
537  *    Killing warnings
538  *
539  *    Revision 1.81  2002/03/12 01:42:50  oes
540  *    Introduced modular filters
541  *
542  *    Revision 1.80  2002/03/11 22:07:05  david__schmidt
543  *    OS/2 port maintenance:
544  *    - Fixed EMX build - it had decayed a little
545  *    - Fixed inexplicable crash during FD_ZERO - must be due to a bad macro.
546  *      substituted a memset for now.
547  *
548  *    Revision 1.79  2002/03/09 20:03:52  jongfoster
549  *    - Making various functions return int rather than size_t.
550  *      (Undoing a recent change).  Since size_t is unsigned on
551  *      Windows, functions like read_socket that return -1 on
552  *      error cannot return a size_t.
553  *
554  *      THIS WAS A MAJOR BUG - it caused frequent, unpredictable
555  *      crashes, and also frequently caused JB to jump to 100%
556  *      CPU and stay there.  (Because it thought it had just
557  *      read ((unsigned)-1) == 4Gb of data...)
558  *
559  *    - The signature of write_socket has changed, it now simply
560  *      returns success=0/failure=nonzero.
561  *
562  *    - Trying to get rid of a few warnings --with-debug on
563  *      Windows, I've introduced a new type "jb_socket".  This is
564  *      used for the socket file descriptors.  On Windows, this
565  *      is SOCKET (a typedef for unsigned).  Everywhere else, it's
566  *      an int.  The error value can't be -1 any more, so it's
567  *      now JB_INVALID_SOCKET (which is -1 on UNIX, and in
568  *      Windows it maps to the #define INVALID_SOCKET.)
569  *
570  *    - The signature of bind_port has changed.
571  *
572  *    Revision 1.78  2002/03/08 21:35:04  oes
573  *    Added optional group supplement to --user option. Will now use default group of user if no group given
574  *
575  *    Revision 1.77  2002/03/07 03:52:06  oes
576  *     - Fixed compiler warnings etc
577  *     - Improved handling of failed DNS lookups
578  *
579  *    Revision 1.76  2002/03/06 22:54:35  jongfoster
580  *    Automated function-comment nitpicking.
581  *
582  *    Revision 1.75  2002/03/06 10:02:19  oes
583  *    Fixed stupid bug when --user was not given
584  *
585  *    Revision 1.74  2002/03/06 00:49:31  jongfoster
586  *    Fixing warning on Windows
587  *    Making #ifdefs that refer to the same variable consistently
588  *    use #ifdef unix rather than mixing #ifdef unix & #ifndef OS2
589  *
590  *    Revision 1.73  2002/03/05 23:57:30  hal9
591  *    Stray character 's' on line 1618 was breaking build.
592  *
593  *    Revision 1.72  2002/03/05 21:33:45  david__schmidt
594  *    - Re-enable OS/2 building after new parms were added
595  *    - Fix false out of memory report when resolving CGI templates when no IP
596  *      address is available of failed attempt (a la no such domain)
597  *
598  *    Revision 1.71  2002/03/05 18:13:56  oes
599  *    Added --user option
600  *
601  *    Revision 1.70  2002/03/05 04:52:42  oes
602  *    Deleted non-errlog debugging code
603  *
604  *    Revision 1.69  2002/03/04 23:50:00  jongfoster
605  *    Splitting off bind_port() call into bind_port_helper(), with
606  *    improved logging.
607  *
608  *    Revision 1.68  2002/03/04 20:17:32  oes
609  *    Fixed usage info
610  *
611  *    Revision 1.67  2002/03/04 18:18:57  oes
612  *    - Removed _DEBUG mode
613  *    - Cleand up cmdline parsing
614  *    - Introduced --no-daemon, --pidfile options
615  *    - Cleaned up signal handling:
616  *      - Terminate cleanly on INT, TERM and ABRT
617  *      - Schedule logfile for re-opening on HUP
618  *      - Ignore CHLD and PIPE
619  *      - Leave the rest with their default handlers
620  *      - Uniform handler registration
621  *    - Added usage() function
622  *    - Played styleguide police
623  *
624  *    Revision 1.66  2002/03/03 15:06:55  oes
625  *    Re-enabled automatic config reloading
626  *
627  *    Revision 1.65  2002/03/03 14:49:11  oes
628  *    Fixed CLF logging: Now uses client's original HTTP request
629  *
630  *    Revision 1.64  2002/03/03 09:18:03  joergs
631  *    Made jumbjuster work on AmigaOS again.
632  *
633  *    Revision 1.63  2002/03/02 04:14:50  david__schmidt
634  *    Clean up a little CRLF unpleasantness that suddenly appeared
635  *
636  *    Revision 1.62  2002/02/20 23:17:23  jongfoster
637  *    Detecting some out-of memory conditions and exiting with a log message.
638  *
639  *    Revision 1.61  2002/01/17 21:01:52  jongfoster
640  *    Moving all our URL and URL pattern parsing code to urlmatch.c.
641  *
642  *    Revision 1.60  2001/12/30 14:07:32  steudten
643  *    - Add signal handling (unix)
644  *    - Add SIGHUP handler (unix)
645  *    - Add creation of pidfile (unix)
646  *    - Add action 'top' in rc file (RH)
647  *    - Add entry 'SIGNALS' to manpage
648  *    - Add exit message to logfile (unix)
649  *
650  *    Revision 1.59  2001/12/13 14:07:18  oes
651  *    Fixed Bug: 503 error page now sent OK
652  *
653  *    Revision 1.58  2001/11/30 23:37:24  jongfoster
654  *    Renaming the Win32 config file to config.txt - this is almost the
655  *    same as the corresponding UNIX name "config"
656  *
657  *    Revision 1.57  2001/11/16 00:47:43  jongfoster
658  *    Changing the tty-disconnection code to use setsid().
659  *
660  *    Revision 1.56  2001/11/13 20:20:54  jongfoster
661  *    Tabs->spaces, fixing a bug with missing {} around an if()
662  *
663  *    Revision 1.55  2001/11/13 20:14:53  jongfoster
664  *    Patch for FreeBSD setpgrp() as suggested by Alexander Lazic
665  *
666  *    Revision 1.54  2001/11/07 00:03:14  steudten
667  *    Give reliable return value if an error
668  *    occurs not just 0 with new daemon mode.
669  *
670  *    Revision 1.53  2001/11/05 21:41:43  steudten
671  *    Add changes to be a real daemon just for unix os.
672  *    (change cwd to /, detach from controlling tty, set
673  *    process group and session leader to the own process.
674  *    Add DBG() Macro.
675  *    Add some fatal-error log message for failed malloc().
676  *    Add '-d' if compiled with 'configure --with-debug' to
677  *    enable debug output.
678  *
679  *    Revision 1.52  2001/10/26 20:11:20  jongfoster
680  *    Fixing type mismatch
681  *
682  *    Revision 1.51  2001/10/26 17:38:28  oes
683  *    Cosmetics
684  *
685  *    Revision 1.50  2001/10/25 03:40:48  david__schmidt
686  *    Change in porting tactics: OS/2's EMX porting layer doesn't allow multiple
687  *    threads to call select() simultaneously.  So, it's time to do a real, live,
688  *    native OS/2 port.  See defines for __EMX__ (the porting layer) vs. __OS2__
689  *    (native). Both versions will work, but using __OS2__ offers multi-threading.
690  *
691  *    Revision 1.49  2001/10/23 21:41:35  jongfoster
692  *    Added call to initialize the (statically-allocated of course)
693  *    "out of memory" CGI response.
694  *
695  *    Revision 1.48  2001/10/10 19:56:46  jongfoster
696  *    Moving some code that wasn't cookie-related out of an #ifdef
697  *    FEATURE_COOKIE_JAR
698  *
699  *    Revision 1.47  2001/10/10 16:44:36  oes
700  *    Added CONNECT destination port limitation check
701  *
702  *    Revision 1.46  2001/10/08 15:17:41  oes
703  *    Re-enabled SSL forwarding
704  *
705  *    Revision 1.45  2001/10/07 15:42:11  oes
706  *    Replaced 6 boolean members of csp with one bitmap (csp->flags)
707  *
708  *    Moved downgrading of the HTTP version from parse_http_request to
709  *      chat(), since we can't decide if it is necessary before we have
710  *      determined the actions for the URL. The HTTP command is now
711  *      *always* re-built so the repairs need no longer be special-cased.
712  *
713  *    filter_popups now gets a csp pointer so it can raise the new
714  *      CSP_FLAG_MODIFIED flag.
715  *
716  *    Bugfix
717  *
718  *    Added configurable size limit for the IOB. If the IOB grows so
719  *      large that the next read would exceed the limit, the header
720  *      is generated, and the header & unfiltered buffer are flushed
721  *      to the client. Chat then continues in non-buffering,
722  *      non-filtering body mode.
723  *
724  *    Revision 1.44  2001/10/02 18:13:57  oes
725  *    Ooops
726  *
727  *    Revision 1.43  2001/10/02 15:32:13  oes
728  *    Moved generation of hdr
729  *
730  *    Revision 1.42  2001/09/21 23:02:02  david__schmidt
731  *    Cleaning up 2 compiler warnings on OS/2.
732  *
733  *    Revision 1.41  2001/09/16 17:05:14  jongfoster
734  *    Removing unused #include showarg.h
735  *
736  *    Revision 1.40  2001/09/16 15:41:45  jongfoster
737  *    Fixing signed/unsigned comparison warning.
738  *
739  *    Revision 1.39  2001/09/16 13:21:27  jongfoster
740  *    Changes to use new list functions.
741  *
742  *    Revision 1.38  2001/09/16 13:01:46  jongfoster
743  *    Removing redundant function call that zeroed zalloc()'d memory.
744  *
745  *    Revision 1.37  2001/09/10 11:12:24  oes
746  *    Deleted unused variable
747  *
748  *    Revision 1.36  2001/09/10 10:56:15  oes
749  *    Silenced compiler warnings
750  *
751  *    Revision 1.35  2001/07/31 14:44:22  oes
752  *    Deleted unused size parameter from filter_popups()
753  *
754  *    Revision 1.34  2001/07/30 22:08:36  jongfoster
755  *    Tidying up #defines:
756  *    - All feature #defines are now of the form FEATURE_xxx
757  *    - Permanently turned off WIN_GUI_EDIT
758  *    - Permanently turned on WEBDAV and SPLIT_PROXY_ARGS
759  *
760  *    Revision 1.33  2001/07/29 19:32:00  jongfoster
761  *    Renaming _main() [mingw32 only] to real_main(), for ANSI compliance.
762  *
763  *    Revision 1.32  2001/07/29 18:47:05  jongfoster
764  *    Adding missing #include "loadcfg.h"
765  *
766  *    Revision 1.31  2001/07/29 12:17:48  oes
767  *    Applied pthread fix by Paul Lieverse
768  *
769  *    Revision 1.30  2001/07/25 22:57:13  jongfoster
770  *    __BEOS__ no longer overrides FEATURE_PTHREAD.
771  *    This is because FEATURE_PTHREAD will soon be widely used, so I
772  *    want to keep it simple.
773  *
774  *    Revision 1.29  2001/07/24 12:47:06  oes
775  *    Applied BeOS support update by Eugenia
776  *
777  *    Revision 1.28  2001/07/23 13:26:12  oes
778  *    Fixed bug in popup-killing for the first read that caused binary garbage to be sent between headers and body
779  *
780  *    Revision 1.27  2001/07/19 19:09:47  haroon
781  *    - Added code to take care of the situation where while processing the first
782  *      server response (which includes the server header), after finding the end
783  *      of the headers we were not looking past the end of the headers for
784  *      content modification. I enabled it for filter_popups.
785  *      Someone else should look to see if other similar operations should be
786  *      done to the discarded portion of the buffer.
787  *
788  *      Note 2001/07/20: No, the other content modification mechanisms will process
789  *                       the whole iob later anyway. --oes
790  *
791  *    Revision 1.26  2001/07/18 12:31:36  oes
792  *    cosmetics
793  *
794  *    Revision 1.25  2001/07/15 19:43:49  jongfoster
795  *    Supports POSIX threads.
796  *    Also removed some unused #includes.
797  *
798  *    Revision 1.24  2001/07/13 14:00:40  oes
799  *     - Generic content modification scheme:
800  *       Each feature has its own applicability flag that is set
801  *       from csp->action->flags.
802  *       Replaced the "filtering" int flag , by a function pointer
803  *       "content_filter" to the function that will do the content
804  *       modification. If it is != NULL, the document will be buffered
805  *       and processed through *content_filter, which must set
806  *       csp->content_length and return a modified copy of the body
807  *       or return NULL (on failiure).
808  *     - Changed csp->is_text to the more generic bitmap csp->content_type
809  *       which can currently take the valued CT_TEXT or CT_GIF
810  *     - Reformatting etc
811  *     - Removed all #ifdef PCRS
812  *
813  *    Revision 1.23  2001/07/02 02:28:25  iwanttokeepanon
814  *    Added "#ifdef ACL_FILES" conditional compilation to line 1291 to exclude
815  *    the `block_acl' call.  This prevents a compilation error when the user
816  *    does not wish to use the "ACL" feature.
817  *
818  *    Revision 1.22  2001/06/29 21:45:41  oes
819  *    Indentation, CRLF->LF, Tab-> Space
820  *
821  *    Revision 1.21  2001/06/29 13:29:36  oes
822  *    - Cleaned up, improved comments
823  *    - Unified all possible interceptors (CGI,
824  *      block, trust, fast_redirect) in one
825  *      place, with one (CGI) answer generation
826  *      mechansim. Much clearer now.
827  *    - Removed the GIF image generation, which
828  *      is now done in filters.c:block_url()
829  *    - Made error conditions like domain lookup
830  *      failiure or (various) problems while talking
831  *      to the server use cgi.c:error_response()
832  *      instead of generating HTML/HTTP in chat() (yuck!)
833  *    - Removed logentry from cancelled commit
834  *
835  *    Revision 1.20  2001/06/09 10:55:28  jongfoster
836  *    Changing BUFSIZ ==> BUFFER_SIZE
837  *
838  *    Revision 1.19  2001/06/07 23:12:52  jongfoster
839  *    Replacing function pointer in struct gateway with a directly
840  *    called function forwarded_connect().
841  *    Replacing struct gateway with struct forward_spec
842  *
843  *    Revision 1.18  2001/06/03 19:12:16  oes
844  *    introduced new cgi handling
845  *
846  *    Revision 1.17  2001/06/01 20:07:23  jongfoster
847  *    Now uses action +image-blocker{} rather than config->tinygif
848  *
849  *    Revision 1.16  2001/06/01 18:49:17  jongfoster
850  *    Replaced "list_share" with "list" - the tiny memory gain was not
851  *    worth the extra complexity.
852  *
853  *    Revision 1.15  2001/05/31 21:24:47  jongfoster
854  *    Changed "permission" to "action" throughout.
855  *    Removed DEFAULT_USER_AGENT - it must now be specified manually.
856  *    Moved vanilla wafer check into chat(), since we must now
857  *    decide whether or not to add it based on the URL.
858  *
859  *    Revision 1.14  2001/05/29 20:14:01  joergs
860  *    AmigaOS bugfix: PCRS needs a lot of stack, stacksize for child threads
861  *    increased.
862  *
863  *    Revision 1.13  2001/05/29 09:50:24  jongfoster
864  *    Unified blocklist/imagelist/permissionslist.
865  *    File format is still under discussion, but the internal changes
866  *    are (mostly) done.
867  *
868  *    Also modified interceptor behaviour:
869  *    - We now intercept all URLs beginning with one of the following
870  *      prefixes (and *only* these prefixes):
871  *        * http://i.j.b/
872  *        * http://ijbswa.sf.net/config/
873  *        * http://ijbswa.sourceforge.net/config/
874  *    - New interceptors "home page" - go to http://i.j.b/ to see it.
875  *    - Internal changes so that intercepted and fast redirect pages
876  *      are not replaced with an image.
877  *    - Interceptors now have the option to send a binary page direct
878  *      to the client. (i.e. ijb-send-banner uses this)
879  *    - Implemented show-url-info interceptor.  (Which is why I needed
880  *      the above interceptors changes - a typical URL is
881  *      "http://i.j.b/show-url-info?url=www.somesite.com/banner.gif".
882  *      The previous mechanism would not have intercepted that, and
883  *      if it had been intercepted then it then it would have replaced
884  *      it with an image.)
885  *
886  *    Revision 1.12  2001/05/27 22:17:04  oes
887  *
888  *    - re_process_buffer no longer writes the modified buffer
889  *      to the client, which was very ugly. It now returns the
890  *      buffer, which it is then written by chat.
891  *
892  *    - content_length now adjusts the Content-Length: header
893  *      for modified documents rather than crunch()ing it.
894  *      (Length info in csp->content_length, which is 0 for
895  *      unmodified documents)
896  *
897  *    - For this to work, sed() is called twice when filtering.
898  *
899  *    Revision 1.11  2001/05/26 17:27:53  jongfoster
900  *    Added support for CLF and fixed LOG_LEVEL_LOG.
901  *    Also did CRLF->LF fix of my previous patch.
902  *
903  *    Revision 1.10  2001/05/26 15:26:15  jongfoster
904  *    ACL feature now provides more security by immediately dropping
905  *    connections from untrusted hosts.
906  *
907  *    Revision 1.9  2001/05/26 00:28:36  jongfoster
908  *    Automatic reloading of config file.
909  *    Removed obsolete SIGHUP support (Unix) and Reload menu option (Win32).
910  *    Most of the global variables have been moved to a new
911  *    struct configuration_spec, accessed through csp->config->globalname
912  *    Most of the globals remaining are used by the Win32 GUI.
913  *
914  *    Revision 1.8  2001/05/25 22:43:18  jongfoster
915  *    Fixing minor memory leak and buffer overflow.
916  *
917  *    Revision 1.7  2001/05/25 22:34:30  jongfoster
918  *    Hard tabs->Spaces
919  *
920  *    Revision 1.6  2001/05/23 00:13:58  joergs
921  *    AmigaOS support fixed.
922  *
923  *    Revision 1.5  2001/05/22 18:46:04  oes
924  *
925  *    - Enabled filtering banners by size rather than URL
926  *      by adding patterns that replace all standard banner
927  *      sizes with the "Junkbuster" gif to the re_filterfile
928  *
929  *    - Enabled filtering WebBugs by providing a pattern
930  *      which kills all 1x1 images
931  *
932  *    - Added support for PCRE_UNGREEDY behaviour to pcrs,
933  *      which is selected by the (nonstandard and therefore
934  *      capital) letter 'U' in the option string.
935  *      It causes the quantifiers to be ungreedy by default.
936  *      Appending a ? turns back to greedy (!).
937  *
938  *    - Added a new interceptor ijb-send-banner, which
939  *      sends back the "Junkbuster" gif. Without imagelist or
940  *      MSIE detection support, or if tinygif = 1, or the
941  *      URL isn't recognized as an imageurl, a lame HTML
942  *      explanation is sent instead.
943  *
944  *    - Added new feature, which permits blocking remote
945  *      script redirects and firing back a local redirect
946  *      to the browser.
947  *      The feature is conditionally compiled, i.e. it
948  *      can be disabled with --disable-fast-redirects,
949  *      plus it must be activated by a "fast-redirects"
950  *      line in the config file, has its own log level
951  *      and of course wants to be displayed by show-proxy-args
952  *      Note: Boy, all the #ifdefs in 1001 locations and
953  *      all the fumbling with configure.in and acconfig.h
954  *      were *way* more work than the feature itself :-(
955  *
956  *    - Because a generic redirect template was needed for
957  *      this, tinygif = 3 now uses the same.
958  *
959  *    - Moved GIFs, and other static HTTP response templates
960  *      to project.h
961  *
962  *    - Some minor fixes
963  *
964  *    - Removed some >400 CRs again (Jon, you really worked
965  *      a lot! ;-)
966  *
967  *    Revision 1.4  2001/05/21 19:34:01  jongfoster
968  *    Made failure to bind() a fatal error.
969  *
970  *    Revision 1.3  2001/05/20 01:21:20  jongfoster
971  *    Version 2.9.4 checkin.
972  *    - Merged popupfile and cookiefile, and added control over PCRS
973  *      filtering, in new "permissionsfile".
974  *    - Implemented LOG_LEVEL_FATAL, so that if there is a configuration
975  *      file error you now get a message box (in the Win32 GUI) rather
976  *      than the program exiting with no explanation.
977  *    - Made killpopup use the PCRS MIME-type checking and HTTP-header
978  *      skipping.
979  *    - Removed tabs from "config"
980  *    - Moved duplicated url parsing code in "loaders.c" to a new funcition.
981  *    - Bumped up version number.
982  *
983  *    Revision 1.2  2001/05/17 22:34:44  oes
984  *     - Added hint on GIF char array generation to jcc.c
985  *     - Cleaned CRLF's from the sources and related files
986  *     - Repaired logging for REF and FRC
987  *
988  *    Revision 1.1.1.1  2001/05/15 13:58:56  oes
989  *    Initial import of version 2.9.3 source tree
990  *
991  *
992  *********************************************************************/
993 \f
994
995 #include "config.h"
996
997 #include <stdio.h>
998 #include <sys/types.h>
999 #include <stdlib.h>
1000 #include <string.h>
1001 #include <signal.h>
1002 #include <fcntl.h>
1003 #include <errno.h>
1004 #include <assert.h>
1005
1006 #ifdef _WIN32
1007 # ifndef FEATURE_PTHREAD
1008 #  ifndef STRICT
1009 #   define STRICT
1010 #  endif
1011 #  include <windows.h>
1012 #  include <process.h>
1013 # endif /* ndef FEATURE_PTHREAD */
1014
1015 # include "win32.h"
1016 # ifndef _WIN_CONSOLE
1017 #  include "w32log.h"
1018 # endif /* ndef _WIN_CONSOLE */
1019 # include "w32svrapi.h"
1020
1021 #else /* ifndef _WIN32 */
1022
1023 # if !defined (__OS2__)
1024 # include <unistd.h>
1025 # include <sys/wait.h>
1026 # endif /* ndef __OS2__ */
1027 # include <sys/time.h>
1028 # include <sys/stat.h>
1029 # include <sys/ioctl.h>
1030
1031 #ifdef sun
1032 #include <sys/termios.h>
1033 #endif /* sun */
1034
1035 #ifdef unix
1036 #include <pwd.h>
1037 #include <grp.h>
1038 #endif
1039
1040 # include <signal.h>
1041
1042 # ifdef __BEOS__
1043 #  include <socket.h>  /* BeOS has select() for sockets only. */
1044 #  include <OS.h>      /* declarations for threads and stuff. */
1045 # endif
1046
1047 # if defined(__EMX__) || defined(__OS2__)
1048 #  include <sys/select.h>  /* OS/2/EMX needs a little help with select */
1049 # endif
1050 # ifdef __OS2__
1051 #define INCL_DOS
1052 # include <os2.h>
1053 #define bzero(B,N) memset(B,0x00,n)
1054 # endif
1055
1056 # ifndef FD_ZERO
1057 #  include <select.h>
1058 # endif
1059
1060 #endif
1061
1062 #include "project.h"
1063 #include "list.h"
1064 #include "jcc.h"
1065 #include "filters.h"
1066 #include "loaders.h"
1067 #include "parsers.h"
1068 #include "miscutil.h"
1069 #include "errlog.h"
1070 #include "jbsockets.h"
1071 #include "gateway.h"
1072 #include "actions.h"
1073 #include "cgi.h"
1074 #include "loadcfg.h"
1075 #include "urlmatch.h"
1076
1077 const char jcc_h_rcs[] = JCC_H_VERSION;
1078 const char project_h_rcs[] = PROJECT_H_VERSION;
1079
1080 int no_daemon = 0;
1081 struct client_state  clients[1];
1082 struct file_list     files[1];
1083
1084 #ifdef FEATURE_STATISTICS
1085 int urls_read     = 0;     /* total nr of urls read inc rejected */
1086 int urls_rejected = 0;     /* total nr of urls rejected */
1087 #endif /* def FEATURE_STATISTICS */
1088
1089 #ifdef FEATURE_GRACEFUL_TERMINATION
1090 int g_terminate = 0;
1091 #endif
1092
1093 #if !defined(_WIN32) && !defined(__OS2__) && !defined(AMIGA)
1094 static void sig_handler(int the_signal);
1095 #endif
1096 static int client_protocol_is_unsupported(const struct client_state *csp, char *req);
1097 static jb_err get_request_destination_elsewhere(struct client_state *csp, struct list *headers);
1098 static jb_err get_server_headers(struct client_state *csp);
1099 static const char *crunch_reason(const struct http_response *rsp);
1100 static void send_crunch_response(struct client_state *csp, struct http_response *rsp);
1101 /*
1102  * static int request_contains_null_bytes(const struct client_state *csp, char *buf, int len);
1103  */
1104 static void build_request_line(struct client_state *csp, const struct forward_spec *fwd, char **request_line);
1105 static jb_err change_request_destination(struct client_state *csp);
1106 static void chat(struct client_state *csp);
1107 static void serve(struct client_state *csp);
1108 #if !defined(_WIN32) || defined(_WIN_CONSOLE)
1109 static void usage(const char *myname);
1110 #endif
1111 static void initialize_mutexes(void);
1112 static jb_socket bind_port_helper(struct configuration_spec *config);
1113 static void listen_loop(void);
1114
1115 #ifdef AMIGA
1116 void serve(struct client_state *csp);
1117 #else /* ifndef AMIGA */
1118 static void serve(struct client_state *csp);
1119 #endif /* def AMIGA */
1120
1121 #ifdef __BEOS__
1122 static int32 server_thread(void *data);
1123 #endif /* def __BEOS__ */
1124
1125 #ifdef _WIN32
1126 #define sleep(N)  Sleep(((N) * 1000))
1127 #endif
1128
1129 #ifdef __OS2__
1130 #define sleep(N)  DosSleep(((N) * 100))
1131 #endif
1132
1133 #ifdef FEATURE_PTHREAD
1134 pthread_mutex_t log_mutex;
1135 pthread_mutex_t log_init_mutex;
1136
1137 #if !defined(HAVE_GETHOSTBYADDR_R) || !defined(HAVE_GETHOSTBYNAME_R)
1138 pthread_mutex_t resolver_mutex;
1139 #endif /* !defined(HAVE_GETHOSTBYADDR_R) || !defined(HAVE_GETHOSTBYNAME_R) */
1140
1141 #ifndef HAVE_GMTIME_R
1142 pthread_mutex_t gmtime_mutex;
1143 #endif /* ndef HAVE_GMTIME_R */
1144
1145 #ifndef HAVE_LOCALTIME_R
1146 pthread_mutex_t localtime_mutex;
1147 #endif /* ndef HAVE_GMTIME_R */
1148
1149 #ifndef HAVE_RANDOM
1150 pthread_mutex_t rand_mutex;
1151 #endif /* ndef HAVE_RANDOM */
1152
1153 #endif /* FEATURE_PTHREAD */
1154
1155 #if defined(unix) || defined(__EMX__)
1156 const char *basedir = NULL;
1157 const char *pidfile = NULL;
1158 int received_hup_signal = 0;
1159 #endif /* defined unix */
1160
1161 /* HTTP snipplets. */
1162 static const char CSUCCEED[] =
1163    "HTTP/1.0 200 Connection established\r\n"
1164    "Proxy-Agent: Privoxy/" VERSION "\r\n\r\n";
1165
1166 static const char CHEADER[] =
1167    "HTTP/1.0 400 Invalid header received from client\r\n"
1168    "Proxy-Agent: Privoxy " VERSION "\r\n"
1169    "Content-Type: text/plain\r\n"
1170    "Connection: close\r\n\r\n"
1171    "Invalid header received from client.\r\n";
1172
1173 static const char FTP_RESPONSE[] =
1174    "HTTP/1.0 400 Invalid request received from client\r\n"
1175    "Content-Type: text/plain\r\n"
1176    "Connection: close\r\n\r\n"
1177    "Invalid request. Privoxy doesn't support FTP.\r\n";
1178
1179 static const char GOPHER_RESPONSE[] =
1180    "HTTP/1.0 400 Invalid request received from client\r\n"
1181    "Content-Type: text/plain\r\n"
1182    "Connection: close\r\n\r\n"
1183    "Invalid request. Privoxy doesn't support gopher.\r\n";
1184
1185 /* XXX: should be a template */
1186 static const char MISSING_DESTINATION_RESPONSE[] =
1187    "HTTP/1.0 400 Bad request received from client\r\n"
1188    "Proxy-Agent: Privoxy " VERSION "\r\n"
1189    "Content-Type: text/plain\r\n"
1190    "Connection: close\r\n\r\n"
1191    "Bad request. Privoxy was unable to extract the destination.\r\n";
1192
1193 /* XXX: should be a template */
1194 static const char NO_SERVER_DATA_RESPONSE[] =
1195    "HTTP/1.0 502 Server or forwarder response empty\r\n"
1196    "Proxy-Agent: Privoxy " VERSION "\r\n"
1197    "Content-Type: text/plain\r\n"
1198    "Connection: close\r\n\r\n"
1199    "Empty server or forwarder response.\r\n"
1200    "The connection has been closed but Privoxy didn't receive any data.\r\n";
1201
1202 /* XXX: should be a template */
1203 static const char INVALID_SERVER_HEADERS_RESPONSE[] =
1204    "HTTP/1.0 502 Server or forwarder response invalid\r\n"
1205    "Proxy-Agent: Privoxy " VERSION "\r\n"
1206    "Content-Type: text/plain\r\n"
1207    "Connection: close\r\n\r\n"
1208    "Bad response. The server or forwarder response doesn't look like HTTP.\r\n";
1209
1210 #if 0
1211 /* XXX: should be a template */
1212 static const char NULL_BYTE_RESPONSE[] =
1213    "HTTP/1.0 400 Bad request received from client\r\n"
1214    "Proxy-Agent: Privoxy " VERSION "\r\n"
1215    "Content-Type: text/plain\r\n"
1216    "Connection: close\r\n\r\n"
1217    "Bad request. Null byte(s) before end of request.\r\n";
1218 #endif
1219
1220 /* XXX: should be a template */
1221 static const char MESSED_UP_REQUEST_RESPONSE[] =
1222    "HTTP/1.0 400 Malformed request after rewriting\r\n"
1223    "Proxy-Agent: Privoxy " VERSION "\r\n"
1224    "Content-Type: text/plain\r\n"
1225    "Connection: close\r\n\r\n"
1226    "Bad request. Messed up with header filters.\r\n";
1227
1228 /* A function to crunch a response */
1229 typedef struct http_response *(*crunch_func_ptr)(struct client_state *);
1230
1231 /* Crunch function flags */
1232 #define CF_NO_FLAGS        0
1233 /* Cruncher applies to forced requests as well */
1234 #define CF_IGNORE_FORCE    1
1235 /* Crunched requests are counted for the block statistics */
1236 #define CF_COUNT_AS_REJECT 2
1237
1238 /* A crunch function and its flags */
1239 struct cruncher
1240 {
1241    const crunch_func_ptr cruncher;
1242    const int flags;
1243 };
1244
1245 static int crunch_response_triggered(struct client_state *csp, const struct cruncher crunchers[]);
1246
1247 /* Complete list of cruncher functions */
1248 static const struct cruncher crunchers_all[] = {
1249    { direct_response, CF_COUNT_AS_REJECT|CF_IGNORE_FORCE},
1250    { block_url,       CF_COUNT_AS_REJECT },
1251 #ifdef FEATURE_TRUST
1252    { trust_url,       CF_COUNT_AS_REJECT },
1253 #endif /* def FEATURE_TRUST */
1254    { redirect_url,    CF_NO_FLAGS  },
1255    { dispatch_cgi,    CF_IGNORE_FORCE},
1256    { NULL,            0 }
1257 };
1258
1259 /* Light version, used after tags are applied */
1260 static const struct cruncher crunchers_light[] = {
1261    { block_url,       CF_COUNT_AS_REJECT },
1262    { redirect_url,    CF_NO_FLAGS },
1263    { NULL,            0 }
1264 };
1265
1266
1267 #if !defined(_WIN32) && !defined(__OS2__) && !defined(AMIGA)
1268 /*********************************************************************
1269  *
1270  * Function    :  sig_handler 
1271  *
1272  * Description :  Signal handler for different signals.
1273  *                Exit gracefully on TERM and INT
1274  *                or set a flag that will cause the errlog
1275  *                to be reopened by the main thread on HUP.
1276  *
1277  * Parameters  :
1278  *          1  :  the_signal = the signal cause this function to call
1279  *
1280  * Returns     :  - 
1281  *
1282  *********************************************************************/
1283 static void sig_handler(int the_signal)
1284 {
1285    switch(the_signal)
1286    {
1287       case SIGTERM:
1288       case SIGINT:
1289          log_error(LOG_LEVEL_INFO, "exiting by signal %d .. bye", the_signal);
1290 #if defined(unix)
1291          if(pidfile)
1292          {
1293             unlink(pidfile);
1294          }
1295 #endif /* unix */
1296          exit(the_signal);
1297          break;
1298
1299       case SIGHUP:
1300          received_hup_signal = 1;
1301          break;         
1302
1303       default:
1304          /* 
1305           * We shouldn't be here, unless we catch signals
1306           * in main() that we can't handle here!
1307           */
1308          log_error(LOG_LEVEL_FATAL, "sig_handler: exiting on unexpected signal %d", the_signal);
1309    }
1310    return;
1311
1312 }
1313 #endif
1314
1315
1316 /*********************************************************************
1317  *
1318  * Function    :  client_protocol_is_unsupported
1319  *
1320  * Description :  Checks if the client used a known unsupported
1321  *                protocol and deals with it by sending an error
1322  *                response.
1323  *
1324  * Parameters  :
1325  *          1  :  csp = Current client state (buffers, headers, etc...)
1326  *          2  :  req = the first request line send by the client
1327  *
1328  * Returns     :  TRUE if an error response has been generated, or
1329  *                FALSE if the request doesn't look invalid.
1330  *
1331  *********************************************************************/
1332 static int client_protocol_is_unsupported(const struct client_state *csp, char *req)
1333 {
1334    /*
1335     * If it's a FTP or gopher request, we don't support it.
1336     *
1337     * These checks are better than nothing, but they might
1338     * not work in all configurations and some clients might
1339     * have problems digesting the answer.
1340     *
1341     * They should, however, never cause more problems than
1342     * Privoxy's old behaviour (returning the misleading HTML
1343     * error message:
1344     *
1345     * "Could not resolve http://(ftp|gopher)://example.org").
1346     */
1347    if (!strncmpic(req, "GET ftp://", 10) || !strncmpic(req, "GET gopher://", 13))
1348    {
1349       const char *response = NULL;
1350       const char *protocol = NULL;
1351
1352       if (!strncmpic(req, "GET ftp://", 10))
1353       {
1354          response = FTP_RESPONSE;
1355          protocol = "FTP";
1356       }
1357       else
1358       {
1359          response = GOPHER_RESPONSE;
1360          protocol = "GOPHER";
1361       }
1362       log_error(LOG_LEVEL_ERROR,
1363          "%s tried to use Privoxy as %s proxy: %s",
1364          csp->ip_addr_str, protocol, req);
1365       log_error(LOG_LEVEL_CLF,
1366          "%s - - [%T] \"%s\" 400 0", csp->ip_addr_str, req);
1367       freez(req);
1368       write_socket(csp->cfd, response, strlen(response));
1369
1370       return TRUE;
1371    }
1372
1373    return FALSE;
1374 }
1375
1376
1377 /*********************************************************************
1378  *
1379  * Function    :  get_request_destination_elsewhere
1380  *
1381  * Description :  If the client's request was redirected into
1382  *                Privoxy without the client's knowledge,
1383  *                the request line lacks the destination host.
1384  *
1385  *                This function tries to get it elsewhere,
1386  *                provided accept-intercepted-requests is enabled.
1387  *
1388  *                "Elsewhere" currently only means "Host: header",
1389  *                but in the future we may ask the redirecting
1390  *                packet filter to look the destination up.
1391  *
1392  *                If the destination stays unknown, an error
1393  *                response is send to the client and headers
1394  *                are freed so that chat() can return directly.
1395  *
1396  * Parameters  :
1397  *          1  :  csp = Current client state (buffers, headers, etc...)
1398  *          2  :  headers = a header list
1399  *
1400  * Returns     :  JB_ERR_OK if the destination is now known, or
1401  *                JB_ERR_PARSE if it isn't.
1402  *
1403  *********************************************************************/
1404 static jb_err get_request_destination_elsewhere(struct client_state *csp, struct list *headers)
1405 {
1406    char *req;
1407
1408    if (!(csp->config->feature_flags & RUNTIME_FEATURE_ACCEPT_INTERCEPTED_REQUESTS))
1409    {
1410       log_error(LOG_LEVEL_ERROR, "%s's request: \'%s\' is invalid."
1411          " Privoxy isn't configured to accept intercepted requests.",
1412          csp->ip_addr_str, csp->http->cmd);
1413       /* XXX: Use correct size */
1414       log_error(LOG_LEVEL_CLF, "%s - - [%T] \"%s\" 400 0",
1415          csp->ip_addr_str, csp->http->cmd);
1416
1417       write_socket(csp->cfd, CHEADER, strlen(CHEADER));
1418       destroy_list(headers);
1419
1420       return JB_ERR_PARSE;
1421    }
1422    else if (JB_ERR_OK == get_destination_from_headers(headers, csp->http))
1423    {
1424       /* Split the domain we just got for pattern matching */
1425       init_domain_components(csp->http);
1426
1427       return JB_ERR_OK;
1428    }
1429    else
1430    {
1431       /* We can't work without destination. Go spread the news.*/
1432
1433       req = list_to_text(headers);
1434       chomp(req);
1435       /* XXX: Use correct size */
1436       log_error(LOG_LEVEL_CLF, "%s - - [%T] \"%s\" 400 0",
1437          csp->ip_addr_str, csp->http->cmd);
1438       log_error(LOG_LEVEL_ERROR,
1439          "Privoxy was unable to get the destination for %s's request:\n%s\n%s",
1440          csp->ip_addr_str, csp->http->cmd, req);
1441       freez(req);
1442
1443       write_socket(csp->cfd, MISSING_DESTINATION_RESPONSE, strlen(MISSING_DESTINATION_RESPONSE));
1444       destroy_list(headers);
1445
1446       return JB_ERR_PARSE;
1447    }
1448    /*
1449     * TODO: If available, use PF's ioctl DIOCNATLOOK as last resort
1450     * to get the destination IP address, use it as host directly
1451     * or do a reverse DNS lookup first.
1452     */
1453 }
1454
1455
1456 /*********************************************************************
1457  *
1458  * Function    :  get_server_headers
1459  *
1460  * Description :  Parses server headers in iob and fills them
1461  *                into csp->headers so that they can later be
1462  *                handled by sed().
1463  *
1464  * Parameters  :
1465  *          1  :  csp = Current client state (buffers, headers, etc...)
1466  *
1467  * Returns     :  JB_ERR_OK if everything went fine, or
1468  *                JB_ERR_PARSE if the headers were incomplete.
1469  *
1470  *********************************************************************/
1471 static jb_err get_server_headers(struct client_state *csp)
1472 {
1473    int continue_hack_in_da_house = 0;
1474    char * header;
1475
1476    while (((header = get_header(csp)) != NULL) || continue_hack_in_da_house)
1477    {
1478       if (header == NULL)
1479       {
1480          /*
1481           * continue hack in da house. Ignore the ending of
1482           * this head and continue enlisting header lines.
1483           * The reason is described below.
1484           */
1485          enlist(csp->headers, "");
1486          continue_hack_in_da_house = 0;
1487          continue;
1488       }
1489       else if (0 == strncmpic(header, "HTTP/1.1 100", 12))
1490       {
1491          /*
1492           * It's a bodyless continue response, don't
1493           * stop header parsing after reaching it's end.
1494           *
1495           * As a result Privoxy will concatenate the
1496           * next response's head and parse and deliver
1497           * the headers as if they belonged to one request.
1498           *
1499           * The client will separate them because of the
1500           * empty line between them.
1501           *
1502           * XXX: What we're doing here is clearly against
1503           * the intended purpose of the continue header,
1504           * and under some conditions (HTTP/1.0 client request)
1505           * it's a standard violation.
1506           *
1507           * Anyway, "sort of against the spec" is preferable
1508           * to "always getting confused by Continue responses"
1509           * (Privoxy's behaviour before this hack was added)
1510           */
1511          log_error(LOG_LEVEL_HEADER, "Continue hack in da house.");
1512          continue_hack_in_da_house = 1;
1513       }
1514       else if (*header == '\0') 
1515       {
1516          /*
1517           * If the header is empty, but the Continue hack
1518           * isn't active, we can assume that we reached the
1519           * end of the buffer before we hit the end of the
1520           * head.
1521           *
1522           * Inform the caller an let it decide how to handle it.
1523           */
1524          return JB_ERR_PARSE;
1525       }
1526
1527       if (JB_ERR_MEMORY == enlist(csp->headers, header))
1528       {
1529          /*
1530           * XXX: Should we quit the request and return a
1531           * out of memory error page instead?
1532           */
1533          log_error(LOG_LEVEL_ERROR,
1534             "Out of memory while enlisting server headers. %s lost.",
1535             header);
1536       }
1537       freez(header);
1538    }
1539
1540    return JB_ERR_OK;
1541 }
1542
1543
1544 /*********************************************************************
1545  *
1546  * Function    :  crunch_reason
1547  *
1548  * Description :  Translates the crunch reason code into a string.
1549  *
1550  * Parameters  :
1551  *          1  :  rsp = a http_response
1552  *
1553  * Returns     :  A string with the crunch reason or an error description.
1554  *
1555  *********************************************************************/
1556 static const char *crunch_reason(const struct http_response *rsp)
1557 {
1558    char * reason = NULL;
1559
1560    assert(rsp != NULL);
1561    if (rsp == NULL)
1562    {
1563       return "Internal error while searching for crunch reason";
1564    }
1565
1566    switch (rsp->reason)
1567    {
1568       case RSP_REASON_UNSUPPORTED:
1569          reason = "Unsupported HTTP feature";
1570          break;
1571       case RSP_REASON_BLOCKED:
1572          reason = "Blocked";
1573          break;
1574       case RSP_REASON_UNTRUSTED:
1575          reason = "Untrusted";
1576          break;
1577       case RSP_REASON_REDIRECTED:
1578          reason = "Redirected";
1579          break;
1580       case RSP_REASON_CGI_CALL:
1581          reason = "CGI Call";
1582          break;
1583       case RSP_REASON_NO_SUCH_DOMAIN:
1584          reason = "DNS failure";
1585          break;
1586       case RSP_REASON_FORWARDING_FAILED:
1587          reason = "Forwarding failed";
1588          break;
1589       case RSP_REASON_CONNECT_FAILED:
1590          reason = "Connection failure";
1591          break;
1592       case RSP_REASON_OUT_OF_MEMORY:
1593          reason = "Out of memory (may mask other reasons)";
1594          break;
1595       default:
1596          reason = "No reason recorded";
1597          break;
1598    }
1599
1600    return reason;
1601 }
1602
1603
1604 /*********************************************************************
1605  *
1606  * Function    :  send_crunch_response
1607  *
1608  * Description :  Delivers already prepared response for
1609  *                intercepted requests, logs the interception
1610  *                and frees the response.
1611  *
1612  * Parameters  :
1613  *          1  :  csp = Current client state (buffers, headers, etc...)
1614  *          1  :  rsp = Fully prepared response. Will be freed on exit.
1615  *
1616  * Returns     :  Nothing.
1617  *
1618  *********************************************************************/
1619 static void send_crunch_response(struct client_state *csp, struct http_response *rsp)
1620 {
1621       const struct http_request *http = csp->http;
1622       char status_code[4];
1623
1624       assert(rsp != NULL);
1625       assert(rsp->head != NULL);
1626
1627       if (rsp == NULL)
1628       {
1629          /*
1630           * Not supposed to happen. If it does
1631           * anyway, treat it as an unknown error.
1632           */
1633          cgi_error_unknown(csp, rsp, RSP_REASON_INTERNAL_ERROR);
1634          /* return code doesn't matter */
1635       }
1636
1637       if (rsp == NULL)
1638       {
1639          /* If rsp is still NULL, we have serious internal problems. */
1640          log_error(LOG_LEVEL_FATAL,
1641             "NULL response in send_crunch_response and cgi_error_unknown failed as well.");
1642       }
1643
1644       /*
1645        * Extract the status code from the actual head
1646        * that was send to the client. It is the only
1647        * way to get it right for all requests, including
1648        * the fixed ones for out-of-memory problems.
1649        *
1650        * A head starts like this: 'HTTP/1.1 200...'
1651        *                           0123456789|11
1652        *                                     10
1653        */
1654       status_code[0] = rsp->head[9];
1655       status_code[1] = rsp->head[10];
1656       status_code[2] = rsp->head[11];
1657       status_code[3] = '\0';
1658
1659       /* Write the answer to the client */
1660       if (write_socket(csp->cfd, rsp->head, rsp->head_length)
1661        || write_socket(csp->cfd, rsp->body, rsp->content_length))
1662       {
1663          /* There is nothing we can do about it. */
1664          log_error(LOG_LEVEL_ERROR, "write to: %s failed: %E", csp->http->host);
1665       }
1666
1667       /* Log that the request was crunched and why. */
1668       log_error(LOG_LEVEL_GPC, "%s%s crunch! (%s)",
1669          http->hostport, http->path, crunch_reason(rsp));
1670       log_error(LOG_LEVEL_CLF, "%s - - [%T] \"%s\" %s %d",
1671          csp->ip_addr_str, http->ocmd, status_code, rsp->content_length);
1672
1673       /* Clean up and return */
1674       if (cgi_error_memory() != rsp)
1675       {
1676          free_http_response(rsp);
1677       } 
1678       return;
1679 }
1680
1681
1682 #if 0
1683 /*********************************************************************
1684  *
1685  * Function    :  request_contains_null_bytes
1686  *
1687  * Description :  Checks for NULL bytes in the request and sends
1688  *                an error message to the client if any were found.
1689  *
1690  *                XXX: currently not used, see comment in chat().
1691  *
1692  * Parameters  :
1693  *          1  :  csp = Current client state (buffers, headers, etc...)
1694  *          2  :  buf = Data from the client's request to check.
1695  *          3  :  len = The data length.
1696  *
1697  * Returns     :  TRUE if the request contained one or more NULL bytes, or
1698  *                FALSE otherwise.
1699  *
1700  *********************************************************************/
1701 static int request_contains_null_bytes(const struct client_state *csp, char *buf, int len)
1702 {
1703    size_t c_len; /* Request lenght when treated as C string */
1704
1705    c_len = strlen(buf);
1706
1707    if (c_len < len)
1708    {
1709       /*
1710        * Null byte(s) found. Log the request,
1711        * return an error response and hang up.
1712        */
1713       size_t tmp_len = c_len;
1714
1715       do
1716       {
1717         /*
1718          * Replace NULL byte(s) with '°' characters
1719          * so the request can be logged as string.
1720          * XXX: Is there a better replacement character?
1721          */
1722          buf[tmp_len]='°';
1723          tmp_len += strlen(buf+tmp_len);
1724       } while (tmp_len < len);
1725
1726       log_error(LOG_LEVEL_ERROR, "%s\'s request contains at least one NULL byte "
1727          "(length=%d, strlen=%d).", csp->ip_addr_str, len, c_len);
1728       log_error(LOG_LEVEL_HEADER, 
1729          "Offending request data with NULL bytes turned into \'°\' characters: %s", buf);
1730
1731       write_socket(csp->cfd, NULL_BYTE_RESPONSE, strlen(NULL_BYTE_RESPONSE));
1732
1733       /* XXX: Log correct size */
1734       log_error(LOG_LEVEL_CLF, "%s - - [%T] \"Invalid request\" 400 0", csp->ip_addr_str);
1735
1736       return TRUE;
1737    }
1738
1739    return FALSE;
1740 }
1741 #endif
1742
1743
1744 /*********************************************************************
1745  *
1746  * Function    :  crunch_response_triggered
1747  *
1748  * Description :  Checks if the request has to be crunched,
1749  *                and delivers the crunch response if necessary.
1750  *
1751  * Parameters  :
1752  *          1  :  csp = Current client state (buffers, headers, etc...)
1753  *          2  :  crunchers = list of cruncher functions to run
1754  *
1755  * Returns     :  TRUE if the request was answered with a crunch response
1756  *                FALSE otherwise.
1757  *
1758  *********************************************************************/
1759 static int crunch_response_triggered(struct client_state *csp, const struct cruncher crunchers[])
1760 {
1761    struct http_response *rsp = NULL;
1762    const struct cruncher *c;
1763
1764    /*
1765     * If CGI request crunching is disabled,
1766     * check the CGI dispatcher out of order to
1767     * prevent unintentional blocks or redirects. 
1768     */
1769    if (!(csp->config->feature_flags & RUNTIME_FEATURE_CGI_CRUNCHING)
1770        && (NULL != (rsp = dispatch_cgi(csp))))
1771    {
1772       /* Deliver, log and free the interception response. */
1773       send_crunch_response(csp, rsp);
1774       return TRUE;
1775    }
1776
1777    for (c = crunchers; c->cruncher != NULL; c++)
1778    {
1779       /*
1780        * Check the cruncher if either Privoxy is toggled
1781        * on and the request isn't forced, or if the cruncher
1782        * applies to forced requests as well.
1783        */
1784       if (((csp->flags & CSP_FLAG_TOGGLED_ON) &&
1785           !(csp->flags & CSP_FLAG_FORCED)) ||
1786           (c->flags & CF_IGNORE_FORCE))
1787       {
1788          rsp = c->cruncher(csp);
1789          if (NULL != rsp)
1790          {
1791             /* Deliver, log and free the interception response. */
1792             send_crunch_response(csp, rsp);
1793 #ifdef FEATURE_STATISTICS
1794             if (c->flags & CF_COUNT_AS_REJECT)
1795             {
1796                csp->flags |= CSP_FLAG_REJECTED;
1797             }
1798 #endif /* def FEATURE_STATISTICS */
1799
1800             return TRUE;
1801          }
1802       }
1803    }
1804
1805    return FALSE;
1806 }
1807
1808
1809 /*********************************************************************
1810  *
1811  * Function    :  build_request_line
1812  *
1813  * Description :  Builds the HTTP request line.
1814  *
1815  *                If a HTTP forwarder is used it expects the whole URL,
1816  *                web servers only get the path.
1817  *
1818  * Parameters  :
1819  *          1  :  csp = Current client state (buffers, headers, etc...)
1820  *          2  :  fwd = The forwarding spec used for the request
1821  *                XXX: Should use http->fwd instead.
1822  *          3  :  request_line = The old request line which will be replaced.
1823  *
1824  * Returns     :  Nothing. Terminates in case of memory problems.
1825  *
1826  *********************************************************************/
1827 static void build_request_line(struct client_state *csp, const struct forward_spec *fwd, char **request_line)
1828 {
1829    struct http_request *http = csp->http;
1830
1831    assert(http->ssl == 0);
1832
1833    /*
1834     * Downgrade http version from 1.1 to 1.0
1835     * if +downgrade action applies.
1836     */
1837    if ( (csp->action->flags & ACTION_DOWNGRADE)
1838      && (!strcmpic(http->ver, "HTTP/1.1")))
1839    {
1840       freez(http->ver);
1841       http->ver = strdup("HTTP/1.0");
1842
1843       if (http->ver == NULL)
1844       {
1845          log_error(LOG_LEVEL_FATAL, "Out of memory downgrading HTTP version");
1846       }
1847    }
1848
1849    /*
1850     * Rebuild the request line.
1851     */
1852    freez(*request_line);
1853    *request_line = strdup(http->gpc);
1854    string_append(request_line, " ");
1855
1856    if (fwd->forward_host)
1857    {
1858       string_append(request_line, http->url);
1859    }
1860    else
1861    {
1862       string_append(request_line, http->path);
1863    }
1864    string_append(request_line, " ");
1865    string_append(request_line, http->ver);
1866
1867    if (*request_line == NULL)
1868    {
1869       log_error(LOG_LEVEL_FATAL, "Out of memory writing HTTP command");
1870    }
1871    log_error(LOG_LEVEL_HEADER, "New HTTP Request-Line: %s", *request_line);
1872 }
1873
1874
1875 /*********************************************************************
1876  *
1877  * Function    :  change_request_destination
1878  *
1879  * Description :  Parse a (rewritten) request line and regenerate
1880  *                the http request data.
1881  *
1882  * Parameters  :
1883  *          1  :  csp = Current client state (buffers, headers, etc...)
1884  *
1885  * Returns     :  Forwards the parse_http_request() return code.
1886  *                Terminates in case of memory problems.
1887  *
1888  *********************************************************************/
1889 static jb_err change_request_destination(struct client_state *csp)
1890 {
1891    struct http_request *http = csp->http;
1892    jb_err err;
1893
1894    log_error(LOG_LEVEL_INFO, "Rewrite detected: %s", csp->headers->first->str);
1895    free_http_request(http);
1896    err = parse_http_request(csp->headers->first->str, http, csp);
1897    if (JB_ERR_OK != err)
1898    {
1899       log_error(LOG_LEVEL_ERROR, "Couldn't parse rewritten request: %s.",
1900          jb_err_to_string(err));
1901    }
1902    http->ocmd = strdup(http->cmd); /* XXX: ocmd is a misleading name */
1903    if (http->ocmd == NULL)
1904    {
1905       log_error(LOG_LEVEL_FATAL, "Out of memory copying rewritten HTTP request line");
1906    }
1907
1908    return err;
1909 }
1910
1911
1912 /*********************************************************************
1913  *
1914  * Function    :  chat
1915  *
1916  * Description :  Once a connection to the client has been accepted,
1917  *                this function is called (via serve()) to handle the
1918  *                main business of the communication.  When this
1919  *                function returns, the caller must close the client
1920  *                socket handle.
1921  *
1922  *                FIXME: chat is nearly thousand lines long.
1923  *                Ridiculous.
1924  *
1925  * Parameters  :
1926  *          1  :  csp = Current client state (buffers, headers, etc...)
1927  *
1928  * Returns     :  Nothing.
1929  *
1930  *********************************************************************/
1931 static void chat(struct client_state *csp)
1932 {
1933    char buf[BUFFER_SIZE];
1934    char *hdr;
1935    char *p;
1936    char *req = NULL;
1937    fd_set rfds;
1938    int n;
1939    jb_socket maxfd;
1940    int server_body;
1941    int ms_iis5_hack = 0;
1942    size_t byte_count = 0;
1943    int forwarded_connect_retries = 0;
1944    int max_forwarded_connect_retries = csp->config->forwarded_connect_retries;
1945    const struct forward_spec * fwd;
1946    struct http_request *http;
1947    int len; /* for buffer sizes (and negative error codes) */
1948    jb_err err;
1949
1950    /* Function that does the content filtering for the current request */
1951    filter_function_ptr content_filter = NULL;
1952
1953    /* Skeleton for HTTP response, if we should intercept the request */
1954    struct http_response *rsp;
1955
1956    /* Temporary copy of the client's headers before they get enlisted in csp->headers */
1957    struct list header_list;
1958    struct list *headers = &header_list;
1959
1960    http = csp->http;
1961
1962    memset(buf, 0, sizeof(buf));
1963
1964    /*
1965     * Read the client's request.  Note that since we're not using select() we
1966     * could get blocked here if a client connected, then didn't say anything!
1967     */
1968
1969    do
1970    {
1971       len = read_socket(csp->cfd, buf, sizeof(buf) - 1);
1972
1973       if (len <= 0) break;      /* error! */
1974
1975       /*
1976        * If there is no memory left for buffering the
1977        * request, there is nothing we can do but hang up
1978        */
1979       if (add_to_iob(csp, buf, len))
1980       {
1981          return;
1982       }
1983
1984       req = get_header(csp);
1985
1986    } while ((NULL != req) && ('\0' == *req));
1987
1988    if ((NULL != req) && ('\0' != *req))
1989    {
1990       /* Request received. Validate and parse it. */
1991
1992 #if 0
1993       /*
1994        * XXX: Temporary disabled to prevent problems
1995        * with POST requests whose bodies are allowed to
1996        * contain NULL bytes. BR#1730105.
1997        *
1998        * The main purpose of this check is to properly
1999        * log stuff like BitTorrent traffic and other junk
2000        * that hits public proxies. It's not required for
2001        * Privoxy to functions as those requests are discarded
2002        * later on anyway.
2003        *
2004        * It probably should be rewritten to only check
2005        * the head of the request. Another option would
2006        * be to let all POST requests pass, although that
2007        * may not be good enough.
2008        */
2009       if (request_contains_null_bytes(csp, buf, len))
2010       {
2011          /* NULL bytes found and dealt with, just hang up. */
2012          return;
2013       }
2014 #endif
2015
2016       /* Does the request line look invalid? */
2017       if (client_protocol_is_unsupported(csp, req))
2018       {
2019          /* 
2020           * Yes. The request has already been
2021           * answered with a error response, the buffers
2022           * were freed and we're done with chatting.
2023           */
2024          return;
2025       }
2026
2027 #ifdef FEATURE_FORCE_LOAD
2028       /*
2029        * If this request contains the FORCE_PREFIX and blocks
2030        * aren't enforced, get rid of it and set the force flag.
2031        */
2032       if (strstr(req, FORCE_PREFIX))
2033       {
2034          if (csp->config->feature_flags & RUNTIME_FEATURE_ENFORCE_BLOCKS)
2035          {
2036             log_error(LOG_LEVEL_FORCE,
2037                "Ignored force prefix in request: \"%s\".", req);
2038          }
2039          else
2040          {
2041             strclean(req, FORCE_PREFIX);
2042             log_error(LOG_LEVEL_FORCE, "Enforcing request: \"%s\".", req);
2043             csp->flags |= CSP_FLAG_FORCED;
2044          }
2045       }
2046
2047 #endif /* def FEATURE_FORCE_LOAD */
2048       err = parse_http_request(req, http, csp);
2049       if (JB_ERR_OK != err)
2050       {
2051          log_error(LOG_LEVEL_ERROR, "Couldn't parse request: %s.", jb_err_to_string(err));
2052       }
2053
2054       freez(req);
2055    }
2056
2057    if (http->cmd == NULL)
2058    {
2059       write_socket(csp->cfd, CHEADER, strlen(CHEADER));
2060       /* XXX: Use correct size */
2061       log_error(LOG_LEVEL_CLF, "%s - - [%T] \"Invalid request\" 400 0", csp->ip_addr_str);
2062       log_error(LOG_LEVEL_ERROR, "Invalid header received from %s.", csp->ip_addr_str);
2063
2064       free_http_request(http);
2065       return;
2066    }
2067
2068    /* grab the rest of the client's headers */
2069    init_list(headers);
2070    for (;;)
2071    {
2072       if ( ( ( p = get_header(csp) ) != NULL) && ( *p == '\0' ) )
2073       {
2074          len = read_socket(csp->cfd, buf, sizeof(buf) - 1);
2075          if (len <= 0)
2076          {
2077             log_error(LOG_LEVEL_ERROR, "read from client failed: %E");
2078             destroy_list(headers);
2079             return;
2080          }
2081          
2082          /*
2083           * If there is no memory left for buffering the
2084           * request, there is nothing we can do but hang up
2085           */
2086          if (add_to_iob(csp, buf, len))
2087          {
2088             destroy_list(headers);
2089             return;
2090          }
2091          continue;
2092       }
2093
2094       if (p == NULL) break;
2095
2096       enlist(headers, p);
2097       freez(p);
2098
2099    }
2100
2101    if (http->host == NULL)
2102    {
2103       /*
2104        * If we still don't know the request destination,
2105        * the request is invalid or the client uses
2106        * Privoxy without its knowledge.
2107        */
2108       if (JB_ERR_OK != get_request_destination_elsewhere(csp, headers))
2109       {
2110          /*
2111           * Our attempts to get the request destination
2112           * elsewhere failed or Privoxy is configured
2113           * to only accept proxy requests.
2114           *
2115           * An error response has already been send
2116           * and we're done here.
2117           */
2118          return;
2119       }
2120    }
2121
2122    /*
2123     * Determine the actions for this URL
2124     */
2125 #ifdef FEATURE_TOGGLE
2126    if (!(csp->flags & CSP_FLAG_TOGGLED_ON))
2127    {
2128       /* Most compatible set of actions (i.e. none) */
2129       init_current_action(csp->action);
2130    }
2131    else
2132 #endif /* ndef FEATURE_TOGGLE */
2133    {
2134       get_url_actions(csp, http);
2135    }
2136
2137    /* 
2138     * Save a copy of the original request for logging
2139     */
2140    http->ocmd = strdup(http->cmd);
2141
2142    if (http->ocmd == NULL)
2143    {
2144       log_error(LOG_LEVEL_FATAL, "Out of memory copying HTTP request line");
2145    }
2146
2147    enlist(csp->headers, http->cmd);
2148
2149    /* Append the previously read headers */
2150    list_append_list_unique(csp->headers, headers);
2151    destroy_list(headers);
2152
2153    err = sed(client_patterns, add_client_headers, csp);
2154    if (JB_ERR_OK != err)
2155    {
2156       assert(err == JB_ERR_PARSE);
2157       log_error(LOG_LEVEL_FATAL, "Failed to parse client headers");
2158    }
2159    csp->flags |= CSP_FLAG_CLIENT_HEADER_PARSING_DONE;
2160
2161    /* Check request line for rewrites. */
2162    if ((NULL == csp->headers->first->str)
2163       || (strcmp(http->cmd, csp->headers->first->str) &&
2164          (JB_ERR_OK != change_request_destination(csp))))
2165    {
2166       /*
2167        * A header filter broke the request line - bail out.
2168        */
2169       write_socket(csp->cfd, MESSED_UP_REQUEST_RESPONSE, strlen(MESSED_UP_REQUEST_RESPONSE));
2170       /* XXX: Use correct size */
2171       log_error(LOG_LEVEL_CLF, "%s - - [%T] \"Invalid request generated\" 500 0", csp->ip_addr_str);
2172       log_error(LOG_LEVEL_ERROR, "Invalid request line after applying header filters.");
2173
2174       free_http_request(http);
2175       return;
2176    }
2177
2178    /* decide how to route the HTTP request */
2179    fwd = forward_url(csp, http);
2180    if (NULL == fwd)
2181    {
2182       log_error(LOG_LEVEL_FATAL, "gateway spec is NULL!?!?  This can't happen!");
2183       /* Never get here - LOG_LEVEL_FATAL causes program exit */
2184    }
2185
2186    /*
2187     * build the http request to send to the server
2188     * we have to do one of the following:
2189     *
2190     * create = use the original HTTP request to create a new
2191     *          HTTP request that has either the path component
2192     *          without the http://domainspec (w/path) or the
2193     *          full orininal URL (w/url)
2194     *          Note that the path and/or the HTTP version may
2195     *          have been altered by now.
2196     *
2197     * connect = Open a socket to the host:port of the server
2198     *           and short-circuit server and client socket.
2199     *
2200     * pass =  Pass the request unchanged if forwarding a CONNECT
2201     *         request to a parent proxy. Note that we'll be sending
2202     *         the CFAIL message ourselves if connecting to the parent
2203     *         fails, but we won't send a CSUCCEED message if it works,
2204     *         since that would result in a double message (ours and the
2205     *         parent's). After sending the request to the parent, we simply
2206     *         tunnel.
2207     *
2208     * here's the matrix:
2209     *                        SSL
2210     *                    0        1
2211     *                +--------+--------+
2212     *                |        |        |
2213     *             0  | create | connect|
2214     *                | w/path |        |
2215     *  Forwarding    +--------+--------+
2216     *                |        |        |
2217     *             1  | create | pass   |
2218     *                | w/url  |        |
2219     *                +--------+--------+
2220     *
2221     */
2222
2223    if (http->ssl && connect_port_is_forbidden(csp))
2224    {
2225       const char *acceptable_connect_ports =
2226          csp->action->string[ACTION_STRING_LIMIT_CONNECT];
2227       assert(NULL != acceptable_connect_ports);
2228       log_error(LOG_LEVEL_INFO, "Request from %s marked for blocking. "
2229          "limit-connect{%s} doesn't allow CONNECT requests to port %d.",
2230          csp->ip_addr_str, acceptable_connect_ports, csp->http->port);
2231       csp->action->flags |= ACTION_BLOCK;
2232       http->ssl = 0;
2233    }
2234
2235    if (http->ssl == 0)
2236    {
2237       freez(csp->headers->first->str);
2238       build_request_line(csp, fwd, &csp->headers->first->str);
2239    }
2240
2241    hdr = list_to_text(csp->headers);
2242    if (hdr == NULL)
2243    {
2244       /* FIXME Should handle error properly */
2245       log_error(LOG_LEVEL_FATAL, "Out of memory parsing client header");
2246    }
2247
2248    /*
2249     * We have a request. Check if one of the crunchers wants it.
2250     */
2251    if (crunch_response_triggered(csp, crunchers_all))
2252    {
2253       /*
2254        * Yes. The client got the crunch response
2255        * and we are done here after cleaning up.
2256        */
2257       freez(hdr);
2258       list_remove_all(csp->headers);
2259
2260       return;
2261    }
2262
2263    /*
2264     * The headers can't be removed earlier because
2265     * they were still needed for the referrer check
2266     * in case of CGI crunches.
2267     *
2268     * XXX: Would it be worth to move the referrer check
2269     * into client_referrer() and set a flag if it's trusted?
2270     */
2271    list_remove_all(csp->headers);
2272
2273    log_error(LOG_LEVEL_GPC, "%s%s", http->hostport, http->path);
2274
2275    if (fwd->forward_host)
2276    {
2277       log_error(LOG_LEVEL_CONNECT, "via %s:%d to: %s",
2278                fwd->forward_host, fwd->forward_port, http->hostport);
2279    }
2280    else
2281    {
2282       log_error(LOG_LEVEL_CONNECT, "to %s", http->hostport);
2283    }
2284
2285    /* here we connect to the server, gateway, or the forwarder */
2286
2287    while ( (csp->sfd = forwarded_connect(fwd, http, csp))
2288          && (errno == EINVAL) && (forwarded_connect_retries++ < max_forwarded_connect_retries))
2289    {
2290       log_error(LOG_LEVEL_ERROR, "failed request #%u to connect to %s. Trying again.",
2291                 forwarded_connect_retries, http->hostport);
2292    }
2293
2294    if (csp->sfd == JB_INVALID_SOCKET)
2295    {
2296       if (fwd->type != SOCKS_NONE)
2297       {
2298          /* Socks error. */
2299          rsp = error_response(csp, "forwarding-failed", errno);
2300       }
2301       else if (errno == EINVAL)
2302       {
2303          rsp = error_response(csp, "no-such-domain", errno);
2304       }
2305       else
2306       {
2307          rsp = error_response(csp, "connect-failed", errno);
2308          log_error(LOG_LEVEL_CONNECT, "connect to: %s failed: %E",
2309                 http->hostport);
2310       }
2311
2312
2313       /* Write the answer to the client */
2314       if (rsp != NULL)
2315       {
2316          send_crunch_response(csp, rsp);
2317       }
2318
2319       freez(hdr);
2320       return;
2321    }
2322
2323    if (fwd->forward_host || (http->ssl == 0))
2324    {
2325       /* write the client's (modified) header to the server
2326        * (along with anything else that may be in the buffer)
2327        */
2328
2329       if (write_socket(csp->sfd, hdr, strlen(hdr))
2330        || (flush_socket(csp->sfd, csp->iob) <  0))
2331       {
2332          log_error(LOG_LEVEL_CONNECT, "write header to: %s failed: %E",
2333                     http->hostport);
2334
2335          rsp = error_response(csp, "connect-failed", errno);
2336
2337          if(rsp)
2338          {
2339             send_crunch_response(csp, rsp);
2340          }
2341
2342          freez(hdr);
2343          return;
2344       }
2345    }
2346    else
2347    {
2348       /*
2349        * We're running an SSL tunnel and we're not forwarding,
2350        * so just send the "connect succeeded" message to the
2351        * client, flush the rest, and get out of the way.
2352        */
2353       if (write_socket(csp->cfd, CSUCCEED, strlen(CSUCCEED)))
2354       {
2355          freez(hdr);
2356          return;
2357       }
2358       IOB_RESET(csp);
2359    }
2360
2361    log_error(LOG_LEVEL_CONNECT, "to %s successful", http->hostport);
2362
2363    /* we're finished with the client's header */
2364    freez(hdr);
2365
2366    maxfd = ( csp->cfd > csp->sfd ) ? csp->cfd : csp->sfd;
2367
2368    /* pass data between the client and server
2369     * until one or the other shuts down the connection.
2370     */
2371
2372    server_body = 0;
2373
2374    for (;;)
2375    {
2376 #ifdef __OS2__
2377       /*
2378        * FD_ZERO here seems to point to an errant macro which crashes.
2379        * So do this by hand for now...
2380        */
2381       memset(&rfds,0x00,sizeof(fd_set));
2382 #else
2383       FD_ZERO(&rfds);
2384 #endif
2385       FD_SET(csp->cfd, &rfds);
2386       FD_SET(csp->sfd, &rfds);
2387
2388       n = select((int)maxfd+1, &rfds, NULL, NULL, NULL);
2389
2390       if (n < 0)
2391       {
2392          log_error(LOG_LEVEL_ERROR, "select() failed!: %E");
2393          return;
2394       }
2395
2396       /* this is the body of the browser's request
2397        * just read it and write it.
2398        */
2399
2400       if (FD_ISSET(csp->cfd, &rfds))
2401       {
2402          len = read_socket(csp->cfd, buf, sizeof(buf) - 1);
2403
2404          if (len <= 0)
2405          {
2406             break; /* "game over, man" */
2407          }
2408
2409          if (write_socket(csp->sfd, buf, (size_t)len))
2410          {
2411             log_error(LOG_LEVEL_ERROR, "write to: %s failed: %E", http->host);
2412             return;
2413          }
2414          continue;
2415       }
2416
2417       /*
2418        * The server wants to talk.  It could be the header or the body.
2419        * If `hdr' is null, then it's the header otherwise it's the body.
2420        * FIXME: Does `hdr' really mean `host'? No.
2421        */
2422
2423
2424       if (FD_ISSET(csp->sfd, &rfds))
2425       {
2426          fflush( 0 );
2427          len = read_socket(csp->sfd, buf, sizeof(buf) - 1);
2428
2429          if (len < 0)
2430          {
2431             log_error(LOG_LEVEL_ERROR, "read from: %s failed: %E", http->host);
2432
2433             if (http->ssl && (fwd->forward_host == NULL))
2434             {
2435                /*
2436                 * Just hang up. We already confirmed the client's CONNECT
2437                 * request with status code 200 and unencrypted content is
2438                 * no longer welcome.
2439                 */
2440                log_error(LOG_LEVEL_ERROR,
2441                   "CONNECT already confirmed. Unable to tell the client about the problem.");
2442                return;
2443             }
2444             else if (byte_count)
2445             {
2446                /*
2447                 * Just hang up. We already transmitted the original headers
2448                 * and parts of the original content and therefore missed the
2449                 * chance to send an error message (without risking data corruption).
2450                 *
2451                 * XXX: we could retry with a fancy range request here.
2452                 */
2453                log_error(LOG_LEVEL_ERROR, "Already forwarded the original headers. "
2454                   "Unable to tell the client about the problem.");
2455                return;
2456             }
2457
2458             rsp = error_response(csp, "connect-failed", errno);
2459
2460             if (rsp)
2461             {
2462                send_crunch_response(csp, rsp);
2463             }
2464
2465             return;
2466          }
2467
2468          /* Add a trailing zero.  This lets filter_popups
2469           * use string operations.
2470           */
2471          buf[len] = '\0';
2472
2473          /* Normally, this would indicate that we've read
2474           * as much as the server has sent us and we can
2475           * close the client connection.  However, Microsoft
2476           * in its wisdom has released IIS/5 with a bug that
2477           * prevents it from sending the trailing \r\n in
2478           * a 302 redirect header (and possibly other headers).
2479           * To work around this if we've haven't parsed
2480           * a full header we'll append a trailing \r\n
2481           * and see if this now generates a valid one.
2482           *
2483           * This hack shouldn't have any impacts.  If we've
2484           * already transmitted the header or if this is a
2485           * SSL connection, then we won't bother with this
2486           * hack.  So we only work on partially received
2487           * headers.  If we append a \r\n and this still
2488           * doesn't generate a valid header, then we won't
2489           * transmit anything to the client.
2490           */
2491          if (len == 0)
2492          {
2493
2494             if (server_body || http->ssl)
2495             {
2496                /*
2497                 * If we have been buffering up the document,
2498                 * now is the time to apply content modification
2499                 * and send the result to the client.
2500                 */
2501                if (content_filter)
2502                {
2503                   p = execute_content_filter(csp, content_filter);
2504                   /*
2505                    * If the content filter fails, use the original
2506                    * buffer and length.
2507                    * (see p != NULL ? p : csp->iob->cur below)
2508                    */
2509                   if (NULL == p)
2510                   {
2511                      csp->content_length = (size_t)(csp->iob->eod - csp->iob->cur);
2512                   }
2513
2514                   if (JB_ERR_OK != sed(server_patterns_light, NULL, csp))
2515                   {
2516                      log_error(LOG_LEVEL_FATAL, "Failed to parse server headers.");
2517                   }
2518
2519                   hdr = list_to_text(csp->headers);
2520                   if (hdr == NULL)
2521                   {
2522                      /* FIXME Should handle error properly */
2523                      log_error(LOG_LEVEL_FATAL, "Out of memory parsing server header");
2524                   }
2525
2526                   /*
2527                    * Shouldn't happen because this was the second sed run
2528                    * and tags are only created for the first one.
2529                    */
2530                   assert(!crunch_response_triggered(csp, crunchers_all));
2531
2532                   if (write_socket(csp->cfd, hdr, strlen(hdr))
2533                    || write_socket(csp->cfd, p != NULL ? p : csp->iob->cur, csp->content_length))
2534                   {
2535                      log_error(LOG_LEVEL_ERROR, "write modified content to client failed: %E");
2536                      freez(hdr);
2537                      freez(p);
2538                      return;
2539                   }
2540
2541                   freez(hdr);
2542                   freez(p);
2543                }
2544
2545                break; /* "game over, man" */
2546             }
2547
2548             /*
2549              * This is NOT the body, so
2550              * Let's pretend the server just sent us a blank line.
2551              */
2552             snprintf(buf, sizeof(buf), "\r\n");
2553             len = (int)strlen(buf);
2554
2555             /*
2556              * Now, let the normal header parsing algorithm below do its
2557              * job.  If it fails, we'll exit instead of continuing.
2558              */
2559
2560             ms_iis5_hack = 1;
2561          }
2562
2563          /*
2564           * If this is an SSL connection or we're in the body
2565           * of the server document, just write it to the client,
2566           * unless we need to buffer the body for later content-filtering
2567           */
2568
2569          if (server_body || http->ssl)
2570          {
2571             if (content_filter)
2572             {
2573                /*
2574                 * If there is no memory left for buffering the content, or the buffer limit
2575                 * has been reached, switch to non-filtering mode, i.e. make & write the
2576                 * header, flush the iob and buf, and get out of the way.
2577                 */
2578                if (add_to_iob(csp, buf, len))
2579                {
2580                   size_t hdrlen;
2581                   int flushed;
2582
2583                   log_error(LOG_LEVEL_INFO, "Flushing header and buffers. Stepping back from filtering.");
2584
2585                   hdr = list_to_text(csp->headers);
2586                   if (hdr == NULL)
2587                   {
2588                      /* 
2589                       * Memory is too tight to even generate the header.
2590                       * Send our static "Out-of-memory" page.
2591                       */
2592                      log_error(LOG_LEVEL_ERROR, "Out of memory while trying to flush.");
2593                      rsp = cgi_error_memory();
2594                      send_crunch_response(csp, rsp);
2595
2596                      return;
2597                   }
2598                   hdrlen = strlen(hdr);
2599
2600                   if (write_socket(csp->cfd, hdr, hdrlen)
2601                    || ((flushed = flush_socket(csp->cfd, csp->iob)) < 0)
2602                    || (write_socket(csp->cfd, buf, (size_t)len)))
2603                   {
2604                      log_error(LOG_LEVEL_CONNECT, "Flush header and buffers to client failed: %E");
2605
2606                      freez(hdr);
2607                      return;
2608                   }
2609
2610                   /*
2611                    * Reset the byte_count to the amount of bytes
2612                    * we just flushed. len will be added a few lines below,
2613                    * hdrlen doesn't matter for LOG_LEVEL_CLF.
2614                    */
2615                   byte_count = (size_t)flushed;
2616                   freez(hdr);
2617                   content_filter = NULL;
2618                   server_body = 1;
2619                }
2620             }
2621             else
2622             {
2623                if (write_socket(csp->cfd, buf, (size_t)len))
2624                {
2625                   log_error(LOG_LEVEL_ERROR, "write to client failed: %E");
2626                   return;
2627                }
2628             }
2629             byte_count += (size_t)len;
2630             continue;
2631          }
2632          else
2633          {
2634             /* we're still looking for the end of the
2635              * server's header ... (does that make header
2636              * parsing an "out of body experience" ?
2637              */
2638
2639             /* 
2640              * buffer up the data we just read.  If that fails, 
2641              * there's little we can do but send our static
2642              * out-of-memory page.
2643              */
2644             if (add_to_iob(csp, buf, len))
2645             {
2646                log_error(LOG_LEVEL_ERROR, "Out of memory while looking for end of server headers.");
2647                rsp = cgi_error_memory();
2648                send_crunch_response(csp, rsp);               
2649
2650                return;
2651             }
2652
2653             /* Convert iob into something sed() can digest */
2654             if (JB_ERR_PARSE == get_server_headers(csp))
2655             {
2656                if (ms_iis5_hack)
2657                {
2658                   /* Well, we tried our MS IIS/5
2659                    * hack and it didn't work.
2660                    * The header is incomplete
2661                    * and there isn't anything
2662                    * we can do about it.
2663                    */
2664                   log_error(LOG_LEVEL_INFO,
2665                      "MS IIS5 hack didn't produce valid headers.");
2666                   break;
2667                }
2668                else
2669                {
2670                   /* Since we have to wait for
2671                    * more from the server before
2672                    * we can parse the headers
2673                    * we just continue here.
2674                    */
2675                   continue;
2676                }
2677             }
2678
2679             /* Did we actually get anything? */
2680             if (NULL == csp->headers->first)
2681             {
2682                log_error(LOG_LEVEL_ERROR, "Empty server or forwarder response.");
2683                log_error(LOG_LEVEL_CLF, "%s - - [%T] \"%s\" 502 0", csp->ip_addr_str, http->cmd);
2684                write_socket(csp->cfd, NO_SERVER_DATA_RESPONSE, strlen(NO_SERVER_DATA_RESPONSE));
2685                free_http_request(http);
2686                return;
2687             }
2688
2689             assert(csp->headers->first->str);
2690             assert(!http->ssl);
2691             if (strncmpic(csp->headers->first->str, "HTTP", 4))
2692             {
2693                /*
2694                 * It doesn't look like a HTTP response:
2695                 * tell the client and log the problem.
2696                 */
2697                if (strlen(csp->headers->first->str) > 30)
2698                {
2699                   csp->headers->first->str[30] = '\0';
2700                }
2701                log_error(LOG_LEVEL_ERROR,
2702                   "Invalid server or forwarder response. Starts with: %s",
2703                   csp->headers->first->str);
2704                log_error(LOG_LEVEL_CLF,
2705                   "%s - - [%T] \"%s\" 502 0", csp->ip_addr_str, http->cmd);
2706                write_socket(csp->cfd, INVALID_SERVER_HEADERS_RESPONSE,
2707                   strlen(INVALID_SERVER_HEADERS_RESPONSE));
2708                free_http_request(http);
2709                return;
2710             }
2711
2712             /* we have now received the entire header.
2713              * filter it and send the result to the client
2714              */
2715             if (JB_ERR_OK != sed(server_patterns, add_server_headers, csp))
2716             {
2717                log_error(LOG_LEVEL_FATAL, "Failed to parse server headers.");
2718             }
2719             hdr = list_to_text(csp->headers);
2720             if (hdr == NULL)
2721             {
2722                /* FIXME Should handle error properly */
2723                log_error(LOG_LEVEL_FATAL, "Out of memory parsing server header");
2724             }
2725
2726             if (crunch_response_triggered(csp, crunchers_light))
2727             {
2728                /*
2729                 * One of the tags created by a server-header
2730                 * tagger triggered a crunch. We already
2731                 * delivered the crunch response to the client
2732                 * and are done here after cleaning up.
2733                 */
2734                 freez(hdr);
2735                 return;
2736             }
2737             /* Buffer and pcrs filter this if appropriate. */
2738
2739             if (!http->ssl) /* We talk plaintext */
2740             {
2741                content_filter = get_filter_function(csp);
2742             }
2743             /*
2744              * Only write if we're not buffering for content modification
2745              */
2746             if (!content_filter)
2747             {
2748                /* write the server's (modified) header to
2749                 * the client (along with anything else that
2750                 * may be in the buffer)
2751                 */
2752
2753                if (write_socket(csp->cfd, hdr, strlen(hdr))
2754                 || ((len = flush_socket(csp->cfd, csp->iob)) < 0))
2755                {
2756                   log_error(LOG_LEVEL_CONNECT, "write header to client failed: %E");
2757
2758                   /* the write failed, so don't bother
2759                    * mentioning it to the client...
2760                    * it probably can't hear us anyway.
2761                    */
2762                   freez(hdr);
2763                   return;
2764                }
2765
2766                byte_count += (size_t)len;
2767             }
2768
2769             /* we're finished with the server's header */
2770
2771             freez(hdr);
2772             server_body = 1;
2773
2774             /* If this was a MS IIS/5 hack then it means
2775              * the server has already closed the
2776              * connection.  Nothing more to read.  Time
2777              * to bail.
2778              */
2779             if (ms_iis5_hack)
2780             {
2781                log_error(LOG_LEVEL_INFO,
2782                   "Closed server connection detected with MS IIS5 hack enabled.");
2783                break;
2784             }
2785          }
2786          continue;
2787       }
2788
2789       return; /* huh? we should never get here */
2790    }
2791
2792    if (csp->content_length == 0)
2793    {
2794       /*
2795        * If Privoxy didn't recalculate the
2796        * Content-Lenght, byte_count is still
2797        * correct.
2798        */
2799       csp->content_length = byte_count;
2800    }
2801
2802    log_error(LOG_LEVEL_CLF, "%s - - [%T] \"%s\" 200 %d",
2803       csp->ip_addr_str, http->ocmd, csp->content_length);
2804 }
2805
2806
2807 /*********************************************************************
2808  *
2809  * Function    :  serve
2810  *
2811  * Description :  This is little more than chat.  We only "serve" to
2812  *                to close any socket that chat may have opened.
2813  *
2814  * Parameters  :
2815  *          1  :  csp = Current client state (buffers, headers, etc...)
2816  *
2817  * Returns     :  N/A
2818  *
2819  *********************************************************************/
2820 #ifdef AMIGA
2821 void serve(struct client_state *csp)
2822 #else /* ifndef AMIGA */
2823 static void serve(struct client_state *csp)
2824 #endif /* def AMIGA */
2825 {
2826    chat(csp);
2827    close_socket(csp->cfd);
2828
2829    if (csp->sfd != JB_INVALID_SOCKET)
2830    {
2831       close_socket(csp->sfd);
2832    }
2833
2834    csp->flags &= ~CSP_FLAG_ACTIVE;
2835
2836 }
2837
2838
2839 #ifdef __BEOS__
2840 /*********************************************************************
2841  *
2842  * Function    :  server_thread
2843  *
2844  * Description :  We only exist to call `serve' in a threaded environment.
2845  *
2846  * Parameters  :
2847  *          1  :  data = Current client state (buffers, headers, etc...)
2848  *
2849  * Returns     :  Always 0.
2850  *
2851  *********************************************************************/
2852 static int32 server_thread(void *data)
2853 {
2854    serve((struct client_state *) data);
2855    return 0;
2856
2857 }
2858 #endif
2859
2860
2861 #if !defined(_WIN32) || defined(_WIN_CONSOLE)
2862 /*********************************************************************
2863  *
2864  * Function    :  usage
2865  *
2866  * Description :  Print usage info & exit.
2867  *
2868  * Parameters  :  Pointer to argv[0] for identifying ourselves
2869  *
2870  * Returns     :  No. ,-)
2871  *
2872  *********************************************************************/
2873 static void usage(const char *myname)
2874 {
2875    printf("Privoxy version " VERSION " (" HOME_PAGE_URL ")\n"
2876           "Usage: %s "
2877 #if defined(unix)
2878           "[--chroot] "
2879 #endif /* defined(unix) */
2880           "[--help] "
2881 #if defined(unix)
2882           "[--no-daemon] [--pidfile pidfile] [--pre-chroot-nslookup hostname] [--user user[.group]] "
2883 #endif /* defined(unix) */
2884           "[--version] [configfile]\n"
2885           "Aborting\n", myname);
2886
2887    exit(2);
2888
2889 }
2890 #endif /* #if !defined(_WIN32) || defined(_WIN_CONSOLE) */
2891
2892
2893 /*********************************************************************
2894  *
2895  * Function    :  initialize_mutexes
2896  *
2897  * Description :  Prepares mutexes if mutex support is available.
2898  *
2899  * Parameters  :  None
2900  *
2901  * Returns     :  Void, exits in case of errors.
2902  *
2903  *********************************************************************/
2904 static void initialize_mutexes(void)
2905 {
2906    int err = 0;
2907
2908 #ifdef FEATURE_PTHREAD
2909    /*
2910     * Prepare global mutex semaphores
2911     */
2912    err = pthread_mutex_init(&log_mutex, 0);
2913
2914    if (!err) err = pthread_mutex_init(&log_init_mutex, 0);
2915
2916    /*
2917     * XXX: The assumptions below are a bit naive
2918     * and can cause locks that aren't necessary.
2919     *
2920     * For example older FreeBSD versions (< 6.x?)
2921     * have no gethostbyname_r, but gethostbyname is
2922     * thread safe.
2923     */
2924 #if !defined(HAVE_GETHOSTBYADDR_R) || !defined(HAVE_GETHOSTBYNAME_R)
2925    if (!err) err = pthread_mutex_init(&resolver_mutex, 0);
2926 #endif /* !defined(HAVE_GETHOSTBYADDR_R) || !defined(HAVE_GETHOSTBYNAME_R) */
2927    /*
2928     * XXX: should we use a single mutex for
2929     * localtime() and gmtime() as well?
2930     */
2931 #ifndef HAVE_GMTIME_R
2932    if (!err) err = pthread_mutex_init(&gmtime_mutex, 0);
2933 #endif /* ndef HAVE_GMTIME_R */
2934
2935 #ifndef HAVE_LOCALTIME_R
2936    if (!err) err = pthread_mutex_init(&localtime_mutex, 0);
2937 #endif /* ndef HAVE_GMTIME_R */
2938
2939 #ifndef HAVE_RANDOM
2940    if (!err) err = pthread_mutex_init(&rand_mutex, 0);
2941 #endif /* ndef HAVE_RANDOM */
2942 #endif /* FEATURE_PTHREAD */
2943
2944    /*
2945     * TODO: mutex support for mingw32 would be swell.
2946     */
2947
2948    if (err)
2949    {
2950       printf("Fatal error. Mutex initialization failed: %s.\n",
2951          strerror(err));
2952       exit(1);
2953    }
2954
2955    return;
2956 }
2957
2958
2959 /*********************************************************************
2960  *
2961  * Function    :  main
2962  *
2963  * Description :  Load the config file and start the listen loop.
2964  *                This function is a lot more *sane* with the `load_config'
2965  *                and `listen_loop' functions; although it stills does
2966  *                a *little* too much for my taste.
2967  *
2968  * Parameters  :
2969  *          1  :  argc = Number of parameters (including $0).
2970  *          2  :  argv = Array of (char *)'s to the parameters.
2971  *
2972  * Returns     :  1 if : can't open config file, unrecognized directive,
2973  *                stats requested in multi-thread mode, can't open the
2974  *                log file, can't open the jar file, listen port is invalid,
2975  *                any load fails, and can't bind port.
2976  *
2977  *                Else main never returns, the process must be signaled
2978  *                to terminate execution.  Or, on Windows, use the
2979  *                "File", "Exit" menu option.
2980  *
2981  *********************************************************************/
2982 #ifdef __MINGW32__
2983 int real_main(int argc, const char *argv[])
2984 #else
2985 int main(int argc, const char *argv[])
2986 #endif
2987 {
2988    int argc_pos = 0;
2989    unsigned int random_seed;
2990 #ifdef unix
2991    struct passwd *pw = NULL;
2992    struct group *grp = NULL;
2993    char *p;
2994    int do_chroot = 0;
2995    char *pre_chroot_nslookup_to_load_resolver = NULL;
2996 #endif
2997
2998    Argc = argc;
2999    Argv = argv;
3000
3001    configfile =
3002 #if !defined(_WIN32)
3003    "config"
3004 #else
3005    "config.txt"
3006 #endif
3007       ;
3008
3009    /*
3010     * Parse the command line arguments
3011     *
3012     * XXX: simply printing usage information in case of
3013     * invalid arguments isn't particularly user friendly.
3014     */
3015    while (++argc_pos < argc)
3016    {
3017 #ifdef _WIN32
3018       /* Check to see if the service must be installed or uninstalled */
3019       if (strncmp(argv[argc_pos], "--install", 9) == 0)
3020       {
3021          const char *pName = argv[argc_pos] + 9;
3022          if (*pName == ':')
3023             pName++;
3024          exit( (install_service(pName)) ? 0 : 1 );
3025       }
3026       else if (strncmp(argv[argc_pos], "--uninstall", + 11) == 0)
3027       {
3028          const char *pName = argv[argc_pos] + 11;
3029          if (*pName == ':')
3030             pName++;
3031          exit((uninstall_service(pName)) ? 0 : 1);
3032       }
3033       else if (strcmp(argv[argc_pos], "--service" ) == 0)
3034       {
3035          bRunAsService = TRUE;
3036          w32_set_service_cwd();
3037          atexit(w32_service_exit_notify);
3038       }
3039       else
3040 #endif /* defined(_WIN32) */
3041
3042
3043 #if !defined(_WIN32) || defined(_WIN_CONSOLE)
3044
3045       if (strcmp(argv[argc_pos], "--help") == 0)
3046       {
3047          usage(argv[0]);
3048       }
3049
3050       else if(strcmp(argv[argc_pos], "--version") == 0)
3051       {
3052          printf("Privoxy version " VERSION " (" HOME_PAGE_URL ")\n");
3053          exit(0);
3054       }
3055
3056 #if defined(unix)
3057
3058       else if (strcmp(argv[argc_pos], "--no-daemon" ) == 0)
3059       {
3060          no_daemon = 1;
3061       }
3062
3063       else if (strcmp(argv[argc_pos], "--pidfile" ) == 0)
3064       {
3065          if (++argc_pos == argc) usage(argv[0]);
3066          pidfile = strdup(argv[argc_pos]);
3067       }
3068
3069       else if (strcmp(argv[argc_pos], "--user" ) == 0)
3070       {
3071          if (++argc_pos == argc) usage(argv[argc_pos]);
3072
3073          if ((NULL != (p = strchr(argv[argc_pos], '.'))) && *(p + 1) != '0')
3074          {
3075             *p++ = '\0';
3076             if (NULL == (grp = getgrnam(p)))
3077             {
3078                log_error(LOG_LEVEL_FATAL, "Group %s not found.", p);
3079             }
3080          }
3081
3082          if (NULL == (pw = getpwnam(argv[argc_pos])))
3083          {
3084             log_error(LOG_LEVEL_FATAL, "User %s not found.", argv[argc_pos]);
3085          }
3086
3087          if (p != NULL) *--p = '\0';
3088       }
3089
3090       else if (strcmp(argv[argc_pos], "--pre-chroot-nslookup" ) == 0)
3091       {
3092          if (++argc_pos == argc) usage(argv[0]);
3093          pre_chroot_nslookup_to_load_resolver = strdup(argv[argc_pos]);
3094       }
3095
3096       else if (strcmp(argv[argc_pos], "--chroot" ) == 0)
3097       {
3098          do_chroot = 1;
3099       }
3100 #endif /* defined(unix) */
3101
3102       else if (argc_pos + 1 != argc)
3103       {
3104          /*
3105           * This is neither the last command line
3106           * option, nor was it recognized before,
3107           * therefore it must be invalid.
3108           */
3109          usage(argv[0]);
3110       }
3111       else
3112
3113 #endif /* defined(_WIN32) && !defined(_WIN_CONSOLE) */
3114       {
3115          configfile = argv[argc_pos];
3116       }
3117
3118    } /* -END- while (more arguments) */
3119
3120 #if defined(unix)
3121    if ( *configfile != '/' )
3122    {
3123       char cwd[BUFFER_SIZE];
3124       char *abs_file;
3125       size_t abs_file_size; 
3126
3127       /* make config-filename absolute here */
3128       if (NULL == getcwd(cwd, sizeof(cwd)))
3129       {
3130          perror("failed to get current working directory");
3131          exit( 1 );
3132       }
3133
3134       /* XXX: why + 5? */
3135       abs_file_size = strlen(cwd) + strlen(configfile) + 5;
3136       basedir = strdup(cwd);
3137
3138       if (NULL == basedir ||
3139           NULL == (abs_file = malloc(abs_file_size)))
3140       {
3141          perror("malloc failed");
3142          exit( 1 );
3143       }
3144       strlcpy(abs_file, basedir, abs_file_size);
3145       strlcat(abs_file, "/", abs_file_size );
3146       strlcat(abs_file, configfile, abs_file_size);
3147       configfile = abs_file;
3148    }
3149 #endif /* defined unix */
3150
3151
3152    files->next = NULL;
3153    clients->next = NULL;
3154
3155    /* XXX: factor out initialising after the next stable release. */
3156 #ifdef AMIGA
3157    InitAmiga();
3158 #elif defined(_WIN32)
3159    InitWin32();
3160 #endif
3161
3162    /* Prepare mutexes if supported and necessary. */
3163    initialize_mutexes();
3164
3165    /* Enable logging until further notice. */
3166    init_log_module(Argv[0]);
3167
3168    random_seed = (unsigned int)time(NULL);
3169 #ifdef HAVE_RANDOM
3170    srandom(random_seed);
3171 #elif defined (_WIN32)
3172    /*
3173     * See pick_from_range() in miscutil.c for details.
3174     */
3175    log_error(LOG_LEVEL_INFO,
3176       "No thread-safe PRNG implemented for your platform. "
3177       "Using weak \'randomization\' factor which will "
3178       "limit the already questionable usefulness of "
3179       "header-time-randomizing actions (disabled by default).");
3180 #else
3181    srand(random_seed);
3182 #endif /* ifdef HAVE_RANDOM */
3183
3184    /*
3185     * Unix signal handling
3186     *
3187     * Catch the abort, interrupt and terminate signals for a graceful exit
3188     * Catch the hangup signal so the errlog can be reopened.
3189     * Ignore the broken pipe signals (FIXME: Why?)
3190     */
3191 #if !defined(_WIN32) && !defined(__OS2__) && !defined(AMIGA)
3192 {
3193    int idx;
3194    const int catched_signals[] = { SIGTERM, SIGINT, SIGHUP, 0 };
3195    const int ignored_signals[] = { SIGPIPE, 0 };
3196
3197    for (idx = 0; catched_signals[idx] != 0; idx++)
3198    {
3199 #ifdef sun /* FIXME: Is it safe to check for HAVE_SIGSET instead? */ 
3200       if (sigset(catched_signals[idx], sig_handler) == SIG_ERR)
3201 #else
3202       if (signal(catched_signals[idx], sig_handler) == SIG_ERR)
3203 #endif /* ifdef sun */
3204       {
3205          log_error(LOG_LEVEL_FATAL, "Can't set signal-handler for signal %d: %E", catched_signals[idx]);
3206       }
3207    }
3208
3209    for (idx = 0; ignored_signals[idx] != 0; idx++)
3210    {
3211       if (signal(ignored_signals[idx], SIG_IGN) == SIG_ERR)
3212       {
3213          log_error(LOG_LEVEL_FATAL, "Can't set ignore-handler for signal %d: %E", ignored_signals[idx]);
3214       }
3215    }
3216
3217 }
3218 #else /* ifdef _WIN32 */
3219 # ifdef _WIN_CONSOLE
3220    /*
3221     * We *are* in a windows console app.
3222     * Print a verbose messages about FAQ's and such
3223     */
3224    printf("%s", win32_blurb);
3225 # endif /* def _WIN_CONSOLE */
3226 #endif /* def _WIN32 */
3227
3228
3229    /* Initialize the CGI subsystem */
3230    cgi_init_error_messages();
3231
3232    /*
3233     * If runnig on unix and without the --nodaemon
3234     * option, become a daemon. I.e. fork, detach
3235     * from tty and get process group leadership
3236     */
3237 #if defined(unix)
3238 {
3239    pid_t pid = 0;
3240 #if 0
3241    int   fd;
3242 #endif
3243
3244    if (!no_daemon)
3245    {
3246       pid  = fork();
3247
3248       if ( pid < 0 ) /* error */
3249       {
3250          perror("fork");
3251          exit( 3 );
3252       }
3253       else if ( pid != 0 ) /* parent */
3254       {
3255          int status;
3256          pid_t wpid;
3257          /*
3258           * must check for errors
3259           * child died due to missing files aso
3260           */
3261          sleep( 1 );
3262          wpid = waitpid( pid, &status, WNOHANG );
3263          if ( wpid != 0 )
3264          {
3265             exit( 1 );
3266          }
3267          exit( 0 );
3268       }
3269       /* child */
3270 #if 1
3271       /* Should be more portable, but not as well tested */
3272       setsid();
3273 #else /* !1 */
3274 #ifdef __FreeBSD__
3275       setpgrp(0,0);
3276 #else /* ndef __FreeBSD__ */
3277       setpgrp();
3278 #endif /* ndef __FreeBSD__ */
3279       fd = open("/dev/tty", O_RDONLY);
3280       if ( fd )
3281       {
3282          /* no error check here */
3283          ioctl( fd, TIOCNOTTY,0 );
3284          close ( fd );
3285       }
3286 #endif /* 1 */
3287       /*
3288        * stderr (fd 2) will be closed later on, when the
3289        * log file has been parsed.
3290        */
3291
3292       close( 0 );
3293       close( 1 );
3294       chdir("/");
3295
3296    } /* -END- if (!no_daemon) */
3297
3298    /*
3299     * As soon as we have written the PID file, we can switch
3300     * to the user and group ID indicated by the --user option
3301     */
3302    write_pid_file();
3303
3304    if (NULL != pw)
3305    {
3306       if (setgid((NULL != grp) ? grp->gr_gid : pw->pw_gid))
3307       {
3308          log_error(LOG_LEVEL_FATAL, "Cannot setgid(): Insufficient permissions.");
3309       }
3310       if (do_chroot)
3311       {
3312          if (!pw->pw_dir)
3313          {
3314             log_error(LOG_LEVEL_FATAL, "Home directory for %s undefined", pw->pw_name);
3315          }
3316          /* Read the time zone file from /etc before doing chroot. */
3317          tzset();
3318          if (NULL != pre_chroot_nslookup_to_load_resolver
3319              && '\0' != pre_chroot_nslookup_to_load_resolver[0])
3320          {
3321             /* Initialize resolver library. */
3322             (void) resolve_hostname_to_ip(pre_chroot_nslookup_to_load_resolver);
3323          }
3324          if (chroot(pw->pw_dir) < 0)
3325          {
3326             log_error(LOG_LEVEL_FATAL, "Cannot chroot to %s", pw->pw_dir);
3327          }
3328          if (chdir ("/"))
3329          {
3330             log_error(LOG_LEVEL_FATAL, "Cannot chdir /");
3331          }
3332       }
3333       if (setuid(pw->pw_uid))
3334       {
3335          log_error(LOG_LEVEL_FATAL, "Cannot setuid(): Insufficient permissions.");
3336       }
3337       if (do_chroot)
3338       {
3339          char putenv_dummy[64];
3340
3341          strlcpy(putenv_dummy, "HOME=/", sizeof(putenv_dummy));
3342          if (putenv(putenv_dummy) != 0)
3343          {
3344             log_error(LOG_LEVEL_FATAL, "Cannot putenv(): HOME");
3345          }                
3346
3347          snprintf(putenv_dummy, sizeof(putenv_dummy), "USER=%s", pw->pw_name);
3348          if (putenv(putenv_dummy) != 0)
3349          {
3350             log_error(LOG_LEVEL_FATAL, "Cannot putenv(): USER");
3351          }
3352       }
3353    }
3354    else if (do_chroot)
3355    {
3356       log_error(LOG_LEVEL_FATAL, "Cannot chroot without --user argument.");
3357    }
3358 }
3359 #endif /* defined unix */
3360
3361 #ifdef _WIN32
3362    /* This will be FALSE unless the command line specified --service
3363     */
3364    if (bRunAsService)
3365    {
3366       /* Yup, so now we must attempt to establish a connection 
3367        * with the service dispatcher. This will only work if this
3368        * process was launched by the service control manager to
3369        * actually run as a service. If this isn't the case, i've
3370        * known it take around 30 seconds or so for the call to return.
3371        */
3372
3373       /* The StartServiceCtrlDispatcher won't return until the service is stopping */
3374       if (w32_start_service_ctrl_dispatcher(w32ServiceDispatchTable))
3375       {
3376          /* Service has run, and at this point is now being stopped, so just return */
3377          return 0;
3378       }
3379
3380 #ifdef _WIN_CONSOLE
3381       printf("Warning: Failed to connect to Service Control Dispatcher\nwhen starting as a service!\n");
3382 #endif
3383       /* An error occurred. Usually it's because --service was wrongly specified
3384        * and we were unable to connect to the Service Control Dispatcher because
3385        * it wasn't expecting us and is therefore not listening.
3386        *
3387        * For now, just continue below to call the listen_loop function.
3388        */
3389    }
3390 #endif /* def _WIN32 */
3391
3392    listen_loop();
3393
3394    /* NOTREACHED */
3395    return(-1);
3396
3397 }
3398
3399
3400 /*********************************************************************
3401  *
3402  * Function    :  bind_port_helper
3403  *
3404  * Description :  Bind the listen port.  Handles logging, and aborts
3405  *                on failure.
3406  *
3407  * Parameters  :
3408  *          1  :  config = Privoxy configuration.  Specifies port
3409  *                         to bind to.
3410  *
3411  * Returns     :  Port that was opened.
3412  *
3413  *********************************************************************/
3414 static jb_socket bind_port_helper(struct configuration_spec * config)
3415 {
3416    int result;
3417    jb_socket bfd;
3418
3419    if (config->haddr == NULL)
3420    {
3421       log_error(LOG_LEVEL_INFO, "Listening on port %d on all IP addresses",
3422                 config->hport);
3423    }
3424    else
3425    {
3426       log_error(LOG_LEVEL_INFO, "Listening on port %d on IP address %s",
3427                 config->hport, config->haddr);
3428    }
3429
3430    result = bind_port(config->haddr, config->hport, &bfd);
3431
3432    if (result < 0)
3433    {
3434       switch(result)
3435       {
3436          case -3 :
3437             log_error(LOG_LEVEL_FATAL, "can't bind to %s:%d: "
3438                "There may be another Privoxy or some other "
3439                "proxy running on port %d",
3440                (NULL != config->haddr) ? config->haddr : "INADDR_ANY",
3441                       config->hport, config->hport);
3442
3443          case -2 :
3444             log_error(LOG_LEVEL_FATAL, "can't bind to %s:%d: " 
3445                "The hostname is not resolvable",
3446                (NULL != config->haddr) ? config->haddr : "INADDR_ANY", config->hport);
3447
3448          default :
3449             log_error(LOG_LEVEL_FATAL, "can't bind to %s:%d: because %E",
3450                (NULL != config->haddr) ? config->haddr : "INADDR_ANY", config->hport);
3451       }
3452
3453       /* shouldn't get here */
3454       return JB_INVALID_SOCKET;
3455    }
3456
3457    config->need_bind = 0;
3458
3459    return bfd;
3460 }
3461
3462
3463 #ifdef _WIN32
3464 /* Without this simple workaround we get this compiler warning from _beginthread
3465  *     warning C4028: formal parameter 1 different from declaration
3466  */
3467 void w32_service_listen_loop(void *p)
3468 {
3469    listen_loop();
3470 }
3471 #endif /* def _WIN32 */
3472
3473
3474 /*********************************************************************
3475  *
3476  * Function    :  listen_loop
3477  *
3478  * Description :  bind the listen port and enter a "FOREVER" listening loop.
3479  *
3480  * Parameters  :  N/A
3481  *
3482  * Returns     :  Never.
3483  *
3484  *********************************************************************/
3485 static void listen_loop(void)
3486 {
3487    struct client_state *csp = NULL;
3488    jb_socket bfd;
3489    struct configuration_spec * config;
3490
3491    config = load_config();
3492
3493    bfd = bind_port_helper(config);
3494
3495 #ifdef FEATURE_GRACEFUL_TERMINATION
3496    while (!g_terminate)
3497 #else
3498    for (;;)
3499 #endif
3500    {
3501 #if !defined(FEATURE_PTHREAD) && !defined(_WIN32) && !defined(__BEOS__) && !defined(AMIGA) && !defined(__OS2__)
3502       while (waitpid(-1, NULL, WNOHANG) > 0)
3503       {
3504          /* zombie children */
3505       }
3506 #endif /* !defined(FEATURE_PTHREAD) && !defined(_WIN32) && !defined(__BEOS__) && !defined(AMIGA) */
3507
3508       /*
3509        * Free data that was used by died threads
3510        */
3511       sweep();
3512
3513 #if defined(unix)
3514       /*
3515        * Re-open the errlog after HUP signal
3516        */
3517       if (received_hup_signal)
3518       {
3519          init_error_log(Argv[0], config->logfile);
3520          received_hup_signal = 0;
3521       }
3522 #endif
3523
3524 #ifdef __OS2__
3525 #ifdef FEATURE_COOKIE_JAR
3526       /*
3527        * Need a workaround here: we have to fclose() the jarfile, or we die because it's
3528        * already open.  I think unload_configfile() is not being run, which should do
3529        * this work.  Until that can get resolved, we'll use this workaround.
3530        */
3531        if (csp)
3532          if(csp->config)
3533            if (csp->config->jar)
3534            {
3535              fclose(csp->config->jar);
3536              csp->config->jar = NULL;
3537            }
3538 #endif /* FEATURE_COOKIE_JAR */
3539 #endif /* __OS2__ */
3540
3541       if ( NULL == (csp = (struct client_state *) zalloc(sizeof(*csp))) )
3542       {
3543          log_error(LOG_LEVEL_FATAL, "malloc(%d) for csp failed: %E", sizeof(*csp));
3544          continue;
3545       }
3546
3547       csp->flags |= CSP_FLAG_ACTIVE;
3548       csp->sfd    = JB_INVALID_SOCKET;
3549
3550       csp->config = config = load_config();
3551
3552       if ( config->need_bind )
3553       {
3554          /*
3555           * Since we were listening to the "old port", we will not see
3556           * a "listen" param change until the next IJB request.  So, at
3557           * least 1 more request must be made for us to find the new
3558           * setting.  I am simply closing the old socket and binding the
3559           * new one.
3560           *
3561           * Which-ever is correct, we will serve 1 more page via the
3562           * old settings.  This should probably be a "show-proxy-args"
3563           * request.  This should not be a so common of an operation
3564           * that this will hurt people's feelings.
3565           */
3566
3567          close_socket(bfd);
3568
3569          bfd = bind_port_helper(config);
3570       }
3571
3572       log_error(LOG_LEVEL_CONNECT, "Listening for new connections ... ");
3573
3574       if (!accept_connection(csp, bfd))
3575       {
3576          log_error(LOG_LEVEL_CONNECT, "accept failed: %E");
3577
3578 #ifdef AMIGA
3579          if(!childs)
3580          {
3581             exit(1);
3582          }
3583 #endif
3584          freez(csp);
3585          continue;
3586       }
3587       else
3588       {
3589          log_error(LOG_LEVEL_CONNECT, "accepted connection from %s", csp->ip_addr_str);
3590       }
3591
3592 #ifdef FEATURE_TOGGLE
3593       if (global_toggle_state)
3594 #endif /* def FEATURE_TOGGLE */
3595       {
3596          csp->flags |= CSP_FLAG_TOGGLED_ON;
3597       }
3598
3599       if (run_loader(csp))
3600       {
3601          log_error(LOG_LEVEL_FATAL, "a loader failed - must exit");
3602          /* Never get here - LOG_LEVEL_FATAL causes program exit */
3603       }
3604
3605 #ifdef FEATURE_ACL
3606       if (block_acl(NULL,csp))
3607       {
3608          log_error(LOG_LEVEL_CONNECT, "Connection from %s dropped due to ACL", csp->ip_addr_str);
3609          close_socket(csp->cfd);
3610          freez(csp);
3611          continue;
3612       }
3613 #endif /* def FEATURE_ACL */
3614
3615       /* add it to the list of clients */
3616       csp->next = clients->next;
3617       clients->next = csp;
3618
3619       if (config->multi_threaded)
3620       {
3621          int child_id;
3622
3623 /* this is a switch () statment in the C preprocessor - ugh */
3624 #undef SELECTED_ONE_OPTION
3625
3626 /* Use Pthreads in preference to native code */
3627 #if defined(FEATURE_PTHREAD) && !defined(SELECTED_ONE_OPTION)
3628 #define SELECTED_ONE_OPTION
3629          {
3630             pthread_t the_thread;
3631             pthread_attr_t attrs;
3632
3633             pthread_attr_init(&attrs);
3634             pthread_attr_setdetachstate(&attrs, PTHREAD_CREATE_DETACHED);
3635             errno = pthread_create(&the_thread, &attrs,
3636                (void * (*)(void *))serve, csp);
3637             child_id = errno ? -1 : 0;
3638             pthread_attr_destroy(&attrs);
3639          }
3640 #endif
3641
3642 #if defined(_WIN32) && !defined(_CYGWIN) && !defined(SELECTED_ONE_OPTION)
3643 #define SELECTED_ONE_OPTION
3644          child_id = _beginthread(
3645             (void (*)(void *))serve,
3646             64 * 1024,
3647             csp);
3648 #endif
3649
3650 #if defined(__OS2__) && !defined(SELECTED_ONE_OPTION)
3651 #define SELECTED_ONE_OPTION
3652          child_id = _beginthread(
3653             (void(* _Optlink)(void*))serve,
3654             NULL,
3655             64 * 1024,
3656             csp);
3657 #endif
3658
3659 #if defined(__BEOS__) && !defined(SELECTED_ONE_OPTION)
3660 #define SELECTED_ONE_OPTION
3661          {
3662             thread_id tid = spawn_thread
3663                (server_thread, "server", B_NORMAL_PRIORITY, csp);
3664
3665             if ((tid >= 0) && (resume_thread(tid) == B_OK))
3666             {
3667                child_id = (int) tid;
3668             }
3669             else
3670             {
3671                child_id = -1;
3672             }
3673          }
3674 #endif
3675
3676 #if defined(AMIGA) && !defined(SELECTED_ONE_OPTION)
3677 #define SELECTED_ONE_OPTION
3678          csp->cfd = ReleaseSocket(csp->cfd, -1);
3679          
3680 #ifdef __amigaos4__
3681          child_id = (int)CreateNewProcTags(NP_Entry, (ULONG)server_thread,
3682                                            NP_Output, Output(),
3683                                            NP_CloseOutput, FALSE,
3684                                            NP_Name, (ULONG)"privoxy child",
3685                                            NP_Child, TRUE,
3686                                            TAG_DONE);
3687 #else
3688          child_id = (int)CreateNewProcTags(NP_Entry, (ULONG)server_thread,
3689                                            NP_Output, Output(),
3690                                            NP_CloseOutput, FALSE,
3691                                            NP_Name, (ULONG)"privoxy child",
3692                                            NP_StackSize, 200*1024,
3693                                            TAG_DONE);
3694 #endif
3695          if(0 != child_id)
3696          {
3697             childs++;
3698             ((struct Task *)child_id)->tc_UserData = csp;
3699             Signal((struct Task *)child_id, SIGF_SINGLE);
3700             Wait(SIGF_SINGLE);
3701          }
3702 #endif
3703
3704 #if !defined(SELECTED_ONE_OPTION)
3705          child_id = fork();
3706
3707          /* This block is only needed when using fork().
3708           * When using threads, the server thread was
3709           * created and run by the call to _beginthread().
3710           */
3711          if (child_id == 0)   /* child */
3712          {
3713             int rc = 0;
3714 #ifdef FEATURE_TOGGLE
3715             int inherited_toggle_state = global_toggle_state;
3716 #endif /* def FEATURE_TOGGLE */
3717
3718             serve(csp);
3719
3720             /* 
3721              * If we've been toggled or we've blocked the request, tell Mom
3722              */
3723
3724 #ifdef FEATURE_TOGGLE
3725             if (inherited_toggle_state != global_toggle_state)
3726             {
3727                rc |= RC_FLAG_TOGGLED;
3728             }
3729 #endif /* def FEATURE_TOGGLE */
3730
3731 #ifdef FEATURE_STATISTICS  
3732             if (csp->flags & CSP_FLAG_REJECTED)
3733             {
3734                rc |= RC_FLAG_BLOCKED;
3735             }
3736 #endif /* ndef FEATURE_STATISTICS */
3737
3738             _exit(rc);
3739          }
3740          else if (child_id > 0) /* parent */
3741          {
3742             /* in a fork()'d environment, the parent's
3743              * copy of the client socket and the CSP
3744              * are not used.
3745              */
3746             int child_status;
3747 #if !defined(_WIN32) && !defined(__CYGWIN__)
3748
3749             wait( &child_status );
3750
3751             /* 
3752              * Evaluate child's return code: If the child has
3753              *  - been toggled, toggle ourselves
3754              *  - blocked its request, bump up the stats counter
3755              */
3756
3757 #ifdef FEATURE_TOGGLE
3758             if (WIFEXITED(child_status) && (WEXITSTATUS(child_status) & RC_FLAG_TOGGLED))
3759             {
3760                global_toggle_state = !global_toggle_state;
3761             }
3762 #endif /* def FEATURE_TOGGLE */
3763
3764 #ifdef FEATURE_STATISTICS
3765             urls_read++;
3766             if (WIFEXITED(child_status) && (WEXITSTATUS(child_status) & RC_FLAG_BLOCKED))
3767             {
3768                urls_rejected++;
3769             }
3770 #endif /* def FEATURE_STATISTICS */ 
3771
3772 #endif /* !defined(_WIN32) && defined(__CYGWIN__) */
3773             close_socket(csp->cfd);
3774             csp->flags &= ~CSP_FLAG_ACTIVE;
3775          }
3776 #endif
3777
3778 #undef SELECTED_ONE_OPTION
3779 /* end of cpp switch () */
3780
3781          if (child_id < 0) /* failed */
3782          {
3783             char buf[BUFFER_SIZE];
3784
3785             log_error(LOG_LEVEL_ERROR, "can't fork: %E");
3786
3787             snprintf(buf , sizeof(buf), "Privoxy: can't fork: errno = %d", errno);
3788
3789             write_socket(csp->cfd, buf, strlen(buf));
3790             close_socket(csp->cfd);
3791             csp->flags &= ~CSP_FLAG_ACTIVE;
3792             sleep(5);
3793             continue;
3794          }
3795       }
3796       else
3797       {
3798          serve(csp);
3799       }
3800    }
3801
3802    /* NOTREACHED unless FEATURE_GRACEFUL_TERMINATION is defined */
3803
3804    /* Clean up.  Aim: free all memory (no leaks) */
3805 #ifdef FEATURE_GRACEFUL_TERMINATION
3806
3807    log_error(LOG_LEVEL_ERROR, "Graceful termination requested");
3808
3809    unload_current_config_file();
3810    unload_current_actions_file();
3811    unload_current_re_filterfile();
3812 #ifdef FEATURE_TRUST
3813    unload_current_trust_file();
3814 #endif
3815
3816    if (config->multi_threaded)
3817    {
3818       int i = 60;
3819       do
3820       {
3821          sleep(1);
3822          sweep();
3823       } while ((clients->next != NULL) && (--i > 0));
3824
3825       if (i <= 0)
3826       {
3827          log_error(LOG_LEVEL_ERROR, "Graceful termination failed - still some live clients after 1 minute wait.");
3828       }
3829    }
3830    sweep();
3831    sweep();
3832
3833 #if defined(unix)
3834    freez(basedir);
3835 #endif
3836    freez(configfile);
3837
3838 #ifdef FEATURE_COOKIE_JAR
3839    if (NULL != config->jar)
3840    {
3841       fclose(config->jar);
3842    }
3843 #endif
3844
3845 #if defined(_WIN32) && !defined(_WIN_CONSOLE)
3846    /* Cleanup - remove taskbar icon etc. */
3847    TermLogWindow();
3848 #endif
3849
3850    exit(0);
3851 #endif /* FEATURE_GRACEFUL_TERMINATION */
3852
3853 }
3854
3855
3856 /*
3857   Local Variables:
3858   tab-width: 3
3859   end:
3860 */