5839f2a9eaf47cb3996af2689e5607f60b68c1e3
[privoxy.git] / jcc.c
1 const char jcc_rcs[] = "$Id: jcc.c,v 1.119 2007/01/25 14:02:30 fabiankeil Exp $";
2 /*********************************************************************
3  *
4  * File        :  $Source: /cvsroot/ijbswa/current/jcc.c,v $
5  *
6  * Purpose     :  Main file.  Contains main() method, main loop, and
7  *                the main connection-handling function.
8  *
9  * Copyright   :  Written by and Copyright (C) 2001-2007 the SourceForge
10  *                Privoxy team. http://www.privoxy.org/
11  *
12  *                Based on the Internet Junkbuster originally written
13  *                by and Copyright (C) 1997 Anonymous Coders and
14  *                Junkbusters Corporation.  http://www.junkbusters.com
15  *
16  *                This program is free software; you can redistribute it
17  *                and/or modify it under the terms of the GNU General
18  *                Public License as published by the Free Software
19  *                Foundation; either version 2 of the License, or (at
20  *                your option) any later version.
21  *
22  *                This program is distributed in the hope that it will
23  *                be useful, but WITHOUT ANY WARRANTY; without even the
24  *                implied warranty of MERCHANTABILITY or FITNESS FOR A
25  *                PARTICULAR PURPOSE.  See the GNU General Public
26  *                License for more details.
27  *
28  *                The GNU General Public License should be included with
29  *                this file.  If not, you can view it at
30  *                http://www.gnu.org/copyleft/gpl.html
31  *                or write to the Free Software Foundation, Inc., 59
32  *                Temple Place - Suite 330, Boston, MA  02111-1307, USA.
33  *
34  * Revisions   :
35  *    $Log: jcc.c,v $
36  *    Revision 1.119  2007/01/25 14:02:30  fabiankeil
37  *    - Add Proxy-Agent header to HTTP snippets that are
38  *      supposed to reach HTTP clients only.
39  *    - Made a few CONNECT log messages more descriptive.
40  *    - Catch completely empty server responses (as seen
41  *      with Tor's fake ".noconnect" top level domain).
42  *    - Use shiny new "forwarding-failed" template for socks errors.
43  *
44  *    Revision 1.118  2007/01/07 07:43:43  joergs
45  *    AmigaOS4 support added.
46  *
47  *    Revision 1.117  2006/12/31 17:56:37  fabiankeil
48  *    Added config option accept-intercepted-requests
49  *    and disabled it by default.
50  *
51  *    Revision 1.116  2006/12/29 19:08:22  fabiankeil
52  *    Reverted parts of my last commit
53  *    to keep error handling working.
54  *
55  *    Revision 1.115  2006/12/29 17:38:57  fabiankeil
56  *    Fixed gcc43 conversion warnings.
57  *
58  *    Revision 1.114  2006/12/27 18:52:02  fabiankeil
59  *    Fix -pedantic ISO C warning about converting
60  *    from function pointer to object pointer.
61  *
62  *    Revision 1.113  2006/12/26 17:38:50  fabiankeil
63  *    Silence compiler warning I introduced with my last commit.
64  *
65  *    Revision 1.112  2006/12/26 17:31:41  fabiankeil
66  *    Mutex protect rand() if POSIX threading
67  *    is used, warn the user if that's not possible
68  *    and stop using it on _WIN32 where it could
69  *    cause crashes.
70  *
71  *    Revision 1.111  2006/12/23 16:15:06  fabiankeil
72  *    Don't prevent core dumps by catching SIGABRT.
73  *    It's rude and makes debugging unreasonable painful.
74  *
75  *    Revision 1.110  2006/12/13 14:52:53  etresoft
76  *    Fix build failure on MacOS X. Global symbols can be either static or extern, but not both.
77  *
78  *    Revision 1.109  2006/12/06 19:41:40  fabiankeil
79  *    Privoxy is now able to run as intercepting
80  *    proxy in combination with any packet filter
81  *    that does the port redirection. The destination
82  *    is extracted from the "Host:" header which
83  *    should be available for nearly all requests.
84  *
85  *    Moved HTTP snipplets into jcc.c.
86  *    Added error message for gopher proxy requests.
87  *
88  *    Revision 1.108  2006/11/28 15:38:51  fabiankeil
89  *    Only unlink the pidfile if it's actually used.
90  *
91  *    Change order of interception checks to make
92  *    it possible to block or redirect requests for
93  *    the cgi pages.
94  *
95  *    Revision 1.107  2006/11/13 19:05:51  fabiankeil
96  *    Make pthread mutex locking more generic. Instead of
97  *    checking for OSX and OpenBSD, check for FEATURE_PTHREAD
98  *    and use mutex locking unless there is an _r function
99  *    available. Better safe than sorry.
100  *
101  *    Fixes "./configure --disable-pthread" and should result
102  *    in less threading-related problems on pthread-using platforms,
103  *    but it still doesn't fix BR#1122404.
104  *
105  *    Revision 1.106  2006/11/06 19:58:23  fabiankeil
106  *    Move pthread.h inclusion from jcc.c to jcc.h.
107  *    Fixes build on x86-freebsd1 (FreeBSD 5.4-RELEASE).
108  *
109  *    Revision 1.105  2006/11/06 14:26:02  fabiankeil
110  *    Don't exit after receiving the second SIGHUP on Solaris.
111  *
112  *    Fixes BR 1052235, but the same problem may exist on other
113  *    systems. Once 3.0.6 is out we should use sigset()
114  *    where available and see if it breaks anything.
115  *
116  *    Revision 1.104  2006/09/23 13:26:38  roro
117  *    Replace TABs by spaces in source code.
118  *
119  *    Revision 1.103  2006/09/21 12:54:43  fabiankeil
120  *    Fix +redirect{}. Didn't work with -fast-redirects.
121  *
122  *    Revision 1.102  2006/09/06 13:03:04  fabiankeil
123  *    Respond with 400 and a short text message
124  *    if the client tries to use Privoxy as FTP proxy.
125  *
126  *    Revision 1.101  2006/09/06 09:23:37  fabiankeil
127  *    Make number of retries in case of forwarded-connect problems
128  *    a config file option (forwarded-connect-retries) and use 0 as
129  *    default.
130  *
131  *    Revision 1.100  2006/09/03 19:42:59  fabiankeil
132  *    Set random(3) seed.
133  *
134  *    Revision 1.99  2006/09/02 15:36:42  fabiankeil
135  *    Follow the OpenBSD port's lead and protect the resolve
136  *    functions on OpenBSD as well.
137  *
138  *    Revision 1.98  2006/08/24 11:01:34  fabiankeil
139  *    --user fix. Only use the user as group if no group is specified.
140  *    Solves BR 1492612. Thanks to Spinor S. and David Laight.
141  *
142  *    Revision 1.97  2006/08/18 15:23:17  david__schmidt
143  *    Windows service (re-)integration
144  *
145  *    The new args are:
146  *
147  *    --install[:service_name]
148  *    --uninstall[:service_name]
149  *    --service
150  *
151  *    They work as follows:
152  *    --install will create a service for you and then terminate.
153  *    By default the service name will be "privoxy" (without the quotes).
154  *    However you can run multiple services if you wish, just by adding
155  *    a colon and then a name (no spaces).
156  *
157  *    --uninstall follows the exact same rules a --install.
158  *
159  *    --service is used when the program is executed by the service
160  *    control manager, and in normal circumstances would never be
161  *    used as a command line argument.
162  *
163  *    Revision 1.96  2006/08/15 20:12:36  david__schmidt
164  *    Windows service integration
165  *
166  *    Revision 1.95  2006/08/03 02:46:41  david__schmidt
167  *    Incorporate Fabian Keil's patch work:
168 http://www.fabiankeil.de/sourcecode/privoxy/
169  *
170  *    Revision 1.94  2006/07/18 14:48:46  david__schmidt
171  *    Reorganizing the repository: swapping out what was HEAD (the old 3.1 branch)
172  *    with what was really the latest development (the v_3_0_branch branch)
173  *
174  *    Revision 1.92.2.16  2005/04/03 20:10:50  david__schmidt
175  *    Thanks to Jindrich Makovicka for a race condition fix for the log
176  *    file.  The race condition remains for non-pthread implementations.
177  *    Reference patch #1175720.
178  *
179  *    Revision 1.92.2.15  2004/10/03 12:53:32  david__schmidt
180  *    Add the ability to check jpeg images for invalid
181  *    lengths of comment blocks.  Defensive strategy
182  *    against the exploit:
183  *       Microsoft Security Bulletin MS04-028
184  *       Buffer Overrun in JPEG Processing (GDI+) Could
185  *       Allow Code Execution (833987)
186  *    Enabled with +inspect-jpegs in actions files.
187  *
188  *    Revision 1.92.2.14  2003/12/12 12:52:53  oes
189  *    - Fixed usage info for non-unix platforms
190  *    - Fixed small cmdline parsing bug
191  *
192  *    Revision 1.92.2.13  2003/11/27 19:20:27  oes
193  *    Diagnostics: Now preserve the returncode of pthread_create
194  *    in errno. Closes BR #775721. Thanks to Geoffrey Hausheer.
195  *
196  *    Revision 1.92.2.12  2003/07/11 11:34:19  oes
197  *    No longer ignore SIGCHLD. Fixes bug #769381
198  *
199  *    Revision 1.92.2.11  2003/05/14 12:32:02  oes
200  *    Close jarfile on graceful exit, remove stray line
201  *
202  *    Revision 1.92.2.10  2003/05/08 15:13:46  oes
203  *    Cosmetics: Killed a warning, a typo and an allocation left at exit
204  *
205  *    Revision 1.92.2.9  2003/04/03 15:08:42  oes
206  *    No longer rely on non-POSIX.1 extensions of getcwd().
207  *    Fixes bug #711001
208  *
209  *    Revision 1.92.2.8  2003/03/31 13:12:32  oes
210  *    Replaced setenv() by posix-compliant putenv()
211  *    Thanks to Neil McCalden (nmcc AT users.sf.net).
212  *
213  *    Revision 1.92.2.7  2003/03/17 16:48:59  oes
214  *    Added chroot ability, thanks to patch by Sviatoslav Sviridov
215  *
216  *    Revision 1.92.2.6  2003/03/11 11:55:00  oes
217  *    Clean-up and extension of improvements for forked mode:
218  *     - Child's return code now consists of flags RC_FLAG_*
219  *     - Reporting toggle to parent now properly #ifdef'ed
220  *     - Children now report blocking to parent. This enables
221  *       statistics in forked mode
222  *
223  *    Revision 1.92.2.5  2003/03/10 23:45:32  oes
224  *    Fixed bug #700381: Non-Threaded version now capable of being toggled.
225  *    Children now report having been toggled through _exit(17), parents
226  *    watch for that code and toggle themselves if found.
227  *
228  *    Revision 1.92.2.4  2003/03/07 03:41:04  david__schmidt
229  *    Wrapping all *_r functions (the non-_r versions of them) with 
230  *    mutex semaphores for OSX.  Hopefully this will take care of all 
231  *    of those pesky crash reports.
232  *
233  *    Revision 1.92.2.3  2003/02/28 12:53:06  oes
234  *    Fixed two mostly harmless mem leaks
235  *
236  *    Revision 1.92.2.2  2002/11/20 14:37:47  oes
237  *    Fix: Head of global clients list now initialized to NULL
238  *
239  *    Revision 1.92.2.1  2002/09/25 14:52:24  oes
240  *    Added basic support for OPTIONS and TRACE HTTP methods:
241  *     - New interceptor direct_response() added in chat().
242  *     - sed() moved to earlier in the process, so that the
243  *       Host: header is evaluated before actions and forwarding
244  *       are decided on.
245  *
246  *    Revision 1.92  2002/05/08 16:00:46  oes
247  *    Chat's buffer handling:
248  *     - Fixed bug with unchecked out-of-mem conditions
249  *       while reading client request & server headers
250  *     - No longer predict if the buffer limit will be exceeded
251  *       in the next read -- check add_to_iob's new
252  *       return code. If buffer couldn't be extended
253  *       (policy or out-of-mem) while
254  *       - reading from client: abort
255  *       - reading server headers: send error page
256  *       - buffering server body for filter: flush,
257  *         and if that fails: send error page
258  *
259  *    Revision 1.91  2002/04/08 20:35:58  swa
260  *    fixed JB spelling
261  *
262  *    Revision 1.90  2002/04/02 14:57:28  oes
263  *    Made sending wafers independent of FEATURE_COOKIE_JAR
264  *
265  *    Revision 1.89  2002/03/31 17:18:59  jongfoster
266  *    Win32 only: Enabling STRICT to fix a VC++ compile warning.
267  *
268  *    Revision 1.88  2002/03/27 14:32:43  david__schmidt
269  *    More compiler warning message maintenance
270  *
271  *    Revision 1.87  2002/03/26 22:29:54  swa
272  *    we have a new homepage!
273  *
274  *    Revision 1.86  2002/03/25 17:04:55  david__schmidt
275  *    Workaround for closing the jarfile before load_config() comes around again
276  *
277  *    Revision 1.85  2002/03/24 15:23:33  jongfoster
278  *    Name changes
279  *
280  *    Revision 1.84  2002/03/24 13:25:43  swa
281  *    name change related issues
282  *
283  *    Revision 1.83  2002/03/16 23:54:06  jongfoster
284  *    Adding graceful termination feature, to help look for memory leaks.
285  *    If you enable this (which, by design, has to be done by hand
286  *    editing config.h) and then go to http://i.j.b/die, then the program
287  *    will exit cleanly after the *next* request.  It should free all the
288  *    memory that was used.
289  *
290  *    Revision 1.82  2002/03/13 00:27:05  jongfoster
291  *    Killing warnings
292  *
293  *    Revision 1.81  2002/03/12 01:42:50  oes
294  *    Introduced modular filters
295  *
296  *    Revision 1.80  2002/03/11 22:07:05  david__schmidt
297  *    OS/2 port maintenance:
298  *    - Fixed EMX build - it had decayed a little
299  *    - Fixed inexplicable crash during FD_ZERO - must be due to a bad macro.
300  *      substituted a memset for now.
301  *
302  *    Revision 1.79  2002/03/09 20:03:52  jongfoster
303  *    - Making various functions return int rather than size_t.
304  *      (Undoing a recent change).  Since size_t is unsigned on
305  *      Windows, functions like read_socket that return -1 on
306  *      error cannot return a size_t.
307  *
308  *      THIS WAS A MAJOR BUG - it caused frequent, unpredictable
309  *      crashes, and also frequently caused JB to jump to 100%
310  *      CPU and stay there.  (Because it thought it had just
311  *      read ((unsigned)-1) == 4Gb of data...)
312  *
313  *    - The signature of write_socket has changed, it now simply
314  *      returns success=0/failure=nonzero.
315  *
316  *    - Trying to get rid of a few warnings --with-debug on
317  *      Windows, I've introduced a new type "jb_socket".  This is
318  *      used for the socket file descriptors.  On Windows, this
319  *      is SOCKET (a typedef for unsigned).  Everywhere else, it's
320  *      an int.  The error value can't be -1 any more, so it's
321  *      now JB_INVALID_SOCKET (which is -1 on UNIX, and in
322  *      Windows it maps to the #define INVALID_SOCKET.)
323  *
324  *    - The signature of bind_port has changed.
325  *
326  *    Revision 1.78  2002/03/08 21:35:04  oes
327  *    Added optional group supplement to --user option. Will now use default group of user if no group given
328  *
329  *    Revision 1.77  2002/03/07 03:52:06  oes
330  *     - Fixed compiler warnings etc
331  *     - Improved handling of failed DNS lookups
332  *
333  *    Revision 1.76  2002/03/06 22:54:35  jongfoster
334  *    Automated function-comment nitpicking.
335  *
336  *    Revision 1.75  2002/03/06 10:02:19  oes
337  *    Fixed stupid bug when --user was not given
338  *
339  *    Revision 1.74  2002/03/06 00:49:31  jongfoster
340  *    Fixing warning on Windows
341  *    Making #ifdefs that refer to the same variable consistently
342  *    use #ifdef unix rather than mixing #ifdef unix & #ifndef OS2
343  *
344  *    Revision 1.73  2002/03/05 23:57:30  hal9
345  *    Stray character 's' on line 1618 was breaking build.
346  *
347  *    Revision 1.72  2002/03/05 21:33:45  david__schmidt
348  *    - Re-enable OS/2 building after new parms were added
349  *    - Fix false out of memory report when resolving CGI templates when no IP
350  *      address is available of failed attempt (a la no such domain)
351  *
352  *    Revision 1.71  2002/03/05 18:13:56  oes
353  *    Added --user option
354  *
355  *    Revision 1.70  2002/03/05 04:52:42  oes
356  *    Deleted non-errlog debugging code
357  *
358  *    Revision 1.69  2002/03/04 23:50:00  jongfoster
359  *    Splitting off bind_port() call into bind_port_helper(), with
360  *    improved logging.
361  *
362  *    Revision 1.68  2002/03/04 20:17:32  oes
363  *    Fixed usage info
364  *
365  *    Revision 1.67  2002/03/04 18:18:57  oes
366  *    - Removed _DEBUG mode
367  *    - Cleand up cmdline parsing
368  *    - Introduced --no-daemon, --pidfile options
369  *    - Cleaned up signal handling:
370  *      - Terminate cleanly on INT, TERM and ABRT
371  *      - Schedule logfile for re-opening on HUP
372  *      - Ignore CHLD and PIPE
373  *      - Leave the rest with their default handlers
374  *      - Uniform handler registration
375  *    - Added usage() function
376  *    - Played styleguide police
377  *
378  *    Revision 1.66  2002/03/03 15:06:55  oes
379  *    Re-enabled automatic config reloading
380  *
381  *    Revision 1.65  2002/03/03 14:49:11  oes
382  *    Fixed CLF logging: Now uses client's original HTTP request
383  *
384  *    Revision 1.64  2002/03/03 09:18:03  joergs
385  *    Made jumbjuster work on AmigaOS again.
386  *
387  *    Revision 1.63  2002/03/02 04:14:50  david__schmidt
388  *    Clean up a little CRLF unpleasantness that suddenly appeared
389  *
390  *    Revision 1.62  2002/02/20 23:17:23  jongfoster
391  *    Detecting some out-of memory conditions and exiting with a log message.
392  *
393  *    Revision 1.61  2002/01/17 21:01:52  jongfoster
394  *    Moving all our URL and URL pattern parsing code to urlmatch.c.
395  *
396  *    Revision 1.60  2001/12/30 14:07:32  steudten
397  *    - Add signal handling (unix)
398  *    - Add SIGHUP handler (unix)
399  *    - Add creation of pidfile (unix)
400  *    - Add action 'top' in rc file (RH)
401  *    - Add entry 'SIGNALS' to manpage
402  *    - Add exit message to logfile (unix)
403  *
404  *    Revision 1.59  2001/12/13 14:07:18  oes
405  *    Fixed Bug: 503 error page now sent OK
406  *
407  *    Revision 1.58  2001/11/30 23:37:24  jongfoster
408  *    Renaming the Win32 config file to config.txt - this is almost the
409  *    same as the corresponding UNIX name "config"
410  *
411  *    Revision 1.57  2001/11/16 00:47:43  jongfoster
412  *    Changing the tty-disconnection code to use setsid().
413  *
414  *    Revision 1.56  2001/11/13 20:20:54  jongfoster
415  *    Tabs->spaces, fixing a bug with missing {} around an if()
416  *
417  *    Revision 1.55  2001/11/13 20:14:53  jongfoster
418  *    Patch for FreeBSD setpgrp() as suggested by Alexander Lazic
419  *
420  *    Revision 1.54  2001/11/07 00:03:14  steudten
421  *    Give reliable return value if an error
422  *    occurs not just 0 with new daemon mode.
423  *
424  *    Revision 1.53  2001/11/05 21:41:43  steudten
425  *    Add changes to be a real daemon just for unix os.
426  *    (change cwd to /, detach from controlling tty, set
427  *    process group and session leader to the own process.
428  *    Add DBG() Macro.
429  *    Add some fatal-error log message for failed malloc().
430  *    Add '-d' if compiled with 'configure --with-debug' to
431  *    enable debug output.
432  *
433  *    Revision 1.52  2001/10/26 20:11:20  jongfoster
434  *    Fixing type mismatch
435  *
436  *    Revision 1.51  2001/10/26 17:38:28  oes
437  *    Cosmetics
438  *
439  *    Revision 1.50  2001/10/25 03:40:48  david__schmidt
440  *    Change in porting tactics: OS/2's EMX porting layer doesn't allow multiple
441  *    threads to call select() simultaneously.  So, it's time to do a real, live,
442  *    native OS/2 port.  See defines for __EMX__ (the porting layer) vs. __OS2__
443  *    (native). Both versions will work, but using __OS2__ offers multi-threading.
444  *
445  *    Revision 1.49  2001/10/23 21:41:35  jongfoster
446  *    Added call to initialize the (statically-allocated of course)
447  *    "out of memory" CGI response.
448  *
449  *    Revision 1.48  2001/10/10 19:56:46  jongfoster
450  *    Moving some code that wasn't cookie-related out of an #ifdef
451  *    FEATURE_COOKIE_JAR
452  *
453  *    Revision 1.47  2001/10/10 16:44:36  oes
454  *    Added CONNECT destination port limitation check
455  *
456  *    Revision 1.46  2001/10/08 15:17:41  oes
457  *    Re-enabled SSL forwarding
458  *
459  *    Revision 1.45  2001/10/07 15:42:11  oes
460  *    Replaced 6 boolean members of csp with one bitmap (csp->flags)
461  *
462  *    Moved downgrading of the HTTP version from parse_http_request to
463  *      chat(), since we can't decide if it is necessary before we have
464  *      determined the actions for the URL. The HTTP command is now
465  *      *always* re-built so the repairs need no longer be special-cased.
466  *
467  *    filter_popups now gets a csp pointer so it can raise the new
468  *      CSP_FLAG_MODIFIED flag.
469  *
470  *    Bugfix
471  *
472  *    Added configurable size limit for the IOB. If the IOB grows so
473  *      large that the next read would exceed the limit, the header
474  *      is generated, and the header & unfiltered buffer are flushed
475  *      to the client. Chat then continues in non-buffering,
476  *      non-filtering body mode.
477  *
478  *    Revision 1.44  2001/10/02 18:13:57  oes
479  *    Ooops
480  *
481  *    Revision 1.43  2001/10/02 15:32:13  oes
482  *    Moved generation of hdr
483  *
484  *    Revision 1.42  2001/09/21 23:02:02  david__schmidt
485  *    Cleaning up 2 compiler warnings on OS/2.
486  *
487  *    Revision 1.41  2001/09/16 17:05:14  jongfoster
488  *    Removing unused #include showarg.h
489  *
490  *    Revision 1.40  2001/09/16 15:41:45  jongfoster
491  *    Fixing signed/unsigned comparison warning.
492  *
493  *    Revision 1.39  2001/09/16 13:21:27  jongfoster
494  *    Changes to use new list functions.
495  *
496  *    Revision 1.38  2001/09/16 13:01:46  jongfoster
497  *    Removing redundant function call that zeroed zalloc()'d memory.
498  *
499  *    Revision 1.37  2001/09/10 11:12:24  oes
500  *    Deleted unused variable
501  *
502  *    Revision 1.36  2001/09/10 10:56:15  oes
503  *    Silenced compiler warnings
504  *
505  *    Revision 1.35  2001/07/31 14:44:22  oes
506  *    Deleted unused size parameter from filter_popups()
507  *
508  *    Revision 1.34  2001/07/30 22:08:36  jongfoster
509  *    Tidying up #defines:
510  *    - All feature #defines are now of the form FEATURE_xxx
511  *    - Permanently turned off WIN_GUI_EDIT
512  *    - Permanently turned on WEBDAV and SPLIT_PROXY_ARGS
513  *
514  *    Revision 1.33  2001/07/29 19:32:00  jongfoster
515  *    Renaming _main() [mingw32 only] to real_main(), for ANSI compliance.
516  *
517  *    Revision 1.32  2001/07/29 18:47:05  jongfoster
518  *    Adding missing #include "loadcfg.h"
519  *
520  *    Revision 1.31  2001/07/29 12:17:48  oes
521  *    Applied pthread fix by Paul Lieverse
522  *
523  *    Revision 1.30  2001/07/25 22:57:13  jongfoster
524  *    __BEOS__ no longer overrides FEATURE_PTHREAD.
525  *    This is because FEATURE_PTHREAD will soon be widely used, so I
526  *    want to keep it simple.
527  *
528  *    Revision 1.29  2001/07/24 12:47:06  oes
529  *    Applied BeOS support update by Eugenia
530  *
531  *    Revision 1.28  2001/07/23 13:26:12  oes
532  *    Fixed bug in popup-killing for the first read that caused binary garbage to be sent between headers and body
533  *
534  *    Revision 1.27  2001/07/19 19:09:47  haroon
535  *    - Added code to take care of the situation where while processing the first
536  *      server response (which includes the server header), after finding the end
537  *      of the headers we were not looking past the end of the headers for
538  *      content modification. I enabled it for filter_popups.
539  *      Someone else should look to see if other similar operations should be
540  *      done to the discarded portion of the buffer.
541  *
542  *      Note 2001/07/20: No, the other content modification mechanisms will process
543  *                       the whole iob later anyway. --oes
544  *
545  *    Revision 1.26  2001/07/18 12:31:36  oes
546  *    cosmetics
547  *
548  *    Revision 1.25  2001/07/15 19:43:49  jongfoster
549  *    Supports POSIX threads.
550  *    Also removed some unused #includes.
551  *
552  *    Revision 1.24  2001/07/13 14:00:40  oes
553  *     - Generic content modification scheme:
554  *       Each feature has its own applicability flag that is set
555  *       from csp->action->flags.
556  *       Replaced the "filtering" int flag , by a function pointer
557  *       "content_filter" to the function that will do the content
558  *       modification. If it is != NULL, the document will be buffered
559  *       and processed through *content_filter, which must set
560  *       csp->content_length and return a modified copy of the body
561  *       or return NULL (on failiure).
562  *     - Changed csp->is_text to the more generic bitmap csp->content_type
563  *       which can currently take the valued CT_TEXT or CT_GIF
564  *     - Reformatting etc
565  *     - Removed all #ifdef PCRS
566  *
567  *    Revision 1.23  2001/07/02 02:28:25  iwanttokeepanon
568  *    Added "#ifdef ACL_FILES" conditional compilation to line 1291 to exclude
569  *    the `block_acl' call.  This prevents a compilation error when the user
570  *    does not wish to use the "ACL" feature.
571  *
572  *    Revision 1.22  2001/06/29 21:45:41  oes
573  *    Indentation, CRLF->LF, Tab-> Space
574  *
575  *    Revision 1.21  2001/06/29 13:29:36  oes
576  *    - Cleaned up, improved comments
577  *    - Unified all possible interceptors (CGI,
578  *      block, trust, fast_redirect) in one
579  *      place, with one (CGI) answer generation
580  *      mechansim. Much clearer now.
581  *    - Removed the GIF image generation, which
582  *      is now done in filters.c:block_url()
583  *    - Made error conditions like domain lookup
584  *      failiure or (various) problems while talking
585  *      to the server use cgi.c:error_response()
586  *      instead of generating HTML/HTTP in chat() (yuck!)
587  *    - Removed logentry from cancelled commit
588  *
589  *    Revision 1.20  2001/06/09 10:55:28  jongfoster
590  *    Changing BUFSIZ ==> BUFFER_SIZE
591  *
592  *    Revision 1.19  2001/06/07 23:12:52  jongfoster
593  *    Replacing function pointer in struct gateway with a directly
594  *    called function forwarded_connect().
595  *    Replacing struct gateway with struct forward_spec
596  *
597  *    Revision 1.18  2001/06/03 19:12:16  oes
598  *    introduced new cgi handling
599  *
600  *    Revision 1.17  2001/06/01 20:07:23  jongfoster
601  *    Now uses action +image-blocker{} rather than config->tinygif
602  *
603  *    Revision 1.16  2001/06/01 18:49:17  jongfoster
604  *    Replaced "list_share" with "list" - the tiny memory gain was not
605  *    worth the extra complexity.
606  *
607  *    Revision 1.15  2001/05/31 21:24:47  jongfoster
608  *    Changed "permission" to "action" throughout.
609  *    Removed DEFAULT_USER_AGENT - it must now be specified manually.
610  *    Moved vanilla wafer check into chat(), since we must now
611  *    decide whether or not to add it based on the URL.
612  *
613  *    Revision 1.14  2001/05/29 20:14:01  joergs
614  *    AmigaOS bugfix: PCRS needs a lot of stack, stacksize for child threads
615  *    increased.
616  *
617  *    Revision 1.13  2001/05/29 09:50:24  jongfoster
618  *    Unified blocklist/imagelist/permissionslist.
619  *    File format is still under discussion, but the internal changes
620  *    are (mostly) done.
621  *
622  *    Also modified interceptor behaviour:
623  *    - We now intercept all URLs beginning with one of the following
624  *      prefixes (and *only* these prefixes):
625  *        * http://i.j.b/
626  *        * http://ijbswa.sf.net/config/
627  *        * http://ijbswa.sourceforge.net/config/
628  *    - New interceptors "home page" - go to http://i.j.b/ to see it.
629  *    - Internal changes so that intercepted and fast redirect pages
630  *      are not replaced with an image.
631  *    - Interceptors now have the option to send a binary page direct
632  *      to the client. (i.e. ijb-send-banner uses this)
633  *    - Implemented show-url-info interceptor.  (Which is why I needed
634  *      the above interceptors changes - a typical URL is
635  *      "http://i.j.b/show-url-info?url=www.somesite.com/banner.gif".
636  *      The previous mechanism would not have intercepted that, and
637  *      if it had been intercepted then it then it would have replaced
638  *      it with an image.)
639  *
640  *    Revision 1.12  2001/05/27 22:17:04  oes
641  *
642  *    - re_process_buffer no longer writes the modified buffer
643  *      to the client, which was very ugly. It now returns the
644  *      buffer, which it is then written by chat.
645  *
646  *    - content_length now adjusts the Content-Length: header
647  *      for modified documents rather than crunch()ing it.
648  *      (Length info in csp->content_length, which is 0 for
649  *      unmodified documents)
650  *
651  *    - For this to work, sed() is called twice when filtering.
652  *
653  *    Revision 1.11  2001/05/26 17:27:53  jongfoster
654  *    Added support for CLF and fixed LOG_LEVEL_LOG.
655  *    Also did CRLF->LF fix of my previous patch.
656  *
657  *    Revision 1.10  2001/05/26 15:26:15  jongfoster
658  *    ACL feature now provides more security by immediately dropping
659  *    connections from untrusted hosts.
660  *
661  *    Revision 1.9  2001/05/26 00:28:36  jongfoster
662  *    Automatic reloading of config file.
663  *    Removed obsolete SIGHUP support (Unix) and Reload menu option (Win32).
664  *    Most of the global variables have been moved to a new
665  *    struct configuration_spec, accessed through csp->config->globalname
666  *    Most of the globals remaining are used by the Win32 GUI.
667  *
668  *    Revision 1.8  2001/05/25 22:43:18  jongfoster
669  *    Fixing minor memory leak and buffer overflow.
670  *
671  *    Revision 1.7  2001/05/25 22:34:30  jongfoster
672  *    Hard tabs->Spaces
673  *
674  *    Revision 1.6  2001/05/23 00:13:58  joergs
675  *    AmigaOS support fixed.
676  *
677  *    Revision 1.5  2001/05/22 18:46:04  oes
678  *
679  *    - Enabled filtering banners by size rather than URL
680  *      by adding patterns that replace all standard banner
681  *      sizes with the "Junkbuster" gif to the re_filterfile
682  *
683  *    - Enabled filtering WebBugs by providing a pattern
684  *      which kills all 1x1 images
685  *
686  *    - Added support for PCRE_UNGREEDY behaviour to pcrs,
687  *      which is selected by the (nonstandard and therefore
688  *      capital) letter 'U' in the option string.
689  *      It causes the quantifiers to be ungreedy by default.
690  *      Appending a ? turns back to greedy (!).
691  *
692  *    - Added a new interceptor ijb-send-banner, which
693  *      sends back the "Junkbuster" gif. Without imagelist or
694  *      MSIE detection support, or if tinygif = 1, or the
695  *      URL isn't recognized as an imageurl, a lame HTML
696  *      explanation is sent instead.
697  *
698  *    - Added new feature, which permits blocking remote
699  *      script redirects and firing back a local redirect
700  *      to the browser.
701  *      The feature is conditionally compiled, i.e. it
702  *      can be disabled with --disable-fast-redirects,
703  *      plus it must be activated by a "fast-redirects"
704  *      line in the config file, has its own log level
705  *      and of course wants to be displayed by show-proxy-args
706  *      Note: Boy, all the #ifdefs in 1001 locations and
707  *      all the fumbling with configure.in and acconfig.h
708  *      were *way* more work than the feature itself :-(
709  *
710  *    - Because a generic redirect template was needed for
711  *      this, tinygif = 3 now uses the same.
712  *
713  *    - Moved GIFs, and other static HTTP response templates
714  *      to project.h
715  *
716  *    - Some minor fixes
717  *
718  *    - Removed some >400 CRs again (Jon, you really worked
719  *      a lot! ;-)
720  *
721  *    Revision 1.4  2001/05/21 19:34:01  jongfoster
722  *    Made failure to bind() a fatal error.
723  *
724  *    Revision 1.3  2001/05/20 01:21:20  jongfoster
725  *    Version 2.9.4 checkin.
726  *    - Merged popupfile and cookiefile, and added control over PCRS
727  *      filtering, in new "permissionsfile".
728  *    - Implemented LOG_LEVEL_FATAL, so that if there is a configuration
729  *      file error you now get a message box (in the Win32 GUI) rather
730  *      than the program exiting with no explanation.
731  *    - Made killpopup use the PCRS MIME-type checking and HTTP-header
732  *      skipping.
733  *    - Removed tabs from "config"
734  *    - Moved duplicated url parsing code in "loaders.c" to a new funcition.
735  *    - Bumped up version number.
736  *
737  *    Revision 1.2  2001/05/17 22:34:44  oes
738  *     - Added hint on GIF char array generation to jcc.c
739  *     - Cleaned CRLF's from the sources and related files
740  *     - Repaired logging for REF and FRC
741  *
742  *    Revision 1.1.1.1  2001/05/15 13:58:56  oes
743  *    Initial import of version 2.9.3 source tree
744  *
745  *
746  *********************************************************************/
747 \f
748
749 #include "config.h"
750
751 #include <stdio.h>
752 #include <sys/types.h>
753 #include <stdlib.h>
754 #include <string.h>
755 #include <signal.h>
756 #include <fcntl.h>
757 #include <errno.h>
758
759 #ifdef _WIN32
760 # ifndef FEATURE_PTHREAD
761 #  ifndef STRICT
762 #   define STRICT
763 #  endif
764 #  include <windows.h>
765 #  include <process.h>
766 # endif /* ndef FEATURE_PTHREAD */
767
768 # include "win32.h"
769 # ifndef _WIN_CONSOLE
770 #  include "w32log.h"
771 # endif /* ndef _WIN_CONSOLE */
772 # include "w32svrapi.h"
773
774 #else /* ifndef _WIN32 */
775
776 # if !defined (__OS2__)
777 # include <unistd.h>
778 # include <sys/wait.h>
779 # endif /* ndef __OS2__ */
780 # include <sys/time.h>
781 # include <sys/stat.h>
782 # include <sys/ioctl.h>
783
784 #ifdef sun
785 #include <sys/termios.h>
786 #endif /* sun */
787
788 #ifdef unix
789 #include <pwd.h>
790 #include <grp.h>
791 #endif
792
793 # include <signal.h>
794
795 # ifdef __BEOS__
796 #  include <socket.h>  /* BeOS has select() for sockets only. */
797 #  include <OS.h>      /* declarations for threads and stuff. */
798 # endif
799
800 # if defined(__EMX__) || defined(__OS2__)
801 #  include <sys/select.h>  /* OS/2/EMX needs a little help with select */
802 # endif
803 # ifdef __OS2__
804 #define INCL_DOS
805 # include <os2.h>
806 #define bzero(B,N) memset(B,0x00,n)
807 # endif
808
809 # ifndef FD_ZERO
810 #  include <select.h>
811 # endif
812
813 #endif
814
815 #include "project.h"
816 #include "list.h"
817 #include "jcc.h"
818 #include "filters.h"
819 #include "loaders.h"
820 #include "parsers.h"
821 #include "killpopup.h"
822 #include "miscutil.h"
823 #include "errlog.h"
824 #include "jbsockets.h"
825 #include "gateway.h"
826 #include "actions.h"
827 #include "cgi.h"
828 #include "loadcfg.h"
829 #include "urlmatch.h"
830
831 const char jcc_h_rcs[] = JCC_H_VERSION;
832 const char project_h_rcs[] = PROJECT_H_VERSION;
833
834 int no_daemon = 0;
835 struct client_state  clients[1];
836 struct file_list     files[1];
837
838 #ifdef FEATURE_STATISTICS
839 int urls_read     = 0;     /* total nr of urls read inc rejected */
840 int urls_rejected = 0;     /* total nr of urls rejected */
841 #endif /* def FEATURE_STATISTICS */
842
843 #ifdef FEATURE_GRACEFUL_TERMINATION
844 int g_terminate = 0;
845 #endif
846
847 static void listen_loop(void);
848 static void chat(struct client_state *csp);
849 #ifdef AMIGA
850 void serve(struct client_state *csp);
851 #else /* ifndef AMIGA */
852 static void serve(struct client_state *csp);
853 #endif /* def AMIGA */
854
855 #ifdef __BEOS__
856 static int32 server_thread(void *data);
857 #endif /* def __BEOS__ */
858
859 #ifdef _WIN32
860 #define sleep(N)  Sleep(((N) * 1000))
861 #endif
862
863 #ifdef __OS2__
864 #define sleep(N)  DosSleep(((N) * 100))
865 #endif
866
867 #ifdef FEATURE_PTHREAD
868 pthread_mutex_t log_mutex;
869 pthread_mutex_t log_init_mutex;
870
871 #ifndef HAVE_GMTIME_R
872 pthread_mutex_t gmtime_mutex;
873 #endif /* ndef HAVE_GMTIME_R */
874
875 #ifndef HAVE_LOCALTIME_R
876 pthread_mutex_t localtime_mutex;
877 #endif /* ndef HAVE_GMTIME_R */
878
879 #ifndef HAVE_GETHOSTBYADDR_R
880 pthread_mutex_t gethostbyaddr_mutex;
881 #endif /* ndef HAVE_GETHOSTBYADDR_R */
882
883 #ifndef HAVE_GETHOSTBYNAME_R
884 pthread_mutex_t gethostbyname_mutex;
885 #endif /* ndef HAVE_GETHOSTBYNAME_R */
886
887 #ifndef HAVE_RANDOM
888 pthread_mutex_t rand_mutex;
889 #endif /* ndef HAVE_RANDOM */
890
891 #endif /* FEATURE_PTHREAD */
892
893 #if defined(unix) || defined(__EMX__)
894 const char *basedir = NULL;
895 const char *pidfile = NULL;
896 int received_hup_signal = 0;
897 #endif /* defined unix */
898
899 /* The vanilla wafer. */
900 static const char VANILLA_WAFER[] =
901    "NOTICE=TO_WHOM_IT_MAY_CONCERN_"
902    "Do_not_send_me_any_copyrighted_information_other_than_the_"
903    "document_that_I_am_requesting_or_any_of_its_necessary_components._"
904    "In_particular_do_not_send_me_any_cookies_that_"
905    "are_subject_to_a_claim_of_copyright_by_anybody._"
906    "Take_notice_that_I_refuse_to_be_bound_by_any_license_condition_"
907    "(copyright_or_otherwise)_applying_to_any_cookie._";
908
909 /* HTTP snipplets. */
910 const char CSUCCEED[] =
911    "HTTP/1.0 200 Connection established\n"
912    "Proxy-Agent: Privoxy/" VERSION "\r\n\r\n";
913
914 const char CHEADER[] =
915    "HTTP/1.0 400 Invalid header received from browser\r\n"
916    "Connection: close\r\n\r\n"
917    "Invalid header received from browser.\r\n";
918
919 const char CFORBIDDEN[] =
920    "HTTP/1.0 403 Connection not allowable\r\n"
921    "Proxy-Agent: Privoxy " VERSION "\r\n"
922    "X-Hint: If you read this message interactively, then you know why this happens ,-)\r\n"
923    "Connection: close\r\n\r\n";
924
925 const char FTP_RESPONSE[] =
926    "HTTP/1.0 400 Invalid request received from browser\r\n"
927    "Connection: close\r\n\r\n"
928    "Invalid request. Privoxy doesn't support FTP.\r\n";
929
930 const char GOPHER_RESPONSE[] =
931    "HTTP/1.0 400 Invalid request received from browser\r\n"
932    "Connection: close\r\n\r\n"
933    "Invalid request. Privoxy doesn't support gopher.\r\n";
934
935 /* XXX: should be a template */
936 const char MISSING_DESTINATION_RESPONSE[] =
937    "HTTP/1.0 400 Bad request received from browser\r\n"
938    "Proxy-Agent: Privoxy " VERSION "\r\n"
939    "Connection: close\r\n\r\n"
940    "Bad request. Privoxy was unable to extract the destination.\r\n";
941
942 /* XXX: should be a template */
943 const char NO_SERVER_DATA_RESPONSE[] =
944    "HTTP/1.0 502 Server or forwarder response empty\r\n"
945    "Proxy-Agent: Privoxy " VERSION "\r\n"
946    "Connection: close\r\n\r\n"
947    "Empty server or forwarder response.\r\n"
948    "The connection was closed without sending any data.\r\n";
949
950 #if !defined(_WIN32) && !defined(__OS2__) && !defined(AMIGA)
951 /*********************************************************************
952  *
953  * Function    :  sig_handler 
954  *
955  * Description :  Signal handler for different signals.
956  *                Exit gracefully on TERM and INT
957  *                or set a flag that will cause the errlog
958  *                to be reopened by the main thread on HUP.
959  *
960  * Parameters  :
961  *          1  :  the_signal = the signal cause this function to call
962  *
963  * Returns     :  - 
964  *
965  *********************************************************************/
966 static void sig_handler(int the_signal)
967 {
968    switch(the_signal)
969    {
970       case SIGTERM:
971       case SIGINT:
972          log_error(LOG_LEVEL_INFO, "exiting by signal %d .. bye", the_signal);
973 #if defined(unix)
974          if(pidfile)
975          {
976             unlink(pidfile);
977          }
978 #endif /* unix */
979          exit(the_signal);
980          break;
981
982       case SIGHUP:
983          received_hup_signal = 1;
984          break;         
985
986       default:
987          /* 
988           * We shouldn't be here, unless we catch signals
989           * in main() that we can't handle here!
990           */
991          log_error(LOG_LEVEL_FATAL, "sig_handler: exiting on unexpected signal %d", the_signal);
992    }
993    return;
994
995 }
996 #endif
997
998
999 /*********************************************************************
1000  *
1001  * Function    :  client_protocol_is_unsupported
1002  *
1003  * Description :  Checks if the client used a known unsupported
1004  *                protocol and deals with it by sending an error
1005  *                response.
1006  *
1007  * Parameters  :
1008  *          1  :  csp = Current client state (buffers, headers, etc...)
1009  *          2  :  req = the first request line send by the client
1010  *
1011  * Returns     :  TRUE if an error response has been generated, or
1012  *                FALSE if the request doesn't look invalid.
1013  *
1014  *********************************************************************/
1015 int client_protocol_is_unsupported(const struct client_state *csp, char *req)
1016 {
1017    char buf[BUFFER_SIZE];
1018
1019    /*
1020     * If it's a FTP or gopher request, we don't support it.
1021     *
1022     * These checks are better than nothing, but they might
1023     * not work in all configurations and some clients might
1024     * have problems digesting the answer.
1025     *
1026     * They should, however, never cause more problems than
1027     * Privoxy's old behaviour (returning the misleading HTML
1028     * error message:
1029     *
1030     * "Could not resolve http://(ftp|gopher)://example.org").
1031     */
1032    if (!strncmpic(req, "GET ftp://", 10) || !strncmpic(req, "GET gopher://", 13))
1033    {
1034       if (!strncmpic(req, "GET ftp://", 10))
1035       {
1036          strcpy(buf, FTP_RESPONSE);
1037          log_error(LOG_LEVEL_ERROR, "%s tried to use Privoxy as FTP proxy: %s",
1038             csp->ip_addr_str, req);
1039       }
1040       else
1041       {
1042          strcpy(buf, GOPHER_RESPONSE);
1043          log_error(LOG_LEVEL_ERROR, "%s tried to use Privoxy as gopher proxy: %s",
1044             csp->ip_addr_str, req);
1045       }
1046       log_error(LOG_LEVEL_CLF, "%s - - [%T] \"%s\" 400 0", csp->ip_addr_str, req);
1047       freez(req);
1048       write_socket(csp->cfd, buf, strlen(buf));
1049
1050       return TRUE;
1051    }
1052
1053    return FALSE;
1054 }
1055
1056
1057 /*********************************************************************
1058  *
1059  * Function    :  get_request_destination_elsewhere
1060  *
1061  * Description :  If the client's request was redirected into
1062  *                Privoxy without the client's knowledge,
1063  *                the request line lacks the destination host.
1064  *
1065  *                This function tries to get it elsewhere,
1066  *                provided accept-intercepted-requests is enabled.
1067  *
1068  *                "Elsewhere" currently only means "Host: header",
1069  *                but in the future we may ask the redirecting
1070  *                packet filter to look the destination up.
1071  *
1072  *                If the destination stays unknown, an error
1073  *                response is send to the client and headers
1074  *                are freed so that chat() can return directly.
1075  *
1076  * Parameters  :
1077  *          1  :  csp = Current client state (buffers, headers, etc...)
1078  *          2  :  headers = a header list
1079  *
1080  * Returns     :  JB_ERR_OK if the destination is now known, or
1081  *                JB_ERR_PARSE if it isn't.
1082  *
1083  *********************************************************************/
1084 jb_err get_request_destination_elsewhere(struct client_state *csp, struct list *headers)
1085 {
1086    char buf[BUFFER_SIZE];
1087    char *req;
1088
1089    if (!(csp->config->feature_flags & RUNTIME_FEATURE_ACCEPT_INTERCEPTED_REQUESTS))
1090    {
1091       log_error(LOG_LEVEL_ERROR, "%s's request: \'%s\' is invalid."
1092          " Privoxy isn't configured to accept intercepted requests.",
1093          csp->ip_addr_str, csp->http->cmd);
1094       log_error(LOG_LEVEL_CLF, "%s - - [%T] \"%s\" 400 0",
1095          csp->ip_addr_str, csp->http->cmd);
1096
1097       strcpy(buf, CHEADER);
1098       write_socket(csp->cfd, buf, strlen(buf));
1099       destroy_list(headers);
1100
1101       return JB_ERR_PARSE;
1102    }
1103    else if (JB_ERR_OK == get_destination_from_headers(headers, csp->http))
1104    {
1105       /* Split the domain we just got for pattern matching */
1106       init_domain_components(csp->http);
1107
1108       return JB_ERR_OK;
1109    }
1110    else
1111    {
1112       /* We can't work without destination. Go spread the news.*/
1113
1114       req = list_to_text(headers);
1115       chomp(req);
1116       log_error(LOG_LEVEL_CLF, "%s - - [%T] \"%s\" 400 0",
1117          csp->ip_addr_str, csp->http->cmd);
1118       log_error(LOG_LEVEL_ERROR,
1119          "Privoxy was unable to get the destination for %s's request:\n%s\n%s",
1120          csp->ip_addr_str, csp->http->cmd, req);
1121       freez(req);
1122
1123       strcpy(buf, MISSING_DESTINATION_RESPONSE);
1124       write_socket(csp->cfd, buf, strlen(buf));
1125       destroy_list(headers);
1126
1127       return JB_ERR_PARSE;
1128    }
1129    /*
1130     * TODO: If available, use PF's ioctl DIOCNATLOOK as last resort
1131     * to get the destination IP address, use it as host directly
1132     * or do a reverse DNS lookup first.
1133     */
1134 }
1135
1136
1137 /*********************************************************************
1138  *
1139  * Function    :  get_server_headers
1140  *
1141  * Description :  Parses server headers in iob and fills them
1142  *                into csp->headers so that they can later be
1143  *                handled by sed().
1144  *
1145  * Parameters  :
1146  *          1  :  csp = Current client state (buffers, headers, etc...)
1147  *
1148  * Returns     :  JB_ERR_OK if everything went fine, or
1149  *                JB_ERR_PARSE if the headers were incomplete.
1150  *
1151  *********************************************************************/
1152 jb_err get_server_headers(struct client_state *csp)
1153 {
1154    int continue_hack_in_da_house = 0;
1155    char * header;
1156
1157    while (((header = get_header(csp)) != NULL) || continue_hack_in_da_house)
1158    {
1159       if (header == NULL)
1160       {
1161          /*
1162           * continue hack in da house. Ignore the ending of
1163           * this head and continue enlisting header lines.
1164           * The reason is described below.
1165           */
1166          enlist(csp->headers, "");
1167          continue_hack_in_da_house = 0;
1168          continue;
1169       }
1170       else if (0 == strncmpic(header, "HTTP/1.1 100", 12))
1171       {
1172          /*
1173           * It's a bodyless continue response, don't
1174           * stop header parsing after reaching it's end.
1175           *
1176           * As a result Privoxy will concatenate the
1177           * next response's head and parse and deliver
1178           * the headers as if they belonged to one request.
1179           *
1180           * The client will separate them because of the
1181           * empty line between them.
1182           *
1183           * XXX: What we're doing here is clearly against
1184           * the intended purpose of the continue header,
1185           * and under some conditions (HTTP/1.0 client request)
1186           * it's a standard violation.
1187           *
1188           * Anyway, "sort of against the spec" is preferable
1189           * to "always getting confused by Continue responses"
1190           * (Privoxy's behaviour before this hack was added)
1191           */
1192          log_error(LOG_LEVEL_HEADER, "Continue hack in da house.");
1193          continue_hack_in_da_house = 1;
1194       }
1195       else if (*header == '\0') 
1196       {
1197          /*
1198           * If the header is empty, but the Continue hack
1199           * isn't active, we can assume that we reached the
1200           * end of the buffer before we hit the end of the
1201           * head.
1202           *
1203           * Inform the caller an let it decide how to handle it.
1204           */
1205          return JB_ERR_PARSE;
1206       }
1207
1208       /* Enlist header */
1209       if (JB_ERR_MEMORY == enlist(csp->headers, header))
1210       {
1211          /*
1212           * XXX: Should we quit the request and return a
1213           * out of memory error page instead?
1214           */
1215          log_error(LOG_LEVEL_ERROR,
1216             "Out of memory while enlisting server headers. %s lost.",
1217             header);
1218       }
1219       freez(header);
1220    }
1221
1222    return JB_ERR_OK;
1223 }
1224
1225
1226 /*********************************************************************
1227  *
1228  * Function    :  chat
1229  *
1230  * Description :  Once a connection to the client has been accepted,
1231  *                this function is called (via serve()) to handle the
1232  *                main business of the communication.  When this
1233  *                function returns, the caller must close the client
1234  *                socket handle.
1235  *
1236  *                FIXME: chat is nearly thousand lines long.
1237  *                Ridiculous.
1238  *
1239  * Parameters  :
1240  *          1  :  csp = Current client state (buffers, headers, etc...)
1241  *
1242  * Returns     :  On success, the number of bytes written are returned (zero
1243  *                indicates nothing was written).  On error, -1 is returned,
1244  *                and errno is set appropriately.  If count is zero and the
1245  *                file descriptor refers to a regular file, 0 will be
1246  *                returned without causing any other effect.  For a special
1247  *                file, the results are not portable.
1248  *
1249  *********************************************************************/
1250 static void chat(struct client_state *csp)
1251 {
1252 /*
1253  * This next lines are a little ugly, but they simplifies the if statements
1254  * below.  Basically if TOGGLE, then we want the if to test if the
1255  * CSP_FLAG_TOGGLED_ON flag ist set, else we don't.  And if FEATURE_FORCE_LOAD,
1256  * then we want the if to test for CSP_FLAG_FORCED , else we don't
1257  */
1258 #ifdef FEATURE_TOGGLE
1259 #   define IS_TOGGLED_ON_AND (csp->flags & CSP_FLAG_TOGGLED_ON) &&
1260 #else /* ifndef FEATURE_TOGGLE */
1261 #   define IS_TOGGLED_ON_AND
1262 #endif /* ndef FEATURE_TOGGLE */
1263 #ifdef FEATURE_FORCE_LOAD
1264 #   define IS_NOT_FORCED_AND !(csp->flags & CSP_FLAG_FORCED) &&
1265 #else /* ifndef FEATURE_FORCE_LOAD */
1266 #   define IS_NOT_FORCED_AND
1267 #endif /* def FEATURE_FORCE_LOAD */
1268
1269 #define IS_ENABLED_AND   IS_TOGGLED_ON_AND IS_NOT_FORCED_AND
1270
1271    char buf[BUFFER_SIZE];
1272    char *hdr;
1273    char *p;
1274    char *req;
1275    fd_set rfds;
1276    int n;
1277    jb_socket maxfd;
1278    int server_body;
1279    int ms_iis5_hack = 0;
1280    size_t byte_count = 0;
1281    int forwarded_connect_retries = 0;
1282    int max_forwarded_connect_retries = csp->config->forwarded_connect_retries;
1283    const struct forward_spec * fwd;
1284    struct http_request *http;
1285    int len; /* for buffer sizes (and negative error codes) */
1286 #ifdef FEATURE_KILL_POPUPS
1287    int block_popups;         /* bool, 1==will block popups */
1288    int block_popups_now = 0; /* bool, 1==currently blocking popups */
1289 #endif /* def FEATURE_KILL_POPUPS */
1290
1291    int pcrs_filter;        /* bool, 1==will filter through pcrs */
1292    int gif_deanimate;      /* bool, 1==will deanimate gifs */
1293    int jpeg_inspect;       /* bool, 1==will inspect jpegs */
1294
1295    /* Function that does the content filtering for the current request */
1296    char *(*content_filter)() = NULL;
1297
1298    /* Skeleton for HTTP response, if we should intercept the request */
1299    struct http_response *rsp;
1300
1301    /* Temporary copy of the client's headers before they get enlisted in csp->headers */
1302    struct list header_list;
1303    struct list *headers = &header_list;
1304
1305    http = csp->http;
1306
1307    /*
1308     * Read the client's request.  Note that since we're not using select() we
1309     * could get blocked here if a client connected, then didn't say anything!
1310     */
1311
1312    for (;;)
1313    {
1314       len = read_socket(csp->cfd, buf, sizeof(buf));
1315
1316       if (len <= 0) break;      /* error! */
1317       
1318       /*
1319        * If there is no memory left for buffering the
1320        * request, there is nothing we can do but hang up
1321        */
1322       if (add_to_iob(csp, buf, len))
1323       {
1324          return;
1325       }
1326
1327       req = get_header(csp);
1328
1329       if (req == NULL)
1330       {
1331          break;    /* no HTTP request! */
1332       }
1333
1334       if (*req == '\0')
1335       {
1336          continue;   /* more to come! */
1337       }
1338
1339       /* Does the request line look invalid? */
1340       if (client_protocol_is_unsupported(csp, req))
1341       {
1342          /* 
1343           * Yes. The request has already been
1344           * answered with a error response, the buffers
1345           * were freed and we're done with chatting.
1346           */
1347          return;
1348       }
1349
1350 #ifdef FEATURE_FORCE_LOAD
1351       /* If this request contains the FORCE_PREFIX,
1352        * better get rid of it now and set the force flag --oes
1353        */
1354
1355       if (strstr(req, FORCE_PREFIX))
1356       {
1357          strclean(req, FORCE_PREFIX);
1358          log_error(LOG_LEVEL_FORCE, "Enforcing request \"%s\".\n", req);
1359          csp->flags |= CSP_FLAG_FORCED;
1360       }
1361
1362 #endif /* def FEATURE_FORCE_LOAD */
1363
1364       switch( parse_http_request(req, http, csp) )
1365       {
1366          case JB_ERR_MEMORY:
1367            log_error(LOG_LEVEL_ERROR, "Out of memory while parsing request.");
1368            break;
1369          case JB_ERR_PARSE:
1370            log_error(LOG_LEVEL_ERROR, "Couldn't parse request: %s.", req);
1371            break;
1372       }
1373
1374       freez(req);
1375       break;
1376    }
1377
1378    if (http->cmd == NULL)
1379    {
1380       strcpy(buf, CHEADER);
1381       write_socket(csp->cfd, buf, strlen(buf));
1382
1383       log_error(LOG_LEVEL_CLF, "%s - - [%T] \" \" 400 0", csp->ip_addr_str);
1384
1385       free_http_request(http);
1386       return;
1387    }
1388
1389    /* grab the rest of the client's headers */
1390    init_list(headers);
1391    for (;;)
1392    {
1393       if ( ( ( p = get_header(csp) ) != NULL) && ( *p == '\0' ) )
1394       {
1395          len = read_socket(csp->cfd, buf, sizeof(buf));
1396          if (len <= 0)
1397          {
1398             log_error(LOG_LEVEL_ERROR, "read from client failed: %E");
1399             return;
1400          }
1401          
1402          /*
1403           * If there is no memory left for buffering the
1404           * request, there is nothing we can do but hang up
1405           */
1406          if (add_to_iob(csp, buf, len))
1407          {
1408             return;
1409          }
1410          continue;
1411       }
1412
1413       if (p == NULL) break;
1414
1415       enlist(headers, p);
1416       freez(p);
1417
1418    }
1419
1420    if (http->host == NULL)
1421    {
1422       /*
1423        * If we still don't know the request destination,
1424        * the request is invalid or the client uses
1425        * Privoxy without it's knowledge.
1426        */
1427       if (JB_ERR_OK != get_request_destination_elsewhere(csp, headers))
1428       {
1429          /*
1430           * Our attempts to get the request destination
1431           * elsewhere failed or Privoxy is configured
1432           * to only accept proxy requests.
1433           *
1434           * An error response has already been send
1435           * and we're done here.
1436           */
1437           return;
1438       }
1439    }
1440
1441    /* decide how to route the HTTP request */
1442
1443    if ((fwd = forward_url(http, csp)) == NULL)
1444    {
1445       log_error(LOG_LEVEL_FATAL, "gateway spec is NULL!?!?  This can't happen!");
1446       /* Never get here - LOG_LEVEL_FATAL causes program exit */
1447    }
1448
1449    /* build the http request to send to the server
1450     * we have to do one of the following:
1451     *
1452     * create = use the original HTTP request to create a new
1453     *          HTTP request that has either the path component
1454     *          without the http://domainspec (w/path) or the
1455     *          full orininal URL (w/url)
1456     *          Note that the path and/or the HTTP version may
1457     *          have been altered by now.
1458     *
1459     * connect = Open a socket to the host:port of the server
1460     *           and short-circuit server and client socket.
1461     *
1462     * pass =  Pass the request unchanged if forwarding a CONNECT
1463     *         request to a parent proxy. Note that we'll be sending
1464     *         the CFAIL message ourselves if connecting to the parent
1465     *         fails, but we won't send a CSUCCEED message if it works,
1466     *         since that would result in a double message (ours and the
1467     *         parent's). After sending the request to the parent, we simply
1468     *         tunnel.
1469     *
1470     * here's the matrix:
1471     *                        SSL
1472     *                    0        1
1473     *                +--------+--------+
1474     *                |        |        |
1475     *             0  | create | connect|
1476     *                | w/path |        |
1477     *  Forwarding    +--------+--------+
1478     *                |        |        |
1479     *             1  | create | pass   |
1480     *                | w/url  |        |
1481     *                +--------+--------+
1482     *
1483     */
1484
1485    /*
1486     * Determine the actions for this URL
1487     */
1488 #ifdef FEATURE_TOGGLE
1489    if (!(csp->flags & CSP_FLAG_TOGGLED_ON))
1490    {
1491       /* Most compatible set of actions (i.e. none) */
1492       init_current_action(csp->action);
1493    }
1494    else
1495 #endif /* ndef FEATURE_TOGGLE */
1496    {
1497       url_actions(http, csp);
1498    }
1499
1500
1501    /*
1502     * Check if a CONNECT request is allowable:
1503     * In the absence of a +limit-connect action, allow only port 443.
1504     * If there is an action, allow whatever matches the specificaton.
1505     */
1506    if(http->ssl)
1507    {
1508       if(  ( !(csp->action->flags & ACTION_LIMIT_CONNECT) && csp->http->port != 443)
1509            || (csp->action->flags & ACTION_LIMIT_CONNECT
1510               && !match_portlist(csp->action->string[ACTION_STRING_LIMIT_CONNECT], csp->http->port)) )
1511       {
1512          if (csp->action->flags & ACTION_TREAT_FORBIDDEN_CONNECTS_LIKE_BLOCKS)
1513          {
1514             /* The response will violate the specs, but makes unblocking easier. */
1515             log_error(LOG_LEVEL_ERROR, "Marking suspicious CONNECT request from %s for blocking.",
1516                csp->ip_addr_str);
1517             csp->action->flags |= ACTION_BLOCK;
1518             http->ssl = 0;
1519          }
1520          else
1521          {
1522             strcpy(buf, CFORBIDDEN);
1523             write_socket(csp->cfd, buf, strlen(buf));
1524             log_error(LOG_LEVEL_CONNECT, "Denying suspicious CONNECT request from %s", csp->ip_addr_str);
1525             log_error(LOG_LEVEL_CLF, "%s - - [%T] \" \" 403 0", csp->ip_addr_str);
1526             return;
1527          }
1528       }
1529    }
1530
1531
1532    /*
1533     * Downgrade http version from 1.1 to 1.0 if +downgrade
1534     * action applies
1535     */
1536    if ( (http->ssl == 0)
1537      && (!strcmpic(http->ver, "HTTP/1.1"))
1538      && (csp->action->flags & ACTION_DOWNGRADE))
1539    {
1540       freez(http->ver);
1541       http->ver = strdup("HTTP/1.0");
1542
1543       if (http->ver == NULL)
1544       {
1545          log_error(LOG_LEVEL_FATAL, "Out of memory downgrading HTTP version");
1546       }
1547    }
1548
1549    /* 
1550     * Save a copy of the original request for logging
1551     */
1552    http->ocmd = strdup(http->cmd);
1553
1554    if (http->ocmd == NULL)
1555    {
1556       log_error(LOG_LEVEL_FATAL, "Out of memory copying HTTP request line");
1557    }
1558
1559    /*
1560     * (Re)build the HTTP request for non-SSL requests.
1561     * If forwarding, use the whole URL, else, use only the path.
1562     */
1563    if (http->ssl == 0)
1564    {
1565       freez(http->cmd);
1566
1567       http->cmd = strdup(http->gpc);
1568       string_append(&http->cmd, " ");
1569
1570       if (fwd->forward_host)
1571       {
1572          string_append(&http->cmd, http->url);
1573       }
1574       else
1575       {
1576          string_append(&http->cmd, http->path);
1577       }
1578       string_append(&http->cmd, " ");
1579       string_append(&http->cmd, http->ver);
1580
1581       if (http->cmd == NULL)
1582       {
1583          log_error(LOG_LEVEL_FATAL, "Out of memory writing HTTP command");
1584       }
1585       log_error(LOG_LEVEL_HEADER, "New HTTP Request-Line: %s", http->cmd);
1586    }
1587    enlist(csp->headers, http->cmd);
1588
1589    /* Append the previously read headers */
1590    list_append_list_unique(csp->headers, headers);
1591    destroy_list(headers);
1592
1593    /*
1594     * If the user has not supplied any wafers, and the user has not
1595     * told us to suppress the vanilla wafer, then send the vanilla wafer.
1596     */
1597    if (list_is_empty(csp->action->multi[ACTION_MULTI_WAFER])
1598        && ((csp->action->flags & ACTION_VANILLA_WAFER) != 0))
1599    {
1600       enlist(csp->action->multi[ACTION_MULTI_WAFER], VANILLA_WAFER);
1601    }
1602
1603
1604 #ifdef FEATURE_KILL_POPUPS
1605    block_popups               = ((csp->action->flags & ACTION_NO_POPUPS) != 0);
1606 #endif /* def FEATURE_KILL_POPUPS */
1607
1608    pcrs_filter                = (csp->rlist != NULL) &&  /* There are expressions to be used */
1609                                 (!list_is_empty(csp->action->multi[ACTION_MULTI_FILTER]));
1610
1611    gif_deanimate              = ((csp->action->flags & ACTION_DEANIMATE) != 0);
1612
1613    jpeg_inspect               = ((csp->action->flags & ACTION_JPEG_INSPECT) != 0);
1614
1615    /*
1616     * We have a request. Now, check to see if we need to
1617     * intercept it, i.e. If ..
1618     */
1619
1620    if (
1621        /* We may not forward the request by rfc2616 sect 14.31 */
1622        (NULL != (rsp = direct_response(csp)))
1623
1624        /* or we are enabled and... */
1625        || (IS_ENABLED_AND (
1626
1627             /* ..the request was blocked */
1628           ( NULL != (rsp = block_url(csp)))
1629
1630           /* ..or untrusted */
1631 #ifdef FEATURE_TRUST
1632           || ( NULL != (rsp = trust_url(csp)))
1633 #endif /* def FEATURE_TRUST */
1634
1635           /* ..or a redirect kicked in */
1636           || ( NULL != (rsp = redirect_url(csp)))
1637           ))
1638
1639        /*
1640         * .. or a CGI call was detected and answered.
1641         *
1642         * This check comes last to give the user the power
1643         * to deny acces to some (or all) of the cgi pages.
1644         */
1645        || (NULL != (rsp = dispatch_cgi(csp)))
1646
1647                  )
1648    {
1649       /* Write the answer to the client */
1650       if (write_socket(csp->cfd, rsp->head, rsp->head_length)
1651        || write_socket(csp->cfd, rsp->body, rsp->content_length))
1652       {
1653          log_error(LOG_LEVEL_ERROR, "write to: %s failed: %E", http->host);
1654       }
1655
1656 #ifdef FEATURE_STATISTICS
1657       /* Count as a rejected request */
1658       csp->flags |= CSP_FLAG_REJECTED;
1659 #endif /* def FEATURE_STATISTICS */
1660
1661       /* Log (FIXME: All intercept reasons appear as "crunch" with Status 200) */
1662       log_error(LOG_LEVEL_GPC, "%s%s crunch!", http->hostport, http->path);
1663       log_error(LOG_LEVEL_CLF, "%s - - [%T] \"%s\" 200 3", csp->ip_addr_str, http->ocmd);
1664
1665       /* Clean up and return */
1666       free_http_response(rsp);
1667       return;
1668    }
1669
1670    hdr = sed(client_patterns, add_client_headers, csp);
1671    if (hdr == NULL)
1672    {
1673       /* FIXME Should handle error properly */
1674       log_error(LOG_LEVEL_FATAL, "Out of memory parsing client header");
1675    }
1676
1677    list_remove_all(csp->headers);
1678
1679    log_error(LOG_LEVEL_GPC, "%s%s", http->hostport, http->path);
1680
1681    if (fwd->forward_host)
1682    {
1683       log_error(LOG_LEVEL_CONNECT, "via %s:%d to: %s",
1684                fwd->forward_host, fwd->forward_port, http->hostport);
1685    }
1686    else
1687    {
1688       log_error(LOG_LEVEL_CONNECT, "to %s", http->hostport);
1689    }
1690
1691    /* here we connect to the server, gateway, or the forwarder */
1692
1693    while ( (csp->sfd = forwarded_connect(fwd, http, csp))
1694          && (errno == EINVAL) && (forwarded_connect_retries++ < max_forwarded_connect_retries))
1695    {
1696       log_error(LOG_LEVEL_ERROR, "failed request #%u to connect to %s. Trying again.",
1697                 forwarded_connect_retries, http->hostport);
1698    }
1699
1700    if (csp->sfd == JB_INVALID_SOCKET)
1701    {
1702       if (fwd->type != SOCKS_NONE)
1703       {
1704          /* Socks error. */
1705          rsp = error_response(csp, "forwarding-failed", errno);
1706
1707          log_error(LOG_LEVEL_CLF, "%s - - [%T] \"%s\" 503 0",
1708             csp->ip_addr_str, http->ocmd);
1709       }
1710       else if (errno == EINVAL)
1711       {
1712          rsp = error_response(csp, "no-such-domain", errno);
1713
1714          log_error(LOG_LEVEL_CLF, "%s - - [%T] \"%s\" 404 0",
1715                    csp->ip_addr_str, http->ocmd);
1716       }
1717       else
1718       {
1719          rsp = error_response(csp, "connect-failed", errno);
1720
1721          log_error(LOG_LEVEL_CONNECT, "connect to: %s failed: %E",
1722                 http->hostport);
1723
1724          log_error(LOG_LEVEL_CLF, "%s - - [%T] \"%s\" 503 0",
1725                    csp->ip_addr_str, http->ocmd);
1726       }
1727
1728
1729       /* Write the answer to the client */
1730       if(rsp)
1731       {
1732          if (write_socket(csp->cfd, rsp->head, rsp->head_length)
1733           || write_socket(csp->cfd, rsp->body, rsp->content_length))
1734          {
1735             log_error(LOG_LEVEL_ERROR, "write to: %s failed: %E", http->host);
1736          }
1737       }
1738
1739       free_http_response(rsp);
1740       freez(hdr);
1741       return;
1742    }
1743
1744    if (fwd->forward_host || (http->ssl == 0))
1745    {
1746       /* write the client's (modified) header to the server
1747        * (along with anything else that may be in the buffer)
1748        */
1749
1750       if (write_socket(csp->sfd, hdr, strlen(hdr))
1751        || (flush_socket(csp->sfd, csp) <  0))
1752       {
1753          log_error(LOG_LEVEL_CONNECT, "write header to: %s failed: %E",
1754                     http->hostport);
1755
1756          log_error(LOG_LEVEL_CLF, "%s - - [%T] \"%s\" 503 0",
1757                    csp->ip_addr_str, http->ocmd);
1758
1759          rsp = error_response(csp, "connect-failed", errno);
1760
1761          if(rsp)
1762          {
1763             if (write_socket(csp->cfd, rsp->head, rsp->head_length)
1764              || write_socket(csp->cfd, rsp->body, rsp->content_length))
1765             {
1766                log_error(LOG_LEVEL_ERROR, "write to: %s failed: %E", http->host);
1767             }
1768          }
1769
1770          free_http_response(rsp);
1771          freez(hdr);
1772          return;
1773       }
1774    }
1775    else
1776    {
1777       /*
1778        * We're running an SSL tunnel and we're not forwarding,
1779        * so just send the "connect succeeded" message to the
1780        * client, flush the rest, and get out of the way.
1781        */
1782       log_error(LOG_LEVEL_CLF, "%s - - [%T] \"%s\" 200 2\n",
1783                 csp->ip_addr_str, http->ocmd);
1784
1785       if (write_socket(csp->cfd, CSUCCEED, sizeof(CSUCCEED)-1))
1786       {
1787          freez(hdr);
1788          return;
1789       }
1790       IOB_RESET(csp);
1791    }
1792
1793    log_error(LOG_LEVEL_CONNECT, "to %s successful", http->hostport);
1794
1795    /* we're finished with the client's header */
1796    freez(hdr);
1797
1798    maxfd = ( csp->cfd > csp->sfd ) ? csp->cfd : csp->sfd;
1799
1800    /* pass data between the client and server
1801     * until one or the other shuts down the connection.
1802     */
1803
1804    server_body = 0;
1805
1806    for (;;)
1807    {
1808 #ifdef __OS2__
1809       /*
1810        * FD_ZERO here seems to point to an errant macro which crashes.
1811        * So do this by hand for now...
1812        */
1813       memset(&rfds,0x00,sizeof(fd_set));
1814 #else
1815       FD_ZERO(&rfds);
1816 #endif
1817       FD_SET(csp->cfd, &rfds);
1818       FD_SET(csp->sfd, &rfds);
1819
1820       n = select((int)maxfd+1, &rfds, NULL, NULL, NULL);
1821
1822       if (n < 0)
1823       {
1824          log_error(LOG_LEVEL_ERROR, "select() failed!: %E");
1825          return;
1826       }
1827
1828       /* this is the body of the browser's request
1829        * just read it and write it.
1830        */
1831
1832       if (FD_ISSET(csp->cfd, &rfds))
1833       {
1834          len = read_socket(csp->cfd, buf, sizeof(buf));
1835
1836          if (len <= 0)
1837          {
1838             break; /* "game over, man" */
1839          }
1840
1841          if (write_socket(csp->sfd, buf, (size_t)len))
1842          {
1843             log_error(LOG_LEVEL_ERROR, "write to: %s failed: %E", http->host);
1844             return;
1845          }
1846          continue;
1847       }
1848
1849       /*
1850        * The server wants to talk.  It could be the header or the body.
1851        * If `hdr' is null, then it's the header otherwise it's the body.
1852        * FIXME: Does `hdr' really mean `host'? No.
1853        */
1854
1855
1856       if (FD_ISSET(csp->sfd, &rfds))
1857       {
1858          fflush( 0 );
1859          len = read_socket(csp->sfd, buf, sizeof(buf) - 1);
1860
1861          if (len < 0)
1862          {
1863             log_error(LOG_LEVEL_ERROR, "read from: %s failed: %E", http->host);
1864
1865             log_error(LOG_LEVEL_CLF, "%s - - [%T] \"%s\" 503 0",
1866                       csp->ip_addr_str, http->ocmd);
1867
1868             rsp = error_response(csp, "connect-failed", errno);
1869
1870             if(rsp)
1871             {
1872                if (write_socket(csp->cfd, rsp->head, rsp->head_length)
1873                 || write_socket(csp->cfd, rsp->body, rsp->content_length))
1874                {
1875                   log_error(LOG_LEVEL_ERROR, "write to: %s failed: %E", http->host);
1876                }
1877             }
1878
1879             free_http_response(rsp);
1880             return;
1881          }
1882
1883          /* Add a trailing zero.  This lets filter_popups
1884           * use string operations.
1885           */
1886          buf[len] = '\0';
1887
1888 #ifdef FEATURE_KILL_POPUPS
1889          /* Filter the popups on this read. */
1890          if (block_popups_now)
1891          {
1892             filter_popups(buf, csp);
1893          }
1894 #endif /* def FEATURE_KILL_POPUPS */
1895
1896          /* Normally, this would indicate that we've read
1897           * as much as the server has sent us and we can
1898           * close the client connection.  However, Microsoft
1899           * in its wisdom has released IIS/5 with a bug that
1900           * prevents it from sending the trailing \r\n in
1901           * a 302 redirect header (and possibly other headers).
1902           * To work around this if we've haven't parsed
1903           * a full header we'll append a trailing \r\n
1904           * and see if this now generates a valid one.
1905           *
1906           * This hack shouldn't have any impacts.  If we've
1907           * already transmitted the header or if this is a
1908           * SSL connection, then we won't bother with this
1909           * hack.  So we only work on partially received
1910           * headers.  If we append a \r\n and this still
1911           * doesn't generate a valid header, then we won't
1912           * transmit anything to the client.
1913           */
1914          if (len == 0)
1915          {
1916
1917             if (server_body || http->ssl)
1918             {
1919                /*
1920                 * If we have been buffering up the document,
1921                 * now is the time to apply content modification
1922                 * and send the result to the client.
1923                 */
1924                if (content_filter)
1925                {
1926                   /*
1927                    * If the content filter fails, use the original
1928                    * buffer and length.
1929                    * (see p != NULL ? p : csp->iob->cur below)
1930                    */
1931                   if (NULL == (p = (*content_filter)(csp)))
1932                   {
1933                      csp->content_length = (size_t)(csp->iob->eod - csp->iob->cur);
1934                   }
1935
1936                   hdr = sed(server_patterns_light, NULL, csp);
1937
1938                   if (hdr == NULL)
1939                   {
1940                      /* FIXME Should handle error properly */
1941                      log_error(LOG_LEVEL_FATAL, "Out of memory parsing server header");
1942                   }
1943
1944                   if (write_socket(csp->cfd, hdr, strlen(hdr))
1945                    || write_socket(csp->cfd, p != NULL ? p : csp->iob->cur, csp->content_length))
1946                   {
1947                      log_error(LOG_LEVEL_ERROR, "write modified content to client failed: %E");
1948                      freez(hdr);
1949                      freez(p);
1950                      return;
1951                   }
1952
1953                   freez(hdr);
1954                   freez(p);
1955                }
1956
1957                break; /* "game over, man" */
1958             }
1959
1960             /*
1961              * This is NOT the body, so
1962              * Let's pretend the server just sent us a blank line.
1963              */
1964             snprintf(buf, sizeof(buf), "\r\n");
1965             len = (int)strlen(buf);
1966
1967             /*
1968              * Now, let the normal header parsing algorithm below do its
1969              * job.  If it fails, we'll exit instead of continuing.
1970              */
1971
1972             ms_iis5_hack = 1;
1973          }
1974
1975          /*
1976           * If this is an SSL connection or we're in the body
1977           * of the server document, just write it to the client,
1978           * unless we need to buffer the body for later content-filtering
1979           */
1980
1981          if (server_body || http->ssl)
1982          {
1983             if (content_filter)
1984             {
1985                /*
1986                 * If there is no memory left for buffering the content, or the buffer limit
1987                 * has been reached, switch to non-filtering mode, i.e. make & write the
1988                 * header, flush the iob and buf, and get out of the way.
1989                 */
1990                if (add_to_iob(csp, buf, len))
1991                {
1992                   size_t hdrlen;
1993                   int flushed;
1994
1995                   log_error(LOG_LEVEL_ERROR, "Flushing header and buffers. Stepping back from filtering.");
1996
1997                   hdr = sed(server_patterns, add_server_headers, csp);
1998                   if (hdr == NULL)
1999                   {
2000                      /* 
2001                       * Memory is too tight to even generate the header.
2002                       * Send our static "Out-of-memory" page.
2003                       */
2004                      log_error(LOG_LEVEL_ERROR, "Out of memory while trying to flush.");
2005                      rsp = cgi_error_memory();
2006
2007                      if (write_socket(csp->cfd, rsp->head, rsp->head_length)
2008                          || write_socket(csp->cfd, rsp->body, rsp->content_length))
2009                      {
2010                         log_error(LOG_LEVEL_ERROR, "write to: %s failed: %E", http->host);
2011                      }
2012                      return;
2013                   }
2014
2015                   hdrlen = strlen(hdr);
2016
2017                   if (write_socket(csp->cfd, hdr, hdrlen)
2018                    || ((flushed = flush_socket(csp->cfd, csp)) < 0)
2019                    || (write_socket(csp->cfd, buf, (size_t)len)))
2020                   {
2021                      log_error(LOG_LEVEL_CONNECT, "Flush header and buffers to client failed: %E");
2022
2023                      freez(hdr);
2024                      return;
2025                   }
2026
2027                   byte_count += hdrlen + (size_t)(flushed + len);
2028                   freez(hdr);
2029                   content_filter = NULL;
2030                   server_body = 1;
2031
2032                }
2033             }
2034             else
2035             {
2036                if (write_socket(csp->cfd, buf, (size_t)len))
2037                {
2038                   log_error(LOG_LEVEL_ERROR, "write to client failed: %E");
2039                   return;
2040                }
2041             }
2042             byte_count += (size_t)len;
2043             continue;
2044          }
2045          else
2046          {
2047             /* we're still looking for the end of the
2048              * server's header ... (does that make header
2049              * parsing an "out of body experience" ?
2050              */
2051
2052             /* 
2053              * buffer up the data we just read.  If that fails, 
2054              * there's little we can do but send our static
2055              * out-of-memory page.
2056              */
2057             if (add_to_iob(csp, buf, len))
2058             {
2059                log_error(LOG_LEVEL_ERROR, "Out of memory while looking for end of server headers.");
2060                rsp = cgi_error_memory();
2061                
2062                if (write_socket(csp->cfd, rsp->head, rsp->head_length)
2063                    || write_socket(csp->cfd, rsp->body, rsp->content_length))
2064                {
2065                   log_error(LOG_LEVEL_ERROR, "write to: %s failed: %E", http->host);
2066                }
2067                return;
2068             }
2069
2070             /* Convert iob into something sed() can digest */
2071             if (JB_ERR_PARSE == get_server_headers(csp))
2072             {
2073                if (ms_iis5_hack)
2074                {
2075                   /* Well, we tried our MS IIS/5
2076                    * hack and it didn't work.
2077                    * The header is incomplete
2078                    * and there isn't anything
2079                    * we can do about it.
2080                    */
2081                   break;
2082                }
2083                else
2084                {
2085                   /* Since we have to wait for
2086                    * more from the server before
2087                    * we can parse the headers
2088                    * we just continue here.
2089                    */
2090                   continue;
2091                }
2092             }
2093
2094             /* Did we actually get anything? */
2095             if (NULL == csp->headers->first)
2096             {
2097                log_error(LOG_LEVEL_ERROR, "Empty server or forwarder response.");
2098                log_error(LOG_LEVEL_CLF, "%s - - [%T] \"%s\" 502 0", csp->ip_addr_str, http->cmd);
2099                strcpy(buf, NO_SERVER_DATA_RESPONSE);
2100                write_socket(csp->cfd, buf, strlen(buf));
2101                free_http_request(http);
2102                return;
2103             }
2104
2105             /* we have now received the entire header.
2106              * filter it and send the result to the client
2107              */
2108
2109             hdr = sed(server_patterns, add_server_headers, csp);
2110             if (hdr == NULL)
2111             {
2112                /* FIXME Should handle error properly */
2113                log_error(LOG_LEVEL_FATAL, "Out of memory parsing server header");
2114             }
2115
2116 #ifdef FEATURE_KILL_POPUPS
2117             /* Start blocking popups if appropriate. */
2118
2119             if ((csp->content_type & CT_TEXT) &&  /* It's a text / * MIME-Type */
2120                 !http->ssl    &&                  /* We talk plaintext */
2121                 block_popups)                     /* Policy allows */
2122             {
2123                block_popups_now = 1;
2124                /*
2125                 * Filter the part of the body that came in the same read
2126                 * as the last headers:
2127                 */
2128                filter_popups(csp->iob->cur, csp);
2129             }
2130
2131 #endif /* def FEATURE_KILL_POPUPS */
2132
2133             /* Buffer and pcrs filter this if appropriate. */
2134
2135             if ((csp->content_type & CT_TEXT) &&  /* It's a text / * MIME-Type */
2136                 !http->ssl    &&                  /* We talk plaintext */
2137                 pcrs_filter)                      /* Policy allows */
2138             {
2139                content_filter = pcrs_filter_response;
2140             }
2141
2142             /* Buffer and gif_deanimate this if appropriate. */
2143
2144             if ((csp->content_type & CT_GIF)  &&  /* It's an image/gif MIME-Type */
2145                 !http->ssl    &&                  /* We talk plaintext */
2146                 gif_deanimate)                    /* Policy allows */
2147             {
2148                content_filter = gif_deanimate_response;
2149             }
2150
2151             /* Buffer and jpg_inspect this if appropriate. */
2152
2153             if ((csp->content_type & CT_JPEG)  &&  /* It's an image/jpeg MIME-Type */
2154                 !http->ssl    &&                   /* We talk plaintext */
2155                 jpeg_inspect)                      /* Policy allows */
2156             {
2157                content_filter = jpeg_inspect_response;
2158             }
2159
2160             /*
2161              * Only write if we're not buffering for content modification
2162              */
2163             if (!content_filter)
2164             {
2165                /* write the server's (modified) header to
2166                 * the client (along with anything else that
2167                 * may be in the buffer)
2168                 */
2169
2170                if (write_socket(csp->cfd, hdr, strlen(hdr))
2171                 || ((len = flush_socket(csp->cfd, csp)) < 0))
2172                {
2173                   log_error(LOG_LEVEL_CONNECT, "write header to client failed: %E");
2174
2175                   /* the write failed, so don't bother
2176                    * mentioning it to the client...
2177                    * it probably can't hear us anyway.
2178                    */
2179                   freez(hdr);
2180                   return;
2181                }
2182
2183                byte_count += (size_t)len;
2184             }
2185
2186             /* we're finished with the server's header */
2187
2188             freez(hdr);
2189             server_body = 1;
2190
2191             /* If this was a MS IIS/5 hack then it means
2192              * the server has already closed the
2193              * connection.  Nothing more to read.  Time
2194              * to bail.
2195              */
2196             if (ms_iis5_hack)
2197             {
2198                break;
2199             }
2200          }
2201          continue;
2202       }
2203
2204       return; /* huh? we should never get here */
2205    }
2206
2207    log_error(LOG_LEVEL_CLF, "%s - - [%T] \"%s\" 200 %d",
2208              csp->ip_addr_str, http->ocmd, byte_count);
2209 }
2210
2211
2212 /*********************************************************************
2213  *
2214  * Function    :  serve
2215  *
2216  * Description :  This is little more than chat.  We only "serve" to
2217  *                to close any socket that chat may have opened.
2218  *
2219  * Parameters  :
2220  *          1  :  csp = Current client state (buffers, headers, etc...)
2221  *
2222  * Returns     :  N/A
2223  *
2224  *********************************************************************/
2225 #ifdef AMIGA
2226 void serve(struct client_state *csp)
2227 #else /* ifndef AMIGA */
2228 static void serve(struct client_state *csp)
2229 #endif /* def AMIGA */
2230 {
2231    chat(csp);
2232    close_socket(csp->cfd);
2233
2234    if (csp->sfd != JB_INVALID_SOCKET)
2235    {
2236       close_socket(csp->sfd);
2237    }
2238
2239    csp->flags &= ~CSP_FLAG_ACTIVE;
2240
2241 }
2242
2243
2244 #ifdef __BEOS__
2245 /*********************************************************************
2246  *
2247  * Function    :  server_thread
2248  *
2249  * Description :  We only exist to call `serve' in a threaded environment.
2250  *
2251  * Parameters  :
2252  *          1  :  data = Current client state (buffers, headers, etc...)
2253  *
2254  * Returns     :  Always 0.
2255  *
2256  *********************************************************************/
2257 static int32 server_thread(void *data)
2258 {
2259    serve((struct client_state *) data);
2260    return 0;
2261
2262 }
2263 #endif
2264
2265
2266 /*********************************************************************
2267  *
2268  * Function    :  usage
2269  *
2270  * Description :  Print usage info & exit.
2271  *
2272  * Parameters  :  Pointer to argv[0] for identifying ourselves
2273  *
2274  * Returns     :  No. ,-)
2275  *
2276  *********************************************************************/
2277 void usage(const char *myname)
2278 {
2279    printf("Privoxy version " VERSION " (" HOME_PAGE_URL ")\n"
2280 #if !defined(unix)
2281            "Usage: %s [--help] [--version] [configfile]\n"
2282 #else
2283            "Usage: %s [--help] [--version] [--no-daemon] [--pidfile pidfile] [--user user[.group]] [configfile]\n"
2284 #endif
2285            "Aborting.\n", myname);
2286  
2287    exit(2);
2288
2289 }
2290
2291
2292 /*********************************************************************
2293  *
2294  * Function    :  main
2295  *
2296  * Description :  Load the config file and start the listen loop.
2297  *                This function is a lot more *sane* with the `load_config'
2298  *                and `listen_loop' functions; although it stills does
2299  *                a *little* too much for my taste.
2300  *
2301  * Parameters  :
2302  *          1  :  argc = Number of parameters (including $0).
2303  *          2  :  argv = Array of (char *)'s to the parameters.
2304  *
2305  * Returns     :  1 if : can't open config file, unrecognized directive,
2306  *                stats requested in multi-thread mode, can't open the
2307  *                log file, can't open the jar file, listen port is invalid,
2308  *                any load fails, and can't bind port.
2309  *
2310  *                Else main never returns, the process must be signaled
2311  *                to terminate execution.  Or, on Windows, use the
2312  *                "File", "Exit" menu option.
2313  *
2314  *********************************************************************/
2315 #ifdef __MINGW32__
2316 int real_main(int argc, const char *argv[])
2317 #else
2318 int main(int argc, const char *argv[])
2319 #endif
2320 {
2321    int argc_pos = 0;
2322    unsigned int random_seed;
2323 #ifdef unix
2324    struct passwd *pw = NULL;
2325    struct group *grp = NULL;
2326    char *p;
2327    int do_chroot = 0;
2328 #endif
2329
2330    Argc = argc;
2331    Argv = argv;
2332
2333    configfile =
2334 #if !defined(_WIN32)
2335    "config"
2336 #else
2337    "config.txt"
2338 #endif
2339       ;
2340
2341    /*
2342     * Parse the command line arguments
2343     */
2344    while (++argc_pos < argc)
2345    {
2346 #ifdef _WIN32
2347       /* Check to see if the service must be installed or uninstalled */
2348       if (strncmp(argv[argc_pos], "--install", 9) == 0)
2349       {
2350          const char *pName = argv[argc_pos] + 9;
2351          if (*pName == ':')
2352             pName++;
2353          exit( (install_service(pName)) ? 0 : 1 );
2354       }
2355       else if (strncmp(argv[argc_pos], "--uninstall", + 11) == 0)
2356       {
2357          const char *pName = argv[argc_pos] + 11;
2358          if (*pName == ':')
2359             pName++;
2360          exit((uninstall_service(pName)) ? 0 : 1);
2361       }
2362       else if (strcmp(argv[argc_pos], "--service" ) == 0)
2363       {
2364          bRunAsService = TRUE;
2365          w32_set_service_cwd();
2366          atexit(w32_service_exit_notify);
2367       }
2368       else
2369 #endif /* defined(_WIN32) */
2370
2371
2372 #if !defined(_WIN32) || defined(_WIN_CONSOLE)
2373
2374       if (strcmp(argv[argc_pos], "--help") == 0)
2375       {
2376          usage(argv[0]);
2377       }
2378
2379       else if(strcmp(argv[argc_pos], "--version") == 0)
2380       {
2381          printf("Privoxy version " VERSION " (" HOME_PAGE_URL ")\n");
2382          exit(0);
2383       }
2384
2385 #if defined(unix)
2386
2387       else if (strcmp(argv[argc_pos], "--no-daemon" ) == 0)
2388       {
2389          no_daemon = 1;
2390       }
2391
2392       else if (strcmp(argv[argc_pos], "--pidfile" ) == 0)
2393       {
2394          if (++argc_pos == argc) usage(argv[0]);
2395          pidfile = strdup(argv[argc_pos]);
2396       }
2397
2398       else if (strcmp(argv[argc_pos], "--user" ) == 0)
2399       {
2400          if (++argc_pos == argc) usage(argv[argc_pos]);
2401
2402          if ((NULL != (p = strchr(argv[argc_pos], '.'))) && *(p + 1) != '0')
2403          {
2404             *p++ = '\0';
2405             if (NULL == (grp = getgrnam(p)))
2406             {
2407                log_error(LOG_LEVEL_FATAL, "Group %s not found.", p);
2408             }
2409          }
2410
2411          if (NULL == (pw = getpwnam(argv[argc_pos])))
2412          {
2413             log_error(LOG_LEVEL_FATAL, "User %s not found.", argv[argc_pos]);
2414          }
2415
2416          if (p != NULL) *--p = '\0';
2417       }
2418
2419       else if (strcmp(argv[argc_pos], "--chroot" ) == 0)
2420       {
2421          do_chroot = 1;
2422       }
2423
2424 #endif /* defined(unix) */
2425 #endif /* defined(_WIN32) && !defined(_WIN_CONSOLE) */
2426       {
2427          configfile = argv[argc_pos];
2428       }
2429
2430    } /* -END- while (more arguments) */
2431
2432 #if defined(unix)
2433    if ( *configfile != '/' )
2434    {
2435       char *abs_file, cwd[1024];
2436
2437       /* make config-filename absolute here */
2438       if ( !(getcwd(cwd, sizeof(cwd))))
2439       {
2440          perror("get working dir failed");
2441          exit( 1 );
2442       }
2443
2444       if (!(basedir = strdup(cwd))
2445       || (!(abs_file = malloc( strlen( basedir ) + strlen( configfile ) + 5 ))))
2446       {
2447          perror("malloc failed");
2448          exit( 1 );
2449       }
2450       strcpy( abs_file, basedir );
2451       strcat( abs_file, "/" );
2452       strcat( abs_file, configfile );
2453       configfile = abs_file;
2454    }
2455 #endif /* defined unix */
2456
2457
2458    files->next = NULL;
2459    clients->next = NULL;
2460
2461 #ifdef AMIGA
2462    InitAmiga();
2463 #elif defined(_WIN32)
2464    InitWin32();
2465 #endif
2466
2467 #ifdef FEATURE_PTHREAD
2468    /*
2469     * Prepare global mutex semaphores
2470     */
2471    pthread_mutex_init(&log_mutex,0);
2472    pthread_mutex_init(&log_init_mutex,0);
2473
2474 #ifndef HAVE_GMTIME_R
2475    pthread_mutex_init(&gmtime_mutex,0);
2476 #endif /* ndef HAVE_GMTIME_R */
2477
2478 #ifndef HAVE_LOCALTIME_R
2479    pthread_mutex_init(&localtime_mutex,0);
2480 #endif /* ndef HAVE_GMTIME_R */
2481
2482 #ifndef HAVE_GETHOSTBYADDR_R
2483    pthread_mutex_init(&gethostbyaddr_mutex,0);
2484 #endif /* ndef HAVE_GETHOSTBYADDR_R */
2485
2486 #ifndef HAVE_GETHOSTBYNAME_R
2487    pthread_mutex_init(&gethostbyname_mutex,0);
2488 #endif /* ndef HAVE_GETHOSTBYNAME_R */
2489
2490 #ifndef HAVE_RANDOM
2491    pthread_mutex_init(&rand_mutex,0);
2492 #endif /* ndef HAVE_RANDOM */
2493
2494 #endif /* FEATURE_PTHREAD */
2495
2496    random_seed = (unsigned int)time(NULL);
2497 #ifdef HAVE_RANDOM
2498    srandom(random_seed);
2499 #else
2500    srand(random_seed);
2501 #endif /* ifdef HAVE_RANDOM */
2502
2503    /*
2504     * Unix signal handling
2505     *
2506     * Catch the abort, interrupt and terminate signals for a graceful exit
2507     * Catch the hangup signal so the errlog can be reopened.
2508     * Ignore the broken pipe signals (FIXME: Why?)
2509     */
2510 #if !defined(_WIN32) && !defined(__OS2__) && !defined(AMIGA)
2511 {
2512    int idx;
2513    const int catched_signals[] = { SIGTERM, SIGINT, SIGHUP, 0 };
2514    const int ignored_signals[] = { SIGPIPE, 0 };
2515
2516    for (idx = 0; catched_signals[idx] != 0; idx++)
2517    {
2518 #ifdef sun /* FIXME: Is it safe to check for HAVE_SIGSET instead? */ 
2519       if (sigset(catched_signals[idx], sig_handler) == SIG_ERR)
2520 #else
2521       if (signal(catched_signals[idx], sig_handler) == SIG_ERR)
2522 #endif /* ifdef sun */
2523       {
2524          log_error(LOG_LEVEL_FATAL, "Can't set signal-handler for signal %d: %E", catched_signals[idx]);
2525       }
2526    }
2527
2528    for (idx = 0; ignored_signals[idx] != 0; idx++)
2529    {
2530       if (signal(ignored_signals[idx], SIG_IGN) == SIG_ERR)
2531       {
2532          log_error(LOG_LEVEL_FATAL, "Can't set ignore-handler for signal %d: %E", ignored_signals[idx]);
2533       }
2534    }
2535
2536 }
2537 #else /* ifdef _WIN32 */
2538 # ifdef _WIN_CONSOLE
2539    /*
2540     * We *are* in a windows console app.
2541     * Print a verbose messages about FAQ's and such
2542     */
2543    printf("%s", win32_blurb);
2544 # endif /* def _WIN_CONSOLE */
2545 #endif /* def _WIN32 */
2546
2547
2548    /* Initialize the CGI subsystem */
2549    cgi_init_error_messages();
2550
2551    /*
2552     * If runnig on unix and without the --nodaemon
2553     * option, become a daemon. I.e. fork, detach
2554     * from tty and get process group leadership
2555     */
2556 #if defined(unix)
2557 {
2558    pid_t pid = 0;
2559 #if 0
2560    int   fd;
2561 #endif
2562
2563    if (!no_daemon)
2564    {
2565       pid  = fork();
2566
2567       if ( pid < 0 ) /* error */
2568       {
2569          perror("fork");
2570          exit( 3 );
2571       }
2572       else if ( pid != 0 ) /* parent */
2573       {
2574          int status;
2575          pid_t wpid;
2576          /*
2577           * must check for errors
2578           * child died due to missing files aso
2579           */
2580          sleep( 1 );
2581          wpid = waitpid( pid, &status, WNOHANG );
2582          if ( wpid != 0 )
2583          {
2584             exit( 1 );
2585          }
2586          exit( 0 );
2587       }
2588       /* child */
2589 #if 1
2590       /* Should be more portable, but not as well tested */
2591       setsid();
2592 #else /* !1 */
2593 #ifdef __FreeBSD__
2594       setpgrp(0,0);
2595 #else /* ndef __FreeBSD__ */
2596       setpgrp();
2597 #endif /* ndef __FreeBSD__ */
2598       fd = open("/dev/tty", O_RDONLY);
2599       if ( fd )
2600       {
2601          /* no error check here */
2602          ioctl( fd, TIOCNOTTY,0 );
2603          close ( fd );
2604       }
2605 #endif /* 1 */
2606       /* FIXME: should close stderr (fd 2) here too, but the test
2607        * for existence
2608        * and load config file is done in listen_loop() and puts
2609        * some messages on stderr there.
2610        */
2611
2612       close( 0 );
2613       close( 1 );
2614       chdir("/");
2615
2616    } /* -END- if (!no_daemon) */
2617
2618    /*
2619     * As soon as we have written the PID file, we can switch
2620     * to the user and group ID indicated by the --user option
2621     */
2622    write_pid_file();
2623
2624    if (NULL != pw)
2625    {
2626       if (setgid((NULL != grp) ? grp->gr_gid : pw->pw_gid))
2627       {
2628          log_error(LOG_LEVEL_FATAL, "Cannot setgid(): Insufficient permissions.");
2629       }
2630       if (do_chroot)
2631       {
2632          if (!pw->pw_dir)
2633          {
2634             log_error(LOG_LEVEL_FATAL, "Home directory for %s undefined", pw->pw_name);
2635          }
2636          if (chroot(pw->pw_dir) < 0)
2637          {
2638             log_error(LOG_LEVEL_FATAL, "Cannot chroot to %s", pw->pw_dir);
2639          }
2640          if (chdir ("/"))
2641          {
2642             log_error(LOG_LEVEL_FATAL, "Cannot chdir /");
2643          }
2644       }
2645       if (setuid(pw->pw_uid))
2646       {
2647          log_error(LOG_LEVEL_FATAL, "Cannot setuid(): Insufficient permissions.");
2648       }
2649       if (do_chroot)
2650       {
2651          char putenv_dummy[64];
2652
2653          strcpy(putenv_dummy, "HOME=/");
2654          if (putenv(putenv_dummy) != 0)
2655          {
2656             log_error(LOG_LEVEL_FATAL, "Cannot putenv(): HOME");
2657          }                
2658
2659          snprintf(putenv_dummy, 64, "USER=%s", pw->pw_name);
2660          if (putenv(putenv_dummy) != 0)
2661          {
2662             log_error(LOG_LEVEL_FATAL, "Cannot putenv(): USER");
2663          }
2664       }
2665    }
2666    else if (do_chroot)
2667    {
2668       log_error(LOG_LEVEL_FATAL, "Cannot chroot without --user argument.");
2669    }
2670 }
2671 #endif /* defined unix */
2672
2673 #ifdef _WIN32
2674    /* This will be FALSE unless the command line specified --service
2675     */
2676    if (bRunAsService)
2677    {
2678       /* Yup, so now we must attempt to establish a connection 
2679        * with the service dispatcher. This will only work if this
2680        * process was launched by the service control manager to
2681        * actually run as a service. If this isn't the case, i've
2682        * known it take around 30 seconds or so for the call to return.
2683        */
2684
2685       /* The StartServiceCtrlDispatcher won't return until the service is stopping */
2686       if (w32_start_service_ctrl_dispatcher(w32ServiceDispatchTable))
2687       {
2688          /* Service has run, and at this point is now being stopped, so just return */
2689          return 0;
2690       }
2691
2692 #ifdef _WIN_CONSOLE
2693       printf("Warning: Failed to connect to Service Control Dispatcher\nwhen starting as a service!\n");
2694 #endif
2695       /* An error occurred. Usually it's because --service was wrongly specified
2696        * and we were unable to connect to the Service Control Dispatcher because
2697        * it wasn't expecting us and is therefore not listening.
2698        *
2699        * For now, just continue below to call the listen_loop function.
2700        */
2701    }
2702 #endif /* def _WIN32 */
2703
2704    listen_loop();
2705
2706    /* NOTREACHED */
2707    return(-1);
2708
2709 }
2710
2711
2712 /*********************************************************************
2713  *
2714  * Function    :  bind_port_helper
2715  *
2716  * Description :  Bind the listen port.  Handles logging, and aborts
2717  *                on failure.
2718  *
2719  * Parameters  :
2720  *          1  :  config = Privoxy configuration.  Specifies port
2721  *                         to bind to.
2722  *
2723  * Returns     :  Port that was opened.
2724  *
2725  *********************************************************************/
2726 static jb_socket bind_port_helper(struct configuration_spec * config)
2727 {
2728    int result;
2729    jb_socket bfd;
2730
2731    if ( (config->haddr != NULL)
2732      && (config->haddr[0] == '1')
2733      && (config->haddr[1] == '2')
2734      && (config->haddr[2] == '7')
2735      && (config->haddr[3] == '.') )
2736    {
2737       log_error(LOG_LEVEL_INFO, "Listening on port %d for local connections only",
2738                 config->hport);
2739    }
2740    else if (config->haddr == NULL)
2741    {
2742       log_error(LOG_LEVEL_INFO, "Listening on port %d on all IP addresses",
2743                 config->hport);
2744    }
2745    else
2746    {
2747       log_error(LOG_LEVEL_INFO, "Listening on port %d on IP address %s",
2748                 config->hport, config->haddr);
2749    }
2750
2751    result = bind_port(config->haddr, config->hport, &bfd);
2752
2753    if (result < 0)
2754    {
2755       switch(result)
2756       {
2757          case -3 :
2758             log_error(LOG_LEVEL_FATAL, "can't bind to %s:%d: "
2759                "There may be another Privoxy or some other "
2760                "proxy running on port %d",
2761                (NULL != config->haddr) ? config->haddr : "INADDR_ANY",
2762                       config->hport, config->hport);
2763
2764          case -2 :
2765             log_error(LOG_LEVEL_FATAL, "can't bind to %s:%d: " 
2766                "The hostname is not resolvable",
2767                (NULL != config->haddr) ? config->haddr : "INADDR_ANY", config->hport);
2768
2769          default :
2770             log_error(LOG_LEVEL_FATAL, "can't bind to %s:%d: because %E",
2771                (NULL != config->haddr) ? config->haddr : "INADDR_ANY", config->hport);
2772       }
2773
2774       /* shouldn't get here */
2775       return JB_INVALID_SOCKET;
2776    }
2777
2778    config->need_bind = 0;
2779
2780    return bfd;
2781 }
2782
2783
2784 #ifdef _WIN32
2785 /* Without this simple workaround we get this compiler warning from _beginthread
2786  *     warning C4028: formal parameter 1 different from declaration
2787  */
2788 void w32_service_listen_loop(void *p)
2789 {
2790    listen_loop();
2791 }
2792 #endif /* def _WIN32 */
2793
2794
2795 /*********************************************************************
2796  *
2797  * Function    :  listen_loop
2798  *
2799  * Description :  bind the listen port and enter a "FOREVER" listening loop.
2800  *
2801  * Parameters  :  N/A
2802  *
2803  * Returns     :  Never.
2804  *
2805  *********************************************************************/
2806 static void listen_loop(void)
2807 {
2808    struct client_state *csp = NULL;
2809    jb_socket bfd;
2810    struct configuration_spec * config;
2811
2812    config = load_config();
2813
2814    bfd = bind_port_helper(config);
2815
2816 #ifdef FEATURE_GRACEFUL_TERMINATION
2817    while (!g_terminate)
2818 #else
2819    for (;;)
2820 #endif
2821    {
2822 #if !defined(FEATURE_PTHREAD) && !defined(_WIN32) && !defined(__BEOS__) && !defined(AMIGA) && !defined(__OS2__)
2823       while (waitpid(-1, NULL, WNOHANG) > 0)
2824       {
2825          /* zombie children */
2826       }
2827 #endif /* !defined(FEATURE_PTHREAD) && !defined(_WIN32) && !defined(__BEOS__) && !defined(AMIGA) */
2828
2829       /*
2830        * Free data that was used by died threads
2831        */
2832       sweep();
2833
2834 #if defined(unix)
2835       /*
2836        * Re-open the errlog after HUP signal
2837        */
2838       if (received_hup_signal)
2839       {
2840          init_error_log(Argv[0], config->logfile, config->debug);
2841          received_hup_signal = 0;
2842       }
2843 #endif
2844
2845 #ifdef __OS2__
2846 #ifdef FEATURE_COOKIE_JAR
2847       /*
2848        * Need a workaround here: we have to fclose() the jarfile, or we die because it's
2849        * already open.  I think unload_configfile() is not being run, which should do
2850        * this work.  Until that can get resolved, we'll use this workaround.
2851        */
2852        if (csp)
2853          if(csp->config)
2854            if (csp->config->jar)
2855            {
2856              fclose(csp->config->jar);
2857              csp->config->jar = NULL;
2858            }
2859 #endif /* FEATURE_COOKIE_JAR */
2860 #endif /* __OS2__ */
2861
2862       if ( NULL == (csp = (struct client_state *) zalloc(sizeof(*csp))) )
2863       {
2864          log_error(LOG_LEVEL_FATAL, "malloc(%d) for csp failed: %E", sizeof(*csp));
2865          continue;
2866       }
2867
2868       csp->flags |= CSP_FLAG_ACTIVE;
2869       csp->sfd    = JB_INVALID_SOCKET;
2870
2871       csp->config = config = load_config();
2872
2873       if ( config->need_bind )
2874       {
2875          /*
2876           * Since we were listening to the "old port", we will not see
2877           * a "listen" param change until the next IJB request.  So, at
2878           * least 1 more request must be made for us to find the new
2879           * setting.  I am simply closing the old socket and binding the
2880           * new one.
2881           *
2882           * Which-ever is correct, we will serve 1 more page via the
2883           * old settings.  This should probably be a "show-proxy-args"
2884           * request.  This should not be a so common of an operation
2885           * that this will hurt people's feelings.
2886           */
2887
2888          close_socket(bfd);
2889
2890          bfd = bind_port_helper(config);
2891       }
2892
2893       log_error(LOG_LEVEL_CONNECT, "Listening for new connections ... ");
2894
2895       if (!accept_connection(csp, bfd))
2896       {
2897          log_error(LOG_LEVEL_CONNECT, "accept failed: %E");
2898
2899 #ifdef AMIGA
2900          if(!childs)
2901          {
2902             exit(1);
2903          }
2904 #endif
2905          freez(csp);
2906          continue;
2907       }
2908       else
2909       {
2910          log_error(LOG_LEVEL_CONNECT, "accepted connection from %s", csp->ip_addr_str);
2911       }
2912
2913 #ifdef FEATURE_TOGGLE
2914       if (global_toggle_state)
2915       {
2916          csp->flags |= CSP_FLAG_TOGGLED_ON;
2917       }
2918 #endif /* def FEATURE_TOGGLE */
2919
2920       if (run_loader(csp))
2921       {
2922          log_error(LOG_LEVEL_FATAL, "a loader failed - must exit");
2923          /* Never get here - LOG_LEVEL_FATAL causes program exit */
2924       }
2925
2926 #ifdef FEATURE_ACL
2927       if (block_acl(NULL,csp))
2928       {
2929          log_error(LOG_LEVEL_CONNECT, "Connection dropped due to ACL");
2930          close_socket(csp->cfd);
2931          freez(csp);
2932          continue;
2933       }
2934 #endif /* def FEATURE_ACL */
2935
2936       /* add it to the list of clients */
2937       csp->next = clients->next;
2938       clients->next = csp;
2939
2940       if (config->multi_threaded)
2941       {
2942          int child_id;
2943
2944 /* this is a switch () statment in the C preprocessor - ugh */
2945 #undef SELECTED_ONE_OPTION
2946
2947 /* Use Pthreads in preference to native code */
2948 #if defined(FEATURE_PTHREAD) && !defined(SELECTED_ONE_OPTION)
2949 #define SELECTED_ONE_OPTION
2950          {
2951             pthread_t the_thread;
2952             pthread_attr_t attrs;
2953
2954             pthread_attr_init(&attrs);
2955             pthread_attr_setdetachstate(&attrs, PTHREAD_CREATE_DETACHED);
2956             errno = pthread_create(&the_thread, &attrs,
2957                (void * (*)(void *))serve, csp);
2958             child_id = errno ? -1 : 0;
2959             pthread_attr_destroy(&attrs);
2960          }
2961 #endif
2962
2963 #if defined(_WIN32) && !defined(_CYGWIN) && !defined(SELECTED_ONE_OPTION)
2964 #define SELECTED_ONE_OPTION
2965          child_id = _beginthread(
2966             (void (*)(void *))serve,
2967             64 * 1024,
2968             csp);
2969 #endif
2970
2971 #if defined(__OS2__) && !defined(SELECTED_ONE_OPTION)
2972 #define SELECTED_ONE_OPTION
2973          child_id = _beginthread(
2974             (void(* _Optlink)(void*))serve,
2975             NULL,
2976             64 * 1024,
2977             csp);
2978 #endif
2979
2980 #if defined(__BEOS__) && !defined(SELECTED_ONE_OPTION)
2981 #define SELECTED_ONE_OPTION
2982          {
2983             thread_id tid = spawn_thread
2984                (server_thread, "server", B_NORMAL_PRIORITY, csp);
2985
2986             if ((tid >= 0) && (resume_thread(tid) == B_OK))
2987             {
2988                child_id = (int) tid;
2989             }
2990             else
2991             {
2992                child_id = -1;
2993             }
2994          }
2995 #endif
2996
2997 #if defined(AMIGA) && !defined(SELECTED_ONE_OPTION)
2998 #define SELECTED_ONE_OPTION
2999          csp->cfd = ReleaseSocket(csp->cfd, -1);
3000          
3001 #ifdef __amigaos4__
3002          child_id = (int)CreateNewProcTags(NP_Entry, (ULONG)server_thread,
3003                                            NP_Output, Output(),
3004                                            NP_CloseOutput, FALSE,
3005                                            NP_Name, (ULONG)"privoxy child",
3006                                            NP_Child, TRUE,
3007                                            TAG_DONE);
3008 #else
3009          child_id = (int)CreateNewProcTags(NP_Entry, (ULONG)server_thread,
3010                                            NP_Output, Output(),
3011                                            NP_CloseOutput, FALSE,
3012                                            NP_Name, (ULONG)"privoxy child",
3013                                            NP_StackSize, 200*1024,
3014                                            TAG_DONE);
3015 #endif
3016          if(0 != child_id)
3017          {
3018             childs++;
3019             ((struct Task *)child_id)->tc_UserData = csp;
3020             Signal((struct Task *)child_id, SIGF_SINGLE);
3021             Wait(SIGF_SINGLE);
3022          }
3023 #endif
3024
3025 #if !defined(SELECTED_ONE_OPTION)
3026          child_id = fork();
3027
3028          /* This block is only needed when using fork().
3029           * When using threads, the server thread was
3030           * created and run by the call to _beginthread().
3031           */
3032          if (child_id == 0)   /* child */
3033          {
3034             int rc = 0;
3035 #ifdef FEATURE_TOGGLE
3036             int inherited_toggle_state = global_toggle_state;
3037 #endif /* def FEATURE_TOGGLE */
3038
3039             serve(csp);
3040
3041             /* 
3042              * If we've been toggled or we've blocked the request, tell Mom
3043              */
3044
3045 #ifdef FEATURE_TOGGLE
3046             if (inherited_toggle_state != global_toggle_state)
3047             {
3048                rc |= RC_FLAG_TOGGLED;
3049             }
3050 #endif /* def FEATURE_TOGGLE */
3051
3052 #ifdef FEATURE_STATISTICS  
3053             if (csp->flags & CSP_FLAG_REJECTED)
3054             {
3055                rc |= RC_FLAG_BLOCKED;
3056             }
3057 #endif /* ndef FEATURE_STATISTICS */
3058
3059             _exit(rc);
3060          }
3061          else if (child_id > 0) /* parent */
3062          {
3063             /* in a fork()'d environment, the parent's
3064              * copy of the client socket and the CSP
3065              * are not used.
3066              */
3067             int child_status;
3068 #if !defined(_WIN32) && !defined(__CYGWIN__)
3069
3070             wait( &child_status );
3071
3072             /* 
3073              * Evaluate child's return code: If the child has
3074              *  - been toggled, toggle ourselves
3075              *  - blocked its request, bump up the stats counter
3076              */
3077
3078 #ifdef FEATURE_TOGGLE
3079             if (WIFEXITED(child_status) && (WEXITSTATUS(child_status) & RC_FLAG_TOGGLED))
3080             {
3081                global_toggle_state = !global_toggle_state;
3082             }
3083 #endif /* def FEATURE_TOGGLE */
3084
3085 #ifdef FEATURE_STATISTICS
3086             urls_read++;
3087             if (WIFEXITED(child_status) && (WEXITSTATUS(child_status) & RC_FLAG_BLOCKED))
3088             {
3089                urls_rejected++;
3090             }
3091 #endif /* def FEATURE_STATISTICS */ 
3092
3093 #endif /* !defined(_WIN32) && defined(__CYGWIN__) */
3094             close_socket(csp->cfd);
3095             csp->flags &= ~CSP_FLAG_ACTIVE;
3096          }
3097 #endif
3098
3099 #undef SELECTED_ONE_OPTION
3100 /* end of cpp switch () */
3101
3102          if (child_id < 0) /* failed */
3103          {
3104             char buf[BUFFER_SIZE];
3105
3106             log_error(LOG_LEVEL_ERROR, "can't fork: %E");
3107
3108             snprintf(buf , sizeof(buf), "Privoxy: can't fork: errno = %d", errno);
3109
3110             write_socket(csp->cfd, buf, strlen(buf));
3111             close_socket(csp->cfd);
3112             csp->flags &= ~CSP_FLAG_ACTIVE;
3113             sleep(5);
3114             continue;
3115          }
3116       }
3117       else
3118       {
3119          serve(csp);
3120       }
3121    }
3122
3123    /* NOTREACHED unless FEATURE_GRACEFUL_TERMINATION is defined */
3124
3125    /* Clean up.  Aim: free all memory (no leaks) */
3126 #ifdef FEATURE_GRACEFUL_TERMINATION
3127
3128    log_error(LOG_LEVEL_ERROR, "Graceful termination requested");
3129
3130    unload_current_config_file();
3131    unload_current_actions_file();
3132    unload_current_re_filterfile();
3133 #ifdef FEATURE_TRUST
3134    unload_current_trust_file();
3135 #endif
3136
3137    if (config->multi_threaded)
3138    {
3139       int i = 60;
3140       do
3141       {
3142          sleep(1);
3143          sweep();
3144       } while ((clients->next != NULL) && (--i > 0));
3145
3146       if (i <= 0)
3147       {
3148          log_error(LOG_LEVEL_ERROR, "Graceful termination failed - still some live clients after 1 minute wait.");
3149       }
3150    }
3151    sweep();
3152    sweep();
3153
3154 #if defined(unix)
3155    freez(basedir);
3156 #endif
3157    freez(configfile);
3158
3159 #ifdef FEATURE_COOKIE_JAR
3160    if (NULL != config->jar)
3161    {
3162       fclose(config->jar);
3163    }
3164 #endif
3165
3166 #if defined(_WIN32) && !defined(_WIN_CONSOLE)
3167    /* Cleanup - remove taskbar icon etc. */
3168    TermLogWindow();
3169 #endif
3170
3171    exit(0);
3172 #endif /* FEATURE_GRACEFUL_TERMINATION */
3173
3174 }
3175
3176
3177 /*
3178   Local Variables:
3179   tab-width: 3
3180   end:
3181 */