Allow access to Privoxy's CGI pages, don't call trusted
[privoxy.git] / jcc.c
1 const char jcc_rcs[] = "$Id: jcc.c,v 1.121 2007/01/27 10:52:56 fabiankeil Exp $";
2 /*********************************************************************
3  *
4  * File        :  $Source: /cvsroot/ijbswa/current/jcc.c,v $
5  *
6  * Purpose     :  Main file.  Contains main() method, main loop, and
7  *                the main connection-handling function.
8  *
9  * Copyright   :  Written by and Copyright (C) 2001-2007 the SourceForge
10  *                Privoxy team. http://www.privoxy.org/
11  *
12  *                Based on the Internet Junkbuster originally written
13  *                by and Copyright (C) 1997 Anonymous Coders and
14  *                Junkbusters Corporation.  http://www.junkbusters.com
15  *
16  *                This program is free software; you can redistribute it
17  *                and/or modify it under the terms of the GNU General
18  *                Public License as published by the Free Software
19  *                Foundation; either version 2 of the License, or (at
20  *                your option) any later version.
21  *
22  *                This program is distributed in the hope that it will
23  *                be useful, but WITHOUT ANY WARRANTY; without even the
24  *                implied warranty of MERCHANTABILITY or FITNESS FOR A
25  *                PARTICULAR PURPOSE.  See the GNU General Public
26  *                License for more details.
27  *
28  *                The GNU General Public License should be included with
29  *                this file.  If not, you can view it at
30  *                http://www.gnu.org/copyleft/gpl.html
31  *                or write to the Free Software Foundation, Inc., 59
32  *                Temple Place - Suite 330, Boston, MA  02111-1307, USA.
33  *
34  * Revisions   :
35  *    $Log: jcc.c,v $
36  *    Revision 1.121  2007/01/27 10:52:56  fabiankeil
37  *    Move mutex initialization into separate
38  *    function and exit in case of errors.
39  *
40  *    Revision 1.120  2007/01/26 14:18:42  fabiankeil
41  *    - Start to reduce chat()'s line count and move
42  *      parts of it into separate functions.
43  *    - Add "HTTP/1.1 100 Continue" hack for BR 756734.
44  *
45  *    Revision 1.119  2007/01/25 14:02:30  fabiankeil
46  *    - Add Proxy-Agent header to HTTP snippets that are
47  *      supposed to reach HTTP clients only.
48  *    - Made a few CONNECT log messages more descriptive.
49  *    - Catch completely empty server responses (as seen
50  *      with Tor's fake ".noconnect" top level domain).
51  *    - Use shiny new "forwarding-failed" template for socks errors.
52  *
53  *    Revision 1.118  2007/01/07 07:43:43  joergs
54  *    AmigaOS4 support added.
55  *
56  *    Revision 1.117  2006/12/31 17:56:37  fabiankeil
57  *    Added config option accept-intercepted-requests
58  *    and disabled it by default.
59  *
60  *    Revision 1.116  2006/12/29 19:08:22  fabiankeil
61  *    Reverted parts of my last commit
62  *    to keep error handling working.
63  *
64  *    Revision 1.115  2006/12/29 17:38:57  fabiankeil
65  *    Fixed gcc43 conversion warnings.
66  *
67  *    Revision 1.114  2006/12/27 18:52:02  fabiankeil
68  *    Fix -pedantic ISO C warning about converting
69  *    from function pointer to object pointer.
70  *
71  *    Revision 1.113  2006/12/26 17:38:50  fabiankeil
72  *    Silence compiler warning I introduced with my last commit.
73  *
74  *    Revision 1.112  2006/12/26 17:31:41  fabiankeil
75  *    Mutex protect rand() if POSIX threading
76  *    is used, warn the user if that's not possible
77  *    and stop using it on _WIN32 where it could
78  *    cause crashes.
79  *
80  *    Revision 1.111  2006/12/23 16:15:06  fabiankeil
81  *    Don't prevent core dumps by catching SIGABRT.
82  *    It's rude and makes debugging unreasonable painful.
83  *
84  *    Revision 1.110  2006/12/13 14:52:53  etresoft
85  *    Fix build failure on MacOS X. Global symbols can be either static or extern, but not both.
86  *
87  *    Revision 1.109  2006/12/06 19:41:40  fabiankeil
88  *    Privoxy is now able to run as intercepting
89  *    proxy in combination with any packet filter
90  *    that does the port redirection. The destination
91  *    is extracted from the "Host:" header which
92  *    should be available for nearly all requests.
93  *
94  *    Moved HTTP snipplets into jcc.c.
95  *    Added error message for gopher proxy requests.
96  *
97  *    Revision 1.108  2006/11/28 15:38:51  fabiankeil
98  *    Only unlink the pidfile if it's actually used.
99  *
100  *    Change order of interception checks to make
101  *    it possible to block or redirect requests for
102  *    the cgi pages.
103  *
104  *    Revision 1.107  2006/11/13 19:05:51  fabiankeil
105  *    Make pthread mutex locking more generic. Instead of
106  *    checking for OSX and OpenBSD, check for FEATURE_PTHREAD
107  *    and use mutex locking unless there is an _r function
108  *    available. Better safe than sorry.
109  *
110  *    Fixes "./configure --disable-pthread" and should result
111  *    in less threading-related problems on pthread-using platforms,
112  *    but it still doesn't fix BR#1122404.
113  *
114  *    Revision 1.106  2006/11/06 19:58:23  fabiankeil
115  *    Move pthread.h inclusion from jcc.c to jcc.h.
116  *    Fixes build on x86-freebsd1 (FreeBSD 5.4-RELEASE).
117  *
118  *    Revision 1.105  2006/11/06 14:26:02  fabiankeil
119  *    Don't exit after receiving the second SIGHUP on Solaris.
120  *
121  *    Fixes BR 1052235, but the same problem may exist on other
122  *    systems. Once 3.0.6 is out we should use sigset()
123  *    where available and see if it breaks anything.
124  *
125  *    Revision 1.104  2006/09/23 13:26:38  roro
126  *    Replace TABs by spaces in source code.
127  *
128  *    Revision 1.103  2006/09/21 12:54:43  fabiankeil
129  *    Fix +redirect{}. Didn't work with -fast-redirects.
130  *
131  *    Revision 1.102  2006/09/06 13:03:04  fabiankeil
132  *    Respond with 400 and a short text message
133  *    if the client tries to use Privoxy as FTP proxy.
134  *
135  *    Revision 1.101  2006/09/06 09:23:37  fabiankeil
136  *    Make number of retries in case of forwarded-connect problems
137  *    a config file option (forwarded-connect-retries) and use 0 as
138  *    default.
139  *
140  *    Revision 1.100  2006/09/03 19:42:59  fabiankeil
141  *    Set random(3) seed.
142  *
143  *    Revision 1.99  2006/09/02 15:36:42  fabiankeil
144  *    Follow the OpenBSD port's lead and protect the resolve
145  *    functions on OpenBSD as well.
146  *
147  *    Revision 1.98  2006/08/24 11:01:34  fabiankeil
148  *    --user fix. Only use the user as group if no group is specified.
149  *    Solves BR 1492612. Thanks to Spinor S. and David Laight.
150  *
151  *    Revision 1.97  2006/08/18 15:23:17  david__schmidt
152  *    Windows service (re-)integration
153  *
154  *    The new args are:
155  *
156  *    --install[:service_name]
157  *    --uninstall[:service_name]
158  *    --service
159  *
160  *    They work as follows:
161  *    --install will create a service for you and then terminate.
162  *    By default the service name will be "privoxy" (without the quotes).
163  *    However you can run multiple services if you wish, just by adding
164  *    a colon and then a name (no spaces).
165  *
166  *    --uninstall follows the exact same rules a --install.
167  *
168  *    --service is used when the program is executed by the service
169  *    control manager, and in normal circumstances would never be
170  *    used as a command line argument.
171  *
172  *    Revision 1.96  2006/08/15 20:12:36  david__schmidt
173  *    Windows service integration
174  *
175  *    Revision 1.95  2006/08/03 02:46:41  david__schmidt
176  *    Incorporate Fabian Keil's patch work:
177 http://www.fabiankeil.de/sourcecode/privoxy/
178  *
179  *    Revision 1.94  2006/07/18 14:48:46  david__schmidt
180  *    Reorganizing the repository: swapping out what was HEAD (the old 3.1 branch)
181  *    with what was really the latest development (the v_3_0_branch branch)
182  *
183  *    Revision 1.92.2.16  2005/04/03 20:10:50  david__schmidt
184  *    Thanks to Jindrich Makovicka for a race condition fix for the log
185  *    file.  The race condition remains for non-pthread implementations.
186  *    Reference patch #1175720.
187  *
188  *    Revision 1.92.2.15  2004/10/03 12:53:32  david__schmidt
189  *    Add the ability to check jpeg images for invalid
190  *    lengths of comment blocks.  Defensive strategy
191  *    against the exploit:
192  *       Microsoft Security Bulletin MS04-028
193  *       Buffer Overrun in JPEG Processing (GDI+) Could
194  *       Allow Code Execution (833987)
195  *    Enabled with +inspect-jpegs in actions files.
196  *
197  *    Revision 1.92.2.14  2003/12/12 12:52:53  oes
198  *    - Fixed usage info for non-unix platforms
199  *    - Fixed small cmdline parsing bug
200  *
201  *    Revision 1.92.2.13  2003/11/27 19:20:27  oes
202  *    Diagnostics: Now preserve the returncode of pthread_create
203  *    in errno. Closes BR #775721. Thanks to Geoffrey Hausheer.
204  *
205  *    Revision 1.92.2.12  2003/07/11 11:34:19  oes
206  *    No longer ignore SIGCHLD. Fixes bug #769381
207  *
208  *    Revision 1.92.2.11  2003/05/14 12:32:02  oes
209  *    Close jarfile on graceful exit, remove stray line
210  *
211  *    Revision 1.92.2.10  2003/05/08 15:13:46  oes
212  *    Cosmetics: Killed a warning, a typo and an allocation left at exit
213  *
214  *    Revision 1.92.2.9  2003/04/03 15:08:42  oes
215  *    No longer rely on non-POSIX.1 extensions of getcwd().
216  *    Fixes bug #711001
217  *
218  *    Revision 1.92.2.8  2003/03/31 13:12:32  oes
219  *    Replaced setenv() by posix-compliant putenv()
220  *    Thanks to Neil McCalden (nmcc AT users.sf.net).
221  *
222  *    Revision 1.92.2.7  2003/03/17 16:48:59  oes
223  *    Added chroot ability, thanks to patch by Sviatoslav Sviridov
224  *
225  *    Revision 1.92.2.6  2003/03/11 11:55:00  oes
226  *    Clean-up and extension of improvements for forked mode:
227  *     - Child's return code now consists of flags RC_FLAG_*
228  *     - Reporting toggle to parent now properly #ifdef'ed
229  *     - Children now report blocking to parent. This enables
230  *       statistics in forked mode
231  *
232  *    Revision 1.92.2.5  2003/03/10 23:45:32  oes
233  *    Fixed bug #700381: Non-Threaded version now capable of being toggled.
234  *    Children now report having been toggled through _exit(17), parents
235  *    watch for that code and toggle themselves if found.
236  *
237  *    Revision 1.92.2.4  2003/03/07 03:41:04  david__schmidt
238  *    Wrapping all *_r functions (the non-_r versions of them) with 
239  *    mutex semaphores for OSX.  Hopefully this will take care of all 
240  *    of those pesky crash reports.
241  *
242  *    Revision 1.92.2.3  2003/02/28 12:53:06  oes
243  *    Fixed two mostly harmless mem leaks
244  *
245  *    Revision 1.92.2.2  2002/11/20 14:37:47  oes
246  *    Fix: Head of global clients list now initialized to NULL
247  *
248  *    Revision 1.92.2.1  2002/09/25 14:52:24  oes
249  *    Added basic support for OPTIONS and TRACE HTTP methods:
250  *     - New interceptor direct_response() added in chat().
251  *     - sed() moved to earlier in the process, so that the
252  *       Host: header is evaluated before actions and forwarding
253  *       are decided on.
254  *
255  *    Revision 1.92  2002/05/08 16:00:46  oes
256  *    Chat's buffer handling:
257  *     - Fixed bug with unchecked out-of-mem conditions
258  *       while reading client request & server headers
259  *     - No longer predict if the buffer limit will be exceeded
260  *       in the next read -- check add_to_iob's new
261  *       return code. If buffer couldn't be extended
262  *       (policy or out-of-mem) while
263  *       - reading from client: abort
264  *       - reading server headers: send error page
265  *       - buffering server body for filter: flush,
266  *         and if that fails: send error page
267  *
268  *    Revision 1.91  2002/04/08 20:35:58  swa
269  *    fixed JB spelling
270  *
271  *    Revision 1.90  2002/04/02 14:57:28  oes
272  *    Made sending wafers independent of FEATURE_COOKIE_JAR
273  *
274  *    Revision 1.89  2002/03/31 17:18:59  jongfoster
275  *    Win32 only: Enabling STRICT to fix a VC++ compile warning.
276  *
277  *    Revision 1.88  2002/03/27 14:32:43  david__schmidt
278  *    More compiler warning message maintenance
279  *
280  *    Revision 1.87  2002/03/26 22:29:54  swa
281  *    we have a new homepage!
282  *
283  *    Revision 1.86  2002/03/25 17:04:55  david__schmidt
284  *    Workaround for closing the jarfile before load_config() comes around again
285  *
286  *    Revision 1.85  2002/03/24 15:23:33  jongfoster
287  *    Name changes
288  *
289  *    Revision 1.84  2002/03/24 13:25:43  swa
290  *    name change related issues
291  *
292  *    Revision 1.83  2002/03/16 23:54:06  jongfoster
293  *    Adding graceful termination feature, to help look for memory leaks.
294  *    If you enable this (which, by design, has to be done by hand
295  *    editing config.h) and then go to http://i.j.b/die, then the program
296  *    will exit cleanly after the *next* request.  It should free all the
297  *    memory that was used.
298  *
299  *    Revision 1.82  2002/03/13 00:27:05  jongfoster
300  *    Killing warnings
301  *
302  *    Revision 1.81  2002/03/12 01:42:50  oes
303  *    Introduced modular filters
304  *
305  *    Revision 1.80  2002/03/11 22:07:05  david__schmidt
306  *    OS/2 port maintenance:
307  *    - Fixed EMX build - it had decayed a little
308  *    - Fixed inexplicable crash during FD_ZERO - must be due to a bad macro.
309  *      substituted a memset for now.
310  *
311  *    Revision 1.79  2002/03/09 20:03:52  jongfoster
312  *    - Making various functions return int rather than size_t.
313  *      (Undoing a recent change).  Since size_t is unsigned on
314  *      Windows, functions like read_socket that return -1 on
315  *      error cannot return a size_t.
316  *
317  *      THIS WAS A MAJOR BUG - it caused frequent, unpredictable
318  *      crashes, and also frequently caused JB to jump to 100%
319  *      CPU and stay there.  (Because it thought it had just
320  *      read ((unsigned)-1) == 4Gb of data...)
321  *
322  *    - The signature of write_socket has changed, it now simply
323  *      returns success=0/failure=nonzero.
324  *
325  *    - Trying to get rid of a few warnings --with-debug on
326  *      Windows, I've introduced a new type "jb_socket".  This is
327  *      used for the socket file descriptors.  On Windows, this
328  *      is SOCKET (a typedef for unsigned).  Everywhere else, it's
329  *      an int.  The error value can't be -1 any more, so it's
330  *      now JB_INVALID_SOCKET (which is -1 on UNIX, and in
331  *      Windows it maps to the #define INVALID_SOCKET.)
332  *
333  *    - The signature of bind_port has changed.
334  *
335  *    Revision 1.78  2002/03/08 21:35:04  oes
336  *    Added optional group supplement to --user option. Will now use default group of user if no group given
337  *
338  *    Revision 1.77  2002/03/07 03:52:06  oes
339  *     - Fixed compiler warnings etc
340  *     - Improved handling of failed DNS lookups
341  *
342  *    Revision 1.76  2002/03/06 22:54:35  jongfoster
343  *    Automated function-comment nitpicking.
344  *
345  *    Revision 1.75  2002/03/06 10:02:19  oes
346  *    Fixed stupid bug when --user was not given
347  *
348  *    Revision 1.74  2002/03/06 00:49:31  jongfoster
349  *    Fixing warning on Windows
350  *    Making #ifdefs that refer to the same variable consistently
351  *    use #ifdef unix rather than mixing #ifdef unix & #ifndef OS2
352  *
353  *    Revision 1.73  2002/03/05 23:57:30  hal9
354  *    Stray character 's' on line 1618 was breaking build.
355  *
356  *    Revision 1.72  2002/03/05 21:33:45  david__schmidt
357  *    - Re-enable OS/2 building after new parms were added
358  *    - Fix false out of memory report when resolving CGI templates when no IP
359  *      address is available of failed attempt (a la no such domain)
360  *
361  *    Revision 1.71  2002/03/05 18:13:56  oes
362  *    Added --user option
363  *
364  *    Revision 1.70  2002/03/05 04:52:42  oes
365  *    Deleted non-errlog debugging code
366  *
367  *    Revision 1.69  2002/03/04 23:50:00  jongfoster
368  *    Splitting off bind_port() call into bind_port_helper(), with
369  *    improved logging.
370  *
371  *    Revision 1.68  2002/03/04 20:17:32  oes
372  *    Fixed usage info
373  *
374  *    Revision 1.67  2002/03/04 18:18:57  oes
375  *    - Removed _DEBUG mode
376  *    - Cleand up cmdline parsing
377  *    - Introduced --no-daemon, --pidfile options
378  *    - Cleaned up signal handling:
379  *      - Terminate cleanly on INT, TERM and ABRT
380  *      - Schedule logfile for re-opening on HUP
381  *      - Ignore CHLD and PIPE
382  *      - Leave the rest with their default handlers
383  *      - Uniform handler registration
384  *    - Added usage() function
385  *    - Played styleguide police
386  *
387  *    Revision 1.66  2002/03/03 15:06:55  oes
388  *    Re-enabled automatic config reloading
389  *
390  *    Revision 1.65  2002/03/03 14:49:11  oes
391  *    Fixed CLF logging: Now uses client's original HTTP request
392  *
393  *    Revision 1.64  2002/03/03 09:18:03  joergs
394  *    Made jumbjuster work on AmigaOS again.
395  *
396  *    Revision 1.63  2002/03/02 04:14:50  david__schmidt
397  *    Clean up a little CRLF unpleasantness that suddenly appeared
398  *
399  *    Revision 1.62  2002/02/20 23:17:23  jongfoster
400  *    Detecting some out-of memory conditions and exiting with a log message.
401  *
402  *    Revision 1.61  2002/01/17 21:01:52  jongfoster
403  *    Moving all our URL and URL pattern parsing code to urlmatch.c.
404  *
405  *    Revision 1.60  2001/12/30 14:07:32  steudten
406  *    - Add signal handling (unix)
407  *    - Add SIGHUP handler (unix)
408  *    - Add creation of pidfile (unix)
409  *    - Add action 'top' in rc file (RH)
410  *    - Add entry 'SIGNALS' to manpage
411  *    - Add exit message to logfile (unix)
412  *
413  *    Revision 1.59  2001/12/13 14:07:18  oes
414  *    Fixed Bug: 503 error page now sent OK
415  *
416  *    Revision 1.58  2001/11/30 23:37:24  jongfoster
417  *    Renaming the Win32 config file to config.txt - this is almost the
418  *    same as the corresponding UNIX name "config"
419  *
420  *    Revision 1.57  2001/11/16 00:47:43  jongfoster
421  *    Changing the tty-disconnection code to use setsid().
422  *
423  *    Revision 1.56  2001/11/13 20:20:54  jongfoster
424  *    Tabs->spaces, fixing a bug with missing {} around an if()
425  *
426  *    Revision 1.55  2001/11/13 20:14:53  jongfoster
427  *    Patch for FreeBSD setpgrp() as suggested by Alexander Lazic
428  *
429  *    Revision 1.54  2001/11/07 00:03:14  steudten
430  *    Give reliable return value if an error
431  *    occurs not just 0 with new daemon mode.
432  *
433  *    Revision 1.53  2001/11/05 21:41:43  steudten
434  *    Add changes to be a real daemon just for unix os.
435  *    (change cwd to /, detach from controlling tty, set
436  *    process group and session leader to the own process.
437  *    Add DBG() Macro.
438  *    Add some fatal-error log message for failed malloc().
439  *    Add '-d' if compiled with 'configure --with-debug' to
440  *    enable debug output.
441  *
442  *    Revision 1.52  2001/10/26 20:11:20  jongfoster
443  *    Fixing type mismatch
444  *
445  *    Revision 1.51  2001/10/26 17:38:28  oes
446  *    Cosmetics
447  *
448  *    Revision 1.50  2001/10/25 03:40:48  david__schmidt
449  *    Change in porting tactics: OS/2's EMX porting layer doesn't allow multiple
450  *    threads to call select() simultaneously.  So, it's time to do a real, live,
451  *    native OS/2 port.  See defines for __EMX__ (the porting layer) vs. __OS2__
452  *    (native). Both versions will work, but using __OS2__ offers multi-threading.
453  *
454  *    Revision 1.49  2001/10/23 21:41:35  jongfoster
455  *    Added call to initialize the (statically-allocated of course)
456  *    "out of memory" CGI response.
457  *
458  *    Revision 1.48  2001/10/10 19:56:46  jongfoster
459  *    Moving some code that wasn't cookie-related out of an #ifdef
460  *    FEATURE_COOKIE_JAR
461  *
462  *    Revision 1.47  2001/10/10 16:44:36  oes
463  *    Added CONNECT destination port limitation check
464  *
465  *    Revision 1.46  2001/10/08 15:17:41  oes
466  *    Re-enabled SSL forwarding
467  *
468  *    Revision 1.45  2001/10/07 15:42:11  oes
469  *    Replaced 6 boolean members of csp with one bitmap (csp->flags)
470  *
471  *    Moved downgrading of the HTTP version from parse_http_request to
472  *      chat(), since we can't decide if it is necessary before we have
473  *      determined the actions for the URL. The HTTP command is now
474  *      *always* re-built so the repairs need no longer be special-cased.
475  *
476  *    filter_popups now gets a csp pointer so it can raise the new
477  *      CSP_FLAG_MODIFIED flag.
478  *
479  *    Bugfix
480  *
481  *    Added configurable size limit for the IOB. If the IOB grows so
482  *      large that the next read would exceed the limit, the header
483  *      is generated, and the header & unfiltered buffer are flushed
484  *      to the client. Chat then continues in non-buffering,
485  *      non-filtering body mode.
486  *
487  *    Revision 1.44  2001/10/02 18:13:57  oes
488  *    Ooops
489  *
490  *    Revision 1.43  2001/10/02 15:32:13  oes
491  *    Moved generation of hdr
492  *
493  *    Revision 1.42  2001/09/21 23:02:02  david__schmidt
494  *    Cleaning up 2 compiler warnings on OS/2.
495  *
496  *    Revision 1.41  2001/09/16 17:05:14  jongfoster
497  *    Removing unused #include showarg.h
498  *
499  *    Revision 1.40  2001/09/16 15:41:45  jongfoster
500  *    Fixing signed/unsigned comparison warning.
501  *
502  *    Revision 1.39  2001/09/16 13:21:27  jongfoster
503  *    Changes to use new list functions.
504  *
505  *    Revision 1.38  2001/09/16 13:01:46  jongfoster
506  *    Removing redundant function call that zeroed zalloc()'d memory.
507  *
508  *    Revision 1.37  2001/09/10 11:12:24  oes
509  *    Deleted unused variable
510  *
511  *    Revision 1.36  2001/09/10 10:56:15  oes
512  *    Silenced compiler warnings
513  *
514  *    Revision 1.35  2001/07/31 14:44:22  oes
515  *    Deleted unused size parameter from filter_popups()
516  *
517  *    Revision 1.34  2001/07/30 22:08:36  jongfoster
518  *    Tidying up #defines:
519  *    - All feature #defines are now of the form FEATURE_xxx
520  *    - Permanently turned off WIN_GUI_EDIT
521  *    - Permanently turned on WEBDAV and SPLIT_PROXY_ARGS
522  *
523  *    Revision 1.33  2001/07/29 19:32:00  jongfoster
524  *    Renaming _main() [mingw32 only] to real_main(), for ANSI compliance.
525  *
526  *    Revision 1.32  2001/07/29 18:47:05  jongfoster
527  *    Adding missing #include "loadcfg.h"
528  *
529  *    Revision 1.31  2001/07/29 12:17:48  oes
530  *    Applied pthread fix by Paul Lieverse
531  *
532  *    Revision 1.30  2001/07/25 22:57:13  jongfoster
533  *    __BEOS__ no longer overrides FEATURE_PTHREAD.
534  *    This is because FEATURE_PTHREAD will soon be widely used, so I
535  *    want to keep it simple.
536  *
537  *    Revision 1.29  2001/07/24 12:47:06  oes
538  *    Applied BeOS support update by Eugenia
539  *
540  *    Revision 1.28  2001/07/23 13:26:12  oes
541  *    Fixed bug in popup-killing for the first read that caused binary garbage to be sent between headers and body
542  *
543  *    Revision 1.27  2001/07/19 19:09:47  haroon
544  *    - Added code to take care of the situation where while processing the first
545  *      server response (which includes the server header), after finding the end
546  *      of the headers we were not looking past the end of the headers for
547  *      content modification. I enabled it for filter_popups.
548  *      Someone else should look to see if other similar operations should be
549  *      done to the discarded portion of the buffer.
550  *
551  *      Note 2001/07/20: No, the other content modification mechanisms will process
552  *                       the whole iob later anyway. --oes
553  *
554  *    Revision 1.26  2001/07/18 12:31:36  oes
555  *    cosmetics
556  *
557  *    Revision 1.25  2001/07/15 19:43:49  jongfoster
558  *    Supports POSIX threads.
559  *    Also removed some unused #includes.
560  *
561  *    Revision 1.24  2001/07/13 14:00:40  oes
562  *     - Generic content modification scheme:
563  *       Each feature has its own applicability flag that is set
564  *       from csp->action->flags.
565  *       Replaced the "filtering" int flag , by a function pointer
566  *       "content_filter" to the function that will do the content
567  *       modification. If it is != NULL, the document will be buffered
568  *       and processed through *content_filter, which must set
569  *       csp->content_length and return a modified copy of the body
570  *       or return NULL (on failiure).
571  *     - Changed csp->is_text to the more generic bitmap csp->content_type
572  *       which can currently take the valued CT_TEXT or CT_GIF
573  *     - Reformatting etc
574  *     - Removed all #ifdef PCRS
575  *
576  *    Revision 1.23  2001/07/02 02:28:25  iwanttokeepanon
577  *    Added "#ifdef ACL_FILES" conditional compilation to line 1291 to exclude
578  *    the `block_acl' call.  This prevents a compilation error when the user
579  *    does not wish to use the "ACL" feature.
580  *
581  *    Revision 1.22  2001/06/29 21:45:41  oes
582  *    Indentation, CRLF->LF, Tab-> Space
583  *
584  *    Revision 1.21  2001/06/29 13:29:36  oes
585  *    - Cleaned up, improved comments
586  *    - Unified all possible interceptors (CGI,
587  *      block, trust, fast_redirect) in one
588  *      place, with one (CGI) answer generation
589  *      mechansim. Much clearer now.
590  *    - Removed the GIF image generation, which
591  *      is now done in filters.c:block_url()
592  *    - Made error conditions like domain lookup
593  *      failiure or (various) problems while talking
594  *      to the server use cgi.c:error_response()
595  *      instead of generating HTML/HTTP in chat() (yuck!)
596  *    - Removed logentry from cancelled commit
597  *
598  *    Revision 1.20  2001/06/09 10:55:28  jongfoster
599  *    Changing BUFSIZ ==> BUFFER_SIZE
600  *
601  *    Revision 1.19  2001/06/07 23:12:52  jongfoster
602  *    Replacing function pointer in struct gateway with a directly
603  *    called function forwarded_connect().
604  *    Replacing struct gateway with struct forward_spec
605  *
606  *    Revision 1.18  2001/06/03 19:12:16  oes
607  *    introduced new cgi handling
608  *
609  *    Revision 1.17  2001/06/01 20:07:23  jongfoster
610  *    Now uses action +image-blocker{} rather than config->tinygif
611  *
612  *    Revision 1.16  2001/06/01 18:49:17  jongfoster
613  *    Replaced "list_share" with "list" - the tiny memory gain was not
614  *    worth the extra complexity.
615  *
616  *    Revision 1.15  2001/05/31 21:24:47  jongfoster
617  *    Changed "permission" to "action" throughout.
618  *    Removed DEFAULT_USER_AGENT - it must now be specified manually.
619  *    Moved vanilla wafer check into chat(), since we must now
620  *    decide whether or not to add it based on the URL.
621  *
622  *    Revision 1.14  2001/05/29 20:14:01  joergs
623  *    AmigaOS bugfix: PCRS needs a lot of stack, stacksize for child threads
624  *    increased.
625  *
626  *    Revision 1.13  2001/05/29 09:50:24  jongfoster
627  *    Unified blocklist/imagelist/permissionslist.
628  *    File format is still under discussion, but the internal changes
629  *    are (mostly) done.
630  *
631  *    Also modified interceptor behaviour:
632  *    - We now intercept all URLs beginning with one of the following
633  *      prefixes (and *only* these prefixes):
634  *        * http://i.j.b/
635  *        * http://ijbswa.sf.net/config/
636  *        * http://ijbswa.sourceforge.net/config/
637  *    - New interceptors "home page" - go to http://i.j.b/ to see it.
638  *    - Internal changes so that intercepted and fast redirect pages
639  *      are not replaced with an image.
640  *    - Interceptors now have the option to send a binary page direct
641  *      to the client. (i.e. ijb-send-banner uses this)
642  *    - Implemented show-url-info interceptor.  (Which is why I needed
643  *      the above interceptors changes - a typical URL is
644  *      "http://i.j.b/show-url-info?url=www.somesite.com/banner.gif".
645  *      The previous mechanism would not have intercepted that, and
646  *      if it had been intercepted then it then it would have replaced
647  *      it with an image.)
648  *
649  *    Revision 1.12  2001/05/27 22:17:04  oes
650  *
651  *    - re_process_buffer no longer writes the modified buffer
652  *      to the client, which was very ugly. It now returns the
653  *      buffer, which it is then written by chat.
654  *
655  *    - content_length now adjusts the Content-Length: header
656  *      for modified documents rather than crunch()ing it.
657  *      (Length info in csp->content_length, which is 0 for
658  *      unmodified documents)
659  *
660  *    - For this to work, sed() is called twice when filtering.
661  *
662  *    Revision 1.11  2001/05/26 17:27:53  jongfoster
663  *    Added support for CLF and fixed LOG_LEVEL_LOG.
664  *    Also did CRLF->LF fix of my previous patch.
665  *
666  *    Revision 1.10  2001/05/26 15:26:15  jongfoster
667  *    ACL feature now provides more security by immediately dropping
668  *    connections from untrusted hosts.
669  *
670  *    Revision 1.9  2001/05/26 00:28:36  jongfoster
671  *    Automatic reloading of config file.
672  *    Removed obsolete SIGHUP support (Unix) and Reload menu option (Win32).
673  *    Most of the global variables have been moved to a new
674  *    struct configuration_spec, accessed through csp->config->globalname
675  *    Most of the globals remaining are used by the Win32 GUI.
676  *
677  *    Revision 1.8  2001/05/25 22:43:18  jongfoster
678  *    Fixing minor memory leak and buffer overflow.
679  *
680  *    Revision 1.7  2001/05/25 22:34:30  jongfoster
681  *    Hard tabs->Spaces
682  *
683  *    Revision 1.6  2001/05/23 00:13:58  joergs
684  *    AmigaOS support fixed.
685  *
686  *    Revision 1.5  2001/05/22 18:46:04  oes
687  *
688  *    - Enabled filtering banners by size rather than URL
689  *      by adding patterns that replace all standard banner
690  *      sizes with the "Junkbuster" gif to the re_filterfile
691  *
692  *    - Enabled filtering WebBugs by providing a pattern
693  *      which kills all 1x1 images
694  *
695  *    - Added support for PCRE_UNGREEDY behaviour to pcrs,
696  *      which is selected by the (nonstandard and therefore
697  *      capital) letter 'U' in the option string.
698  *      It causes the quantifiers to be ungreedy by default.
699  *      Appending a ? turns back to greedy (!).
700  *
701  *    - Added a new interceptor ijb-send-banner, which
702  *      sends back the "Junkbuster" gif. Without imagelist or
703  *      MSIE detection support, or if tinygif = 1, or the
704  *      URL isn't recognized as an imageurl, a lame HTML
705  *      explanation is sent instead.
706  *
707  *    - Added new feature, which permits blocking remote
708  *      script redirects and firing back a local redirect
709  *      to the browser.
710  *      The feature is conditionally compiled, i.e. it
711  *      can be disabled with --disable-fast-redirects,
712  *      plus it must be activated by a "fast-redirects"
713  *      line in the config file, has its own log level
714  *      and of course wants to be displayed by show-proxy-args
715  *      Note: Boy, all the #ifdefs in 1001 locations and
716  *      all the fumbling with configure.in and acconfig.h
717  *      were *way* more work than the feature itself :-(
718  *
719  *    - Because a generic redirect template was needed for
720  *      this, tinygif = 3 now uses the same.
721  *
722  *    - Moved GIFs, and other static HTTP response templates
723  *      to project.h
724  *
725  *    - Some minor fixes
726  *
727  *    - Removed some >400 CRs again (Jon, you really worked
728  *      a lot! ;-)
729  *
730  *    Revision 1.4  2001/05/21 19:34:01  jongfoster
731  *    Made failure to bind() a fatal error.
732  *
733  *    Revision 1.3  2001/05/20 01:21:20  jongfoster
734  *    Version 2.9.4 checkin.
735  *    - Merged popupfile and cookiefile, and added control over PCRS
736  *      filtering, in new "permissionsfile".
737  *    - Implemented LOG_LEVEL_FATAL, so that if there is a configuration
738  *      file error you now get a message box (in the Win32 GUI) rather
739  *      than the program exiting with no explanation.
740  *    - Made killpopup use the PCRS MIME-type checking and HTTP-header
741  *      skipping.
742  *    - Removed tabs from "config"
743  *    - Moved duplicated url parsing code in "loaders.c" to a new funcition.
744  *    - Bumped up version number.
745  *
746  *    Revision 1.2  2001/05/17 22:34:44  oes
747  *     - Added hint on GIF char array generation to jcc.c
748  *     - Cleaned CRLF's from the sources and related files
749  *     - Repaired logging for REF and FRC
750  *
751  *    Revision 1.1.1.1  2001/05/15 13:58:56  oes
752  *    Initial import of version 2.9.3 source tree
753  *
754  *
755  *********************************************************************/
756 \f
757
758 #include "config.h"
759
760 #include <stdio.h>
761 #include <sys/types.h>
762 #include <stdlib.h>
763 #include <string.h>
764 #include <signal.h>
765 #include <fcntl.h>
766 #include <errno.h>
767 #include <assert.h>
768
769 #ifdef _WIN32
770 # ifndef FEATURE_PTHREAD
771 #  ifndef STRICT
772 #   define STRICT
773 #  endif
774 #  include <windows.h>
775 #  include <process.h>
776 # endif /* ndef FEATURE_PTHREAD */
777
778 # include "win32.h"
779 # ifndef _WIN_CONSOLE
780 #  include "w32log.h"
781 # endif /* ndef _WIN_CONSOLE */
782 # include "w32svrapi.h"
783
784 #else /* ifndef _WIN32 */
785
786 # if !defined (__OS2__)
787 # include <unistd.h>
788 # include <sys/wait.h>
789 # endif /* ndef __OS2__ */
790 # include <sys/time.h>
791 # include <sys/stat.h>
792 # include <sys/ioctl.h>
793
794 #ifdef sun
795 #include <sys/termios.h>
796 #endif /* sun */
797
798 #ifdef unix
799 #include <pwd.h>
800 #include <grp.h>
801 #endif
802
803 # include <signal.h>
804
805 # ifdef __BEOS__
806 #  include <socket.h>  /* BeOS has select() for sockets only. */
807 #  include <OS.h>      /* declarations for threads and stuff. */
808 # endif
809
810 # if defined(__EMX__) || defined(__OS2__)
811 #  include <sys/select.h>  /* OS/2/EMX needs a little help with select */
812 # endif
813 # ifdef __OS2__
814 #define INCL_DOS
815 # include <os2.h>
816 #define bzero(B,N) memset(B,0x00,n)
817 # endif
818
819 # ifndef FD_ZERO
820 #  include <select.h>
821 # endif
822
823 #endif
824
825 #include "project.h"
826 #include "list.h"
827 #include "jcc.h"
828 #include "filters.h"
829 #include "loaders.h"
830 #include "parsers.h"
831 #include "killpopup.h"
832 #include "miscutil.h"
833 #include "errlog.h"
834 #include "jbsockets.h"
835 #include "gateway.h"
836 #include "actions.h"
837 #include "cgi.h"
838 #include "loadcfg.h"
839 #include "urlmatch.h"
840
841 const char jcc_h_rcs[] = JCC_H_VERSION;
842 const char project_h_rcs[] = PROJECT_H_VERSION;
843
844 int no_daemon = 0;
845 struct client_state  clients[1];
846 struct file_list     files[1];
847
848 #ifdef FEATURE_STATISTICS
849 int urls_read     = 0;     /* total nr of urls read inc rejected */
850 int urls_rejected = 0;     /* total nr of urls rejected */
851 #endif /* def FEATURE_STATISTICS */
852
853 #ifdef FEATURE_GRACEFUL_TERMINATION
854 int g_terminate = 0;
855 #endif
856
857 static void listen_loop(void);
858 static void chat(struct client_state *csp);
859 #ifdef AMIGA
860 void serve(struct client_state *csp);
861 #else /* ifndef AMIGA */
862 static void serve(struct client_state *csp);
863 #endif /* def AMIGA */
864
865 #ifdef __BEOS__
866 static int32 server_thread(void *data);
867 #endif /* def __BEOS__ */
868
869 #ifdef _WIN32
870 #define sleep(N)  Sleep(((N) * 1000))
871 #endif
872
873 #ifdef __OS2__
874 #define sleep(N)  DosSleep(((N) * 100))
875 #endif
876
877 #ifdef FEATURE_PTHREAD
878 pthread_mutex_t log_mutex;
879 pthread_mutex_t log_init_mutex;
880
881 #ifndef HAVE_GMTIME_R
882 pthread_mutex_t gmtime_mutex;
883 #endif /* ndef HAVE_GMTIME_R */
884
885 #ifndef HAVE_LOCALTIME_R
886 pthread_mutex_t localtime_mutex;
887 #endif /* ndef HAVE_GMTIME_R */
888
889 #ifndef HAVE_GETHOSTBYADDR_R
890 pthread_mutex_t gethostbyaddr_mutex;
891 #endif /* ndef HAVE_GETHOSTBYADDR_R */
892
893 #ifndef HAVE_GETHOSTBYNAME_R
894 pthread_mutex_t gethostbyname_mutex;
895 #endif /* ndef HAVE_GETHOSTBYNAME_R */
896
897 #ifndef HAVE_RANDOM
898 pthread_mutex_t rand_mutex;
899 #endif /* ndef HAVE_RANDOM */
900
901 #endif /* FEATURE_PTHREAD */
902
903 #if defined(unix) || defined(__EMX__)
904 const char *basedir = NULL;
905 const char *pidfile = NULL;
906 int received_hup_signal = 0;
907 #endif /* defined unix */
908
909 /* The vanilla wafer. */
910 static const char VANILLA_WAFER[] =
911    "NOTICE=TO_WHOM_IT_MAY_CONCERN_"
912    "Do_not_send_me_any_copyrighted_information_other_than_the_"
913    "document_that_I_am_requesting_or_any_of_its_necessary_components._"
914    "In_particular_do_not_send_me_any_cookies_that_"
915    "are_subject_to_a_claim_of_copyright_by_anybody._"
916    "Take_notice_that_I_refuse_to_be_bound_by_any_license_condition_"
917    "(copyright_or_otherwise)_applying_to_any_cookie._";
918
919 /* HTTP snipplets. */
920 const char CSUCCEED[] =
921    "HTTP/1.0 200 Connection established\n"
922    "Proxy-Agent: Privoxy/" VERSION "\r\n\r\n";
923
924 const char CHEADER[] =
925    "HTTP/1.0 400 Invalid header received from browser\r\n"
926    "Connection: close\r\n\r\n"
927    "Invalid header received from browser.\r\n";
928
929 const char CFORBIDDEN[] =
930    "HTTP/1.0 403 Connection not allowable\r\n"
931    "Proxy-Agent: Privoxy " VERSION "\r\n"
932    "X-Hint: If you read this message interactively, then you know why this happens ,-)\r\n"
933    "Connection: close\r\n\r\n";
934
935 const char FTP_RESPONSE[] =
936    "HTTP/1.0 400 Invalid request received from browser\r\n"
937    "Connection: close\r\n\r\n"
938    "Invalid request. Privoxy doesn't support FTP.\r\n";
939
940 const char GOPHER_RESPONSE[] =
941    "HTTP/1.0 400 Invalid request received from browser\r\n"
942    "Connection: close\r\n\r\n"
943    "Invalid request. Privoxy doesn't support gopher.\r\n";
944
945 /* XXX: should be a template */
946 const char MISSING_DESTINATION_RESPONSE[] =
947    "HTTP/1.0 400 Bad request received from browser\r\n"
948    "Proxy-Agent: Privoxy " VERSION "\r\n"
949    "Connection: close\r\n\r\n"
950    "Bad request. Privoxy was unable to extract the destination.\r\n";
951
952 /* XXX: should be a template */
953 const char NO_SERVER_DATA_RESPONSE[] =
954    "HTTP/1.0 502 Server or forwarder response empty\r\n"
955    "Proxy-Agent: Privoxy " VERSION "\r\n"
956    "Connection: close\r\n\r\n"
957    "Empty server or forwarder response.\r\n"
958    "The connection was closed without sending any data.\r\n";
959
960 #if !defined(_WIN32) && !defined(__OS2__) && !defined(AMIGA)
961 /*********************************************************************
962  *
963  * Function    :  sig_handler 
964  *
965  * Description :  Signal handler for different signals.
966  *                Exit gracefully on TERM and INT
967  *                or set a flag that will cause the errlog
968  *                to be reopened by the main thread on HUP.
969  *
970  * Parameters  :
971  *          1  :  the_signal = the signal cause this function to call
972  *
973  * Returns     :  - 
974  *
975  *********************************************************************/
976 static void sig_handler(int the_signal)
977 {
978    switch(the_signal)
979    {
980       case SIGTERM:
981       case SIGINT:
982          log_error(LOG_LEVEL_INFO, "exiting by signal %d .. bye", the_signal);
983 #if defined(unix)
984          if(pidfile)
985          {
986             unlink(pidfile);
987          }
988 #endif /* unix */
989          exit(the_signal);
990          break;
991
992       case SIGHUP:
993          received_hup_signal = 1;
994          break;         
995
996       default:
997          /* 
998           * We shouldn't be here, unless we catch signals
999           * in main() that we can't handle here!
1000           */
1001          log_error(LOG_LEVEL_FATAL, "sig_handler: exiting on unexpected signal %d", the_signal);
1002    }
1003    return;
1004
1005 }
1006 #endif
1007
1008
1009 /*********************************************************************
1010  *
1011  * Function    :  client_protocol_is_unsupported
1012  *
1013  * Description :  Checks if the client used a known unsupported
1014  *                protocol and deals with it by sending an error
1015  *                response.
1016  *
1017  * Parameters  :
1018  *          1  :  csp = Current client state (buffers, headers, etc...)
1019  *          2  :  req = the first request line send by the client
1020  *
1021  * Returns     :  TRUE if an error response has been generated, or
1022  *                FALSE if the request doesn't look invalid.
1023  *
1024  *********************************************************************/
1025 int client_protocol_is_unsupported(const struct client_state *csp, char *req)
1026 {
1027    char buf[BUFFER_SIZE];
1028
1029    /*
1030     * If it's a FTP or gopher request, we don't support it.
1031     *
1032     * These checks are better than nothing, but they might
1033     * not work in all configurations and some clients might
1034     * have problems digesting the answer.
1035     *
1036     * They should, however, never cause more problems than
1037     * Privoxy's old behaviour (returning the misleading HTML
1038     * error message:
1039     *
1040     * "Could not resolve http://(ftp|gopher)://example.org").
1041     */
1042    if (!strncmpic(req, "GET ftp://", 10) || !strncmpic(req, "GET gopher://", 13))
1043    {
1044       if (!strncmpic(req, "GET ftp://", 10))
1045       {
1046          strcpy(buf, FTP_RESPONSE);
1047          log_error(LOG_LEVEL_ERROR, "%s tried to use Privoxy as FTP proxy: %s",
1048             csp->ip_addr_str, req);
1049       }
1050       else
1051       {
1052          strcpy(buf, GOPHER_RESPONSE);
1053          log_error(LOG_LEVEL_ERROR, "%s tried to use Privoxy as gopher proxy: %s",
1054             csp->ip_addr_str, req);
1055       }
1056       log_error(LOG_LEVEL_CLF, "%s - - [%T] \"%s\" 400 0", csp->ip_addr_str, req);
1057       freez(req);
1058       write_socket(csp->cfd, buf, strlen(buf));
1059
1060       return TRUE;
1061    }
1062
1063    return FALSE;
1064 }
1065
1066
1067 /*********************************************************************
1068  *
1069  * Function    :  get_request_destination_elsewhere
1070  *
1071  * Description :  If the client's request was redirected into
1072  *                Privoxy without the client's knowledge,
1073  *                the request line lacks the destination host.
1074  *
1075  *                This function tries to get it elsewhere,
1076  *                provided accept-intercepted-requests is enabled.
1077  *
1078  *                "Elsewhere" currently only means "Host: header",
1079  *                but in the future we may ask the redirecting
1080  *                packet filter to look the destination up.
1081  *
1082  *                If the destination stays unknown, an error
1083  *                response is send to the client and headers
1084  *                are freed so that chat() can return directly.
1085  *
1086  * Parameters  :
1087  *          1  :  csp = Current client state (buffers, headers, etc...)
1088  *          2  :  headers = a header list
1089  *
1090  * Returns     :  JB_ERR_OK if the destination is now known, or
1091  *                JB_ERR_PARSE if it isn't.
1092  *
1093  *********************************************************************/
1094 jb_err get_request_destination_elsewhere(struct client_state *csp, struct list *headers)
1095 {
1096    char buf[BUFFER_SIZE];
1097    char *req;
1098
1099    if (!(csp->config->feature_flags & RUNTIME_FEATURE_ACCEPT_INTERCEPTED_REQUESTS))
1100    {
1101       log_error(LOG_LEVEL_ERROR, "%s's request: \'%s\' is invalid."
1102          " Privoxy isn't configured to accept intercepted requests.",
1103          csp->ip_addr_str, csp->http->cmd);
1104       /* XXX: Use correct size */
1105       log_error(LOG_LEVEL_CLF, "%s - - [%T] \"%s\" 400 0",
1106          csp->ip_addr_str, csp->http->cmd);
1107
1108       strcpy(buf, CHEADER);
1109       write_socket(csp->cfd, buf, strlen(buf));
1110       destroy_list(headers);
1111
1112       return JB_ERR_PARSE;
1113    }
1114    else if (JB_ERR_OK == get_destination_from_headers(headers, csp->http))
1115    {
1116       /* Split the domain we just got for pattern matching */
1117       init_domain_components(csp->http);
1118
1119       return JB_ERR_OK;
1120    }
1121    else
1122    {
1123       /* We can't work without destination. Go spread the news.*/
1124
1125       req = list_to_text(headers);
1126       chomp(req);
1127       /* XXX: Use correct size */
1128       log_error(LOG_LEVEL_CLF, "%s - - [%T] \"%s\" 400 0",
1129          csp->ip_addr_str, csp->http->cmd);
1130       log_error(LOG_LEVEL_ERROR,
1131          "Privoxy was unable to get the destination for %s's request:\n%s\n%s",
1132          csp->ip_addr_str, csp->http->cmd, req);
1133       freez(req);
1134
1135       strcpy(buf, MISSING_DESTINATION_RESPONSE);
1136       write_socket(csp->cfd, buf, strlen(buf));
1137       destroy_list(headers);
1138
1139       return JB_ERR_PARSE;
1140    }
1141    /*
1142     * TODO: If available, use PF's ioctl DIOCNATLOOK as last resort
1143     * to get the destination IP address, use it as host directly
1144     * or do a reverse DNS lookup first.
1145     */
1146 }
1147
1148
1149 /*********************************************************************
1150  *
1151  * Function    :  get_server_headers
1152  *
1153  * Description :  Parses server headers in iob and fills them
1154  *                into csp->headers so that they can later be
1155  *                handled by sed().
1156  *
1157  * Parameters  :
1158  *          1  :  csp = Current client state (buffers, headers, etc...)
1159  *
1160  * Returns     :  JB_ERR_OK if everything went fine, or
1161  *                JB_ERR_PARSE if the headers were incomplete.
1162  *
1163  *********************************************************************/
1164 jb_err get_server_headers(struct client_state *csp)
1165 {
1166    int continue_hack_in_da_house = 0;
1167    char * header;
1168
1169    while (((header = get_header(csp)) != NULL) || continue_hack_in_da_house)
1170    {
1171       if (header == NULL)
1172       {
1173          /*
1174           * continue hack in da house. Ignore the ending of
1175           * this head and continue enlisting header lines.
1176           * The reason is described below.
1177           */
1178          enlist(csp->headers, "");
1179          continue_hack_in_da_house = 0;
1180          continue;
1181       }
1182       else if (0 == strncmpic(header, "HTTP/1.1 100", 12))
1183       {
1184          /*
1185           * It's a bodyless continue response, don't
1186           * stop header parsing after reaching it's end.
1187           *
1188           * As a result Privoxy will concatenate the
1189           * next response's head and parse and deliver
1190           * the headers as if they belonged to one request.
1191           *
1192           * The client will separate them because of the
1193           * empty line between them.
1194           *
1195           * XXX: What we're doing here is clearly against
1196           * the intended purpose of the continue header,
1197           * and under some conditions (HTTP/1.0 client request)
1198           * it's a standard violation.
1199           *
1200           * Anyway, "sort of against the spec" is preferable
1201           * to "always getting confused by Continue responses"
1202           * (Privoxy's behaviour before this hack was added)
1203           */
1204          log_error(LOG_LEVEL_HEADER, "Continue hack in da house.");
1205          continue_hack_in_da_house = 1;
1206       }
1207       else if (*header == '\0') 
1208       {
1209          /*
1210           * If the header is empty, but the Continue hack
1211           * isn't active, we can assume that we reached the
1212           * end of the buffer before we hit the end of the
1213           * head.
1214           *
1215           * Inform the caller an let it decide how to handle it.
1216           */
1217          return JB_ERR_PARSE;
1218       }
1219
1220       /* Enlist header */
1221       if (JB_ERR_MEMORY == enlist(csp->headers, header))
1222       {
1223          /*
1224           * XXX: Should we quit the request and return a
1225           * out of memory error page instead?
1226           */
1227          log_error(LOG_LEVEL_ERROR,
1228             "Out of memory while enlisting server headers. %s lost.",
1229             header);
1230       }
1231       freez(header);
1232    }
1233
1234    return JB_ERR_OK;
1235 }
1236
1237
1238 /*********************************************************************
1239  *
1240  * Function    :  crunch_reason
1241  *
1242  * Description :  Translates the crunch reason code into a string.
1243  *
1244  * Parameters  :
1245  *          1  :  rsp = a http_response
1246  *
1247  * Returns     :  A string with the crunch reason or an error description.
1248  *
1249  *********************************************************************/
1250 const char *crunch_reason(const struct http_response *rsp)
1251 {
1252    char * reason = NULL;
1253
1254    assert(rsp != NULL);
1255    if (rsp == NULL)
1256    {
1257       return "Internal error while searching for crunch reason";
1258    }
1259
1260    switch (rsp->reason)
1261    {
1262       case RSP_REASON_UNSUPPORTED:
1263          reason = "Unsupported HTTP feature";
1264          break;
1265       case RSP_REASON_BLOCKED:
1266          reason = "Blocked";
1267          break;
1268       case RSP_REASON_UNTRUSTED:
1269          reason = "Untrusted";
1270          break;
1271       case RSP_REASON_REDIRECTED:
1272          reason = "Redirected";
1273          break;
1274       case RSP_REASON_CGI_CALL:
1275          reason = "CGI Call";
1276          break;
1277       case RSP_REASON_NO_SUCH_DOMAIN:
1278          reason = "DNS failure";
1279          break;
1280       case RSP_REASON_FORWARDING_FAILED:
1281          reason = "Forwarding failed";
1282          break;
1283       case RSP_REASON_CONNECT_FAILED:
1284          reason = "Connection failure";
1285          break;
1286       case RSP_REASON_OUT_OF_MEMORY:
1287          reason = "Out of memory (may mask other reasons)";
1288          break;
1289       default:
1290          reason = "No reason recorded";
1291          break;
1292    }
1293
1294    return reason;
1295 }
1296
1297
1298 /*********************************************************************
1299  *
1300  * Function    :  send_crunch_response
1301  *
1302  * Description :  Delivers already prepared response for
1303  *                intercepted requests, logs the interception
1304  *                and frees the response.
1305  *
1306  * Parameters  :
1307  *          1  :  csp = Current client state (buffers, headers, etc...)
1308  *          1  :  rsp = Fully prepared response. Will be freed on exit.
1309  *
1310  * Returns     :  Nothing.
1311  *
1312  *********************************************************************/
1313 void send_crunch_response(struct client_state *csp, struct http_response *rsp)
1314 {
1315       const struct http_request *http = csp->http;
1316       char status_code[4];
1317
1318       assert(rsp != NULL);
1319       assert(rsp->head != NULL);
1320
1321       if (rsp == NULL)
1322       {
1323          /*
1324           * Not supposed to happen. If it does
1325           * anyway, treat it as an unknown error.
1326           */
1327          cgi_error_unknown(csp, rsp, RSP_REASON_INTERNAL_ERROR);
1328          /* return code doesn't matter */
1329       }
1330
1331       if (rsp == NULL)
1332       {
1333          /* If rsp is still NULL, we have serious internal problems. */
1334          log_error(LOG_LEVEL_FATAL,
1335             "NULL response in send_crunch_response and cgi_error_unknown failed as well.");
1336       }
1337
1338       /*
1339        * Extract the status code from the actual head
1340        * that was send to the client. It is the only
1341        * way to get it right for all requests, including
1342        * the fixed ones for out-of-memory problems.
1343        *
1344        * A head starts like this: 'HTTP/1.1 200...'
1345        *                           0123456789|11
1346        *                                     10
1347        */
1348       status_code[0] = rsp->head[9];
1349       status_code[1] = rsp->head[10];
1350       status_code[2] = rsp->head[11];
1351       status_code[3] = '\0';
1352
1353       /* Write the answer to the client */
1354       if (write_socket(csp->cfd, rsp->head, rsp->head_length)
1355        || write_socket(csp->cfd, rsp->body, rsp->content_length))
1356       {
1357          /* There is nothing we can do about it. */
1358          log_error(LOG_LEVEL_ERROR, "write to: %s failed: %E", csp->http->host);
1359       }
1360
1361       /* Log that the request was crunched and why. */
1362       log_error(LOG_LEVEL_GPC, "%s%s crunch! (%s)",
1363          http->hostport, http->path, crunch_reason(rsp));
1364       log_error(LOG_LEVEL_CLF, "%s - - [%T] \"%s\" %s %d",
1365          csp->ip_addr_str, http->ocmd, status_code, rsp->content_length);
1366
1367       /* Clean up and return */
1368       if (cgi_error_memory() != rsp)
1369       {
1370          free_http_response(rsp);
1371       } 
1372       return;
1373 }
1374
1375
1376 /*********************************************************************
1377  *
1378  * Function    :  chat
1379  *
1380  * Description :  Once a connection to the client has been accepted,
1381  *                this function is called (via serve()) to handle the
1382  *                main business of the communication.  When this
1383  *                function returns, the caller must close the client
1384  *                socket handle.
1385  *
1386  *                FIXME: chat is nearly thousand lines long.
1387  *                Ridiculous.
1388  *
1389  * Parameters  :
1390  *          1  :  csp = Current client state (buffers, headers, etc...)
1391  *
1392  * Returns     :  On success, the number of bytes written are returned (zero
1393  *                indicates nothing was written).  On error, -1 is returned,
1394  *                and errno is set appropriately.  If count is zero and the
1395  *                file descriptor refers to a regular file, 0 will be
1396  *                returned without causing any other effect.  For a special
1397  *                file, the results are not portable.
1398  *
1399  *********************************************************************/
1400 static void chat(struct client_state *csp)
1401 {
1402 /*
1403  * This next lines are a little ugly, but they simplifies the if statements
1404  * below.  Basically if TOGGLE, then we want the if to test if the
1405  * CSP_FLAG_TOGGLED_ON flag ist set, else we don't.  And if FEATURE_FORCE_LOAD,
1406  * then we want the if to test for CSP_FLAG_FORCED , else we don't
1407  */
1408 #ifdef FEATURE_TOGGLE
1409 #   define IS_TOGGLED_ON_AND (csp->flags & CSP_FLAG_TOGGLED_ON) &&
1410 #else /* ifndef FEATURE_TOGGLE */
1411 #   define IS_TOGGLED_ON_AND
1412 #endif /* ndef FEATURE_TOGGLE */
1413 #ifdef FEATURE_FORCE_LOAD
1414 #   define IS_NOT_FORCED_AND !(csp->flags & CSP_FLAG_FORCED) &&
1415 #else /* ifndef FEATURE_FORCE_LOAD */
1416 #   define IS_NOT_FORCED_AND
1417 #endif /* def FEATURE_FORCE_LOAD */
1418
1419 #define IS_ENABLED_AND   IS_TOGGLED_ON_AND IS_NOT_FORCED_AND
1420
1421    char buf[BUFFER_SIZE];
1422    char *hdr;
1423    char *p;
1424    char *req;
1425    fd_set rfds;
1426    int n;
1427    jb_socket maxfd;
1428    int server_body;
1429    int ms_iis5_hack = 0;
1430    size_t byte_count = 0;
1431    int forwarded_connect_retries = 0;
1432    int max_forwarded_connect_retries = csp->config->forwarded_connect_retries;
1433    const struct forward_spec * fwd;
1434    struct http_request *http;
1435    int len; /* for buffer sizes (and negative error codes) */
1436 #ifdef FEATURE_KILL_POPUPS
1437    int block_popups;         /* bool, 1==will block popups */
1438    int block_popups_now = 0; /* bool, 1==currently blocking popups */
1439 #endif /* def FEATURE_KILL_POPUPS */
1440
1441    int pcrs_filter;        /* bool, 1==will filter through pcrs */
1442    int gif_deanimate;      /* bool, 1==will deanimate gifs */
1443    int jpeg_inspect;       /* bool, 1==will inspect jpegs */
1444
1445    /* Function that does the content filtering for the current request */
1446    char *(*content_filter)() = NULL;
1447
1448    /* Skeleton for HTTP response, if we should intercept the request */
1449    struct http_response *rsp;
1450
1451    /* Temporary copy of the client's headers before they get enlisted in csp->headers */
1452    struct list header_list;
1453    struct list *headers = &header_list;
1454
1455    http = csp->http;
1456
1457    /*
1458     * Read the client's request.  Note that since we're not using select() we
1459     * could get blocked here if a client connected, then didn't say anything!
1460     */
1461
1462    for (;;)
1463    {
1464       len = read_socket(csp->cfd, buf, sizeof(buf));
1465
1466       if (len <= 0) break;      /* error! */
1467       
1468       /*
1469        * If there is no memory left for buffering the
1470        * request, there is nothing we can do but hang up
1471        */
1472       if (add_to_iob(csp, buf, len))
1473       {
1474          return;
1475       }
1476
1477       req = get_header(csp);
1478
1479       if (req == NULL)
1480       {
1481          break;    /* no HTTP request! */
1482       }
1483
1484       if (*req == '\0')
1485       {
1486          continue;   /* more to come! */
1487       }
1488
1489       /* Does the request line look invalid? */
1490       if (client_protocol_is_unsupported(csp, req))
1491       {
1492          /* 
1493           * Yes. The request has already been
1494           * answered with a error response, the buffers
1495           * were freed and we're done with chatting.
1496           */
1497          return;
1498       }
1499
1500 #ifdef FEATURE_FORCE_LOAD
1501       /* If this request contains the FORCE_PREFIX,
1502        * better get rid of it now and set the force flag --oes
1503        */
1504
1505       if (strstr(req, FORCE_PREFIX))
1506       {
1507          strclean(req, FORCE_PREFIX);
1508          log_error(LOG_LEVEL_FORCE, "Enforcing request \"%s\".\n", req);
1509          csp->flags |= CSP_FLAG_FORCED;
1510       }
1511
1512 #endif /* def FEATURE_FORCE_LOAD */
1513
1514       switch( parse_http_request(req, http, csp) )
1515       {
1516          case JB_ERR_MEMORY:
1517            log_error(LOG_LEVEL_ERROR, "Out of memory while parsing request.");
1518            break;
1519          case JB_ERR_PARSE:
1520            log_error(LOG_LEVEL_ERROR, "Couldn't parse request: %s.", req);
1521            break;
1522       }
1523
1524       freez(req);
1525       break;
1526    }
1527
1528    if (http->cmd == NULL)
1529    {
1530       strcpy(buf, CHEADER);
1531       write_socket(csp->cfd, buf, strlen(buf));
1532       /* XXX: Use correct size */
1533       log_error(LOG_LEVEL_CLF, "%s - - [%T] \" \" 400 0", csp->ip_addr_str);
1534       log_error(LOG_LEVEL_ERROR, "Invalid header received from %s.", csp->ip_addr_str);
1535
1536       free_http_request(http);
1537       return;
1538    }
1539
1540    /* grab the rest of the client's headers */
1541    init_list(headers);
1542    for (;;)
1543    {
1544       if ( ( ( p = get_header(csp) ) != NULL) && ( *p == '\0' ) )
1545       {
1546          len = read_socket(csp->cfd, buf, sizeof(buf));
1547          if (len <= 0)
1548          {
1549             log_error(LOG_LEVEL_ERROR, "read from client failed: %E");
1550             return;
1551          }
1552          
1553          /*
1554           * If there is no memory left for buffering the
1555           * request, there is nothing we can do but hang up
1556           */
1557          if (add_to_iob(csp, buf, len))
1558          {
1559             return;
1560          }
1561          continue;
1562       }
1563
1564       if (p == NULL) break;
1565
1566       enlist(headers, p);
1567       freez(p);
1568
1569    }
1570
1571    if (http->host == NULL)
1572    {
1573       /*
1574        * If we still don't know the request destination,
1575        * the request is invalid or the client uses
1576        * Privoxy without it's knowledge.
1577        */
1578       if (JB_ERR_OK != get_request_destination_elsewhere(csp, headers))
1579       {
1580          /*
1581           * Our attempts to get the request destination
1582           * elsewhere failed or Privoxy is configured
1583           * to only accept proxy requests.
1584           *
1585           * An error response has already been send
1586           * and we're done here.
1587           */
1588           return;
1589       }
1590    }
1591
1592    /* decide how to route the HTTP request */
1593
1594    if ((fwd = forward_url(http, csp)) == NULL)
1595    {
1596       log_error(LOG_LEVEL_FATAL, "gateway spec is NULL!?!?  This can't happen!");
1597       /* Never get here - LOG_LEVEL_FATAL causes program exit */
1598    }
1599
1600    /* build the http request to send to the server
1601     * we have to do one of the following:
1602     *
1603     * create = use the original HTTP request to create a new
1604     *          HTTP request that has either the path component
1605     *          without the http://domainspec (w/path) or the
1606     *          full orininal URL (w/url)
1607     *          Note that the path and/or the HTTP version may
1608     *          have been altered by now.
1609     *
1610     * connect = Open a socket to the host:port of the server
1611     *           and short-circuit server and client socket.
1612     *
1613     * pass =  Pass the request unchanged if forwarding a CONNECT
1614     *         request to a parent proxy. Note that we'll be sending
1615     *         the CFAIL message ourselves if connecting to the parent
1616     *         fails, but we won't send a CSUCCEED message if it works,
1617     *         since that would result in a double message (ours and the
1618     *         parent's). After sending the request to the parent, we simply
1619     *         tunnel.
1620     *
1621     * here's the matrix:
1622     *                        SSL
1623     *                    0        1
1624     *                +--------+--------+
1625     *                |        |        |
1626     *             0  | create | connect|
1627     *                | w/path |        |
1628     *  Forwarding    +--------+--------+
1629     *                |        |        |
1630     *             1  | create | pass   |
1631     *                | w/url  |        |
1632     *                +--------+--------+
1633     *
1634     */
1635
1636    /*
1637     * Determine the actions for this URL
1638     */
1639 #ifdef FEATURE_TOGGLE
1640    if (!(csp->flags & CSP_FLAG_TOGGLED_ON))
1641    {
1642       /* Most compatible set of actions (i.e. none) */
1643       init_current_action(csp->action);
1644    }
1645    else
1646 #endif /* ndef FEATURE_TOGGLE */
1647    {
1648       url_actions(http, csp);
1649    }
1650
1651
1652    /*
1653     * Check if a CONNECT request is allowable:
1654     * In the absence of a +limit-connect action, allow only port 443.
1655     * If there is an action, allow whatever matches the specificaton.
1656     */
1657    if(http->ssl)
1658    {
1659       if(  ( !(csp->action->flags & ACTION_LIMIT_CONNECT) && csp->http->port != 443)
1660            || (csp->action->flags & ACTION_LIMIT_CONNECT
1661               && !match_portlist(csp->action->string[ACTION_STRING_LIMIT_CONNECT], csp->http->port)) )
1662       {
1663          if (csp->action->flags & ACTION_TREAT_FORBIDDEN_CONNECTS_LIKE_BLOCKS)
1664          {
1665             /*
1666              * The response may confuse some clients,
1667              * but makes unblocking easier.
1668              */
1669             log_error(LOG_LEVEL_ERROR, "Marking suspicious CONNECT request from %s for blocking.",
1670                csp->ip_addr_str);
1671             csp->action->flags |= ACTION_BLOCK;
1672             http->ssl = 0;
1673          }
1674          else
1675          {
1676             strcpy(buf, CFORBIDDEN);
1677             write_socket(csp->cfd, buf, strlen(buf));
1678             log_error(LOG_LEVEL_CONNECT, "Denying suspicious CONNECT request from %s", csp->ip_addr_str);
1679             log_error(LOG_LEVEL_CLF, "%s - - [%T] \" \" 403 0", csp->ip_addr_str);
1680             return;
1681          }
1682       }
1683    }
1684
1685
1686    /*
1687     * Downgrade http version from 1.1 to 1.0 if +downgrade
1688     * action applies
1689     */
1690    if ( (http->ssl == 0)
1691      && (!strcmpic(http->ver, "HTTP/1.1"))
1692      && (csp->action->flags & ACTION_DOWNGRADE))
1693    {
1694       freez(http->ver);
1695       http->ver = strdup("HTTP/1.0");
1696
1697       if (http->ver == NULL)
1698       {
1699          log_error(LOG_LEVEL_FATAL, "Out of memory downgrading HTTP version");
1700       }
1701    }
1702
1703    /* 
1704     * Save a copy of the original request for logging
1705     */
1706    http->ocmd = strdup(http->cmd);
1707
1708    if (http->ocmd == NULL)
1709    {
1710       log_error(LOG_LEVEL_FATAL, "Out of memory copying HTTP request line");
1711    }
1712
1713    /*
1714     * (Re)build the HTTP request for non-SSL requests.
1715     * If forwarding, use the whole URL, else, use only the path.
1716     */
1717    if (http->ssl == 0)
1718    {
1719       freez(http->cmd);
1720
1721       http->cmd = strdup(http->gpc);
1722       string_append(&http->cmd, " ");
1723
1724       if (fwd->forward_host)
1725       {
1726          string_append(&http->cmd, http->url);
1727       }
1728       else
1729       {
1730          string_append(&http->cmd, http->path);
1731       }
1732       string_append(&http->cmd, " ");
1733       string_append(&http->cmd, http->ver);
1734
1735       if (http->cmd == NULL)
1736       {
1737          log_error(LOG_LEVEL_FATAL, "Out of memory writing HTTP command");
1738       }
1739       log_error(LOG_LEVEL_HEADER, "New HTTP Request-Line: %s", http->cmd);
1740    }
1741    enlist(csp->headers, http->cmd);
1742
1743    /* Append the previously read headers */
1744    list_append_list_unique(csp->headers, headers);
1745    destroy_list(headers);
1746
1747    /*
1748     * If the user has not supplied any wafers, and the user has not
1749     * told us to suppress the vanilla wafer, then send the vanilla wafer.
1750     */
1751    if (list_is_empty(csp->action->multi[ACTION_MULTI_WAFER])
1752        && ((csp->action->flags & ACTION_VANILLA_WAFER) != 0))
1753    {
1754       enlist(csp->action->multi[ACTION_MULTI_WAFER], VANILLA_WAFER);
1755    }
1756
1757
1758 #ifdef FEATURE_KILL_POPUPS
1759    block_popups               = ((csp->action->flags & ACTION_NO_POPUPS) != 0);
1760 #endif /* def FEATURE_KILL_POPUPS */
1761
1762    pcrs_filter                = (csp->rlist != NULL) &&  /* There are expressions to be used */
1763                                 (!list_is_empty(csp->action->multi[ACTION_MULTI_FILTER]));
1764
1765    gif_deanimate              = ((csp->action->flags & ACTION_DEANIMATE) != 0);
1766
1767    jpeg_inspect               = ((csp->action->flags & ACTION_JPEG_INSPECT) != 0);
1768
1769    /*
1770     * We have a request. Now, check to see if we need to
1771     * intercept it, i.e. If ..
1772     */
1773
1774    if (
1775        /* We may not forward the request by rfc2616 sect 14.31 */
1776        (NULL != (rsp = direct_response(csp)))
1777
1778        /* or we are enabled and... */
1779        || (IS_ENABLED_AND (
1780
1781             /* ..the request was blocked */
1782           ( NULL != (rsp = block_url(csp)))
1783
1784           /* ..or untrusted */
1785 #ifdef FEATURE_TRUST
1786           || ( NULL != (rsp = trust_url(csp)))
1787 #endif /* def FEATURE_TRUST */
1788
1789           /* ..or a redirect kicked in */
1790           || ( NULL != (rsp = redirect_url(csp)))
1791           ))
1792
1793        /*
1794         * .. or a CGI call was detected and answered.
1795         *
1796         * This check comes last to give the user the power
1797         * to deny acces to some (or all) of the cgi pages.
1798         */
1799        || (NULL != (rsp = dispatch_cgi(csp)))
1800
1801                  )
1802    {
1803       /*
1804        * Deliver, log and free the interception
1805        * response. Afterwards we're done here.
1806        */
1807       send_crunch_response(csp, rsp);
1808 #ifdef FEATURE_STATISTICS
1809       /* Count as a rejected request */
1810       csp->flags |= CSP_FLAG_REJECTED;
1811 #endif /* def FEATURE_STATISTICS */
1812
1813       return;
1814    }
1815
1816    hdr = sed(client_patterns, add_client_headers, csp);
1817    if (hdr == NULL)
1818    {
1819       /* FIXME Should handle error properly */
1820       log_error(LOG_LEVEL_FATAL, "Out of memory parsing client header");
1821    }
1822
1823    list_remove_all(csp->headers);
1824
1825    log_error(LOG_LEVEL_GPC, "%s%s", http->hostport, http->path);
1826
1827    if (fwd->forward_host)
1828    {
1829       log_error(LOG_LEVEL_CONNECT, "via %s:%d to: %s",
1830                fwd->forward_host, fwd->forward_port, http->hostport);
1831    }
1832    else
1833    {
1834       log_error(LOG_LEVEL_CONNECT, "to %s", http->hostport);
1835    }
1836
1837    /* here we connect to the server, gateway, or the forwarder */
1838
1839    while ( (csp->sfd = forwarded_connect(fwd, http, csp))
1840          && (errno == EINVAL) && (forwarded_connect_retries++ < max_forwarded_connect_retries))
1841    {
1842       log_error(LOG_LEVEL_ERROR, "failed request #%u to connect to %s. Trying again.",
1843                 forwarded_connect_retries, http->hostport);
1844    }
1845
1846    if (csp->sfd == JB_INVALID_SOCKET)
1847    {
1848       if (fwd->type != SOCKS_NONE)
1849       {
1850          /* Socks error. */
1851          rsp = error_response(csp, "forwarding-failed", errno);
1852       }
1853       else if (errno == EINVAL)
1854       {
1855          rsp = error_response(csp, "no-such-domain", errno);
1856       }
1857       else
1858       {
1859          rsp = error_response(csp, "connect-failed", errno);
1860          log_error(LOG_LEVEL_CONNECT, "connect to: %s failed: %E",
1861                 http->hostport);
1862       }
1863
1864
1865       /* Write the answer to the client */
1866       if(rsp != NULL)
1867       {
1868          send_crunch_response(csp, rsp);
1869       }
1870
1871       freez(hdr);
1872       return;
1873    }
1874
1875    if (fwd->forward_host || (http->ssl == 0))
1876    {
1877       /* write the client's (modified) header to the server
1878        * (along with anything else that may be in the buffer)
1879        */
1880
1881       if (write_socket(csp->sfd, hdr, strlen(hdr))
1882        || (flush_socket(csp->sfd, csp) <  0))
1883       {
1884          log_error(LOG_LEVEL_CONNECT, "write header to: %s failed: %E",
1885                     http->hostport);
1886
1887          rsp = error_response(csp, "connect-failed", errno);
1888
1889          if(rsp)
1890          {
1891             send_crunch_response(csp, rsp);
1892          }
1893
1894          freez(hdr);
1895          return;
1896       }
1897    }
1898    else
1899    {
1900       /*
1901        * We're running an SSL tunnel and we're not forwarding,
1902        * so just send the "connect succeeded" message to the
1903        * client, flush the rest, and get out of the way.
1904        */
1905       log_error(LOG_LEVEL_CLF, "%s - - [%T] \"%s\" 200 0",
1906                 csp->ip_addr_str, http->ocmd);
1907
1908       if (write_socket(csp->cfd, CSUCCEED, sizeof(CSUCCEED)-1))
1909       {
1910          freez(hdr);
1911          return;
1912       }
1913       IOB_RESET(csp);
1914    }
1915
1916    log_error(LOG_LEVEL_CONNECT, "to %s successful", http->hostport);
1917
1918    /* we're finished with the client's header */
1919    freez(hdr);
1920
1921    maxfd = ( csp->cfd > csp->sfd ) ? csp->cfd : csp->sfd;
1922
1923    /* pass data between the client and server
1924     * until one or the other shuts down the connection.
1925     */
1926
1927    server_body = 0;
1928
1929    for (;;)
1930    {
1931 #ifdef __OS2__
1932       /*
1933        * FD_ZERO here seems to point to an errant macro which crashes.
1934        * So do this by hand for now...
1935        */
1936       memset(&rfds,0x00,sizeof(fd_set));
1937 #else
1938       FD_ZERO(&rfds);
1939 #endif
1940       FD_SET(csp->cfd, &rfds);
1941       FD_SET(csp->sfd, &rfds);
1942
1943       n = select((int)maxfd+1, &rfds, NULL, NULL, NULL);
1944
1945       if (n < 0)
1946       {
1947          log_error(LOG_LEVEL_ERROR, "select() failed!: %E");
1948          return;
1949       }
1950
1951       /* this is the body of the browser's request
1952        * just read it and write it.
1953        */
1954
1955       if (FD_ISSET(csp->cfd, &rfds))
1956       {
1957          len = read_socket(csp->cfd, buf, sizeof(buf));
1958
1959          if (len <= 0)
1960          {
1961             break; /* "game over, man" */
1962          }
1963
1964          if (write_socket(csp->sfd, buf, (size_t)len))
1965          {
1966             log_error(LOG_LEVEL_ERROR, "write to: %s failed: %E", http->host);
1967             return;
1968          }
1969          continue;
1970       }
1971
1972       /*
1973        * The server wants to talk.  It could be the header or the body.
1974        * If `hdr' is null, then it's the header otherwise it's the body.
1975        * FIXME: Does `hdr' really mean `host'? No.
1976        */
1977
1978
1979       if (FD_ISSET(csp->sfd, &rfds))
1980       {
1981          fflush( 0 );
1982          len = read_socket(csp->sfd, buf, sizeof(buf) - 1);
1983
1984          if (len < 0)
1985          {
1986             log_error(LOG_LEVEL_ERROR, "read from: %s failed: %E", http->host);
1987
1988             rsp = error_response(csp, "connect-failed", errno);
1989
1990             if(rsp)
1991             {
1992                send_crunch_response(csp, rsp);
1993             }
1994
1995             return;
1996          }
1997
1998          /* Add a trailing zero.  This lets filter_popups
1999           * use string operations.
2000           */
2001          buf[len] = '\0';
2002
2003 #ifdef FEATURE_KILL_POPUPS
2004          /* Filter the popups on this read. */
2005          if (block_popups_now)
2006          {
2007             filter_popups(buf, csp);
2008          }
2009 #endif /* def FEATURE_KILL_POPUPS */
2010
2011          /* Normally, this would indicate that we've read
2012           * as much as the server has sent us and we can
2013           * close the client connection.  However, Microsoft
2014           * in its wisdom has released IIS/5 with a bug that
2015           * prevents it from sending the trailing \r\n in
2016           * a 302 redirect header (and possibly other headers).
2017           * To work around this if we've haven't parsed
2018           * a full header we'll append a trailing \r\n
2019           * and see if this now generates a valid one.
2020           *
2021           * This hack shouldn't have any impacts.  If we've
2022           * already transmitted the header or if this is a
2023           * SSL connection, then we won't bother with this
2024           * hack.  So we only work on partially received
2025           * headers.  If we append a \r\n and this still
2026           * doesn't generate a valid header, then we won't
2027           * transmit anything to the client.
2028           */
2029          if (len == 0)
2030          {
2031
2032             if (server_body || http->ssl)
2033             {
2034                /*
2035                 * If we have been buffering up the document,
2036                 * now is the time to apply content modification
2037                 * and send the result to the client.
2038                 */
2039                if (content_filter)
2040                {
2041                   /*
2042                    * If the content filter fails, use the original
2043                    * buffer and length.
2044                    * (see p != NULL ? p : csp->iob->cur below)
2045                    */
2046                   if (NULL == (p = (*content_filter)(csp)))
2047                   {
2048                      csp->content_length = (size_t)(csp->iob->eod - csp->iob->cur);
2049                   }
2050
2051                   hdr = sed(server_patterns_light, NULL, csp);
2052
2053                   if (hdr == NULL)
2054                   {
2055                      /* FIXME Should handle error properly */
2056                      log_error(LOG_LEVEL_FATAL, "Out of memory parsing server header");
2057                   }
2058
2059                   if (write_socket(csp->cfd, hdr, strlen(hdr))
2060                    || write_socket(csp->cfd, p != NULL ? p : csp->iob->cur, csp->content_length))
2061                   {
2062                      log_error(LOG_LEVEL_ERROR, "write modified content to client failed: %E");
2063                      freez(hdr);
2064                      freez(p);
2065                      return;
2066                   }
2067
2068                   freez(hdr);
2069                   freez(p);
2070                }
2071
2072                break; /* "game over, man" */
2073             }
2074
2075             /*
2076              * This is NOT the body, so
2077              * Let's pretend the server just sent us a blank line.
2078              */
2079             snprintf(buf, sizeof(buf), "\r\n");
2080             len = (int)strlen(buf);
2081
2082             /*
2083              * Now, let the normal header parsing algorithm below do its
2084              * job.  If it fails, we'll exit instead of continuing.
2085              */
2086
2087             ms_iis5_hack = 1;
2088          }
2089
2090          /*
2091           * If this is an SSL connection or we're in the body
2092           * of the server document, just write it to the client,
2093           * unless we need to buffer the body for later content-filtering
2094           */
2095
2096          if (server_body || http->ssl)
2097          {
2098             if (content_filter)
2099             {
2100                /*
2101                 * If there is no memory left for buffering the content, or the buffer limit
2102                 * has been reached, switch to non-filtering mode, i.e. make & write the
2103                 * header, flush the iob and buf, and get out of the way.
2104                 */
2105                if (add_to_iob(csp, buf, len))
2106                {
2107                   size_t hdrlen;
2108                   int flushed;
2109
2110                   log_error(LOG_LEVEL_ERROR, "Flushing header and buffers. Stepping back from filtering.");
2111
2112                   hdr = sed(server_patterns, add_server_headers, csp);
2113                   if (hdr == NULL)
2114                   {
2115                      /* 
2116                       * Memory is too tight to even generate the header.
2117                       * Send our static "Out-of-memory" page.
2118                       */
2119                      log_error(LOG_LEVEL_ERROR, "Out of memory while trying to flush.");
2120                      rsp = cgi_error_memory();
2121                      send_crunch_response(csp, rsp);
2122
2123                      return;
2124                   }
2125
2126                   hdrlen = strlen(hdr);
2127
2128                   if (write_socket(csp->cfd, hdr, hdrlen)
2129                    || ((flushed = flush_socket(csp->cfd, csp)) < 0)
2130                    || (write_socket(csp->cfd, buf, (size_t)len)))
2131                   {
2132                      log_error(LOG_LEVEL_CONNECT, "Flush header and buffers to client failed: %E");
2133
2134                      freez(hdr);
2135                      return;
2136                   }
2137
2138                   byte_count += hdrlen + (size_t)flushed + (size_t)len;
2139                   freez(hdr);
2140                   content_filter = NULL;
2141                   server_body = 1;
2142
2143                }
2144             }
2145             else
2146             {
2147                if (write_socket(csp->cfd, buf, (size_t)len))
2148                {
2149                   log_error(LOG_LEVEL_ERROR, "write to client failed: %E");
2150                   return;
2151                }
2152             }
2153             byte_count += (size_t)len;
2154             continue;
2155          }
2156          else
2157          {
2158             /* we're still looking for the end of the
2159              * server's header ... (does that make header
2160              * parsing an "out of body experience" ?
2161              */
2162
2163             /* 
2164              * buffer up the data we just read.  If that fails, 
2165              * there's little we can do but send our static
2166              * out-of-memory page.
2167              */
2168             if (add_to_iob(csp, buf, len))
2169             {
2170                log_error(LOG_LEVEL_ERROR, "Out of memory while looking for end of server headers.");
2171                rsp = cgi_error_memory();
2172                send_crunch_response(csp, rsp);               
2173
2174                return;
2175             }
2176
2177             /* Convert iob into something sed() can digest */
2178             if (JB_ERR_PARSE == get_server_headers(csp))
2179             {
2180                if (ms_iis5_hack)
2181                {
2182                   /* Well, we tried our MS IIS/5
2183                    * hack and it didn't work.
2184                    * The header is incomplete
2185                    * and there isn't anything
2186                    * we can do about it.
2187                    */
2188                   break;
2189                }
2190                else
2191                {
2192                   /* Since we have to wait for
2193                    * more from the server before
2194                    * we can parse the headers
2195                    * we just continue here.
2196                    */
2197                   continue;
2198                }
2199             }
2200
2201             /* Did we actually get anything? */
2202             if (NULL == csp->headers->first)
2203             {
2204                log_error(LOG_LEVEL_ERROR, "Empty server or forwarder response.");
2205                log_error(LOG_LEVEL_CLF, "%s - - [%T] \"%s\" 502 0", csp->ip_addr_str, http->cmd);
2206                strcpy(buf, NO_SERVER_DATA_RESPONSE);
2207                write_socket(csp->cfd, buf, strlen(buf));
2208                free_http_request(http);
2209                return;
2210             }
2211
2212             /* we have now received the entire header.
2213              * filter it and send the result to the client
2214              */
2215
2216             hdr = sed(server_patterns, add_server_headers, csp);
2217             if (hdr == NULL)
2218             {
2219                /* FIXME Should handle error properly */
2220                log_error(LOG_LEVEL_FATAL, "Out of memory parsing server header");
2221             }
2222
2223 #ifdef FEATURE_KILL_POPUPS
2224             /* Start blocking popups if appropriate. */
2225
2226             if ((csp->content_type & CT_TEXT) &&  /* It's a text / * MIME-Type */
2227                 !http->ssl    &&                  /* We talk plaintext */
2228                 block_popups)                     /* Policy allows */
2229             {
2230                block_popups_now = 1;
2231                /*
2232                 * Filter the part of the body that came in the same read
2233                 * as the last headers:
2234                 */
2235                filter_popups(csp->iob->cur, csp);
2236             }
2237
2238 #endif /* def FEATURE_KILL_POPUPS */
2239
2240             /* Buffer and pcrs filter this if appropriate. */
2241
2242             if ((csp->content_type & CT_TEXT) &&  /* It's a text / * MIME-Type */
2243                 !http->ssl    &&                  /* We talk plaintext */
2244                 pcrs_filter)                      /* Policy allows */
2245             {
2246                content_filter = pcrs_filter_response;
2247             }
2248
2249             /* Buffer and gif_deanimate this if appropriate. */
2250
2251             if ((csp->content_type & CT_GIF)  &&  /* It's an image/gif MIME-Type */
2252                 !http->ssl    &&                  /* We talk plaintext */
2253                 gif_deanimate)                    /* Policy allows */
2254             {
2255                content_filter = gif_deanimate_response;
2256             }
2257
2258             /* Buffer and jpg_inspect this if appropriate. */
2259
2260             if ((csp->content_type & CT_JPEG)  &&  /* It's an image/jpeg MIME-Type */
2261                 !http->ssl    &&                   /* We talk plaintext */
2262                 jpeg_inspect)                      /* Policy allows */
2263             {
2264                content_filter = jpeg_inspect_response;
2265             }
2266
2267             /*
2268              * Only write if we're not buffering for content modification
2269              */
2270             if (!content_filter)
2271             {
2272                /* write the server's (modified) header to
2273                 * the client (along with anything else that
2274                 * may be in the buffer)
2275                 */
2276
2277                if (write_socket(csp->cfd, hdr, strlen(hdr))
2278                 || ((len = flush_socket(csp->cfd, csp)) < 0))
2279                {
2280                   log_error(LOG_LEVEL_CONNECT, "write header to client failed: %E");
2281
2282                   /* the write failed, so don't bother
2283                    * mentioning it to the client...
2284                    * it probably can't hear us anyway.
2285                    */
2286                   freez(hdr);
2287                   return;
2288                }
2289
2290                byte_count += (size_t)len;
2291             }
2292
2293             /* we're finished with the server's header */
2294
2295             freez(hdr);
2296             server_body = 1;
2297
2298             /* If this was a MS IIS/5 hack then it means
2299              * the server has already closed the
2300              * connection.  Nothing more to read.  Time
2301              * to bail.
2302              */
2303             if (ms_iis5_hack)
2304             {
2305                break;
2306             }
2307          }
2308          continue;
2309       }
2310
2311       return; /* huh? we should never get here */
2312    }
2313
2314    if (csp->content_length == 0)
2315    {
2316       /*
2317        * If Privoxy didn't recalculate the
2318        * Content-Lenght, byte_count is still
2319        * correct.
2320        */
2321       csp->content_length = byte_count;
2322    }
2323
2324    log_error(LOG_LEVEL_CLF, "%s - - [%T] \"%s\" 200 %d",
2325       csp->ip_addr_str, http->ocmd, csp->content_length);
2326 }
2327
2328
2329 /*********************************************************************
2330  *
2331  * Function    :  serve
2332  *
2333  * Description :  This is little more than chat.  We only "serve" to
2334  *                to close any socket that chat may have opened.
2335  *
2336  * Parameters  :
2337  *          1  :  csp = Current client state (buffers, headers, etc...)
2338  *
2339  * Returns     :  N/A
2340  *
2341  *********************************************************************/
2342 #ifdef AMIGA
2343 void serve(struct client_state *csp)
2344 #else /* ifndef AMIGA */
2345 static void serve(struct client_state *csp)
2346 #endif /* def AMIGA */
2347 {
2348    chat(csp);
2349    close_socket(csp->cfd);
2350
2351    if (csp->sfd != JB_INVALID_SOCKET)
2352    {
2353       close_socket(csp->sfd);
2354    }
2355
2356    csp->flags &= ~CSP_FLAG_ACTIVE;
2357
2358 }
2359
2360
2361 #ifdef __BEOS__
2362 /*********************************************************************
2363  *
2364  * Function    :  server_thread
2365  *
2366  * Description :  We only exist to call `serve' in a threaded environment.
2367  *
2368  * Parameters  :
2369  *          1  :  data = Current client state (buffers, headers, etc...)
2370  *
2371  * Returns     :  Always 0.
2372  *
2373  *********************************************************************/
2374 static int32 server_thread(void *data)
2375 {
2376    serve((struct client_state *) data);
2377    return 0;
2378
2379 }
2380 #endif
2381
2382
2383 /*********************************************************************
2384  *
2385  * Function    :  usage
2386  *
2387  * Description :  Print usage info & exit.
2388  *
2389  * Parameters  :  Pointer to argv[0] for identifying ourselves
2390  *
2391  * Returns     :  No. ,-)
2392  *
2393  *********************************************************************/
2394 void usage(const char *myname)
2395 {
2396    printf("Privoxy version " VERSION " (" HOME_PAGE_URL ")\n"
2397 #if !defined(unix)
2398            "Usage: %s [--help] [--version] [configfile]\n"
2399 #else
2400            "Usage: %s [--help] [--version] [--no-daemon] [--pidfile pidfile] [--user user[.group]] [configfile]\n"
2401 #endif
2402            "Aborting.\n", myname);
2403  
2404    exit(2);
2405
2406 }
2407
2408
2409 /*********************************************************************
2410  *
2411  * Function    :  initialize_mutexes
2412  *
2413  * Description :  Prepares mutexes if mutex support is available.
2414  *
2415  * Parameters  :  None
2416  *
2417  * Returns     :  Void, exits in case of errors.
2418  *
2419  *********************************************************************/
2420 void initialize_mutexes()
2421 {
2422    int err = 0;
2423
2424 #ifdef FEATURE_PTHREAD
2425    /*
2426     * Prepare global mutex semaphores
2427     */
2428    err = pthread_mutex_init(&log_mutex, 0);
2429
2430    if (!err) err = pthread_mutex_init(&log_init_mutex, 0);
2431
2432    /*
2433     * XXX: The assumptions below are a bit naive
2434     * and can cause locks that aren't necessary.
2435     *
2436     * For example older FreeBSD versions (< 6.x?)
2437     * have no gethostbyname_r, but gethostbyname is
2438     * thead safe.
2439     */
2440 #ifndef HAVE_GMTIME_R
2441    if (!err) err = pthread_mutex_init(&gmtime_mutex, 0);
2442 #endif /* ndef HAVE_GMTIME_R */
2443
2444 #ifndef HAVE_LOCALTIME_R
2445    if (!err) err = pthread_mutex_init(&localtime_mutex, 0);
2446 #endif /* ndef HAVE_GMTIME_R */
2447
2448 #ifndef HAVE_GETHOSTBYADDR_R
2449    if (!err) err = pthread_mutex_init(&gethostbyaddr_mutex, 0);
2450 #endif /* ndef HAVE_GETHOSTBYADDR_R */
2451
2452 #ifndef HAVE_GETHOSTBYNAME_R
2453    if (!err) err = pthread_mutex_init(&gethostbyname_mutex, 0);
2454 #endif /* ndef HAVE_GETHOSTBYNAME_R */
2455
2456 #ifndef HAVE_RANDOM
2457    if (!err) err = pthread_mutex_init(&rand_mutex, 0);
2458 #endif /* ndef HAVE_RANDOM */
2459 #endif /* FEATURE_PTHREAD */
2460
2461    /*
2462     * TODO: mutex support for mingw32 would be swell.
2463     */
2464
2465    if (err)
2466    {
2467       printf("Fatal error. Mutex initialization failed: %s.\n",
2468          strerror(err));
2469       exit(1);
2470    }
2471
2472    return;
2473 }
2474
2475
2476 /*********************************************************************
2477  *
2478  * Function    :  main
2479  *
2480  * Description :  Load the config file and start the listen loop.
2481  *                This function is a lot more *sane* with the `load_config'
2482  *                and `listen_loop' functions; although it stills does
2483  *                a *little* too much for my taste.
2484  *
2485  * Parameters  :
2486  *          1  :  argc = Number of parameters (including $0).
2487  *          2  :  argv = Array of (char *)'s to the parameters.
2488  *
2489  * Returns     :  1 if : can't open config file, unrecognized directive,
2490  *                stats requested in multi-thread mode, can't open the
2491  *                log file, can't open the jar file, listen port is invalid,
2492  *                any load fails, and can't bind port.
2493  *
2494  *                Else main never returns, the process must be signaled
2495  *                to terminate execution.  Or, on Windows, use the
2496  *                "File", "Exit" menu option.
2497  *
2498  *********************************************************************/
2499 #ifdef __MINGW32__
2500 int real_main(int argc, const char *argv[])
2501 #else
2502 int main(int argc, const char *argv[])
2503 #endif
2504 {
2505    int argc_pos = 0;
2506    unsigned int random_seed;
2507 #ifdef unix
2508    struct passwd *pw = NULL;
2509    struct group *grp = NULL;
2510    char *p;
2511    int do_chroot = 0;
2512 #endif
2513
2514    Argc = argc;
2515    Argv = argv;
2516
2517    configfile =
2518 #if !defined(_WIN32)
2519    "config"
2520 #else
2521    "config.txt"
2522 #endif
2523       ;
2524
2525    /*
2526     * Parse the command line arguments
2527     */
2528    while (++argc_pos < argc)
2529    {
2530 #ifdef _WIN32
2531       /* Check to see if the service must be installed or uninstalled */
2532       if (strncmp(argv[argc_pos], "--install", 9) == 0)
2533       {
2534          const char *pName = argv[argc_pos] + 9;
2535          if (*pName == ':')
2536             pName++;
2537          exit( (install_service(pName)) ? 0 : 1 );
2538       }
2539       else if (strncmp(argv[argc_pos], "--uninstall", + 11) == 0)
2540       {
2541          const char *pName = argv[argc_pos] + 11;
2542          if (*pName == ':')
2543             pName++;
2544          exit((uninstall_service(pName)) ? 0 : 1);
2545       }
2546       else if (strcmp(argv[argc_pos], "--service" ) == 0)
2547       {
2548          bRunAsService = TRUE;
2549          w32_set_service_cwd();
2550          atexit(w32_service_exit_notify);
2551       }
2552       else
2553 #endif /* defined(_WIN32) */
2554
2555
2556 #if !defined(_WIN32) || defined(_WIN_CONSOLE)
2557
2558       if (strcmp(argv[argc_pos], "--help") == 0)
2559       {
2560          usage(argv[0]);
2561       }
2562
2563       else if(strcmp(argv[argc_pos], "--version") == 0)
2564       {
2565          printf("Privoxy version " VERSION " (" HOME_PAGE_URL ")\n");
2566          exit(0);
2567       }
2568
2569 #if defined(unix)
2570
2571       else if (strcmp(argv[argc_pos], "--no-daemon" ) == 0)
2572       {
2573          no_daemon = 1;
2574       }
2575
2576       else if (strcmp(argv[argc_pos], "--pidfile" ) == 0)
2577       {
2578          if (++argc_pos == argc) usage(argv[0]);
2579          pidfile = strdup(argv[argc_pos]);
2580       }
2581
2582       else if (strcmp(argv[argc_pos], "--user" ) == 0)
2583       {
2584          if (++argc_pos == argc) usage(argv[argc_pos]);
2585
2586          if ((NULL != (p = strchr(argv[argc_pos], '.'))) && *(p + 1) != '0')
2587          {
2588             *p++ = '\0';
2589             if (NULL == (grp = getgrnam(p)))
2590             {
2591                log_error(LOG_LEVEL_FATAL, "Group %s not found.", p);
2592             }
2593          }
2594
2595          if (NULL == (pw = getpwnam(argv[argc_pos])))
2596          {
2597             log_error(LOG_LEVEL_FATAL, "User %s not found.", argv[argc_pos]);
2598          }
2599
2600          if (p != NULL) *--p = '\0';
2601       }
2602
2603       else if (strcmp(argv[argc_pos], "--chroot" ) == 0)
2604       {
2605          do_chroot = 1;
2606       }
2607
2608 #endif /* defined(unix) */
2609 #endif /* defined(_WIN32) && !defined(_WIN_CONSOLE) */
2610       {
2611          configfile = argv[argc_pos];
2612       }
2613
2614    } /* -END- while (more arguments) */
2615
2616 #if defined(unix)
2617    if ( *configfile != '/' )
2618    {
2619       char *abs_file, cwd[1024];
2620
2621       /* make config-filename absolute here */
2622       if ( !(getcwd(cwd, sizeof(cwd))))
2623       {
2624          perror("get working dir failed");
2625          exit( 1 );
2626       }
2627
2628       if (!(basedir = strdup(cwd))
2629       || (!(abs_file = malloc( strlen( basedir ) + strlen( configfile ) + 5 ))))
2630       {
2631          perror("malloc failed");
2632          exit( 1 );
2633       }
2634       strcpy( abs_file, basedir );
2635       strcat( abs_file, "/" );
2636       strcat( abs_file, configfile );
2637       configfile = abs_file;
2638    }
2639 #endif /* defined unix */
2640
2641
2642    files->next = NULL;
2643    clients->next = NULL;
2644
2645 #ifdef AMIGA
2646    InitAmiga();
2647 #elif defined(_WIN32)
2648    InitWin32();
2649 #endif
2650
2651    /* Prepare mutexes if supported and necessary. */
2652    initialize_mutexes();
2653
2654    random_seed = (unsigned int)time(NULL);
2655 #ifdef HAVE_RANDOM
2656    srandom(random_seed);
2657 #else
2658    srand(random_seed);
2659 #endif /* ifdef HAVE_RANDOM */
2660
2661    /*
2662     * Unix signal handling
2663     *
2664     * Catch the abort, interrupt and terminate signals for a graceful exit
2665     * Catch the hangup signal so the errlog can be reopened.
2666     * Ignore the broken pipe signals (FIXME: Why?)
2667     */
2668 #if !defined(_WIN32) && !defined(__OS2__) && !defined(AMIGA)
2669 {
2670    int idx;
2671    const int catched_signals[] = { SIGTERM, SIGINT, SIGHUP, 0 };
2672    const int ignored_signals[] = { SIGPIPE, 0 };
2673
2674    for (idx = 0; catched_signals[idx] != 0; idx++)
2675    {
2676 #ifdef sun /* FIXME: Is it safe to check for HAVE_SIGSET instead? */ 
2677       if (sigset(catched_signals[idx], sig_handler) == SIG_ERR)
2678 #else
2679       if (signal(catched_signals[idx], sig_handler) == SIG_ERR)
2680 #endif /* ifdef sun */
2681       {
2682          log_error(LOG_LEVEL_FATAL, "Can't set signal-handler for signal %d: %E", catched_signals[idx]);
2683       }
2684    }
2685
2686    for (idx = 0; ignored_signals[idx] != 0; idx++)
2687    {
2688       if (signal(ignored_signals[idx], SIG_IGN) == SIG_ERR)
2689       {
2690          log_error(LOG_LEVEL_FATAL, "Can't set ignore-handler for signal %d: %E", ignored_signals[idx]);
2691       }
2692    }
2693
2694 }
2695 #else /* ifdef _WIN32 */
2696 # ifdef _WIN_CONSOLE
2697    /*
2698     * We *are* in a windows console app.
2699     * Print a verbose messages about FAQ's and such
2700     */
2701    printf("%s", win32_blurb);
2702 # endif /* def _WIN_CONSOLE */
2703 #endif /* def _WIN32 */
2704
2705
2706    /* Initialize the CGI subsystem */
2707    cgi_init_error_messages();
2708
2709    /*
2710     * If runnig on unix and without the --nodaemon
2711     * option, become a daemon. I.e. fork, detach
2712     * from tty and get process group leadership
2713     */
2714 #if defined(unix)
2715 {
2716    pid_t pid = 0;
2717 #if 0
2718    int   fd;
2719 #endif
2720
2721    if (!no_daemon)
2722    {
2723       pid  = fork();
2724
2725       if ( pid < 0 ) /* error */
2726       {
2727          perror("fork");
2728          exit( 3 );
2729       }
2730       else if ( pid != 0 ) /* parent */
2731       {
2732          int status;
2733          pid_t wpid;
2734          /*
2735           * must check for errors
2736           * child died due to missing files aso
2737           */
2738          sleep( 1 );
2739          wpid = waitpid( pid, &status, WNOHANG );
2740          if ( wpid != 0 )
2741          {
2742             exit( 1 );
2743          }
2744          exit( 0 );
2745       }
2746       /* child */
2747 #if 1
2748       /* Should be more portable, but not as well tested */
2749       setsid();
2750 #else /* !1 */
2751 #ifdef __FreeBSD__
2752       setpgrp(0,0);
2753 #else /* ndef __FreeBSD__ */
2754       setpgrp();
2755 #endif /* ndef __FreeBSD__ */
2756       fd = open("/dev/tty", O_RDONLY);
2757       if ( fd )
2758       {
2759          /* no error check here */
2760          ioctl( fd, TIOCNOTTY,0 );
2761          close ( fd );
2762       }
2763 #endif /* 1 */
2764       /* FIXME: should close stderr (fd 2) here too, but the test
2765        * for existence
2766        * and load config file is done in listen_loop() and puts
2767        * some messages on stderr there.
2768        */
2769
2770       close( 0 );
2771       close( 1 );
2772       chdir("/");
2773
2774    } /* -END- if (!no_daemon) */
2775
2776    /*
2777     * As soon as we have written the PID file, we can switch
2778     * to the user and group ID indicated by the --user option
2779     */
2780    write_pid_file();
2781
2782    if (NULL != pw)
2783    {
2784       if (setgid((NULL != grp) ? grp->gr_gid : pw->pw_gid))
2785       {
2786          log_error(LOG_LEVEL_FATAL, "Cannot setgid(): Insufficient permissions.");
2787       }
2788       if (do_chroot)
2789       {
2790          if (!pw->pw_dir)
2791          {
2792             log_error(LOG_LEVEL_FATAL, "Home directory for %s undefined", pw->pw_name);
2793          }
2794          if (chroot(pw->pw_dir) < 0)
2795          {
2796             log_error(LOG_LEVEL_FATAL, "Cannot chroot to %s", pw->pw_dir);
2797          }
2798          if (chdir ("/"))
2799          {
2800             log_error(LOG_LEVEL_FATAL, "Cannot chdir /");
2801          }
2802       }
2803       if (setuid(pw->pw_uid))
2804       {
2805          log_error(LOG_LEVEL_FATAL, "Cannot setuid(): Insufficient permissions.");
2806       }
2807       if (do_chroot)
2808       {
2809          char putenv_dummy[64];
2810
2811          strcpy(putenv_dummy, "HOME=/");
2812          if (putenv(putenv_dummy) != 0)
2813          {
2814             log_error(LOG_LEVEL_FATAL, "Cannot putenv(): HOME");
2815          }                
2816
2817          snprintf(putenv_dummy, 64, "USER=%s", pw->pw_name);
2818          if (putenv(putenv_dummy) != 0)
2819          {
2820             log_error(LOG_LEVEL_FATAL, "Cannot putenv(): USER");
2821          }
2822       }
2823    }
2824    else if (do_chroot)
2825    {
2826       log_error(LOG_LEVEL_FATAL, "Cannot chroot without --user argument.");
2827    }
2828 }
2829 #endif /* defined unix */
2830
2831 #ifdef _WIN32
2832    /* This will be FALSE unless the command line specified --service
2833     */
2834    if (bRunAsService)
2835    {
2836       /* Yup, so now we must attempt to establish a connection 
2837        * with the service dispatcher. This will only work if this
2838        * process was launched by the service control manager to
2839        * actually run as a service. If this isn't the case, i've
2840        * known it take around 30 seconds or so for the call to return.
2841        */
2842
2843       /* The StartServiceCtrlDispatcher won't return until the service is stopping */
2844       if (w32_start_service_ctrl_dispatcher(w32ServiceDispatchTable))
2845       {
2846          /* Service has run, and at this point is now being stopped, so just return */
2847          return 0;
2848       }
2849
2850 #ifdef _WIN_CONSOLE
2851       printf("Warning: Failed to connect to Service Control Dispatcher\nwhen starting as a service!\n");
2852 #endif
2853       /* An error occurred. Usually it's because --service was wrongly specified
2854        * and we were unable to connect to the Service Control Dispatcher because
2855        * it wasn't expecting us and is therefore not listening.
2856        *
2857        * For now, just continue below to call the listen_loop function.
2858        */
2859    }
2860 #endif /* def _WIN32 */
2861
2862    listen_loop();
2863
2864    /* NOTREACHED */
2865    return(-1);
2866
2867 }
2868
2869
2870 /*********************************************************************
2871  *
2872  * Function    :  bind_port_helper
2873  *
2874  * Description :  Bind the listen port.  Handles logging, and aborts
2875  *                on failure.
2876  *
2877  * Parameters  :
2878  *          1  :  config = Privoxy configuration.  Specifies port
2879  *                         to bind to.
2880  *
2881  * Returns     :  Port that was opened.
2882  *
2883  *********************************************************************/
2884 static jb_socket bind_port_helper(struct configuration_spec * config)
2885 {
2886    int result;
2887    jb_socket bfd;
2888
2889    if ( (config->haddr != NULL)
2890      && (config->haddr[0] == '1')
2891      && (config->haddr[1] == '2')
2892      && (config->haddr[2] == '7')
2893      && (config->haddr[3] == '.') )
2894    {
2895       log_error(LOG_LEVEL_INFO, "Listening on port %d for local connections only",
2896                 config->hport);
2897    }
2898    else if (config->haddr == NULL)
2899    {
2900       log_error(LOG_LEVEL_INFO, "Listening on port %d on all IP addresses",
2901                 config->hport);
2902    }
2903    else
2904    {
2905       log_error(LOG_LEVEL_INFO, "Listening on port %d on IP address %s",
2906                 config->hport, config->haddr);
2907    }
2908
2909    result = bind_port(config->haddr, config->hport, &bfd);
2910
2911    if (result < 0)
2912    {
2913       switch(result)
2914       {
2915          case -3 :
2916             log_error(LOG_LEVEL_FATAL, "can't bind to %s:%d: "
2917                "There may be another Privoxy or some other "
2918                "proxy running on port %d",
2919                (NULL != config->haddr) ? config->haddr : "INADDR_ANY",
2920                       config->hport, config->hport);
2921
2922          case -2 :
2923             log_error(LOG_LEVEL_FATAL, "can't bind to %s:%d: " 
2924                "The hostname is not resolvable",
2925                (NULL != config->haddr) ? config->haddr : "INADDR_ANY", config->hport);
2926
2927          default :
2928             log_error(LOG_LEVEL_FATAL, "can't bind to %s:%d: because %E",
2929                (NULL != config->haddr) ? config->haddr : "INADDR_ANY", config->hport);
2930       }
2931
2932       /* shouldn't get here */
2933       return JB_INVALID_SOCKET;
2934    }
2935
2936    config->need_bind = 0;
2937
2938    return bfd;
2939 }
2940
2941
2942 #ifdef _WIN32
2943 /* Without this simple workaround we get this compiler warning from _beginthread
2944  *     warning C4028: formal parameter 1 different from declaration
2945  */
2946 void w32_service_listen_loop(void *p)
2947 {
2948    listen_loop();
2949 }
2950 #endif /* def _WIN32 */
2951
2952
2953 /*********************************************************************
2954  *
2955  * Function    :  listen_loop
2956  *
2957  * Description :  bind the listen port and enter a "FOREVER" listening loop.
2958  *
2959  * Parameters  :  N/A
2960  *
2961  * Returns     :  Never.
2962  *
2963  *********************************************************************/
2964 static void listen_loop(void)
2965 {
2966    struct client_state *csp = NULL;
2967    jb_socket bfd;
2968    struct configuration_spec * config;
2969
2970    config = load_config();
2971
2972    bfd = bind_port_helper(config);
2973
2974 #ifdef FEATURE_GRACEFUL_TERMINATION
2975    while (!g_terminate)
2976 #else
2977    for (;;)
2978 #endif
2979    {
2980 #if !defined(FEATURE_PTHREAD) && !defined(_WIN32) && !defined(__BEOS__) && !defined(AMIGA) && !defined(__OS2__)
2981       while (waitpid(-1, NULL, WNOHANG) > 0)
2982       {
2983          /* zombie children */
2984       }
2985 #endif /* !defined(FEATURE_PTHREAD) && !defined(_WIN32) && !defined(__BEOS__) && !defined(AMIGA) */
2986
2987       /*
2988        * Free data that was used by died threads
2989        */
2990       sweep();
2991
2992 #if defined(unix)
2993       /*
2994        * Re-open the errlog after HUP signal
2995        */
2996       if (received_hup_signal)
2997       {
2998          init_error_log(Argv[0], config->logfile, config->debug);
2999          received_hup_signal = 0;
3000       }
3001 #endif
3002
3003 #ifdef __OS2__
3004 #ifdef FEATURE_COOKIE_JAR
3005       /*
3006        * Need a workaround here: we have to fclose() the jarfile, or we die because it's
3007        * already open.  I think unload_configfile() is not being run, which should do
3008        * this work.  Until that can get resolved, we'll use this workaround.
3009        */
3010        if (csp)
3011          if(csp->config)
3012            if (csp->config->jar)
3013            {
3014              fclose(csp->config->jar);
3015              csp->config->jar = NULL;
3016            }
3017 #endif /* FEATURE_COOKIE_JAR */
3018 #endif /* __OS2__ */
3019
3020       if ( NULL == (csp = (struct client_state *) zalloc(sizeof(*csp))) )
3021       {
3022          log_error(LOG_LEVEL_FATAL, "malloc(%d) for csp failed: %E", sizeof(*csp));
3023          continue;
3024       }
3025
3026       csp->flags |= CSP_FLAG_ACTIVE;
3027       csp->sfd    = JB_INVALID_SOCKET;
3028
3029       csp->config = config = load_config();
3030
3031       if ( config->need_bind )
3032       {
3033          /*
3034           * Since we were listening to the "old port", we will not see
3035           * a "listen" param change until the next IJB request.  So, at
3036           * least 1 more request must be made for us to find the new
3037           * setting.  I am simply closing the old socket and binding the
3038           * new one.
3039           *
3040           * Which-ever is correct, we will serve 1 more page via the
3041           * old settings.  This should probably be a "show-proxy-args"
3042           * request.  This should not be a so common of an operation
3043           * that this will hurt people's feelings.
3044           */
3045
3046          close_socket(bfd);
3047
3048          bfd = bind_port_helper(config);
3049       }
3050
3051       log_error(LOG_LEVEL_CONNECT, "Listening for new connections ... ");
3052
3053       if (!accept_connection(csp, bfd))
3054       {
3055          log_error(LOG_LEVEL_CONNECT, "accept failed: %E");
3056
3057 #ifdef AMIGA
3058          if(!childs)
3059          {
3060             exit(1);
3061          }
3062 #endif
3063          freez(csp);
3064          continue;
3065       }
3066       else
3067       {
3068          log_error(LOG_LEVEL_CONNECT, "accepted connection from %s", csp->ip_addr_str);
3069       }
3070
3071 #ifdef FEATURE_TOGGLE
3072       if (global_toggle_state)
3073       {
3074          csp->flags |= CSP_FLAG_TOGGLED_ON;
3075       }
3076 #endif /* def FEATURE_TOGGLE */
3077
3078       if (run_loader(csp))
3079       {
3080          log_error(LOG_LEVEL_FATAL, "a loader failed - must exit");
3081          /* Never get here - LOG_LEVEL_FATAL causes program exit */
3082       }
3083
3084 #ifdef FEATURE_ACL
3085       if (block_acl(NULL,csp))
3086       {
3087          log_error(LOG_LEVEL_CONNECT, "Connection dropped due to ACL");
3088          close_socket(csp->cfd);
3089          freez(csp);
3090          continue;
3091       }
3092 #endif /* def FEATURE_ACL */
3093
3094       /* add it to the list of clients */
3095       csp->next = clients->next;
3096       clients->next = csp;
3097
3098       if (config->multi_threaded)
3099       {
3100          int child_id;
3101
3102 /* this is a switch () statment in the C preprocessor - ugh */
3103 #undef SELECTED_ONE_OPTION
3104
3105 /* Use Pthreads in preference to native code */
3106 #if defined(FEATURE_PTHREAD) && !defined(SELECTED_ONE_OPTION)
3107 #define SELECTED_ONE_OPTION
3108          {
3109             pthread_t the_thread;
3110             pthread_attr_t attrs;
3111
3112             pthread_attr_init(&attrs);
3113             pthread_attr_setdetachstate(&attrs, PTHREAD_CREATE_DETACHED);
3114             errno = pthread_create(&the_thread, &attrs,
3115                (void * (*)(void *))serve, csp);
3116             child_id = errno ? -1 : 0;
3117             pthread_attr_destroy(&attrs);
3118          }
3119 #endif
3120
3121 #if defined(_WIN32) && !defined(_CYGWIN) && !defined(SELECTED_ONE_OPTION)
3122 #define SELECTED_ONE_OPTION
3123          child_id = _beginthread(
3124             (void (*)(void *))serve,
3125             64 * 1024,
3126             csp);
3127 #endif
3128
3129 #if defined(__OS2__) && !defined(SELECTED_ONE_OPTION)
3130 #define SELECTED_ONE_OPTION
3131          child_id = _beginthread(
3132             (void(* _Optlink)(void*))serve,
3133             NULL,
3134             64 * 1024,
3135             csp);
3136 #endif
3137
3138 #if defined(__BEOS__) && !defined(SELECTED_ONE_OPTION)
3139 #define SELECTED_ONE_OPTION
3140          {
3141             thread_id tid = spawn_thread
3142                (server_thread, "server", B_NORMAL_PRIORITY, csp);
3143
3144             if ((tid >= 0) && (resume_thread(tid) == B_OK))
3145             {
3146                child_id = (int) tid;
3147             }
3148             else
3149             {
3150                child_id = -1;
3151             }
3152          }
3153 #endif
3154
3155 #if defined(AMIGA) && !defined(SELECTED_ONE_OPTION)
3156 #define SELECTED_ONE_OPTION
3157          csp->cfd = ReleaseSocket(csp->cfd, -1);
3158          
3159 #ifdef __amigaos4__
3160          child_id = (int)CreateNewProcTags(NP_Entry, (ULONG)server_thread,
3161                                            NP_Output, Output(),
3162                                            NP_CloseOutput, FALSE,
3163                                            NP_Name, (ULONG)"privoxy child",
3164                                            NP_Child, TRUE,
3165                                            TAG_DONE);
3166 #else
3167          child_id = (int)CreateNewProcTags(NP_Entry, (ULONG)server_thread,
3168                                            NP_Output, Output(),
3169                                            NP_CloseOutput, FALSE,
3170                                            NP_Name, (ULONG)"privoxy child",
3171                                            NP_StackSize, 200*1024,
3172                                            TAG_DONE);
3173 #endif
3174          if(0 != child_id)
3175          {
3176             childs++;
3177             ((struct Task *)child_id)->tc_UserData = csp;
3178             Signal((struct Task *)child_id, SIGF_SINGLE);
3179             Wait(SIGF_SINGLE);
3180          }
3181 #endif
3182
3183 #if !defined(SELECTED_ONE_OPTION)
3184          child_id = fork();
3185
3186          /* This block is only needed when using fork().
3187           * When using threads, the server thread was
3188           * created and run by the call to _beginthread().
3189           */
3190          if (child_id == 0)   /* child */
3191          {
3192             int rc = 0;
3193 #ifdef FEATURE_TOGGLE
3194             int inherited_toggle_state = global_toggle_state;
3195 #endif /* def FEATURE_TOGGLE */
3196
3197             serve(csp);
3198
3199             /* 
3200              * If we've been toggled or we've blocked the request, tell Mom
3201              */
3202
3203 #ifdef FEATURE_TOGGLE
3204             if (inherited_toggle_state != global_toggle_state)
3205             {
3206                rc |= RC_FLAG_TOGGLED;
3207             }
3208 #endif /* def FEATURE_TOGGLE */
3209
3210 #ifdef FEATURE_STATISTICS  
3211             if (csp->flags & CSP_FLAG_REJECTED)
3212             {
3213                rc |= RC_FLAG_BLOCKED;
3214             }
3215 #endif /* ndef FEATURE_STATISTICS */
3216
3217             _exit(rc);
3218          }
3219          else if (child_id > 0) /* parent */
3220          {
3221             /* in a fork()'d environment, the parent's
3222              * copy of the client socket and the CSP
3223              * are not used.
3224              */
3225             int child_status;
3226 #if !defined(_WIN32) && !defined(__CYGWIN__)
3227
3228             wait( &child_status );
3229
3230             /* 
3231              * Evaluate child's return code: If the child has
3232              *  - been toggled, toggle ourselves
3233              *  - blocked its request, bump up the stats counter
3234              */
3235
3236 #ifdef FEATURE_TOGGLE
3237             if (WIFEXITED(child_status) && (WEXITSTATUS(child_status) & RC_FLAG_TOGGLED))
3238             {
3239                global_toggle_state = !global_toggle_state;
3240             }
3241 #endif /* def FEATURE_TOGGLE */
3242
3243 #ifdef FEATURE_STATISTICS
3244             urls_read++;
3245             if (WIFEXITED(child_status) && (WEXITSTATUS(child_status) & RC_FLAG_BLOCKED))
3246             {
3247                urls_rejected++;
3248             }
3249 #endif /* def FEATURE_STATISTICS */ 
3250
3251 #endif /* !defined(_WIN32) && defined(__CYGWIN__) */
3252             close_socket(csp->cfd);
3253             csp->flags &= ~CSP_FLAG_ACTIVE;
3254          }
3255 #endif
3256
3257 #undef SELECTED_ONE_OPTION
3258 /* end of cpp switch () */
3259
3260          if (child_id < 0) /* failed */
3261          {
3262             char buf[BUFFER_SIZE];
3263
3264             log_error(LOG_LEVEL_ERROR, "can't fork: %E");
3265
3266             snprintf(buf , sizeof(buf), "Privoxy: can't fork: errno = %d", errno);
3267
3268             write_socket(csp->cfd, buf, strlen(buf));
3269             close_socket(csp->cfd);
3270             csp->flags &= ~CSP_FLAG_ACTIVE;
3271             sleep(5);
3272             continue;
3273          }
3274       }
3275       else
3276       {
3277          serve(csp);
3278       }
3279    }
3280
3281    /* NOTREACHED unless FEATURE_GRACEFUL_TERMINATION is defined */
3282
3283    /* Clean up.  Aim: free all memory (no leaks) */
3284 #ifdef FEATURE_GRACEFUL_TERMINATION
3285
3286    log_error(LOG_LEVEL_ERROR, "Graceful termination requested");
3287
3288    unload_current_config_file();
3289    unload_current_actions_file();
3290    unload_current_re_filterfile();
3291 #ifdef FEATURE_TRUST
3292    unload_current_trust_file();
3293 #endif
3294
3295    if (config->multi_threaded)
3296    {
3297       int i = 60;
3298       do
3299       {
3300          sleep(1);
3301          sweep();
3302       } while ((clients->next != NULL) && (--i > 0));
3303
3304       if (i <= 0)
3305       {
3306          log_error(LOG_LEVEL_ERROR, "Graceful termination failed - still some live clients after 1 minute wait.");
3307       }
3308    }
3309    sweep();
3310    sweep();
3311
3312 #if defined(unix)
3313    freez(basedir);
3314 #endif
3315    freez(configfile);
3316
3317 #ifdef FEATURE_COOKIE_JAR
3318    if (NULL != config->jar)
3319    {
3320       fclose(config->jar);
3321    }
3322 #endif
3323
3324 #if defined(_WIN32) && !defined(_WIN_CONSOLE)
3325    /* Cleanup - remove taskbar icon etc. */
3326    TermLogWindow();
3327 #endif
3328
3329    exit(0);
3330 #endif /* FEATURE_GRACEFUL_TERMINATION */
3331
3332 }
3333
3334
3335 /*
3336   Local Variables:
3337   tab-width: 3
3338   end:
3339 */