- Added "make redhat-dok" to the build phase
[privoxy.git] / jcc.c
1 const char jcc_rcs[] = "$Id: jcc.c,v 1.69 2002/03/04 23:50:00 jongfoster Exp $";
2 /*********************************************************************
3  *
4  * File        :  $Source: /cvsroot/ijbswa/current/jcc.c,v $
5  *
6  * Purpose     :  Main file.  Contains main() method, main loop, and
7  *                the main connection-handling function.
8  *
9  * Copyright   :  Written by and Copyright (C) 2001 the SourceForge
10  *                IJBSWA team.  http://ijbswa.sourceforge.net
11  *
12  *                Based on the Internet Junkbuster originally written
13  *                by and Copyright (C) 1997 Anonymous Coders and
14  *                Junkbusters Corporation.  http://www.junkbusters.com
15  *
16  *                This program is free software; you can redistribute it
17  *                and/or modify it under the terms of the GNU General
18  *                Public License as published by the Free Software
19  *                Foundation; either version 2 of the License, or (at
20  *                your option) any later version.
21  *
22  *                This program is distributed in the hope that it will
23  *                be useful, but WITHOUT ANY WARRANTY; without even the
24  *                implied warranty of MERCHANTABILITY or FITNESS FOR A
25  *                PARTICULAR PURPOSE.  See the GNU General Public
26  *                License for more details.
27  *
28  *                The GNU General Public License should be included with
29  *                this file.  If not, you can view it at
30  *                http://www.gnu.org/copyleft/gpl.html
31  *                or write to the Free Software Foundation, Inc., 59
32  *                Temple Place - Suite 330, Boston, MA  02111-1307, USA.
33  *
34  * Revisions   :
35  *    $Log: jcc.c,v $
36  *    Revision 1.69  2002/03/04 23:50:00  jongfoster
37  *    Splitting off bind_port() call into bind_port_helper(), with
38  *    improved logging.
39  *
40  *    Revision 1.68  2002/03/04 20:17:32  oes
41  *    Fixed usage info
42  *
43  *    Revision 1.67  2002/03/04 18:18:57  oes
44  *    - Removed _DEBUG mode
45  *    - Cleand up cmdline parsing
46  *    - Introduced --no-daemon, --pidfile options
47  *    - Cleaned up signal handling:
48  *      - Terminate cleanly on INT, TERM and ABRT
49  *      - Schedule logfile for re-opening on HUP
50  *      - Ignore CHLD and PIPE
51  *      - Leave the rest with their default handlers
52  *      - Uniform handler registration
53  *    - Added usage() function
54  *    - Played styleguide police
55  *
56  *    Revision 1.66  2002/03/03 15:06:55  oes
57  *    Re-enabled automatic config reloading
58  *
59  *    Revision 1.65  2002/03/03 14:49:11  oes
60  *    Fixed CLF logging: Now uses client's original HTTP request
61  *
62  *    Revision 1.64  2002/03/03 09:18:03  joergs
63  *    Made jumbjuster work on AmigaOS again.
64  *
65  *    Revision 1.63  2002/03/02 04:14:50  david__schmidt
66  *    Clean up a little CRLF unpleasantness that suddenly appeared
67  *
68  *    Revision 1.62  2002/02/20 23:17:23  jongfoster
69  *    Detecting some out-of memory conditions and exiting with a log message.
70  *
71  *    Revision 1.61  2002/01/17 21:01:52  jongfoster
72  *    Moving all our URL and URL pattern parsing code to urlmatch.c.
73  *
74  *    Revision 1.60  2001/12/30 14:07:32  steudten
75  *    - Add signal handling (unix)
76  *    - Add SIGHUP handler (unix)
77  *    - Add creation of pidfile (unix)
78  *    - Add action 'top' in rc file (RH)
79  *    - Add entry 'SIGNALS' to manpage
80  *    - Add exit message to logfile (unix)
81  *
82  *    Revision 1.59  2001/12/13 14:07:18  oes
83  *    Fixed Bug: 503 error page now sent OK
84  *
85  *    Revision 1.58  2001/11/30 23:37:24  jongfoster
86  *    Renaming the Win32 config file to config.txt - this is almost the
87  *    same as the corresponding UNIX name "config"
88  *
89  *    Revision 1.57  2001/11/16 00:47:43  jongfoster
90  *    Changing the tty-disconnection code to use setsid().
91  *
92  *    Revision 1.56  2001/11/13 20:20:54  jongfoster
93  *    Tabs->spaces, fixing a bug with missing {} around an if()
94  *
95  *    Revision 1.55  2001/11/13 20:14:53  jongfoster
96  *    Patch for FreeBSD setpgrp() as suggested by Alexander Lazic
97  *
98  *    Revision 1.54  2001/11/07 00:03:14  steudten
99  *    Give reliable return value if an error
100  *    occurs not just 0 with new daemon mode.
101  *
102  *    Revision 1.53  2001/11/05 21:41:43  steudten
103  *    Add changes to be a real daemon just for unix os.
104  *    (change cwd to /, detach from controlling tty, set
105  *    process group and session leader to the own process.
106  *    Add DBG() Macro.
107  *    Add some fatal-error log message for failed malloc().
108  *    Add '-d' if compiled with 'configure --with-debug' to
109  *    enable debug output.
110  *
111  *    Revision 1.52  2001/10/26 20:11:20  jongfoster
112  *    Fixing type mismatch
113  *
114  *    Revision 1.51  2001/10/26 17:38:28  oes
115  *    Cosmetics
116  *
117  *    Revision 1.50  2001/10/25 03:40:48  david__schmidt
118  *    Change in porting tactics: OS/2's EMX porting layer doesn't allow multiple
119  *    threads to call select() simultaneously.  So, it's time to do a real, live,
120  *    native OS/2 port.  See defines for __EMX__ (the porting layer) vs. __OS2__
121  *    (native). Both versions will work, but using __OS2__ offers multi-threading.
122  *
123  *    Revision 1.49  2001/10/23 21:41:35  jongfoster
124  *    Added call to initialize the (statically-allocated of course)
125  *    "out of memory" CGI response.
126  *
127  *    Revision 1.48  2001/10/10 19:56:46  jongfoster
128  *    Moving some code that wasn't cookie-related out of an #ifdef
129  *    FEATURE_COOKIE_JAR
130  *
131  *    Revision 1.47  2001/10/10 16:44:36  oes
132  *    Added CONNECT destination port limitation check
133  *
134  *    Revision 1.46  2001/10/08 15:17:41  oes
135  *    Re-enabled SSL forwarding
136  *
137  *    Revision 1.45  2001/10/07 15:42:11  oes
138  *    Replaced 6 boolean members of csp with one bitmap (csp->flags)
139  *
140  *    Moved downgrading of the HTTP version from parse_http_request to
141  *      chat(), since we can't decide if it is necessary before we have
142  *      determined the actions for the URL. The HTTP command is now
143  *      *always* re-built so the repairs need no longer be special-cased.
144  *
145  *    filter_popups now gets a csp pointer so it can raise the new
146  *      CSP_FLAG_MODIFIED flag.
147  *
148  *    Bugfix
149  *
150  *    Added configurable size limit for the IOB. If the IOB grows so
151  *      large that the next read would exceed the limit, the header
152  *      is generated, and the header & unfiltered buffer are flushed
153  *      to the client. Chat then continues in non-buffering,
154  *      non-filtering body mode.
155  *
156  *    Revision 1.44  2001/10/02 18:13:57  oes
157  *    Ooops
158  *
159  *    Revision 1.43  2001/10/02 15:32:13  oes
160  *    Moved generation of hdr
161  *
162  *    Revision 1.42  2001/09/21 23:02:02  david__schmidt
163  *    Cleaning up 2 compiler warnings on OS/2.
164  *
165  *    Revision 1.41  2001/09/16 17:05:14  jongfoster
166  *    Removing unused #include showarg.h
167  *
168  *    Revision 1.40  2001/09/16 15:41:45  jongfoster
169  *    Fixing signed/unsigned comparison warning.
170  *
171  *    Revision 1.39  2001/09/16 13:21:27  jongfoster
172  *    Changes to use new list functions.
173  *
174  *    Revision 1.38  2001/09/16 13:01:46  jongfoster
175  *    Removing redundant function call that zeroed zalloc()'d memory.
176  *
177  *    Revision 1.37  2001/09/10 11:12:24  oes
178  *    Deleted unused variable
179  *
180  *    Revision 1.36  2001/09/10 10:56:15  oes
181  *    Silenced compiler warnings
182  *
183  *    Revision 1.35  2001/07/31 14:44:22  oes
184  *    Deleted unused size parameter from filter_popups()
185  *
186  *    Revision 1.34  2001/07/30 22:08:36  jongfoster
187  *    Tidying up #defines:
188  *    - All feature #defines are now of the form FEATURE_xxx
189  *    - Permanently turned off WIN_GUI_EDIT
190  *    - Permanently turned on WEBDAV and SPLIT_PROXY_ARGS
191  *
192  *    Revision 1.33  2001/07/29 19:32:00  jongfoster
193  *    Renaming _main() [mingw32 only] to real_main(), for ANSI compliance.
194  *
195  *    Revision 1.32  2001/07/29 18:47:05  jongfoster
196  *    Adding missing #include "loadcfg.h"
197  *
198  *    Revision 1.31  2001/07/29 12:17:48  oes
199  *    Applied pthread fix by Paul Lieverse
200  *
201  *    Revision 1.30  2001/07/25 22:57:13  jongfoster
202  *    __BEOS__ no longer overrides FEATURE_PTHREAD.
203  *    This is because FEATURE_PTHREAD will soon be widely used, so I
204  *    want to keep it simple.
205  *
206  *    Revision 1.29  2001/07/24 12:47:06  oes
207  *    Applied BeOS support update by Eugenia
208  *
209  *    Revision 1.28  2001/07/23 13:26:12  oes
210  *    Fixed bug in popup-killing for the first read that caused binary garbage to be sent between headers and body
211  *
212  *    Revision 1.27  2001/07/19 19:09:47  haroon
213  *    - Added code to take care of the situation where while processing the first
214  *      server response (which includes the server header), after finding the end
215  *      of the headers we were not looking past the end of the headers for
216  *      content modification. I enabled it for filter_popups.
217  *      Someone else should look to see if other similar operations should be
218  *      done to the discarded portion of the buffer.
219  *
220  *      Note 2001/07/20: No, the other content modification mechanisms will process
221  *                       the whole iob later anyway. --oes
222  *
223  *    Revision 1.26  2001/07/18 12:31:36  oes
224  *    cosmetics
225  *
226  *    Revision 1.25  2001/07/15 19:43:49  jongfoster
227  *    Supports POSIX threads.
228  *    Also removed some unused #includes.
229  *
230  *    Revision 1.24  2001/07/13 14:00:40  oes
231  *     - Generic content modification scheme:
232  *       Each feature has its own applicability flag that is set
233  *       from csp->action->flags.
234  *       Replaced the "filtering" int flag , by a function pointer
235  *       "content_filter" to the function that will do the content
236  *       modification. If it is != NULL, the document will be buffered
237  *       and processed through *content_filter, which must set
238  *       csp->content_length and return a modified copy of the body
239  *       or return NULL (on failiure).
240  *     - Changed csp->is_text to the more generic bitmap csp->content_type
241  *       which can currently take the valued CT_TEXT or CT_GIF
242  *     - Reformatting etc
243  *     - Removed all #ifdef PCRS
244  *
245  *    Revision 1.23  2001/07/02 02:28:25  iwanttokeepanon
246  *    Added "#ifdef ACL_FILES" conditional compilation to line 1291 to exclude
247  *    the `block_acl' call.  This prevents a compilation error when the user
248  *    does not wish to use the "ACL" feature.
249  *
250  *    Revision 1.22  2001/06/29 21:45:41  oes
251  *    Indentation, CRLF->LF, Tab-> Space
252  *
253  *    Revision 1.21  2001/06/29 13:29:36  oes
254  *    - Cleaned up, improved comments
255  *    - Unified all possible interceptors (CGI,
256  *      block, trust, fast_redirect) in one
257  *      place, with one (CGI) answer generation
258  *      mechansim. Much clearer now.
259  *    - Removed the GIF image generation, which
260  *      is now done in filters.c:block_url()
261  *    - Made error conditions like domain lookup
262  *      failiure or (various) problems while talking
263  *      to the server use cgi.c:error_response()
264  *      instead of generating HTML/HTTP in chat() (yuck!)
265  *    - Removed logentry from cancelled commit
266  *
267  *    Revision 1.20  2001/06/09 10:55:28  jongfoster
268  *    Changing BUFSIZ ==> BUFFER_SIZE
269  *
270  *    Revision 1.19  2001/06/07 23:12:52  jongfoster
271  *    Replacing function pointer in struct gateway with a directly
272  *    called function forwarded_connect().
273  *    Replacing struct gateway with struct forward_spec
274  *
275  *    Revision 1.18  2001/06/03 19:12:16  oes
276  *    introduced new cgi handling
277  *
278  *    Revision 1.17  2001/06/01 20:07:23  jongfoster
279  *    Now uses action +image-blocker{} rather than config->tinygif
280  *
281  *    Revision 1.16  2001/06/01 18:49:17  jongfoster
282  *    Replaced "list_share" with "list" - the tiny memory gain was not
283  *    worth the extra complexity.
284  *
285  *    Revision 1.15  2001/05/31 21:24:47  jongfoster
286  *    Changed "permission" to "action" throughout.
287  *    Removed DEFAULT_USER_AGENT - it must now be specified manually.
288  *    Moved vanilla wafer check into chat(), since we must now
289  *    decide whether or not to add it based on the URL.
290  *
291  *    Revision 1.14  2001/05/29 20:14:01  joergs
292  *    AmigaOS bugfix: PCRS needs a lot of stack, stacksize for child threads
293  *    increased.
294  *
295  *    Revision 1.13  2001/05/29 09:50:24  jongfoster
296  *    Unified blocklist/imagelist/permissionslist.
297  *    File format is still under discussion, but the internal changes
298  *    are (mostly) done.
299  *
300  *    Also modified interceptor behaviour:
301  *    - We now intercept all URLs beginning with one of the following
302  *      prefixes (and *only* these prefixes):
303  *        * http://i.j.b/
304  *        * http://ijbswa.sf.net/config/
305  *        * http://ijbswa.sourceforge.net/config/
306  *    - New interceptors "home page" - go to http://i.j.b/ to see it.
307  *    - Internal changes so that intercepted and fast redirect pages
308  *      are not replaced with an image.
309  *    - Interceptors now have the option to send a binary page direct
310  *      to the client. (i.e. ijb-send-banner uses this)
311  *    - Implemented show-url-info interceptor.  (Which is why I needed
312  *      the above interceptors changes - a typical URL is
313  *      "http://i.j.b/show-url-info?url=www.somesite.com/banner.gif".
314  *      The previous mechanism would not have intercepted that, and
315  *      if it had been intercepted then it then it would have replaced
316  *      it with an image.)
317  *
318  *    Revision 1.12  2001/05/27 22:17:04  oes
319  *
320  *    - re_process_buffer no longer writes the modified buffer
321  *      to the client, which was very ugly. It now returns the
322  *      buffer, which it is then written by chat.
323  *
324  *    - content_length now adjusts the Content-Length: header
325  *      for modified documents rather than crunch()ing it.
326  *      (Length info in csp->content_length, which is 0 for
327  *      unmodified documents)
328  *
329  *    - For this to work, sed() is called twice when filtering.
330  *
331  *    Revision 1.11  2001/05/26 17:27:53  jongfoster
332  *    Added support for CLF and fixed LOG_LEVEL_LOG.
333  *    Also did CRLF->LF fix of my previous patch.
334  *
335  *    Revision 1.10  2001/05/26 15:26:15  jongfoster
336  *    ACL feature now provides more security by immediately dropping
337  *    connections from untrusted hosts.
338  *
339  *    Revision 1.9  2001/05/26 00:28:36  jongfoster
340  *    Automatic reloading of config file.
341  *    Removed obsolete SIGHUP support (Unix) and Reload menu option (Win32).
342  *    Most of the global variables have been moved to a new
343  *    struct configuration_spec, accessed through csp->config->globalname
344  *    Most of the globals remaining are used by the Win32 GUI.
345  *
346  *    Revision 1.8  2001/05/25 22:43:18  jongfoster
347  *    Fixing minor memory leak and buffer overflow.
348  *
349  *    Revision 1.7  2001/05/25 22:34:30  jongfoster
350  *    Hard tabs->Spaces
351  *
352  *    Revision 1.6  2001/05/23 00:13:58  joergs
353  *    AmigaOS support fixed.
354  *
355  *    Revision 1.5  2001/05/22 18:46:04  oes
356  *
357  *    - Enabled filtering banners by size rather than URL
358  *      by adding patterns that replace all standard banner
359  *      sizes with the "Junkbuster" gif to the re_filterfile
360  *
361  *    - Enabled filtering WebBugs by providing a pattern
362  *      which kills all 1x1 images
363  *
364  *    - Added support for PCRE_UNGREEDY behaviour to pcrs,
365  *      which is selected by the (nonstandard and therefore
366  *      capital) letter 'U' in the option string.
367  *      It causes the quantifiers to be ungreedy by default.
368  *      Appending a ? turns back to greedy (!).
369  *
370  *    - Added a new interceptor ijb-send-banner, which
371  *      sends back the "Junkbuster" gif. Without imagelist or
372  *      MSIE detection support, or if tinygif = 1, or the
373  *      URL isn't recognized as an imageurl, a lame HTML
374  *      explanation is sent instead.
375  *
376  *    - Added new feature, which permits blocking remote
377  *      script redirects and firing back a local redirect
378  *      to the browser.
379  *      The feature is conditionally compiled, i.e. it
380  *      can be disabled with --disable-fast-redirects,
381  *      plus it must be activated by a "fast-redirects"
382  *      line in the config file, has its own log level
383  *      and of course wants to be displayed by show-proxy-args
384  *      Note: Boy, all the #ifdefs in 1001 locations and
385  *      all the fumbling with configure.in and acconfig.h
386  *      were *way* more work than the feature itself :-(
387  *
388  *    - Because a generic redirect template was needed for
389  *      this, tinygif = 3 now uses the same.
390  *
391  *    - Moved GIFs, and other static HTTP response templates
392  *      to project.h
393  *
394  *    - Some minor fixes
395  *
396  *    - Removed some >400 CRs again (Jon, you really worked
397  *      a lot! ;-)
398  *
399  *    Revision 1.4  2001/05/21 19:34:01  jongfoster
400  *    Made failure to bind() a fatal error.
401  *
402  *    Revision 1.3  2001/05/20 01:21:20  jongfoster
403  *    Version 2.9.4 checkin.
404  *    - Merged popupfile and cookiefile, and added control over PCRS
405  *      filtering, in new "permissionsfile".
406  *    - Implemented LOG_LEVEL_FATAL, so that if there is a configuration
407  *      file error you now get a message box (in the Win32 GUI) rather
408  *      than the program exiting with no explanation.
409  *    - Made killpopup use the PCRS MIME-type checking and HTTP-header
410  *      skipping.
411  *    - Removed tabs from "config"
412  *    - Moved duplicated url parsing code in "loaders.c" to a new funcition.
413  *    - Bumped up version number.
414  *
415  *    Revision 1.2  2001/05/17 22:34:44  oes
416  *     - Added hint on GIF char array generation to jcc.c
417  *     - Cleaned CRLF's from the sources and related files
418  *     - Repaired logging for REF and FRC
419  *
420  *    Revision 1.1.1.1  2001/05/15 13:58:56  oes
421  *    Initial import of version 2.9.3 source tree
422  *
423  *
424  *********************************************************************/
425 \f
426
427 #include "config.h"
428
429 #include <stdio.h>
430 #include <sys/types.h>
431 #include <stdlib.h>
432 #include <string.h>
433 #include <signal.h>
434 #include <fcntl.h>
435 #include <errno.h>
436
437 #ifdef FEATURE_PTHREAD
438 #include <pthread.h>
439 #endif /* def FEATURE_PTHREAD */
440
441 #ifdef _WIN32
442 # ifndef FEATURE_PTHREAD
443 #  include <windows.h>
444 #  include <process.h>
445 # endif /* ndef FEATURE_PTHREAD */
446
447 # include "win32.h"
448 # ifndef _WIN_CONSOLE
449 #  include "w32log.h"
450 # endif /* ndef _WIN_CONSOLE */
451
452 #else /* ifndef _WIN32 */
453
454 # if !defined (__OS2__)
455 # include <unistd.h>
456 # include <sys/wait.h>
457 # endif /* ndef __OS2__ */
458 # include <sys/time.h>
459 # include <sys/stat.h>
460 # include <sys/ioctl.h>
461
462 #ifdef sun
463 #include <sys/termios.h>
464 #endif /* sun */
465
466 # include <signal.h>
467
468 # ifdef __BEOS__
469 #  include <socket.h>  /* BeOS has select() for sockets only. */
470 #  include <OS.h>      /* declarations for threads and stuff. */
471 # endif
472
473 # if defined(__EMX__) || defined(__OS2__)
474 #  include <sys/select.h>  /* OS/2/EMX needs a little help with select */
475 # endif
476 # ifdef __OS2__
477 #define INCL_DOS
478 # include <os2.h>
479 #define bzero(B,N) memset(B,0x00,n)
480 # endif
481
482 # ifndef FD_ZERO
483 #  include <select.h>
484 # endif
485
486 #endif
487
488 #include "project.h"
489 #include "list.h"
490 #include "jcc.h"
491 #include "filters.h"
492 #include "loaders.h"
493 #include "parsers.h"
494 #include "killpopup.h"
495 #include "miscutil.h"
496 #include "errlog.h"
497 #include "jbsockets.h"
498 #include "gateway.h"
499 #include "actions.h"
500 #include "cgi.h"
501 #include "loadcfg.h"
502 #include "urlmatch.h"
503
504 const char jcc_h_rcs[] = JCC_H_VERSION;
505 const char project_h_rcs[] = PROJECT_H_VERSION;
506
507 int no_daemon = 0;
508 struct client_state  clients[1];
509 struct file_list     files[1];
510
511 #ifdef FEATURE_STATISTICS
512 int urls_read     = 0;     /* total nr of urls read inc rejected */
513 int urls_rejected = 0;     /* total nr of urls rejected */
514 #endif /* def FEATURE_STATISTICS */
515
516
517 static void listen_loop(void);
518 static void chat(struct client_state *csp);
519 #ifdef AMIGA
520 void serve(struct client_state *csp);
521 #else /* ifndef AMIGA */
522 static void serve(struct client_state *csp);
523 #endif /* def AMIGA */
524
525 #ifdef __BEOS__
526 static int32 server_thread(void *data);
527 #endif /* def __BEOS__ */
528
529 #ifdef _WIN32
530 #define sleep(N)  Sleep(((N) * 1000))
531 #endif
532
533 #ifdef __OS2__
534 #define sleep(N)  DosSleep(((N) * 100))
535 #endif
536
537 #if defined(unix)
538 const char *basedir;
539 const char *pidfile = NULL;
540 int received_hup_signal = 0;
541 #endif /* defined unix */
542
543 /* The vanilla wafer. */
544 static const char VANILLA_WAFER[] =
545    "NOTICE=TO_WHOM_IT_MAY_CONCERN_"
546    "Do_not_send_me_any_copyrighted_information_other_than_the_"
547    "document_that_I_am_requesting_or_any_of_its_necessary_components._"
548    "In_particular_do_not_send_me_any_cookies_that_"
549    "are_subject_to_a_claim_of_copyright_by_anybody._"
550    "Take_notice_that_I_refuse_to_be_bound_by_any_license_condition_"
551    "(copyright_or_otherwise)_applying_to_any_cookie._";
552
553
554 #if !defined(_WIN32) && !defined(__OS2__) && !defined(AMIGA)
555 /*********************************************************************
556  *
557  * Function    :  sig_handler 
558  *
559  * Description :  Signal handler for different signals.
560  *                Exit gracefully on ABRT, TERM and  INT
561  *                or set a flag that will cause the errlog
562  *                to be reopened by the main thread on HUP.
563  *
564  * Parameters  :
565  *          1  :  the_signal - the signal cause this function to call 
566  *
567  * Returns     :  - 
568  *
569  *********************************************************************/
570 static void sig_handler(int the_signal)
571 {
572    switch(the_signal)
573    {
574       case SIGABRT:
575       case SIGTERM:
576       case SIGINT:
577          log_error(LOG_LEVEL_INFO, "exiting by signal %d .. bye", the_signal);
578 #if defined(unix)
579          unlink(pidfile);
580 #endif /* unix */
581          exit(the_signal);
582          break;
583
584       case SIGHUP:
585          received_hup_signal = 1;
586          break;         
587
588       default:
589          /* 
590           * We shouldn't be here, unless we catch signals
591           * in main() that we can't handle here!
592           */
593          log_error(LOG_LEVEL_FATAL, "sig_handler: exiting on unexpected signal %d", the_signal);
594    }
595    return;
596
597 }
598 #endif
599
600
601 /*********************************************************************
602  *
603  * Function    :  chat
604  *
605  * Description :  Once a connection to the client has been accepted,
606  *                this function is called (via serve()) to handle the
607  *                main business of the communication.  When this
608  *                function returns, the caller must close the client
609  *                socket handle.
610  *
611  * Parameters  :
612  *          1  :  csp = Current client state (buffers, headers, etc...)
613  *
614  * Returns     :  On success, the number of bytes written are returned (zero
615  *                indicates nothing was written).  On error, -1 is returned,
616  *                and errno is set appropriately.  If count is zero and the
617  *                file descriptor refers to a regular file, 0 will be
618  *                returned without causing any other effect.  For a special
619  *                file, the results are not portable.
620  *
621  *********************************************************************/
622 static void chat(struct client_state *csp)
623 {
624 /*
625  * This next lines are a little ugly, but they simplifies the if statements
626  * below.  Basically if TOGGLE, then we want the if to test if the
627  * CSP_FLAG_TOGGLED_ON flag ist set, else we don't.  And if FEATURE_FORCE_LOAD,
628  * then we want the if to test for CSP_FLAG_FORCED , else we don't
629  */
630 #ifdef FEATURE_TOGGLE
631 #   define IS_TOGGLED_ON_AND (csp->flags & CSP_FLAG_TOGGLED_ON) &&
632 #else /* ifndef FEATURE_TOGGLE */
633 #   define IS_TOGGLED_ON_AND
634 #endif /* ndef FEATURE_TOGGLE */
635 #ifdef FEATURE_FORCE_LOAD
636 #   define IS_NOT_FORCED_AND !(csp->flags & CSP_FLAG_FORCED) &&
637 #else /* ifndef FEATURE_FORCE_LOAD */
638 #   define IS_NOT_FORCED_AND
639 #endif /* def FEATURE_FORCE_LOAD */
640
641 #define IS_ENABLED_AND   IS_TOGGLED_ON_AND IS_NOT_FORCED_AND
642
643    char buf[BUFFER_SIZE];
644    char *hdr, *p, *req;
645    fd_set rfds;
646    int n, maxfd, server_body;
647    int ms_iis5_hack = 0;
648    int byte_count = 0;
649    const struct forward_spec * fwd;
650    struct http_request *http;
651 #ifdef FEATURE_KILL_POPUPS
652    int block_popups;         /* bool, 1==will block popups */
653    int block_popups_now = 0; /* bool, 1==currently blocking popups */
654 #endif /* def FEATURE_KILL_POPUPS */
655
656    int pcrs_filter;        /* bool, 1==will filter through pcrs */
657    int gif_deanimate;      /* bool, 1==will deanimate gifs */
658
659    /* Function that does the content filtering for the current request */
660    char *(*content_filter)() = NULL;
661
662    /* Skeleton for HTTP response, if we should intercept the request */
663    struct http_response *rsp;
664
665    http = csp->http;
666
667    /*
668     * Read the client's request.  Note that since we're not using select() we
669     * could get blocked here if a client connected, then didn't say anything!
670     */
671
672    while (FOREVER)
673    {
674       n = read_socket(csp->cfd, buf, sizeof(buf));
675
676       if (n <= 0) break;      /* error! */
677
678       add_to_iob(csp, buf, n);
679
680       req = get_header(csp);
681
682       if (req == NULL)
683       {
684          break;    /* no HTTP request! */
685       }
686
687       if (*req == '\0')
688       {
689          continue;   /* more to come! */
690       }
691
692 #ifdef FEATURE_FORCE_LOAD
693       /* If this request contains the FORCE_PREFIX,
694        * better get rid of it now and set the force flag --oes
695        */
696
697       if (strstr(req, FORCE_PREFIX))
698       {
699          strclean(req, FORCE_PREFIX);
700          log_error(LOG_LEVEL_FORCE, "Enforcing request \"%s\".\n", req);
701          csp->flags |= CSP_FLAG_FORCED;
702       }
703
704 #endif /* def FEATURE_FORCE_LOAD */
705
706       parse_http_request(req, http, csp);
707       freez(req);
708       break;
709    }
710
711    if (http->cmd == NULL)
712    {
713       strcpy(buf, CHEADER);
714       write_socket(csp->cfd, buf, strlen(buf));
715
716       log_error(LOG_LEVEL_CLF, "%s - - [%T] \" \" 400 0", csp->ip_addr_str);
717
718       return;
719    }
720
721    /* decide how to route the HTTP request */
722
723    if ((fwd = forward_url(http, csp)) == NULL)
724    {
725       log_error(LOG_LEVEL_FATAL, "gateway spec is NULL!?!?  This can't happen!");
726       /* Never get here - LOG_LEVEL_FATAL causes program exit */
727    }
728
729    /* build the http request to send to the server
730     * we have to do one of the following:
731     *
732     * create = use the original HTTP request to create a new
733     *          HTTP request that has either the path component
734     *          without the http://domainspec (w/path) or the
735     *          full orininal URL (w/url)
736     *          Note that the path and/or the HTTP version may
737     *          have been altered by now.
738     *
739     * connect = Open a socket to the host:port of the server
740     *           and short-circuit server and client socket.
741     *
742     * pass =  Pass the request unchanged if forwarding a CONNECT
743     *         request to a parent proxy. Note that we'll be sending
744     *         the CFAIL message ourselves if connecting to the parent
745     *         fails, but we won't send a CSUCCEED message if it works,
746     *         since that would result in a double message (ours and the
747     *         parent's). After sending the request to the parent, we simply
748     *         tunnel.
749     *
750     * here's the matrix:
751     *                        SSL
752     *                    0        1
753     *                +--------+--------+
754     *                |        |        |
755     *             0  | create | connect|
756     *                | w/path |        |
757     *  Forwarding    +--------+--------+
758     *                |        |        |
759     *             1  | create | pass   |
760     *                | w/url  |        |
761     *                +--------+--------+
762     *
763     */
764
765    /*
766     * Determine the actions for this URL
767     */
768 #ifdef FEATURE_TOGGLE
769    if (!(csp->flags & CSP_FLAG_TOGGLED_ON))
770    {
771       /* Most compatible set of actions (i.e. none) */
772       init_current_action(csp->action);
773    }
774    else
775 #endif /* ndef FEATURE_TOGGLE */
776    {
777       url_actions(http, csp);
778    }
779
780
781    /*
782     * Check if a CONNECT request is allowable:
783     * In the absence of a +limit-connect action, allow only port 443.
784     * If there is an action, allow whatever matches the specificaton.
785     */
786    if(http->ssl)
787    {
788       if(  ( !(csp->action->flags & ACTION_LIMIT_CONNECT) && csp->http->port != 443)
789            || (csp->action->flags & ACTION_LIMIT_CONNECT
790               && !match_portlist(csp->action->string[ACTION_STRING_LIMIT_CONNECT], csp->http->port)) )
791       {
792          strcpy(buf, CFORBIDDEN);
793          write_socket(csp->cfd, buf, strlen(buf));
794
795          log_error(LOG_LEVEL_CONNECT, "Denying suspicious CONNECT request from %s", csp->ip_addr_str);
796          log_error(LOG_LEVEL_CLF, "%s - - [%T] \" \" 403 0", csp->ip_addr_str);
797
798          return;
799       }
800    }
801
802
803    /*
804     * Downgrade http version from 1.1 to 1.0 if +downgrade
805     * action applies
806     */
807    if ( (http->ssl == 0)
808      && (!strcmpic(http->ver, "HTTP/1.1"))
809      && (csp->action->flags & ACTION_DOWNGRADE))
810    {
811       freez(http->ver);
812       http->ver = strdup("HTTP/1.0");
813
814       if (http->ver == NULL)
815       {
816          log_error(LOG_LEVEL_FATAL, "Out of memory downgrading HTTP version");
817       }
818    }
819
820    /* 
821     * Save a copy of the original request for logging
822     */
823    http->ocmd = strdup(http->cmd);
824
825    if (http->ocmd == NULL)
826    {
827       log_error(LOG_LEVEL_FATAL, "Out of memory copying HTTP request line");
828    }
829
830    /*
831     * (Re)build the HTTP request for non-SSL requests.
832     * If forwarding, use the whole URL, else, use only the path.
833     */
834    if (http->ssl == 0)
835    {
836       freez(http->cmd);
837
838       http->cmd = strdup(http->gpc);
839       string_append(&http->cmd, " ");
840
841       if (fwd->forward_host)
842       {
843          string_append(&http->cmd, http->url);
844       }
845       else
846       {
847          string_append(&http->cmd, http->path);
848       }
849
850       string_append(&http->cmd, " ");
851       string_append(&http->cmd, http->ver);
852
853       if (http->cmd == NULL)
854       {
855          log_error(LOG_LEVEL_FATAL, "Out of memory rewiting SSL command");
856       }
857    }
858    enlist(csp->headers, http->cmd);
859
860
861 #ifdef FEATURE_COOKIE_JAR
862    /*
863     * If we're logging cookies in a cookie jar, and the user has not
864     * supplied any wafers, and the user has not told us to suppress the
865     * vanilla wafer, then send the vanilla wafer.
866     */
867    if ((csp->config->jarfile != NULL)
868        && list_is_empty(csp->action->multi[ACTION_MULTI_WAFER])
869        && ((csp->action->flags & ACTION_VANILLA_WAFER) != 0))
870    {
871       enlist(csp->action->multi[ACTION_MULTI_WAFER], VANILLA_WAFER);
872    }
873 #endif /* def FEATURE_COOKIE_JAR */
874
875
876 #ifdef FEATURE_KILL_POPUPS
877    block_popups               = ((csp->action->flags & ACTION_NO_POPUPS) != 0);
878 #endif /* def FEATURE_KILL_POPUPS */
879
880    pcrs_filter                = (csp->rlist != NULL) &&  /* There are expressions to be used */
881                                 ((csp->action->flags & ACTION_FILTER) != 0);
882
883    gif_deanimate              = ((csp->action->flags & ACTION_DEANIMATE) != 0);
884
885    /* grab the rest of the client's headers */
886
887    while (FOREVER)
888    {
889       if ( ( p = get_header(csp) ) && ( *p == '\0' ) )
890       {
891          n = read_socket(csp->cfd, buf, sizeof(buf));
892          if (n <= 0)
893          {
894             log_error(LOG_LEVEL_ERROR, "read from client failed: %E");
895             return;
896          }
897          add_to_iob(csp, buf, n);
898          continue;
899       }
900
901       if (p == NULL) break;
902
903       enlist(csp->headers, p);
904       freez(p);
905    }
906    /*
907     * We have a request. Now, check to see if we need to
908     * intercept it, i.e. If ..
909     */
910
911    if (
912        /* a CGI call was detected and answered */
913        (NULL != (rsp = dispatch_cgi(csp)))
914
915        /* or we are enabled and... */
916        || (IS_ENABLED_AND (
917
918             /* ..the request was blocked */
919           ( NULL != (rsp = block_url(csp)))
920
921           /* ..or untrusted */
922 #ifdef FEATURE_TRUST
923           || ( NULL != (rsp = trust_url(csp)))
924 #endif /* def FEATURE_TRUST */
925
926           /* ..or a fast redirect kicked in */
927 #ifdef FEATURE_FAST_REDIRECTS
928           || (((csp->action->flags & ACTION_FAST_REDIRECTS) != 0) &&
929                 (NULL != (rsp = redirect_url(csp))))
930 #endif /* def FEATURE_FAST_REDIRECTS */
931           ))
932       )
933    {
934       /* Write the answer to the client */
935       if ((write_socket(csp->cfd, rsp->head, rsp->head_length) != rsp->head_length)
936            || (write_socket(csp->cfd, rsp->body, rsp->content_length) != rsp->content_length))
937       {
938          log_error(LOG_LEVEL_ERROR, "write to: %s failed: %E", http->host);
939       }
940
941 #ifdef FEATURE_STATISTICS
942       /* Count as a rejected request */
943       csp->flags |= CSP_FLAG_REJECTED;
944 #endif /* def FEATURE_STATISTICS */
945
946       /* Log (FIXME: All intercept reasons apprear as "crunch" with Status 200) */
947       log_error(LOG_LEVEL_GPC, "%s%s crunch!", http->hostport, http->path);
948       log_error(LOG_LEVEL_CLF, "%s - - [%T] \"%s\" 200 3", csp->ip_addr_str, http->ocmd);
949
950       /* Clean up and return */
951       free_http_response(rsp);
952       return;
953    }
954
955    log_error(LOG_LEVEL_GPC, "%s%s", http->hostport, http->path);
956
957    if (fwd->forward_host)
958    {
959       log_error(LOG_LEVEL_CONNECT, "via %s:%d to: %s",
960                fwd->forward_host, fwd->forward_port, http->hostport);
961    }
962    else
963    {
964       log_error(LOG_LEVEL_CONNECT, "to %s", http->hostport);
965    }
966
967    /* here we connect to the server, gateway, or the forwarder */
968
969    csp->sfd = forwarded_connect(fwd, http, csp);
970
971    if (csp->sfd < 0)
972    {
973       log_error(LOG_LEVEL_CONNECT, "connect to: %s failed: %E",
974                 http->hostport);
975
976       if (errno == EINVAL)
977       {
978          rsp = error_response(csp, "no-such-domain", errno);
979
980          log_error(LOG_LEVEL_CLF, "%s - - [%T] \"%s\" 404 0",
981                    csp->ip_addr_str, http->ocmd);
982       }
983       else
984       {
985          rsp = error_response(csp, "connect-failed", errno);
986
987          log_error(LOG_LEVEL_CLF, "%s - - [%T] \"%s\" 503 0",
988                    csp->ip_addr_str, http->ocmd);
989       }
990
991
992       /* Write the answer to the client */
993       if(rsp)
994       {
995          if ((write_socket(csp->cfd, rsp->head, rsp->head_length) != rsp->head_length)
996           || (write_socket(csp->cfd, rsp->body, rsp->content_length) != rsp->content_length))
997          {
998             log_error(LOG_LEVEL_ERROR, "write to: %s failed: %E", http->host);
999          }
1000       }
1001
1002       free_http_response(rsp);
1003       return;
1004    }
1005
1006    log_error(LOG_LEVEL_CONNECT, "OK");
1007
1008    hdr = sed(client_patterns, add_client_headers, csp);
1009    if (hdr == NULL)
1010    {
1011       /* FIXME Should handle error properly */
1012       log_error(LOG_LEVEL_FATAL, "Out of memory parsing client header");
1013    }
1014
1015    list_remove_all(csp->headers);
1016
1017    if (fwd->forward_host || (http->ssl == 0))
1018    {
1019       /* write the client's (modified) header to the server
1020        * (along with anything else that may be in the buffer)
1021        */
1022
1023       n = strlen(hdr);
1024
1025       if ((write_socket(csp->sfd, hdr, n) != n)
1026           || (flush_socket(csp->sfd, csp   ) <  0))
1027       {
1028          log_error(LOG_LEVEL_CONNECT, "write header to: %s failed: %E",
1029                     http->hostport);
1030
1031          log_error(LOG_LEVEL_CLF, "%s - - [%T] \"%s\" 503 0",
1032                    csp->ip_addr_str, http->ocmd);
1033
1034          rsp = error_response(csp, "connect-failed", errno);
1035
1036          if(rsp)
1037          {
1038             if ((write_socket(csp->cfd, rsp->head, rsp->head_length) != rsp->head_length)
1039              || (write_socket(csp->cfd, rsp->body, rsp->content_length) != rsp->content_length))
1040             {
1041                log_error(LOG_LEVEL_ERROR, "write to: %s failed: %E", http->host);
1042             }
1043          }
1044
1045          free_http_response(rsp);
1046          freez(hdr);
1047          return;
1048       }
1049    }
1050    else
1051    {
1052       /*
1053        * We're running an SSL tunnel and we're not forwarding,
1054        * so just send the "connect succeeded" message to the
1055        * client, flush the rest, and get out of the way.
1056        */
1057       log_error(LOG_LEVEL_CLF, "%s - - [%T] \"%s\" 200 2\n",
1058                 csp->ip_addr_str, http->ocmd);
1059
1060       if (write_socket(csp->cfd, CSUCCEED, sizeof(CSUCCEED)-1) < 0)
1061       {
1062          freez(hdr);
1063          return;
1064       }
1065       IOB_RESET(csp);
1066    }
1067
1068    /* we're finished with the client's header */
1069    freez(hdr);
1070
1071    maxfd = ( csp->cfd > csp->sfd ) ? csp->cfd : csp->sfd;
1072
1073    /* pass data between the client and server
1074     * until one or the other shuts down the connection.
1075     */
1076
1077    server_body = 0;
1078
1079    while (FOREVER)
1080    {
1081       FD_ZERO(&rfds);
1082
1083       FD_SET(csp->cfd, &rfds);
1084       FD_SET(csp->sfd, &rfds);
1085
1086       n = select(maxfd+1, &rfds, NULL, NULL, NULL);
1087
1088       if (n < 0)
1089       {
1090          log_error(LOG_LEVEL_ERROR, "select() failed!: %E");
1091          return;
1092       }
1093
1094       /* this is the body of the browser's request
1095        * just read it and write it.
1096        */
1097
1098       if (FD_ISSET(csp->cfd, &rfds))
1099       {
1100          n = read_socket(csp->cfd, buf, sizeof(buf));
1101
1102          if (n <= 0)
1103          {
1104             break; /* "game over, man" */
1105          }
1106
1107          if (write_socket(csp->sfd, buf, n) != n)
1108          {
1109             log_error(LOG_LEVEL_ERROR, "write to: %s failed: %E", http->host);
1110             return;
1111          }
1112          continue;
1113       }
1114
1115       /*
1116        * The server wants to talk.  It could be the header or the body.
1117        * If `hdr' is null, then it's the header otherwise it's the body.
1118        * FIXME: Does `hdr' really mean `host'? No.
1119        */
1120
1121
1122       if (FD_ISSET(csp->sfd, &rfds))
1123       {
1124          fflush( 0 );
1125          n = read_socket(csp->sfd, buf, sizeof(buf) - 1);
1126
1127          if (n < 0)
1128          {
1129             log_error(LOG_LEVEL_ERROR, "read from: %s failed: %E", http->host);
1130
1131             log_error(LOG_LEVEL_CLF, "%s - - [%T] \"%s\" 503 0",
1132                       csp->ip_addr_str, http->ocmd);
1133
1134             rsp = error_response(csp, "connect-failed", errno);
1135
1136             if(rsp)
1137             {
1138                if ((write_socket(csp->cfd, rsp->head, rsp->head_length) != rsp->head_length)
1139                 || (write_socket(csp->cfd, rsp->body, rsp->content_length) != rsp->content_length))
1140                {
1141                   log_error(LOG_LEVEL_ERROR, "write to: %s failed: %E", http->host);
1142                }
1143             }
1144
1145             free_http_response(rsp);
1146             return;
1147          }
1148
1149          /* Add a trailing zero.  This lets filter_popups
1150           * use string operations.
1151           */
1152          buf[n] = '\0';
1153
1154 #ifdef FEATURE_KILL_POPUPS
1155          /* Filter the popups on this read. */
1156          if (block_popups_now)
1157          {
1158             filter_popups(buf, csp);
1159          }
1160 #endif /* def FEATURE_KILL_POPUPS */
1161
1162          /* Normally, this would indicate that we've read
1163           * as much as the server has sent us and we can
1164           * close the client connection.  However, Microsoft
1165           * in its wisdom has released IIS/5 with a bug that
1166           * prevents it from sending the trailing \r\n in
1167           * a 302 redirect header (and possibly other headers).
1168           * To work around this if we've haven't parsed
1169           * a full header we'll append a trailing \r\n
1170           * and see if this now generates a valid one.
1171           *
1172           * This hack shouldn't have any impacts.  If we've
1173           * already transmitted the header or if this is a
1174           * SSL connection, then we won't bother with this
1175           * hack.  So we only work on partially received
1176           * headers.  If we append a \r\n and this still
1177           * doesn't generate a valid header, then we won't
1178           * transmit anything to the client.
1179           */
1180          if (n == 0)
1181          {
1182
1183             if (server_body || http->ssl)
1184             {
1185                /*
1186                 * If we have been buffering up the document,
1187                 * now is the time to apply content modification
1188                 * and send the result to the client.
1189                 */
1190                if (content_filter)
1191                {
1192                   /*
1193                    * If the content filter fails, use the original
1194                    * buffer and length.
1195                    * (see p != NULL ? p : csp->iob->cur below)
1196                    */
1197                   if (NULL == (p = (*content_filter)(csp)))
1198                   {
1199                      csp->content_length = csp->iob->eod - csp->iob->cur;
1200                   }
1201
1202                   hdr = sed(server_patterns, add_server_headers, csp);
1203                   if (hdr == NULL)
1204                   {
1205                      /* FIXME Should handle error properly */
1206                      log_error(LOG_LEVEL_FATAL, "Out of memory parsing server header");
1207                   }
1208
1209                   n = strlen(hdr);
1210
1211                   if ((write_socket(csp->cfd, hdr, n) != n)
1212                       || (write_socket(csp->cfd, p != NULL ? p : csp->iob->cur, csp->content_length) != (int)csp->content_length))
1213                   {
1214                      log_error(LOG_LEVEL_ERROR, "write modified content to client failed: %E");
1215                      return;
1216                   }
1217
1218                   freez(hdr);
1219                   if (NULL != p) {
1220                      freez(p);
1221                   }
1222                }
1223
1224                break; /* "game over, man" */
1225             }
1226
1227             /*
1228              * This is NOT the body, so
1229              * Let's pretend the server just sent us a blank line.
1230              */
1231             n = sprintf(buf, "\r\n");
1232
1233             /*
1234              * Now, let the normal header parsing algorithm below do its
1235              * job.  If it fails, we'll exit instead of continuing.
1236              */
1237
1238             ms_iis5_hack = 1;
1239          }
1240
1241          /*
1242           * If this is an SSL connection or we're in the body
1243           * of the server document, just write it to the client,
1244           * unless we need to buffer the body for later content-filtering
1245           */
1246
1247          if (server_body || http->ssl)
1248          {
1249             if (content_filter)
1250             {
1251                add_to_iob(csp, buf, n);
1252
1253                /*
1254                 * If the buffer limit will be reached on the next read,
1255                 * switch to non-filtering mode, i.e. make & write the
1256                 * header, flush the socket and get out of the way.
1257                 */
1258                if (((size_t)(csp->iob->eod - csp->iob->buf)) + (size_t)BUFFER_SIZE > csp->config->buffer_limit)
1259                {
1260                   log_error(LOG_LEVEL_ERROR, "Buffer size limit reached! Flushing and stepping back.");
1261
1262                   hdr = sed(server_patterns, add_server_headers, csp);
1263                   if (hdr == NULL)
1264                   {
1265                      /* FIXME Should handle error properly */
1266                      log_error(LOG_LEVEL_FATAL, "Out of memory parsing server header");
1267                   }
1268
1269                   n   = strlen(hdr);
1270                   byte_count += n;
1271
1272                   if (((write_socket(csp->cfd, hdr, n) != n)
1273                        || (n = flush_socket(csp->cfd, csp) < 0)))
1274                   {
1275                      log_error(LOG_LEVEL_CONNECT, "write header to client failed: %E");
1276
1277                      freez(hdr);
1278                      return;
1279                   }
1280
1281                   freez(hdr);
1282                   byte_count += n;
1283
1284                   content_filter = NULL;
1285                   server_body = 1;
1286
1287                }
1288             }
1289             else
1290             {
1291                if (write_socket(csp->cfd, buf, n) != n)
1292                {
1293                   log_error(LOG_LEVEL_ERROR, "write to client failed: %E");
1294                   return;
1295                }
1296             }
1297             byte_count += n;
1298             continue;
1299          }
1300          else
1301          {
1302             /* we're still looking for the end of the
1303              * server's header ... (does that make header
1304              * parsing an "out of body experience" ?
1305              */
1306
1307             /* buffer up the data we just read */
1308             add_to_iob(csp, buf, n);
1309
1310             /* get header lines from the iob */
1311
1312             while ((p = get_header(csp)))
1313             {
1314                if (*p == '\0')
1315                {
1316                   /* see following note */
1317                   break;
1318                }
1319                enlist(csp->headers, p);
1320                freez(p);
1321             }
1322
1323             /* NOTE: there are no "empty" headers so
1324              * if the pointer `p' is not NULL we must
1325              * assume that we reached the end of the
1326              * buffer before we hit the end of the header.
1327              */
1328
1329             if (p)
1330             {
1331                if (ms_iis5_hack)
1332                {
1333                   /* Well, we tried our MS IIS/5
1334                    * hack and it didn't work.
1335                    * The header is incomplete
1336                    * and there isn't anything
1337                    * we can do about it.
1338                    */
1339                   break;
1340                }
1341                else
1342                {
1343                   /* Since we have to wait for
1344                    * more from the server before
1345                    * we can parse the headers
1346                    * we just continue here.
1347                    */
1348                   continue;
1349                }
1350             }
1351
1352             /* we have now received the entire header.
1353              * filter it and send the result to the client
1354              */
1355
1356             hdr = sed(server_patterns, add_server_headers, csp);
1357             if (hdr == NULL)
1358             {
1359                /* FIXME Should handle error properly */
1360                log_error(LOG_LEVEL_FATAL, "Out of memory parsing server header");
1361             }
1362
1363             n   = strlen(hdr);
1364
1365             /* write the server's (modified) header to
1366              * the client (along with anything else that
1367              * may be in the buffer)
1368              */
1369
1370 #ifdef FEATURE_KILL_POPUPS
1371             /* Start blocking popups if appropriate. */
1372
1373             if ((csp->content_type & CT_TEXT) &&  /* It's a text / * MIME-Type */
1374                 !http->ssl    &&                  /* We talk plaintext */
1375                 block_popups)                     /* Policy allows */
1376             {
1377                block_popups_now = 1;
1378                /*
1379                 * Filter the part of the body that came in the same read
1380                 * as the last headers:
1381                 */
1382                filter_popups(csp->iob->cur, csp);
1383             }
1384
1385 #endif /* def FEATURE_KILL_POPUPS */
1386
1387             /* Buffer and pcrs filter this if appropriate. */
1388
1389             if ((csp->content_type & CT_TEXT) &&  /* It's a text / * MIME-Type */
1390                 !http->ssl    &&                  /* We talk plaintext */
1391                 pcrs_filter)                      /* Policy allows */
1392             {
1393                content_filter = pcrs_filter_response;
1394             }
1395
1396             /* Buffer and gif_deanimate this if appropriate. */
1397
1398             if ((csp->content_type & CT_GIF)  &&  /* It's a image/gif MIME-Type */
1399                 !http->ssl    &&                  /* We talk plaintext */
1400                 gif_deanimate)                    /* Policy allows */
1401             {
1402                content_filter = gif_deanimate_response;
1403             }
1404
1405
1406             /*
1407              * Only write if we're not buffering for content modification
1408              */
1409             if (!content_filter && ((write_socket(csp->cfd, hdr, n) != n)
1410                 || (n = flush_socket(csp->cfd, csp) < 0)))
1411             {
1412                log_error(LOG_LEVEL_CONNECT, "write header to client failed: %E");
1413
1414                /* the write failed, so don't bother
1415                 * mentioning it to the client...
1416                 * it probably can't hear us anyway.
1417                 */
1418                freez(hdr);
1419                return;
1420             }
1421
1422             if(!content_filter) byte_count += n;
1423
1424             /* we're finished with the server's header */
1425
1426             freez(hdr);
1427             server_body = 1;
1428
1429             /* If this was a MS IIS/5 hack then it means
1430              * the server has already closed the
1431              * connection.  Nothing more to read.  Time
1432              * to bail.
1433              */
1434             if (ms_iis5_hack)
1435             {
1436                break;
1437             }
1438          }
1439          continue;
1440       }
1441
1442       return; /* huh? we should never get here */
1443    }
1444
1445    log_error(LOG_LEVEL_CLF, "%s - - [%T] \"%s\" 200 %d",
1446              csp->ip_addr_str, http->ocmd, byte_count);
1447 }
1448
1449
1450 /*********************************************************************
1451  *
1452  * Function    :  serve
1453  *
1454  * Description :  This is little more than chat.  We only "serve" to
1455  *                to close any socket that chat may have opened.
1456  *
1457  * Parameters  :
1458  *          1  :  csp = Current client state (buffers, headers, etc...)
1459  *
1460  * Returns     :  N/A
1461  *
1462  *********************************************************************/
1463 #ifdef AMIGA
1464 void serve(struct client_state *csp)
1465 #else /* ifndef AMIGA */
1466 static void serve(struct client_state *csp)
1467 #endif /* def AMIGA */
1468 {
1469    chat(csp);
1470    close_socket(csp->cfd);
1471
1472    if (csp->sfd >= 0)
1473    {
1474       close_socket(csp->sfd);
1475    }
1476
1477    csp->flags &= ~CSP_FLAG_ACTIVE;
1478
1479 }
1480
1481
1482 #ifdef __BEOS__
1483 /*********************************************************************
1484  *
1485  * Function    :  server_thread
1486  *
1487  * Description :  We only exist to call `serve' in a threaded environment.
1488  *
1489  * Parameters  :
1490  *          1  :  data = Current client state (buffers, headers, etc...)
1491  *
1492  * Returns     :  Always 0.
1493  *
1494  *********************************************************************/
1495 static int32 server_thread(void *data)
1496 {
1497    serve((struct client_state *) data);
1498    return 0;
1499
1500 }
1501 #endif
1502
1503
1504 /*********************************************************************
1505  *
1506  * Function    :  usage
1507  *
1508  * Description :  Print usage info & exit.
1509  *
1510  * Parameters  :  Pointer to argv[0] for identifying ourselves
1511  *
1512  * Returns     :  No. ,-)
1513  *
1514  *********************************************************************/
1515 void usage(const char *myname)
1516 {
1517    printf("JunkBuster proxy version " VERSION " (" HOME_PAGE_URL ")\n"
1518            "Usage: %s [--help] [--version] [--no-daemon] [--pidfile pidfile] [configfile]\n"
1519            "Aborting.\n", myname);
1520  
1521    exit(2);
1522
1523 }
1524
1525
1526 /*********************************************************************
1527  *
1528  * Function    :  main
1529  *
1530  * Description :  Load the config file and start the listen loop.
1531  *                This function is a lot more *sane* with the `load_config'
1532  *                and `listen_loop' functions; although it stills does
1533  *                a *little* too much for my taste.
1534  *
1535  * Parameters  :
1536  *          1  :  argc = Number of parameters (including $0).
1537  *          2  :  argv = Array of (char *)'s to the parameters.
1538  *
1539  * Returns     :  1 if : can't open config file, unrecognized directive,
1540  *                stats requested in multi-thread mode, can't open the
1541  *                log file, can't open the jar file, listen port is invalid,
1542  *                any load fails, and can't bind port.
1543  *
1544  *                Else main never returns, the process must be signaled
1545  *                to terminate execution.  Or, on Windows, use the
1546  *                "File", "Exit" menu option.
1547  *
1548  *********************************************************************/
1549 #ifdef __MINGW32__
1550 int real_main(int argc, const char *argv[])
1551 #else
1552 int main(int argc, const char *argv[])
1553 #endif
1554 {
1555    int argc_pos = 0;
1556
1557    Argc = argc;
1558    Argv = argv;
1559
1560    configfile =
1561 #if !defined(_WIN32)
1562    "config"
1563 #else
1564    "config.txt"
1565 #endif
1566       ;
1567
1568    /*
1569     * Parse the command line arguments
1570     */
1571    while (++argc_pos < argc)
1572    {
1573 #if !defined(_WIN32) || defined(_WIN_CONSOLE)
1574
1575       if (strcmp(argv[argc_pos], "--help") == 0)
1576       {
1577          usage(argv[0]);
1578       }
1579
1580       else if(strcmp(argv[argc_pos], "--version") == 0)
1581       {
1582          printf("Junkbuster version " VERSION " (" HOME_PAGE_URL ")\n");
1583          exit(0);
1584       }
1585
1586       else if (strcmp(argv[argc_pos], "--no-daemon" ) == 0)
1587       {
1588          no_daemon = 1;
1589       }
1590
1591       else if (strcmp(argv[argc_pos], "--pidfile" ) == 0)
1592       {
1593          if (++argc_pos == argc) usage(argv[0]);
1594          pidfile = strdup(argv[argc_pos]);
1595       }
1596       else
1597 #endif /* defined(_WIN32) && !defined(_WIN_CONSOLE) */
1598       {
1599          configfile = argv[argc_pos];
1600       }
1601
1602    } /* -END- while (more arguments) */
1603
1604 #if defined(unix)
1605    if ( *configfile != '/' )
1606    {
1607       char *abs_file;
1608
1609       /* make config-filename absolute here */
1610       if ( !(basedir = getcwd( NULL, 1024 )))
1611       {
1612          perror("get working dir failed");
1613          exit( 1 );
1614       }
1615
1616       if ( !(abs_file = malloc( strlen( basedir ) + strlen( configfile ) + 5 )))
1617       {
1618          perror("malloc failed");
1619          exit( 1 );
1620       }
1621       strcpy( abs_file, basedir );
1622       strcat( abs_file, "/" );
1623       strcat( abs_file, configfile );
1624       configfile = abs_file;
1625    }
1626 #endif /* defined unix */
1627
1628
1629    files->next = NULL;
1630
1631 #ifdef AMIGA
1632    InitAmiga();
1633 #elif defined(_WIN32)
1634    InitWin32();
1635 #endif
1636
1637    /*
1638     * Unix signal handling
1639     *
1640     * Catch the abort, interrupt and terminate signals for a graceful exit
1641     * Catch the hangup signal so the errlog can be reopened.
1642     * Ignore the broken pipe and child signals
1643     *  FIXME: Isn't ignoring the default for SIGCHLD anyway and why ignore SIGPIPE? 
1644     */
1645 #if !defined(_WIN32) && !defined(__OS2__) && !defined(AMIGA)
1646 {
1647    int idx;
1648    const int catched_signals[] = { SIGABRT, SIGTERM, SIGINT, SIGHUP, 0 };
1649    const int ignored_signals[] = { SIGPIPE, SIGCHLD, 0 };
1650
1651    for (idx = 0; catched_signals[idx] != 0; idx++)
1652    {
1653       if (signal(catched_signals[idx], sig_handler) == SIG_ERR)
1654       {
1655          log_error(LOG_LEVEL_FATAL, "Can't set signal-handler for signal %d: %E", catched_signals[idx]);
1656       }
1657    }
1658
1659    for (idx = 0; ignored_signals[idx] != 0; idx++)
1660    {
1661       if (signal(ignored_signals[idx], SIG_IGN) == SIG_ERR)
1662       {
1663          log_error(LOG_LEVEL_FATAL, "Can't set ignore-handler for signal %d: %E", ignored_signals[idx]);
1664       }
1665    }
1666
1667 }
1668 #else /* ifdef _WIN32 */
1669 # ifdef _WIN_CONSOLE
1670    /*
1671     * We *are* in a windows console app.
1672     * Print a verbose messages about FAQ's and such
1673     */
1674    printf(win32_blurb);
1675 # endif /* def _WIN_CONSOLE */
1676 #endif /* def _WIN32 */
1677
1678
1679    /* Initialize the CGI subsystem */
1680    cgi_init_error_messages();
1681
1682    /*
1683     * If runnig on unix and without the --nodaemon
1684     * option, become a daemon. I.e. fork, detach
1685     * from tty and get process group leadership
1686     */
1687 #if defined(unix)
1688 {
1689    pid_t pid = 0;
1690 #if 0
1691    int   fd;
1692 #endif
1693
1694    if (!no_daemon)
1695    {
1696       pid  = fork();
1697
1698       if ( pid < 0 ) /* error */
1699       {
1700          perror("fork");
1701          exit( 3 );
1702       }
1703       else if ( pid != 0 ) /* parent */
1704       {
1705          int status;
1706          pid_t wpid;
1707          /*
1708           * must check for errors
1709           * child died due to missing files aso
1710           */
1711          sleep( 1 );
1712          wpid = waitpid( pid, &status, WNOHANG );
1713          if ( wpid != 0 )
1714          {
1715             exit( 1 );
1716          }
1717          exit( 0 );
1718       }
1719       /* child */
1720 #if 1
1721       /* Should be more portable, but not as well tested */
1722       setsid();
1723 #else /* !1 */
1724 #ifdef __FreeBSD__
1725       setpgrp(0,0);
1726 #else /* ndef __FreeBSD__ */
1727       setpgrp();
1728 #endif /* ndef __FreeBSD__ */
1729       fd = open("/dev/tty", O_RDONLY);
1730       if ( fd )
1731       {
1732          /* no error check here */
1733          ioctl( fd, TIOCNOTTY,0 );
1734          close ( fd );
1735       }
1736 #endif /* 1 */
1737       /* FIXME: should close stderr (fd 2) here too, but the test
1738        * for existence
1739        * and load config file is done in listen_loop() and puts
1740        * some messages on stderr there.
1741        */
1742
1743       close( 0 );
1744       close( 1 );
1745       chdir("/");
1746
1747       write_pid_file();
1748
1749    } /* -END- if (!no_daemon) */
1750 }
1751 #endif /* defined unix */
1752
1753    listen_loop();
1754
1755    /* NOTREACHED */
1756    return(-1);
1757
1758 }
1759
1760
1761 /*********************************************************************
1762  *
1763  * Function    :  bind_port_helper
1764  *
1765  * Description :  Bind the listen port.  Handles logging, and aborts
1766  *                on failure.
1767  *
1768  * Parameters  :
1769  *          1  :  config = Junkbuster configuration.  Specifies port
1770  *                         to bind to.
1771  *
1772  * Returns     :  Port that was opened.
1773  *
1774  *********************************************************************/
1775 static int bind_port_helper(struct configuration_spec * config)
1776 {
1777    int bfd;
1778
1779    if ( (config->haddr != NULL)
1780      && (config->haddr[0] == '1')
1781      && (config->haddr[1] == '2')
1782      && (config->haddr[2] == '7')
1783      && (config->haddr[3] == '.') )
1784    {
1785       log_error(LOG_LEVEL_INFO, "Listening on port %d for local connections only",
1786                 config->hport);
1787    }
1788    else if (config->haddr == NULL)
1789    {
1790       log_error(LOG_LEVEL_INFO, "Listening on port %d on all IP addresses",
1791                 config->hport);
1792    }
1793    else
1794    {
1795       log_error(LOG_LEVEL_INFO, "Listening on port %d on IP address %s",
1796                 config->hport, config->haddr);
1797    }
1798
1799    bfd = bind_port(config->haddr, config->hport);
1800
1801    if (bfd < 0)
1802    {
1803       log_error(LOG_LEVEL_FATAL, "can't bind %s:%d: %E "
1804          "- There may be another junkbuster or some other "
1805          "proxy running on port %d",
1806          (NULL != config->haddr) ? config->haddr : "INADDR_ANY",
1807          config->hport, config->hport
1808       );
1809       /* shouldn't get here */
1810       return -1;
1811    }
1812
1813    config->need_bind = 0;
1814
1815    return bfd;
1816 }
1817
1818
1819 /*********************************************************************
1820  *
1821  * Function    :  listen_loop
1822  *
1823  * Description :  bind the listen port and enter a "FOREVER" listening loop.
1824  *
1825  * Parameters  :  N/A
1826  *
1827  * Returns     :  Never.
1828  *
1829  *********************************************************************/
1830 static void listen_loop(void)
1831 {
1832    struct client_state *csp = NULL;
1833    int bfd;
1834    struct configuration_spec * config;
1835
1836    config = load_config();
1837
1838    bfd = bind_port_helper(config);
1839
1840    while (FOREVER)
1841    {
1842 #if !defined(FEATURE_PTHREAD) && !defined(_WIN32) && !defined(__BEOS__) && !defined(AMIGA) && !defined(__OS2__)
1843       while (waitpid(-1, NULL, WNOHANG) > 0)
1844       {
1845          /* zombie children */
1846       }
1847 #endif /* !defined(FEATURE_PTHREAD) && !defined(_WIN32) && !defined(__BEOS__) && !defined(AMIGA) */
1848
1849       /*
1850        * Free data that was used by died threads
1851        */
1852       sweep();
1853
1854 #if defined(unix)
1855       /*
1856        * Re-open the errlog after HUP signal
1857        */
1858       if (received_hup_signal)
1859       {
1860          init_error_log(Argv[0], config->logfile, config->debug);
1861          received_hup_signal = 0;
1862       }
1863 #endif
1864
1865       if ( NULL == (csp = (struct client_state *) zalloc(sizeof(*csp))) )
1866       {
1867          log_error(LOG_LEVEL_FATAL, "malloc(%d) for csp failed: %E", sizeof(*csp));
1868          continue;
1869       }
1870
1871       csp->flags |= CSP_FLAG_ACTIVE;
1872       csp->sfd    = -1;
1873
1874       csp->config = config = load_config();
1875
1876       if ( config->need_bind )
1877       {
1878          /*
1879           * Since we were listening to the "old port", we will not see
1880           * a "listen" param change until the next IJB request.  So, at
1881           * least 1 more request must be made for us to find the new
1882           * setting.  I am simply closing the old socket and binding the
1883           * new one.
1884           *
1885           * Which-ever is correct, we will serve 1 more page via the
1886           * old settings.  This should probably be a "show-proxy-args"
1887           * request.  This should not be a so common of an operation
1888           * that this will hurt people's feelings.
1889           */
1890
1891          close_socket(bfd);
1892
1893          bfd = bind_port_helper(config);
1894       }
1895
1896       log_error(LOG_LEVEL_CONNECT, "accept connection ... ");
1897
1898       if (!accept_connection(csp, bfd))
1899       {
1900          log_error(LOG_LEVEL_CONNECT, "accept failed: %E");
1901
1902 #ifdef AMIGA
1903          if(!childs)
1904          {
1905             exit(1);
1906          }
1907 #endif
1908          freez(csp);
1909          continue;
1910       }
1911       else
1912       {
1913          log_error(LOG_LEVEL_CONNECT, "OK");
1914       }
1915
1916 #ifdef FEATURE_TOGGLE
1917       if (g_bToggleIJB)
1918       {
1919          csp->flags |= CSP_FLAG_TOGGLED_ON;
1920       }
1921 #endif /* def FEATURE_TOGGLE */
1922
1923       if (run_loader(csp))
1924       {
1925          log_error(LOG_LEVEL_FATAL, "a loader failed - must exit");
1926          /* Never get here - LOG_LEVEL_FATAL causes program exit */
1927       }
1928
1929 #ifdef FEATURE_ACL
1930       if (block_acl(NULL,csp))
1931       {
1932          log_error(LOG_LEVEL_CONNECT, "Connection dropped due to ACL");
1933          close_socket(csp->cfd);
1934          freez(csp);
1935          continue;
1936       }
1937 #endif /* def FEATURE_ACL */
1938
1939       /* add it to the list of clients */
1940       csp->next = clients->next;
1941       clients->next = csp;
1942
1943       if (config->multi_threaded)
1944       {
1945          int child_id;
1946
1947 /* this is a switch () statment in the C preprocessor - ugh */
1948 #undef SELECTED_ONE_OPTION
1949
1950 /* Use Pthreads in preference to native code */
1951 #if defined(FEATURE_PTHREAD) && !defined(SELECTED_ONE_OPTION)
1952 #define SELECTED_ONE_OPTION
1953          {
1954             pthread_t the_thread;
1955             pthread_attr_t attrs;
1956
1957             pthread_attr_init(&attrs);
1958             pthread_attr_setdetachstate(&attrs, PTHREAD_CREATE_DETACHED);
1959             child_id = (pthread_create(&the_thread, &attrs,
1960                (void*)serve, csp) ? -1 : 0);
1961             pthread_attr_destroy(&attrs);
1962          }
1963 #endif
1964
1965 #if defined(_WIN32) && !defined(_CYGWIN) && !defined(SELECTED_ONE_OPTION)
1966 #define SELECTED_ONE_OPTION
1967          child_id = _beginthread(
1968             (void*)serve,
1969             64 * 1024,
1970             csp);
1971 #endif
1972
1973 #if defined(__OS2__) && !defined(SELECTED_ONE_OPTION)
1974 #define SELECTED_ONE_OPTION
1975          child_id = _beginthread(
1976             serve,
1977             NULL,
1978             64 * 1024,
1979             csp);
1980 #endif
1981
1982 #if defined(__BEOS__) && !defined(SELECTED_ONE_OPTION)
1983 #define SELECTED_ONE_OPTION
1984          {
1985             thread_id tid = spawn_thread
1986                (server_thread, "server", B_NORMAL_PRIORITY, csp);
1987
1988             if ((tid >= 0) && (resume_thread(tid) == B_OK))
1989             {
1990                child_id = (int) tid;
1991             }
1992             else
1993             {
1994                child_id = -1;
1995             }
1996          }
1997 #endif
1998
1999 #if defined(AMIGA) && !defined(SELECTED_ONE_OPTION)
2000 #define SELECTED_ONE_OPTION
2001          csp->cfd = ReleaseSocket(csp->cfd, -1);
2002          if((child_id = (int)CreateNewProcTags(
2003             NP_Entry, (ULONG)server_thread,
2004             NP_Output, Output(),
2005             NP_CloseOutput, FALSE,
2006             NP_Name, (ULONG)"junkbuster child",
2007             NP_StackSize, 200*1024,
2008             TAG_DONE)))
2009          {
2010             childs++;
2011             ((struct Task *)child_id)->tc_UserData = csp;
2012             Signal((struct Task *)child_id, SIGF_SINGLE);
2013             Wait(SIGF_SINGLE);
2014          }
2015 #endif
2016
2017 #if !defined(SELECTED_ONE_OPTION)
2018          child_id = fork();
2019
2020          /* This block is only needed when using fork().
2021           * When using threads, the server thread was
2022           * created and run by the call to _beginthread().
2023           */
2024          if (child_id == 0)   /* child */
2025          {
2026             serve(csp);
2027             _exit(0);
2028
2029          }
2030          else if (child_id > 0) /* parent */
2031          {
2032             /* in a fork()'d environment, the parent's
2033              * copy of the client socket and the CSP
2034              * are not used.
2035              */
2036
2037 #if !defined(_WIN32) && defined(__CYGWIN__)
2038             wait( NULL );
2039 #endif /* !defined(_WIN32) && defined(__CYGWIN__) */
2040             close_socket(csp->cfd);
2041             csp->flags &= ~CSP_FLAG_ACTIVE;
2042          }
2043 #endif
2044
2045 #undef SELECTED_ONE_OPTION
2046 /* end of cpp switch () */
2047
2048          if (child_id < 0) /* failed */
2049          {
2050             char buf[BUFFER_SIZE];
2051
2052             log_error(LOG_LEVEL_ERROR, "can't fork: %E");
2053
2054             sprintf(buf , "JunkBuster: can't fork: errno = %d", errno);
2055
2056             write_socket(csp->cfd, buf, strlen(buf));
2057             close_socket(csp->cfd);
2058             csp->flags &= ~CSP_FLAG_ACTIVE;
2059             sleep(5);
2060             continue;
2061          }
2062       }
2063       else
2064       {
2065          serve(csp);
2066       }
2067    }
2068    /* NOTREACHED */
2069
2070 }
2071
2072
2073 /*
2074   Local Variables:
2075   tab-width: 3
2076   end:
2077 */