jcc.c

   1 const char jcc_rcs[] = "$Id: jcc.c,v 1.92.2.16 2005/04/03 20:10:50 david__schmidt Exp $";
   2 /*********************************************************************
   3  *
   4  * File        :  $Source: /cvsroot/ijbswa/current/Attic/jcc.c,v $
   5  *
   6  * Purpose     :  Main file.  Contains main() method, main loop, and
   7  *                the main connection-handling function.
   8  *
   9  * Copyright   :  Written by and Copyright (C) 2001 the SourceForge
  10  *                Privoxy team. http://www.privoxy.org/
  11  *
  12  *                Based on the Internet Junkbuster originally written
  13  *                by and Copyright (C) 1997 Anonymous Coders and
  14  *                Junkbusters Corporation.  http://www.junkbusters.com
  15  *
  16  *                This program is free software; you can redistribute it
  17  *                and/or modify it under the terms of the GNU General
  18  *                Public License as published by the Free Software
  19  *                Foundation; either version 2 of the License, or (at
  20  *                your option) any later version.
  21  *
  22  *                This program is distributed in the hope that it will
  23  *                be useful, but WITHOUT ANY WARRANTY; without even the
  24  *                implied warranty of MERCHANTABILITY or FITNESS FOR A
  25  *                PARTICULAR PURPOSE.  See the GNU General Public
  26  *                License for more details.
  27  *
  28  *                The GNU General Public License should be included with
  29  *                this file.  If not, you can view it at
  30  *                http://www.gnu.org/copyleft/gpl.html
  31  *                or write to the Free Software Foundation, Inc., 59
  32  *                Temple Place - Suite 330, Boston, MA  02111-1307, USA.
  33  *
  34  * Revisions   :
  35  *    $Log: jcc.c,v $
  36  *    Revision 1.92.2.16  2005/04/03 20:10:50  david__schmidt
  37  *    Thanks to Jindrich Makovicka for a race condition fix for the log
  38  *    file.  The race condition remains for non-pthread implementations.
  39  *    Reference patch #1175720.
  40  *
  41  *    Revision 1.92.2.15  2004/10/03 12:53:32  david__schmidt
  42  *    Add the ability to check jpeg images for invalid
  43  *    lengths of comment blocks.  Defensive strategy
  44  *    against the exploit:
  45  *       Microsoft Security Bulletin MS04-028
  46  *       Buffer Overrun in JPEG Processing (GDI+) Could
  47  *       Allow Code Execution (833987)
  48  *    Enabled with +inspect-jpegs in actions files.
  49  *
  50  *    Revision 1.92.2.14  2003/12/12 12:52:53  oes
  51  *    - Fixed usage info for non-unix platforms
  52  *    - Fixed small cmdline parsing bug
  53  *
  54  *    Revision 1.92.2.13  2003/11/27 19:20:27  oes
  55  *    Diagnostics: Now preserve the returncode of pthread_create
  56  *    in errno. Closes BR #775721. Thanks to Geoffrey Hausheer.
  57  *
  58  *    Revision 1.92.2.12  2003/07/11 11:34:19  oes
  59  *    No longer ignore SIGCHLD. Fixes bug #769381
  60  *
  61  *    Revision 1.92.2.11  2003/05/14 12:32:02  oes
  62  *    Close jarfile on graceful exit, remove stray line
  63  *
  64  *    Revision 1.92.2.10  2003/05/08 15:13:46  oes
  65  *    Cosmetics: Killed a warning, a typo and an allocation left at exit
  66  *
  67  *    Revision 1.92.2.9  2003/04/03 15:08:42  oes
  68  *    No longer rely on non-POSIX.1 extensions of getcwd().
  69  *    Fixes bug #711001
  70  *
  71  *    Revision 1.92.2.8  2003/03/31 13:12:32  oes
  72  *    Replaced setenv() by posix-compliant putenv()
  73  *    Thanks to Neil McCalden (nmcc AT users.sf.net).
  74  *
  75  *    Revision 1.92.2.7  2003/03/17 16:48:59  oes
  76  *    Added chroot ability, thanks to patch by Sviatoslav Sviridov
  77  *
  78  *    Revision 1.92.2.6  2003/03/11 11:55:00  oes
  79  *    Clean-up and extension of improvements for forked mode:
  80  *     - Child's return code now consists of flags RC_FLAG_*
  81  *     - Reporting toggle to parent now properly #ifdef'ed
  82  *     - Children now report blocking to parent. This enables
  83  *       statistics in forked mode
  84  *
  85  *    Revision 1.92.2.5  2003/03/10 23:45:32  oes
  86  *    Fixed bug #700381: Non-Threaded version now capable of being toggled.
  87  *    Children now report having been toggled through _exit(17), parents
  88  *    watch for that code and toggle themselves if found.
  89  *
  90  *    Revision 1.92.2.4  2003/03/07 03:41:04  david__schmidt
  91  *    Wrapping all *_r functions (the non-_r versions of them) with
  92  *    mutex semaphores for OSX.  Hopefully this will take care of all
  93  *    of those pesky crash reports.
  94  *
  95  *    Revision 1.92.2.3  2003/02/28 12:53:06  oes
  96  *    Fixed two mostly harmless mem leaks
  97  *
  98  *    Revision 1.92.2.2  2002/11/20 14:37:47  oes
  99  *    Fix: Head of global clients list now initialized to NULL
 100  *
 101  *    Revision 1.92.2.1  2002/09/25 14:52:24  oes
 102  *    Added basic support for OPTIONS and TRACE HTTP methods:
 103  *     - New interceptor direct_response() added in chat().
 104  *     - sed() moved to earlier in the process, so that the
 105  *       Host: header is evaluated before actions and forwarding
 106  *       are decided on.
 107  *
 108  *    Revision 1.92  2002/05/08 16:00:46  oes
 109  *    Chat's buffer handling:
 110  *     - Fixed bug with unchecked out-of-mem conditions
 111  *       while reading client request & server headers
 112  *     - No longer predict if the buffer limit will be exceeded
 113  *       in the next read -- check add_to_iob's new
 114  *       return code. If buffer couldn't be extended
 115  *       (policy or out-of-mem) while
 116  *       - reading from client: abort
 117  *       - reading server headers: send error page
 118  *       - buffering server body for filter: flush,
 119  *         and if that fails: send error page
 120  *
 121  *    Revision 1.91  2002/04/08 20:35:58  swa
 122  *    fixed JB spelling
 123  *
 124  *    Revision 1.90  2002/04/02 14:57:28  oes
 125  *    Made sending wafers independent of FEATURE_COOKIE_JAR
 126  *
 127  *    Revision 1.89  2002/03/31 17:18:59  jongfoster
 128  *    Win32 only: Enabling STRICT to fix a VC++ compile warning.
 129  *
 130  *    Revision 1.88  2002/03/27 14:32:43  david__schmidt
 131  *    More compiler warning message maintenance
 132  *
 133  *    Revision 1.87  2002/03/26 22:29:54  swa
 134  *    we have a new homepage!
 135  *
 136  *    Revision 1.86  2002/03/25 17:04:55  david__schmidt
 137  *    Workaround for closing the jarfile before load_config() comes around again
 138  *
 139  *    Revision 1.85  2002/03/24 15:23:33  jongfoster
 140  *    Name changes
 141  *
 142  *    Revision 1.84  2002/03/24 13:25:43  swa
 143  *    name change related issues
 144  *
 145  *    Revision 1.83  2002/03/16 23:54:06  jongfoster
 146  *    Adding graceful termination feature, to help look for memory leaks.
 147  *    If you enable this (which, by design, has to be done by hand
 148  *    editing config.h) and then go to http://i.j.b/die, then the program
 149  *    will exit cleanly after the *next* request.  It should free all the
 150  *    memory that was used.
 151  *
 152  *    Revision 1.82  2002/03/13 00:27:05  jongfoster
 153  *    Killing warnings
 154  *
 155  *    Revision 1.81  2002/03/12 01:42:50  oes
 156  *    Introduced modular filters
 157  *
 158  *    Revision 1.80  2002/03/11 22:07:05  david__schmidt
 159  *    OS/2 port maintenance:
 160  *    - Fixed EMX build - it had decayed a little
 161  *    - Fixed inexplicable crash during FD_ZERO - must be due to a bad macro.
 162  *      substituted a memset for now.
 163  *
 164  *    Revision 1.79  2002/03/09 20:03:52  jongfoster
 165  *    - Making various functions return int rather than size_t.
 166  *      (Undoing a recent change).  Since size_t is unsigned on
 167  *      Windows, functions like read_socket that return -1 on
 168  *      error cannot return a size_t.
 169  *
 170  *      THIS WAS A MAJOR BUG - it caused frequent, unpredictable
 171  *      crashes, and also frequently caused JB to jump to 100%
 172  *      CPU and stay there.  (Because it thought it had just
 173  *      read ((unsigned)-1) == 4Gb of data...)
 174  *
 175  *    - The signature of write_socket has changed, it now simply
 176  *      returns success=0/failure=nonzero.
 177  *
 178  *    - Trying to get rid of a few warnings --with-debug on
 179  *      Windows, I've introduced a new type "jb_socket".  This is
 180  *      used for the socket file descriptors.  On Windows, this
 181  *      is SOCKET (a typedef for unsigned).  Everywhere else, it's
 182  *      an int.  The error value can't be -1 any more, so it's
 183  *      now JB_INVALID_SOCKET (which is -1 on UNIX, and in
 184  *      Windows it maps to the #define INVALID_SOCKET.)
 185  *
 186  *    - The signature of bind_port has changed.
 187  *
 188  *    Revision 1.78  2002/03/08 21:35:04  oes
 189  *    Added optional group supplement to --user option. Will now use default group of user if no group given
 190  *
 191  *    Revision 1.77  2002/03/07 03:52:06  oes
 192  *     - Fixed compiler warnings etc
 193  *     - Improved handling of failed DNS lookups
 194  *
 195  *    Revision 1.76  2002/03/06 22:54:35  jongfoster
 196  *    Automated function-comment nitpicking.
 197  *
 198  *    Revision 1.75  2002/03/06 10:02:19  oes
 199  *    Fixed stupid bug when --user was not given
 200  *
 201  *    Revision 1.74  2002/03/06 00:49:31  jongfoster
 202  *    Fixing warning on Windows
 203  *    Making #ifdefs that refer to the same variable consistently
 204  *    use #ifdef unix rather than mixing #ifdef unix & #ifndef OS2
 205  *
 206  *    Revision 1.73  2002/03/05 23:57:30  hal9
 207  *    Stray character 's' on line 1618 was breaking build.
 208  *
 209  *    Revision 1.72  2002/03/05 21:33:45  david__schmidt
 210  *    - Re-enable OS/2 building after new parms were added
 211  *    - Fix false out of memory report when resolving CGI templates when no IP
 212  *      address is available of failed attempt (a la no such domain)
 213  *
 214  *    Revision 1.71  2002/03/05 18:13:56  oes
 215  *    Added --user option
 216  *
 217  *    Revision 1.70  2002/03/05 04:52:42  oes
 218  *    Deleted non-errlog debugging code
 219  *
 220  *    Revision 1.69  2002/03/04 23:50:00  jongfoster
 221  *    Splitting off bind_port() call into bind_port_helper(), with
 222  *    improved logging.
 223  *
 224  *    Revision 1.68  2002/03/04 20:17:32  oes
 225  *    Fixed usage info
 226  *
 227  *    Revision 1.67  2002/03/04 18:18:57  oes
 228  *    - Removed _DEBUG mode
 229  *    - Cleand up cmdline parsing
 230  *    - Introduced --no-daemon, --pidfile options
 231  *    - Cleaned up signal handling:
 232  *      - Terminate cleanly on INT, TERM and ABRT
 233  *      - Schedule logfile for re-opening on HUP
 234  *      - Ignore CHLD and PIPE
 235  *      - Leave the rest with their default handlers
 236  *      - Uniform handler registration
 237  *    - Added usage() function
 238  *    - Played styleguide police
 239  *
 240  *    Revision 1.66  2002/03/03 15:06:55  oes
 241  *    Re-enabled automatic config reloading
 242  *
 243  *    Revision 1.65  2002/03/03 14:49:11  oes
 244  *    Fixed CLF logging: Now uses client's original HTTP request
 245  *
 246  *    Revision 1.64  2002/03/03 09:18:03  joergs
 247  *    Made jumbjuster work on AmigaOS again.
 248  *
 249  *    Revision 1.63  2002/03/02 04:14:50  david__schmidt
 250  *    Clean up a little CRLF unpleasantness that suddenly appeared
 251  *
 252  *    Revision 1.62  2002/02/20 23:17:23  jongfoster
 253  *    Detecting some out-of memory conditions and exiting with a log message.
 254  *
 255  *    Revision 1.61  2002/01/17 21:01:52  jongfoster
 256  *    Moving all our URL and URL pattern parsing code to urlmatch.c.
 257  *
 258  *    Revision 1.60  2001/12/30 14:07:32  steudten
 259  *    - Add signal handling (unix)
 260  *    - Add SIGHUP handler (unix)
 261  *    - Add creation of pidfile (unix)
 262  *    - Add action 'top' in rc file (RH)
 263  *    - Add entry 'SIGNALS' to manpage
 264  *    - Add exit message to logfile (unix)
 265  *
 266  *    Revision 1.59  2001/12/13 14:07:18  oes
 267  *    Fixed Bug: 503 error page now sent OK
 268  *
 269  *    Revision 1.58  2001/11/30 23:37:24  jongfoster
 270  *    Renaming the Win32 config file to config.txt - this is almost the
 271  *    same as the corresponding UNIX name "config"
 272  *
 273  *    Revision 1.57  2001/11/16 00:47:43  jongfoster
 274  *    Changing the tty-disconnection code to use setsid().
 275  *
 276  *    Revision 1.56  2001/11/13 20:20:54  jongfoster
 277  *    Tabs->spaces, fixing a bug with missing {} around an if()
 278  *
 279  *    Revision 1.55  2001/11/13 20:14:53  jongfoster
 280  *    Patch for FreeBSD setpgrp() as suggested by Alexander Lazic
 281  *
 282  *    Revision 1.54  2001/11/07 00:03:14  steudten
 283  *    Give reliable return value if an error
 284  *    occurs not just 0 with new daemon mode.
 285  *
 286  *    Revision 1.53  2001/11/05 21:41:43  steudten
 287  *    Add changes to be a real daemon just for unix os.
 288  *    (change cwd to /, detach from controlling tty, set
 289  *    process group and session leader to the own process.
 290  *    Add DBG() Macro.
 291  *    Add some fatal-error log message for failed malloc().
 292  *    Add '-d' if compiled with 'configure --with-debug' to
 293  *    enable debug output.
 294  *
 295  *    Revision 1.52  2001/10/26 20:11:20  jongfoster
 296  *    Fixing type mismatch
 297  *
 298  *    Revision 1.51  2001/10/26 17:38:28  oes
 299  *    Cosmetics
 300  *
 301  *    Revision 1.50  2001/10/25 03:40:48  david__schmidt
 302  *    Change in porting tactics: OS/2's EMX porting layer doesn't allow multiple
 303  *    threads to call select() simultaneously.  So, it's time to do a real, live,
 304  *    native OS/2 port.  See defines for __EMX__ (the porting layer) vs. __OS2__
 305  *    (native). Both versions will work, but using __OS2__ offers multi-threading.
 306  *
 307  *    Revision 1.49  2001/10/23 21:41:35  jongfoster
 308  *    Added call to initialize the (statically-allocated of course)
 309  *    "out of memory" CGI response.
 310  *
 311  *    Revision 1.48  2001/10/10 19:56:46  jongfoster
 312  *    Moving some code that wasn't cookie-related out of an #ifdef
 313  *    FEATURE_COOKIE_JAR
 314  *
 315  *    Revision 1.47  2001/10/10 16:44:36  oes
 316  *    Added CONNECT destination port limitation check
 317  *
 318  *    Revision 1.46  2001/10/08 15:17:41  oes
 319  *    Re-enabled SSL forwarding
 320  *
 321  *    Revision 1.45  2001/10/07 15:42:11  oes
 322  *    Replaced 6 boolean members of csp with one bitmap (csp->flags)
 323  *
 324  *    Moved downgrading of the HTTP version from parse_http_request to
 325  *      chat(), since we can't decide if it is necessary before we have
 326  *      determined the actions for the URL. The HTTP command is now
 327  *      *always* re-built so the repairs need no longer be special-cased.
 328  *
 329  *    filter_popups now gets a csp pointer so it can raise the new
 330  *      CSP_FLAG_MODIFIED flag.
 331  *
 332  *    Bugfix
 333  *
 334  *    Added configurable size limit for the IOB. If the IOB grows so
 335  *      large that the next read would exceed the limit, the header
 336  *      is generated, and the header & unfiltered buffer are flushed
 337  *      to the client. Chat then continues in non-buffering,
 338  *      non-filtering body mode.
 339  *
 340  *    Revision 1.44  2001/10/02 18:13:57  oes
 341  *    Ooops
 342  *
 343  *    Revision 1.43  2001/10/02 15:32:13  oes
 344  *    Moved generation of hdr
 345  *
 346  *    Revision 1.42  2001/09/21 23:02:02  david__schmidt
 347  *    Cleaning up 2 compiler warnings on OS/2.
 348  *
 349  *    Revision 1.41  2001/09/16 17:05:14  jongfoster
 350  *    Removing unused #include showarg.h
 351  *
 352  *    Revision 1.40  2001/09/16 15:41:45  jongfoster
 353  *    Fixing signed/unsigned comparison warning.
 354  *
 355  *    Revision 1.39  2001/09/16 13:21:27  jongfoster
 356  *    Changes to use new list functions.
 357  *
 358  *    Revision 1.38  2001/09/16 13:01:46  jongfoster
 359  *    Removing redundant function call that zeroed zalloc()'d memory.
 360  *
 361  *    Revision 1.37  2001/09/10 11:12:24  oes
 362  *    Deleted unused variable
 363  *
 364  *    Revision 1.36  2001/09/10 10:56:15  oes
 365  *    Silenced compiler warnings
 366  *
 367  *    Revision 1.35  2001/07/31 14:44:22  oes
 368  *    Deleted unused size parameter from filter_popups()
 369  *
 370  *    Revision 1.34  2001/07/30 22:08:36  jongfoster
 371  *    Tidying up #defines:
 372  *    - All feature #defines are now of the form FEATURE_xxx
 373  *    - Permanently turned off WIN_GUI_EDIT
 374  *    - Permanently turned on WEBDAV and SPLIT_PROXY_ARGS
 375  *
 376  *    Revision 1.33  2001/07/29 19:32:00  jongfoster
 377  *    Renaming _main() [mingw32 only] to real_main(), for ANSI compliance.
 378  *
 379  *    Revision 1.32  2001/07/29 18:47:05  jongfoster
 380  *    Adding missing #include "loadcfg.h"
 381  *
 382  *    Revision 1.31  2001/07/29 12:17:48  oes
 383  *    Applied pthread fix by Paul Lieverse
 384  *
 385  *    Revision 1.30  2001/07/25 22:57:13  jongfoster
 386  *    __BEOS__ no longer overrides FEATURE_PTHREAD.
 387  *    This is because FEATURE_PTHREAD will soon be widely used, so I
 388  *    want to keep it simple.
 389  *
 390  *    Revision 1.29  2001/07/24 12:47:06  oes
 391  *    Applied BeOS support update by Eugenia
 392  *
 393  *    Revision 1.28  2001/07/23 13:26:12  oes
 394  *    Fixed bug in popup-killing for the first read that caused binary garbage to be sent between headers and body
 395  *
 396  *    Revision 1.27  2001/07/19 19:09:47  haroon
 397  *    - Added code to take care of the situation where while processing the first
 398  *      server response (which includes the server header), after finding the end
 399  *      of the headers we were not looking past the end of the headers for
 400  *      content modification. I enabled it for filter_popups.
 401  *      Someone else should look to see if other similar operations should be
 402  *      done to the discarded portion of the buffer.
 403  *
 404  *      Note 2001/07/20: No, the other content modification mechanisms will process
 405  *                       the whole iob later anyway. --oes
 406  *
 407  *    Revision 1.26  2001/07/18 12:31:36  oes
 408  *    cosmetics
 409  *
 410  *    Revision 1.25  2001/07/15 19:43:49  jongfoster
 411  *    Supports POSIX threads.
 412  *    Also removed some unused #includes.
 413  *
 414  *    Revision 1.24  2001/07/13 14:00:40  oes
 415  *     - Generic content modification scheme:
 416  *       Each feature has its own applicability flag that is set
 417  *       from csp->action->flags.
 418  *       Replaced the "filtering" int flag , by a function pointer
 419  *       "content_filter" to the function that will do the content
 420  *       modification. If it is != NULL, the document will be buffered
 421  *       and processed through *content_filter, which must set
 422  *       csp->content_length and return a modified copy of the body
 423  *       or return NULL (on failiure).
 424  *     - Changed csp->is_text to the more generic bitmap csp->content_type
 425  *       which can currently take the valued CT_TEXT or CT_GIF
 426  *     - Reformatting etc
 427  *     - Removed all #ifdef PCRS
 428  *
 429  *    Revision 1.23  2001/07/02 02:28:25  iwanttokeepanon
 430  *    Added "#ifdef ACL_FILES" conditional compilation to line 1291 to exclude
 431  *    the `block_acl' call.  This prevents a compilation error when the user
 432  *    does not wish to use the "ACL" feature.
 433  *
 434  *    Revision 1.22  2001/06/29 21:45:41  oes
 435  *    Indentation, CRLF->LF, Tab-> Space
 436  *
 437  *    Revision 1.21  2001/06/29 13:29:36  oes
 438  *    - Cleaned up, improved comments
 439  *    - Unified all possible interceptors (CGI,
 440  *      block, trust, fast_redirect) in one
 441  *      place, with one (CGI) answer generation
 442  *      mechansim. Much clearer now.
 443  *    - Removed the GIF image generation, which
 444  *      is now done in filters.c:block_url()
 445  *    - Made error conditions like domain lookup
 446  *      failiure or (various) problems while talking
 447  *      to the server use cgi.c:error_response()
 448  *      instead of generating HTML/HTTP in chat() (yuck!)
 449  *    - Removed logentry from cancelled commit
 450  *
 451  *    Revision 1.20  2001/06/09 10:55:28  jongfoster
 452  *    Changing BUFSIZ ==> BUFFER_SIZE
 453  *
 454  *    Revision 1.19  2001/06/07 23:12:52  jongfoster
 455  *    Replacing function pointer in struct gateway with a directly
 456  *    called function forwarded_connect().
 457  *    Replacing struct gateway with struct forward_spec
 458  *
 459  *    Revision 1.18  2001/06/03 19:12:16  oes
 460  *    introduced new cgi handling
 461  *
 462  *    Revision 1.17  2001/06/01 20:07:23  jongfoster
 463  *    Now uses action +image-blocker{} rather than config->tinygif
 464  *
 465  *    Revision 1.16  2001/06/01 18:49:17  jongfoster
 466  *    Replaced "list_share" with "list" - the tiny memory gain was not
 467  *    worth the extra complexity.
 468  *
 469  *    Revision 1.15  2001/05/31 21:24:47  jongfoster
 470  *    Changed "permission" to "action" throughout.
 471  *    Removed DEFAULT_USER_AGENT - it must now be specified manually.
 472  *    Moved vanilla wafer check into chat(), since we must now
 473  *    decide whether or not to add it based on the URL.
 474  *
 475  *    Revision 1.14  2001/05/29 20:14:01  joergs
 476  *    AmigaOS bugfix: PCRS needs a lot of stack, stacksize for child threads
 477  *    increased.
 478  *
 479  *    Revision 1.13  2001/05/29 09:50:24  jongfoster
 480  *    Unified blocklist/imagelist/permissionslist.
 481  *    File format is still under discussion, but the internal changes
 482  *    are (mostly) done.
 483  *
 484  *    Also modified interceptor behaviour:
 485  *    - We now intercept all URLs beginning with one of the following
 486  *      prefixes (and *only* these prefixes):
 487  *        * http://i.j.b/
 488  *        * http://ijbswa.sf.net/config/
 489  *        * http://ijbswa.sourceforge.net/config/
 490  *    - New interceptors "home page" - go to http://i.j.b/ to see it.
 491  *    - Internal changes so that intercepted and fast redirect pages
 492  *      are not replaced with an image.
 493  *    - Interceptors now have the option to send a binary page direct
 494  *      to the client. (i.e. ijb-send-banner uses this)
 495  *    - Implemented show-url-info interceptor.  (Which is why I needed
 496  *      the above interceptors changes - a typical URL is
 497  *      "http://i.j.b/show-url-info?url=www.somesite.com/banner.gif".
 498  *      The previous mechanism would not have intercepted that, and
 499  *      if it had been intercepted then it then it would have replaced
 500  *      it with an image.)
 501  *
 502  *    Revision 1.12  2001/05/27 22:17:04  oes
 503  *
 504  *    - re_process_buffer no longer writes the modified buffer
 505  *      to the client, which was very ugly. It now returns the
 506  *      buffer, which it is then written by chat.
 507  *
 508  *    - content_length now adjusts the Content-Length: header
 509  *      for modified documents rather than crunch()ing it.
 510  *      (Length info in csp->content_length, which is 0 for
 511  *      unmodified documents)
 512  *
 513  *    - For this to work, sed() is called twice when filtering.
 514  *
 515  *    Revision 1.11  2001/05/26 17:27:53  jongfoster
 516  *    Added support for CLF and fixed LOG_LEVEL_LOG.
 517  *    Also did CRLF->LF fix of my previous patch.
 518  *
 519  *    Revision 1.10  2001/05/26 15:26:15  jongfoster
 520  *    ACL feature now provides more security by immediately dropping
 521  *    connections from untrusted hosts.
 522  *
 523  *    Revision 1.9  2001/05/26 00:28:36  jongfoster
 524  *    Automatic reloading of config file.
 525  *    Removed obsolete SIGHUP support (Unix) and Reload menu option (Win32).
 526  *    Most of the global variables have been moved to a new
 527  *    struct configuration_spec, accessed through csp->config->globalname
 528  *    Most of the globals remaining are used by the Win32 GUI.
 529  *
 530  *    Revision 1.8  2001/05/25 22:43:18  jongfoster
 531  *    Fixing minor memory leak and buffer overflow.
 532  *
 533  *    Revision 1.7  2001/05/25 22:34:30  jongfoster
 534  *    Hard tabs->Spaces
 535  *
 536  *    Revision 1.6  2001/05/23 00:13:58  joergs
 537  *    AmigaOS support fixed.
 538  *
 539  *    Revision 1.5  2001/05/22 18:46:04  oes
 540  *
 541  *    - Enabled filtering banners by size rather than URL
 542  *      by adding patterns that replace all standard banner
 543  *      sizes with the "Junkbuster" gif to the re_filterfile
 544  *
 545  *    - Enabled filtering WebBugs by providing a pattern
 546  *      which kills all 1x1 images
 547  *
 548  *    - Added support for PCRE_UNGREEDY behaviour to pcrs,
 549  *      which is selected by the (nonstandard and therefore
 550  *      capital) letter 'U' in the option string.
 551  *      It causes the quantifiers to be ungreedy by default.
 552  *      Appending a ? turns back to greedy (!).
 553  *
 554  *    - Added a new interceptor ijb-send-banner, which
 555  *      sends back the "Junkbuster" gif. Without imagelist or
 556  *      MSIE detection support, or if tinygif = 1, or the
 557  *      URL isn't recognized as an imageurl, a lame HTML
 558  *      explanation is sent instead.
 559  *
 560  *    - Added new feature, which permits blocking remote
 561  *      script redirects and firing back a local redirect
 562  *      to the browser.
 563  *      The feature is conditionally compiled, i.e. it
 564  *      can be disabled with --disable-fast-redirects,
 565  *      plus it must be activated by a "fast-redirects"
 566  *      line in the config file, has its own log level
 567  *      and of course wants to be displayed by show-proxy-args
 568  *      Note: Boy, all the #ifdefs in 1001 locations and
 569  *      all the fumbling with configure.in and acconfig.h
 570  *      were *way* more work than the feature itself :-(
 571  *
 572  *    - Because a generic redirect template was needed for
 573  *      this, tinygif = 3 now uses the same.
 574  *
 575  *    - Moved GIFs, and other static HTTP response templates
 576  *      to project.h
 577  *
 578  *    - Some minor fixes
 579  *
 580  *    - Removed some >400 CRs again (Jon, you really worked
 581  *      a lot! ;-)
 582  *
 583  *    Revision 1.4  2001/05/21 19:34:01  jongfoster
 584  *    Made failure to bind() a fatal error.
 585  *
 586  *    Revision 1.3  2001/05/20 01:21:20  jongfoster
 587  *    Version 2.9.4 checkin.
 588  *    - Merged popupfile and cookiefile, and added control over PCRS
 589  *      filtering, in new "permissionsfile".
 590  *    - Implemented LOG_LEVEL_FATAL, so that if there is a configuration
 591  *      file error you now get a message box (in the Win32 GUI) rather
 592  *      than the program exiting with no explanation.
 593  *    - Made killpopup use the PCRS MIME-type checking and HTTP-header
 594  *      skipping.
 595  *    - Removed tabs from "config"
 596  *    - Moved duplicated url parsing code in "loaders.c" to a new funcition.
 597  *    - Bumped up version number.
 598  *
 599  *    Revision 1.2  2001/05/17 22:34:44  oes
 600  *     - Added hint on GIF char array generation to jcc.c
 601  *     - Cleaned CRLF's from the sources and related files
 602  *     - Repaired logging for REF and FRC
 603  *
 604  *    Revision 1.1.1.1  2001/05/15 13:58:56  oes
 605  *    Initial import of version 2.9.3 source tree
 606  *
 607  *
 608  *********************************************************************/
 609 \f
 610
 611 #include "config.h"
 612
 613 #include <stdio.h>
 614 #include <sys/types.h>
 615 #include <stdlib.h>
 616 #include <string.h>
 617 #include <signal.h>
 618 #include <fcntl.h>
 619 #include <errno.h>
 620
 621 #ifdef FEATURE_PTHREAD
 622 #include <pthread.h>
 623 #endif /* def FEATURE_PTHREAD */
 624
 625 #ifdef _WIN32
 626 # ifndef FEATURE_PTHREAD
 627 #  ifndef STRICT
 628 #   define STRICT
 629 #  endif
 630 #  include <windows.h>
 631 #  include <process.h>
 632 # endif /* ndef FEATURE_PTHREAD */
 633
 634 # include "win32.h"
 635 # ifndef _WIN_CONSOLE
 636 #  include "w32log.h"
 637 # endif /* ndef _WIN_CONSOLE */
 638
 639 #else /* ifndef _WIN32 */
 640
 641 # if !defined (__OS2__)
 642 # include <unistd.h>
 643 # include <sys/wait.h>
 644 # endif /* ndef __OS2__ */
 645 # include <sys/time.h>
 646 # include <sys/stat.h>
 647 # include <sys/ioctl.h>
 648
 649 #ifdef sun
 650 #include <sys/termios.h>
 651 #endif /* sun */
 652
 653 #ifdef unix
 654 #include <pwd.h>
 655 #include <grp.h>
 656 #endif
 657
 658 # include <signal.h>
 659
 660 # ifdef __BEOS__
 661 #  include <socket.h>  /* BeOS has select() for sockets only. */
 662 #  include <OS.h>      /* declarations for threads and stuff. */
 663 # endif
 664
 665 # if defined(__EMX__) || defined(__OS2__)
 666 #  include <sys/select.h>  /* OS/2/EMX needs a little help with select */
 667 # endif
 668 # ifdef __OS2__
 669 #define INCL_DOS
 670 # include <os2.h>
 671 #define bzero(B,N) memset(B,0x00,n)
 672 # endif
 673
 674 # ifndef FD_ZERO
 675 #  include <select.h>
 676 # endif
 677
 678 #endif
 679
 680 #include "project.h"
 681 #include "list.h"
 682 #include "jcc.h"
 683 #include "filters.h"
 684 #include "loaders.h"
 685 #include "parsers.h"
 686 #include "killpopup.h"
 687 #include "miscutil.h"
 688 #include "errlog.h"
 689 #include "jbsockets.h"
 690 #include "gateway.h"
 691 #include "actions.h"
 692 #include "cgi.h"
 693 #include "loadcfg.h"
 694 #include "urlmatch.h"
 695
 696 const char jcc_h_rcs[] = JCC_H_VERSION;
 697 const char project_h_rcs[] = PROJECT_H_VERSION;
 698
 699 int no_daemon = 0;
 700 struct client_state  clients[1];
 701 struct file_list     files[1];
 702
 703 #ifdef FEATURE_STATISTICS
 704 int urls_read     = 0;     /* total nr of urls read inc rejected */
 705 int urls_rejected = 0;     /* total nr of urls rejected */
 706 #endif /* def FEATURE_STATISTICS */
 707
 708 #ifdef FEATURE_GRACEFUL_TERMINATION
 709 int g_terminate = 0;
 710 #endif
 711
 712 static void listen_loop(void);
 713 static void chat(struct client_state *csp);
 714 #ifdef AMIGA
 715 void serve(struct client_state *csp);
 716 #else /* ifndef AMIGA */
 717 static void serve(struct client_state *csp);
 718 #endif /* def AMIGA */
 719
 720 #ifdef __BEOS__
 721 static int32 server_thread(void *data);
 722 #endif /* def __BEOS__ */
 723
 724 #ifdef _WIN32
 725 #define sleep(N)  Sleep(((N) * 1000))
 726 #endif
 727
 728 #ifdef __OS2__
 729 #define sleep(N)  DosSleep(((N) * 100))
 730 #endif
 731
 732 #ifdef OSX_DARWIN
 733 /*
 734  * Hit OSX over the head with a hammer.  Protect all *_r functions.
 735  */
 736 pthread_mutex_t gmtime_mutex;
 737 pthread_mutex_t localtime_mutex;
 738 pthread_mutex_t gethostbyaddr_mutex;
 739 pthread_mutex_t gethostbyname_mutex;
 740 #endif /* def OSX_DARWIN */
 741
 742 #ifdef FEATURE_PTHREAD
 743 pthread_mutex_t log_mutex;
 744 pthread_mutex_t log_init_mutex;
 745 #endif /* FEATURE_PTHREAD */
 746
 747 #if defined(unix) || defined(__EMX__)
 748 const char *basedir = NULL;
 749 const char *pidfile = NULL;
 750 int received_hup_signal = 0;
 751 #endif /* defined unix */
 752
 753 /* The vanilla wafer. */
 754 static const char VANILLA_WAFER[] =
 755    "NOTICE=TO_WHOM_IT_MAY_CONCERN_"
 756    "Do_not_send_me_any_copyrighted_information_other_than_the_"
 757    "document_that_I_am_requesting_or_any_of_its_necessary_components._"
 758    "In_particular_do_not_send_me_any_cookies_that_"
 759    "are_subject_to_a_claim_of_copyright_by_anybody._"
 760    "Take_notice_that_I_refuse_to_be_bound_by_any_license_condition_"
 761    "(copyright_or_otherwise)_applying_to_any_cookie._";
 762
 763
 764 #if !defined(_WIN32) && !defined(__OS2__) && !defined(AMIGA)
 765 /*********************************************************************
 766  *
 767  * Function    :  sig_handler
 768  *
 769  * Description :  Signal handler for different signals.
 770  *                Exit gracefully on ABRT, TERM and  INT
 771  *                or set a flag that will cause the errlog
 772  *                to be reopened by the main thread on HUP.
 773  *
 774  * Parameters  :
 775  *          1  :  the_signal = the signal cause this function to call
 776  *
 777  * Returns     :  -
 778  *
 779  *********************************************************************/
 780 static void sig_handler(int the_signal)
 781 {
 782    switch(the_signal)
 783    {
 784       case SIGABRT:
 785       case SIGTERM:
 786       case SIGINT:
 787          log_error(LOG_LEVEL_INFO, "exiting by signal %d .. bye", the_signal);
 788 #if defined(unix)
 789          unlink(pidfile);
 790 #endif /* unix */
 791          exit(the_signal);
 792          break;
 793
 794       case SIGHUP:
 795          received_hup_signal = 1;
 796          break;
 797
 798       default:
 799          /*
 800           * We shouldn't be here, unless we catch signals
 801           * in main() that we can't handle here!
 802           */
 803          log_error(LOG_LEVEL_FATAL, "sig_handler: exiting on unexpected signal %d", the_signal);
 804    }
 805    return;
 806
 807 }
 808 #endif
 809
 810
 811 /*********************************************************************
 812  *
 813  * Function    :  chat
 814  *
 815  * Description :  Once a connection to the client has been accepted,
 816  *                this function is called (via serve()) to handle the
 817  *                main business of the communication.  When this
 818  *                function returns, the caller must close the client
 819  *                socket handle.
 820  *
 821  * Parameters  :
 822  *          1  :  csp = Current client state (buffers, headers, etc...)
 823  *
 824  * Returns     :  On success, the number of bytes written are returned (zero
 825  *                indicates nothing was written).  On error, -1 is returned,
 826  *                and errno is set appropriately.  If count is zero and the
 827  *                file descriptor refers to a regular file, 0 will be
 828  *                returned without causing any other effect.  For a special
 829  *                file, the results are not portable.
 830  *
 831  *********************************************************************/
 832 static void chat(struct client_state *csp)
 833 {
 834 /*
 835  * This next lines are a little ugly, but they simplifies the if statements
 836  * below.  Basically if TOGGLE, then we want the if to test if the
 837  * CSP_FLAG_TOGGLED_ON flag ist set, else we don't.  And if FEATURE_FORCE_LOAD,
 838  * then we want the if to test for CSP_FLAG_FORCED , else we don't
 839  */
 840 #ifdef FEATURE_TOGGLE
 841 #   define IS_TOGGLED_ON_AND (csp->flags & CSP_FLAG_TOGGLED_ON) &&
 842 #else /* ifndef FEATURE_TOGGLE */
 843 #   define IS_TOGGLED_ON_AND
 844 #endif /* ndef FEATURE_TOGGLE */
 845 #ifdef FEATURE_FORCE_LOAD
 846 #   define IS_NOT_FORCED_AND !(csp->flags & CSP_FLAG_FORCED) &&
 847 #else /* ifndef FEATURE_FORCE_LOAD */
 848 #   define IS_NOT_FORCED_AND
 849 #endif /* def FEATURE_FORCE_LOAD */
 850
 851 #define IS_ENABLED_AND   IS_TOGGLED_ON_AND IS_NOT_FORCED_AND
 852
 853    char buf[BUFFER_SIZE];
 854    char *hdr;
 855    char *p;
 856    char *req;
 857    fd_set rfds;
 858    int n;
 859    jb_socket maxfd;
 860    int server_body;
 861    int ms_iis5_hack = 0;
 862    int byte_count = 0;
 863    const struct forward_spec * fwd;
 864    struct http_request *http;
 865    int len; /* for buffer sizes */
 866 #ifdef FEATURE_KILL_POPUPS
 867    int block_popups;         /* bool, 1==will block popups */
 868    int block_popups_now = 0; /* bool, 1==currently blocking popups */
 869 #endif /* def FEATURE_KILL_POPUPS */
 870
 871    int pcrs_filter;        /* bool, 1==will filter through pcrs */
 872    int gif_deanimate;      /* bool, 1==will deanimate gifs */
 873    int jpeg_inspect;       /* bool, 1==will inspect jpegs */
 874
 875    /* Function that does the content filtering for the current request */
 876    char *(*content_filter)() = NULL;
 877
 878    /* Skeleton for HTTP response, if we should intercept the request */
 879    struct http_response *rsp;
 880
 881    http = csp->http;
 882
 883    /*
 884     * Read the client's request.  Note that since we're not using select() we
 885     * could get blocked here if a client connected, then didn't say anything!
 886     */
 887
 888    for (;;)
 889    {
 890       len = read_socket(csp->cfd, buf, sizeof(buf));
 891
 892       if (len <= 0) break;      /* error! */
 893
 894       /*
 895        * If there is no memory left for buffering the
 896        * request, there is nothing we can do but hang up
 897        */
 898       if (add_to_iob(csp, buf, len))
 899       {
 900          return;
 901       }
 902
 903       req = get_header(csp);
 904
 905       if (req == NULL)
 906       {
 907          break;    /* no HTTP request! */
 908       }
 909
 910       if (*req == '\0')
 911       {
 912          continue;   /* more to come! */
 913       }
 914
 915 #ifdef FEATURE_FORCE_LOAD
 916       /* If this request contains the FORCE_PREFIX,
 917        * better get rid of it now and set the force flag --oes
 918        */
 919
 920       if (strstr(req, FORCE_PREFIX))
 921       {
 922          strclean(req, FORCE_PREFIX);
 923          log_error(LOG_LEVEL_FORCE, "Enforcing request \"%s\".\n", req);
 924          csp->flags |= CSP_FLAG_FORCED;
 925       }
 926
 927 #endif /* def FEATURE_FORCE_LOAD */
 928
 929       parse_http_request(req, http, csp);
 930       freez(req);
 931       break;
 932    }
 933
 934    if (http->cmd == NULL)
 935    {
 936       strcpy(buf, CHEADER);
 937       write_socket(csp->cfd, buf, strlen(buf));
 938
 939       log_error(LOG_LEVEL_CLF, "%s - - [%T] \" \" 400 0", csp->ip_addr_str);
 940
 941       free_http_request(http);
 942       return;
 943    }
 944
 945    /* decide how to route the HTTP request */
 946
 947    if ((fwd = forward_url(http, csp)) == NULL)
 948    {
 949       log_error(LOG_LEVEL_FATAL, "gateway spec is NULL!?!?  This can't happen!");
 950       /* Never get here - LOG_LEVEL_FATAL causes program exit */
 951    }
 952
 953    /* build the http request to send to the server
 954     * we have to do one of the following:
 955     *
 956     * create = use the original HTTP request to create a new
 957     *          HTTP request that has either the path component
 958     *          without the http://domainspec (w/path) or the
 959     *          full orininal URL (w/url)
 960     *          Note that the path and/or the HTTP version may
 961     *          have been altered by now.
 962     *
 963     * connect = Open a socket to the host:port of the server
 964     *           and short-circuit server and client socket.
 965     *
 966     * pass =  Pass the request unchanged if forwarding a CONNECT
 967     *         request to a parent proxy. Note that we'll be sending
 968     *         the CFAIL message ourselves if connecting to the parent
 969     *         fails, but we won't send a CSUCCEED message if it works,
 970     *         since that would result in a double message (ours and the
 971     *         parent's). After sending the request to the parent, we simply
 972     *         tunnel.
 973     *
 974     * here's the matrix:
 975     *                        SSL
 976     *                    0        1
 977     *                +--------+--------+
 978     *                |        |        |
 979     *             0  | create | connect|
 980     *                | w/path |        |
 981     *  Forwarding    +--------+--------+
 982     *                |        |        |
 983     *             1  | create | pass   |
 984     *                | w/url  |        |
 985     *                +--------+--------+
 986     *
 987     */
 988
 989    /*
 990     * Determine the actions for this URL
 991     */
 992 #ifdef FEATURE_TOGGLE
 993    if (!(csp->flags & CSP_FLAG_TOGGLED_ON))
 994    {
 995       /* Most compatible set of actions (i.e. none) */
 996       init_current_action(csp->action);
 997    }
 998    else
 999 #endif /* ndef FEATURE_TOGGLE */
1000    {
1001       url_actions(http, csp);
1002    }
1003
1004
1005    /*
1006     * Check if a CONNECT request is allowable:
1007     * In the absence of a +limit-connect action, allow only port 443.
1008     * If there is an action, allow whatever matches the specificaton.
1009     */
1010    if(http->ssl)
1011    {
1012       if(  ( !(csp->action->flags & ACTION_LIMIT_CONNECT) && csp->http->port != 443)
1013            || (csp->action->flags & ACTION_LIMIT_CONNECT
1014               && !match_portlist(csp->action->string[ACTION_STRING_LIMIT_CONNECT], csp->http->port)) )
1015       {
1016          strcpy(buf, CFORBIDDEN);
1017          write_socket(csp->cfd, buf, strlen(buf));
1018
1019          log_error(LOG_LEVEL_CONNECT, "Denying suspicious CONNECT request from %s", csp->ip_addr_str);
1020          log_error(LOG_LEVEL_CLF, "%s - - [%T] \" \" 403 0", csp->ip_addr_str);
1021
1022          return;
1023       }
1024    }
1025
1026
1027    /*
1028     * Downgrade http version from 1.1 to 1.0 if +downgrade
1029     * action applies
1030     */
1031    if ( (http->ssl == 0)
1032      && (!strcmpic(http->ver, "HTTP/1.1"))
1033      && (csp->action->flags & ACTION_DOWNGRADE))
1034    {
1035       freez(http->ver);
1036       http->ver = strdup("HTTP/1.0");
1037
1038       if (http->ver == NULL)
1039       {
1040          log_error(LOG_LEVEL_FATAL, "Out of memory downgrading HTTP version");
1041       }
1042    }
1043
1044    /*
1045     * Save a copy of the original request for logging
1046     */
1047    http->ocmd = strdup(http->cmd);
1048
1049    if (http->ocmd == NULL)
1050    {
1051       log_error(LOG_LEVEL_FATAL, "Out of memory copying HTTP request line");
1052    }
1053
1054    /*
1055     * (Re)build the HTTP request for non-SSL requests.
1056     * If forwarding, use the whole URL, else, use only the path.
1057     */
1058    if (http->ssl == 0)
1059    {
1060       freez(http->cmd);
1061
1062       http->cmd = strdup(http->gpc);
1063       string_append(&http->cmd, " ");
1064
1065       if (fwd->forward_host)
1066       {
1067          string_append(&http->cmd, http->url);
1068       }
1069       else
1070       {
1071          string_append(&http->cmd, http->path);
1072       }
1073       string_append(&http->cmd, " ");
1074       string_append(&http->cmd, http->ver);
1075
1076       if (http->cmd == NULL)
1077       {
1078          log_error(LOG_LEVEL_FATAL, "Out of memory writing HTTP command");
1079       }
1080       log_error(LOG_LEVEL_HEADER, "New HTTP Request-Line: %s", http->cmd);
1081    }
1082    enlist(csp->headers, http->cmd);
1083
1084
1085    /*
1086     * If the user has not supplied any wafers, and the user has not
1087     * told us to suppress the vanilla wafer, then send the vanilla wafer.
1088     */
1089    if (list_is_empty(csp->action->multi[ACTION_MULTI_WAFER])
1090        && ((csp->action->flags & ACTION_VANILLA_WAFER) != 0))
1091    {
1092       enlist(csp->action->multi[ACTION_MULTI_WAFER], VANILLA_WAFER);
1093    }
1094
1095
1096 #ifdef FEATURE_KILL_POPUPS
1097    block_popups               = ((csp->action->flags & ACTION_NO_POPUPS) != 0);
1098 #endif /* def FEATURE_KILL_POPUPS */
1099
1100    pcrs_filter                = (csp->rlist != NULL) &&  /* There are expressions to be used */
1101                                 (!list_is_empty(csp->action->multi[ACTION_MULTI_FILTER]));
1102
1103    gif_deanimate              = ((csp->action->flags & ACTION_DEANIMATE) != 0);
1104
1105    jpeg_inspect               = ((csp->action->flags & ACTION_JPEG_INSPECT) != 0);
1106
1107    /* grab the rest of the client's headers */
1108
1109    for (;;)
1110    {
1111       if ( ( ( p = get_header(csp) ) != NULL) && ( *p == '\0' ) )
1112       {
1113          len = read_socket(csp->cfd, buf, sizeof(buf));
1114          if (len <= 0)
1115          {
1116             log_error(LOG_LEVEL_ERROR, "read from client failed: %E");
1117             return;
1118          }
1119
1120          /*
1121           * If there is no memory left for buffering the
1122           * request, there is nothing we can do but hang up
1123           */
1124          if (add_to_iob(csp, buf, len))
1125          {
1126             return;
1127          }
1128          continue;
1129       }
1130
1131       if (p == NULL) break;
1132
1133       enlist(csp->headers, p);
1134       freez(p);
1135    }
1136
1137    /*
1138     * We have a request. Now, check to see if we need to
1139     * intercept it, i.e. If ..
1140     */
1141
1142    if (
1143        /* We may not forward the request by rfc2616 sect 14.31 */
1144        (NULL != (rsp = direct_response(csp)))
1145
1146        /* or a CGI call was detected and answered */
1147        || (NULL != (rsp = dispatch_cgi(csp)))
1148
1149        /* or we are enabled and... */
1150        || (IS_ENABLED_AND (
1151
1152             /* ..the request was blocked */
1153           ( NULL != (rsp = block_url(csp)))
1154
1155           /* ..or untrusted */
1156 #ifdef FEATURE_TRUST
1157           || ( NULL != (rsp = trust_url(csp)))
1158 #endif /* def FEATURE_TRUST */
1159
1160           /* ..or a fast redirect kicked in */
1161 #ifdef FEATURE_FAST_REDIRECTS
1162           || (((csp->action->flags & ACTION_FAST_REDIRECTS) != 0) &&
1163                 (NULL != (rsp = redirect_url(csp))))
1164 #endif /* def FEATURE_FAST_REDIRECTS */
1165           ))
1166       )
1167    {
1168       /* Write the answer to the client */
1169       if (write_socket(csp->cfd, rsp->head, rsp->head_length)
1170        || write_socket(csp->cfd, rsp->body, rsp->content_length))
1171       {
1172          log_error(LOG_LEVEL_ERROR, "write to: %s failed: %E", http->host);
1173       }
1174
1175 #ifdef FEATURE_STATISTICS
1176       /* Count as a rejected request */
1177       csp->flags |= CSP_FLAG_REJECTED;
1178 #endif /* def FEATURE_STATISTICS */
1179
1180       /* Log (FIXME: All intercept reasons apprear as "crunch" with Status 200) */
1181       log_error(LOG_LEVEL_GPC, "%s%s crunch!", http->hostport, http->path);
1182       log_error(LOG_LEVEL_CLF, "%s - - [%T] \"%s\" 200 3", csp->ip_addr_str, http->ocmd);
1183
1184       /* Clean up and return */
1185       free_http_response(rsp);
1186       return;
1187    }
1188
1189    hdr = sed(client_patterns, add_client_headers, csp);
1190    if (hdr == NULL)
1191    {
1192       /* FIXME Should handle error properly */
1193       log_error(LOG_LEVEL_FATAL, "Out of memory parsing client header");
1194    }
1195
1196    list_remove_all(csp->headers);
1197
1198    log_error(LOG_LEVEL_GPC, "%s%s", http->hostport, http->path);
1199
1200    if (fwd->forward_host)
1201    {
1202       log_error(LOG_LEVEL_CONNECT, "via %s:%d to: %s",
1203                fwd->forward_host, fwd->forward_port, http->hostport);
1204    }
1205    else
1206    {
1207       log_error(LOG_LEVEL_CONNECT, "to %s", http->hostport);
1208    }
1209
1210    /* here we connect to the server, gateway, or the forwarder */
1211
1212    csp->sfd = forwarded_connect(fwd, http, csp);
1213
1214    if (csp->sfd == JB_INVALID_SOCKET)
1215    {
1216       log_error(LOG_LEVEL_CONNECT, "connect to: %s failed: %E",
1217                 http->hostport);
1218
1219       if (errno == EINVAL)
1220       {
1221          rsp = error_response(csp, "no-such-domain", errno);
1222
1223          log_error(LOG_LEVEL_CLF, "%s - - [%T] \"%s\" 404 0",
1224                    csp->ip_addr_str, http->ocmd);
1225       }
1226       else
1227       {
1228          rsp = error_response(csp, "connect-failed", errno);
1229
1230          log_error(LOG_LEVEL_CLF, "%s - - [%T] \"%s\" 503 0",
1231                    csp->ip_addr_str, http->ocmd);
1232       }
1233
1234
1235       /* Write the answer to the client */
1236       if(rsp)
1237       {
1238          if (write_socket(csp->cfd, rsp->head, rsp->head_length)
1239           || write_socket(csp->cfd, rsp->body, rsp->content_length))
1240          {
1241             log_error(LOG_LEVEL_ERROR, "write to: %s failed: %E", http->host);
1242          }
1243       }
1244
1245       free_http_response(rsp);
1246       freez(hdr);
1247       return;
1248    }
1249
1250    log_error(LOG_LEVEL_CONNECT, "OK");
1251
1252    if (fwd->forward_host || (http->ssl == 0))
1253    {
1254       /* write the client's (modified) header to the server
1255        * (along with anything else that may be in the buffer)
1256        */
1257
1258       if (write_socket(csp->sfd, hdr, strlen(hdr))
1259        || (flush_socket(csp->sfd, csp) <  0))
1260       {
1261          log_error(LOG_LEVEL_CONNECT, "write header to: %s failed: %E",
1262                     http->hostport);
1263
1264          log_error(LOG_LEVEL_CLF, "%s - - [%T] \"%s\" 503 0",
1265                    csp->ip_addr_str, http->ocmd);
1266
1267          rsp = error_response(csp, "connect-failed", errno);
1268
1269          if(rsp)
1270          {
1271             if (write_socket(csp->cfd, rsp->head, rsp->head_length)
1272              || write_socket(csp->cfd, rsp->body, rsp->content_length))
1273             {
1274                log_error(LOG_LEVEL_ERROR, "write to: %s failed: %E", http->host);
1275             }
1276          }
1277
1278          free_http_response(rsp);
1279          freez(hdr);
1280          return;
1281       }
1282    }
1283    else
1284    {
1285       /*
1286        * We're running an SSL tunnel and we're not forwarding,
1287        * so just send the "connect succeeded" message to the
1288        * client, flush the rest, and get out of the way.
1289        */
1290       log_error(LOG_LEVEL_CLF, "%s - - [%T] \"%s\" 200 2\n",
1291                 csp->ip_addr_str, http->ocmd);
1292
1293       if (write_socket(csp->cfd, CSUCCEED, sizeof(CSUCCEED)-1))
1294       {
1295          freez(hdr);
1296          return;
1297       }
1298       IOB_RESET(csp);
1299    }
1300
1301    /* we're finished with the client's header */
1302    freez(hdr);
1303
1304    maxfd = ( csp->cfd > csp->sfd ) ? csp->cfd : csp->sfd;
1305
1306    /* pass data between the client and server
1307     * until one or the other shuts down the connection.
1308     */
1309
1310    server_body = 0;
1311
1312    for (;;)
1313    {
1314 #ifdef __OS2__
1315       /*
1316        * FD_ZERO here seems to point to an errant macro which crashes.
1317        * So do this by hand for now...
1318        */
1319       memset(&rfds,0x00,sizeof(fd_set));
1320 #else
1321       FD_ZERO(&rfds);
1322 #endif
1323       FD_SET(csp->cfd, &rfds);
1324       FD_SET(csp->sfd, &rfds);
1325
1326       n = select((int)maxfd+1, &rfds, NULL, NULL, NULL);
1327
1328       if (n < 0)
1329       {
1330          log_error(LOG_LEVEL_ERROR, "select() failed!: %E");
1331          return;
1332       }
1333
1334       /* this is the body of the browser's request
1335        * just read it and write it.
1336        */
1337
1338       if (FD_ISSET(csp->cfd, &rfds))
1339       {
1340          len = read_socket(csp->cfd, buf, sizeof(buf));
1341
1342          if (len <= 0)
1343          {
1344             break; /* "game over, man" */
1345          }
1346
1347          if (write_socket(csp->sfd, buf, (size_t)len))
1348          {
1349             log_error(LOG_LEVEL_ERROR, "write to: %s failed: %E", http->host);
1350             return;
1351          }
1352          continue;
1353       }
1354
1355       /*
1356        * The server wants to talk.  It could be the header or the body.
1357        * If `hdr' is null, then it's the header otherwise it's the body.
1358        * FIXME: Does `hdr' really mean `host'? No.
1359        */
1360
1361
1362       if (FD_ISSET(csp->sfd, &rfds))
1363       {
1364          fflush( 0 );
1365          len = read_socket(csp->sfd, buf, sizeof(buf) - 1);
1366
1367          if (len < 0)
1368          {
1369             log_error(LOG_LEVEL_ERROR, "read from: %s failed: %E", http->host);
1370
1371             log_error(LOG_LEVEL_CLF, "%s - - [%T] \"%s\" 503 0",
1372                       csp->ip_addr_str, http->ocmd);
1373
1374             rsp = error_response(csp, "connect-failed", errno);
1375
1376             if(rsp)
1377             {
1378                if (write_socket(csp->cfd, rsp->head, rsp->head_length)
1379                 || write_socket(csp->cfd, rsp->body, rsp->content_length))
1380                {
1381                   log_error(LOG_LEVEL_ERROR, "write to: %s failed: %E", http->host);
1382                }
1383             }
1384
1385             free_http_response(rsp);
1386             return;
1387          }
1388
1389          /* Add a trailing zero.  This lets filter_popups
1390           * use string operations.
1391           */
1392          buf[len] = '\0';
1393
1394 #ifdef FEATURE_KILL_POPUPS
1395          /* Filter the popups on this read. */
1396          if (block_popups_now)
1397          {
1398             filter_popups(buf, csp);
1399          }
1400 #endif /* def FEATURE_KILL_POPUPS */
1401
1402          /* Normally, this would indicate that we've read
1403           * as much as the server has sent us and we can
1404           * close the client connection.  However, Microsoft
1405           * in its wisdom has released IIS/5 with a bug that
1406           * prevents it from sending the trailing \r\n in
1407           * a 302 redirect header (and possibly other headers).
1408           * To work around this if we've haven't parsed
1409           * a full header we'll append a trailing \r\n
1410           * and see if this now generates a valid one.
1411           *
1412           * This hack shouldn't have any impacts.  If we've
1413           * already transmitted the header or if this is a
1414           * SSL connection, then we won't bother with this
1415           * hack.  So we only work on partially received
1416           * headers.  If we append a \r\n and this still
1417           * doesn't generate a valid header, then we won't
1418           * transmit anything to the client.
1419           */
1420          if (len == 0)
1421          {
1422
1423             if (server_body || http->ssl)
1424             {
1425                /*
1426                 * If we have been buffering up the document,
1427                 * now is the time to apply content modification
1428                 * and send the result to the client.
1429                 */
1430                if (content_filter)
1431                {
1432                   /*
1433                    * If the content filter fails, use the original
1434                    * buffer and length.
1435                    * (see p != NULL ? p : csp->iob->cur below)
1436                    */
1437                   if (NULL == (p = (*content_filter)(csp)))
1438                   {
1439                      csp->content_length = csp->iob->eod - csp->iob->cur;
1440                   }
1441
1442                   hdr = sed(server_patterns, add_server_headers, csp);
1443                   if (hdr == NULL)
1444                   {
1445                      /* FIXME Should handle error properly */
1446                      log_error(LOG_LEVEL_FATAL, "Out of memory parsing server header");
1447                   }
1448
1449                   if (write_socket(csp->cfd, hdr, strlen(hdr))
1450                    || write_socket(csp->cfd, p != NULL ? p : csp->iob->cur, csp->content_length))
1451                   {
1452                      log_error(LOG_LEVEL_ERROR, "write modified content to client failed: %E");
1453                      freez(hdr);
1454                      freez(p);
1455                      return;
1456                   }
1457
1458                   freez(hdr);
1459                   freez(p);
1460                }
1461
1462                break; /* "game over, man" */
1463             }
1464
1465             /*
1466              * This is NOT the body, so
1467              * Let's pretend the server just sent us a blank line.
1468              */
1469             len = sprintf(buf, "\r\n");
1470
1471             /*
1472              * Now, let the normal header parsing algorithm below do its
1473              * job.  If it fails, we'll exit instead of continuing.
1474              */
1475
1476             ms_iis5_hack = 1;
1477          }
1478
1479          /*
1480           * If this is an SSL connection or we're in the body
1481           * of the server document, just write it to the client,
1482           * unless we need to buffer the body for later content-filtering
1483           */
1484
1485          if (server_body || http->ssl)
1486          {
1487             if (content_filter)
1488             {
1489                /*
1490                 * If there is no memory left for buffering the content, or the buffer limit
1491                 * has been reached, switch to non-filtering mode, i.e. make & write the
1492                 * header, flush the iob and buf, and get out of the way.
1493                 */
1494                if (add_to_iob(csp, buf, len))
1495                {
1496                   size_t hdrlen;
1497                   int flushed;
1498
1499                   log_error(LOG_LEVEL_ERROR, "Flushing header and buffers. Stepping back from filtering.");
1500
1501                   hdr = sed(server_patterns, add_server_headers, csp);
1502                   if (hdr == NULL)
1503                   {
1504                      /*
1505                       * Memory is too tight to even generate the header.
1506                       * Send our static "Out-of-memory" page.
1507                       */
1508                      log_error(LOG_LEVEL_ERROR, "Out of memory while trying to flush.");
1509                      rsp = cgi_error_memory();
1510
1511                      if (write_socket(csp->cfd, rsp->head, rsp->head_length)
1512                          || write_socket(csp->cfd, rsp->body, rsp->content_length))
1513                      {
1514                         log_error(LOG_LEVEL_ERROR, "write to: %s failed: %E", http->host);
1515                      }
1516                      return;
1517                   }
1518
1519                   hdrlen = strlen(hdr);
1520
1521                   if (write_socket(csp->cfd, hdr, hdrlen)
1522                    || ((flushed = flush_socket(csp->cfd, csp)) < 0)
1523                    || (write_socket(csp->cfd, buf, (size_t) len)))
1524                   {
1525                      log_error(LOG_LEVEL_CONNECT, "Flush header and buffers to client failed: %E");
1526
1527                      freez(hdr);
1528                      return;
1529                   }
1530
1531                   byte_count += hdrlen + flushed + len;
1532                   freez(hdr);
1533                   content_filter = NULL;
1534                   server_body = 1;
1535
1536                }
1537             }
1538             else
1539             {
1540                if (write_socket(csp->cfd, buf, (size_t)len))
1541                {
1542                   log_error(LOG_LEVEL_ERROR, "write to client failed: %E");
1543                   return;
1544                }
1545             }
1546             byte_count += len;
1547             continue;
1548          }
1549          else
1550          {
1551             /* we're still looking for the end of the
1552              * server's header ... (does that make header
1553              * parsing an "out of body experience" ?
1554              */
1555
1556             /*
1557              * buffer up the data we just read.  If that fails,
1558              * there's little we can do but send our static
1559              * out-of-memory page.
1560              */
1561             if (add_to_iob(csp, buf, len))
1562             {
1563                log_error(LOG_LEVEL_ERROR, "Out of memory while looking for end of server headers.");
1564                rsp = cgi_error_memory();
1565
1566                if (write_socket(csp->cfd, rsp->head, rsp->head_length)
1567                    || write_socket(csp->cfd, rsp->body, rsp->content_length))
1568                {
1569                   log_error(LOG_LEVEL_ERROR, "write to: %s failed: %E", http->host);
1570                }
1571                return;
1572             }
1573
1574             /* get header lines from the iob */
1575
1576             while ((p = get_header(csp)) != NULL)
1577             {
1578                if (*p == '\0')
1579                {
1580                   /* see following note */
1581                   break;
1582                }
1583                enlist(csp->headers, p);
1584                freez(p);
1585             }
1586
1587             /* NOTE: there are no "empty" headers so
1588              * if the pointer `p' is not NULL we must
1589              * assume that we reached the end of the
1590              * buffer before we hit the end of the header.
1591              */
1592
1593             if (p)
1594             {
1595                if (ms_iis5_hack)
1596                {
1597                   /* Well, we tried our MS IIS/5
1598                    * hack and it didn't work.
1599                    * The header is incomplete
1600                    * and there isn't anything
1601                    * we can do about it.
1602                    */
1603                   break;
1604                }
1605                else
1606                {
1607                   /* Since we have to wait for
1608                    * more from the server before
1609                    * we can parse the headers
1610                    * we just continue here.
1611                    */
1612                   continue;
1613                }
1614             }
1615
1616             /* we have now received the entire header.
1617              * filter it and send the result to the client
1618              */
1619
1620             hdr = sed(server_patterns, add_server_headers, csp);
1621             if (hdr == NULL)
1622             {
1623                /* FIXME Should handle error properly */
1624                log_error(LOG_LEVEL_FATAL, "Out of memory parsing server header");
1625             }
1626
1627 #ifdef FEATURE_KILL_POPUPS
1628             /* Start blocking popups if appropriate. */
1629
1630             if ((csp->content_type & CT_TEXT) &&  /* It's a text / * MIME-Type */
1631                 !http->ssl    &&                  /* We talk plaintext */
1632                 block_popups)                     /* Policy allows */
1633             {
1634                block_popups_now = 1;
1635                /*
1636                 * Filter the part of the body that came in the same read
1637                 * as the last headers:
1638                 */
1639                filter_popups(csp->iob->cur, csp);
1640             }
1641
1642 #endif /* def FEATURE_KILL_POPUPS */
1643
1644             /* Buffer and pcrs filter this if appropriate. */
1645
1646             if ((csp->content_type & CT_TEXT) &&  /* It's a text / * MIME-Type */
1647                 !http->ssl    &&                  /* We talk plaintext */
1648                 pcrs_filter)                      /* Policy allows */
1649             {
1650                content_filter = pcrs_filter_response;
1651             }
1652
1653             /* Buffer and gif_deanimate this if appropriate. */
1654
1655             if ((csp->content_type & CT_GIF)  &&  /* It's an image/gif MIME-Type */
1656                 !http->ssl    &&                  /* We talk plaintext */
1657                 gif_deanimate)                    /* Policy allows */
1658             {
1659                content_filter = gif_deanimate_response;
1660             }
1661
1662             /* Buffer and jpg_inspect this if appropriate. */
1663
1664             if ((csp->content_type & CT_JPEG)  &&  /* It's an image/jpeg MIME-Type */
1665                 !http->ssl    &&                   /* We talk plaintext */
1666                 jpeg_inspect)                      /* Policy allows */
1667             {
1668                content_filter = jpeg_inspect_response;
1669             }
1670
1671             /*
1672              * Only write if we're not buffering for content modification
1673              */
1674             if (!content_filter)
1675             {
1676                /* write the server's (modified) header to
1677                 * the client (along with anything else that
1678                 * may be in the buffer)
1679                 */
1680
1681                if (write_socket(csp->cfd, hdr, strlen(hdr))
1682                 || ((len = flush_socket(csp->cfd, csp)) < 0))
1683                {
1684                   log_error(LOG_LEVEL_CONNECT, "write header to client failed: %E");
1685
1686                   /* the write failed, so don't bother
1687                    * mentioning it to the client...
1688                    * it probably can't hear us anyway.
1689                    */
1690                   freez(hdr);
1691                   return;
1692                }
1693
1694                byte_count += len;
1695             }
1696
1697             /* we're finished with the server's header */
1698
1699             freez(hdr);
1700             server_body = 1;
1701
1702             /* If this was a MS IIS/5 hack then it means
1703              * the server has already closed the
1704              * connection.  Nothing more to read.  Time
1705              * to bail.
1706              */
1707             if (ms_iis5_hack)
1708             {
1709                break;
1710             }
1711          }
1712          continue;
1713       }
1714
1715       return; /* huh? we should never get here */
1716    }
1717
1718    log_error(LOG_LEVEL_CLF, "%s - - [%T] \"%s\" 200 %d",
1719              csp->ip_addr_str, http->ocmd, byte_count);
1720 }
1721
1722
1723 /*********************************************************************
1724  *
1725  * Function    :  serve
1726  *
1727  * Description :  This is little more than chat.  We only "serve" to
1728  *                to close any socket that chat may have opened.
1729  *
1730  * Parameters  :
1731  *          1  :  csp = Current client state (buffers, headers, etc...)
1732  *
1733  * Returns     :  N/A
1734  *
1735  *********************************************************************/
1736 #ifdef AMIGA
1737 void serve(struct client_state *csp)
1738 #else /* ifndef AMIGA */
1739 static void serve(struct client_state *csp)
1740 #endif /* def AMIGA */
1741 {
1742    chat(csp);
1743    close_socket(csp->cfd);
1744
1745    if (csp->sfd != JB_INVALID_SOCKET)
1746    {
1747       close_socket(csp->sfd);
1748    }
1749
1750    csp->flags &= ~CSP_FLAG_ACTIVE;
1751
1752 }
1753
1754
1755 #ifdef __BEOS__
1756 /*********************************************************************
1757  *
1758  * Function    :  server_thread
1759  *
1760  * Description :  We only exist to call `serve' in a threaded environment.
1761  *
1762  * Parameters  :
1763  *          1  :  data = Current client state (buffers, headers, etc...)
1764  *
1765  * Returns     :  Always 0.
1766  *
1767  *********************************************************************/
1768 static int32 server_thread(void *data)
1769 {
1770    serve((struct client_state *) data);
1771    return 0;
1772
1773 }
1774 #endif
1775
1776
1777 /*********************************************************************
1778  *
1779  * Function    :  usage
1780  *
1781  * Description :  Print usage info & exit.
1782  *
1783  * Parameters  :  Pointer to argv[0] for identifying ourselves
1784  *
1785  * Returns     :  No. ,-)
1786  *
1787  *********************************************************************/
1788 void usage(const char *myname)
1789 {
1790    printf("Privoxy version " VERSION " (" HOME_PAGE_URL ")\n"
1791 #if !defined(unix)
1792            "Usage: %s [--help] [--version] [configfile]\n"
1793 #else
1794            "Usage: %s [--help] [--version] [--no-daemon] [--pidfile pidfile] [--user user[.group]] [configfile]\n"
1795 #endif
1796            "Aborting.\n", myname);
1797
1798    exit(2);
1799
1800 }
1801
1802
1803 /*********************************************************************
1804  *
1805  * Function    :  main
1806  *
1807  * Description :  Load the config file and start the listen loop.
1808  *                This function is a lot more *sane* with the `load_config'
1809  *                and `listen_loop' functions; although it stills does
1810  *                a *little* too much for my taste.
1811  *
1812  * Parameters  :
1813  *          1  :  argc = Number of parameters (including $0).
1814  *          2  :  argv = Array of (char *)'s to the parameters.
1815  *
1816  * Returns     :  1 if : can't open config file, unrecognized directive,
1817  *                stats requested in multi-thread mode, can't open the
1818  *                log file, can't open the jar file, listen port is invalid,
1819  *                any load fails, and can't bind port.
1820  *
1821  *                Else main never returns, the process must be signaled
1822  *                to terminate execution.  Or, on Windows, use the
1823  *                "File", "Exit" menu option.
1824  *
1825  *********************************************************************/
1826 #ifdef __MINGW32__
1827 int real_main(int argc, const char *argv[])
1828 #else
1829 int main(int argc, const char *argv[])
1830 #endif
1831 {
1832    int argc_pos = 0;
1833 #ifdef unix
1834    struct passwd *pw = NULL;
1835    struct group *grp = NULL;
1836    char *p;
1837    int do_chroot = 0;
1838 #endif
1839
1840    Argc = argc;
1841    Argv = argv;
1842
1843    configfile =
1844 #if !defined(_WIN32)
1845    "config"
1846 #else
1847    "config.txt"
1848 #endif
1849       ;
1850
1851    /*
1852     * Parse the command line arguments
1853     */
1854    while (++argc_pos < argc)
1855    {
1856       if (strcmp(argv[argc_pos], "--help") == 0)
1857       {
1858          usage(argv[0]);
1859       }
1860
1861       else if(strcmp(argv[argc_pos], "--version") == 0)
1862       {
1863          printf("Privoxy version " VERSION " (" HOME_PAGE_URL ")\n");
1864          exit(0);
1865       }
1866
1867 #if defined(unix)
1868
1869      else if (strcmp(argv[argc_pos], "--no-daemon" ) == 0)
1870       {
1871          no_daemon = 1;
1872       }
1873
1874       else if (strcmp(argv[argc_pos], "--pidfile" ) == 0)
1875       {
1876          if (++argc_pos == argc) usage(argv[0]);
1877          pidfile = strdup(argv[argc_pos]);
1878       }
1879
1880       else if (strcmp(argv[argc_pos], "--user" ) == 0)
1881       {
1882          if (++argc_pos == argc) usage(argv[argc_pos]);
1883
1884          if ((NULL != (p = strchr(argv[argc_pos], '.'))) && *(p + 1) != '0')
1885          {
1886             *p++ = '\0';
1887             if (NULL == (grp = getgrnam(p)))
1888             {
1889                log_error(LOG_LEVEL_FATAL, "Group %s not found.", p);
1890             }
1891          }
1892
1893          if (NULL == (pw = getpwnam(argv[argc_pos])))
1894          {
1895             log_error(LOG_LEVEL_FATAL, "User %s not found.", argv[argc_pos]);
1896          }
1897
1898          if (p != NULL) *--p = '\0';
1899       }
1900
1901       else if (strcmp(argv[argc_pos], "--chroot" ) == 0)
1902       {
1903          do_chroot = 1;
1904       }
1905
1906 #endif /* defined(unix) */
1907
1908       else
1909       {
1910          configfile = argv[argc_pos];
1911       }
1912
1913    } /* -END- while (more arguments) */
1914
1915 #if defined(unix)
1916    if ( *configfile != '/' )
1917    {
1918       char *abs_file, cwd[1024];
1919
1920       /* make config-filename absolute here */
1921       if ( !(getcwd(cwd, sizeof(cwd))))
1922       {
1923          perror("get working dir failed");
1924          exit( 1 );
1925       }
1926
1927       if (!(basedir = strdup(cwd))
1928       || (!(abs_file = malloc( strlen( basedir ) + strlen( configfile ) + 5 ))))
1929       {
1930          perror("malloc failed");
1931          exit( 1 );
1932       }
1933       strcpy( abs_file, basedir );
1934       strcat( abs_file, "/" );
1935       strcat( abs_file, configfile );
1936       configfile = abs_file;
1937    }
1938 #endif /* defined unix */
1939
1940
1941    files->next = NULL;
1942    clients->next = NULL;
1943
1944 #ifdef AMIGA
1945    InitAmiga();
1946 #elif defined(_WIN32)
1947    InitWin32();
1948 #endif
1949
1950 #ifdef OSX_DARWIN
1951    /*
1952     * Prepare global mutex semaphores
1953     */
1954    pthread_mutex_init(&gmtime_mutex,0);
1955    pthread_mutex_init(&localtime_mutex,0);
1956    pthread_mutex_init(&gethostbyaddr_mutex,0);
1957    pthread_mutex_init(&gethostbyname_mutex,0);
1958 #endif /* def OSX_DARWIN */
1959
1960 #ifdef FEATURE_PTHREAD
1961    pthread_mutex_init(&log_mutex,0);
1962    pthread_mutex_init(&log_init_mutex,0);
1963 #endif /* FEATURE_PTHREAD */
1964
1965    /*
1966     * Unix signal handling
1967     *
1968     * Catch the abort, interrupt and terminate signals for a graceful exit
1969     * Catch the hangup signal so the errlog can be reopened.
1970     * Ignore the broken pipe signals (FIXME: Why?)
1971     */
1972 #if !defined(_WIN32) && !defined(__OS2__) && !defined(AMIGA)
1973 {
1974    int idx;
1975    const int catched_signals[] = { SIGABRT, SIGTERM, SIGINT, SIGHUP, 0 };
1976    const int ignored_signals[] = { SIGPIPE, 0 };
1977
1978    for (idx = 0; catched_signals[idx] != 0; idx++)
1979    {
1980       if (signal(catched_signals[idx], sig_handler) == SIG_ERR)
1981       {
1982          log_error(LOG_LEVEL_FATAL, "Can't set signal-handler for signal %d: %E", catched_signals[idx]);
1983       }
1984    }
1985
1986    for (idx = 0; ignored_signals[idx] != 0; idx++)
1987    {
1988       if (signal(ignored_signals[idx], SIG_IGN) == SIG_ERR)
1989       {
1990          log_error(LOG_LEVEL_FATAL, "Can't set ignore-handler for signal %d: %E", ignored_signals[idx]);
1991       }
1992    }
1993
1994 }
1995 #else /* ifdef _WIN32 */
1996 # ifdef _WIN_CONSOLE
1997    /*
1998     * We *are* in a windows console app.
1999     * Print a verbose messages about FAQ's and such
2000     */
2001    printf(win32_blurb);
2002 # endif /* def _WIN_CONSOLE */
2003 #endif /* def _WIN32 */
2004
2005
2006    /* Initialize the CGI subsystem */
2007    cgi_init_error_messages();
2008
2009    /*
2010     * If runnig on unix and without the --nodaemon
2011     * option, become a daemon. I.e. fork, detach
2012     * from tty and get process group leadership
2013     */
2014 #if defined(unix)
2015 {
2016    pid_t pid = 0;
2017 #if 0
2018    int   fd;
2019 #endif
2020
2021    if (!no_daemon)
2022    {
2023       pid  = fork();
2024
2025       if ( pid < 0 ) /* error */
2026       {
2027          perror("fork");
2028          exit( 3 );
2029       }
2030       else if ( pid != 0 ) /* parent */
2031       {
2032          int status;
2033          pid_t wpid;
2034          /*
2035           * must check for errors
2036           * child died due to missing files aso
2037           */
2038          sleep( 1 );
2039          wpid = waitpid( pid, &status, WNOHANG );
2040          if ( wpid != 0 )
2041          {
2042             exit( 1 );
2043          }
2044          exit( 0 );
2045       }
2046       /* child */
2047 #if 1
2048       /* Should be more portable, but not as well tested */
2049       setsid();
2050 #else /* !1 */
2051 #ifdef __FreeBSD__
2052       setpgrp(0,0);
2053 #else /* ndef __FreeBSD__ */
2054       setpgrp();
2055 #endif /* ndef __FreeBSD__ */
2056       fd = open("/dev/tty", O_RDONLY);
2057       if ( fd )
2058       {
2059          /* no error check here */
2060          ioctl( fd, TIOCNOTTY,0 );
2061          close ( fd );
2062       }
2063 #endif /* 1 */
2064       /* FIXME: should close stderr (fd 2) here too, but the test
2065        * for existence
2066        * and load config file is done in listen_loop() and puts
2067        * some messages on stderr there.
2068        */
2069
2070       close( 0 );
2071       close( 1 );
2072       chdir("/");
2073
2074    } /* -END- if (!no_daemon) */
2075
2076    /*
2077     * As soon as we have written the PID file, we can switch
2078     * to the user and group ID indicated by the --user option
2079     */
2080    write_pid_file();
2081
2082    if (NULL != pw)
2083    {
2084       if (((NULL != grp) && setgid(grp->gr_gid)) || (setgid(pw->pw_gid)))
2085       {
2086          log_error(LOG_LEVEL_FATAL, "Cannot setgid(): Insufficient permissions.");
2087       }
2088       if (do_chroot)
2089       {
2090          if (!pw->pw_dir)
2091          {
2092             log_error(LOG_LEVEL_FATAL, "Home directory for %s undefined", pw->pw_name);
2093          }
2094          if (chroot(pw->pw_dir) < 0)
2095          {
2096             log_error(LOG_LEVEL_FATAL, "Cannot chroot to %s", pw->pw_dir);
2097          }
2098          if (chdir ("/"))
2099          {
2100             log_error(LOG_LEVEL_FATAL, "Cannot chdir /");
2101          }
2102       }
2103       if (setuid(pw->pw_uid))
2104       {
2105          log_error(LOG_LEVEL_FATAL, "Cannot setuid(): Insufficient permissions.");
2106       }
2107       if (do_chroot)
2108       {
2109          char putenv_dummy[64];
2110
2111          strcpy(putenv_dummy, "HOME=/");
2112          if (putenv(putenv_dummy) != 0)
2113          {
2114             log_error(LOG_LEVEL_FATAL, "Cannot putenv(): HOME");
2115          }
2116
2117          snprintf(putenv_dummy, 64, "USER=%s", pw->pw_name);
2118          if (putenv(putenv_dummy) != 0)
2119          {
2120             log_error(LOG_LEVEL_FATAL, "Cannot putenv(): USER");
2121          }
2122       }
2123    }
2124    else if (do_chroot)
2125    {
2126       log_error(LOG_LEVEL_FATAL, "Cannot chroot without --user argument.");
2127    }
2128 }
2129 #endif /* defined unix */
2130
2131    listen_loop();
2132
2133    /* NOTREACHED */
2134    return(-1);
2135
2136 }
2137
2138
2139 /*********************************************************************
2140  *
2141  * Function    :  bind_port_helper
2142  *
2143  * Description :  Bind the listen port.  Handles logging, and aborts
2144  *                on failure.
2145  *
2146  * Parameters  :
2147  *          1  :  config = Privoxy configuration.  Specifies port
2148  *                         to bind to.
2149  *
2150  * Returns     :  Port that was opened.
2151  *
2152  *********************************************************************/
2153 static jb_socket bind_port_helper(struct configuration_spec * config)
2154 {
2155    int result;
2156    jb_socket bfd;
2157
2158    if ( (config->haddr != NULL)
2159      && (config->haddr[0] == '1')
2160      && (config->haddr[1] == '2')
2161      && (config->haddr[2] == '7')
2162      && (config->haddr[3] == '.') )
2163    {
2164       log_error(LOG_LEVEL_INFO, "Listening on port %d for local connections only",
2165                 config->hport);
2166    }
2167    else if (config->haddr == NULL)
2168    {
2169       log_error(LOG_LEVEL_INFO, "Listening on port %d on all IP addresses",
2170                 config->hport);
2171    }
2172    else
2173    {
2174       log_error(LOG_LEVEL_INFO, "Listening on port %d on IP address %s",
2175                 config->hport, config->haddr);
2176    }
2177
2178    result = bind_port(config->haddr, config->hport, &bfd);
2179
2180    if (result < 0)
2181    {
2182       switch(result)
2183       {
2184          case -3 :
2185             log_error(LOG_LEVEL_FATAL, "can't bind to %s:%d: "
2186                "There may be another Privoxy or some other "
2187                "proxy running on port %d",
2188                (NULL != config->haddr) ? config->haddr : "INADDR_ANY",
2189                       config->hport, config->hport);
2190
2191          case -2 :
2192             log_error(LOG_LEVEL_FATAL, "can't bind to %s:%d: "
2193                "The hostname is not resolvable",
2194                (NULL != config->haddr) ? config->haddr : "INADDR_ANY", config->hport);
2195
2196          default :
2197             log_error(LOG_LEVEL_FATAL, "can't bind to %s:%d: because %E",
2198                (NULL != config->haddr) ? config->haddr : "INADDR_ANY", config->hport);
2199       }
2200
2201       /* shouldn't get here */
2202       return JB_INVALID_SOCKET;
2203    }
2204
2205    config->need_bind = 0;
2206
2207    return bfd;
2208 }
2209
2210
2211 /*********************************************************************
2212  *
2213  * Function    :  listen_loop
2214  *
2215  * Description :  bind the listen port and enter a "FOREVER" listening loop.
2216  *
2217  * Parameters  :  N/A
2218  *
2219  * Returns     :  Never.
2220  *
2221  *********************************************************************/
2222 static void listen_loop(void)
2223 {
2224    struct client_state *csp = NULL;
2225    jb_socket bfd;
2226    struct configuration_spec * config;
2227
2228    config = load_config();
2229
2230    bfd = bind_port_helper(config);
2231
2232 #ifdef FEATURE_GRACEFUL_TERMINATION
2233    while (!g_terminate)
2234 #else
2235    for (;;)
2236 #endif
2237    {
2238 #if !defined(FEATURE_PTHREAD) && !defined(_WIN32) && !defined(__BEOS__) && !defined(AMIGA) && !defined(__OS2__)
2239       while (waitpid(-1, NULL, WNOHANG) > 0)
2240       {
2241          /* zombie children */
2242       }
2243 #endif /* !defined(FEATURE_PTHREAD) && !defined(_WIN32) && !defined(__BEOS__) && !defined(AMIGA) */
2244
2245       /*
2246        * Free data that was used by died threads
2247        */
2248       sweep();
2249
2250 #if defined(unix)
2251       /*
2252        * Re-open the errlog after HUP signal
2253        */
2254       if (received_hup_signal)
2255       {
2256          init_error_log(Argv[0], config->logfile, config->debug);
2257          received_hup_signal = 0;
2258       }
2259 #endif
2260
2261 #ifdef __OS2__
2262 #ifdef FEATURE_COOKIE_JAR
2263       /*
2264        * Need a workaround here: we have to fclose() the jarfile, or we die because it's
2265        * already open.  I think unload_configfile() is not being run, which should do
2266        * this work.  Until that can get resolved, we'll use this workaround.
2267        */
2268        if (csp)
2269          if(csp->config)
2270            if (csp->config->jar)
2271            {
2272              fclose(csp->config->jar);
2273              csp->config->jar = NULL;
2274            }
2275 #endif /* FEATURE_COOKIE_JAR */
2276 #endif /* __OS2__ */
2277
2278       if ( NULL == (csp = (struct client_state *) zalloc(sizeof(*csp))) )
2279       {
2280          log_error(LOG_LEVEL_FATAL, "malloc(%d) for csp failed: %E", sizeof(*csp));
2281          continue;
2282       }
2283
2284       csp->flags |= CSP_FLAG_ACTIVE;
2285       csp->sfd    = JB_INVALID_SOCKET;
2286
2287       csp->config = config = load_config();
2288
2289       if ( config->need_bind )
2290       {
2291          /*
2292           * Since we were listening to the "old port", we will not see
2293           * a "listen" param change until the next IJB request.  So, at
2294           * least 1 more request must be made for us to find the new
2295           * setting.  I am simply closing the old socket and binding the
2296           * new one.
2297           *
2298           * Which-ever is correct, we will serve 1 more page via the
2299           * old settings.  This should probably be a "show-proxy-args"
2300           * request.  This should not be a so common of an operation
2301           * that this will hurt people's feelings.
2302           */
2303
2304          close_socket(bfd);
2305
2306          bfd = bind_port_helper(config);
2307       }
2308
2309       log_error(LOG_LEVEL_CONNECT, "accept connection ... ");
2310
2311       if (!accept_connection(csp, bfd))
2312       {
2313          log_error(LOG_LEVEL_CONNECT, "accept failed: %E");
2314
2315 #ifdef AMIGA
2316          if(!childs)
2317          {
2318             exit(1);
2319          }
2320 #endif
2321          freez(csp);
2322          continue;
2323       }
2324       else
2325       {
2326          log_error(LOG_LEVEL_CONNECT, "OK");
2327       }
2328
2329 #ifdef FEATURE_TOGGLE
2330       if (global_toggle_state)
2331       {
2332          csp->flags |= CSP_FLAG_TOGGLED_ON;
2333       }
2334 #endif /* def FEATURE_TOGGLE */
2335
2336       if (run_loader(csp))
2337       {
2338          log_error(LOG_LEVEL_FATAL, "a loader failed - must exit");
2339          /* Never get here - LOG_LEVEL_FATAL causes program exit */
2340       }
2341
2342 #ifdef FEATURE_ACL
2343       if (block_acl(NULL,csp))
2344       {
2345          log_error(LOG_LEVEL_CONNECT, "Connection dropped due to ACL");
2346          close_socket(csp->cfd);
2347          freez(csp);
2348          continue;
2349       }
2350 #endif /* def FEATURE_ACL */
2351
2352       /* add it to the list of clients */
2353       csp->next = clients->next;
2354       clients->next = csp;
2355
2356       if (config->multi_threaded)
2357       {
2358          int child_id;
2359
2360 /* this is a switch () statment in the C preprocessor - ugh */
2361 #undef SELECTED_ONE_OPTION
2362
2363 /* Use Pthreads in preference to native code */
2364 #if defined(FEATURE_PTHREAD) && !defined(SELECTED_ONE_OPTION)
2365 #define SELECTED_ONE_OPTION
2366          {
2367             pthread_t the_thread;
2368             pthread_attr_t attrs;
2369
2370             pthread_attr_init(&attrs);
2371             pthread_attr_setdetachstate(&attrs, PTHREAD_CREATE_DETACHED);
2372             errno = pthread_create(&the_thread, &attrs,
2373                (void*)serve, csp);
2374             child_id = errno ? -1 : 0;
2375             pthread_attr_destroy(&attrs);
2376          }
2377 #endif
2378
2379 #if defined(_WIN32) && !defined(_CYGWIN) && !defined(SELECTED_ONE_OPTION)
2380 #define SELECTED_ONE_OPTION
2381          child_id = _beginthread(
2382             (void (*)(void *))serve,
2383             64 * 1024,
2384             csp);
2385 #endif
2386
2387 #if defined(__OS2__) && !defined(SELECTED_ONE_OPTION)
2388 #define SELECTED_ONE_OPTION
2389          child_id = _beginthread(
2390             (void(* _Optlink)(void*))serve,
2391             NULL,
2392             64 * 1024,
2393             csp);
2394 #endif
2395
2396 #if defined(__BEOS__) && !defined(SELECTED_ONE_OPTION)
2397 #define SELECTED_ONE_OPTION
2398          {
2399             thread_id tid = spawn_thread
2400                (server_thread, "server", B_NORMAL_PRIORITY, csp);
2401
2402             if ((tid >= 0) && (resume_thread(tid) == B_OK))
2403             {
2404                child_id = (int) tid;
2405             }
2406             else
2407             {
2408                child_id = -1;
2409             }
2410          }
2411 #endif
2412
2413 #if defined(AMIGA) && !defined(SELECTED_ONE_OPTION)
2414 #define SELECTED_ONE_OPTION
2415          csp->cfd = ReleaseSocket(csp->cfd, -1);
2416
2417          if((child_id = (int)CreateNewProcTags(
2418             NP_Entry, (ULONG)server_thread,
2419             NP_Output, Output(),
2420             NP_CloseOutput, FALSE,
2421             NP_Name, (ULONG)"privoxy child",
2422             NP_StackSize, 200*1024,
2423             TAG_DONE)))
2424          {
2425             childs++;
2426             ((struct Task *)child_id)->tc_UserData = csp;
2427             Signal((struct Task *)child_id, SIGF_SINGLE);
2428             Wait(SIGF_SINGLE);
2429          }
2430 #endif
2431
2432 #if !defined(SELECTED_ONE_OPTION)
2433          child_id = fork();
2434
2435          /* This block is only needed when using fork().
2436           * When using threads, the server thread was
2437           * created and run by the call to _beginthread().
2438           */
2439          if (child_id == 0)   /* child */
2440          {
2441             int rc = 0;
2442 #ifdef FEATURE_TOGGLE
2443             int inherited_toggle_state = global_toggle_state;
2444 #endif /* def FEATURE_TOGGLE */
2445
2446             serve(csp);
2447
2448             /*
2449              * If we've been toggled or we've blocked the request, tell Mom
2450              */
2451
2452 #ifdef FEATURE_TOGGLE
2453             if (inherited_toggle_state != global_toggle_state)
2454             {
2455                rc |= RC_FLAG_TOGGLED;
2456             }
2457 #endif /* def FEATURE_TOGGLE */
2458
2459 #ifdef FEATURE_STATISTICS
2460             if (csp->flags & CSP_FLAG_REJECTED)
2461             {
2462                rc |= RC_FLAG_BLOCKED;
2463             }
2464 #endif /* ndef FEATURE_STATISTICS */
2465
2466             _exit(rc);
2467          }
2468          else if (child_id > 0) /* parent */
2469          {
2470             /* in a fork()'d environment, the parent's
2471              * copy of the client socket and the CSP
2472              * are not used.
2473              */
2474             int child_status;
2475 #if !defined(_WIN32) && !defined(__CYGWIN__)
2476
2477             wait( &child_status );
2478
2479             /*
2480              * Evaluate child's return code: If the child has
2481              *  - been toggled, toggle ourselves
2482              *  - blocked its request, bump up the stats counter
2483              */
2484
2485 #ifdef FEATURE_TOGGLE
2486             if (WIFEXITED(child_status) && (WEXITSTATUS(child_status) & RC_FLAG_TOGGLED))
2487             {
2488                global_toggle_state = !global_toggle_state;
2489             }
2490 #endif /* def FEATURE_TOGGLE */
2491
2492 #ifdef FEATURE_STATISTICS
2493             urls_read++;
2494             if (WIFEXITED(child_status) && (WEXITSTATUS(child_status) & RC_FLAG_BLOCKED))
2495             {
2496                urls_rejected++;
2497             }
2498 #endif /* def FEATURE_STATISTICS */
2499
2500 #endif /* !defined(_WIN32) && defined(__CYGWIN__) */
2501             close_socket(csp->cfd);
2502             csp->flags &= ~CSP_FLAG_ACTIVE;
2503          }
2504 #endif
2505
2506 #undef SELECTED_ONE_OPTION
2507 /* end of cpp switch () */
2508
2509          if (child_id < 0) /* failed */
2510          {
2511             char buf[BUFFER_SIZE];
2512
2513             log_error(LOG_LEVEL_ERROR, "can't fork: %E");
2514
2515             sprintf(buf , "Privoxy: can't fork: errno = %d", errno);
2516
2517             write_socket(csp->cfd, buf, strlen(buf));
2518             close_socket(csp->cfd);
2519             csp->flags &= ~CSP_FLAG_ACTIVE;
2520             sleep(5);
2521             continue;
2522          }
2523       }
2524       else
2525       {
2526          serve(csp);
2527       }
2528    }
2529
2530    /* NOTREACHED unless FEATURE_GRACEFUL_TERMINATION is defined */
2531
2532    /* Clean up.  Aim: free all memory (no leaks) */
2533 #ifdef FEATURE_GRACEFUL_TERMINATION
2534
2535    log_error(LOG_LEVEL_ERROR, "Graceful termination requested");
2536
2537    unload_current_config_file();
2538    unload_current_actions_file();
2539    unload_current_re_filterfile();
2540 #ifdef FEATURE_TRUST
2541    unload_current_trust_file();
2542 #endif
2543
2544    if (config->multi_threaded)
2545    {
2546       int i = 60;
2547       do
2548       {
2549          sleep(1);
2550          sweep();
2551       } while ((clients->next != NULL) && (--i > 0));
2552
2553       if (i <= 0)
2554       {
2555          log_error(LOG_LEVEL_ERROR, "Graceful termination failed - still some live clients after 1 minute wait.");
2556       }
2557    }
2558    sweep();
2559    sweep();
2560
2561 #if defined(unix)
2562    freez(basedir);
2563 #endif
2564    freez(configfile);
2565
2566 #ifdef FEATURE_COOKIE_JAR
2567    if (NULL != config->jar)
2568    {
2569       fclose(config->jar);
2570    }
2571 #endif
2572
2573 #if defined(_WIN32) && !defined(_WIN_CONSOLE)
2574    /* Cleanup - remove taskbar icon etc. */
2575    TermLogWindow();
2576 #endif
2577
2578    exit(0);
2579 #endif /* FEATURE_GRACEFUL_TERMINATION */
2580
2581 }
2582
2583
2584 /*
2585   Local Variables:
2586   tab-width: 3
2587   end:
2588 */