update windows build instructions
[privoxy.git] / doc / source / user-manual.sgml
1 <!DOCTYPE article PUBLIC "-//OASIS//DTD DocBook V3.1//EN" [
2 <!entity % dummy "IGNORE">
3 <!entity supported SYSTEM "supported.sgml">
4 <!entity newfeatures SYSTEM "newfeatures.sgml">
5 <!entity p-intro SYSTEM "privoxy.sgml">
6 <!entity seealso SYSTEM "seealso.sgml">
7 <!entity buildsource SYSTEM "buildsource.sgml">
8 <!entity contacting SYSTEM "contacting.sgml">
9 <!entity history SYSTEM "history.sgml">
10 <!entity copyright SYSTEM "copyright.sgml">
11 <!entity license SYSTEM "license.sgml">
12 <!entity GPLv2 SYSTEM "../../LICENSE">
13 <!entity GPLv3 SYSTEM "../../LICENSE.GPLv3">
14 <!entity p-authors SYSTEM "p-authors.sgml">
15 <!entity config SYSTEM "p-config.sgml">
16 <!entity changelog SYSTEM "changelog.sgml">
17 <!entity p-version "3.0.33">
18 <!entity p-status "UNRELEASED">
19 <!entity % p-authors-formal "INCLUDE"> <!-- include additional text, etc  -->
20 <!entity % p-not-stable "INCLUDE">
21 <!entity % p-stable "IGNORE">
22 <!entity % p-text "IGNORE">        <!-- define we are not a text only doc -->
23 <!entity % p-doc "INCLUDE">        <!-- and we are a formal doc           -->
24 <!entity % p-readme "IGNORE">
25 <!entity % user-man "IGNORE">
26 <!entity % config-file "IGNORE">
27 <!entity % p-supp-userman "IGNORE"> <!-- Omit some from supported.sgml    -->
28 <!entity  my-copy "&copy;">         <!-- kludge for docbook2man           -->
29 <!entity % draft "IGNORE">          <!-- WIP stuff    -->
30 <!entity % seealso-extra "INCLUDE"> <!-- extra stuff from seealso.sgml    -->
31 <!entity  my-app "<application>Privoxy</application>">
32 ]>
33 <!--
34  File        :  doc/source/user-manual.sgml
35
36  Purpose     :  user manual
37
38  Copyright (C) 2001-2021 Privoxy Developers https://www.privoxy.org/
39  See LICENSE.
40
41  ========================================================================
42  NOTE: Please read developer-manual/documentation.html before touching
43  anything in this, or other Privoxy documentation.
44  ========================================================================
45
46 -->
47
48 <article id="index">
49 <artheader>
50
51 <title>Privoxy &p-version; User Manual</title>
52
53 <pubdate>
54  <subscript>
55 <!-- Completely the wrong markup, but very little is allowed  -->
56 <!-- in this part of an article. FIXME -->
57  <link linkend="copyright">Copyright</link> &my-copy; 2001-2021 by
58  <ulink url="https://www.privoxy.org/">Privoxy Developers</ulink>
59  </subscript>
60 </pubdate>
61
62 <!--
63
64 Note: the following should generate a separate page, and a live link to it,
65 all nicely done. But it doesn't for some mysterious reason. Please leave
66 commented unless it can be fixed proper. For the time being, the
67 copyright/license declarations will be in their own sgml.
68
69 Hal.
70
71
72 -->
73
74
75 <abstract>
76
77 <![%dummy;[
78  <para>
79  <comment>
80   This is here to keep vim syntax file from breaking :/
81   If I knew enough to fix it, I would.
82   PLEASE DO NOT REMOVE! HB: hal@foobox.net
83  </comment>
84  </para>
85 ]]>
86
87  <para>
88   The <citetitle>Privoxy User Manual</citetitle> gives users information on how to
89   install, configure and use <ulink
90   url="https://www.privoxy.org/">Privoxy</ulink>.
91  </para>
92
93 <!-- Include privoxy.sgml boilerplate: -->
94  &p-intro;
95 <!-- end privoxy.sgml -->
96
97  <para>
98   You can find the latest version of the <citetitle>Privoxy User Manual</citetitle> at  <ulink
99   url="https://www.privoxy.org/user-manual/">https://www.privoxy.org/user-manual/</ulink>.
100   Please see the <link linkend="contact">Contact section</link> on how to
101   contact the developers.
102  </para>
103
104 </abstract>
105
106 </artheader>
107
108 <!--   ~~~~~       New section      ~~~~~     -->
109 <sect1 label="1" id="introduction"><title>Introduction</title>
110 <para>
111  This documentation is included with the current &p-status; version of
112  <application>Privoxy</application>, &p-version;<![%p-not-stable;[,
113  and is mostly complete at this point. The most up to date reference for the
114  time being is still the comments in the source files and in the individual
115  configuration files. Development of a new version is currently nearing
116  completion, and includes significant changes and enhancements over
117  earlier versions]]>.
118 </para>
119
120 <!-- include only in non-stable versions -->
121 <![%p-not-stable;[
122 <para>
123  Since this is a &p-status; version, not all new features are well tested. This
124  documentation may be slightly out of sync as a result (especially with
125  <ulink url="https://www.privoxy.org/gitweb/?p=privoxy.git;a=summary">git sources</ulink>).
126  And there <emphasis>may be</emphasis> bugs, though hopefully
127  not many!
128 </para>
129 ]]>
130
131 <!--   ~~~~~       New section      ~~~~~     -->
132 <sect2 id="features"><title>Features</title>
133 <para>
134  In addition to the core
135  features of ad blocking and
136  <ulink url="https://en.wikipedia.org/wiki/Browser_cookie">cookie</ulink> management,
137  <application>Privoxy</application> provides many supplemental
138  features<![%p-not-stable;[, some of them currently under development]]>,
139  that give the end-user more control, more privacy and more freedom:
140 </para>
141 <!-- Include newfeatures.sgml boilerplate here: -->
142  &newfeatures;
143 <!-- end boilerplate -->
144 </sect2>
145
146 </sect1>
147
148 <!--  ~  End section  ~  -->
149
150
151 <!--   ~~~~~       New section      ~~~~~     -->
152 <sect1 id="installation"><title>Installation</title>
153
154 <para>
155  <application>Privoxy</application> is available both in convenient pre-compiled
156  packages for a wide range of operating systems, and as raw source code.
157  For most users, we recommend using the packages, which can be downloaded from our
158  <ulink url="https://sourceforge.net/projects/ijbswa/">Privoxy Project
159  Page</ulink>.
160 </para>
161
162 <para>
163  Note:
164  On some platforms, the installer may remove previously installed versions, if
165  found. (See below for your platform). In any case <emphasis>be sure to backup
166  your old configuration if it is valuable to you.</emphasis> See the <link
167  linkend="upgradersnote">note to upgraders</link> section below.
168 </para>
169
170 <!--   ~~~~~       New section      ~~~~~     -->
171 <sect2 id="installation-packages"><title>Binary Packages</title>
172 <para>
173 How to install the binary packages depends on your operating system:
174 </para>
175
176 <!-- XXX: The installation sections should be sorted -->
177
178 <!--   ~~~~~       New section      ~~~~~     -->
179 <sect3 id="installation-deb"><title>Debian and Ubuntu</title>
180 <para>
181  DEBs can be installed with <literal>apt-get install privoxy</literal>,
182  and will use <filename>/etc/privoxy</filename> for the location of
183  configuration files.
184 </para>
185 </sect3>
186
187 <!--   ~~~~~       New section      ~~~~~     -->
188 <sect3 id="installation-pack-win"><title>Windows</title>
189
190 <para>
191  Just double-click the installer, which will guide you through
192  the installation process. You will find the configuration files
193  in the same directory as you installed <application>Privoxy</application> in.
194 </para>
195 <para>
196  Version 3.0.5 beta introduced full <application>Windows</application> service
197  functionality. On Windows only, the <application>Privoxy</application>
198  program has two new command line arguments to install and uninstall
199  <application>Privoxy</application> as a <emphasis>service</emphasis>.
200 </para>
201  <variablelist>
202   <varlistentry>
203    <term>Arguments:</term>
204    <listitem>
205     <para>
206      <replaceable class="parameter">--install</replaceable>[:<replaceable class="parameter">service_name</replaceable>]
207     </para>
208     <para>
209      <replaceable class="parameter">--uninstall</replaceable>[:<replaceable class="parameter">service_name</replaceable>]
210     </para>
211    </listitem>
212   </varlistentry>
213  </variablelist>
214  <para>
215  After invoking <application>Privoxy</application> with
216  <command>--install</command>, you will need to bring up the
217  <application>Windows</application> service console to assign the user you
218  want <application>Privoxy</application> to run under, and whether or not you
219  want it to run whenever the system starts. You can start the
220  <application>Windows</application> services console with the following
221  command: <command>services.msc</command>.  If you do not take the manual step
222  of modifying <application>Privoxy's</application> service settings, it will
223  not start.  Note too that you will need to give Privoxy a user account that
224  actually exists, or it will not be permitted to
225  write to its log and configuration files.
226 </para>
227
228 </sect3>
229
230 <!--   ~~~~~       New section      ~~~~~     -->
231 <sect3 id="installation-mac"><title>Mac OS X</title>
232 <para>
233  Installation instructions for the OS X platform depend upon whether
234  you downloaded a ready-built installation package (.pkg or .mpkg) or have
235  downloaded the source code.
236 </para>
237 </sect3>
238 <sect3 renderas="sect4" id="OS-X-install-from-package">
239 <title>Installation from ready-built package</title>
240 <para>
241  The downloaded file will either be a .pkg (for OS X 10.5 upwards) or a bzipped
242  .mpkg file (for OS X 10.4). The former can be double-clicked as is and the
243  installation will start; double-clicking the latter will unzip the .mpkg file
244  which can then be double-clicked to commence the installation.
245 </para>
246 <para>
247  The privoxy service will automatically start after a successful installation
248  (and thereafter every time your computer starts up) however you will need to
249  configure your web browser(s) to use it. To do so, configure them to use a
250  proxy for HTTP and HTTPS at the address 127.0.0.1:8118.
251 </para>
252 <para>
253  To prevent the privoxy service from automatically starting when your computer
254  starts up, remove or rename the file <literal>/Library/LaunchDaemons/org.ijbswa.privoxy.plist</literal>
255  (on OS X 10.5 and higher) or the folder named
256  <literal>/Library/StartupItems/Privoxy</literal> (on OS X 10.4 'Tiger').
257 </para>
258 <para>
259  To manually start or stop the privoxy service, use the scripts startPrivoxy.sh
260  and stopPrivoxy.sh supplied in /Applications/Privoxy. They must be run from an
261  administrator account, using sudo.
262 </para>
263 <para>
264  To uninstall, run /Applications/Privoxy/uninstall.command as sudo from an
265  administrator account.
266 </para>
267 </sect3>
268 <sect3 renderas="sect4" id="OS-X-install-from-source">
269 <title>Installation from source</title>
270 <para>
271  To build and install the Privoxy source code on OS X you will need to obtain
272  the macsetup module from the Privoxy Sourceforge CVS repository (refer to
273  Sourceforge help for details of how to set up a CVS client to have read-only
274  access to the repository). This module contains scripts that leverage the usual
275  open-source tools (available as part of Apple's free of charge Xcode
276  distribution or via the usual open-source software package managers for OS X
277  (MacPorts, Homebrew, Fink etc.) to build and then install the privoxy binary
278  and associated files. The macsetup module's README file contains complete
279  instructions for its use.
280 </para>
281 <para>
282  The privoxy service will automatically start after a successful installation
283  (and thereafter every time your computer starts up) however you will need to
284  configure your web browser(s) to use it. To do so, configure them to use a
285  proxy for HTTP and HTTPS at the address 127.0.0.1:8118.
286 </para>
287 <para>
288  To prevent the privoxy service from automatically starting when your computer
289  starts up, remove or rename the file <literal>/Library/LaunchDaemons/org.ijbswa.privoxy.plist</literal>
290  (on OS X 10.5 and higher) or the folder named
291  <literal>/Library/StartupItems/Privoxy</literal> (on OS X 10.4 'Tiger').
292 </para>
293 <para>
294  To manually start or stop the privoxy service, use the Privoxy Utility
295  for Mac OS X (also part of the macsetup module).  This application can start
296  and stop the privoxy service and display its log and configuration files.
297 </para>
298 <para>
299  To uninstall, run the macsetup module's uninstall.sh as sudo from an
300  administrator account.
301 </para>
302 </sect3>
303
304 <!--   ~~~~~       New section      ~~~~~     -->
305 <sect3 id="installation-freebsd"><title>FreeBSD</title>
306
307 <para>
308  Privoxy is part of FreeBSD's Ports Collection, you can build and install
309  it with <literal>cd /usr/ports/www/privoxy; make install clean</literal>.
310 </para>
311 </sect3>
312
313 </sect2>
314
315 <!--   ~~~~~       New section      ~~~~~     -->
316 <sect2 id="installation-source"><title>Building from Source</title>
317
318 <para>
319  The most convenient way to obtain the <application>Privoxy</application> source
320  code is to download the source tarball from our
321  <ulink url="https://sourceforge.net/projects/ijbswa/files/Sources/">
322     project download page</ulink>,
323  or you can get the up-to-the-minute, possibly unstable, development version from
324  <ulink url="https://www.privoxy.org/">https://www.privoxy.org/</ulink>.
325 </para>
326
327 <!-- include buildsource.sgml boilerplate: -->
328 &buildsource;
329 <!-- end boilerplate -->
330
331
332     <sect3 id="WINBUILD-CYGWIN"><title>Windows</title>
333
334     <sect4 id="WINBUILD-SETUP"><title>Setup</title>
335       <para>
336         Install the Cygwin utilities needed to build <application>Privoxy</application>.
337         If you have a 64 bit CPU (which most people do by now), get the
338         Cygwin setup-x86_64.exe program <ulink url="https://cygwin.com/setup-x86_64.exe">here</ulink>
339         (the .sig file is <ulink url="https://cygwin.com/setup-x86_64.exe.sig">here</ulink>).
340       </para>
341       <para>
342         Run the setup program and from View / Category select:
343       </para>
344       <screen>
345   Devel
346     autoconf 2.5
347     automake 1.15
348     binutils
349     cmake
350     gcc-core
351     gcc-g++
352     git
353     make
354     mingw64-i686-gcc-core
355     mingw64-i686-zlib
356   Editors
357     vim
358   Libs
359     libxslt: GNOME XSLT library (runtime)
360   Net
361     curl
362     openssh
363   Text
364     docbook-dssl
365     docbook-sgml31
366     docbook-utils
367     openjade
368   Utils
369     gnupg
370   Web
371     w3m
372 </screen>
373
374       <para>
375         If you haven't already downloaded the Privoxy source code, get it now:
376       </para>
377       <screen>
378   mkdir &lt;root-dir>
379   cd &lt;root-dir>
380   git clone https://www.privoxy.org/git/privoxy.git
381 </screen>
382
383       <para>
384         Get the source code (.zip or .tar.gz) for tidy from
385         <ulink url="https://github.com/htacg/tidy-html5/releases">
386                     https://github.com/htacg/tidy-html5/releases</ulink>,
387         unzip into &lt;root-dir> and build the software:
388       </para>
389       <screen>
390   cd &lt;root-dir>
391   cd tidy-html5-x.y.z/build/cmake
392   cmake ../.. -DCMAKE_BUILD_TYPE=Release -DBUILD_SHARED_LIB:BOOL=OFF -DCMAKE_INSTALL_PREFIX=/usr/local
393   make && make install
394 </screen>
395
396       <para>
397         If you want to be able to make a Windows release package, get the NSIS .zip file from
398             <!-- FIXME:  which version(s) are known to work? -->
399         <ulink url="https://sourceforge.net/projects/nsis/files/NSIS%203/">
400                     https://sourceforge.net/projects/nsis/files/NSIS%203/</ulink>
401         and extract the NSIS directory to <literal>/&lt;root-dir>/nsis/</literal>.
402         Then edit the <filename>windows/GNUmakefile</filename> to set the location
403         of the NSIS executable - eg:
404       </para>
405       <screen>
406 # Path to NSIS
407 MAKENSIS = /&lt;root-dir>/nsis/makensis.exe
408 </screen>
409
410       <para>
411         Get the latest 8.x PCRE code from
412         <ulink url="https://ftp.pcre.org/pub/pcre/">PCRE
413                     https://ftp.pcre.org/pub/pcre/</ulink>
414         and build the static PCRE libraries with
415
416         <screen>
417 export CFLAGS="-O2 -fstack-protector-strong -D_FORTIFY_SOURCE=2"
418 export LDFLAGS="-fstack-protector-strong"
419 export CPPFLAGS="-DPCRE_STATIC"
420
421 ./configure  --host=i686-w64-mingw32 \
422              --prefix=/usr/local/i686-w64-mingw32 \
423              --enable-utf  --enable-unicode-properties \
424              --enable-jit \
425              --enable-newline-is-anycrlf \
426              --enable-pcre16 \
427              --enable-pcre32 \
428              --disable-pcregrep-libbz2 \
429              --disable-pcregrep-libz \
430              --disable-pcretest-libreadline \
431              --disable-stack-for-recursion  \
432              --enable-static --disable-shared \
433   &&  make
434 </screen>
435       </para>
436
437
438       <para>
439         If you want to be able to have Privoxy do TLS Inspection, get the latest
440         2.16.x MBED-TLS library source code from
441         <ulink url="https://github.com/ARMmbed/mbedtls/tags">
442                     https://github.com/ARMmbed/mbedtls/tags</ulink>,
443         extract the tar file into <literal>&lt;root-dir&gt;</literal>
444         and build the static libraries with
445         <programlisting>
446 export WINDOWS_BUILD=1
447 #  build for a Windows platform
448
449 unset DEBUG
450
451 export CC=i686-w64-mingw32-gcc
452 export LD=i686-w64-mingw32-gcc
453 export CFLAGS="-O2 -fstack-protector-strong -D_FORTIFY_SOURCE=2"
454 export LDFLAGS="${LDFLAGS} -fstack-protector-strong"
455
456 make lib
457 #  build the libraries
458 </programlisting>
459       </para>
460
461
462       <para>
463         Get the brotli library from
464         <ulink url="https://github.com/google/brotli/releases">
465                     https://github.com/google/brotli/releases</ulink>
466         and build the static libraries with
467         <programlisting>
468 ./bootstrap
469 #  to create the GNU autotools files
470
471 autoconf
472
473 export CFLAGS="-O2 -fstack-protector-strong -D_FORTIFY_SOURCE=2"
474 export LDFLAGS="${LDFLAGS} -fstack-protector-strong"
475
476 ./configure  --host=i686-w64-mingw32 \
477              --prefix=/usr/local/i686-w64-mingw32 \
478              --enable-static   \
479              --disable-shared  \
480              --with-gnu-ld     \
481              --disable-silent-rules \
482   && make
483 </programlisting>
484       </para>
485
486
487
488       </sect4>
489
490       <sect4 id="WINBUILD-BUILD"><title>Build</title>
491
492       <para>
493         To build just the Privoxy executable and not the whole installation package, do:
494       </para>
495       <programlisting>
496   cd &lt;root-dir>/privoxy
497   ./windows/MYconfigure && make
498 </programlisting>
499
500       <para>
501         Privoxy uses the <ulink url="https://en.wikipedia.org/wiki/GNU_build_system">GNU Autotools</ulink>
502         for building software, so the process is:
503       </para>
504       <programlisting>
505   $ autoheader              # creates config.h.in
506   $ autoconf                # uses config.h.in to create the configure shell script
507   $ ./configure [options]   # creates GNUmakefile
508   $ make        [options]   # builds the program
509 </programlisting>
510
511       <para>
512         The usual <literal>configure</literal> options for building a native Windows application under cygwin are
513       </para>
514
515       <literallayout class="Monospaced">
516   --host=i686-w64-mingw32
517   --enable-mingw32
518   --enable-zlib
519   --enable-static-linking
520   --disable-pthread
521   --with-brotli
522   --with-mbedtls
523 </literallayout>
524
525       <para>
526         You can set the <literal>CFLAGS</literal> and <literal>LDFLAGS</literal> envars before
527         running <literal>configure</literal> to set compiler and linker flags.  For example:
528       </para>
529
530       <programlisting>
531   $ export CFLAGS="-O2"              # set gcc optimization level
532   $ export LDFLAGS="-Wl,--nxcompat"  # Enable DEP
533   $ ./configure --host=i686-w64-mingw32 --enable-mingw32  --enable-zlib \
534   >             --enable-static-linking --disable-pthread --disable-dynamic-pcre
535   $ make                             # build Privoxy
536 </programlisting>
537
538       <para>
539         See the <ulink url="../developer-manual/newrelease.html#NEWRELEASE-WINDOWS">Developer's Manual</ulink>
540         for building a Windows release package.
541       </para>
542
543     </sect4>
544     </sect3>
545 </sect2>
546
547
548 <!--   ~~~~~       New section      ~~~~~     -->
549 <sect2 id="installation-keepupdated"><title>Keeping your Installation Up-to-Date</title>
550
551 <para>
552  If you wish to receive an email notification whenever we release updates of
553  <application>Privoxy</application> or the actions file, <ulink
554  url="https://lists.privoxy.org/mailman/listinfo/privoxy-announce">subscribe
555  to our announce mailing list</ulink>, privoxy-announce@lists.privoxy.org.
556 </para>
557
558 <para>
559  In order not to lose your personal changes and adjustments when updating
560  to the latest <literal>default.action</literal> file we <emphasis>strongly
561  recommend</emphasis> that you use <literal>user.action</literal> and
562  <literal>user.filter</literal> for your local
563  customizations of <application>Privoxy</application>. See the <link
564  linkend="actions-file">Chapter on actions files</link> for details.
565 </para>
566
567 </sect2>
568
569
570 </sect1>
571
572 <!--  ~  End section  ~  -->
573
574 <!--   ~~~~~       New section      ~~~~~     -->
575 <sect1 id="whatsnew">
576 <title>What's New in this Release</title>
577
578 &changelog;
579
580 <!--   ~~~~~       New section      ~~~~~     -->
581
582 <sect2 id="upgradersnote">
583 <title>Note to Upgraders</title>
584
585 <para>
586  A quick list of things to be aware of before upgrading from earlier
587  versions of <application>Privoxy</application>:
588 </para>
589
590  <itemizedlist>
591
592  <listitem>
593   <para>
594    The recommended way to upgrade &my-app; is to backup your old
595    configuration files, install the new ones, verify that &my-app;
596    is working correctly and finally merge back your changes using
597    <application>diff</application> and maybe <application>patch</application>.
598   </para>
599   <para>
600    There are a number of new features in each &my-app; release and
601    most of them have to be explicitly enabled in the configuration
602    files. Old configuration files obviously don't do that and due
603    to syntax changes using old configuration files with a new
604    &my-app; isn't always possible anyway.
605   </para>
606  </listitem>
607  <listitem>
608   <para>
609     Note that some installers remove earlier versions completely,
610     including configuration files, therefore you should really save
611     any important configuration files!
612   </para>
613  </listitem>
614  <listitem>
615   <para>
616    On the other hand, other installers don't overwrite existing configuration
617    files, thinking you will want to do that yourself.
618   </para>
619  </listitem>
620  <listitem>
621   <para>
622    In the default configuration only fatal errors are logged now.
623    You can change that in the <link linkend="DEBUG">debug section</link>
624    of the configuration file. You may also want to enable more verbose
625    logging until you verified that the new &my-app; version is working
626    as expected.
627   </para>
628  </listitem>
629
630  <listitem>
631     <para>
632      Three other config file settings are now off by default:
633      <link linkend="enable-remote-toggle">enable-remote-toggle</link>,
634      <link linkend="enable-remote-http-toggle">enable-remote-http-toggle</link>,
635      and  <link linkend="enable-edit-actions">enable-edit-actions</link>.
636      If you use or want these, you will need to explicitly enable them, and
637      be aware of the security issues involved.
638     </para>
639   </listitem>
640
641 <!--
642  <listitem>
643   <para>
644    What constitutes a <quote>default</quote> configuration has changed,
645    and you may want to review which actions are <quote>on</quote> by
646    default. This is primarily a matter of emphasis, but some features
647    you may have been used to, may now be <quote>off</quote> by default.
648    There are also a number of new actions and filters you may want to
649    consider, most of which are not fully incorporated into the default
650    settings as yet (see above).
651   </para>
652  </listitem>
653 -->
654 <!--
655   <listitem>
656    <para>
657     The default actions setting is now <literal>Cautious</literal>. Previous
658     releases had a default setting of <literal>Medium</literal>. Experienced
659     users may want to adjust this, as it is fairly conservative by &my-app;
660     standards and past practices. See <ulink
661     url="http://config.privoxy.org/edit-actions-list?f=default">
662     http://config.privoxy.org/edit-actions-list?f=default</ulink>. New users
663     should try the default settings for a while before turning up the volume.
664    </para>
665   </listitem>
666
667   <listitem>
668    <para>
669     The default setting has filtering turned <emphasis>off</emphasis>, which
670     subsequently means that compression is <emphasis>on</emphasis>. Remember
671     that filtering does not work on compressed pages, so if you use, or want to
672     use, filtering, you will need to force compression off. Example:
673    </para>
674  <screen>
675   { +<link linkend="filter">filter</link>{google}  +<link linkend="prevent-compression">prevent-compression</link> }
676    .google.</screen>
677    <para>
678     Or if you use a number of filters, or filter many sites, you may just want
679     to turn off compression for all sites in
680     <filename>default.action</filename> (or
681     <filename>user.action</filename>).
682    </para>
683
684   </listitem>
685
686   <listitem>
687   <para>
688    Also, <link linkend="SESSION-COOKIES-ONLY">session-cookies-only</link> is
689    off by default now. If you've liked this feature in the past, you may want
690    to turn it back on in <filename>user.action</filename> now.
691   </para>
692   </listitem>
693
694
695   <listitem>
696   <para>
697    Some installers may not automatically start
698    <application>Privoxy</application> after installation.
699   </para>
700  </listitem>
701 -->
702
703  </itemizedlist>
704
705 </sect2>
706 </sect1>
707
708 <!--   ~~~~~       New section      ~~~~~     -->
709 <sect1 id="quickstart"><title>Quickstart to Using Privoxy</title>
710
711  <itemizedlist>
712
713  <listitem>
714   <para>
715   Install <application>Privoxy</application>. See the <link
716   linkend="installation">Installation Section</link> below for platform specific
717   information.
718  </para>
719  </listitem>
720
721  <listitem>
722   <para>
723    Advanced users and those who want to offer <application>Privoxy</application>
724    service to more than just their local machine should check the <link
725    linkend="config">main config file</link>, especially the <link
726    linkend="access-control">security-relevant</link> options. These are
727    off by default.
728   </para>
729  </listitem>
730
731  <listitem>
732   <para>
733   Start <application>Privoxy</application>, if the installation program has
734   not done this already (may vary according to platform). See the section
735   <link linkend="startup">Starting <application>Privoxy</application></link>.
736   </para>
737  </listitem>
738
739  <listitem>
740   <para>
741    Set your browser to use <application>Privoxy</application> as HTTP and
742    HTTPS (SSL)  <ulink url="https://en.wikipedia.org/wiki/Proxy_server">proxy</ulink>
743    by setting the proxy configuration for address of
744    <literal>127.0.0.1</literal> and port <literal>8118</literal>.
745    <emphasis>DO NOT</emphasis> activate proxying for <literal>FTP</literal> or
746    any protocols besides HTTP and HTTPS (SSL) unless you intend to prevent your
747    browser from using these protocols.
748   </para>
749  </listitem>
750
751  <listitem>
752   <para>
753     Flush your browser's disk and memory caches, to remove any cached ad images.
754     If using <application>Privoxy</application> to manage
755     <ulink url="https://en.wikipedia.org/wiki/Browser_cookie">cookies</ulink>,
756     you should remove any currently stored cookies too.
757   </para>
758  </listitem>
759
760  <listitem>
761   <para>
762    A default installation should provide a reasonable starting point for
763    most. There will undoubtedly be occasions where you will want to adjust the
764    configuration, but that can be dealt with as the need arises. Little
765    to no initial configuration is required in most cases, you may want
766    to enable the
767    <ulink url="config.html#ENABLE-EDIT-ACTIONS">web-based action editor</ulink> though.
768    Be sure to read the warnings first.
769   </para>
770   <para>
771    See the <link linkend="configuration">Configuration section</link> for more
772    configuration options, and how to customize your installation.
773    You might also want to look at the <link
774    linkend="quickstart-ad-blocking">next section</link> for a quick
775    introduction to how <application>Privoxy</application> blocks ads and
776    banners.
777 </para>
778  </listitem>
779
780  <listitem>
781   <para>
782     If you experience ads that slip through, innocent images that are
783     blocked, or otherwise feel the need to fine-tune
784     <application>Privoxy's</application> behavior, take a look at the <link
785     linkend="actions-file">actions files</link>. As a quick start, you might
786     find the <link linkend="act-examples">richly commented examples</link>
787     helpful. You can also view and edit the actions files through the <ulink
788     url="http://config.privoxy.org">web-based user interface</ulink>. The
789     Appendix <quote><link linkend="actionsanat">Troubleshooting: Anatomy of an
790     Action</link></quote> has hints on how to understand and debug actions that
791     <quote>misbehave</quote>.
792   </para>
793  </listitem>
794
795  <listitem>
796   <para>
797    Please see the section <link linkend="contact">Contacting the
798    Developers</link> on how to report bugs, problems with websites or to get
799    help.
800   </para>
801  </listitem>
802
803  <listitem>
804   <para>
805    Now enjoy surfing with enhanced control, comfort and privacy!
806   </para>
807  </listitem>
808
809  </itemizedlist>
810
811
812 <!--   ~~~~~       New section      ~~~~~     -->
813
814 <sect2 id="quickstart-ad-blocking">
815 <title>Quickstart to Ad Blocking</title>
816 <!--
817  NOTE:  This section is deliberately redundant for those that don't
818  want to read the whole thing (which is getting lengthy).
819 -->
820 <para>
821  Ad blocking is but one of <application>Privoxy's</application>
822  array of features. Many of these features are for the technically minded advanced
823  user. But, ad and banner blocking is surely common ground for everybody.
824 </para>
825 <para>
826  This section will provide a quick summary of ad blocking so
827  you can get up to speed quickly without having to read the more extensive
828  information provided below, though this is highly recommended.
829 </para>
830 <para>
831  First a bit of a warning ... blocking ads is much like blocking SPAM: the
832  more aggressive you are about it, the more likely you are to block
833  things that were not intended. And the more likely that some things
834  may not work as intended. So there is a trade off here. If you want
835  extreme ad free browsing, be prepared to deal with more
836  <quote>problem</quote> sites, and to spend more time adjusting the
837  configuration to solve these unintended consequences. In short, there is
838  not an easy way to eliminate <emphasis>all</emphasis> ads. Either take
839  the easy way and settle for <emphasis>most</emphasis> ads blocked with the
840  default configuration, or jump in and tweak it for your personal surfing
841  habits and preferences.
842 </para>
843 <para>
844  Secondly, a brief explanation of <application>Privoxy's </application>
845  <quote>actions</quote>. <quote>Actions</quote> in this context, are
846  the directives we use to tell <application>Privoxy</application> to perform
847  some task relating to HTTP transactions (i.e. web browsing). We tell
848  <application>Privoxy</application> to take some <quote>action</quote>. Each
849  action has a unique name and function. While there are many potential
850  <application>actions</application> in <application>Privoxy's</application>
851  arsenal, only a few are used for ad blocking. <link
852  linkend="actions">Actions</link>, and <link linkend="actions-file">action
853  configuration files</link>, are explained in depth below.
854 </para>
855 <para>
856  Actions are specified in <application>Privoxy's</application> configuration,
857  followed by one or more URLs to which the action should apply. URLs
858  can actually be URL type <link linkend="af-patterns">patterns</link> that use
859  wildcards so they can apply potentially to a range of similar URLs. The
860  actions, together with the URL patterns are called a section.
861 </para>
862 <para>
863  When you connect to a website, the full URL will either match one or more
864  of the sections as defined in <application>Privoxy's</application> configuration,
865  or not. If so, then <application>Privoxy</application> will perform the
866  respective actions. If not, then nothing special happens. Furthermore, web
867  pages may contain embedded, secondary URLs that your web browser will
868  use to load additional components of the page, as it parses the
869  original page's HTML content. An ad image for instance, is just an URL
870  embedded in the page somewhere. The image itself may be on the same server,
871  or a server somewhere else on the Internet. Complex web pages will have many
872  such embedded URLs. &my-app; can deal with each URL individually, so, for
873  instance, the main page text is not touched, but images from such-and-such
874  server are blocked.
875 </para>
876
877 <para>
878  The most important actions for basic ad blocking are:  <literal><link
879  linkend="block">block</link></literal>, <literal><link
880  linkend="handle-as-image">handle-as-image</link></literal>,
881  <literal><link
882  linkend="handle-as-empty-document">handle-as-empty-document</link></literal>,and
883  <literal><link linkend="set-image-blocker">set-image-blocker</link></literal>:
884 </para>
885
886  <itemizedlist>
887
888  <listitem>
889   <para>
890    <literal><link linkend="block">block</link></literal> - this is perhaps
891    the single most used action, and is particularly important for ad blocking.
892    This action stops any contact between your browser and any URL patterns
893    that match this action's configuration. It can be used for blocking ads,
894    but also anything that is determined to be unwanted. By itself, it simply
895    stops any communication with the remote server and sends
896    <application>Privoxy</application>'s own built-in BLOCKED page instead to
897    let you now what has happened (with some exceptions, see below).
898   </para>
899  </listitem>
900
901  <listitem>
902   <para>
903    <literal><link linkend="handle-as-image">handle-as-image</link></literal> -
904    tells <application>Privoxy</application> to treat this URL as an image.
905    <application>Privoxy</application>'s default configuration already does this
906    for all common image types (e.g. GIF), but there are many situations where this
907    is not so easy to determine. So we'll force it in these cases. This is particularly
908    important for ad blocking, since  only if we know that it's an image of
909    some kind, can we replace it with an image of our choosing, instead of the
910    <application>Privoxy</application> BLOCKED page (which would only result in
911    a <quote>broken image</quote> icon). There are some limitations to this
912    though. For instance, you can't just brute-force an image substitution for
913    an entire HTML page in most situations.
914   </para>
915  </listitem>
916
917  <listitem>
918   <para>
919    <literal><link linkend="handle-as-empty-document">handle-as-empty-document</link></literal> -
920    sends an empty document instead of <application>Privoxy's</application>
921    normal BLOCKED HTML page. This is useful for file types that are neither
922    HTML nor images, such as blocking JavaScript files.
923   </para>
924  </listitem>
925
926  <listitem>
927   <para>
928    <literal><link
929    linkend="set-image-blocker">set-image-blocker</link></literal> - tells
930    <application>Privoxy</application> what to display in place of an ad image that
931    has hit a block rule. For this to come into play, the URL must match a
932    <literal><link linkend="block">block</link></literal> action somewhere in the
933    configuration, <emphasis>and</emphasis>, it must also match an
934    <literal><link linkend="handle-as-image">handle-as-image</link></literal> action.
935   </para>
936   <para>
937    The configuration options on what to display instead of the ad are:
938   </para>
939   <simplelist>
940    <member>
941     &nbsp;&nbsp;&nbsp;<emphasis>pattern</emphasis> - a checkerboard pattern, so that an ad
942     replacement is obvious. This is the default.
943    </member>
944   </simplelist>
945   <simplelist>
946    <member>
947     &nbsp;&nbsp;&nbsp;<emphasis>blank</emphasis> - A very small empty GIF image is displayed.
948     This is the so-called <quote>invisible</quote> configuration option.
949    </member>
950   </simplelist>
951   <simplelist>
952    <member>
953     &nbsp;&nbsp;&nbsp;<emphasis>http://&lt;URL&gt;</emphasis> - A redirect to any image anywhere
954     of the user's choosing (advanced usage).
955    </member>
956   </simplelist>
957   </listitem>
958
959 </itemizedlist>
960
961 <para>
962  Advanced users will eventually want to explore &my-app;
963  <literal><link linkend="filter">filters</link></literal> as well. Filters
964  are very different from <literal><link
965  linkend="block">blocks</link></literal>.
966  A <quote>block</quote> blocks a site, page, or unwanted contented. Filters
967  are a way of filtering or modifying what is actually on the page. An example
968  filter usage: a text replacement of <quote>no-no</quote> for
969  <quote>nasty-word</quote>. That is a very simple example. This process can be
970  used for ad blocking, but it is more in the realm of advanced usage and has
971  some pitfalls to be wary off.
972 </para>
973
974 <para>
975  The quickest way to adjust any of these settings is with your browser through
976  the special <application>Privoxy</application> editor at <ulink
977  url="http://config.privoxy.org/show-status">http://config.privoxy.org/show-status</ulink>
978  (shortcut: <ulink url="http://p.p/">http://p.p/show-status</ulink>). This
979  is an internal page, and does not require Internet access.
980 </para>
981
982 <para>
983  Note that as of <application>Privoxy</application> 3.0.7 beta the
984  action editor is disabled by default. Check the
985  <ulink url="config.html#ENABLE-EDIT-ACTIONS">enable-edit-actions
986   section in the configuration file</ulink> to learn why and in which
987  cases it's safe to enable again.
988 </para>
989
990 <para>
991  If you decided to enable the action editor, select the appropriate
992  <quote>actions</quote> file, and click
993  <quote><guibutton>Edit</guibutton></quote>. It is best to put personal or
994  local preferences in <filename>user.action</filename> since this is not
995  meant to be overwritten during upgrades, and will over-ride the settings in
996  other files. Here you can insert new <quote>actions</quote>, and URLs for ad
997  blocking or other purposes, and make other adjustments to the configuration.
998  <application>Privoxy</application> will detect these changes automatically.
999 </para>
1000
1001 <para>
1002  A quick and simple step by step example:
1003 </para>
1004
1005  <itemizedlist>
1006
1007   <listitem>
1008    <para>
1009      Right click on the ad image to be blocked, then select
1010      <quote><guimenuitem>Copy Link Location</guimenuitem></quote> from the
1011      pop-up menu.
1012    </para>
1013   </listitem>
1014   <listitem>
1015    <para>
1016     Set your browser to
1017     <ulink
1018  url="http://config.privoxy.org/show-status">http://config.privoxy.org/show-status</ulink>
1019    </para>
1020   </listitem>
1021   <listitem>
1022    <para>
1023     Find <filename>user.action</filename> in the top section, and click
1024     on <quote><guibutton>Edit</guibutton></quote>:
1025    </para>
1026
1027  <!-- image of editor and actions files selections -->
1028   <figure pgwide="0" float="0"><title>Actions Files in Use</title>
1029    <mediaobject>
1030      <imageobject>
1031       <imagedata  fileref="files-in-use.jpg" format="jpg">
1032        </imageobject>
1033        <textobject>
1034         <phrase>[ Screenshot of Actions Files in Use ]</phrase>
1035       </textobject>
1036    </mediaobject>
1037   </figure>
1038  </listitem>
1039
1040  <listitem>
1041   <para>
1042    You should have a section with only
1043    <literal><link linkend="block">block</link></literal> listed under
1044    <quote>Actions:</quote>.
1045    If not, click a <quote><guibutton>Insert new section below</guibutton></quote>
1046    button, and in the new section that just appeared, click the
1047    <guibutton>Edit</guibutton> button right under the word <quote>Actions:</quote>.
1048    This will bring up a list of all actions. Find
1049    <literal><link linkend="block">block</link></literal> near the top, and click
1050    in the <quote>Enabled</quote> column, then <quote><guibutton>Submit</guibutton></quote>
1051    just below the list.
1052   </para>
1053  </listitem>
1054  <listitem>
1055   <para>
1056    Now, in the <literal><link linkend="block">block</link></literal> actions section,
1057    click the <quote><guibutton>Add</guibutton></quote> button, and paste the URL the
1058    browser got from <quote><guimenuitem>Copy Link Location</guimenuitem></quote>.
1059    Remove the <literal>http://</literal> at the beginning of the URL. Then, click
1060    <quote><guibutton>Submit</guibutton></quote> (or
1061    <quote><guibutton>OK</guibutton></quote> if in a pop-up window).
1062   </para>
1063  </listitem>
1064  <listitem>
1065   <para>
1066    Now go back to the original page, and press <keycap>SHIFT-Reload</keycap>
1067    (or flush all browser caches). The image should be gone now.
1068   </para>
1069  </listitem>
1070
1071  </itemizedlist>
1072
1073 <para>
1074  This is a very crude and simple example. There might be good reasons to use a
1075  wildcard pattern match to include potentially similar images from the same
1076  site. For a more extensive explanation of <quote>patterns</quote>, and
1077  the entire actions concept, see <link linkend="actions-file">the Actions
1078  section</link>.
1079 </para>
1080
1081 <para>
1082  For advanced users who want to hand edit their config files, you might want
1083  to now go to the <link linkend="act-examples">Actions Files Tutorial</link>.
1084  The ideas explained therein also apply to the web-based editor.
1085 </para>
1086 <para>
1087  There are also various
1088  <link linkend="filter">filters</link> that can be used for ad blocking
1089  (filters are a special subset of actions). These
1090  fall into the <quote>advanced</quote> usage category, and are explained in
1091  depth in later sections.
1092 </para>
1093
1094 </sect2>
1095
1096 </sect1>
1097
1098 <!--  ~  End section  ~  -->
1099
1100
1101 <!--   ~~~~~       New section      ~~~~~     -->
1102 <sect1 id="startup">
1103 <title>Starting Privoxy</title>
1104 <para>
1105  Before launching <application>Privoxy</application> for the first time, you
1106  will want to configure your browser(s) to use
1107  <application>Privoxy</application> as a HTTP and HTTPS (SSL)
1108  <ulink url="https://en.wikipedia.org/wiki/Proxy_server">proxy</ulink>. The default is
1109  127.0.0.1 (or localhost) for the proxy address, and port 8118 (earlier versions
1110  used port 8000). This is the one configuration step <emphasis>that must be done
1111 </emphasis>!
1112 </para>
1113 <para>
1114  Please note that <application>Privoxy</application> can only proxy HTTP and
1115  HTTPS traffic. It will not work with FTP or other protocols.
1116 </para>
1117
1118  <!-- image of Mozilla Proxy configuration -->
1119   <figure pgwide="0" float="0"><title>Proxy Configuration Showing
1120   Mozilla Firefox HTTP and HTTPS (SSL) Settings</title>
1121    <mediaobject>
1122      <imageobject>
1123       <imagedata  fileref="proxy_setup.jpg" format="jpg">
1124        </imageobject>
1125        <textobject>
1126         <phrase>[ Screenshot of Mozilla Firefox Proxy Configuration ]</phrase>
1127       </textobject>
1128    </mediaobject>
1129   </figure>
1130
1131
1132 <para>
1133  With <application>Firefox</application>, this is typically set under:
1134 </para>
1135
1136 <literallayout>
1137  <guibutton>Edit</guibutton> -> <guibutton>Preferences</guibutton> ->  <guibutton>Network Settings</guibutton> -> <guibutton>Settings</guibutton>
1138 </literallayout>
1139
1140 <para>
1141  Or optionally on some platforms:
1142 </para>
1143
1144 <literallayout>
1145  <guibutton>Edit</guibutton> -> <guibutton>Preferences</guibutton> -> <guibutton>General</guibutton> -> <guibutton>Connection Settings</guibutton> -> <guibutton>Manual Proxy Configuration</guibutton>
1146 </literallayout>
1147
1148
1149 <para>
1150  With <application>Netscape</application> (and
1151  <application>Mozilla</application>), this can be set under:
1152 </para>
1153
1154
1155 <literallayout>
1156 <!-- Mix ascii and gui art, something for everybody -->
1157 <!-- spacing on this is tricky -->
1158  <guibutton>Edit</guibutton> -> <guibutton>Preferences</guibutton> -> <guibutton>Advanced</guibutton> -> <guibutton>Proxies</guibutton> -> <guibutton>HTTP Proxy</guibutton>
1159 </literallayout>
1160
1161 <para>
1162  For <application>Internet Explorer v.5-7</application>:
1163 </para>
1164
1165 <literallayout>
1166  <guibutton>Tools</guibutton> -> <guibutton>Internet Options</guibutton> -> <guibutton>Connections</guibutton> -> <guibutton>LAN Settings</guibutton>
1167 </literallayout>
1168
1169 <para>
1170  Then, check <quote>Use Proxy</quote> and fill in the appropriate info
1171  (Address: 127.0.0.1, Port: 8118). Include HTTPS (SSL), if you want HTTPS
1172  proxy support too (sometimes labeled <quote>Secure</quote>). Make sure any
1173  checkboxes like <quote>Use the same proxy server for all protocols</quote> is
1174  <emphasis>UNCHECKED</emphasis>. You want only HTTP and HTTPS (SSL)!
1175 </para>
1176
1177  <!-- image of IE Proxy configuration -->
1178   <figure pgwide="0" float="0"><title>Proxy Configuration Showing
1179   Internet Explorer HTTP and HTTPS (Secure) Settings</title>
1180    <mediaobject>
1181      <imageobject>
1182       <imagedata  fileref="proxy2.jpg" format="jpg">
1183        </imageobject>
1184        <textobject>
1185         <phrase>[ Screenshot of IE Proxy Configuration ]</phrase>
1186       </textobject>
1187    </mediaobject>
1188   </figure>
1189
1190
1191 <para>
1192  After doing this, flush your browser's disk and memory caches to force a
1193  re-reading of all pages and to get rid of any ads that may be cached. Remove
1194  any <ulink url="https://en.wikipedia.org/wiki/Browser_cookie">cookies</ulink>,
1195  if you want <application>Privoxy</application> to manage that. You are now
1196  ready to start enjoying the benefits of using
1197  <application>Privoxy</application>!
1198 </para>
1199
1200 <para>
1201  <application>Privoxy</application> itself is typically started by specifying the
1202  main configuration file to be used on the command line. If no configuration
1203  file is specified on the command line, <application>Privoxy</application>
1204  will look for a file named <filename>config</filename> in the current
1205  directory. Except on Win32 where it will try <filename>config.txt</filename>.
1206 </para>
1207
1208 <sect2 id="start-debian">
1209 <title>Debian</title>
1210 <para>
1211  We use a script. Note that Debian typically starts &my-app; upon booting per
1212  default.  It will use the file
1213  <filename>/etc/privoxy/config</filename> as its main configuration
1214  file.
1215 </para>
1216  <screen>
1217  # /etc/init.d/privoxy start
1218 </screen>
1219 </sect2>
1220
1221 <sect2 id="start-freebsd">
1222 <title>FreeBSD and ElectroBSD</title>
1223 <para>
1224  To start <application>Privoxy</application> upon booting, add
1225  "privoxy_enable='YES'" to <filename>/etc/rc.conf</filename>.
1226  <application>Privoxy</application> will use
1227  <filename>/usr/local/etc/privoxy/config</filename> as its main
1228  configuration file.
1229 </para>
1230 <para>
1231  If you installed <application>Privoxy</application> into a jail, the
1232  paths above are relative to the jail root.
1233 </para>
1234 <para>
1235  To start <application>Privoxy</application> manually, run:
1236 </para>
1237  <screen>
1238  # service privoxy onestart
1239 </screen>
1240 </sect2>
1241
1242 <sect2 id="start-windows">
1243 <title>Windows</title>
1244 <para>
1245 Click on the &my-app; Icon to start <application>Privoxy</application>. If no configuration file is
1246  specified on the command line, <application>Privoxy</application> will look
1247  for a file named <filename>config.txt</filename>. Note that Windows will
1248  automatically start &my-app; when the system starts if you chose that option
1249  when installing.
1250 </para>
1251 <para>
1252  <application>Privoxy</application> can run with full Windows service functionality.
1253  On Windows only, the &my-app; program has two new command line arguments
1254  to install and uninstall &my-app; as a service. See the
1255  <link linkend="installation-pack-win">Windows Installation
1256  instructions</link> for details.
1257 </para>
1258 </sect2>
1259
1260 <sect2 id="start-unices">
1261 <title>Generic instructions for Unix derivates (Solaris, NetBSD, HP-UX etc.)</title>
1262 <para>
1263 Example Unix startup command:
1264 </para>
1265  <screen>
1266  # /usr/sbin/privoxy --user privoxy /etc/privoxy/config
1267 </screen>
1268 <para>
1269  Note that if you installed <application>Privoxy</application> through
1270  a package manager, the package will probably contain a platform-specific
1271  script or configuration file to start <application>Privoxy</application>
1272  upon boot.
1273 </para>
1274 </sect2>
1275
1276 <sect2 id="start-macosx">
1277 <title>Mac OS X</title>
1278 <para>
1279  The privoxy service will automatically start after a successful installation
1280  (and thereafter every time your computer starts up) however you will need to
1281  configure your web browser(s) to use it. To do so, configure them to use a
1282  proxy for HTTP and HTTPS at the address 127.0.0.1:8118.
1283 </para>
1284 <para>
1285  To prevent the privoxy service from automatically starting when your computer
1286  starts up, remove or rename the file <literal>/Library/LaunchDaemons/org.ijbswa.privoxy.plist</literal>
1287  (on OS X 10.5 and higher) or the folder named
1288  <literal>/Library/StartupItems/Privoxy</literal> (on OS X 10.4 'Tiger').
1289 </para>
1290 <para>
1291  To manually start or stop the privoxy service, use the scripts startPrivoxy.sh
1292  and stopPrivoxy.sh supplied in /Applications/Privoxy. They must be run from an
1293  administrator account, using sudo.
1294 </para>
1295 </sect2>
1296
1297
1298 <!--
1299
1300 <para>
1301  See the section <link linkend="cmdoptions">Command line options</link> for
1302  further info.
1303 </para>
1304
1305 must find a better place for this paragraph
1306
1307 <para>
1308  The included default configuration files should give a reasonable starting
1309  point. Most of the per site configuration is done in the
1310  <ulink url="actions-file.html"><quote>actions</quote></ulink> files. These are
1311  where various cookie actions are defined, ad and banner blocking, and other
1312  aspects of <application>Privoxy</application> configuration. There are several
1313  such files included, with varying levels of aggressiveness.
1314 </para>
1315
1316 <para>
1317  You will probably want to keep an eye out for sites for which you may prefer
1318  persistent cookies, and add these to your actions configuration as needed. By
1319  default, most of these will be accepted only during the current browser
1320  session (aka <quote>session cookies</quote>), unless you add them to the
1321  configuration. If you want the browser to handle this instead, you will need
1322  to edit <filename>user.action</filename> (or through the web based interface)
1323  and disable this feature. If you use more than one browser, it would make
1324  more sense to let <application>Privoxy</application> handle this. In which
1325  case, the browser(s) should be set to accept all cookies.
1326 </para>
1327
1328 <para>
1329  Another feature where you will probably want to define exceptions for trusted
1330  sites is the popup-killing (through  <ulink
1331  url="actions-file.html#FILTER-POPUPS"><quote>+filter{popups}</quote></ulink>),
1332  because your favorite shopping, banking, or leisure site may need
1333  popups (explained below).
1334 </para>
1335
1336 <para>
1337  <application>Privoxy</application> does not support all of the optional HTTP/1.1
1338  features yet. In the unlikely event that you experience inexplicable problems
1339  with browsers that use HTTP/1.1 per default
1340  (like <application>Mozilla</application> or recent versions of I.E.), you might
1341  try to force HTTP/1.0 compatibility. For Mozilla, look under <literal>Edit -&gt;
1342  Preferences -&gt; Debug -&gt; Networking</literal>.
1343  Alternatively, set the <quote>+downgrade-http-version</quote> config option in
1344  <filename>default.action</filename> which will downgrade your browser's HTTP
1345  requests from HTTP/1.1 to HTTP/1.0 before processing them.
1346 </para>
1347
1348 <para>
1349  After running <application>Privoxy</application> for a while, you can
1350  start to fine tune the configuration to suit your personal, or site,
1351  preferences and requirements. There are many, many aspects that can
1352  be customized. <quote>Actions</quote>
1353  can be adjusted by pointing your browser to
1354  <ulink url="http://config.privoxy.org/">http://config.privoxy.org/</ulink>
1355  (shortcut: <ulink url="http://p.p/">http://p.p/</ulink>),
1356  and then follow the link to <quote>View &#38; Change the Current Configuration</quote>.
1357  (This is an internal page and does not require Internet access.)
1358 </para>
1359
1360 <para>
1361  In fact, various aspects of <application>Privoxy</application>
1362  configuration can be viewed from this page, including
1363  current configuration parameters, source code version numbers,
1364  the browser's request headers, and <quote>actions</quote> that apply
1365  to a given URL. In addition to the actions file
1366  editor mentioned above, <application>Privoxy</application> can also
1367  be turned <quote>on</quote> and <quote>off</quote> (toggled) from this page.
1368 </para>
1369
1370 <para>
1371  If you encounter problems, try loading the page without
1372  <application>Privoxy</application>. If that helps, enter the URL where
1373  you have the problems into <ulink url="http://p.p/show-url-info">the browser
1374  based rule tracing utility</ulink>. See which rules apply and why, and
1375  then try turning them off for that site one after the other, until the problem
1376  is gone. When you have found the culprit, you might want to turn the rest on
1377  again.
1378 </para>
1379
1380 <para>
1381  If the above paragraph sounds gibberish to you, you might want to <link
1382  linkend="actions-file">read more about the actions concept</link>
1383  or even dive deep into the <link linkend="actionsanat">Appendix
1384  on actions</link>.
1385 </para>
1386
1387 <para>
1388  If you can't get rid of the problem at all, think you've found a bug in
1389  Privoxy, want to propose a new feature or smarter rules, please see the
1390  section <link linkend="contact"><quote>Contacting the
1391  Developers</quote></link> below.
1392 </para>
1393
1394 -->
1395
1396 <!--   ~~~~~       New section      ~~~~~     -->
1397 <sect2 id="cmdoptions">
1398 <title>Command Line Options</title>
1399 <para>
1400  <application>Privoxy</application> may be invoked with the following
1401  command-line options:
1402 </para>
1403
1404  <itemizedlist>
1405
1406  <listitem>
1407   <para>
1408    <emphasis>--config-test</emphasis>
1409   </para>
1410   <para>
1411    Exit after loading the configuration files before binding to
1412    the listen address. The exit code signals whether or not the
1413    configuration files have been successfully loaded.
1414   </para>
1415   <para>
1416    If the exit code is 1, at least one of the configuration files
1417    is invalid, if it is 0, all the configuration files have been
1418    successfully loaded (but may still contain errors that can
1419    currently only be detected at run time).
1420   </para>
1421   <para>
1422    This option doesn't affect the log setting, combination with
1423    <emphasis>--no-daemon</emphasis> is recommended if a configured
1424    log file shouldn't be used.
1425   </para>
1426  </listitem>
1427  <listitem>
1428   <para>
1429     <emphasis>--version</emphasis>
1430   </para>
1431   <para>
1432      Print version info and exit. Unix only.
1433   </para>
1434  </listitem>
1435  <listitem>
1436   <para>
1437     <emphasis>--help</emphasis>
1438   </para>
1439   <para>
1440    Print short usage info and exit. Unix only.
1441   </para>
1442  </listitem>
1443  <listitem>
1444   <para>
1445    <emphasis>--no-daemon</emphasis>
1446   </para>
1447   <para>
1448    Don't become a daemon, i.e. don't fork and become process group
1449    leader, and don't detach from controlling tty. Unix only.
1450   </para>
1451  </listitem>
1452  <listitem>
1453   <para>
1454    <emphasis>--pidfile FILE</emphasis>
1455   </para>
1456   <para>
1457    On startup, write the process ID to <emphasis>FILE</emphasis>. Delete the
1458    <emphasis>FILE</emphasis> on exit. Failure to create or delete the
1459    <emphasis>FILE</emphasis> is non-fatal. If no <emphasis>FILE</emphasis>
1460    option is given, no PID file will be used. Unix only.
1461   </para>
1462  </listitem>
1463  <listitem>
1464   <para>
1465    <emphasis>--user USER[.GROUP]</emphasis>
1466   </para>
1467   <para>
1468    After (optionally) writing the PID file, assume the user  ID  of
1469    <emphasis>USER</emphasis>, and if included the GID of GROUP.  Exit if the
1470    privileges are not sufficient to do so. Unix only.
1471   </para>
1472  </listitem>
1473  <listitem>
1474   <para>
1475    <emphasis>--chroot</emphasis>
1476   </para>
1477   <para>
1478    Before changing to the user ID given in the <emphasis>--user</emphasis> option,
1479    chroot to that user's home directory, i.e. make the kernel pretend to the &my-app;
1480    process that the directory tree starts there. If set up carefully, this can limit
1481    the impact of possible vulnerabilities in &my-app; to the files contained in that hierarchy.
1482    Unix only.
1483   </para>
1484  </listitem>
1485  <listitem>
1486   <para>
1487    <emphasis>--pre-chroot-nslookup hostname</emphasis>
1488   </para>
1489   <para>
1490    Specifies a hostname (for example www.privoxy.org) to look up before doing a chroot.
1491    On some systems, initializing the resolver library involves reading config files from
1492    /etc and/or loading additional shared libraries from /lib.
1493    On these systems, doing a hostname lookup before the chroot reduces
1494    the number of files that must be copied into the chroot tree.
1495   </para>
1496   <para>
1497    For fastest startup speed, a good value is a hostname that is not in /etc/hosts but that
1498    your local name server (listed in /etc/resolv.conf) can resolve without recursion
1499    (that is, without having to ask any other name servers). The hostname need not exist,
1500    but if it doesn't, an error message (which can be ignored) will be output.
1501   </para>
1502  </listitem>
1503
1504  <listitem>
1505   <para>
1506     <emphasis>configfile</emphasis>
1507   </para>
1508   <para>
1509     If no <emphasis>configfile</emphasis> is included on the command line,
1510     <application>Privoxy</application> will look for a file named
1511     <quote>config</quote> in the current directory (except on Win32
1512     where it will look for <quote>config.txt</quote> instead). Specify
1513     full path to avoid confusion. If no config file is found,
1514     <application>Privoxy</application> will fail to start.
1515   </para>
1516  </listitem>
1517
1518  </itemizedlist>
1519
1520 <para>
1521  On <application>MS Windows</application> only there are two additional
1522  command-line options to allow <application>Privoxy</application> to install and
1523  run as a <emphasis>service</emphasis>. See the
1524 <link linkend="installation-pack-win">Window Installation section</link>
1525 for details.
1526 </para>
1527
1528 </sect2>
1529
1530 </sect1>
1531
1532 <!--  ~  End section  ~  -->
1533
1534
1535 <!--   ~~~~~       New section      ~~~~~     -->
1536 <sect1 id="configuration"><title>Privoxy Configuration</title>
1537  <para>
1538   All <application>Privoxy</application> configuration is stored
1539   in text files. These files can be edited with a text editor.
1540   Many important aspects of <application>Privoxy</application> can
1541   also be controlled easily with a web browser.
1542  </para>
1543
1544
1545 <!--   ~~~~~       New section      ~~~~~     -->
1546
1547 <sect2 id="control-with-webbrowser">
1548 <title>Controlling Privoxy with Your Web Browser</title>
1549 <para>
1550  <application>Privoxy</application>'s user interface can be reached through the special
1551  URL <ulink url="http://config.privoxy.org/">http://config.privoxy.org/</ulink>
1552  (shortcut: <ulink url="http://p.p/">http://p.p/</ulink>),
1553  which is a built-in page and works without Internet access.
1554  You will see the following section:
1555 </para>
1556
1557 <!-- Needs to be put in a table and colorized  -->
1558 <screen><!-- want the background color that goes with screen -->
1559  <msgtext>
1560  <bridgehead renderas="sect2">&nbsp;&nbsp;&nbsp;&nbsp;Privoxy Menu</bridgehead>
1561  <simplelist>
1562  <member>
1563   &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&squf;&nbsp;&nbsp;<ulink url="http://config.privoxy.org/show-status">View & change the current configuration</ulink>
1564  </member>
1565  <member>
1566   &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&squf;&nbsp;&nbsp;<ulink url="http://config.privoxy.org/client-tags">View or toggle the tags that can be set based on the client's address</ulink>
1567  </member>
1568  <member>
1569   &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&squf;&nbsp;&nbsp;<ulink url="http://config.privoxy.org/show-request">View the request headers.</ulink>
1570  </member>
1571  <member>
1572   &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&squf;&nbsp;&nbsp;<ulink url="http://config.privoxy.org/show-url-info">Look up which actions apply to a URL and why</ulink>
1573  </member>
1574  <member>
1575   &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&squf;&nbsp;&nbsp;<ulink url="http://config.privoxy.org/toggle">Toggle Privoxy on or off</ulink>
1576  </member>
1577  <member>
1578   &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&squf;&nbsp;&nbsp;<ulink
1579   url="https://www.privoxy.org/&p-version;/user-manual/">Documentation</ulink>
1580  </member>
1581  </simplelist>
1582  </msgtext>
1583 </screen>
1584
1585
1586 <para>
1587  This should be self-explanatory. Note the first item leads to an editor for the
1588  <link linkend="actions-file">actions files</link>, which is where the ad, banner,
1589  cookie, and URL blocking magic is configured as well as other advanced features of
1590  <application>Privoxy</application>. This is an easy way to adjust various
1591  aspects of <application>Privoxy</application> configuration. The actions
1592  file, and other configuration files, are explained in detail below.
1593 </para>
1594
1595 <para>
1596  <quote>Toggle Privoxy On or Off</quote> is handy for sites that might
1597  have problems with your current actions and filters. You can in fact use
1598  it as a test to see whether it is <application>Privoxy</application>
1599  causing the problem or not. <application>Privoxy</application> continues
1600  to run as a proxy in this case, but all manipulation is disabled, i.e.
1601  <application>Privoxy</application> acts like a normal forwarding proxy.
1602 </para>
1603
1604 <para>
1605  Note that several of the features described above are disabled by default
1606  in <application>Privoxy</application> 3.0.7 beta and later.
1607  Check the
1608  <ulink url="config.html">configuration file</ulink> to learn why
1609  and in which cases it's safe to enable them again.
1610 </para>
1611
1612 </sect2>
1613
1614 <!--  ~  End section  ~  -->
1615
1616
1617
1618
1619 <!--   ~~~~~       New section      ~~~~~     -->
1620
1621 <sect2 id="confoverview">
1622 <title>Configuration Files Overview</title>
1623 <para>
1624  For Unix, *BSD and GNU/Linux, all configuration files are located in
1625  <filename>/etc/privoxy/</filename> by default. For MS Windows
1626  these are all in the same directory as the
1627  <application>Privoxy</application> executable. <![%p-not-stable;[ The name
1628  and number of configuration files has changed from previous versions, and is
1629  subject to change as development progresses.]]>
1630 </para>
1631
1632 <para>
1633  The installed defaults provide a reasonable starting point, though
1634  some settings may be aggressive by some standards. For the time being, the
1635  principle configuration files are:
1636 </para>
1637
1638  <itemizedlist>
1639
1640   <listitem>
1641    <para>
1642      The <link linkend="config">main configuration file</link> is named <filename>config</filename>
1643      on GNU/Linux, Unix, BSD, and <filename>config.txt</filename>
1644      on Windows. This is a required file.
1645    </para>
1646   </listitem>
1647
1648   <listitem>
1649    <para>
1650     <filename>match-all.action</filename> is used to define which <quote>actions</quote>
1651     relating to banner-blocking, images, pop-ups, content modification, cookie handling
1652     etc should be applied by default. It should be the first actions file loaded.
1653    </para>
1654    <para>
1655     <filename>default.action</filename> defines many exceptions (both positive and negative)
1656     from the default set of actions that's configured in <filename>match-all.action</filename>.
1657     It should be the second actions file loaded and shouldn't be edited by the user.
1658    </para>
1659    <para>
1660     Multiple actions files may be defined in <filename>config</filename>. These
1661     are processed in the order they are defined. Local customizations and locally
1662     preferred exceptions to the default policies as defined in
1663     <filename>match-all.action</filename> (which you will most probably want
1664     to define sooner or later) are best applied in <filename>user.action</filename>,
1665     where you can preserve them across upgrades. The file isn't installed by all
1666     installers, but you can easily create it yourself with a text editor.
1667    </para>
1668    <para>
1669     There is also a web based editor that can be accessed from
1670     <ulink
1671     url="http://config.privoxy.org/show-status">http://config.privoxy.org/show-status</ulink>
1672     (Shortcut: <ulink
1673     url="http://p.p/show-status">http://p.p/show-status</ulink>) for the
1674     various actions files.
1675    </para>
1676   </listitem>
1677
1678   <listitem>
1679    <para>
1680     <quote>Filter files</quote> (the <link linkend="filter-file">filter
1681     file</link>) can be used to re-write the raw page content, including
1682     viewable text as well as embedded HTML and JavaScript, and whatever else
1683     lurks on any given web page. The filtering jobs are only pre-defined here;
1684     whether to apply them or not is up to the actions files.
1685     <filename>default.filter</filename> includes various filters made
1686     available for use by the developers. Some are much more intrusive than
1687     others, and all should be used with caution. You may define additional
1688     filter files in <filename>config</filename> as you can with
1689     actions files. We suggest <filename>user.filter</filename> for any
1690     locally defined filters or customizations.
1691    </para>
1692   </listitem>
1693
1694  </itemizedlist>
1695
1696 <para>
1697  The syntax of the configuration and filter files may change between different
1698  Privoxy versions, unfortunately some enhancements cost backwards compatibility.
1699  <!-- Add link to documentation-->
1700 </para>
1701
1702 <para>
1703  All files use the <quote><literal>#</literal></quote> character to denote a
1704  comment (the rest of the line will be ignored) and understand line continuation
1705  through placing a backslash ("<literal>\</literal>") as the very last character
1706  in a line. If the <literal>#</literal> is preceded by a backslash, it looses
1707  its special function. Placing a <literal>#</literal> in front of an otherwise
1708  valid configuration line to prevent it from being interpreted is called "commenting
1709  out" that line. Blank lines are ignored.
1710 </para>
1711
1712 <para>
1713  The actions files and filter files
1714  can use Perl style <link linkend="regex">regular expressions</link> for
1715  maximum flexibility.
1716 </para>
1717
1718 <para>
1719  After making any changes, there is no need to restart
1720  <application>Privoxy</application> in order for the changes to take
1721  effect. <application>Privoxy</application> detects such changes
1722  automatically. Note, however, that it may take one or two additional
1723  requests for the change to take effect. When changing the listening address
1724  of <application>Privoxy</application>, these <quote>wake up</quote> requests
1725  must obviously be sent to the <emphasis>old</emphasis> listening address.
1726 </para>
1727
1728 <![%p-not-stable;[
1729 <para>
1730  While under development, the configuration content is subject to change.
1731  The below documentation may not be accurate by the time you read this.
1732  Also, what constitutes a <quote>default</quote> setting, may change, so
1733  please check all your configuration files on important issues.
1734 </para>
1735 ]]>
1736
1737 </sect2>
1738 </sect1>
1739 <!--  ~  End section  ~  -->
1740
1741
1742 <!--   ~~~~~~~~       New section Header    ~~~~~~~~~     -->
1743
1744 <!-- **************************************************** -->
1745 <!-- Include config.sgml here -->
1746 <!-- This is where the entire config file is detailed. -->
1747  &config;
1748 <!-- end include  -->
1749
1750
1751 <!--  ~  End section  ~  -->
1752
1753
1754
1755 <!--   ~~~~~~~~       New section Header    ~~~~~~~~~     -->
1756
1757 <sect1 id="actions-file"><title>Actions Files</title>
1758
1759
1760 <!--
1761   XXX: similar descriptions are in the Configuration Files sections.
1762   We should only describe them at one place.
1763 -->
1764 <para>
1765  The actions files are used to define what <emphasis>actions</emphasis>
1766  <application>Privoxy</application> takes for which URLs, and thus determines
1767  how ad images, cookies and various other aspects of HTTP content and
1768  transactions are handled, and on which sites (or even parts thereof).
1769  There are a number of such actions, with a wide range of functionality.
1770  Each action does something a little different.
1771  These actions give us a veritable arsenal of tools with which to exert
1772  our control, preferences and independence. Actions can be combined so that
1773  their effects are aggregated when applied against a given set of URLs.
1774 </para>
1775 <para>
1776  There
1777  are three action files included with <application>Privoxy</application> with
1778  differing purposes:
1779 </para>
1780  <itemizedlist>
1781   <listitem>
1782    <para>
1783     <filename>match-all.action</filename> - is used to define which
1784     <quote>actions</quote> relating to banner-blocking, images, pop-ups,
1785     content modification, cookie handling etc should be applied by default.
1786     It should be the first actions file loaded
1787    </para>
1788   </listitem>
1789   <listitem>
1790    <para>
1791     <filename>default.action</filename> - defines many exceptions (both
1792     positive and negative) from the default set of actions that's configured
1793     in <filename>match-all.action</filename>. It is a set of rules that should
1794     work reasonably well as-is for most users. This file is only supposed to
1795     be edited by the developers. It should be the second actions file loaded.
1796    </para>
1797   </listitem>
1798   <listitem>
1799    <para>
1800     <filename>user.action</filename> - is intended to be for local site
1801     preferences and exceptions. As an example, if your ISP or your bank
1802     has specific requirements, and need special handling, this kind of
1803     thing should go here. This file will not be upgraded.
1804    </para>
1805   </listitem>
1806   <listitem>
1807    <para>
1808     <guibutton>Edit</guibutton>  <guibutton>Set to Cautious</guibutton> <guibutton>Set to Medium</guibutton>  <guibutton>Set to Advanced</guibutton>
1809    </para>
1810    <para>
1811     These have increasing levels of aggressiveness <emphasis>and have no
1812     influence on your browsing unless you select them explicitly in the
1813     editor</emphasis>. A default installation should be pre-set to
1814     <literal>Cautious</literal>. New users should try this for a while before
1815     adjusting the settings to more aggressive levels. The more aggressive
1816     the settings, then the more likelihood there is of problems such as sites
1817     not working as they should.
1818    </para>
1819    <para>
1820     The <guibutton>Edit</guibutton> button allows you to turn each
1821     action on/off individually for fine-tuning. The <guibutton>Cautious</guibutton>
1822     button changes the actions list to low/safe settings which will activate
1823     ad blocking and a minimal set of &my-app;'s features, and subsequently
1824     there will be less of a chance for accidental problems. The
1825     <guibutton>Medium</guibutton> button sets the list to a medium level of
1826     other features and a low level set of privacy features. The
1827     <guibutton>Advanced</guibutton> button sets the list to a high level of
1828     ad blocking and medium level of privacy. See the chart below. The latter
1829     three buttons over-ride any changes via with the
1830     <guibutton>Edit</guibutton> button. More fine-tuning can be done in the
1831     lower sections of this internal page.
1832    </para>
1833    <para>
1834     While the actions file editor allows to enable these settings in all
1835     actions files, they are only supposed to be enabled in the first one
1836     to make sure you don't unintentionally overrule earlier rules.
1837    </para>
1838    <para>
1839     The default profiles, and their associated actions, as pre-defined in
1840     <filename>default.action</filename> are:
1841    </para>
1842     <table frame=all id="default-configurations"><title>Default Configurations</title>
1843     <tgroup cols=4 align=left colsep=1 rowsep=1>
1844     <colspec colname=c1>
1845     <colspec colname=c2>
1846     <colspec colname=c3>
1847     <colspec colname=c4>
1848     <thead>
1849     <row>
1850       <entry>Feature</entry>
1851       <entry>Cautious</entry>
1852       <entry>Medium</entry>
1853       <entry>Advanced</entry>
1854     </row>
1855     </thead>
1856     <!--  <tfoot> -->
1857     <!--  <row> -->
1858     <!--    <entry>f1</entry> -->
1859     <!--    <entry>f2</entry> -->
1860     <!--    <entry>f3</entry> -->
1861     <!--    <entry>f4</entry> -->
1862     <!--  </row> -->
1863     <!--  </tfoot> -->
1864     <tbody>
1865
1866     <row>
1867       <entry>Ad-blocking Aggressiveness</entry>
1868       <entry>medium</entry>
1869       <entry>high</entry>
1870       <entry>high</entry>
1871     </row>
1872
1873     <row>
1874       <entry>Ad-filtering by size</entry>
1875       <entry>no</entry>
1876       <entry>yes</entry>
1877       <entry>yes</entry>
1878     </row>
1879
1880     <row>
1881       <entry>Ad-filtering by link</entry>
1882       <entry>no</entry>
1883       <entry>no</entry>
1884       <entry>yes</entry>
1885     </row>
1886     <row>
1887       <entry>Pop-up killing</entry>
1888       <entry>blocks only</entry>
1889       <entry>blocks only</entry>
1890       <entry>blocks only</entry>
1891     </row>
1892
1893     <row>
1894       <entry>Privacy Features</entry>
1895       <entry>low</entry>
1896       <entry>medium</entry>
1897       <entry>medium/high</entry>
1898     </row>
1899
1900     <row>
1901       <entry>Cookie handling</entry>
1902       <entry>none</entry>
1903       <entry>session-only</entry>
1904       <entry>kill</entry>
1905     </row>
1906
1907     <row>
1908       <entry>Referer forging</entry>
1909       <entry>no</entry>
1910       <entry>yes</entry>
1911       <entry>yes</entry>
1912     </row>
1913
1914     <row>
1915       <entry>GIF de-animation</entry>
1916       <entry>no</entry>
1917       <entry>yes</entry>
1918       <entry>yes</entry>
1919     </row>
1920
1921     <row>
1922       <entry>Fast redirects</entry>
1923       <entry>no</entry>
1924       <entry>no</entry>
1925       <entry>yes</entry>
1926     </row>
1927
1928     <row>
1929       <entry>HTML taming</entry>
1930       <entry>no</entry>
1931       <entry>no</entry>
1932       <entry>yes</entry>
1933     </row>
1934
1935     <row>
1936       <entry>JavaScript taming</entry>
1937       <entry>no</entry>
1938       <entry>no</entry>
1939       <entry>yes</entry>
1940     </row>
1941
1942     <row>
1943       <entry>Web-bug killing</entry>
1944       <entry>no</entry>
1945       <entry>yes</entry>
1946       <entry>yes</entry>
1947     </row>
1948
1949     <row>
1950       <entry>Image tag reordering</entry>
1951       <entry>no</entry>
1952       <entry>yes</entry>
1953       <entry>yes</entry>
1954     </row>
1955
1956     </tbody>
1957     </tgroup>
1958     </table>
1959
1960   </listitem>
1961  </itemizedlist>
1962
1963 <para>
1964  The list of actions files to be used are defined in the main configuration
1965  file, and are processed in the order they are defined (e.g.
1966  <filename>default.action</filename> is typically processed before
1967  <filename>user.action</filename>). The content of these can all be viewed and
1968  edited from <ulink
1969  url="http://config.privoxy.org/show-status">http://config.privoxy.org/show-status</ulink>.
1970  The over-riding principle when applying actions, is that the last action that
1971  matches a given URL wins. The broadest, most general rules go first
1972  (defined in <filename>default.action</filename>),
1973  followed by any exceptions (typically also in
1974  <filename>default.action</filename>), which are then followed lastly by any
1975  local preferences (typically in <emphasis>user</emphasis><filename>.action</filename>).
1976  Generally, <filename>user.action</filename> has the last word.
1977  </para>
1978
1979 <para>
1980  An actions file typically has multiple sections. If you want to use
1981  <quote>aliases</quote> in an actions file, you have to place the (optional)
1982  <link linkend="aliases">alias section</link> at the top of that file.
1983  Then comes the default set of rules which will apply universally to all
1984  sites and pages (be <emphasis>very careful</emphasis> with using such a
1985  universal set in <filename>user.action</filename> or any other actions file after
1986  <filename>default.action</filename>, because it will override the result
1987  from consulting any previous file). And then below that,
1988  exceptions to the defined universal policies. You can regard
1989  <filename>user.action</filename> as an appendix to <filename>default.action</filename>,
1990  with the advantage that it is a separate file, which makes preserving your
1991  personal settings across <application>Privoxy</application> upgrades easier.
1992 </para>
1993
1994 <para>
1995  Actions can be used to block anything you want, including ads, banners, or
1996  just some obnoxious URL whose content you would rather not see. Cookies can be accepted
1997  or rejected, or accepted only during the current browser session (i.e. not
1998  written to disk), content can be modified, some JavaScripts tamed, user-tracking
1999  fooled, and much more. See below for a <link linkend="actions">complete list
2000  of actions</link>.
2001 </para>
2002
2003 <!--   ~~~~~       New section      ~~~~~     -->
2004 <sect2 id="right-mix">
2005 <title>Finding the Right Mix</title>
2006 <para>
2007  Note that some <link linkend="actions">actions</link>, like cookie suppression
2008  or script disabling, may render some sites unusable that rely on these
2009  techniques to work properly. Finding the right mix of actions is not always easy and
2010  certainly a matter of personal taste. And, things can always change, requiring
2011  refinements in the configuration. In general, it can be said that the more
2012  <quote>aggressive</quote> your default settings (in the top section of the
2013  actions file) are, the more exceptions for <quote>trusted</quote> sites you
2014  will have to make later. If, for example, you want to crunch all cookies per
2015  default, you'll have to make exceptions from that rule for sites that you
2016  regularly use and that require cookies for actually useful purposes, like maybe
2017  your bank, favorite shop, or newspaper.
2018 </para>
2019
2020 <para>
2021  We have tried to provide you with reasonable rules to start from in the
2022  distribution actions files. But there is no general rule of thumb on these
2023  things. There just are too many variables, and sites are constantly changing.
2024  Sooner or later you will want to change the rules (and read this chapter again :).
2025 </para>
2026 </sect2>
2027
2028 <!--   ~~~~~       New section      ~~~~~     -->
2029 <sect2 id="how-to-edit">
2030 <title>How to Edit</title>
2031 <para>
2032  The easiest way to edit the actions files is with a browser by
2033  using our browser-based editor, which can be reached from <ulink
2034  url="http://config.privoxy.org/show-status">http://config.privoxy.org/show-status</ulink>.
2035  Note: the config file option <link
2036  linkend="enable-edit-actions">enable-edit-actions</link> must be enabled for
2037  this to work. The editor allows both fine-grained control over every single
2038  feature on a per-URL basis, and easy choosing from wholesale sets of defaults
2039  like <quote>Cautious</quote>, <quote>Medium</quote> or
2040  <quote>Advanced</quote>. Warning: the <quote>Advanced</quote> setting is more
2041  aggressive, and will be more likely to cause problems for some sites.
2042  Experienced users only!
2043  </para>
2044
2045 <para>
2046  If you prefer plain text editing to GUIs, you can of course also directly edit the
2047  the actions files with your favorite text editor. Look at
2048  <filename>default.action</filename> which is richly commented with many
2049  good examples.
2050 </para>
2051 </sect2>
2052
2053
2054 <sect2 id="actions-apply">
2055 <title>How Actions are Applied to Requests</title>
2056 <para>
2057  Actions files are divided into sections. There are special sections,
2058  like the <quote><link linkend="aliases">alias</link></quote> sections which will
2059  be discussed later. For now let's concentrate on regular sections: They have a
2060  heading line (often split up to multiple lines for readability) which consist
2061  of a list of actions, separated by whitespace and enclosed in curly braces.
2062  Below that, there is a list of URL and tag patterns, each on a separate line.
2063 </para>
2064
2065 <para>
2066  To determine which actions apply to a request, the URL of the request is
2067  compared to all URL patterns in each <quote>action file</quote>.
2068  Every time it matches, the list of applicable actions for the request is
2069  incrementally updated, using the heading of the section in which the
2070  pattern is located. The same is done again for tags and tag patterns later on.
2071 </para>
2072
2073 <para>
2074  If multiple applying sections set the same action differently,
2075  the last match wins. If not, the effects are aggregated.
2076  E.g. a URL might match a regular section with a heading line of <literal>{
2077  +<link linkend="handle-as-image">handle-as-image</link> }</literal>,
2078  then later another one with just <literal>{
2079  +<link linkend="block">block</link> }</literal>, resulting
2080  in <emphasis>both</emphasis> actions to apply. And there may well be
2081  cases where you will want to combine actions together. Such a section then
2082  might look like:
2083 </para>
2084
2085  <screen>
2086   { +<literal>handle-as-image</literal>  +<literal>block{Banner ads.}</literal> }
2087   # Block these as if they were images. Send no block page.
2088    banners.example.com
2089    media.example.com/.*banners
2090    .example.com/images/ads/</screen>
2091
2092 <para>
2093  You can trace this process for URL patterns and any given URL by visiting <ulink
2094  url="http://config.privoxy.org/show-url-info">http://config.privoxy.org/show-url-info</ulink>.
2095 </para>
2096
2097 <para>
2098  Examples and more detail on this is provided in the Appendix, <link linkend="ACTIONSANAT">
2099  Troubleshooting: Anatomy of an Action</link> section.
2100 </para>
2101 </sect2>
2102
2103 <!--   ~~~~~       New section      ~~~~~     -->
2104 <sect2 id="af-patterns">
2105 <title>Patterns</title>
2106 <para>
2107  As mentioned, <application>Privoxy</application> uses <quote>patterns</quote>
2108  to determine what <emphasis>actions</emphasis> might apply to which sites and
2109  pages your browser attempts to access. These <quote>patterns</quote> use wild
2110  card type <emphasis>pattern</emphasis> matching to achieve a high degree of
2111  flexibility. This allows one expression to be expanded and potentially match
2112  against many similar patterns.
2113 </para>
2114
2115 <para>
2116  Generally, an URL pattern has the form
2117  <literal>&lt;host&gt;&lt;port&gt;/&lt;path&gt;</literal>, where the
2118  <literal>&lt;host&gt;</literal>, the <literal>&lt;port&gt;</literal>
2119  and the <literal>&lt;path&gt;</literal> are optional. (This is why the special
2120  <literal>/</literal> pattern matches all URLs). Note that the protocol
2121  portion of the URL pattern (e.g. <literal>http://</literal>) should
2122  <emphasis>not</emphasis> be included in the pattern. This is assumed already!
2123 </para>
2124 <para>
2125  The pattern matching syntax is different for the host and path parts of
2126  the URL. The host part uses a simple globbing type matching technique,
2127  while the path part uses more flexible
2128  <ulink url="https://en.wikipedia.org/wiki/Regular_expressions"><quote>Regular
2129   Expressions</quote></ulink> (POSIX 1003.2).
2130 </para>
2131 <para>
2132  The port part of a pattern is a decimal port number preceded by a colon
2133  (<literal>:</literal>). If the host part contains a numerical IPv6 address,
2134  it has to be put into angle brackets
2135  (<literal>&lt;</literal>, <literal>&gt;</literal>).
2136 </para>
2137
2138 <variablelist>
2139  <varlistentry>
2140   <term><literal>www.example.com/</literal></term>
2141   <listitem>
2142    <para>
2143     is a host-only pattern and will match any request to <literal>www.example.com</literal>,
2144     regardless of which document on that server is requested. So ALL pages in
2145     this domain would be covered by the scope of this action. Note that a
2146     simple <literal>example.com</literal> is different and would NOT match.
2147    </para>
2148   </listitem>
2149  </varlistentry>
2150  <varlistentry>
2151   <term><literal>www.example.com</literal></term>
2152   <listitem>
2153    <para>
2154     means exactly the same. For host-only patterns, the trailing <literal>/</literal> may
2155     be omitted.
2156    </para>
2157   </listitem>
2158  </varlistentry>
2159  <varlistentry>
2160   <term><literal>www.example.com/index.html</literal></term>
2161   <listitem>
2162    <para>
2163     matches all the documents on <literal>www.example.com</literal>
2164     whose name starts with <literal>/index.html</literal>.
2165    </para>
2166   </listitem>
2167  </varlistentry>
2168  <varlistentry>
2169   <term><literal>www.example.com/index.html$</literal></term>
2170   <listitem>
2171    <para>
2172     matches only the single document <literal>/index.html</literal>
2173     on <literal>www.example.com</literal>.
2174    </para>
2175   </listitem>
2176  </varlistentry>
2177  <varlistentry>
2178   <term><literal>/index.html$</literal></term>
2179   <listitem>
2180    <para>
2181     matches the document <literal>/index.html</literal>, regardless of the domain,
2182     i.e. on <emphasis>any</emphasis> web server anywhere.
2183    </para>
2184   </listitem>
2185  </varlistentry>
2186  <varlistentry>
2187   <term><literal>/</literal></term>
2188   <listitem>
2189    <para>
2190     Matches any URL because there's no requirement for either the
2191     domain or the path to match anything.
2192    </para>
2193   </listitem>
2194  </varlistentry>
2195  <varlistentry>
2196   <term><literal>:8000/</literal></term>
2197   <listitem>
2198    <para>
2199     Matches any URL pointing to TCP port 8000.
2200    </para>
2201   </listitem>
2202  </varlistentry>
2203  <varlistentry>
2204   <term><literal>10.0.0.1/</literal></term>
2205   <listitem>
2206    <para>
2207     Matches any URL with the host address <literal>10.0.0.1</literal>.
2208     (Note that the real URL uses plain brackets, not angle brackets.)
2209    </para>
2210   </listitem>
2211  </varlistentry>
2212  <varlistentry>
2213   <term><literal>&lt;2001:db8::1&gt;/</literal></term>
2214   <listitem>
2215    <para>
2216     Matches any URL with the host address <literal>2001:db8::1</literal>.
2217     (Note that the real URL uses plain brackets, not angle brackets.)
2218    </para>
2219   </listitem>
2220  </varlistentry>
2221  <varlistentry>
2222   <term><literal>index.html</literal></term>
2223   <listitem>
2224    <para>
2225     matches nothing, since it would be interpreted as a domain name and
2226     there is no top-level domain called <literal>.html</literal>. So its
2227     a mistake.
2228    </para>
2229   </listitem>
2230  </varlistentry>
2231 </variablelist>
2232
2233
2234 <!--   ~~~~~       New section      ~~~~~     -->
2235 <sect3 id="host-pattern"><title>The Host Pattern</title>
2236
2237 <para>
2238  The matching of the host part offers some flexible options: if the
2239  host pattern starts or ends with a dot, it becomes unanchored at that end.
2240  The host pattern is often referred to as domain pattern as it is usually
2241  used to match domain names and not IP addresses.
2242  For example:
2243 </para>
2244
2245 <variablelist>
2246  <varlistentry>
2247   <term><literal>.example.com</literal></term>
2248   <listitem>
2249    <para>
2250     matches any domain with first-level domain <literal>com</literal>
2251     and second-level domain <literal>example</literal>.
2252     For example <literal>www.example.com</literal>,
2253     <literal>example.com</literal> and <literal>foo.bar.baz.example.com</literal>.
2254     Note that it wouldn't match if the second-level domain was <literal>another-example</literal>.
2255    </para>
2256   </listitem>
2257  </varlistentry>
2258  <varlistentry>
2259   <term><literal>www.</literal></term>
2260   <listitem>
2261    <para>
2262     matches any domain that <emphasis>STARTS</emphasis> with
2263     <literal>www.</literal> (It also matches the domain
2264     <literal>www</literal> but most of the time that doesn't matter.)
2265    </para>
2266   </listitem>
2267  </varlistentry>
2268  <varlistentry>
2269   <term><literal>.example.</literal></term>
2270   <listitem>
2271    <para>
2272     matches any domain that <emphasis>CONTAINS</emphasis> <literal>.example.</literal>.
2273     And, by the way, also included would be any files or documents that exist
2274     within that domain since no path limitations are specified. (Correctly
2275     speaking: It matches any FQDN that contains <literal>example</literal> as
2276     a domain.) This might be <literal>www.example.com</literal>,
2277     <literal>news.example.de</literal>, or
2278     <literal>www.example.net/cgi/testing.pl</literal> for instance. All these
2279     cases are matched.
2280    </para>
2281   </listitem>
2282  </varlistentry>
2283 </variablelist>
2284
2285 <para>
2286  Additionally, there are wild-cards that you can use in the domain names
2287  themselves. These work similarly to shell globbing type wild-cards:
2288  <quote>*</quote> represents zero or more arbitrary characters (this is
2289  equivalent to the
2290  <ulink url="https://en.wikipedia.org/wiki/Regular_expressions"><quote>Regular
2291  Expression</quote></ulink> based syntax of <quote>.*</quote>),
2292  <quote>?</quote>  represents any single character (this is equivalent to the
2293  regular expression syntax of a simple <quote>.</quote>), and you can define
2294  <quote>character classes</quote> in square brackets which is similar to
2295  the same regular expression technique. All of this can be freely mixed:
2296 </para>
2297
2298 <variablelist>
2299  <varlistentry>
2300   <term><literal>ad*.example.com</literal></term>
2301   <listitem>
2302    <para>
2303     matches <quote>adserver.example.com</quote>,
2304     <quote>ads.example.com</quote>, etc but not <quote>sfads.example.com</quote>
2305    </para>
2306   </listitem>
2307  </varlistentry>
2308  <varlistentry>
2309   <term><literal>*ad*.example.com</literal></term>
2310   <listitem>
2311    <para>
2312     matches all of the above, and then some.
2313    </para>
2314   </listitem>
2315  </varlistentry>
2316  <varlistentry>
2317   <term><literal>.?pix.com</literal></term>
2318   <listitem>
2319    <para>
2320     matches <literal>www.ipix.com</literal>,
2321     <literal>pictures.epix.com</literal>, <literal>a.b.c.d.e.upix.com</literal> etc.
2322    </para>
2323   </listitem>
2324  </varlistentry>
2325  <varlistentry>
2326   <term><literal>www[1-9a-ez].example.c*</literal></term>
2327   <listitem>
2328    <para>
2329      matches <literal>www1.example.com</literal>,
2330      <literal>www4.example.cc</literal>, <literal>wwwd.example.cy</literal>,
2331      <literal>wwwz.example.com</literal> etc., but <emphasis>not</emphasis>
2332      <literal>wwww.example.com</literal>.
2333    </para>
2334   </listitem>
2335  </varlistentry>
2336 </variablelist>
2337
2338 <para>
2339  While flexible, this is not the sophistication of full regular expression based syntax.
2340 </para>
2341
2342 <para>
2343  When compiled with FEATURE_PCRE_HOST_PATTERNS patterns can be prefixed with
2344  <quote>PCRE-HOST-PATTERN:</quote> in which case full regular expression
2345  (PCRE) can be used for the host pattern as well.
2346 </para>
2347
2348 </sect3>
2349
2350 <!--  ~  End section  ~  -->
2351
2352
2353 <!--   ~~~~~       New section      ~~~~~     -->
2354 <sect3 id="path-pattern"><title>The Path Pattern</title>
2355
2356 <para>
2357  <application>Privoxy</application> uses <quote>modern</quote> POSIX 1003.2
2358   <ulink url="https://en.wikipedia.org/wiki/Regular_expressions"><quote>Regular
2359   Expressions</quote></ulink> for matching the path portion (after the slash),
2360   and is thus more flexible.
2361 </para>
2362
2363 <para>
2364  There is an <link linkend="regex">Appendix</link> with a brief quick-start into regular
2365  expressions, you also might want to have a look at your operating system's documentation
2366  on regular expressions (try <literal>man re_format</literal>).
2367 </para>
2368
2369 <para>
2370  Note that the path pattern is automatically left-anchored at the <quote>/</quote>,
2371  i.e. it matches as if it would start with a <quote>^</quote> (regular expression speak
2372  for the beginning of a line).
2373 </para>
2374
2375 <para>
2376  Please also note that matching in the path is <emphasis>CASE INSENSITIVE</emphasis>
2377  by default, but you can switch to case sensitive at any point in the pattern by using the
2378  <quote>(?-i)</quote> switch: <literal>www.example.com/(?-i)PaTtErN.*</literal> will match
2379  only documents whose path starts with <literal>PaTtErN</literal> in
2380  <emphasis>exactly</emphasis> this capitalization.
2381 </para>
2382
2383 <variablelist>
2384  <varlistentry>
2385   <term><literal>.example.com/.*</literal></term>
2386   <listitem>
2387    <para>
2388      Is equivalent to just <quote>.example.com</quote>, since any documents
2389      within that domain are matched with or without the <quote>.*</quote>
2390      regular expression. This is redundant
2391    </para>
2392   </listitem>
2393  </varlistentry>
2394  <varlistentry>
2395   <term><literal>.example.com/.*/index.html$</literal></term>
2396   <listitem>
2397    <para>
2398     Will match any page in the domain of <quote>example.com</quote> that is
2399     named <quote>index.html</quote>, and that is part of some path. For
2400     example, it matches <quote>www.example.com/testing/index.html</quote> but
2401     NOT <quote>www.example.com/index.html</quote> because the regular
2402     expression called for at least two <quote>/'s</quote>, thus the path
2403     requirement. It also would match
2404     <quote>www.example.com/testing/index_html</quote>, because of the
2405     special meta-character <quote>.</quote>.
2406    </para>
2407   </listitem>
2408  </varlistentry>
2409  <varlistentry>
2410   <term><literal>.example.com/(.*/)?index\.html$</literal></term>
2411   <listitem>
2412    <para>
2413     This regular expression is conditional so it will match any page
2414     named <quote>index.html</quote> regardless of path which in this case can
2415     have one or more <quote>/'s</quote>. And this one must contain exactly
2416     <quote>.html</quote> (and end with that!).
2417    </para>
2418   </listitem>
2419  </varlistentry>
2420  <varlistentry>
2421   <term><literal>.example.com/(.*/)(ads|banners?|junk)</literal></term>
2422   <listitem>
2423    <para>
2424     This regular expression will match any path of <quote>example.com</quote>
2425     that contains any of the words <quote>ads</quote>, <quote>banner</quote>,
2426     <quote>banners</quote> (because of the <quote>?</quote>) or <quote>junk</quote>.
2427     The path does not have to end in these words, just contain them.
2428     The path has to contain at least two slashes (including the one at the beginning).
2429    </para>
2430   </listitem>
2431  </varlistentry>
2432  <varlistentry>
2433   <term><literal>.example.com/(.*/)(ads|banners?|junk)/.*\.(jpe?g|gif|png)$</literal></term>
2434   <listitem>
2435    <para>
2436     This is very much the same as above, except now it must end in either
2437     <quote>.jpg</quote>, <quote>.jpeg</quote>, <quote>.gif</quote> or <quote>.png</quote>. So this
2438     one is limited to common image formats.
2439    </para>
2440   </listitem>
2441  </varlistentry>
2442
2443 </variablelist>
2444 <para>
2445  There are many, many good examples to be found in <filename>default.action</filename>,
2446  and more tutorials below in <link linkend="regex">Appendix on regular expressions</link>.
2447 </para>
2448
2449 </sect3>
2450
2451 <!--  ~  End section  ~  -->
2452
2453
2454 <!--   ~~~~~       New section      ~~~~~     -->
2455 <sect3 id="tag-pattern"><title>The Request Tag Pattern</title>
2456
2457 <para>
2458  Request tag patterns are used to change the applying actions based on the
2459  request's tags. Tags can be created based on HTTP headers with either
2460  the <link linkend="CLIENT-HEADER-TAGGER">client-header-tagger</link>
2461  or the  <link linkend="SERVER-HEADER-TAGGER">server-header-tagger</link> action.
2462 </para>
2463
2464 <para>
2465  Request tag patterns have to start with <quote>TAG:</quote>, so &my-app;
2466  can tell them apart from other patterns. Everything after the colon
2467  including white space, is interpreted as a regular expression with
2468  path pattern syntax, except that tag patterns aren't left-anchored
2469  automatically (&my-app; doesn't silently add a <quote>^</quote>,
2470  you have to do it yourself if you need it).
2471 </para>
2472
2473 <para>
2474  To match all requests that are tagged with <quote>foo</quote>
2475  your pattern line should be <quote>TAG:^foo$</quote>,
2476  <quote>TAG:foo</quote> would work as well, but it would also
2477  match requests whose tags contain <quote>foo</quote> somewhere.
2478  <quote>TAG: foo</quote> wouldn't work as it requires white space.
2479 </para>
2480
2481 <para>
2482  Sections can contain URL and request tag patterns at the same time,
2483  but request tag patterns are checked after the URL patterns and thus
2484  always overrule them, even if they are located before the URL patterns.
2485 </para>
2486
2487 <para>
2488  Once a new request tag is added, Privoxy checks right away if it's matched by one
2489  of the request tag patterns and updates the action settings accordingly. As a result
2490  request tags can be used to activate other tagger actions, as long as these other
2491  taggers look for headers that haven't already be parsed.
2492 </para>
2493
2494 <para>
2495  For example you could tag client requests which use the
2496  <literal>POST</literal> method,
2497  then use this tag to activate another tagger that adds a tag if cookies
2498  are sent, and then use a block action based on the cookie tag. This allows
2499  the outcome of one action, to be input into a subsequent action. However if
2500  you'd reverse the position of the described taggers, and activated the
2501  method tagger based on the cookie tagger, no method tags would be created.
2502  The method tagger would look for the request line, but at the time
2503  the cookie tag is created, the request line has already been parsed.
2504 </para>
2505
2506 <para>
2507  While this is a limitation you should be aware of, this kind of
2508  indirection is seldom needed anyway and even the example doesn't
2509  make too much sense.
2510 </para>
2511
2512 </sect3>
2513
2514 <!--   ~~~~~       New section      ~~~~~     -->
2515 <sect3 id="negative-tag-patterns"><title>The Negative Request Tag Patterns</title>
2516
2517 <para>
2518  To match requests that do not have a certain request tag, specify a negative tag pattern
2519  by prefixing the tag pattern line with either <quote>NO-REQUEST-TAG:</quote>
2520  or <quote>NO-RESPONSE-TAG:</quote> instead of <quote>TAG:</quote>.
2521 </para>
2522
2523 <para>
2524  Negative request tag patterns created with <quote>NO-REQUEST-TAG:</quote> are checked
2525  after all client headers are scanned, the ones created with <quote>NO-RESPONSE-TAG:</quote>
2526  are checked after all server headers are scanned. In both cases all the created
2527  tags are considered.
2528 </para>
2529 </sect3>
2530
2531 <!--   ~~~~~       New section      ~~~~~     -->
2532 <sect3 id="client-tag-pattern"><title>The Client Tag Pattern</title>
2533
2534 <!-- XXX: This section contains duplicates content from the
2535           client-specific-tag documentation. -->
2536
2537 <warning>
2538 <para>
2539  This is an experimental feature. The syntax is likely to change in future versions.
2540 </para>
2541 </warning>
2542
2543 <para>
2544  Client tag patterns are not set based on HTTP headers but based on
2545  the client's IP address. Users can enable them themselves, but the
2546  Privoxy admin controls which tags are available and what their effect
2547  is.
2548 </para>
2549
2550 <para>
2551  After a client-specific tag has been defined with the
2552  <link linkend="client-specific-tag">client-specific-tag</link>,
2553  directive, action sections can be activated based on the tag by using a
2554  CLIENT-TAG pattern. The CLIENT-TAG pattern is evaluated at the same priority
2555  as URL patterns, as a result the last matching pattern wins. Tags that
2556  are created based on client or server headers are evaluated later on
2557  and can overrule CLIENT-TAG and URL patterns!
2558 </para>
2559 <para>
2560  The tag is set for all requests that come from clients that requested
2561  it to be set. Note that "clients" are  differentiated by IP address,
2562  if the IP address changes the tag has to be requested again.
2563 </para>
2564 <para>
2565  Clients can request tags to be set by using the CGI interface <ulink
2566   url="http://config.privoxy.org/client-tags">http://config.privoxy.org/client-tags</ulink>.
2567 </para>
2568
2569 <para>
2570  Example:
2571 </para>
2572
2573  <screen>
2574 # If the admin defined the client-specific-tag circumvent-blocks,
2575 # and the request comes from a client that previously requested
2576 # the tag to be set, overrule all previous +block actions that
2577 # are enabled based on URL to CLIENT-TAG patterns.
2578 {-block}
2579 CLIENT-TAG:^circumvent-blocks$
2580
2581 # This section is not overruled because it's located after
2582 # the previous one.
2583 {+block{Nobody is supposed to request this.}}
2584 example.org/blocked-example-page</screen>
2585
2586 </sect3>
2587
2588 </sect2>
2589
2590 <!--  ~  End section  ~  -->
2591
2592
2593 <!--   ~~~~~       New section      ~~~~~     -->
2594
2595 <sect2 id="actions">
2596 <title>Actions</title>
2597 <para>
2598  All actions are disabled by default, until they are explicitly enabled
2599  somewhere in an actions file. Actions are turned on if preceded with a
2600  <quote>+</quote>, and turned off if preceded with a <quote>-</quote>. So a
2601  <literal>+action</literal> means <quote>do that action</quote>, e.g.
2602  <literal>+block</literal> means <quote>please block URLs that match the
2603  following patterns</quote>, and <literal>-block</literal> means <quote>don't
2604  block URLs that match the following patterns, even if <literal>+block</literal>
2605  previously applied.</quote>
2606 </para>
2607
2608 <para>
2609  Again, actions are invoked by placing them on a line, enclosed in curly braces and
2610  separated by whitespace, like in
2611  <literal>{+some-action -some-other-action{some-parameter}}</literal>,
2612  followed by a list of URL patterns, one per line, to which they apply.
2613  Together, the actions line and the following pattern lines make up a section
2614  of the actions file.
2615 </para>
2616
2617 <para>
2618  Actions fall into three categories:
2619 </para>
2620
2621  <itemizedlist>
2622  <listitem>
2623   <para>
2624    Boolean, i.e the action can only be <quote>enabled</quote> or
2625    <quote>disabled</quote>. Syntax:
2626   </para>
2627    <screen>
2628   +<replaceable class="function">name</replaceable>        # enable action <replaceable class="parameter">name</replaceable>
2629   -<replaceable class="function">name</replaceable>        # disable action <replaceable class="parameter">name</replaceable></screen>
2630   <para>
2631    Example: <literal>+handle-as-image</literal>
2632   </para>
2633  </listitem>
2634
2635
2636  <listitem>
2637   <para>
2638    Parameterized, where some value is required in order to enable this type of action.
2639    Syntax:
2640   </para>
2641    <screen>
2642   +<replaceable class="function">name</replaceable>{<replaceable class="parameter">param</replaceable>}  # enable action and set parameter to <replaceable class="parameter">param</replaceable>,
2643                # overwriting parameter from previous match if necessary
2644   -<replaceable class="function">name</replaceable>         # disable action. The parameter can be omitted</screen>
2645   <para>
2646    Note that if the URL matches multiple positive forms of a parameterized action,
2647    the last match wins, i.e. the params from earlier matches are simply ignored.
2648   </para>
2649   <para>
2650    Example: <literal>+hide-user-agent{Mozilla/5.0 (X11; U; FreeBSD i386; en-US; rv:1.8.1.4) Gecko/20070602 Firefox/2.0.0.4}</literal>
2651   </para>
2652  </listitem>
2653
2654  <listitem>
2655   <para>
2656    Multi-value. These look exactly like parameterized actions,
2657    but they behave differently: If the action applies multiple times to the
2658    same URL, but with different parameters, <emphasis>all</emphasis> the parameters
2659    from <emphasis>all</emphasis> matches are remembered. This is used for actions
2660    that can be executed for the same request repeatedly, like adding multiple
2661    headers, or filtering through multiple filters. Syntax:
2662   </para>
2663    <screen>
2664   +<replaceable class="function">name</replaceable>{<replaceable class="parameter">param</replaceable>}   # enable action and add <replaceable class="parameter">param</replaceable> to the list of parameters
2665   -<replaceable class="function">name</replaceable>{<replaceable class="parameter">param</replaceable>}   # remove the parameter <replaceable class="parameter">param</replaceable> from the list of parameters
2666                 # If it was the last one left, disable the action.
2667   <replaceable class="parameter">-name</replaceable>          # disable this action completely and remove all parameters from the list</screen>
2668   <para>
2669    Examples: <literal>+add-header{X-Fun-Header: Some text}</literal> and
2670    <literal>+filter{html-annoyances}</literal>
2671   </para>
2672  </listitem>
2673
2674  </itemizedlist>
2675
2676 <para>
2677  If nothing is specified in any actions file, no <quote>actions</quote> are
2678  taken. So in this case <application>Privoxy</application> would just be a
2679  normal, non-blocking, non-filtering proxy. You must specifically enable the
2680  privacy and blocking features you need (although the provided default actions
2681  files will give a good starting point).
2682 </para>
2683
2684 <para>
2685  Later defined action sections always over-ride earlier ones of the same type.
2686  So exceptions to any rules you make, should come in the latter part of the file (or
2687  in a file that is processed later when using multiple actions files such
2688  as <filename>user.action</filename>). For multi-valued actions, the actions
2689  are applied in the order they are specified. Actions files are processed in
2690  the order they are defined in <filename>config</filename> (the default
2691  installation has three actions files). It also quite possible for any given
2692  URL to match more than one <quote>pattern</quote> (because of wildcards and
2693  regular expressions), and thus to trigger more than one set of actions! Last
2694  match wins.
2695 </para>
2696
2697 <!-- start actions listing -->
2698 <para>
2699  The list of valid <application>Privoxy</application> actions are:
2700 </para>
2701
2702
2703 <!-- ********************************************************** -->
2704 <!-- Please note the below defined actions use id's that are    -->
2705 <!-- probably linked from other places, so please don't change. -->
2706 <!--                                                            -->
2707 <!-- ********************************************************** -->
2708
2709
2710 <!--   ~~~~~       New section      ~~~~~     -->
2711
2712 <sect3 renderas="sect4" id="add-header">
2713 <title>add-header</title>
2714
2715 <variablelist>
2716  <varlistentry>
2717   <term>Typical use:</term>
2718   <listitem>
2719    <para>Confuse log analysis, custom applications</para>
2720   </listitem>
2721  </varlistentry>
2722
2723  <varlistentry>
2724   <term>Effect:</term>
2725   <listitem>
2726    <para>
2727     Sends a user defined HTTP header to the web server.
2728    </para>
2729   </listitem>
2730  </varlistentry>
2731
2732  <varlistentry>
2733   <term>Type:</term>
2734   <!-- boolean, parameterized, Multi-value -->
2735   <listitem>
2736    <para>Multi-value.</para>
2737   </listitem>
2738  </varlistentry>
2739
2740  <varlistentry>
2741   <term>Parameter:</term>
2742   <listitem>
2743    <para>
2744     Any string value is possible. Validity of the defined HTTP headers is not checked.
2745     It is recommended that you use the <quote><literal>X-</literal></quote> prefix
2746     for custom headers.
2747    </para>
2748   </listitem>
2749  </varlistentry>
2750
2751 <varlistentry>
2752   <term>Notes:</term>
2753   <listitem>
2754    <para>
2755     This action may be specified multiple times, in order to define multiple
2756     headers. This is rarely needed for the typical user. If you don't know what
2757     <quote>HTTP headers</quote> are, you definitely don't need to worry about this
2758     one.
2759    </para>
2760    <para>
2761     Headers added by this action are not modified by other actions.
2762    </para>
2763   </listitem>
2764  </varlistentry>
2765
2766  <varlistentry>
2767   <term>Example usage:</term>
2768   <listitem>
2769      <screen># Add a DNT ("Do not track") header to all requests,
2770 # event to those that already have one.
2771 #
2772 # This is just an example, not a recommendation.
2773 #
2774 # There is no reason to believe that user-tracking websites care
2775 # about the DNT header and depending on the User-Agent, adding the
2776 # header may make user-tracking easier.
2777 {+add-header{DNT: 1}}
2778 /</screen>
2779   </listitem>
2780  </varlistentry>
2781 </variablelist>
2782 </sect3>
2783
2784
2785 <!--   ~~~~~       New section      ~~~~~     -->
2786 <sect3 renderas="sect4" id="block">
2787 <title>block</title>
2788
2789 <variablelist>
2790  <varlistentry>
2791   <term>Typical use:</term>
2792   <listitem>
2793    <para>Block ads or other unwanted content</para>
2794   </listitem>
2795  </varlistentry>
2796
2797  <varlistentry>
2798   <term>Effect:</term>
2799   <listitem>
2800    <para>
2801     Requests for URLs to which this action applies are blocked, i.e. the
2802     requests are trapped by &my-app; and the requested URL is never retrieved,
2803     but is answered locally with a substitute page or image, as determined by
2804     the <literal><link
2805     linkend="handle-as-image">handle-as-image</link></literal>,
2806     <literal><link
2807     linkend="set-image-blocker">set-image-blocker</link></literal>, and
2808     <literal><link
2809     linkend="handle-as-empty-document">handle-as-empty-document</link></literal> actions.
2810
2811    </para>
2812   </listitem>
2813  </varlistentry>
2814
2815  <varlistentry>
2816   <term>Type:</term>
2817   <!-- boolean, parameterized, Multi-value -->
2818   <listitem>
2819    <para>Parameterized.</para>
2820   </listitem>
2821  </varlistentry>
2822
2823  <varlistentry>
2824   <term>Parameter:</term>
2825   <listitem>
2826    <para>A block reason that should be given to the user.</para>
2827   </listitem>
2828  </varlistentry>
2829
2830 <varlistentry>
2831   <term>Notes:</term>
2832   <listitem>
2833    <para>
2834     <application>Privoxy</application> sends a special <quote>BLOCKED</quote> page
2835     for requests to blocked pages. This page contains the block reason given as
2836     parameter, a link to find out why the block action applies, and a click-through
2837     to the blocked content (the latter only if the force feature is available and
2838     enabled).
2839    </para>
2840    <para>
2841     A very important exception occurs if <emphasis>both</emphasis>
2842     <literal>block</literal> and <literal><link linkend="handle-as-image">handle-as-image</link></literal>,
2843     apply to the same request: it will then be replaced by an image. If
2844     <literal><link linkend="set-image-blocker">set-image-blocker</link></literal>
2845     (see below) also applies, the type of image will be determined by its parameter,
2846     if not, the standard checkerboard pattern is sent.
2847    </para>
2848    <para>
2849     It is important to understand this process, in order
2850     to understand how <application>Privoxy</application> deals with
2851     ads and other unwanted content. Blocking is a core feature, and one
2852     upon which various other features depend.
2853    </para>
2854    <para>
2855     The <literal><link linkend="filter">filter</link></literal>
2856     action can perform a very similar task, by <quote>blocking</quote>
2857     banner images and other content through rewriting the relevant URLs in the
2858     document's HTML source, so they don't get requested in the first place.
2859     Note that this is a totally different technique, and it's easy to confuse the two.
2860    </para>
2861   </listitem>
2862  </varlistentry>
2863
2864  <varlistentry>
2865   <term>Example usage (section):</term>
2866   <listitem>
2867      <screen>{+block{No nasty stuff for you.}}
2868 # Block and replace with "blocked" page
2869  .nasty-stuff.example.com
2870
2871 {+block{Doubleclick banners.} +handle-as-image}
2872 # Block and replace with image
2873  .ad.doubleclick.net
2874  .ads.r.us/banners/
2875
2876 {+block{Layered ads.} +handle-as-empty-document}
2877 # Block and then ignore
2878  adserver.example.net/.*\.js$</screen>
2879   </listitem>
2880  </varlistentry>
2881
2882
2883 </variablelist>
2884 </sect3>
2885
2886
2887 <!--   ~~~~~       New section      ~~~~~     -->
2888 <sect3 renderas="sect4" id="change-x-forwarded-for">
2889 <title>change-x-forwarded-for</title>
2890
2891 <variablelist>
2892  <varlistentry>
2893   <term>Typical use:</term>
2894   <listitem>
2895    <para>Improve privacy by not forwarding the source of the request in the HTTP headers.</para>
2896   </listitem>
2897  </varlistentry>
2898
2899  <varlistentry>
2900   <term>Effect:</term>
2901   <listitem>
2902    <para>
2903     Deletes the <quote>X-Forwarded-For:</quote> HTTP header from the client request,
2904     or adds a new one.
2905    </para>
2906   </listitem>
2907  </varlistentry>
2908
2909  <varlistentry>
2910   <term>Type:</term>
2911   <!-- Boolean, Parameterized, Multi-value -->
2912   <listitem>
2913    <para>Parameterized.</para>
2914   </listitem>
2915  </varlistentry>
2916
2917  <varlistentry>
2918   <term>Parameter:</term>
2919   <listitem>
2920    <itemizedlist>
2921     <listitem>
2922      <para><quote>block</quote> to delete the header.</para>
2923     </listitem>
2924     <listitem>
2925      <para>
2926        <quote>add</quote> to create the header (or append
2927        the client's IP address to an already existing one).
2928      </para>
2929     </listitem>
2930    </itemizedlist>
2931   </listitem>
2932  </varlistentry>
2933
2934  <varlistentry>
2935   <term>Notes:</term>
2936   <listitem>
2937    <para>
2938     It is safe and recommended to use <literal>block</literal>.
2939    </para>
2940    <para>
2941     Forwarding the source address of the request may make
2942     sense in some multi-user setups but is also a privacy risk.
2943    </para>
2944   </listitem>
2945  </varlistentry>
2946  <varlistentry>
2947   <term>Example usage:</term>
2948   <listitem>
2949      <screen>+change-x-forwarded-for{block}</screen>
2950   </listitem>
2951  </varlistentry>
2952 </variablelist>
2953 </sect3>
2954
2955 <!--   ~~~~~       New section      ~~~~~     -->
2956 <sect3 renderas="sect4" id="client-header-filter">
2957 <title>client-header-filter</title>
2958
2959 <variablelist>
2960  <varlistentry>
2961   <term>Typical use:</term>
2962   <listitem>
2963    <para>
2964    Rewrite or remove single client headers.
2965    </para>
2966   </listitem>
2967  </varlistentry>
2968
2969  <varlistentry>
2970   <term>Effect:</term>
2971   <listitem>
2972    <para>
2973     All client headers to which this action applies are filtered on-the-fly through
2974     the specified regular expression based substitutions.
2975    </para>
2976   </listitem>
2977  </varlistentry>
2978
2979  <varlistentry>
2980   <term>Type:</term>
2981   <!-- boolean, parameterized, Multi-value -->
2982   <listitem>
2983    <para>Multi-value.</para>
2984   </listitem>
2985  </varlistentry>
2986
2987  <varlistentry>
2988   <term>Parameter:</term>
2989   <listitem>
2990    <para>
2991     The name of a client-header filter, as defined in one of the
2992     <link linkend="filter-file">filter files</link>.
2993    </para>
2994   </listitem>
2995  </varlistentry>
2996
2997  <varlistentry>
2998   <term>Notes:</term>
2999   <listitem>
3000    <para>
3001     Client-header filters are applied to each header on its own, not to
3002     all at once. This makes it easier to diagnose problems, but on the downside
3003     you can't write filters that only change header x if header y's value is z.
3004     You can do that by using tags though.
3005    </para>
3006    <para>
3007     Client-header filters are executed after the other header actions have finished
3008     and use their output as input.
3009    </para>
3010    <para>
3011     If the request URI gets changed, &my-app; will detect that and use the new
3012     one. This can be used to rewrite the request destination behind the client's
3013     back, for example to specify a Tor exit relay for certain requests.
3014    </para>
3015    <para>
3016     Note that to change the destination host for
3017     <link linkend="HTTPS-INSPECTION">https-inspected</link>
3018     requests a protocol and host has to be added to the URI.
3019    </para>
3020    <para>
3021     If <link linkend="HTTPS-INSPECTION">https inspection</link>
3022     is enabled, the protocol can be downgraded from https to http
3023     but upgrading a request from http to https is currently not
3024     supported.
3025    </para>
3026    <para>
3027     After detecting a rewrite, &my-app; does not update the actions
3028     used for the request based on the new host.
3029    </para>
3030    <para>
3031     Please refer to the <link linkend="filter-file">filter file chapter</link>
3032     to learn which client-header filters are available by default, and how to
3033     create your own.
3034    </para>
3035
3036   </listitem>
3037  </varlistentry>
3038
3039  <varlistentry>
3040   <term>Example usage (section):</term>
3041   <listitem>
3042      <screen>
3043 # Hide Tor exit notation in Host and Referer Headers
3044 {+client-header-filter{hide-tor-exit-notation}}
3045 /
3046 </screen>
3047   </listitem>
3048  </varlistentry>
3049
3050 </variablelist>
3051 </sect3>
3052
3053 <!--   ~~~~~       New section      ~~~~~     -->
3054 <sect3 renderas="sect4" id="client-body-filter">
3055 <title>client-body-filter</title>
3056
3057 <variablelist>
3058  <varlistentry>
3059   <term>Typical use:</term>
3060   <listitem>
3061    <para>
3062    Rewrite or remove client request body.
3063    </para>
3064   </listitem>
3065  </varlistentry>
3066
3067  <varlistentry>
3068   <term>Effect:</term>
3069   <listitem>
3070    <para>
3071     All request bodies to which this action applies are filtered on-the-fly through
3072     the specified regular expression based substitutions.
3073    </para>
3074   </listitem>
3075  </varlistentry>
3076
3077  <varlistentry>
3078   <term>Type:</term>
3079   <!-- boolean, parameterized, Multi-value -->
3080   <listitem>
3081    <para>Multi-value.</para>
3082   </listitem>
3083  </varlistentry>
3084
3085  <varlistentry>
3086   <term>Parameter:</term>
3087   <listitem>
3088    <para>
3089     The name of a client-body filter, as defined in one of the
3090     <link linkend="filter-file">filter files</link>.
3091    </para>
3092   </listitem>
3093  </varlistentry>
3094
3095  <varlistentry>
3096   <term>Notes:</term>
3097   <listitem>
3098    <para>
3099     Please refer to the <link linkend="filter-file">filter file chapter</link>
3100     to learn how to create your own client-body filters.
3101    </para>
3102    <para>
3103     The distribution <filename>default.filter</filename> file contains a selection of
3104     client-body filters for example purposes.
3105    </para>
3106    <para>
3107     The amount of data that can be filtered is limited by the
3108     <literal><link linkend="buffer-limit">buffer-limit</link></literal>
3109     option in the main <link linkend="config">config file</link>. The
3110     default is 4096 KB (4 Megs). Once this limit is exceeded, the whole
3111     request body is passed through unfiltered.
3112    </para>
3113   </listitem>
3114  </varlistentry>
3115
3116  <varlistentry>
3117   <term>Example usage (section):</term>
3118   <listitem>
3119      <screen>
3120 # Remove "test" everywhere in the request body
3121 {+client-body-filter{remove-test}}
3122 /
3123 </screen>
3124   </listitem>
3125  </varlistentry>
3126
3127 </variablelist>
3128 </sect3>
3129
3130
3131 <!--   ~~~~~       New section      ~~~~~     -->
3132 <sect3 renderas="sect4" id="client-header-tagger">
3133 <title>client-header-tagger</title>
3134
3135 <variablelist>
3136  <varlistentry>
3137   <term>Typical use:</term>
3138   <listitem>
3139    <para>
3140    Block requests based on their headers.
3141    </para>
3142   </listitem>
3143  </varlistentry>
3144
3145  <varlistentry>
3146   <term>Effect:</term>
3147   <listitem>
3148    <para>
3149     Client headers to which this action applies are filtered on-the-fly through
3150     the specified regular expression based substitutions, the result is used as
3151     tag.
3152    </para>
3153   </listitem>
3154  </varlistentry>
3155
3156  <varlistentry>
3157   <term>Type:</term>
3158   <!-- boolean, parameterized, Multi-value -->
3159   <listitem>
3160    <para>Multi-value.</para>
3161   </listitem>
3162  </varlistentry>
3163
3164  <varlistentry>
3165   <term>Parameter:</term>
3166   <listitem>
3167    <para>
3168     The name of a client-header tagger, as defined in one of the
3169     <link linkend="filter-file">filter files</link>.
3170    </para>
3171   </listitem>
3172  </varlistentry>
3173
3174  <varlistentry>
3175   <term>Notes:</term>
3176   <listitem>
3177    <para>
3178     Client-header taggers are applied to each header on its own,
3179     and as the header isn't modified, each tagger <quote>sees</quote>
3180     the original.
3181    </para>
3182    <para>
3183     Client-header taggers are the first actions that are executed
3184     and their tags can be used to control every other action.
3185    </para>
3186  </listitem>
3187  </varlistentry>
3188
3189  <varlistentry>
3190   <term>Example usage (section):</term>
3191   <listitem>
3192      <screen>
3193 # Tag every request with the User-Agent header
3194 {+client-header-tagger{user-agent}}
3195 /
3196
3197 # Tagging itself doesn't change the action
3198 # settings, sections with TAG patterns do:
3199 #
3200 # If it's a download agent, use a different forwarding proxy,
3201 # show the real User-Agent and make sure resume works.
3202 {+forward-override{forward-socks5 10.0.0.2:2222 .} \
3203  -hide-if-modified-since      \
3204  -overwrite-last-modified     \
3205  -hide-user-agent             \
3206  -filter                      \
3207  -deanimate-gifs              \
3208 }
3209 TAG:^User-Agent: NetBSD-ftp/
3210 TAG:^User-Agent: Novell ZYPP Installer
3211 TAG:^User-Agent: RPM APT-HTTP/
3212 TAG:^User-Agent: fetch libfetch/
3213 TAG:^User-Agent: Ubuntu APT-HTTP/
3214 TAG:^User-Agent: MPlayer/
3215 </screen>
3216
3217      <screen>
3218 # Tag all requests with the Range header set
3219 {+client-header-tagger{range-requests}}
3220 /
3221
3222 # Disable filtering for the tagged requests.
3223 #
3224 # With filtering enabled Privoxy would remove the Range headers
3225 # to be able to filter the whole response. The downside is that
3226 # it prevents clients from resuming downloads or skipping over
3227 # parts of multimedia files.
3228 {-filter -deanimate-gifs}
3229 TAG:^RANGE-REQUEST$
3230 </screen>
3231
3232      <screen>
3233 # Tag all requests with the client IP address
3234 #
3235 # (Technically the client IP address isn't included in the
3236 # client headers but client-header taggers can set it anyway.
3237 # For details see the tagger in default.filter)
3238 {+client-header-tagger{client-ip-address}}
3239 /
3240
3241 # Change forwarding settings for requests coming from address 10.0.0.1
3242 {+forward-override{forward-socks5 127.0.1.2:2222 .}}
3243 TAG:^IP-ADDRESS: 10\.0\.0\.1$
3244 </screen>
3245   </listitem>
3246  </varlistentry>
3247
3248 </variablelist>
3249 </sect3>
3250
3251
3252 <!--   ~~~~~       New section      ~~~~~     -->
3253 <sect3 renderas="sect4" id="content-type-overwrite">
3254 <title>content-type-overwrite</title>
3255
3256 <variablelist>
3257  <varlistentry>
3258   <term>Typical use:</term>
3259   <listitem>
3260    <para>Stop useless download menus from popping up, or change the browser's rendering mode</para>
3261   </listitem>
3262  </varlistentry>
3263
3264  <varlistentry>
3265   <term>Effect:</term>
3266   <listitem>
3267    <para>
3268     Replaces the <quote>Content-Type:</quote> HTTP server header.
3269    </para>
3270   </listitem>
3271  </varlistentry>
3272
3273  <varlistentry>
3274   <term>Type:</term>
3275   <!-- Boolean, Parameterized, Multi-value -->
3276   <listitem>
3277    <para>Parameterized.</para>
3278   </listitem>
3279  </varlistentry>
3280
3281  <varlistentry>
3282   <term>Parameter:</term>
3283   <listitem>
3284    <para>
3285     Any string.
3286    </para>
3287   </listitem>
3288  </varlistentry>
3289
3290  <varlistentry>
3291   <term>Notes:</term>
3292   <listitem>
3293    <para>
3294     The <quote>Content-Type:</quote> HTTP server header is used by the
3295     browser to decide what to do with the document. The value of this
3296     header can cause the browser to open a download menu instead of
3297     displaying the document by itself, even if the document's format is
3298     supported by the browser.
3299    </para>
3300    <para>
3301     The declared content type can also affect which rendering mode
3302     the browser chooses. If XHTML is delivered as <quote>text/html</quote>,
3303     many browsers treat it as yet another broken HTML document.
3304     If it is send as <quote>application/xml</quote>, browsers with
3305     XHTML support will only display it, if the syntax is correct.
3306    </para>
3307    <para>
3308     If you see a web site that proudly uses XHTML buttons, but sets
3309     <quote>Content-Type: text/html</quote>, you can use &my-app;
3310     to overwrite it with <quote>application/xml</quote> and validate
3311     the web master's claim inside your XHTML-supporting browser.
3312     If the syntax is incorrect, the browser will complain loudly.
3313    </para>
3314    <para>
3315     You can also go the opposite direction: if your browser prints
3316     error messages instead of rendering a document falsely declared
3317     as XHTML, you can overwrite the content type with
3318     <quote>text/html</quote> and have it rendered as broken HTML document.
3319    </para>
3320    <para>
3321     By default <literal>content-type-overwrite</literal> only replaces
3322     <quote>Content-Type:</quote> headers that look like some kind of text.
3323     If you want to overwrite it unconditionally, you have to combine it with
3324     <literal><link linkend="force-text-mode">force-text-mode</link></literal>.
3325     This limitation exists for a reason, think twice before circumventing it.
3326    </para>
3327    <para>
3328     Most of the time it's easier to replace this action with a custom
3329     <literal><link linkend="server-header-filter">server-header filter</link></literal>.
3330     It allows you to activate it for every document of a certain site and it will still
3331     only replace the content types you aimed at.
3332    </para>
3333    <para>
3334     Of course you can apply <literal>content-type-overwrite</literal>
3335     to a whole site and then make URL based exceptions, but it's a lot
3336     more work to get the same precision.
3337    </para>
3338   </listitem>
3339  </varlistentry>
3340
3341  <varlistentry>
3342   <term>Example usage (sections):</term>
3343   <listitem>
3344      <screen># Check if www.example.net/ really uses valid XHTML
3345 { +content-type-overwrite{application/xml} }
3346 www.example.net/
3347
3348 # but leave the content type unmodified if the URL looks like a style sheet
3349 {-content-type-overwrite}
3350 www.example.net/.*\.css$
3351 www.example.net/.*style
3352 </screen>
3353   </listitem>
3354  </varlistentry>
3355 </variablelist>
3356 </sect3>
3357
3358
3359 <!--   ~~~~~       New section      ~~~~~     -->
3360 <sect3 renderas="sect4" id="crunch-client-header">
3361 <!--
3362 new action
3363 -->
3364 <title>crunch-client-header</title>
3365
3366 <variablelist>
3367  <varlistentry>
3368   <term>Typical use:</term>
3369   <listitem>
3370    <para>Remove a client header <application>Privoxy</application> has no dedicated action for.</para>
3371   </listitem>
3372  </varlistentry>
3373
3374  <varlistentry>
3375   <term>Effect:</term>
3376   <listitem>
3377    <para>
3378     Deletes every header sent by the client that contains the string the user supplied as parameter.
3379    </para>
3380   </listitem>
3381  </varlistentry>
3382
3383  <varlistentry>
3384   <term>Type:</term>
3385   <!-- Boolean, Parameterized, Multi-value -->
3386   <listitem>
3387    <para>Parameterized.</para>
3388   </listitem>
3389  </varlistentry>
3390
3391  <varlistentry>
3392   <term>Parameter:</term>
3393   <listitem>
3394    <para>
3395     Any string.
3396    </para>
3397   </listitem>
3398  </varlistentry>
3399
3400  <varlistentry>
3401   <term>Notes:</term>
3402   <listitem>
3403    <para>
3404     This action allows you to block client headers for which no dedicated
3405     <application>Privoxy</application> action exists.
3406     <application>Privoxy</application> will remove every client header that
3407     contains the string you supplied as parameter.
3408    </para>
3409    <para>
3410     Regular expressions are <emphasis>not supported</emphasis> and you can't
3411     use this action to block different headers in the same request, unless
3412     they contain the same string.
3413    </para>
3414    <para>
3415     <literal>crunch-client-header</literal> is only meant for quick tests.
3416     If you have to block several different headers, or only want to modify
3417     parts of them, you should use a
3418     <literal><link linkend="client-header-filter">client-header filter</link></literal>.
3419    </para>
3420     <warning>
3421      <para>
3422       Don't block any header without understanding the consequences.
3423      </para>
3424     </warning>
3425   </listitem>
3426  </varlistentry>
3427
3428  <varlistentry>
3429   <term>Example usage (section):</term>
3430   <listitem>
3431      <screen># Block the non-existent "Privacy-Violation:" client header
3432 { +crunch-client-header{Privacy-Violation:} }
3433 /
3434 </screen>
3435   </listitem>
3436  </varlistentry>
3437 </variablelist>
3438 </sect3>
3439
3440
3441 <!--   ~~~~~       New section      ~~~~~     -->
3442 <sect3 renderas="sect4" id="crunch-if-none-match">
3443 <title>crunch-if-none-match</title>
3444 <!--
3445 new action
3446 -->
3447 <variablelist>
3448  <varlistentry>
3449   <term>Typical use:</term>
3450   <listitem>
3451    <para>Prevent yet another way to track the user's steps between sessions.</para>
3452   </listitem>
3453  </varlistentry>
3454
3455  <varlistentry>
3456   <term>Effect:</term>
3457   <listitem>
3458    <para>
3459     Deletes the <quote>If-None-Match:</quote> HTTP client header.
3460    </para>
3461   </listitem>
3462  </varlistentry>
3463
3464  <varlistentry>
3465   <term>Type:</term>
3466   <!-- Boolean, Parameterized, Multi-value -->
3467   <listitem>
3468    <para>Boolean.</para>
3469   </listitem>
3470  </varlistentry>
3471
3472  <varlistentry>
3473   <term>Parameter:</term>
3474   <listitem>
3475    <para>
3476     N/A
3477    </para>
3478   </listitem>
3479  </varlistentry>
3480
3481  <varlistentry>
3482   <term>Notes:</term>
3483   <listitem>
3484    <para>
3485     Removing the <quote>If-None-Match:</quote> HTTP client header
3486     is useful for filter testing, where you want to force a real
3487     reload instead of getting status code <quote>304</quote> which
3488     would cause the browser to use a cached copy of the page.
3489    </para>
3490    <para>
3491     It is also useful to make sure the header isn't used as a cookie
3492     replacement (unlikely but possible).
3493    </para>
3494    <para>
3495     Blocking the <quote>If-None-Match:</quote> header shouldn't cause any
3496     caching problems, as long as the <quote>If-Modified-Since:</quote> header
3497     isn't blocked or missing as well.
3498    </para>
3499    <para>
3500     It is recommended to use this action together with
3501     <literal><link linkend="hide-if-modified-since">hide-if-modified-since</link></literal>
3502     and
3503     <literal><link linkend="overwrite-last-modified">overwrite-last-modified</link></literal>.
3504    </para>
3505   </listitem>
3506  </varlistentry>
3507
3508  <varlistentry>
3509   <term>Example usage (section):</term>
3510   <listitem>
3511      <screen># Let the browser revalidate cached documents but don't
3512 # allow the server to use the revalidation headers for user tracking.
3513 {+hide-if-modified-since{-60} \
3514  +overwrite-last-modified{randomize} \
3515  +crunch-if-none-match}
3516 /
3517 </screen>
3518   </listitem>
3519  </varlistentry>
3520 </variablelist>
3521 </sect3>
3522
3523
3524 <!--   ~~~~~       New section      ~~~~~     -->
3525 <sect3 renderas="sect4" id="crunch-incoming-cookies">
3526 <title>crunch-incoming-cookies</title>
3527
3528 <variablelist>
3529  <varlistentry>
3530   <term>Typical use:</term>
3531   <listitem>
3532    <para>
3533     Prevent the web server from setting HTTP cookies on your system
3534    </para>
3535   </listitem>
3536  </varlistentry>
3537
3538  <varlistentry>
3539   <term>Effect:</term>
3540   <listitem>
3541    <para>
3542     Deletes any <quote>Set-Cookie:</quote> HTTP headers from server replies.
3543    </para>
3544   </listitem>
3545  </varlistentry>
3546
3547  <varlistentry>
3548   <term>Type:</term>
3549   <!-- Boolean, Parameterized, Multi-value -->
3550   <listitem>
3551    <para>Boolean.</para>
3552   </listitem>
3553  </varlistentry>
3554
3555  <varlistentry>
3556   <term>Parameter:</term>
3557   <listitem>
3558    <para>
3559     N/A
3560    </para>
3561   </listitem>
3562  </varlistentry>
3563
3564  <varlistentry>
3565   <term>Notes:</term>
3566   <listitem>
3567    <para>
3568     This action is only concerned with <emphasis>incoming</emphasis> HTTP cookies. For
3569     <emphasis>outgoing</emphasis> HTTP cookies, use
3570     <literal><link linkend="crunch-outgoing-cookies">crunch-outgoing-cookies</link></literal>.
3571     Use <emphasis>both</emphasis> to disable HTTP cookies completely.
3572    </para>
3573    <para>
3574     It makes <emphasis>no sense at all</emphasis> to use this action in conjunction
3575     with the <literal><link linkend="session-cookies-only">session-cookies-only</link></literal> action,
3576     since it would prevent the session cookies from being set. See also
3577     <literal><link linkend="filter-content-cookies">filter-content-cookies</link></literal>.
3578    </para>
3579   </listitem>
3580  </varlistentry>
3581
3582  <varlistentry>
3583   <term>Example usage:</term>
3584   <listitem>
3585     <screen>+crunch-incoming-cookies</screen>
3586   </listitem>
3587  </varlistentry>
3588 </variablelist>
3589 </sect3>
3590
3591
3592 <!--   ~~~~~       New section      ~~~~~     -->
3593 <sect3 renderas="sect4" id="crunch-server-header">
3594 <title>crunch-server-header</title>
3595 <!--
3596 new action
3597 -->
3598 <variablelist>
3599  <varlistentry>
3600   <term>Typical use:</term>
3601   <listitem>
3602    <para>Remove a server header <application>Privoxy</application> has no dedicated action for.</para>
3603   </listitem>
3604  </varlistentry>
3605
3606  <varlistentry>
3607   <term>Effect:</term>
3608   <listitem>
3609    <para>
3610     Deletes every header sent by the server that contains the string the user supplied as parameter.
3611    </para>
3612   </listitem>
3613  </varlistentry>
3614
3615  <varlistentry>
3616   <term>Type:</term>
3617   <!-- Boolean, Parameterized, Multi-value -->
3618   <listitem>
3619    <para>Parameterized.</para>
3620   </listitem>
3621  </varlistentry>
3622
3623  <varlistentry>
3624   <term>Parameter:</term>
3625   <listitem>
3626    <para>
3627     Any string.
3628    </para>
3629   </listitem>
3630  </varlistentry>
3631
3632  <varlistentry>
3633   <term>Notes:</term>
3634   <listitem>
3635    <para>
3636     This action allows you to block server headers for which no dedicated
3637     <application>Privoxy</application> action exists. <application>Privoxy</application>
3638     will remove every server header that contains the string you supplied as parameter.
3639    </para>
3640    <para>
3641     Regular expressions are <emphasis>not supported</emphasis> and you can't
3642     use this action to block different headers in the same request, unless
3643     they contain the same string.
3644    </para>
3645    <para>
3646     <literal>crunch-server-header</literal> is only meant for quick tests.
3647     If you have to block several different headers, or only want to modify
3648     parts of them, you should use a custom
3649     <literal><link linkend="server-header-filter">server-header filter</link></literal>.
3650    </para>
3651     <warning>
3652      <para>
3653      Don't block any header without understanding the consequences.
3654      </para>
3655     </warning>
3656   </listitem>
3657  </varlistentry>
3658
3659  <varlistentry>
3660   <term>Example usage (section):</term>
3661   <listitem>
3662      <screen># Crunch server headers that try to prevent caching
3663 { +crunch-server-header{no-cache} }
3664 /
3665 </screen>
3666   </listitem>
3667  </varlistentry>
3668 </variablelist>
3669 </sect3>
3670
3671
3672 <!--   ~~~~~       New section      ~~~~~     -->
3673 <sect3 renderas="sect4" id="crunch-outgoing-cookies">
3674 <title>crunch-outgoing-cookies</title>
3675
3676 <variablelist>
3677  <varlistentry>
3678   <term>Typical use:</term>
3679   <listitem>
3680    <para>
3681     Prevent the web server from reading any HTTP cookies from your system
3682    </para>
3683   </listitem>
3684  </varlistentry>
3685
3686  <varlistentry>
3687   <term>Effect:</term>
3688   <listitem>
3689    <para>
3690     Deletes any <quote>Cookie:</quote> HTTP headers from client requests.
3691    </para>
3692   </listitem>
3693  </varlistentry>
3694
3695  <varlistentry>
3696   <term>Type:</term>
3697   <!-- Boolean, Parameterized, Multi-value -->
3698   <listitem>
3699    <para>Boolean.</para>
3700   </listitem>
3701  </varlistentry>
3702
3703  <varlistentry>
3704   <term>Parameter:</term>
3705   <listitem>
3706    <para>
3707     N/A
3708    </para>
3709   </listitem>
3710  </varlistentry>
3711
3712  <varlistentry>
3713   <term>Notes:</term>
3714   <listitem>
3715    <para>
3716     This action is only concerned with <emphasis>outgoing</emphasis> HTTP cookies. For
3717     <emphasis>incoming</emphasis> HTTP cookies, use
3718     <literal><link linkend="crunch-incoming-cookies">crunch-incoming-cookies</link></literal>.
3719     Use <emphasis>both</emphasis> to disable HTTP cookies completely.
3720    </para>
3721    <para>
3722     It makes <emphasis>no sense at all</emphasis> to use this action in conjunction
3723     with the <literal><link linkend="session-cookies-only">session-cookies-only</link></literal> action,
3724     since it would prevent the session cookies from being read.
3725    </para>
3726   </listitem>
3727  </varlistentry>
3728
3729  <varlistentry>
3730   <term>Example usage:</term>
3731   <listitem>
3732     <screen>+crunch-outgoing-cookies</screen>
3733   </listitem>
3734  </varlistentry>
3735
3736 </variablelist>
3737 </sect3>
3738
3739
3740 <!--   ~~~~~       New section      ~~~~~     -->
3741 <sect3 renderas="sect4" id="deanimate-gifs">
3742 <title>deanimate-gifs</title>
3743
3744 <variablelist>
3745  <varlistentry>
3746   <term>Typical use:</term>
3747   <listitem>
3748    <para>Stop those annoying, distracting animated GIF images.</para>
3749   </listitem>
3750  </varlistentry>
3751
3752  <varlistentry>
3753   <term>Effect:</term>
3754   <listitem>
3755    <para>
3756     De-animate GIF animations, i.e. reduce them to their first or last image.
3757    </para>
3758   </listitem>
3759  </varlistentry>
3760
3761  <varlistentry>
3762   <term>Type:</term>
3763   <!-- boolean, parameterized, Multi-value -->
3764   <listitem>
3765    <para>Parameterized.</para>
3766   </listitem>
3767  </varlistentry>
3768
3769  <varlistentry>
3770   <term>Parameter:</term>
3771   <listitem>
3772    <para>
3773     <quote>last</quote> or <quote>first</quote>
3774    </para>
3775   </listitem>
3776  </varlistentry>
3777
3778  <varlistentry>
3779   <term>Notes:</term>
3780   <listitem>
3781    <para>
3782     This will also shrink the images considerably (in bytes, not pixels!). If
3783     the option <quote>first</quote> is given, the first frame of the animation
3784     is used as the replacement. If <quote>last</quote> is given, the last
3785     frame of the animation is used instead, which probably makes more sense for
3786     most banner animations, but also has the risk of not showing the entire
3787     last frame (if it is only a delta to an earlier frame).
3788    </para>
3789    <para>
3790     You can safely use this action with patterns that will also match non-GIF
3791     objects, because no attempt will be made at anything that doesn't look like
3792     a GIF.
3793    </para>
3794   </listitem>
3795  </varlistentry>
3796
3797  <varlistentry>
3798   <term>Example usage:</term>
3799   <listitem>
3800       <screen>+deanimate-gifs{last}</screen>
3801   </listitem>
3802  </varlistentry>
3803 </variablelist>
3804 </sect3>
3805
3806
3807 <!--   ~~~~~       New section      ~~~~~     -->
3808 <sect3 renderas="sect4" id="delay-response">
3809 <title>delay-response</title>
3810
3811 <variablelist>
3812  <varlistentry>
3813   <term>Typical use:</term>
3814   <listitem>
3815    <para>Delay responses to the client to reduce the load</para>
3816   </listitem>
3817  </varlistentry>
3818
3819  <varlistentry>
3820   <term>Effect:</term>
3821   <listitem>
3822    <para>
3823     Delays responses to the client by sending the response in ca. 10 byte chunks.
3824    </para>
3825   </listitem>
3826  </varlistentry>
3827
3828  <varlistentry>
3829   <term>Type:</term>
3830   <!-- boolean, parameterized, Multi-value -->
3831   <listitem>
3832    <para>Parameterized.</para>
3833   </listitem>
3834  </varlistentry>
3835
3836  <varlistentry>
3837   <term>Parameter:</term>
3838   <listitem>
3839    <para>
3840     <quote>Number of milliseconds</quote>
3841    </para>
3842   </listitem>
3843  </varlistentry>
3844
3845  <varlistentry>
3846   <term>Notes:</term>
3847   <listitem>
3848    <para>
3849     Sometimes when JavaScript code is used to fetch advertisements
3850     it doesn't respect Privoxy's blocks and retries to fetch the
3851     same resource again causing unnecessary load on the client.
3852    </para>
3853    <para>
3854     This action delays responses to the client and can be combined
3855     with <literal><link linkend="block">blocks</link></literal>
3856     to slow down the JavaScript code, thus reducing
3857     the load on the client.
3858    </para>
3859    <para>
3860     When used without <literal><link linkend="block">blocks</link></literal>
3861     the action can also be used to simulate a slow internet connection.
3862    </para>
3863   </listitem>
3864  </varlistentry>
3865
3866  <varlistentry>
3867   <term>Example usage:</term>
3868   <listitem>
3869       <screen>+delay-response{100}</screen>
3870   </listitem>
3871  </varlistentry>
3872 </variablelist>
3873 </sect3>
3874
3875
3876 <!--   ~~~~~       New section      ~~~~~     -->
3877 <sect3 renderas="sect4" id="downgrade-http-version">
3878 <title>downgrade-http-version</title>
3879
3880 <variablelist>
3881  <varlistentry>
3882   <term>Typical use:</term>
3883   <listitem>
3884    <para>Work around (very rare) problems with HTTP/1.1</para>
3885   </listitem>
3886  </varlistentry>
3887
3888  <varlistentry>
3889   <term>Effect:</term>
3890   <listitem>
3891    <para>
3892     Downgrades HTTP/1.1 client requests and server replies to HTTP/1.0.
3893    </para>
3894   </listitem>
3895  </varlistentry>
3896
3897  <varlistentry>
3898   <term>Type:</term>
3899   <!-- boolean, parameterized, Multi-value -->
3900   <listitem>
3901    <para>Boolean.</para>
3902   </listitem>
3903  </varlistentry>
3904
3905  <varlistentry>
3906   <term>Parameter:</term>
3907   <listitem>
3908    <para>
3909     N/A
3910    </para>
3911   </listitem>
3912  </varlistentry>
3913
3914 <varlistentry>
3915   <term>Notes:</term>
3916   <listitem>
3917    <para>
3918     This is a left-over from the time when <application>Privoxy</application>
3919     didn't support important HTTP/1.1 features well. It is left here for the
3920     unlikely case that you experience HTTP/1.1-related problems with some server
3921     out there.
3922    </para>
3923    <para>
3924     Note that enabling this action is only a workaround. It should not
3925     be enabled for sites that work without it. While it shouldn't break
3926     any pages, it has an (usually negative) performance impact.
3927   </para>
3928   <para>
3929     If you come across a site where enabling this action helps, please report it,
3930     so the cause of the problem can be analyzed. If the problem turns out to be
3931     caused by a bug in  <application>Privoxy</application> it should be
3932     fixed so the following release works without the work around.
3933    </para>
3934   </listitem>
3935  </varlistentry>
3936
3937  <varlistentry>
3938   <term>Example usage (section):</term>
3939   <listitem>
3940      <screen>{+downgrade-http-version}
3941 problem-host.example.com</screen>
3942   </listitem>
3943  </varlistentry>
3944
3945 </variablelist>
3946 </sect3>
3947
3948
3949 <!--   ~~~~~       New section      ~~~~~     -->
3950 <sect3 renderas="sect4" id="external-filter">
3951 <title>external-filter</title>
3952
3953 <variablelist>
3954  <varlistentry>
3955   <term>Typical use:</term>
3956   <listitem>
3957    <para>Modify content using a programming language of your choice.</para>
3958   </listitem>
3959  </varlistentry>
3960
3961  <varlistentry>
3962   <term>Effect:</term>
3963   <listitem>
3964    <para>
3965     All instances of text-based type, most notably HTML and JavaScript, to which
3966     this action applies, can be filtered on-the-fly through the specified external
3967     filter.
3968     By default plain text documents are exempted from filtering, because web
3969     servers often use the <literal>text/plain</literal> MIME type for all files
3970     whose type they don't know.)
3971    </para>
3972   </listitem>
3973  </varlistentry>
3974
3975  <varlistentry>
3976   <term>Type:</term>
3977   <!-- boolean, parameterized, Multi-value -->
3978   <listitem>
3979    <para>Multi-value.</para>
3980   </listitem>
3981  </varlistentry>
3982
3983  <varlistentry>
3984   <term>Parameter:</term>
3985   <listitem>
3986    <para>
3987     The name of an external content filter, as defined in the
3988     <link linkend="filter-file">filter file</link>.
3989     External filters can be defined in one or more files as defined by the
3990     <literal><link linkend="filterfile">filterfile</link></literal>
3991     option in the <link linkend="config">config file</link>.
3992    </para>
3993    <para>
3994     When used in its negative form,
3995     and without parameters, <emphasis>all</emphasis> filtering with external
3996     filters is completely disabled.
3997   </para>
3998   </listitem>
3999  </varlistentry>
4000
4001  <varlistentry>
4002   <term>Notes:</term>
4003   <listitem>
4004    <para>
4005     External filters are scripts or programs that can modify the content in
4006     case common <literal><link linkend="filter">filters</link></literal>
4007     aren't powerful enough. With the exception that this action doesn't
4008     use pcrs-based filters, the notes in the
4009     <literal><link linkend="filter">filter</link></literal> section apply.
4010    </para>
4011    <warning>
4012     <para>
4013      Currently external filters are executed with &my-app;'s privileges.
4014      Only use external filters you understand and trust.
4015     </para>
4016    </warning>
4017    <para>
4018     This feature is experimental, the <literal><link
4019     linkend="external-filter-syntax">syntax</link></literal>
4020     may change in the future.
4021    </para>
4022
4023   </listitem>
4024  </varlistentry>
4025
4026  <varlistentry>
4027   <term>Example usage:</term>
4028   <listitem>
4029     <screen>+external-filter{fancy-filter}</screen>
4030   </listitem>
4031  </varlistentry>
4032 </variablelist>
4033 </sect3>
4034
4035 <!--   ~~~~~       New section      ~~~~~     -->
4036 <sect3 renderas="sect4" id="fast-redirects">
4037 <title>fast-redirects</title>
4038
4039 <variablelist>
4040  <varlistentry>
4041   <term>Typical use:</term>
4042   <listitem>
4043    <para>Fool some click-tracking scripts and speed up indirect links.</para>
4044   </listitem>
4045  </varlistentry>
4046
4047  <varlistentry>
4048   <term>Effect:</term>
4049   <listitem>
4050    <para>
4051     Detects redirection URLs and redirects the browser without contacting
4052     the redirection server first.
4053    </para>
4054   </listitem>
4055  </varlistentry>
4056
4057  <varlistentry>
4058   <term>Type:</term>
4059   <!-- boolean, parameterized, Multi-value -->
4060   <listitem>
4061    <para>Parameterized.</para>
4062   </listitem>
4063  </varlistentry>
4064
4065  <varlistentry>
4066   <term>Parameter:</term>
4067   <listitem>
4068    <itemizedlist>
4069     <listitem>
4070      <para>
4071       <quote>simple-check</quote> to just search for the string <quote>http://</quote>
4072       to detect redirection URLs.
4073      </para>
4074     </listitem>
4075     <listitem>
4076      <para>
4077       <quote>check-decoded-url</quote> to decode URLs (if necessary) before searching
4078       for redirection URLs.
4079      </para>
4080     </listitem>
4081    </itemizedlist>
4082   </listitem>
4083  </varlistentry>
4084
4085  <varlistentry>
4086   <term>Notes:</term>
4087   <listitem>
4088    <para>
4089     Many sites, like yahoo.com, don't just link to other sites. Instead, they
4090     will link to some script on their own servers, giving the destination as a
4091     parameter, which will then redirect you to the final target. URLs
4092     resulting from this scheme typically look like:
4093     <quote>http://www.example.org/click-tracker.cgi?target=http%3a//www.example.net/</quote>.
4094   </para>
4095    <para>
4096     Sometimes, there are even multiple consecutive redirects encoded in the
4097     URL. These redirections via scripts make your web browsing more traceable,
4098     since the server from which you follow such a link can see where you go
4099     to. Apart from that, valuable bandwidth and time is wasted, while your
4100     browser asks the server for one redirect after the other. Plus, it feeds
4101     the advertisers.
4102    </para>
4103    <para>
4104     This feature is currently not very smart and is scheduled for improvement.
4105     If it is enabled by default, you will have to create some exceptions to
4106     this action. It can lead to failures in several ways:
4107    </para>
4108    <para>
4109     Not every URLs with other URLs as parameters is evil.
4110     Some sites offer a real service that requires this information to work.
4111     For example a validation service needs to know, which document to validate.
4112     <literal>fast-redirects</literal> assumes that every URL parameter that
4113     looks like another URL is a redirection target, and will always redirect to
4114     the last one. Most of the time the assumption is correct, but if it isn't,
4115     the user gets redirected anyway.
4116    </para>
4117    <para>
4118     Another failure occurs if the URL contains other parameters after the URL parameter.
4119     The URL:
4120     <quote>http://www.example.org/?redirect=http%3a//www.example.net/&amp;foo=bar</quote>.
4121     contains the redirection URL <quote>http://www.example.net/</quote>,
4122     followed by another parameter. <literal>fast-redirects</literal> doesn't know that
4123     and will cause a redirect to <quote>http://www.example.net/&amp;foo=bar</quote>.
4124     Depending on the target server configuration, the parameter will be silently ignored
4125     or lead to a <quote>page not found</quote> error. You can prevent this problem by
4126     first using the <literal><link linkend="redirect">redirect</link></literal> action
4127     to remove the last part of the URL, but it requires a little effort.
4128    </para>
4129    <para>
4130     To detect a redirection URL, <literal>fast-redirects</literal> only
4131     looks for the string <quote>http://</quote>, either in plain text
4132     (invalid but often used) or encoded as <quote>http%3a//</quote>.
4133     Some sites use their own URL encoding scheme, encrypt the address
4134     of the target server or replace it with a database id. In these cases
4135     <literal>fast-redirects</literal> is fooled and the request reaches the
4136     redirection server where it probably gets logged.
4137    </para>
4138   </listitem>
4139  </varlistentry>
4140
4141  <varlistentry>
4142   <term>Example usage:</term>
4143   <listitem>
4144      <screen>
4145  { +fast-redirects{simple-check} }
4146    one.example.com
4147
4148  { +fast-redirects{check-decoded-url} }
4149    another.example.com/testing</screen>
4150   </listitem>
4151  </varlistentry>
4152
4153 </variablelist>
4154 </sect3>
4155
4156
4157 <!--   ~~~~~       New section      ~~~~~     -->
4158 <sect3 renderas="sect4" id="filter">
4159 <title>filter</title>
4160
4161 <variablelist>
4162  <varlistentry>
4163   <term>Typical use:</term>
4164   <listitem>
4165    <para>Get rid of HTML and JavaScript annoyances, banner advertisements (by size),
4166          do fun text replacements, add personalized effects, etc.</para>
4167   </listitem>
4168  </varlistentry>
4169
4170  <varlistentry>
4171   <term>Effect:</term>
4172   <listitem>
4173    <para>
4174     All instances of text-based type, most notably HTML and JavaScript, to which
4175     this action applies, can be filtered on-the-fly through the specified regular
4176     expression based substitutions. (Note: as of version 3.0.3 plain text documents
4177     are exempted from filtering, because web servers often use the
4178    <literal>text/plain</literal> MIME type for all files whose type they don't know.)
4179    </para>
4180   </listitem>
4181  </varlistentry>
4182
4183  <varlistentry>
4184   <term>Type:</term>
4185   <!-- boolean, parameterized, Multi-value -->
4186   <listitem>
4187    <para>Multi-value.</para>
4188   </listitem>
4189  </varlistentry>
4190
4191  <varlistentry>
4192   <term>Parameter:</term>
4193   <listitem>
4194    <para>
4195     The name of a content filter, as defined in the <link linkend="filter-file">filter file</link>.
4196     Filters can be defined in one or more  files as defined by the
4197     <literal><link linkend="filterfile">filterfile</link></literal>
4198     option in the <link linkend="config">config file</link>.
4199     <filename>default.filter</filename> is the collection of filters
4200     supplied by the developers. Locally defined filters should go
4201     in their own file, such as <filename>user.filter</filename>.
4202    </para>
4203    <para>
4204      When used in its negative form,
4205      and without parameters, <emphasis>all</emphasis> filtering is completely disabled.
4206   </para>
4207   </listitem>
4208  </varlistentry>
4209
4210  <varlistentry>
4211   <term>Notes:</term>
4212   <listitem>
4213    <para>
4214     For your convenience, there are a number of pre-defined filters available
4215     in the distribution filter file that you can use. See the examples below for
4216     a list.
4217    </para>
4218    <para>
4219     Filtering requires buffering the page content, which may appear to
4220     slow down page rendering since nothing is displayed until all content has
4221     passed the filters. (The total time until the page is completely rendered
4222     doesn't change much, but it may be perceived as slower since the page is
4223     not incrementally displayed.)
4224     This effect will be more noticeable on slower connections.
4225    </para>
4226    <para>
4227    <quote>Rolling your own</quote>
4228     filters requires a knowledge of
4229      <ulink url="https://en.wikipedia.org/wiki/Regular_expressions"><quote>Regular
4230      Expressions</quote></ulink> and
4231       <ulink url="https://en.wikipedia.org/wiki/Html"><quote>HTML</quote></ulink>.
4232     This is very powerful feature, and potentially very intrusive.
4233     Filters should be used with caution, and where an equivalent
4234     <quote>action</quote> is not available.
4235    </para>
4236    <para>
4237     The amount of data that can be filtered is limited by the
4238     <literal><link linkend="buffer-limit">buffer-limit</link></literal>
4239     option in the main <link linkend="config">config file</link>. The
4240     default is 4096 KB (4 Megs). Once this limit is exceeded, the buffered
4241     data, and all pending data, is passed through unfiltered.
4242    </para>
4243    <para>
4244     Inappropriate MIME types, such as zipped files, are not filtered at all.
4245     (Again, only text-based types except plain text). Encrypted SSL data
4246     (from HTTPS servers) cannot be filtered either, since this would violate
4247     the integrity of the secure transaction. In some situations it might
4248     be necessary to protect certain text, like source code, from filtering
4249     by defining appropriate <literal>-filter</literal> exceptions.
4250    </para>
4251    <para>
4252     Compressed content can't be filtered either, but if &my-app;
4253     is compiled with zlib support and a supported compression algorithm
4254     is used (gzip or deflate), &my-app; can first decompress the content
4255     and then filter it.
4256    </para>
4257    <para>
4258     If you use a &my-app; version without zlib support, but want filtering to work on
4259     as much documents as possible, even those that would normally be sent compressed,
4260     you must use the <literal><link linkend="prevent-compression">prevent-compression</link></literal>
4261     action in conjunction with <literal>filter</literal>.
4262    </para>
4263    <para>
4264     Content filtering can achieve some of the same effects as the
4265     <literal><link linkend="block">block</link></literal>
4266     action, i.e. it can be used to block ads and banners. But the mechanism
4267     works quite differently. One effective use, is to block ad banners
4268     based on their size (see below), since many of these seem to be somewhat
4269     standardized.
4270    </para>
4271    <para>
4272     <link linkend="contact">Feedback</link> with suggestions for new or
4273     improved filters is particularly welcome!
4274    </para>
4275    <para>
4276     The below list has only the names and a one-line description of each
4277     predefined filter. There are <link linkend="predefined-filters">more
4278     verbose explanations</link> of what these filters do in the <link
4279     linkend="filter-file">filter file chapter</link>.
4280    </para>
4281   </listitem>
4282  </varlistentry>
4283
4284  <varlistentry>
4285   <term>Example usage (with filters from the distribution <filename>default.filter</filename> file).
4286   See <link linkend="PREDEFINED-FILTERS">the Predefined Filters section</link> for
4287   more explanation on each:</term>
4288   <listitem>
4289    <para>
4290     <anchor id="filter-js-annoyances">
4291    </para>
4292     <screen>+filter{js-annoyances}       # Get rid of particularly annoying JavaScript abuse.</screen>
4293    <para>
4294     <anchor id="filter-js-events">
4295    </para>
4296     <screen>+filter{js-events}           # Kill JavaScript event bindings and timers (Radically destructive! Only for extra nasty sites).</screen>
4297    <para>
4298     <anchor id="filter-html-annoyances">
4299    </para>
4300     <screen>+filter{html-annoyances}     # Get rid of particularly annoying HTML abuse.</screen>
4301    <para>
4302     <anchor id="filter-content-cookies">
4303    </para>
4304     <screen>+filter{content-cookies}     # Kill cookies that come in the HTML or JS content.</screen>
4305    <para>
4306     <anchor id="filter-refresh-tags">
4307    </para>
4308     <screen>+filter{refresh-tags}        # Kill automatic refresh tags if refresh time is larger than 9 seconds.</screen>
4309    <para>
4310     <anchor id="filter-unsolicited-popups">
4311    </para>
4312     <screen>+filter{unsolicited-popups}  # Disable only unsolicited pop-up windows.</screen>
4313    <para>
4314     <anchor id="filter-all-popups">
4315    </para>
4316     <screen>+filter{all-popups}          # Kill all popups in JavaScript and HTML.</screen>
4317    <para>
4318     <anchor id="filter-img-reorder">
4319    </para>
4320     <screen>+filter{img-reorder}         # Reorder attributes in &lt;img&gt; tags to make the banners-by-* filters more effective.</screen>
4321    <para>
4322     <anchor id="filter-banners-by-size">
4323    </para>
4324     <screen>+filter{banners-by-size}     # Kill banners by size.</screen>
4325    <para>
4326     <anchor id="filter-banners-by-link">
4327    </para>
4328     <screen>+filter{banners-by-link}     # Kill banners by their links to known clicktrackers.</screen>
4329    <para>
4330     <anchor id="filter-webbugs">
4331    </para>
4332     <screen>+filter{webbugs}             # Squish WebBugs (1x1 invisible GIFs used for user tracking).</screen>
4333    <para>
4334     <anchor id="filter-tiny-textforms">
4335    </para>
4336     <screen>+filter{tiny-textforms}      # Extend those tiny textareas up to 40x80 and kill the hard wrap.</screen>
4337    <para>
4338     <anchor id="filter-jumping-windows">
4339    </para>
4340     <screen>+filter{jumping-windows}     # Prevent windows from resizing and moving themselves.</screen>
4341    <para>
4342     <anchor id="filter-frameset-borders">
4343    </para>
4344     <screen>+filter{frameset-borders}    # Give frames a border and make them resizable.</screen>
4345    <para>
4346     <anchor id="filter-iframes">
4347    </para>
4348     <screen>+filter{iframes}             # Removes all detected iframes. Should only be enabled for individual sites.</screen>
4349    <para>
4350     <anchor id="filter-demoronizer">
4351    </para>
4352     <screen>+filter{demoronizer}         # Fix MS's non-standard use of standard charsets.</screen>
4353    <para>
4354     <anchor id="filter-shockwave-flash">
4355    </para>
4356     <screen>+filter{shockwave-flash}     # Kill embedded Shockwave Flash objects.</screen>
4357    <para>
4358     <anchor id="filter-quicktime-kioskmode">
4359    </para>
4360     <screen>+filter{quicktime-kioskmode} # Make Quicktime movies saveable.</screen>
4361    <para>
4362     <anchor id="filter-fun">
4363    </para>
4364     <screen>+filter{fun}                 # Text replacements for subversive browsing fun!</screen>
4365    <para>
4366     <anchor id="filter-crude-parental">
4367    </para>
4368     <screen>+filter{crude-parental}      # Crude parental filtering. Note that this filter doesn't work reliably.</screen>
4369    <para>
4370     <anchor id="filter-ie-exploits">
4371    </para>
4372     <screen>+filter{ie-exploits}         # Disable some known Internet Explorer bug exploits.</screen>
4373    <para>
4374     <anchor id="filter-site-specifics">
4375    </para>
4376     <screen>+filter{site-specifics}      # Cure for site-specific problems. Don't apply generally!</screen>
4377    <para>
4378     <anchor id="filter-no-ping">
4379    </para>
4380     <screen>+filter{no-ping}             # Removes non-standard ping attributes in &lt;a&gt; and &lt;area&gt; tags.</screen>
4381    <para>
4382     <anchor id="filter-github">
4383    </para>
4384     <screen>+filter{github}              # Removes the annoying "Sign-Up" banner and the Cookie disclaimer.</screen>
4385    <para>
4386     <anchor id="filter-google">
4387    </para>
4388     <screen>+filter{google}              # CSS-based block for Google text ads. Also removes a width limitation and the toolbar advertisement.</screen>
4389    <para>
4390     <anchor id="filter-imdb">
4391    </para>
4392     <screen>+filter{imdb}                # Removes some ads on IMDb.</screen>
4393    <para>
4394     <anchor id="filter-yahoo">
4395    </para>
4396     <screen>+filter{yahoo}               # CSS-based block for Yahoo text ads. Also removes a width limitation.</screen>
4397    <para>
4398     <anchor id="filter-msn">
4399    </para>
4400     <screen>+filter{msn}                 # CSS-based block for MSN text ads. Also removes tracking URLs and a width limitation.</screen>
4401    <para>
4402     <anchor id="filter-blogspot">
4403    </para>
4404     <screen>+filter{blogspot}            # Cleans up some Blogspot blogs. Read the fine print before using this.</screen>
4405    <para>
4406     <anchor id="filter-sourceforge">
4407    </para>
4408     <screen>+filter{sourceforge}         # Reduces the amount of ads for proprietary software on SourceForge.</screen>
4409   </listitem>
4410  </varlistentry>
4411 </variablelist>
4412 </sect3>
4413
4414
4415 <!--   ~~~~~       New section      ~~~~~     -->
4416 <sect3 renderas="sect4" id="force-text-mode">
4417 <title>force-text-mode</title>
4418 <!--
4419 new action
4420 -->
4421 <variablelist>
4422  <varlistentry>
4423   <term>Typical use:</term>
4424   <listitem>
4425    <para>Force <application>Privoxy</application> to treat a document as if it was in some kind of <emphasis>text</emphasis> format.   </para>
4426   </listitem>
4427  </varlistentry>
4428
4429  <varlistentry>
4430   <term>Effect:</term>
4431   <listitem>
4432    <para>
4433     Declares a document as text, even if the <quote>Content-Type:</quote> isn't detected as such.
4434    </para>
4435   </listitem>
4436  </varlistentry>
4437
4438  <varlistentry>
4439   <term>Type:</term>
4440   <!-- Boolean, Parameterized, Multi-value -->
4441   <listitem>
4442    <para>Boolean.</para>
4443   </listitem>
4444  </varlistentry>
4445
4446  <varlistentry>
4447   <term>Parameter:</term>
4448   <listitem>
4449    <para>
4450     N/A
4451    </para>
4452   </listitem>
4453  </varlistentry>
4454
4455  <varlistentry>
4456   <term>Notes:</term>
4457   <listitem>
4458    <para>
4459     As explained <literal><link linkend="filter">above</link></literal>,
4460     <application>Privoxy</application> tries to only filter files that are
4461     in some kind of text format. The same restrictions apply to
4462     <literal><link linkend="content-type-overwrite">content-type-overwrite</link></literal>.
4463     <literal>force-text-mode</literal> declares a document as text,
4464     without looking at the <quote>Content-Type:</quote> first.
4465    </para>
4466    <warning>
4467     <para>
4468      Think twice before activating this action. Filtering binary data
4469      with regular expressions can cause file damage.
4470     </para>
4471    </warning>
4472   </listitem>
4473  </varlistentry>
4474
4475  <varlistentry>
4476   <term>Example usage:</term>
4477   <listitem>
4478      <screen>
4479 +force-text-mode
4480 </screen>
4481   </listitem>
4482  </varlistentry>
4483 </variablelist>
4484 </sect3>
4485
4486
4487 <!--   ~~~~~       New section      ~~~~~     -->
4488 <sect3 renderas="sect4" id="forward-override">
4489 <title>forward-override</title>
4490 <!--
4491 new action
4492 -->
4493 <variablelist>
4494  <varlistentry>
4495   <term>Typical use:</term>
4496   <listitem>
4497    <para>Change the forwarding settings based on User-Agent or request origin</para>
4498   </listitem>
4499  </varlistentry>
4500
4501  <varlistentry>
4502   <term>Effect:</term>
4503   <listitem>
4504    <para>
4505     Overrules the forward directives in the configuration file.
4506    </para>
4507   </listitem>
4508  </varlistentry>
4509
4510  <varlistentry>
4511   <term>Type:</term>
4512   <!-- Boolean, Parameterized, Multi-value -->
4513   <listitem>
4514    <para>Parameterized.</para>
4515   </listitem>
4516  </varlistentry>
4517
4518  <varlistentry>
4519   <term>Parameter:</term>
4520   <listitem>
4521    <itemizedlist>
4522     <listitem>
4523      <para><quote>forward .</quote> to use a direct connection without any additional proxies.</para>
4524     </listitem>
4525     <listitem>
4526      <para>
4527       <quote>forward 127.0.0.1:8123</quote> to use the HTTP proxy listening at 127.0.0.1 port 8123.
4528      </para>
4529     </listitem>
4530     <listitem>
4531      <para>
4532       <quote>forward-socks4a 127.0.0.1:9050 .</quote> to use the socks4a proxy listening at
4533       127.0.0.1 port 9050. Replace <quote>forward-socks4a</quote> with <quote>forward-socks4</quote>
4534       to use a socks4 connection  (with local DNS resolution) instead, use <quote>forward-socks5</quote>
4535       for socks5 connections (with remote DNS resolution).
4536      </para>
4537     </listitem>
4538     <listitem>
4539      <para>
4540       <quote>forward-socks4a 127.0.0.1:9050 proxy.example.org:8000</quote> to use the socks4a proxy
4541       listening at 127.0.0.1 port 9050 to reach the HTTP proxy listening at proxy.example.org port 8000.
4542       Replace <quote>forward-socks4a</quote> with <quote>forward-socks4</quote> to use a socks4 connection
4543       (with local DNS resolution) instead, use <quote>forward-socks5</quote>
4544       for socks5 connections (with remote DNS resolution).
4545      </para>
4546     </listitem>
4547     <listitem>
4548      <para>
4549       <quote>forward-webserver 127.0.0.1:80</quote> to use the HTTP
4550       server listening at 127.0.0.1 port 80 without adjusting the
4551       request headers.
4552      </para>
4553      <para>
4554       This makes it more convenient to use Privoxy to make
4555       existing websites available as onion services as well.
4556      </para>
4557      <para>
4558       Many websites serve content with hardcoded URLs and
4559       can't be easily adjusted to change the domain based
4560       on the one used by the client.
4561      </para>
4562      <para>
4563       Putting Privoxy between Tor and the webserver (or an stunnel
4564       that forwards to the webserver) allows to rewrite headers and
4565       content to make client and server happy at the same time.
4566      </para>
4567      <para>
4568       Using Privoxy for webservers that are only reachable through
4569       onion addresses and whose location is supposed to be secret
4570       is not recommended and should not be necessary anyway.
4571      </para>
4572     </listitem>
4573    </itemizedlist>
4574   </listitem>
4575  </varlistentry>
4576
4577  <varlistentry>
4578   <term>Notes:</term>
4579   <listitem>
4580    <para>
4581     This action takes parameters similar to the
4582     <link linkend="forwarding">forward</link> directives in the configuration
4583     file, but without the URL pattern. It can be used as replacement, but normally it's only
4584     used in cases where matching based on the request URL isn't sufficient.
4585    </para>
4586    <warning>
4587     <para>
4588      Please read the description for the <link linkend="forwarding">forward</link> directives before
4589      using this action. Forwarding to the wrong people will reduce your privacy and increase the
4590      chances of man-in-the-middle attacks.
4591     </para>
4592     <para>
4593      If the ports are missing or invalid, default values will be used. This might change
4594      in the future and you shouldn't rely on it. Otherwise incorrect syntax causes Privoxy
4595      to exit. Due to design limitations, invalid parameter syntax isn't detected until the
4596      action is used the first time.
4597     </para>
4598     <para>
4599      Use the <ulink url="http://config.privoxy.org/show-url-info">show-url-info CGI page</ulink>
4600      to verify that your forward settings do what you thought the do.
4601     </para>
4602    </warning>
4603   </listitem>
4604  </varlistentry>
4605
4606  <varlistentry>
4607   <term>Example usage:</term>
4608   <listitem>
4609      <screen>
4610 # Use an ssh tunnel for requests previously tagged as
4611 # <quote>User-Agent: fetch libfetch/2.0</quote> and make sure
4612 # resuming downloads continues to work.
4613 #
4614 # This way you can continue to use Tor for your normal browsing,
4615 # without overloading the Tor network with your FreeBSD ports updates
4616 # or downloads of bigger files like ISOs.
4617 #
4618 # Note that HTTP headers are easy to fake and therefore their
4619 # values are as (un)trustworthy as your clients and users.
4620 {+forward-override{forward-socks5 10.0.0.2:2222 .} \
4621  -hide-if-modified-since      \
4622  -overwrite-last-modified     \
4623 }
4624 TAG:^User-Agent: fetch libfetch/2\.0$
4625 </screen>
4626   </listitem>
4627  </varlistentry>
4628 </variablelist>
4629 </sect3>
4630
4631
4632 <!--   ~~~~~       New section      ~~~~~     -->
4633 <sect3 renderas="sect4" id="handle-as-empty-document">
4634 <title>handle-as-empty-document</title>
4635 <!--
4636 new action
4637 -->
4638 <variablelist>
4639  <varlistentry>
4640   <term>Typical use:</term>
4641   <listitem>
4642    <para>Mark URLs that should be replaced by empty documents <emphasis>if they get blocked</emphasis></para>
4643   </listitem>
4644  </varlistentry>
4645
4646  <varlistentry>
4647   <term>Effect:</term>
4648   <listitem>
4649    <para>
4650     This action alone doesn't do anything noticeable. It just marks URLs.
4651     If the <literal><link linkend="block">block</link></literal> action <emphasis>also applies</emphasis>,
4652     the presence or absence of this mark decides whether an HTML <quote>BLOCKED</quote>
4653     page, or an empty document will be sent to the client as a substitute for the blocked content.
4654     The <emphasis>empty</emphasis> document isn't literally empty, but actually contains a single space.
4655    </para>
4656   </listitem>
4657  </varlistentry>
4658
4659  <varlistentry>
4660   <term>Type:</term>
4661   <!-- Boolean, Parameterized, Multi-value -->
4662   <listitem>
4663    <para>Boolean.</para>
4664   </listitem>
4665  </varlistentry>
4666
4667  <varlistentry>
4668   <term>Parameter:</term>
4669   <listitem>
4670    <para>
4671     N/A
4672    </para>
4673   </listitem>
4674  </varlistentry>
4675
4676  <varlistentry>
4677   <term>Notes:</term>
4678   <listitem>
4679    <para>
4680     Some browsers complain about syntax errors if JavaScript documents
4681     are blocked with <application>Privoxy's</application>
4682     default HTML page; this option can be used to silence them.
4683     And of course this action can also be used to eliminate the &my-app;
4684     BLOCKED message in frames.
4685    </para>
4686    <para>
4687     The content type for the empty document can be specified with
4688     <literal><link linkend="content-type-overwrite">content-type-overwrite{}</link></literal>,
4689     but usually this isn't necessary.
4690    </para>
4691   </listitem>
4692  </varlistentry>
4693
4694  <varlistentry>
4695   <term>Example usage:</term>
4696   <listitem>
4697      <screen># Block all documents on example.org that end with ".js",
4698 # but send an empty document instead of the usual HTML message.
4699 {+block{Blocked JavaScript} +handle-as-empty-document}
4700 example.org/.*\.js$
4701 </screen>
4702   </listitem>
4703  </varlistentry>
4704 </variablelist>
4705 </sect3>
4706
4707
4708 <!--   ~~~~~       New section      ~~~~~     -->
4709 <sect3 renderas="sect4" id="handle-as-image">
4710 <title>handle-as-image</title>
4711
4712 <variablelist>
4713  <varlistentry>
4714   <term>Typical use:</term>
4715   <listitem>
4716    <para>Mark URLs as belonging to images (so they'll be replaced by images <emphasis>if they do get blocked</emphasis>, rather than HTML pages)</para>
4717   </listitem>
4718  </varlistentry>
4719
4720  <varlistentry>
4721   <term>Effect:</term>
4722   <listitem>
4723    <para>
4724     This action alone doesn't do anything noticeable. It just marks URLs as images.
4725     If the <literal><link linkend="block">block</link></literal> action <emphasis>also applies</emphasis>,
4726     the presence or absence of this mark decides whether an HTML <quote>blocked</quote>
4727     page, or a replacement image (as determined by the <literal><link
4728     linkend="set-image-blocker">set-image-blocker</link></literal> action) will be sent to the
4729     client as a substitute for the blocked content.
4730    </para>
4731   </listitem>
4732  </varlistentry>
4733
4734  <varlistentry>
4735   <term>Type:</term>
4736   <!-- Boolean, Parameterized, Multi-value -->
4737   <listitem>
4738    <para>Boolean.</para>
4739   </listitem>
4740  </varlistentry>
4741
4742  <varlistentry>
4743   <term>Parameter:</term>
4744   <listitem>
4745    <para>
4746     N/A
4747    </para>
4748   </listitem>
4749  </varlistentry>
4750
4751  <varlistentry>
4752   <term>Notes:</term>
4753   <listitem>
4754    <para>
4755     The below generic example section is actually part of <filename>default.action</filename>.
4756     It marks all URLs with well-known image file name extensions as images and should
4757     be left intact.
4758    </para>
4759    <para>
4760     Users will probably only want to use the handle-as-image action in conjunction with
4761     <literal><link linkend="block">block</link></literal>, to block sources of banners, whose URLs don't
4762     reflect the file type, like in the second example section.
4763    </para>
4764    <para>
4765     Note that you cannot treat HTML pages as images in most cases. For instance, (in-line) ad
4766     frames require an HTML page to be sent, or they won't display properly.
4767     Forcing <literal>handle-as-image</literal> in this situation will not replace the
4768     ad frame with an image, but lead to error messages.
4769    </para>
4770   </listitem>
4771  </varlistentry>
4772
4773  <varlistentry>
4774   <term>Example usage (sections):</term>
4775   <listitem>
4776      <screen># Generic image extensions:
4777 #
4778 {+handle-as-image}
4779 /.*\.(gif|jpg|jpeg|png|bmp|ico)$
4780
4781 # These don't look like images, but they're banners and should be
4782 # blocked as images:
4783 #
4784 {+block{Nasty banners.} +handle-as-image}
4785 nasty-banner-server.example.com/junk.cgi\?output=trash
4786 </screen>
4787   </listitem>
4788  </varlistentry>
4789 </variablelist>
4790 </sect3>
4791
4792
4793 <!--   ~~~~~       New section      ~~~~~     -->
4794 <sect3 renderas="sect4" id="hide-accept-language">
4795 <title>hide-accept-language</title>
4796 <!--
4797 new action
4798 -->
4799 <variablelist>
4800  <varlistentry>
4801   <term>Typical use:</term>
4802   <listitem>
4803    <para>Pretend to use different language settings.</para>
4804   </listitem>
4805  </varlistentry>
4806
4807  <varlistentry>
4808   <term>Effect:</term>
4809   <listitem>
4810    <para>
4811     Deletes or replaces the <quote>Accept-Language:</quote> HTTP header in client requests.
4812    </para>
4813   </listitem>
4814  </varlistentry>
4815
4816  <varlistentry>
4817   <term>Type:</term>
4818   <!-- Boolean, Parameterized, Multi-value -->
4819   <listitem>
4820    <para>Parameterized.</para>
4821   </listitem>
4822  </varlistentry>
4823
4824  <varlistentry>
4825   <term>Parameter:</term>
4826   <listitem>
4827    <para>
4828     Keyword: <quote>block</quote>, or any user defined value.
4829    </para>
4830   </listitem>
4831  </varlistentry>
4832
4833  <varlistentry>
4834   <term>Notes:</term>
4835   <listitem>
4836    <para>
4837     Faking the browser's language settings can be useful to make a
4838     foreign User-Agent set with
4839     <literal><link linkend="hide-user-agent">hide-user-agent</link></literal>
4840     more believable.
4841    </para>
4842    <para>
4843     However some sites with content in different languages check the
4844     <quote>Accept-Language:</quote> to decide which one to take by default.
4845     Sometimes it isn't possible to later switch to another language without
4846     changing the <quote>Accept-Language:</quote> header first.
4847    </para>
4848    <para>
4849     Therefore it's a good idea to either only change the
4850     <quote>Accept-Language:</quote> header to languages you understand,
4851     or to languages that aren't wide spread.
4852    </para>
4853    <para>
4854     Before setting the <quote>Accept-Language:</quote> header
4855     to a rare language, you should consider that it helps to
4856     make your requests unique and thus easier to trace.
4857     If you don't plan to change this header frequently,
4858     you should stick to a common language.
4859    </para>
4860   </listitem>
4861  </varlistentry>
4862
4863  <varlistentry>
4864   <term>Example usage (section):</term>
4865   <listitem>
4866      <screen># Pretend to use Canadian language settings.
4867 {+hide-accept-language{en-ca} \
4868 +hide-user-agent{Mozilla/5.0 (X11; U; OpenBSD i386; en-CA; rv:1.8.0.4) Gecko/20060628 Firefox/1.5.0.4} \
4869 }
4870 /
4871 </screen>
4872   </listitem>
4873  </varlistentry>
4874 </variablelist>
4875 </sect3>
4876
4877
4878 <!--   ~~~~~       New section      ~~~~~     -->
4879 <sect3 renderas="sect4" id="hide-content-disposition">
4880 <title>hide-content-disposition</title>
4881 <!--
4882 new action
4883 -->
4884 <variablelist>
4885  <varlistentry>
4886   <term>Typical use:</term>
4887   <listitem>
4888    <para>Prevent download menus for content you prefer to view inside the browser.</para>
4889   </listitem>
4890  </varlistentry>
4891
4892  <varlistentry>
4893   <term>Effect:</term>
4894   <listitem>
4895    <para>
4896     Deletes or replaces the <quote>Content-Disposition:</quote> HTTP header set by some servers.
4897    </para>
4898   </listitem>
4899  </varlistentry>
4900
4901  <varlistentry>
4902   <term>Type:</term>
4903   <!-- Boolean, Parameterized, Multi-value -->
4904   <listitem>
4905    <para>Parameterized.</para>
4906   </listitem>
4907  </varlistentry>
4908
4909  <varlistentry>
4910   <term>Parameter:</term>
4911   <listitem>
4912    <para>
4913     Keyword: <quote>block</quote>, or any user defined value.
4914    </para>
4915   </listitem>
4916  </varlistentry>
4917
4918  <varlistentry>
4919   <term>Notes:</term>
4920   <listitem>
4921    <para>
4922     Some servers set the <quote>Content-Disposition:</quote> HTTP header for
4923     documents they assume you want to save locally before viewing them.
4924     The <quote>Content-Disposition:</quote> header contains the file name
4925     the browser is supposed to use by default.
4926    </para>
4927    <para>
4928     In most browsers that understand this header, it makes it impossible to
4929     <emphasis>just view</emphasis> the document, without downloading it first,
4930     even if it's just a simple text file or an image.
4931    </para>
4932    <para>
4933     Removing the <quote>Content-Disposition:</quote> header helps
4934     to prevent this annoyance, but some browsers additionally check the
4935     <quote>Content-Type:</quote> header, before they decide if they can
4936     display a document without saving it first. In these cases, you have
4937     to change this header as well, before the browser stops displaying
4938     download menus.
4939    </para>
4940    <para>
4941     It is also possible to change the server's file name suggestion
4942     to another one, but in most cases it isn't worth the time to set
4943     it up.
4944    </para>
4945    <para>
4946     This action will probably be removed in the future,
4947     use server-header filters instead.
4948    </para>
4949   </listitem>
4950  </varlistentry>
4951
4952  <varlistentry>
4953   <term>Example usage:</term>
4954   <listitem>
4955      <screen># Disarm the download link in Sourceforge's patch tracker
4956 { -filter \
4957  +content-type-overwrite{text/plain}\
4958  +hide-content-disposition{block} }
4959  .sourceforge.net/tracker/download\.php</screen>
4960   </listitem>
4961  </varlistentry>
4962 </variablelist>
4963 </sect3>
4964
4965
4966 <!--   ~~~~~       New section      ~~~~~     -->
4967 <sect3 renderas="sect4" id="hide-if-modified-since">
4968 <title>hide-if-modified-since</title>
4969 <!--
4970 new action
4971 -->
4972 <variablelist>
4973  <varlistentry>
4974   <term>Typical use:</term>
4975   <listitem>
4976    <para>Prevent yet another way to track the user's steps between sessions.</para>
4977   </listitem>
4978  </varlistentry>
4979
4980  <varlistentry>
4981   <term>Effect:</term>
4982   <listitem>
4983    <para>
4984     Deletes the <quote>If-Modified-Since:</quote> HTTP client header or modifies its value.
4985    </para>
4986   </listitem>
4987  </varlistentry>
4988
4989  <varlistentry>
4990   <term>Type:</term>
4991   <!-- Boolean, Parameterized, Multi-value -->
4992   <listitem>
4993    <para>Parameterized.</para>
4994   </listitem>
4995  </varlistentry>
4996
4997  <varlistentry>
4998   <term>Parameter:</term>
4999   <listitem>
5000    <para>
5001     Keyword: <quote>block</quote>, or a user defined value that specifies a range of hours.
5002    </para>
5003   </listitem>
5004  </varlistentry>
5005
5006  <varlistentry>
5007   <term>Notes:</term>
5008   <listitem>
5009    <para>
5010     Removing this header is useful for filter testing, where you want to force a real
5011     reload instead of getting status code <quote>304</quote>, which would cause the
5012     browser to use a cached copy of the page.
5013    </para>
5014    <para>
5015     Instead of removing the header, <literal>hide-if-modified-since</literal> can
5016     also add or subtract a random amount of time to/from the header's value.
5017     You specify a range of minutes where the random factor should be chosen from and
5018     <application>Privoxy</application> does the rest. A negative value means
5019     subtracting, a positive value adding.
5020    </para>
5021    <para>
5022     Randomizing the value of the <quote>If-Modified-Since:</quote> makes
5023     it less likely that the server can use the time as a cookie replacement,
5024     but you will run into caching problems if the random range is too high.
5025    </para>
5026    <para>
5027     It is a good idea to only use a small negative value and let
5028     <literal><link linkend="overwrite-last-modified">overwrite-last-modified</link></literal>
5029     handle the greater changes.
5030    </para>
5031    <para>
5032     It is also recommended to use this action together with
5033     <literal><link linkend="crunch-if-none-match">crunch-if-none-match</link></literal>,
5034     otherwise it's more or less pointless.
5035    </para>
5036   </listitem>
5037  </varlistentry>
5038
5039  <varlistentry>
5040   <term>Example usage (section):</term>
5041   <listitem>
5042      <screen># Let the browser revalidate but make tracking based on the time less likely.
5043 {+hide-if-modified-since{-60} \
5044  +overwrite-last-modified{randomize} \
5045  +crunch-if-none-match}
5046 /</screen>
5047   </listitem>
5048  </varlistentry>
5049 </variablelist>
5050 </sect3>
5051
5052
5053 <!--   ~~~~~       New section      ~~~~~     -->
5054 <sect3 renderas="sect4" id="hide-from-header">
5055 <title>hide-from-header</title>
5056
5057 <variablelist>
5058  <varlistentry>
5059   <term>Typical use:</term>
5060   <listitem>
5061    <para>Keep your (old and ill) browser from telling web servers your email address</para>
5062   </listitem>
5063  </varlistentry>
5064
5065  <varlistentry>
5066   <term>Effect:</term>
5067   <listitem>
5068    <para>
5069     Deletes any existing <quote>From:</quote> HTTP header, or replaces it with the
5070     specified string.
5071    </para>
5072   </listitem>
5073  </varlistentry>
5074
5075  <varlistentry>
5076   <term>Type:</term>
5077   <!-- Boolean, Parameterized, Multi-value -->
5078   <listitem>
5079    <para>Parameterized.</para>
5080   </listitem>
5081  </varlistentry>
5082
5083  <varlistentry>
5084   <term>Parameter:</term>
5085   <listitem>
5086    <para>
5087     Keyword: <quote>block</quote>, or any user defined value.
5088    </para>
5089   </listitem>
5090  </varlistentry>
5091
5092  <varlistentry>
5093   <term>Notes:</term>
5094   <listitem>
5095    <para>
5096     The keyword <quote>block</quote> will completely remove the header
5097     (not to be confused with the <literal><link linkend="block">block</link></literal>
5098     action).
5099    </para>
5100    <para>
5101     Alternately, you can specify any value you prefer to be sent to the web
5102     server. If you do, it is a matter of fairness not to use any address that
5103     is actually used by a real person.
5104    </para>
5105    <para>
5106     This action is rarely needed, as modern web browsers don't send
5107     <quote>From:</quote> headers anymore.
5108    </para>
5109   </listitem>
5110  </varlistentry>
5111
5112  <varlistentry>
5113   <term>Example usage:</term>
5114   <listitem>
5115     <screen>+hide-from-header{block}</screen>
5116     <para>or</para>
5117     <screen>+hide-from-header{spam-me-senseless@sittingduck.example.com}</screen>
5118   </listitem>
5119  </varlistentry>
5120 </variablelist>
5121 </sect3>
5122
5123
5124 <!--   ~~~~~       New section      ~~~~~     -->
5125 <sect3 renderas="sect4" id="hide-referrer">
5126 <title>hide-referrer</title>
5127 <anchor id="hide-referer">
5128 <variablelist>
5129  <varlistentry>
5130   <term>Typical use:</term>
5131   <listitem>
5132    <para>Conceal which link you followed to get to a particular site</para>
5133   </listitem>
5134  </varlistentry>
5135
5136  <varlistentry>
5137   <term>Effect:</term>
5138   <listitem>
5139    <para>
5140     Deletes the <quote>Referer:</quote> (sic) HTTP header from the client request,
5141     or replaces it with a forged one.
5142    </para>
5143   </listitem>
5144  </varlistentry>
5145
5146  <varlistentry>
5147   <term>Type:</term>
5148   <!-- Boolean, Parameterized, Multi-value -->
5149   <listitem>
5150    <para>Parameterized.</para>
5151   </listitem>
5152  </varlistentry>
5153
5154  <varlistentry>
5155   <term>Parameter:</term>
5156   <listitem>
5157    <itemizedlist>
5158     <listitem>
5159      <para><quote>conditional-block</quote> to delete the header completely if the host has changed.</para>
5160     </listitem>
5161     <listitem>
5162      <para><quote>conditional-forge</quote> to forge the header if the host has changed.</para>
5163     </listitem>
5164     <listitem>
5165      <para><quote>block</quote> to delete the header unconditionally.</para>
5166     </listitem>
5167     <listitem>
5168      <para><quote>forge</quote> to pretend to be coming from the homepage of the server we are talking to.</para>
5169     </listitem>
5170     <listitem>
5171      <para>Any other string to set a user defined referrer.</para>
5172     </listitem>
5173    </itemizedlist>
5174   </listitem>
5175  </varlistentry>
5176
5177  <varlistentry>
5178   <term>Notes:</term>
5179   <listitem>
5180    <para>
5181     <literal>conditional-block</literal> is the only parameter,
5182     that isn't easily detected in the server's log file. If it blocks the
5183     referrer, the request will look like the visitor used a bookmark or
5184     typed in the address directly.
5185    </para>
5186    <para>
5187     Leaving the referrer unmodified for requests on the same host
5188     allows the server owner to see the visitor's <quote>click path</quote>,
5189     but in most cases she could also get that information by comparing
5190     other parts of the log file: for example the User-Agent if it isn't
5191     a very common one, or the user's IP address if it doesn't change between
5192     different requests.
5193    </para>
5194    <para>
5195     Always blocking the referrer, or using a custom one, can lead to
5196     failures on servers that check the referrer before they answer any
5197     requests, in an attempt to prevent their content from being
5198     embedded or linked to elsewhere.
5199    </para>
5200    <para>
5201     Both <literal>conditional-block</literal> and <literal>forge</literal>
5202     will work with referrer checks, as long as content and valid referring page
5203     are on the same host. Most of the time that's the case.
5204    </para>
5205    <para>
5206     <literal>hide-referer</literal> is an alternate spelling of
5207     <literal>hide-referrer</literal> and the two can be can be freely
5208     substituted with each other. (<quote>referrer</quote> is the
5209     correct English spelling, however the HTTP specification has a bug - it
5210     requires it to be spelled as <quote>referer</quote>.)
5211    </para>
5212   </listitem>
5213  </varlistentry>
5214
5215  <varlistentry>
5216   <term>Example usage:</term>
5217   <listitem>
5218      <screen>+hide-referrer{forge}</screen>
5219      <para>or</para>
5220      <screen>+hide-referrer{http://www.yahoo.com/}</screen>
5221   </listitem>
5222  </varlistentry>
5223 </variablelist>
5224 </sect3>
5225
5226
5227 <!--   ~~~~~       New section      ~~~~~     -->
5228 <sect3 renderas="sect4" id="hide-user-agent">
5229 <title>hide-user-agent</title>
5230
5231 <variablelist>
5232  <varlistentry>
5233   <term>Typical use:</term>
5234   <listitem>
5235    <para>Try to conceal your type of browser and client operating system</para>
5236   </listitem>
5237  </varlistentry>
5238
5239  <varlistentry>
5240   <term>Effect:</term>
5241   <listitem>
5242    <para>
5243     Replaces the value of the <quote>User-Agent:</quote> HTTP header
5244     in client requests with the specified value.
5245    </para>
5246   </listitem>
5247  </varlistentry>
5248
5249  <varlistentry>
5250   <term>Type:</term>
5251   <!-- Boolean, Parameterized, Multi-value -->
5252   <listitem>
5253    <para>Parameterized.</para>
5254   </listitem>
5255  </varlistentry>
5256
5257  <varlistentry>
5258   <term>Parameter:</term>
5259   <listitem>
5260    <para>
5261     Any user-defined string.
5262    </para>
5263   </listitem>
5264  </varlistentry>
5265
5266  <varlistentry>
5267   <term>Notes:</term>
5268   <listitem>
5269    <warning>
5270     <para>
5271      This can lead to problems on web sites that depend on looking at this header in
5272      order to customize their content for different browsers (which, by the
5273      way, is <emphasis>NOT</emphasis> the right thing to do: good web sites
5274      work browser-independently).
5275     </para>
5276    </warning>
5277    <para>
5278     Using this action in multi-user setups or wherever different types of
5279     browsers will access the same <application>Privoxy</application> is
5280     <emphasis>not recommended</emphasis>. In single-user, single-browser
5281     setups, you might use it to delete your OS version information from
5282     the headers, because it is an invitation to exploit known bugs for your
5283     OS. It is also occasionally useful to forge this in order to access
5284     sites that won't let you in otherwise (though there may be a good
5285     reason in some cases).
5286    </para>
5287    <para>
5288      More information on known user-agent strings can be found at
5289      <ulink url="http://www.user-agents.org/">http://www.user-agents.org/</ulink>
5290      and
5291      <ulink url="https://en.wikipedia.org/wiki/User_agent">http://en.wikipedia.org/wiki/User_agent</ulink>.
5292    </para>
5293    </listitem>
5294  </varlistentry>
5295
5296  <varlistentry>
5297   <term>Example usage:</term>
5298   <listitem>
5299      <screen>+hide-user-agent{Mozilla/5.0 (X11; ElectroBSD i386; rv:78.0) Gecko/20100101 Firefox/78.0}</screen>
5300   </listitem>
5301  </varlistentry>
5302 </variablelist>
5303 </sect3>
5304
5305
5306 <!--   ~~~~~       New section      ~~~~~     -->
5307 <sect3 renderas="sect4" id="https-inspection">
5308 <title>https-inspection</title>
5309
5310 <variablelist>
5311  <varlistentry>
5312   <term>Typical use:</term>
5313   <listitem>
5314    <para>Filter encrypted requests and responses</para>
5315   </listitem>
5316  </varlistentry>
5317
5318  <varlistentry>
5319   <term>Effect:</term>
5320   <listitem>
5321    <para>
5322     Encrypted requests are decrypted, filtered and forwarded encrypted.
5323    </para>
5324   </listitem>
5325  </varlistentry>
5326
5327  <varlistentry>
5328   <term>Type:</term>
5329   <!-- boolean, parameterized, Multi-value -->
5330   <listitem>
5331    <para>Boolean.</para>
5332   </listitem>
5333  </varlistentry>
5334
5335  <varlistentry>
5336   <term>Parameter:</term>
5337   <listitem>
5338    <para>
5339     N/A
5340    </para>
5341   </listitem>
5342  </varlistentry>
5343
5344 <varlistentry>
5345   <term>Notes:</term>
5346   <listitem>
5347    <para>
5348     This action allows &my-app; to filter encrypted requests and responses.
5349     For this to work &my-app; has to generate a certificate and send it
5350     to the client which has to accept it.
5351    </para>
5352    <para>
5353     Before this works the directives in the
5354     <literal><ulink url="config.html#HTTPS-INSPECTION-DIRECTIVES">HTTPS inspection section</ulink></literal>
5355     of the config file have to be configured.
5356    </para>
5357    <para>
5358     Note that the action has to be enabled based on the CONNECT
5359     request which doesn't contain a path. Enabling it based on
5360     a pattern with path doesn't work as the path is only seen
5361     by &my-app; if the action is already enabled.
5362    </para>
5363    <para>
5364     This is an experimental feature.
5365    </para>
5366   </listitem>
5367  </varlistentry>
5368
5369  <varlistentry>
5370   <term>Example usage (section):</term>
5371   <listitem>
5372      <screen>{+https-inspection}
5373 www.example.com</screen>
5374   </listitem>
5375  </varlistentry>
5376
5377 </variablelist>
5378 </sect3>
5379
5380
5381 <!--   ~~~~~       New section      ~~~~~     -->
5382 <sect3 renderas="sect4" id="ignore-certificate-errors">
5383 <title>ignore-certificate-errors</title>
5384
5385 <variablelist>
5386  <varlistentry>
5387   <term>Typical use:</term>
5388   <listitem>
5389    <para>Filter encrypted requests and responses without verifying the certificate</para>
5390   </listitem>
5391  </varlistentry>
5392
5393  <varlistentry>
5394   <term>Effect:</term>
5395   <listitem>
5396    <para>
5397     Encrypted requests are forwarded to sites without verifying the certificate.
5398    </para>
5399   </listitem>
5400  </varlistentry>
5401
5402  <varlistentry>
5403   <term>Type:</term>
5404   <!-- Boolean, Parameterized, Multi-value -->
5405   <listitem>
5406    <para>Boolean.</para>
5407   </listitem>
5408  </varlistentry>
5409
5410  <varlistentry>
5411   <term>Parameter:</term>
5412   <listitem>
5413    <para>
5414     N/A
5415    </para>
5416   </listitem>
5417  </varlistentry>
5418
5419  <varlistentry>
5420   <term>Notes:</term>
5421   <listitem>
5422    <para>
5423     When the
5424     <link linkend="HTTPS-INSPECTION"><quote>+https-inspection</quote></link>
5425     action is used &my-app; by default verifies that the remote site uses a valid
5426     certificate.
5427    </para>
5428    <para>
5429     If the certificate can't be validated by &my-app; the connection is aborted.
5430    </para>
5431    <para>
5432     This action disables the certificate check so requests to sites
5433     with certificates that can't be validated are allowed.
5434    </para>
5435    <para>
5436     Note that enabling this action allows Man-in-the-middle attacks.
5437    </para>
5438    </listitem>
5439  </varlistentry>
5440
5441  <varlistentry>
5442   <term>Example usage:</term>
5443   <listitem>
5444    <screen>
5445     {+ignore-certificate-errors}
5446     www.example.org
5447    </screen>
5448   </listitem>
5449  </varlistentry>
5450 </variablelist>
5451 </sect3>
5452
5453
5454 <!--   ~~~~~       New section      ~~~~~     -->
5455 <sect3 renderas="sect4" id="limit-connect">
5456 <title>limit-connect</title>
5457
5458 <variablelist>
5459  <varlistentry>
5460   <term>Typical use:</term>
5461   <listitem>
5462    <para>Prevent abuse of <application>Privoxy</application> as a TCP proxy relay or disable SSL for untrusted sites</para>
5463   </listitem>
5464  </varlistentry>
5465
5466  <varlistentry>
5467   <term>Effect:</term>
5468   <listitem>
5469    <para>
5470     Specifies to which ports HTTP CONNECT requests are allowable.
5471    </para>
5472   </listitem>
5473  </varlistentry>
5474
5475  <varlistentry>
5476   <term>Type:</term>
5477   <!-- Boolean, Parameterized, Multi-value -->
5478   <listitem>
5479    <para>Parameterized.</para>
5480   </listitem>
5481  </varlistentry>
5482
5483  <varlistentry>
5484   <term>Parameter:</term>
5485   <listitem>
5486    <para>
5487     A comma-separated list of ports or port ranges (the latter using dashes, with the minimum
5488     defaulting to 0 and the maximum to 65K).
5489    </para>
5490   </listitem>
5491  </varlistentry>
5492
5493  <varlistentry>
5494   <term>Notes:</term>
5495   <listitem>
5496    <para>
5497     By default, i.e. if no <literal>limit-connect</literal> action applies,
5498     <application>Privoxy</application> allows HTTP CONNECT requests to all
5499     ports. Use <literal>limit-connect</literal> if fine-grained control
5500     is desired for some or all destinations.
5501    </para>
5502    <para>
5503     The CONNECT methods exists in HTTP to allow access to secure websites
5504     (<quote>https://</quote> URLs) through proxies. It works very simply:
5505     the proxy connects to the server on the specified port, and then
5506     short-circuits its connections to the client and to the remote server.
5507     This means CONNECT-enabled proxies can be used as TCP relays very easily.
5508   </para>
5509   <para>
5510    <application>Privoxy</application> relays HTTPS traffic without seeing
5511    the decoded content. Websites can leverage this limitation to circumvent &my-app;'s
5512    filters. By specifying an invalid port range you can disable HTTPS entirely.
5513   </para>
5514   </listitem>
5515  </varlistentry>
5516
5517  <varlistentry>
5518   <term>Example usages:</term>
5519   <listitem>
5520    <!-- I had trouble getting the spacing to look right in my browser -->
5521    <!-- I probably have the wrong font setup, bollocks. -->
5522    <!-- Apparently the emphasis tag uses a proportional font no matter what -->
5523      <screen>+limit-connect{443}                   # Port 443 is OK.
5524 +limit-connect{80,443}                # Ports 80 and 443 are OK.
5525 +limit-connect{-3, 7, 20-100, 500-}   # Ports less than 3, 7, 20 to 100 and above 500 are OK.
5526 +limit-connect{-}                     # All ports are OK
5527 +limit-connect{,}                     # No HTTPS/SSL traffic is allowed</screen>
5528   </listitem>
5529  </varlistentry>
5530 </variablelist>
5531 </sect3>
5532
5533
5534 <!--   ~~~~~       New section      ~~~~~     -->
5535 <sect3 renderas="sect4" id="limit-cookie-lifetime">
5536 <title>limit-cookie-lifetime</title>
5537
5538 <variablelist>
5539  <varlistentry>
5540   <term>Typical use:</term>
5541   <listitem>
5542    <para>Limit the lifetime of HTTP cookies to a couple of minutes or hours.</para>
5543   </listitem>
5544  </varlistentry>
5545
5546  <varlistentry>
5547   <term>Effect:</term>
5548   <listitem>
5549    <para>
5550     Overwrites the expires field in Set-Cookie server headers if it's above the specified limit.
5551    </para>
5552   </listitem>
5553  </varlistentry>
5554
5555  <varlistentry>
5556   <term>Type:</term>
5557   <!-- Boolean, Parameterized, Multi-value -->
5558   <listitem>
5559    <para>Parameterized.</para>
5560   </listitem>
5561  </varlistentry>
5562
5563  <varlistentry>
5564   <term>Parameter:</term>
5565   <listitem>
5566    <para>
5567     The lifetime limit in minutes, or 0.
5568    </para>
5569   </listitem>
5570  </varlistentry>
5571
5572  <varlistentry>
5573   <term>Notes:</term>
5574   <listitem>
5575    <para>
5576     This action reduces the lifetime of HTTP cookies coming from the
5577     server to the specified number of minutes, starting from the time
5578     the cookie passes Privoxy.
5579    </para>
5580    <para>
5581     Cookies with a lifetime below the limit are not modified.
5582     The lifetime of session cookies is set to the specified limit.
5583    </para>
5584    <para>
5585     The effect of this action depends on the server.
5586    </para>
5587    <para>
5588     In case of servers which refresh their cookies with each response
5589     (or at least frequently), the lifetime limit set by this action
5590     is updated as well.
5591     Thus, a session associated with the cookie continues to work with
5592     this action enabled, as long as a new request is made before the
5593     last limit set is reached.
5594    </para>
5595    <para>
5596     However, some servers send their cookies once, with a lifetime of several
5597     years (the year 2037 is a popular choice), and do not refresh them
5598     until a certain event in the future, for example the user logging out.
5599     In this case this action may limit the absolute lifetime of the session,
5600     even if requests are made frequently.
5601    </para>
5602    <para>
5603     If the parameter is <quote>0</quote>, this action behaves like
5604     <literal><link linkend="session-cookies-only">session-cookies-only</link></literal>.
5605    </para>
5606   </listitem>
5607  </varlistentry>
5608
5609  <varlistentry>
5610   <term>Example usages:</term>
5611   <listitem>
5612      <screen>+limit-cookie-lifetime{60}</screen>
5613   </listitem>
5614  </varlistentry>
5615 </variablelist>
5616 </sect3>
5617
5618 <!--   ~~~~~       New section      ~~~~~     -->
5619 <sect3 renderas="sect4" id="prevent-compression">
5620 <title>prevent-compression</title>
5621
5622 <variablelist>
5623  <varlistentry>
5624   <term>Typical use:</term>
5625   <listitem>
5626    <para>
5627     Ensure that servers send the content uncompressed, so it can be
5628     passed through <literal><link linkend="filter">filter</link></literal>s.
5629    </para>
5630   </listitem>
5631  </varlistentry>
5632
5633  <varlistentry>
5634   <term>Effect:</term>
5635   <listitem>
5636    <para>
5637     Removes the Accept-Encoding header which can be used to ask for compressed transfer.
5638    </para>
5639   </listitem>
5640  </varlistentry>
5641
5642  <varlistentry>
5643   <term>Type:</term>
5644   <!-- Boolean, Parameterized, Multi-value -->
5645   <listitem>
5646    <para>Boolean.</para>
5647   </listitem>
5648  </varlistentry>
5649
5650  <varlistentry>
5651   <term>Parameter:</term>
5652   <listitem>
5653    <para>
5654     N/A
5655    </para>
5656   </listitem>
5657  </varlistentry>
5658
5659  <varlistentry>
5660   <term>Notes:</term>
5661   <listitem>
5662    <para>
5663     More and more websites send their content compressed by default, which
5664     is generally a good idea and saves bandwidth. But the <literal><link
5665     linkend="filter">filter</link></literal> and
5666     <literal><link linkend="deanimate-gifs">deanimate-gifs</link></literal>
5667     actions need access to the uncompressed data.
5668    </para>
5669    <para>
5670     When compiled with zlib support (available since &my-app; 3.0.7), content that should be
5671     filtered is decompressed on-the-fly and you don't have to worry about this action.
5672     If you are using an older &my-app; version, or one that hasn't been compiled with zlib
5673     support, this action can be used to convince the server to send the content uncompressed.
5674    </para>
5675    <para>
5676     Most text-based instances compress very well, the size is seldom decreased by less than 50%,
5677     for markup-heavy instances like news feeds saving more than 90% of the original size isn't
5678     unusual.
5679    </para>
5680    <para>
5681     Not using compression will therefore slow down the transfer, and you should only
5682     enable this action if you really need it. As of &my-app; 3.0.7 it's disabled in all
5683     predefined action settings.
5684    </para>
5685    <para>
5686     Note that some (rare) ill-configured sites don't handle requests for uncompressed
5687     documents correctly. Broken PHP applications tend to send an empty document body,
5688     some IIS versions only send the beginning of the content and some content delivery
5689     networks let the connection time out.
5690     If you enable <literal>prevent-compression</literal> per default, you might
5691     want to add exceptions for those sites. See the example for how to do that.
5692    </para>
5693   </listitem>
5694  </varlistentry>
5695
5696  <varlistentry>
5697   <term>Example usage (sections):</term>
5698   <listitem>
5699     <screen>
5700 # Selectively turn off compression, and enable a filter
5701 #
5702 { +filter{tiny-textforms} +prevent-compression }
5703 # Match only these sites
5704  .google.
5705  sourceforge.net
5706  sf.net
5707
5708 # Or instead, we could set a universal default:
5709 #
5710 { +prevent-compression }
5711  / # Match all sites
5712
5713 # Then maybe make exceptions for broken sites:
5714 #
5715 { -prevent-compression }
5716 .compusa.com/</screen>
5717   </listitem>
5718  </varlistentry>
5719
5720 </variablelist>
5721 </sect3>
5722
5723
5724 <!--   ~~~~~       New section      ~~~~~     -->
5725 <sect3 renderas="sect4" id="overwrite-last-modified">
5726 <title>overwrite-last-modified</title>
5727 <!--
5728 new action
5729 -->
5730 <variablelist>
5731  <varlistentry>
5732   <term>Typical use:</term>
5733   <listitem>
5734    <para>Prevent yet another way to track the user's steps between sessions.</para>
5735   </listitem>
5736  </varlistentry>
5737
5738  <varlistentry>
5739   <term>Effect:</term>
5740   <listitem>
5741    <para>
5742     Deletes the <quote>Last-Modified:</quote> HTTP server header or modifies its value.
5743    </para>
5744   </listitem>
5745  </varlistentry>
5746
5747  <varlistentry>
5748   <term>Type:</term>
5749   <!-- Boolean, Parameterized, Multi-value -->
5750   <listitem>
5751    <para>Parameterized.</para>
5752   </listitem>
5753  </varlistentry>
5754
5755  <varlistentry>
5756   <term>Parameter:</term>
5757   <listitem>
5758    <para>
5759     One of the keywords: <quote>block</quote>, <quote>reset-to-request-time</quote>
5760     and <quote>randomize</quote>
5761    </para>
5762   </listitem>
5763  </varlistentry>
5764
5765  <varlistentry>
5766   <term>Notes:</term>
5767   <listitem>
5768    <para>
5769     Removing the <quote>Last-Modified:</quote> header is useful for filter
5770     testing, where you want to force a real reload instead of getting status
5771     code <quote>304</quote>, which would cause the browser to reuse the old
5772     version of the page.
5773    </para>
5774    <para>
5775     The <quote>randomize</quote> option overwrites the value of the
5776     <quote>Last-Modified:</quote> header with a randomly chosen time
5777     between the original value and the current time. In theory the server
5778     could send each document with a different <quote>Last-Modified:</quote>
5779     header to track visits without using cookies. <quote>Randomize</quote>
5780     makes it impossible and the browser can still revalidate cached documents.
5781    </para>
5782    <para>
5783     <quote>reset-to-request-time</quote> overwrites the value of the
5784     <quote>Last-Modified:</quote> header with the current time. You could use
5785     this option together with
5786     <literal><link linkend="hide-if-modified-since">hide-if-modified-since</link></literal>
5787     to further customize your random range.
5788    </para>
5789    <para>
5790     The preferred parameter here is <quote>randomize</quote>. It is safe
5791     to use, as long as the time settings are more or less correct.
5792     If the server sets the <quote>Last-Modified:</quote> header to the time
5793     of the request, the random range becomes zero and the value stays the same.
5794     Therefore you should later randomize it a second time with
5795     <literal><link linkend="hide-if-modified-since">hided-if-modified-since</link></literal>,
5796     just to be sure.
5797    </para>
5798    <para>
5799     It is also recommended to use this action together with
5800     <literal><link linkend="crunch-if-none-match">crunch-if-none-match</link></literal>.
5801    </para>
5802   </listitem>
5803  </varlistentry>
5804
5805  <varlistentry>
5806   <term>Example usage:</term>
5807   <listitem>
5808      <screen># Let the browser revalidate without being tracked across sessions
5809 { +hide-if-modified-since{-60} \
5810  +overwrite-last-modified{randomize} \
5811  +crunch-if-none-match}
5812 /</screen>
5813   </listitem>
5814  </varlistentry>
5815 </variablelist>
5816 </sect3>
5817
5818
5819 <!--   ~~~~~       New section      ~~~~~     -->
5820 <sect3 renderas="sect4" id="redirect">
5821 <title>redirect</title>
5822 <!--
5823 new action
5824 -->
5825 <variablelist>
5826  <varlistentry>
5827   <term>Typical use:</term>
5828   <listitem>
5829    <para>
5830     Redirect requests to other sites.
5831    </para>
5832   </listitem>
5833  </varlistentry>
5834
5835  <varlistentry>
5836   <term>Effect:</term>
5837   <listitem>
5838    <para>
5839     Convinces the browser that the requested document has been moved
5840     to another location and the browser should get it from there.
5841    </para>
5842   </listitem>
5843  </varlistentry>
5844
5845  <varlistentry>
5846   <term>Type:</term>
5847   <!-- Boolean, Parameterized, Multi-value -->
5848   <listitem>
5849    <para>Parameterized</para>
5850   </listitem>
5851  </varlistentry>
5852
5853  <varlistentry>
5854   <term>Parameter:</term>
5855   <listitem>
5856    <para>
5857     An absolute URL or a single pcrs command.
5858    </para>
5859   </listitem>
5860  </varlistentry>
5861
5862  <varlistentry>
5863   <term>Notes:</term>
5864   <listitem>
5865    <para>
5866     Requests to which this action applies are answered with a
5867     HTTP redirect to URLs of your choosing. The new URL is
5868     either provided as parameter, or derived by applying a
5869     single pcrs command to the original URL.
5870    </para>
5871    <para>
5872     The syntax for pcrs commands is documented in the
5873     <link linkend="filter-file">filter file</link> section.
5874    </para>
5875    <para>
5876     Requests can't be blocked and redirected at the same time,
5877     applying this action together with
5878     <literal><link linkend="block">block</link></literal>
5879     is a configuration error. Currently the request is blocked
5880     and an error message logged, the behavior may change in the
5881     future and result in Privoxy rejecting the action file.
5882    </para>
5883    <para>
5884     This action can be combined with
5885     <literal><link linkend="fast-redirects">fast-redirects{check-decoded-url}</link></literal>
5886     to redirect to a decoded version of a rewritten URL.
5887    </para>
5888    <para>
5889     Use this action carefully, make sure not to create redirection loops
5890     and be aware that using your own redirects might make it
5891     possible to fingerprint your requests.
5892    </para>
5893    <para>
5894     In case of problems with your redirects, or simply to watch
5895     them working, enable <link linkend="DEBUG">debug 128</link>.
5896    </para>
5897   </listitem>
5898  </varlistentry>
5899
5900  <varlistentry>
5901   <term>Example usages:</term>
5902   <listitem>
5903     <screen># Replace example.com's style sheet with another one
5904 { +redirect{http://localhost/css-replacements/example.com.css} }
5905  example.com/stylesheet\.css
5906
5907 # Create a short, easy to remember nickname for a favorite site
5908 # (relies on the browser to accept and forward invalid URLs to &my-app;)
5909 { +redirect{https://www.privoxy.org/user-manual/actions-file.html} }
5910  a
5911
5912 # Always use the expanded view for Undeadly.org articles
5913 # (Note the $ at the end of the URL pattern to make sure
5914 # the request for the rewritten URL isn't redirected as well)
5915 {+redirect{s@$@&amp;mode=expanded@}}
5916 undeadly.org/cgi\?action=article&amp;sid=\d*$
5917
5918 # Redirect Google search requests to MSN
5919 {+redirect{s@^http://[^/]*/search\?q=([^&amp;]*).*@http://search.msn.com/results.aspx?q=$1@}}
5920 .google.com/search
5921
5922 # Redirect MSN search requests to Yahoo
5923 {+redirect{s@^http://[^/]*/results\.aspx\?q=([^&amp;]*).*@http://search.yahoo.com/search?p=$1@}}
5924 search.msn.com//results\.aspx\?q=
5925
5926 # Redirect http://example.com/&amp;bla=fasel&amp;toChange=foo (and any other value but "bar")
5927 # to       http://example.com/&amp;bla=fasel&amp;toChange=bar
5928 #
5929 # The URL pattern makes sure that the following request isn't redirected again.
5930 {+redirect{s@toChange=[^&amp;]+@toChange=bar@}}
5931 example.com/.*toChange=(?!bar)
5932
5933 # Add a shortcut to look up illumos bugs
5934 {+redirect{s@^http://i([0-9]+)/.*@https://www.illumos.org/issues/$1@}}
5935 # Redirected URL = http://i4974/
5936 # Redirect Destination = https://www.illumos.org/issues/4974
5937 i[0-9][0-9][0-9][0-9]*/
5938
5939 # Redirect requests for the old Tor Hidden Service of the Privoxy website to the new one
5940 {+redirect{s@^http://jvauzb4sb3bwlsnc.onion/@http://l3tczdiiwoo63iwxty4lhs6p7eaxop5micbn7vbliydgv63x5zrrrfyd.onion/@}}
5941 jvauzb4sb3bwlsnc.onion/
5942
5943 # Redirect remote requests for this manual
5944 # to the local version delivered by Privoxy
5945 {+redirect{s@^http://www@http://config@}}
5946 www.privoxy.org/user-manual/</screen>
5947   </listitem>
5948  </varlistentry>
5949
5950 </variablelist>
5951 </sect3>
5952
5953
5954 <!--   ~~~~~       New section      ~~~~~     -->
5955 <sect3 renderas="sect4" id="server-header-filter">
5956 <title>server-header-filter</title>
5957
5958 <variablelist>
5959  <varlistentry>
5960   <term>Typical use:</term>
5961   <listitem>
5962    <para>
5963    Rewrite or remove single server headers.
5964    </para>
5965   </listitem>
5966  </varlistentry>
5967
5968  <varlistentry>
5969   <term>Effect:</term>
5970   <listitem>
5971    <para>
5972     All server headers to which this action applies are filtered on-the-fly
5973     through the specified regular expression based substitutions.
5974    </para>
5975   </listitem>
5976  </varlistentry>
5977
5978  <varlistentry>
5979   <term>Type:</term>
5980   <!-- boolean, parameterized, Multi-value -->
5981   <listitem>
5982    <para>Multi-value.</para>
5983   </listitem>
5984  </varlistentry>
5985
5986  <varlistentry>
5987   <term>Parameter:</term>
5988   <listitem>
5989    <para>
5990     The name of a server-header filter, as defined in one of the
5991     <link linkend="filter-file">filter files</link>.
5992    </para>
5993   </listitem>
5994  </varlistentry>
5995
5996  <varlistentry>
5997   <term>Notes:</term>
5998   <listitem>
5999    <para>
6000     Server-header filters are applied to each header on its own, not to
6001     all at once. This makes it easier to diagnose problems, but on the downside
6002     you can't write filters that only change header x if header y's value is z.
6003     You can do that by using tags though.
6004    </para>
6005    <para>
6006     Server-header filters are executed after the other header actions have finished
6007     and use their output as input.
6008    </para>
6009    <para>
6010     Please refer to the <link linkend="filter-file">filter file chapter</link>
6011     to learn which server-header filters are available by default, and how to
6012     create your own.
6013    </para>
6014  </listitem>
6015  </varlistentry>
6016
6017  <varlistentry>
6018   <term>Example usage (section):</term>
6019   <listitem>
6020      <screen>
6021 {+server-header-filter{html-to-xml}}
6022 example.org/xml-instance-that-is-delivered-as-html
6023
6024 {+server-header-filter{xml-to-html}}
6025 example.org/instance-that-is-delivered-as-xml-but-is-not
6026 </screen>
6027   </listitem>
6028  </varlistentry>
6029
6030 </variablelist>
6031 </sect3>
6032
6033
6034 <!--   ~~~~~       New section      ~~~~~     -->
6035 <sect3 renderas="sect4" id="server-header-tagger">
6036 <title>server-header-tagger</title>
6037
6038 <variablelist>
6039  <varlistentry>
6040   <term>Typical use:</term>
6041   <listitem>
6042    <para>
6043    Enable or disable filters based on the Content-Type header.
6044    </para>
6045   </listitem>
6046  </varlistentry>
6047
6048  <varlistentry>
6049   <term>Effect:</term>
6050   <listitem>
6051    <para>
6052     Server headers to which this action applies are filtered on-the-fly through
6053     the specified regular expression based substitutions, the result is used as
6054     tag.
6055    </para>
6056   </listitem>
6057  </varlistentry>
6058
6059  <varlistentry>
6060   <term>Type:</term>
6061   <!-- boolean, parameterized, Multi-value -->
6062   <listitem>
6063    <para>Multi-value.</para>
6064   </listitem>
6065  </varlistentry>
6066
6067  <varlistentry>
6068   <term>Parameter:</term>
6069   <listitem>
6070    <para>
6071     The name of a server-header tagger, as defined in one of the
6072     <link linkend="filter-file">filter files</link>.
6073    </para>
6074   </listitem>
6075  </varlistentry>
6076
6077  <varlistentry>
6078   <term>Notes:</term>
6079   <listitem>
6080    <para>
6081     Server-header taggers are applied to each header on its own,
6082     and as the header isn't modified, each tagger <quote>sees</quote>
6083     the original.
6084    </para>
6085    <para>
6086     Server-header taggers are executed before all other header actions
6087     that modify server headers. Their tags can be used to control
6088     all of the other server-header actions, the content filters
6089     and the crunch actions (<link linkend="redirect">redirect</link>
6090     and <link linkend="block">block</link>).
6091    </para>
6092    <para>
6093     Obviously crunching based on tags created by server-header taggers
6094     doesn't prevent the request from showing up in the server's log file.
6095    </para>
6096
6097  </listitem>
6098  </varlistentry>
6099
6100  <varlistentry>
6101   <term>Example usage (section):</term>
6102   <listitem>
6103      <screen>
6104 # Tag every request with the content type declared by the server
6105 {+server-header-tagger{content-type}}
6106 /
6107
6108 # If the response has a tag starting with 'image/' enable an external
6109 # filter that only applies to images.
6110 #
6111 # Note that the filter is not available by default, it's just a
6112 # <literal><link linkend="external-filter-syntax">silly example</link></literal>.
6113 {+external-filter{rotate-image} +force-text-mode}
6114 TAG:^image/
6115 </screen>
6116   </listitem>
6117  </varlistentry>
6118
6119 </variablelist>
6120 </sect3>
6121
6122
6123 <!--   ~~~~~       New section      ~~~~~     -->
6124 <sect3 renderas="sect4" id="suppress-tag">
6125 <title>suppress-tag</title>
6126
6127 <variablelist>
6128  <varlistentry>
6129   <term>Typical use:</term>
6130   <listitem>
6131    <para>
6132    Suppress client or server tag.
6133    </para>
6134   </listitem>
6135  </varlistentry>
6136
6137  <varlistentry>
6138   <term>Effect:</term>
6139   <listitem>
6140    <para>
6141     Server or client tags to which this action applies are not added to the request,
6142     thus making all actions that are specific to these request tags inactive.
6143    </para>
6144   </listitem>
6145  </varlistentry>
6146
6147  <varlistentry>
6148   <term>Type:</term>
6149   <!-- boolean, parameterized, Multi-value -->
6150   <listitem>
6151    <para>Multi-value.</para>
6152   </listitem>
6153  </varlistentry>
6154
6155  <varlistentry>
6156   <term>Parameter:</term>
6157   <listitem>
6158    <para>
6159     The result tag of a server-header or client-header tagger, as defined in one of the
6160     <link linkend="filter-file">filter files</link>.
6161    </para>
6162   </listitem>
6163  </varlistentry>
6164
6165  <varlistentry>
6166   <term>Example usage (section):</term>
6167   <listitem>
6168      <screen>
6169 # Suppress tag produced by range-requests client-header tagger for requests coming from address 10.0.0.1
6170 {+suppress-tag{RANGE-REQUEST}}
6171 TAG:^IP-ADDRESS: 10\.0\.0\.1$
6172 </screen>
6173   </listitem>
6174  </varlistentry>
6175
6176 </variablelist>
6177 </sect3>
6178
6179
6180 <!--   ~~~~~       New section      ~~~~~     -->
6181 <sect3 renderas="sect4" id="session-cookies-only">
6182 <title>session-cookies-only</title>
6183
6184 <variablelist>
6185  <varlistentry>
6186   <term>Typical use:</term>
6187   <listitem>
6188    <para>
6189     Allow only temporary <quote>session</quote> cookies (for the current
6190     browser session <emphasis>only</emphasis>).
6191    </para>
6192   </listitem>
6193  </varlistentry>
6194
6195  <varlistentry>
6196   <term>Effect:</term>
6197   <listitem>
6198    <para>
6199     Deletes the <quote>expires</quote> field from <quote>Set-Cookie:</quote>
6200     server headers. Most browsers will not store such cookies permanently and
6201     forget them in between sessions.
6202    </para>
6203   </listitem>
6204  </varlistentry>
6205
6206 <varlistentry>
6207   <term>Type:</term>
6208   <!-- Boolean, Parameterized, Multi-value -->
6209   <listitem>
6210    <para>Boolean.</para>
6211   </listitem>
6212  </varlistentry>
6213
6214  <varlistentry>
6215   <term>Parameter:</term>
6216   <listitem>
6217    <para>
6218     N/A
6219    </para>
6220   </listitem>
6221  </varlistentry>
6222
6223  <varlistentry>
6224   <term>Notes:</term>
6225   <listitem>
6226    <para>
6227     This is less strict than <literal><link linkend="crunch-incoming-cookies">crunch-incoming-cookies</link></literal> /
6228     <literal><link linkend="crunch-outgoing-cookies">crunch-outgoing-cookies</link></literal> and allows you to browse
6229     websites that insist or rely on setting cookies, without compromising your privacy too badly.
6230    </para>
6231    <para>
6232     Most browsers will not permanently store cookies that have been processed by
6233     <literal>session-cookies-only</literal> and will forget about them between sessions.
6234     This makes profiling cookies useless, but won't break sites which require cookies so
6235     that you can log in for transactions. This is generally turned on for all
6236     sites, and is the recommended setting.
6237    </para>
6238    <para>
6239     It makes <emphasis>no sense at all</emphasis> to use <literal>session-cookies-only</literal>
6240     together with <literal><link linkend="crunch-incoming-cookies">crunch-incoming-cookies</link></literal> or
6241     <literal><link linkend="crunch-outgoing-cookies">crunch-outgoing-cookies</link></literal>. If you do, cookies
6242     will be plainly killed.
6243    </para>
6244    <para>
6245     Note that it is up to the browser how it handles such cookies without an <quote>expires</quote>
6246     field. If you use an exotic browser, you might want to try it out to be sure.
6247    </para>
6248    <para>
6249     This setting also has no effect on cookies that may have been stored
6250     previously by the browser before starting <application>Privoxy</application>.
6251     These would have to be removed manually.
6252    </para>
6253    <para>
6254      <application>Privoxy</application> also uses
6255      the <link linkend="filter-content-cookies">content-cookies filter</link>
6256      to block some types of cookies. Content cookies are not effected by
6257      <literal>session-cookies-only</literal>.
6258    </para>
6259   </listitem>
6260  </varlistentry>
6261
6262  <varlistentry>
6263   <term>Example usage:</term>
6264   <listitem>
6265      <screen>+session-cookies-only</screen>
6266   </listitem>
6267  </varlistentry>
6268 </variablelist>
6269 </sect3>
6270
6271
6272 <!--   ~~~~~       New section      ~~~~~     -->
6273 <sect3 renderas="sect4" id="set-image-blocker">
6274 <title>set-image-blocker</title>
6275
6276 <variablelist>
6277  <varlistentry>
6278   <term>Typical use:</term>
6279   <listitem>
6280    <para>Choose the replacement for blocked images</para>
6281   </listitem>
6282  </varlistentry>
6283
6284  <varlistentry>
6285   <term>Effect:</term>
6286   <listitem>
6287    <para>
6288      This action alone doesn't do anything noticeable. If <emphasis>both</emphasis>
6289      <literal><link linkend="block">block</link></literal> <emphasis>and</emphasis> <literal><link
6290      linkend="handle-as-image">handle-as-image</link></literal> <emphasis>also</emphasis>
6291      apply, i.e. if the request is to be blocked as an image,
6292      <emphasis>then</emphasis> the parameter of this action decides what will be
6293      sent as a replacement.
6294    </para>
6295   </listitem>
6296  </varlistentry>
6297
6298  <varlistentry>
6299   <term>Type:</term>
6300   <!-- Boolean, Parameterized, Multi-value -->
6301   <listitem>
6302    <para>Parameterized.</para>
6303   </listitem>
6304  </varlistentry>
6305
6306  <varlistentry>
6307   <term>Parameter:</term>
6308   <listitem>
6309    <itemizedlist>
6310     <listitem>
6311      <para>
6312       <quote>pattern</quote> to send a built-in checkerboard pattern image. The image is visually
6313       decent, scales very well, and makes it obvious where banners were busted.
6314      </para>
6315     </listitem>
6316     <listitem>
6317      <para>
6318       <quote>blank</quote> to send a built-in transparent image. This makes banners disappear
6319       completely, but makes it hard to detect where <application>Privoxy</application> has blocked
6320       images on a given page and complicates troubleshooting if <application>Privoxy</application>
6321       has blocked innocent images, like navigation icons.
6322      </para>
6323     </listitem>
6324     <listitem>
6325      <para>
6326       <quote><replaceable class="parameter">target-url</replaceable></quote> to
6327       send a redirect to <replaceable class="parameter">target-url</replaceable>. You can redirect
6328       to any image anywhere, even in your local filesystem via <quote>file:///</quote> URL.
6329       (But note that not all browsers support redirecting to a local file system).
6330      </para>
6331      <para>
6332       A good application of redirects is to use special <application>Privoxy</application>-built-in
6333       URLs, which send the built-in images, as <replaceable class="parameter">target-url</replaceable>.
6334       This has the same visual effect as specifying <quote>blank</quote> or <quote>pattern</quote> in
6335       the first place, but enables your browser to cache the replacement image, instead of requesting
6336       it over and over again.
6337      </para>
6338     </listitem>
6339    </itemizedlist>
6340   </listitem>
6341  </varlistentry>
6342
6343  <varlistentry>
6344   <term>Notes:</term>
6345   <listitem>
6346    <para>
6347     The URLs for the built-in images are <quote>http://config.privoxy.org/send-banner?type=<replaceable
6348     class="parameter">type</replaceable></quote>, where <replaceable class="parameter">type</replaceable> is
6349     either <quote>blank</quote> or <quote>pattern</quote>.
6350    </para>
6351    <para>
6352     There is a third (advanced) type, called <quote>auto</quote>. It is <emphasis>NOT</emphasis> to be
6353     used in <literal>set-image-blocker</literal>, but meant for use from <link linkend="filter-file">filters</link>.
6354     Auto will select the type of image that would have applied to the referring page, had it been an image.
6355    </para>
6356   </listitem>
6357  </varlistentry>
6358
6359  <varlistentry>
6360   <term>Example usage:</term>
6361   <listitem>
6362    <para>
6363     Built-in pattern:
6364    </para>
6365     <screen>+set-image-blocker{pattern}</screen>
6366    <para>
6367     Redirect to the BSD daemon:
6368    </para>
6369     <screen>+set-image-blocker{http://www.freebsd.org/gifs/dae_up3.gif}</screen>
6370    <para>
6371     Redirect to the built-in pattern for better caching:
6372    </para>
6373     <screen>+set-image-blocker{http://config.privoxy.org/send-banner?type=pattern}</screen>
6374   </listitem>
6375  </varlistentry>
6376 </variablelist>
6377 </sect3>
6378
6379
6380 <!--   ~~~~~       New section      ~~~~~     -->
6381 <sect3 id="summary">
6382 <title>Summary</title>
6383 <para>
6384  Note that many of these actions have the potential to cause a page to
6385  misbehave, possibly even not to display at all. There are many ways
6386  a site designer may choose to design his site, and what HTTP header
6387  content, and other criteria, he may depend on. There is no way to have hard
6388  and fast rules for all sites. See the <link
6389  linkend="ACTIONSANAT">Appendix</link> for a brief example on troubleshooting
6390  actions.
6391 </para>
6392 </sect3>
6393 </sect2>
6394
6395 <!--   ~~~~~       New section      ~~~~~     -->
6396 <sect2 id="aliases">
6397 <title>Aliases</title>
6398 <para>
6399  Custom <quote>actions</quote>, known to <application>Privoxy</application>
6400  as <quote>aliases</quote>, can be defined by combining other actions.
6401  These can in turn be invoked just like the built-in actions.
6402  Currently, an alias name can contain any character except space, tab,
6403  <quote>=</quote>,
6404  <quote>{</quote> and <quote>}</quote>, but we <emphasis>strongly
6405  recommend</emphasis> that you only use <quote>a</quote> to <quote>z</quote>,
6406  <quote>0</quote> to <quote>9</quote>, <quote>+</quote>, and <quote>-</quote>.
6407  Alias names are not case sensitive, and are not required to start with a
6408  <quote>+</quote> or <quote>-</quote> sign, since they are merely textually
6409  expanded.
6410 </para>
6411 <para>
6412  Aliases can be used throughout the actions file, but they <emphasis>must be
6413  defined in a special section at the top of the file!</emphasis>
6414  And there can only be one such section per actions file. Each actions file may
6415  have its own alias section, and the aliases defined in it are only visible
6416  within that file.
6417 </para>
6418 <para>
6419  There are two main reasons to use aliases: One is to save typing for frequently
6420  used combinations of actions, the other one is a gain in flexibility: If you
6421  decide once how you want to handle shops by defining an alias called
6422  <quote>shop</quote>, you can later change your policy on shops in
6423  <emphasis>one</emphasis> place, and your changes will take effect everywhere
6424  in the actions file where the <quote>shop</quote> alias is used. Calling aliases
6425  by their purpose also makes your actions files more readable.
6426 </para>
6427 <para>
6428  Currently, there is one big drawback to using aliases, though:
6429  <application>Privoxy</application>'s built-in web-based action file
6430  editor honors aliases when reading the actions files, but it expands
6431  them before writing. So the effects of your aliases are of course preserved,
6432  but the aliases themselves are lost when you edit sections that use aliases
6433  with it.
6434 </para>
6435
6436 <para>
6437  Now let's define some aliases...
6438 </para>
6439
6440  <screen>
6441  # Useful custom aliases we can use later.
6442  #
6443  # Note the (required!) section header line and that this section
6444  # must be at the top of the actions file!
6445  #
6446  {{alias}}
6447
6448  # These aliases just save typing later:
6449  # (Note that some already use other aliases!)
6450  #
6451  +crunch-all-cookies = +<link linkend="CRUNCH-INCOMING-COOKIES">crunch-incoming-cookies</link> +<link linkend="CRUNCH-OUTGOING-COOKIES">crunch-outgoing-cookies</link>
6452  -crunch-all-cookies = -<link linkend="CRUNCH-INCOMING-COOKIES">crunch-incoming-cookies</link> -<link linkend="CRUNCH-OUTGOING-COOKIES">crunch-outgoing-cookies</link>
6453  +block-as-image      = +block{Blocked image.} +handle-as-image
6454  allow-all-cookies   = -crunch-all-cookies -<link linkend="SESSION-COOKIES-ONLY">session-cookies-only</link> -<link linkend="FILTER-CONTENT-COOKIES">filter{content-cookies}</link>
6455
6456  # These aliases define combinations of actions
6457  # that are useful for certain types of sites:
6458  #
6459  fragile     = -<link linkend="BLOCK">block</link> -<link linkend="FILTER">filter</link> -crunch-all-cookies -<link linkend="FAST-REDIRECTS">fast-redirects</link> -<link linkend="HIDE-REFERER">hide-referrer</link> -<link linkend="PREVENT-COMPRESSION">prevent-compression</link>
6460
6461  shop        = -crunch-all-cookies -<link linkend="FILTER-ALL-POPUPS">filter{all-popups}</link>
6462
6463  # Short names for other aliases, for really lazy people ;-)
6464  #
6465  c0 = +crunch-all-cookies
6466  c1 = -crunch-all-cookies</screen>
6467
6468 <para>
6469  ...and put them to use. These sections would appear in the lower part of an
6470  actions file and define exceptions to the default actions (as specified further
6471  up for the <quote>/</quote> pattern):
6472 </para>
6473
6474  <screen>
6475  # These sites are either very complex or very keen on
6476  # user data and require minimal interference to work:
6477  #
6478  {fragile}
6479  .office.microsoft.com
6480  .windowsupdate.microsoft.com
6481  # Gmail is really mail.google.com, not gmail.com
6482  mail.google.com
6483
6484  # Shopping sites:
6485  # Allow cookies (for setting and retrieving your customer data)
6486  #
6487  {shop}
6488  .quietpc.com
6489  .worldpay.com   # for quietpc.com
6490  mybank.example.com
6491
6492  # These shops require pop-ups:
6493  #
6494  {-filter{all-popups} -filter{unsolicited-popups}}
6495   .dabs.com
6496   .overclockers.co.uk</screen>
6497
6498 <para>
6499  Aliases like <quote>shop</quote> and <quote>fragile</quote> are typically used for
6500  <quote>problem</quote> sites that require more than one action to be disabled
6501  in order to function properly.
6502 </para>
6503 </sect2>
6504 <!--
6505 hal stop here
6506 -->
6507 <!--   ~~~~~       New section      ~~~~~     -->
6508 <sect2 id="act-examples">
6509 <title>Actions Files Tutorial</title>
6510 <para>
6511  The above chapters have shown <link linkend="actions-file">which actions files
6512  there are and how they are organized</link>, how actions are <link
6513  linkend="actions">specified</link> and <link linkend="actions-apply">applied
6514  to URLs</link>, how <link linkend="af-patterns">patterns</link> work, and how to
6515  define and use <link linkend="aliases">aliases</link>. Now, let's look at an
6516  example <filename>match-all.action</filename>, <filename>default.action</filename>
6517  and <filename>user.action</filename> file and see how all these pieces come together:
6518 </para>
6519
6520 <sect3 id="match-all">
6521 <title>match-all.action</title>
6522 <para>
6523  Remember <emphasis>all actions are disabled when matching starts</emphasis>,
6524  so we have to explicitly enable the ones we want.
6525 </para>
6526
6527 <para>
6528  While the <filename>match-all.action</filename> file only contains a
6529  single section, it is probably the most important one. It has only one
6530  pattern, <quote><literal>/</literal></quote>, but this pattern
6531  <link linkend="af-patterns">matches all URLs</link>. Therefore, the set of
6532  actions used in this <quote>default</quote> section <emphasis>will
6533  be applied to all requests as a start</emphasis>. It can  be partly or
6534  wholly overridden by other actions files like <filename>default.action</filename>
6535  and <filename>user.action</filename>, but it will still be largely responsible
6536  for your overall browsing experience.
6537 </para>
6538
6539 <para>
6540  Again, at the start of matching, all actions are disabled, so there is
6541  no need to disable any actions here. (Remember: a <quote>+</quote>
6542  preceding the action name enables the action, a <quote>-</quote> disables!).
6543  Also note how this long line has been made more readable by splitting it into
6544  multiple lines with line continuation.
6545 </para>
6546
6547  <screen>
6548 { \
6549  +<link linkend="CHANGE-X-FORWARDED-FOR">change-x-forwarded-for{block}</link> \
6550  +<link linkend="HIDE-FROM-HEADER">hide-from-header{block}</link> \
6551  +<link linkend="SET-IMAGE-BLOCKER">set-image-blocker{pattern}</link> \
6552 }
6553 / # Match all URLs
6554 </screen>
6555
6556 <para>
6557  The default behavior is now set.
6558 </para>
6559 </sect3>
6560
6561 <sect3 id="default-action">
6562 <title>default.action</title>
6563
6564 <para>
6565  If you aren't a developer, there's no need for you to edit the
6566  <filename>default.action</filename> file. It is maintained by
6567  the &my-app; developers and if you disagree with some of the
6568  sections, you should overrule them in your <filename>user.action</filename>.
6569 </para>
6570
6571 <para>
6572  Understanding the <filename>default.action</filename> file can
6573  help you with your <filename>user.action</filename>, though.
6574 </para>
6575
6576 <para>
6577  The first section in this file is a special section for internal use
6578  that prevents older &my-app; versions from reading the file:
6579 </para>
6580
6581  <screen>
6582 ##########################################################################
6583 # Settings -- Don't change! For internal Privoxy use ONLY.
6584 ##########################################################################
6585 {{settings}}
6586 for-privoxy-version=3.0.11</screen>
6587
6588 <para>
6589  After that comes the (optional) alias section. We'll use the example
6590  section from the above <link linkend="aliases">chapter on aliases</link>,
6591  that also explains why and how aliases are used:
6592 </para>
6593
6594  <screen>
6595 ##########################################################################
6596 # Aliases
6597 ##########################################################################
6598 {{alias}}
6599
6600  # These aliases just save typing later:
6601  # (Note that some already use other aliases!)
6602  #
6603  +crunch-all-cookies = +<link linkend="CRUNCH-INCOMING-COOKIES">crunch-incoming-cookies</link> +<link linkend="CRUNCH-OUTGOING-COOKIES">crunch-outgoing-cookies</link>
6604  -crunch-all-cookies = -<link linkend="CRUNCH-INCOMING-COOKIES">crunch-incoming-cookies</link> -<link linkend="CRUNCH-OUTGOING-COOKIES">crunch-outgoing-cookies</link>
6605  +block-as-image      = +block{Blocked image.} +handle-as-image
6606  mercy-for-cookies   = -crunch-all-cookies -<link linkend="SESSION-COOKIES-ONLY">session-cookies-only</link> -<link linkend="FILTER-CONTENT-COOKIES">filter{content-cookies}</link>
6607
6608  # These aliases define combinations of actions
6609  # that are useful for certain types of sites:
6610  #
6611  fragile     = -<link linkend="BLOCK">block</link> -<link linkend="FILTER">filter</link> -crunch-all-cookies -<link linkend="FAST-REDIRECTS">fast-redirects</link> -<link linkend="HIDE-REFERER">hide-referrer</link>
6612  shop        = -crunch-all-cookies -<link linkend="FILTER-ALL-POPUPS">filter{all-popups}</link></screen>
6613
6614 <para>
6615  The first of our specialized sections is concerned with <quote>fragile</quote>
6616  sites, i.e. sites that require minimum interference, because they are either
6617  very complex or very keen on tracking you (and have mechanisms in place that
6618  make them unusable for people who avoid being tracked). We will use
6619  our pre-defined <literal>fragile</literal> alias instead of stating the list
6620  of actions explicitly:
6621 </para>
6622
6623  <screen>
6624 ##########################################################################
6625 # Exceptions for sites that'll break under the default action set:
6626 ##########################################################################
6627
6628 # "Fragile" Use a minimum set of actions for these sites (see alias above):
6629 #
6630 { fragile }
6631 .office.microsoft.com           # surprise, surprise!
6632 .windowsupdate.microsoft.com
6633 mail.google.com</screen>
6634
6635 <para>
6636  Shopping sites are not as fragile, but they typically
6637  require cookies to log in, and pop-up windows for shopping
6638  carts or item details. Again, we'll use a pre-defined alias:
6639 </para>
6640
6641  <screen>
6642 # Shopping sites:
6643 #
6644 { shop }
6645 .quietpc.com
6646 .worldpay.com   # for quietpc.com
6647 .jungle.com
6648 .scan.co.uk</screen>
6649
6650 <para>
6651  The <literal><link linkend="FAST-REDIRECTS">fast-redirects</link></literal>
6652  action, which may have been enabled in <filename>match-all.action</filename>,
6653  breaks some sites. So disable it for popular sites where we know it misbehaves:
6654 </para>
6655
6656  <screen>
6657 { -<link linkend="FAST-REDIRECTS">fast-redirects</link> }
6658 login.yahoo.com
6659 edit.*.yahoo.com
6660 .google.com
6661 .altavista.com/.*(like|url|link):http
6662 .altavista.com/trans.*urltext=http
6663 .nytimes.com</screen>
6664
6665 <para>
6666  It is important that <application>Privoxy</application> knows which
6667  URLs belong to images, so that <emphasis>if</emphasis> they are to
6668  be blocked, a substitute image can be sent, rather than an HTML page.
6669  Contacting the remote site to find out is not an option, since it
6670  would destroy the loading time advantage of banner blocking, and it
6671  would feed the advertisers information about you. We can mark any
6672  URL as an image with the <literal><link
6673  linkend="handle-as-image">handle-as-image</link></literal> action,
6674  and marking all URLs that end in a known image file extension is a
6675  good start:
6676 </para>
6677
6678  <screen>
6679 ##########################################################################
6680 # Images:
6681 ##########################################################################
6682
6683 # Define which file types will be treated as images, in case they get
6684 # blocked further down this file:
6685 #
6686 { +<link linkend="HANDLE-AS-IMAGE">handle-as-image</link> }
6687 /.*\.(gif|jpe?g|png|bmp|ico)$</screen>
6688
6689 <para>
6690  And then there are known banner sources. They often use scripts to
6691  generate the banners, so it won't be visible from the URL that the
6692  request is for an image. Hence we block them <emphasis>and</emphasis>
6693  mark them as images in one go, with the help of our
6694  <literal>+block-as-image</literal> alias defined above. (We could of
6695  course just as well use <literal>+<link linkend="block">block</link>
6696  +<link linkend="handle-as-image">handle-as-image</link></literal> here.)
6697  Remember that the type of the replacement image is chosen by the
6698  <literal><link linkend="set-image-blocker">set-image-blocker</link></literal>
6699  action. Since all URLs have matched the default section with its
6700  <literal>+<link linkend="set-image-blocker">set-image-blocker</link>{pattern}</literal>
6701  action before, it still applies and needn't be repeated:
6702 </para>
6703
6704  <screen>
6705 # Known ad generators:
6706 #
6707 { +block-as-image }
6708 ar.atwola.com
6709 .ad.doubleclick.net
6710 .ad.*.doubleclick.net
6711 .a.yimg.com/(?:(?!/i/).)*$
6712 .a[0-9].yimg.com/(?:(?!/i/).)*$
6713 bs*.gsanet.com
6714 .qkimg.net</screen>
6715
6716 <para>
6717  One of the most important jobs of <application>Privoxy</application>
6718  is to block banners. Many of these can be <quote>blocked</quote>
6719  by the <literal><link linkend="filter">filter</link>{banners-by-size}</literal>
6720  action, which we enabled above, and which deletes the references to banner
6721  images from the pages while they are loaded, so the browser doesn't request
6722  them anymore, and hence they don't need to be blocked here. But this naturally
6723  doesn't catch all banners, and some people choose not to use filters, so we
6724  need a comprehensive list of patterns for banner URLs here, and apply the
6725  <literal><link linkend="block">block</link></literal> action to them.
6726 </para>
6727 <para>
6728  First comes many generic patterns, which do most of the work, by
6729  matching typical domain and path name components of banners. Then comes
6730  a list of individual patterns for specific sites, which is omitted here
6731  to keep the example short:
6732 </para>
6733
6734  <screen>
6735 ##########################################################################
6736 # Block these fine banners:
6737 ##########################################################################
6738 { <link linkend="BLOCK">+block{Banner ads.}</link> }
6739
6740 # Generic patterns:
6741 #
6742 ad*.
6743 .*ads.
6744 banner?.
6745 count*.
6746 /.*count(er)?\.(pl|cgi|exe|dll|asp|php[34]?)
6747 /(?:.*/)?(publicite|werbung|rekla(ma|me|am)|annonse|maino(kset|nta|s)?)/
6748
6749 # Site-specific patterns (abbreviated):
6750 #
6751 .hitbox.com</screen>
6752
6753 <para>
6754  It's quite remarkable how many advertisers actually call their banner
6755  servers ads.<replaceable>company</replaceable>.com, or call the directory
6756  in which the banners are stored literally <quote>banners</quote>. So the above
6757  generic patterns are surprisingly effective.
6758 </para>
6759 <para>
6760  But being very generic, they necessarily also catch URLs that we don't want
6761  to block. The pattern <literal>.*ads.</literal> e.g. catches
6762  <quote>nasty-<emphasis>ads</emphasis>.nasty-corp.com</quote> as intended,
6763  but also <quote>downlo<emphasis>ads</emphasis>.sourcefroge.net</quote> or
6764  <quote><emphasis>ads</emphasis>l.some-provider.net.</quote> So here come some
6765  well-known exceptions to the <literal>+<link linkend="BLOCK">block</link></literal>
6766  section above.
6767 </para>
6768 <para>
6769  Note that these are exceptions to exceptions from the default! Consider the URL
6770  <quote>downloads.sourcefroge.net</quote>: Initially, all actions are deactivated,
6771  so it wouldn't get blocked. Then comes the defaults section, which matches the
6772  URL, but just deactivates the <literal><link linkend="BLOCK">block</link></literal>
6773  action once again. Then it matches <literal>.*ads.</literal>, an exception to the
6774  general non-blocking policy, and suddenly
6775  <literal><link linkend="BLOCK">+block</link></literal> applies. And now, it'll match
6776  <literal>.*loads.</literal>, where <literal><link linkend="BLOCK">-block</link></literal>
6777  applies, so (unless it matches <emphasis>again</emphasis> further down) it ends up
6778  with no <literal><link linkend="BLOCK">block</link></literal> action applying.
6779 </para>
6780
6781  <screen>
6782 ##########################################################################
6783 # Save some innocent victims of the above generic block patterns:
6784 ##########################################################################
6785
6786 # By domain:
6787 #
6788 { -<link linkend="BLOCK">block</link> }
6789 adv[io]*.  # (for advogato.org and advice.*)
6790 adsl.      # (has nothing to do with ads)
6791 adobe.     # (has nothing to do with ads either)
6792 ad[ud]*.   # (adult.* and add.*)
6793 .edu       # (universities don't host banners (yet!))
6794 .*loads.   # (downloads, uploads etc)
6795
6796 # By path:
6797 #
6798 /.*loads/
6799
6800 # Site-specific:
6801 #
6802 www.globalintersec.com/adv # (adv = advanced)
6803 www.ugu.com/sui/ugu/adv</screen>
6804
6805 <para>
6806  Filtering source code can have nasty side effects,
6807  so make an exception for our friends at sourceforge.net,
6808  and all paths with <quote>cvs</quote> in them. Note that
6809  <literal>-<link linkend="FILTER">filter</link></literal>
6810  disables <emphasis>all</emphasis> filters in one fell swoop!
6811 </para>
6812
6813  <screen>
6814 # Don't filter code!
6815 #
6816 { -<link linkend="FILTER">filter</link> }
6817 /(.*/)?cvs
6818 bugzilla.
6819 developer.
6820 wiki.
6821 .sourceforge.net</screen>
6822
6823 <para>
6824  The actual <filename>default.action</filename> is of course much more
6825  comprehensive, but we hope this example made clear how it works.
6826 </para>
6827
6828 </sect3>
6829
6830 <sect3 id="user-action"><title>user.action</title>
6831
6832 <para>
6833  So far we are painting with a broad brush by setting general policies,
6834  which would be a reasonable starting point for many people. Now,
6835  you might want to be more specific and have customized rules that
6836  are more suitable to your personal habits and preferences. These would
6837  be for narrowly defined situations like your ISP or your bank, and should
6838  be placed in <filename>user.action</filename>, which is parsed after all other
6839  actions files and hence has the last word, over-riding any previously
6840  defined actions. <filename>user.action</filename> is also a
6841  <emphasis>safe</emphasis> place for your personal settings, since
6842  <filename>default.action</filename> is actively maintained by the
6843  <application>Privoxy</application> developers and you'll probably want
6844  to install updated versions from time to time.
6845 </para>
6846
6847 <para>
6848  So let's look at a few examples of things that one might typically do in
6849  <filename>user.action</filename>:
6850 </para>
6851
6852
6853 <!-- brief sample user.action here -->
6854
6855  <screen>
6856 # My user.action file. &lt;fred@example.com&gt;</screen>
6857
6858 <para>
6859  As <link linkend="aliases">aliases</link> are local to the actions
6860  file that they are defined in, you can't use the ones from
6861  <filename>default.action</filename>, unless you repeat them here:
6862 </para>
6863
6864  <screen>
6865 # Aliases are local to the file they are defined in.
6866 # (Re-)define aliases for this file:
6867 #
6868 {{alias}}
6869 #
6870 # These aliases just save typing later, and the alias names should
6871 # be self explanatory.
6872 #
6873 +crunch-all-cookies = +crunch-incoming-cookies +crunch-outgoing-cookies
6874 -crunch-all-cookies = -crunch-incoming-cookies -crunch-outgoing-cookies
6875  allow-all-cookies  = -crunch-all-cookies -session-cookies-only
6876  allow-popups       = -filter{all-popups}
6877 +block-as-image     = +block{Blocked as image.} +handle-as-image
6878 -block-as-image     = -block
6879
6880 # These aliases define combinations of actions that are useful for
6881 # certain types of sites:
6882 #
6883 fragile     = -block -crunch-all-cookies -filter -fast-redirects -hide-referrer
6884 shop        = -crunch-all-cookies allow-popups
6885
6886 # Allow ads for selected useful free sites:
6887 #
6888 allow-ads   = -block -filter{banners-by-size} -filter{banners-by-link}
6889
6890 # Alias for specific file types that are text, but might have conflicting
6891 # MIME types. We want the browser to force these to be text documents.
6892 handle-as-text = -<link linkend="FILTER">filter</link> +-<link linkend="content-type-overwrite">content-type-overwrite{text/plain}</link> +-<link linkend="FORCE-TEXT-MODE">force-text-mode</link> -<link linkend="HIDE-CONTENT-DISPOSITION">hide-content-disposition</link></screen>
6893
6894 <para>
6895  Say you have accounts on some sites that you visit regularly, and
6896  you don't want to have to log in manually each time. So you'd like
6897  to allow persistent cookies for these sites. The
6898  <literal>allow-all-cookies</literal> alias defined above does exactly
6899  that, i.e. it disables crunching of cookies in any direction, and the
6900  processing of cookies to make them only temporary.
6901 </para>
6902
6903  <screen>
6904 { allow-all-cookies }
6905  sourceforge.net
6906  .yahoo.com
6907  .msdn.microsoft.com
6908  .redhat.com</screen>
6909
6910 <para>
6911  Your bank is allergic to some filter, but you don't know which, so you disable them all:
6912 </para>
6913
6914  <screen>
6915 { -<link linkend="FILTER">filter</link> }
6916  .your-home-banking-site.com</screen>
6917
6918 <para>
6919  Some file types you may not want to filter for various reasons:
6920 </para>
6921
6922  <screen>
6923 # Technical documentation is likely to contain strings that might
6924 # erroneously get altered by the JavaScript-oriented filters:
6925 #
6926 .tldp.org
6927 /(.*/)?selfhtml/
6928
6929 # And this stupid host sends streaming video with a wrong MIME type,
6930 # so that Privoxy thinks it is getting HTML and starts filtering:
6931 #
6932 stupid-server.example.com/</screen>
6933
6934 <para>
6935  Example of a simple <link linkend="BLOCK">block</link> action. Say you've
6936  seen an ad on your favourite page on example.com that you want to get rid of.
6937  You have right-clicked the image, selected <quote>copy image location</quote>
6938  and pasted the URL below while removing the leading http://, into a
6939  <literal>{ +block{} }</literal> section. Note that <literal>{ +handle-as-image
6940  }</literal> need not be specified, since all URLs ending in
6941  <literal>.gif</literal> will be tagged as images by the general rules as set
6942  in default.action anyway:
6943 </para>
6944
6945  <screen>
6946 { +<link linkend="BLOCK">block</link>{Nasty ads.} }
6947  www.example.com/nasty-ads/sponsor\.gif
6948  another.example.net/more/junk/here/</screen>
6949
6950 <para>
6951  The URLs of dynamically generated banners, especially from large banner
6952  farms, often don't use the well-known image file name extensions, which
6953  makes it impossible for <application>Privoxy</application> to guess
6954  the file type just by looking at the URL.
6955  You can use the <literal>+block-as-image</literal> alias defined above for
6956  these cases.
6957  Note that objects which match this rule but then turn out NOT to be an
6958  image are typically rendered as a <quote>broken image</quote> icon by the
6959  browser. Use cautiously.
6960 </para>
6961
6962  <screen>
6963 { +block-as-image }
6964  .doubleclick.net
6965  .fastclick.net
6966  /Realmedia/ads/
6967  ar.atwola.com/</screen>
6968
6969 <para>
6970  Now you noticed that the default configuration breaks Forbes Magazine,
6971  but you were too lazy to find out which action is the culprit, and you
6972  were again too lazy to give <link linkend="contact">feedback</link>, so
6973  you just used the <literal>fragile</literal> alias on the site, and
6974  -- <emphasis>whoa!</emphasis> -- it worked. The <literal>fragile</literal>
6975  aliases disables those actions that are most likely to break a site. Also,
6976  good for testing purposes to see if it is <application>Privoxy</application>
6977  that is causing the problem or not. We later find other regular sites
6978  that misbehave, and add those to our personalized list of troublemakers:
6979 </para>
6980
6981 <screen>
6982 { fragile }
6983  .forbes.com
6984  webmail.example.com
6985  .mybank.com</screen>
6986
6987 <para>
6988  You like the <quote>fun</quote> text replacements in <filename>default.filter</filename>,
6989  but it is disabled in the distributed actions file.
6990  So you'd like to turn it on in your private,
6991  update-safe config, once and for all:
6992 </para>
6993
6994 <screen>
6995 { +<link linkend="filter-fun">filter{fun}</link> }
6996  / # For ALL sites!</screen>
6997
6998 <para>
6999  Note that the above is not really a good idea: There are exceptions
7000  to the filters in <filename>default.action</filename> for things that
7001  really shouldn't be filtered, like code on CVS->Web interfaces. Since
7002  <filename>user.action</filename> has the last word, these exceptions
7003  won't be valid for the <quote>fun</quote> filtering specified here.
7004 </para>
7005
7006 <para>
7007  You might also worry about how your favourite free websites are
7008  funded, and find that they rely on displaying banner advertisements
7009  to survive. So you might want to specifically allow banners for those
7010  sites that you feel provide value to you:
7011 </para>
7012
7013 <screen>
7014 { allow-ads }
7015  .sourceforge.net
7016  .slashdot.org
7017  .osdn.net</screen>
7018
7019 <para>
7020  Note that <literal>allow-ads</literal> has been aliased to
7021  <literal>-<link linkend="block">block</link></literal>,
7022  <literal>-<link linkend="filter-banners-by-size">filter{banners-by-size}</link></literal>, and
7023  <literal>-<link linkend="filter-banners-by-link">filter{banners-by-link}</link></literal> above.
7024 </para>
7025
7026 <para>
7027  Invoke another alias here to force an over-ride of the MIME type <literal>
7028  application/x-sh</literal> which typically would open a download type
7029  dialog. In my case, I want to look at the shell script, and then I can save
7030  it should I choose to.
7031 </para>
7032
7033 <screen>
7034 { handle-as-text }
7035  /.*\.sh$</screen>
7036
7037 <para>
7038  <filename>user.action</filename> is generally the best place to define
7039  exceptions and additions to the default policies of
7040  <filename>default.action</filename>. Some actions are safe to have their
7041  default policies set here though. So let's set a default policy to have a
7042  <quote>blank</quote> image as opposed to the checkerboard pattern for
7043  <emphasis>ALL</emphasis> sites. <quote>/</quote> of course matches all URL
7044  paths and patterns:
7045 </para>
7046
7047 <screen>
7048 { +<link linkend="set-image-blocker">set-image-blocker{blank}</link> }
7049 / # ALL sites</screen>
7050
7051 </sect3>
7052 </sect2>
7053
7054 <!--  ~  End section  ~  -->
7055
7056 </sect1>
7057
7058 <!--  ~  End section  ~  -->
7059
7060 <!--   ~~~~~~~~       New section Header    ~~~~~~~~~     -->
7061
7062 <sect1 id="filter-file">
7063 <title>Filter Files</title>
7064
7065 <para>
7066  On-the-fly text substitutions need
7067  to be defined in a <quote>filter file</quote>. Once defined, they
7068  can then be invoked as an <quote>action</quote>.
7069 </para>
7070
7071 <para>
7072  &my-app; supports four different pcrs-based filter actions:
7073  <literal><link linkend="filter">filter</link></literal> to
7074  rewrite the content that is send to the client,
7075  <literal><link linkend="client-header-filter">client-header-filter</link></literal>
7076  to rewrite headers that are send by the client,
7077  <literal><link linkend="server-header-filter">server-header-filter</link></literal>
7078  to rewrite headers that are send by the server, and
7079  <literal><link linkend="client-body-filter">client-body-filter</link></literal>
7080  to rewrite client request body.
7081 </para>
7082
7083 <para>
7084  &my-app; also supports two tagger actions:
7085  <literal><link linkend="client-header-tagger">client-header-tagger</link></literal>
7086  and
7087  <literal><link linkend="server-header-tagger">server-header-tagger</link></literal>.
7088  Taggers and filters use the same syntax in the filter files, the difference
7089  is that taggers don't modify the text they are filtering, but use a rewritten
7090  version of the filtered text as tag. The tags can then be used to change the
7091  applying actions through sections with <link linkend="tag-pattern">tag-patterns</link>.
7092 </para>
7093
7094 <para>
7095  Finally &my-app; supports the
7096  <literal><link linkend="external-filter">external-filter</link></literal> action
7097  to enable <literal><link linkend="external-filter-syntax">external filters</link></literal>
7098  written in proper programming languages.
7099 </para>
7100
7101
7102 <para>
7103  Multiple filter files can be defined through the <literal> <link
7104  linkend="filterfile">filterfile</link></literal> config directive. The filters
7105  as supplied by the developers are located in
7106  <filename>default.filter</filename>. It is recommended that any locally
7107  defined or modified filters go in a separately defined file such as
7108  <filename>user.filter</filename>.
7109  </para>
7110
7111 <para>
7112  Common tasks for content filters are to eliminate common annoyances in
7113  HTML and JavaScript, such as pop-up windows,
7114  exit consoles, crippled windows without navigation tools, the
7115  infamous &lt;BLINK&gt; tag etc, to suppress images with certain
7116  width and height attributes (standard banner sizes or web-bugs),
7117  or just to have fun.
7118 </para>
7119
7120 <para>
7121  Enabled content filters are applied to any content whose
7122  <quote>Content Type</quote> header is recognised as a sign
7123  of text-based content, with the exception of <literal>text/plain</literal>.
7124  Use the <link linkend="FORCE-TEXT-MODE">force-text-mode</link> action
7125  to also filter other content.
7126 </para>
7127
7128 <para>
7129  Substitutions are made at the source level, so if you want to <quote>roll
7130  your own</quote> filters, you should first be familiar with HTML syntax,
7131  and, of course, regular expressions.
7132 </para>
7133
7134 <para>
7135  Just like the <link linkend="actions-file">actions files</link>, the
7136  filter file is organized in sections, which are called <emphasis>filters</emphasis>
7137  here. Each filter consists of a heading line, that starts with one of the
7138  <emphasis>keywords</emphasis> <literal>FILTER:</literal>,
7139  <literal>CLIENT-HEADER-FILTER:</literal>, <literal>SERVER-HEADER-FILTER:</literal> or
7140  <literal>CLIENT-BODY-FILTER:</literal>
7141  followed by the filter's <emphasis>name</emphasis>, and a short (one line)
7142  <emphasis>description</emphasis> of what it does. Below that line
7143  come the <emphasis>jobs</emphasis>, i.e. lines that define the actual
7144  text substitutions. By convention, the name of a filter
7145  should describe what the filter <emphasis>eliminates</emphasis>. The
7146  comment is used in the <ulink url="http://config.privoxy.org/">web-based
7147  user interface</ulink>.
7148 </para>
7149
7150 <para>
7151  Once a filter called <replaceable>name</replaceable> has been defined
7152  in the filter file, it can be invoked by using an action of the form
7153  +<literal><link linkend="filter">filter</link>{<replaceable>name</replaceable>}</literal>
7154  in any <link linkend="actions-file">actions file</link>.
7155 </para>
7156
7157 <para>
7158  Filter definitions start with a header line that contains the filter
7159  type, the filter name and the filter description.
7160  A content filter header line for a filter called <quote>foo</quote> could look
7161  like this:
7162 </para>
7163
7164  <screen>FILTER: foo Replace all "foo" with "bar"</screen>
7165
7166 <para>
7167  Below that line, and up to the next header line, come the jobs that
7168  define what text replacements the filter executes. They are specified
7169  in a syntax that imitates <ulink url="http://www.perl.org/">Perl</ulink>'s
7170  <literal>s///</literal> operator. If you are familiar with Perl, you
7171  will find this to be quite intuitive, and may want to look at the
7172  PCRS documentation for the subtle differences to Perl behaviour.
7173 </para>
7174
7175 <para>
7176  Most notably, the non-standard option letter <literal>U</literal> is supported,
7177  which turns the default to ungreedy matching (add <literal>?</literal> to
7178  quantifiers to turn them greedy again).
7179 </para>
7180
7181 <para>
7182  The non-standard option letter <literal>D</literal> (dynamic) allows
7183  to use the variables $host, $origin (the IP address the request came from),
7184  $path, $url and $listen-address (the address on which Privoxy accepted the
7185  client request. Example: 127.0.0.1:8118).
7186  They will be replaced with the value they refer to before the filter
7187  is executed.
7188 </para>
7189
7190 <para>
7191  Note that '$' is a bad choice for a delimiter in a dynamic filter as you
7192  might end up with unintended variables if you use a variable name
7193  directly after the delimiter. Variables will be resolved without
7194  escaping anything, therefore you also have to be careful not to chose
7195  delimiters that appear in the replacement text. For example '<' should
7196  be save, while '?' will sooner or later cause conflicts with $url.
7197 </para>
7198
7199 <para>
7200  The non-standard option letter <literal>T</literal> (trivial) prevents
7201  parsing for backreferences in the substitute. Use it if you want to include
7202  text like '$&' in your substitute without quoting.
7203 </para>
7204
7205 <para>
7206  If you are new to
7207   <ulink url="https://en.wikipedia.org/wiki/Regular_expressions"><quote>Regular
7208   Expressions</quote></ulink>, you might want to take a look at
7209  the <link linkend="regex">Appendix on regular expressions</link>, and
7210  see the <ulink url="http://perldoc.perl.org/perlre.html">Perl
7211  manual</ulink> for
7212  <ulink url="http://perldoc.perl.org/perlop.html">the
7213  <literal>s///</literal> operator's syntax</ulink> and <ulink
7214  url="http://perldoc.perl.org/perlre.html">Perl-style regular
7215  expressions</ulink> in general.
7216  The below examples might also help to get you started.
7217 </para>
7218
7219
7220 <!--   ~~~~~~~~       New section Header    ~~~~~~~~~     -->
7221
7222 <sect2 id="filter-file-tut"><title>Filter File Tutorial</title>
7223 <para>
7224  Now, let's complete our <quote>foo</quote> content filter. We have already defined
7225  the heading, but the jobs are still missing. Since all it does is to replace
7226  <quote>foo</quote> with <quote>bar</quote>, there is only one (trivial) job
7227  needed:
7228 </para>
7229
7230  <screen>s/foo/bar/</screen>
7231
7232 <para>
7233  But wait! Didn't the comment say that <emphasis>all</emphasis> occurrences
7234  of <quote>foo</quote> should be replaced? Our current job will only take
7235  care of the first <quote>foo</quote> on each page. For global substitution,
7236  we'll need to add the <literal>g</literal> option:
7237 </para>
7238
7239  <screen>s/foo/bar/g</screen>
7240
7241 <para>
7242  Our complete filter now looks like this:
7243 </para>
7244
7245  <screen>FILTER: foo Replace all "foo" with "bar"
7246 s/foo/bar/g</screen>
7247
7248 <para>
7249  Let's look at some real filters for more interesting examples. Here you see
7250  a filter that protects against some common annoyances that arise from JavaScript
7251  abuse. Let's look at its jobs one after the other:
7252 </para>
7253
7254
7255  <screen>
7256 FILTER: js-annoyances Get rid of particularly annoying JavaScript abuse
7257
7258 # Get rid of JavaScript referrer tracking. Test page: http://www.randomoddness.com/untitled.htm
7259 #
7260 s|(&lt;script.*)document\.referrer(.*&lt;/script&gt;)|$1"Not Your Business!"$2|Usg</screen>
7261
7262 <para>
7263  Following the header line and a comment, you see the job. Note that it uses
7264  <literal>|</literal> as the delimiter instead of <literal>/</literal>, because
7265  the pattern contains a forward slash, which would otherwise have to be escaped
7266  by a backslash (<literal>\</literal>).
7267 </para>
7268
7269 <para>
7270  Now, let's examine the pattern: it starts with the text <literal>&lt;script.*</literal>
7271  enclosed in parentheses. Since the dot matches any character, and <literal>*</literal>
7272  means: <quote>Match an arbitrary number of the element left of myself</quote>, this
7273  matches <quote>&lt;script</quote>, followed by <emphasis>any</emphasis> text, i.e.
7274  it matches the whole page, from the start of the first &lt;script&gt; tag.
7275 </para>
7276
7277 <para>
7278  That's more than we want, but the pattern continues: <literal>document\.referrer</literal>
7279  matches only the exact string <quote>document.referrer</quote>. The dot needed to
7280  be <emphasis>escaped</emphasis>, i.e. preceded by a backslash, to take away its
7281  special meaning as a joker, and make it just a regular dot. So far, the meaning is:
7282  Match from the start of the first &lt;script&gt; tag in a the page, up to, and including,
7283  the text <quote>document.referrer</quote>, if <emphasis>both</emphasis> are present
7284  in the page (and appear in that order).
7285 </para>
7286
7287 <para>
7288  But there's still more pattern to go. The next element, again enclosed in parentheses,
7289  is <literal>.*&lt;/script&gt;</literal>. You already know what <literal>.*</literal>
7290  means, so the whole pattern translates to: Match from the start of the first  &lt;script&gt;
7291  tag in a page to the end of the last &lt;script&gt; tag, provided that the text
7292  <quote>document.referrer</quote> appears somewhere in between.
7293 </para>
7294
7295 <para>
7296  This is still not the whole story, since we have ignored the options and the parentheses:
7297  The portions of the page matched by sub-patterns that are enclosed in parentheses, will be
7298  remembered and be available through the variables <literal>$1, $2, ...</literal> in
7299  the substitute. The <literal>U</literal> option switches to ungreedy matching, which means
7300  that the first <literal>.*</literal> in the pattern will only <quote>eat up</quote> all
7301  text in between <quote>&lt;script</quote> and the <emphasis>first</emphasis> occurrence
7302  of <quote>document.referrer</quote>, and that the second <literal>.*</literal> will
7303  only span the text up to the <emphasis>first</emphasis> <quote>&lt;/script&gt;</quote>
7304  tag. Furthermore, the <literal>s</literal> option says that the match may span
7305  multiple lines in the page, and the <literal>g</literal> option again means that the
7306  substitution is global.
7307 </para>
7308
7309 <para>
7310  So, to summarize, the pattern means: Match all scripts that contain the text
7311  <quote>document.referrer</quote>. Remember the parts of the script from
7312  (and including) the start tag up to (and excluding) the string
7313  <quote>document.referrer</quote> as <literal>$1</literal>, and the part following
7314  that string, up to and including the closing tag, as <literal>$2</literal>.
7315 </para>
7316
7317 <para>
7318  Now the pattern is deciphered, but wasn't this about substituting things? So
7319  lets look at the substitute: <literal>$1"Not Your Business!"$2</literal> is
7320  easy to read: The text remembered as <literal>$1</literal>, followed by
7321  <literal>"Not Your Business!"</literal> (<emphasis>including</emphasis>
7322  the quotation marks!), followed by the text remembered as <literal>$2</literal>.
7323  This produces an exact copy of the original string, with the middle part
7324  (the <quote>document.referrer</quote>) replaced by <literal>"Not Your
7325  Business!"</literal>.
7326 </para>
7327
7328 <para>
7329  The whole job now reads: Replace <quote>document.referrer</quote> by
7330  <literal>"Not Your Business!"</literal> wherever it appears inside a
7331  &lt;script&gt tag. Note that this job won't break JavaScript syntax,
7332  since both the original and the replacement are syntactically valid
7333  string objects. The script just won't have access to the referrer
7334  information anymore.
7335 </para>
7336
7337 <para>
7338  We'll show you two other jobs from the JavaScript taming department, but
7339  this time only point out the constructs of special interest:
7340 </para>
7341
7342  <screen>
7343 # The status bar is for displaying link targets, not pointless blahblah
7344 #
7345 s/window\.status\s*=\s*(['"]).*?\1/dUmMy=1/ig</screen>
7346
7347 <para>
7348  <literal>\s</literal> stands for whitespace characters (space, tab, newline,
7349  carriage return, form feed), so that <literal>\s*</literal> means: <quote>zero
7350  or more whitespace</quote>. The <literal>?</literal> in <literal>.*?</literal>
7351  makes this matching of arbitrary text ungreedy. (Note that the <literal>U</literal>
7352  option is not set). The <literal>['"]</literal> construct means: <quote>a single
7353  <emphasis>or</emphasis> a double quote</quote>. Finally, <literal>\1</literal> is
7354  a back-reference to the first parenthesis just like <literal>$1</literal> above,
7355  with the difference that in the <emphasis>pattern</emphasis>, a backslash indicates
7356  a back-reference, whereas in the <emphasis>substitute</emphasis>, it's the dollar.
7357 </para>
7358
7359 <para>
7360  So what does this job do? It replaces assignments of single- or double-quoted
7361  strings to the <quote>window.status</quote> object with a dummy assignment
7362  (using a variable name that is hopefully odd enough not to conflict with
7363  real variables in scripts). Thus, it catches many cases where e.g. pointless
7364  descriptions are displayed in the status bar instead of the link target when
7365  you move your mouse over links.
7366 </para>
7367
7368  <screen>
7369 # Kill OnUnload popups. Yummy. Test: http://www.zdnet.com/zdsubs/yahoo/tree/yfs.html
7370 #
7371 s/(&lt;body [^&gt;]*)onunload(.*&gt;)/$1never$2/iU</screen>
7372
7373 <para>
7374  Including the
7375  <ulink url="http://www.w3.org/TR/2000/REC-DOM-Level-2-Events-20001113/events.html#Events-eventgroupings-htmlevents">OnUnload
7376  event binding</ulink> in the HTML DOM was a <emphasis>CRIME</emphasis>.
7377  When I close a browser window, I want it to close and die. Basta.
7378  This job replaces the <quote>onunload</quote> attribute in
7379  <quote>&lt;body&gt</quote> tags with the dummy word <literal>never</literal>.
7380  Note that the <literal>i</literal> option makes the pattern matching
7381  case-insensitive. Also note that ungreedy matching alone doesn't always guarantee
7382  a minimal match: In the first parenthesis, we had to use <literal>[^&gt;]*</literal>
7383  instead of <literal>.*</literal> to prevent the match from exceeding the
7384  &lt;body&gt tag if it doesn't contain <quote>OnUnload</quote>, but the page's
7385  content does.
7386 </para>
7387
7388 <para>
7389  The last example is from the fun department:
7390 </para>
7391
7392  <screen>
7393 FILTER: fun Fun text replacements
7394
7395 # Spice the daily news:
7396 #
7397 s/microsoft(?!\.com)/MicroSuck/ig</screen>
7398
7399 <para>
7400  Note the <literal>(?!\.com)</literal> part (a so-called negative lookahead)
7401  in the job's pattern, which means: Don't match, if the string
7402  <quote>.com</quote> appears directly following <quote>microsoft</quote>
7403  in the page. This prevents links to microsoft.com from being trashed, while
7404  still replacing the word everywhere else.
7405 </para>
7406
7407  <screen>
7408 # Buzzword Bingo (example for extended regex syntax)
7409 #
7410 s* industry[ -]leading \
7411 |  cutting[ -]edge \
7412 |  customer[ -]focused \
7413 |  market[ -]driven \
7414 |  award[ -]winning # Comments are OK, too! \
7415 |  high[ -]performance \
7416 |  solutions[ -]based \
7417 |  unmatched \
7418 |  unparalleled \
7419 |  unrivalled \
7420 *&lt;font color="red"&gt;&lt;b&gt;BINGO!&lt;/b&gt;&lt;/font&gt; \
7421 *igx</screen>
7422
7423 <para>
7424  The <literal>x</literal> option in this job turns on extended syntax, and allows for
7425  e.g. the liberal use of (non-interpreted!) whitespace for nicer formatting.
7426 </para>
7427
7428 <para>
7429  You get the idea?
7430 </para>
7431 </sect2>
7432
7433 <!--   ~~~~~~~~       New section Header    ~~~~~~~~~     -->
7434
7435 <sect2 id="predefined-filters"><title>The Pre-defined Filters</title>
7436
7437 <!--
7438
7439  Note each filter is also listed in the +filter action section above. Please
7440  keep these listings in sync.
7441
7442 -->
7443
7444 <para>
7445 The distribution <filename>default.filter</filename> file contains a selection of
7446 pre-defined filters for your convenience:
7447 </para>
7448
7449 <variablelist>
7450  <varlistentry>
7451   <term><emphasis>js-annoyances</emphasis></term>
7452   <listitem>
7453    <para>
7454     The purpose of this filter is to get rid of particularly annoying JavaScript abuse.
7455     To that end, it
7456    </para>
7457    <itemizedlist>
7458     <listitem>
7459      <para>
7460       replaces JavaScript references to the browser's referrer information
7461       with the string "Not Your Business!". This compliments the <literal><link
7462       linkend="hide-referrer">hide-referrer</link></literal> action on the content level.
7463      </para>
7464     </listitem>
7465     <listitem>
7466      <para>
7467       removes the bindings to the DOM's
7468       <ulink url="http://www.w3.org/TR/2000/REC-DOM-Level-2-Events-20001113/events.html#Events-eventgroupings-htmlevents">unload
7469       event</ulink> which we feel has no right to exist and is responsible for most <quote>exit consoles</quote>, i.e.
7470       nasty windows that pop up when you close another one.
7471      </para>
7472     </listitem>
7473     <listitem>
7474      <para>
7475       removes code that causes new windows to be opened with undesired properties, such as being
7476       full-screen, non-resizeable, without location, status or menu bar etc.
7477      </para>
7478     </listitem>
7479    </itemizedlist>
7480    <para>
7481     Use with caution. This is an aggressive filter, and can break sites that
7482     rely heavily on JavaScript.
7483    </para>
7484   </listitem>
7485  </varlistentry>
7486
7487  <varlistentry>
7488   <term><emphasis>js-events</emphasis></term>
7489   <listitem>
7490    <para>
7491     This is a very radical measure. It removes virtually all JavaScript event bindings, which
7492     means that scripts can not react to user actions such as mouse movements or clicks, window
7493     resizing etc, anymore. Use with caution!
7494    </para>
7495    <para>
7496     We <emphasis>strongly discourage</emphasis> using this filter as a default since it breaks
7497     many legitimate scripts. It is meant for use only on extra-nasty sites (should you really
7498     need to go there).
7499    </para>
7500   </listitem>
7501  </varlistentry>
7502
7503 <varlistentry>
7504   <term><emphasis>html-annoyances</emphasis></term>
7505   <listitem>
7506    <para>
7507     This filter will undo many common instances of HTML based abuse.
7508    </para>
7509    <para>
7510     The <literal>BLINK</literal> and <literal>MARQUEE</literal> tags
7511     are neutralized (yeah baby!), and browser windows will be created as
7512     resizeable (as of course they should be!), and will have location,
7513     scroll and menu bars -- even if specified otherwise.
7514    </para>
7515   </listitem>
7516  </varlistentry>
7517
7518  <varlistentry>
7519   <term><emphasis>content-cookies</emphasis></term>
7520   <listitem>
7521    <para>
7522     Most cookies are set in the HTTP dialog, where they can be intercepted
7523     by the
7524     <literal><link linkend="crunch-incoming-cookies">crunch-incoming-cookies</link></literal>
7525     and <literal><link linkend="crunch-outgoing-cookies">crunch-outgoing-cookies</link></literal>
7526     actions. But web sites increasingly make use of HTML meta tags and JavaScript
7527     to sneak cookies to the browser on the content level.
7528    </para>
7529    <para>
7530     This filter disables most HTML and JavaScript code that reads or sets
7531     cookies. It cannot detect all clever uses of these types of code, so it
7532     should not be relied on as an absolute fix. Use it wherever you would also
7533     use the cookie crunch actions.
7534    </para>
7535   </listitem>
7536  </varlistentry>
7537
7538  <varlistentry>
7539   <term><emphasis>refresh-tags</emphasis></term>
7540   <listitem>
7541    <para>
7542     Disable any refresh tags if the interval is greater than nine seconds (so
7543     that redirections done via refresh tags are not destroyed). This is useful
7544     for dial-on-demand setups, or for those who find this HTML feature
7545     annoying.
7546    </para>
7547   </listitem>
7548  </varlistentry>
7549
7550  <varlistentry>
7551   <term><emphasis>unsolicited-popups</emphasis></term>
7552   <listitem>
7553    <para>
7554     This filter attempts to prevent only <quote>unsolicited</quote> pop-up
7555     windows from opening, yet still allow pop-up windows that the user
7556     has explicitly chosen to open. It was added in version 3.0.1,
7557     as an improvement over earlier such filters.
7558    </para>
7559    <para>
7560     Technical note: The filter works by redefining the window.open JavaScript
7561     function to a dummy function, <literal>PrivoxyWindowOpen()</literal>,
7562     during the loading and rendering phase of each HTML page access, and
7563     restoring the function afterward.
7564    </para>
7565    <para>
7566     This is recommended only for browsers that cannot perform this function
7567     reliably themselves. And be aware that some sites require such windows
7568     in order to function normally. Use with caution.
7569    </para>
7570   </listitem>
7571  </varlistentry>
7572
7573  <varlistentry>
7574   <term><emphasis>all-popups</emphasis></term>
7575   <listitem>
7576    <para>
7577     Attempt to prevent <emphasis>all</emphasis> pop-up windows from opening.
7578     Note this should be used with even more discretion than the above, since
7579     it is more likely to break some sites that require pop-ups for normal
7580     usage. Use with caution.
7581    </para>
7582   </listitem>
7583  </varlistentry>
7584
7585  <varlistentry>
7586   <term><emphasis>img-reorder</emphasis></term>
7587   <listitem>
7588    <para>
7589     This is a helper filter that has no value if used alone. It makes the
7590     <literal>banners-by-size</literal> and <literal>banners-by-link</literal>
7591     (see below) filters more effective and should be enabled together with them.
7592    </para>
7593   </listitem>
7594  </varlistentry>
7595
7596  <varlistentry>
7597   <term><emphasis>banners-by-size</emphasis></term>
7598   <listitem>
7599    <para>
7600     This filter removes image tags purely based on what size they are. Fortunately
7601     for us, many ads and banner images tend to conform to certain standardized
7602     sizes, which makes this filter quite effective for ad stripping purposes.
7603    </para>
7604    <para>
7605     Occasionally this filter will cause false positives on images that are not ads,
7606     but just happen to be of one of the standard banner sizes.
7607    </para>
7608    <para>
7609     Recommended only for those who require extreme ad blocking. The default
7610     block rules should catch 95+% of all ads <emphasis>without</emphasis> this filter enabled.
7611    </para>
7612   </listitem>
7613  </varlistentry>
7614
7615  <varlistentry>
7616   <term><emphasis>banners-by-link</emphasis></term>
7617   <listitem>
7618    <para>
7619     This is an experimental filter that attempts to kill any banners if
7620     their URLs seem to point to known or suspected click trackers. It is currently
7621     not of much value and is not recommended for use by default.
7622    </para>
7623   </listitem>
7624  </varlistentry>
7625
7626  <varlistentry>
7627   <term><emphasis>webbugs</emphasis></term>
7628   <listitem>
7629    <para>
7630     Webbugs are small, invisible images (technically 1X1 GIF images), that
7631     are used to track users across websites, and collect information on them.
7632     As an HTML page is loaded by the browser, an embedded image tag causes the
7633     browser to contact a third-party site, disclosing the tracking information
7634     through the requested URL and/or cookies for that third-party domain, without
7635     the user ever becoming aware of the interaction with the third-party site.
7636     HTML-ized spam also uses a similar technique to verify email addresses.
7637    </para>
7638    <para>
7639     This filter removes the HTML code that loads such <quote>webbugs</quote>.
7640    </para>
7641   </listitem>
7642  </varlistentry>
7643
7644  <varlistentry>
7645   <term><emphasis>tiny-textforms</emphasis></term>
7646   <listitem>
7647    <para>
7648     A rather special-purpose filter that can be used to enlarge textareas (those
7649     multi-line text boxes in web forms) and turn off hard word wrap in them.
7650     It was written for the sourceforge.net tracker system where such boxes are
7651     a nuisance, but it can be handy on other sites, too.
7652    </para>
7653    <para>
7654     It is not recommended to use this filter as a default.
7655    </para>
7656   </listitem>
7657  </varlistentry>
7658
7659  <varlistentry>
7660   <term><emphasis>jumping-windows</emphasis></term>
7661   <listitem>
7662    <para>
7663     Many consider windows that move, or resize themselves to be abusive. This filter
7664     neutralizes the related JavaScript code. Note that some sites might not display
7665     or behave as intended when using this filter. Use with caution.
7666    </para>
7667   </listitem>
7668  </varlistentry>
7669
7670  <varlistentry>
7671   <term><emphasis>frameset-borders</emphasis></term>
7672   <listitem>
7673    <para>
7674     Some web designers seem to assume that everyone in the world will view their
7675     web sites using the same browser brand and version, screen resolution etc,
7676     because only that assumption could explain why they'd use static frame sizes,
7677     yet prevent their frames from being resized by the user, should they be too
7678     small to show their whole content.
7679    </para>
7680    <para>
7681     This filter removes the related HTML code. It should only be applied to sites
7682     which need it.
7683    </para>
7684   </listitem>
7685  </varlistentry>
7686
7687  <varlistentry>
7688   <term><emphasis>demoronizer</emphasis></term>
7689   <listitem>
7690    <para>
7691     Many Microsoft products that generate HTML use non-standard extensions (read:
7692     violations) of the ISO 8859-1 aka Latin-1 character set. This can cause those
7693     HTML documents to display with errors on standard-compliant platforms.
7694    </para>
7695    <para>
7696     This filter translates the MS-only characters into Latin-1 equivalents.
7697     It is not necessary when using MS products, and will cause corruption of
7698     all documents that use 8-bit character sets other than Latin-1. It's mostly
7699     worthwhile for Europeans on non-MS platforms, if weird garbage characters
7700     sometimes appear on some pages, or user agents that don't correct for this on
7701     the fly.
7702 <!--
7703     My version of Mozilla (ancient) shows little square boxes for quote
7704     characters, and apostrophes on moronized pages. So many pages have this, I
7705     can read them fine now. HB 08/27/06
7706 -->
7707    </para>
7708   </listitem>
7709  </varlistentry>
7710
7711  <varlistentry>
7712   <term><emphasis>shockwave-flash</emphasis></term>
7713   <listitem>
7714    <para>
7715     A filter for shockwave haters. As the name suggests, this filter strips code
7716     out of web pages that is used to embed shockwave flash objects.
7717    </para>
7718    <para>
7719    </para>
7720   </listitem>
7721  </varlistentry>
7722
7723  <varlistentry>
7724   <term><emphasis>quicktime-kioskmode</emphasis></term>
7725   <listitem>
7726    <para>
7727     Change HTML code that embeds Quicktime objects so that kioskmode, which
7728     prevents saving, is disabled.
7729    </para>
7730   </listitem>
7731  </varlistentry>
7732
7733  <varlistentry>
7734   <term><emphasis>fun</emphasis></term>
7735   <listitem>
7736    <para>
7737     Text replacements for subversive browsing fun. Make fun of your favorite
7738     Monopolist or play buzzword bingo.
7739    </para>
7740   </listitem>
7741  </varlistentry>
7742
7743  <varlistentry>
7744   <term><emphasis>crude-parental</emphasis></term>
7745   <listitem>
7746    <para>
7747     A demonstration-only filter that shows how <application>Privoxy</application>
7748     can be used to delete web content on a keyword basis.
7749    </para>
7750   </listitem>
7751  </varlistentry>
7752
7753  <varlistentry>
7754   <term><emphasis>ie-exploits</emphasis></term>
7755   <listitem>
7756    <para>
7757     An experimental collection of text replacements to disable malicious HTML and JavaScript
7758     code that exploits known security holes in Internet Explorer.
7759    </para>
7760    <para>
7761     Presently, it only protects against Nimda and a cross-site scripting bug, and
7762     would need active maintenance to provide more substantial protection.
7763    </para>
7764   </listitem>
7765  </varlistentry>
7766
7767  <varlistentry>
7768   <term><emphasis>site-specifics</emphasis></term>
7769   <listitem>
7770    <para>
7771     Some web sites have very specific problems, the cure for which doesn't apply
7772     anywhere else, or could even cause damage on other sites.
7773    </para>
7774    <para>
7775     This is a collection of such site-specific cures which should only be applied
7776     to the sites they were intended for, which is what the supplied
7777     <filename>default.action</filename> file does. Users shouldn't need to change
7778     anything regarding this filter.
7779    </para>
7780   </listitem>
7781  </varlistentry>
7782
7783  <varlistentry>
7784   <term><emphasis>google</emphasis></term>
7785   <listitem>
7786    <para>
7787     A CSS based block for Google text ads. Also removes a width limitation
7788     and the toolbar advertisement.
7789    </para>
7790   </listitem>
7791  </varlistentry>
7792
7793   <varlistentry>
7794   <term><emphasis>yahoo</emphasis></term>
7795   <listitem>
7796    <para>
7797     Another CSS based block, this time for Yahoo text ads. And removes
7798     a width limitation as well.
7799    </para>
7800   </listitem>
7801  </varlistentry>
7802
7803   <varlistentry>
7804   <term><emphasis>msn</emphasis></term>
7805   <listitem>
7806    <para>
7807     Another CSS based block, this time for MSN text ads. And removes
7808     tracking URLs, as well as a width limitation.
7809    </para>
7810   </listitem>
7811  </varlistentry>
7812
7813  <varlistentry>
7814   <term><emphasis>blogspot</emphasis></term>
7815   <listitem>
7816    <para>
7817     Cleans up some Blogspot blogs. Read the fine print before using this one!
7818    </para>
7819    <para>
7820     This filter also intentionally removes some navigation stuff and sets the
7821     page width to 100%. As a result, some rounded <quote>corners</quote> would
7822     appear to early or not at all and as fixing this would require a browser
7823     that understands background-size (CSS3), they are removed instead.
7824    </para>
7825   </listitem>
7826  </varlistentry>
7827
7828   <varlistentry>
7829   <term><emphasis>xml-to-html</emphasis></term>
7830   <listitem>
7831    <para>
7832     Server-header filter to change the Content-Type from xml to html.
7833    </para>
7834   </listitem>
7835  </varlistentry>
7836
7837   <varlistentry>
7838   <term><emphasis>html-to-xml</emphasis></term>
7839   <listitem>
7840    <para>
7841     Server-header filter to change the Content-Type from html to xml.
7842    </para>
7843   </listitem>
7844  </varlistentry>
7845
7846   <varlistentry>
7847   <term><emphasis>no-ping</emphasis></term>
7848   <listitem>
7849    <para>
7850     Removes the non-standard <literal>ping</literal> attribute from
7851     anchor and area HTML tags.
7852    </para>
7853   </listitem>
7854  </varlistentry>
7855
7856   <varlistentry>
7857   <term><emphasis>hide-tor-exit-notation</emphasis></term>
7858   <listitem>
7859    <para>
7860     Client-header filter to remove the <command>Tor</command> exit node notation
7861     found in Host and Referer headers.
7862    </para>
7863    <para>
7864     If &my-app; and <command>Tor</command> are chained and &my-app;
7865     is configured to use socks4a, one can use <quote>http://www.example.org.foobar.exit/</quote>
7866     to access the host <quote>www.example.org</quote> through the
7867     <command>Tor</command> exit node <quote>foobar</quote>.
7868    </para>
7869    <para>
7870     As the HTTP client isn't aware of this notation, it treats the
7871     whole string <quote>www.example.org.foobar.exit</quote> as host and uses it
7872     for the <quote>Host</quote> and <quote>Referer</quote> headers. From the
7873     server's point of view the resulting headers are invalid and can cause problems.
7874    </para>
7875    <para>
7876     An invalid <quote>Referer</quote> header can trigger <quote>hot-linking</quote>
7877     protections, an invalid <quote>Host</quote> header will make it impossible for
7878     the server to find the right vhost (several domains hosted on the same IP address).
7879    </para>
7880    <para>
7881     This client-header filter removes the <quote>foo.exit</quote> part in those headers
7882     to prevent the mentioned problems. Note that it only modifies
7883     the HTTP headers, it doesn't make it impossible for the server
7884     to detect your <command>Tor</command> exit node based on the IP address
7885     the request is coming from.
7886    </para>
7887   </listitem>
7888  </varlistentry>
7889
7890 <!--
7891  <varlistentry>
7892   <term><emphasis> </emphasis></term>
7893   <listitem>
7894    <para>
7895    </para>
7896    <para>
7897    </para>
7898   </listitem>
7899  </varlistentry>
7900 -->
7901 </variablelist>
7902
7903 </sect2>
7904
7905 <!--   ~~~~~~~~       New section Header    ~~~~~~~~~     -->
7906 <sect2 id="external-filter-syntax"><title>External filter syntax</title>
7907 <para>
7908  External filters are scripts or programs that can modify the content in
7909  case common <literal><link linkend="filter">filters</link></literal>
7910  aren't powerful enough.
7911 </para>
7912 <para>
7913  External filters can be written in any language the platform &my-app; runs
7914  on supports.
7915 </para>
7916 <para>
7917  They are controlled with the
7918  <literal><link linkend="external-filter">external-filter</link></literal> action
7919  and have to be defined in the <literal><link linkend="filterfile">filterfile</link></literal>
7920  first.
7921 </para>
7922 <para>
7923  The header looks like any other filter, but instead of pcrs jobs, external
7924  filters contain a single job which can be a program or a shell script (which
7925  may call other scripts or programs).
7926 </para>
7927 <para>
7928  External filters read the content from STDIN and write the rewritten
7929  content to STDOUT.
7930  The environment variables PRIVOXY_URL, PRIVOXY_PATH, PRIVOXY_HOST,
7931  PRIVOXY_ORIGIN, PRIVOXY_LISTEN_ADDRESS can be used to get some details
7932  about the client request.
7933 </para>
7934 <para>
7935  &my-app; will temporary store the content to filter in the
7936  <literal><link linkend="temporary-directory">temporary-directory</link></literal>.
7937 </para>
7938
7939  <screen>
7940 EXTERNAL-FILTER: cat Pointless example filter that doesn't actually modify the content
7941 /bin/cat
7942
7943 # Incorrect reimplementation of the filter above in POSIX shell.
7944 #
7945 # Note that it's a single job that spans multiple lines, the line
7946 # breaks are not passed to the shell, thus the semicolons are required.
7947 #
7948 # If the script isn't trivial, it is recommended to put it into an external file.
7949 #
7950 # In general, writing external filters entirely in POSIX shell is not
7951 # considered a good idea.
7952 EXTERNAL-FILTER: cat2 Pointless example filter that despite its name may actually modify the content
7953 while read line; \
7954 do \
7955   echo "$line"; \
7956 done
7957
7958 EXTERNAL-FILTER: rotate-image Rotate an image by 180 degree. Test filter with limited value.
7959 /usr/local/bin/convert - -rotate 180 -
7960
7961 EXTERNAL-FILTER: citation-needed Adds a "[citation needed]" tag to an image. The coordinates may need adjustment.
7962 /usr/local/bin/convert - -pointsize 16 -fill white  -annotate +17+418 "[citation needed]" -
7963 </screen>
7964
7965 <warning>
7966  <para>
7967   Currently external filters are executed with &my-app;'s privileges!
7968   Only use external filters you understand and trust.
7969  </para>
7970 </warning>
7971 <para>
7972  External filters are experimental and the syntax may change in the future.
7973 </para>
7974 </sect2>
7975
7976 </sect1>
7977
7978 <!--  ~  End section  ~  -->
7979
7980
7981
7982 <!--   ~~~~~       New section      ~~~~~     -->
7983
7984 <sect1 id="templates">
7985 <title>Privoxy's Template Files</title>
7986 <para>
7987  All <application>Privoxy</application> built-in pages, i.e. error pages such as the
7988  <ulink url="http://show-the-404-error.page"><quote>404 - No Such Domain</quote>
7989  error page</ulink>, the <ulink
7990  url="http://ads.bannerserver.example.com/nasty-ads/sponsor.html"><quote>BLOCKED</quote>
7991  page</ulink>
7992  and all pages of its <ulink url="http://config.privoxy.org/">web-based
7993  user interface</ulink>, are generated from <emphasis>templates</emphasis>.
7994  (<application>Privoxy</application> must be running for the above links to work as
7995  intended.)
7996 </para>
7997
7998 <para>
7999  These templates are stored in a subdirectory of the <link linkend="confdir">configuration
8000  directory</link> called <filename>templates</filename>. On Unixish platforms,
8001  this is typically
8002  <ulink url="file:///etc/privoxy/templates/"><filename>/etc/privoxy/templates/</filename></ulink>.
8003 </para>
8004
8005 <para>
8006  The templates are basically normal HTML files, but with place-holders (called symbols
8007  or exports), which <application>Privoxy</application> fills at run time. It
8008  is possible to edit the templates with a normal text editor, should you want
8009  to customize them. (<emphasis>Not recommended for the casual
8010  user</emphasis>). Should you create your own custom templates, you should use
8011  the <filename>config</filename> setting <link linkend="templdir">templdir</link>
8012  to specify an alternate location, so your templates do not get overwritten
8013  during upgrades.
8014  </para>
8015  <para>
8016  Note that just like in configuration files, lines starting
8017  with <literal>#</literal> are ignored when the templates are filled in.
8018 </para>
8019
8020 <para>
8021  The place-holders are of the form <literal>@name@</literal>, and you will
8022  find a list of available symbols, which vary from template to template,
8023  in the comments at the start of each file. Note that these comments are not
8024  always accurate, and that it's probably best to look at the existing HTML
8025  code to find out which symbols are supported and what they are filled in with.
8026 </para>
8027
8028 <para>
8029  A special application of this substitution mechanism is to make whole
8030  blocks of HTML code disappear when a specific symbol is set. We use this
8031  for many purposes, one of them being to include the beta warning in all
8032  our user interface (CGI) pages when <application>Privoxy</application>
8033  is in an alpha or beta development stage:
8034 </para>
8035
8036  <screen>
8037 &lt;!-- @if-unstable-start --&gt;
8038
8039   ... beta warning HTML code goes here ...
8040
8041 &lt;!-- if-unstable-end@ --&gt;</screen>
8042
8043 <para>
8044  If the "unstable" symbol is set, everything in between and including
8045  <literal>@if-unstable-start</literal> and <literal>if-unstable-end@</literal>
8046  will disappear, leaving nothing but an empty comment:
8047 </para>
8048
8049  <screen>&lt;!--  --&gt;</screen>
8050
8051 <para>
8052  There's also an if-then-else construct and an <literal>#include</literal>
8053  mechanism, but you'll sure find out if you are inclined to edit the
8054  templates ;-)
8055 </para>
8056
8057 <para>
8058  All templates refer to a style located at
8059  <ulink url="http://config.privoxy.org/send-stylesheet"><literal>http://config.privoxy.org/send-stylesheet</literal></ulink>.
8060  This is, of course, locally served by <application>Privoxy</application>
8061  and the source for it can be found and edited in the
8062  <filename>cgi-style.css</filename> template.
8063 </para>
8064
8065 </sect1>
8066
8067 <!--  ~  End section  ~  -->
8068
8069
8070
8071 <!--   ~~~~~       New section      ~~~~~     -->
8072
8073 <sect1 id="contact"><title>Contacting the Developers, Bug Reporting and Feature
8074 Requests</title>
8075
8076 <!-- Include contacting.sgml boilerplate: -->
8077  &contacting;
8078 <!-- end boilerplate -->
8079
8080 </sect1>
8081
8082 <!--  ~  End section  ~  -->
8083
8084
8085 <!--   ~~~~~       New section      ~~~~~     -->
8086 <sect1 id="copyright"><title>Privoxy Copyright, License and History</title>
8087
8088 <!-- Include copyright.sgml: -->
8089  &copyright;
8090 <!-- end copyright -->
8091
8092 <para>
8093  <application>Privoxy</application> is free software; you can
8094  redistribute and/or modify its source code under the terms
8095  of the <citetitle>GNU General Public License</citetitle>
8096  as published by the Free Software Foundation, either version 2
8097  of the license, or (at your option) any later version.
8098 </para>
8099
8100 <para>
8101  The same is true for <application>Privoxy</application> binaries
8102  unless they are linked with a
8103  <ulink url="https://tls.mbed.org/">mbed TLS</ulink> version
8104  that is licensed under the Apache 2.0 license in which
8105  case you can redistribute and/or modify the <application>Privoxy</application>
8106  binaries under the terms of the <citetitle>GNU General Public License</citetitle>
8107  as published by the Free Software Foundation, either version 3
8108  of the license, or (at your option) any later version.
8109 </para>
8110
8111 <para>
8112  Both licenses are included in the next section.
8113 </para>
8114
8115 <!--   ~~~~~       New section      ~~~~~     -->
8116 <sect2 id="license"><title>License</title>
8117
8118 <sect3 id="gplv2"><title>GNU General Public License version 2</title>
8119  <screen><![ RCDATA [ &GPLv2; ]]></screen>
8120 </sect3>
8121
8122 <sect3 id="gplv3"><title>GNU General Public License version 3</title>
8123  <screen><![ RCDATA [ &GPLv3; ]]></screen>
8124 </sect3>
8125
8126 <sect3 id="third-party-licenses"><title>Third-party licenses and copyrights</title>
8127 <para>
8128  Privoxy depends on a couple of third-party libraries which have seperate licenses.
8129  Please refer to the third-party websites for up-to-date license and copyright
8130  information.
8131 </para>
8132 <para>
8133  Privoxy depends on <ulink url="https://pcre.org/">pcre</ulink>.
8134 </para>
8135 <para>
8136  When compiled with FEATURE_BROTLI (optional), Privoxy depends on
8137  <ulink url="https://www.brotli.org/">brotli</ulink>.
8138 </para>
8139 <para>
8140  When compiled with FEATURE_HTTPS_INSPECTION (optional),
8141  Privoxy depends on a TLS library. The supported libraries are
8142  <ulink url="https://www.openssl.org/">LibreSSL</ulink>,
8143  <ulink url="https://tls.mbed.org/">mbed TLS</ulink> and
8144  <ulink url="https://www.openssl.org/">OpenSSL</ulink>.
8145 </para>
8146 <para>
8147  When compiled with FEATURE_ZLIB (optional),
8148  Privoxy depends on <ulink url="https://zlib.net/">zlib</ulink>.
8149 </para>
8150 </sect3>
8151
8152 </sect2>
8153 <!--  ~  End section  ~  -->
8154
8155
8156 <!--   ~~~~~       New section      ~~~~~     -->
8157
8158 <sect2 id="history"><title>History</title>
8159 <!-- Include history.sgml: -->
8160  &history;
8161 <!-- end history -->
8162 </sect2>
8163
8164 <sect2 id="authors"><title>Authors</title>
8165 <!-- Include p-authors.sgml: -->
8166  &p-authors;
8167 <!-- end authors -->
8168 </sect2>
8169
8170 </sect1>
8171
8172 <!--  ~  End section  ~  -->
8173
8174
8175 <!--   ~~~~~       New section      ~~~~~     -->
8176 <sect1 id="seealso"><title>See Also</title>
8177 <!-- Include seealso.sgml: -->
8178  &seealso;
8179 <!-- end seealso -->
8180 </sect1>
8181
8182
8183
8184 <!--   ~~~~~       New section      ~~~~~     -->
8185 <sect1 id="appendix"><title>Appendix</title>
8186
8187
8188 <!--   ~~~~~       New section      ~~~~~     -->
8189 <sect2 id="regex">
8190 <title>Regular Expressions</title>
8191 <para>
8192  <application>Privoxy</application> uses Perl-style <quote>regular
8193  expressions</quote> in its <link linkend="actions-file">actions
8194  files</link> and <link linkend="filter-file">filter file</link>,
8195  through the <ulink url="http://www.pcre.org/">PCRE</ulink> and
8196 <!--
8197  dead 08/27/06
8198  <ulink url="http://www.oesterhelt.org/pcrs/">PCRS</ulink> libraries.
8199 -->
8200  <application>PCRS</application> libraries.
8201 </para>
8202
8203 <para>
8204  If you are reading this, you probably don't understand what <quote>regular
8205  expressions</quote> are, or what they can do. So this will be a very brief
8206  introduction only. A full explanation would require a <ulink
8207  url="http://www.oreilly.com/catalog/regex/">book</ulink> ;-)
8208 </para>
8209
8210 <para>
8211  Regular expressions provide a language to describe patterns that can be
8212  run against strings of characters (letter, numbers, etc), to see if they
8213  match the string or not. The  patterns are themselves (sometimes complex)
8214  strings of literal characters, combined with  wild-cards, and other special
8215  characters, called meta-characters. The <quote>meta-characters</quote> have
8216  special meanings and are used to build complex patterns to be matched against.
8217  Perl Compatible Regular Expressions are an especially convenient
8218  <quote>dialect</quote> of the regular expression language.
8219 </para>
8220
8221 <para>
8222  To make a simple analogy, we do something similar when we use wild-card
8223  characters when listing files with the <command>dir</command> command in DOS.
8224  <literal>*.*</literal> matches all filenames. The <quote>special</quote>
8225  character here is the asterisk which matches any and all characters. We can be
8226  more specific and use <literal>?</literal> to match just individual
8227  characters. So <quote>dir file?.text</quote> would match
8228  <quote>file1.txt</quote>, <quote>file2.txt</quote>, etc. We are pattern
8229  matching, using a similar technique to <quote>regular expressions</quote>!
8230 </para>
8231
8232 <para>
8233  Regular expressions do essentially the same thing, but are much, much more
8234  powerful. There are many more <quote>special characters</quote> and ways of
8235  building complex patterns however. Let's look at a few of the common ones,
8236  and then some examples:
8237 </para>
8238
8239 <simplelist>
8240  <member>
8241   <emphasis>.</emphasis> - Matches any single character, e.g. <quote>a</quote>,
8242   <quote>A</quote>, <quote>4</quote>, <quote>:</quote>, or <quote>@</quote>.
8243  </member>
8244 </simplelist>
8245
8246 <simplelist>
8247  <member>
8248   <emphasis>?</emphasis> - The preceding character or expression is matched ZERO or ONE
8249   times. Either/or.
8250  </member>
8251 </simplelist>
8252
8253 <simplelist>
8254  <member>
8255   <emphasis>+</emphasis> - The preceding character or expression is matched ONE or MORE
8256   times.
8257  </member>
8258 </simplelist>
8259
8260 <simplelist>
8261  <member>
8262   <emphasis>*</emphasis> - The preceding character or expression is matched ZERO or MORE
8263   times.
8264  </member>
8265 </simplelist>
8266
8267 <simplelist>
8268  <member>
8269   <emphasis>\</emphasis> - The <quote>escape</quote> character denotes that
8270   the following character should be taken literally. This is used where one of the
8271   special characters (e.g. <quote>.</quote>) needs to be taken literally and
8272   not as a special meta-character. Example: <quote>example\.com</quote>, makes
8273   sure the period is recognized only as a period (and not expanded to its
8274   meta-character meaning of any single character).
8275  </member>
8276 </simplelist>
8277
8278 <simplelist>
8279  <member>
8280   <emphasis>[ ]</emphasis> - Characters enclosed in brackets will be matched if
8281   any of the enclosed characters are encountered. For instance, <quote>[0-9]</quote>
8282   matches any numeric digit (zero through nine). As an example, we can combine
8283   this with <quote>+</quote> to match any digit one of more times: <quote>[0-9]+</quote>.
8284  </member>
8285 </simplelist>
8286
8287 <simplelist>
8288  <member>
8289   <emphasis>( )</emphasis> - parentheses are used to group a sub-expression,
8290   or multiple sub-expressions.
8291  </member>
8292 </simplelist>
8293
8294 <simplelist>
8295  <member>
8296   <emphasis>|</emphasis> - The <quote>bar</quote> character works like an
8297   <quote>or</quote> conditional statement. A match is successful if the
8298   sub-expression on either side of <quote>|</quote> matches. As an example:
8299   <quote>/(this|that) example/</quote> uses grouping and the bar character
8300   and would match either <quote>this example</quote> or <quote>that
8301   example</quote>, and nothing else.
8302  </member>
8303 </simplelist>
8304
8305 <para>
8306  These are just some of the ones you are likely to use when matching URLs with
8307  <application>Privoxy</application>, and is a long way from a definitive
8308  list. This is enough to get us started with a few simple examples which may
8309  be more illuminating:
8310 </para>
8311
8312 <para>
8313  <emphasis><literal>/.*/banners/.*</literal></emphasis> - A  simple example
8314  that uses the common combination of <quote>.</quote> and <quote>*</quote> to
8315  denote any character, zero or more times. In other words, any string at all.
8316  So we start with a literal forward slash, then our regular expression pattern
8317  (<quote>.*</quote>) another literal forward slash, the string
8318  <quote>banners</quote>, another forward slash, and lastly another
8319  <quote>.*</quote>. We are building
8320  a directory path here. This will match any file with the path that has a
8321  directory named <quote>banners</quote> in it. The <quote>.*</quote> matches
8322  any characters, and this could conceivably be more forward slashes, so it
8323  might expand into a much longer looking path. For example, this could match:
8324  <quote>/eye/hate/spammers/banners/annoy_me_please.gif</quote>, or just
8325  <quote>/banners/annoying.html</quote>, or almost an infinite number of other
8326  possible combinations, just so it has <quote>banners</quote> in the path
8327  somewhere.
8328 </para>
8329
8330 <para>
8331  And now something a little more complex:
8332 </para>
8333
8334 <para>
8335  <emphasis><literal>/.*/adv((er)?ts?|ertis(ing|ements?))?/</literal></emphasis> -
8336  We have several literal forward slashes again (<quote>/</quote>), so we are
8337  building another expression that is a file path statement. We have another
8338  <quote>.*</quote>, so we are matching against any conceivable sub-path, just so
8339  it matches our expression. The only true literal that <emphasis>must
8340  match</emphasis> our pattern is <application>adv</application>, together with
8341  the forward slashes. What comes after the <quote>adv</quote> string is the
8342  interesting part.
8343 </para>
8344
8345 <para>
8346  Remember the <quote>?</quote> means the preceding expression (either a
8347  literal character or anything grouped with <quote>(...)</quote> in this case)
8348  can exist or not, since this means either zero or one match. So
8349  <quote>((er)?ts?|ertis(ing|ements?))</quote> is optional, as are the
8350  individual sub-expressions: <quote>(er)</quote>,
8351  <quote>(ing|ements?)</quote>, and the <quote>s</quote>. The <quote>|</quote>
8352  means <quote>or</quote>. We have two of those. For instance,
8353  <quote>(ing|ements?)</quote>, can expand to match either <quote>ing</quote>
8354  <emphasis>OR</emphasis> <quote>ements?</quote>. What is being done here, is an
8355  attempt at matching as many variations of <quote>advertisement</quote>, and
8356  similar, as possible. So this would expand to match just <quote>adv</quote>,
8357  or <quote>advert</quote>, or <quote>adverts</quote>, or
8358  <quote>advertising</quote>, or <quote>advertisement</quote>, or
8359  <quote>advertisements</quote>. You get the idea. But it would not match
8360  <quote>advertizements</quote> (with a <quote>z</quote>). We could fix that by
8361  changing our regular expression to:
8362  <quote>/.*/adv((er)?ts?|erti(s|z)(ing|ements?))?/</quote>, which would then match
8363  either spelling.
8364 </para>
8365
8366 <para>
8367  <emphasis><literal>/.*/advert[0-9]+\.(gif|jpe?g)</literal></emphasis> - Again
8368  another path statement with forward slashes. Anything in the square brackets
8369  <quote>[ ]</quote> can be matched. This is using <quote>0-9</quote> as a
8370  shorthand expression to mean any digit one through nine. It is the same as
8371  saying <quote>0123456789</quote>. So any digit matches. The <quote>+</quote>
8372  means one or more of the preceding expression must be included. The preceding
8373  expression here is what is in the square brackets -- in this case, any digit
8374  one through nine. Then, at the end, we have a grouping: <quote>(gif|jpe?g)</quote>.
8375  This includes a <quote>|</quote>, so this needs to match the expression on
8376  either side of that bar character also. A simple <quote>gif</quote> on one side, and the other
8377  side will in turn match either <quote>jpeg</quote> or <quote>jpg</quote>,
8378  since the <quote>?</quote> means the letter <quote>e</quote> is optional and
8379  can be matched once or not at all. So we are building an expression here to
8380  match image GIF or JPEG type image file. It must include the literal
8381  string <quote>advert</quote>, then one or more digits, and a <quote>.</quote>
8382  (which is now a literal, and not a special character, since it is escaped
8383  with <quote>\</quote>), and lastly either <quote>gif</quote>, or
8384  <quote>jpeg</quote>, or <quote>jpg</quote>. Some possible matches would
8385  include: <quote>//advert1.jpg</quote>,
8386  <quote>/nasty/ads/advert1234.gif</quote>,
8387  <quote>/banners/from/hell/advert99.jpg</quote>. It would not match
8388  <quote>advert1.gif</quote> (no leading slash), or
8389  <quote>/adverts232.jpg</quote> (the expression does not include an
8390  <quote>s</quote>), or <quote>/advert1.jsp</quote> (<quote>jsp</quote> is not
8391  in the expression anywhere).
8392 </para>
8393
8394 <para>
8395  We are barely scratching the surface of regular expressions here so that you
8396  can understand the default <application>Privoxy</application>
8397  configuration files, and maybe use this knowledge to customize your own
8398  installation. There is much, much more that can be done with regular
8399  expressions. Now that you know enough to get started, you can learn more on
8400  your own :/
8401 </para>
8402
8403 <para>
8404  More reading on Perl Compatible Regular expressions:
8405  <ulink url="http://perldoc.perl.org/perlre.html">http://perldoc.perl.org/perlre.html</ulink>
8406 </para>
8407
8408 <para>
8409  For information on regular expression based substitutions and their applications
8410  in filters, please see the <link linkend="filter-file">filter file tutorial</link>
8411  in this manual.
8412 </para>
8413 </sect2>
8414
8415 <!--  ~  End section  ~  -->
8416
8417
8418 <!--   ~~~~~       New section      ~~~~~     -->
8419 <sect2 id="internal-pages">
8420 <title>Privoxy's Internal Pages</title>
8421
8422 <para>
8423  Since <application>Privoxy</application> proxies each requested
8424  web page, it is easy for <application>Privoxy</application> to
8425  trap certain special URLs. In this way, we can talk directly to
8426  <application>Privoxy</application>, and see how it is
8427  configured, see how our rules are being applied, change these
8428  rules and other configuration options, and even turn
8429  <application>Privoxy's</application> filtering off, all with
8430  a web browser.
8431 </para>
8432
8433 <para>
8434  The URLs listed below are the special ones that allow direct access
8435  to <application>Privoxy</application>. Of course,
8436  <application>Privoxy</application> must be running to access these. If
8437  not, you will get a friendly error message. Internet access is not
8438  necessary either.
8439 </para>
8440
8441  <itemizedlist>
8442
8443  <listitem>
8444   <para>
8445    Privoxy main page:
8446   </para>
8447   <blockquote>
8448    <para>
8449      <ulink url="http://config.privoxy.org/">http://config.privoxy.org/</ulink>
8450    </para>
8451   </blockquote>
8452   <para>
8453    There is a shortcut: <ulink url="http://p.p/">http://p.p/</ulink> (But it
8454    doesn't provide a fall-back to a real page, in case the request is not
8455    sent through <application>Privoxy</application>)
8456   </para>
8457  </listitem>
8458
8459  <listitem>
8460   <para>
8461     View and toggle client tags:
8462   </para>
8463    <blockquote>
8464    <para>
8465     <ulink url="http://config.privoxy.org/client-tags">http://config.privoxy.org/client-tags</ulink>
8466    </para>
8467   </blockquote>
8468  </listitem>
8469
8470  <listitem>
8471   <para>
8472     Show information about the current configuration, including viewing and
8473     editing of actions files:
8474   </para>
8475    <blockquote>
8476    <para>
8477     <ulink url="http://config.privoxy.org/show-status">http://config.privoxy.org/show-status</ulink>
8478    </para>
8479   </blockquote>
8480  </listitem>
8481
8482  <listitem>
8483   <para>
8484    Show the browser's request headers:
8485   </para>
8486   <blockquote>
8487    <para>
8488     <ulink url="http://config.privoxy.org/show-request">http://config.privoxy.org/show-request</ulink>
8489    </para>
8490   </blockquote>
8491  </listitem>
8492
8493  <listitem>
8494   <para>
8495    Show which actions apply to a URL and why:
8496   </para>
8497    <blockquote>
8498    <para>
8499     <ulink url="http://config.privoxy.org/show-url-info">http://config.privoxy.org/show-url-info</ulink>
8500    </para>
8501   </blockquote>
8502  </listitem>
8503
8504  <listitem>
8505   <para>
8506    Toggle Privoxy on or off. This feature can be turned off/on in the main
8507    <filename>config</filename> file. When toggled <quote>off</quote>, <quote>Privoxy</quote>
8508    continues to run, but only as a pass-through proxy, with no actions taking
8509    place:
8510   </para>
8511    <blockquote>
8512    <para>
8513     <ulink url="http://config.privoxy.org/toggle">http://config.privoxy.org/toggle</ulink>
8514    </para>
8515   </blockquote>
8516   <para>
8517    Short cuts. Turn off, then on:
8518   </para>
8519    <blockquote>
8520    <para>
8521      <ulink url="http://config.privoxy.org/toggle?set=disable">http://config.privoxy.org/toggle?set=disable</ulink>
8522    </para>
8523   </blockquote>
8524    <blockquote>
8525    <para>
8526      <ulink url="http://config.privoxy.org/toggle?set=enable">http://config.privoxy.org/toggle?set=enable</ulink>
8527    </para>
8528   </blockquote>
8529  </listitem>
8530
8531  </itemizedlist>
8532
8533 </sect2>
8534
8535
8536 <!--   ~~~~~       New section      ~~~~~     -->
8537 <sect2 id="chain">
8538 <title>Chain of Events</title>
8539 <para>
8540  Let's take a quick look at how some of <application>Privoxy's</application>
8541  core features are triggered, and the ensuing sequence of events when a web
8542  page is requested by your browser:
8543 </para>
8544
8545  <itemizedlist>
8546  <listitem>
8547   <para>
8548    First, your web browser requests a web page. The browser knows to send
8549    the request to <application>Privoxy</application>, which will in turn,
8550    relay the request to the remote web server after passing the following
8551    tests:
8552   </para>
8553  </listitem>
8554  <listitem>
8555   <para>
8556    <application>Privoxy</application> traps any request for its own internal CGI
8557    pages (e.g <ulink url="http://p.p/">http://p.p/</ulink>) and sends the CGI page back to the browser.
8558   </para>
8559  </listitem>
8560  <listitem>
8561   <para>
8562    Next, <application>Privoxy</application> checks to see if the URL
8563    matches any <link
8564    linkend="BLOCK"><quote>+block</quote></link> patterns. If
8565    so, the URL is then blocked, and the remote web server will not be contacted.
8566    <link linkend="HANDLE-AS-IMAGE"><quote>+handle-as-image</quote></link>
8567    and
8568    <link linkend="HANDLE-AS-EMPTY-DOCUMENT"><quote>+handle-as-empty-document</quote></link>
8569    are then checked, and if there is no match, an
8570    HTML <quote>BLOCKED</quote> page is sent back to the browser. Otherwise, if
8571    it does match, an image is returned for the former, and an empty text
8572    document for the latter. The type of image would depend on the setting of
8573    <link linkend="SET-IMAGE-BLOCKER"><quote>+set-image-blocker</quote></link>
8574    (blank, checkerboard pattern, or an HTTP redirect to an image elsewhere).
8575   </para>
8576  </listitem>
8577  <listitem>
8578   <para>
8579    Untrusted URLs are blocked. If URLs are being added to the
8580    <filename>trust</filename> file, then that is done.
8581   </para>
8582  </listitem>
8583  <listitem>
8584   <para>
8585    If the URL pattern matches the <link
8586    linkend="FAST-REDIRECTS"><quote>+fast-redirects</quote></link> action,
8587    it is then processed. Unwanted parts of the requested URL are stripped.
8588   </para>
8589  </listitem>
8590  <listitem>
8591   <para>
8592    Now the rest of the client browser's request headers are processed. If any
8593    of these match any of the relevant actions (e.g. <link
8594    linkend="HIDE-USER-AGENT"><quote>+hide-user-agent</quote></link>,
8595    etc.), headers are suppressed or forged as determined by these actions and
8596    their parameters.
8597   </para>
8598  </listitem>
8599  <listitem>
8600   <para>
8601    Now the web server starts sending its response back (i.e. typically a web
8602    page).
8603   </para>
8604  </listitem>
8605  <listitem>
8606   <para>
8607    First, the server headers are read and processed to determine, among other
8608    things, the MIME type (document type) and encoding. The headers are then
8609    filtered as determined by the
8610    <link linkend="CRUNCH-INCOMING-COOKIES"><quote>+crunch-incoming-cookies</quote></link>,
8611    <link linkend="SESSION-COOKIES-ONLY"><quote>+session-cookies-only</quote></link>,
8612    and <link linkend="DOWNGRADE-HTTP-VERSION"><quote>+downgrade-http-version</quote></link>
8613    actions.
8614   </para>
8615  </listitem>
8616  <listitem>
8617   <para>
8618    If any <link linkend="FILTER"><quote>+filter</quote></link> action
8619    or <link
8620    linkend="DEANIMATE-GIFS"><quote>+deanimate-gifs</quote></link>
8621    action applies (and the document type fits the action), the rest of the page is
8622    read into memory (up to a configurable limit). Then the filter rules (from
8623    <filename>default.filter</filename> and any other filter files) are
8624    processed against the buffered content. Filters are applied in the order
8625    they are specified in one of the filter files. Animated GIFs, if present,
8626    are reduced to either the first or last frame, depending on the action
8627    setting.The entire page, which is now filtered, is then sent by
8628    <application>Privoxy</application> back to your browser.
8629   </para>
8630   <para>
8631    If neither a <link linkend="FILTER"><quote>+filter</quote></link> action
8632    or <link
8633    linkend="DEANIMATE-GIFS"><quote>+deanimate-gifs</quote></link>
8634    matches, then <application>Privoxy</application> passes the raw data through
8635    to the client browser as it becomes available.
8636   </para>
8637  </listitem>
8638  <listitem>
8639   <para>
8640    As the browser receives the now (possibly filtered) page content, it
8641    reads and then requests any URLs that may be embedded within the page
8642    source, e.g. ad images, stylesheets, JavaScript, other HTML documents (e.g.
8643    frames), sounds, etc. For each of these objects, the browser issues a
8644    separate request (this is easily viewable in <application>Privoxy's</application>
8645    logs). And each such request is in turn processed just as above. Note that a
8646    complex web page will have many, many such embedded URLs. If these
8647    secondary requests are to a different server, then quite possibly a very
8648    differing set of actions is triggered.
8649   </para>
8650  </listitem>
8651
8652  </itemizedlist>
8653
8654 <para>
8655  NOTE: This is somewhat of a simplistic overview of what happens with each URL
8656  request. For the sake of brevity and simplicity, we have focused on
8657  <application>Privoxy's</application> core features only.
8658 </para>
8659
8660 </sect2>
8661
8662
8663 <!--   ~~~~~       New section      ~~~~~     -->
8664 <sect2 id="actionsanat">
8665 <title>Troubleshooting: Anatomy of an Action</title>
8666
8667 <para>
8668  The way <application>Privoxy</application> applies
8669  <link linkend="ACTIONS">actions</link> and <link linkend="FILTER">filters</link>
8670  to any given URL can be complex, and not always so
8671  easy to understand what is happening. And sometimes we need to be able to
8672  <emphasis>see</emphasis> just what <application>Privoxy</application> is
8673  doing. Especially, if something <application>Privoxy</application> is doing
8674  is causing us a problem inadvertently. It can be a little daunting to look at
8675  the actions and filters files themselves, since they tend to be filled with
8676  <link linkend="regex">regular expressions</link> whose consequences are not
8677  always so obvious.
8678 </para>
8679
8680 <para>
8681  One quick test to see if <application>Privoxy</application> is causing a problem
8682  or not, is to disable it temporarily. This should be the first troubleshooting
8683  step (be sure to flush caches afterward!). Looking at the
8684  logs is a good idea too. (Note that both the toggle feature and logging are
8685  enabled via <filename>config</filename> file settings, and may need to be
8686  turned <quote>on</quote>.)
8687 </para>
8688 <para>
8689  Another easy troubleshooting step to try is if you have done any
8690  customization of your installation, revert back to the installed
8691  defaults and see if that helps. There are times the developers get complaints
8692  about one thing or another, and the problem is more related to a customized
8693  configuration issue.
8694 </para>
8695
8696 <para>
8697  <application>Privoxy</application> also provides the
8698  <ulink url="http://config.privoxy.org/show-url-info">http://config.privoxy.org/show-url-info</ulink>
8699  page that can show us very specifically how <application>actions</application>
8700  are being applied to any given URL. This is a big help for troubleshooting.
8701 </para>
8702
8703 <para>
8704  First, enter one URL (or partial URL) at the prompt, and then
8705  <application>Privoxy</application> will tell us
8706  how the current configuration will handle it. This will not
8707  help with filtering effects (i.e. the <link
8708  linkend="FILTER"><quote>+filter</quote></link> action) from
8709  one of the filter files since this is handled very
8710  differently and not so easy to trap! It also will not tell you about any other
8711  URLs that may be embedded within the URL you are testing. For instance, images
8712  such as ads are expressed as URLs within the raw page source of HTML pages. So
8713  you will only get info for the actual URL that is pasted into the prompt area
8714  -- not any sub-URLs. If you want to know about embedded URLs like ads, you
8715  will have to dig those out of the HTML source. Use your browser's <quote>View
8716  Page Source</quote> option for this. Or right click on the ad, and grab the
8717  URL.
8718 </para>
8719
8720 <para>
8721  Let's try an example, <ulink url="http://google.com">google.com</ulink>,
8722  and look at it one section at a time in a sample configuration (your real
8723  configuration may vary):
8724 </para>
8725
8726  <screen>
8727  Matches for http://www.google.com:
8728
8729  In file: default.action <guibutton>[ View ]</guibutton> <guibutton>[ Edit ]</guibutton>
8730
8731  {+change-x-forwarded-for{block}
8732  +deanimate-gifs {last}
8733  +fast-redirects {check-decoded-url}
8734  +filter {refresh-tags}
8735  +filter {img-reorder}
8736  +filter {banners-by-size}
8737  +filter {webbugs}
8738  +filter {jumping-windows}
8739  +filter {ie-exploits}
8740  +hide-from-header {block}
8741  +hide-referrer {forge}
8742  +session-cookies-only
8743  +set-image-blocker {pattern}
8744 /
8745
8746  { -session-cookies-only }
8747  .google.com
8748
8749  { -fast-redirects }
8750  .google.com
8751
8752 In file: user.action <guibutton>[ View ]</guibutton> <guibutton>[ Edit ]</guibutton>
8753 (no matches in this file)
8754 </screen>
8755
8756 <para>
8757  This is telling us how we have defined our
8758  <link linkend="ACTIONS"><quote>actions</quote></link>, and
8759  which ones match for our test case, <quote>google.com</quote>.
8760  Displayed is all the actions that are available to us. Remember,
8761  the <literal>+</literal> sign denotes <quote>on</quote>. <literal>-</literal>
8762  denotes <quote>off</quote>. So some are <quote>on</quote> here, but many
8763  are <quote>off</quote>. Each example we try may provide a slightly different
8764  end result, depending on our configuration directives.
8765 </para>
8766 <para>
8767  The first listing
8768   is for our <filename>default.action</filename> file. The large, multi-line
8769   listing, is how the actions are set to match for all URLs, i.e. our default
8770   settings. If you look at your <quote>actions</quote> file, this would be the
8771   section just below the <quote>aliases</quote> section near the top. This
8772   will apply to all URLs as signified by the single forward slash at the end
8773   of the listing -- <quote> / </quote>.
8774 </para>
8775
8776 <para>
8777  But we have defined additional actions that would be exceptions to these general
8778  rules, and then we list specific URLs (or patterns) that these exceptions
8779  would apply to. Last match wins. Just below this then are two explicit
8780  matches for <quote>.google.com</quote>. The first is negating our previous
8781  cookie setting, which was for <link
8782  linkend="SESSION-COOKIES-ONLY"><quote>+session-cookies-only</quote></link>
8783  (i.e. not persistent). So we will allow persistent cookies for google, at
8784  least that is how it is in this example. The second turns
8785  <emphasis>off</emphasis> any <link
8786  linkend="FAST-REDIRECTS"><quote>+fast-redirects</quote></link>
8787  action, allowing this to take place unmolested. Note that there is a leading
8788  dot here -- <quote>.google.com</quote>. This will match any hosts and
8789  sub-domains, in the google.com domain also, such as
8790  <quote>www.google.com</quote> or <quote>mail.google.com</quote>. But it would not
8791  match <quote>www.google.de</quote>! So, apparently, we have these two actions
8792  defined as exceptions to the general rules at the top somewhere in the lower
8793  part of our <filename>default.action</filename> file, and
8794  <quote>google.com</quote> is referenced somewhere in these latter sections.
8795 </para>
8796
8797 <para>
8798  Then, for our <filename>user.action</filename> file, we again have no hits.
8799  So there is nothing google-specific that we might have added to our own, local
8800  configuration. If there was, those actions would over-rule any actions from
8801  previously processed files, such as <filename>default.action</filename>.
8802  <filename>user.action</filename> typically has the last word. This is the
8803  best place to put hard and fast exceptions,
8804 </para>
8805
8806 <para>
8807  And finally we pull it all together in the bottom section and summarize how
8808  <application>Privoxy</application> is applying all its <quote>actions</quote>
8809  to <quote>google.com</quote>:
8810 </para>
8811
8812  <screen>
8813  Final results:
8814
8815  -add-header
8816  -block
8817  +change-x-forwarded-for{block}
8818  -client-header-filter{hide-tor-exit-notation}
8819  -content-type-overwrite
8820  -crunch-client-header
8821  -crunch-if-none-match
8822  -crunch-incoming-cookies
8823  -crunch-outgoing-cookies
8824  -crunch-server-header
8825  +deanimate-gifs {last}
8826  -downgrade-http-version
8827  -fast-redirects
8828  -filter {js-events}
8829  -filter {content-cookies}
8830  -filter {all-popups}
8831  -filter {banners-by-link}
8832  -filter {tiny-textforms}
8833  -filter {frameset-borders}
8834  -filter {demoronizer}
8835  -filter {shockwave-flash}
8836  -filter {quicktime-kioskmode}
8837  -filter {fun}
8838  -filter {crude-parental}
8839  -filter {site-specifics}
8840  -filter {js-annoyances}
8841  -filter {html-annoyances}
8842  +filter {refresh-tags}
8843  -filter {unsolicited-popups}
8844  +filter {img-reorder}
8845  +filter {banners-by-size}
8846  +filter {webbugs}
8847  +filter {jumping-windows}
8848  +filter {ie-exploits}
8849  -filter {google}
8850  -filter {yahoo}
8851  -filter {msn}
8852  -filter {blogspot}
8853  -filter {no-ping}
8854  -force-text-mode
8855  -handle-as-empty-document
8856  -handle-as-image
8857  -hide-accept-language
8858  -hide-content-disposition
8859  +hide-from-header {block}
8860  -hide-if-modified-since
8861  +hide-referrer {forge}
8862  -hide-user-agent
8863  -limit-connect
8864  -overwrite-last-modified
8865  -prevent-compression
8866  -redirect
8867  -server-header-filter{xml-to-html}
8868  -server-header-filter{html-to-xml}
8869  -session-cookies-only
8870  +set-image-blocker {pattern}
8871 </screen>
8872
8873 <para>
8874  Notice the only difference here to the previous listing, is to
8875  <quote>fast-redirects</quote> and <quote>session-cookies-only</quote>,
8876  which are activated specifically for this site in our configuration,
8877  and thus show in the <quote>Final Results</quote>.
8878 </para>
8879
8880 <para>
8881  Now another example, <quote>ad.doubleclick.net</quote>:
8882 </para>
8883
8884  <screen>
8885  { +block{Domains starts with "ad"} }
8886   ad*.
8887
8888  { +block{Domain contains "ad"} }
8889   .ad.
8890
8891  { +block{Doubleclick banner server} +handle-as-image }
8892   .[a-vx-z]*.doubleclick.net
8893 </screen>
8894
8895 <para>
8896  We'll just show the interesting part here - the explicit matches. It is
8897  matched three different times. Two <quote>+block{}</quote> sections,
8898  and a <quote>+block{} +handle-as-image</quote>,
8899  which is the expanded form of one of our aliases that had been defined as:
8900  <quote>+block-as-image</quote>. (<link
8901  linkend="ALIASES"><quote>Aliases</quote></link> are defined in
8902  the first section of the actions file and typically used to combine more
8903  than one action.)
8904 </para>
8905
8906 <para>
8907  Any one of these would have done the trick and blocked this as an unwanted
8908  image. This is unnecessarily redundant since the last case effectively
8909  would also cover the first. No point in taking chances with these guys
8910  though ;-) Note that if you want an ad or obnoxious
8911  URL to be invisible, it should be defined as <quote>ad.doubleclick.net</quote>
8912  is done here -- as both a <link
8913  linkend="BLOCK"><quote>+block{}</quote></link>
8914  <emphasis>and</emphasis> an
8915  <link linkend="HANDLE-AS-IMAGE"><quote>+handle-as-image</quote></link>.
8916  The custom alias <quote><literal>+block-as-image</literal></quote> just
8917  simplifies the process and make it more readable.
8918 </para>
8919
8920 <para>
8921  One last example. Let's try <quote>http://www.example.net/adsl/HOWTO/</quote>.
8922  This one is giving us problems. We are getting a blank page. Hmmm ...
8923 </para>
8924
8925  <screen>
8926  Matches for http://www.example.net/adsl/HOWTO/:
8927
8928  In file: default.action <guibutton>[ View ]</guibutton> <guibutton>[ Edit ]</guibutton>
8929
8930  {-add-header
8931   -block
8932   +change-x-forwarded-for{block}
8933   -client-header-filter{hide-tor-exit-notation}
8934   -content-type-overwrite
8935   -crunch-client-header
8936   -crunch-if-none-match
8937   -crunch-incoming-cookies
8938   -crunch-outgoing-cookies
8939   -crunch-server-header
8940   +deanimate-gifs
8941   -downgrade-http-version
8942   +fast-redirects {check-decoded-url}
8943   -filter {js-events}
8944   -filter {content-cookies}
8945   -filter {all-popups}
8946   -filter {banners-by-link}
8947   -filter {tiny-textforms}
8948   -filter {frameset-borders}
8949   -filter {demoronizer}
8950   -filter {shockwave-flash}
8951   -filter {quicktime-kioskmode}
8952   -filter {fun}
8953   -filter {crude-parental}
8954   -filter {site-specifics}
8955   -filter {js-annoyances}
8956   -filter {html-annoyances}
8957   +filter {refresh-tags}
8958   -filter {unsolicited-popups}
8959   +filter {img-reorder}
8960   +filter {banners-by-size}
8961   +filter {webbugs}
8962   +filter {jumping-windows}
8963   +filter {ie-exploits}
8964   -filter {google}
8965   -filter {yahoo}
8966   -filter {msn}
8967   -filter {blogspot}
8968   -filter {no-ping}
8969   -force-text-mode
8970   -handle-as-empty-document
8971   -handle-as-image
8972   -hide-accept-language
8973   -hide-content-disposition
8974   +hide-from-header{block}
8975   +hide-referer{forge}
8976   -hide-user-agent
8977   -overwrite-last-modified
8978   +prevent-compression
8979   -redirect
8980   -server-header-filter{xml-to-html}
8981   -server-header-filter{html-to-xml}
8982   +session-cookies-only
8983   +set-image-blocker{blank} }
8984    /
8985
8986  { +block{Path contains "ads".} +handle-as-image }
8987   /ads
8988 </screen>
8989
8990 <para>
8991  Ooops, the <quote>/adsl/</quote> is matching <quote>/ads</quote> in our
8992  configuration! But we did not want this at all! Now we see why we get the
8993  blank page. It is actually triggering two different actions here, and
8994  the effects are aggregated so that the URL is blocked, and &my-app; is told
8995  to treat the block as if it were an image. But this is, of course, all wrong.
8996   We could now add a new action below this (or better in our own
8997   <filename>user.action</filename> file) that explicitly
8998   <emphasis>un</emphasis> blocks (
8999   <link linkend="BLOCK"><quote>{-block}</quote></link>) paths with
9000   <quote>adsl</quote> in them (remember, last match in the configuration
9001   wins). There are various ways to handle such exceptions. Example:
9002 </para>
9003
9004  <screen>
9005  { -block }
9006   /adsl
9007 </screen>
9008
9009 <para>
9010  Now the page displays ;-)
9011  Remember to flush your browser's caches when making these kinds of changes to
9012  your configuration to insure that you get a freshly delivered page! Or, try
9013  using <literal>Shift+Reload</literal>.
9014 </para>
9015
9016 <para>
9017  But now what about a situation where we get no explicit matches like
9018  we did with:
9019 </para>
9020
9021  <screen>
9022  { +block{Path starts with "ads".} +handle-as-image }
9023  /ads
9024 </screen>
9025
9026 <para>
9027  That actually was very helpful and pointed us quickly to where the problem
9028  was. If you don't get this kind of match, then it means one of the default
9029  rules in the first section of <filename>default.action</filename> is causing
9030  the problem. This would require some guesswork, and maybe a little trial and
9031  error to isolate the offending rule. One likely cause would be one of the
9032  <link linkend="FILTER"><quote>+filter</quote></link> actions.
9033  These tend to be harder to troubleshoot.
9034  Try adding the URL for the site to one of aliases that turn off
9035  <link linkend="FILTER"><quote>+filter</quote></link>:
9036 </para>
9037
9038  <screen>
9039  { shop }
9040  .quietpc.com
9041  .worldpay.com   # for quietpc.com
9042  .jungle.com
9043  .scan.co.uk
9044  .forbes.com
9045 </screen>
9046
9047 <para>
9048  <quote><literal>{ shop }</literal></quote> is an <quote>alias</quote> that expands to
9049  <quote><literal>{ -filter -session-cookies-only }</literal></quote>.
9050  Or you could do your own exception to negate filtering:
9051 </para>
9052
9053  <screen>
9054  { -filter }
9055  # Disable ALL filter actions for sites in this section
9056  .forbes.com
9057  developer.ibm.com
9058  localhost
9059 </screen>
9060
9061 <para>
9062  This would turn off all filtering for these sites. This is best
9063  put in <filename>user.action</filename>, for local site
9064  exceptions. Note that when a simple domain pattern is used by itself (without
9065  the subsequent path portion), all sub-pages within that domain are included
9066  automatically in the scope of the action.
9067 </para>
9068
9069 <para>
9070  Images that are inexplicably being blocked, may well be hitting the
9071 <link linkend="FILTER-BANNERS-BY-SIZE"><quote>+filter{banners-by-size}</quote></link>
9072  rule, which assumes
9073  that images of certain sizes are ad banners (works well
9074  <emphasis>most of the time</emphasis>  since these tend to be standardized).
9075 </para>
9076
9077 <para>
9078  <quote><literal>{ fragile }</literal></quote> is an alias that disables most
9079  actions that are the most likely to cause trouble. This can be used as a
9080  last resort for problem sites.
9081 </para>
9082
9083  <screen>
9084  { fragile }
9085  # Handle with care: easy to break
9086  mail.google.
9087  mybank.example.com</screen>
9088
9089
9090 <para>
9091  <emphasis>Remember to flush caches!</emphasis> Note that the
9092  <literal>mail.google</literal> reference lacks the TLD portion (e.g.
9093  <quote>.com</quote>). This will effectively match any TLD with
9094  <literal>google</literal> in it, such as <literal>mail.google.de.</literal>,
9095  just as an example.
9096 </para>
9097 <para>
9098  If this still does not work, you will have to go through the remaining
9099  actions one by one to find which one(s) is causing the problem.
9100 </para>
9101
9102 </sect2>
9103
9104 </sect1>
9105
9106  <!--
9107
9108  This program is free software; you can redistribute it
9109  and/or modify it under the terms of the GNU General
9110  Public License as published by the Free Software
9111  Foundation; either version 2 of the License, or (at
9112  your option) any later version.
9113
9114  This program is distributed in the hope that it will
9115  be useful, but WITHOUT ANY WARRANTY; without even the
9116  implied warranty of MERCHANTABILITY or FITNESS FOR A
9117  PARTICULAR PURPOSE.  See the GNU General Public
9118  License for more details.
9119
9120  The GNU General Public License should be included with
9121  this file.  If not, you can view it at
9122  http://www.gnu.org/copyleft/gpl.html
9123  or write to the Free Software Foundation, Inc.,
9124  51 Franklin Street, Fifth Floor, Boston, MA 02110-1301,
9125  USA
9126
9127  -->
9128
9129 </article>