Add a missing apostroph in the 'More Privoxy' menu
[privoxy.git] / doc / source / user-manual.sgml
1 <!DOCTYPE article PUBLIC "-//OASIS//DTD DocBook V3.1//EN" [
2 <!entity % dummy "IGNORE">
3 <!entity supported SYSTEM "supported.sgml">
4 <!entity newfeatures SYSTEM "newfeatures.sgml">
5 <!entity p-intro SYSTEM "privoxy.sgml">
6 <!entity seealso SYSTEM "seealso.sgml">
7 <!entity buildsource SYSTEM "buildsource.sgml">
8 <!entity contacting SYSTEM "contacting.sgml">
9 <!entity history SYSTEM "history.sgml">
10 <!entity copyright SYSTEM "copyright.sgml">
11 <!entity license SYSTEM "license.sgml">
12 <!entity GPLv2 SYSTEM "../../LICENSE">
13 <!entity GPLv3 SYSTEM "../../LICENSE.GPLv3">
14 <!entity p-authors SYSTEM "p-authors.sgml">
15 <!entity config SYSTEM "p-config.sgml">
16 <!entity changelog SYSTEM "changelog.sgml">
17 <!entity p-version "3.0.29">
18 <!entity p-status "UNRELEASED">
19 <!entity % p-authors-formal "INCLUDE"> <!-- include additional text, etc  -->
20 <!entity % p-not-stable "INCLUDE">
21 <!entity % p-stable "IGNORE">
22 <!entity % p-text "IGNORE">        <!-- define we are not a text only doc -->
23 <!entity % p-doc "INCLUDE">        <!-- and we are a formal doc           -->
24 <!entity % p-readme "IGNORE">
25 <!entity % user-man "IGNORE">
26 <!entity % config-file "IGNORE">
27 <!entity % p-supp-userman "IGNORE"> <!-- Omit some from supported.sgml    -->
28 <!entity  my-copy "&copy;">         <!-- kludge for docbook2man           -->
29 <!entity % draft "IGNORE">          <!-- WIP stuff    -->
30 <!entity % seealso-extra "INCLUDE"> <!-- extra stuff from seealso.sgml    -->
31 <!entity  my-app "<application>Privoxy</application>">
32 ]>
33 <!--
34  File        :  doc/source/user-manual.sgml
35
36  Purpose     :  user manual
37
38  Copyright (C) 2001-2020 Privoxy Developers https://www.privoxy.org/
39  See LICENSE.
40
41  ========================================================================
42  NOTE: Please read developer-manual/documentation.html before touching
43  anything in this, or other Privoxy documentation.
44  ========================================================================
45
46 -->
47
48 <article id="index">
49 <artheader>
50
51 <title>Privoxy &p-version; User Manual</title>
52
53 <pubdate>
54  <subscript>
55 <!-- Completely the wrong markup, but very little is allowed  -->
56 <!-- in this part of an article. FIXME -->
57  <link linkend="copyright">Copyright</link> &my-copy; 2001-2020 by
58  <ulink url="https://www.privoxy.org/">Privoxy Developers</ulink>
59  </subscript>
60 </pubdate>
61
62 <!--
63
64 Note: the following should generate a separate page, and a live link to it,
65 all nicely done. But it doesn't for some mysterious reason. Please leave
66 commented unless it can be fixed proper. For the time being, the
67 copyright/license declarations will be in their own sgml.
68
69 Hal.
70
71
72 -->
73
74
75 <abstract>
76
77 <![%dummy;[
78  <para>
79  <comment>
80   This is here to keep vim syntax file from breaking :/
81   If I knew enough to fix it, I would.
82   PLEASE DO NOT REMOVE! HB: hal@foobox.net
83  </comment>
84  </para>
85 ]]>
86
87  <para>
88   The <citetitle>Privoxy User Manual</citetitle> gives users information on how to
89   install, configure and use <ulink
90   url="https://www.privoxy.org/">Privoxy</ulink>.
91  </para>
92
93 <!-- Include privoxy.sgml boilerplate: -->
94  &p-intro;
95 <!-- end privoxy.sgml -->
96
97  <para>
98   You can find the latest version of the <citetitle>Privoxy User Manual</citetitle> at  <ulink
99   url="https://www.privoxy.org/user-manual/">https://www.privoxy.org/user-manual/</ulink>.
100   Please see the <link linkend="contact">Contact section</link> on how to
101   contact the developers.
102  </para>
103
104 </abstract>
105
106 </artheader>
107
108 <!--   ~~~~~       New section      ~~~~~     -->
109 <sect1 label="1" id="introduction"><title>Introduction</title>
110 <para>
111  This documentation is included with the current &p-status; version of
112  <application>Privoxy</application>, &p-version;<![%p-not-stable;[,
113  and is mostly complete at this point. The most up to date reference for the
114  time being is still the comments in the source files and in the individual
115  configuration files. Development of a new version is currently nearing
116  completion, and includes significant changes and enhancements over
117  earlier versions]]>.
118 </para>
119
120 <!-- include only in non-stable versions -->
121 <![%p-not-stable;[
122 <para>
123  Since this is a &p-status; version, not all new features are well tested. This
124  documentation may be slightly out of sync as a result (especially with
125  <ulink url="https://www.privoxy.org/gitweb/?p=privoxy.git;a=summary">git sources</ulink>).
126  And there <emphasis>may be</emphasis> bugs, though hopefully
127  not many!
128 </para>
129 ]]>
130
131 <!--   ~~~~~       New section      ~~~~~     -->
132 <sect2 id="features"><title>Features</title>
133 <para>
134  In addition to the core
135  features of ad blocking and
136  <ulink url="http://en.wikipedia.org/wiki/Browser_cookie">cookie</ulink> management,
137  <application>Privoxy</application> provides many supplemental
138  features<![%p-not-stable;[, some of them currently under development]]>,
139  that give the end-user more control, more privacy and more freedom:
140 </para>
141 <!-- Include newfeatures.sgml boilerplate here: -->
142  &newfeatures;
143 <!-- end boilerplate -->
144 </sect2>
145
146 </sect1>
147
148 <!--  ~  End section  ~  -->
149
150
151 <!--   ~~~~~       New section      ~~~~~     -->
152 <sect1 id="installation"><title>Installation</title>
153
154 <para>
155  <application>Privoxy</application> is available both in convenient pre-compiled
156  packages for a wide range of operating systems, and as raw source code.
157  For most users, we recommend using the packages, which can be downloaded from our
158  <ulink url="https://sourceforge.net/projects/ijbswa/">Privoxy Project
159  Page</ulink>.
160 </para>
161
162 <para>
163  Note:
164  On some platforms, the installer may remove previously installed versions, if
165  found. (See below for your platform). In any case <emphasis>be sure to backup
166  your old configuration if it is valuable to you.</emphasis> See the <link
167  linkend="upgradersnote">note to upgraders</link> section below.
168 </para>
169
170 <!--   ~~~~~       New section      ~~~~~     -->
171 <sect2 id="installation-packages"><title>Binary Packages</title>
172 <para>
173 How to install the binary packages depends on your operating system:
174 </para>
175
176 <!-- XXX: The installation sections should be sorted -->
177
178 <!--   ~~~~~       New section      ~~~~~     -->
179 <sect3 id="installation-deb"><title>Debian and Ubuntu</title>
180 <para>
181  DEBs can be installed with <literal>apt-get install privoxy</literal>,
182  and will use <filename>/etc/privoxy</filename> for the location of
183  configuration files.
184 </para>
185 </sect3>
186
187 <!--   ~~~~~       New section      ~~~~~     -->
188 <sect3 id="installation-pack-win"><title>Windows</title>
189
190 <para>
191  Just double-click the installer, which will guide you through
192  the installation process. You will find the configuration files
193  in the same directory as you installed <application>Privoxy</application> in.
194 </para>
195 <para>
196  Version 3.0.5 beta introduced full <application>Windows</application> service
197  functionality. On Windows only, the <application>Privoxy</application>
198  program has two new command line arguments to install and uninstall
199  <application>Privoxy</application> as a <emphasis>service</emphasis>.
200 </para>
201  <variablelist>
202   <varlistentry>
203    <term>Arguments:</term>
204    <listitem>
205     <para>
206      <replaceable class="parameter">--install</replaceable>[:<replaceable class="parameter">service_name</replaceable>]
207     </para>
208     <para>
209      <replaceable class="parameter">--uninstall</replaceable>[:<replaceable class="parameter">service_name</replaceable>]
210     </para>
211    </listitem>
212   </varlistentry>
213  </variablelist>
214  <para>
215  After invoking <application>Privoxy</application> with
216  <command>--install</command>, you will need to bring up the
217  <application>Windows</application> service console to assign the user you
218  want <application>Privoxy</application> to run under, and whether or not you
219  want it to run whenever the system starts. You can start the
220  <application>Windows</application> services console with the following
221  command: <command>services.msc</command>.  If you do not take the manual step
222  of modifying <application>Privoxy's</application> service settings, it will
223  not start.  Note too that you will need to give Privoxy a user account that
224  actually exists, or it will not be permitted to
225  write to its log and configuration files.
226 </para>
227
228 </sect3>
229
230 <!--   ~~~~~       New section      ~~~~~     -->
231 <sect3 id="installation-mac"><title>Mac OS X</title>
232 <para>
233  Installation instructions for the OS X platform depend upon whether
234  you downloaded a ready-built installation package (.pkg or .mpkg) or have
235  downloaded the source code.
236 </para>
237 </sect3>
238 <sect3 renderas="sect4" id="OS-X-install-from-package">
239 <title>Installation from ready-built package</title>
240 <para>
241  The downloaded file will either be a .pkg (for OS X 10.5 upwards) or a bzipped
242  .mpkg file (for OS X 10.4). The former can be double-clicked as is and the
243  installation will start; double-clicking the latter will unzip the .mpkg file
244  which can then be double-clicked to commence the installation.
245 </para>
246 <para>
247  The privoxy service will automatically start after a successful installation
248  (and thereafter every time your computer starts up) however you will need to
249  configure your web browser(s) to use it. To do so, configure them to use a
250  proxy for HTTP and HTTPS at the address 127.0.0.1:8118.
251 </para>
252 <para>
253  To prevent the privoxy service from automatically starting when your computer
254  starts up, remove or rename the file <literal>/Library/LaunchDaemons/org.ijbswa.privoxy.plist</literal>
255  (on OS X 10.5 and higher) or the folder named
256  <literal>/Library/StartupItems/Privoxy</literal> (on OS X 10.4 'Tiger').
257 </para>
258 <para>
259  To manually start or stop the privoxy service, use the scripts startPrivoxy.sh
260  and stopPrivoxy.sh supplied in /Applications/Privoxy. They must be run from an
261  administrator account, using sudo.
262 </para>
263 <para>
264  To uninstall, run /Applications/Privoxy/uninstall.command as sudo from an
265  administrator account.
266 </para>
267 </sect3>
268 <sect3 renderas="sect4" id="OS-X-install-from-source">
269 <title>Installation from source</title>
270 <para>
271  To build and install the Privoxy source code on OS X you will need to obtain
272  the macsetup module from the Privoxy Sourceforge CVS repository (refer to
273  Sourceforge help for details of how to set up a CVS client to have read-only
274  access to the repository). This module contains scripts that leverage the usual
275  open-source tools (available as part of Apple's free of charge Xcode
276  distribution or via the usual open-source software package managers for OS X
277  (MacPorts, Homebrew, Fink etc.) to build and then install the privoxy binary
278  and associated files. The macsetup module's README file contains complete
279  instructions for its use.
280 </para>
281 <para>
282  The privoxy service will automatically start after a successful installation
283  (and thereafter every time your computer starts up) however you will need to
284  configure your web browser(s) to use it. To do so, configure them to use a
285  proxy for HTTP and HTTPS at the address 127.0.0.1:8118.
286 </para>
287 <para>
288  To prevent the privoxy service from automatically starting when your computer
289  starts up, remove or rename the file <literal>/Library/LaunchDaemons/org.ijbswa.privoxy.plist</literal>
290  (on OS X 10.5 and higher) or the folder named
291  <literal>/Library/StartupItems/Privoxy</literal> (on OS X 10.4 'Tiger').
292 </para>
293 <para>
294  To manually start or stop the privoxy service, use the Privoxy Utility
295  for Mac OS X (also part of the macsetup module).  This application can start
296  and stop the privoxy service and display its log and configuration files.
297 </para>
298 <para>
299  To uninstall, run the macsetup module's uninstall.sh as sudo from an
300  administrator account.
301 </para>
302 </sect3>
303
304 <!--   ~~~~~       New section      ~~~~~     -->
305 <sect3 id="installation-freebsd"><title>FreeBSD</title>
306
307 <para>
308  Privoxy is part of FreeBSD's Ports Collection, you can build and install
309  it with <literal>cd /usr/ports/www/privoxy; make install clean</literal>.
310 </para>
311 </sect3>
312
313 </sect2>
314
315 <!--   ~~~~~       New section      ~~~~~     -->
316 <sect2 id="installation-source"><title>Building from Source</title>
317
318 <para>
319  The most convenient way to obtain the <application>Privoxy</application> source
320  code is to download the source tarball from our
321  <ulink url="https://sourceforge.net/projects/ijbswa/files/Sources/">
322     project download page</ulink>,
323  or you can get the up-to-the-minute, possibly unstable, development version from
324  <ulink url="https://www.privoxy.org/">https://www.privoxy.org/</ulink>.
325 </para>
326
327 <!-- include buildsource.sgml boilerplate: -->
328 &buildsource;
329 <!-- end boilerplate -->
330
331
332     <sect3 id="WINBUILD-CYGWIN"><title>Windows</title>
333
334     <sect4 id="WINBUILD-SETUP"><title>Setup</title>
335       <para>
336         Install the Cygwin utilities needed to build <application>Privoxy</application>.
337         If you have a 64 bit CPU (which most people do by now), get the
338         Cygwin setup-x86_64.exe program <ulink url="https://cygwin.com/setup-x86_64.exe">here</ulink>
339         (the .sig file is <ulink url="https://cygwin.com/setup-x86_64.exe.sig">here</ulink>).
340       </para>
341       <para>
342         Run the setup program and from View / Category select:
343       </para>
344       <screen>
345   Devel
346     autoconf 2.5
347     automake 1.15
348     binutils
349     cmake
350     gcc-core
351     gcc-g++
352     git
353     make
354     mingw64-i686-gcc-core
355     mingw64-i686-zlib
356   Editors
357     vim
358   Libs
359     libxslt: GNOME XSLT library (runtime)
360   Net
361     curl
362     openssh
363   Text
364     docbook-dssl
365     docbook-sgml31
366     docbook-utils
367     openjade
368   Utils
369     gnupg
370   Web
371     w3m
372 </screen>
373
374       <para>
375         If you haven't already downloaded the Privoxy source code, get it now:
376       </para>
377       <screen>
378   mkdir &lt;root-dir>
379   cd &lt;root-dir>
380   git clone https://www.privoxy.org/git/privoxy.git
381 </screen>
382
383       <para>
384         Get the source code (.zip or .tar.gz) for tidy from
385         <ulink url="https://github.com/htacg/tidy-html5/releases">
386                     https://github.com/htacg/tidy-html5/releases</ulink>,
387         unzip into &lt;root-dir> and build the software:
388       </para>
389       <screen>
390   cd &lt;root-dir>
391   cd tidy-html5-x.y.z/build/cmake
392   cmake ../.. -DCMAKE_BUILD_TYPE=Release -DBUILD_SHARED_LIB:BOOL=OFF -DCMAKE_INSTALL_PREFIX=/usr/local
393   make && make install
394 </screen>
395
396       <para>
397         If you want to be able to make a Windows release package, get the NSIS .zip file from
398             <!-- FIXME:  which version(s) are known to work? -->
399         <ulink url="https://sourceforge.net/projects/nsis/files/NSIS%203/">
400                     https://sourceforge.net/projects/nsis/files/NSIS%203/</ulink>
401         and extract the NSIS directory to <literal>privoxy/windows</literal>.
402         Then edit the windows/GNUmakefile to set the location of the NSIS executable - eg:
403       </para>
404       <screen>
405 # Path to NSIS
406 MAKENSIS = ./nsis/makensis.exe
407 </screen>
408
409       </sect4>
410
411       <sect4 id="WINBUILD-BUILD"><title>Build</title>
412
413       <para>
414         To build just the Privoxy executable and not the whole installation package, do:
415       </para>
416       <programlisting>
417   cd &lt;root-dir>/privoxy
418   ./windows/MYconfigure && make
419 </programlisting>
420
421       <para>
422         Privoxy uses the <ulink url="https://en.wikipedia.org/wiki/GNU_build_system">GNU Autotools</ulink>
423         for building software, so the process is:
424       </para>
425       <programlisting>
426   $ autoheader              # creates config.h.in
427   $ autoconf                # uses config.h.in to create the configure shell script
428   $ ./configure [options]   # creates GNUmakefile
429   $ make        [options]   # builds the program
430 </programlisting>
431
432       <para>
433         The usual <literal>configure</literal> options for building a native Windows application under cygwin are
434       </para>
435
436       <literallayout class="Monospaced">
437   --host=i686-w64-mingw32
438   --enable-mingw32
439   --enable-zlib
440   --enable-static-linking
441   --disable-pthread
442   --disable-dynamic-pcre
443 </literallayout>
444
445       <para>
446         You can set the <literal>CFLAGS</literal> and <literal>LDFLAGS</literal> envars before
447         running <literal>configure</literal> to set compiler and linker flags.  For example:
448       </para>
449
450       <programlisting>
451   $ export CFLAGS="-O2"              # set gcc optimization level
452   $ export LDFLAGS="-Wl,--nxcompat"  # Enable DEP
453   $ ./configure --host=i686-w64-mingw32 --enable-mingw32  --enable-zlib \
454   >             --enable-static-linking --disable-pthread --disable-dynamic-pcre
455   $ make                             # build Privoxy
456 </programlisting>
457
458       <para>
459         See the <ulink url="../developer-manual/newrelease.html#NEWRELEASE-WINDOWS">Developer's Manual</ulink>
460         for building a Windows release package.
461       </para>
462
463     </sect4>
464     </sect3>
465 </sect2>
466
467
468 <!--   ~~~~~       New section      ~~~~~     -->
469 <sect2 id="installation-keepupdated"><title>Keeping your Installation Up-to-Date</title>
470
471 <para>
472  If you wish to receive an email notification whenever we release updates of
473  <application>Privoxy</application> or the actions file, <ulink
474  url="https://lists.privoxy.org/mailman/listinfo/privoxy-announce">subscribe
475  to our announce mailing list</ulink>, privoxy-announce@lists.privoxy.org.
476 </para>
477
478 <para>
479  In order not to lose your personal changes and adjustments when updating
480  to the latest <literal>default.action</literal> file we <emphasis>strongly
481  recommend</emphasis> that you use <literal>user.action</literal> and
482  <literal>user.filter</literal> for your local
483  customizations of <application>Privoxy</application>. See the <link
484  linkend="actions-file">Chapter on actions files</link> for details.
485 </para>
486
487 </sect2>
488
489
490 </sect1>
491
492 <!--  ~  End section  ~  -->
493
494 <!--   ~~~~~       New section      ~~~~~     -->
495 <sect1 id="whatsnew">
496 <title>What's New in this Release</title>
497
498 &changelog;
499
500 <!--   ~~~~~       New section      ~~~~~     -->
501
502 <sect2 id="upgradersnote">
503 <title>Note to Upgraders</title>
504
505 <para>
506  A quick list of things to be aware of before upgrading from earlier
507  versions of <application>Privoxy</application>:
508 </para>
509
510  <itemizedlist>
511
512  <listitem>
513   <para>
514    The recommended way to upgrade &my-app; is to backup your old
515    configuration files, install the new ones, verify that &my-app;
516    is working correctly and finally merge back your changes using
517    <application>diff</application> and maybe <application>patch</application>.
518   </para>
519   <para>
520    There are a number of new features in each &my-app; release and
521    most of them have to be explicitly enabled in the configuration
522    files. Old configuration files obviously don't do that and due
523    to syntax changes using old configuration files with a new
524    &my-app; isn't always possible anyway.
525   </para>
526  </listitem>
527  <listitem>
528   <para>
529     Note that some installers remove earlier versions completely,
530     including configuration files, therefore you should really save
531     any important configuration files!
532   </para>
533  </listitem>
534  <listitem>
535   <para>
536    On the other hand, other installers don't overwrite existing configuration
537    files, thinking you will want to do that yourself.
538   </para>
539  </listitem>
540  <listitem>
541   <para>
542    In the default configuration only fatal errors are logged now.
543    You can change that in the <link linkend="DEBUG">debug section</link>
544    of the configuration file. You may also want to enable more verbose
545    logging until you verified that the new &my-app; version is working
546    as expected.
547   </para>
548  </listitem>
549
550  <listitem>
551     <para>
552      Three other config file settings are now off by default:
553      <link linkend="enable-remote-toggle">enable-remote-toggle</link>,
554      <link linkend="enable-remote-http-toggle">enable-remote-http-toggle</link>,
555      and  <link linkend="enable-edit-actions">enable-edit-actions</link>.
556      If you use or want these, you will need to explicitly enable them, and
557      be aware of the security issues involved.
558     </para>
559   </listitem>
560
561 <!--
562  <listitem>
563   <para>
564    What constitutes a <quote>default</quote> configuration has changed,
565    and you may want to review which actions are <quote>on</quote> by
566    default. This is primarily a matter of emphasis, but some features
567    you may have been used to, may now be <quote>off</quote> by default.
568    There are also a number of new actions and filters you may want to
569    consider, most of which are not fully incorporated into the default
570    settings as yet (see above).
571   </para>
572  </listitem>
573 -->
574 <!--
575   <listitem>
576    <para>
577     The default actions setting is now <literal>Cautious</literal>. Previous
578     releases had a default setting of <literal>Medium</literal>. Experienced
579     users may want to adjust this, as it is fairly conservative by &my-app;
580     standards and past practices. See <ulink
581     url="http://config.privoxy.org/edit-actions-list?f=default">
582     http://config.privoxy.org/edit-actions-list?f=default</ulink>. New users
583     should try the default settings for a while before turning up the volume.
584    </para>
585   </listitem>
586
587   <listitem>
588    <para>
589     The default setting has filtering turned <emphasis>off</emphasis>, which
590     subsequently means that compression is <emphasis>on</emphasis>. Remember
591     that filtering does not work on compressed pages, so if you use, or want to
592     use, filtering, you will need to force compression off. Example:
593    </para>
594  <screen>
595   { +<link linkend="filter">filter</link>{google}  +<link linkend="prevent-compression">prevent-compression</link> }
596    .google.</screen>
597    <para>
598     Or if you use a number of filters, or filter many sites, you may just want
599     to turn off compression for all sites in
600     <filename>default.action</filename> (or
601     <filename>user.action</filename>).
602    </para>
603
604   </listitem>
605
606   <listitem>
607   <para>
608    Also, <link linkend="SESSION-COOKIES-ONLY">session-cookies-only</link> is
609    off by default now. If you've liked this feature in the past, you may want
610    to turn it back on in <filename>user.action</filename> now.
611   </para>
612   </listitem>
613
614
615   <listitem>
616   <para>
617    Some installers may not automatically start
618    <application>Privoxy</application> after installation.
619   </para>
620  </listitem>
621 -->
622
623  </itemizedlist>
624
625 </sect2>
626 </sect1>
627
628 <!--   ~~~~~       New section      ~~~~~     -->
629 <sect1 id="quickstart"><title>Quickstart to Using Privoxy</title>
630
631  <itemizedlist>
632
633  <listitem>
634   <para>
635   Install <application>Privoxy</application>. See the <link
636   linkend="installation">Installation Section</link> below for platform specific
637   information.
638  </para>
639  </listitem>
640
641  <listitem>
642   <para>
643    Advanced users and those who want to offer <application>Privoxy</application>
644    service to more than just their local machine should check the <link
645    linkend="config">main config file</link>, especially the <link
646    linkend="access-control">security-relevant</link> options. These are
647    off by default.
648   </para>
649  </listitem>
650
651  <listitem>
652   <para>
653   Start <application>Privoxy</application>, if the installation program has
654   not done this already (may vary according to platform). See the section
655   <link linkend="startup">Starting <application>Privoxy</application></link>.
656   </para>
657  </listitem>
658
659  <listitem>
660   <para>
661    Set your browser to use <application>Privoxy</application> as HTTP and
662    HTTPS (SSL)  <ulink url="http://en.wikipedia.org/wiki/Proxy_server">proxy</ulink>
663    by setting the proxy configuration for address of
664    <literal>127.0.0.1</literal> and port <literal>8118</literal>.
665    <emphasis>DO NOT</emphasis> activate proxying for <literal>FTP</literal> or
666    any protocols besides HTTP and HTTPS (SSL) unless you intend to prevent your
667    browser from using these protocols.
668   </para>
669  </listitem>
670
671  <listitem>
672   <para>
673     Flush your browser's disk and memory caches, to remove any cached ad images.
674     If using <application>Privoxy</application> to manage
675     <ulink url="http://en.wikipedia.org/wiki/Browser_cookie">cookies</ulink>,
676     you should remove any currently stored cookies too.
677   </para>
678  </listitem>
679
680  <listitem>
681   <para>
682    A default installation should provide a reasonable starting point for
683    most. There will undoubtedly be occasions where you will want to adjust the
684    configuration, but that can be dealt with as the need arises. Little
685    to no initial configuration is required in most cases, you may want
686    to enable the
687    <ulink url="config.html#ENABLE-EDIT-ACTIONS">web-based action editor</ulink> though.
688    Be sure to read the warnings first.
689   </para>
690   <para>
691    See the <link linkend="configuration">Configuration section</link> for more
692    configuration options, and how to customize your installation.
693    You might also want to look at the <link
694    linkend="quickstart-ad-blocking">next section</link> for a quick
695    introduction to how <application>Privoxy</application> blocks ads and
696    banners.
697 </para>
698  </listitem>
699
700  <listitem>
701   <para>
702     If you experience ads that slip through, innocent images that are
703     blocked, or otherwise feel the need to fine-tune
704     <application>Privoxy's</application> behavior, take a look at the <link
705     linkend="actions-file">actions files</link>. As a quick start, you might
706     find the <link linkend="act-examples">richly commented examples</link>
707     helpful. You can also view and edit the actions files through the <ulink
708     url="http://config.privoxy.org">web-based user interface</ulink>. The
709     Appendix <quote><link linkend="actionsanat">Troubleshooting: Anatomy of an
710     Action</link></quote> has hints on how to understand and debug actions that
711     <quote>misbehave</quote>.
712   </para>
713  </listitem>
714
715  <listitem>
716   <para>
717    Please see the section <link linkend="contact">Contacting the
718    Developers</link> on how to report bugs, problems with websites or to get
719    help.
720   </para>
721  </listitem>
722
723  <listitem>
724   <para>
725    Now enjoy surfing with enhanced control, comfort and privacy!
726   </para>
727  </listitem>
728
729  </itemizedlist>
730
731
732 <!--   ~~~~~       New section      ~~~~~     -->
733
734 <sect2 id="quickstart-ad-blocking">
735 <title>Quickstart to Ad Blocking</title>
736 <!--
737  NOTE:  This section is deliberately redundant for those that don't
738  want to read the whole thing (which is getting lengthy).
739 -->
740 <para>
741  Ad blocking is but one of <application>Privoxy's</application>
742  array of features. Many of these features are for the technically minded advanced
743  user. But, ad and banner blocking is surely common ground for everybody.
744 </para>
745 <para>
746  This section will provide a quick summary of ad blocking so
747  you can get up to speed quickly without having to read the more extensive
748  information provided below, though this is highly recommended.
749 </para>
750 <para>
751  First a bit of a warning ... blocking ads is much like blocking SPAM: the
752  more aggressive you are about it, the more likely you are to block
753  things that were not intended. And the more likely that some things
754  may not work as intended. So there is a trade off here. If you want
755  extreme ad free browsing, be prepared to deal with more
756  <quote>problem</quote> sites, and to spend more time adjusting the
757  configuration to solve these unintended consequences. In short, there is
758  not an easy way to eliminate <emphasis>all</emphasis> ads. Either take
759  the easy way and settle for <emphasis>most</emphasis> ads blocked with the
760  default configuration, or jump in and tweak it for your personal surfing
761  habits and preferences.
762 </para>
763 <para>
764  Secondly, a brief explanation of <application>Privoxy's </application>
765  <quote>actions</quote>. <quote>Actions</quote> in this context, are
766  the directives we use to tell <application>Privoxy</application> to perform
767  some task relating to HTTP transactions (i.e. web browsing). We tell
768  <application>Privoxy</application> to take some <quote>action</quote>. Each
769  action has a unique name and function. While there are many potential
770  <application>actions</application> in <application>Privoxy's</application>
771  arsenal, only a few are used for ad blocking. <link
772  linkend="actions">Actions</link>, and <link linkend="actions-file">action
773  configuration files</link>, are explained in depth below.
774 </para>
775 <para>
776  Actions are specified in <application>Privoxy's</application> configuration,
777  followed by one or more URLs to which the action should apply. URLs
778  can actually be URL type <link linkend="af-patterns">patterns</link> that use
779  wildcards so they can apply potentially to a range of similar URLs. The
780  actions, together with the URL patterns are called a section.
781 </para>
782 <para>
783  When you connect to a website, the full URL will either match one or more
784  of the sections as defined in <application>Privoxy's</application> configuration,
785  or not. If so, then <application>Privoxy</application> will perform the
786  respective actions. If not, then nothing special happens. Furthermore, web
787  pages may contain embedded, secondary URLs that your web browser will
788  use to load additional components of the page, as it parses the
789  original page's HTML content. An ad image for instance, is just an URL
790  embedded in the page somewhere. The image itself may be on the same server,
791  or a server somewhere else on the Internet. Complex web pages will have many
792  such embedded URLs. &my-app; can deal with each URL individually, so, for
793  instance, the main page text is not touched, but images from such-and-such
794  server are blocked.
795 </para>
796
797 <para>
798  The most important actions for basic ad blocking are:  <literal><link
799  linkend="block">block</link></literal>, <literal><link
800  linkend="handle-as-image">handle-as-image</link></literal>,
801  <literal><link
802  linkend="handle-as-empty-document">handle-as-empty-document</link></literal>,and
803  <literal><link linkend="set-image-blocker">set-image-blocker</link></literal>:
804 </para>
805
806  <itemizedlist>
807
808  <listitem>
809   <para>
810    <literal><link linkend="block">block</link></literal> - this is perhaps
811    the single most used action, and is particularly important for ad blocking.
812    This action stops any contact between your browser and any URL patterns
813    that match this action's configuration. It can be used for blocking ads,
814    but also anything that is determined to be unwanted. By itself, it simply
815    stops any communication with the remote server and sends
816    <application>Privoxy</application>'s own built-in BLOCKED page instead to
817    let you now what has happened (with some exceptions, see below).
818   </para>
819  </listitem>
820
821  <listitem>
822   <para>
823    <literal><link linkend="handle-as-image">handle-as-image</link></literal> -
824    tells <application>Privoxy</application> to treat this URL as an image.
825    <application>Privoxy</application>'s default configuration already does this
826    for all common image types (e.g. GIF), but there are many situations where this
827    is not so easy to determine. So we'll force it in these cases. This is particularly
828    important for ad blocking, since  only if we know that it's an image of
829    some kind, can we replace it with an image of our choosing, instead of the
830    <application>Privoxy</application> BLOCKED page (which would only result in
831    a <quote>broken image</quote> icon). There are some limitations to this
832    though. For instance, you can't just brute-force an image substitution for
833    an entire HTML page in most situations.
834   </para>
835  </listitem>
836
837  <listitem>
838   <para>
839    <literal><link linkend="handle-as-empty-document">handle-as-empty-document</link></literal> -
840    sends an empty document instead of <application>Privoxy's</application>
841    normal BLOCKED HTML page. This is useful for file types that are neither
842    HTML nor images, such as blocking JavaScript files.
843   </para>
844  </listitem>
845
846  <listitem>
847   <para>
848    <literal><link
849    linkend="set-image-blocker">set-image-blocker</link></literal> - tells
850    <application>Privoxy</application> what to display in place of an ad image that
851    has hit a block rule. For this to come into play, the URL must match a
852    <literal><link linkend="block">block</link></literal> action somewhere in the
853    configuration, <emphasis>and</emphasis>, it must also match an
854    <literal><link linkend="handle-as-image">handle-as-image</link></literal> action.
855   </para>
856   <para>
857    The configuration options on what to display instead of the ad are:
858   </para>
859   <simplelist>
860    <member>
861     &nbsp;&nbsp;&nbsp;<emphasis>pattern</emphasis> - a checkerboard pattern, so that an ad
862     replacement is obvious. This is the default.
863    </member>
864   </simplelist>
865   <simplelist>
866    <member>
867     &nbsp;&nbsp;&nbsp;<emphasis>blank</emphasis> - A very small empty GIF image is displayed.
868     This is the so-called <quote>invisible</quote> configuration option.
869    </member>
870   </simplelist>
871   <simplelist>
872    <member>
873     &nbsp;&nbsp;&nbsp;<emphasis>http://&lt;URL&gt;</emphasis> - A redirect to any image anywhere
874     of the user's choosing (advanced usage).
875    </member>
876   </simplelist>
877   </listitem>
878
879 </itemizedlist>
880
881 <para>
882  Advanced users will eventually want to explore &my-app;
883  <literal><link linkend="filter">filters</link></literal> as well. Filters
884  are very different from <literal><link
885  linkend="block">blocks</link></literal>.
886  A <quote>block</quote> blocks a site, page, or unwanted contented. Filters
887  are a way of filtering or modifying what is actually on the page. An example
888  filter usage: a text replacement of <quote>no-no</quote> for
889  <quote>nasty-word</quote>. That is a very simple example. This process can be
890  used for ad blocking, but it is more in the realm of advanced usage and has
891  some pitfalls to be wary off.
892 </para>
893
894 <para>
895  The quickest way to adjust any of these settings is with your browser through
896  the special <application>Privoxy</application> editor at <ulink
897  url="http://config.privoxy.org/show-status">http://config.privoxy.org/show-status</ulink>
898  (shortcut: <ulink url="http://p.p/">http://p.p/show-status</ulink>). This
899  is an internal page, and does not require Internet access.
900 </para>
901
902 <para>
903  Note that as of <application>Privoxy</application> 3.0.7 beta the
904  action editor is disabled by default. Check the
905  <ulink url="config.html#ENABLE-EDIT-ACTIONS">enable-edit-actions
906   section in the configuration file</ulink> to learn why and in which
907  cases it's safe to enable again.
908 </para>
909
910 <para>
911  If you decided to enable the action editor, select the appropriate
912  <quote>actions</quote> file, and click
913  <quote><guibutton>Edit</guibutton></quote>. It is best to put personal or
914  local preferences in <filename>user.action</filename> since this is not
915  meant to be overwritten during upgrades, and will over-ride the settings in
916  other files. Here you can insert new <quote>actions</quote>, and URLs for ad
917  blocking or other purposes, and make other adjustments to the configuration.
918  <application>Privoxy</application> will detect these changes automatically.
919 </para>
920
921 <para>
922  A quick and simple step by step example:
923 </para>
924
925  <itemizedlist>
926
927   <listitem>
928    <para>
929      Right click on the ad image to be blocked, then select
930      <quote><guimenuitem>Copy Link Location</guimenuitem></quote> from the
931      pop-up menu.
932    </para>
933   </listitem>
934   <listitem>
935    <para>
936     Set your browser to
937     <ulink
938  url="http://config.privoxy.org/show-status">http://config.privoxy.org/show-status</ulink>
939    </para>
940   </listitem>
941   <listitem>
942    <para>
943     Find <filename>user.action</filename> in the top section, and click
944     on <quote><guibutton>Edit</guibutton></quote>:
945    </para>
946
947  <!-- image of editor and actions files selections -->
948   <figure pgwide="0" float="0"><title>Actions Files in Use</title>
949    <mediaobject>
950      <imageobject>
951       <imagedata  fileref="files-in-use.jpg" format="jpg">
952        </imageobject>
953        <textobject>
954         <phrase>[ Screenshot of Actions Files in Use ]</phrase>
955       </textobject>
956    </mediaobject>
957   </figure>
958  </listitem>
959
960  <listitem>
961   <para>
962    You should have a section with only
963    <literal><link linkend="block">block</link></literal> listed under
964    <quote>Actions:</quote>.
965    If not, click a <quote><guibutton>Insert new section below</guibutton></quote>
966    button, and in the new section that just appeared, click the
967    <guibutton>Edit</guibutton> button right under the word <quote>Actions:</quote>.
968    This will bring up a list of all actions. Find
969    <literal><link linkend="block">block</link></literal> near the top, and click
970    in the <quote>Enabled</quote> column, then <quote><guibutton>Submit</guibutton></quote>
971    just below the list.
972   </para>
973  </listitem>
974  <listitem>
975   <para>
976    Now, in the <literal><link linkend="block">block</link></literal> actions section,
977    click the <quote><guibutton>Add</guibutton></quote> button, and paste the URL the
978    browser got from <quote><guimenuitem>Copy Link Location</guimenuitem></quote>.
979    Remove the <literal>http://</literal> at the beginning of the URL. Then, click
980    <quote><guibutton>Submit</guibutton></quote> (or
981    <quote><guibutton>OK</guibutton></quote> if in a pop-up window).
982   </para>
983  </listitem>
984  <listitem>
985   <para>
986    Now go back to the original page, and press <keycap>SHIFT-Reload</keycap>
987    (or flush all browser caches). The image should be gone now.
988   </para>
989  </listitem>
990
991  </itemizedlist>
992
993 <para>
994  This is a very crude and simple example. There might be good reasons to use a
995  wildcard pattern match to include potentially similar images from the same
996  site. For a more extensive explanation of <quote>patterns</quote>, and
997  the entire actions concept, see <link linkend="actions-file">the Actions
998  section</link>.
999 </para>
1000
1001 <para>
1002  For advanced users who want to hand edit their config files, you might want
1003  to now go to the <link linkend="act-examples">Actions Files Tutorial</link>.
1004  The ideas explained therein also apply to the web-based editor.
1005 </para>
1006 <para>
1007  There are also various
1008  <link linkend="filter">filters</link> that can be used for ad blocking
1009  (filters are a special subset of actions). These
1010  fall into the <quote>advanced</quote> usage category, and are explained in
1011  depth in later sections.
1012 </para>
1013
1014 </sect2>
1015
1016 </sect1>
1017
1018 <!--  ~  End section  ~  -->
1019
1020
1021 <!--   ~~~~~       New section      ~~~~~     -->
1022 <sect1 id="startup">
1023 <title>Starting Privoxy</title>
1024 <para>
1025  Before launching <application>Privoxy</application> for the first time, you
1026  will want to configure your browser(s) to use
1027  <application>Privoxy</application> as a HTTP and HTTPS (SSL)
1028  <ulink url="http://en.wikipedia.org/wiki/Proxy_server">proxy</ulink>. The default is
1029  127.0.0.1 (or localhost) for the proxy address, and port 8118 (earlier versions
1030  used port 8000). This is the one configuration step <emphasis>that must be done
1031 </emphasis>!
1032 </para>
1033 <para>
1034  Please note that <application>Privoxy</application> can only proxy HTTP and
1035  HTTPS traffic. It will not work with FTP or other protocols.
1036 </para>
1037
1038  <!-- image of Mozilla Proxy configuration -->
1039   <figure pgwide="0" float="0"><title>Proxy Configuration Showing
1040   Mozilla/Netscape HTTP and HTTPS (SSL) Settings</title>
1041    <mediaobject>
1042      <imageobject>
1043       <imagedata  fileref="proxy_setup.jpg" format="jpg">
1044        </imageobject>
1045        <textobject>
1046         <phrase>[ Screenshot of Mozilla Proxy Configuration ]</phrase>
1047       </textobject>
1048    </mediaobject>
1049   </figure>
1050
1051
1052 <para>
1053  With <application>Firefox</application>, this is typically set under:
1054 </para>
1055
1056 <literallayout>
1057  <guibutton>Tools</guibutton> -> <guibutton>Options</guibutton> ->  <guibutton>Advanced</guibutton> -> <guibutton>Network</guibutton> -><guibutton>Connection</guibutton> -> <guibutton>Settings</guibutton>
1058 </literallayout>
1059
1060 <para>
1061  Or optionally on some platforms:
1062 </para>
1063
1064 <literallayout>
1065  <guibutton>Edit</guibutton> -> <guibutton>Preferences</guibutton> -> <guibutton>General</guibutton> -> <guibutton>Connection Settings</guibutton> -> <guibutton>Manual Proxy Configuration</guibutton>
1066 </literallayout>
1067
1068
1069 <para>
1070  With <application>Netscape</application> (and
1071  <application>Mozilla</application>), this can be set under:
1072 </para>
1073
1074
1075 <literallayout>
1076 <!-- Mix ascii and gui art, something for everybody -->
1077 <!-- spacing on this is tricky -->
1078  <guibutton>Edit</guibutton> -> <guibutton>Preferences</guibutton> -> <guibutton>Advanced</guibutton> -> <guibutton>Proxies</guibutton> -> <guibutton>HTTP Proxy</guibutton>
1079 </literallayout>
1080
1081 <para>
1082  For <application>Internet Explorer v.5-7</application>:
1083 </para>
1084
1085 <literallayout>
1086  <guibutton>Tools</guibutton> -> <guibutton>Internet Options</guibutton> -> <guibutton>Connections</guibutton> -> <guibutton>LAN Settings</guibutton>
1087 </literallayout>
1088
1089 <para>
1090  Then, check <quote>Use Proxy</quote> and fill in the appropriate info
1091  (Address: 127.0.0.1, Port: 8118). Include HTTPS (SSL), if you want HTTPS
1092  proxy support too (sometimes labeled <quote>Secure</quote>). Make sure any
1093  checkboxes like <quote>Use the same proxy server for all protocols</quote> is
1094  <emphasis>UNCHECKED</emphasis>. You want only HTTP and HTTPS (SSL)!
1095 </para>
1096
1097  <!-- image of IE Proxy configuration -->
1098   <figure pgwide="0" float="0"><title>Proxy Configuration Showing
1099   Internet Explorer HTTP and HTTPS (Secure) Settings</title>
1100    <mediaobject>
1101      <imageobject>
1102       <imagedata  fileref="proxy2.jpg" format="jpg">
1103        </imageobject>
1104        <textobject>
1105         <phrase>[ Screenshot of IE Proxy Configuration ]</phrase>
1106       </textobject>
1107    </mediaobject>
1108   </figure>
1109
1110
1111 <para>
1112  After doing this, flush your browser's disk and memory caches to force a
1113  re-reading of all pages and to get rid of any ads that may be cached. Remove
1114  any <ulink url="http://en.wikipedia.org/wiki/Browser_cookie">cookies</ulink>,
1115  if you want <application>Privoxy</application> to manage that. You are now
1116  ready to start enjoying the benefits of using
1117  <application>Privoxy</application>!
1118 </para>
1119
1120 <para>
1121  <application>Privoxy</application> itself is typically started by specifying the
1122  main configuration file to be used on the command line. If no configuration
1123  file is specified on the command line, <application>Privoxy</application>
1124  will look for a file named <filename>config</filename> in the current
1125  directory. Except on Win32 where it will try <filename>config.txt</filename>.
1126 </para>
1127
1128 <sect2 id="start-debian">
1129 <title>Debian</title>
1130 <para>
1131  We use a script. Note that Debian typically starts &my-app; upon booting per
1132  default.  It will use the file
1133  <filename>/etc/privoxy/config</filename> as its main configuration
1134  file.
1135 </para>
1136  <screen>
1137  # /etc/init.d/privoxy start
1138 </screen>
1139 </sect2>
1140
1141 <sect2 id="start-freebsd">
1142 <title>FreeBSD and ElectroBSD</title>
1143 <para>
1144  To start <application>Privoxy</application> upon booting, add
1145  "privoxy_enable='YES'" to <filename>/etc/rc.conf</filename>.
1146  <application>Privoxy</application> will use
1147  <filename>/usr/local/etc/privoxy/config</filename> as its main
1148  configuration file.
1149 </para>
1150 <para>
1151  If you installed <application>Privoxy</application> into a jail, the
1152  paths above are relative to the jail root.
1153 </para>
1154 <para>
1155  To start <application>Privoxy</application> manually, run:
1156 </para>
1157  <screen>
1158  # service privoxy onestart
1159 </screen>
1160 </sect2>
1161
1162 <sect2 id="start-windows">
1163 <title>Windows</title>
1164 <para>
1165 Click on the &my-app; Icon to start <application>Privoxy</application>. If no configuration file is
1166  specified on the command line, <application>Privoxy</application> will look
1167  for a file named <filename>config.txt</filename>. Note that Windows will
1168  automatically start &my-app; when the system starts if you chose that option
1169  when installing.
1170 </para>
1171 <para>
1172  <application>Privoxy</application> can run with full Windows service functionality.
1173  On Windows only, the &my-app; program has two new command line arguments
1174  to install and uninstall &my-app; as a service. See the
1175  <link linkend="installation-pack-win">Windows Installation
1176  instructions</link> for details.
1177 </para>
1178 </sect2>
1179
1180 <sect2 id="start-unices">
1181 <title>Generic instructions for Unix derivates (Solaris, NetBSD, HP-UX etc.)</title>
1182 <para>
1183 Example Unix startup command:
1184 </para>
1185  <screen>
1186  # /usr/sbin/privoxy --user privoxy /etc/privoxy/config
1187 </screen>
1188 <para>
1189  Note that if you installed <application>Privoxy</application> through
1190  a package manager, the package will probably contain a platform-specific
1191  script or configuration file to start <application>Privoxy</application>
1192  upon boot.
1193 </para>
1194 </sect2>
1195
1196 <sect2 id="start-macosx">
1197 <title>Mac OS X</title>
1198 <para>
1199  The privoxy service will automatically start after a successful installation
1200  (and thereafter every time your computer starts up) however you will need to
1201  configure your web browser(s) to use it. To do so, configure them to use a
1202  proxy for HTTP and HTTPS at the address 127.0.0.1:8118.
1203 </para>
1204 <para>
1205  To prevent the privoxy service from automatically starting when your computer
1206  starts up, remove or rename the file <literal>/Library/LaunchDaemons/org.ijbswa.privoxy.plist</literal>
1207  (on OS X 10.5 and higher) or the folder named
1208  <literal>/Library/StartupItems/Privoxy</literal> (on OS X 10.4 'Tiger').
1209 </para>
1210 <para>
1211  To manually start or stop the privoxy service, use the scripts startPrivoxy.sh
1212  and stopPrivoxy.sh supplied in /Applications/Privoxy. They must be run from an
1213  administrator account, using sudo.
1214 </para>
1215 </sect2>
1216
1217
1218 <!--
1219
1220 <para>
1221  See the section <link linkend="cmdoptions">Command line options</link> for
1222  further info.
1223 </para>
1224
1225 must find a better place for this paragraph
1226
1227 <para>
1228  The included default configuration files should give a reasonable starting
1229  point. Most of the per site configuration is done in the
1230  <ulink url="actions-file.html"><quote>actions</quote></ulink> files. These are
1231  where various cookie actions are defined, ad and banner blocking, and other
1232  aspects of <application>Privoxy</application> configuration. There are several
1233  such files included, with varying levels of aggressiveness.
1234 </para>
1235
1236 <para>
1237  You will probably want to keep an eye out for sites for which you may prefer
1238  persistent cookies, and add these to your actions configuration as needed. By
1239  default, most of these will be accepted only during the current browser
1240  session (aka <quote>session cookies</quote>), unless you add them to the
1241  configuration. If you want the browser to handle this instead, you will need
1242  to edit <filename>user.action</filename> (or through the web based interface)
1243  and disable this feature. If you use more than one browser, it would make
1244  more sense to let <application>Privoxy</application> handle this. In which
1245  case, the browser(s) should be set to accept all cookies.
1246 </para>
1247
1248 <para>
1249  Another feature where you will probably want to define exceptions for trusted
1250  sites is the popup-killing (through  <ulink
1251  url="actions-file.html#FILTER-POPUPS"><quote>+filter{popups}</quote></ulink>),
1252  because your favorite shopping, banking, or leisure site may need
1253  popups (explained below).
1254 </para>
1255
1256 <para>
1257  <application>Privoxy</application> does not support all of the optional HTTP/1.1
1258  features yet. In the unlikely event that you experience inexplicable problems
1259  with browsers that use HTTP/1.1 per default
1260  (like <application>Mozilla</application> or recent versions of I.E.), you might
1261  try to force HTTP/1.0 compatibility. For Mozilla, look under <literal>Edit -&gt;
1262  Preferences -&gt; Debug -&gt; Networking</literal>.
1263  Alternatively, set the <quote>+downgrade-http-version</quote> config option in
1264  <filename>default.action</filename> which will downgrade your browser's HTTP
1265  requests from HTTP/1.1 to HTTP/1.0 before processing them.
1266 </para>
1267
1268 <para>
1269  After running <application>Privoxy</application> for a while, you can
1270  start to fine tune the configuration to suit your personal, or site,
1271  preferences and requirements. There are many, many aspects that can
1272  be customized. <quote>Actions</quote>
1273  can be adjusted by pointing your browser to
1274  <ulink url="http://config.privoxy.org/">http://config.privoxy.org/</ulink>
1275  (shortcut: <ulink url="http://p.p/">http://p.p/</ulink>),
1276  and then follow the link to <quote>View &#38; Change the Current Configuration</quote>.
1277  (This is an internal page and does not require Internet access.)
1278 </para>
1279
1280 <para>
1281  In fact, various aspects of <application>Privoxy</application>
1282  configuration can be viewed from this page, including
1283  current configuration parameters, source code version numbers,
1284  the browser's request headers, and <quote>actions</quote> that apply
1285  to a given URL. In addition to the actions file
1286  editor mentioned above, <application>Privoxy</application> can also
1287  be turned <quote>on</quote> and <quote>off</quote> (toggled) from this page.
1288 </para>
1289
1290 <para>
1291  If you encounter problems, try loading the page without
1292  <application>Privoxy</application>. If that helps, enter the URL where
1293  you have the problems into <ulink url="http://p.p/show-url-info">the browser
1294  based rule tracing utility</ulink>. See which rules apply and why, and
1295  then try turning them off for that site one after the other, until the problem
1296  is gone. When you have found the culprit, you might want to turn the rest on
1297  again.
1298 </para>
1299
1300 <para>
1301  If the above paragraph sounds gibberish to you, you might want to <link
1302  linkend="actions-file">read more about the actions concept</link>
1303  or even dive deep into the <link linkend="actionsanat">Appendix
1304  on actions</link>.
1305 </para>
1306
1307 <para>
1308  If you can't get rid of the problem at all, think you've found a bug in
1309  Privoxy, want to propose a new feature or smarter rules, please see the
1310  section <link linkend="contact"><quote>Contacting the
1311  Developers</quote></link> below.
1312 </para>
1313
1314 -->
1315
1316 <!--   ~~~~~       New section      ~~~~~     -->
1317 <sect2 id="cmdoptions">
1318 <title>Command Line Options</title>
1319 <para>
1320  <application>Privoxy</application> may be invoked with the following
1321  command-line options:
1322 </para>
1323
1324  <itemizedlist>
1325
1326  <listitem>
1327   <para>
1328    <emphasis>--config-test</emphasis>
1329   </para>
1330   <para>
1331    Exit after loading the configuration files before binding to
1332    the listen address. The exit code signals whether or not the
1333    configuration files have been successfully loaded.
1334   </para>
1335   <para>
1336    If the exit code is 1, at least one of the configuration files
1337    is invalid, if it is 0, all the configuration files have been
1338    successfully loaded (but may still contain errors that can
1339    currently only be detected at run time).
1340   </para>
1341   <para>
1342    This option doesn't affect the log setting, combination with
1343    <emphasis>--no-daemon</emphasis> is recommended if a configured
1344    log file shouldn't be used.
1345   </para>
1346  </listitem>
1347  <listitem>
1348   <para>
1349     <emphasis>--version</emphasis>
1350   </para>
1351   <para>
1352      Print version info and exit. Unix only.
1353   </para>
1354  </listitem>
1355  <listitem>
1356   <para>
1357     <emphasis>--help</emphasis>
1358   </para>
1359   <para>
1360    Print short usage info and exit. Unix only.
1361   </para>
1362  </listitem>
1363  <listitem>
1364   <para>
1365    <emphasis>--no-daemon</emphasis>
1366   </para>
1367   <para>
1368    Don't become a daemon, i.e. don't fork and become process group
1369    leader, and don't detach from controlling tty. Unix only.
1370   </para>
1371  </listitem>
1372  <listitem>
1373   <para>
1374    <emphasis>--pidfile FILE</emphasis>
1375   </para>
1376   <para>
1377    On startup, write the process ID to <emphasis>FILE</emphasis>. Delete the
1378    <emphasis>FILE</emphasis> on exit. Failure to create or delete the
1379    <emphasis>FILE</emphasis> is non-fatal. If no <emphasis>FILE</emphasis>
1380    option is given, no PID file will be used. Unix only.
1381   </para>
1382  </listitem>
1383  <listitem>
1384   <para>
1385    <emphasis>--user USER[.GROUP]</emphasis>
1386   </para>
1387   <para>
1388    After (optionally) writing the PID file, assume the user  ID  of
1389    <emphasis>USER</emphasis>, and if included the GID of GROUP.  Exit if the
1390    privileges are not sufficient to do so. Unix only.
1391   </para>
1392  </listitem>
1393  <listitem>
1394   <para>
1395    <emphasis>--chroot</emphasis>
1396   </para>
1397   <para>
1398    Before changing to the user ID given in the <emphasis>--user</emphasis> option,
1399    chroot to that user's home directory, i.e. make the kernel pretend to the &my-app;
1400    process that the directory tree starts there. If set up carefully, this can limit
1401    the impact of possible vulnerabilities in &my-app; to the files contained in that hierarchy.
1402    Unix only.
1403   </para>
1404  </listitem>
1405  <listitem>
1406   <para>
1407    <emphasis>--pre-chroot-nslookup hostname</emphasis>
1408   </para>
1409   <para>
1410    Specifies a hostname (for example www.privoxy.org) to look up before doing a chroot.
1411    On some systems, initializing the resolver library involves reading config files from
1412    /etc and/or loading additional shared libraries from /lib.
1413    On these systems, doing a hostname lookup before the chroot reduces
1414    the number of files that must be copied into the chroot tree.
1415   </para>
1416   <para>
1417    For fastest startup speed, a good value is a hostname that is not in /etc/hosts but that
1418    your local name server (listed in /etc/resolv.conf) can resolve without recursion
1419    (that is, without having to ask any other name servers). The hostname need not exist,
1420    but if it doesn't, an error message (which can be ignored) will be output.
1421   </para>
1422  </listitem>
1423
1424  <listitem>
1425   <para>
1426     <emphasis>configfile</emphasis>
1427   </para>
1428   <para>
1429     If no <emphasis>configfile</emphasis> is included on the command line,
1430     <application>Privoxy</application> will look for a file named
1431     <quote>config</quote> in the current directory (except on Win32
1432     where it will look for <quote>config.txt</quote> instead). Specify
1433     full path to avoid confusion. If no config file is found,
1434     <application>Privoxy</application> will fail to start.
1435   </para>
1436  </listitem>
1437
1438  </itemizedlist>
1439
1440 <para>
1441  On <application>MS Windows</application> only there are two additional
1442  command-line options to allow <application>Privoxy</application> to install and
1443  run as a <emphasis>service</emphasis>. See the
1444 <link linkend="installation-pack-win">Window Installation section</link>
1445 for details.
1446 </para>
1447
1448 </sect2>
1449
1450 </sect1>
1451
1452 <!--  ~  End section  ~  -->
1453
1454
1455 <!--   ~~~~~       New section      ~~~~~     -->
1456 <sect1 id="configuration"><title>Privoxy Configuration</title>
1457  <para>
1458   All <application>Privoxy</application> configuration is stored
1459   in text files. These files can be edited with a text editor.
1460   Many important aspects of <application>Privoxy</application> can
1461   also be controlled easily with a web browser.
1462  </para>
1463
1464
1465 <!--   ~~~~~       New section      ~~~~~     -->
1466
1467 <sect2 id="control-with-webbrowser">
1468 <title>Controlling Privoxy with Your Web Browser</title>
1469 <para>
1470  <application>Privoxy</application>'s user interface can be reached through the special
1471  URL <ulink url="http://config.privoxy.org/">http://config.privoxy.org/</ulink>
1472  (shortcut: <ulink url="http://p.p/">http://p.p/</ulink>),
1473  which is a built-in page and works without Internet access.
1474  You will see the following section:
1475 </para>
1476
1477 <!-- Needs to be put in a table and colorized  -->
1478 <screen><!-- want the background color that goes with screen -->
1479  <msgtext>
1480  <bridgehead renderas="sect2">&nbsp;&nbsp;&nbsp;&nbsp;Privoxy Menu</bridgehead>
1481  <simplelist>
1482  <member>
1483   &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&squf;&nbsp;&nbsp;<ulink url="http://config.privoxy.org/show-status">View & change the current configuration</ulink>
1484  </member>
1485  <member>
1486   &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&squf;&nbsp;&nbsp;<ulink url="http://config.privoxy.org/client-tags">View or toggle the tags that can be set based on the client's address</ulink>
1487  </member>
1488  <member>
1489   &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&squf;&nbsp;&nbsp;<ulink url="http://config.privoxy.org/show-request">View the request headers.</ulink>
1490  </member>
1491  <member>
1492   &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&squf;&nbsp;&nbsp;<ulink url="http://config.privoxy.org/show-url-info">Look up which actions apply to a URL and why</ulink>
1493  </member>
1494  <member>
1495   &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&squf;&nbsp;&nbsp;<ulink url="http://config.privoxy.org/toggle">Toggle Privoxy on or off</ulink>
1496  </member>
1497  <member>
1498   &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&squf;&nbsp;&nbsp;<ulink
1499   url="https://www.privoxy.org/&p-version;/user-manual/">Documentation</ulink>
1500  </member>
1501  </simplelist>
1502  </msgtext>
1503 </screen>
1504
1505
1506 <para>
1507  This should be self-explanatory. Note the first item leads to an editor for the
1508  <link linkend="actions-file">actions files</link>, which is where the ad, banner,
1509  cookie, and URL blocking magic is configured as well as other advanced features of
1510  <application>Privoxy</application>. This is an easy way to adjust various
1511  aspects of <application>Privoxy</application> configuration. The actions
1512  file, and other configuration files, are explained in detail below.
1513 </para>
1514
1515 <para>
1516  <quote>Toggle Privoxy On or Off</quote> is handy for sites that might
1517  have problems with your current actions and filters. You can in fact use
1518  it as a test to see whether it is <application>Privoxy</application>
1519  causing the problem or not. <application>Privoxy</application> continues
1520  to run as a proxy in this case, but all manipulation is disabled, i.e.
1521  <application>Privoxy</application> acts like a normal forwarding proxy.
1522 </para>
1523
1524 <para>
1525  Note that several of the features described above are disabled by default
1526  in <application>Privoxy</application> 3.0.7 beta and later.
1527  Check the
1528  <ulink url="config.html">configuration file</ulink> to learn why
1529  and in which cases it's safe to enable them again.
1530 </para>
1531
1532 </sect2>
1533
1534 <!--  ~  End section  ~  -->
1535
1536
1537
1538
1539 <!--   ~~~~~       New section      ~~~~~     -->
1540
1541 <sect2 id="confoverview">
1542 <title>Configuration Files Overview</title>
1543 <para>
1544  For Unix, *BSD and GNU/Linux, all configuration files are located in
1545  <filename>/etc/privoxy/</filename> by default. For MS Windows
1546  these are all in the same directory as the
1547  <application>Privoxy</application> executable. <![%p-not-stable;[ The name
1548  and number of configuration files has changed from previous versions, and is
1549  subject to change as development progresses.]]>
1550 </para>
1551
1552 <para>
1553  The installed defaults provide a reasonable starting point, though
1554  some settings may be aggressive by some standards. For the time being, the
1555  principle configuration files are:
1556 </para>
1557
1558  <itemizedlist>
1559
1560   <listitem>
1561    <para>
1562      The <link linkend="config">main configuration file</link> is named <filename>config</filename>
1563      on GNU/Linux, Unix, BSD, and <filename>config.txt</filename>
1564      on Windows. This is a required file.
1565    </para>
1566   </listitem>
1567
1568   <listitem>
1569    <para>
1570     <filename>match-all.action</filename> is used to define which <quote>actions</quote>
1571     relating to banner-blocking, images, pop-ups, content modification, cookie handling
1572     etc should be applied by default. It should be the first actions file loaded.
1573    </para>
1574    <para>
1575     <filename>default.action</filename> defines many exceptions (both positive and negative)
1576     from the default set of actions that's configured in <filename>match-all.action</filename>.
1577     It should be the second actions file loaded and shouldn't be edited by the user.
1578    </para>
1579    <para>
1580     Multiple actions files may be defined in <filename>config</filename>. These
1581     are processed in the order they are defined. Local customizations and locally
1582     preferred exceptions to the default policies as defined in
1583     <filename>match-all.action</filename> (which you will most probably want
1584     to define sooner or later) are best applied in <filename>user.action</filename>,
1585     where you can preserve them across upgrades. The file isn't installed by all
1586     installers, but you can easily create it yourself with a text editor.
1587    </para>
1588    <para>
1589     There is also a web based editor that can be accessed from
1590     <ulink
1591     url="http://config.privoxy.org/show-status">http://config.privoxy.org/show-status</ulink>
1592     (Shortcut: <ulink
1593     url="http://p.p/show-status">http://p.p/show-status</ulink>) for the
1594     various actions files.
1595    </para>
1596   </listitem>
1597
1598   <listitem>
1599    <para>
1600     <quote>Filter files</quote> (the <link linkend="filter-file">filter
1601     file</link>) can be used to re-write the raw page content, including
1602     viewable text as well as embedded HTML and JavaScript, and whatever else
1603     lurks on any given web page. The filtering jobs are only pre-defined here;
1604     whether to apply them or not is up to the actions files.
1605     <filename>default.filter</filename> includes various filters made
1606     available for use by the developers. Some are much more intrusive than
1607     others, and all should be used with caution. You may define additional
1608     filter files in <filename>config</filename> as you can with
1609     actions files. We suggest <filename>user.filter</filename> for any
1610     locally defined filters or customizations.
1611    </para>
1612   </listitem>
1613
1614  </itemizedlist>
1615
1616 <para>
1617  The syntax of the configuration and filter files may change between different
1618  Privoxy versions, unfortunately some enhancements cost backwards compatibility.
1619  <!-- Add link to documentation-->
1620 </para>
1621
1622 <para>
1623  All files use the <quote><literal>#</literal></quote> character to denote a
1624  comment (the rest of the line will be ignored) and understand line continuation
1625  through placing a backslash ("<literal>\</literal>") as the very last character
1626  in a line. If the <literal>#</literal> is preceded by a backslash, it looses
1627  its special function. Placing a <literal>#</literal> in front of an otherwise
1628  valid configuration line to prevent it from being interpreted is called "commenting
1629  out" that line. Blank lines are ignored.
1630 </para>
1631
1632 <para>
1633  The actions files and filter files
1634  can use Perl style <link linkend="regex">regular expressions</link> for
1635  maximum flexibility.
1636 </para>
1637
1638 <para>
1639  After making any changes, there is no need to restart
1640  <application>Privoxy</application> in order for the changes to take
1641  effect. <application>Privoxy</application> detects such changes
1642  automatically. Note, however, that it may take one or two additional
1643  requests for the change to take effect. When changing the listening address
1644  of <application>Privoxy</application>, these <quote>wake up</quote> requests
1645  must obviously be sent to the <emphasis>old</emphasis> listening address.
1646 </para>
1647
1648 <![%p-not-stable;[
1649 <para>
1650  While under development, the configuration content is subject to change.
1651  The below documentation may not be accurate by the time you read this.
1652  Also, what constitutes a <quote>default</quote> setting, may change, so
1653  please check all your configuration files on important issues.
1654 </para>
1655 ]]>
1656
1657 </sect2>
1658 </sect1>
1659 <!--  ~  End section  ~  -->
1660
1661
1662 <!--   ~~~~~~~~       New section Header    ~~~~~~~~~     -->
1663
1664 <!-- **************************************************** -->
1665 <!-- Include config.sgml here -->
1666 <!-- This is where the entire config file is detailed. -->
1667  &config;
1668 <!-- end include  -->
1669
1670
1671 <!--  ~  End section  ~  -->
1672
1673
1674
1675 <!--   ~~~~~~~~       New section Header    ~~~~~~~~~     -->
1676
1677 <sect1 id="actions-file"><title>Actions Files</title>
1678
1679
1680 <!--
1681   XXX: similar descriptions are in the Configuration Files sections.
1682   We should only describe them at one place.
1683 -->
1684 <para>
1685  The actions files are used to define what <emphasis>actions</emphasis>
1686  <application>Privoxy</application> takes for which URLs, and thus determines
1687  how ad images, cookies and various other aspects of HTTP content and
1688  transactions are handled, and on which sites (or even parts thereof).
1689  There are a number of such actions, with a wide range of functionality.
1690  Each action does something a little different.
1691  These actions give us a veritable arsenal of tools with which to exert
1692  our control, preferences and independence. Actions can be combined so that
1693  their effects are aggregated when applied against a given set of URLs.
1694 </para>
1695 <para>
1696  There
1697  are three action files included with <application>Privoxy</application> with
1698  differing purposes:
1699 </para>
1700  <itemizedlist>
1701   <listitem>
1702    <para>
1703     <filename>match-all.action</filename> - is used to define which
1704     <quote>actions</quote> relating to banner-blocking, images, pop-ups,
1705     content modification, cookie handling etc should be applied by default.
1706     It should be the first actions file loaded
1707    </para>
1708   </listitem>
1709   <listitem>
1710    <para>
1711     <filename>default.action</filename> - defines many exceptions (both
1712     positive and negative) from the default set of actions that's configured
1713     in <filename>match-all.action</filename>. It is a set of rules that should
1714     work reasonably well as-is for most users. This file is only supposed to
1715     be edited by the developers. It should be the second actions file loaded.
1716    </para>
1717   </listitem>
1718   <listitem>
1719    <para>
1720     <filename>user.action</filename> - is intended to be for local site
1721     preferences and exceptions. As an example, if your ISP or your bank
1722     has specific requirements, and need special handling, this kind of
1723     thing should go here. This file will not be upgraded.
1724    </para>
1725   </listitem>
1726   <listitem>
1727    <para>
1728     <guibutton>Edit</guibutton>  <guibutton>Set to Cautious</guibutton> <guibutton>Set to Medium</guibutton>  <guibutton>Set to Advanced</guibutton>
1729    </para>
1730    <para>
1731     These have increasing levels of aggressiveness <emphasis>and have no
1732     influence on your browsing unless you select them explicitly in the
1733     editor</emphasis>. A default installation should be pre-set to
1734     <literal>Cautious</literal>. New users should try this for a while before
1735     adjusting the settings to more aggressive levels. The more aggressive
1736     the settings, then the more likelihood there is of problems such as sites
1737     not working as they should.
1738    </para>
1739    <para>
1740     The <guibutton>Edit</guibutton> button allows you to turn each
1741     action on/off individually for fine-tuning. The <guibutton>Cautious</guibutton>
1742     button changes the actions list to low/safe settings which will activate
1743     ad blocking and a minimal set of &my-app;'s features, and subsequently
1744     there will be less of a chance for accidental problems. The
1745     <guibutton>Medium</guibutton> button sets the list to a medium level of
1746     other features and a low level set of privacy features. The
1747     <guibutton>Advanced</guibutton> button sets the list to a high level of
1748     ad blocking and medium level of privacy. See the chart below. The latter
1749     three buttons over-ride any changes via with the
1750     <guibutton>Edit</guibutton> button. More fine-tuning can be done in the
1751     lower sections of this internal page.
1752    </para>
1753    <para>
1754     While the actions file editor allows to enable these settings in all
1755     actions files, they are only supposed to be enabled in the first one
1756     to make sure you don't unintentionally overrule earlier rules.
1757    </para>
1758    <para>
1759     The default profiles, and their associated actions, as pre-defined in
1760     <filename>default.action</filename> are:
1761    </para>
1762     <table frame=all><title>Default Configurations</title>
1763     <tgroup cols=4 align=left colsep=1 rowsep=1>
1764     <colspec colname=c1>
1765     <colspec colname=c2>
1766     <colspec colname=c3>
1767     <colspec colname=c4>
1768     <thead>
1769     <row>
1770       <entry>Feature</entry>
1771       <entry>Cautious</entry>
1772       <entry>Medium</entry>
1773       <entry>Advanced</entry>
1774     </row>
1775     </thead>
1776     <!--  <tfoot> -->
1777     <!--  <row> -->
1778     <!--    <entry>f1</entry> -->
1779     <!--    <entry>f2</entry> -->
1780     <!--    <entry>f3</entry> -->
1781     <!--    <entry>f4</entry> -->
1782     <!--  </row> -->
1783     <!--  </tfoot> -->
1784     <tbody>
1785
1786     <row>
1787       <entry>Ad-blocking Aggressiveness</entry>
1788       <entry>medium</entry>
1789       <entry>high</entry>
1790       <entry>high</entry>
1791     </row>
1792
1793     <row>
1794       <entry>Ad-filtering by size</entry>
1795       <entry>no</entry>
1796       <entry>yes</entry>
1797       <entry>yes</entry>
1798     </row>
1799
1800     <row>
1801       <entry>Ad-filtering by link</entry>
1802       <entry>no</entry>
1803       <entry>no</entry>
1804       <entry>yes</entry>
1805     </row>
1806     <row>
1807       <entry>Pop-up killing</entry>
1808       <entry>blocks only</entry>
1809       <entry>blocks only</entry>
1810       <entry>blocks only</entry>
1811     </row>
1812
1813     <row>
1814       <entry>Privacy Features</entry>
1815       <entry>low</entry>
1816       <entry>medium</entry>
1817       <entry>medium/high</entry>
1818     </row>
1819
1820     <row>
1821       <entry>Cookie handling</entry>
1822       <entry>none</entry>
1823       <entry>session-only</entry>
1824       <entry>kill</entry>
1825     </row>
1826
1827     <row>
1828       <entry>Referer forging</entry>
1829       <entry>no</entry>
1830       <entry>yes</entry>
1831       <entry>yes</entry>
1832     </row>
1833
1834     <row>
1835       <entry>GIF de-animation</entry>
1836       <entry>no</entry>
1837       <entry>yes</entry>
1838       <entry>yes</entry>
1839     </row>
1840
1841     <row>
1842       <entry>Fast redirects</entry>
1843       <entry>no</entry>
1844       <entry>no</entry>
1845       <entry>yes</entry>
1846     </row>
1847
1848     <row>
1849       <entry>HTML taming</entry>
1850       <entry>no</entry>
1851       <entry>no</entry>
1852       <entry>yes</entry>
1853     </row>
1854
1855     <row>
1856       <entry>JavaScript taming</entry>
1857       <entry>no</entry>
1858       <entry>no</entry>
1859       <entry>yes</entry>
1860     </row>
1861
1862     <row>
1863       <entry>Web-bug killing</entry>
1864       <entry>no</entry>
1865       <entry>yes</entry>
1866       <entry>yes</entry>
1867     </row>
1868
1869     <row>
1870       <entry>Image tag reordering</entry>
1871       <entry>no</entry>
1872       <entry>yes</entry>
1873       <entry>yes</entry>
1874     </row>
1875
1876     </tbody>
1877     </tgroup>
1878     </table>
1879
1880   </listitem>
1881  </itemizedlist>
1882
1883 <para>
1884  The list of actions files to be used are defined in the main configuration
1885  file, and are processed in the order they are defined (e.g.
1886  <filename>default.action</filename> is typically processed before
1887  <filename>user.action</filename>). The content of these can all be viewed and
1888  edited from <ulink
1889  url="http://config.privoxy.org/show-status">http://config.privoxy.org/show-status</ulink>.
1890  The over-riding principle when applying actions, is that the last action that
1891  matches a given URL wins. The broadest, most general rules go first
1892  (defined in <filename>default.action</filename>),
1893  followed by any exceptions (typically also in
1894  <filename>default.action</filename>), which are then followed lastly by any
1895  local preferences (typically in <emphasis>user</emphasis><filename>.action</filename>).
1896  Generally, <filename>user.action</filename> has the last word.
1897  </para>
1898
1899 <para>
1900  An actions file typically has multiple sections. If you want to use
1901  <quote>aliases</quote> in an actions file, you have to place the (optional)
1902  <link linkend="aliases">alias section</link> at the top of that file.
1903  Then comes the default set of rules which will apply universally to all
1904  sites and pages (be <emphasis>very careful</emphasis> with using such a
1905  universal set in <filename>user.action</filename> or any other actions file after
1906  <filename>default.action</filename>, because it will override the result
1907  from consulting any previous file). And then below that,
1908  exceptions to the defined universal policies. You can regard
1909  <filename>user.action</filename> as an appendix to <filename>default.action</filename>,
1910  with the advantage that it is a separate file, which makes preserving your
1911  personal settings across <application>Privoxy</application> upgrades easier.
1912 </para>
1913
1914 <para>
1915  Actions can be used to block anything you want, including ads, banners, or
1916  just some obnoxious URL whose content you would rather not see. Cookies can be accepted
1917  or rejected, or accepted only during the current browser session (i.e. not
1918  written to disk), content can be modified, some JavaScripts tamed, user-tracking
1919  fooled, and much more. See below for a <link linkend="actions">complete list
1920  of actions</link>.
1921 </para>
1922
1923 <!--   ~~~~~       New section      ~~~~~     -->
1924 <sect2 id="right-mix">
1925 <title>Finding the Right Mix</title>
1926 <para>
1927  Note that some <link linkend="actions">actions</link>, like cookie suppression
1928  or script disabling, may render some sites unusable that rely on these
1929  techniques to work properly. Finding the right mix of actions is not always easy and
1930  certainly a matter of personal taste. And, things can always change, requiring
1931  refinements in the configuration. In general, it can be said that the more
1932  <quote>aggressive</quote> your default settings (in the top section of the
1933  actions file) are, the more exceptions for <quote>trusted</quote> sites you
1934  will have to make later. If, for example, you want to crunch all cookies per
1935  default, you'll have to make exceptions from that rule for sites that you
1936  regularly use and that require cookies for actually useful purposes, like maybe
1937  your bank, favorite shop, or newspaper.
1938 </para>
1939
1940 <para>
1941  We have tried to provide you with reasonable rules to start from in the
1942  distribution actions files. But there is no general rule of thumb on these
1943  things. There just are too many variables, and sites are constantly changing.
1944  Sooner or later you will want to change the rules (and read this chapter again :).
1945 </para>
1946 </sect2>
1947
1948 <!--   ~~~~~       New section      ~~~~~     -->
1949 <sect2 id="how-to-edit">
1950 <title>How to Edit</title>
1951 <para>
1952  The easiest way to edit the actions files is with a browser by
1953  using our browser-based editor, which can be reached from <ulink
1954  url="http://config.privoxy.org/show-status">http://config.privoxy.org/show-status</ulink>.
1955  Note: the config file option <link
1956  linkend="enable-edit-actions">enable-edit-actions</link> must be enabled for
1957  this to work. The editor allows both fine-grained control over every single
1958  feature on a per-URL basis, and easy choosing from wholesale sets of defaults
1959  like <quote>Cautious</quote>, <quote>Medium</quote> or
1960  <quote>Advanced</quote>. Warning: the <quote>Advanced</quote> setting is more
1961  aggressive, and will be more likely to cause problems for some sites.
1962  Experienced users only!
1963  </para>
1964
1965 <para>
1966  If you prefer plain text editing to GUIs, you can of course also directly edit the
1967  the actions files with your favorite text editor. Look at
1968  <filename>default.action</filename> which is richly commented with many
1969  good examples.
1970 </para>
1971 </sect2>
1972
1973
1974 <sect2 id="actions-apply">
1975 <title>How Actions are Applied to Requests</title>
1976 <para>
1977  Actions files are divided into sections. There are special sections,
1978  like the <quote><link linkend="aliases">alias</link></quote> sections which will
1979  be discussed later. For now let's concentrate on regular sections: They have a
1980  heading line (often split up to multiple lines for readability) which consist
1981  of a list of actions, separated by whitespace and enclosed in curly braces.
1982  Below that, there is a list of URL and tag patterns, each on a separate line.
1983 </para>
1984
1985 <para>
1986  To determine which actions apply to a request, the URL of the request is
1987  compared to all URL patterns in each <quote>action file</quote>.
1988  Every time it matches, the list of applicable actions for the request is
1989  incrementally updated, using the heading of the section in which the
1990  pattern is located. The same is done again for tags and tag patterns later on.
1991 </para>
1992
1993 <para>
1994  If multiple applying sections set the same action differently,
1995  the last match wins. If not, the effects are aggregated.
1996  E.g. a URL might match a regular section with a heading line of <literal>{
1997  +<link linkend="handle-as-image">handle-as-image</link> }</literal>,
1998  then later another one with just <literal>{
1999  +<link linkend="block">block</link> }</literal>, resulting
2000  in <emphasis>both</emphasis> actions to apply. And there may well be
2001  cases where you will want to combine actions together. Such a section then
2002  might look like:
2003 </para>
2004
2005  <screen>
2006   { +<literal>handle-as-image</literal>  +<literal>block{Banner ads.}</literal> }
2007   # Block these as if they were images. Send no block page.
2008    banners.example.com
2009    media.example.com/.*banners
2010    .example.com/images/ads/</screen>
2011
2012 <para>
2013  You can trace this process for URL patterns and any given URL by visiting <ulink
2014  url="http://config.privoxy.org/show-url-info">http://config.privoxy.org/show-url-info</ulink>.
2015 </para>
2016
2017 <para>
2018  Examples and more detail on this is provided in the Appendix, <link linkend="ACTIONSANAT">
2019  Troubleshooting: Anatomy of an Action</link> section.
2020 </para>
2021 </sect2>
2022
2023 <!--   ~~~~~       New section      ~~~~~     -->
2024 <sect2 id="af-patterns">
2025 <title>Patterns</title>
2026 <para>
2027  As mentioned, <application>Privoxy</application> uses <quote>patterns</quote>
2028  to determine what <emphasis>actions</emphasis> might apply to which sites and
2029  pages your browser attempts to access. These <quote>patterns</quote> use wild
2030  card type <emphasis>pattern</emphasis> matching to achieve a high degree of
2031  flexibility. This allows one expression to be expanded and potentially match
2032  against many similar patterns.
2033 </para>
2034
2035 <para>
2036  Generally, an URL pattern has the form
2037  <literal>&lt;host&gt;&lt;port&gt;/&lt;path&gt;</literal>, where the
2038  <literal>&lt;host&gt;</literal>, the <literal>&lt;port&gt;</literal>
2039  and the <literal>&lt;path&gt;</literal> are optional. (This is why the special
2040  <literal>/</literal> pattern matches all URLs). Note that the protocol
2041  portion of the URL pattern (e.g. <literal>http://</literal>) should
2042  <emphasis>not</emphasis> be included in the pattern. This is assumed already!
2043 </para>
2044 <para>
2045  The pattern matching syntax is different for the host and path parts of
2046  the URL. The host part uses a simple globbing type matching technique,
2047  while the path part uses more flexible
2048  <ulink url="http://en.wikipedia.org/wiki/Regular_expressions"><quote>Regular
2049   Expressions</quote></ulink> (POSIX 1003.2).
2050 </para>
2051 <para>
2052  The port part of a pattern is a decimal port number preceded by a colon
2053  (<literal>:</literal>). If the host part contains a numerical IPv6 address,
2054  it has to be put into angle brackets
2055  (<literal>&lt;</literal>, <literal>&gt;</literal>).
2056 </para>
2057
2058 <variablelist>
2059  <varlistentry>
2060   <term><literal>www.example.com/</literal></term>
2061   <listitem>
2062    <para>
2063     is a host-only pattern and will match any request to <literal>www.example.com</literal>,
2064     regardless of which document on that server is requested. So ALL pages in
2065     this domain would be covered by the scope of this action. Note that a
2066     simple <literal>example.com</literal> is different and would NOT match.
2067    </para>
2068   </listitem>
2069  </varlistentry>
2070  <varlistentry>
2071   <term><literal>www.example.com</literal></term>
2072   <listitem>
2073    <para>
2074     means exactly the same. For host-only patterns, the trailing <literal>/</literal> may
2075     be omitted.
2076    </para>
2077   </listitem>
2078  </varlistentry>
2079  <varlistentry>
2080   <term><literal>www.example.com/index.html</literal></term>
2081   <listitem>
2082    <para>
2083     matches all the documents on <literal>www.example.com</literal>
2084     whose name starts with <literal>/index.html</literal>.
2085    </para>
2086   </listitem>
2087  </varlistentry>
2088  <varlistentry>
2089   <term><literal>www.example.com/index.html$</literal></term>
2090   <listitem>
2091    <para>
2092     matches only the single document <literal>/index.html</literal>
2093     on <literal>www.example.com</literal>.
2094    </para>
2095   </listitem>
2096  </varlistentry>
2097  <varlistentry>
2098   <term><literal>/index.html$</literal></term>
2099   <listitem>
2100    <para>
2101     matches the document <literal>/index.html</literal>, regardless of the domain,
2102     i.e. on <emphasis>any</emphasis> web server anywhere.
2103    </para>
2104   </listitem>
2105  </varlistentry>
2106  <varlistentry>
2107   <term><literal>/</literal></term>
2108   <listitem>
2109    <para>
2110     Matches any URL because there's no requirement for either the
2111     domain or the path to match anything.
2112    </para>
2113   </listitem>
2114  </varlistentry>
2115  <varlistentry>
2116   <term><literal>:8000/</literal></term>
2117   <listitem>
2118    <para>
2119     Matches any URL pointing to TCP port 8000.
2120    </para>
2121   </listitem>
2122  </varlistentry>
2123  <varlistentry>
2124   <term><literal>10.0.0.1/</literal></term>
2125   <listitem>
2126    <para>
2127     Matches any URL with the host address <literal>10.0.0.1</literal>.
2128     (Note that the real URL uses plain brackets, not angle brackets.)
2129    </para>
2130   </listitem>
2131  </varlistentry>
2132  <varlistentry>
2133   <term><literal>&lt;2001:db8::1&gt;/</literal></term>
2134   <listitem>
2135    <para>
2136     Matches any URL with the host address <literal>2001:db8::1</literal>.
2137     (Note that the real URL uses plain brackets, not angle brackets.)
2138    </para>
2139   </listitem>
2140  </varlistentry>
2141  <varlistentry>
2142   <term><literal>index.html</literal></term>
2143   <listitem>
2144    <para>
2145     matches nothing, since it would be interpreted as a domain name and
2146     there is no top-level domain called <literal>.html</literal>. So its
2147     a mistake.
2148    </para>
2149   </listitem>
2150  </varlistentry>
2151 </variablelist>
2152
2153
2154 <!--   ~~~~~       New section      ~~~~~     -->
2155 <sect3 id="host-pattern"><title>The Host Pattern</title>
2156
2157 <para>
2158  The matching of the host part offers some flexible options: if the
2159  host pattern starts or ends with a dot, it becomes unanchored at that end.
2160  The host pattern is often referred to as domain pattern as it is usually
2161  used to match domain names and not IP addresses.
2162  For example:
2163 </para>
2164
2165 <variablelist>
2166  <varlistentry>
2167   <term><literal>.example.com</literal></term>
2168   <listitem>
2169    <para>
2170     matches any domain with first-level domain <literal>com</literal>
2171     and second-level domain <literal>example</literal>.
2172     For example <literal>www.example.com</literal>,
2173     <literal>example.com</literal> and <literal>foo.bar.baz.example.com</literal>.
2174     Note that it wouldn't match if the second-level domain was <literal>another-example</literal>.
2175    </para>
2176   </listitem>
2177  </varlistentry>
2178  <varlistentry>
2179   <term><literal>www.</literal></term>
2180   <listitem>
2181    <para>
2182     matches any domain that <emphasis>STARTS</emphasis> with
2183     <literal>www.</literal> (It also matches the domain
2184     <literal>www</literal> but most of the time that doesn't matter.)
2185    </para>
2186   </listitem>
2187  </varlistentry>
2188  <varlistentry>
2189   <term><literal>.example.</literal></term>
2190   <listitem>
2191    <para>
2192     matches any domain that <emphasis>CONTAINS</emphasis> <literal>.example.</literal>.
2193     And, by the way, also included would be any files or documents that exist
2194     within that domain since no path limitations are specified. (Correctly
2195     speaking: It matches any FQDN that contains <literal>example</literal> as
2196     a domain.) This might be <literal>www.example.com</literal>,
2197     <literal>news.example.de</literal>, or
2198     <literal>www.example.net/cgi/testing.pl</literal> for instance. All these
2199     cases are matched.
2200    </para>
2201   </listitem>
2202  </varlistentry>
2203 </variablelist>
2204
2205 <para>
2206  Additionally, there are wild-cards that you can use in the domain names
2207  themselves. These work similarly to shell globbing type wild-cards:
2208  <quote>*</quote> represents zero or more arbitrary characters (this is
2209  equivalent to the
2210  <ulink url="http://en.wikipedia.org/wiki/Regular_expressions"><quote>Regular
2211  Expression</quote></ulink> based syntax of <quote>.*</quote>),
2212  <quote>?</quote>  represents any single character (this is equivalent to the
2213  regular expression syntax of a simple <quote>.</quote>), and you can define
2214  <quote>character classes</quote> in square brackets which is similar to
2215  the same regular expression technique. All of this can be freely mixed:
2216 </para>
2217
2218 <variablelist>
2219  <varlistentry>
2220   <term><literal>ad*.example.com</literal></term>
2221   <listitem>
2222    <para>
2223     matches <quote>adserver.example.com</quote>,
2224     <quote>ads.example.com</quote>, etc but not <quote>sfads.example.com</quote>
2225    </para>
2226   </listitem>
2227  </varlistentry>
2228  <varlistentry>
2229   <term><literal>*ad*.example.com</literal></term>
2230   <listitem>
2231    <para>
2232     matches all of the above, and then some.
2233    </para>
2234   </listitem>
2235  </varlistentry>
2236  <varlistentry>
2237   <term><literal>.?pix.com</literal></term>
2238   <listitem>
2239    <para>
2240     matches <literal>www.ipix.com</literal>,
2241     <literal>pictures.epix.com</literal>, <literal>a.b.c.d.e.upix.com</literal> etc.
2242    </para>
2243   </listitem>
2244  </varlistentry>
2245  <varlistentry>
2246   <term><literal>www[1-9a-ez].example.c*</literal></term>
2247   <listitem>
2248    <para>
2249      matches <literal>www1.example.com</literal>,
2250      <literal>www4.example.cc</literal>, <literal>wwwd.example.cy</literal>,
2251      <literal>wwwz.example.com</literal> etc., but <emphasis>not</emphasis>
2252      <literal>wwww.example.com</literal>.
2253    </para>
2254   </listitem>
2255  </varlistentry>
2256 </variablelist>
2257
2258 <para>
2259  While flexible, this is not the sophistication of full regular expression based syntax.
2260 </para>
2261
2262 <para>
2263  When compiled with FEATURE_PCRE_HOST_PATTERNS patterns can be prefixed with
2264  <quote>PCRE-HOST-PATTERN:</quote> in which case full regular expression
2265  (PCRE) can be used for the host pattern as well.
2266 </para>
2267
2268 </sect3>
2269
2270 <!--  ~  End section  ~  -->
2271
2272
2273 <!--   ~~~~~       New section      ~~~~~     -->
2274 <sect3 id="path-pattern"><title>The Path Pattern</title>
2275
2276 <para>
2277  <application>Privoxy</application> uses <quote>modern</quote> POSIX 1003.2
2278   <ulink url="http://en.wikipedia.org/wiki/Regular_expressions"><quote>Regular
2279   Expressions</quote></ulink> for matching the path portion (after the slash),
2280   and is thus more flexible.
2281 </para>
2282
2283 <para>
2284  There is an <link linkend="regex">Appendix</link> with a brief quick-start into regular
2285  expressions, you also might want to have a look at your operating system's documentation
2286  on regular expressions (try <literal>man re_format</literal>).
2287 </para>
2288
2289 <para>
2290  Note that the path pattern is automatically left-anchored at the <quote>/</quote>,
2291  i.e. it matches as if it would start with a <quote>^</quote> (regular expression speak
2292  for the beginning of a line).
2293 </para>
2294
2295 <para>
2296  Please also note that matching in the path is <emphasis>CASE INSENSITIVE</emphasis>
2297  by default, but you can switch to case sensitive at any point in the pattern by using the
2298  <quote>(?-i)</quote> switch: <literal>www.example.com/(?-i)PaTtErN.*</literal> will match
2299  only documents whose path starts with <literal>PaTtErN</literal> in
2300  <emphasis>exactly</emphasis> this capitalization.
2301 </para>
2302
2303 <variablelist>
2304  <varlistentry>
2305   <term><literal>.example.com/.*</literal></term>
2306   <listitem>
2307    <para>
2308      Is equivalent to just <quote>.example.com</quote>, since any documents
2309      within that domain are matched with or without the <quote>.*</quote>
2310      regular expression. This is redundant
2311    </para>
2312   </listitem>
2313  </varlistentry>
2314  <varlistentry>
2315   <term><literal>.example.com/.*/index.html$</literal></term>
2316   <listitem>
2317    <para>
2318     Will match any page in the domain of <quote>example.com</quote> that is
2319     named <quote>index.html</quote>, and that is part of some path. For
2320     example, it matches <quote>www.example.com/testing/index.html</quote> but
2321     NOT <quote>www.example.com/index.html</quote> because the regular
2322     expression called for at least two <quote>/'s</quote>, thus the path
2323     requirement. It also would match
2324     <quote>www.example.com/testing/index_html</quote>, because of the
2325     special meta-character <quote>.</quote>.
2326    </para>
2327   </listitem>
2328  </varlistentry>
2329  <varlistentry>
2330   <term><literal>.example.com/(.*/)?index\.html$</literal></term>
2331   <listitem>
2332    <para>
2333     This regular expression is conditional so it will match any page
2334     named <quote>index.html</quote> regardless of path which in this case can
2335     have one or more <quote>/'s</quote>. And this one must contain exactly
2336     <quote>.html</quote> (and end with that!).
2337    </para>
2338   </listitem>
2339  </varlistentry>
2340  <varlistentry>
2341   <term><literal>.example.com/(.*/)(ads|banners?|junk)</literal></term>
2342   <listitem>
2343    <para>
2344     This regular expression will match any path of <quote>example.com</quote>
2345     that contains any of the words <quote>ads</quote>, <quote>banner</quote>,
2346     <quote>banners</quote> (because of the <quote>?</quote>) or <quote>junk</quote>.
2347     The path does not have to end in these words, just contain them.
2348     The path has to contain at least two slashes (including the one at the beginning).
2349    </para>
2350   </listitem>
2351  </varlistentry>
2352  <varlistentry>
2353   <term><literal>.example.com/(.*/)(ads|banners?|junk)/.*\.(jpe?g|gif|png)$</literal></term>
2354   <listitem>
2355    <para>
2356     This is very much the same as above, except now it must end in either
2357     <quote>.jpg</quote>, <quote>.jpeg</quote>, <quote>.gif</quote> or <quote>.png</quote>. So this
2358     one is limited to common image formats.
2359    </para>
2360   </listitem>
2361  </varlistentry>
2362
2363 </variablelist>
2364 <para>
2365  There are many, many good examples to be found in <filename>default.action</filename>,
2366  and more tutorials below in <link linkend="regex">Appendix on regular expressions</link>.
2367 </para>
2368
2369 </sect3>
2370
2371 <!--  ~  End section  ~  -->
2372
2373
2374 <!--   ~~~~~       New section      ~~~~~     -->
2375 <sect3 id="tag-pattern"><title>The Request Tag Pattern</title>
2376
2377 <para>
2378  Request tag patterns are used to change the applying actions based on the
2379  request's tags. Tags can be created based on HTTP headers with either
2380  the <link linkend="CLIENT-HEADER-TAGGER">client-header-tagger</link>
2381  or the  <link linkend="SERVER-HEADER-TAGGER">server-header-tagger</link> action.
2382 </para>
2383
2384 <para>
2385  Request tag patterns have to start with <quote>TAG:</quote>, so &my-app;
2386  can tell them apart from other patterns. Everything after the colon
2387  including white space, is interpreted as a regular expression with
2388  path pattern syntax, except that tag patterns aren't left-anchored
2389  automatically (&my-app; doesn't silently add a <quote>^</quote>,
2390  you have to do it yourself if you need it).
2391 </para>
2392
2393 <para>
2394  To match all requests that are tagged with <quote>foo</quote>
2395  your pattern line should be <quote>TAG:^foo$</quote>,
2396  <quote>TAG:foo</quote> would work as well, but it would also
2397  match requests whose tags contain <quote>foo</quote> somewhere.
2398  <quote>TAG: foo</quote> wouldn't work as it requires white space.
2399 </para>
2400
2401 <para>
2402  Sections can contain URL and request tag patterns at the same time,
2403  but request tag patterns are checked after the URL patterns and thus
2404  always overrule them, even if they are located before the URL patterns.
2405 </para>
2406
2407 <para>
2408  Once a new request tag is added, Privoxy checks right away if it's matched by one
2409  of the request tag patterns and updates the action settings accordingly. As a result
2410  request tags can be used to activate other tagger actions, as long as these other
2411  taggers look for headers that haven't already be parsed.
2412 </para>
2413
2414 <para>
2415  For example you could tag client requests which use the
2416  <literal>POST</literal> method,
2417  then use this tag to activate another tagger that adds a tag if cookies
2418  are sent, and then use a block action based on the cookie tag. This allows
2419  the outcome of one action, to be input into a subsequent action. However if
2420  you'd reverse the position of the described taggers, and activated the
2421  method tagger based on the cookie tagger, no method tags would be created.
2422  The method tagger would look for the request line, but at the time
2423  the cookie tag is created, the request line has already been parsed.
2424 </para>
2425
2426 <para>
2427  While this is a limitation you should be aware of, this kind of
2428  indirection is seldom needed anyway and even the example doesn't
2429  make too much sense.
2430 </para>
2431
2432 </sect3>
2433
2434 <!--   ~~~~~       New section      ~~~~~     -->
2435 <sect3 id="negative-tag-patterns"><title>The Negative Request Tag Patterns</title>
2436
2437 <para>
2438  To match requests that do not have a certain request tag, specify a negative tag pattern
2439  by prefixing the tag pattern line with either <quote>NO-REQUEST-TAG:</quote>
2440  or <quote>NO-RESPONSE-TAG:</quote> instead of <quote>TAG:</quote>.
2441 </para>
2442
2443 <para>
2444  Negative request tag patterns created with <quote>NO-REQUEST-TAG:</quote> are checked
2445  after all client headers are scanned, the ones created with <quote>NO-RESPONSE-TAG:</quote>
2446  are checked after all server headers are scanned. In both cases all the created
2447  tags are considered.
2448 </para>
2449 </sect3>
2450
2451 <!--   ~~~~~       New section      ~~~~~     -->
2452 <sect3 id="client-tag-pattern"><title>The Client Tag Pattern</title>
2453
2454 <!-- XXX: This section contains duplicates content from the
2455           client-specific-tag documentation. -->
2456
2457 <warning>
2458 <para>
2459  This is an experimental feature. The syntax is likely to change in future versions.
2460 </para>
2461 </warning>
2462
2463 <para>
2464  Client tag patterns are not set based on HTTP headers but based on
2465  the client's IP address. Users can enable them themselves, but the
2466  Privoxy admin controls which tags are available and what their effect
2467  is.
2468 </para>
2469
2470 <para>
2471  After a client-specific tag has been defined with the
2472  <link linkend="client-specific-tag">client-specific-tag</link>,
2473  directive, action sections can be activated based on the tag by using a
2474  CLIENT-TAG pattern. The CLIENT-TAG pattern is evaluated at the same priority
2475  as URL patterns, as a result the last matching pattern wins. Tags that
2476  are created based on client or server headers are evaluated later on
2477  and can overrule CLIENT-TAG and URL patterns!
2478 </para>
2479 <para>
2480  The tag is set for all requests that come from clients that requested
2481  it to be set. Note that "clients" are  differentiated by IP address,
2482  if the IP address changes the tag has to be requested again.
2483 </para>
2484 <para>
2485  Clients can request tags to be set by using the CGI interface <ulink
2486   url="http://config.privoxy.org/client-tags">http://config.privoxy.org/client-tags</ulink>.
2487 </para>
2488
2489 <para>
2490  Example:
2491 </para>
2492
2493  <screen>
2494 # If the admin defined the client-specific-tag circumvent-blocks,
2495 # and the request comes from a client that previously requested
2496 # the tag to be set, overrule all previous +block actions that
2497 # are enabled based on URL to CLIENT-TAG patterns.
2498 {-block}
2499 CLIENT-TAG:^circumvent-blocks$
2500
2501 # This section is not overruled because it's located after
2502 # the previous one.
2503 {+block{Nobody is supposed to request this.}}
2504 example.org/blocked-example-page</screen>
2505
2506 </sect3>
2507
2508 </sect2>
2509
2510 <!--  ~  End section  ~  -->
2511
2512
2513 <!--   ~~~~~       New section      ~~~~~     -->
2514
2515 <sect2 id="actions">
2516 <title>Actions</title>
2517 <para>
2518  All actions are disabled by default, until they are explicitly enabled
2519  somewhere in an actions file. Actions are turned on if preceded with a
2520  <quote>+</quote>, and turned off if preceded with a <quote>-</quote>. So a
2521  <literal>+action</literal> means <quote>do that action</quote>, e.g.
2522  <literal>+block</literal> means <quote>please block URLs that match the
2523  following patterns</quote>, and <literal>-block</literal> means <quote>don't
2524  block URLs that match the following patterns, even if <literal>+block</literal>
2525  previously applied.</quote>
2526 </para>
2527
2528 <para>
2529  Again, actions are invoked by placing them on a line, enclosed in curly braces and
2530  separated by whitespace, like in
2531  <literal>{+some-action -some-other-action{some-parameter}}</literal>,
2532  followed by a list of URL patterns, one per line, to which they apply.
2533  Together, the actions line and the following pattern lines make up a section
2534  of the actions file.
2535 </para>
2536
2537 <para>
2538  Actions fall into three categories:
2539 </para>
2540
2541  <itemizedlist>
2542  <listitem>
2543   <para>
2544    Boolean, i.e the action can only be <quote>enabled</quote> or
2545    <quote>disabled</quote>. Syntax:
2546   </para>
2547    <screen>
2548   +<replaceable class="function">name</replaceable>        # enable action <replaceable class="parameter">name</replaceable>
2549   -<replaceable class="function">name</replaceable>        # disable action <replaceable class="parameter">name</replaceable></screen>
2550   <para>
2551    Example: <literal>+handle-as-image</literal>
2552   </para>
2553  </listitem>
2554
2555
2556  <listitem>
2557   <para>
2558    Parameterized, where some value is required in order to enable this type of action.
2559    Syntax:
2560   </para>
2561    <screen>
2562   +<replaceable class="function">name</replaceable>{<replaceable class="parameter">param</replaceable>}  # enable action and set parameter to <replaceable class="parameter">param</replaceable>,
2563                # overwriting parameter from previous match if necessary
2564   -<replaceable class="function">name</replaceable>         # disable action. The parameter can be omitted</screen>
2565   <para>
2566    Note that if the URL matches multiple positive forms of a parameterized action,
2567    the last match wins, i.e. the params from earlier matches are simply ignored.
2568   </para>
2569   <para>
2570    Example: <literal>+hide-user-agent{Mozilla/5.0 (X11; U; FreeBSD i386; en-US; rv:1.8.1.4) Gecko/20070602 Firefox/2.0.0.4}</literal>
2571   </para>
2572  </listitem>
2573
2574  <listitem>
2575   <para>
2576    Multi-value. These look exactly like parameterized actions,
2577    but they behave differently: If the action applies multiple times to the
2578    same URL, but with different parameters, <emphasis>all</emphasis> the parameters
2579    from <emphasis>all</emphasis> matches are remembered. This is used for actions
2580    that can be executed for the same request repeatedly, like adding multiple
2581    headers, or filtering through multiple filters. Syntax:
2582   </para>
2583    <screen>
2584   +<replaceable class="function">name</replaceable>{<replaceable class="parameter">param</replaceable>}   # enable action and add <replaceable class="parameter">param</replaceable> to the list of parameters
2585   -<replaceable class="function">name</replaceable>{<replaceable class="parameter">param</replaceable>}   # remove the parameter <replaceable class="parameter">param</replaceable> from the list of parameters
2586                 # If it was the last one left, disable the action.
2587   <replaceable class="parameter">-name</replaceable>          # disable this action completely and remove all parameters from the list</screen>
2588   <para>
2589    Examples: <literal>+add-header{X-Fun-Header: Some text}</literal> and
2590    <literal>+filter{html-annoyances}</literal>
2591   </para>
2592  </listitem>
2593
2594  </itemizedlist>
2595
2596 <para>
2597  If nothing is specified in any actions file, no <quote>actions</quote> are
2598  taken. So in this case <application>Privoxy</application> would just be a
2599  normal, non-blocking, non-filtering proxy. You must specifically enable the
2600  privacy and blocking features you need (although the provided default actions
2601  files will give a good starting point).
2602 </para>
2603
2604 <para>
2605  Later defined action sections always over-ride earlier ones of the same type.
2606  So exceptions to any rules you make, should come in the latter part of the file (or
2607  in a file that is processed later when using multiple actions files such
2608  as <filename>user.action</filename>). For multi-valued actions, the actions
2609  are applied in the order they are specified. Actions files are processed in
2610  the order they are defined in <filename>config</filename> (the default
2611  installation has three actions files). It also quite possible for any given
2612  URL to match more than one <quote>pattern</quote> (because of wildcards and
2613  regular expressions), and thus to trigger more than one set of actions! Last
2614  match wins.
2615 </para>
2616
2617 <!-- start actions listing -->
2618 <para>
2619  The list of valid <application>Privoxy</application> actions are:
2620 </para>
2621
2622
2623 <!-- ********************************************************** -->
2624 <!-- Please note the below defined actions use id's that are    -->
2625 <!-- probably linked from other places, so please don't change. -->
2626 <!--                                                            -->
2627 <!-- ********************************************************** -->
2628
2629
2630 <!--   ~~~~~       New section      ~~~~~     -->
2631
2632 <sect3 renderas="sect4" id="add-header">
2633 <title>add-header</title>
2634
2635 <variablelist>
2636  <varlistentry>
2637   <term>Typical use:</term>
2638   <listitem>
2639    <para>Confuse log analysis, custom applications</para>
2640   </listitem>
2641  </varlistentry>
2642
2643  <varlistentry>
2644   <term>Effect:</term>
2645   <listitem>
2646    <para>
2647     Sends a user defined HTTP header to the web server.
2648    </para>
2649   </listitem>
2650  </varlistentry>
2651
2652  <varlistentry>
2653   <term>Type:</term>
2654   <!-- boolean, parameterized, Multi-value -->
2655   <listitem>
2656    <para>Multi-value.</para>
2657   </listitem>
2658  </varlistentry>
2659
2660  <varlistentry>
2661   <term>Parameter:</term>
2662   <listitem>
2663    <para>
2664     Any string value is possible. Validity of the defined HTTP headers is not checked.
2665     It is recommended that you use the <quote><literal>X-</literal></quote> prefix
2666     for custom headers.
2667    </para>
2668   </listitem>
2669  </varlistentry>
2670
2671 <varlistentry>
2672   <term>Notes:</term>
2673   <listitem>
2674    <para>
2675     This action may be specified multiple times, in order to define multiple
2676     headers. This is rarely needed for the typical user. If you don't know what
2677     <quote>HTTP headers</quote> are, you definitely don't need to worry about this
2678     one.
2679    </para>
2680    <para>
2681     Headers added by this action are not modified by other actions.
2682    </para>
2683   </listitem>
2684  </varlistentry>
2685
2686  <varlistentry>
2687   <term>Example usage:</term>
2688   <listitem>
2689      <screen># Add a DNT ("Do not track") header to all requests,
2690 # event to those that already have one.
2691 #
2692 # This is just an example, not a recommendation.
2693 #
2694 # There is no reason to believe that user-tracking websites care
2695 # about the DNT header and depending on the User-Agent, adding the
2696 # header may make user-tracking easier.
2697 {+add-header{DNT: 1}}
2698 /</screen>
2699   </listitem>
2700  </varlistentry>
2701 </variablelist>
2702 </sect3>
2703
2704
2705 <!--   ~~~~~       New section      ~~~~~     -->
2706 <sect3 renderas="sect4" id="block">
2707 <title>block</title>
2708
2709 <variablelist>
2710  <varlistentry>
2711   <term>Typical use:</term>
2712   <listitem>
2713    <para>Block ads or other unwanted content</para>
2714   </listitem>
2715  </varlistentry>
2716
2717  <varlistentry>
2718   <term>Effect:</term>
2719   <listitem>
2720    <para>
2721     Requests for URLs to which this action applies are blocked, i.e. the
2722     requests are trapped by &my-app; and the requested URL is never retrieved,
2723     but is answered locally with a substitute page or image, as determined by
2724     the <literal><link
2725     linkend="handle-as-image">handle-as-image</link></literal>,
2726     <literal><link
2727     linkend="set-image-blocker">set-image-blocker</link></literal>, and
2728     <literal><link
2729     linkend="handle-as-empty-document">handle-as-empty-document</link></literal> actions.
2730
2731    </para>
2732   </listitem>
2733  </varlistentry>
2734
2735  <varlistentry>
2736   <term>Type:</term>
2737   <!-- boolean, parameterized, Multi-value -->
2738   <listitem>
2739    <para>Parameterized.</para>
2740   </listitem>
2741  </varlistentry>
2742
2743  <varlistentry>
2744   <term>Parameter:</term>
2745   <listitem>
2746    <para>A block reason that should be given to the user.</para>
2747   </listitem>
2748  </varlistentry>
2749
2750 <varlistentry>
2751   <term>Notes:</term>
2752   <listitem>
2753    <para>
2754     <application>Privoxy</application> sends a special <quote>BLOCKED</quote> page
2755     for requests to blocked pages. This page contains the block reason given as
2756     parameter, a link to find out why the block action applies, and a click-through
2757     to the blocked content (the latter only if the force feature is available and
2758     enabled).
2759    </para>
2760    <para>
2761     A very important exception occurs if <emphasis>both</emphasis>
2762     <literal>block</literal> and <literal><link linkend="handle-as-image">handle-as-image</link></literal>,
2763     apply to the same request: it will then be replaced by an image. If
2764     <literal><link linkend="set-image-blocker">set-image-blocker</link></literal>
2765     (see below) also applies, the type of image will be determined by its parameter,
2766     if not, the standard checkerboard pattern is sent.
2767    </para>
2768    <para>
2769     It is important to understand this process, in order
2770     to understand how <application>Privoxy</application> deals with
2771     ads and other unwanted content. Blocking is a core feature, and one
2772     upon which various other features depend.
2773    </para>
2774    <para>
2775     The <literal><link linkend="filter">filter</link></literal>
2776     action can perform a very similar task, by <quote>blocking</quote>
2777     banner images and other content through rewriting the relevant URLs in the
2778     document's HTML source, so they don't get requested in the first place.
2779     Note that this is a totally different technique, and it's easy to confuse the two.
2780    </para>
2781   </listitem>
2782  </varlistentry>
2783
2784  <varlistentry>
2785   <term>Example usage (section):</term>
2786   <listitem>
2787      <screen>{+block{No nasty stuff for you.}}
2788 # Block and replace with "blocked" page
2789  .nasty-stuff.example.com
2790
2791 {+block{Doubleclick banners.} +handle-as-image}
2792 # Block and replace with image
2793  .ad.doubleclick.net
2794  .ads.r.us/banners/
2795
2796 {+block{Layered ads.} +handle-as-empty-document}
2797 # Block and then ignore
2798  adserver.example.net/.*\.js$</screen>
2799   </listitem>
2800  </varlistentry>
2801
2802
2803 </variablelist>
2804 </sect3>
2805
2806
2807 <!--   ~~~~~       New section      ~~~~~     -->
2808 <sect3 renderas="sect4" id="change-x-forwarded-for">
2809 <title>change-x-forwarded-for</title>
2810
2811 <variablelist>
2812  <varlistentry>
2813   <term>Typical use:</term>
2814   <listitem>
2815    <para>Improve privacy by not forwarding the source of the request in the HTTP headers.</para>
2816   </listitem>
2817  </varlistentry>
2818
2819  <varlistentry>
2820   <term>Effect:</term>
2821   <listitem>
2822    <para>
2823     Deletes the <quote>X-Forwarded-For:</quote> HTTP header from the client request,
2824     or adds a new one.
2825    </para>
2826   </listitem>
2827  </varlistentry>
2828
2829  <varlistentry>
2830   <term>Type:</term>
2831   <!-- Boolean, Parameterized, Multi-value -->
2832   <listitem>
2833    <para>Parameterized.</para>
2834   </listitem>
2835  </varlistentry>
2836
2837  <varlistentry>
2838   <term>Parameter:</term>
2839   <listitem>
2840    <itemizedlist>
2841     <listitem>
2842      <para><quote>block</quote> to delete the header.</para>
2843     </listitem>
2844     <listitem>
2845      <para>
2846        <quote>add</quote> to create the header (or append
2847        the client's IP address to an already existing one).
2848      </para>
2849     </listitem>
2850    </itemizedlist>
2851   </listitem>
2852  </varlistentry>
2853
2854  <varlistentry>
2855   <term>Notes:</term>
2856   <listitem>
2857    <para>
2858     It is safe and recommended to use <literal>block</literal>.
2859    </para>
2860    <para>
2861     Forwarding the source address of the request may make
2862     sense in some multi-user setups but is also a privacy risk.
2863    </para>
2864   </listitem>
2865  </varlistentry>
2866  <varlistentry>
2867   <term>Example usage:</term>
2868   <listitem>
2869      <screen>+change-x-forwarded-for{block}</screen>
2870   </listitem>
2871  </varlistentry>
2872 </variablelist>
2873 </sect3>
2874
2875 <!--   ~~~~~       New section      ~~~~~     -->
2876 <sect3 renderas="sect4" id="client-header-filter">
2877 <title>client-header-filter</title>
2878
2879 <variablelist>
2880  <varlistentry>
2881   <term>Typical use:</term>
2882   <listitem>
2883    <para>
2884    Rewrite or remove single client headers.
2885    </para>
2886   </listitem>
2887  </varlistentry>
2888
2889  <varlistentry>
2890   <term>Effect:</term>
2891   <listitem>
2892    <para>
2893     All client headers to which this action applies are filtered on-the-fly through
2894     the specified regular expression based substitutions.
2895    </para>
2896   </listitem>
2897  </varlistentry>
2898
2899  <varlistentry>
2900   <term>Type:</term>
2901   <!-- boolean, parameterized, Multi-value -->
2902   <listitem>
2903    <para>Multi-value.</para>
2904   </listitem>
2905  </varlistentry>
2906
2907  <varlistentry>
2908   <term>Parameter:</term>
2909   <listitem>
2910    <para>
2911     The name of a client-header filter, as defined in one of the
2912     <link linkend="filter-file">filter files</link>.
2913    </para>
2914   </listitem>
2915  </varlistentry>
2916
2917  <varlistentry>
2918   <term>Notes:</term>
2919   <listitem>
2920    <para>
2921     Client-header filters are applied to each header on its own, not to
2922     all at once. This makes it easier to diagnose problems, but on the downside
2923     you can't write filters that only change header x if header y's value is z.
2924     You can do that by using tags though.
2925    </para>
2926    <para>
2927     Client-header filters are executed after the other header actions have finished
2928     and use their output as input.
2929    </para>
2930    <para>
2931     If the request URI gets changed, &my-app; will detect that and use the new
2932     one. This can be used to rewrite the request destination behind the client's
2933     back, for example to specify a Tor exit relay for certain requests.
2934    </para>
2935    <para>
2936     Please refer to the <link linkend="filter-file">filter file chapter</link>
2937     to learn which client-header filters are available by default, and how to
2938     create your own.
2939    </para>
2940
2941   </listitem>
2942  </varlistentry>
2943
2944  <varlistentry>
2945   <term>Example usage (section):</term>
2946   <listitem>
2947      <screen>
2948 # Hide Tor exit notation in Host and Referer Headers
2949 {+client-header-filter{hide-tor-exit-notation}}
2950 /
2951 </screen>
2952   </listitem>
2953  </varlistentry>
2954
2955 </variablelist>
2956 </sect3>
2957
2958
2959 <!--   ~~~~~       New section      ~~~~~     -->
2960 <sect3 renderas="sect4" id="client-header-tagger">
2961 <title>client-header-tagger</title>
2962
2963 <variablelist>
2964  <varlistentry>
2965   <term>Typical use:</term>
2966   <listitem>
2967    <para>
2968    Block requests based on their headers.
2969    </para>
2970   </listitem>
2971  </varlistentry>
2972
2973  <varlistentry>
2974   <term>Effect:</term>
2975   <listitem>
2976    <para>
2977     Client headers to which this action applies are filtered on-the-fly through
2978     the specified regular expression based substitutions, the result is used as
2979     tag.
2980    </para>
2981   </listitem>
2982  </varlistentry>
2983
2984  <varlistentry>
2985   <term>Type:</term>
2986   <!-- boolean, parameterized, Multi-value -->
2987   <listitem>
2988    <para>Multi-value.</para>
2989   </listitem>
2990  </varlistentry>
2991
2992  <varlistentry>
2993   <term>Parameter:</term>
2994   <listitem>
2995    <para>
2996     The name of a client-header tagger, as defined in one of the
2997     <link linkend="filter-file">filter files</link>.
2998    </para>
2999   </listitem>
3000  </varlistentry>
3001
3002  <varlistentry>
3003   <term>Notes:</term>
3004   <listitem>
3005    <para>
3006     Client-header taggers are applied to each header on its own,
3007     and as the header isn't modified, each tagger <quote>sees</quote>
3008     the original.
3009    </para>
3010    <para>
3011     Client-header taggers are the first actions that are executed
3012     and their tags can be used to control every other action.
3013    </para>
3014  </listitem>
3015  </varlistentry>
3016
3017  <varlistentry>
3018   <term>Example usage (section):</term>
3019   <listitem>
3020      <screen>
3021 # Tag every request with the User-Agent header
3022 {+client-header-tagger{user-agent}}
3023 /
3024
3025 # Tagging itself doesn't change the action
3026 # settings, sections with TAG patterns do:
3027 #
3028 # If it's a download agent, use a different forwarding proxy,
3029 # show the real User-Agent and make sure resume works.
3030 {+forward-override{forward-socks5 10.0.0.2:2222 .} \
3031  -hide-if-modified-since      \
3032  -overwrite-last-modified     \
3033  -hide-user-agent             \
3034  -filter                      \
3035  -deanimate-gifs              \
3036 }
3037 TAG:^User-Agent: NetBSD-ftp/
3038 TAG:^User-Agent: Novell ZYPP Installer
3039 TAG:^User-Agent: RPM APT-HTTP/
3040 TAG:^User-Agent: fetch libfetch/
3041 TAG:^User-Agent: Ubuntu APT-HTTP/
3042 TAG:^User-Agent: MPlayer/
3043 </screen>
3044
3045      <screen>
3046 # Tag all requests with the Range header set
3047 {+client-header-tagger{range-requests}}
3048 /
3049
3050 # Disable filtering for the tagged requests.
3051 #
3052 # With filtering enabled Privoxy would remove the Range headers
3053 # to be able to filter the whole response. The downside is that
3054 # it prevents clients from resuming downloads or skipping over
3055 # parts of multimedia files.
3056 {-filter -deanimate-gifs}
3057 TAG:^RANGE-REQUEST$
3058 </screen>
3059
3060      <screen>
3061 # Tag all requests with the client IP address
3062 #
3063 # (Technically the client IP address isn't included in the
3064 # client headers but client-header taggers can set it anyway.
3065 # For details see the tagger in default.filter)
3066 {+client-header-tagger{client-ip-address}}
3067 /
3068
3069 # Change forwarding settings for requests coming from address 10.0.0.1
3070 {+forward-override{forward-socks5 127.0.1.2:2222 .}}
3071 TAG:^IP-ADDRESS: 10\.0\.0\.1$
3072 </screen>
3073   </listitem>
3074  </varlistentry>
3075
3076 </variablelist>
3077 </sect3>
3078
3079
3080 <!--   ~~~~~       New section      ~~~~~     -->
3081 <sect3 renderas="sect4" id="content-type-overwrite">
3082 <title>content-type-overwrite</title>
3083
3084 <variablelist>
3085  <varlistentry>
3086   <term>Typical use:</term>
3087   <listitem>
3088    <para>Stop useless download menus from popping up, or change the browser's rendering mode</para>
3089   </listitem>
3090  </varlistentry>
3091
3092  <varlistentry>
3093   <term>Effect:</term>
3094   <listitem>
3095    <para>
3096     Replaces the <quote>Content-Type:</quote> HTTP server header.
3097    </para>
3098   </listitem>
3099  </varlistentry>
3100
3101  <varlistentry>
3102   <term>Type:</term>
3103   <!-- Boolean, Parameterized, Multi-value -->
3104   <listitem>
3105    <para>Parameterized.</para>
3106   </listitem>
3107  </varlistentry>
3108
3109  <varlistentry>
3110   <term>Parameter:</term>
3111   <listitem>
3112    <para>
3113     Any string.
3114    </para>
3115   </listitem>
3116  </varlistentry>
3117
3118  <varlistentry>
3119   <term>Notes:</term>
3120   <listitem>
3121    <para>
3122     The <quote>Content-Type:</quote> HTTP server header is used by the
3123     browser to decide what to do with the document. The value of this
3124     header can cause the browser to open a download menu instead of
3125     displaying the document by itself, even if the document's format is
3126     supported by the browser.
3127    </para>
3128    <para>
3129     The declared content type can also affect which rendering mode
3130     the browser chooses. If XHTML is delivered as <quote>text/html</quote>,
3131     many browsers treat it as yet another broken HTML document.
3132     If it is send as <quote>application/xml</quote>, browsers with
3133     XHTML support will only display it, if the syntax is correct.
3134    </para>
3135    <para>
3136     If you see a web site that proudly uses XHTML buttons, but sets
3137     <quote>Content-Type: text/html</quote>, you can use &my-app;
3138     to overwrite it with <quote>application/xml</quote> and validate
3139     the web master's claim inside your XHTML-supporting browser.
3140     If the syntax is incorrect, the browser will complain loudly.
3141    </para>
3142    <para>
3143     You can also go the opposite direction: if your browser prints
3144     error messages instead of rendering a document falsely declared
3145     as XHTML, you can overwrite the content type with
3146     <quote>text/html</quote> and have it rendered as broken HTML document.
3147    </para>
3148    <para>
3149     By default <literal>content-type-overwrite</literal> only replaces
3150     <quote>Content-Type:</quote> headers that look like some kind of text.
3151     If you want to overwrite it unconditionally, you have to combine it with
3152     <literal><link linkend="force-text-mode">force-text-mode</link></literal>.
3153     This limitation exists for a reason, think twice before circumventing it.
3154    </para>
3155    <para>
3156     Most of the time it's easier to replace this action with a custom
3157     <literal><link linkend="server-header-filter">server-header filter</link></literal>.
3158     It allows you to activate it for every document of a certain site and it will still
3159     only replace the content types you aimed at.
3160    </para>
3161    <para>
3162     Of course you can apply <literal>content-type-overwrite</literal>
3163     to a whole site and then make URL based exceptions, but it's a lot
3164     more work to get the same precision.
3165    </para>
3166   </listitem>
3167  </varlistentry>
3168
3169  <varlistentry>
3170   <term>Example usage (sections):</term>
3171   <listitem>
3172      <screen># Check if www.example.net/ really uses valid XHTML
3173 { +content-type-overwrite{application/xml} }
3174 www.example.net/
3175
3176 # but leave the content type unmodified if the URL looks like a style sheet
3177 {-content-type-overwrite}
3178 www.example.net/.*\.css$
3179 www.example.net/.*style
3180 </screen>
3181   </listitem>
3182  </varlistentry>
3183 </variablelist>
3184 </sect3>
3185
3186
3187 <!--   ~~~~~       New section      ~~~~~     -->
3188 <sect3 renderas="sect4" id="crunch-client-header">
3189 <!--
3190 new action
3191 -->
3192 <title>crunch-client-header</title>
3193
3194 <variablelist>
3195  <varlistentry>
3196   <term>Typical use:</term>
3197   <listitem>
3198    <para>Remove a client header <application>Privoxy</application> has no dedicated action for.</para>
3199   </listitem>
3200  </varlistentry>
3201
3202  <varlistentry>
3203   <term>Effect:</term>
3204   <listitem>
3205    <para>
3206     Deletes every header sent by the client that contains the string the user supplied as parameter.
3207    </para>
3208   </listitem>
3209  </varlistentry>
3210
3211  <varlistentry>
3212   <term>Type:</term>
3213   <!-- Boolean, Parameterized, Multi-value -->
3214   <listitem>
3215    <para>Parameterized.</para>
3216   </listitem>
3217  </varlistentry>
3218
3219  <varlistentry>
3220   <term>Parameter:</term>
3221   <listitem>
3222    <para>
3223     Any string.
3224    </para>
3225   </listitem>
3226  </varlistentry>
3227
3228  <varlistentry>
3229   <term>Notes:</term>
3230   <listitem>
3231    <para>
3232     This action allows you to block client headers for which no dedicated
3233     <application>Privoxy</application> action exists.
3234     <application>Privoxy</application> will remove every client header that
3235     contains the string you supplied as parameter.
3236    </para>
3237    <para>
3238     Regular expressions are <emphasis>not supported</emphasis> and you can't
3239     use this action to block different headers in the same request, unless
3240     they contain the same string.
3241    </para>
3242    <para>
3243     <literal>crunch-client-header</literal> is only meant for quick tests.
3244     If you have to block several different headers, or only want to modify
3245     parts of them, you should use a
3246     <literal><link linkend="client-header-filter">client-header filter</link></literal>.
3247    </para>
3248     <warning>
3249      <para>
3250       Don't block any header without understanding the consequences.
3251      </para>
3252     </warning>
3253   </listitem>
3254  </varlistentry>
3255
3256  <varlistentry>
3257   <term>Example usage (section):</term>
3258   <listitem>
3259      <screen># Block the non-existent "Privacy-Violation:" client header
3260 { +crunch-client-header{Privacy-Violation:} }
3261 /
3262 </screen>
3263   </listitem>
3264  </varlistentry>
3265 </variablelist>
3266 </sect3>
3267
3268
3269 <!--   ~~~~~       New section      ~~~~~     -->
3270 <sect3 renderas="sect4" id="crunch-if-none-match">
3271 <title>crunch-if-none-match</title>
3272 <!--
3273 new action
3274 -->
3275 <variablelist>
3276  <varlistentry>
3277   <term>Typical use:</term>
3278   <listitem>
3279    <para>Prevent yet another way to track the user's steps between sessions.</para>
3280   </listitem>
3281  </varlistentry>
3282
3283  <varlistentry>
3284   <term>Effect:</term>
3285   <listitem>
3286    <para>
3287     Deletes the <quote>If-None-Match:</quote> HTTP client header.
3288    </para>
3289   </listitem>
3290  </varlistentry>
3291
3292  <varlistentry>
3293   <term>Type:</term>
3294   <!-- Boolean, Parameterized, Multi-value -->
3295   <listitem>
3296    <para>Boolean.</para>
3297   </listitem>
3298  </varlistentry>
3299
3300  <varlistentry>
3301   <term>Parameter:</term>
3302   <listitem>
3303    <para>
3304     N/A
3305    </para>
3306   </listitem>
3307  </varlistentry>
3308
3309  <varlistentry>
3310   <term>Notes:</term>
3311   <listitem>
3312    <para>
3313     Removing the <quote>If-None-Match:</quote> HTTP client header
3314     is useful for filter testing, where you want to force a real
3315     reload instead of getting status code <quote>304</quote> which
3316     would cause the browser to use a cached copy of the page.
3317    </para>
3318    <para>
3319     It is also useful to make sure the header isn't used as a cookie
3320     replacement (unlikely but possible).
3321    </para>
3322    <para>
3323     Blocking the <quote>If-None-Match:</quote> header shouldn't cause any
3324     caching problems, as long as the <quote>If-Modified-Since:</quote> header
3325     isn't blocked or missing as well.
3326    </para>
3327    <para>
3328     It is recommended to use this action together with
3329     <literal><link linkend="hide-if-modified-since">hide-if-modified-since</link></literal>
3330     and
3331     <literal><link linkend="overwrite-last-modified">overwrite-last-modified</link></literal>.
3332    </para>
3333   </listitem>
3334  </varlistentry>
3335
3336  <varlistentry>
3337   <term>Example usage (section):</term>
3338   <listitem>
3339      <screen># Let the browser revalidate cached documents but don't
3340 # allow the server to use the revalidation headers for user tracking.
3341 {+hide-if-modified-since{-60} \
3342  +overwrite-last-modified{randomize} \
3343  +crunch-if-none-match}
3344 /
3345 </screen>
3346   </listitem>
3347  </varlistentry>
3348 </variablelist>
3349 </sect3>
3350
3351
3352 <!--   ~~~~~       New section      ~~~~~     -->
3353 <sect3 renderas="sect4" id="crunch-incoming-cookies">
3354 <title>crunch-incoming-cookies</title>
3355
3356 <variablelist>
3357  <varlistentry>
3358   <term>Typical use:</term>
3359   <listitem>
3360    <para>
3361     Prevent the web server from setting HTTP cookies on your system
3362    </para>
3363   </listitem>
3364  </varlistentry>
3365
3366  <varlistentry>
3367   <term>Effect:</term>
3368   <listitem>
3369    <para>
3370     Deletes any <quote>Set-Cookie:</quote> HTTP headers from server replies.
3371    </para>
3372   </listitem>
3373  </varlistentry>
3374
3375  <varlistentry>
3376   <term>Type:</term>
3377   <!-- Boolean, Parameterized, Multi-value -->
3378   <listitem>
3379    <para>Boolean.</para>
3380   </listitem>
3381  </varlistentry>
3382
3383  <varlistentry>
3384   <term>Parameter:</term>
3385   <listitem>
3386    <para>
3387     N/A
3388    </para>
3389   </listitem>
3390  </varlistentry>
3391
3392  <varlistentry>
3393   <term>Notes:</term>
3394   <listitem>
3395    <para>
3396     This action is only concerned with <emphasis>incoming</emphasis> HTTP cookies. For
3397     <emphasis>outgoing</emphasis> HTTP cookies, use
3398     <literal><link linkend="crunch-outgoing-cookies">crunch-outgoing-cookies</link></literal>.
3399     Use <emphasis>both</emphasis> to disable HTTP cookies completely.
3400    </para>
3401    <para>
3402     It makes <emphasis>no sense at all</emphasis> to use this action in conjunction
3403     with the <literal><link linkend="session-cookies-only">session-cookies-only</link></literal> action,
3404     since it would prevent the session cookies from being set. See also
3405     <literal><link linkend="filter-content-cookies">filter-content-cookies</link></literal>.
3406    </para>
3407   </listitem>
3408  </varlistentry>
3409
3410  <varlistentry>
3411   <term>Example usage:</term>
3412   <listitem>
3413     <screen>+crunch-incoming-cookies</screen>
3414   </listitem>
3415  </varlistentry>
3416 </variablelist>
3417 </sect3>
3418
3419
3420 <!--   ~~~~~       New section      ~~~~~     -->
3421 <sect3 renderas="sect4" id="crunch-server-header">
3422 <title>crunch-server-header</title>
3423 <!--
3424 new action
3425 -->
3426 <variablelist>
3427  <varlistentry>
3428   <term>Typical use:</term>
3429   <listitem>
3430    <para>Remove a server header <application>Privoxy</application> has no dedicated action for.</para>
3431   </listitem>
3432  </varlistentry>
3433
3434  <varlistentry>
3435   <term>Effect:</term>
3436   <listitem>
3437    <para>
3438     Deletes every header sent by the server that contains the string the user supplied as parameter.
3439    </para>
3440   </listitem>
3441  </varlistentry>
3442
3443  <varlistentry>
3444   <term>Type:</term>
3445   <!-- Boolean, Parameterized, Multi-value -->
3446   <listitem>
3447    <para>Parameterized.</para>
3448   </listitem>
3449  </varlistentry>
3450
3451  <varlistentry>
3452   <term>Parameter:</term>
3453   <listitem>
3454    <para>
3455     Any string.
3456    </para>
3457   </listitem>
3458  </varlistentry>
3459
3460  <varlistentry>
3461   <term>Notes:</term>
3462   <listitem>
3463    <para>
3464     This action allows you to block server headers for which no dedicated
3465     <application>Privoxy</application> action exists. <application>Privoxy</application>
3466     will remove every server header that contains the string you supplied as parameter.
3467    </para>
3468    <para>
3469     Regular expressions are <emphasis>not supported</emphasis> and you can't
3470     use this action to block different headers in the same request, unless
3471     they contain the same string.
3472    </para>
3473    <para>
3474     <literal>crunch-server-header</literal> is only meant for quick tests.
3475     If you have to block several different headers, or only want to modify
3476     parts of them, you should use a custom
3477     <literal><link linkend="server-header-filter">server-header filter</link></literal>.
3478    </para>
3479     <warning>
3480      <para>
3481      Don't block any header without understanding the consequences.
3482      </para>
3483     </warning>
3484   </listitem>
3485  </varlistentry>
3486
3487  <varlistentry>
3488   <term>Example usage (section):</term>
3489   <listitem>
3490      <screen># Crunch server headers that try to prevent caching
3491 { +crunch-server-header{no-cache} }
3492 /
3493 </screen>
3494   </listitem>
3495  </varlistentry>
3496 </variablelist>
3497 </sect3>
3498
3499
3500 <!--   ~~~~~       New section      ~~~~~     -->
3501 <sect3 renderas="sect4" id="crunch-outgoing-cookies">
3502 <title>crunch-outgoing-cookies</title>
3503
3504 <variablelist>
3505  <varlistentry>
3506   <term>Typical use:</term>
3507   <listitem>
3508    <para>
3509     Prevent the web server from reading any HTTP cookies from your system
3510    </para>
3511   </listitem>
3512  </varlistentry>
3513
3514  <varlistentry>
3515   <term>Effect:</term>
3516   <listitem>
3517    <para>
3518     Deletes any <quote>Cookie:</quote> HTTP headers from client requests.
3519    </para>
3520   </listitem>
3521  </varlistentry>
3522
3523  <varlistentry>
3524   <term>Type:</term>
3525   <!-- Boolean, Parameterized, Multi-value -->
3526   <listitem>
3527    <para>Boolean.</para>
3528   </listitem>
3529  </varlistentry>
3530
3531  <varlistentry>
3532   <term>Parameter:</term>
3533   <listitem>
3534    <para>
3535     N/A
3536    </para>
3537   </listitem>
3538  </varlistentry>
3539
3540  <varlistentry>
3541   <term>Notes:</term>
3542   <listitem>
3543    <para>
3544     This action is only concerned with <emphasis>outgoing</emphasis> HTTP cookies. For
3545     <emphasis>incoming</emphasis> HTTP cookies, use
3546     <literal><link linkend="crunch-incoming-cookies">crunch-incoming-cookies</link></literal>.
3547     Use <emphasis>both</emphasis> to disable HTTP cookies completely.
3548    </para>
3549    <para>
3550     It makes <emphasis>no sense at all</emphasis> to use this action in conjunction
3551     with the <literal><link linkend="session-cookies-only">session-cookies-only</link></literal> action,
3552     since it would prevent the session cookies from being read.
3553    </para>
3554   </listitem>
3555  </varlistentry>
3556
3557  <varlistentry>
3558   <term>Example usage:</term>
3559   <listitem>
3560     <screen>+crunch-outgoing-cookies</screen>
3561   </listitem>
3562  </varlistentry>
3563
3564 </variablelist>
3565 </sect3>
3566
3567
3568 <!--   ~~~~~       New section      ~~~~~     -->
3569 <sect3 renderas="sect4" id="deanimate-gifs">
3570 <title>deanimate-gifs</title>
3571
3572 <variablelist>
3573  <varlistentry>
3574   <term>Typical use:</term>
3575   <listitem>
3576    <para>Stop those annoying, distracting animated GIF images.</para>
3577   </listitem>
3578  </varlistentry>
3579
3580  <varlistentry>
3581   <term>Effect:</term>
3582   <listitem>
3583    <para>
3584     De-animate GIF animations, i.e. reduce them to their first or last image.
3585    </para>
3586   </listitem>
3587  </varlistentry>
3588
3589  <varlistentry>
3590   <term>Type:</term>
3591   <!-- boolean, parameterized, Multi-value -->
3592   <listitem>
3593    <para>Parameterized.</para>
3594   </listitem>
3595  </varlistentry>
3596
3597  <varlistentry>
3598   <term>Parameter:</term>
3599   <listitem>
3600    <para>
3601     <quote>last</quote> or <quote>first</quote>
3602    </para>
3603   </listitem>
3604  </varlistentry>
3605
3606  <varlistentry>
3607   <term>Notes:</term>
3608   <listitem>
3609    <para>
3610     This will also shrink the images considerably (in bytes, not pixels!). If
3611     the option <quote>first</quote> is given, the first frame of the animation
3612     is used as the replacement. If <quote>last</quote> is given, the last
3613     frame of the animation is used instead, which probably makes more sense for
3614     most banner animations, but also has the risk of not showing the entire
3615     last frame (if it is only a delta to an earlier frame).
3616    </para>
3617    <para>
3618     You can safely use this action with patterns that will also match non-GIF
3619     objects, because no attempt will be made at anything that doesn't look like
3620     a GIF.
3621    </para>
3622   </listitem>
3623  </varlistentry>
3624
3625  <varlistentry>
3626   <term>Example usage:</term>
3627   <listitem>
3628       <screen>+deanimate-gifs{last}</screen>
3629   </listitem>
3630  </varlistentry>
3631 </variablelist>
3632 </sect3>
3633
3634
3635 <!--   ~~~~~       New section      ~~~~~     -->
3636 <sect3 renderas="sect4" id="delay-response">
3637 <title>delay-response</title>
3638
3639 <variablelist>
3640  <varlistentry>
3641   <term>Typical use:</term>
3642   <listitem>
3643    <para>Delay responses to the client to reduce the load</para>
3644   </listitem>
3645  </varlistentry>
3646
3647  <varlistentry>
3648   <term>Effect:</term>
3649   <listitem>
3650    <para>
3651     Delays responses to the client by sending the response in ca. 10 byte chunks.
3652    </para>
3653   </listitem>
3654  </varlistentry>
3655
3656  <varlistentry>
3657   <term>Type:</term>
3658   <!-- boolean, parameterized, Multi-value -->
3659   <listitem>
3660    <para>Parameterized.</para>
3661   </listitem>
3662  </varlistentry>
3663
3664  <varlistentry>
3665   <term>Parameter:</term>
3666   <listitem>
3667    <para>
3668     <quote>Number of milliseconds</quote>
3669    </para>
3670   </listitem>
3671  </varlistentry>
3672
3673  <varlistentry>
3674   <term>Notes:</term>
3675   <listitem>
3676    <para>
3677     Sometimes when JavaScript code is used to fetch advertisements
3678     it doesn't respect Privoxy's blocks and retries to fetch the
3679     same resource again causing unnecessary load on the client.
3680    </para>
3681    <para>
3682     This action delays responses to the client and can be combined
3683     with <literal><link linkend="block">blocks</link></literal>
3684     to slow down the JavaScript code, thus reducing
3685     the load on the client.
3686    </para>
3687    <para>
3688     When used without <literal><link linkend="block">blocks</link></literal>
3689     the action can also be used to simulate a slow internet connection.
3690    </para>
3691   </listitem>
3692  </varlistentry>
3693
3694  <varlistentry>
3695   <term>Example usage:</term>
3696   <listitem>
3697       <screen>+delay-response{100}</screen>
3698   </listitem>
3699  </varlistentry>
3700 </variablelist>
3701 </sect3>
3702
3703
3704 <!--   ~~~~~       New section      ~~~~~     -->
3705 <sect3 renderas="sect4" id="downgrade-http-version">
3706 <title>downgrade-http-version</title>
3707
3708 <variablelist>
3709  <varlistentry>
3710   <term>Typical use:</term>
3711   <listitem>
3712    <para>Work around (very rare) problems with HTTP/1.1</para>
3713   </listitem>
3714  </varlistentry>
3715
3716  <varlistentry>
3717   <term>Effect:</term>
3718   <listitem>
3719    <para>
3720     Downgrades HTTP/1.1 client requests and server replies to HTTP/1.0.
3721    </para>
3722   </listitem>
3723  </varlistentry>
3724
3725  <varlistentry>
3726   <term>Type:</term>
3727   <!-- boolean, parameterized, Multi-value -->
3728   <listitem>
3729    <para>Boolean.</para>
3730   </listitem>
3731  </varlistentry>
3732
3733  <varlistentry>
3734   <term>Parameter:</term>
3735   <listitem>
3736    <para>
3737     N/A
3738    </para>
3739   </listitem>
3740  </varlistentry>
3741
3742 <varlistentry>
3743   <term>Notes:</term>
3744   <listitem>
3745    <para>
3746     This is a left-over from the time when <application>Privoxy</application>
3747     didn't support important HTTP/1.1 features well. It is left here for the
3748     unlikely case that you experience HTTP/1.1-related problems with some server
3749     out there.
3750    </para>
3751    <para>
3752     Note that enabling this action is only a workaround. It should not
3753     be enabled for sites that work without it. While it shouldn't break
3754     any pages, it has an (usually negative) performance impact.
3755   </para>
3756   <para>
3757     If you come across a site where enabling this action helps, please report it,
3758     so the cause of the problem can be analyzed. If the problem turns out to be
3759     caused by a bug in  <application>Privoxy</application> it should be
3760     fixed so the following release works without the work around.
3761    </para>
3762   </listitem>
3763  </varlistentry>
3764
3765  <varlistentry>
3766   <term>Example usage (section):</term>
3767   <listitem>
3768      <screen>{+downgrade-http-version}
3769 problem-host.example.com</screen>
3770   </listitem>
3771  </varlistentry>
3772
3773 </variablelist>
3774 </sect3>
3775
3776
3777 <!--   ~~~~~       New section      ~~~~~     -->
3778 <sect3 renderas="sect4" id="external-filter">
3779 <title>external-filter</title>
3780
3781 <variablelist>
3782  <varlistentry>
3783   <term>Typical use:</term>
3784   <listitem>
3785    <para>Modify content using a programming language of your choice.</para>
3786   </listitem>
3787  </varlistentry>
3788
3789  <varlistentry>
3790   <term>Effect:</term>
3791   <listitem>
3792    <para>
3793     All instances of text-based type, most notably HTML and JavaScript, to which
3794     this action applies, can be filtered on-the-fly through the specified external
3795     filter.
3796     By default plain text documents are exempted from filtering, because web
3797     servers often use the <literal>text/plain</literal> MIME type for all files
3798     whose type they don't know.)
3799    </para>
3800   </listitem>
3801  </varlistentry>
3802
3803  <varlistentry>
3804   <term>Type:</term>
3805   <!-- boolean, parameterized, Multi-value -->
3806   <listitem>
3807    <para>Multi-value.</para>
3808   </listitem>
3809  </varlistentry>
3810
3811  <varlistentry>
3812   <term>Parameter:</term>
3813   <listitem>
3814    <para>
3815     The name of an external content filter, as defined in the
3816     <link linkend="filter-file">filter file</link>.
3817     External filters can be defined in one or more files as defined by the
3818     <literal><link linkend="filterfile">filterfile</link></literal>
3819     option in the <link linkend="config">config file</link>.
3820    </para>
3821    <para>
3822     When used in its negative form,
3823     and without parameters, <emphasis>all</emphasis> filtering with external
3824     filters is completely disabled.
3825   </para>
3826   </listitem>
3827  </varlistentry>
3828
3829  <varlistentry>
3830   <term>Notes:</term>
3831   <listitem>
3832    <para>
3833     External filters are scripts or programs that can modify the content in
3834     case common <literal><link linkend="filter">filters</link></literal>
3835     aren't powerful enough. With the exception that this action doesn't
3836     use pcrs-based filters, the notes in the
3837     <literal><link linkend="filter">filter</link></literal> section apply.
3838    </para>
3839    <warning>
3840     <para>
3841      Currently external filters are executed with &my-app;'s privileges.
3842      Only use external filters you understand and trust.
3843     </para>
3844    </warning>
3845    <para>
3846     This feature is experimental, the <literal><link
3847     linkend="external-filter-syntax">syntax</link></literal>
3848     may change in the future.
3849    </para>
3850
3851   </listitem>
3852  </varlistentry>
3853
3854  <varlistentry>
3855   <term>Example usage:</term>
3856   <listitem>
3857     <screen>+external-filter{fancy-filter}</screen>
3858   </listitem>
3859  </varlistentry>
3860 </variablelist>
3861 </sect3>
3862
3863 <!--   ~~~~~       New section      ~~~~~     -->
3864 <sect3 renderas="sect4" id="fast-redirects">
3865 <title>fast-redirects</title>
3866
3867 <variablelist>
3868  <varlistentry>
3869   <term>Typical use:</term>
3870   <listitem>
3871    <para>Fool some click-tracking scripts and speed up indirect links.</para>
3872   </listitem>
3873  </varlistentry>
3874
3875  <varlistentry>
3876   <term>Effect:</term>
3877   <listitem>
3878    <para>
3879     Detects redirection URLs and redirects the browser without contacting
3880     the redirection server first.
3881    </para>
3882   </listitem>
3883  </varlistentry>
3884
3885  <varlistentry>
3886   <term>Type:</term>
3887   <!-- boolean, parameterized, Multi-value -->
3888   <listitem>
3889    <para>Parameterized.</para>
3890   </listitem>
3891  </varlistentry>
3892
3893  <varlistentry>
3894   <term>Parameter:</term>
3895   <listitem>
3896    <itemizedlist>
3897     <listitem>
3898      <para>
3899       <quote>simple-check</quote> to just search for the string <quote>http://</quote>
3900       to detect redirection URLs.
3901      </para>
3902     </listitem>
3903     <listitem>
3904      <para>
3905       <quote>check-decoded-url</quote> to decode URLs (if necessary) before searching
3906       for redirection URLs.
3907      </para>
3908     </listitem>
3909    </itemizedlist>
3910   </listitem>
3911  </varlistentry>
3912
3913  <varlistentry>
3914   <term>Notes:</term>
3915   <listitem>
3916    <para>
3917     Many sites, like yahoo.com, don't just link to other sites. Instead, they
3918     will link to some script on their own servers, giving the destination as a
3919     parameter, which will then redirect you to the final target. URLs
3920     resulting from this scheme typically look like:
3921     <quote>http://www.example.org/click-tracker.cgi?target=http%3a//www.example.net/</quote>.
3922   </para>
3923    <para>
3924     Sometimes, there are even multiple consecutive redirects encoded in the
3925     URL. These redirections via scripts make your web browsing more traceable,
3926     since the server from which you follow such a link can see where you go
3927     to. Apart from that, valuable bandwidth and time is wasted, while your
3928     browser asks the server for one redirect after the other. Plus, it feeds
3929     the advertisers.
3930    </para>
3931    <para>
3932     This feature is currently not very smart and is scheduled for improvement.
3933     If it is enabled by default, you will have to create some exceptions to
3934     this action. It can lead to failures in several ways:
3935    </para>
3936    <para>
3937     Not every URLs with other URLs as parameters is evil.
3938     Some sites offer a real service that requires this information to work.
3939     For example a validation service needs to know, which document to validate.
3940     <literal>fast-redirects</literal> assumes that every URL parameter that
3941     looks like another URL is a redirection target, and will always redirect to
3942     the last one. Most of the time the assumption is correct, but if it isn't,
3943     the user gets redirected anyway.
3944    </para>
3945    <para>
3946     Another failure occurs if the URL contains other parameters after the URL parameter.
3947     The URL:
3948     <quote>http://www.example.org/?redirect=http%3a//www.example.net/&amp;foo=bar</quote>.
3949     contains the redirection URL <quote>http://www.example.net/</quote>,
3950     followed by another parameter. <literal>fast-redirects</literal> doesn't know that
3951     and will cause a redirect to <quote>http://www.example.net/&amp;foo=bar</quote>.
3952     Depending on the target server configuration, the parameter will be silently ignored
3953     or lead to a <quote>page not found</quote> error. You can prevent this problem by
3954     first using the <literal><link linkend="redirect">redirect</link></literal> action
3955     to remove the last part of the URL, but it requires a little effort.
3956    </para>
3957    <para>
3958     To detect a redirection URL, <literal>fast-redirects</literal> only
3959     looks for the string <quote>http://</quote>, either in plain text
3960     (invalid but often used) or encoded as <quote>http%3a//</quote>.
3961     Some sites use their own URL encoding scheme, encrypt the address
3962     of the target server or replace it with a database id. In these cases
3963     <literal>fast-redirects</literal> is fooled and the request reaches the
3964     redirection server where it probably gets logged.
3965    </para>
3966   </listitem>
3967  </varlistentry>
3968
3969  <varlistentry>
3970   <term>Example usage:</term>
3971   <listitem>
3972      <screen>
3973  { +fast-redirects{simple-check} }
3974    one.example.com
3975
3976  { +fast-redirects{check-decoded-url} }
3977    another.example.com/testing</screen>
3978   </listitem>
3979  </varlistentry>
3980
3981 </variablelist>
3982 </sect3>
3983
3984
3985 <!--   ~~~~~       New section      ~~~~~     -->
3986 <sect3 renderas="sect4" id="filter">
3987 <title>filter</title>
3988
3989 <variablelist>
3990  <varlistentry>
3991   <term>Typical use:</term>
3992   <listitem>
3993    <para>Get rid of HTML and JavaScript annoyances, banner advertisements (by size),
3994          do fun text replacements, add personalized effects, etc.</para>
3995   </listitem>
3996  </varlistentry>
3997
3998  <varlistentry>
3999   <term>Effect:</term>
4000   <listitem>
4001    <para>
4002     All instances of text-based type, most notably HTML and JavaScript, to which
4003     this action applies, can be filtered on-the-fly through the specified regular
4004     expression based substitutions. (Note: as of version 3.0.3 plain text documents
4005     are exempted from filtering, because web servers often use the
4006    <literal>text/plain</literal> MIME type for all files whose type they don't know.)
4007    </para>
4008   </listitem>
4009  </varlistentry>
4010
4011  <varlistentry>
4012   <term>Type:</term>
4013   <!-- boolean, parameterized, Multi-value -->
4014   <listitem>
4015    <para>Multi-value.</para>
4016   </listitem>
4017  </varlistentry>
4018
4019  <varlistentry>
4020   <term>Parameter:</term>
4021   <listitem>
4022    <para>
4023     The name of a content filter, as defined in the <link linkend="filter-file">filter file</link>.
4024     Filters can be defined in one or more  files as defined by the
4025     <literal><link linkend="filterfile">filterfile</link></literal>
4026     option in the <link linkend="config">config file</link>.
4027     <filename>default.filter</filename> is the collection of filters
4028     supplied by the developers. Locally defined filters should go
4029     in their own file, such as <filename>user.filter</filename>.
4030    </para>
4031    <para>
4032      When used in its negative form,
4033      and without parameters, <emphasis>all</emphasis> filtering is completely disabled.
4034   </para>
4035   </listitem>
4036  </varlistentry>
4037
4038  <varlistentry>
4039   <term>Notes:</term>
4040   <listitem>
4041    <para>
4042     For your convenience, there are a number of pre-defined filters available
4043     in the distribution filter file that you can use. See the examples below for
4044     a list.
4045    </para>
4046    <para>
4047     Filtering requires buffering the page content, which may appear to
4048     slow down page rendering since nothing is displayed until all content has
4049     passed the filters. (The total time until the page is completely rendered
4050     doesn't change much, but it may be perceived as slower since the page is
4051     not incrementally displayed.)
4052     This effect will be more noticeable on slower connections.
4053    </para>
4054    <para>
4055    <quote>Rolling your own</quote>
4056     filters requires a knowledge of
4057      <ulink url="http://en.wikipedia.org/wiki/Regular_expressions"><quote>Regular
4058      Expressions</quote></ulink> and
4059       <ulink url="http://en.wikipedia.org/wiki/Html"><quote>HTML</quote></ulink>.
4060     This is very powerful feature, and potentially very intrusive.
4061     Filters should be used with caution, and where an equivalent
4062     <quote>action</quote> is not available.
4063    </para>
4064    <para>
4065     The amount of data that can be filtered is limited to the
4066     <literal><link linkend="buffer-limit">buffer-limit</link></literal>
4067     option in the main <link linkend="config">config file</link>. The
4068     default is 4096 KB (4 Megs). Once this limit is exceeded, the buffered
4069     data, and all pending data, is passed through unfiltered.
4070    </para>
4071    <para>
4072     Inappropriate MIME types, such as zipped files, are not filtered at all.
4073     (Again, only text-based types except plain text). Encrypted SSL data
4074     (from HTTPS servers) cannot be filtered either, since this would violate
4075     the integrity of the secure transaction. In some situations it might
4076     be necessary to protect certain text, like source code, from filtering
4077     by defining appropriate <literal>-filter</literal> exceptions.
4078    </para>
4079    <para>
4080     Compressed content can't be filtered either, but if &my-app;
4081     is compiled with zlib support and a supported compression algorithm
4082     is used (gzip or deflate), &my-app; can first decompress the content
4083     and then filter it.
4084    </para>
4085    <para>
4086     If you use a &my-app; version without zlib support, but want filtering to work on
4087     as much documents as possible, even those that would normally be sent compressed,
4088     you must use the <literal><link linkend="prevent-compression">prevent-compression</link></literal>
4089     action in conjunction with <literal>filter</literal>.
4090    </para>
4091    <para>
4092     Content filtering can achieve some of the same effects as the
4093     <literal><link linkend="block">block</link></literal>
4094     action, i.e. it can be used to block ads and banners. But the mechanism
4095     works quite differently. One effective use, is to block ad banners
4096     based on their size (see below), since many of these seem to be somewhat
4097     standardized.
4098    </para>
4099    <para>
4100     <link linkend="contact">Feedback</link> with suggestions for new or
4101     improved filters is particularly welcome!
4102    </para>
4103    <para>
4104     The below list has only the names and a one-line description of each
4105     predefined filter. There are <link linkend="predefined-filters">more
4106     verbose explanations</link> of what these filters do in the <link
4107     linkend="filter-file">filter file chapter</link>.
4108    </para>
4109   </listitem>
4110  </varlistentry>
4111
4112  <varlistentry>
4113   <term>Example usage (with filters from the distribution <filename>default.filter</filename> file).
4114   See <link linkend="PREDEFINED-FILTERS">the Predefined Filters section</link> for
4115   more explanation on each:</term>
4116   <listitem>
4117    <para>
4118     <anchor id="filter-js-annoyances">
4119    </para>
4120     <screen>+filter{js-annoyances}       # Get rid of particularly annoying JavaScript abuse.</screen>
4121    <para>
4122     <anchor id="filter-js-events">
4123    </para>
4124     <screen>+filter{js-events}           # Kill JavaScript event bindings and timers (Radically destructive! Only for extra nasty sites).</screen>
4125    <para>
4126     <anchor id="filter-html-annoyances">
4127    </para>
4128     <screen>+filter{html-annoyances}     # Get rid of particularly annoying HTML abuse.</screen>
4129    <para>
4130     <anchor id="filter-content-cookies">
4131    </para>
4132     <screen>+filter{content-cookies}     # Kill cookies that come in the HTML or JS content.</screen>
4133    <para>
4134     <anchor id="filter-refresh-tags">
4135    </para>
4136     <screen>+filter{refresh-tags}        # Kill automatic refresh tags if refresh time is larger than 9 seconds.</screen>
4137    <para>
4138     <anchor id="filter-unsolicited-popups">
4139    </para>
4140     <screen>+filter{unsolicited-popups}  # Disable only unsolicited pop-up windows.</screen>
4141    <para>
4142     <anchor id="filter-all-popups">
4143    </para>
4144     <screen>+filter{all-popups}          # Kill all popups in JavaScript and HTML.</screen>
4145    <para>
4146     <anchor id="filter-img-reorder">
4147    </para>
4148     <screen>+filter{img-reorder}         # Reorder attributes in &lt;img&gt; tags to make the banners-by-* filters more effective.</screen>
4149    <para>
4150     <anchor id="filter-banners-by-size">
4151    </para>
4152     <screen>+filter{banners-by-size}     # Kill banners by size.</screen>
4153    <para>
4154     <anchor id="filter-banners-by-link">
4155    </para>
4156     <screen>+filter{banners-by-link}     # Kill banners by their links to known clicktrackers.</screen>
4157    <para>
4158     <anchor id="filter-webbugs">
4159    </para>
4160     <screen>+filter{webbugs}             # Squish WebBugs (1x1 invisible GIFs used for user tracking).</screen>
4161    <para>
4162     <anchor id="filter-tiny-textforms">
4163    </para>
4164     <screen>+filter{tiny-textforms}      # Extend those tiny textareas up to 40x80 and kill the hard wrap.</screen>
4165    <para>
4166     <anchor id="filter-jumping-windows">
4167    </para>
4168     <screen>+filter{jumping-windows}     # Prevent windows from resizing and moving themselves.</screen>
4169    <para>
4170     <anchor id="filter-frameset-borders">
4171    </para>
4172     <screen>+filter{frameset-borders}    # Give frames a border and make them resizable.</screen>
4173    <para>
4174     <anchor id="filter-iframes">
4175    </para>
4176     <screen>+filter{iframes}             # Removes all detected iframes. Should only be enabled for individual sites.</screen>
4177    <para>
4178     <anchor id="filter-demoronizer">
4179    </para>
4180     <screen>+filter{demoronizer}         # Fix MS's non-standard use of standard charsets.</screen>
4181    <para>
4182     <anchor id="filter-shockwave-flash">
4183    </para>
4184     <screen>+filter{shockwave-flash}     # Kill embedded Shockwave Flash objects.</screen>
4185    <para>
4186     <anchor id="filter-quicktime-kioskmode">
4187    </para>
4188     <screen>+filter{quicktime-kioskmode} # Make Quicktime movies saveable.</screen>
4189    <para>
4190     <anchor id="filter-fun">
4191    </para>
4192     <screen>+filter{fun}                 # Text replacements for subversive browsing fun!</screen>
4193    <para>
4194     <anchor id="filter-crude-parental">
4195    </para>
4196     <screen>+filter{crude-parental}      # Crude parental filtering. Note that this filter doesn't work reliably.</screen>
4197    <para>
4198     <anchor id="filter-ie-exploits">
4199    </para>
4200     <screen>+filter{ie-exploits}         # Disable some known Internet Explorer bug exploits.</screen>
4201    <para>
4202     <anchor id="filter-site-specifics">
4203    </para>
4204     <screen>+filter{site-specifics}      # Cure for site-specific problems. Don't apply generally!</screen>
4205    <para>
4206     <anchor id="filter-no-ping">
4207    </para>
4208     <screen>+filter{no-ping}             # Removes non-standard ping attributes in &lt;a&gt; and &lt;area&gt; tags.</screen>
4209    <para>
4210     <anchor id="filter-google">
4211    </para>
4212     <screen>+filter{google}              # CSS-based block for Google text ads. Also removes a width limitation and the toolbar advertisement.</screen>
4213    <para>
4214     <anchor id="filter-yahoo">
4215    </para>
4216     <screen>+filter{yahoo}               # CSS-based block for Yahoo text ads. Also removes a width limitation.</screen>
4217    <para>
4218     <anchor id="filter-msn">
4219    </para>
4220     <screen>+filter{msn}                 # CSS-based block for MSN text ads. Also removes tracking URLs and a width limitation.</screen>
4221    <para>
4222     <anchor id="filter-blogspot">
4223    </para>
4224     <screen>+filter{blogspot}            # Cleans up some Blogspot blogs. Read the fine print before using this.</screen>
4225   </listitem>
4226  </varlistentry>
4227 </variablelist>
4228 </sect3>
4229
4230
4231 <!--   ~~~~~       New section      ~~~~~     -->
4232 <sect3 renderas="sect4" id="force-text-mode">
4233 <title>force-text-mode</title>
4234 <!--
4235 new action
4236 -->
4237 <variablelist>
4238  <varlistentry>
4239   <term>Typical use:</term>
4240   <listitem>
4241    <para>Force <application>Privoxy</application> to treat a document as if it was in some kind of <emphasis>text</emphasis> format.   </para>
4242   </listitem>
4243  </varlistentry>
4244
4245  <varlistentry>
4246   <term>Effect:</term>
4247   <listitem>
4248    <para>
4249     Declares a document as text, even if the <quote>Content-Type:</quote> isn't detected as such.
4250    </para>
4251   </listitem>
4252  </varlistentry>
4253
4254  <varlistentry>
4255   <term>Type:</term>
4256   <!-- Boolean, Parameterized, Multi-value -->
4257   <listitem>
4258    <para>Boolean.</para>
4259   </listitem>
4260  </varlistentry>
4261
4262  <varlistentry>
4263   <term>Parameter:</term>
4264   <listitem>
4265    <para>
4266     N/A
4267    </para>
4268   </listitem>
4269  </varlistentry>
4270
4271  <varlistentry>
4272   <term>Notes:</term>
4273   <listitem>
4274    <para>
4275     As explained <literal><link linkend="filter">above</link></literal>,
4276     <application>Privoxy</application> tries to only filter files that are
4277     in some kind of text format. The same restrictions apply to
4278     <literal><link linkend="content-type-overwrite">content-type-overwrite</link></literal>.
4279     <literal>force-text-mode</literal> declares a document as text,
4280     without looking at the <quote>Content-Type:</quote> first.
4281    </para>
4282    <warning>
4283     <para>
4284      Think twice before activating this action. Filtering binary data
4285      with regular expressions can cause file damage.
4286     </para>
4287    </warning>
4288   </listitem>
4289  </varlistentry>
4290
4291  <varlistentry>
4292   <term>Example usage:</term>
4293   <listitem>
4294      <screen>
4295 +force-text-mode
4296 </screen>
4297   </listitem>
4298  </varlistentry>
4299 </variablelist>
4300 </sect3>
4301
4302
4303 <!--   ~~~~~       New section      ~~~~~     -->
4304 <sect3 renderas="sect4" id="forward-override">
4305 <title>forward-override</title>
4306 <!--
4307 new action
4308 -->
4309 <variablelist>
4310  <varlistentry>
4311   <term>Typical use:</term>
4312   <listitem>
4313    <para>Change the forwarding settings based on User-Agent or request origin</para>
4314   </listitem>
4315  </varlistentry>
4316
4317  <varlistentry>
4318   <term>Effect:</term>
4319   <listitem>
4320    <para>
4321     Overrules the forward directives in the configuration file.
4322    </para>
4323   </listitem>
4324  </varlistentry>
4325
4326  <varlistentry>
4327   <term>Type:</term>
4328   <!-- Boolean, Parameterized, Multi-value -->
4329   <listitem>
4330    <para>Parameterized.</para>
4331   </listitem>
4332  </varlistentry>
4333
4334  <varlistentry>
4335   <term>Parameter:</term>
4336   <listitem>
4337    <itemizedlist>
4338     <listitem>
4339      <para><quote>forward .</quote> to use a direct connection without any additional proxies.</para>
4340     </listitem>
4341     <listitem>
4342      <para>
4343       <quote>forward 127.0.0.1:8123</quote> to use the HTTP proxy listening at 127.0.0.1 port 8123.
4344      </para>
4345     </listitem>
4346     <listitem>
4347      <para>
4348       <quote>forward-socks4a 127.0.0.1:9050 .</quote> to use the socks4a proxy listening at
4349       127.0.0.1 port 9050. Replace <quote>forward-socks4a</quote> with <quote>forward-socks4</quote>
4350       to use a socks4 connection  (with local DNS resolution) instead, use <quote>forward-socks5</quote>
4351       for socks5 connections (with remote DNS resolution).
4352      </para>
4353     </listitem>
4354     <listitem>
4355      <para>
4356       <quote>forward-socks4a 127.0.0.1:9050 proxy.example.org:8000</quote> to use the socks4a proxy
4357       listening at 127.0.0.1 port 9050 to reach the HTTP proxy listening at proxy.example.org port 8000.
4358       Replace <quote>forward-socks4a</quote> with <quote>forward-socks4</quote> to use a socks4 connection
4359       (with local DNS resolution) instead, use <quote>forward-socks5</quote>
4360       for socks5 connections (with remote DNS resolution).
4361      </para>
4362     </listitem>
4363     <listitem>
4364      <para>
4365       <quote>forward-webserver 127.0.0.1:80</quote> to use the HTTP
4366       server listening at 127.0.0.1 port 80 without adjusting the
4367       request headers.
4368      </para>
4369      <para>
4370       This makes it more convenient to use Privoxy to make
4371       existing websites available as onion services as well.
4372      </para>
4373      <para>
4374       Many websites serve content with hardcoded URLs and
4375       can't be easily adjusted to change the domain based
4376       on the one used by the client.
4377      </para>
4378      <para>
4379       Putting Privoxy between Tor and the webserver (or an stunnel
4380       that forwards to the webserver) allows to rewrite headers and
4381       content to make client and server happy at the same time.
4382      </para>
4383      <para>
4384       Using Privoxy for webservers that are only reachable through
4385       onion addresses and whose location is supposed to be secret
4386       is not recommended and should not be necessary anyway.
4387      </para>
4388     </listitem>
4389    </itemizedlist>
4390   </listitem>
4391  </varlistentry>
4392
4393  <varlistentry>
4394   <term>Notes:</term>
4395   <listitem>
4396    <para>
4397     This action takes parameters similar to the
4398     <link linkend="forwarding">forward</link> directives in the configuration
4399     file, but without the URL pattern. It can be used as replacement, but normally it's only
4400     used in cases where matching based on the request URL isn't sufficient.
4401    </para>
4402    <warning>
4403     <para>
4404      Please read the description for the <link linkend="forwarding">forward</link> directives before
4405      using this action. Forwarding to the wrong people will reduce your privacy and increase the
4406      chances of man-in-the-middle attacks.
4407     </para>
4408     <para>
4409      If the ports are missing or invalid, default values will be used. This might change
4410      in the future and you shouldn't rely on it. Otherwise incorrect syntax causes Privoxy
4411      to exit. Due to design limitations, invalid parameter syntax isn't detected until the
4412      action is used the first time.
4413     </para>
4414     <para>
4415      Use the <ulink url="http://config.privoxy.org/show-url-info">show-url-info CGI page</ulink>
4416      to verify that your forward settings do what you thought the do.
4417     </para>
4418    </warning>
4419   </listitem>
4420  </varlistentry>
4421
4422  <varlistentry>
4423   <term>Example usage:</term>
4424   <listitem>
4425      <screen>
4426 # Use an ssh tunnel for requests previously tagged as
4427 # <quote>User-Agent: fetch libfetch/2.0</quote> and make sure
4428 # resuming downloads continues to work.
4429 #
4430 # This way you can continue to use Tor for your normal browsing,
4431 # without overloading the Tor network with your FreeBSD ports updates
4432 # or downloads of bigger files like ISOs.
4433 #
4434 # Note that HTTP headers are easy to fake and therefore their
4435 # values are as (un)trustworthy as your clients and users.
4436 {+forward-override{forward-socks5 10.0.0.2:2222 .} \
4437  -hide-if-modified-since      \
4438  -overwrite-last-modified     \
4439 }
4440 TAG:^User-Agent: fetch libfetch/2\.0$
4441 </screen>
4442   </listitem>
4443  </varlistentry>
4444 </variablelist>
4445 </sect3>
4446
4447
4448 <!--   ~~~~~       New section      ~~~~~     -->
4449 <sect3 renderas="sect4" id="handle-as-empty-document">
4450 <title>handle-as-empty-document</title>
4451 <!--
4452 new action
4453 -->
4454 <variablelist>
4455  <varlistentry>
4456   <term>Typical use:</term>
4457   <listitem>
4458    <para>Mark URLs that should be replaced by empty documents <emphasis>if they get blocked</emphasis></para>
4459   </listitem>
4460  </varlistentry>
4461
4462  <varlistentry>
4463   <term>Effect:</term>
4464   <listitem>
4465    <para>
4466     This action alone doesn't do anything noticeable. It just marks URLs.
4467     If the <literal><link linkend="block">block</link></literal> action <emphasis>also applies</emphasis>,
4468     the presence or absence of this mark decides whether an HTML <quote>BLOCKED</quote>
4469     page, or an empty document will be sent to the client as a substitute for the blocked content.
4470     The <emphasis>empty</emphasis> document isn't literally empty, but actually contains a single space.
4471    </para>
4472   </listitem>
4473  </varlistentry>
4474
4475  <varlistentry>
4476   <term>Type:</term>
4477   <!-- Boolean, Parameterized, Multi-value -->
4478   <listitem>
4479    <para>Boolean.</para>
4480   </listitem>
4481  </varlistentry>
4482
4483  <varlistentry>
4484   <term>Parameter:</term>
4485   <listitem>
4486    <para>
4487     N/A
4488    </para>
4489   </listitem>
4490  </varlistentry>
4491
4492  <varlistentry>
4493   <term>Notes:</term>
4494   <listitem>
4495    <para>
4496     Some browsers complain about syntax errors if JavaScript documents
4497     are blocked with <application>Privoxy's</application>
4498     default HTML page; this option can be used to silence them.
4499     And of course this action can also be used to eliminate the &my-app;
4500     BLOCKED message in frames.
4501    </para>
4502    <para>
4503     The content type for the empty document can be specified with
4504     <literal><link linkend="content-type-overwrite">content-type-overwrite{}</link></literal>,
4505     but usually this isn't necessary.
4506    </para>
4507   </listitem>
4508  </varlistentry>
4509
4510  <varlistentry>
4511   <term>Example usage:</term>
4512   <listitem>
4513      <screen># Block all documents on example.org that end with ".js",
4514 # but send an empty document instead of the usual HTML message.
4515 {+block{Blocked JavaScript} +handle-as-empty-document}
4516 example.org/.*\.js$
4517 </screen>
4518   </listitem>
4519  </varlistentry>
4520 </variablelist>
4521 </sect3>
4522
4523
4524 <!--   ~~~~~       New section      ~~~~~     -->
4525 <sect3 renderas="sect4" id="handle-as-image">
4526 <title>handle-as-image</title>
4527
4528 <variablelist>
4529  <varlistentry>
4530   <term>Typical use:</term>
4531   <listitem>
4532    <para>Mark URLs as belonging to images (so they'll be replaced by images <emphasis>if they do get blocked</emphasis>, rather than HTML pages)</para>
4533   </listitem>
4534  </varlistentry>
4535
4536  <varlistentry>
4537   <term>Effect:</term>
4538   <listitem>
4539    <para>
4540     This action alone doesn't do anything noticeable. It just marks URLs as images.
4541     If the <literal><link linkend="block">block</link></literal> action <emphasis>also applies</emphasis>,
4542     the presence or absence of this mark decides whether an HTML <quote>blocked</quote>
4543     page, or a replacement image (as determined by the <literal><link
4544     linkend="set-image-blocker">set-image-blocker</link></literal> action) will be sent to the
4545     client as a substitute for the blocked content.
4546    </para>
4547   </listitem>
4548  </varlistentry>
4549
4550  <varlistentry>
4551   <term>Type:</term>
4552   <!-- Boolean, Parameterized, Multi-value -->
4553   <listitem>
4554    <para>Boolean.</para>
4555   </listitem>
4556  </varlistentry>
4557
4558  <varlistentry>
4559   <term>Parameter:</term>
4560   <listitem>
4561    <para>
4562     N/A
4563    </para>
4564   </listitem>
4565  </varlistentry>
4566
4567  <varlistentry>
4568   <term>Notes:</term>
4569   <listitem>
4570    <para>
4571     The below generic example section is actually part of <filename>default.action</filename>.
4572     It marks all URLs with well-known image file name extensions as images and should
4573     be left intact.
4574    </para>
4575    <para>
4576     Users will probably only want to use the handle-as-image action in conjunction with
4577     <literal><link linkend="block">block</link></literal>, to block sources of banners, whose URLs don't
4578     reflect the file type, like in the second example section.
4579    </para>
4580    <para>
4581     Note that you cannot treat HTML pages as images in most cases. For instance, (in-line) ad
4582     frames require an HTML page to be sent, or they won't display properly.
4583     Forcing <literal>handle-as-image</literal> in this situation will not replace the
4584     ad frame with an image, but lead to error messages.
4585    </para>
4586   </listitem>
4587  </varlistentry>
4588
4589  <varlistentry>
4590   <term>Example usage (sections):</term>
4591   <listitem>
4592      <screen># Generic image extensions:
4593 #
4594 {+handle-as-image}
4595 /.*\.(gif|jpg|jpeg|png|bmp|ico)$
4596
4597 # These don't look like images, but they're banners and should be
4598 # blocked as images:
4599 #
4600 {+block{Nasty banners.} +handle-as-image}
4601 nasty-banner-server.example.com/junk.cgi\?output=trash
4602 </screen>
4603   </listitem>
4604  </varlistentry>
4605 </variablelist>
4606 </sect3>
4607
4608
4609 <!--   ~~~~~       New section      ~~~~~     -->
4610 <sect3 renderas="sect4" id="hide-accept-language">
4611 <title>hide-accept-language</title>
4612 <!--
4613 new action
4614 -->
4615 <variablelist>
4616  <varlistentry>
4617   <term>Typical use:</term>
4618   <listitem>
4619    <para>Pretend to use different language settings.</para>
4620   </listitem>
4621  </varlistentry>
4622
4623  <varlistentry>
4624   <term>Effect:</term>
4625   <listitem>
4626    <para>
4627     Deletes or replaces the <quote>Accept-Language:</quote> HTTP header in client requests.
4628    </para>
4629   </listitem>
4630  </varlistentry>
4631
4632  <varlistentry>
4633   <term>Type:</term>
4634   <!-- Boolean, Parameterized, Multi-value -->
4635   <listitem>
4636    <para>Parameterized.</para>
4637   </listitem>
4638  </varlistentry>
4639
4640  <varlistentry>
4641   <term>Parameter:</term>
4642   <listitem>
4643    <para>
4644     Keyword: <quote>block</quote>, or any user defined value.
4645    </para>
4646   </listitem>
4647  </varlistentry>
4648
4649  <varlistentry>
4650   <term>Notes:</term>
4651   <listitem>
4652    <para>
4653     Faking the browser's language settings can be useful to make a
4654     foreign User-Agent set with
4655     <literal><link linkend="hide-user-agent">hide-user-agent</link></literal>
4656     more believable.
4657    </para>
4658    <para>
4659     However some sites with content in different languages check the
4660     <quote>Accept-Language:</quote> to decide which one to take by default.
4661     Sometimes it isn't possible to later switch to another language without
4662     changing the <quote>Accept-Language:</quote> header first.
4663    </para>
4664    <para>
4665     Therefore it's a good idea to either only change the
4666     <quote>Accept-Language:</quote> header to languages you understand,
4667     or to languages that aren't wide spread.
4668    </para>
4669    <para>
4670     Before setting the <quote>Accept-Language:</quote> header
4671     to a rare language, you should consider that it helps to
4672     make your requests unique and thus easier to trace.
4673     If you don't plan to change this header frequently,
4674     you should stick to a common language.
4675    </para>
4676   </listitem>
4677  </varlistentry>
4678
4679  <varlistentry>
4680   <term>Example usage (section):</term>
4681   <listitem>
4682      <screen># Pretend to use Canadian language settings.
4683 {+hide-accept-language{en-ca} \
4684 +hide-user-agent{Mozilla/5.0 (X11; U; OpenBSD i386; en-CA; rv:1.8.0.4) Gecko/20060628 Firefox/1.5.0.4} \
4685 }
4686 /
4687 </screen>
4688   </listitem>
4689  </varlistentry>
4690 </variablelist>
4691 </sect3>
4692
4693
4694 <!--   ~~~~~       New section      ~~~~~     -->
4695 <sect3 renderas="sect4" id="hide-content-disposition">
4696 <title>hide-content-disposition</title>
4697 <!--
4698 new action
4699 -->
4700 <variablelist>
4701  <varlistentry>
4702   <term>Typical use:</term>
4703   <listitem>
4704    <para>Prevent download menus for content you prefer to view inside the browser.</para>
4705   </listitem>
4706  </varlistentry>
4707
4708  <varlistentry>
4709   <term>Effect:</term>
4710   <listitem>
4711    <para>
4712     Deletes or replaces the <quote>Content-Disposition:</quote> HTTP header set by some servers.
4713    </para>
4714   </listitem>
4715  </varlistentry>
4716
4717  <varlistentry>
4718   <term>Type:</term>
4719   <!-- Boolean, Parameterized, Multi-value -->
4720   <listitem>
4721    <para>Parameterized.</para>
4722   </listitem>
4723  </varlistentry>
4724
4725  <varlistentry>
4726   <term>Parameter:</term>
4727   <listitem>
4728    <para>
4729     Keyword: <quote>block</quote>, or any user defined value.
4730    </para>
4731   </listitem>
4732  </varlistentry>
4733
4734  <varlistentry>
4735   <term>Notes:</term>
4736   <listitem>
4737    <para>
4738     Some servers set the <quote>Content-Disposition:</quote> HTTP header for
4739     documents they assume you want to save locally before viewing them.
4740     The <quote>Content-Disposition:</quote> header contains the file name
4741     the browser is supposed to use by default.
4742    </para>
4743    <para>
4744     In most browsers that understand this header, it makes it impossible to
4745     <emphasis>just view</emphasis> the document, without downloading it first,
4746     even if it's just a simple text file or an image.
4747    </para>
4748    <para>
4749     Removing the <quote>Content-Disposition:</quote> header helps
4750     to prevent this annoyance, but some browsers additionally check the
4751     <quote>Content-Type:</quote> header, before they decide if they can
4752     display a document without saving it first. In these cases, you have
4753     to change this header as well, before the browser stops displaying
4754     download menus.
4755    </para>
4756    <para>
4757     It is also possible to change the server's file name suggestion
4758     to another one, but in most cases it isn't worth the time to set
4759     it up.
4760    </para>
4761    <para>
4762     This action will probably be removed in the future,
4763     use server-header filters instead.
4764    </para>
4765   </listitem>
4766  </varlistentry>
4767
4768  <varlistentry>
4769   <term>Example usage:</term>
4770   <listitem>
4771      <screen># Disarm the download link in Sourceforge's patch tracker
4772 { -filter \
4773  +content-type-overwrite{text/plain}\
4774  +hide-content-disposition{block} }
4775  .sourceforge.net/tracker/download\.php</screen>
4776   </listitem>
4777  </varlistentry>
4778 </variablelist>
4779 </sect3>
4780
4781
4782 <!--   ~~~~~       New section      ~~~~~     -->
4783 <sect3 renderas="sect4" id="hide-if-modified-since">
4784 <title>hide-if-modified-since</title>
4785 <!--
4786 new action
4787 -->
4788 <variablelist>
4789  <varlistentry>
4790   <term>Typical use:</term>
4791   <listitem>
4792    <para>Prevent yet another way to track the user's steps between sessions.</para>
4793   </listitem>
4794  </varlistentry>
4795
4796  <varlistentry>
4797   <term>Effect:</term>
4798   <listitem>
4799    <para>
4800     Deletes the <quote>If-Modified-Since:</quote> HTTP client header or modifies its value.
4801    </para>
4802   </listitem>
4803  </varlistentry>
4804
4805  <varlistentry>
4806   <term>Type:</term>
4807   <!-- Boolean, Parameterized, Multi-value -->
4808   <listitem>
4809    <para>Parameterized.</para>
4810   </listitem>
4811  </varlistentry>
4812
4813  <varlistentry>
4814   <term>Parameter:</term>
4815   <listitem>
4816    <para>
4817     Keyword: <quote>block</quote>, or a user defined value that specifies a range of hours.
4818    </para>
4819   </listitem>
4820  </varlistentry>
4821
4822  <varlistentry>
4823   <term>Notes:</term>
4824   <listitem>
4825    <para>
4826     Removing this header is useful for filter testing, where you want to force a real
4827     reload instead of getting status code <quote>304</quote>, which would cause the
4828     browser to use a cached copy of the page.
4829    </para>
4830    <para>
4831     Instead of removing the header, <literal>hide-if-modified-since</literal> can
4832     also add or subtract a random amount of time to/from the header's value.
4833     You specify a range of minutes where the random factor should be chosen from and
4834     <application>Privoxy</application> does the rest. A negative value means
4835     subtracting, a positive value adding.
4836    </para>
4837    <para>
4838     Randomizing the value of the <quote>If-Modified-Since:</quote> makes
4839     it less likely that the server can use the time as a cookie replacement,
4840     but you will run into caching problems if the random range is too high.
4841    </para>
4842    <para>
4843     It is a good idea to only use a small negative value and let
4844     <literal><link linkend="overwrite-last-modified">overwrite-last-modified</link></literal>
4845     handle the greater changes.
4846    </para>
4847    <para>
4848     It is also recommended to use this action together with
4849     <literal><link linkend="crunch-if-none-match">crunch-if-none-match</link></literal>,
4850     otherwise it's more or less pointless.
4851    </para>
4852   </listitem>
4853  </varlistentry>
4854
4855  <varlistentry>
4856   <term>Example usage (section):</term>
4857   <listitem>
4858      <screen># Let the browser revalidate but make tracking based on the time less likely.
4859 {+hide-if-modified-since{-60} \
4860  +overwrite-last-modified{randomize} \
4861  +crunch-if-none-match}
4862 /</screen>
4863   </listitem>
4864  </varlistentry>
4865 </variablelist>
4866 </sect3>
4867
4868
4869 <!--   ~~~~~       New section      ~~~~~     -->
4870 <sect3 renderas="sect4" id="hide-from-header">
4871 <title>hide-from-header</title>
4872
4873 <variablelist>
4874  <varlistentry>
4875   <term>Typical use:</term>
4876   <listitem>
4877    <para>Keep your (old and ill) browser from telling web servers your email address</para>
4878   </listitem>
4879  </varlistentry>
4880
4881  <varlistentry>
4882   <term>Effect:</term>
4883   <listitem>
4884    <para>
4885     Deletes any existing <quote>From:</quote> HTTP header, or replaces it with the
4886     specified string.
4887    </para>
4888   </listitem>
4889  </varlistentry>
4890
4891  <varlistentry>
4892   <term>Type:</term>
4893   <!-- Boolean, Parameterized, Multi-value -->
4894   <listitem>
4895    <para>Parameterized.</para>
4896   </listitem>
4897  </varlistentry>
4898
4899  <varlistentry>
4900   <term>Parameter:</term>
4901   <listitem>
4902    <para>
4903     Keyword: <quote>block</quote>, or any user defined value.
4904    </para>
4905   </listitem>
4906  </varlistentry>
4907
4908  <varlistentry>
4909   <term>Notes:</term>
4910   <listitem>
4911    <para>
4912     The keyword <quote>block</quote> will completely remove the header
4913     (not to be confused with the <literal><link linkend="block">block</link></literal>
4914     action).
4915    </para>
4916    <para>
4917     Alternately, you can specify any value you prefer to be sent to the web
4918     server. If you do, it is a matter of fairness not to use any address that
4919     is actually used by a real person.
4920    </para>
4921    <para>
4922     This action is rarely needed, as modern web browsers don't send
4923     <quote>From:</quote> headers anymore.
4924    </para>
4925   </listitem>
4926  </varlistentry>
4927
4928  <varlistentry>
4929   <term>Example usage:</term>
4930   <listitem>
4931     <screen>+hide-from-header{block}</screen>
4932     <para>or</para>
4933     <screen>+hide-from-header{spam-me-senseless@sittingduck.example.com}</screen>
4934   </listitem>
4935  </varlistentry>
4936 </variablelist>
4937 </sect3>
4938
4939
4940 <!--   ~~~~~       New section      ~~~~~     -->
4941 <sect3 renderas="sect4" id="hide-referrer">
4942 <title>hide-referrer</title>
4943 <anchor id="hide-referer">
4944 <variablelist>
4945  <varlistentry>
4946   <term>Typical use:</term>
4947   <listitem>
4948    <para>Conceal which link you followed to get to a particular site</para>
4949   </listitem>
4950  </varlistentry>
4951
4952  <varlistentry>
4953   <term>Effect:</term>
4954   <listitem>
4955    <para>
4956     Deletes the <quote>Referer:</quote> (sic) HTTP header from the client request,
4957     or replaces it with a forged one.
4958    </para>
4959   </listitem>
4960  </varlistentry>
4961
4962  <varlistentry>
4963   <term>Type:</term>
4964   <!-- Boolean, Parameterized, Multi-value -->
4965   <listitem>
4966    <para>Parameterized.</para>
4967   </listitem>
4968  </varlistentry>
4969
4970  <varlistentry>
4971   <term>Parameter:</term>
4972   <listitem>
4973    <itemizedlist>
4974     <listitem>
4975      <para><quote>conditional-block</quote> to delete the header completely if the host has changed.</para>
4976     </listitem>
4977     <listitem>
4978      <para><quote>conditional-forge</quote> to forge the header if the host has changed.</para>
4979     </listitem>
4980     <listitem>
4981      <para><quote>block</quote> to delete the header unconditionally.</para>
4982     </listitem>
4983     <listitem>
4984      <para><quote>forge</quote> to pretend to be coming from the homepage of the server we are talking to.</para>
4985     </listitem>
4986     <listitem>
4987      <para>Any other string to set a user defined referrer.</para>
4988     </listitem>
4989    </itemizedlist>
4990   </listitem>
4991  </varlistentry>
4992
4993  <varlistentry>
4994   <term>Notes:</term>
4995   <listitem>
4996    <para>
4997     <literal>conditional-block</literal> is the only parameter,
4998     that isn't easily detected in the server's log file. If it blocks the
4999     referrer, the request will look like the visitor used a bookmark or
5000     typed in the address directly.
5001    </para>
5002    <para>
5003     Leaving the referrer unmodified for requests on the same host
5004     allows the server owner to see the visitor's <quote>click path</quote>,
5005     but in most cases she could also get that information by comparing
5006     other parts of the log file: for example the User-Agent if it isn't
5007     a very common one, or the user's IP address if it doesn't change between
5008     different requests.
5009    </para>
5010    <para>
5011     Always blocking the referrer, or using a custom one, can lead to
5012     failures on servers that check the referrer before they answer any
5013     requests, in an attempt to prevent their content from being
5014     embedded or linked to elsewhere.
5015    </para>
5016    <para>
5017     Both <literal>conditional-block</literal> and <literal>forge</literal>
5018     will work with referrer checks, as long as content and valid referring page
5019     are on the same host. Most of the time that's the case.
5020    </para>
5021    <para>
5022     <literal>hide-referer</literal> is an alternate spelling of
5023     <literal>hide-referrer</literal> and the two can be can be freely
5024     substituted with each other. (<quote>referrer</quote> is the
5025     correct English spelling, however the HTTP specification has a bug - it
5026     requires it to be spelled as <quote>referer</quote>.)
5027    </para>
5028   </listitem>
5029  </varlistentry>
5030
5031  <varlistentry>
5032   <term>Example usage:</term>
5033   <listitem>
5034      <screen>+hide-referrer{forge}</screen>
5035      <para>or</para>
5036      <screen>+hide-referrer{http://www.yahoo.com/}</screen>
5037   </listitem>
5038  </varlistentry>
5039 </variablelist>
5040 </sect3>
5041
5042
5043 <!--   ~~~~~       New section      ~~~~~     -->
5044 <sect3 renderas="sect4" id="hide-user-agent">
5045 <title>hide-user-agent</title>
5046
5047 <variablelist>
5048  <varlistentry>
5049   <term>Typical use:</term>
5050   <listitem>
5051    <para>Try to conceal your type of browser and client operating system</para>
5052   </listitem>
5053  </varlistentry>
5054
5055  <varlistentry>
5056   <term>Effect:</term>
5057   <listitem>
5058    <para>
5059     Replaces the value of the <quote>User-Agent:</quote> HTTP header
5060     in client requests with the specified value.
5061    </para>
5062   </listitem>
5063  </varlistentry>
5064
5065  <varlistentry>
5066   <term>Type:</term>
5067   <!-- Boolean, Parameterized, Multi-value -->
5068   <listitem>
5069    <para>Parameterized.</para>
5070   </listitem>
5071  </varlistentry>
5072
5073  <varlistentry>
5074   <term>Parameter:</term>
5075   <listitem>
5076    <para>
5077     Any user-defined string.
5078    </para>
5079   </listitem>
5080  </varlistentry>
5081
5082  <varlistentry>
5083   <term>Notes:</term>
5084   <listitem>
5085    <warning>
5086     <para>
5087      This can lead to problems on web sites that depend on looking at this header in
5088      order to customize their content for different browsers (which, by the
5089      way, is <emphasis>NOT</emphasis> the right thing to do: good web sites
5090      work browser-independently).
5091     </para>
5092    </warning>
5093    <para>
5094     Using this action in multi-user setups or wherever different types of
5095     browsers will access the same <application>Privoxy</application> is
5096     <emphasis>not recommended</emphasis>. In single-user, single-browser
5097     setups, you might use it to delete your OS version information from
5098     the headers, because it is an invitation to exploit known bugs for your
5099     OS. It is also occasionally useful to forge this in order to access
5100     sites that won't let you in otherwise (though there may be a good
5101     reason in some cases).
5102    </para>
5103    <para>
5104      More information on known user-agent strings can be found at
5105      <ulink url="http://www.user-agents.org/">http://www.user-agents.org/</ulink>
5106      and
5107      <ulink url="http://en.wikipedia.org/wiki/User_agent">http://en.wikipedia.org/wiki/User_agent</ulink>.
5108    </para>
5109    </listitem>
5110  </varlistentry>
5111
5112  <varlistentry>
5113   <term>Example usage:</term>
5114   <listitem>
5115      <screen>+hide-user-agent{Netscape 6.1 (X11; I; Linux 2.4.18 i686)}</screen>
5116   </listitem>
5117  </varlistentry>
5118 </variablelist>
5119 </sect3>
5120
5121
5122 <!--   ~~~~~       New section      ~~~~~     -->
5123 <sect3 renderas="sect4" id="https-inspection">
5124 <title>https-inspection</title>
5125
5126 <variablelist>
5127  <varlistentry>
5128   <term>Typical use:</term>
5129   <listitem>
5130    <para>Filter encrypted requests and responses</para>
5131   </listitem>
5132  </varlistentry>
5133
5134  <varlistentry>
5135   <term>Effect:</term>
5136   <listitem>
5137    <para>
5138     Encrypted requests are decrypted, filtered and forwarded encrypted.
5139    </para>
5140   </listitem>
5141  </varlistentry>
5142
5143  <varlistentry>
5144   <term>Type:</term>
5145   <!-- boolean, parameterized, Multi-value -->
5146   <listitem>
5147    <para>Boolean.</para>
5148   </listitem>
5149  </varlistentry>
5150
5151  <varlistentry>
5152   <term>Parameter:</term>
5153   <listitem>
5154    <para>
5155     N/A
5156    </para>
5157   </listitem>
5158  </varlistentry>
5159
5160 <varlistentry>
5161   <term>Notes:</term>
5162   <listitem>
5163    <para>
5164     This action allows &my-app; to filter encrypted requests and responses.
5165     For this to work &my-app; has to generate a certificate and send it
5166     to the client which has to accept it.
5167    </para>
5168    <para>
5169     Before this works the directives in the
5170     <literal><ulink url="config.html#TLS">TLS section</ulink></literal>
5171     of the config file have to be configured.
5172    </para>
5173    <para>
5174     Note that the action has to be enabled based on the CONNECT
5175     request which doesn't contain a path. Enabling it based on
5176     a pattern with path doesn't work as the path is only seen
5177     by &my-app; if the action is already enabled.
5178    </para>
5179   </listitem>
5180  </varlistentry>
5181
5182  <varlistentry>
5183   <term>Example usage (section):</term>
5184   <listitem>
5185      <screen>{+https-inspection}
5186 www.example.com</screen>
5187   </listitem>
5188  </varlistentry>
5189
5190 </variablelist>
5191 </sect3>
5192
5193
5194 <!--   ~~~~~       New section      ~~~~~     -->
5195 <sect3 renderas="sect4" id="ignore-certificate-errors">
5196 <title>ignore-certificate-errors</title>
5197
5198 <variablelist>
5199  <varlistentry>
5200   <term>Typical use:</term>
5201   <listitem>
5202    <para>Filter encrypted requests and responses without verifying the certificate</para>
5203   </listitem>
5204  </varlistentry>
5205
5206  <varlistentry>
5207   <term>Effect:</term>
5208   <listitem>
5209    <para>
5210     Encrypted requests are forwarded to sites without verifying the certificate.
5211    </para>
5212   </listitem>
5213  </varlistentry>
5214
5215  <varlistentry>
5216   <term>Type:</term>
5217   <!-- Boolean, Parameterized, Multi-value -->
5218   <listitem>
5219    <para>Boolean.</para>
5220   </listitem>
5221  </varlistentry>
5222
5223  <varlistentry>
5224   <term>Parameter:</term>
5225   <listitem>
5226    <para>
5227     N/A
5228    </para>
5229   </listitem>
5230  </varlistentry>
5231
5232  <varlistentry>
5233   <term>Notes:</term>
5234   <listitem>
5235    <para>
5236     When the
5237     <link linkend="HTTPS-INSPECTION"><quote>+https-inspection</quote></link>
5238     action is used &my-app; by default verifies that the remote site uses a valid
5239     certificate.
5240    </para>
5241    <para>
5242     If the certificate can't be validated by &my-app; the connection is aborted.
5243    </para>
5244    <para>
5245     This action disables the certificate check so requests to sites
5246     with certificates that can't be validated are allowed.
5247    </para>
5248    <para>
5249     Note that enabling this action allows Man-in-the-middle attacks.
5250    </para>
5251    </listitem>
5252  </varlistentry>
5253
5254  <varlistentry>
5255   <term>Example usage:</term>
5256   <listitem>
5257    <screen>
5258     {+ignore-certificate-errors}
5259     www.example.org
5260    </screen>
5261   </listitem>
5262  </varlistentry>
5263 </variablelist>
5264 </sect3>
5265
5266
5267 <!--   ~~~~~       New section      ~~~~~     -->
5268 <sect3 renderas="sect4" id="limit-connect">
5269 <title>limit-connect</title>
5270
5271 <variablelist>
5272  <varlistentry>
5273   <term>Typical use:</term>
5274   <listitem>
5275    <para>Prevent abuse of <application>Privoxy</application> as a TCP proxy relay or disable SSL for untrusted sites</para>
5276   </listitem>
5277  </varlistentry>
5278
5279  <varlistentry>
5280   <term>Effect:</term>
5281   <listitem>
5282    <para>
5283     Specifies to which ports HTTP CONNECT requests are allowable.
5284    </para>
5285   </listitem>
5286  </varlistentry>
5287
5288  <varlistentry>
5289   <term>Type:</term>
5290   <!-- Boolean, Parameterized, Multi-value -->
5291   <listitem>
5292    <para>Parameterized.</para>
5293   </listitem>
5294  </varlistentry>
5295
5296  <varlistentry>
5297   <term>Parameter:</term>
5298   <listitem>
5299    <para>
5300     A comma-separated list of ports or port ranges (the latter using dashes, with the minimum
5301     defaulting to 0 and the maximum to 65K).
5302    </para>
5303   </listitem>
5304  </varlistentry>
5305
5306  <varlistentry>
5307   <term>Notes:</term>
5308   <listitem>
5309    <para>
5310     By default, i.e. if no <literal>limit-connect</literal> action applies,
5311     <application>Privoxy</application> allows HTTP CONNECT requests to all
5312     ports. Use <literal>limit-connect</literal> if fine-grained control
5313     is desired for some or all destinations.
5314    </para>
5315    <para>
5316     The CONNECT methods exists in HTTP to allow access to secure websites
5317     (<quote>https://</quote> URLs) through proxies. It works very simply:
5318     the proxy connects to the server on the specified port, and then
5319     short-circuits its connections to the client and to the remote server.
5320     This means CONNECT-enabled proxies can be used as TCP relays very easily.
5321   </para>
5322   <para>
5323    <application>Privoxy</application> relays HTTPS traffic without seeing
5324    the decoded content. Websites can leverage this limitation to circumvent &my-app;'s
5325    filters. By specifying an invalid port range you can disable HTTPS entirely.
5326   </para>
5327   </listitem>
5328  </varlistentry>
5329
5330  <varlistentry>
5331   <term>Example usages:</term>
5332   <listitem>
5333    <!-- I had trouble getting the spacing to look right in my browser -->
5334    <!-- I probably have the wrong font setup, bollocks. -->
5335    <!-- Apparently the emphasis tag uses a proportional font no matter what -->
5336      <screen>+limit-connect{443}                   # Port 443 is OK.
5337 +limit-connect{80,443}                # Ports 80 and 443 are OK.
5338 +limit-connect{-3, 7, 20-100, 500-}   # Ports less than 3, 7, 20 to 100 and above 500 are OK.
5339 +limit-connect{-}                     # All ports are OK
5340 +limit-connect{,}                     # No HTTPS/SSL traffic is allowed</screen>
5341   </listitem>
5342  </varlistentry>
5343 </variablelist>
5344 </sect3>
5345
5346
5347 <!--   ~~~~~       New section      ~~~~~     -->
5348 <sect3 renderas="sect4" id="limit-cookie-lifetime">
5349 <title>limit-cookie-lifetime</title>
5350
5351 <variablelist>
5352  <varlistentry>
5353   <term>Typical use:</term>
5354   <listitem>
5355    <para>Limit the lifetime of HTTP cookies to a couple of minutes or hours.</para>
5356   </listitem>
5357  </varlistentry>
5358
5359  <varlistentry>
5360   <term>Effect:</term>
5361   <listitem>
5362    <para>
5363     Overwrites the expires field in Set-Cookie server headers if it's above the specified limit.
5364    </para>
5365   </listitem>
5366  </varlistentry>
5367
5368  <varlistentry>
5369   <term>Type:</term>
5370   <!-- Boolean, Parameterized, Multi-value -->
5371   <listitem>
5372    <para>Parameterized.</para>
5373   </listitem>
5374  </varlistentry>
5375
5376  <varlistentry>
5377   <term>Parameter:</term>
5378   <listitem>
5379    <para>
5380     The lifetime limit in minutes, or 0.
5381    </para>
5382   </listitem>
5383  </varlistentry>
5384
5385  <varlistentry>
5386   <term>Notes:</term>
5387   <listitem>
5388    <para>
5389     This action reduces the lifetime of HTTP cookies coming from the
5390     server to the specified number of minutes, starting from the time
5391     the cookie passes Privoxy.
5392    </para>
5393    <para>
5394     Cookies with a lifetime below the limit are not modified.
5395     The lifetime of session cookies is set to the specified limit.
5396    </para>
5397    <para>
5398     The effect of this action depends on the server.
5399    </para>
5400    <para>
5401     In case of servers which refresh their cookies with each response
5402     (or at least frequently), the lifetime limit set by this action
5403     is updated as well.
5404     Thus, a session associated with the cookie continues to work with
5405     this action enabled, as long as a new request is made before the
5406     last limit set is reached.
5407    </para>
5408    <para>
5409     However, some servers send their cookies once, with a lifetime of several
5410     years (the year 2037 is a popular choice), and do not refresh them
5411     until a certain event in the future, for example the user logging out.
5412     In this case this action may limit the absolute lifetime of the session,
5413     even if requests are made frequently.
5414    </para>
5415    <para>
5416     If the parameter is <quote>0</quote>, this action behaves like
5417     <literal><link linkend="session-cookies-only">session-cookies-only</link></literal>.
5418    </para>
5419   </listitem>
5420  </varlistentry>
5421
5422  <varlistentry>
5423   <term>Example usages:</term>
5424   <listitem>
5425      <screen>+limit-cookie-lifetime{60}</screen>
5426   </listitem>
5427  </varlistentry>
5428 </variablelist>
5429 </sect3>
5430
5431 <!--   ~~~~~       New section      ~~~~~     -->
5432 <sect3 renderas="sect4" id="prevent-compression">
5433 <title>prevent-compression</title>
5434
5435 <variablelist>
5436  <varlistentry>
5437   <term>Typical use:</term>
5438   <listitem>
5439    <para>
5440     Ensure that servers send the content uncompressed, so it can be
5441     passed through <literal><link linkend="filter">filter</link></literal>s.
5442    </para>
5443   </listitem>
5444  </varlistentry>
5445
5446  <varlistentry>
5447   <term>Effect:</term>
5448   <listitem>
5449    <para>
5450     Removes the Accept-Encoding header which can be used to ask for compressed transfer.
5451    </para>
5452   </listitem>
5453  </varlistentry>
5454
5455  <varlistentry>
5456   <term>Type:</term>
5457   <!-- Boolean, Parameterized, Multi-value -->
5458   <listitem>
5459    <para>Boolean.</para>
5460   </listitem>
5461  </varlistentry>
5462
5463  <varlistentry>
5464   <term>Parameter:</term>
5465   <listitem>
5466    <para>
5467     N/A
5468    </para>
5469   </listitem>
5470  </varlistentry>
5471
5472  <varlistentry>
5473   <term>Notes:</term>
5474   <listitem>
5475    <para>
5476     More and more websites send their content compressed by default, which
5477     is generally a good idea and saves bandwidth. But the <literal><link
5478     linkend="filter">filter</link></literal> and
5479     <literal><link linkend="deanimate-gifs">deanimate-gifs</link></literal>
5480     actions need access to the uncompressed data.
5481    </para>
5482    <para>
5483     When compiled with zlib support (available since &my-app; 3.0.7), content that should be
5484     filtered is decompressed on-the-fly and you don't have to worry about this action.
5485     If you are using an older &my-app; version, or one that hasn't been compiled with zlib
5486     support, this action can be used to convince the server to send the content uncompressed.
5487    </para>
5488    <para>
5489     Most text-based instances compress very well, the size is seldom decreased by less than 50%,
5490     for markup-heavy instances like news feeds saving more than 90% of the original size isn't
5491     unusual.
5492    </para>
5493    <para>
5494     Not using compression will therefore slow down the transfer, and you should only
5495     enable this action if you really need it. As of &my-app; 3.0.7 it's disabled in all
5496     predefined action settings.
5497    </para>
5498    <para>
5499     Note that some (rare) ill-configured sites don't handle requests for uncompressed
5500     documents correctly. Broken PHP applications tend to send an empty document body,
5501     some IIS versions only send the beginning of the content and some content delivery
5502     networks let the connection time out.
5503     If you enable <literal>prevent-compression</literal> per default, you might
5504     want to add exceptions for those sites. See the example for how to do that.
5505    </para>
5506   </listitem>
5507  </varlistentry>
5508
5509  <varlistentry>
5510   <term>Example usage (sections):</term>
5511   <listitem>
5512     <screen>
5513 # Selectively turn off compression, and enable a filter
5514 #
5515 { +filter{tiny-textforms} +prevent-compression }
5516 # Match only these sites
5517  .google.
5518  sourceforge.net
5519  sf.net
5520
5521 # Or instead, we could set a universal default:
5522 #
5523 { +prevent-compression }
5524  / # Match all sites
5525
5526 # Then maybe make exceptions for broken sites:
5527 #
5528 { -prevent-compression }
5529 .compusa.com/</screen>
5530   </listitem>
5531  </varlistentry>
5532
5533 </variablelist>
5534 </sect3>
5535
5536
5537 <!--   ~~~~~       New section      ~~~~~     -->
5538 <sect3 renderas="sect4" id="overwrite-last-modified">
5539 <title>overwrite-last-modified</title>
5540 <!--
5541 new action
5542 -->
5543 <variablelist>
5544  <varlistentry>
5545   <term>Typical use:</term>
5546   <listitem>
5547    <para>Prevent yet another way to track the user's steps between sessions.</para>
5548   </listitem>
5549  </varlistentry>
5550
5551  <varlistentry>
5552   <term>Effect:</term>
5553   <listitem>
5554    <para>
5555     Deletes the <quote>Last-Modified:</quote> HTTP server header or modifies its value.
5556    </para>
5557   </listitem>
5558  </varlistentry>
5559
5560  <varlistentry>
5561   <term>Type:</term>
5562   <!-- Boolean, Parameterized, Multi-value -->
5563   <listitem>
5564    <para>Parameterized.</para>
5565   </listitem>
5566  </varlistentry>
5567
5568  <varlistentry>
5569   <term>Parameter:</term>
5570   <listitem>
5571    <para>
5572     One of the keywords: <quote>block</quote>, <quote>reset-to-request-time</quote>
5573     and <quote>randomize</quote>
5574    </para>
5575   </listitem>
5576  </varlistentry>
5577
5578  <varlistentry>
5579   <term>Notes:</term>
5580   <listitem>
5581    <para>
5582     Removing the <quote>Last-Modified:</quote> header is useful for filter
5583     testing, where you want to force a real reload instead of getting status
5584     code <quote>304</quote>, which would cause the browser to reuse the old
5585     version of the page.
5586    </para>
5587    <para>
5588     The <quote>randomize</quote> option overwrites the value of the
5589     <quote>Last-Modified:</quote> header with a randomly chosen time
5590     between the original value and the current time. In theory the server
5591     could send each document with a different <quote>Last-Modified:</quote>
5592     header to track visits without using cookies. <quote>Randomize</quote>
5593     makes it impossible and the browser can still revalidate cached documents.
5594    </para>
5595    <para>
5596     <quote>reset-to-request-time</quote> overwrites the value of the
5597     <quote>Last-Modified:</quote> header with the current time. You could use
5598     this option together with
5599     <literal><link linkend="hide-if-modified-since">hide-if-modified-since</link></literal>
5600     to further customize your random range.
5601    </para>
5602    <para>
5603     The preferred parameter here is <quote>randomize</quote>. It is safe
5604     to use, as long as the time settings are more or less correct.
5605     If the server sets the <quote>Last-Modified:</quote> header to the time
5606     of the request, the random range becomes zero and the value stays the same.
5607     Therefore you should later randomize it a second time with
5608     <literal><link linkend="hide-if-modified-since">hided-if-modified-since</link></literal>,
5609     just to be sure.
5610    </para>
5611    <para>
5612     It is also recommended to use this action together with
5613     <literal><link linkend="crunch-if-none-match">crunch-if-none-match</link></literal>.
5614    </para>
5615   </listitem>
5616  </varlistentry>
5617
5618  <varlistentry>
5619   <term>Example usage:</term>
5620   <listitem>
5621      <screen># Let the browser revalidate without being tracked across sessions
5622 { +hide-if-modified-since{-60} \
5623  +overwrite-last-modified{randomize} \
5624  +crunch-if-none-match}
5625 /</screen>
5626   </listitem>
5627  </varlistentry>
5628 </variablelist>
5629 </sect3>
5630
5631
5632 <!--   ~~~~~       New section      ~~~~~     -->
5633 <sect3 renderas="sect4" id="redirect">
5634 <title>redirect</title>
5635 <!--
5636 new action
5637 -->
5638 <variablelist>
5639  <varlistentry>
5640   <term>Typical use:</term>
5641   <listitem>
5642    <para>
5643     Redirect requests to other sites.
5644    </para>
5645   </listitem>
5646  </varlistentry>
5647
5648  <varlistentry>
5649   <term>Effect:</term>
5650   <listitem>
5651    <para>
5652     Convinces the browser that the requested document has been moved
5653     to another location and the browser should get it from there.
5654    </para>
5655   </listitem>
5656  </varlistentry>
5657
5658  <varlistentry>
5659   <term>Type:</term>
5660   <!-- Boolean, Parameterized, Multi-value -->
5661   <listitem>
5662    <para>Parameterized</para>
5663   </listitem>
5664  </varlistentry>
5665
5666  <varlistentry>
5667   <term>Parameter:</term>
5668   <listitem>
5669    <para>
5670     An absolute URL or a single pcrs command.
5671    </para>
5672   </listitem>
5673  </varlistentry>
5674
5675  <varlistentry>
5676   <term>Notes:</term>
5677   <listitem>
5678    <para>
5679     Requests to which this action applies are answered with a
5680     HTTP redirect to URLs of your choosing. The new URL is
5681     either provided as parameter, or derived by applying a
5682     single pcrs command to the original URL.
5683    </para>
5684    <para>
5685     The syntax for pcrs commands is documented in the
5686     <link linkend="filter-file">filter file</link> section.
5687    </para>
5688    <para>
5689     Requests can't be blocked and redirected at the same time,
5690     applying this action together with
5691     <literal><link linkend="block">block</link></literal>
5692     is a configuration error. Currently the request is blocked
5693     and an error message logged, the behavior may change in the
5694     future and result in Privoxy rejecting the action file.
5695    </para>
5696    <para>
5697     This action can be combined with
5698     <literal><link linkend="fast-redirects">fast-redirects{check-decoded-url}</link></literal>
5699     to redirect to a decoded version of a rewritten URL.
5700    </para>
5701    <para>
5702     Use this action carefully, make sure not to create redirection loops
5703     and be aware that using your own redirects might make it
5704     possible to fingerprint your requests.
5705    </para>
5706    <para>
5707     In case of problems with your redirects, or simply to watch
5708     them working, enable <link linkend="DEBUG">debug 128</link>.
5709    </para>
5710   </listitem>
5711  </varlistentry>
5712
5713  <varlistentry>
5714   <term>Example usages:</term>
5715   <listitem>
5716     <screen># Replace example.com's style sheet with another one
5717 { +redirect{http://localhost/css-replacements/example.com.css} }
5718  example.com/stylesheet\.css
5719
5720 # Create a short, easy to remember nickname for a favorite site
5721 # (relies on the browser to accept and forward invalid URLs to &my-app;)
5722 { +redirect{https://www.privoxy.org/user-manual/actions-file.html} }
5723  a
5724
5725 # Always use the expanded view for Undeadly.org articles
5726 # (Note the $ at the end of the URL pattern to make sure
5727 # the request for the rewritten URL isn't redirected as well)
5728 {+redirect{s@$@&amp;mode=expanded@}}
5729 undeadly.org/cgi\?action=article&amp;sid=\d*$
5730
5731 # Redirect Google search requests to MSN
5732 {+redirect{s@^http://[^/]*/search\?q=([^&amp;]*).*@http://search.msn.com/results.aspx?q=$1@}}
5733 .google.com/search
5734
5735 # Redirect MSN search requests to Yahoo
5736 {+redirect{s@^http://[^/]*/results\.aspx\?q=([^&amp;]*).*@http://search.yahoo.com/search?p=$1@}}
5737 search.msn.com//results\.aspx\?q=
5738
5739 # Redirect http://example.com/&amp;bla=fasel&amp;toChange=foo (and any other value but "bar")
5740 # to       http://example.com/&amp;bla=fasel&amp;toChange=bar
5741 #
5742 # The URL pattern makes sure that the following request isn't redirected again.
5743 {+redirect{s@toChange=[^&amp;]+@toChange=bar@}}
5744 example.com/.*toChange=(?!bar)
5745
5746 # Add a shortcut to look up illumos bugs
5747 {+redirect{s@^http://i([0-9]+)/.*@https://www.illumos.org/issues/$1@}}
5748 # Redirected URL = http://i4974/
5749 # Redirect Destination = https://www.illumos.org/issues/4974
5750 i[0-9][0-9][0-9][0-9]*/
5751
5752 # Redirect remote requests for this manual
5753 # to the local version delivered by Privoxy
5754 {+redirect{s@^http://www@http://config@}}
5755 www.privoxy.org/user-manual/</screen>
5756   </listitem>
5757  </varlistentry>
5758
5759 </variablelist>
5760 </sect3>
5761
5762
5763 <!--   ~~~~~       New section      ~~~~~     -->
5764 <sect3 renderas="sect4" id="server-header-filter">
5765 <title>server-header-filter</title>
5766
5767 <variablelist>
5768  <varlistentry>
5769   <term>Typical use:</term>
5770   <listitem>
5771    <para>
5772    Rewrite or remove single server headers.
5773    </para>
5774   </listitem>
5775  </varlistentry>
5776
5777  <varlistentry>
5778   <term>Effect:</term>
5779   <listitem>
5780    <para>
5781     All server headers to which this action applies are filtered on-the-fly
5782     through the specified regular expression based substitutions.
5783    </para>
5784   </listitem>
5785  </varlistentry>
5786
5787  <varlistentry>
5788   <term>Type:</term>
5789   <!-- boolean, parameterized, Multi-value -->
5790   <listitem>
5791    <para>Multi-value.</para>
5792   </listitem>
5793  </varlistentry>
5794
5795  <varlistentry>
5796   <term>Parameter:</term>
5797   <listitem>
5798    <para>
5799     The name of a server-header filter, as defined in one of the
5800     <link linkend="filter-file">filter files</link>.
5801    </para>
5802   </listitem>
5803  </varlistentry>
5804
5805  <varlistentry>
5806   <term>Notes:</term>
5807   <listitem>
5808    <para>
5809     Server-header filters are applied to each header on its own, not to
5810     all at once. This makes it easier to diagnose problems, but on the downside
5811     you can't write filters that only change header x if header y's value is z.
5812     You can do that by using tags though.
5813    </para>
5814    <para>
5815     Server-header filters are executed after the other header actions have finished
5816     and use their output as input.
5817    </para>
5818    <para>
5819     Please refer to the <link linkend="filter-file">filter file chapter</link>
5820     to learn which server-header filters are available by default, and how to
5821     create your own.
5822    </para>
5823  </listitem>
5824  </varlistentry>
5825
5826  <varlistentry>
5827   <term>Example usage (section):</term>
5828   <listitem>
5829      <screen>
5830 {+server-header-filter{html-to-xml}}
5831 example.org/xml-instance-that-is-delivered-as-html
5832
5833 {+server-header-filter{xml-to-html}}
5834 example.org/instance-that-is-delivered-as-xml-but-is-not
5835 </screen>
5836   </listitem>
5837  </varlistentry>
5838
5839 </variablelist>
5840 </sect3>
5841
5842
5843 <!--   ~~~~~       New section      ~~~~~     -->
5844 <sect3 renderas="sect4" id="server-header-tagger">
5845 <title>server-header-tagger</title>
5846
5847 <variablelist>
5848  <varlistentry>
5849   <term>Typical use:</term>
5850   <listitem>
5851    <para>
5852    Enable or disable filters based on the Content-Type header.
5853    </para>
5854   </listitem>
5855  </varlistentry>
5856
5857  <varlistentry>
5858   <term>Effect:</term>
5859   <listitem>
5860    <para>
5861     Server headers to which this action applies are filtered on-the-fly through
5862     the specified regular expression based substitutions, the result is used as
5863     tag.
5864    </para>
5865   </listitem>
5866  </varlistentry>
5867
5868  <varlistentry>
5869   <term>Type:</term>
5870   <!-- boolean, parameterized, Multi-value -->
5871   <listitem>
5872    <para>Multi-value.</para>
5873   </listitem>
5874  </varlistentry>
5875
5876  <varlistentry>
5877   <term>Parameter:</term>
5878   <listitem>
5879    <para>
5880     The name of a server-header tagger, as defined in one of the
5881     <link linkend="filter-file">filter files</link>.
5882    </para>
5883   </listitem>
5884  </varlistentry>
5885
5886  <varlistentry>
5887   <term>Notes:</term>
5888   <listitem>
5889    <para>
5890     Server-header taggers are applied to each header on its own,
5891     and as the header isn't modified, each tagger <quote>sees</quote>
5892     the original.
5893    </para>
5894    <para>
5895     Server-header taggers are executed before all other header actions
5896     that modify server headers. Their tags can be used to control
5897     all of the other server-header actions, the content filters
5898     and the crunch actions (<link linkend="redirect">redirect</link>
5899     and <link linkend="block">block</link>).
5900    </para>
5901    <para>
5902     Obviously crunching based on tags created by server-header taggers
5903     doesn't prevent the request from showing up in the server's log file.
5904    </para>
5905
5906  </listitem>
5907  </varlistentry>
5908
5909  <varlistentry>
5910   <term>Example usage (section):</term>
5911   <listitem>
5912      <screen>
5913 # Tag every request with the content type declared by the server
5914 {+server-header-tagger{content-type}}
5915 /
5916
5917 # If the response has a tag starting with 'image/' enable an external
5918 # filter that only applies to images.
5919 #
5920 # Note that the filter is not available by default, it's just a
5921 # <literal><link linkend="external-filter-syntax">silly example</link></literal>.
5922 {+external-filter{rotate-image} +force-text-mode}
5923 TAG:^image/
5924 </screen>
5925   </listitem>
5926  </varlistentry>
5927
5928 </variablelist>
5929 </sect3>
5930
5931
5932 <!--   ~~~~~       New section      ~~~~~     -->
5933 <sect3 renderas="sect4" id="session-cookies-only">
5934 <title>session-cookies-only</title>
5935
5936 <variablelist>
5937  <varlistentry>
5938   <term>Typical use:</term>
5939   <listitem>
5940    <para>
5941     Allow only temporary <quote>session</quote> cookies (for the current
5942     browser session <emphasis>only</emphasis>).
5943    </para>
5944   </listitem>
5945  </varlistentry>
5946
5947  <varlistentry>
5948   <term>Effect:</term>
5949   <listitem>
5950    <para>
5951     Deletes the <quote>expires</quote> field from <quote>Set-Cookie:</quote>
5952     server headers. Most browsers will not store such cookies permanently and
5953     forget them in between sessions.
5954    </para>
5955   </listitem>
5956  </varlistentry>
5957
5958 <varlistentry>
5959   <term>Type:</term>
5960   <!-- Boolean, Parameterized, Multi-value -->
5961   <listitem>
5962    <para>Boolean.</para>
5963   </listitem>
5964  </varlistentry>
5965
5966  <varlistentry>
5967   <term>Parameter:</term>
5968   <listitem>
5969    <para>
5970     N/A
5971    </para>
5972   </listitem>
5973  </varlistentry>
5974
5975  <varlistentry>
5976   <term>Notes:</term>
5977   <listitem>
5978    <para>
5979     This is less strict than <literal><link linkend="crunch-incoming-cookies">crunch-incoming-cookies</link></literal> /
5980     <literal><link linkend="crunch-outgoing-cookies">crunch-outgoing-cookies</link></literal> and allows you to browse
5981     websites that insist or rely on setting cookies, without compromising your privacy too badly.
5982    </para>
5983    <para>
5984     Most browsers will not permanently store cookies that have been processed by
5985     <literal>session-cookies-only</literal> and will forget about them between sessions.
5986     This makes profiling cookies useless, but won't break sites which require cookies so
5987     that you can log in for transactions. This is generally turned on for all
5988     sites, and is the recommended setting.
5989    </para>
5990    <para>
5991     It makes <emphasis>no sense at all</emphasis> to use <literal>session-cookies-only</literal>
5992     together with <literal><link linkend="crunch-incoming-cookies">crunch-incoming-cookies</link></literal> or
5993     <literal><link linkend="crunch-outgoing-cookies">crunch-outgoing-cookies</link></literal>. If you do, cookies
5994     will be plainly killed.
5995    </para>
5996    <para>
5997     Note that it is up to the browser how it handles such cookies without an <quote>expires</quote>
5998     field. If you use an exotic browser, you might want to try it out to be sure.
5999    </para>
6000    <para>
6001     This setting also has no effect on cookies that may have been stored
6002     previously by the browser before starting <application>Privoxy</application>.
6003     These would have to be removed manually.
6004    </para>
6005    <para>
6006      <application>Privoxy</application> also uses
6007      the <link linkend="filter-content-cookies">content-cookies filter</link>
6008      to block some types of cookies. Content cookies are not effected by
6009      <literal>session-cookies-only</literal>.
6010    </para>
6011   </listitem>
6012  </varlistentry>
6013
6014  <varlistentry>
6015   <term>Example usage:</term>
6016   <listitem>
6017      <screen>+session-cookies-only</screen>
6018   </listitem>
6019  </varlistentry>
6020 </variablelist>
6021 </sect3>
6022
6023
6024 <!--   ~~~~~       New section      ~~~~~     -->
6025 <sect3 renderas="sect4" id="set-image-blocker">
6026 <title>set-image-blocker</title>
6027
6028 <variablelist>
6029  <varlistentry>
6030   <term>Typical use:</term>
6031   <listitem>
6032    <para>Choose the replacement for blocked images</para>
6033   </listitem>
6034  </varlistentry>
6035
6036  <varlistentry>
6037   <term>Effect:</term>
6038   <listitem>
6039    <para>
6040      This action alone doesn't do anything noticeable. If <emphasis>both</emphasis>
6041      <literal><link linkend="block">block</link></literal> <emphasis>and</emphasis> <literal><link
6042      linkend="handle-as-image">handle-as-image</link></literal> <emphasis>also</emphasis>
6043      apply, i.e. if the request is to be blocked as an image,
6044      <emphasis>then</emphasis> the parameter of this action decides what will be
6045      sent as a replacement.
6046    </para>
6047   </listitem>
6048  </varlistentry>
6049
6050  <varlistentry>
6051   <term>Type:</term>
6052   <!-- Boolean, Parameterized, Multi-value -->
6053   <listitem>
6054    <para>Parameterized.</para>
6055   </listitem>
6056  </varlistentry>
6057
6058  <varlistentry>
6059   <term>Parameter:</term>
6060   <listitem>
6061    <itemizedlist>
6062     <listitem>
6063      <para>
6064       <quote>pattern</quote> to send a built-in checkerboard pattern image. The image is visually
6065       decent, scales very well, and makes it obvious where banners were busted.
6066      </para>
6067     </listitem>
6068     <listitem>
6069      <para>
6070       <quote>blank</quote> to send a built-in transparent image. This makes banners disappear
6071       completely, but makes it hard to detect where <application>Privoxy</application> has blocked
6072       images on a given page and complicates troubleshooting if <application>Privoxy</application>
6073       has blocked innocent images, like navigation icons.
6074      </para>
6075     </listitem>
6076     <listitem>
6077      <para>
6078       <quote><replaceable class="parameter">target-url</replaceable></quote> to
6079       send a redirect to <replaceable class="parameter">target-url</replaceable>. You can redirect
6080       to any image anywhere, even in your local filesystem via <quote>file:///</quote> URL.
6081       (But note that not all browsers support redirecting to a local file system).
6082      </para>
6083      <para>
6084       A good application of redirects is to use special <application>Privoxy</application>-built-in
6085       URLs, which send the built-in images, as <replaceable class="parameter">target-url</replaceable>.
6086       This has the same visual effect as specifying <quote>blank</quote> or <quote>pattern</quote> in
6087       the first place, but enables your browser to cache the replacement image, instead of requesting
6088       it over and over again.
6089      </para>
6090     </listitem>
6091    </itemizedlist>
6092   </listitem>
6093  </varlistentry>
6094
6095  <varlistentry>
6096   <term>Notes:</term>
6097   <listitem>
6098    <para>
6099     The URLs for the built-in images are <quote>http://config.privoxy.org/send-banner?type=<replaceable
6100     class="parameter">type</replaceable></quote>, where <replaceable class="parameter">type</replaceable> is
6101     either <quote>blank</quote> or <quote>pattern</quote>.
6102    </para>
6103    <para>
6104     There is a third (advanced) type, called <quote>auto</quote>. It is <emphasis>NOT</emphasis> to be
6105     used in <literal>set-image-blocker</literal>, but meant for use from <link linkend="filter-file">filters</link>.
6106     Auto will select the type of image that would have applied to the referring page, had it been an image.
6107    </para>
6108   </listitem>
6109  </varlistentry>
6110
6111  <varlistentry>
6112   <term>Example usage:</term>
6113   <listitem>
6114    <para>
6115     Built-in pattern:
6116    </para>
6117     <screen>+set-image-blocker{pattern}</screen>
6118    <para>
6119     Redirect to the BSD daemon:
6120    </para>
6121     <screen>+set-image-blocker{http://www.freebsd.org/gifs/dae_up3.gif}</screen>
6122    <para>
6123     Redirect to the built-in pattern for better caching:
6124    </para>
6125     <screen>+set-image-blocker{http://config.privoxy.org/send-banner?type=pattern}</screen>
6126   </listitem>
6127  </varlistentry>
6128 </variablelist>
6129 </sect3>
6130
6131
6132 <!--   ~~~~~       New section      ~~~~~     -->
6133 <sect3 id="summary">
6134 <title>Summary</title>
6135 <para>
6136  Note that many of these actions have the potential to cause a page to
6137  misbehave, possibly even not to display at all. There are many ways
6138  a site designer may choose to design his site, and what HTTP header
6139  content, and other criteria, he may depend on. There is no way to have hard
6140  and fast rules for all sites. See the <link
6141  linkend="ACTIONSANAT">Appendix</link> for a brief example on troubleshooting
6142  actions.
6143 </para>
6144 </sect3>
6145 </sect2>
6146
6147 <!--   ~~~~~       New section      ~~~~~     -->
6148 <sect2 id="aliases">
6149 <title>Aliases</title>
6150 <para>
6151  Custom <quote>actions</quote>, known to <application>Privoxy</application>
6152  as <quote>aliases</quote>, can be defined by combining other actions.
6153  These can in turn be invoked just like the built-in actions.
6154  Currently, an alias name can contain any character except space, tab,
6155  <quote>=</quote>,
6156  <quote>{</quote> and <quote>}</quote>, but we <emphasis>strongly
6157  recommend</emphasis> that you only use <quote>a</quote> to <quote>z</quote>,
6158  <quote>0</quote> to <quote>9</quote>, <quote>+</quote>, and <quote>-</quote>.
6159  Alias names are not case sensitive, and are not required to start with a
6160  <quote>+</quote> or <quote>-</quote> sign, since they are merely textually
6161  expanded.
6162 </para>
6163 <para>
6164  Aliases can be used throughout the actions file, but they <emphasis>must be
6165  defined in a special section at the top of the file!</emphasis>
6166  And there can only be one such section per actions file. Each actions file may
6167  have its own alias section, and the aliases defined in it are only visible
6168  within that file.
6169 </para>
6170 <para>
6171  There are two main reasons to use aliases: One is to save typing for frequently
6172  used combinations of actions, the other one is a gain in flexibility: If you
6173  decide once how you want to handle shops by defining an alias called
6174  <quote>shop</quote>, you can later change your policy on shops in
6175  <emphasis>one</emphasis> place, and your changes will take effect everywhere
6176  in the actions file where the <quote>shop</quote> alias is used. Calling aliases
6177  by their purpose also makes your actions files more readable.
6178 </para>
6179 <para>
6180  Currently, there is one big drawback to using aliases, though:
6181  <application>Privoxy</application>'s built-in web-based action file
6182  editor honors aliases when reading the actions files, but it expands
6183  them before writing. So the effects of your aliases are of course preserved,
6184  but the aliases themselves are lost when you edit sections that use aliases
6185  with it.
6186 </para>
6187
6188 <para>
6189  Now let's define some aliases...
6190 </para>
6191
6192  <screen>
6193  # Useful custom aliases we can use later.
6194  #
6195  # Note the (required!) section header line and that this section
6196  # must be at the top of the actions file!
6197  #
6198  {{alias}}
6199
6200  # These aliases just save typing later:
6201  # (Note that some already use other aliases!)
6202  #
6203  +crunch-all-cookies = +<link linkend="CRUNCH-INCOMING-COOKIES">crunch-incoming-cookies</link> +<link linkend="CRUNCH-OUTGOING-COOKIES">crunch-outgoing-cookies</link>
6204  -crunch-all-cookies = -<link linkend="CRUNCH-INCOMING-COOKIES">crunch-incoming-cookies</link> -<link linkend="CRUNCH-OUTGOING-COOKIES">crunch-outgoing-cookies</link>
6205  +block-as-image      = +block{Blocked image.} +handle-as-image
6206  allow-all-cookies   = -crunch-all-cookies -<link linkend="SESSION-COOKIES-ONLY">session-cookies-only</link> -<link linkend="FILTER-CONTENT-COOKIES">filter{content-cookies}</link>
6207
6208  # These aliases define combinations of actions
6209  # that are useful for certain types of sites:
6210  #
6211  fragile     = -<link linkend="BLOCK">block</link> -<link linkend="FILTER">filter</link> -crunch-all-cookies -<link linkend="FAST-REDIRECTS">fast-redirects</link> -<link linkend="HIDE-REFERER">hide-referrer</link> -<link linkend="PREVENT-COMPRESSION">prevent-compression</link>
6212
6213  shop        = -crunch-all-cookies -<link linkend="FILTER-ALL-POPUPS">filter{all-popups}</link>
6214
6215  # Short names for other aliases, for really lazy people ;-)
6216  #
6217  c0 = +crunch-all-cookies
6218  c1 = -crunch-all-cookies</screen>
6219
6220 <para>
6221  ...and put them to use. These sections would appear in the lower part of an
6222  actions file and define exceptions to the default actions (as specified further
6223  up for the <quote>/</quote> pattern):
6224 </para>
6225
6226  <screen>
6227  # These sites are either very complex or very keen on
6228  # user data and require minimal interference to work:
6229  #
6230  {fragile}
6231  .office.microsoft.com
6232  .windowsupdate.microsoft.com
6233  # Gmail is really mail.google.com, not gmail.com
6234  mail.google.com
6235
6236  # Shopping sites:
6237  # Allow cookies (for setting and retrieving your customer data)
6238  #
6239  {shop}
6240  .quietpc.com
6241  .worldpay.com   # for quietpc.com
6242  mybank.example.com
6243
6244  # These shops require pop-ups:
6245  #
6246  {-filter{all-popups} -filter{unsolicited-popups}}
6247   .dabs.com
6248   .overclockers.co.uk</screen>
6249
6250 <para>
6251  Aliases like <quote>shop</quote> and <quote>fragile</quote> are typically used for
6252  <quote>problem</quote> sites that require more than one action to be disabled
6253  in order to function properly.
6254 </para>
6255 </sect2>
6256 <!--
6257 hal stop here
6258 -->
6259 <!--   ~~~~~       New section      ~~~~~     -->
6260 <sect2 id="act-examples">
6261 <title>Actions Files Tutorial</title>
6262 <para>
6263  The above chapters have shown <link linkend="actions-file">which actions files
6264  there are and how they are organized</link>, how actions are <link
6265  linkend="actions">specified</link> and <link linkend="actions-apply">applied
6266  to URLs</link>, how <link linkend="af-patterns">patterns</link> work, and how to
6267  define and use <link linkend="aliases">aliases</link>. Now, let's look at an
6268  example <filename>match-all.action</filename>, <filename>default.action</filename>
6269  and <filename>user.action</filename> file and see how all these pieces come together:
6270 </para>
6271
6272 <sect3 id="match-all">
6273 <title>match-all.action</title>
6274 <para>
6275  Remember <emphasis>all actions are disabled when matching starts</emphasis>,
6276  so we have to explicitly enable the ones we want.
6277 </para>
6278
6279 <para>
6280  While the <filename>match-all.action</filename> file only contains a
6281  single section, it is probably the most important one. It has only one
6282  pattern, <quote><literal>/</literal></quote>, but this pattern
6283  <link linkend="af-patterns">matches all URLs</link>. Therefore, the set of
6284  actions used in this <quote>default</quote> section <emphasis>will
6285  be applied to all requests as a start</emphasis>. It can  be partly or
6286  wholly overridden by other actions files like <filename>default.action</filename>
6287  and <filename>user.action</filename>, but it will still be largely responsible
6288  for your overall browsing experience.
6289 </para>
6290
6291 <para>
6292  Again, at the start of matching, all actions are disabled, so there is
6293  no need to disable any actions here. (Remember: a <quote>+</quote>
6294  preceding the action name enables the action, a <quote>-</quote> disables!).
6295  Also note how this long line has been made more readable by splitting it into
6296  multiple lines with line continuation.
6297 </para>
6298
6299  <screen>
6300 { \
6301  +<link linkend="CHANGE-X-FORWARDED-FOR">change-x-forwarded-for{block}</link> \
6302  +<link linkend="HIDE-FROM-HEADER">hide-from-header{block}</link> \
6303  +<link linkend="SET-IMAGE-BLOCKER">set-image-blocker{pattern}</link> \
6304 }
6305 / # Match all URLs
6306 </screen>
6307
6308 <para>
6309  The default behavior is now set.
6310 </para>
6311 </sect3>
6312
6313 <sect3 id="default-action">
6314 <title>default.action</title>
6315
6316 <para>
6317  If you aren't a developer, there's no need for you to edit the
6318  <filename>default.action</filename> file. It is maintained by
6319  the &my-app; developers and if you disagree with some of the
6320  sections, you should overrule them in your <filename>user.action</filename>.
6321 </para>
6322
6323 <para>
6324  Understanding the <filename>default.action</filename> file can
6325  help you with your <filename>user.action</filename>, though.
6326 </para>
6327
6328 <para>
6329  The first section in this file is a special section for internal use
6330  that prevents older &my-app; versions from reading the file:
6331 </para>
6332
6333  <screen>
6334 ##########################################################################
6335 # Settings -- Don't change! For internal Privoxy use ONLY.
6336 ##########################################################################
6337 {{settings}}
6338 for-privoxy-version=3.0.11</screen>
6339
6340 <para>
6341  After that comes the (optional) alias section. We'll use the example
6342  section from the above <link linkend="aliases">chapter on aliases</link>,
6343  that also explains why and how aliases are used:
6344 </para>
6345
6346  <screen>
6347 ##########################################################################
6348 # Aliases
6349 ##########################################################################
6350 {{alias}}
6351
6352  # These aliases just save typing later:
6353  # (Note that some already use other aliases!)
6354  #
6355  +crunch-all-cookies = +<link linkend="CRUNCH-INCOMING-COOKIES">crunch-incoming-cookies</link> +<link linkend="CRUNCH-OUTGOING-COOKIES">crunch-outgoing-cookies</link>
6356  -crunch-all-cookies = -<link linkend="CRUNCH-INCOMING-COOKIES">crunch-incoming-cookies</link> -<link linkend="CRUNCH-OUTGOING-COOKIES">crunch-outgoing-cookies</link>
6357  +block-as-image      = +block{Blocked image.} +handle-as-image
6358  mercy-for-cookies   = -crunch-all-cookies -<link linkend="SESSION-COOKIES-ONLY">session-cookies-only</link> -<link linkend="FILTER-CONTENT-COOKIES">filter{content-cookies}</link>
6359
6360  # These aliases define combinations of actions
6361  # that are useful for certain types of sites:
6362  #
6363  fragile     = -<link linkend="BLOCK">block</link> -<link linkend="FILTER">filter</link> -crunch-all-cookies -<link linkend="FAST-REDIRECTS">fast-redirects</link> -<link linkend="HIDE-REFERER">hide-referrer</link>
6364  shop        = -crunch-all-cookies -<link linkend="FILTER-ALL-POPUPS">filter{all-popups}</link></screen>
6365
6366 <para>
6367  The first of our specialized sections is concerned with <quote>fragile</quote>
6368  sites, i.e. sites that require minimum interference, because they are either
6369  very complex or very keen on tracking you (and have mechanisms in place that
6370  make them unusable for people who avoid being tracked). We will use
6371  our pre-defined <literal>fragile</literal> alias instead of stating the list
6372  of actions explicitly:
6373 </para>
6374
6375  <screen>
6376 ##########################################################################
6377 # Exceptions for sites that'll break under the default action set:
6378 ##########################################################################
6379
6380 # "Fragile" Use a minimum set of actions for these sites (see alias above):
6381 #
6382 { fragile }
6383 .office.microsoft.com           # surprise, surprise!
6384 .windowsupdate.microsoft.com
6385 mail.google.com</screen>
6386
6387 <para>
6388  Shopping sites are not as fragile, but they typically
6389  require cookies to log in, and pop-up windows for shopping
6390  carts or item details. Again, we'll use a pre-defined alias:
6391 </para>
6392
6393  <screen>
6394 # Shopping sites:
6395 #
6396 { shop }
6397 .quietpc.com
6398 .worldpay.com   # for quietpc.com
6399 .jungle.com
6400 .scan.co.uk</screen>
6401
6402 <para>
6403  The <literal><link linkend="FAST-REDIRECTS">fast-redirects</link></literal>
6404  action, which may have been enabled in <filename>match-all.action</filename>,
6405  breaks some sites. So disable it for popular sites where we know it misbehaves:
6406 </para>
6407
6408  <screen>
6409 { -<link linkend="FAST-REDIRECTS">fast-redirects</link> }
6410 login.yahoo.com
6411 edit.*.yahoo.com
6412 .google.com
6413 .altavista.com/.*(like|url|link):http
6414 .altavista.com/trans.*urltext=http
6415 .nytimes.com</screen>
6416
6417 <para>
6418  It is important that <application>Privoxy</application> knows which
6419  URLs belong to images, so that <emphasis>if</emphasis> they are to
6420  be blocked, a substitute image can be sent, rather than an HTML page.
6421  Contacting the remote site to find out is not an option, since it
6422  would destroy the loading time advantage of banner blocking, and it
6423  would feed the advertisers information about you. We can mark any
6424  URL as an image with the <literal><link
6425  linkend="handle-as-image">handle-as-image</link></literal> action,
6426  and marking all URLs that end in a known image file extension is a
6427  good start:
6428 </para>
6429
6430  <screen>
6431 ##########################################################################
6432 # Images:
6433 ##########################################################################
6434
6435 # Define which file types will be treated as images, in case they get
6436 # blocked further down this file:
6437 #
6438 { +<link linkend="HANDLE-AS-IMAGE">handle-as-image</link> }
6439 /.*\.(gif|jpe?g|png|bmp|ico)$</screen>
6440
6441 <para>
6442  And then there are known banner sources. They often use scripts to
6443  generate the banners, so it won't be visible from the URL that the
6444  request is for an image. Hence we block them <emphasis>and</emphasis>
6445  mark them as images in one go, with the help of our
6446  <literal>+block-as-image</literal> alias defined above. (We could of
6447  course just as well use <literal>+<link linkend="block">block</link>
6448  +<link linkend="handle-as-image">handle-as-image</link></literal> here.)
6449  Remember that the type of the replacement image is chosen by the
6450  <literal><link linkend="set-image-blocker">set-image-blocker</link></literal>
6451  action. Since all URLs have matched the default section with its
6452  <literal>+<link linkend="set-image-blocker">set-image-blocker</link>{pattern}</literal>
6453  action before, it still applies and needn't be repeated:
6454 </para>
6455
6456  <screen>
6457 # Known ad generators:
6458 #
6459 { +block-as-image }
6460 ar.atwola.com
6461 .ad.doubleclick.net
6462 .ad.*.doubleclick.net
6463 .a.yimg.com/(?:(?!/i/).)*$
6464 .a[0-9].yimg.com/(?:(?!/i/).)*$
6465 bs*.gsanet.com
6466 .qkimg.net</screen>
6467
6468 <para>
6469  One of the most important jobs of <application>Privoxy</application>
6470  is to block banners. Many of these can be <quote>blocked</quote>
6471  by the <literal><link linkend="filter">filter</link>{banners-by-size}</literal>
6472  action, which we enabled above, and which deletes the references to banner
6473  images from the pages while they are loaded, so the browser doesn't request
6474  them anymore, and hence they don't need to be blocked here. But this naturally
6475  doesn't catch all banners, and some people choose not to use filters, so we
6476  need a comprehensive list of patterns for banner URLs here, and apply the
6477  <literal><link linkend="block">block</link></literal> action to them.
6478 </para>
6479 <para>
6480  First comes many generic patterns, which do most of the work, by
6481  matching typical domain and path name components of banners. Then comes
6482  a list of individual patterns for specific sites, which is omitted here
6483  to keep the example short:
6484 </para>
6485
6486  <screen>
6487 ##########################################################################
6488 # Block these fine banners:
6489 ##########################################################################
6490 { <link linkend="BLOCK">+block{Banner ads.}</link> }
6491
6492 # Generic patterns:
6493 #
6494 ad*.
6495 .*ads.
6496 banner?.
6497 count*.
6498 /.*count(er)?\.(pl|cgi|exe|dll|asp|php[34]?)
6499 /(?:.*/)?(publicite|werbung|rekla(ma|me|am)|annonse|maino(kset|nta|s)?)/
6500
6501 # Site-specific patterns (abbreviated):
6502 #
6503 .hitbox.com</screen>
6504
6505 <para>
6506  It's quite remarkable how many advertisers actually call their banner
6507  servers ads.<replaceable>company</replaceable>.com, or call the directory
6508  in which the banners are stored literally <quote>banners</quote>. So the above
6509  generic patterns are surprisingly effective.
6510 </para>
6511 <para>
6512  But being very generic, they necessarily also catch URLs that we don't want
6513  to block. The pattern <literal>.*ads.</literal> e.g. catches
6514  <quote>nasty-<emphasis>ads</emphasis>.nasty-corp.com</quote> as intended,
6515  but also <quote>downlo<emphasis>ads</emphasis>.sourcefroge.net</quote> or
6516  <quote><emphasis>ads</emphasis>l.some-provider.net.</quote> So here come some
6517  well-known exceptions to the <literal>+<link linkend="BLOCK">block</link></literal>
6518  section above.
6519 </para>
6520 <para>
6521  Note that these are exceptions to exceptions from the default! Consider the URL
6522  <quote>downloads.sourcefroge.net</quote>: Initially, all actions are deactivated,
6523  so it wouldn't get blocked. Then comes the defaults section, which matches the
6524  URL, but just deactivates the <literal><link linkend="BLOCK">block</link></literal>
6525  action once again. Then it matches <literal>.*ads.</literal>, an exception to the
6526  general non-blocking policy, and suddenly
6527  <literal><link linkend="BLOCK">+block</link></literal> applies. And now, it'll match
6528  <literal>.*loads.</literal>, where <literal><link linkend="BLOCK">-block</link></literal>
6529  applies, so (unless it matches <emphasis>again</emphasis> further down) it ends up
6530  with no <literal><link linkend="BLOCK">block</link></literal> action applying.
6531 </para>
6532
6533  <screen>
6534 ##########################################################################
6535 # Save some innocent victims of the above generic block patterns:
6536 ##########################################################################
6537
6538 # By domain:
6539 #
6540 { -<link linkend="BLOCK">block</link> }
6541 adv[io]*.  # (for advogato.org and advice.*)
6542 adsl.      # (has nothing to do with ads)
6543 adobe.     # (has nothing to do with ads either)
6544 ad[ud]*.   # (adult.* and add.*)
6545 .edu       # (universities don't host banners (yet!))
6546 .*loads.   # (downloads, uploads etc)
6547
6548 # By path:
6549 #
6550 /.*loads/
6551
6552 # Site-specific:
6553 #
6554 www.globalintersec.com/adv # (adv = advanced)
6555 www.ugu.com/sui/ugu/adv</screen>
6556
6557 <para>
6558  Filtering source code can have nasty side effects,
6559  so make an exception for our friends at sourceforge.net,
6560  and all paths with <quote>cvs</quote> in them. Note that
6561  <literal>-<link linkend="FILTER">filter</link></literal>
6562  disables <emphasis>all</emphasis> filters in one fell swoop!
6563 </para>
6564
6565  <screen>
6566 # Don't filter code!
6567 #
6568 { -<link linkend="FILTER">filter</link> }
6569 /(.*/)?cvs
6570 bugzilla.
6571 developer.
6572 wiki.
6573 .sourceforge.net</screen>
6574
6575 <para>
6576  The actual <filename>default.action</filename> is of course much more
6577  comprehensive, but we hope this example made clear how it works.
6578 </para>
6579
6580 </sect3>
6581
6582 <sect3 id="user-action"><title>user.action</title>
6583
6584 <para>
6585  So far we are painting with a broad brush by setting general policies,
6586  which would be a reasonable starting point for many people. Now,
6587  you might want to be more specific and have customized rules that
6588  are more suitable to your personal habits and preferences. These would
6589  be for narrowly defined situations like your ISP or your bank, and should
6590  be placed in <filename>user.action</filename>, which is parsed after all other
6591  actions files and hence has the last word, over-riding any previously
6592  defined actions. <filename>user.action</filename> is also a
6593  <emphasis>safe</emphasis> place for your personal settings, since
6594  <filename>default.action</filename> is actively maintained by the
6595  <application>Privoxy</application> developers and you'll probably want
6596  to install updated versions from time to time.
6597 </para>
6598
6599 <para>
6600  So let's look at a few examples of things that one might typically do in
6601  <filename>user.action</filename>:
6602 </para>
6603
6604
6605 <!-- brief sample user.action here -->
6606
6607  <screen>
6608 # My user.action file. &lt;fred@example.com&gt;</screen>
6609
6610 <para>
6611  As <link linkend="aliases">aliases</link> are local to the actions
6612  file that they are defined in, you can't use the ones from
6613  <filename>default.action</filename>, unless you repeat them here:
6614 </para>
6615
6616  <screen>
6617 # Aliases are local to the file they are defined in.
6618 # (Re-)define aliases for this file:
6619 #
6620 {{alias}}
6621 #
6622 # These aliases just save typing later, and the alias names should
6623 # be self explanatory.
6624 #
6625 +crunch-all-cookies = +crunch-incoming-cookies +crunch-outgoing-cookies
6626 -crunch-all-cookies = -crunch-incoming-cookies -crunch-outgoing-cookies
6627  allow-all-cookies  = -crunch-all-cookies -session-cookies-only
6628  allow-popups       = -filter{all-popups}
6629 +block-as-image     = +block{Blocked as image.} +handle-as-image
6630 -block-as-image     = -block
6631
6632 # These aliases define combinations of actions that are useful for
6633 # certain types of sites:
6634 #
6635 fragile     = -block -crunch-all-cookies -filter -fast-redirects -hide-referrer
6636 shop        = -crunch-all-cookies allow-popups
6637
6638 # Allow ads for selected useful free sites:
6639 #
6640 allow-ads   = -block -filter{banners-by-size} -filter{banners-by-link}
6641
6642 # Alias for specific file types that are text, but might have conflicting
6643 # MIME types. We want the browser to force these to be text documents.
6644 handle-as-text = -<link linkend="FILTER">filter</link> +-<link linkend="content-type-overwrite">content-type-overwrite{text/plain}</link> +-<link linkend="FORCE-TEXT-MODE">force-text-mode</link> -<link linkend="HIDE-CONTENT-DISPOSITION">hide-content-disposition</link></screen>
6645
6646 <para>
6647  Say you have accounts on some sites that you visit regularly, and
6648  you don't want to have to log in manually each time. So you'd like
6649  to allow persistent cookies for these sites. The
6650  <literal>allow-all-cookies</literal> alias defined above does exactly
6651  that, i.e. it disables crunching of cookies in any direction, and the
6652  processing of cookies to make them only temporary.
6653 </para>
6654
6655  <screen>
6656 { allow-all-cookies }
6657  sourceforge.net
6658  .yahoo.com
6659  .msdn.microsoft.com
6660  .redhat.com</screen>
6661
6662 <para>
6663  Your bank is allergic to some filter, but you don't know which, so you disable them all:
6664 </para>
6665
6666  <screen>
6667 { -<link linkend="FILTER">filter</link> }
6668  .your-home-banking-site.com</screen>
6669
6670 <para>
6671  Some file types you may not want to filter for various reasons:
6672 </para>
6673
6674  <screen>
6675 # Technical documentation is likely to contain strings that might
6676 # erroneously get altered by the JavaScript-oriented filters:
6677 #
6678 .tldp.org
6679 /(.*/)?selfhtml/
6680
6681 # And this stupid host sends streaming video with a wrong MIME type,
6682 # so that Privoxy thinks it is getting HTML and starts filtering:
6683 #
6684 stupid-server.example.com/</screen>
6685
6686 <para>
6687  Example of a simple <link linkend="BLOCK">block</link> action. Say you've
6688  seen an ad on your favourite page on example.com that you want to get rid of.
6689  You have right-clicked the image, selected <quote>copy image location</quote>
6690  and pasted the URL below while removing the leading http://, into a
6691  <literal>{ +block{} }</literal> section. Note that <literal>{ +handle-as-image
6692  }</literal> need not be specified, since all URLs ending in
6693  <literal>.gif</literal> will be tagged as images by the general rules as set
6694  in default.action anyway:
6695 </para>
6696
6697  <screen>
6698 { +<link linkend="BLOCK">block</link>{Nasty ads.} }
6699  www.example.com/nasty-ads/sponsor\.gif
6700  another.example.net/more/junk/here/</screen>
6701
6702 <para>
6703  The URLs of dynamically generated banners, especially from large banner
6704  farms, often don't use the well-known image file name extensions, which
6705  makes it impossible for <application>Privoxy</application> to guess
6706  the file type just by looking at the URL.
6707  You can use the <literal>+block-as-image</literal> alias defined above for
6708  these cases.
6709  Note that objects which match this rule but then turn out NOT to be an
6710  image are typically rendered as a <quote>broken image</quote> icon by the
6711  browser. Use cautiously.
6712 </para>
6713
6714  <screen>
6715 { +block-as-image }
6716  .doubleclick.net
6717  .fastclick.net
6718  /Realmedia/ads/
6719  ar.atwola.com/</screen>
6720
6721 <para>
6722  Now you noticed that the default configuration breaks Forbes Magazine,
6723  but you were too lazy to find out which action is the culprit, and you
6724  were again too lazy to give <link linkend="contact">feedback</link>, so
6725  you just used the <literal>fragile</literal> alias on the site, and
6726  -- <emphasis>whoa!</emphasis> -- it worked. The <literal>fragile</literal>
6727  aliases disables those actions that are most likely to break a site. Also,
6728  good for testing purposes to see if it is <application>Privoxy</application>
6729  that is causing the problem or not. We later find other regular sites
6730  that misbehave, and add those to our personalized list of troublemakers:
6731 </para>
6732
6733 <screen>
6734 { fragile }
6735  .forbes.com
6736  webmail.example.com
6737  .mybank.com</screen>
6738
6739 <para>
6740  You like the <quote>fun</quote> text replacements in <filename>default.filter</filename>,
6741  but it is disabled in the distributed actions file.
6742  So you'd like to turn it on in your private,
6743  update-safe config, once and for all:
6744 </para>
6745
6746 <screen>
6747 { +<link linkend="filter-fun">filter{fun}</link> }
6748  / # For ALL sites!</screen>
6749
6750 <para>
6751  Note that the above is not really a good idea: There are exceptions
6752  to the filters in <filename>default.action</filename> for things that
6753  really shouldn't be filtered, like code on CVS->Web interfaces. Since
6754  <filename>user.action</filename> has the last word, these exceptions
6755  won't be valid for the <quote>fun</quote> filtering specified here.
6756 </para>
6757
6758 <para>
6759  You might also worry about how your favourite free websites are
6760  funded, and find that they rely on displaying banner advertisements
6761  to survive. So you might want to specifically allow banners for those
6762  sites that you feel provide value to you:
6763 </para>
6764
6765 <screen>
6766 { allow-ads }
6767  .sourceforge.net
6768  .slashdot.org
6769  .osdn.net</screen>
6770
6771 <para>
6772  Note that <literal>allow-ads</literal> has been aliased to
6773  <literal>-<link linkend="block">block</link></literal>,
6774  <literal>-<link linkend="filter-banners-by-size">filter{banners-by-size}</link></literal>, and
6775  <literal>-<link linkend="filter-banners-by-link">filter{banners-by-link}</link></literal> above.
6776 </para>
6777
6778 <para>
6779  Invoke another alias here to force an over-ride of the MIME type <literal>
6780  application/x-sh</literal> which typically would open a download type
6781  dialog. In my case, I want to look at the shell script, and then I can save
6782  it should I choose to.
6783 </para>
6784
6785 <screen>
6786 { handle-as-text }
6787  /.*\.sh$</screen>
6788
6789 <para>
6790  <filename>user.action</filename> is generally the best place to define
6791  exceptions and additions to the default policies of
6792  <filename>default.action</filename>. Some actions are safe to have their
6793  default policies set here though. So let's set a default policy to have a
6794  <quote>blank</quote> image as opposed to the checkerboard pattern for
6795  <emphasis>ALL</emphasis> sites. <quote>/</quote> of course matches all URL
6796  paths and patterns:
6797 </para>
6798
6799 <screen>
6800 { +<link linkend="set-image-blocker">set-image-blocker{blank}</link> }
6801 / # ALL sites</screen>
6802
6803 </sect3>
6804 </sect2>
6805
6806 <!--  ~  End section  ~  -->
6807
6808 </sect1>
6809
6810 <!--  ~  End section  ~  -->
6811
6812 <!--   ~~~~~~~~       New section Header    ~~~~~~~~~     -->
6813
6814 <sect1 id="filter-file">
6815 <title>Filter Files</title>
6816
6817 <para>
6818  On-the-fly text substitutions need
6819  to be defined in a <quote>filter file</quote>. Once defined, they
6820  can then be invoked as an <quote>action</quote>.
6821 </para>
6822
6823 <para>
6824  &my-app; supports three different pcrs-based filter actions:
6825  <literal><link linkend="filter">filter</link></literal> to
6826  rewrite the content that is send to the client,
6827  <literal><link linkend="client-header-filter">client-header-filter</link></literal>
6828  to rewrite headers that are send by the client, and
6829  <literal><link linkend="server-header-filter">server-header-filter</link></literal>
6830  to rewrite headers that are send by the server.
6831 </para>
6832
6833 <para>
6834  &my-app; also supports two tagger actions:
6835  <literal><link linkend="client-header-tagger">client-header-tagger</link></literal>
6836  and
6837  <literal><link linkend="server-header-tagger">server-header-tagger</link></literal>.
6838  Taggers and filters use the same syntax in the filter files, the difference
6839  is that taggers don't modify the text they are filtering, but use a rewritten
6840  version of the filtered text as tag. The tags can then be used to change the
6841  applying actions through sections with <link linkend="tag-pattern">tag-patterns</link>.
6842 </para>
6843
6844 <para>
6845  Finally &my-app; supports the
6846  <literal><link linkend="external-filter">external-filter</link></literal> action
6847  to enable <literal><link linkend="external-filter-syntax">external filters</link></literal>
6848  written in proper programming languages.
6849 </para>
6850
6851
6852 <para>
6853  Multiple filter files can be defined through the <literal> <link
6854  linkend="filterfile">filterfile</link></literal> config directive. The filters
6855  as supplied by the developers are located in
6856  <filename>default.filter</filename>. It is recommended that any locally
6857  defined or modified filters go in a separately defined file such as
6858  <filename>user.filter</filename>.
6859  </para>
6860
6861 <para>
6862  Common tasks for content filters are to eliminate common annoyances in
6863  HTML and JavaScript, such as pop-up windows,
6864  exit consoles, crippled windows without navigation tools, the
6865  infamous &lt;BLINK&gt; tag etc, to suppress images with certain
6866  width and height attributes (standard banner sizes or web-bugs),
6867  or just to have fun.
6868 </para>
6869
6870 <para>
6871  Enabled content filters are applied to any content whose
6872  <quote>Content Type</quote> header is recognised as a sign
6873  of text-based content, with the exception of <literal>text/plain</literal>.
6874  Use the <link linkend="FORCE-TEXT-MODE">force-text-mode</link> action
6875  to also filter other content.
6876 </para>
6877
6878 <para>
6879  Substitutions are made at the source level, so if you want to <quote>roll
6880  your own</quote> filters, you should first be familiar with HTML syntax,
6881  and, of course, regular expressions.
6882 </para>
6883
6884 <para>
6885  Just like the <link linkend="actions-file">actions files</link>, the
6886  filter file is organized in sections, which are called <emphasis>filters</emphasis>
6887  here. Each filter consists of a heading line, that starts with one of the
6888  <emphasis>keywords</emphasis> <literal>FILTER:</literal>,
6889  <literal>CLIENT-HEADER-FILTER:</literal> or <literal>SERVER-HEADER-FILTER:</literal>
6890  followed by the filter's <emphasis>name</emphasis>, and a short (one line)
6891  <emphasis>description</emphasis> of what it does. Below that line
6892  come the <emphasis>jobs</emphasis>, i.e. lines that define the actual
6893  text substitutions. By convention, the name of a filter
6894  should describe what the filter <emphasis>eliminates</emphasis>. The
6895  comment is used in the <ulink url="http://config.privoxy.org/">web-based
6896  user interface</ulink>.
6897 </para>
6898
6899 <para>
6900  Once a filter called <replaceable>name</replaceable> has been defined
6901  in the filter file, it can be invoked by using an action of the form
6902  +<literal><link linkend="filter">filter</link>{<replaceable>name</replaceable>}</literal>
6903  in any <link linkend="actions-file">actions file</link>.
6904 </para>
6905
6906 <para>
6907  Filter definitions start with a header line that contains the filter
6908  type, the filter name and the filter description.
6909  A content filter header line for a filter called <quote>foo</quote> could look
6910  like this:
6911 </para>
6912
6913  <screen>FILTER: foo Replace all "foo" with "bar"</screen>
6914
6915 <para>
6916  Below that line, and up to the next header line, come the jobs that
6917  define what text replacements the filter executes. They are specified
6918  in a syntax that imitates <ulink url="http://www.perl.org/">Perl</ulink>'s
6919  <literal>s///</literal> operator. If you are familiar with Perl, you
6920  will find this to be quite intuitive, and may want to look at the
6921  PCRS documentation for the subtle differences to Perl behaviour.
6922 </para>
6923
6924 <para>
6925  Most notably, the non-standard option letter <literal>U</literal> is supported,
6926  which turns the default to ungreedy matching (add <literal>?</literal> to
6927  quantifiers to turn them greedy again).
6928 </para>
6929
6930 <para>
6931  The non-standard option letter <literal>D</literal> (dynamic) allows
6932  to use the variables $host, $origin (the IP address the request came from),
6933  $path, $url and $listen-address (the address on which Privoxy accepted the
6934  client request. Example: 127.0.0.1:8118).
6935  They will be replaced with the value they refer to before the filter
6936  is executed.
6937 </para>
6938
6939 <para>
6940  Note that '$' is a bad choice for a delimiter in a dynamic filter as you
6941  might end up with unintended variables if you use a variable name
6942  directly after the delimiter. Variables will be resolved without
6943  escaping anything, therefore you also have to be careful not to chose
6944  delimiters that appear in the replacement text. For example '<' should
6945  be save, while '?' will sooner or later cause conflicts with $url.
6946 </para>
6947
6948 <para>
6949  The non-standard option letter <literal>T</literal> (trivial) prevents
6950  parsing for backreferences in the substitute. Use it if you want to include
6951  text like '$&' in your substitute without quoting.
6952 </para>
6953
6954 <para>
6955  If you are new to
6956   <ulink url="http://en.wikipedia.org/wiki/Regular_expressions"><quote>Regular
6957   Expressions</quote></ulink>, you might want to take a look at
6958  the <link linkend="regex">Appendix on regular expressions</link>, and
6959  see the <ulink url="http://perldoc.perl.org/perlre.html">Perl
6960  manual</ulink> for
6961  <ulink url="http://perldoc.perl.org/perlop.html">the
6962  <literal>s///</literal> operator's syntax</ulink> and <ulink
6963  url="http://perldoc.perl.org/perlre.html">Perl-style regular
6964  expressions</ulink> in general.
6965  The below examples might also help to get you started.
6966 </para>
6967
6968
6969 <!--   ~~~~~~~~       New section Header    ~~~~~~~~~     -->
6970
6971 <sect2 id="filter-file-tut"><title>Filter File Tutorial</title>
6972 <para>
6973  Now, let's complete our <quote>foo</quote> content filter. We have already defined
6974  the heading, but the jobs are still missing. Since all it does is to replace
6975  <quote>foo</quote> with <quote>bar</quote>, there is only one (trivial) job
6976  needed:
6977 </para>
6978
6979  <screen>s/foo/bar/</screen>
6980
6981 <para>
6982  But wait! Didn't the comment say that <emphasis>all</emphasis> occurrences
6983  of <quote>foo</quote> should be replaced? Our current job will only take
6984  care of the first <quote>foo</quote> on each page. For global substitution,
6985  we'll need to add the <literal>g</literal> option:
6986 </para>
6987
6988  <screen>s/foo/bar/g</screen>
6989
6990 <para>
6991  Our complete filter now looks like this:
6992 </para>
6993
6994  <screen>FILTER: foo Replace all "foo" with "bar"
6995 s/foo/bar/g</screen>
6996
6997 <para>
6998  Let's look at some real filters for more interesting examples. Here you see
6999  a filter that protects against some common annoyances that arise from JavaScript
7000  abuse. Let's look at its jobs one after the other:
7001 </para>
7002
7003
7004  <screen>
7005 FILTER: js-annoyances Get rid of particularly annoying JavaScript abuse
7006
7007 # Get rid of JavaScript referrer tracking. Test page: http://www.randomoddness.com/untitled.htm
7008 #
7009 s|(&lt;script.*)document\.referrer(.*&lt;/script&gt;)|$1"Not Your Business!"$2|Usg</screen>
7010
7011 <para>
7012  Following the header line and a comment, you see the job. Note that it uses
7013  <literal>|</literal> as the delimiter instead of <literal>/</literal>, because
7014  the pattern contains a forward slash, which would otherwise have to be escaped
7015  by a backslash (<literal>\</literal>).
7016 </para>
7017
7018 <para>
7019  Now, let's examine the pattern: it starts with the text <literal>&lt;script.*</literal>
7020  enclosed in parentheses. Since the dot matches any character, and <literal>*</literal>
7021  means: <quote>Match an arbitrary number of the element left of myself</quote>, this
7022  matches <quote>&lt;script</quote>, followed by <emphasis>any</emphasis> text, i.e.
7023  it matches the whole page, from the start of the first &lt;script&gt; tag.
7024 </para>
7025
7026 <para>
7027  That's more than we want, but the pattern continues: <literal>document\.referrer</literal>
7028  matches only the exact string <quote>document.referrer</quote>. The dot needed to
7029  be <emphasis>escaped</emphasis>, i.e. preceded by a backslash, to take away its
7030  special meaning as a joker, and make it just a regular dot. So far, the meaning is:
7031  Match from the start of the first &lt;script&gt; tag in a the page, up to, and including,
7032  the text <quote>document.referrer</quote>, if <emphasis>both</emphasis> are present
7033  in the page (and appear in that order).
7034 </para>
7035
7036 <para>
7037  But there's still more pattern to go. The next element, again enclosed in parentheses,
7038  is <literal>.*&lt;/script&gt;</literal>. You already know what <literal>.*</literal>
7039  means, so the whole pattern translates to: Match from the start of the first  &lt;script&gt;
7040  tag in a page to the end of the last &lt;script&gt; tag, provided that the text
7041  <quote>document.referrer</quote> appears somewhere in between.
7042 </para>
7043
7044 <para>
7045  This is still not the whole story, since we have ignored the options and the parentheses:
7046  The portions of the page matched by sub-patterns that are enclosed in parentheses, will be
7047  remembered and be available through the variables <literal>$1, $2, ...</literal> in
7048  the substitute. The <literal>U</literal> option switches to ungreedy matching, which means
7049  that the first <literal>.*</literal> in the pattern will only <quote>eat up</quote> all
7050  text in between <quote>&lt;script</quote> and the <emphasis>first</emphasis> occurrence
7051  of <quote>document.referrer</quote>, and that the second <literal>.*</literal> will
7052  only span the text up to the <emphasis>first</emphasis> <quote>&lt;/script&gt;</quote>
7053  tag. Furthermore, the <literal>s</literal> option says that the match may span
7054  multiple lines in the page, and the <literal>g</literal> option again means that the
7055  substitution is global.
7056 </para>
7057
7058 <para>
7059  So, to summarize, the pattern means: Match all scripts that contain the text
7060  <quote>document.referrer</quote>. Remember the parts of the script from
7061  (and including) the start tag up to (and excluding) the string
7062  <quote>document.referrer</quote> as <literal>$1</literal>, and the part following
7063  that string, up to and including the closing tag, as <literal>$2</literal>.
7064 </para>
7065
7066 <para>
7067  Now the pattern is deciphered, but wasn't this about substituting things? So
7068  lets look at the substitute: <literal>$1"Not Your Business!"$2</literal> is
7069  easy to read: The text remembered as <literal>$1</literal>, followed by
7070  <literal>"Not Your Business!"</literal> (<emphasis>including</emphasis>
7071  the quotation marks!), followed by the text remembered as <literal>$2</literal>.
7072  This produces an exact copy of the original string, with the middle part
7073  (the <quote>document.referrer</quote>) replaced by <literal>"Not Your
7074  Business!"</literal>.
7075 </para>
7076
7077 <para>
7078  The whole job now reads: Replace <quote>document.referrer</quote> by
7079  <literal>"Not Your Business!"</literal> wherever it appears inside a
7080  &lt;script&gt tag. Note that this job won't break JavaScript syntax,
7081  since both the original and the replacement are syntactically valid
7082  string objects. The script just won't have access to the referrer
7083  information anymore.
7084 </para>
7085
7086 <para>
7087  We'll show you two other jobs from the JavaScript taming department, but
7088  this time only point out the constructs of special interest:
7089 </para>
7090
7091  <screen>
7092 # The status bar is for displaying link targets, not pointless blahblah
7093 #
7094 s/window\.status\s*=\s*(['"]).*?\1/dUmMy=1/ig</screen>
7095
7096 <para>
7097  <literal>\s</literal> stands for whitespace characters (space, tab, newline,
7098  carriage return, form feed), so that <literal>\s*</literal> means: <quote>zero
7099  or more whitespace</quote>. The <literal>?</literal> in <literal>.*?</literal>
7100  makes this matching of arbitrary text ungreedy. (Note that the <literal>U</literal>
7101  option is not set). The <literal>['"]</literal> construct means: <quote>a single
7102  <emphasis>or</emphasis> a double quote</quote>. Finally, <literal>\1</literal> is
7103  a back-reference to the first parenthesis just like <literal>$1</literal> above,
7104  with the difference that in the <emphasis>pattern</emphasis>, a backslash indicates
7105  a back-reference, whereas in the <emphasis>substitute</emphasis>, it's the dollar.
7106 </para>
7107
7108 <para>
7109  So what does this job do? It replaces assignments of single- or double-quoted
7110  strings to the <quote>window.status</quote> object with a dummy assignment
7111  (using a variable name that is hopefully odd enough not to conflict with
7112  real variables in scripts). Thus, it catches many cases where e.g. pointless
7113  descriptions are displayed in the status bar instead of the link target when
7114  you move your mouse over links.
7115 </para>
7116
7117  <screen>
7118 # Kill OnUnload popups. Yummy. Test: http://www.zdnet.com/zdsubs/yahoo/tree/yfs.html
7119 #
7120 s/(&lt;body [^&gt;]*)onunload(.*&gt;)/$1never$2/iU</screen>
7121
7122 <para>
7123  Including the
7124  <ulink url="http://www.w3.org/TR/2000/REC-DOM-Level-2-Events-20001113/events.html#Events-eventgroupings-htmlevents">OnUnload
7125  event binding</ulink> in the HTML DOM was a <emphasis>CRIME</emphasis>.
7126  When I close a browser window, I want it to close and die. Basta.
7127  This job replaces the <quote>onunload</quote> attribute in
7128  <quote>&lt;body&gt</quote> tags with the dummy word <literal>never</literal>.
7129  Note that the <literal>i</literal> option makes the pattern matching
7130  case-insensitive. Also note that ungreedy matching alone doesn't always guarantee
7131  a minimal match: In the first parenthesis, we had to use <literal>[^&gt;]*</literal>
7132  instead of <literal>.*</literal> to prevent the match from exceeding the
7133  &lt;body&gt tag if it doesn't contain <quote>OnUnload</quote>, but the page's
7134  content does.
7135 </para>
7136
7137 <para>
7138  The last example is from the fun department:
7139 </para>
7140
7141  <screen>
7142 FILTER: fun Fun text replacements
7143
7144 # Spice the daily news:
7145 #
7146 s/microsoft(?!\.com)/MicroSuck/ig</screen>
7147
7148 <para>
7149  Note the <literal>(?!\.com)</literal> part (a so-called negative lookahead)
7150  in the job's pattern, which means: Don't match, if the string
7151  <quote>.com</quote> appears directly following <quote>microsoft</quote>
7152  in the page. This prevents links to microsoft.com from being trashed, while
7153  still replacing the word everywhere else.
7154 </para>
7155
7156  <screen>
7157 # Buzzword Bingo (example for extended regex syntax)
7158 #
7159 s* industry[ -]leading \
7160 |  cutting[ -]edge \
7161 |  customer[ -]focused \
7162 |  market[ -]driven \
7163 |  award[ -]winning # Comments are OK, too! \
7164 |  high[ -]performance \
7165 |  solutions[ -]based \
7166 |  unmatched \
7167 |  unparalleled \
7168 |  unrivalled \
7169 *&lt;font color="red"&gt;&lt;b&gt;BINGO!&lt;/b&gt;&lt;/font&gt; \
7170 *igx</screen>
7171
7172 <para>
7173  The <literal>x</literal> option in this job turns on extended syntax, and allows for
7174  e.g. the liberal use of (non-interpreted!) whitespace for nicer formatting.
7175 </para>
7176
7177 <para>
7178  You get the idea?
7179 </para>
7180 </sect2>
7181
7182 <!--   ~~~~~~~~       New section Header    ~~~~~~~~~     -->
7183
7184 <sect2 id="predefined-filters"><title>The Pre-defined Filters</title>
7185
7186 <!--
7187
7188  Note each filter is also listed in the +filter action section above. Please
7189  keep these listings in sync.
7190
7191 -->
7192
7193 <para>
7194 The distribution <filename>default.filter</filename> file contains a selection of
7195 pre-defined filters for your convenience:
7196 </para>
7197
7198 <variablelist>
7199  <varlistentry>
7200   <term><emphasis>js-annoyances</emphasis></term>
7201   <listitem>
7202    <para>
7203     The purpose of this filter is to get rid of particularly annoying JavaScript abuse.
7204     To that end, it
7205    </para>
7206    <itemizedlist>
7207     <listitem>
7208      <para>
7209       replaces JavaScript references to the browser's referrer information
7210       with the string "Not Your Business!". This compliments the <literal><link
7211       linkend="hide-referrer">hide-referrer</link></literal> action on the content level.
7212      </para>
7213     </listitem>
7214     <listitem>
7215      <para>
7216       removes the bindings to the DOM's
7217       <ulink url="http://www.w3.org/TR/2000/REC-DOM-Level-2-Events-20001113/events.html#Events-eventgroupings-htmlevents">unload
7218       event</ulink> which we feel has no right to exist and is responsible for most <quote>exit consoles</quote>, i.e.
7219       nasty windows that pop up when you close another one.
7220      </para>
7221     </listitem>
7222     <listitem>
7223      <para>
7224       removes code that causes new windows to be opened with undesired properties, such as being
7225       full-screen, non-resizeable, without location, status or menu bar etc.
7226      </para>
7227     </listitem>
7228    </itemizedlist>
7229    <para>
7230     Use with caution. This is an aggressive filter, and can break sites that
7231     rely heavily on JavaScript.
7232    </para>
7233   </listitem>
7234  </varlistentry>
7235
7236  <varlistentry>
7237   <term><emphasis>js-events</emphasis></term>
7238   <listitem>
7239    <para>
7240     This is a very radical measure. It removes virtually all JavaScript event bindings, which
7241     means that scripts can not react to user actions such as mouse movements or clicks, window
7242     resizing etc, anymore. Use with caution!
7243    </para>
7244    <para>
7245     We <emphasis>strongly discourage</emphasis> using this filter as a default since it breaks
7246     many legitimate scripts. It is meant for use only on extra-nasty sites (should you really
7247     need to go there).
7248    </para>
7249   </listitem>
7250  </varlistentry>
7251
7252 <varlistentry>
7253   <term><emphasis>html-annoyances</emphasis></term>
7254   <listitem>
7255    <para>
7256     This filter will undo many common instances of HTML based abuse.
7257    </para>
7258    <para>
7259     The <literal>BLINK</literal> and <literal>MARQUEE</literal> tags
7260     are neutralized (yeah baby!), and browser windows will be created as
7261     resizeable (as of course they should be!), and will have location,
7262     scroll and menu bars -- even if specified otherwise.
7263    </para>
7264   </listitem>
7265  </varlistentry>
7266
7267  <varlistentry>
7268   <term><emphasis>content-cookies</emphasis></term>
7269   <listitem>
7270    <para>
7271     Most cookies are set in the HTTP dialog, where they can be intercepted
7272     by the
7273     <literal><link linkend="crunch-incoming-cookies">crunch-incoming-cookies</link></literal>
7274     and <literal><link linkend="crunch-outgoing-cookies">crunch-outgoing-cookies</link></literal>
7275     actions. But web sites increasingly make use of HTML meta tags and JavaScript
7276     to sneak cookies to the browser on the content level.
7277    </para>
7278    <para>
7279     This filter disables most HTML and JavaScript code that reads or sets
7280     cookies. It cannot detect all clever uses of these types of code, so it
7281     should not be relied on as an absolute fix. Use it wherever you would also
7282     use the cookie crunch actions.
7283    </para>
7284   </listitem>
7285  </varlistentry>
7286
7287  <varlistentry>
7288   <term><emphasis>refresh-tags</emphasis></term>
7289   <listitem>
7290    <para>
7291     Disable any refresh tags if the interval is greater than nine seconds (so
7292     that redirections done via refresh tags are not destroyed). This is useful
7293     for dial-on-demand setups, or for those who find this HTML feature
7294     annoying.
7295    </para>
7296   </listitem>
7297  </varlistentry>
7298
7299  <varlistentry>
7300   <term><emphasis>unsolicited-popups</emphasis></term>
7301   <listitem>
7302    <para>
7303     This filter attempts to prevent only <quote>unsolicited</quote> pop-up
7304     windows from opening, yet still allow pop-up windows that the user
7305     has explicitly chosen to open. It was added in version 3.0.1,
7306     as an improvement over earlier such filters.
7307    </para>
7308    <para>
7309     Technical note: The filter works by redefining the window.open JavaScript
7310     function to a dummy function, <literal>PrivoxyWindowOpen()</literal>,
7311     during the loading and rendering phase of each HTML page access, and
7312     restoring the function afterward.
7313    </para>
7314    <para>
7315     This is recommended only for browsers that cannot perform this function
7316     reliably themselves. And be aware that some sites require such windows
7317     in order to function normally. Use with caution.
7318    </para>
7319   </listitem>
7320  </varlistentry>
7321
7322  <varlistentry>
7323   <term><emphasis>all-popups</emphasis></term>
7324   <listitem>
7325    <para>
7326     Attempt to prevent <emphasis>all</emphasis> pop-up windows from opening.
7327     Note this should be used with even more discretion than the above, since
7328     it is more likely to break some sites that require pop-ups for normal
7329     usage. Use with caution.
7330    </para>
7331   </listitem>
7332  </varlistentry>
7333
7334  <varlistentry>
7335   <term><emphasis>img-reorder</emphasis></term>
7336   <listitem>
7337    <para>
7338     This is a helper filter that has no value if used alone. It makes the
7339     <literal>banners-by-size</literal> and <literal>banners-by-link</literal>
7340     (see below) filters more effective and should be enabled together with them.
7341    </para>
7342   </listitem>
7343  </varlistentry>
7344
7345  <varlistentry>
7346   <term><emphasis>banners-by-size</emphasis></term>
7347   <listitem>
7348    <para>
7349     This filter removes image tags purely based on what size they are. Fortunately
7350     for us, many ads and banner images tend to conform to certain standardized
7351     sizes, which makes this filter quite effective for ad stripping purposes.
7352    </para>
7353    <para>
7354     Occasionally this filter will cause false positives on images that are not ads,
7355     but just happen to be of one of the standard banner sizes.
7356    </para>
7357    <para>
7358     Recommended only for those who require extreme ad blocking. The default
7359     block rules should catch 95+% of all ads <emphasis>without</emphasis> this filter enabled.
7360    </para>
7361   </listitem>
7362  </varlistentry>
7363
7364  <varlistentry>
7365   <term><emphasis>banners-by-link</emphasis></term>
7366   <listitem>
7367    <para>
7368     This is an experimental filter that attempts to kill any banners if
7369     their URLs seem to point to known or suspected click trackers. It is currently
7370     not of much value and is not recommended for use by default.
7371    </para>
7372   </listitem>
7373  </varlistentry>
7374
7375  <varlistentry>
7376   <term><emphasis>webbugs</emphasis></term>
7377   <listitem>
7378    <para>
7379     Webbugs are small, invisible images (technically 1X1 GIF images), that
7380     are used to track users across websites, and collect information on them.
7381     As an HTML page is loaded by the browser, an embedded image tag causes the
7382     browser to contact a third-party site, disclosing the tracking information
7383     through the requested URL and/or cookies for that third-party domain, without
7384     the user ever becoming aware of the interaction with the third-party site.
7385     HTML-ized spam also uses a similar technique to verify email addresses.
7386    </para>
7387    <para>
7388     This filter removes the HTML code that loads such <quote>webbugs</quote>.
7389    </para>
7390   </listitem>
7391  </varlistentry>
7392
7393  <varlistentry>
7394   <term><emphasis>tiny-textforms</emphasis></term>
7395   <listitem>
7396    <para>
7397     A rather special-purpose filter that can be used to enlarge textareas (those
7398     multi-line text boxes in web forms) and turn off hard word wrap in them.
7399     It was written for the sourceforge.net tracker system where such boxes are
7400     a nuisance, but it can be handy on other sites, too.
7401    </para>
7402    <para>
7403     It is not recommended to use this filter as a default.
7404    </para>
7405   </listitem>
7406  </varlistentry>
7407
7408  <varlistentry>
7409   <term><emphasis>jumping-windows</emphasis></term>
7410   <listitem>
7411    <para>
7412     Many consider windows that move, or resize themselves to be abusive. This filter
7413     neutralizes the related JavaScript code. Note that some sites might not display
7414     or behave as intended when using this filter. Use with caution.
7415    </para>
7416   </listitem>
7417  </varlistentry>
7418
7419  <varlistentry>
7420   <term><emphasis>frameset-borders</emphasis></term>
7421   <listitem>
7422    <para>
7423     Some web designers seem to assume that everyone in the world will view their
7424     web sites using the same browser brand and version, screen resolution etc,
7425     because only that assumption could explain why they'd use static frame sizes,
7426     yet prevent their frames from being resized by the user, should they be too
7427     small to show their whole content.
7428    </para>
7429    <para>
7430     This filter removes the related HTML code. It should only be applied to sites
7431     which need it.
7432    </para>
7433   </listitem>
7434  </varlistentry>
7435
7436  <varlistentry>
7437   <term><emphasis>demoronizer</emphasis></term>
7438   <listitem>
7439    <para>
7440     Many Microsoft products that generate HTML use non-standard extensions (read:
7441     violations) of the ISO 8859-1 aka Latin-1 character set. This can cause those
7442     HTML documents to display with errors on standard-compliant platforms.
7443    </para>
7444    <para>
7445     This filter translates the MS-only characters into Latin-1 equivalents.
7446     It is not necessary when using MS products, and will cause corruption of
7447     all documents that use 8-bit character sets other than Latin-1. It's mostly
7448     worthwhile for Europeans on non-MS platforms, if weird garbage characters
7449     sometimes appear on some pages, or user agents that don't correct for this on
7450     the fly.
7451 <!--
7452     My version of Mozilla (ancient) shows little square boxes for quote
7453     characters, and apostrophes on moronized pages. So many pages have this, I
7454     can read them fine now. HB 08/27/06
7455 -->
7456    </para>
7457   </listitem>
7458  </varlistentry>
7459
7460  <varlistentry>
7461   <term><emphasis>shockwave-flash</emphasis></term>
7462   <listitem>
7463    <para>
7464     A filter for shockwave haters. As the name suggests, this filter strips code
7465     out of web pages that is used to embed shockwave flash objects.
7466    </para>
7467    <para>
7468    </para>
7469   </listitem>
7470  </varlistentry>
7471
7472  <varlistentry>
7473   <term><emphasis>quicktime-kioskmode</emphasis></term>
7474   <listitem>
7475    <para>
7476     Change HTML code that embeds Quicktime objects so that kioskmode, which
7477     prevents saving, is disabled.
7478    </para>
7479   </listitem>
7480  </varlistentry>
7481
7482  <varlistentry>
7483   <term><emphasis>fun</emphasis></term>
7484   <listitem>
7485    <para>
7486     Text replacements for subversive browsing fun. Make fun of your favorite
7487     Monopolist or play buzzword bingo.
7488    </para>
7489   </listitem>
7490  </varlistentry>
7491
7492  <varlistentry>
7493   <term><emphasis>crude-parental</emphasis></term>
7494   <listitem>
7495    <para>
7496     A demonstration-only filter that shows how <application>Privoxy</application>
7497     can be used to delete web content on a keyword basis.
7498    </para>
7499   </listitem>
7500  </varlistentry>
7501
7502  <varlistentry>
7503   <term><emphasis>ie-exploits</emphasis></term>
7504   <listitem>
7505    <para>
7506     An experimental collection of text replacements to disable malicious HTML and JavaScript
7507     code that exploits known security holes in Internet Explorer.
7508    </para>
7509    <para>
7510     Presently, it only protects against Nimda and a cross-site scripting bug, and
7511     would need active maintenance to provide more substantial protection.
7512    </para>
7513   </listitem>
7514  </varlistentry>
7515
7516  <varlistentry>
7517   <term><emphasis>site-specifics</emphasis></term>
7518   <listitem>
7519    <para>
7520     Some web sites have very specific problems, the cure for which doesn't apply
7521     anywhere else, or could even cause damage on other sites.
7522    </para>
7523    <para>
7524     This is a collection of such site-specific cures which should only be applied
7525     to the sites they were intended for, which is what the supplied
7526     <filename>default.action</filename> file does. Users shouldn't need to change
7527     anything regarding this filter.
7528    </para>
7529   </listitem>
7530  </varlistentry>
7531
7532  <varlistentry>
7533   <term><emphasis>google</emphasis></term>
7534   <listitem>
7535    <para>
7536     A CSS based block for Google text ads. Also removes a width limitation
7537     and the toolbar advertisement.
7538    </para>
7539   </listitem>
7540  </varlistentry>
7541
7542   <varlistentry>
7543   <term><emphasis>yahoo</emphasis></term>
7544   <listitem>
7545    <para>
7546     Another CSS based block, this time for Yahoo text ads. And removes
7547     a width limitation as well.
7548    </para>
7549   </listitem>
7550  </varlistentry>
7551
7552   <varlistentry>
7553   <term><emphasis>msn</emphasis></term>
7554   <listitem>
7555    <para>
7556     Another CSS based block, this time for MSN text ads. And removes
7557     tracking URLs, as well as a width limitation.
7558    </para>
7559   </listitem>
7560  </varlistentry>
7561
7562  <varlistentry>
7563   <term><emphasis>blogspot</emphasis></term>
7564   <listitem>
7565    <para>
7566     Cleans up some Blogspot blogs. Read the fine print before using this one!
7567    </para>
7568    <para>
7569     This filter also intentionally removes some navigation stuff and sets the
7570     page width to 100%. As a result, some rounded <quote>corners</quote> would
7571     appear to early or not at all and as fixing this would require a browser
7572     that understands background-size (CSS3), they are removed instead.
7573    </para>
7574   </listitem>
7575  </varlistentry>
7576
7577   <varlistentry>
7578   <term><emphasis>xml-to-html</emphasis></term>
7579   <listitem>
7580    <para>
7581     Server-header filter to change the Content-Type from xml to html.
7582    </para>
7583   </listitem>
7584  </varlistentry>
7585
7586   <varlistentry>
7587   <term><emphasis>html-to-xml</emphasis></term>
7588   <listitem>
7589    <para>
7590     Server-header filter to change the Content-Type from html to xml.
7591    </para>
7592   </listitem>
7593  </varlistentry>
7594
7595   <varlistentry>
7596   <term><emphasis>no-ping</emphasis></term>
7597   <listitem>
7598    <para>
7599     Removes the non-standard <literal>ping</literal> attribute from
7600     anchor and area HTML tags.
7601    </para>
7602   </listitem>
7603  </varlistentry>
7604
7605   <varlistentry>
7606   <term><emphasis>hide-tor-exit-notation</emphasis></term>
7607   <listitem>
7608    <para>
7609     Client-header filter to remove the <command>Tor</command> exit node notation
7610     found in Host and Referer headers.
7611    </para>
7612    <para>
7613     If &my-app; and <command>Tor</command> are chained and &my-app;
7614     is configured to use socks4a, one can use <quote>http://www.example.org.foobar.exit/</quote>
7615     to access the host <quote>www.example.org</quote> through the
7616     <command>Tor</command> exit node <quote>foobar</quote>.
7617    </para>
7618    <para>
7619     As the HTTP client isn't aware of this notation, it treats the
7620     whole string <quote>www.example.org.foobar.exit</quote> as host and uses it
7621     for the <quote>Host</quote> and <quote>Referer</quote> headers. From the
7622     server's point of view the resulting headers are invalid and can cause problems.
7623    </para>
7624    <para>
7625     An invalid <quote>Referer</quote> header can trigger <quote>hot-linking</quote>
7626     protections, an invalid <quote>Host</quote> header will make it impossible for
7627     the server to find the right vhost (several domains hosted on the same IP address).
7628    </para>
7629    <para>
7630     This client-header filter removes the <quote>foo.exit</quote> part in those headers
7631     to prevent the mentioned problems. Note that it only modifies
7632     the HTTP headers, it doesn't make it impossible for the server
7633     to detect your <command>Tor</command> exit node based on the IP address
7634     the request is coming from.
7635    </para>
7636   </listitem>
7637  </varlistentry>
7638
7639 <!--
7640  <varlistentry>
7641   <term><emphasis> </emphasis></term>
7642   <listitem>
7643    <para>
7644    </para>
7645    <para>
7646    </para>
7647   </listitem>
7648  </varlistentry>
7649 -->
7650 </variablelist>
7651
7652 </sect2>
7653
7654 <!--   ~~~~~~~~       New section Header    ~~~~~~~~~     -->
7655 <sect2 id="external-filter-syntax"><title>External filter syntax</title>
7656 <para>
7657  External filters are scripts or programs that can modify the content in
7658  case common <literal><link linkend="filter">filters</link></literal>
7659  aren't powerful enough.
7660 </para>
7661 <para>
7662  External filters can be written in any language the platform &my-app; runs
7663  on supports.
7664 </para>
7665 <para>
7666  They are controlled with the
7667  <literal><link linkend="external-filter">external-filter</link></literal> action
7668  and have to be defined in the <literal><link linkend="filterfile">filterfile</link></literal>
7669  first.
7670 </para>
7671 <para>
7672  The header looks like any other filter, but instead of pcrs jobs, external
7673  filters contain a single job which can be a program or a shell script (which
7674  may call other scripts or programs).
7675 </para>
7676 <para>
7677  External filters read the content from STDIN and write the rewritten
7678  content to STDOUT.
7679  The environment variables PRIVOXY_URL, PRIVOXY_PATH, PRIVOXY_HOST,
7680  PRIVOXY_ORIGIN, PRIVOXY_LISTEN_ADDRESS can be used to get some details
7681  about the client request.
7682 </para>
7683 <para>
7684  &my-app; will temporary store the content to filter in the
7685  <literal><link linkend="temporary-directory">temporary-directory</link></literal>.
7686 </para>
7687
7688  <screen>
7689 EXTERNAL-FILTER: cat Pointless example filter that doesn't actually modify the content
7690 /bin/cat
7691
7692 # Incorrect reimplementation of the filter above in POSIX shell.
7693 #
7694 # Note that it's a single job that spans multiple lines, the line
7695 # breaks are not passed to the shell, thus the semicolons are required.
7696 #
7697 # If the script isn't trivial, it is recommended to put it into an external file.
7698 #
7699 # In general, writing external filters entirely in POSIX shell is not
7700 # considered a good idea.
7701 EXTERNAL-FILTER: cat2 Pointless example filter that despite its name may actually modify the content
7702 while read line; \
7703 do \
7704   echo "$line"; \
7705 done
7706
7707 EXTERNAL-FILTER: rotate-image Rotate an image by 180 degree. Test filter with limited value.
7708 /usr/local/bin/convert - -rotate 180 -
7709
7710 EXTERNAL-FILTER: citation-needed Adds a "[citation needed]" tag to an image. The coordinates may need adjustment.
7711 /usr/local/bin/convert - -pointsize 16 -fill white  -annotate +17+418 "[citation needed]" -
7712 </screen>
7713
7714 <warning>
7715  <para>
7716   Currently external filters are executed with &my-app;'s privileges!
7717   Only use external filters you understand and trust.
7718  </para>
7719 </warning>
7720 <para>
7721  External filters are experimental and the syntax may change in the future.
7722 </para>
7723 </sect2>
7724
7725 </sect1>
7726
7727 <!--  ~  End section  ~  -->
7728
7729
7730
7731 <!--   ~~~~~       New section      ~~~~~     -->
7732
7733 <sect1 id="templates">
7734 <title>Privoxy's Template Files</title>
7735 <para>
7736  All <application>Privoxy</application> built-in pages, i.e. error pages such as the
7737  <ulink url="http://show-the-404-error.page"><quote>404 - No Such Domain</quote>
7738  error page</ulink>, the <ulink
7739  url="http://ads.bannerserver.example.com/nasty-ads/sponsor.html"><quote>BLOCKED</quote>
7740  page</ulink>
7741  and all pages of its <ulink url="http://config.privoxy.org/">web-based
7742  user interface</ulink>, are generated from <emphasis>templates</emphasis>.
7743  (<application>Privoxy</application> must be running for the above links to work as
7744  intended.)
7745 </para>
7746
7747 <para>
7748  These templates are stored in a subdirectory of the <link linkend="confdir">configuration
7749  directory</link> called <filename>templates</filename>. On Unixish platforms,
7750  this is typically
7751  <ulink url="file:///etc/privoxy/templates/"><filename>/etc/privoxy/templates/</filename></ulink>.
7752 </para>
7753
7754 <para>
7755  The templates are basically normal HTML files, but with place-holders (called symbols
7756  or exports), which <application>Privoxy</application> fills at run time. It
7757  is possible to edit the templates with a normal text editor, should you want
7758  to customize them. (<emphasis>Not recommended for the casual
7759  user</emphasis>). Should you create your own custom templates, you should use
7760  the <filename>config</filename> setting <link linkend="templdir">templdir</link>
7761  to specify an alternate location, so your templates do not get overwritten
7762  during upgrades.
7763  </para>
7764  <para>
7765  Note that just like in configuration files, lines starting
7766  with <literal>#</literal> are ignored when the templates are filled in.
7767 </para>
7768
7769 <para>
7770  The place-holders are of the form <literal>@name@</literal>, and you will
7771  find a list of available symbols, which vary from template to template,
7772  in the comments at the start of each file. Note that these comments are not
7773  always accurate, and that it's probably best to look at the existing HTML
7774  code to find out which symbols are supported and what they are filled in with.
7775 </para>
7776
7777 <para>
7778  A special application of this substitution mechanism is to make whole
7779  blocks of HTML code disappear when a specific symbol is set. We use this
7780  for many purposes, one of them being to include the beta warning in all
7781  our user interface (CGI) pages when <application>Privoxy</application>
7782  is in an alpha or beta development stage:
7783 </para>
7784
7785  <screen>
7786 &lt;!-- @if-unstable-start --&gt;
7787
7788   ... beta warning HTML code goes here ...
7789
7790 &lt;!-- if-unstable-end@ --&gt;</screen>
7791
7792 <para>
7793  If the "unstable" symbol is set, everything in between and including
7794  <literal>@if-unstable-start</literal> and <literal>if-unstable-end@</literal>
7795  will disappear, leaving nothing but an empty comment:
7796 </para>
7797
7798  <screen>&lt;!--  --&gt;</screen>
7799
7800 <para>
7801  There's also an if-then-else construct and an <literal>#include</literal>
7802  mechanism, but you'll sure find out if you are inclined to edit the
7803  templates ;-)
7804 </para>
7805
7806 <para>
7807  All templates refer to a style located at
7808  <ulink url="http://config.privoxy.org/send-stylesheet"><literal>http://config.privoxy.org/send-stylesheet</literal></ulink>.
7809  This is, of course, locally served by <application>Privoxy</application>
7810  and the source for it can be found and edited in the
7811  <filename>cgi-style.css</filename> template.
7812 </para>
7813
7814 </sect1>
7815
7816 <!--  ~  End section  ~  -->
7817
7818
7819
7820 <!--   ~~~~~       New section      ~~~~~     -->
7821
7822 <sect1 id="contact"><title>Contacting the Developers, Bug Reporting and Feature
7823 Requests</title>
7824
7825 <!-- Include contacting.sgml boilerplate: -->
7826  &contacting;
7827 <!-- end boilerplate -->
7828
7829 </sect1>
7830
7831 <!--  ~  End section  ~  -->
7832
7833
7834 <!--   ~~~~~       New section      ~~~~~     -->
7835 <sect1 id="copyright"><title>Privoxy Copyright, License and History</title>
7836
7837 <!-- Include copyright.sgml: -->
7838  &copyright;
7839 <!-- end copyright -->
7840
7841 <para>
7842  <application>Privoxy</application> is free software; you can
7843  redistribute and/or modify its source code under the terms
7844  of the <citetitle>GNU General Public License</citetitle>
7845  as published by the Free Software Foundation, either version 2
7846  of the license, or (at your option) any later version.
7847 </para>
7848
7849 <para>
7850  The same is true for <application>Privoxy</application> binaries
7851  unless they are linked with
7852  <ulink url="https://tls.mbed.org/">mbed TLS</ulink> in which
7853  case you can redistribute them and/or modify them under the terms
7854  of the <citetitle>GNU General Public License</citetitle>
7855  as published by the Free Software Foundation, either version 3
7856  of the license, or (at your option) any later version.
7857 </para>
7858
7859 <para>
7860  Both licenses are included in the next section.
7861 </para>
7862
7863 <!--   ~~~~~       New section      ~~~~~     -->
7864 <sect2 id="license"><title>License</title>
7865
7866 <sect3 id="gplv2"><title>GNU General Public License version 2</title>
7867  <screen><![ RCDATA [ &GPLv2; ]]></screen>
7868 </sect3>
7869
7870 <sect3 id="gplv3"><title>GNU General Public License version 3</title>
7871  <screen><![ RCDATA [ &GPLv3; ]]></screen>
7872 </sect3>
7873
7874 </sect2>
7875 <!--  ~  End section  ~  -->
7876
7877
7878 <!--   ~~~~~       New section      ~~~~~     -->
7879
7880 <sect2 id="history"><title>History</title>
7881 <!-- Include history.sgml: -->
7882  &history;
7883 <!-- end history -->
7884 </sect2>
7885
7886 <sect2 id="authors"><title>Authors</title>
7887 <!-- Include p-authors.sgml: -->
7888  &p-authors;
7889 <!-- end authors -->
7890 </sect2>
7891
7892 </sect1>
7893
7894 <!--  ~  End section  ~  -->
7895
7896
7897 <!--   ~~~~~       New section      ~~~~~     -->
7898 <sect1 id="seealso"><title>See Also</title>
7899 <!-- Include seealso.sgml: -->
7900  &seealso;
7901 <!-- end seealso -->
7902 </sect1>
7903
7904
7905
7906 <!--   ~~~~~       New section      ~~~~~     -->
7907 <sect1 id="appendix"><title>Appendix</title>
7908
7909
7910 <!--   ~~~~~       New section      ~~~~~     -->
7911 <sect2 id="regex">
7912 <title>Regular Expressions</title>
7913 <para>
7914  <application>Privoxy</application> uses Perl-style <quote>regular
7915  expressions</quote> in its <link linkend="actions-file">actions
7916  files</link> and <link linkend="filter-file">filter file</link>,
7917  through the <ulink url="http://www.pcre.org/">PCRE</ulink> and
7918 <!--
7919  dead 08/27/06
7920  <ulink url="http://www.oesterhelt.org/pcrs/">PCRS</ulink> libraries.
7921 -->
7922  <application>PCRS</application> libraries.
7923 </para>
7924
7925 <para>
7926  If you are reading this, you probably don't understand what <quote>regular
7927  expressions</quote> are, or what they can do. So this will be a very brief
7928  introduction only. A full explanation would require a <ulink
7929  url="http://www.oreilly.com/catalog/regex/">book</ulink> ;-)
7930 </para>
7931
7932 <para>
7933  Regular expressions provide a language to describe patterns that can be
7934  run against strings of characters (letter, numbers, etc), to see if they
7935  match the string or not. The  patterns are themselves (sometimes complex)
7936  strings of literal characters, combined with  wild-cards, and other special
7937  characters, called meta-characters. The <quote>meta-characters</quote> have
7938  special meanings and are used to build complex patterns to be matched against.
7939  Perl Compatible Regular Expressions are an especially convenient
7940  <quote>dialect</quote> of the regular expression language.
7941 </para>
7942
7943 <para>
7944  To make a simple analogy, we do something similar when we use wild-card
7945  characters when listing files with the <command>dir</command> command in DOS.
7946  <literal>*.*</literal> matches all filenames. The <quote>special</quote>
7947  character here is the asterisk which matches any and all characters. We can be
7948  more specific and use <literal>?</literal> to match just individual
7949  characters. So <quote>dir file?.text</quote> would match
7950  <quote>file1.txt</quote>, <quote>file2.txt</quote>, etc. We are pattern
7951  matching, using a similar technique to <quote>regular expressions</quote>!
7952 </para>
7953
7954 <para>
7955  Regular expressions do essentially the same thing, but are much, much more
7956  powerful. There are many more <quote>special characters</quote> and ways of
7957  building complex patterns however. Let's look at a few of the common ones,
7958  and then some examples:
7959 </para>
7960
7961 <simplelist>
7962  <member>
7963   <emphasis>.</emphasis> - Matches any single character, e.g. <quote>a</quote>,
7964   <quote>A</quote>, <quote>4</quote>, <quote>:</quote>, or <quote>@</quote>.
7965  </member>
7966 </simplelist>
7967
7968 <simplelist>
7969  <member>
7970   <emphasis>?</emphasis> - The preceding character or expression is matched ZERO or ONE
7971   times. Either/or.
7972  </member>
7973 </simplelist>
7974
7975 <simplelist>
7976  <member>
7977   <emphasis>+</emphasis> - The preceding character or expression is matched ONE or MORE
7978   times.
7979  </member>
7980 </simplelist>
7981
7982 <simplelist>
7983  <member>
7984   <emphasis>*</emphasis> - The preceding character or expression is matched ZERO or MORE
7985   times.
7986  </member>
7987 </simplelist>
7988
7989 <simplelist>
7990  <member>
7991   <emphasis>\</emphasis> - The <quote>escape</quote> character denotes that
7992   the following character should be taken literally. This is used where one of the
7993   special characters (e.g. <quote>.</quote>) needs to be taken literally and
7994   not as a special meta-character. Example: <quote>example\.com</quote>, makes
7995   sure the period is recognized only as a period (and not expanded to its
7996   meta-character meaning of any single character).
7997  </member>
7998 </simplelist>
7999
8000 <simplelist>
8001  <member>
8002   <emphasis>[ ]</emphasis> - Characters enclosed in brackets will be matched if
8003   any of the enclosed characters are encountered. For instance, <quote>[0-9]</quote>
8004   matches any numeric digit (zero through nine). As an example, we can combine
8005   this with <quote>+</quote> to match any digit one of more times: <quote>[0-9]+</quote>.
8006  </member>
8007 </simplelist>
8008
8009 <simplelist>
8010  <member>
8011   <emphasis>( )</emphasis> - parentheses are used to group a sub-expression,
8012   or multiple sub-expressions.
8013  </member>
8014 </simplelist>
8015
8016 <simplelist>
8017  <member>
8018   <emphasis>|</emphasis> - The <quote>bar</quote> character works like an
8019   <quote>or</quote> conditional statement. A match is successful if the
8020   sub-expression on either side of <quote>|</quote> matches. As an example:
8021   <quote>/(this|that) example/</quote> uses grouping and the bar character
8022   and would match either <quote>this example</quote> or <quote>that
8023   example</quote>, and nothing else.
8024  </member>
8025 </simplelist>
8026
8027 <para>
8028  These are just some of the ones you are likely to use when matching URLs with
8029  <application>Privoxy</application>, and is a long way from a definitive
8030  list. This is enough to get us started with a few simple examples which may
8031  be more illuminating:
8032 </para>
8033
8034 <para>
8035  <emphasis><literal>/.*/banners/.*</literal></emphasis> - A  simple example
8036  that uses the common combination of <quote>.</quote> and <quote>*</quote> to
8037  denote any character, zero or more times. In other words, any string at all.
8038  So we start with a literal forward slash, then our regular expression pattern
8039  (<quote>.*</quote>) another literal forward slash, the string
8040  <quote>banners</quote>, another forward slash, and lastly another
8041  <quote>.*</quote>. We are building
8042  a directory path here. This will match any file with the path that has a
8043  directory named <quote>banners</quote> in it. The <quote>.*</quote> matches
8044  any characters, and this could conceivably be more forward slashes, so it
8045  might expand into a much longer looking path. For example, this could match:
8046  <quote>/eye/hate/spammers/banners/annoy_me_please.gif</quote>, or just
8047  <quote>/banners/annoying.html</quote>, or almost an infinite number of other
8048  possible combinations, just so it has <quote>banners</quote> in the path
8049  somewhere.
8050 </para>
8051
8052 <para>
8053  And now something a little more complex:
8054 </para>
8055
8056 <para>
8057  <emphasis><literal>/.*/adv((er)?ts?|ertis(ing|ements?))?/</literal></emphasis> -
8058  We have several literal forward slashes again (<quote>/</quote>), so we are
8059  building another expression that is a file path statement. We have another
8060  <quote>.*</quote>, so we are matching against any conceivable sub-path, just so
8061  it matches our expression. The only true literal that <emphasis>must
8062  match</emphasis> our pattern is <application>adv</application>, together with
8063  the forward slashes. What comes after the <quote>adv</quote> string is the
8064  interesting part.
8065 </para>
8066
8067 <para>
8068  Remember the <quote>?</quote> means the preceding expression (either a
8069  literal character or anything grouped with <quote>(...)</quote> in this case)
8070  can exist or not, since this means either zero or one match. So
8071  <quote>((er)?ts?|ertis(ing|ements?))</quote> is optional, as are the
8072  individual sub-expressions: <quote>(er)</quote>,
8073  <quote>(ing|ements?)</quote>, and the <quote>s</quote>. The <quote>|</quote>
8074  means <quote>or</quote>. We have two of those. For instance,
8075  <quote>(ing|ements?)</quote>, can expand to match either <quote>ing</quote>
8076  <emphasis>OR</emphasis> <quote>ements?</quote>. What is being done here, is an
8077  attempt at matching as many variations of <quote>advertisement</quote>, and
8078  similar, as possible. So this would expand to match just <quote>adv</quote>,
8079  or <quote>advert</quote>, or <quote>adverts</quote>, or
8080  <quote>advertising</quote>, or <quote>advertisement</quote>, or
8081  <quote>advertisements</quote>. You get the idea. But it would not match
8082  <quote>advertizements</quote> (with a <quote>z</quote>). We could fix that by
8083  changing our regular expression to:
8084  <quote>/.*/adv((er)?ts?|erti(s|z)(ing|ements?))?/</quote>, which would then match
8085  either spelling.
8086 </para>
8087
8088 <para>
8089  <emphasis><literal>/.*/advert[0-9]+\.(gif|jpe?g)</literal></emphasis> - Again
8090  another path statement with forward slashes. Anything in the square brackets
8091  <quote>[ ]</quote> can be matched. This is using <quote>0-9</quote> as a
8092  shorthand expression to mean any digit one through nine. It is the same as
8093  saying <quote>0123456789</quote>. So any digit matches. The <quote>+</quote>
8094  means one or more of the preceding expression must be included. The preceding
8095  expression here is what is in the square brackets -- in this case, any digit
8096  one through nine. Then, at the end, we have a grouping: <quote>(gif|jpe?g)</quote>.
8097  This includes a <quote>|</quote>, so this needs to match the expression on
8098  either side of that bar character also. A simple <quote>gif</quote> on one side, and the other
8099  side will in turn match either <quote>jpeg</quote> or <quote>jpg</quote>,
8100  since the <quote>?</quote> means the letter <quote>e</quote> is optional and
8101  can be matched once or not at all. So we are building an expression here to
8102  match image GIF or JPEG type image file. It must include the literal
8103  string <quote>advert</quote>, then one or more digits, and a <quote>.</quote>
8104  (which is now a literal, and not a special character, since it is escaped
8105  with <quote>\</quote>), and lastly either <quote>gif</quote>, or
8106  <quote>jpeg</quote>, or <quote>jpg</quote>. Some possible matches would
8107  include: <quote>//advert1.jpg</quote>,
8108  <quote>/nasty/ads/advert1234.gif</quote>,
8109  <quote>/banners/from/hell/advert99.jpg</quote>. It would not match
8110  <quote>advert1.gif</quote> (no leading slash), or
8111  <quote>/adverts232.jpg</quote> (the expression does not include an
8112  <quote>s</quote>), or <quote>/advert1.jsp</quote> (<quote>jsp</quote> is not
8113  in the expression anywhere).
8114 </para>
8115
8116 <para>
8117  We are barely scratching the surface of regular expressions here so that you
8118  can understand the default <application>Privoxy</application>
8119  configuration files, and maybe use this knowledge to customize your own
8120  installation. There is much, much more that can be done with regular
8121  expressions. Now that you know enough to get started, you can learn more on
8122  your own :/
8123 </para>
8124
8125 <para>
8126  More reading on Perl Compatible Regular expressions:
8127  <ulink url="http://perldoc.perl.org/perlre.html">http://perldoc.perl.org/perlre.html</ulink>
8128 </para>
8129
8130 <para>
8131  For information on regular expression based substitutions and their applications
8132  in filters, please see the <link linkend="filter-file">filter file tutorial</link>
8133  in this manual.
8134 </para>
8135 </sect2>
8136
8137 <!--  ~  End section  ~  -->
8138
8139
8140 <!--   ~~~~~       New section      ~~~~~     -->
8141 <sect2 id="internal-pages">
8142 <title>Privoxy's Internal Pages</title>
8143
8144 <para>
8145  Since <application>Privoxy</application> proxies each requested
8146  web page, it is easy for <application>Privoxy</application> to
8147  trap certain special URLs. In this way, we can talk directly to
8148  <application>Privoxy</application>, and see how it is
8149  configured, see how our rules are being applied, change these
8150  rules and other configuration options, and even turn
8151  <application>Privoxy's</application> filtering off, all with
8152  a web browser.
8153 </para>
8154
8155 <para>
8156  The URLs listed below are the special ones that allow direct access
8157  to <application>Privoxy</application>. Of course,
8158  <application>Privoxy</application> must be running to access these. If
8159  not, you will get a friendly error message. Internet access is not
8160  necessary either.
8161 </para>
8162
8163  <itemizedlist>
8164
8165  <listitem>
8166   <para>
8167    Privoxy main page:
8168   </para>
8169   <blockquote>
8170    <para>
8171      <ulink url="http://config.privoxy.org/">http://config.privoxy.org/</ulink>
8172    </para>
8173   </blockquote>
8174   <para>
8175    There is a shortcut: <ulink url="http://p.p/">http://p.p/</ulink> (But it
8176    doesn't provide a fall-back to a real page, in case the request is not
8177    sent through <application>Privoxy</application>)
8178   </para>
8179  </listitem>
8180
8181  <listitem>
8182   <para>
8183     View and toggle client tags:
8184   </para>
8185    <blockquote>
8186    <para>
8187     <ulink url="http://config.privoxy.org/client-tags">http://config.privoxy.org/client-tags</ulink>
8188    </para>
8189   </blockquote>
8190  </listitem>
8191
8192  <listitem>
8193   <para>
8194     Show information about the current configuration, including viewing and
8195     editing of actions files:
8196   </para>
8197    <blockquote>
8198    <para>
8199     <ulink url="http://config.privoxy.org/show-status">http://config.privoxy.org/show-status</ulink>
8200    </para>
8201   </blockquote>
8202  </listitem>
8203
8204  <listitem>
8205   <para>
8206    Show the browser's request headers:
8207   </para>
8208   <blockquote>
8209    <para>
8210     <ulink url="http://config.privoxy.org/show-request">http://config.privoxy.org/show-request</ulink>
8211    </para>
8212   </blockquote>
8213  </listitem>
8214
8215  <listitem>
8216   <para>
8217    Show which actions apply to a URL and why:
8218   </para>
8219    <blockquote>
8220    <para>
8221     <ulink url="http://config.privoxy.org/show-url-info">http://config.privoxy.org/show-url-info</ulink>
8222    </para>
8223   </blockquote>
8224  </listitem>
8225
8226  <listitem>
8227   <para>
8228    Toggle Privoxy on or off. This feature can be turned off/on in the main
8229    <filename>config</filename> file. When toggled <quote>off</quote>, <quote>Privoxy</quote>
8230    continues to run, but only as a pass-through proxy, with no actions taking
8231    place:
8232   </para>
8233    <blockquote>
8234    <para>
8235     <ulink url="http://config.privoxy.org/toggle">http://config.privoxy.org/toggle</ulink>
8236    </para>
8237   </blockquote>
8238   <para>
8239    Short cuts. Turn off, then on:
8240   </para>
8241    <blockquote>
8242    <para>
8243      <ulink url="http://config.privoxy.org/toggle?set=disable">http://config.privoxy.org/toggle?set=disable</ulink>
8244    </para>
8245   </blockquote>
8246    <blockquote>
8247    <para>
8248      <ulink url="http://config.privoxy.org/toggle?set=enable">http://config.privoxy.org/toggle?set=enable</ulink>
8249    </para>
8250   </blockquote>
8251  </listitem>
8252
8253  </itemizedlist>
8254
8255 </sect2>
8256
8257
8258 <!--   ~~~~~       New section      ~~~~~     -->
8259 <sect2 id="chain">
8260 <title>Chain of Events</title>
8261 <para>
8262  Let's take a quick look at how some of <application>Privoxy's</application>
8263  core features are triggered, and the ensuing sequence of events when a web
8264  page is requested by your browser:
8265 </para>
8266
8267  <itemizedlist>
8268  <listitem>
8269   <para>
8270    First, your web browser requests a web page. The browser knows to send
8271    the request to <application>Privoxy</application>, which will in turn,
8272    relay the request to the remote web server after passing the following
8273    tests:
8274   </para>
8275  </listitem>
8276  <listitem>
8277   <para>
8278    <application>Privoxy</application> traps any request for its own internal CGI
8279    pages (e.g <ulink url="http://p.p/">http://p.p/</ulink>) and sends the CGI page back to the browser.
8280   </para>
8281  </listitem>
8282  <listitem>
8283   <para>
8284    Next, <application>Privoxy</application> checks to see if the URL
8285    matches any <link
8286    linkend="BLOCK"><quote>+block</quote></link> patterns. If
8287    so, the URL is then blocked, and the remote web server will not be contacted.
8288    <link linkend="HANDLE-AS-IMAGE"><quote>+handle-as-image</quote></link>
8289    and
8290    <link linkend="HANDLE-AS-EMPTY-DOCUMENT"><quote>+handle-as-empty-document</quote></link>
8291    are then checked, and if there is no match, an
8292    HTML <quote>BLOCKED</quote> page is sent back to the browser. Otherwise, if
8293    it does match, an image is returned for the former, and an empty text
8294    document for the latter. The type of image would depend on the setting of
8295    <link linkend="SET-IMAGE-BLOCKER"><quote>+set-image-blocker</quote></link>
8296    (blank, checkerboard pattern, or an HTTP redirect to an image elsewhere).
8297   </para>
8298  </listitem>
8299  <listitem>
8300   <para>
8301    Untrusted URLs are blocked. If URLs are being added to the
8302    <filename>trust</filename> file, then that is done.
8303   </para>
8304  </listitem>
8305  <listitem>
8306   <para>
8307    If the URL pattern matches the <link
8308    linkend="FAST-REDIRECTS"><quote>+fast-redirects</quote></link> action,
8309    it is then processed. Unwanted parts of the requested URL are stripped.
8310   </para>
8311  </listitem>
8312  <listitem>
8313   <para>
8314    Now the rest of the client browser's request headers are processed. If any
8315    of these match any of the relevant actions (e.g. <link
8316    linkend="HIDE-USER-AGENT"><quote>+hide-user-agent</quote></link>,
8317    etc.), headers are suppressed or forged as determined by these actions and
8318    their parameters.
8319   </para>
8320  </listitem>
8321  <listitem>
8322   <para>
8323    Now the web server starts sending its response back (i.e. typically a web
8324    page).
8325   </para>
8326  </listitem>
8327  <listitem>
8328   <para>
8329    First, the server headers are read and processed to determine, among other
8330    things, the MIME type (document type) and encoding. The headers are then
8331    filtered as determined by the
8332    <link linkend="CRUNCH-INCOMING-COOKIES"><quote>+crunch-incoming-cookies</quote></link>,
8333    <link linkend="SESSION-COOKIES-ONLY"><quote>+session-cookies-only</quote></link>,
8334    and <link linkend="DOWNGRADE-HTTP-VERSION"><quote>+downgrade-http-version</quote></link>
8335    actions.
8336   </para>
8337  </listitem>
8338  <listitem>
8339   <para>
8340    If any <link linkend="FILTER"><quote>+filter</quote></link> action
8341    or <link
8342    linkend="DEANIMATE-GIFS"><quote>+deanimate-gifs</quote></link>
8343    action applies (and the document type fits the action), the rest of the page is
8344    read into memory (up to a configurable limit). Then the filter rules (from
8345    <filename>default.filter</filename> and any other filter files) are
8346    processed against the buffered content. Filters are applied in the order
8347    they are specified in one of the filter files. Animated GIFs, if present,
8348    are reduced to either the first or last frame, depending on the action
8349    setting.The entire page, which is now filtered, is then sent by
8350    <application>Privoxy</application> back to your browser.
8351   </para>
8352   <para>
8353    If neither a <link linkend="FILTER"><quote>+filter</quote></link> action
8354    or <link
8355    linkend="DEANIMATE-GIFS"><quote>+deanimate-gifs</quote></link>
8356    matches, then <application>Privoxy</application> passes the raw data through
8357    to the client browser as it becomes available.
8358   </para>
8359  </listitem>
8360  <listitem>
8361   <para>
8362    As the browser receives the now (possibly filtered) page content, it
8363    reads and then requests any URLs that may be embedded within the page
8364    source, e.g. ad images, stylesheets, JavaScript, other HTML documents (e.g.
8365    frames), sounds, etc. For each of these objects, the browser issues a
8366    separate request (this is easily viewable in <application>Privoxy's</application>
8367    logs). And each such request is in turn processed just as above. Note that a
8368    complex web page will have many, many such embedded URLs. If these
8369    secondary requests are to a different server, then quite possibly a very
8370    differing set of actions is triggered.
8371   </para>
8372  </listitem>
8373
8374  </itemizedlist>
8375
8376 <para>
8377  NOTE: This is somewhat of a simplistic overview of what happens with each URL
8378  request. For the sake of brevity and simplicity, we have focused on
8379  <application>Privoxy's</application> core features only.
8380 </para>
8381
8382 </sect2>
8383
8384
8385 <!--   ~~~~~       New section      ~~~~~     -->
8386 <sect2 id="actionsanat">
8387 <title>Troubleshooting: Anatomy of an Action</title>
8388
8389 <para>
8390  The way <application>Privoxy</application> applies
8391  <link linkend="ACTIONS">actions</link> and <link linkend="FILTER">filters</link>
8392  to any given URL can be complex, and not always so
8393  easy to understand what is happening. And sometimes we need to be able to
8394  <emphasis>see</emphasis> just what <application>Privoxy</application> is
8395  doing. Especially, if something <application>Privoxy</application> is doing
8396  is causing us a problem inadvertently. It can be a little daunting to look at
8397  the actions and filters files themselves, since they tend to be filled with
8398  <link linkend="regex">regular expressions</link> whose consequences are not
8399  always so obvious.
8400 </para>
8401
8402 <para>
8403  One quick test to see if <application>Privoxy</application> is causing a problem
8404  or not, is to disable it temporarily. This should be the first troubleshooting
8405  step (be sure to flush caches afterward!). Looking at the
8406  logs is a good idea too. (Note that both the toggle feature and logging are
8407  enabled via <filename>config</filename> file settings, and may need to be
8408  turned <quote>on</quote>.)
8409 </para>
8410 <para>
8411  Another easy troubleshooting step to try is if you have done any
8412  customization of your installation, revert back to the installed
8413  defaults and see if that helps. There are times the developers get complaints
8414  about one thing or another, and the problem is more related to a customized
8415  configuration issue.
8416 </para>
8417
8418 <para>
8419  <application>Privoxy</application> also provides the
8420  <ulink url="http://config.privoxy.org/show-url-info">http://config.privoxy.org/show-url-info</ulink>
8421  page that can show us very specifically how <application>actions</application>
8422  are being applied to any given URL. This is a big help for troubleshooting.
8423 </para>
8424
8425 <para>
8426  First, enter one URL (or partial URL) at the prompt, and then
8427  <application>Privoxy</application> will tell us
8428  how the current configuration will handle it. This will not
8429  help with filtering effects (i.e. the <link
8430  linkend="FILTER"><quote>+filter</quote></link> action) from
8431  one of the filter files since this is handled very
8432  differently and not so easy to trap! It also will not tell you about any other
8433  URLs that may be embedded within the URL you are testing. For instance, images
8434  such as ads are expressed as URLs within the raw page source of HTML pages. So
8435  you will only get info for the actual URL that is pasted into the prompt area
8436  -- not any sub-URLs. If you want to know about embedded URLs like ads, you
8437  will have to dig those out of the HTML source. Use your browser's <quote>View
8438  Page Source</quote> option for this. Or right click on the ad, and grab the
8439  URL.
8440 </para>
8441
8442 <para>
8443  Let's try an example, <ulink url="http://google.com">google.com</ulink>,
8444  and look at it one section at a time in a sample configuration (your real
8445  configuration may vary):
8446 </para>
8447
8448  <screen>
8449  Matches for http://www.google.com:
8450
8451  In file: default.action <guibutton>[ View ]</guibutton> <guibutton>[ Edit ]</guibutton>
8452
8453  {+change-x-forwarded-for{block}
8454  +deanimate-gifs {last}
8455  +fast-redirects {check-decoded-url}
8456  +filter {refresh-tags}
8457  +filter {img-reorder}
8458  +filter {banners-by-size}
8459  +filter {webbugs}
8460  +filter {jumping-windows}
8461  +filter {ie-exploits}
8462  +hide-from-header {block}
8463  +hide-referrer {forge}
8464  +session-cookies-only
8465  +set-image-blocker {pattern}
8466 /
8467
8468  { -session-cookies-only }
8469  .google.com
8470
8471  { -fast-redirects }
8472  .google.com
8473
8474 In file: user.action <guibutton>[ View ]</guibutton> <guibutton>[ Edit ]</guibutton>
8475 (no matches in this file)
8476 </screen>
8477
8478 <para>
8479  This is telling us how we have defined our
8480  <link linkend="ACTIONS"><quote>actions</quote></link>, and
8481  which ones match for our test case, <quote>google.com</quote>.
8482  Displayed is all the actions that are available to us. Remember,
8483  the <literal>+</literal> sign denotes <quote>on</quote>. <literal>-</literal>
8484  denotes <quote>off</quote>. So some are <quote>on</quote> here, but many
8485  are <quote>off</quote>. Each example we try may provide a slightly different
8486  end result, depending on our configuration directives.
8487 </para>
8488 <para>
8489  The first listing
8490   is for our <filename>default.action</filename> file. The large, multi-line
8491   listing, is how the actions are set to match for all URLs, i.e. our default
8492   settings. If you look at your <quote>actions</quote> file, this would be the
8493   section just below the <quote>aliases</quote> section near the top. This
8494   will apply to all URLs as signified by the single forward slash at the end
8495   of the listing -- <quote> / </quote>.
8496 </para>
8497
8498 <para>
8499  But we have defined additional actions that would be exceptions to these general
8500  rules, and then we list specific URLs (or patterns) that these exceptions
8501  would apply to. Last match wins. Just below this then are two explicit
8502  matches for <quote>.google.com</quote>. The first is negating our previous
8503  cookie setting, which was for <link
8504  linkend="SESSION-COOKIES-ONLY"><quote>+session-cookies-only</quote></link>
8505  (i.e. not persistent). So we will allow persistent cookies for google, at
8506  least that is how it is in this example. The second turns
8507  <emphasis>off</emphasis> any <link
8508  linkend="FAST-REDIRECTS"><quote>+fast-redirects</quote></link>
8509  action, allowing this to take place unmolested. Note that there is a leading
8510  dot here -- <quote>.google.com</quote>. This will match any hosts and
8511  sub-domains, in the google.com domain also, such as
8512  <quote>www.google.com</quote> or <quote>mail.google.com</quote>. But it would not
8513  match <quote>www.google.de</quote>! So, apparently, we have these two actions
8514  defined as exceptions to the general rules at the top somewhere in the lower
8515  part of our <filename>default.action</filename> file, and
8516  <quote>google.com</quote> is referenced somewhere in these latter sections.
8517 </para>
8518
8519 <para>
8520  Then, for our <filename>user.action</filename> file, we again have no hits.
8521  So there is nothing google-specific that we might have added to our own, local
8522  configuration. If there was, those actions would over-rule any actions from
8523  previously processed files, such as <filename>default.action</filename>.
8524  <filename>user.action</filename> typically has the last word. This is the
8525  best place to put hard and fast exceptions,
8526 </para>
8527
8528 <para>
8529  And finally we pull it all together in the bottom section and summarize how
8530  <application>Privoxy</application> is applying all its <quote>actions</quote>
8531  to <quote>google.com</quote>:
8532 </para>
8533
8534  <screen>
8535  Final results:
8536
8537  -add-header
8538  -block
8539  +change-x-forwarded-for{block}
8540  -client-header-filter{hide-tor-exit-notation}
8541  -content-type-overwrite
8542  -crunch-client-header
8543  -crunch-if-none-match
8544  -crunch-incoming-cookies
8545  -crunch-outgoing-cookies
8546  -crunch-server-header
8547  +deanimate-gifs {last}
8548  -downgrade-http-version
8549  -fast-redirects
8550  -filter {js-events}
8551  -filter {content-cookies}
8552  -filter {all-popups}
8553  -filter {banners-by-link}
8554  -filter {tiny-textforms}
8555  -filter {frameset-borders}
8556  -filter {demoronizer}
8557  -filter {shockwave-flash}
8558  -filter {quicktime-kioskmode}
8559  -filter {fun}
8560  -filter {crude-parental}
8561  -filter {site-specifics}
8562  -filter {js-annoyances}
8563  -filter {html-annoyances}
8564  +filter {refresh-tags}
8565  -filter {unsolicited-popups}
8566  +filter {img-reorder}
8567  +filter {banners-by-size}
8568  +filter {webbugs}
8569  +filter {jumping-windows}
8570  +filter {ie-exploits}
8571  -filter {google}
8572  -filter {yahoo}
8573  -filter {msn}
8574  -filter {blogspot}
8575  -filter {no-ping}
8576  -force-text-mode
8577  -handle-as-empty-document
8578  -handle-as-image
8579  -hide-accept-language
8580  -hide-content-disposition
8581  +hide-from-header {block}
8582  -hide-if-modified-since
8583  +hide-referrer {forge}
8584  -hide-user-agent
8585  -limit-connect
8586  -overwrite-last-modified
8587  -prevent-compression
8588  -redirect
8589  -server-header-filter{xml-to-html}
8590  -server-header-filter{html-to-xml}
8591  -session-cookies-only
8592  +set-image-blocker {pattern}
8593 </screen>
8594
8595 <para>
8596  Notice the only difference here to the previous listing, is to
8597  <quote>fast-redirects</quote> and <quote>session-cookies-only</quote>,
8598  which are activated specifically for this site in our configuration,
8599  and thus show in the <quote>Final Results</quote>.
8600 </para>
8601
8602 <para>
8603  Now another example, <quote>ad.doubleclick.net</quote>:
8604 </para>
8605
8606  <screen>
8607  { +block{Domains starts with "ad"} }
8608   ad*.
8609
8610  { +block{Domain contains "ad"} }
8611   .ad.
8612
8613  { +block{Doubleclick banner server} +handle-as-image }
8614   .[a-vx-z]*.doubleclick.net
8615 </screen>
8616
8617 <para>
8618  We'll just show the interesting part here - the explicit matches. It is
8619  matched three different times. Two <quote>+block{}</quote> sections,
8620  and a <quote>+block{} +handle-as-image</quote>,
8621  which is the expanded form of one of our aliases that had been defined as:
8622  <quote>+block-as-image</quote>. (<link
8623  linkend="ALIASES"><quote>Aliases</quote></link> are defined in
8624  the first section of the actions file and typically used to combine more
8625  than one action.)
8626 </para>
8627
8628 <para>
8629  Any one of these would have done the trick and blocked this as an unwanted
8630  image. This is unnecessarily redundant since the last case effectively
8631  would also cover the first. No point in taking chances with these guys
8632  though ;-) Note that if you want an ad or obnoxious
8633  URL to be invisible, it should be defined as <quote>ad.doubleclick.net</quote>
8634  is done here -- as both a <link
8635  linkend="BLOCK"><quote>+block{}</quote></link>
8636  <emphasis>and</emphasis> an
8637  <link linkend="HANDLE-AS-IMAGE"><quote>+handle-as-image</quote></link>.
8638  The custom alias <quote><literal>+block-as-image</literal></quote> just
8639  simplifies the process and make it more readable.
8640 </para>
8641
8642 <para>
8643  One last example. Let's try <quote>http://www.example.net/adsl/HOWTO/</quote>.
8644  This one is giving us problems. We are getting a blank page. Hmmm ...
8645 </para>
8646
8647  <screen>
8648  Matches for http://www.example.net/adsl/HOWTO/:
8649
8650  In file: default.action <guibutton>[ View ]</guibutton> <guibutton>[ Edit ]</guibutton>
8651
8652  {-add-header
8653   -block
8654   +change-x-forwarded-for{block}
8655   -client-header-filter{hide-tor-exit-notation}
8656   -content-type-overwrite
8657   -crunch-client-header
8658   -crunch-if-none-match
8659   -crunch-incoming-cookies
8660   -crunch-outgoing-cookies
8661   -crunch-server-header
8662   +deanimate-gifs
8663   -downgrade-http-version
8664   +fast-redirects {check-decoded-url}
8665   -filter {js-events}
8666   -filter {content-cookies}
8667   -filter {all-popups}
8668   -filter {banners-by-link}
8669   -filter {tiny-textforms}
8670   -filter {frameset-borders}
8671   -filter {demoronizer}
8672   -filter {shockwave-flash}
8673   -filter {quicktime-kioskmode}
8674   -filter {fun}
8675   -filter {crude-parental}
8676   -filter {site-specifics}
8677   -filter {js-annoyances}
8678   -filter {html-annoyances}
8679   +filter {refresh-tags}
8680   -filter {unsolicited-popups}
8681   +filter {img-reorder}
8682   +filter {banners-by-size}
8683   +filter {webbugs}
8684   +filter {jumping-windows}
8685   +filter {ie-exploits}
8686   -filter {google}
8687   -filter {yahoo}
8688   -filter {msn}
8689   -filter {blogspot}
8690   -filter {no-ping}
8691   -force-text-mode
8692   -handle-as-empty-document
8693   -handle-as-image
8694   -hide-accept-language
8695   -hide-content-disposition
8696   +hide-from-header{block}
8697   +hide-referer{forge}
8698   -hide-user-agent
8699   -overwrite-last-modified
8700   +prevent-compression
8701   -redirect
8702   -server-header-filter{xml-to-html}
8703   -server-header-filter{html-to-xml}
8704   +session-cookies-only
8705   +set-image-blocker{blank} }
8706    /
8707
8708  { +block{Path contains "ads".} +handle-as-image }
8709   /ads
8710 </screen>
8711
8712 <para>
8713  Ooops, the <quote>/adsl/</quote> is matching <quote>/ads</quote> in our
8714  configuration! But we did not want this at all! Now we see why we get the
8715  blank page. It is actually triggering two different actions here, and
8716  the effects are aggregated so that the URL is blocked, and &my-app; is told
8717  to treat the block as if it were an image. But this is, of course, all wrong.
8718   We could now add a new action below this (or better in our own
8719   <filename>user.action</filename> file) that explicitly
8720   <emphasis>un</emphasis> blocks (
8721   <link linkend="BLOCK"><quote>{-block}</quote></link>) paths with
8722   <quote>adsl</quote> in them (remember, last match in the configuration
8723   wins). There are various ways to handle such exceptions. Example:
8724 </para>
8725
8726  <screen>
8727  { -block }
8728   /adsl
8729 </screen>
8730
8731 <para>
8732  Now the page displays ;-)
8733  Remember to flush your browser's caches when making these kinds of changes to
8734  your configuration to insure that you get a freshly delivered page! Or, try
8735  using <literal>Shift+Reload</literal>.
8736 </para>
8737
8738 <para>
8739  But now what about a situation where we get no explicit matches like
8740  we did with:
8741 </para>
8742
8743  <screen>
8744  { +block{Path starts with "ads".} +handle-as-image }
8745  /ads
8746 </screen>
8747
8748 <para>
8749  That actually was very helpful and pointed us quickly to where the problem
8750  was. If you don't get this kind of match, then it means one of the default
8751  rules in the first section of <filename>default.action</filename> is causing
8752  the problem. This would require some guesswork, and maybe a little trial and
8753  error to isolate the offending rule. One likely cause would be one of the
8754  <link linkend="FILTER"><quote>+filter</quote></link> actions.
8755  These tend to be harder to troubleshoot.
8756  Try adding the URL for the site to one of aliases that turn off
8757  <link linkend="FILTER"><quote>+filter</quote></link>:
8758 </para>
8759
8760  <screen>
8761  { shop }
8762  .quietpc.com
8763  .worldpay.com   # for quietpc.com
8764  .jungle.com
8765  .scan.co.uk
8766  .forbes.com
8767 </screen>
8768
8769 <para>
8770  <quote><literal>{ shop }</literal></quote> is an <quote>alias</quote> that expands to
8771  <quote><literal>{ -filter -session-cookies-only }</literal></quote>.
8772  Or you could do your own exception to negate filtering:
8773 </para>
8774
8775  <screen>
8776  { -filter }
8777  # Disable ALL filter actions for sites in this section
8778  .forbes.com
8779  developer.ibm.com
8780  localhost
8781 </screen>
8782
8783 <para>
8784  This would turn off all filtering for these sites. This is best
8785  put in <filename>user.action</filename>, for local site
8786  exceptions. Note that when a simple domain pattern is used by itself (without
8787  the subsequent path portion), all sub-pages within that domain are included
8788  automatically in the scope of the action.
8789 </para>
8790
8791 <para>
8792  Images that are inexplicably being blocked, may well be hitting the
8793 <link linkend="FILTER-BANNERS-BY-SIZE"><quote>+filter{banners-by-size}</quote></link>
8794  rule, which assumes
8795  that images of certain sizes are ad banners (works well
8796  <emphasis>most of the time</emphasis>  since these tend to be standardized).
8797 </para>
8798
8799 <para>
8800  <quote><literal>{ fragile }</literal></quote> is an alias that disables most
8801  actions that are the most likely to cause trouble. This can be used as a
8802  last resort for problem sites.
8803 </para>
8804
8805  <screen>
8806  { fragile }
8807  # Handle with care: easy to break
8808  mail.google.
8809  mybank.example.com</screen>
8810
8811
8812 <para>
8813  <emphasis>Remember to flush caches!</emphasis> Note that the
8814  <literal>mail.google</literal> reference lacks the TLD portion (e.g.
8815  <quote>.com</quote>). This will effectively match any TLD with
8816  <literal>google</literal> in it, such as <literal>mail.google.de.</literal>,
8817  just as an example.
8818 </para>
8819 <para>
8820  If this still does not work, you will have to go through the remaining
8821  actions one by one to find which one(s) is causing the problem.
8822 </para>
8823
8824 </sect2>
8825
8826 </sect1>
8827
8828  <!--
8829
8830  This program is free software; you can redistribute it
8831  and/or modify it under the terms of the GNU General
8832  Public License as published by the Free Software
8833  Foundation; either version 2 of the License, or (at
8834  your option) any later version.
8835
8836  This program is distributed in the hope that it will
8837  be useful, but WITHOUT ANY WARRANTY; without even the
8838  implied warranty of MERCHANTABILITY or FITNESS FOR A
8839  PARTICULAR PURPOSE.  See the GNU General Public
8840  License for more details.
8841
8842  The GNU General Public License should be included with
8843  this file.  If not, you can view it at
8844  http://www.gnu.org/copyleft/gpl.html
8845  or write to the Free Software Foundation, Inc.,
8846  51 Franklin Street, Fifth Floor, Boston, MA 02110-1301,
8847  USA
8848
8849  -->
8850
8851 </article>