remove all of the CVS "$Id: xxx" lines that GIT doesn't do anything with
[privoxy.git] / doc / source / user-manual.sgml
1 <!DOCTYPE article PUBLIC "-//OASIS//DTD DocBook V3.1//EN" [
2 <!entity % dummy "IGNORE">
3 <!entity supported SYSTEM "supported.sgml">
4 <!entity newfeatures SYSTEM "newfeatures.sgml">
5 <!entity p-intro SYSTEM "privoxy.sgml">
6 <!entity seealso SYSTEM "seealso.sgml">
7 <!entity buildsource SYSTEM "buildsource.sgml">
8 <!entity contacting SYSTEM "contacting.sgml">
9 <!entity history SYSTEM "history.sgml">
10 <!entity copyright SYSTEM "copyright.sgml">
11 <!entity license SYSTEM "license.sgml">
12 <!entity GPLv2 SYSTEM "../../LICENSE">
13 <!entity p-authors SYSTEM "p-authors.sgml">
14 <!entity config SYSTEM "p-config.sgml">
15 <!entity changelog SYSTEM "changelog.sgml">
16 <!entity p-version "3.0.27">
17 <!entity p-status "UNRELEASED">
18 <!entity % p-authors-formal "INCLUDE"> <!-- include additional text, etc  -->
19 <!entity % p-not-stable "INCLUDE">
20 <!entity % p-stable "IGNORE">
21 <!entity % p-text "IGNORE">        <!-- define we are not a text only doc -->
22 <!entity % p-doc "INCLUDE">        <!-- and we are a formal doc           -->
23 <!entity % p-readme "IGNORE">
24 <!entity % user-man "IGNORE">
25 <!entity % config-file "IGNORE">
26 <!entity % p-supp-userman "IGNORE"> <!-- Omit some from supported.sgml    -->
27 <!entity  my-copy "&copy;">         <!-- kludge for docbook2man           -->
28 <!entity % draft "IGNORE">          <!-- WIP stuff    -->
29 <!entity % seealso-extra "INCLUDE"> <!-- extra stuff from seealso.sgml    -->
30 <!entity  my-app "<application>Privoxy</application>">
31 ]>
32 <!--
33  File        :  doc/source/user-manual.sgml
34
35  Purpose     :  user manual
36
37  Copyright (C) 2001-2018 Privoxy Developers https://www.privoxy.org/
38  See LICENSE.
39
40  ========================================================================
41  NOTE: Please read developer-manual/documentation.html before touching
42  anything in this, or other Privoxy documentation.
43  ========================================================================
44
45 -->
46
47 <article id="index">
48 <artheader>
49
50 <title>Privoxy &p-version; User Manual</title>
51
52 <pubdate>
53  <subscript>
54 <!-- Completely the wrong markup, but very little is allowed  -->
55 <!-- in this part of an article. FIXME -->
56  <link linkend="copyright">Copyright</link> &my-copy; 2001-2017 by
57  <ulink url="https://www.privoxy.org/">Privoxy Developers</ulink>
58  </subscript>
59 </pubdate>
60
61 <!--
62
63 Note: the following should generate a separate page, and a live link to it,
64 all nicely done. But it doesn't for some mysterious reason. Please leave
65 commented unless it can be fixed proper. For the time being, the
66 copyright/license declarations will be in their own sgml.
67
68 Hal.
69
70
71 -->
72
73
74 <abstract>
75
76 <![%dummy;[
77  <para>
78  <comment>
79   This is here to keep vim syntax file from breaking :/
80   If I knew enough to fix it, I would.
81   PLEASE DO NOT REMOVE! HB: hal@foobox.net
82  </comment>
83  </para>
84 ]]>
85
86  <para>
87   The <citetitle>Privoxy User Manual</citetitle> gives users information on how to
88   install, configure and use <ulink
89   url="https://www.privoxy.org/">Privoxy</ulink>.
90  </para>
91
92 <!-- Include privoxy.sgml boilerplate: -->
93  &p-intro;
94 <!-- end privoxy.sgml -->
95
96  <para>
97   You can find the latest version of the <citetitle>Privoxy User Manual</citetitle> at  <ulink
98   url="https://www.privoxy.org/user-manual/">https://www.privoxy.org/user-manual/</ulink>.
99   Please see the <link linkend="contact">Contact section</link> on how to
100   contact the developers.
101  </para>
102
103 </abstract>
104
105 </artheader>
106
107 <!--   ~~~~~       New section      ~~~~~     -->
108 <sect1 label="1" id="introduction"><title>Introduction</title>
109 <para>
110  This documentation is included with the current &p-status; version of
111  <application>Privoxy</application>, &p-version;<![%p-not-stable;[,
112  and is mostly complete at this point. The most up to date reference for the
113  time being is still the comments in the source files and in the individual
114  configuration files. Development of a new version is currently nearing
115  completion, and includes significant changes and enhancements over
116  earlier versions]]>.
117 </para>
118
119 <!-- include only in non-stable versions -->
120 <![%p-not-stable;[
121 <para>
122  Since this is a &p-status; version, not all new features are well tested. This
123  documentation may be slightly out of sync as a result (especially with
124  CVS sources). And there <emphasis>may be</emphasis> bugs, though hopefully
125  not many!
126 </para>
127 ]]>
128
129 <!--   ~~~~~       New section      ~~~~~     -->
130 <sect2 id="features"><title>Features</title>
131 <para>
132  In addition to the core
133  features of ad blocking and
134  <ulink url="http://en.wikipedia.org/wiki/Browser_cookie">cookie</ulink> management,
135  <application>Privoxy</application> provides many supplemental
136  features<![%p-not-stable;[, some of them currently under development]]>,
137  that give the end-user more control, more privacy and more freedom:
138 </para>
139 <!-- Include newfeatures.sgml boilerplate here: -->
140  &newfeatures;
141 <!-- end boilerplate -->
142 </sect2>
143
144 </sect1>
145
146 <!--  ~  End section  ~  -->
147
148
149 <!--   ~~~~~       New section      ~~~~~     -->
150 <sect1 id="installation"><title>Installation</title>
151
152 <para>
153  <application>Privoxy</application> is available both in convenient pre-compiled
154  packages for a wide range of operating systems, and as raw source code.
155  For most users, we recommend using the packages, which can be downloaded from our
156  <ulink url="https://sourceforge.net/projects/ijbswa/">Privoxy Project
157  Page</ulink>.
158 </para>
159
160 <para>
161  Note:
162  On some platforms, the installer may remove previously installed versions, if
163  found. (See below for your platform). In any case <emphasis>be sure to backup
164  your old configuration if it is valuable to you.</emphasis> See the <link
165  linkend="upgradersnote">note to upgraders</link> section below.
166 </para>
167
168 <!--   ~~~~~       New section      ~~~~~     -->
169 <sect2 id="installation-packages"><title>Binary Packages</title>
170 <para>
171 How to install the binary packages depends on your operating system:
172 </para>
173
174 <!-- XXX: The installation sections should be sorted -->
175
176 <!--   ~~~~~       New section      ~~~~~     -->
177 <sect3 id="installation-deb"><title>Debian and Ubuntu</title>
178 <para>
179  DEBs can be installed with <literal>apt-get install privoxy</literal>,
180  and will use <filename>/etc/privoxy</filename> for the location of
181  configuration files.
182 </para>
183 </sect3>
184
185 <!--   ~~~~~       New section      ~~~~~     -->
186 <sect3 id="installation-pack-win"><title>Windows</title>
187
188 <para>
189  Just double-click the installer, which will guide you through
190  the installation process. You will find the configuration files
191  in the same directory as you installed <application>Privoxy</application> in.
192 </para>
193 <para>
194  Version 3.0.5 beta introduced full <application>Windows</application> service
195  functionality. On Windows only, the <application>Privoxy</application>
196  program has two new command line arguments to install and uninstall
197  <application>Privoxy</application> as a <emphasis>service</emphasis>.
198 </para>
199  <variablelist>
200   <varlistentry>
201    <term>Arguments:</term>
202    <listitem>
203     <para>
204      <replaceable class="parameter">--install</replaceable>[:<replaceable class="parameter">service_name</replaceable>]
205     </para>
206     <para>
207      <replaceable class="parameter">--uninstall</replaceable>[:<replaceable class="parameter">service_name</replaceable>]
208     </para>
209    </listitem>
210   </varlistentry>
211  </variablelist>
212  <para>
213  After invoking <application>Privoxy</application> with
214  <command>--install</command>, you will need to bring up the
215  <application>Windows</application> service console to assign the user you
216  want <application>Privoxy</application> to run under, and whether or not you
217  want it to run whenever the system starts. You can start the
218  <application>Windows</application> services console with the following
219  command: <command>services.msc</command>.  If you do not take the manual step
220  of modifying <application>Privoxy's</application> service settings, it will
221  not start.  Note too that you will need to give Privoxy a user account that
222  actually exists, or it will not be permitted to
223  write to its log and configuration files.
224 </para>
225
226 </sect3>
227
228 <!--   ~~~~~       New section      ~~~~~     -->
229 <sect3 id="installation-os2"><title>OS/2</title>
230
231 <para>
232  First, make sure that no previous installations of
233  <application>Junkbuster</application> and / or
234  <application>Privoxy</application> are left on your
235  system. Check that no <application>Junkbuster</application>
236  or <application>Privoxy</application> objects are in
237  your startup folder.
238 </para>
239
240 <para>
241  Then, just double-click the WarpIN self-installing archive, which will
242  guide you through the installation process. A shadow of the
243  <application>Privoxy</application> executable will be placed in your
244  startup folder so it will start automatically whenever OS/2 starts.
245 </para>
246
247 <para>
248  The directory you choose to install <application>Privoxy</application>
249  into will contain all of the configuration files.
250 </para>
251 </sect3>
252
253 <!--   ~~~~~       New section      ~~~~~     -->
254 <sect3 id="installation-mac"><title>Mac OS X</title>
255 <para>
256  Installation instructions for the OS X platform depend upon whether
257  you downloaded a ready-built installation package (.pkg or .mpkg) or have
258  downloaded the source code.
259 </para>
260 </sect3>
261 <sect3 renderas="sect4" id="OS-X-install-from-package">
262 <title>Installation from ready-built package</title>
263 <para>
264  The downloaded file will either be a .pkg (for OS X 10.5 upwards) or a bzipped
265  .mpkg file (for OS X 10.4). The former can be double-clicked as is and the
266  installation will start; double-clicking the latter will unzip the .mpkg file
267  which can then be double-clicked to commence the installation.
268 </para>
269 <para>
270  The privoxy service will automatically start after a successful installation
271  (and thereafter every time your computer starts up) however you will need to
272  configure your web browser(s) to use it. To do so, configure them to use a
273  proxy for HTTP and HTTPS at the address 127.0.0.1:8118.
274 </para>
275 <para>
276  To prevent the privoxy service from automatically starting when your computer
277  starts up, remove or rename the file <literal>/Library/LaunchDaemons/org.ijbswa.privoxy.plist</literal>
278  (on OS X 10.5 and higher) or the folder named
279  <literal>/Library/StartupItems/Privoxy</literal> (on OS X 10.4 'Tiger').
280 </para>
281 <para>
282  To manually start or stop the privoxy service, use the scripts startPrivoxy.sh
283  and stopPrivoxy.sh supplied in /Applications/Privoxy. They must be run from an
284  administrator account, using sudo.
285 </para>
286 <para>
287  To uninstall, run /Applications/Privoxy/uninstall.command as sudo from an
288  administrator account.
289 </para>
290 </sect3>
291 <sect3 renderas="sect4" id="OS-X-install-from-source">
292 <title>Installation from source</title>
293 <para>
294  To build and install the Privoxy source code on OS X you will need to obtain
295  the macsetup module from the Privoxy Sourceforge CVS repository (refer to
296  Sourceforge help for details of how to set up a CVS client to have read-only
297  access to the repository). This module contains scripts that leverage the usual
298  open-source tools (available as part of Apple's free of charge Xcode
299  distribution or via the usual open-source software package managers for OS X
300  (MacPorts, Homebrew, Fink etc.) to build and then install the privoxy binary
301  and associated files. The macsetup module's README file contains complete
302  instructions for its use.
303 </para>
304 <para>
305  The privoxy service will automatically start after a successful installation
306  (and thereafter every time your computer starts up) however you will need to
307  configure your web browser(s) to use it. To do so, configure them to use a
308  proxy for HTTP and HTTPS at the address 127.0.0.1:8118.
309 </para>
310 <para>
311  To prevent the privoxy service from automatically starting when your computer
312  starts up, remove or rename the file <literal>/Library/LaunchDaemons/org.ijbswa.privoxy.plist</literal>
313  (on OS X 10.5 and higher) or the folder named
314  <literal>/Library/StartupItems/Privoxy</literal> (on OS X 10.4 'Tiger').
315 </para>
316 <para>
317  To manually start or stop the privoxy service, use the Privoxy Utility
318  for Mac OS X (also part of the macsetup module).  This application can start
319  and stop the privoxy service and display its log and configuration files.
320 </para>
321 <para>
322  To uninstall, run the macsetup module's uninstall.sh as sudo from an
323  administrator account.
324 </para>
325 </sect3>
326
327 <!--   ~~~~~       New section      ~~~~~     -->
328 <sect3 id="installation-freebsd"><title>FreeBSD</title>
329
330 <para>
331  Privoxy is part of FreeBSD's Ports Collection, you can build and install
332  it with <literal>cd /usr/ports/www/privoxy; make install clean</literal>.
333 </para>
334 </sect3>
335
336 </sect2>
337
338 <!--   ~~~~~       New section      ~~~~~     -->
339 <sect2 id="installation-source"><title>Building from Source</title>
340
341 <para>
342  The most convenient way to obtain the <application>Privoxy</application> sources
343  is to download the source tarball from our
344  <ulink url="https://sourceforge.net/projects/ijbswa/files/Sources/">project download
345  page</ulink>.
346 </para>
347
348 <para>
349  If you like to live on the bleeding edge and are not afraid of using
350  possibly unstable development versions, you can check out the up-to-the-minute
351  version directly from <ulink url="https://sourceforge.net/p/ijbswa/code/?source=navbar">the
352  CVS repository</ulink>.
353 <!--
354  deprecated...out of business.
355  or simply download <ulink
356  url="http://cvs.sourceforge.net/cvstarballs/ijbswa-cvsroot.tar.bz2">the nightly CVS
357  tarball.</ulink>
358 -->
359 </para>
360
361 <!-- include buildsource.sgml boilerplate: -->
362 &buildsource;
363 <!-- end boilerplate -->
364
365 </sect2>
366 <!--   ~~~~~       New section      ~~~~~     -->
367 <sect2 id="installation-keepupdated"><title>Keeping your Installation Up-to-Date</title>
368
369 <para>
370  If you wish to receive an email notification whenever we release updates of
371  <application>Privoxy</application> or the actions file, <ulink
372  url="https://lists.privoxy.org/mailman/listinfo/privoxy-announce">subscribe
373  to our announce mailing list</ulink>, privoxy-announce@lists.privoxy.org.
374 </para>
375
376 <para>
377  In order not to lose your personal changes and adjustments when updating
378  to the latest <literal>default.action</literal> file we <emphasis>strongly
379  recommend</emphasis> that you use <literal>user.action</literal> and
380  <literal>user.filter</literal> for your local
381  customizations of <application>Privoxy</application>. See the <link
382  linkend="actions-file">Chapter on actions files</link> for details.
383 </para>
384
385 </sect2>
386
387
388 </sect1>
389
390 <!--  ~  End section  ~  -->
391
392 <!--   ~~~~~       New section      ~~~~~     -->
393 <sect1 id="whatsnew">
394 <title>What's New in this Release</title>
395
396 &changelog;
397
398 <!--   ~~~~~       New section      ~~~~~     -->
399
400 <sect2 id="upgradersnote">
401 <title>Note to Upgraders</title>
402
403 <para>
404  A quick list of things to be aware of before upgrading from earlier
405  versions of <application>Privoxy</application>:
406 </para>
407
408  <itemizedlist>
409
410  <listitem>
411   <para>
412    The recommended way to upgrade &my-app; is to backup your old
413    configuration files, install the new ones, verify that &my-app;
414    is working correctly and finally merge back your changes using
415    <application>diff</application> and maybe <application>patch</application>.
416   </para>
417   <para>
418    There are a number of new features in each &my-app; release and
419    most of them have to be explicitly enabled in the configuration
420    files. Old configuration files obviously don't do that and due
421    to syntax changes using old configuration files with a new
422    &my-app; isn't always possible anyway.
423   </para>
424  </listitem>
425  <listitem>
426   <para>
427     Note that some installers remove earlier versions completely,
428     including configuration files, therefore you should really save
429     any important configuration files!
430   </para>
431  </listitem>
432  <listitem>
433   <para>
434    On the other hand, other installers don't overwrite existing configuration
435    files, thinking you will want to do that yourself.
436   </para>
437  </listitem>
438  <listitem>
439   <para>
440    In the default configuration only fatal errors are logged now.
441    You can change that in the <link linkend="DEBUG">debug section</link>
442    of the configuration file. You may also want to enable more verbose
443    logging until you verified that the new &my-app; version is working
444    as expected.
445   </para>
446  </listitem>
447
448  <listitem>
449     <para>
450      Three other config file settings are now off by default:
451      <link linkend="enable-remote-toggle">enable-remote-toggle</link>,
452      <link linkend="enable-remote-http-toggle">enable-remote-http-toggle</link>,
453      and  <link linkend="enable-edit-actions">enable-edit-actions</link>.
454      If you use or want these, you will need to explicitly enable them, and
455      be aware of the security issues involved.
456     </para>
457   </listitem>
458
459 <!--
460  <listitem>
461   <para>
462    What constitutes a <quote>default</quote> configuration has changed,
463    and you may want to review which actions are <quote>on</quote> by
464    default. This is primarily a matter of emphasis, but some features
465    you may have been used to, may now be <quote>off</quote> by default.
466    There are also a number of new actions and filters you may want to
467    consider, most of which are not fully incorporated into the default
468    settings as yet (see above).
469   </para>
470  </listitem>
471 -->
472 <!--
473   <listitem>
474    <para>
475     The default actions setting is now <literal>Cautious</literal>. Previous
476     releases had a default setting of <literal>Medium</literal>. Experienced
477     users may want to adjust this, as it is fairly conservative by &my-app;
478     standards and past practices. See <ulink
479     url="http://config.privoxy.org/edit-actions-list?f=default">
480     http://config.privoxy.org/edit-actions-list?f=default</ulink>. New users
481     should try the default settings for a while before turning up the volume.
482    </para>
483   </listitem>
484
485   <listitem>
486    <para>
487     The default setting has filtering turned <emphasis>off</emphasis>, which
488     subsequently means that compression is <emphasis>on</emphasis>. Remember
489     that filtering does not work on compressed pages, so if you use, or want to
490     use, filtering, you will need to force compression off. Example:
491    </para>
492  <screen>
493   { +<link linkend="filter">filter</link>{google}  +<link linkend="prevent-compression">prevent-compression</link> }
494    .google.</screen>
495    <para>
496     Or if you use a number of filters, or filter many sites, you may just want
497     to turn off compression for all sites in
498     <filename>default.action</filename> (or
499     <filename>user.action</filename>).
500    </para>
501
502   </listitem>
503
504   <listitem>
505   <para>
506    Also, <link linkend="SESSION-COOKIES-ONLY">session-cookies-only</link> is
507    off by default now. If you've liked this feature in the past, you may want
508    to turn it back on in <filename>user.action</filename> now.
509   </para>
510   </listitem>
511
512
513   <listitem>
514   <para>
515    Some installers may not automatically start
516    <application>Privoxy</application> after installation.
517   </para>
518  </listitem>
519 -->
520
521  </itemizedlist>
522
523 </sect2>
524 </sect1>
525
526 <!--   ~~~~~       New section      ~~~~~     -->
527 <sect1 id="quickstart"><title>Quickstart to Using Privoxy</title>
528
529  <itemizedlist>
530
531  <listitem>
532   <para>
533   Install <application>Privoxy</application>. See the <link
534   linkend="installation">Installation Section</link> below for platform specific
535   information.
536  </para>
537  </listitem>
538
539  <listitem>
540   <para>
541    Advanced users and those who want to offer <application>Privoxy</application>
542    service to more than just their local machine should check the <link
543    linkend="config">main config file</link>, especially the <link
544    linkend="access-control">security-relevant</link> options. These are
545    off by default.
546   </para>
547  </listitem>
548
549  <listitem>
550   <para>
551   Start <application>Privoxy</application>, if the installation program has
552   not done this already (may vary according to platform). See the section
553   <link linkend="startup">Starting <application>Privoxy</application></link>.
554   </para>
555  </listitem>
556
557  <listitem>
558   <para>
559    Set your browser to use <application>Privoxy</application> as HTTP and
560    HTTPS (SSL)  <ulink url="http://en.wikipedia.org/wiki/Proxy_server">proxy</ulink>
561    by setting the proxy configuration for address of
562    <literal>127.0.0.1</literal> and port <literal>8118</literal>.
563    <emphasis>DO NOT</emphasis> activate proxying for <literal>FTP</literal> or
564    any protocols besides HTTP and HTTPS (SSL) unless you intend to prevent your
565    browser from using these protocols.
566   </para>
567  </listitem>
568
569  <listitem>
570   <para>
571     Flush your browser's disk and memory caches, to remove any cached ad images.
572     If using <application>Privoxy</application> to manage
573     <ulink url="http://en.wikipedia.org/wiki/Browser_cookie">cookies</ulink>,
574     you should remove any currently stored cookies too.
575   </para>
576  </listitem>
577
578  <listitem>
579   <para>
580    A default installation should provide a reasonable starting point for
581    most. There will undoubtedly be occasions where you will want to adjust the
582    configuration, but that can be dealt with as the need arises. Little
583    to no initial configuration is required in most cases, you may want
584    to enable the
585    <ulink url="config.html#ENABLE-EDIT-ACTIONS">web-based action editor</ulink> though.
586    Be sure to read the warnings first.
587   </para>
588   <para>
589    See the <link linkend="configuration">Configuration section</link> for more
590    configuration options, and how to customize your installation.
591    You might also want to look at the <link
592    linkend="quickstart-ad-blocking">next section</link> for a quick
593    introduction to how <application>Privoxy</application> blocks ads and
594    banners.
595 </para>
596  </listitem>
597
598  <listitem>
599   <para>
600     If you experience ads that slip through, innocent images that are
601     blocked, or otherwise feel the need to fine-tune
602     <application>Privoxy's</application> behavior, take a look at the <link
603     linkend="actions-file">actions files</link>. As a quick start, you might
604     find the <link linkend="act-examples">richly commented examples</link>
605     helpful. You can also view and edit the actions files through the <ulink
606     url="http://config.privoxy.org">web-based user interface</ulink>. The
607     Appendix <quote><link linkend="actionsanat">Troubleshooting: Anatomy of an
608     Action</link></quote> has hints on how to understand and debug actions that
609     <quote>misbehave</quote>.
610   </para>
611  </listitem>
612
613  <listitem>
614   <para>
615    Please see the section <link linkend="contact">Contacting the
616    Developers</link> on how to report bugs, problems with websites or to get
617    help.
618   </para>
619  </listitem>
620
621  <listitem>
622   <para>
623    Now enjoy surfing with enhanced control, comfort and privacy!
624   </para>
625  </listitem>
626
627  </itemizedlist>
628
629
630 <!--   ~~~~~       New section      ~~~~~     -->
631
632 <sect2 id="quickstart-ad-blocking">
633 <title>Quickstart to Ad Blocking</title>
634 <!--
635  NOTE:  This section is deliberately redundant for those that don't
636  want to read the whole thing (which is getting lengthy).
637 -->
638 <para>
639  Ad blocking is but one of <application>Privoxy's</application>
640  array of features. Many of these features are for the technically minded advanced
641  user. But, ad and banner blocking is surely common ground for everybody.
642 </para>
643 <para>
644  This section will provide a quick summary of ad blocking so
645  you can get up to speed quickly without having to read the more extensive
646  information provided below, though this is highly recommended.
647 </para>
648 <para>
649  First a bit of a warning ... blocking ads is much like blocking SPAM: the
650  more aggressive you are about it, the more likely you are to block
651  things that were not intended. And the more likely that some things
652  may not work as intended. So there is a trade off here. If you want
653  extreme ad free browsing, be prepared to deal with more
654  <quote>problem</quote> sites, and to spend more time adjusting the
655  configuration to solve these unintended consequences. In short, there is
656  not an easy way to eliminate <emphasis>all</emphasis> ads. Either take
657  the easy way and settle for <emphasis>most</emphasis> ads blocked with the
658  default configuration, or jump in and tweak it for your personal surfing
659  habits and preferences.
660 </para>
661 <para>
662  Secondly, a brief explanation of <application>Privoxy's </application>
663  <quote>actions</quote>. <quote>Actions</quote> in this context, are
664  the directives we use to tell <application>Privoxy</application> to perform
665  some task relating to HTTP transactions (i.e. web browsing). We tell
666  <application>Privoxy</application> to take some <quote>action</quote>. Each
667  action has a unique name and function. While there are many potential
668  <application>actions</application> in <application>Privoxy's</application>
669  arsenal, only a few are used for ad blocking. <link
670  linkend="actions">Actions</link>, and <link linkend="actions-file">action
671  configuration files</link>, are explained in depth below.
672 </para>
673 <para>
674  Actions are specified in <application>Privoxy's</application> configuration,
675  followed by one or more URLs to which the action should apply. URLs
676  can actually be URL type <link linkend="af-patterns">patterns</link> that use
677  wildcards so they can apply potentially to a range of similar URLs. The
678  actions, together with the URL patterns are called a section.
679 </para>
680 <para>
681  When you connect to a website, the full URL will either match one or more
682  of the sections as defined in <application>Privoxy's</application> configuration,
683  or not. If so, then <application>Privoxy</application> will perform the
684  respective actions. If not, then nothing special happens. Furthermore, web
685  pages may contain embedded, secondary URLs that your web browser will
686  use to load additional components of the page, as it parses the
687  original page's HTML content. An ad image for instance, is just an URL
688  embedded in the page somewhere. The image itself may be on the same server,
689  or a server somewhere else on the Internet. Complex web pages will have many
690  such embedded URLs. &my-app; can deal with each URL individually, so, for
691  instance, the main page text is not touched, but images from such-and-such
692  server are blocked.
693 </para>
694
695 <para>
696  The most important actions for basic ad blocking are:  <literal><link
697  linkend="block">block</link></literal>, <literal><link
698  linkend="handle-as-image">handle-as-image</link></literal>,
699  <literal><link
700  linkend="handle-as-empty-document">handle-as-empty-document</link></literal>,and
701  <literal><link linkend="set-image-blocker">set-image-blocker</link></literal>:
702 </para>
703
704  <itemizedlist>
705
706  <listitem>
707   <para>
708    <literal><link linkend="block">block</link></literal> - this is perhaps
709    the single most used action, and is particularly important for ad blocking.
710    This action stops any contact between your browser and any URL patterns
711    that match this action's configuration. It can be used for blocking ads,
712    but also anything that is determined to be unwanted. By itself, it simply
713    stops any communication with the remote server and sends
714    <application>Privoxy</application>'s own built-in BLOCKED page instead to
715    let you now what has happened (with some exceptions, see below).
716   </para>
717  </listitem>
718
719  <listitem>
720   <para>
721    <literal><link linkend="handle-as-image">handle-as-image</link></literal> -
722    tells <application>Privoxy</application> to treat this URL as an image.
723    <application>Privoxy</application>'s default configuration already does this
724    for all common image types (e.g. GIF), but there are many situations where this
725    is not so easy to determine. So we'll force it in these cases. This is particularly
726    important for ad blocking, since  only if we know that it's an image of
727    some kind, can we replace it with an image of our choosing, instead of the
728    <application>Privoxy</application> BLOCKED page (which would only result in
729    a <quote>broken image</quote> icon). There are some limitations to this
730    though. For instance, you can't just brute-force an image substitution for
731    an entire HTML page in most situations.
732   </para>
733  </listitem>
734
735  <listitem>
736   <para>
737    <literal><link linkend="handle-as-empty-document">handle-as-empty-document</link></literal> -
738    sends an empty document instead of <application>Privoxy's</application>
739    normal BLOCKED HTML page. This is useful for file types that are neither
740    HTML nor images, such as blocking JavaScript files.
741   </para>
742  </listitem>
743
744  <listitem>
745   <para>
746    <literal><link
747    linkend="set-image-blocker">set-image-blocker</link></literal> - tells
748    <application>Privoxy</application> what to display in place of an ad image that
749    has hit a block rule. For this to come into play, the URL must match a
750    <literal><link linkend="block">block</link></literal> action somewhere in the
751    configuration, <emphasis>and</emphasis>, it must also match an
752    <literal><link linkend="handle-as-image">handle-as-image</link></literal> action.
753   </para>
754   <para>
755    The configuration options on what to display instead of the ad are:
756   </para>
757   <simplelist>
758    <member>
759     &nbsp;&nbsp;&nbsp;<emphasis>pattern</emphasis> - a checkerboard pattern, so that an ad
760     replacement is obvious. This is the default.
761    </member>
762   </simplelist>
763   <simplelist>
764    <member>
765     &nbsp;&nbsp;&nbsp;<emphasis>blank</emphasis> - A very small empty GIF image is displayed.
766     This is the so-called <quote>invisible</quote> configuration option.
767    </member>
768   </simplelist>
769   <simplelist>
770    <member>
771     &nbsp;&nbsp;&nbsp;<emphasis>http://&lt;URL&gt;</emphasis> - A redirect to any image anywhere
772     of the user's choosing (advanced usage).
773    </member>
774   </simplelist>
775   </listitem>
776
777 </itemizedlist>
778
779 <para>
780  Advanced users will eventually want to explore &my-app;
781  <literal><link linkend="filter">filters</link></literal> as well. Filters
782  are very different from <literal><link
783  linkend="block">blocks</link></literal>.
784  A <quote>block</quote> blocks a site, page, or unwanted contented. Filters
785  are a way of filtering or modifying what is actually on the page. An example
786  filter usage: a text replacement of <quote>no-no</quote> for
787  <quote>nasty-word</quote>. That is a very simple example. This process can be
788  used for ad blocking, but it is more in the realm of advanced usage and has
789  some pitfalls to be wary off.
790 </para>
791
792 <para>
793  The quickest way to adjust any of these settings is with your browser through
794  the special <application>Privoxy</application> editor at <ulink
795  url="http://config.privoxy.org/show-status">http://config.privoxy.org/show-status</ulink>
796  (shortcut: <ulink url="http://p.p/">http://p.p/show-status</ulink>). This
797  is an internal page, and does not require Internet access.
798 </para>
799
800 <para>
801  Note that as of <application>Privoxy</application> 3.0.7 beta the
802  action editor is disabled by default. Check the
803  <ulink url="config.html#ENABLE-EDIT-ACTIONS">enable-edit-actions
804   section in the configuration file</ulink> to learn why and in which
805  cases it's safe to enable again.
806 </para>
807
808 <para>
809  If you decided to enable the action editor, select the appropriate
810  <quote>actions</quote> file, and click
811  <quote><guibutton>Edit</guibutton></quote>. It is best to put personal or
812  local preferences in <filename>user.action</filename> since this is not
813  meant to be overwritten during upgrades, and will over-ride the settings in
814  other files. Here you can insert new <quote>actions</quote>, and URLs for ad
815  blocking or other purposes, and make other adjustments to the configuration.
816  <application>Privoxy</application> will detect these changes automatically.
817 </para>
818
819 <para>
820  A quick and simple step by step example:
821 </para>
822
823  <itemizedlist>
824
825   <listitem>
826    <para>
827      Right click on the ad image to be blocked, then select
828      <quote><guimenuitem>Copy Link Location</guimenuitem></quote> from the
829      pop-up menu.
830    </para>
831   </listitem>
832   <listitem>
833    <para>
834     Set your browser to
835     <ulink
836  url="http://config.privoxy.org/show-status">http://config.privoxy.org/show-status</ulink>
837    </para>
838   </listitem>
839   <listitem>
840    <para>
841     Find <filename>user.action</filename> in the top section, and click
842     on <quote><guibutton>Edit</guibutton></quote>:
843    </para>
844
845  <!-- image of editor and actions files selections -->
846   <figure pgwide="0" float="0"><title>Actions Files in Use</title>
847    <mediaobject>
848      <imageobject>
849       <imagedata  fileref="files-in-use.jpg" format="jpg">
850        </imageobject>
851        <textobject>
852         <phrase>[ Screenshot of Actions Files in Use ]</phrase>
853       </textobject>
854    </mediaobject>
855   </figure>
856  </listitem>
857
858  <listitem>
859   <para>
860    You should have a section with only
861    <literal><link linkend="block">block</link></literal> listed under
862    <quote>Actions:</quote>.
863    If not, click a <quote><guibutton>Insert new section below</guibutton></quote>
864    button, and in the new section that just appeared, click the
865    <guibutton>Edit</guibutton> button right under the word <quote>Actions:</quote>.
866    This will bring up a list of all actions. Find
867    <literal><link linkend="block">block</link></literal> near the top, and click
868    in the <quote>Enabled</quote> column, then <quote><guibutton>Submit</guibutton></quote>
869    just below the list.
870   </para>
871  </listitem>
872  <listitem>
873   <para>
874    Now, in the <literal><link linkend="block">block</link></literal> actions section,
875    click the <quote><guibutton>Add</guibutton></quote> button, and paste the URL the
876    browser got from <quote><guimenuitem>Copy Link Location</guimenuitem></quote>.
877    Remove the <literal>http://</literal> at the beginning of the URL. Then, click
878    <quote><guibutton>Submit</guibutton></quote> (or
879    <quote><guibutton>OK</guibutton></quote> if in a pop-up window).
880   </para>
881  </listitem>
882  <listitem>
883   <para>
884    Now go back to the original page, and press <keycap>SHIFT-Reload</keycap>
885    (or flush all browser caches). The image should be gone now.
886   </para>
887  </listitem>
888
889  </itemizedlist>
890
891 <para>
892  This is a very crude and simple example. There might be good reasons to use a
893  wildcard pattern match to include potentially similar images from the same
894  site. For a more extensive explanation of <quote>patterns</quote>, and
895  the entire actions concept, see <link linkend="actions-file">the Actions
896  section</link>.
897 </para>
898
899 <para>
900  For advanced users who want to hand edit their config files, you might want
901  to now go to the <link linkend="act-examples">Actions Files Tutorial</link>.
902  The ideas explained therein also apply to the web-based editor.
903 </para>
904 <para>
905  There are also various
906  <link linkend="filter">filters</link> that can be used for ad blocking
907  (filters are a special subset of actions). These
908  fall into the <quote>advanced</quote> usage category, and are explained in
909  depth in later sections.
910 </para>
911
912 </sect2>
913
914 </sect1>
915
916 <!--  ~  End section  ~  -->
917
918
919 <!--   ~~~~~       New section      ~~~~~     -->
920 <sect1 id="startup">
921 <title>Starting Privoxy</title>
922 <para>
923  Before launching <application>Privoxy</application> for the first time, you
924  will want to configure your browser(s) to use
925  <application>Privoxy</application> as a HTTP and HTTPS (SSL)
926  <ulink url="http://en.wikipedia.org/wiki/Proxy_server">proxy</ulink>. The default is
927  127.0.0.1 (or localhost) for the proxy address, and port 8118 (earlier versions
928  used port 8000). This is the one configuration step <emphasis>that must be done
929 </emphasis>!
930 </para>
931 <para>
932  Please note that <application>Privoxy</application> can only proxy HTTP and
933  HTTPS traffic. It will not work with FTP or other protocols.
934 </para>
935
936  <!-- image of Mozilla Proxy configuration -->
937   <figure pgwide="0" float="0"><title>Proxy Configuration Showing
938   Mozilla/Netscape HTTP and HTTPS (SSL) Settings</title>
939    <mediaobject>
940      <imageobject>
941       <imagedata  fileref="proxy_setup.jpg" format="jpg">
942        </imageobject>
943        <textobject>
944         <phrase>[ Screenshot of Mozilla Proxy Configuration ]</phrase>
945       </textobject>
946    </mediaobject>
947   </figure>
948
949
950 <para>
951  With <application>Firefox</application>, this is typically set under:
952 </para>
953
954 <literallayout>
955  <guibutton>Tools</guibutton> -> <guibutton>Options</guibutton> ->  <guibutton>Advanced</guibutton> -> <guibutton>Network</guibutton> -><guibutton>Connection</guibutton> -> <guibutton>Settings</guibutton>
956 </literallayout>
957
958 <para>
959  Or optionally on some platforms:
960 </para>
961
962 <literallayout>
963  <guibutton>Edit</guibutton> -> <guibutton>Preferences</guibutton> -> <guibutton>General</guibutton> -> <guibutton>Connection Settings</guibutton> -> <guibutton>Manual Proxy Configuration</guibutton>
964 </literallayout>
965
966
967 <para>
968  With <application>Netscape</application> (and
969  <application>Mozilla</application>), this can be set under:
970 </para>
971
972
973 <literallayout>
974 <!-- Mix ascii and gui art, something for everybody -->
975 <!-- spacing on this is tricky -->
976  <guibutton>Edit</guibutton> -> <guibutton>Preferences</guibutton> -> <guibutton>Advanced</guibutton> -> <guibutton>Proxies</guibutton> -> <guibutton>HTTP Proxy</guibutton>
977 </literallayout>
978
979 <para>
980  For <application>Internet Explorer v.5-7</application>:
981 </para>
982
983 <literallayout>
984  <guibutton>Tools</guibutton> -> <guibutton>Internet Options</guibutton> -> <guibutton>Connections</guibutton> -> <guibutton>LAN Settings</guibutton>
985 </literallayout>
986
987 <para>
988  Then, check <quote>Use Proxy</quote> and fill in the appropriate info
989  (Address: 127.0.0.1, Port: 8118). Include HTTPS (SSL), if you want HTTPS
990  proxy support too (sometimes labeled <quote>Secure</quote>). Make sure any
991  checkboxes like <quote>Use the same proxy server for all protocols</quote> is
992  <emphasis>UNCHECKED</emphasis>. You want only HTTP and HTTPS (SSL)!
993 </para>
994
995  <!-- image of IE Proxy configuration -->
996   <figure pgwide="0" float="0"><title>Proxy Configuration Showing
997   Internet Explorer HTTP and HTTPS (Secure) Settings</title>
998    <mediaobject>
999      <imageobject>
1000       <imagedata  fileref="proxy2.jpg" format="jpg">
1001        </imageobject>
1002        <textobject>
1003         <phrase>[ Screenshot of IE Proxy Configuration ]</phrase>
1004       </textobject>
1005    </mediaobject>
1006   </figure>
1007
1008
1009 <para>
1010  After doing this, flush your browser's disk and memory caches to force a
1011  re-reading of all pages and to get rid of any ads that may be cached. Remove
1012  any <ulink url="http://en.wikipedia.org/wiki/Browser_cookie">cookies</ulink>,
1013  if you want <application>Privoxy</application> to manage that. You are now
1014  ready to start enjoying the benefits of using
1015  <application>Privoxy</application>!
1016 </para>
1017
1018 <para>
1019  <application>Privoxy</application> itself is typically started by specifying the
1020  main configuration file to be used on the command line. If no configuration
1021  file is specified on the command line, <application>Privoxy</application>
1022  will look for a file named <filename>config</filename> in the current
1023  directory. Except on Win32 where it will try <filename>config.txt</filename>.
1024 </para>
1025
1026 <sect2 id="start-debian">
1027 <title>Debian</title>
1028 <para>
1029  We use a script. Note that Debian typically starts &my-app; upon booting per
1030  default.  It will use the file
1031  <filename>/etc/privoxy/config</filename> as its main configuration
1032  file.
1033 </para>
1034  <screen>
1035  # /etc/init.d/privoxy start
1036 </screen>
1037 </sect2>
1038
1039 <sect2 id="start-freebsd">
1040 <title>FreeBSD and ElectroBSD</title>
1041 <para>
1042  To start <application>Privoxy</application> upon booting, add
1043  "privoxy_enable='YES'" to <filename>/etc/rc.conf</filename>.
1044  <application>Privoxy</application> will use
1045  <filename>/usr/local/etc/privoxy/config</filename> as its main
1046  configuration file.
1047 </para>
1048 <para>
1049  If you installed <application>Privoxy</application> into a jail, the
1050  paths above are relative to the jail root.
1051 </para>
1052 <para>
1053  To start <application>Privoxy</application> manually, run:
1054 </para>
1055  <screen>
1056  # service privoxy onestart
1057 </screen>
1058 </sect2>
1059
1060 <sect2 id="start-windows">
1061 <title>Windows</title>
1062 <para>
1063 Click on the &my-app; Icon to start <application>Privoxy</application>. If no configuration file is
1064  specified on the command line, <application>Privoxy</application> will look
1065  for a file named <filename>config.txt</filename>. Note that Windows will
1066  automatically start &my-app; when the system starts if you chose that option
1067  when installing.
1068 </para>
1069 <para>
1070  <application>Privoxy</application> can run with full Windows service functionality.
1071  On Windows only, the &my-app; program has two new command line arguments
1072  to install and uninstall &my-app; as a service. See the
1073  <link linkend="installation-pack-win">Windows Installation
1074  instructions</link> for details.
1075 </para>
1076 </sect2>
1077
1078 <sect2 id="start-unices">
1079 <title>Generic instructions for Unix derivates (Solaris, NetBSD, HP-UX etc.)</title>
1080 <para>
1081 Example Unix startup command:
1082 </para>
1083  <screen>
1084  # /usr/sbin/privoxy --user privoxy /etc/privoxy/config
1085 </screen>
1086 <para>
1087  Note that if you installed <application>Privoxy</application> through
1088  a package manager, the package will probably contain a platform-specific
1089  script or configuration file to start <application>Privoxy</application>
1090  upon boot.
1091 </para>
1092 </sect2>
1093
1094 <sect2 id="start-os2">
1095 <title>OS/2</title>
1096 <para>
1097  During installation, <application>Privoxy</application> is configured to
1098  start automatically when the system restarts. You can start it manually by
1099  double-clicking on the <application>Privoxy</application> icon in the
1100  <application>Privoxy</application> folder.
1101 </para>
1102 </sect2>
1103
1104 <sect2 id="start-macosx">
1105 <title>Mac OS X</title>
1106 <para>
1107  The privoxy service will automatically start after a successful installation
1108  (and thereafter every time your computer starts up) however you will need to
1109  configure your web browser(s) to use it. To do so, configure them to use a
1110  proxy for HTTP and HTTPS at the address 127.0.0.1:8118.
1111 </para>
1112 <para>
1113  To prevent the privoxy service from automatically starting when your computer
1114  starts up, remove or rename the file <literal>/Library/LaunchDaemons/org.ijbswa.privoxy.plist</literal>
1115  (on OS X 10.5 and higher) or the folder named
1116  <literal>/Library/StartupItems/Privoxy</literal> (on OS X 10.4 'Tiger').
1117 </para>
1118 <para>
1119  To manually start or stop the privoxy service, use the scripts startPrivoxy.sh
1120  and stopPrivoxy.sh supplied in /Applications/Privoxy. They must be run from an
1121  administrator account, using sudo.
1122 </para>
1123 </sect2>
1124
1125
1126 <!--
1127
1128 <para>
1129  See the section <link linkend="cmdoptions">Command line options</link> for
1130  further info.
1131 </para>
1132
1133 must find a better place for this paragraph
1134
1135 <para>
1136  The included default configuration files should give a reasonable starting
1137  point. Most of the per site configuration is done in the
1138  <ulink url="actions-file.html"><quote>actions</quote></ulink> files. These are
1139  where various cookie actions are defined, ad and banner blocking, and other
1140  aspects of <application>Privoxy</application> configuration. There are several
1141  such files included, with varying levels of aggressiveness.
1142 </para>
1143
1144 <para>
1145  You will probably want to keep an eye out for sites for which you may prefer
1146  persistent cookies, and add these to your actions configuration as needed. By
1147  default, most of these will be accepted only during the current browser
1148  session (aka <quote>session cookies</quote>), unless you add them to the
1149  configuration. If you want the browser to handle this instead, you will need
1150  to edit <filename>user.action</filename> (or through the web based interface)
1151  and disable this feature. If you use more than one browser, it would make
1152  more sense to let <application>Privoxy</application> handle this. In which
1153  case, the browser(s) should be set to accept all cookies.
1154 </para>
1155
1156 <para>
1157  Another feature where you will probably want to define exceptions for trusted
1158  sites is the popup-killing (through  <ulink
1159  url="actions-file.html#FILTER-POPUPS"><quote>+filter{popups}</quote></ulink>),
1160  because your favorite shopping, banking, or leisure site may need
1161  popups (explained below).
1162 </para>
1163
1164 <para>
1165  <application>Privoxy</application> does not support all of the optional HTTP/1.1
1166  features yet. In the unlikely event that you experience inexplicable problems
1167  with browsers that use HTTP/1.1 per default
1168  (like <application>Mozilla</application> or recent versions of I.E.), you might
1169  try to force HTTP/1.0 compatibility. For Mozilla, look under <literal>Edit -&gt;
1170  Preferences -&gt; Debug -&gt; Networking</literal>.
1171  Alternatively, set the <quote>+downgrade-http-version</quote> config option in
1172  <filename>default.action</filename> which will downgrade your browser's HTTP
1173  requests from HTTP/1.1 to HTTP/1.0 before processing them.
1174 </para>
1175
1176 <para>
1177  After running <application>Privoxy</application> for a while, you can
1178  start to fine tune the configuration to suit your personal, or site,
1179  preferences and requirements. There are many, many aspects that can
1180  be customized. <quote>Actions</quote>
1181  can be adjusted by pointing your browser to
1182  <ulink url="http://config.privoxy.org/">http://config.privoxy.org/</ulink>
1183  (shortcut: <ulink url="http://p.p/">http://p.p/</ulink>),
1184  and then follow the link to <quote>View &#38; Change the Current Configuration</quote>.
1185  (This is an internal page and does not require Internet access.)
1186 </para>
1187
1188 <para>
1189  In fact, various aspects of <application>Privoxy</application>
1190  configuration can be viewed from this page, including
1191  current configuration parameters, source code version numbers,
1192  the browser's request headers, and <quote>actions</quote> that apply
1193  to a given URL. In addition to the actions file
1194  editor mentioned above, <application>Privoxy</application> can also
1195  be turned <quote>on</quote> and <quote>off</quote> (toggled) from this page.
1196 </para>
1197
1198 <para>
1199  If you encounter problems, try loading the page without
1200  <application>Privoxy</application>. If that helps, enter the URL where
1201  you have the problems into <ulink url="http://p.p/show-url-info">the browser
1202  based rule tracing utility</ulink>. See which rules apply and why, and
1203  then try turning them off for that site one after the other, until the problem
1204  is gone. When you have found the culprit, you might want to turn the rest on
1205  again.
1206 </para>
1207
1208 <para>
1209  If the above paragraph sounds gibberish to you, you might want to <link
1210  linkend="actions-file">read more about the actions concept</link>
1211  or even dive deep into the <link linkend="actionsanat">Appendix
1212  on actions</link>.
1213 </para>
1214
1215 <para>
1216  If you can't get rid of the problem at all, think you've found a bug in
1217  Privoxy, want to propose a new feature or smarter rules, please see the
1218  section <link linkend="contact"><quote>Contacting the
1219  Developers</quote></link> below.
1220 </para>
1221
1222 -->
1223
1224 <!--   ~~~~~       New section      ~~~~~     -->
1225 <sect2 id="cmdoptions">
1226 <title>Command Line Options</title>
1227 <para>
1228  <application>Privoxy</application> may be invoked with the following
1229  command-line options:
1230 </para>
1231
1232  <itemizedlist>
1233
1234  <listitem>
1235   <para>
1236    <emphasis>--config-test</emphasis>
1237   </para>
1238   <para>
1239    Exit after loading the configuration files before binding to
1240    the listen address. The exit code signals whether or not the
1241    configuration files have been successfully loaded.
1242   </para>
1243   <para>
1244    If the exit code is 1, at least one of the configuration files
1245    is invalid, if it is 0, all the configuration files have been
1246    successfully loaded (but may still contain errors that can
1247    currently only be detected at run time).
1248   </para>
1249   <para>
1250    This option doesn't affect the log setting, combination with
1251    <emphasis>--no-daemon</emphasis> is recommended if a configured
1252    log file shouldn't be used.
1253   </para>
1254  </listitem>
1255  <listitem>
1256   <para>
1257     <emphasis>--version</emphasis>
1258   </para>
1259   <para>
1260      Print version info and exit. Unix only.
1261   </para>
1262  </listitem>
1263  <listitem>
1264   <para>
1265     <emphasis>--help</emphasis>
1266   </para>
1267   <para>
1268    Print short usage info and exit. Unix only.
1269   </para>
1270  </listitem>
1271  <listitem>
1272   <para>
1273    <emphasis>--no-daemon</emphasis>
1274   </para>
1275   <para>
1276    Don't become a daemon, i.e. don't fork and become process group
1277    leader, and don't detach from controlling tty. Unix only.
1278   </para>
1279  </listitem>
1280  <listitem>
1281   <para>
1282    <emphasis>--pidfile FILE</emphasis>
1283   </para>
1284   <para>
1285    On startup, write the process ID to <emphasis>FILE</emphasis>. Delete the
1286    <emphasis>FILE</emphasis> on exit. Failure to create or delete the
1287    <emphasis>FILE</emphasis> is non-fatal. If no <emphasis>FILE</emphasis>
1288    option is given, no PID file will be used. Unix only.
1289   </para>
1290  </listitem>
1291  <listitem>
1292   <para>
1293    <emphasis>--user USER[.GROUP]</emphasis>
1294   </para>
1295   <para>
1296    After (optionally) writing the PID file, assume the user  ID  of
1297    <emphasis>USER</emphasis>, and if included the GID of GROUP.  Exit if the
1298    privileges are not sufficient to do so. Unix only.
1299   </para>
1300  </listitem>
1301  <listitem>
1302   <para>
1303    <emphasis>--chroot</emphasis>
1304   </para>
1305   <para>
1306    Before changing to the user ID given in the <emphasis>--user</emphasis> option,
1307    chroot to that user's home directory, i.e. make the kernel pretend to the &my-app;
1308    process that the directory tree starts there. If set up carefully, this can limit
1309    the impact of possible vulnerabilities in &my-app; to the files contained in that hierarchy.
1310    Unix only.
1311   </para>
1312  </listitem>
1313  <listitem>
1314   <para>
1315    <emphasis>--pre-chroot-nslookup hostname</emphasis>
1316   </para>
1317   <para>
1318    Specifies a hostname (for example www.privoxy.org) to look up before doing a chroot.
1319    On some systems, initializing the resolver library involves reading config files from
1320    /etc and/or loading additional shared libraries from /lib.
1321    On these systems, doing a hostname lookup before the chroot reduces
1322    the number of files that must be copied into the chroot tree.
1323   </para>
1324   <para>
1325    For fastest startup speed, a good value is a hostname that is not in /etc/hosts but that
1326    your local name server (listed in /etc/resolv.conf) can resolve without recursion
1327    (that is, without having to ask any other name servers). The hostname need not exist,
1328    but if it doesn't, an error message (which can be ignored) will be output.
1329   </para>
1330  </listitem>
1331
1332  <listitem>
1333   <para>
1334     <emphasis>configfile</emphasis>
1335   </para>
1336   <para>
1337     If no <emphasis>configfile</emphasis> is included on the command line,
1338     <application>Privoxy</application> will look for a file named
1339     <quote>config</quote> in the current directory (except on Win32
1340     where it will look for <quote>config.txt</quote> instead). Specify
1341     full path to avoid confusion. If no config file is found,
1342     <application>Privoxy</application> will fail to start.
1343   </para>
1344  </listitem>
1345
1346  </itemizedlist>
1347
1348 <para>
1349  On <application>MS Windows</application> only there are two additional
1350  command-line options to allow <application>Privoxy</application> to install and
1351  run as a <emphasis>service</emphasis>. See the
1352 <link linkend="installation-pack-win">Window Installation section</link>
1353 for details.
1354 </para>
1355
1356 </sect2>
1357
1358 </sect1>
1359
1360 <!--  ~  End section  ~  -->
1361
1362
1363 <!--   ~~~~~       New section      ~~~~~     -->
1364 <sect1 id="configuration"><title>Privoxy Configuration</title>
1365  <para>
1366   All <application>Privoxy</application> configuration is stored
1367   in text files. These files can be edited with a text editor.
1368   Many important aspects of <application>Privoxy</application> can
1369   also be controlled easily with a web browser.
1370  </para>
1371
1372
1373 <!--   ~~~~~       New section      ~~~~~     -->
1374
1375 <sect2 id="control-with-webbrowser">
1376 <title>Controlling Privoxy with Your Web Browser</title>
1377 <para>
1378  <application>Privoxy</application>'s user interface can be reached through the special
1379  URL <ulink url="http://config.privoxy.org/">http://config.privoxy.org/</ulink>
1380  (shortcut: <ulink url="http://p.p/">http://p.p/</ulink>),
1381  which is a built-in page and works without Internet access.
1382  You will see the following section:
1383 </para>
1384
1385 <!-- Needs to be put in a table and colorized  -->
1386 <screen>
1387  <msgtext>
1388  <bridgehead renderas="sect2">&nbsp;&nbsp;&nbsp;&nbsp;Privoxy Menu</bridgehead>
1389
1390  <simplelist>
1391  <member>
1392   &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&squf;&nbsp;&nbsp;<ulink url="http://config.privoxy.org/show-status">View & change the current configuration</ulink>
1393  </member>
1394  <member>
1395   &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&squf;&nbsp;&nbsp;<ulink url="http://config.privoxy.org/show-version">View the source code version numbers</ulink>
1396  </member>
1397  <member>
1398   &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&squf;&nbsp;&nbsp;<ulink url="http://config.privoxy.org/show-request">View the request headers.</ulink>
1399  </member>
1400  <member>
1401   &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&squf;&nbsp;&nbsp;<ulink url="http://config.privoxy.org/show-url-info">Look up which actions apply to a URL and why</ulink>
1402  </member>
1403  <member>
1404   &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&squf;&nbsp;&nbsp;<ulink url="http://config.privoxy.org/toggle">Toggle Privoxy on or off</ulink>
1405  </member>
1406  <member>
1407   &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&squf;&nbsp;&nbsp;<ulink
1408   url="https://www.privoxy.org/&p-version;/user-manual/">Documentation</ulink>
1409  </member>
1410  </simplelist>
1411  </msgtext>
1412 </screen>
1413
1414
1415 <para>
1416  This should be self-explanatory. Note the first item leads to an editor for the
1417  <link linkend="actions-file">actions files</link>, which is where the ad, banner,
1418  cookie, and URL blocking magic is configured as well as other advanced features of
1419  <application>Privoxy</application>. This is an easy way to adjust various
1420  aspects of <application>Privoxy</application> configuration. The actions
1421  file, and other configuration files, are explained in detail below.
1422 </para>
1423
1424 <para>
1425  <quote>Toggle Privoxy On or Off</quote> is handy for sites that might
1426  have problems with your current actions and filters. You can in fact use
1427  it as a test to see whether it is <application>Privoxy</application>
1428  causing the problem or not. <application>Privoxy</application> continues
1429  to run as a proxy in this case, but all manipulation is disabled, i.e.
1430  <application>Privoxy</application> acts like a normal forwarding proxy.
1431 </para>
1432
1433 <para>
1434  Note that several of the features described above are disabled by default
1435  in <application>Privoxy</application> 3.0.7 beta and later.
1436  Check the
1437  <ulink url="config.html">configuration file</ulink> to learn why
1438  and in which cases it's safe to enable them again.
1439 </para>
1440
1441 </sect2>
1442
1443 <!--  ~  End section  ~  -->
1444
1445
1446
1447
1448 <!--   ~~~~~       New section      ~~~~~     -->
1449
1450 <sect2 id="confoverview">
1451 <title>Configuration Files Overview</title>
1452 <para>
1453  For Unix, *BSD and Linux, all configuration files are located in
1454  <filename>/etc/privoxy/</filename> by default. For MS Windows, OS/2, and
1455  AmigaOS these are all in the same directory as the
1456  <application>Privoxy</application> executable. <![%p-not-stable;[ The name
1457  and number of configuration files has changed from previous versions, and is
1458  subject to change as development progresses.]]>
1459 </para>
1460
1461 <para>
1462  The installed defaults provide a reasonable starting point, though
1463  some settings may be aggressive by some standards. For the time being, the
1464  principle configuration files are:
1465 </para>
1466
1467  <itemizedlist>
1468
1469   <listitem>
1470    <para>
1471      The <link linkend="config">main configuration file</link> is named <filename>config</filename>
1472      on Linux, Unix, BSD, OS/2, and AmigaOS and <filename>config.txt</filename>
1473      on Windows. This is a required file.
1474    </para>
1475   </listitem>
1476
1477   <listitem>
1478    <para>
1479     <filename>match-all.action</filename> is used to define which <quote>actions</quote>
1480     relating to banner-blocking, images, pop-ups, content modification, cookie handling
1481     etc should be applied by default. It should be the first actions file loaded.
1482    </para>
1483    <para>
1484     <filename>default.action</filename> defines many exceptions (both positive and negative)
1485     from the default set of actions that's configured in <filename>match-all.action</filename>.
1486     It should be the second actions file loaded and shouldn't be edited by the user.
1487    </para>
1488    <para>
1489     Multiple actions files may be defined in <filename>config</filename>. These
1490     are processed in the order they are defined. Local customizations and locally
1491     preferred exceptions to the default policies as defined in
1492     <filename>match-all.action</filename> (which you will most probably want
1493     to define sooner or later) are best applied in <filename>user.action</filename>,
1494     where you can preserve them across upgrades. The file isn't installed by all
1495     installers, but you can easily create it yourself with a text editor.
1496    </para>
1497    <para>
1498     There is also a web based editor that can be accessed from
1499     <ulink
1500     url="http://config.privoxy.org/show-status">http://config.privoxy.org/show-status</ulink>
1501     (Shortcut: <ulink
1502     url="http://p.p/show-status">http://p.p/show-status</ulink>) for the
1503     various actions files.
1504    </para>
1505   </listitem>
1506
1507   <listitem>
1508    <para>
1509     <quote>Filter files</quote> (the <link linkend="filter-file">filter
1510     file</link>) can be used to re-write the raw page content, including
1511     viewable text as well as embedded HTML and JavaScript, and whatever else
1512     lurks on any given web page. The filtering jobs are only pre-defined here;
1513     whether to apply them or not is up to the actions files.
1514     <filename>default.filter</filename> includes various filters made
1515     available for use by the developers. Some are much more intrusive than
1516     others, and all should be used with caution. You may define additional
1517     filter files in <filename>config</filename> as you can with
1518     actions files. We suggest <filename>user.filter</filename> for any
1519     locally defined filters or customizations.
1520    </para>
1521   </listitem>
1522
1523  </itemizedlist>
1524
1525 <para>
1526  The syntax of the configuration and filter files may change between different
1527  Privoxy versions, unfortunately some enhancements cost backwards compatibility.
1528  <!-- Add link to documentation-->
1529 </para>
1530
1531 <para>
1532  All files use the <quote><literal>#</literal></quote> character to denote a
1533  comment (the rest of the line will be ignored) and understand line continuation
1534  through placing a backslash ("<literal>\</literal>") as the very last character
1535  in a line. If the <literal>#</literal> is preceded by a backslash, it looses
1536  its special function. Placing a <literal>#</literal> in front of an otherwise
1537  valid configuration line to prevent it from being interpreted is called "commenting
1538  out" that line. Blank lines are ignored.
1539 </para>
1540
1541 <para>
1542  The actions files and filter files
1543  can use Perl style <link linkend="regex">regular expressions</link> for
1544  maximum flexibility.
1545 </para>
1546
1547 <para>
1548  After making any changes, there is no need to restart
1549  <application>Privoxy</application> in order for the changes to take
1550  effect. <application>Privoxy</application> detects such changes
1551  automatically. Note, however, that it may take one or two additional
1552  requests for the change to take effect. When changing the listening address
1553  of <application>Privoxy</application>, these <quote>wake up</quote> requests
1554  must obviously be sent to the <emphasis>old</emphasis> listening address.
1555 </para>
1556
1557 <![%p-not-stable;[
1558 <para>
1559  While under development, the configuration content is subject to change.
1560  The below documentation may not be accurate by the time you read this.
1561  Also, what constitutes a <quote>default</quote> setting, may change, so
1562  please check all your configuration files on important issues.
1563 </para>
1564 ]]>
1565
1566 </sect2>
1567 </sect1>
1568 <!--  ~  End section  ~  -->
1569
1570
1571 <!--   ~~~~~~~~       New section Header    ~~~~~~~~~     -->
1572
1573 <!-- **************************************************** -->
1574 <!-- Include config.sgml here -->
1575 <!-- This is where the entire config file is detailed. -->
1576  &config;
1577 <!-- end include  -->
1578
1579
1580 <!--  ~  End section  ~  -->
1581
1582
1583
1584 <!--   ~~~~~~~~       New section Header    ~~~~~~~~~     -->
1585
1586 <sect1 id="actions-file"><title>Actions Files</title>
1587
1588
1589 <!--
1590   XXX: similar descriptions are in the Configuration Files sections.
1591   We should only describe them at one place.
1592 -->
1593 <para>
1594  The actions files are used to define what <emphasis>actions</emphasis>
1595  <application>Privoxy</application> takes for which URLs, and thus determines
1596  how ad images, cookies and various other aspects of HTTP content and
1597  transactions are handled, and on which sites (or even parts thereof).
1598  There are a number of such actions, with a wide range of functionality.
1599  Each action does something a little different.
1600  These actions give us a veritable arsenal of tools with which to exert
1601  our control, preferences and independence. Actions can be combined so that
1602  their effects are aggregated when applied against a given set of URLs.
1603 </para>
1604 <para>
1605  There
1606  are three action files included with <application>Privoxy</application> with
1607  differing purposes:
1608 </para>
1609  <itemizedlist>
1610   <listitem>
1611    <para>
1612     <filename>match-all.action</filename> - is used to define which
1613     <quote>actions</quote> relating to banner-blocking, images, pop-ups,
1614     content modification, cookie handling etc should be applied by default.
1615     It should be the first actions file loaded
1616    </para>
1617   </listitem>
1618   <listitem>
1619    <para>
1620     <filename>default.action</filename> - defines many exceptions (both
1621     positive and negative) from the default set of actions that's configured
1622     in <filename>match-all.action</filename>. It is a set of rules that should
1623     work reasonably well as-is for most users. This file is only supposed to
1624     be edited by the developers. It should be the second actions file loaded.
1625    </para>
1626   </listitem>
1627   <listitem>
1628    <para>
1629     <filename>user.action</filename> - is intended to be for local site
1630     preferences and exceptions. As an example, if your ISP or your bank
1631     has specific requirements, and need special handling, this kind of
1632     thing should go here. This file will not be upgraded.
1633    </para>
1634   </listitem>
1635   <listitem>
1636    <para>
1637     <guibutton>Edit</guibutton>  <guibutton>Set to Cautious</guibutton> <guibutton>Set to Medium</guibutton>  <guibutton>Set to Advanced</guibutton>
1638    </para>
1639    <para>
1640     These have increasing levels of aggressiveness <emphasis>and have no
1641     influence on your browsing unless you select them explicitly in the
1642     editor</emphasis>. A default installation should be pre-set to
1643     <literal>Cautious</literal>. New users should try this for a while before
1644     adjusting the settings to more aggressive levels. The more aggressive
1645     the settings, then the more likelihood there is of problems such as sites
1646     not working as they should.
1647    </para>
1648    <para>
1649     The <guibutton>Edit</guibutton> button allows you to turn each
1650     action on/off individually for fine-tuning. The <guibutton>Cautious</guibutton>
1651     button changes the actions list to low/safe settings which will activate
1652     ad blocking and a minimal set of &my-app;'s features, and subsequently
1653     there will be less of a chance for accidental problems. The
1654     <guibutton>Medium</guibutton> button sets the list to a medium level of
1655     other features and a low level set of privacy features. The
1656     <guibutton>Advanced</guibutton> button sets the list to a high level of
1657     ad blocking and medium level of privacy. See the chart below. The latter
1658     three buttons over-ride any changes via with the
1659     <guibutton>Edit</guibutton> button. More fine-tuning can be done in the
1660     lower sections of this internal page.
1661    </para>
1662    <para>
1663     While the actions file editor allows to enable these settings in all
1664     actions files, they are only supposed to be enabled in the first one
1665     to make sure you don't unintentionally overrule earlier rules.
1666    </para>
1667    <para>
1668     The default profiles, and their associated actions, as pre-defined in
1669     <filename>default.action</filename> are:
1670    </para>
1671     <table frame=all><title>Default Configurations</title>
1672     <tgroup cols=4 align=left colsep=1 rowsep=1>
1673     <colspec colname=c1>
1674     <colspec colname=c2>
1675     <colspec colname=c3>
1676     <colspec colname=c4>
1677     <thead>
1678     <row>
1679       <entry>Feature</entry>
1680       <entry>Cautious</entry>
1681       <entry>Medium</entry>
1682       <entry>Advanced</entry>
1683     </row>
1684     </thead>
1685     <!--  <tfoot> -->
1686     <!--  <row> -->
1687     <!--    <entry>f1</entry> -->
1688     <!--    <entry>f2</entry> -->
1689     <!--    <entry>f3</entry> -->
1690     <!--    <entry>f4</entry> -->
1691     <!--  </row> -->
1692     <!--  </tfoot> -->
1693     <tbody>
1694
1695     <row>
1696       <entry>Ad-blocking Aggressiveness</entry>
1697       <entry>medium</entry>
1698       <entry>high</entry>
1699       <entry>high</entry>
1700     </row>
1701
1702     <row>
1703       <entry>Ad-filtering by size</entry>
1704       <entry>no</entry>
1705       <entry>yes</entry>
1706       <entry>yes</entry>
1707     </row>
1708
1709     <row>
1710       <entry>Ad-filtering by link</entry>
1711       <entry>no</entry>
1712       <entry>no</entry>
1713       <entry>yes</entry>
1714     </row>
1715     <row>
1716       <entry>Pop-up killing</entry>
1717       <entry>blocks only</entry>
1718       <entry>blocks only</entry>
1719       <entry>blocks only</entry>
1720     </row>
1721
1722     <row>
1723       <entry>Privacy Features</entry>
1724       <entry>low</entry>
1725       <entry>medium</entry>
1726       <entry>medium/high</entry>
1727     </row>
1728
1729     <row>
1730       <entry>Cookie handling</entry>
1731       <entry>none</entry>
1732       <entry>session-only</entry>
1733       <entry>kill</entry>
1734     </row>
1735
1736     <row>
1737       <entry>Referer forging</entry>
1738       <entry>no</entry>
1739       <entry>yes</entry>
1740       <entry>yes</entry>
1741     </row>
1742
1743     <row>
1744       <entry>GIF de-animation</entry>
1745       <entry>no</entry>
1746       <entry>yes</entry>
1747       <entry>yes</entry>
1748     </row>
1749
1750     <row>
1751       <entry>Fast redirects</entry>
1752       <entry>no</entry>
1753       <entry>no</entry>
1754       <entry>yes</entry>
1755     </row>
1756
1757     <row>
1758       <entry>HTML taming</entry>
1759       <entry>no</entry>
1760       <entry>no</entry>
1761       <entry>yes</entry>
1762     </row>
1763
1764     <row>
1765       <entry>JavaScript taming</entry>
1766       <entry>no</entry>
1767       <entry>no</entry>
1768       <entry>yes</entry>
1769     </row>
1770
1771     <row>
1772       <entry>Web-bug killing</entry>
1773       <entry>no</entry>
1774       <entry>yes</entry>
1775       <entry>yes</entry>
1776     </row>
1777
1778     <row>
1779       <entry>Image tag reordering</entry>
1780       <entry>no</entry>
1781       <entry>yes</entry>
1782       <entry>yes</entry>
1783     </row>
1784
1785     </tbody>
1786     </tgroup>
1787     </table>
1788
1789   </listitem>
1790  </itemizedlist>
1791
1792 <para>
1793  The list of actions files to be used are defined in the main configuration
1794  file, and are processed in the order they are defined (e.g.
1795  <filename>default.action</filename> is typically processed before
1796  <filename>user.action</filename>). The content of these can all be viewed and
1797  edited from <ulink
1798  url="http://config.privoxy.org/show-status">http://config.privoxy.org/show-status</ulink>.
1799  The over-riding principle when applying actions, is that the last action that
1800  matches a given URL wins. The broadest, most general rules go first
1801  (defined in <filename>default.action</filename>),
1802  followed by any exceptions (typically also in
1803  <filename>default.action</filename>), which are then followed lastly by any
1804  local preferences (typically in <emphasis>user</emphasis><filename>.action</filename>).
1805  Generally, <filename>user.action</filename> has the last word.
1806  </para>
1807
1808 <para>
1809  An actions file typically has multiple sections. If you want to use
1810  <quote>aliases</quote> in an actions file, you have to place the (optional)
1811  <link linkend="aliases">alias section</link> at the top of that file.
1812  Then comes the default set of rules which will apply universally to all
1813  sites and pages (be <emphasis>very careful</emphasis> with using such a
1814  universal set in <filename>user.action</filename> or any other actions file after
1815  <filename>default.action</filename>, because it will override the result
1816  from consulting any previous file). And then below that,
1817  exceptions to the defined universal policies. You can regard
1818  <filename>user.action</filename> as an appendix to <filename>default.action</filename>,
1819  with the advantage that it is a separate file, which makes preserving your
1820  personal settings across <application>Privoxy</application> upgrades easier.
1821 </para>
1822
1823 <para>
1824  Actions can be used to block anything you want, including ads, banners, or
1825  just some obnoxious URL whose content you would rather not see. Cookies can be accepted
1826  or rejected, or accepted only during the current browser session (i.e. not
1827  written to disk), content can be modified, some JavaScripts tamed, user-tracking
1828  fooled, and much more. See below for a <link linkend="actions">complete list
1829  of actions</link>.
1830 </para>
1831
1832 <!--   ~~~~~       New section      ~~~~~     -->
1833 <sect2 id="right-mix">
1834 <title>Finding the Right Mix</title>
1835 <para>
1836  Note that some <link linkend="actions">actions</link>, like cookie suppression
1837  or script disabling, may render some sites unusable that rely on these
1838  techniques to work properly. Finding the right mix of actions is not always easy and
1839  certainly a matter of personal taste. And, things can always change, requiring
1840  refinements in the configuration. In general, it can be said that the more
1841  <quote>aggressive</quote> your default settings (in the top section of the
1842  actions file) are, the more exceptions for <quote>trusted</quote> sites you
1843  will have to make later. If, for example, you want to crunch all cookies per
1844  default, you'll have to make exceptions from that rule for sites that you
1845  regularly use and that require cookies for actually useful purposes, like maybe
1846  your bank, favorite shop, or newspaper.
1847 </para>
1848
1849 <para>
1850  We have tried to provide you with reasonable rules to start from in the
1851  distribution actions files. But there is no general rule of thumb on these
1852  things. There just are too many variables, and sites are constantly changing.
1853  Sooner or later you will want to change the rules (and read this chapter again :).
1854 </para>
1855 </sect2>
1856
1857 <!--   ~~~~~       New section      ~~~~~     -->
1858 <sect2 id="how-to-edit">
1859 <title>How to Edit</title>
1860 <para>
1861  The easiest way to edit the actions files is with a browser by
1862  using our browser-based editor, which can be reached from <ulink
1863  url="http://config.privoxy.org/show-status">http://config.privoxy.org/show-status</ulink>.
1864  Note: the config file option <link
1865  linkend="enable-edit-actions">enable-edit-actions</link> must be enabled for
1866  this to work. The editor allows both fine-grained control over every single
1867  feature on a per-URL basis, and easy choosing from wholesale sets of defaults
1868  like <quote>Cautious</quote>, <quote>Medium</quote> or
1869  <quote>Advanced</quote>. Warning: the <quote>Advanced</quote> setting is more
1870  aggressive, and will be more likely to cause problems for some sites.
1871  Experienced users only!
1872  </para>
1873
1874 <para>
1875  If you prefer plain text editing to GUIs, you can of course also directly edit the
1876  the actions files with your favorite text editor. Look at
1877  <filename>default.action</filename> which is richly commented with many
1878  good examples.
1879 </para>
1880 </sect2>
1881
1882
1883 <sect2 id="actions-apply">
1884 <title>How Actions are Applied to Requests</title>
1885 <para>
1886  Actions files are divided into sections. There are special sections,
1887  like the <quote><link linkend="aliases">alias</link></quote> sections which will
1888  be discussed later. For now let's concentrate on regular sections: They have a
1889  heading line (often split up to multiple lines for readability) which consist
1890  of a list of actions, separated by whitespace and enclosed in curly braces.
1891  Below that, there is a list of URL and tag patterns, each on a separate line.
1892 </para>
1893
1894 <para>
1895  To determine which actions apply to a request, the URL of the request is
1896  compared to all URL patterns in each <quote>action file</quote>.
1897  Every time it matches, the list of applicable actions for the request is
1898  incrementally updated, using the heading of the section in which the
1899  pattern is located. The same is done again for tags and tag patterns later on.
1900 </para>
1901
1902 <para>
1903  If multiple applying sections set the same action differently,
1904  the last match wins. If not, the effects are aggregated.
1905  E.g. a URL might match a regular section with a heading line of <literal>{
1906  +<link linkend="handle-as-image">handle-as-image</link> }</literal>,
1907  then later another one with just <literal>{
1908  +<link linkend="block">block</link> }</literal>, resulting
1909  in <emphasis>both</emphasis> actions to apply. And there may well be
1910  cases where you will want to combine actions together. Such a section then
1911  might look like:
1912 </para>
1913
1914  <screen>
1915   { +<literal>handle-as-image</literal>  +<literal>block{Banner ads.}</literal> }
1916   # Block these as if they were images. Send no block page.
1917    banners.example.com
1918    media.example.com/.*banners
1919    .example.com/images/ads/</screen>
1920
1921 <para>
1922  You can trace this process for URL patterns and any given URL by visiting <ulink
1923  url="http://config.privoxy.org/show-url-info">http://config.privoxy.org/show-url-info</ulink>.
1924 </para>
1925
1926 <para>
1927  Examples and more detail on this is provided in the Appendix, <link linkend="ACTIONSANAT">
1928  Troubleshooting: Anatomy of an Action</link> section.
1929 </para>
1930 </sect2>
1931
1932 <!--   ~~~~~       New section      ~~~~~     -->
1933 <sect2 id="af-patterns">
1934 <title>Patterns</title>
1935 <para>
1936  As mentioned, <application>Privoxy</application> uses <quote>patterns</quote>
1937  to determine what <emphasis>actions</emphasis> might apply to which sites and
1938  pages your browser attempts to access. These <quote>patterns</quote> use wild
1939  card type <emphasis>pattern</emphasis> matching to achieve a high degree of
1940  flexibility. This allows one expression to be expanded and potentially match
1941  against many similar patterns.
1942 </para>
1943
1944 <para>
1945  Generally, an URL pattern has the form
1946  <literal>&lt;host&gt;&lt;port&gt;/&lt;path&gt;</literal>, where the
1947  <literal>&lt;host&gt;</literal>, the <literal>&lt;port&gt;</literal>
1948  and the <literal>&lt;path&gt;</literal> are optional. (This is why the special
1949  <literal>/</literal> pattern matches all URLs). Note that the protocol
1950  portion of the URL pattern (e.g. <literal>http://</literal>) should
1951  <emphasis>not</emphasis> be included in the pattern. This is assumed already!
1952 </para>
1953 <para>
1954  The pattern matching syntax is different for the host and path parts of
1955  the URL. The host part uses a simple globbing type matching technique,
1956  while the path part uses more flexible
1957  <ulink url="http://en.wikipedia.org/wiki/Regular_expressions"><quote>Regular
1958   Expressions</quote></ulink> (POSIX 1003.2).
1959 </para>
1960 <para>
1961  The port part of a pattern is a decimal port number preceded by a colon
1962  (<literal>:</literal>). If the host part contains a numerical IPv6 address,
1963  it has to be put into angle brackets
1964  (<literal>&lt;</literal>, <literal>&gt;</literal>).
1965 </para>
1966
1967 <variablelist>
1968  <varlistentry>
1969   <term><literal>www.example.com/</literal></term>
1970   <listitem>
1971    <para>
1972     is a host-only pattern and will match any request to <literal>www.example.com</literal>,
1973     regardless of which document on that server is requested. So ALL pages in
1974     this domain would be covered by the scope of this action. Note that a
1975     simple <literal>example.com</literal> is different and would NOT match.
1976    </para>
1977   </listitem>
1978  </varlistentry>
1979  <varlistentry>
1980   <term><literal>www.example.com</literal></term>
1981   <listitem>
1982    <para>
1983     means exactly the same. For host-only patterns, the trailing <literal>/</literal> may
1984     be omitted.
1985    </para>
1986   </listitem>
1987  </varlistentry>
1988  <varlistentry>
1989   <term><literal>www.example.com/index.html</literal></term>
1990   <listitem>
1991    <para>
1992     matches all the documents on <literal>www.example.com</literal>
1993     whose name starts with <literal>/index.html</literal>.
1994    </para>
1995   </listitem>
1996  </varlistentry>
1997  <varlistentry>
1998   <term><literal>www.example.com/index.html$</literal></term>
1999   <listitem>
2000    <para>
2001     matches only the single document <literal>/index.html</literal>
2002     on <literal>www.example.com</literal>.
2003    </para>
2004   </listitem>
2005  </varlistentry>
2006  <varlistentry>
2007   <term><literal>/index.html$</literal></term>
2008   <listitem>
2009    <para>
2010     matches the document <literal>/index.html</literal>, regardless of the domain,
2011     i.e. on <emphasis>any</emphasis> web server anywhere.
2012    </para>
2013   </listitem>
2014  </varlistentry>
2015  <varlistentry>
2016   <term><literal>/</literal></term>
2017   <listitem>
2018    <para>
2019     Matches any URL because there's no requirement for either the
2020     domain or the path to match anything.
2021    </para>
2022   </listitem>
2023  </varlistentry>
2024  <varlistentry>
2025   <term><literal>:8000/</literal></term>
2026   <listitem>
2027    <para>
2028     Matches any URL pointing to TCP port 8000.
2029    </para>
2030   </listitem>
2031  </varlistentry>
2032  <varlistentry>
2033   <term><literal>10.0.0.1/</literal></term>
2034   <listitem>
2035    <para>
2036     Matches any URL with the host address <literal>10.0.0.1</literal>.
2037     (Note that the real URL uses plain brackets, not angle brackets.)
2038    </para>
2039   </listitem>
2040  </varlistentry>
2041  <varlistentry>
2042   <term><literal>&lt;2001:db8::1&gt;/</literal></term>
2043   <listitem>
2044    <para>
2045     Matches any URL with the host address <literal>2001:db8::1</literal>.
2046     (Note that the real URL uses plain brackets, not angle brackets.)
2047    </para>
2048   </listitem>
2049  </varlistentry>
2050  <varlistentry>
2051   <term><literal>index.html</literal></term>
2052   <listitem>
2053    <para>
2054     matches nothing, since it would be interpreted as a domain name and
2055     there is no top-level domain called <literal>.html</literal>. So its
2056     a mistake.
2057    </para>
2058   </listitem>
2059  </varlistentry>
2060 </variablelist>
2061
2062
2063 <!--   ~~~~~       New section      ~~~~~     -->
2064 <sect3 id="host-pattern"><title>The Host Pattern</title>
2065
2066 <para>
2067  The matching of the host part offers some flexible options: if the
2068  host pattern starts or ends with a dot, it becomes unanchored at that end.
2069  The host pattern is often referred to as domain pattern as it is usually
2070  used to match domain names and not IP addresses.
2071  For example:
2072 </para>
2073
2074 <variablelist>
2075  <varlistentry>
2076   <term><literal>.example.com</literal></term>
2077   <listitem>
2078    <para>
2079     matches any domain with first-level domain <literal>com</literal>
2080     and second-level domain <literal>example</literal>.
2081     For example <literal>www.example.com</literal>,
2082     <literal>example.com</literal> and <literal>foo.bar.baz.example.com</literal>.
2083     Note that it wouldn't match if the second-level domain was <literal>another-example</literal>.
2084    </para>
2085   </listitem>
2086  </varlistentry>
2087  <varlistentry>
2088   <term><literal>www.</literal></term>
2089   <listitem>
2090    <para>
2091     matches any domain that <emphasis>STARTS</emphasis> with
2092     <literal>www.</literal> (It also matches the domain
2093     <literal>www</literal> but most of the time that doesn't matter.)
2094    </para>
2095   </listitem>
2096  </varlistentry>
2097  <varlistentry>
2098   <term><literal>.example.</literal></term>
2099   <listitem>
2100    <para>
2101     matches any domain that <emphasis>CONTAINS</emphasis> <literal>.example.</literal>.
2102     And, by the way, also included would be any files or documents that exist
2103     within that domain since no path limitations are specified. (Correctly
2104     speaking: It matches any FQDN that contains <literal>example</literal> as
2105     a domain.) This might be <literal>www.example.com</literal>,
2106     <literal>news.example.de</literal>, or
2107     <literal>www.example.net/cgi/testing.pl</literal> for instance. All these
2108     cases are matched.
2109    </para>
2110   </listitem>
2111  </varlistentry>
2112 </variablelist>
2113
2114 <para>
2115  Additionally, there are wild-cards that you can use in the domain names
2116  themselves. These work similarly to shell globbing type wild-cards:
2117  <quote>*</quote> represents zero or more arbitrary characters (this is
2118  equivalent to the
2119  <ulink url="http://en.wikipedia.org/wiki/Regular_expressions"><quote>Regular
2120  Expression</quote></ulink> based syntax of <quote>.*</quote>),
2121  <quote>?</quote>  represents any single character (this is equivalent to the
2122  regular expression syntax of a simple <quote>.</quote>), and you can define
2123  <quote>character classes</quote> in square brackets which is similar to
2124  the same regular expression technique. All of this can be freely mixed:
2125 </para>
2126
2127 <variablelist>
2128  <varlistentry>
2129   <term><literal>ad*.example.com</literal></term>
2130   <listitem>
2131    <para>
2132     matches <quote>adserver.example.com</quote>,
2133     <quote>ads.example.com</quote>, etc but not <quote>sfads.example.com</quote>
2134    </para>
2135   </listitem>
2136  </varlistentry>
2137  <varlistentry>
2138   <term><literal>*ad*.example.com</literal></term>
2139   <listitem>
2140    <para>
2141     matches all of the above, and then some.
2142    </para>
2143   </listitem>
2144  </varlistentry>
2145  <varlistentry>
2146   <term><literal>.?pix.com</literal></term>
2147   <listitem>
2148    <para>
2149     matches <literal>www.ipix.com</literal>,
2150     <literal>pictures.epix.com</literal>, <literal>a.b.c.d.e.upix.com</literal> etc.
2151    </para>
2152   </listitem>
2153  </varlistentry>
2154  <varlistentry>
2155   <term><literal>www[1-9a-ez].example.c*</literal></term>
2156   <listitem>
2157    <para>
2158      matches <literal>www1.example.com</literal>,
2159      <literal>www4.example.cc</literal>, <literal>wwwd.example.cy</literal>,
2160      <literal>wwwz.example.com</literal> etc., but <emphasis>not</emphasis>
2161      <literal>wwww.example.com</literal>.
2162    </para>
2163   </listitem>
2164  </varlistentry>
2165 </variablelist>
2166
2167 <para>
2168  While flexible, this is not the sophistication of full regular expression based syntax.
2169 </para>
2170
2171 </sect3>
2172
2173 <!--  ~  End section  ~  -->
2174
2175
2176 <!--   ~~~~~       New section      ~~~~~     -->
2177 <sect3 id="path-pattern"><title>The Path Pattern</title>
2178
2179 <para>
2180  <application>Privoxy</application> uses <quote>modern</quote> POSIX 1003.2
2181   <ulink url="http://en.wikipedia.org/wiki/Regular_expressions"><quote>Regular
2182   Expressions</quote></ulink> for matching the path portion (after the slash),
2183   and is thus more flexible.
2184 </para>
2185
2186 <para>
2187  There is an <link linkend="regex">Appendix</link> with a brief quick-start into regular
2188  expressions, you also might want to have a look at your operating system's documentation
2189  on regular expressions (try <literal>man re_format</literal>).
2190 </para>
2191
2192 <para>
2193  Note that the path pattern is automatically left-anchored at the <quote>/</quote>,
2194  i.e. it matches as if it would start with a <quote>^</quote> (regular expression speak
2195  for the beginning of a line).
2196 </para>
2197
2198 <para>
2199  Please also note that matching in the path is <emphasis>CASE INSENSITIVE</emphasis>
2200  by default, but you can switch to case sensitive at any point in the pattern by using the
2201  <quote>(?-i)</quote> switch: <literal>www.example.com/(?-i)PaTtErN.*</literal> will match
2202  only documents whose path starts with <literal>PaTtErN</literal> in
2203  <emphasis>exactly</emphasis> this capitalization.
2204 </para>
2205
2206 <variablelist>
2207  <varlistentry>
2208   <term><literal>.example.com/.*</literal></term>
2209   <listitem>
2210    <para>
2211      Is equivalent to just <quote>.example.com</quote>, since any documents
2212      within that domain are matched with or without the <quote>.*</quote>
2213      regular expression. This is redundant
2214    </para>
2215   </listitem>
2216  </varlistentry>
2217  <varlistentry>
2218   <term><literal>.example.com/.*/index.html$</literal></term>
2219   <listitem>
2220    <para>
2221     Will match any page in the domain of <quote>example.com</quote> that is
2222     named <quote>index.html</quote>, and that is part of some path. For
2223     example, it matches <quote>www.example.com/testing/index.html</quote> but
2224     NOT <quote>www.example.com/index.html</quote> because the regular
2225     expression called for at least two <quote>/'s</quote>, thus the path
2226     requirement. It also would match
2227     <quote>www.example.com/testing/index_html</quote>, because of the
2228     special meta-character <quote>.</quote>.
2229    </para>
2230   </listitem>
2231  </varlistentry>
2232  <varlistentry>
2233   <term><literal>.example.com/(.*/)?index\.html$</literal></term>
2234   <listitem>
2235    <para>
2236     This regular expression is conditional so it will match any page
2237     named <quote>index.html</quote> regardless of path which in this case can
2238     have one or more <quote>/'s</quote>. And this one must contain exactly
2239     <quote>.html</quote> (and end with that!).
2240    </para>
2241   </listitem>
2242  </varlistentry>
2243  <varlistentry>
2244   <term><literal>.example.com/(.*/)(ads|banners?|junk)</literal></term>
2245   <listitem>
2246    <para>
2247     This regular expression will match any path of <quote>example.com</quote>
2248     that contains any of the words <quote>ads</quote>, <quote>banner</quote>,
2249     <quote>banners</quote> (because of the <quote>?</quote>) or <quote>junk</quote>.
2250     The path does not have to end in these words, just contain them.
2251     The path has to contain at least two slashes (including the one at the beginning).
2252    </para>
2253   </listitem>
2254  </varlistentry>
2255  <varlistentry>
2256   <term><literal>.example.com/(.*/)(ads|banners?|junk)/.*\.(jpe?g|gif|png)$</literal></term>
2257   <listitem>
2258    <para>
2259     This is very much the same as above, except now it must end in either
2260     <quote>.jpg</quote>, <quote>.jpeg</quote>, <quote>.gif</quote> or <quote>.png</quote>. So this
2261     one is limited to common image formats.
2262    </para>
2263   </listitem>
2264  </varlistentry>
2265
2266 </variablelist>
2267 <para>
2268  There are many, many good examples to be found in <filename>default.action</filename>,
2269  and more tutorials below in <link linkend="regex">Appendix on regular expressions</link>.
2270 </para>
2271
2272 </sect3>
2273
2274 <!--  ~  End section  ~  -->
2275
2276
2277 <!--   ~~~~~       New section      ~~~~~     -->
2278 <sect3 id="tag-pattern"><title>The Request Tag Pattern</title>
2279
2280 <para>
2281  Request tag patterns are used to change the applying actions based on the
2282  request's tags. Tags can be created based on HTTP headers with either
2283  the <link linkend="CLIENT-HEADER-TAGGER">client-header-tagger</link>
2284  or the  <link linkend="SERVER-HEADER-TAGGER">server-header-tagger</link> action.
2285 </para>
2286
2287 <para>
2288  Request tag patterns have to start with <quote>TAG:</quote>, so &my-app;
2289  can tell them apart from other patterns. Everything after the colon
2290  including white space, is interpreted as a regular expression with
2291  path pattern syntax, except that tag patterns aren't left-anchored
2292  automatically (&my-app; doesn't silently add a <quote>^</quote>,
2293  you have to do it yourself if you need it).
2294 </para>
2295
2296 <para>
2297  To match all requests that are tagged with <quote>foo</quote>
2298  your pattern line should be <quote>TAG:^foo$</quote>,
2299  <quote>TAG:foo</quote> would work as well, but it would also
2300  match requests whose tags contain <quote>foo</quote> somewhere.
2301  <quote>TAG: foo</quote> wouldn't work as it requires white space.
2302 </para>
2303
2304 <para>
2305  Sections can contain URL and request tag patterns at the same time,
2306  but request tag patterns are checked after the URL patterns and thus
2307  always overrule them, even if they are located before the URL patterns.
2308 </para>
2309
2310 <para>
2311  Once a new request tag is added, Privoxy checks right away if it's matched by one
2312  of the request tag patterns and updates the action settings accordingly. As a result
2313  request tags can be used to activate other tagger actions, as long as these other
2314  taggers look for headers that haven't already be parsed.
2315 </para>
2316
2317 <para>
2318  For example you could tag client requests which use the
2319  <literal>POST</literal> method,
2320  then use this tag to activate another tagger that adds a tag if cookies
2321  are sent, and then use a block action based on the cookie tag. This allows
2322  the outcome of one action, to be input into a subsequent action. However if
2323  you'd reverse the position of the described taggers, and activated the
2324  method tagger based on the cookie tagger, no method tags would be created.
2325  The method tagger would look for the request line, but at the time
2326  the cookie tag is created, the request line has already been parsed.
2327 </para>
2328
2329 <para>
2330  While this is a limitation you should be aware of, this kind of
2331  indirection is seldom needed anyway and even the example doesn't
2332  make too much sense.
2333 </para>
2334
2335 </sect3>
2336
2337 <!--   ~~~~~       New section      ~~~~~     -->
2338 <sect3 id="negative-tag-patterns"><title>The Negative Request Tag Patterns</title>
2339
2340 <para>
2341  To match requests that do not have a certain request tag, specify a negative tag pattern
2342  by prefixing the tag pattern line with either <quote>NO-REQUEST-TAG:</quote>
2343  or <quote>NO-RESPONSE-TAG:</quote> instead of <quote>TAG:</quote>.
2344 </para>
2345
2346 <para>
2347  Negative request tag patterns created with <quote>NO-REQUEST-TAG:</quote> are checked
2348  after all client headers are scanned, the ones created with <quote>NO-RESPONSE-TAG:</quote>
2349  are checked after all server headers are scanned. In both cases all the created
2350  tags are considered.
2351 </para>
2352 </sect3>
2353
2354 <!--   ~~~~~       New section      ~~~~~     -->
2355 <sect3 id="client-tag-pattern"><title>The Client Tag Pattern</title>
2356
2357 <!-- XXX: This section contains duplicates content from the
2358           client-specific-tag documentation. -->
2359
2360 <warning>
2361 <para>
2362  This is an experimental feature. The syntax is likely to change in future versions.
2363 </para>
2364 </warning>
2365
2366 <para>
2367  Client tag patterns are not set based on HTTP headers but based on
2368  the client's IP address. Users can enable them themselves, but the
2369  Privoxy admin controls which tags are available and what their effect
2370  is.
2371 </para>
2372
2373 <para>
2374  After a client-specific tag has been defined with the
2375  <link linkend="client-specific-tag">client-specific-tag</link>,
2376  directive, action sections can be activated based on the tag by using a
2377  CLIENT-TAG pattern. The CLIENT-TAG pattern is evaluated at the same priority
2378  as URL patterns, as a result the last matching pattern wins. Tags that
2379  are created based on client or server headers are evaluated later on
2380  and can overrule CLIENT-TAG and URL patterns!
2381 </para>
2382 <para>
2383  The tag is set for all requests that come from clients that requested
2384  it to be set. Note that "clients" are  differentiated by IP address,
2385  if the IP address changes the tag has to be requested again.
2386 </para>
2387 <para>
2388  Clients can request tags to be set by using the CGI interface <ulink
2389   url="http://config.privoxy.org/client-tags">http://config.privoxy.org/client-tags</ulink>.
2390 </para>
2391
2392 <para>
2393  Example:
2394 </para>
2395
2396  <screen>
2397 # If the admin defined the client-specific-tag circumvent-blocks,
2398 # and the request comes from a client that previously requested
2399 # the tag to be set, overrule all previous +block actions that
2400 # are enabled based on URL to CLIENT-TAG patterns.
2401 {-block}
2402 CLIENT-TAG:^circumvent-blocks$
2403
2404 # This section is not overruled because it's located after
2405 # the previous one.
2406 {+block{Nobody is supposed to request this.}}
2407 example.org/blocked-example-page</screen>
2408
2409 </sect3>
2410
2411 </sect2>
2412
2413 <!--  ~  End section  ~  -->
2414
2415
2416 <!--   ~~~~~       New section      ~~~~~     -->
2417
2418 <sect2 id="actions">
2419 <title>Actions</title>
2420 <para>
2421  All actions are disabled by default, until they are explicitly enabled
2422  somewhere in an actions file. Actions are turned on if preceded with a
2423  <quote>+</quote>, and turned off if preceded with a <quote>-</quote>. So a
2424  <literal>+action</literal> means <quote>do that action</quote>, e.g.
2425  <literal>+block</literal> means <quote>please block URLs that match the
2426  following patterns</quote>, and <literal>-block</literal> means <quote>don't
2427  block URLs that match the following patterns, even if <literal>+block</literal>
2428  previously applied.</quote>
2429 </para>
2430
2431 <para>
2432  Again, actions are invoked by placing them on a line, enclosed in curly braces and
2433  separated by whitespace, like in
2434  <literal>{+some-action -some-other-action{some-parameter}}</literal>,
2435  followed by a list of URL patterns, one per line, to which they apply.
2436  Together, the actions line and the following pattern lines make up a section
2437  of the actions file.
2438 </para>
2439
2440 <para>
2441  Actions fall into three categories:
2442 </para>
2443
2444  <itemizedlist>
2445  <listitem>
2446   <para>
2447    Boolean, i.e the action can only be <quote>enabled</quote> or
2448    <quote>disabled</quote>. Syntax:
2449   </para>
2450    <screen>
2451   +<replaceable class="function">name</replaceable>        # enable action <replaceable class="parameter">name</replaceable>
2452   -<replaceable class="function">name</replaceable>        # disable action <replaceable class="parameter">name</replaceable></screen>
2453   <para>
2454    Example: <literal>+handle-as-image</literal>
2455   </para>
2456  </listitem>
2457
2458
2459  <listitem>
2460   <para>
2461    Parameterized, where some value is required in order to enable this type of action.
2462    Syntax:
2463   </para>
2464    <screen>
2465   +<replaceable class="function">name</replaceable>{<replaceable class="parameter">param</replaceable>}  # enable action and set parameter to <replaceable class="parameter">param</replaceable>,
2466                # overwriting parameter from previous match if necessary
2467   -<replaceable class="function">name</replaceable>         # disable action. The parameter can be omitted</screen>
2468   <para>
2469    Note that if the URL matches multiple positive forms of a parameterized action,
2470    the last match wins, i.e. the params from earlier matches are simply ignored.
2471   </para>
2472   <para>
2473    Example: <literal>+hide-user-agent{Mozilla/5.0 (X11; U; FreeBSD i386; en-US; rv:1.8.1.4) Gecko/20070602 Firefox/2.0.0.4}</literal>
2474   </para>
2475  </listitem>
2476
2477  <listitem>
2478   <para>
2479    Multi-value. These look exactly like parameterized actions,
2480    but they behave differently: If the action applies multiple times to the
2481    same URL, but with different parameters, <emphasis>all</emphasis> the parameters
2482    from <emphasis>all</emphasis> matches are remembered. This is used for actions
2483    that can be executed for the same request repeatedly, like adding multiple
2484    headers, or filtering through multiple filters. Syntax:
2485   </para>
2486    <screen>
2487   +<replaceable class="function">name</replaceable>{<replaceable class="parameter">param</replaceable>}   # enable action and add <replaceable class="parameter">param</replaceable> to the list of parameters
2488   -<replaceable class="function">name</replaceable>{<replaceable class="parameter">param</replaceable>}   # remove the parameter <replaceable class="parameter">param</replaceable> from the list of parameters
2489                 # If it was the last one left, disable the action.
2490   <replaceable class="parameter">-name</replaceable>          # disable this action completely and remove all parameters from the list</screen>
2491   <para>
2492    Examples: <literal>+add-header{X-Fun-Header: Some text}</literal> and
2493    <literal>+filter{html-annoyances}</literal>
2494   </para>
2495  </listitem>
2496
2497  </itemizedlist>
2498
2499 <para>
2500  If nothing is specified in any actions file, no <quote>actions</quote> are
2501  taken. So in this case <application>Privoxy</application> would just be a
2502  normal, non-blocking, non-filtering proxy. You must specifically enable the
2503  privacy and blocking features you need (although the provided default actions
2504  files will give a good starting point).
2505 </para>
2506
2507 <para>
2508  Later defined action sections always over-ride earlier ones of the same type.
2509  So exceptions to any rules you make, should come in the latter part of the file (or
2510  in a file that is processed later when using multiple actions files such
2511  as <filename>user.action</filename>). For multi-valued actions, the actions
2512  are applied in the order they are specified. Actions files are processed in
2513  the order they are defined in <filename>config</filename> (the default
2514  installation has three actions files). It also quite possible for any given
2515  URL to match more than one <quote>pattern</quote> (because of wildcards and
2516  regular expressions), and thus to trigger more than one set of actions! Last
2517  match wins.
2518 </para>
2519
2520 <!-- start actions listing -->
2521 <para>
2522  The list of valid <application>Privoxy</application> actions are:
2523 </para>
2524
2525
2526 <!-- ********************************************************** -->
2527 <!-- Please note the below defined actions use id's that are    -->
2528 <!-- probably linked from other places, so please don't change. -->
2529 <!--                                                            -->
2530 <!-- ********************************************************** -->
2531
2532
2533 <!--   ~~~~~       New section      ~~~~~     -->
2534
2535 <sect3 renderas="sect4" id="add-header">
2536 <title>add-header</title>
2537
2538 <variablelist>
2539  <varlistentry>
2540   <term>Typical use:</term>
2541   <listitem>
2542    <para>Confuse log analysis, custom applications</para>
2543   </listitem>
2544  </varlistentry>
2545
2546  <varlistentry>
2547   <term>Effect:</term>
2548   <listitem>
2549    <para>
2550     Sends a user defined HTTP header to the web server.
2551    </para>
2552   </listitem>
2553  </varlistentry>
2554
2555  <varlistentry>
2556   <term>Type:</term>
2557   <!-- boolean, parameterized, Multi-value -->
2558   <listitem>
2559    <para>Multi-value.</para>
2560   </listitem>
2561  </varlistentry>
2562
2563  <varlistentry>
2564   <term>Parameter:</term>
2565   <listitem>
2566    <para>
2567     Any string value is possible. Validity of the defined HTTP headers is not checked.
2568     It is recommended that you use the <quote><literal>X-</literal></quote> prefix
2569     for custom headers.
2570    </para>
2571   </listitem>
2572  </varlistentry>
2573
2574 <varlistentry>
2575   <term>Notes:</term>
2576   <listitem>
2577    <para>
2578     This action may be specified multiple times, in order to define multiple
2579     headers. This is rarely needed for the typical user. If you don't know what
2580     <quote>HTTP headers</quote> are, you definitely don't need to worry about this
2581     one.
2582    </para>
2583    <para>
2584     Headers added by this action are not modified by other actions.
2585    </para>
2586   </listitem>
2587  </varlistentry>
2588
2589  <varlistentry>
2590   <term>Example usage:</term>
2591   <listitem>
2592      <screen># Add a DNT ("Do not track") header to all requests,
2593 # event to those that already have one.
2594 #
2595 # This is just an example, not a recommendation.
2596 #
2597 # There is no reason to believe that user-tracking websites care
2598 # about the DNT header and depending on the User-Agent, adding the
2599 # header may make user-tracking easier.
2600 {+add-header{DNT: 1}}
2601 /</screen>
2602   </listitem>
2603  </varlistentry>
2604 </variablelist>
2605 </sect3>
2606
2607
2608 <!--   ~~~~~       New section      ~~~~~     -->
2609 <sect3 renderas="sect4" id="block">
2610 <title>block</title>
2611
2612 <variablelist>
2613  <varlistentry>
2614   <term>Typical use:</term>
2615   <listitem>
2616    <para>Block ads or other unwanted content</para>
2617   </listitem>
2618  </varlistentry>
2619
2620  <varlistentry>
2621   <term>Effect:</term>
2622   <listitem>
2623    <para>
2624     Requests for URLs to which this action applies are blocked, i.e. the
2625     requests are trapped by &my-app; and the requested URL is never retrieved,
2626     but is answered locally with a substitute page or image, as determined by
2627     the <literal><link
2628     linkend="handle-as-image">handle-as-image</link></literal>,
2629     <literal><link
2630     linkend="set-image-blocker">set-image-blocker</link></literal>, and
2631     <literal><link
2632     linkend="handle-as-empty-document">handle-as-empty-document</link></literal> actions.
2633
2634    </para>
2635   </listitem>
2636  </varlistentry>
2637
2638  <varlistentry>
2639   <term>Type:</term>
2640   <!-- boolean, parameterized, Multi-value -->
2641   <listitem>
2642    <para>Parameterized.</para>
2643   </listitem>
2644  </varlistentry>
2645
2646  <varlistentry>
2647   <term>Parameter:</term>
2648   <listitem>
2649    <para>A block reason that should be given to the user.</para>
2650   </listitem>
2651  </varlistentry>
2652
2653 <varlistentry>
2654   <term>Notes:</term>
2655   <listitem>
2656    <para>
2657     <application>Privoxy</application> sends a special <quote>BLOCKED</quote> page
2658     for requests to blocked pages. This page contains the block reason given as
2659     parameter, a link to find out why the block action applies, and a click-through
2660     to the blocked content (the latter only if the force feature is available and
2661     enabled).
2662    </para>
2663    <para>
2664     A very important exception occurs if <emphasis>both</emphasis>
2665     <literal>block</literal> and <literal><link linkend="handle-as-image">handle-as-image</link></literal>,
2666     apply to the same request: it will then be replaced by an image. If
2667     <literal><link linkend="set-image-blocker">set-image-blocker</link></literal>
2668     (see below) also applies, the type of image will be determined by its parameter,
2669     if not, the standard checkerboard pattern is sent.
2670    </para>
2671    <para>
2672     It is important to understand this process, in order
2673     to understand how <application>Privoxy</application> deals with
2674     ads and other unwanted content. Blocking is a core feature, and one
2675     upon which various other features depend.
2676    </para>
2677    <para>
2678     The <literal><link linkend="filter">filter</link></literal>
2679     action can perform a very similar task, by <quote>blocking</quote>
2680     banner images and other content through rewriting the relevant URLs in the
2681     document's HTML source, so they don't get requested in the first place.
2682     Note that this is a totally different technique, and it's easy to confuse the two.
2683    </para>
2684   </listitem>
2685  </varlistentry>
2686
2687  <varlistentry>
2688   <term>Example usage (section):</term>
2689   <listitem>
2690      <screen>{+block{No nasty stuff for you.}}
2691 # Block and replace with "blocked" page
2692  .nasty-stuff.example.com
2693
2694 {+block{Doubleclick banners.} +handle-as-image}
2695 # Block and replace with image
2696  .ad.doubleclick.net
2697  .ads.r.us/banners/
2698
2699 {+block{Layered ads.} +handle-as-empty-document}
2700 # Block and then ignore
2701  adserver.example.net/.*\.js$</screen>
2702   </listitem>
2703  </varlistentry>
2704
2705
2706 </variablelist>
2707 </sect3>
2708
2709
2710 <!--   ~~~~~       New section      ~~~~~     -->
2711 <sect3 renderas="sect4" id="change-x-forwarded-for">
2712 <title>change-x-forwarded-for</title>
2713
2714 <variablelist>
2715  <varlistentry>
2716   <term>Typical use:</term>
2717   <listitem>
2718    <para>Improve privacy by not forwarding the source of the request in the HTTP headers.</para>
2719   </listitem>
2720  </varlistentry>
2721
2722  <varlistentry>
2723   <term>Effect:</term>
2724   <listitem>
2725    <para>
2726     Deletes the <quote>X-Forwarded-For:</quote> HTTP header from the client request,
2727     or adds a new one.
2728    </para>
2729   </listitem>
2730  </varlistentry>
2731
2732  <varlistentry>
2733   <term>Type:</term>
2734   <!-- Boolean, Parameterized, Multi-value -->
2735   <listitem>
2736    <para>Parameterized.</para>
2737   </listitem>
2738  </varlistentry>
2739
2740  <varlistentry>
2741   <term>Parameter:</term>
2742   <listitem>
2743    <itemizedlist>
2744     <listitem>
2745      <para><quote>block</quote> to delete the header.</para>
2746     </listitem>
2747     <listitem>
2748      <para>
2749        <quote>add</quote> to create the header (or append
2750        the client's IP address to an already existing one).
2751      </para>
2752     </listitem>
2753    </itemizedlist>
2754   </listitem>
2755  </varlistentry>
2756
2757  <varlistentry>
2758   <term>Notes:</term>
2759   <listitem>
2760    <para>
2761     It is safe and recommended to use <literal>block</literal>.
2762    </para>
2763    <para>
2764     Forwarding the source address of the request may make
2765     sense in some multi-user setups but is also a privacy risk.
2766    </para>
2767   </listitem>
2768  </varlistentry>
2769  <varlistentry>
2770   <term>Example usage:</term>
2771   <listitem>
2772      <screen>+change-x-forwarded-for{block}</screen>
2773   </listitem>
2774  </varlistentry>
2775 </variablelist>
2776 </sect3>
2777
2778 <!--   ~~~~~       New section      ~~~~~     -->
2779 <sect3 renderas="sect4" id="client-header-filter">
2780 <title>client-header-filter</title>
2781
2782 <variablelist>
2783  <varlistentry>
2784   <term>Typical use:</term>
2785   <listitem>
2786    <para>
2787    Rewrite or remove single client headers.
2788    </para>
2789   </listitem>
2790  </varlistentry>
2791
2792  <varlistentry>
2793   <term>Effect:</term>
2794   <listitem>
2795    <para>
2796     All client headers to which this action applies are filtered on-the-fly through
2797     the specified regular expression based substitutions.
2798    </para>
2799   </listitem>
2800  </varlistentry>
2801
2802  <varlistentry>
2803   <term>Type:</term>
2804   <!-- boolean, parameterized, Multi-value -->
2805   <listitem>
2806    <para>Multi-value.</para>
2807   </listitem>
2808  </varlistentry>
2809
2810  <varlistentry>
2811   <term>Parameter:</term>
2812   <listitem>
2813    <para>
2814     The name of a client-header filter, as defined in one of the
2815     <link linkend="filter-file">filter files</link>.
2816    </para>
2817   </listitem>
2818  </varlistentry>
2819
2820  <varlistentry>
2821   <term>Notes:</term>
2822   <listitem>
2823    <para>
2824     Client-header filters are applied to each header on its own, not to
2825     all at once. This makes it easier to diagnose problems, but on the downside
2826     you can't write filters that only change header x if header y's value is z.
2827     You can do that by using tags though.
2828    </para>
2829    <para>
2830     Client-header filters are executed after the other header actions have finished
2831     and use their output as input.
2832    </para>
2833    <para>
2834     If the request URI gets changed, &my-app; will detect that and use the new
2835     one. This can be used to rewrite the request destination behind the client's
2836     back, for example to specify a Tor exit relay for certain requests.
2837    </para>
2838    <para>
2839     Please refer to the <link linkend="filter-file">filter file chapter</link>
2840     to learn which client-header filters are available by default, and how to
2841     create your own.
2842    </para>
2843
2844   </listitem>
2845  </varlistentry>
2846
2847  <varlistentry>
2848   <term>Example usage (section):</term>
2849   <listitem>
2850      <screen>
2851 # Hide Tor exit notation in Host and Referer Headers
2852 {+client-header-filter{hide-tor-exit-notation}}
2853 /
2854 </screen>
2855   </listitem>
2856  </varlistentry>
2857
2858 </variablelist>
2859 </sect3>
2860
2861
2862 <!--   ~~~~~       New section      ~~~~~     -->
2863 <sect3 renderas="sect4" id="client-header-tagger">
2864 <title>client-header-tagger</title>
2865
2866 <variablelist>
2867  <varlistentry>
2868   <term>Typical use:</term>
2869   <listitem>
2870    <para>
2871    Block requests based on their headers.
2872    </para>
2873   </listitem>
2874  </varlistentry>
2875
2876  <varlistentry>
2877   <term>Effect:</term>
2878   <listitem>
2879    <para>
2880     Client headers to which this action applies are filtered on-the-fly through
2881     the specified regular expression based substitutions, the result is used as
2882     tag.
2883    </para>
2884   </listitem>
2885  </varlistentry>
2886
2887  <varlistentry>
2888   <term>Type:</term>
2889   <!-- boolean, parameterized, Multi-value -->
2890   <listitem>
2891    <para>Multi-value.</para>
2892   </listitem>
2893  </varlistentry>
2894
2895  <varlistentry>
2896   <term>Parameter:</term>
2897   <listitem>
2898    <para>
2899     The name of a client-header tagger, as defined in one of the
2900     <link linkend="filter-file">filter files</link>.
2901    </para>
2902   </listitem>
2903  </varlistentry>
2904
2905  <varlistentry>
2906   <term>Notes:</term>
2907   <listitem>
2908    <para>
2909     Client-header taggers are applied to each header on its own,
2910     and as the header isn't modified, each tagger <quote>sees</quote>
2911     the original.
2912    </para>
2913    <para>
2914     Client-header taggers are the first actions that are executed
2915     and their tags can be used to control every other action.
2916    </para>
2917  </listitem>
2918  </varlistentry>
2919
2920  <varlistentry>
2921   <term>Example usage (section):</term>
2922   <listitem>
2923      <screen>
2924 # Tag every request with the User-Agent header
2925 {+client-header-tagger{user-agent}}
2926 /
2927
2928 # Tagging itself doesn't change the action
2929 # settings, sections with TAG patterns do:
2930 #
2931 # If it's a download agent, use a different forwarding proxy,
2932 # show the real User-Agent and make sure resume works.
2933 {+forward-override{forward-socks5 10.0.0.2:2222 .} \
2934  -hide-if-modified-since      \
2935  -overwrite-last-modified     \
2936  -hide-user-agent             \
2937  -filter                      \
2938  -deanimate-gifs              \
2939 }
2940 TAG:^User-Agent: NetBSD-ftp/
2941 TAG:^User-Agent: Novell ZYPP Installer
2942 TAG:^User-Agent: RPM APT-HTTP/
2943 TAG:^User-Agent: fetch libfetch/
2944 TAG:^User-Agent: Ubuntu APT-HTTP/
2945 TAG:^User-Agent: MPlayer/
2946     </screen>
2947
2948      <screen>
2949 # Tag all requests with the Range header set
2950 {+client-header-tagger{range-requests}}
2951 /
2952
2953 # Disable filtering for the tagged requests.
2954 #
2955 # With filtering enabled Privoxy would remove the Range headers
2956 # to be able to filter the whole response. The downside is that
2957 # it prevents clients from resuming downloads or skipping over
2958 # parts of multimedia files.
2959 {-filter -deanimate-gifs}
2960 TAG:^RANGE-REQUEST$
2961     </screen>
2962
2963      <screen>
2964 # Tag all requests with the client IP address
2965 #
2966 # (Technically the client IP address isn't included in the
2967 # client headers but client-header taggers can set it anyway.
2968 # For details see the tagger in default.filter)
2969 {+client-header-tagger{client-ip-address}}
2970 /
2971
2972 # Change forwarding settings for requests coming from address 10.0.0.1
2973 {+forward-override{forward-socks5 127.0.1.2:2222 .}}
2974 TAG:^IP-ADDRESS: 10\.0\.0\.1$
2975      </screen>
2976   </listitem>
2977  </varlistentry>
2978
2979 </variablelist>
2980 </sect3>
2981
2982
2983 <!--   ~~~~~       New section      ~~~~~     -->
2984 <sect3 renderas="sect4" id="content-type-overwrite">
2985 <title>content-type-overwrite</title>
2986
2987 <variablelist>
2988  <varlistentry>
2989   <term>Typical use:</term>
2990   <listitem>
2991    <para>Stop useless download menus from popping up, or change the browser's rendering mode</para>
2992   </listitem>
2993  </varlistentry>
2994
2995  <varlistentry>
2996   <term>Effect:</term>
2997   <listitem>
2998    <para>
2999     Replaces the <quote>Content-Type:</quote> HTTP server header.
3000    </para>
3001   </listitem>
3002  </varlistentry>
3003
3004  <varlistentry>
3005   <term>Type:</term>
3006   <!-- Boolean, Parameterized, Multi-value -->
3007   <listitem>
3008    <para>Parameterized.</para>
3009   </listitem>
3010  </varlistentry>
3011
3012  <varlistentry>
3013   <term>Parameter:</term>
3014   <listitem>
3015    <para>
3016     Any string.
3017    </para>
3018   </listitem>
3019  </varlistentry>
3020
3021  <varlistentry>
3022   <term>Notes:</term>
3023   <listitem>
3024    <para>
3025     The <quote>Content-Type:</quote> HTTP server header is used by the
3026     browser to decide what to do with the document. The value of this
3027     header can cause the browser to open a download menu instead of
3028     displaying the document by itself, even if the document's format is
3029     supported by the browser.
3030    </para>
3031    <para>
3032     The declared content type can also affect which rendering mode
3033     the browser chooses. If XHTML is delivered as <quote>text/html</quote>,
3034     many browsers treat it as yet another broken HTML document.
3035     If it is send as <quote>application/xml</quote>, browsers with
3036     XHTML support will only display it, if the syntax is correct.
3037    </para>
3038    <para>
3039     If you see a web site that proudly uses XHTML buttons, but sets
3040     <quote>Content-Type: text/html</quote>, you can use &my-app;
3041     to overwrite it with <quote>application/xml</quote> and validate
3042     the web master's claim inside your XHTML-supporting browser.
3043     If the syntax is incorrect, the browser will complain loudly.
3044    </para>
3045    <para>
3046     You can also go the opposite direction: if your browser prints
3047     error messages instead of rendering a document falsely declared
3048     as XHTML, you can overwrite the content type with
3049     <quote>text/html</quote> and have it rendered as broken HTML document.
3050    </para>
3051    <para>
3052     By default <literal>content-type-overwrite</literal> only replaces
3053     <quote>Content-Type:</quote> headers that look like some kind of text.
3054     If you want to overwrite it unconditionally, you have to combine it with
3055     <literal><link linkend="force-text-mode">force-text-mode</link></literal>.
3056     This limitation exists for a reason, think twice before circumventing it.
3057    </para>
3058    <para>
3059     Most of the time it's easier to replace this action with a custom
3060     <literal><link linkend="server-header-filter">server-header filter</link></literal>.
3061     It allows you to activate it for every document of a certain site and it will still
3062     only replace the content types you aimed at.
3063    </para>
3064    <para>
3065     Of course you can apply <literal>content-type-overwrite</literal>
3066     to a whole site and then make URL based exceptions, but it's a lot
3067     more work to get the same precision.
3068    </para>
3069   </listitem>
3070  </varlistentry>
3071
3072  <varlistentry>
3073   <term>Example usage (sections):</term>
3074   <listitem>
3075      <screen># Check if www.example.net/ really uses valid XHTML
3076 { +content-type-overwrite{application/xml} }
3077 www.example.net/
3078
3079 # but leave the content type unmodified if the URL looks like a style sheet
3080 {-content-type-overwrite}
3081 www.example.net/.*\.css$
3082 www.example.net/.*style
3083 </screen>
3084   </listitem>
3085  </varlistentry>
3086 </variablelist>
3087 </sect3>
3088
3089
3090 <!--   ~~~~~       New section      ~~~~~     -->
3091 <sect3 renderas="sect4" id="crunch-client-header">
3092 <!--
3093 new action
3094 -->
3095 <title>crunch-client-header</title>
3096
3097 <variablelist>
3098  <varlistentry>
3099   <term>Typical use:</term>
3100   <listitem>
3101    <para>Remove a client header <application>Privoxy</application> has no dedicated action for.</para>
3102   </listitem>
3103  </varlistentry>
3104
3105  <varlistentry>
3106   <term>Effect:</term>
3107   <listitem>
3108    <para>
3109     Deletes every header sent by the client that contains the string the user supplied as parameter.
3110    </para>
3111   </listitem>
3112  </varlistentry>
3113
3114  <varlistentry>
3115   <term>Type:</term>
3116   <!-- Boolean, Parameterized, Multi-value -->
3117   <listitem>
3118    <para>Parameterized.</para>
3119   </listitem>
3120  </varlistentry>
3121
3122  <varlistentry>
3123   <term>Parameter:</term>
3124   <listitem>
3125    <para>
3126     Any string.
3127    </para>
3128   </listitem>
3129  </varlistentry>
3130
3131  <varlistentry>
3132   <term>Notes:</term>
3133   <listitem>
3134    <para>
3135     This action allows you to block client headers for which no dedicated
3136     <application>Privoxy</application> action exists.
3137     <application>Privoxy</application> will remove every client header that
3138     contains the string you supplied as parameter.
3139    </para>
3140    <para>
3141     Regular expressions are <emphasis>not supported</emphasis> and you can't
3142     use this action to block different headers in the same request, unless
3143     they contain the same string.
3144    </para>
3145    <para>
3146     <literal>crunch-client-header</literal> is only meant for quick tests.
3147     If you have to block several different headers, or only want to modify
3148     parts of them, you should use a
3149     <literal><link linkend="client-header-filter">client-header filter</link></literal>.
3150    </para>
3151     <warning>
3152      <para>
3153       Don't block any header without understanding the consequences.
3154      </para>
3155     </warning>
3156   </listitem>
3157  </varlistentry>
3158
3159  <varlistentry>
3160   <term>Example usage (section):</term>
3161   <listitem>
3162      <screen># Block the non-existent "Privacy-Violation:" client header
3163 { +crunch-client-header{Privacy-Violation:} }
3164 /
3165     </screen>
3166   </listitem>
3167  </varlistentry>
3168 </variablelist>
3169 </sect3>
3170
3171
3172 <!--   ~~~~~       New section      ~~~~~     -->
3173 <sect3 renderas="sect4" id="crunch-if-none-match">
3174 <title>crunch-if-none-match</title>
3175 <!--
3176 new action
3177 -->
3178 <variablelist>
3179  <varlistentry>
3180   <term>Typical use:</term>
3181   <listitem>
3182    <para>Prevent yet another way to track the user's steps between sessions.</para>
3183   </listitem>
3184  </varlistentry>
3185
3186  <varlistentry>
3187   <term>Effect:</term>
3188   <listitem>
3189    <para>
3190     Deletes the <quote>If-None-Match:</quote> HTTP client header.
3191    </para>
3192   </listitem>
3193  </varlistentry>
3194
3195  <varlistentry>
3196   <term>Type:</term>
3197   <!-- Boolean, Parameterized, Multi-value -->
3198   <listitem>
3199    <para>Boolean.</para>
3200   </listitem>
3201  </varlistentry>
3202
3203  <varlistentry>
3204   <term>Parameter:</term>
3205   <listitem>
3206    <para>
3207     N/A
3208    </para>
3209   </listitem>
3210  </varlistentry>
3211
3212  <varlistentry>
3213   <term>Notes:</term>
3214   <listitem>
3215    <para>
3216     Removing the <quote>If-None-Match:</quote> HTTP client header
3217     is useful for filter testing, where you want to force a real
3218     reload instead of getting status code <quote>304</quote> which
3219     would cause the browser to use a cached copy of the page.
3220    </para>
3221    <para>
3222     It is also useful to make sure the header isn't used as a cookie
3223     replacement (unlikely but possible).
3224    </para>
3225    <para>
3226     Blocking the <quote>If-None-Match:</quote> header shouldn't cause any
3227     caching problems, as long as the <quote>If-Modified-Since:</quote> header
3228     isn't blocked or missing as well.
3229    </para>
3230    <para>
3231     It is recommended to use this action together with
3232     <literal><link linkend="hide-if-modified-since">hide-if-modified-since</link></literal>
3233     and
3234     <literal><link linkend="overwrite-last-modified">overwrite-last-modified</link></literal>.
3235    </para>
3236   </listitem>
3237  </varlistentry>
3238
3239  <varlistentry>
3240   <term>Example usage (section):</term>
3241   <listitem>
3242      <screen># Let the browser revalidate cached documents but don't
3243 # allow the server to use the revalidation headers for user tracking.
3244 {+hide-if-modified-since{-60} \
3245  +overwrite-last-modified{randomize} \
3246  +crunch-if-none-match}
3247 /   </screen>
3248   </listitem>
3249  </varlistentry>
3250 </variablelist>
3251 </sect3>
3252
3253
3254 <!--   ~~~~~       New section      ~~~~~     -->
3255 <sect3 renderas="sect4" id="crunch-incoming-cookies">
3256 <title>crunch-incoming-cookies</title>
3257
3258 <variablelist>
3259  <varlistentry>
3260   <term>Typical use:</term>
3261   <listitem>
3262    <para>
3263     Prevent the web server from setting HTTP cookies on your system
3264    </para>
3265   </listitem>
3266  </varlistentry>
3267
3268  <varlistentry>
3269   <term>Effect:</term>
3270   <listitem>
3271    <para>
3272     Deletes any <quote>Set-Cookie:</quote> HTTP headers from server replies.
3273    </para>
3274   </listitem>
3275  </varlistentry>
3276
3277  <varlistentry>
3278   <term>Type:</term>
3279   <!-- Boolean, Parameterized, Multi-value -->
3280   <listitem>
3281    <para>Boolean.</para>
3282   </listitem>
3283  </varlistentry>
3284
3285  <varlistentry>
3286   <term>Parameter:</term>
3287   <listitem>
3288    <para>
3289     N/A
3290    </para>
3291   </listitem>
3292  </varlistentry>
3293
3294  <varlistentry>
3295   <term>Notes:</term>
3296   <listitem>
3297    <para>
3298     This action is only concerned with <emphasis>incoming</emphasis> HTTP cookies. For
3299     <emphasis>outgoing</emphasis> HTTP cookies, use
3300     <literal><link linkend="crunch-outgoing-cookies">crunch-outgoing-cookies</link></literal>.
3301     Use <emphasis>both</emphasis> to disable HTTP cookies completely.
3302    </para>
3303    <para>
3304     It makes <emphasis>no sense at all</emphasis> to use this action in conjunction
3305     with the <literal><link linkend="session-cookies-only">session-cookies-only</link></literal> action,
3306     since it would prevent the session cookies from being set. See also
3307     <literal><link linkend="filter-content-cookies">filter-content-cookies</link></literal>.
3308    </para>
3309   </listitem>
3310  </varlistentry>
3311
3312  <varlistentry>
3313   <term>Example usage:</term>
3314   <listitem>
3315     <screen>+crunch-incoming-cookies</screen>
3316   </listitem>
3317  </varlistentry>
3318 </variablelist>
3319 </sect3>
3320
3321
3322 <!--   ~~~~~       New section      ~~~~~     -->
3323 <sect3 renderas="sect4" id="crunch-server-header">
3324 <title>crunch-server-header</title>
3325 <!--
3326 new action
3327 -->
3328 <variablelist>
3329  <varlistentry>
3330   <term>Typical use:</term>
3331   <listitem>
3332    <para>Remove a server header <application>Privoxy</application> has no dedicated action for.</para>
3333   </listitem>
3334  </varlistentry>
3335
3336  <varlistentry>
3337   <term>Effect:</term>
3338   <listitem>
3339    <para>
3340     Deletes every header sent by the server that contains the string the user supplied as parameter.
3341    </para>
3342   </listitem>
3343  </varlistentry>
3344
3345  <varlistentry>
3346   <term>Type:</term>
3347   <!-- Boolean, Parameterized, Multi-value -->
3348   <listitem>
3349    <para>Parameterized.</para>
3350   </listitem>
3351  </varlistentry>
3352
3353  <varlistentry>
3354   <term>Parameter:</term>
3355   <listitem>
3356    <para>
3357     Any string.
3358    </para>
3359   </listitem>
3360  </varlistentry>
3361
3362  <varlistentry>
3363   <term>Notes:</term>
3364   <listitem>
3365    <para>
3366     This action allows you to block server headers for which no dedicated
3367     <application>Privoxy</application> action exists. <application>Privoxy</application>
3368     will remove every server header that contains the string you supplied as parameter.
3369    </para>
3370    <para>
3371     Regular expressions are <emphasis>not supported</emphasis> and you can't
3372     use this action to block different headers in the same request, unless
3373     they contain the same string.
3374    </para>
3375    <para>
3376     <literal>crunch-server-header</literal> is only meant for quick tests.
3377     If you have to block several different headers, or only want to modify
3378     parts of them, you should use a custom
3379     <literal><link linkend="server-header-filter">server-header filter</link></literal>.
3380    </para>
3381     <warning>
3382      <para>
3383      Don't block any header without understanding the consequences.
3384      </para>
3385     </warning>
3386   </listitem>
3387  </varlistentry>
3388
3389  <varlistentry>
3390   <term>Example usage (section):</term>
3391   <listitem>
3392      <screen># Crunch server headers that try to prevent caching
3393 { +crunch-server-header{no-cache} }
3394 /   </screen>
3395   </listitem>
3396  </varlistentry>
3397 </variablelist>
3398 </sect3>
3399
3400
3401 <!--   ~~~~~       New section      ~~~~~     -->
3402 <sect3 renderas="sect4" id="crunch-outgoing-cookies">
3403 <title>crunch-outgoing-cookies</title>
3404
3405 <variablelist>
3406  <varlistentry>
3407   <term>Typical use:</term>
3408   <listitem>
3409    <para>
3410     Prevent the web server from reading any HTTP cookies from your system
3411    </para>
3412   </listitem>
3413  </varlistentry>
3414
3415  <varlistentry>
3416   <term>Effect:</term>
3417   <listitem>
3418    <para>
3419     Deletes any <quote>Cookie:</quote> HTTP headers from client requests.
3420    </para>
3421   </listitem>
3422  </varlistentry>
3423
3424  <varlistentry>
3425   <term>Type:</term>
3426   <!-- Boolean, Parameterized, Multi-value -->
3427   <listitem>
3428    <para>Boolean.</para>
3429   </listitem>
3430  </varlistentry>
3431
3432  <varlistentry>
3433   <term>Parameter:</term>
3434   <listitem>
3435    <para>
3436     N/A
3437    </para>
3438   </listitem>
3439  </varlistentry>
3440
3441  <varlistentry>
3442   <term>Notes:</term>
3443   <listitem>
3444    <para>
3445     This action is only concerned with <emphasis>outgoing</emphasis> HTTP cookies. For
3446     <emphasis>incoming</emphasis> HTTP cookies, use
3447     <literal><link linkend="crunch-incoming-cookies">crunch-incoming-cookies</link></literal>.
3448     Use <emphasis>both</emphasis> to disable HTTP cookies completely.
3449    </para>
3450    <para>
3451     It makes <emphasis>no sense at all</emphasis> to use this action in conjunction
3452     with the <literal><link linkend="session-cookies-only">session-cookies-only</link></literal> action,
3453     since it would prevent the session cookies from being read.
3454    </para>
3455   </listitem>
3456  </varlistentry>
3457
3458  <varlistentry>
3459   <term>Example usage:</term>
3460   <listitem>
3461     <screen>+crunch-outgoing-cookies</screen>
3462   </listitem>
3463  </varlistentry>
3464
3465 </variablelist>
3466 </sect3>
3467
3468
3469 <!--   ~~~~~       New section      ~~~~~     -->
3470 <sect3 renderas="sect4" id="deanimate-gifs">
3471 <title>deanimate-gifs</title>
3472
3473 <variablelist>
3474  <varlistentry>
3475   <term>Typical use:</term>
3476   <listitem>
3477    <para>Stop those annoying, distracting animated GIF images.</para>
3478   </listitem>
3479  </varlistentry>
3480
3481  <varlistentry>
3482   <term>Effect:</term>
3483   <listitem>
3484    <para>
3485     De-animate GIF animations, i.e. reduce them to their first or last image.
3486    </para>
3487   </listitem>
3488  </varlistentry>
3489
3490  <varlistentry>
3491   <term>Type:</term>
3492   <!-- boolean, parameterized, Multi-value -->
3493   <listitem>
3494    <para>Parameterized.</para>
3495   </listitem>
3496  </varlistentry>
3497
3498  <varlistentry>
3499   <term>Parameter:</term>
3500   <listitem>
3501    <para>
3502     <quote>last</quote> or <quote>first</quote>
3503    </para>
3504   </listitem>
3505  </varlistentry>
3506
3507  <varlistentry>
3508   <term>Notes:</term>
3509   <listitem>
3510    <para>
3511     This will also shrink the images considerably (in bytes, not pixels!). If
3512     the option <quote>first</quote> is given, the first frame of the animation
3513     is used as the replacement. If <quote>last</quote> is given, the last
3514     frame of the animation is used instead, which probably makes more sense for
3515     most banner animations, but also has the risk of not showing the entire
3516     last frame (if it is only a delta to an earlier frame).
3517    </para>
3518    <para>
3519     You can safely use this action with patterns that will also match non-GIF
3520     objects, because no attempt will be made at anything that doesn't look like
3521     a GIF.
3522    </para>
3523   </listitem>
3524  </varlistentry>
3525
3526  <varlistentry>
3527   <term>Example usage:</term>
3528   <listitem>
3529       <screen>+deanimate-gifs{last}</screen>
3530   </listitem>
3531  </varlistentry>
3532 </variablelist>
3533 </sect3>
3534
3535 <!--   ~~~~~       New section      ~~~~~     -->
3536 <sect3 renderas="sect4" id="downgrade-http-version">
3537 <title>downgrade-http-version</title>
3538
3539 <variablelist>
3540  <varlistentry>
3541   <term>Typical use:</term>
3542   <listitem>
3543    <para>Work around (very rare) problems with HTTP/1.1</para>
3544   </listitem>
3545  </varlistentry>
3546
3547  <varlistentry>
3548   <term>Effect:</term>
3549   <listitem>
3550    <para>
3551     Downgrades HTTP/1.1 client requests and server replies to HTTP/1.0.
3552    </para>
3553   </listitem>
3554  </varlistentry>
3555
3556  <varlistentry>
3557   <term>Type:</term>
3558   <!-- boolean, parameterized, Multi-value -->
3559   <listitem>
3560    <para>Boolean.</para>
3561   </listitem>
3562  </varlistentry>
3563
3564  <varlistentry>
3565   <term>Parameter:</term>
3566   <listitem>
3567    <para>
3568     N/A
3569    </para>
3570   </listitem>
3571  </varlistentry>
3572
3573 <varlistentry>
3574   <term>Notes:</term>
3575   <listitem>
3576    <para>
3577     This is a left-over from the time when <application>Privoxy</application>
3578     didn't support important HTTP/1.1 features well. It is left here for the
3579     unlikely case that you experience HTTP/1.1-related problems with some server
3580     out there.
3581    </para>
3582    <para>
3583     Note that enabling this action is only a workaround. It should not
3584     be enabled for sites that work without it. While it shouldn't break
3585     any pages, it has an (usually negative) performance impact.
3586   </para>
3587   <para>
3588     If you come across a site where enabling this action helps, please report it,
3589     so the cause of the problem can be analyzed. If the problem turns out to be
3590     caused by a bug in  <application>Privoxy</application> it should be
3591     fixed so the following release works without the work around.
3592    </para>
3593   </listitem>
3594  </varlistentry>
3595
3596  <varlistentry>
3597   <term>Example usage (section):</term>
3598   <listitem>
3599      <screen>{+downgrade-http-version}
3600 problem-host.example.com</screen>
3601   </listitem>
3602  </varlistentry>
3603
3604 </variablelist>
3605 </sect3>
3606
3607 <!--   ~~~~~       New section      ~~~~~     -->
3608 <sect3 renderas="sect4" id="external-filter">
3609 <title>external-filter</title>
3610
3611 <variablelist>
3612  <varlistentry>
3613   <term>Typical use:</term>
3614   <listitem>
3615    <para>Modify content using a programming language of your choice.</para>
3616   </listitem>
3617  </varlistentry>
3618
3619  <varlistentry>
3620   <term>Effect:</term>
3621   <listitem>
3622    <para>
3623     All instances of text-based type, most notably HTML and JavaScript, to which
3624     this action applies, can be filtered on-the-fly through the specified external
3625     filter.
3626     By default plain text documents are exempted from filtering, because web
3627     servers often use the <literal>text/plain</literal> MIME type for all files
3628     whose type they don't know.)
3629    </para>
3630   </listitem>
3631  </varlistentry>
3632
3633  <varlistentry>
3634   <term>Type:</term>
3635   <!-- boolean, parameterized, Multi-value -->
3636   <listitem>
3637    <para>Multi-value.</para>
3638   </listitem>
3639  </varlistentry>
3640
3641  <varlistentry>
3642   <term>Parameter:</term>
3643   <listitem>
3644    <para>
3645     The name of an external content filter, as defined in the
3646     <link linkend="filter-file">filter file</link>.
3647     External filters can be defined in one or more files as defined by the
3648     <literal><link linkend="filterfile">filterfile</link></literal>
3649     option in the <link linkend="config">config file</link>.
3650    </para>
3651    <para>
3652     When used in its negative form,
3653     and without parameters, <emphasis>all</emphasis> filtering with external
3654     filters is completely disabled.
3655   </para>
3656   </listitem>
3657  </varlistentry>
3658
3659  <varlistentry>
3660   <term>Notes:</term>
3661   <listitem>
3662    <para>
3663     External filters are scripts or programs that can modify the content in
3664     case common <literal><link linkend="filter">filters</link></literal>
3665     aren't powerful enough. With the exception that this action doesn't
3666     use pcrs-based filters, the notes in the
3667     <literal><link linkend="filter">filter</link></literal> section apply.
3668    </para>
3669    <warning>
3670     <para>
3671      Currently external filters are executed with &my-app;'s privileges.
3672      Only use external filters you understand and trust.
3673     </para>
3674    </warning>
3675    <para>
3676     This feature is experimental, the <literal><link
3677     linkend="external-filter-syntax">syntax</link></literal>
3678     may change in the future.
3679    </para>
3680
3681   </listitem>
3682  </varlistentry>
3683
3684  <varlistentry>
3685   <term>Example usage:</term>
3686   <listitem>
3687     <screen>+external-filter{fancy-filter}</screen>
3688   </listitem>
3689  </varlistentry>
3690 </variablelist>
3691 </sect3>
3692
3693 <!--   ~~~~~       New section      ~~~~~     -->
3694 <sect3 renderas="sect4" id="fast-redirects">
3695 <title>fast-redirects</title>
3696
3697 <variablelist>
3698  <varlistentry>
3699   <term>Typical use:</term>
3700   <listitem>
3701    <para>Fool some click-tracking scripts and speed up indirect links.</para>
3702   </listitem>
3703  </varlistentry>
3704
3705  <varlistentry>
3706   <term>Effect:</term>
3707   <listitem>
3708    <para>
3709     Detects redirection URLs and redirects the browser without contacting
3710     the redirection server first.
3711    </para>
3712   </listitem>
3713  </varlistentry>
3714
3715  <varlistentry>
3716   <term>Type:</term>
3717   <!-- boolean, parameterized, Multi-value -->
3718   <listitem>
3719    <para>Parameterized.</para>
3720   </listitem>
3721  </varlistentry>
3722
3723  <varlistentry>
3724   <term>Parameter:</term>
3725   <listitem>
3726    <itemizedlist>
3727     <listitem>
3728      <para>
3729       <quote>simple-check</quote> to just search for the string <quote>http://</quote>
3730       to detect redirection URLs.
3731      </para>
3732     </listitem>
3733     <listitem>
3734      <para>
3735       <quote>check-decoded-url</quote> to decode URLs (if necessary) before searching
3736       for redirection URLs.
3737      </para>
3738     </listitem>
3739    </itemizedlist>
3740   </listitem>
3741  </varlistentry>
3742
3743  <varlistentry>
3744   <term>Notes:</term>
3745   <listitem>
3746    <para>
3747     Many sites, like yahoo.com, don't just link to other sites. Instead, they
3748     will link to some script on their own servers, giving the destination as a
3749     parameter, which will then redirect you to the final target. URLs
3750     resulting from this scheme typically look like:
3751     <quote>http://www.example.org/click-tracker.cgi?target=http%3a//www.example.net/</quote>.
3752   </para>
3753    <para>
3754     Sometimes, there are even multiple consecutive redirects encoded in the
3755     URL. These redirections via scripts make your web browsing more traceable,
3756     since the server from which you follow such a link can see where you go
3757     to. Apart from that, valuable bandwidth and time is wasted, while your
3758     browser asks the server for one redirect after the other. Plus, it feeds
3759     the advertisers.
3760    </para>
3761    <para>
3762     This feature is currently not very smart and is scheduled for improvement.
3763     If it is enabled by default, you will have to create some exceptions to
3764     this action. It can lead to failures in several ways:
3765    </para>
3766    <para>
3767     Not every URLs with other URLs as parameters is evil.
3768     Some sites offer a real service that requires this information to work.
3769     For example a validation service needs to know, which document to validate.
3770     <literal>fast-redirects</literal> assumes that every URL parameter that
3771     looks like another URL is a redirection target, and will always redirect to
3772     the last one. Most of the time the assumption is correct, but if it isn't,
3773     the user gets redirected anyway.
3774    </para>
3775    <para>
3776     Another failure occurs if the URL contains other parameters after the URL parameter.
3777     The URL:
3778     <quote>http://www.example.org/?redirect=http%3a//www.example.net/&amp;foo=bar</quote>.
3779     contains the redirection URL <quote>http://www.example.net/</quote>,
3780     followed by another parameter. <literal>fast-redirects</literal> doesn't know that
3781     and will cause a redirect to <quote>http://www.example.net/&amp;foo=bar</quote>.
3782     Depending on the target server configuration, the parameter will be silently ignored
3783     or lead to a <quote>page not found</quote> error. You can prevent this problem by
3784     first using the <literal><link linkend="redirect">redirect</link></literal> action
3785     to remove the last part of the URL, but it requires a little effort.
3786    </para>
3787    <para>
3788     To detect a redirection URL, <literal>fast-redirects</literal> only
3789     looks for the string <quote>http://</quote>, either in plain text
3790     (invalid but often used) or encoded as <quote>http%3a//</quote>.
3791     Some sites use their own URL encoding scheme, encrypt the address
3792     of the target server or replace it with a database id. In theses cases
3793     <literal>fast-redirects</literal> is fooled and the request reaches the
3794     redirection server where it probably gets logged.
3795    </para>
3796   </listitem>
3797  </varlistentry>
3798
3799  <varlistentry>
3800   <term>Example usage:</term>
3801   <listitem>
3802      <screen>
3803  { +fast-redirects{simple-check} }
3804    one.example.com
3805
3806  { +fast-redirects{check-decoded-url} }
3807    another.example.com/testing</screen>
3808   </listitem>
3809  </varlistentry>
3810
3811 </variablelist>
3812 </sect3>
3813
3814
3815 <!--   ~~~~~       New section      ~~~~~     -->
3816 <sect3 renderas="sect4" id="filter">
3817 <title>filter</title>
3818
3819 <variablelist>
3820  <varlistentry>
3821   <term>Typical use:</term>
3822   <listitem>
3823    <para>Get rid of HTML and JavaScript annoyances, banner advertisements (by size),
3824          do fun text replacements, add personalized effects, etc.</para>
3825   </listitem>
3826  </varlistentry>
3827
3828  <varlistentry>
3829   <term>Effect:</term>
3830   <listitem>
3831    <para>
3832     All instances of text-based type, most notably HTML and JavaScript, to which
3833     this action applies, can be filtered on-the-fly through the specified regular
3834     expression based substitutions. (Note: as of version 3.0.3 plain text documents
3835     are exempted from filtering, because web servers often use the
3836    <literal>text/plain</literal> MIME type for all files whose type they don't know.)
3837    </para>
3838   </listitem>
3839  </varlistentry>
3840
3841  <varlistentry>
3842   <term>Type:</term>
3843   <!-- boolean, parameterized, Multi-value -->
3844   <listitem>
3845    <para>Multi-value.</para>
3846   </listitem>
3847  </varlistentry>
3848
3849  <varlistentry>
3850   <term>Parameter:</term>
3851   <listitem>
3852    <para>
3853     The name of a content filter, as defined in the <link linkend="filter-file">filter file</link>.
3854     Filters can be defined in one or more  files as defined by the
3855     <literal><link linkend="filterfile">filterfile</link></literal>
3856     option in the <link linkend="config">config file</link>.
3857     <filename>default.filter</filename> is the collection of filters
3858     supplied by the developers. Locally defined filters should go
3859     in their own file, such as <filename>user.filter</filename>.
3860    </para>
3861    <para>
3862      When used in its negative form,
3863      and without parameters, <emphasis>all</emphasis> filtering is completely disabled.
3864   </para>
3865   </listitem>
3866  </varlistentry>
3867
3868  <varlistentry>
3869   <term>Notes:</term>
3870   <listitem>
3871    <para>
3872     For your convenience, there are a number of pre-defined filters available
3873     in the distribution filter file that you can use. See the examples below for
3874     a list.
3875    </para>
3876    <para>
3877     Filtering requires buffering the page content, which may appear to
3878     slow down page rendering since nothing is displayed until all content has
3879     passed the filters. (The total time until the page is completely rendered
3880     doesn't change much, but it may be perceived as slower since the page is
3881     not incrementally displayed.)
3882     This effect will be more noticeable on slower connections.
3883    </para>
3884    <para>
3885    <quote>Rolling your own</quote>
3886     filters requires a knowledge of
3887      <ulink url="http://en.wikipedia.org/wiki/Regular_expressions"><quote>Regular
3888      Expressions</quote></ulink> and
3889       <ulink url="http://en.wikipedia.org/wiki/Html"><quote>HTML</quote></ulink>.
3890     This is very powerful feature, and potentially very intrusive.
3891     Filters should be used with caution, and where an equivalent
3892     <quote>action</quote> is not available.
3893    </para>
3894    <para>
3895     The amount of data that can be filtered is limited to the
3896     <literal><link linkend="buffer-limit">buffer-limit</link></literal>
3897     option in the main <link linkend="config">config file</link>. The
3898     default is 4096 KB (4 Megs). Once this limit is exceeded, the buffered
3899     data, and all pending data, is passed through unfiltered.
3900    </para>
3901    <para>
3902     Inappropriate MIME types, such as zipped files, are not filtered at all.
3903     (Again, only text-based types except plain text). Encrypted SSL data
3904     (from HTTPS servers) cannot be filtered either, since this would violate
3905     the integrity of the secure transaction. In some situations it might
3906     be necessary to protect certain text, like source code, from filtering
3907     by defining appropriate <literal>-filter</literal> exceptions.
3908    </para>
3909    <para>
3910     Compressed content can't be filtered either, but if &my-app;
3911     is compiled with zlib support and a supported compression algorithm
3912     is used (gzip or deflate), &my-app; can first decompress the content
3913     and then filter it.
3914    </para>
3915    <para>
3916     If you use a &my-app; version without zlib support, but want filtering to work on
3917     as much documents as possible, even those that would normally be sent compressed,
3918     you must use the <literal><link linkend="prevent-compression">prevent-compression</link></literal>
3919     action in conjunction with <literal>filter</literal>.
3920    </para>
3921    <para>
3922     Content filtering can achieve some of the same effects as the
3923     <literal><link linkend="block">block</link></literal>
3924     action, i.e. it can be used to block ads and banners. But the mechanism
3925     works quite differently. One effective use, is to block ad banners
3926     based on their size (see below), since many of these seem to be somewhat
3927     standardized.
3928    </para>
3929    <para>
3930     <link linkend="contact">Feedback</link> with suggestions for new or
3931     improved filters is particularly welcome!
3932    </para>
3933    <para>
3934     The below list has only the names and a one-line description of each
3935     predefined filter. There are <link linkend="predefined-filters">more
3936     verbose explanations</link> of what these filters do in the <link
3937     linkend="filter-file">filter file chapter</link>.
3938    </para>
3939   </listitem>
3940  </varlistentry>
3941
3942  <varlistentry>
3943   <term>Example usage (with filters from the distribution <filename>default.filter</filename> file).
3944   See <link linkend="PREDEFINED-FILTERS">the Predefined Filters section</link> for
3945   more explanation on each:</term>
3946   <listitem>
3947    <para>
3948     <anchor id="filter-js-annoyances">
3949    </para>
3950     <screen>+filter{js-annoyances}       # Get rid of particularly annoying JavaScript abuse.</screen>
3951    <para>
3952     <anchor id="filter-js-events">
3953    </para>
3954     <screen>+filter{js-events}           # Kill JavaScript event bindings and timers (Radically destructive! Only for extra nasty sites).</screen>
3955    <para>
3956     <anchor id="filter-html-annoyances">
3957    </para>
3958     <screen>+filter{html-annoyances}     # Get rid of particularly annoying HTML abuse.</screen>
3959    <para>
3960     <anchor id="filter-content-cookies">
3961    </para>
3962     <screen>+filter{content-cookies}     # Kill cookies that come in the HTML or JS content.</screen>
3963    <para>
3964     <anchor id="filter-refresh-tags">
3965    </para>
3966     <screen>+filter{refresh-tags}        # Kill automatic refresh tags if refresh time is larger than 9 seconds.</screen>
3967    <para>
3968     <anchor id="filter-unsolicited-popups">
3969    </para>
3970     <screen>+filter{unsolicited-popups}  # Disable only unsolicited pop-up windows.</screen>
3971    <para>
3972     <anchor id="filter-all-popups">
3973    </para>
3974     <screen>+filter{all-popups}          # Kill all popups in JavaScript and HTML.</screen>
3975    <para>
3976     <anchor id="filter-img-reorder">
3977    </para>
3978     <screen>+filter{img-reorder}         # Reorder attributes in &lt;img&gt; tags to make the banners-by-* filters more effective.</screen>
3979    <para>
3980     <anchor id="filter-banners-by-size">
3981    </para>
3982     <screen>+filter{banners-by-size}     # Kill banners by size.</screen>
3983    <para>
3984     <anchor id="filter-banners-by-link">
3985    </para>
3986     <screen>+filter{banners-by-link}     # Kill banners by their links to known clicktrackers.</screen>
3987    <para>
3988     <anchor id="filter-webbugs">
3989    </para>
3990     <screen>+filter{webbugs}             # Squish WebBugs (1x1 invisible GIFs used for user tracking).</screen>
3991    <para>
3992     <anchor id="filter-tiny-textforms">
3993    </para>
3994     <screen>+filter{tiny-textforms}      # Extend those tiny textareas up to 40x80 and kill the hard wrap.</screen>
3995    <para>
3996     <anchor id="filter-jumping-windows">
3997    </para>
3998     <screen>+filter{jumping-windows}     # Prevent windows from resizing and moving themselves.</screen>
3999    <para>
4000     <anchor id="filter-frameset-borders">
4001    </para>
4002     <screen>+filter{frameset-borders}    # Give frames a border and make them resizable.</screen>
4003    <para>
4004     <anchor id="filter-iframes">
4005    </para>
4006     <screen>+filter{iframes}             # Removes all detected iframes. Should only be enabled for individual sites.</screen>
4007    <para>
4008     <anchor id="filter-demoronizer">
4009    </para>
4010     <screen>+filter{demoronizer}         # Fix MS's non-standard use of standard charsets.</screen>
4011    <para>
4012     <anchor id="filter-shockwave-flash">
4013    </para>
4014     <screen>+filter{shockwave-flash}     # Kill embedded Shockwave Flash objects.</screen>
4015    <para>
4016     <anchor id="filter-quicktime-kioskmode">
4017    </para>
4018     <screen>+filter{quicktime-kioskmode} # Make Quicktime movies saveable.</screen>
4019    <para>
4020     <anchor id="filter-fun">
4021    </para>
4022     <screen>+filter{fun}                 # Text replacements for subversive browsing fun!</screen>
4023    <para>
4024     <anchor id="filter-crude-parental">
4025    </para>
4026     <screen>+filter{crude-parental}      # Crude parental filtering. Note that this filter doesn't work reliably.</screen>
4027    <para>
4028     <anchor id="filter-ie-exploits">
4029    </para>
4030     <screen>+filter{ie-exploits}         # Disable some known Internet Explorer bug exploits.</screen>
4031    <para>
4032     <anchor id="filter-site-specifics">
4033    </para>
4034     <screen>+filter{site-specifics}      # Cure for site-specific problems. Don't apply generally!</screen>
4035    <para>
4036     <anchor id="filter-no-ping">
4037    </para>
4038     <screen>+filter{no-ping}             # Removes non-standard ping attributes in &lt;a&gt; and &lt;area&gt; tags.</screen>
4039    <para>
4040     <anchor id="filter-google">
4041    </para>
4042     <screen>+filter{google}              # CSS-based block for Google text ads. Also removes a width limitation and the toolbar advertisement.</screen>
4043    <para>
4044     <anchor id="filter-yahoo">
4045    </para>
4046     <screen>+filter{yahoo}               # CSS-based block for Yahoo text ads. Also removes a width limitation.</screen>
4047    <para>
4048     <anchor id="filter-msn">
4049    </para>
4050     <screen>+filter{msn}                 # CSS-based block for MSN text ads. Also removes tracking URLs and a width limitation.</screen>
4051    <para>
4052     <anchor id="filter-blogspot">
4053    </para>
4054     <screen>+filter{blogspot}            # Cleans up some Blogspot blogs. Read the fine print before using this.</screen>
4055   </listitem>
4056  </varlistentry>
4057 </variablelist>
4058 </sect3>
4059
4060
4061 <!--   ~~~~~       New section      ~~~~~     -->
4062 <sect3 renderas="sect4" id="force-text-mode">
4063 <title>force-text-mode</title>
4064 <!--
4065 new action
4066 -->
4067 <variablelist>
4068  <varlistentry>
4069   <term>Typical use:</term>
4070   <listitem>
4071    <para>Force <application>Privoxy</application> to treat a document as if it was in some kind of <emphasis>text</emphasis> format.   </para>
4072   </listitem>
4073  </varlistentry>
4074
4075  <varlistentry>
4076   <term>Effect:</term>
4077   <listitem>
4078    <para>
4079     Declares a document as text, even if the <quote>Content-Type:</quote> isn't detected as such.
4080    </para>
4081   </listitem>
4082  </varlistentry>
4083
4084  <varlistentry>
4085   <term>Type:</term>
4086   <!-- Boolean, Parameterized, Multi-value -->
4087   <listitem>
4088    <para>Boolean.</para>
4089   </listitem>
4090  </varlistentry>
4091
4092  <varlistentry>
4093   <term>Parameter:</term>
4094   <listitem>
4095    <para>
4096     N/A
4097    </para>
4098   </listitem>
4099  </varlistentry>
4100
4101  <varlistentry>
4102   <term>Notes:</term>
4103   <listitem>
4104    <para>
4105     As explained <literal><link linkend="filter">above</link></literal>,
4106     <application>Privoxy</application> tries to only filter files that are
4107     in some kind of text format. The same restrictions apply to
4108     <literal><link linkend="content-type-overwrite">content-type-overwrite</link></literal>.
4109     <literal>force-text-mode</literal> declares a document as text,
4110     without looking at the <quote>Content-Type:</quote> first.
4111    </para>
4112    <warning>
4113     <para>
4114      Think twice before activating this action. Filtering binary data
4115      with regular expressions can cause file damage.
4116     </para>
4117    </warning>
4118   </listitem>
4119  </varlistentry>
4120
4121  <varlistentry>
4122   <term>Example usage:</term>
4123   <listitem>
4124      <screen>
4125 +force-text-mode
4126      </screen>
4127   </listitem>
4128  </varlistentry>
4129 </variablelist>
4130 </sect3>
4131
4132
4133 <!--   ~~~~~       New section      ~~~~~     -->
4134 <sect3 renderas="sect4" id="forward-override">
4135 <title>forward-override</title>
4136 <!--
4137 new action
4138 -->
4139 <variablelist>
4140  <varlistentry>
4141   <term>Typical use:</term>
4142   <listitem>
4143    <para>Change the forwarding settings based on User-Agent or request origin</para>
4144   </listitem>
4145  </varlistentry>
4146
4147  <varlistentry>
4148   <term>Effect:</term>
4149   <listitem>
4150    <para>
4151     Overrules the forward directives in the configuration file.
4152    </para>
4153   </listitem>
4154  </varlistentry>
4155
4156  <varlistentry>
4157   <term>Type:</term>
4158   <!-- Boolean, Parameterized, Multi-value -->
4159   <listitem>
4160    <para>Parameterized.</para>
4161   </listitem>
4162  </varlistentry>
4163
4164  <varlistentry>
4165   <term>Parameter:</term>
4166   <listitem>
4167    <itemizedlist>
4168     <listitem>
4169      <para><quote>forward .</quote> to use a direct connection without any additional proxies.</para>
4170     </listitem>
4171     <listitem>
4172      <para>
4173       <quote>forward 127.0.0.1:8123</quote> to use the HTTP proxy listening at 127.0.0.1 port 8123.
4174      </para>
4175     </listitem>
4176     <listitem>
4177      <para>
4178       <quote>forward-socks4a 127.0.0.1:9050 .</quote> to use the socks4a proxy listening at
4179       127.0.0.1 port 9050. Replace <quote>forward-socks4a</quote> with <quote>forward-socks4</quote>
4180       to use a socks4 connection  (with local DNS resolution) instead, use <quote>forward-socks5</quote>
4181       for socks5 connections (with remote DNS resolution).
4182      </para>
4183     </listitem>
4184     <listitem>
4185      <para>
4186       <quote>forward-socks4a 127.0.0.1:9050 proxy.example.org:8000</quote> to use the socks4a proxy
4187       listening at 127.0.0.1 port 9050 to reach the HTTP proxy listening at proxy.example.org port 8000.
4188       Replace <quote>forward-socks4a</quote> with <quote>forward-socks4</quote> to use a socks4 connection
4189       (with local DNS resolution) instead, use <quote>forward-socks5</quote>
4190       for socks5 connections (with remote DNS resolution).
4191      </para>
4192     </listitem>
4193     <listitem>
4194      <para>
4195       <quote>forward-webserver 127.0.0.1:80</quote> to use the HTTP
4196       server listening at 127.0.0.1 port 80 without adjusting the
4197       request headers.
4198      </para>
4199      <para>
4200       This makes it more convenient to use Privoxy to make
4201       existing websites available as onion services as well.
4202      </para>
4203      <para>
4204       Many websites serve content with hardcoded URLs and
4205       can't be easily adjusted to change the domain based
4206       on the one used by the client.
4207      </para>
4208      <para>
4209       Putting Privoxy between Tor and the webserver (or an stunnel
4210       that forwards to the webserver) allows to rewrite headers and
4211       content to make client and server happy at the same time.
4212      </para>
4213      <para>
4214       Using Privoxy for webservers that are only reachable through
4215       onion addresses and whose location is supposed to be secret
4216       is not recommended and should not be necessary anyway.
4217      </para>
4218     </listitem>
4219    </itemizedlist>
4220   </listitem>
4221  </varlistentry>
4222
4223  <varlistentry>
4224   <term>Notes:</term>
4225   <listitem>
4226    <para>
4227     This action takes parameters similar to the
4228     <link linkend="forwarding">forward</link> directives in the configuration
4229     file, but without the URL pattern. It can be used as replacement, but normally it's only
4230     used in cases where matching based on the request URL isn't sufficient.
4231    </para>
4232    <warning>
4233     <para>
4234      Please read the description for the <link linkend="forwarding">forward</link> directives before
4235      using this action. Forwarding to the wrong people will reduce your privacy and increase the
4236      chances of man-in-the-middle attacks.
4237     </para>
4238     <para>
4239      If the ports are missing or invalid, default values will be used. This might change
4240      in the future and you shouldn't rely on it. Otherwise incorrect syntax causes Privoxy
4241      to exit. Due to design limitations, invalid parameter syntax isn't detected until the
4242      action is used the first time.
4243     </para>
4244     <para>
4245      Use the <ulink url="http://config.privoxy.org/show-url-info">show-url-info CGI page</ulink>
4246      to verify that your forward settings do what you thought the do.
4247     </para>
4248    </warning>
4249   </listitem>
4250  </varlistentry>
4251
4252  <varlistentry>
4253   <term>Example usage:</term>
4254   <listitem>
4255      <screen>
4256 # Use an ssh tunnel for requests previously tagged as
4257 # <quote>User-Agent: fetch libfetch/2.0</quote> and make sure
4258 # resuming downloads continues to work.
4259 #
4260 # This way you can continue to use Tor for your normal browsing,
4261 # without overloading the Tor network with your FreeBSD ports updates
4262 # or downloads of bigger files like ISOs.
4263 #
4264 # Note that HTTP headers are easy to fake and therefore their
4265 # values are as (un)trustworthy as your clients and users.
4266 {+forward-override{forward-socks5 10.0.0.2:2222 .} \
4267  -hide-if-modified-since      \
4268  -overwrite-last-modified     \
4269 }
4270 TAG:^User-Agent: fetch libfetch/2\.0$
4271      </screen>
4272   </listitem>
4273  </varlistentry>
4274 </variablelist>
4275 </sect3>
4276
4277
4278 <!--   ~~~~~       New section      ~~~~~     -->
4279 <sect3 renderas="sect4" id="handle-as-empty-document">
4280 <title>handle-as-empty-document</title>
4281 <!--
4282 new action
4283 -->
4284 <variablelist>
4285  <varlistentry>
4286   <term>Typical use:</term>
4287   <listitem>
4288    <para>Mark URLs that should be replaced by empty documents <emphasis>if they get blocked</emphasis></para>
4289   </listitem>
4290  </varlistentry>
4291
4292  <varlistentry>
4293   <term>Effect:</term>
4294   <listitem>
4295    <para>
4296     This action alone doesn't do anything noticeable. It just marks URLs.
4297     If the <literal><link linkend="block">block</link></literal> action <emphasis>also applies</emphasis>,
4298     the presence or absence of this mark decides whether an HTML <quote>BLOCKED</quote>
4299     page, or an empty document will be sent to the client as a substitute for the blocked content.
4300     The <emphasis>empty</emphasis> document isn't literally empty, but actually contains a single space.
4301    </para>
4302   </listitem>
4303  </varlistentry>
4304
4305  <varlistentry>
4306   <term>Type:</term>
4307   <!-- Boolean, Parameterized, Multi-value -->
4308   <listitem>
4309    <para>Boolean.</para>
4310   </listitem>
4311  </varlistentry>
4312
4313  <varlistentry>
4314   <term>Parameter:</term>
4315   <listitem>
4316    <para>
4317     N/A
4318    </para>
4319   </listitem>
4320  </varlistentry>
4321
4322  <varlistentry>
4323   <term>Notes:</term>
4324   <listitem>
4325    <para>
4326     Some browsers complain about syntax errors if JavaScript documents
4327     are blocked with <application>Privoxy's</application>
4328     default HTML page; this option can be used to silence them.
4329     And of course this action can also be used to eliminate the &my-app;
4330     BLOCKED message in frames.
4331    </para>
4332    <para>
4333     The content type for the empty document can be specified with
4334     <literal><link linkend="content-type-overwrite">content-type-overwrite{}</link></literal>,
4335     but usually this isn't necessary.
4336    </para>
4337   </listitem>
4338  </varlistentry>
4339
4340  <varlistentry>
4341   <term>Example usage:</term>
4342   <listitem>
4343      <screen># Block all documents on example.org that end with ".js",
4344 # but send an empty document instead of the usual HTML message.
4345 {+block{Blocked JavaScript} +handle-as-empty-document}
4346 example.org/.*\.js$
4347      </screen>
4348   </listitem>
4349  </varlistentry>
4350 </variablelist>
4351 </sect3>
4352
4353
4354 <!--   ~~~~~       New section      ~~~~~     -->
4355 <sect3 renderas="sect4" id="handle-as-image">
4356 <title>handle-as-image</title>
4357
4358 <variablelist>
4359  <varlistentry>
4360   <term>Typical use:</term>
4361   <listitem>
4362    <para>Mark URLs as belonging to images (so they'll be replaced by images <emphasis>if they do get blocked</emphasis>, rather than HTML pages)</para>
4363   </listitem>
4364  </varlistentry>
4365
4366  <varlistentry>
4367   <term>Effect:</term>
4368   <listitem>
4369    <para>
4370     This action alone doesn't do anything noticeable. It just marks URLs as images.
4371     If the <literal><link linkend="block">block</link></literal> action <emphasis>also applies</emphasis>,
4372     the presence or absence of this mark decides whether an HTML <quote>blocked</quote>
4373     page, or a replacement image (as determined by the <literal><link
4374     linkend="set-image-blocker">set-image-blocker</link></literal> action) will be sent to the
4375     client as a substitute for the blocked content.
4376    </para>
4377   </listitem>
4378  </varlistentry>
4379
4380  <varlistentry>
4381   <term>Type:</term>
4382   <!-- Boolean, Parameterized, Multi-value -->
4383   <listitem>
4384    <para>Boolean.</para>
4385   </listitem>
4386  </varlistentry>
4387
4388  <varlistentry>
4389   <term>Parameter:</term>
4390   <listitem>
4391    <para>
4392     N/A
4393    </para>
4394   </listitem>
4395  </varlistentry>
4396
4397  <varlistentry>
4398   <term>Notes:</term>
4399   <listitem>
4400    <para>
4401     The below generic example section is actually part of <filename>default.action</filename>.
4402     It marks all URLs with well-known image file name extensions as images and should
4403     be left intact.
4404    </para>
4405    <para>
4406     Users will probably only want to use the handle-as-image action in conjunction with
4407     <literal><link linkend="block">block</link></literal>, to block sources of banners, whose URLs don't
4408     reflect the file type, like in the second example section.
4409    </para>
4410    <para>
4411     Note that you cannot treat HTML pages as images in most cases. For instance, (in-line) ad
4412     frames require an HTML page to be sent, or they won't display properly.
4413     Forcing <literal>handle-as-image</literal> in this situation will not replace the
4414     ad frame with an image, but lead to error messages.
4415    </para>
4416   </listitem>
4417  </varlistentry>
4418
4419  <varlistentry>
4420   <term>Example usage (sections):</term>
4421   <listitem>
4422      <screen># Generic image extensions:
4423 #
4424 {+handle-as-image}
4425 /.*\.(gif|jpg|jpeg|png|bmp|ico)$
4426
4427 # These don't look like images, but they're banners and should be
4428 # blocked as images:
4429 #
4430 {+block{Nasty banners.} +handle-as-image}
4431 nasty-banner-server.example.com/junk.cgi\?output=trash
4432 </screen>
4433   </listitem>
4434  </varlistentry>
4435 </variablelist>
4436 </sect3>
4437
4438
4439 <!--   ~~~~~       New section      ~~~~~     -->
4440 <sect3 renderas="sect4" id="hide-accept-language">
4441 <title>hide-accept-language</title>
4442 <!--
4443 new action
4444 -->
4445 <variablelist>
4446  <varlistentry>
4447   <term>Typical use:</term>
4448   <listitem>
4449    <para>Pretend to use different language settings.</para>
4450   </listitem>
4451  </varlistentry>
4452
4453  <varlistentry>
4454   <term>Effect:</term>
4455   <listitem>
4456    <para>
4457     Deletes or replaces the <quote>Accept-Language:</quote> HTTP header in client requests.
4458    </para>
4459   </listitem>
4460  </varlistentry>
4461
4462  <varlistentry>
4463   <term>Type:</term>
4464   <!-- Boolean, Parameterized, Multi-value -->
4465   <listitem>
4466    <para>Parameterized.</para>
4467   </listitem>
4468  </varlistentry>
4469
4470  <varlistentry>
4471   <term>Parameter:</term>
4472   <listitem>
4473    <para>
4474     Keyword: <quote>block</quote>, or any user defined value.
4475    </para>
4476   </listitem>
4477  </varlistentry>
4478
4479  <varlistentry>
4480   <term>Notes:</term>
4481   <listitem>
4482    <para>
4483     Faking the browser's language settings can be useful to make a
4484     foreign User-Agent set with
4485     <literal><link linkend="hide-user-agent">hide-user-agent</link></literal>
4486     more believable.
4487    </para>
4488    <para>
4489     However some sites with content in different languages check the
4490     <quote>Accept-Language:</quote> to decide which one to take by default.
4491     Sometimes it isn't possible to later switch to another language without
4492     changing the <quote>Accept-Language:</quote> header first.
4493    </para>
4494    <para>
4495     Therefore it's a good idea to either only change the
4496     <quote>Accept-Language:</quote> header to languages you understand,
4497     or to languages that aren't wide spread.
4498    </para>
4499    <para>
4500     Before setting the <quote>Accept-Language:</quote> header
4501     to a rare language, you should consider that it helps to
4502     make your requests unique and thus easier to trace.
4503     If you don't plan to change this header frequently,
4504     you should stick to a common language.
4505    </para>
4506   </listitem>
4507  </varlistentry>
4508
4509  <varlistentry>
4510   <term>Example usage (section):</term>
4511   <listitem>
4512      <screen># Pretend to use Canadian language settings.
4513 {+hide-accept-language{en-ca} \
4514 +hide-user-agent{Mozilla/5.0 (X11; U; OpenBSD i386; en-CA; rv:1.8.0.4) Gecko/20060628 Firefox/1.5.0.4} \
4515 }
4516 /   </screen>
4517   </listitem>
4518  </varlistentry>
4519 </variablelist>
4520 </sect3>
4521
4522
4523 <!--   ~~~~~       New section      ~~~~~     -->
4524 <sect3 renderas="sect4" id="hide-content-disposition">
4525 <title>hide-content-disposition</title>
4526 <!--
4527 new action
4528 -->
4529 <variablelist>
4530  <varlistentry>
4531   <term>Typical use:</term>
4532   <listitem>
4533    <para>Prevent download menus for content you prefer to view inside the browser.</para>
4534   </listitem>
4535  </varlistentry>
4536
4537  <varlistentry>
4538   <term>Effect:</term>
4539   <listitem>
4540    <para>
4541     Deletes or replaces the <quote>Content-Disposition:</quote> HTTP header set by some servers.
4542    </para>
4543   </listitem>
4544  </varlistentry>
4545
4546  <varlistentry>
4547   <term>Type:</term>
4548   <!-- Boolean, Parameterized, Multi-value -->
4549   <listitem>
4550    <para>Parameterized.</para>
4551   </listitem>
4552  </varlistentry>
4553
4554  <varlistentry>
4555   <term>Parameter:</term>
4556   <listitem>
4557    <para>
4558     Keyword: <quote>block</quote>, or any user defined value.
4559    </para>
4560   </listitem>
4561  </varlistentry>
4562
4563  <varlistentry>
4564   <term>Notes:</term>
4565   <listitem>
4566    <para>
4567     Some servers set the <quote>Content-Disposition:</quote> HTTP header for
4568     documents they assume you want to save locally before viewing them.
4569     The <quote>Content-Disposition:</quote> header contains the file name
4570     the browser is supposed to use by default.
4571    </para>
4572    <para>
4573     In most browsers that understand this header, it makes it impossible to
4574     <emphasis>just view</emphasis> the document, without downloading it first,
4575     even if it's just a simple text file or an image.
4576    </para>
4577    <para>
4578     Removing the <quote>Content-Disposition:</quote> header helps
4579     to prevent this annoyance, but some browsers additionally check the
4580     <quote>Content-Type:</quote> header, before they decide if they can
4581     display a document without saving it first. In these cases, you have
4582     to change this header as well, before the browser stops displaying
4583     download menus.
4584    </para>
4585    <para>
4586     It is also possible to change the server's file name suggestion
4587     to another one, but in most cases it isn't worth the time to set
4588     it up.
4589    </para>
4590    <para>
4591     This action will probably be removed in the future,
4592     use server-header filters instead.
4593    </para>
4594   </listitem>
4595  </varlistentry>
4596
4597  <varlistentry>
4598   <term>Example usage:</term>
4599   <listitem>
4600      <screen># Disarm the download link in Sourceforge's patch tracker
4601 { -filter \
4602  +content-type-overwrite{text/plain}\
4603  +hide-content-disposition{block} }
4604  .sourceforge.net/tracker/download\.php</screen>
4605   </listitem>
4606  </varlistentry>
4607 </variablelist>
4608 </sect3>
4609
4610
4611 <!--   ~~~~~       New section      ~~~~~     -->
4612 <sect3 renderas="sect4" id="hide-if-modified-since">
4613 <title>hide-if-modified-since</title>
4614 <!--
4615 new action
4616 -->
4617 <variablelist>
4618  <varlistentry>
4619   <term>Typical use:</term>
4620   <listitem>
4621    <para>Prevent yet another way to track the user's steps between sessions.</para>
4622   </listitem>
4623  </varlistentry>
4624
4625  <varlistentry>
4626   <term>Effect:</term>
4627   <listitem>
4628    <para>
4629     Deletes the <quote>If-Modified-Since:</quote> HTTP client header or modifies its value.
4630    </para>
4631   </listitem>
4632  </varlistentry>
4633
4634  <varlistentry>
4635   <term>Type:</term>
4636   <!-- Boolean, Parameterized, Multi-value -->
4637   <listitem>
4638    <para>Parameterized.</para>
4639   </listitem>
4640  </varlistentry>
4641
4642  <varlistentry>
4643   <term>Parameter:</term>
4644   <listitem>
4645    <para>
4646     Keyword: <quote>block</quote>, or a user defined value that specifies a range of hours.
4647    </para>
4648   </listitem>
4649  </varlistentry>
4650
4651  <varlistentry>
4652   <term>Notes:</term>
4653   <listitem>
4654    <para>
4655     Removing this header is useful for filter testing, where you want to force a real
4656     reload instead of getting status code <quote>304</quote>, which would cause the
4657     browser to use a cached copy of the page.
4658    </para>
4659    <para>
4660     Instead of removing the header, <literal>hide-if-modified-since</literal> can
4661     also add or subtract a random amount of time to/from the header's value.
4662     You specify a range of minutes where the random factor should be chosen from and
4663     <application>Privoxy</application> does the rest. A negative value means
4664     subtracting, a positive value adding.
4665    </para>
4666    <para>
4667     Randomizing the value of the <quote>If-Modified-Since:</quote> makes
4668     it less likely that the server can use the time as a cookie replacement,
4669     but you will run into caching problems if the random range is too high.
4670    </para>
4671    <para>
4672     It is a good idea to only use a small negative value and let
4673     <literal><link linkend="overwrite-last-modified">overwrite-last-modified</link></literal>
4674     handle the greater changes.
4675    </para>
4676    <para>
4677     It is also recommended to use this action together with
4678     <literal><link linkend="crunch-if-none-match">crunch-if-none-match</link></literal>,
4679     otherwise it's more or less pointless.
4680    </para>
4681   </listitem>
4682  </varlistentry>
4683
4684  <varlistentry>
4685   <term>Example usage (section):</term>
4686   <listitem>
4687      <screen># Let the browser revalidate but make tracking based on the time less likely.
4688 {+hide-if-modified-since{-60} \
4689  +overwrite-last-modified{randomize} \
4690  +crunch-if-none-match}
4691 /</screen>
4692   </listitem>
4693  </varlistentry>
4694 </variablelist>
4695 </sect3>
4696
4697
4698 <!--   ~~~~~       New section      ~~~~~     -->
4699 <sect3 renderas="sect4" id="hide-from-header">
4700 <title>hide-from-header</title>
4701
4702 <variablelist>
4703  <varlistentry>
4704   <term>Typical use:</term>
4705   <listitem>
4706    <para>Keep your (old and ill) browser from telling web servers your email address</para>
4707   </listitem>
4708  </varlistentry>
4709
4710  <varlistentry>
4711   <term>Effect:</term>
4712   <listitem>
4713    <para>
4714     Deletes any existing <quote>From:</quote> HTTP header, or replaces it with the
4715     specified string.
4716    </para>
4717   </listitem>
4718  </varlistentry>
4719
4720  <varlistentry>
4721   <term>Type:</term>
4722   <!-- Boolean, Parameterized, Multi-value -->
4723   <listitem>
4724    <para>Parameterized.</para>
4725   </listitem>
4726  </varlistentry>
4727
4728  <varlistentry>
4729   <term>Parameter:</term>
4730   <listitem>
4731    <para>
4732     Keyword: <quote>block</quote>, or any user defined value.
4733    </para>
4734   </listitem>
4735  </varlistentry>
4736
4737  <varlistentry>
4738   <term>Notes:</term>
4739   <listitem>
4740    <para>
4741     The keyword <quote>block</quote> will completely remove the header
4742     (not to be confused with the <literal><link linkend="block">block</link></literal>
4743     action).
4744    </para>
4745    <para>
4746     Alternately, you can specify any value you prefer to be sent to the web
4747     server. If you do, it is a matter of fairness not to use any address that
4748     is actually used by a real person.
4749    </para>
4750    <para>
4751     This action is rarely needed, as modern web browsers don't send
4752     <quote>From:</quote> headers anymore.
4753    </para>
4754   </listitem>
4755  </varlistentry>
4756
4757  <varlistentry>
4758   <term>Example usage:</term>
4759   <listitem>
4760     <screen>+hide-from-header{block}</screen>
4761     <para>or</para>
4762     <screen>+hide-from-header{spam-me-senseless@sittingduck.example.com}</screen>
4763   </listitem>
4764  </varlistentry>
4765 </variablelist>
4766 </sect3>
4767
4768
4769 <!--   ~~~~~       New section      ~~~~~     -->
4770 <sect3 renderas="sect4" id="hide-referrer">
4771 <title>hide-referrer</title>
4772 <anchor id="hide-referer">
4773 <variablelist>
4774  <varlistentry>
4775   <term>Typical use:</term>
4776   <listitem>
4777    <para>Conceal which link you followed to get to a particular site</para>
4778   </listitem>
4779  </varlistentry>
4780
4781  <varlistentry>
4782   <term>Effect:</term>
4783   <listitem>
4784    <para>
4785     Deletes the <quote>Referer:</quote> (sic) HTTP header from the client request,
4786     or replaces it with a forged one.
4787    </para>
4788   </listitem>
4789  </varlistentry>
4790
4791  <varlistentry>
4792   <term>Type:</term>
4793   <!-- Boolean, Parameterized, Multi-value -->
4794   <listitem>
4795    <para>Parameterized.</para>
4796   </listitem>
4797  </varlistentry>
4798
4799  <varlistentry>
4800   <term>Parameter:</term>
4801   <listitem>
4802    <itemizedlist>
4803     <listitem>
4804      <para><quote>conditional-block</quote> to delete the header completely if the host has changed.</para>
4805     </listitem>
4806     <listitem>
4807      <para><quote>conditional-forge</quote> to forge the header if the host has changed.</para>
4808     </listitem>
4809     <listitem>
4810      <para><quote>block</quote> to delete the header unconditionally.</para>
4811     </listitem>
4812     <listitem>
4813      <para><quote>forge</quote> to pretend to be coming from the homepage of the server we are talking to.</para>
4814     </listitem>
4815     <listitem>
4816      <para>Any other string to set a user defined referrer.</para>
4817     </listitem>
4818    </itemizedlist>
4819   </listitem>
4820  </varlistentry>
4821
4822  <varlistentry>
4823   <term>Notes:</term>
4824   <listitem>
4825    <para>
4826     <literal>conditional-block</literal> is the only parameter,
4827     that isn't easily detected in the server's log file. If it blocks the
4828     referrer, the request will look like the visitor used a bookmark or
4829     typed in the address directly.
4830    </para>
4831    <para>
4832     Leaving the referrer unmodified for requests on the same host
4833     allows the server owner to see the visitor's <quote>click path</quote>,
4834     but in most cases she could also get that information by comparing
4835     other parts of the log file: for example the User-Agent if it isn't
4836     a very common one, or the user's IP address if it doesn't change between
4837     different requests.
4838    </para>
4839    <para>
4840     Always blocking the referrer, or using a custom one, can lead to
4841     failures on servers that check the referrer before they answer any
4842     requests, in an attempt to prevent their content from being
4843     embedded or linked to elsewhere.
4844    </para>
4845    <para>
4846     Both <literal>conditional-block</literal> and <literal>forge</literal>
4847     will work with referrer checks, as long as content and valid referring page
4848     are on the same host. Most of the time that's the case.
4849    </para>
4850    <para>
4851     <literal>hide-referer</literal> is an alternate spelling of
4852     <literal>hide-referrer</literal> and the two can be can be freely
4853     substituted with each other. (<quote>referrer</quote> is the
4854     correct English spelling, however the HTTP specification has a bug - it
4855     requires it to be spelled as <quote>referer</quote>.)
4856    </para>
4857   </listitem>
4858  </varlistentry>
4859
4860  <varlistentry>
4861   <term>Example usage:</term>
4862   <listitem>
4863      <screen>+hide-referrer{forge}</screen>
4864      <para>or</para>
4865      <screen>+hide-referrer{http://www.yahoo.com/}</screen>
4866   </listitem>
4867  </varlistentry>
4868 </variablelist>
4869 </sect3>
4870
4871
4872 <!--   ~~~~~       New section      ~~~~~     -->
4873 <sect3 renderas="sect4" id="hide-user-agent">
4874 <title>hide-user-agent</title>
4875
4876 <variablelist>
4877  <varlistentry>
4878   <term>Typical use:</term>
4879   <listitem>
4880    <para>Try to conceal your type of browser and client operating system</para>
4881   </listitem>
4882  </varlistentry>
4883
4884  <varlistentry>
4885   <term>Effect:</term>
4886   <listitem>
4887    <para>
4888     Replaces the value of the <quote>User-Agent:</quote> HTTP header
4889     in client requests with the specified value.
4890    </para>
4891   </listitem>
4892  </varlistentry>
4893
4894  <varlistentry>
4895   <term>Type:</term>
4896   <!-- Boolean, Parameterized, Multi-value -->
4897   <listitem>
4898    <para>Parameterized.</para>
4899   </listitem>
4900  </varlistentry>
4901
4902  <varlistentry>
4903   <term>Parameter:</term>
4904   <listitem>
4905    <para>
4906     Any user-defined string.
4907    </para>
4908   </listitem>
4909  </varlistentry>
4910
4911  <varlistentry>
4912   <term>Notes:</term>
4913   <listitem>
4914    <warning>
4915     <para>
4916      This can lead to problems on web sites that depend on looking at this header in
4917      order to customize their content for different browsers (which, by the
4918      way, is <emphasis>NOT</emphasis> the right thing to do: good web sites
4919      work browser-independently).
4920     </para>
4921    </warning>
4922    <para>
4923     Using this action in multi-user setups or wherever different types of
4924     browsers will access the same <application>Privoxy</application> is
4925     <emphasis>not recommended</emphasis>. In single-user, single-browser
4926     setups, you might use it to delete your OS version information from
4927     the headers, because it is an invitation to exploit known bugs for your
4928     OS. It is also occasionally useful to forge this in order to access
4929     sites that won't let you in otherwise (though there may be a good
4930     reason in some cases).
4931    </para>
4932    <para>
4933      More information on known user-agent strings can be found at
4934      <ulink url="http://www.user-agents.org/">http://www.user-agents.org/</ulink>
4935      and
4936      <ulink url="http://en.wikipedia.org/wiki/User_agent">http://en.wikipedia.org/wiki/User_agent</ulink>.
4937    </para>
4938    </listitem>
4939  </varlistentry>
4940
4941  <varlistentry>
4942   <term>Example usage:</term>
4943   <listitem>
4944      <screen>+hide-user-agent{Netscape 6.1 (X11; I; Linux 2.4.18 i686)}</screen>
4945   </listitem>
4946  </varlistentry>
4947 </variablelist>
4948 </sect3>
4949
4950
4951 <!--   ~~~~~       New section      ~~~~~     -->
4952 <sect3 renderas="sect4" id="limit-connect">
4953 <title>limit-connect</title>
4954
4955 <variablelist>
4956  <varlistentry>
4957   <term>Typical use:</term>
4958   <listitem>
4959    <para>Prevent abuse of <application>Privoxy</application> as a TCP proxy relay or disable SSL for untrusted sites</para>
4960   </listitem>
4961  </varlistentry>
4962
4963  <varlistentry>
4964   <term>Effect:</term>
4965   <listitem>
4966    <para>
4967     Specifies to which ports HTTP CONNECT requests are allowable.
4968    </para>
4969   </listitem>
4970  </varlistentry>
4971
4972  <varlistentry>
4973   <term>Type:</term>
4974   <!-- Boolean, Parameterized, Multi-value -->
4975   <listitem>
4976    <para>Parameterized.</para>
4977   </listitem>
4978  </varlistentry>
4979
4980  <varlistentry>
4981   <term>Parameter:</term>
4982   <listitem>
4983    <para>
4984     A comma-separated list of ports or port ranges (the latter using dashes, with the minimum
4985     defaulting to 0 and the maximum to 65K).
4986    </para>
4987   </listitem>
4988  </varlistentry>
4989
4990  <varlistentry>
4991   <term>Notes:</term>
4992   <listitem>
4993    <para>
4994     By default, i.e. if no <literal>limit-connect</literal> action applies,
4995     <application>Privoxy</application> allows HTTP CONNECT requests to all
4996     ports. Use <literal>limit-connect</literal> if fine-grained control
4997     is desired for some or all destinations.
4998    </para>
4999    <para>
5000     The CONNECT methods exists in HTTP to allow access to secure websites
5001     (<quote>https://</quote> URLs) through proxies. It works very simply:
5002     the proxy connects to the server on the specified port, and then
5003     short-circuits its connections to the client and to the remote server.
5004     This means CONNECT-enabled proxies can be used as TCP relays very easily.
5005   </para>
5006   <para>
5007    <application>Privoxy</application> relays HTTPS traffic without seeing
5008    the decoded content. Websites can leverage this limitation to circumvent &my-app;'s
5009    filters. By specifying an invalid port range you can disable HTTPS entirely.
5010   </para>
5011   </listitem>
5012  </varlistentry>
5013
5014  <varlistentry>
5015   <term>Example usages:</term>
5016   <listitem>
5017    <!-- I had trouble getting the spacing to look right in my browser -->
5018    <!-- I probably have the wrong font setup, bollocks. -->
5019    <!-- Apparently the emphasis tag uses a proportional font no matter what -->
5020      <screen>+limit-connect{443}                   # Port 443 is OK.
5021 +limit-connect{80,443}                # Ports 80 and 443 are OK.
5022 +limit-connect{-3, 7, 20-100, 500-}   # Ports less than 3, 7, 20 to 100 and above 500 are OK.
5023 +limit-connect{-}                     # All ports are OK
5024 +limit-connect{,}                     # No HTTPS/SSL traffic is allowed</screen>
5025   </listitem>
5026  </varlistentry>
5027 </variablelist>
5028 </sect3>
5029
5030
5031 <!--   ~~~~~       New section      ~~~~~     -->
5032 <sect3 renderas="sect4" id="limit-cookie-lifetime">
5033 <title>limit-cookie-lifetime</title>
5034
5035 <variablelist>
5036  <varlistentry>
5037   <term>Typical use:</term>
5038   <listitem>
5039    <para>Limit the lifetime of HTTP cookies to a couple of minutes or hours.</para>
5040   </listitem>
5041  </varlistentry>
5042
5043  <varlistentry>
5044   <term>Effect:</term>
5045   <listitem>
5046    <para>
5047     Overwrites the expires field in Set-Cookie server headers if it's above the specified limit.
5048    </para>
5049   </listitem>
5050  </varlistentry>
5051
5052  <varlistentry>
5053   <term>Type:</term>
5054   <!-- Boolean, Parameterized, Multi-value -->
5055   <listitem>
5056    <para>Parameterized.</para>
5057   </listitem>
5058  </varlistentry>
5059
5060  <varlistentry>
5061   <term>Parameter:</term>
5062   <listitem>
5063    <para>
5064     The lifetime limit in minutes, or 0.
5065    </para>
5066   </listitem>
5067  </varlistentry>
5068
5069  <varlistentry>
5070   <term>Notes:</term>
5071   <listitem>
5072    <para>
5073     This action reduces the lifetime of HTTP cookies coming from the
5074     server to the specified number of minutes, starting from the time
5075     the cookie passes Privoxy.
5076    </para>
5077    <para>
5078     Cookies with a lifetime below the limit are not modified.
5079     The lifetime of session cookies is set to the specified limit.
5080    </para>
5081    <para>
5082     The effect of this action depends on the server.
5083    </para>
5084    <para>
5085     In case of servers which refresh their cookies with each response
5086     (or at least frequently), the lifetime limit set by this action
5087     is updated as well.
5088     Thus, a session associated with the cookie continues to work with
5089     this action enabled, as long as a new request is made before the
5090     last limit set is reached.
5091    </para>
5092    <para>
5093     However, some servers send their cookies once, with a lifetime of several
5094     years (the year 2037 is a popular choice), and do not refresh them
5095     until a certain event in the future, for example the user logging out.
5096     In this case this action may limit the absolute lifetime of the session,
5097     even if requests are made frequently.
5098    </para>
5099    <para>
5100     If the parameter is <quote>0</quote>, this action behaves like
5101     <literal><link linkend="session-cookies-only">session-cookies-only</link></literal>.
5102    </para>
5103   </listitem>
5104  </varlistentry>
5105
5106  <varlistentry>
5107   <term>Example usages:</term>
5108   <listitem>
5109      <screen>+limit-cookie-lifetime{60}</screen>
5110   </listitem>
5111  </varlistentry>
5112 </variablelist>
5113 </sect3>
5114
5115 <!--   ~~~~~       New section      ~~~~~     -->
5116 <sect3 renderas="sect4" id="prevent-compression">
5117 <title>prevent-compression</title>
5118
5119 <variablelist>
5120  <varlistentry>
5121   <term>Typical use:</term>
5122   <listitem>
5123    <para>
5124     Ensure that servers send the content uncompressed, so it can be
5125     passed through <literal><link linkend="filter">filter</link></literal>s.
5126    </para>
5127   </listitem>
5128  </varlistentry>
5129
5130  <varlistentry>
5131   <term>Effect:</term>
5132   <listitem>
5133    <para>
5134     Removes the Accept-Encoding header which can be used to ask for compressed transfer.
5135    </para>
5136   </listitem>
5137  </varlistentry>
5138
5139  <varlistentry>
5140   <term>Type:</term>
5141   <!-- Boolean, Parameterized, Multi-value -->
5142   <listitem>
5143    <para>Boolean.</para>
5144   </listitem>
5145  </varlistentry>
5146
5147  <varlistentry>
5148   <term>Parameter:</term>
5149   <listitem>
5150    <para>
5151     N/A
5152    </para>
5153   </listitem>
5154  </varlistentry>
5155
5156  <varlistentry>
5157   <term>Notes:</term>
5158   <listitem>
5159    <para>
5160     More and more websites send their content compressed by default, which
5161     is generally a good idea and saves bandwidth. But the <literal><link
5162     linkend="filter">filter</link></literal> and
5163     <literal><link linkend="deanimate-gifs">deanimate-gifs</link></literal>
5164     actions need access to the uncompressed data.
5165    </para>
5166    <para>
5167     When compiled with zlib support (available since &my-app; 3.0.7), content that should be
5168     filtered is decompressed on-the-fly and you don't have to worry about this action.
5169     If you are using an older &my-app; version, or one that hasn't been compiled with zlib
5170     support, this action can be used to convince the server to send the content uncompressed.
5171    </para>
5172    <para>
5173     Most text-based instances compress very well, the size is seldom decreased by less than 50%,
5174     for markup-heavy instances like news feeds saving more than 90% of the original size isn't
5175     unusual.
5176    </para>
5177    <para>
5178     Not using compression will therefore slow down the transfer, and you should only
5179     enable this action if you really need it. As of &my-app; 3.0.7 it's disabled in all
5180     predefined action settings.
5181    </para>
5182    <para>
5183     Note that some (rare) ill-configured sites don't handle requests for uncompressed
5184     documents correctly. Broken PHP applications tend to send an empty document body,
5185     some IIS versions only send the beginning of the content. If you enable
5186     <literal>prevent-compression</literal> per default, you might want to add
5187     exceptions for those sites. See the example for how to do that.
5188    </para>
5189   </listitem>
5190  </varlistentry>
5191
5192  <varlistentry>
5193   <term>Example usage (sections):</term>
5194   <listitem>
5195     <screen>
5196 # Selectively turn off compression, and enable a filter
5197 #
5198 { +filter{tiny-textforms} +prevent-compression }
5199 # Match only these sites
5200  .google.
5201  sourceforge.net
5202  sf.net
5203
5204 # Or instead, we could set a universal default:
5205 #
5206 { +prevent-compression }
5207  / # Match all sites
5208
5209 # Then maybe make exceptions for broken sites:
5210 #
5211 { -prevent-compression }
5212 .compusa.com/</screen>
5213   </listitem>
5214  </varlistentry>
5215
5216 </variablelist>
5217 </sect3>
5218
5219
5220 <!--   ~~~~~       New section      ~~~~~     -->
5221 <sect3 renderas="sect4" id="overwrite-last-modified">
5222 <title>overwrite-last-modified</title>
5223 <!--
5224 new action
5225 -->
5226 <variablelist>
5227  <varlistentry>
5228   <term>Typical use:</term>
5229   <listitem>
5230    <para>Prevent yet another way to track the user's steps between sessions.</para>
5231   </listitem>
5232  </varlistentry>
5233
5234  <varlistentry>
5235   <term>Effect:</term>
5236   <listitem>
5237    <para>
5238     Deletes the <quote>Last-Modified:</quote> HTTP server header or modifies its value.
5239    </para>
5240   </listitem>
5241  </varlistentry>
5242
5243  <varlistentry>
5244   <term>Type:</term>
5245   <!-- Boolean, Parameterized, Multi-value -->
5246   <listitem>
5247    <para>Parameterized.</para>
5248   </listitem>
5249  </varlistentry>
5250
5251  <varlistentry>
5252   <term>Parameter:</term>
5253   <listitem>
5254    <para>
5255     One of the keywords: <quote>block</quote>, <quote>reset-to-request-time</quote>
5256     and <quote>randomize</quote>
5257    </para>
5258   </listitem>
5259  </varlistentry>
5260
5261  <varlistentry>
5262   <term>Notes:</term>
5263   <listitem>
5264    <para>
5265     Removing the <quote>Last-Modified:</quote> header is useful for filter
5266     testing, where you want to force a real reload instead of getting status
5267     code <quote>304</quote>, which would cause the browser to reuse the old
5268     version of the page.
5269    </para>
5270    <para>
5271     The <quote>randomize</quote> option overwrites the value of the
5272     <quote>Last-Modified:</quote> header with a randomly chosen time
5273     between the original value and the current time. In theory the server
5274     could send each document with a different <quote>Last-Modified:</quote>
5275     header to track visits without using cookies. <quote>Randomize</quote>
5276     makes it impossible and the browser can still revalidate cached documents.
5277    </para>
5278    <para>
5279     <quote>reset-to-request-time</quote> overwrites the value of the
5280     <quote>Last-Modified:</quote> header with the current time. You could use
5281     this option together with
5282     <literal><link linkend="hide-if-modified-since">hide-if-modified-since</link></literal>
5283     to further customize your random range.
5284    </para>
5285    <para>
5286     The preferred parameter here is <quote>randomize</quote>. It is safe
5287     to use, as long as the time settings are more or less correct.
5288     If the server sets the <quote>Last-Modified:</quote> header to the time
5289     of the request, the random range becomes zero and the value stays the same.
5290     Therefore you should later randomize it a second time with
5291     <literal><link linkend="hide-if-modified-since">hided-if-modified-since</link></literal>,
5292     just to be sure.
5293    </para>
5294    <para>
5295     It is also recommended to use this action together with
5296     <literal><link linkend="crunch-if-none-match">crunch-if-none-match</link></literal>.
5297    </para>
5298   </listitem>
5299  </varlistentry>
5300
5301  <varlistentry>
5302   <term>Example usage:</term>
5303   <listitem>
5304      <screen># Let the browser revalidate without being tracked across sessions
5305 { +hide-if-modified-since{-60} \
5306  +overwrite-last-modified{randomize} \
5307  +crunch-if-none-match}
5308 /</screen>
5309   </listitem>
5310  </varlistentry>
5311 </variablelist>
5312 </sect3>
5313
5314
5315 <!--   ~~~~~       New section      ~~~~~     -->
5316 <sect3 renderas="sect4" id="redirect">
5317 <title>redirect</title>
5318 <!--
5319 new action
5320 -->
5321 <variablelist>
5322  <varlistentry>
5323   <term>Typical use:</term>
5324   <listitem>
5325    <para>
5326     Redirect requests to other sites.
5327    </para>
5328   </listitem>
5329  </varlistentry>
5330
5331  <varlistentry>
5332   <term>Effect:</term>
5333   <listitem>
5334    <para>
5335     Convinces the browser that the requested document has been moved
5336     to another location and the browser should get it from there.
5337    </para>
5338   </listitem>
5339  </varlistentry>
5340
5341  <varlistentry>
5342   <term>Type:</term>
5343   <!-- Boolean, Parameterized, Multi-value -->
5344   <listitem>
5345    <para>Parameterized</para>
5346   </listitem>
5347  </varlistentry>
5348
5349  <varlistentry>
5350   <term>Parameter:</term>
5351   <listitem>
5352    <para>
5353     An absolute URL or a single pcrs command.
5354    </para>
5355   </listitem>
5356  </varlistentry>
5357
5358  <varlistentry>
5359   <term>Notes:</term>
5360   <listitem>
5361    <para>
5362     Requests to which this action applies are answered with a
5363     HTTP redirect to URLs of your choosing. The new URL is
5364     either provided as parameter, or derived by applying a
5365     single pcrs command to the original URL.
5366    </para>
5367    <para>
5368     The syntax for pcrs commands is documented in the
5369     <link linkend="filter-file">filter file</link> section.
5370    </para>
5371    <para>
5372     Requests can't be blocked and redirected at the same time,
5373     applying this action together with
5374     <literal><link linkend="block">block</link></literal>
5375     is a configuration error. Currently the request is blocked
5376     and an error message logged, the behavior may change in the
5377     future and result in Privoxy rejecting the action file.
5378    </para>
5379    <para>
5380     This action can be combined with
5381     <literal><link linkend="fast-redirects">fast-redirects{check-decoded-url}</link></literal>
5382     to redirect to a decoded version of a rewritten URL.
5383    </para>
5384    <para>
5385     Use this action carefully, make sure not to create redirection loops
5386     and be aware that using your own redirects might make it
5387     possible to fingerprint your requests.
5388    </para>
5389    <para>
5390     In case of problems with your redirects, or simply to watch
5391     them working, enable <link linkend="DEBUG">debug 128</link>.
5392    </para>
5393   </listitem>
5394  </varlistentry>
5395
5396  <varlistentry>
5397   <term>Example usages:</term>
5398   <listitem>
5399     <screen># Replace example.com's style sheet with another one
5400 { +redirect{http://localhost/css-replacements/example.com.css} }
5401  example.com/stylesheet\.css
5402
5403 # Create a short, easy to remember nickname for a favorite site
5404 # (relies on the browser to accept and forward invalid URLs to &my-app;)
5405 { +redirect{https://www.privoxy.org/user-manual/actions-file.html} }
5406  a
5407
5408 # Always use the expanded view for Undeadly.org articles
5409 # (Note the $ at the end of the URL pattern to make sure
5410 # the request for the rewritten URL isn't redirected as well)
5411 {+redirect{s@$@&amp;mode=expanded@}}
5412 undeadly.org/cgi\?action=article&amp;sid=\d*$
5413
5414 # Redirect Google search requests to MSN
5415 {+redirect{s@^http://[^/]*/search\?q=([^&amp;]*).*@http://search.msn.com/results.aspx?q=$1@}}
5416 .google.com/search
5417
5418 # Redirect MSN search requests to Yahoo
5419 {+redirect{s@^http://[^/]*/results\.aspx\?q=([^&amp;]*).*@http://search.yahoo.com/search?p=$1@}}
5420 search.msn.com//results\.aspx\?q=
5421
5422 # Redirect http://example.com/&amp;bla=fasel&amp;toChange=foo (and any other value but "bar")
5423 # to       http://example.com/&amp;bla=fasel&amp;toChange=bar
5424 #
5425 # The URL pattern makes sure that the following request isn't redirected again.
5426 {+redirect{s@toChange=[^&amp;]+@toChange=bar@}}
5427 example.com/.*toChange=(?!bar)
5428
5429 # Add a shortcut to look up illumos bugs
5430 {+redirect{s@^http://i([0-9]+)/.*@https://www.illumos.org/issues/$1@}}
5431 # Redirected URL = http://i4974/
5432 # Redirect Destination = https://www.illumos.org/issues/4974
5433 i[0-9][0-9][0-9][0-9]*/
5434
5435 # Redirect remote requests for this manual
5436 # to the local version delivered by Privoxy
5437 {+redirect{s@^http://www@http://config@}}
5438 www.privoxy.org/user-manual/</screen>
5439   </listitem>
5440  </varlistentry>
5441
5442 </variablelist>
5443 </sect3>
5444
5445
5446 <!--   ~~~~~       New section      ~~~~~     -->
5447 <sect3 renderas="sect4" id="server-header-filter">
5448 <title>server-header-filter</title>
5449
5450 <variablelist>
5451  <varlistentry>
5452   <term>Typical use:</term>
5453   <listitem>
5454    <para>
5455    Rewrite or remove single server headers.
5456    </para>
5457   </listitem>
5458  </varlistentry>
5459
5460  <varlistentry>
5461   <term>Effect:</term>
5462   <listitem>
5463    <para>
5464     All server headers to which this action applies are filtered on-the-fly
5465     through the specified regular expression based substitutions.
5466    </para>
5467   </listitem>
5468  </varlistentry>
5469
5470  <varlistentry>
5471   <term>Type:</term>
5472   <!-- boolean, parameterized, Multi-value -->
5473   <listitem>
5474    <para>Multi-value.</para>
5475   </listitem>
5476  </varlistentry>
5477
5478  <varlistentry>
5479   <term>Parameter:</term>
5480   <listitem>
5481    <para>
5482     The name of a server-header filter, as defined in one of the
5483     <link linkend="filter-file">filter files</link>.
5484    </para>
5485   </listitem>
5486  </varlistentry>
5487
5488  <varlistentry>
5489   <term>Notes:</term>
5490   <listitem>
5491    <para>
5492     Server-header filters are applied to each header on its own, not to
5493     all at once. This makes it easier to diagnose problems, but on the downside
5494     you can't write filters that only change header x if header y's value is z.
5495     You can do that by using tags though.
5496    </para>
5497    <para>
5498     Server-header filters are executed after the other header actions have finished
5499     and use their output as input.
5500    </para>
5501    <para>
5502     Please refer to the <link linkend="filter-file">filter file chapter</link>
5503     to learn which server-header filters are available by default, and how to
5504     create your own.
5505    </para>
5506  </listitem>
5507  </varlistentry>
5508
5509  <varlistentry>
5510   <term>Example usage (section):</term>
5511   <listitem>
5512      <screen>
5513 {+server-header-filter{html-to-xml}}
5514 example.org/xml-instance-that-is-delivered-as-html
5515
5516 {+server-header-filter{xml-to-html}}
5517 example.org/instance-that-is-delivered-as-xml-but-is-not
5518     </screen>
5519   </listitem>
5520  </varlistentry>
5521
5522 </variablelist>
5523 </sect3>
5524
5525
5526 <!--   ~~~~~       New section      ~~~~~     -->
5527 <sect3 renderas="sect4" id="server-header-tagger">
5528 <title>server-header-tagger</title>
5529
5530 <variablelist>
5531  <varlistentry>
5532   <term>Typical use:</term>
5533   <listitem>
5534    <para>
5535    Enable or disable filters based on the Content-Type header.
5536    </para>
5537   </listitem>
5538  </varlistentry>
5539
5540  <varlistentry>
5541   <term>Effect:</term>
5542   <listitem>
5543    <para>
5544     Server headers to which this action applies are filtered on-the-fly through
5545     the specified regular expression based substitutions, the result is used as
5546     tag.
5547    </para>
5548   </listitem>
5549  </varlistentry>
5550
5551  <varlistentry>
5552   <term>Type:</term>
5553   <!-- boolean, parameterized, Multi-value -->
5554   <listitem>
5555    <para>Multi-value.</para>
5556   </listitem>
5557  </varlistentry>
5558
5559  <varlistentry>
5560   <term>Parameter:</term>
5561   <listitem>
5562    <para>
5563     The name of a server-header tagger, as defined in one of the
5564     <link linkend="filter-file">filter files</link>.
5565    </para>
5566   </listitem>
5567  </varlistentry>
5568
5569  <varlistentry>
5570   <term>Notes:</term>
5571   <listitem>
5572    <para>
5573     Server-header taggers are applied to each header on its own,
5574     and as the header isn't modified, each tagger <quote>sees</quote>
5575     the original.
5576    </para>
5577    <para>
5578     Server-header taggers are executed before all other header actions
5579     that modify server headers. Their tags can be used to control
5580     all of the other server-header actions, the content filters
5581     and the crunch actions (<link linkend="redirect">redirect</link>
5582     and <link linkend="block">block</link>).
5583    </para>
5584    <para>
5585     Obviously crunching based on tags created by server-header taggers
5586     doesn't prevent the request from showing up in the server's log file.
5587    </para>
5588
5589  </listitem>
5590  </varlistentry>
5591
5592  <varlistentry>
5593   <term>Example usage (section):</term>
5594   <listitem>
5595      <screen>
5596 # Tag every request with the content type declared by the server
5597 {+server-header-tagger{content-type}}
5598 /
5599
5600 # If the response has a tag starting with 'image/' enable an external
5601 # filter that only applies to images.
5602 #
5603 # Note that the filter is not available by default, it's just a
5604 # <literal><link linkend="external-filter-syntax">silly example</link></literal>.
5605 {+external-filter{rotate-image} +force-text-mode}
5606 TAG:^image/
5607 </screen>
5608   </listitem>
5609  </varlistentry>
5610
5611 </variablelist>
5612 </sect3>
5613
5614
5615 <!--   ~~~~~       New section      ~~~~~     -->
5616 <sect3 renderas="sect4" id="session-cookies-only">
5617 <title>session-cookies-only</title>
5618
5619 <variablelist>
5620  <varlistentry>
5621   <term>Typical use:</term>
5622   <listitem>
5623    <para>
5624     Allow only temporary <quote>session</quote> cookies (for the current
5625     browser session <emphasis>only</emphasis>).
5626    </para>
5627   </listitem>
5628  </varlistentry>
5629
5630  <varlistentry>
5631   <term>Effect:</term>
5632   <listitem>
5633    <para>
5634     Deletes the <quote>expires</quote> field from <quote>Set-Cookie:</quote>
5635     server headers. Most browsers will not store such cookies permanently and
5636     forget them in between sessions.
5637    </para>
5638   </listitem>
5639  </varlistentry>
5640
5641 <varlistentry>
5642   <term>Type:</term>
5643   <!-- Boolean, Parameterized, Multi-value -->
5644   <listitem>
5645    <para>Boolean.</para>
5646   </listitem>
5647  </varlistentry>
5648
5649  <varlistentry>
5650   <term>Parameter:</term>
5651   <listitem>
5652    <para>
5653     N/A
5654    </para>
5655   </listitem>
5656  </varlistentry>
5657
5658  <varlistentry>
5659   <term>Notes:</term>
5660   <listitem>
5661    <para>
5662     This is less strict than <literal><link linkend="crunch-incoming-cookies">crunch-incoming-cookies</link></literal> /
5663     <literal><link linkend="crunch-outgoing-cookies">crunch-outgoing-cookies</link></literal> and allows you to browse
5664     websites that insist or rely on setting cookies, without compromising your privacy too badly.
5665    </para>
5666    <para>
5667     Most browsers will not permanently store cookies that have been processed by
5668     <literal>session-cookies-only</literal> and will forget about them between sessions.
5669     This makes profiling cookies useless, but won't break sites which require cookies so
5670     that you can log in for transactions. This is generally turned on for all
5671     sites, and is the recommended setting.
5672    </para>
5673    <para>
5674     It makes <emphasis>no sense at all</emphasis> to use <literal>session-cookies-only</literal>
5675     together with <literal><link linkend="crunch-incoming-cookies">crunch-incoming-cookies</link></literal> or
5676     <literal><link linkend="crunch-outgoing-cookies">crunch-outgoing-cookies</link></literal>. If you do, cookies
5677     will be plainly killed.
5678    </para>
5679    <para>
5680     Note that it is up to the browser how it handles such cookies without an <quote>expires</quote>
5681     field. If you use an exotic browser, you might want to try it out to be sure.
5682    </para>
5683    <para>
5684     This setting also has no effect on cookies that may have been stored
5685     previously by the browser before starting <application>Privoxy</application>.
5686     These would have to be removed manually.
5687    </para>
5688    <para>
5689      <application>Privoxy</application> also uses
5690      the <link linkend="filter-content-cookies">content-cookies filter</link>
5691      to block some types of cookies. Content cookies are not effected by
5692      <literal>session-cookies-only</literal>.
5693    </para>
5694   </listitem>
5695  </varlistentry>
5696
5697  <varlistentry>
5698   <term>Example usage:</term>
5699   <listitem>
5700      <screen>+session-cookies-only</screen>
5701   </listitem>
5702  </varlistentry>
5703 </variablelist>
5704 </sect3>
5705
5706
5707 <!--   ~~~~~       New section      ~~~~~     -->
5708 <sect3 renderas="sect4" id="set-image-blocker">
5709 <title>set-image-blocker</title>
5710
5711 <variablelist>
5712  <varlistentry>
5713   <term>Typical use:</term>
5714   <listitem>
5715    <para>Choose the replacement for blocked images</para>
5716   </listitem>
5717  </varlistentry>
5718
5719  <varlistentry>
5720   <term>Effect:</term>
5721   <listitem>
5722    <para>
5723      This action alone doesn't do anything noticeable. If <emphasis>both</emphasis>
5724      <literal><link linkend="block">block</link></literal> <emphasis>and</emphasis> <literal><link
5725      linkend="handle-as-image">handle-as-image</link></literal> <emphasis>also</emphasis>
5726      apply, i.e. if the request is to be blocked as an image,
5727      <emphasis>then</emphasis> the parameter of this action decides what will be
5728      sent as a replacement.
5729    </para>
5730   </listitem>
5731  </varlistentry>
5732
5733  <varlistentry>
5734   <term>Type:</term>
5735   <!-- Boolean, Parameterized, Multi-value -->
5736   <listitem>
5737    <para>Parameterized.</para>
5738   </listitem>
5739  </varlistentry>
5740
5741  <varlistentry>
5742   <term>Parameter:</term>
5743   <listitem>
5744    <itemizedlist>
5745     <listitem>
5746      <para>
5747       <quote>pattern</quote> to send a built-in checkerboard pattern image. The image is visually
5748       decent, scales very well, and makes it obvious where banners were busted.
5749      </para>
5750     </listitem>
5751     <listitem>
5752      <para>
5753       <quote>blank</quote> to send a built-in transparent image. This makes banners disappear
5754       completely, but makes it hard to detect where <application>Privoxy</application> has blocked
5755       images on a given page and complicates troubleshooting if <application>Privoxy</application>
5756       has blocked innocent images, like navigation icons.
5757      </para>
5758     </listitem>
5759     <listitem>
5760      <para>
5761       <quote><replaceable class="parameter">target-url</replaceable></quote> to
5762       send a redirect to <replaceable class="parameter">target-url</replaceable>. You can redirect
5763       to any image anywhere, even in your local filesystem via <quote>file:///</quote> URL.
5764       (But note that not all browsers support redirecting to a local file system).
5765      </para>
5766      <para>
5767       A good application of redirects is to use special <application>Privoxy</application>-built-in
5768       URLs, which send the built-in images, as <replaceable class="parameter">target-url</replaceable>.
5769       This has the same visual effect as specifying <quote>blank</quote> or <quote>pattern</quote> in
5770       the first place, but enables your browser to cache the replacement image, instead of requesting
5771       it over and over again.
5772      </para>
5773     </listitem>
5774    </itemizedlist>
5775   </listitem>
5776  </varlistentry>
5777
5778  <varlistentry>
5779   <term>Notes:</term>
5780   <listitem>
5781    <para>
5782     The URLs for the built-in images are <quote>http://config.privoxy.org/send-banner?type=<replaceable
5783     class="parameter">type</replaceable></quote>, where <replaceable class="parameter">type</replaceable> is
5784     either <quote>blank</quote> or <quote>pattern</quote>.
5785    </para>
5786    <para>
5787     There is a third (advanced) type, called <quote>auto</quote>. It is <emphasis>NOT</emphasis> to be
5788     used in <literal>set-image-blocker</literal>, but meant for use from <link linkend="filter-file">filters</link>.
5789     Auto will select the type of image that would have applied to the referring page, had it been an image.
5790    </para>
5791   </listitem>
5792  </varlistentry>
5793
5794  <varlistentry>
5795   <term>Example usage:</term>
5796   <listitem>
5797    <para>
5798     Built-in pattern:
5799    </para>
5800     <screen>+set-image-blocker{pattern}</screen>
5801    <para>
5802     Redirect to the BSD daemon:
5803    </para>
5804     <screen>+set-image-blocker{http://www.freebsd.org/gifs/dae_up3.gif}</screen>
5805    <para>
5806     Redirect to the built-in pattern for better caching:
5807    </para>
5808     <screen>+set-image-blocker{http://config.privoxy.org/send-banner?type=pattern}</screen>
5809   </listitem>
5810  </varlistentry>
5811 </variablelist>
5812 </sect3>
5813
5814
5815 <!--   ~~~~~       New section      ~~~~~     -->
5816 <sect3 id="summary">
5817 <title>Summary</title>
5818 <para>
5819  Note that many of these actions have the potential to cause a page to
5820  misbehave, possibly even not to display at all. There are many ways
5821  a site designer may choose to design his site, and what HTTP header
5822  content, and other criteria, he may depend on. There is no way to have hard
5823  and fast rules for all sites. See the <link
5824  linkend="ACTIONSANAT">Appendix</link> for a brief example on troubleshooting
5825  actions.
5826 </para>
5827 </sect3>
5828 </sect2>
5829
5830 <!--   ~~~~~       New section      ~~~~~     -->
5831 <sect2 id="aliases">
5832 <title>Aliases</title>
5833 <para>
5834  Custom <quote>actions</quote>, known to <application>Privoxy</application>
5835  as <quote>aliases</quote>, can be defined by combining other actions.
5836  These can in turn be invoked just like the built-in actions.
5837  Currently, an alias name can contain any character except space, tab,
5838  <quote>=</quote>,
5839  <quote>{</quote> and <quote>}</quote>, but we <emphasis>strongly
5840  recommend</emphasis> that you only use <quote>a</quote> to <quote>z</quote>,
5841  <quote>0</quote> to <quote>9</quote>, <quote>+</quote>, and <quote>-</quote>.
5842  Alias names are not case sensitive, and are not required to start with a
5843  <quote>+</quote> or <quote>-</quote> sign, since they are merely textually
5844  expanded.
5845 </para>
5846 <para>
5847  Aliases can be used throughout the actions file, but they <emphasis>must be
5848  defined in a special section at the top of the file!</emphasis>
5849  And there can only be one such section per actions file. Each actions file may
5850  have its own alias section, and the aliases defined in it are only visible
5851  within that file.
5852 </para>
5853 <para>
5854  There are two main reasons to use aliases: One is to save typing for frequently
5855  used combinations of actions, the other one is a gain in flexibility: If you
5856  decide once how you want to handle shops by defining an alias called
5857  <quote>shop</quote>, you can later change your policy on shops in
5858  <emphasis>one</emphasis> place, and your changes will take effect everywhere
5859  in the actions file where the <quote>shop</quote> alias is used. Calling aliases
5860  by their purpose also makes your actions files more readable.
5861 </para>
5862 <para>
5863  Currently, there is one big drawback to using aliases, though:
5864  <application>Privoxy</application>'s built-in web-based action file
5865  editor honors aliases when reading the actions files, but it expands
5866  them before writing. So the effects of your aliases are of course preserved,
5867  but the aliases themselves are lost when you edit sections that use aliases
5868  with it.
5869 </para>
5870
5871 <para>
5872  Now let's define some aliases...
5873 </para>
5874
5875  <screen>
5876  # Useful custom aliases we can use later.
5877  #
5878  # Note the (required!) section header line and that this section
5879  # must be at the top of the actions file!
5880  #
5881  {{alias}}
5882
5883  # These aliases just save typing later:
5884  # (Note that some already use other aliases!)
5885  #
5886  +crunch-all-cookies = +<link linkend="CRUNCH-INCOMING-COOKIES">crunch-incoming-cookies</link> +<link linkend="CRUNCH-OUTGOING-COOKIES">crunch-outgoing-cookies</link>
5887  -crunch-all-cookies = -<link linkend="CRUNCH-INCOMING-COOKIES">crunch-incoming-cookies</link> -<link linkend="CRUNCH-OUTGOING-COOKIES">crunch-outgoing-cookies</link>
5888  +block-as-image      = +block{Blocked image.} +handle-as-image
5889  allow-all-cookies   = -crunch-all-cookies -<link linkend="SESSION-COOKIES-ONLY">session-cookies-only</link> -<link linkend="FILTER-CONTENT-COOKIES">filter{content-cookies}</link>
5890
5891  # These aliases define combinations of actions
5892  # that are useful for certain types of sites:
5893  #
5894  fragile     = -<link linkend="BLOCK">block</link> -<link linkend="FILTER">filter</link> -crunch-all-cookies -<link linkend="FAST-REDIRECTS">fast-redirects</link> -<link linkend="HIDE-REFERER">hide-referrer</link> -<link linkend="PREVENT-COMPRESSION">prevent-compression</link>
5895
5896  shop        = -crunch-all-cookies -<link linkend="FILTER-ALL-POPUPS">filter{all-popups}</link>
5897
5898  # Short names for other aliases, for really lazy people ;-)
5899  #
5900  c0 = +crunch-all-cookies
5901  c1 = -crunch-all-cookies</screen>
5902
5903 <para>
5904  ...and put them to use. These sections would appear in the lower part of an
5905  actions file and define exceptions to the default actions (as specified further
5906  up for the <quote>/</quote> pattern):
5907 </para>
5908
5909  <screen>
5910  # These sites are either very complex or very keen on
5911  # user data and require minimal interference to work:
5912  #
5913  {fragile}
5914  .office.microsoft.com
5915  .windowsupdate.microsoft.com
5916  # Gmail is really mail.google.com, not gmail.com
5917  mail.google.com
5918
5919  # Shopping sites:
5920  # Allow cookies (for setting and retrieving your customer data)
5921  #
5922  {shop}
5923  .quietpc.com
5924  .worldpay.com   # for quietpc.com
5925  mybank.example.com
5926
5927  # These shops require pop-ups:
5928  #
5929  {-filter{all-popups} -filter{unsolicited-popups}}
5930   .dabs.com
5931   .overclockers.co.uk</screen>
5932
5933 <para>
5934  Aliases like <quote>shop</quote> and <quote>fragile</quote> are typically used for
5935  <quote>problem</quote> sites that require more than one action to be disabled
5936  in order to function properly.
5937 </para>
5938 </sect2>
5939 <!--
5940 hal stop here
5941 -->
5942 <!--   ~~~~~       New section      ~~~~~     -->
5943 <sect2 id="act-examples">
5944 <title>Actions Files Tutorial</title>
5945 <para>
5946  The above chapters have shown <link linkend="actions-file">which actions files
5947  there are and how they are organized</link>, how actions are <link
5948  linkend="actions">specified</link> and <link linkend="actions-apply">applied
5949  to URLs</link>, how <link linkend="af-patterns">patterns</link> work, and how to
5950  define and use <link linkend="aliases">aliases</link>. Now, let's look at an
5951  example <filename>match-all.action</filename>, <filename>default.action</filename>
5952  and <filename>user.action</filename> file and see how all these pieces come together:
5953 </para>
5954
5955 <sect3 id="match-all">
5956 <title>match-all.action</title>
5957 <para>
5958  Remember <emphasis>all actions are disabled when matching starts</emphasis>,
5959  so we have to explicitly enable the ones we want.
5960 </para>
5961
5962 <para>
5963  While the <filename>match-all.action</filename> file only contains a
5964  single section, it is probably the most important one. It has only one
5965  pattern, <quote><literal>/</literal></quote>, but this pattern
5966  <link linkend="af-patterns">matches all URLs</link>. Therefore, the set of
5967  actions used in this <quote>default</quote> section <emphasis>will
5968  be applied to all requests as a start</emphasis>. It can  be partly or
5969  wholly overridden by other actions files like <filename>default.action</filename>
5970  and <filename>user.action</filename>, but it will still be largely responsible
5971  for your overall browsing experience.
5972 </para>
5973
5974 <para>
5975  Again, at the start of matching, all actions are disabled, so there is
5976  no need to disable any actions here. (Remember: a <quote>+</quote>
5977  preceding the action name enables the action, a <quote>-</quote> disables!).
5978  Also note how this long line has been made more readable by splitting it into
5979  multiple lines with line continuation.
5980 </para>
5981
5982  <screen>
5983 { \
5984  +<link linkend="CHANGE-X-FORWARDED-FOR">change-x-forwarded-for{block}</link> \
5985  +<link linkend="HIDE-FROM-HEADER">hide-from-header{block}</link> \
5986  +<link linkend="SET-IMAGE-BLOCKER">set-image-blocker{pattern}</link> \
5987 }
5988 / # Match all URLs
5989  </screen>
5990
5991 <para>
5992  The default behavior is now set.
5993 </para>
5994 </sect3>
5995
5996 <sect3 id="default-action">
5997 <title>default.action</title>
5998
5999 <para>
6000  If you aren't a developer, there's no need for you to edit the
6001  <filename>default.action</filename> file. It is maintained by
6002  the &my-app; developers and if you disagree with some of the
6003  sections, you should overrule them in your <filename>user.action</filename>.
6004 </para>
6005
6006 <para>
6007  Understanding the <filename>default.action</filename> file can
6008  help you with your <filename>user.action</filename>, though.
6009 </para>
6010
6011 <para>
6012  The first section in this file is a special section for internal use
6013  that prevents older &my-app; versions from reading the file:
6014 </para>
6015
6016  <screen>
6017 ##########################################################################
6018 # Settings -- Don't change! For internal Privoxy use ONLY.
6019 ##########################################################################
6020 {{settings}}
6021 for-privoxy-version=3.0.11</screen>
6022
6023 <para>
6024  After that comes the (optional) alias section. We'll use the example
6025  section from the above <link linkend="aliases">chapter on aliases</link>,
6026  that also explains why and how aliases are used:
6027 </para>
6028
6029  <screen>
6030 ##########################################################################
6031 # Aliases
6032 ##########################################################################
6033 {{alias}}
6034
6035  # These aliases just save typing later:
6036  # (Note that some already use other aliases!)
6037  #
6038  +crunch-all-cookies = +<link linkend="CRUNCH-INCOMING-COOKIES">crunch-incoming-cookies</link> +<link linkend="CRUNCH-OUTGOING-COOKIES">crunch-outgoing-cookies</link>
6039  -crunch-all-cookies = -<link linkend="CRUNCH-INCOMING-COOKIES">crunch-incoming-cookies</link> -<link linkend="CRUNCH-OUTGOING-COOKIES">crunch-outgoing-cookies</link>
6040  +block-as-image      = +block{Blocked image.} +handle-as-image
6041  mercy-for-cookies   = -crunch-all-cookies -<link linkend="SESSION-COOKIES-ONLY">session-cookies-only</link> -<link linkend="FILTER-CONTENT-COOKIES">filter{content-cookies}</link>
6042
6043  # These aliases define combinations of actions
6044  # that are useful for certain types of sites:
6045  #
6046  fragile     = -<link linkend="BLOCK">block</link> -<link linkend="FILTER">filter</link> -crunch-all-cookies -<link linkend="FAST-REDIRECTS">fast-redirects</link> -<link linkend="HIDE-REFERER">hide-referrer</link>
6047  shop        = -crunch-all-cookies -<link linkend="FILTER-ALL-POPUPS">filter{all-popups}</link></screen>
6048
6049 <para>
6050  The first of our specialized sections is concerned with <quote>fragile</quote>
6051  sites, i.e. sites that require minimum interference, because they are either
6052  very complex or very keen on tracking you (and have mechanisms in place that
6053  make them unusable for people who avoid being tracked). We will use
6054  our pre-defined <literal>fragile</literal> alias instead of stating the list
6055  of actions explicitly:
6056 </para>
6057
6058  <screen>
6059 ##########################################################################
6060 # Exceptions for sites that'll break under the default action set:
6061 ##########################################################################
6062
6063 # "Fragile" Use a minimum set of actions for these sites (see alias above):
6064 #
6065 { fragile }
6066 .office.microsoft.com           # surprise, surprise!
6067 .windowsupdate.microsoft.com
6068 mail.google.com</screen>
6069
6070 <para>
6071  Shopping sites are not as fragile, but they typically
6072  require cookies to log in, and pop-up windows for shopping
6073  carts or item details. Again, we'll use a pre-defined alias:
6074 </para>
6075
6076  <screen>
6077 # Shopping sites:
6078 #
6079 { shop }
6080 .quietpc.com
6081 .worldpay.com   # for quietpc.com
6082 .jungle.com
6083 .scan.co.uk</screen>
6084
6085 <para>
6086  The <literal><link linkend="FAST-REDIRECTS">fast-redirects</link></literal>
6087  action, which may have been enabled in <filename>match-all.action</filename>,
6088  breaks some sites. So disable it for popular sites where we know it misbehaves:
6089 </para>
6090
6091  <screen>
6092 { -<link linkend="FAST-REDIRECTS">fast-redirects</link> }
6093 login.yahoo.com
6094 edit.*.yahoo.com
6095 .google.com
6096 .altavista.com/.*(like|url|link):http
6097 .altavista.com/trans.*urltext=http
6098 .nytimes.com</screen>
6099
6100 <para>
6101  It is important that <application>Privoxy</application> knows which
6102  URLs belong to images, so that <emphasis>if</emphasis> they are to
6103  be blocked, a substitute image can be sent, rather than an HTML page.
6104  Contacting the remote site to find out is not an option, since it
6105  would destroy the loading time advantage of banner blocking, and it
6106  would feed the advertisers information about you. We can mark any
6107  URL as an image with the <literal><link
6108  linkend="handle-as-image">handle-as-image</link></literal> action,
6109  and marking all URLs that end in a known image file extension is a
6110  good start:
6111 </para>
6112
6113  <screen>
6114 ##########################################################################
6115 # Images:
6116 ##########################################################################
6117
6118 # Define which file types will be treated as images, in case they get
6119 # blocked further down this file:
6120 #
6121 { +<link linkend="HANDLE-AS-IMAGE">handle-as-image</link> }
6122 /.*\.(gif|jpe?g|png|bmp|ico)$</screen>
6123
6124 <para>
6125  And then there are known banner sources. They often use scripts to
6126  generate the banners, so it won't be visible from the URL that the
6127  request is for an image. Hence we block them <emphasis>and</emphasis>
6128  mark them as images in one go, with the help of our
6129  <literal>+block-as-image</literal> alias defined above. (We could of
6130  course just as well use <literal>+<link linkend="block">block</link>
6131  +<link linkend="handle-as-image">handle-as-image</link></literal> here.)
6132  Remember that the type of the replacement image is chosen by the
6133  <literal><link linkend="set-image-blocker">set-image-blocker</link></literal>
6134  action. Since all URLs have matched the default section with its
6135  <literal>+<link linkend="set-image-blocker">set-image-blocker</link>{pattern}</literal>
6136  action before, it still applies and needn't be repeated:
6137 </para>
6138
6139  <screen>
6140 # Known ad generators:
6141 #
6142 { +block-as-image }
6143 ar.atwola.com
6144 .ad.doubleclick.net
6145 .ad.*.doubleclick.net
6146 .a.yimg.com/(?:(?!/i/).)*$
6147 .a[0-9].yimg.com/(?:(?!/i/).)*$
6148 bs*.gsanet.com
6149 .qkimg.net</screen>
6150
6151 <para>
6152  One of the most important jobs of <application>Privoxy</application>
6153  is to block banners. Many of these can be <quote>blocked</quote>
6154  by the <literal><link linkend="filter">filter</link>{banners-by-size}</literal>
6155  action, which we enabled above, and which deletes the references to banner
6156  images from the pages while they are loaded, so the browser doesn't request
6157  them anymore, and hence they don't need to be blocked here. But this naturally
6158  doesn't catch all banners, and some people choose not to use filters, so we
6159  need a comprehensive list of patterns for banner URLs here, and apply the
6160  <literal><link linkend="block">block</link></literal> action to them.
6161 </para>
6162 <para>
6163  First comes many generic patterns, which do most of the work, by
6164  matching typical domain and path name components of banners. Then comes
6165  a list of individual patterns for specific sites, which is omitted here
6166  to keep the example short:
6167 </para>
6168
6169  <screen>
6170 ##########################################################################
6171 # Block these fine banners:
6172 ##########################################################################
6173 { <link linkend="BLOCK">+block{Banner ads.}</link> }
6174
6175 # Generic patterns:
6176 #
6177 ad*.
6178 .*ads.
6179 banner?.
6180 count*.
6181 /.*count(er)?\.(pl|cgi|exe|dll|asp|php[34]?)
6182 /(?:.*/)?(publicite|werbung|rekla(ma|me|am)|annonse|maino(kset|nta|s)?)/
6183
6184 # Site-specific patterns (abbreviated):
6185 #
6186 .hitbox.com</screen>
6187
6188 <para>
6189  It's quite remarkable how many advertisers actually call their banner
6190  servers ads.<replaceable>company</replaceable>.com, or call the directory
6191  in which the banners are stored literally <quote>banners</quote>. So the above
6192  generic patterns are surprisingly effective.
6193 </para>
6194 <para>
6195  But being very generic, they necessarily also catch URLs that we don't want
6196  to block. The pattern <literal>.*ads.</literal> e.g. catches
6197  <quote>nasty-<emphasis>ads</emphasis>.nasty-corp.com</quote> as intended,
6198  but also <quote>downlo<emphasis>ads</emphasis>.sourcefroge.net</quote> or
6199  <quote><emphasis>ads</emphasis>l.some-provider.net.</quote> So here come some
6200  well-known exceptions to the <literal>+<link linkend="BLOCK">block</link></literal>
6201  section above.
6202 </para>
6203 <para>
6204  Note that these are exceptions to exceptions from the default! Consider the URL
6205  <quote>downloads.sourcefroge.net</quote>: Initially, all actions are deactivated,
6206  so it wouldn't get blocked. Then comes the defaults section, which matches the
6207  URL, but just deactivates the <literal><link linkend="BLOCK">block</link></literal>
6208  action once again. Then it matches <literal>.*ads.</literal>, an exception to the
6209  general non-blocking policy, and suddenly
6210  <literal><link linkend="BLOCK">+block</link></literal> applies. And now, it'll match
6211  <literal>.*loads.</literal>, where <literal><link linkend="BLOCK">-block</link></literal>
6212  applies, so (unless it matches <emphasis>again</emphasis> further down) it ends up
6213  with no <literal><link linkend="BLOCK">block</link></literal> action applying.
6214 </para>
6215
6216  <screen>
6217 ##########################################################################
6218 # Save some innocent victims of the above generic block patterns:
6219 ##########################################################################
6220
6221 # By domain:
6222 #
6223 { -<link linkend="BLOCK">block</link> }
6224 adv[io]*.  # (for advogato.org and advice.*)
6225 adsl.      # (has nothing to do with ads)
6226 adobe.     # (has nothing to do with ads either)
6227 ad[ud]*.   # (adult.* and add.*)
6228 .edu       # (universities don't host banners (yet!))
6229 .*loads.   # (downloads, uploads etc)
6230
6231 # By path:
6232 #
6233 /.*loads/
6234
6235 # Site-specific:
6236 #
6237 www.globalintersec.com/adv # (adv = advanced)
6238 www.ugu.com/sui/ugu/adv</screen>
6239
6240 <para>
6241  Filtering source code can have nasty side effects,
6242  so make an exception for our friends at sourceforge.net,
6243  and all paths with <quote>cvs</quote> in them. Note that
6244  <literal>-<link linkend="FILTER">filter</link></literal>
6245  disables <emphasis>all</emphasis> filters in one fell swoop!
6246 </para>
6247
6248  <screen>
6249 # Don't filter code!
6250 #
6251 { -<link linkend="FILTER">filter</link> }
6252 /(.*/)?cvs
6253 bugzilla.
6254 developer.
6255 wiki.
6256 .sourceforge.net</screen>
6257
6258 <para>
6259  The actual <filename>default.action</filename> is of course much more
6260  comprehensive, but we hope this example made clear how it works.
6261 </para>
6262
6263 </sect3>
6264
6265 <sect3 id="user-action"><title>user.action</title>
6266
6267 <para>
6268  So far we are painting with a broad brush by setting general policies,
6269  which would be a reasonable starting point for many people. Now,
6270  you might want to be more specific and have customized rules that
6271  are more suitable to your personal habits and preferences. These would
6272  be for narrowly defined situations like your ISP or your bank, and should
6273  be placed in <filename>user.action</filename>, which is parsed after all other
6274  actions files and hence has the last word, over-riding any previously
6275  defined actions. <filename>user.action</filename> is also a
6276  <emphasis>safe</emphasis> place for your personal settings, since
6277  <filename>default.action</filename> is actively maintained by the
6278  <application>Privoxy</application> developers and you'll probably want
6279  to install updated versions from time to time.
6280 </para>
6281
6282 <para>
6283  So let's look at a few examples of things that one might typically do in
6284  <filename>user.action</filename>:
6285 </para>
6286
6287
6288 <!-- brief sample user.action here -->
6289
6290  <screen>
6291 # My user.action file. &lt;fred@example.com&gt;</screen>
6292
6293 <para>
6294  As <link linkend="aliases">aliases</link> are local to the actions
6295  file that they are defined in, you can't use the ones from
6296  <filename>default.action</filename>, unless you repeat them here:
6297 </para>
6298
6299  <screen>
6300 # Aliases are local to the file they are defined in.
6301 # (Re-)define aliases for this file:
6302 #
6303 {{alias}}
6304 #
6305 # These aliases just save typing later, and the alias names should
6306 # be self explanatory.
6307 #
6308 +crunch-all-cookies = +crunch-incoming-cookies +crunch-outgoing-cookies
6309 -crunch-all-cookies = -crunch-incoming-cookies -crunch-outgoing-cookies
6310  allow-all-cookies  = -crunch-all-cookies -session-cookies-only
6311  allow-popups       = -filter{all-popups}
6312 +block-as-image     = +block{Blocked as image.} +handle-as-image
6313 -block-as-image     = -block
6314
6315 # These aliases define combinations of actions that are useful for
6316 # certain types of sites:
6317 #
6318 fragile     = -block -crunch-all-cookies -filter -fast-redirects -hide-referrer
6319 shop        = -crunch-all-cookies allow-popups
6320
6321 # Allow ads for selected useful free sites:
6322 #
6323 allow-ads   = -block -filter{banners-by-size} -filter{banners-by-link}
6324
6325 # Alias for specific file types that are text, but might have conflicting
6326 # MIME types. We want the browser to force these to be text documents.
6327 handle-as-text = -<link linkend="FILTER">filter</link> +-<link linkend="content-type-overwrite">content-type-overwrite{text/plain}</link> +-<link linkend="FORCE-TEXT-MODE">force-text-mode</link> -<link linkend="HIDE-CONTENT-DISPOSITION">hide-content-disposition</link></screen>
6328
6329 <para>
6330  Say you have accounts on some sites that you visit regularly, and
6331  you don't want to have to log in manually each time. So you'd like
6332  to allow persistent cookies for these sites. The
6333  <literal>allow-all-cookies</literal> alias defined above does exactly
6334  that, i.e. it disables crunching of cookies in any direction, and the
6335  processing of cookies to make them only temporary.
6336 </para>
6337
6338  <screen>
6339 { allow-all-cookies }
6340  sourceforge.net
6341  .yahoo.com
6342  .msdn.microsoft.com
6343  .redhat.com</screen>
6344
6345 <para>
6346  Your bank is allergic to some filter, but you don't know which, so you disable them all:
6347 </para>
6348
6349  <screen>
6350 { -<link linkend="FILTER">filter</link> }
6351  .your-home-banking-site.com</screen>
6352
6353 <para>
6354  Some file types you may not want to filter for various reasons:
6355 </para>
6356
6357  <screen>
6358 # Technical documentation is likely to contain strings that might
6359 # erroneously get altered by the JavaScript-oriented filters:
6360 #
6361 .tldp.org
6362 /(.*/)?selfhtml/
6363
6364 # And this stupid host sends streaming video with a wrong MIME type,
6365 # so that Privoxy thinks it is getting HTML and starts filtering:
6366 #
6367 stupid-server.example.com/</screen>
6368
6369 <para>
6370  Example of a simple <link linkend="BLOCK">block</link> action. Say you've
6371  seen an ad on your favourite page on example.com that you want to get rid of.
6372  You have right-clicked the image, selected <quote>copy image location</quote>
6373  and pasted the URL below while removing the leading http://, into a
6374  <literal>{ +block{} }</literal> section. Note that <literal>{ +handle-as-image
6375  }</literal> need not be specified, since all URLs ending in
6376  <literal>.gif</literal> will be tagged as images by the general rules as set
6377  in default.action anyway:
6378 </para>
6379
6380  <screen>
6381 { +<link linkend="BLOCK">block</link>{Nasty ads.} }
6382  www.example.com/nasty-ads/sponsor\.gif
6383  another.example.net/more/junk/here/</screen>
6384
6385 <para>
6386  The URLs of dynamically generated banners, especially from large banner
6387  farms, often don't use the well-known image file name extensions, which
6388  makes it impossible for <application>Privoxy</application> to guess
6389  the file type just by looking at the URL.
6390  You can use the <literal>+block-as-image</literal> alias defined above for
6391  these cases.
6392  Note that objects which match this rule but then turn out NOT to be an
6393  image are typically rendered as a <quote>broken image</quote> icon by the
6394  browser. Use cautiously.
6395 </para>
6396
6397  <screen>
6398 { +block-as-image }
6399  .doubleclick.net
6400  .fastclick.net
6401  /Realmedia/ads/
6402  ar.atwola.com/</screen>
6403
6404 <para>
6405  Now you noticed that the default configuration breaks Forbes Magazine,
6406  but you were too lazy to find out which action is the culprit, and you
6407  were again too lazy to give <link linkend="contact">feedback</link>, so
6408  you just used the <literal>fragile</literal> alias on the site, and
6409  -- <emphasis>whoa!</emphasis> -- it worked. The <literal>fragile</literal>
6410  aliases disables those actions that are most likely to break a site. Also,
6411  good for testing purposes to see if it is <application>Privoxy</application>
6412  that is causing the problem or not. We later find other regular sites
6413  that misbehave, and add those to our personalized list of troublemakers:
6414 </para>
6415
6416 <screen>
6417 { fragile }
6418  .forbes.com
6419  webmail.example.com
6420  .mybank.com</screen>
6421
6422 <para>
6423  You like the <quote>fun</quote> text replacements in <filename>default.filter</filename>,
6424  but it is disabled in the distributed actions file.
6425  So you'd like to turn it on in your private,
6426  update-safe config, once and for all:
6427 </para>
6428
6429 <screen>
6430 { +<link linkend="filter-fun">filter{fun}</link> }
6431  / # For ALL sites!</screen>
6432
6433 <para>
6434  Note that the above is not really a good idea: There are exceptions
6435  to the filters in <filename>default.action</filename> for things that
6436  really shouldn't be filtered, like code on CVS->Web interfaces. Since
6437  <filename>user.action</filename> has the last word, these exceptions
6438  won't be valid for the <quote>fun</quote> filtering specified here.
6439 </para>
6440
6441 <para>
6442  You might also worry about how your favourite free websites are
6443  funded, and find that they rely on displaying banner advertisements
6444  to survive. So you might want to specifically allow banners for those
6445  sites that you feel provide value to you:
6446 </para>
6447
6448 <screen>
6449 { allow-ads }
6450  .sourceforge.net
6451  .slashdot.org
6452  .osdn.net</screen>
6453
6454 <para>
6455  Note that <literal>allow-ads</literal> has been aliased to
6456  <literal>-<link linkend="block">block</link></literal>,
6457  <literal>-<link linkend="filter-banners-by-size">filter{banners-by-size}</link></literal>, and
6458  <literal>-<link linkend="filter-banners-by-link">filter{banners-by-link}</link></literal> above.
6459 </para>
6460
6461 <para>
6462  Invoke another alias here to force an over-ride of the MIME type <literal>
6463  application/x-sh</literal> which typically would open a download type
6464  dialog. In my case, I want to look at the shell script, and then I can save
6465  it should I choose to.
6466 </para>
6467
6468 <screen>
6469 { handle-as-text }
6470  /.*\.sh$</screen>
6471
6472 <para>
6473  <filename>user.action</filename> is generally the best place to define
6474  exceptions and additions to the default policies of
6475  <filename>default.action</filename>. Some actions are safe to have their
6476  default policies set here though. So let's set a default policy to have a
6477  <quote>blank</quote> image as opposed to the checkerboard pattern for
6478  <emphasis>ALL</emphasis> sites. <quote>/</quote> of course matches all URL
6479  paths and patterns:
6480 </para>
6481
6482 <screen>
6483 { +<link linkend="set-image-blocker">set-image-blocker{blank}</link> }
6484 / # ALL sites</screen>
6485
6486 </sect3>
6487 </sect2>
6488
6489 <!--  ~  End section  ~  -->
6490
6491 </sect1>
6492
6493 <!--  ~  End section  ~  -->
6494
6495 <!--   ~~~~~~~~       New section Header    ~~~~~~~~~     -->
6496
6497 <sect1 id="filter-file">
6498 <title>Filter Files</title>
6499
6500 <para>
6501  On-the-fly text substitutions need
6502  to be defined in a <quote>filter file</quote>. Once defined, they
6503  can then be invoked as an <quote>action</quote>.
6504 </para>
6505
6506 <para>
6507  &my-app; supports three different pcrs-based filter actions:
6508  <literal><link linkend="filter">filter</link></literal> to
6509  rewrite the content that is send to the client,
6510  <literal><link linkend="client-header-filter">client-header-filter</link></literal>
6511  to rewrite headers that are send by the client, and
6512  <literal><link linkend="server-header-filter">server-header-filter</link></literal>
6513  to rewrite headers that are send by the server.
6514 </para>
6515
6516 <para>
6517  &my-app; also supports two tagger actions:
6518  <literal><link linkend="client-header-tagger">client-header-tagger</link></literal>
6519  and
6520  <literal><link linkend="server-header-tagger">server-header-tagger</link></literal>.
6521  Taggers and filters use the same syntax in the filter files, the difference
6522  is that taggers don't modify the text they are filtering, but use a rewritten
6523  version of the filtered text as tag. The tags can then be used to change the
6524  applying actions through sections with <link linkend="tag-pattern">tag-patterns</link>.
6525 </para>
6526
6527 <para>
6528  Finally &my-app; supports the
6529  <literal><link linkend="external-filter">external-filter</link></literal> action
6530  to enable <literal><link linkend="external-filter-syntax">external filters</link></literal>
6531  written in proper programming languages.
6532 </para>
6533
6534
6535 <para>
6536  Multiple filter files can be defined through the <literal> <link
6537  linkend="filterfile">filterfile</link></literal> config directive. The filters
6538  as supplied by the developers are located in
6539  <filename>default.filter</filename>. It is recommended that any locally
6540  defined or modified filters go in a separately defined file such as
6541  <filename>user.filter</filename>.
6542  </para>
6543
6544 <para>
6545  Common tasks for content filters are to eliminate common annoyances in
6546  HTML and JavaScript, such as pop-up windows,
6547  exit consoles, crippled windows without navigation tools, the
6548  infamous &lt;BLINK&gt; tag etc, to suppress images with certain
6549  width and height attributes (standard banner sizes or web-bugs),
6550  or just to have fun.
6551 </para>
6552
6553 <para>
6554  Enabled content filters are applied to any content whose
6555  <quote>Content Type</quote> header is recognised as a sign
6556  of text-based content, with the exception of <literal>text/plain</literal>.
6557  Use the <link linkend="FORCE-TEXT-MODE">force-text-mode</link> action
6558  to also filter other content.
6559 </para>
6560
6561 <para>
6562  Substitutions are made at the source level, so if you want to <quote>roll
6563  your own</quote> filters, you should first be familiar with HTML syntax,
6564  and, of course, regular expressions.
6565 </para>
6566
6567 <para>
6568  Just like the <link linkend="actions-file">actions files</link>, the
6569  filter file is organized in sections, which are called <emphasis>filters</emphasis>
6570  here. Each filter consists of a heading line, that starts with one of the
6571  <emphasis>keywords</emphasis> <literal>FILTER:</literal>,
6572  <literal>CLIENT-HEADER-FILTER:</literal> or <literal>SERVER-HEADER-FILTER:</literal>
6573  followed by the filter's <emphasis>name</emphasis>, and a short (one line)
6574  <emphasis>description</emphasis> of what it does. Below that line
6575  come the <emphasis>jobs</emphasis>, i.e. lines that define the actual
6576  text substitutions. By convention, the name of a filter
6577  should describe what the filter <emphasis>eliminates</emphasis>. The
6578  comment is used in the <ulink url="http://config.privoxy.org/">web-based
6579  user interface</ulink>.
6580 </para>
6581
6582 <para>
6583  Once a filter called <replaceable>name</replaceable> has been defined
6584  in the filter file, it can be invoked by using an action of the form
6585  +<literal><link linkend="filter">filter</link>{<replaceable>name</replaceable>}</literal>
6586  in any <link linkend="actions-file">actions file</link>.
6587 </para>
6588
6589 <para>
6590  Filter definitions start with a header line that contains the filter
6591  type, the filter name and the filter description.
6592  A content filter header line for a filter called <quote>foo</quote> could look
6593  like this:
6594 </para>
6595
6596  <screen>FILTER: foo Replace all "foo" with "bar"</screen>
6597
6598 <para>
6599  Below that line, and up to the next header line, come the jobs that
6600  define what text replacements the filter executes. They are specified
6601  in a syntax that imitates <ulink url="http://www.perl.org/">Perl</ulink>'s
6602  <literal>s///</literal> operator. If you are familiar with Perl, you
6603  will find this to be quite intuitive, and may want to look at the
6604  PCRS documentation for the subtle differences to Perl behaviour.
6605 </para>
6606
6607 <para>
6608  Most notably, the non-standard option letter <literal>U</literal> is supported,
6609  which turns the default to ungreedy matching (add <literal>?</literal> to
6610  quantifiers to turn them greedy again).
6611 </para>
6612
6613 <para>
6614  The non-standard option letter <literal>D</literal> (dynamic) allows
6615  to use the variables $host, $origin (the IP address the request came from),
6616  $path, $url and $listen-address (the address on which Privoxy accepted the
6617  client request. Example: 127.0.0.1:8118).
6618  They will be replaced with the value they refer to before the filter
6619  is executed.
6620 </para>
6621
6622 <para>
6623  Note that '$' is a bad choice for a delimiter in a dynamic filter as you
6624  might end up with unintended variables if you use a variable name
6625  directly after the delimiter. Variables will be resolved without
6626  escaping anything, therefore you also have to be careful not to chose
6627  delimiters that appear in the replacement text. For example '<' should
6628  be save, while '?' will sooner or later cause conflicts with $url.
6629 </para>
6630
6631 <para>
6632  The non-standard option letter <literal>T</literal> (trivial) prevents
6633  parsing for backreferences in the substitute. Use it if you want to include
6634  text like '$&' in your substitute without quoting.
6635 </para>
6636
6637 <para>
6638  If you are new to
6639   <ulink url="http://en.wikipedia.org/wiki/Regular_expressions"><quote>Regular
6640   Expressions</quote></ulink>, you might want to take a look at
6641  the <link linkend="regex">Appendix on regular expressions</link>, and
6642  see the <ulink url="http://perldoc.perl.org/perlre.html">Perl
6643  manual</ulink> for
6644  <ulink url="http://perldoc.perl.org/perlop.html">the
6645  <literal>s///</literal> operator's syntax</ulink> and <ulink
6646  url="http://perldoc.perl.org/perlre.html">Perl-style regular
6647  expressions</ulink> in general.
6648  The below examples might also help to get you started.
6649 </para>
6650
6651
6652 <!--   ~~~~~~~~       New section Header    ~~~~~~~~~     -->
6653
6654 <sect2 id="filter-file-tut"><title>Filter File Tutorial</title>
6655 <para>
6656  Now, let's complete our <quote>foo</quote> content filter. We have already defined
6657  the heading, but the jobs are still missing. Since all it does is to replace
6658  <quote>foo</quote> with <quote>bar</quote>, there is only one (trivial) job
6659  needed:
6660 </para>
6661
6662  <screen>s/foo/bar/</screen>
6663
6664 <para>
6665  But wait! Didn't the comment say that <emphasis>all</emphasis> occurrences
6666  of <quote>foo</quote> should be replaced? Our current job will only take
6667  care of the first <quote>foo</quote> on each page. For global substitution,
6668  we'll need to add the <literal>g</literal> option:
6669 </para>
6670
6671  <screen>s/foo/bar/g</screen>
6672
6673 <para>
6674  Our complete filter now looks like this:
6675 </para>
6676
6677  <screen>FILTER: foo Replace all "foo" with "bar"
6678 s/foo/bar/g</screen>
6679
6680 <para>
6681  Let's look at some real filters for more interesting examples. Here you see
6682  a filter that protects against some common annoyances that arise from JavaScript
6683  abuse. Let's look at its jobs one after the other:
6684 </para>
6685
6686
6687  <screen>
6688 FILTER: js-annoyances Get rid of particularly annoying JavaScript abuse
6689
6690 # Get rid of JavaScript referrer tracking. Test page: http://www.randomoddness.com/untitled.htm
6691 #
6692 s|(&lt;script.*)document\.referrer(.*&lt;/script&gt;)|$1"Not Your Business!"$2|Usg</screen>
6693
6694 <para>
6695  Following the header line and a comment, you see the job. Note that it uses
6696  <literal>|</literal> as the delimiter instead of <literal>/</literal>, because
6697  the pattern contains a forward slash, which would otherwise have to be escaped
6698  by a backslash (<literal>\</literal>).
6699 </para>
6700
6701 <para>
6702  Now, let's examine the pattern: it starts with the text <literal>&lt;script.*</literal>
6703  enclosed in parentheses. Since the dot matches any character, and <literal>*</literal>
6704  means: <quote>Match an arbitrary number of the element left of myself</quote>, this
6705  matches <quote>&lt;script</quote>, followed by <emphasis>any</emphasis> text, i.e.
6706  it matches the whole page, from the start of the first &lt;script&gt; tag.
6707 </para>
6708
6709 <para>
6710  That's more than we want, but the pattern continues: <literal>document\.referrer</literal>
6711  matches only the exact string <quote>document.referrer</quote>. The dot needed to
6712  be <emphasis>escaped</emphasis>, i.e. preceded by a backslash, to take away its
6713  special meaning as a joker, and make it just a regular dot. So far, the meaning is:
6714  Match from the start of the first &lt;script&gt; tag in a the page, up to, and including,
6715  the text <quote>document.referrer</quote>, if <emphasis>both</emphasis> are present
6716  in the page (and appear in that order).
6717 </para>
6718
6719 <para>
6720  But there's still more pattern to go. The next element, again enclosed in parentheses,
6721  is <literal>.*&lt;/script&gt;</literal>. You already know what <literal>.*</literal>
6722  means, so the whole pattern translates to: Match from the start of the first  &lt;script&gt;
6723  tag in a page to the end of the last &lt;script&gt; tag, provided that the text
6724  <quote>document.referrer</quote> appears somewhere in between.
6725 </para>
6726
6727 <para>
6728  This is still not the whole story, since we have ignored the options and the parentheses:
6729  The portions of the page matched by sub-patterns that are enclosed in parentheses, will be
6730  remembered and be available through the variables <literal>$1, $2, ...</literal> in
6731  the substitute. The <literal>U</literal> option switches to ungreedy matching, which means
6732  that the first <literal>.*</literal> in the pattern will only <quote>eat up</quote> all
6733  text in between <quote>&lt;script</quote> and the <emphasis>first</emphasis> occurrence
6734  of <quote>document.referrer</quote>, and that the second <literal>.*</literal> will
6735  only span the text up to the <emphasis>first</emphasis> <quote>&lt;/script&gt;</quote>
6736  tag. Furthermore, the <literal>s</literal> option says that the match may span
6737  multiple lines in the page, and the <literal>g</literal> option again means that the
6738  substitution is global.
6739 </para>
6740
6741 <para>
6742  So, to summarize, the pattern means: Match all scripts that contain the text
6743  <quote>document.referrer</quote>. Remember the parts of the script from
6744  (and including) the start tag up to (and excluding) the string
6745  <quote>document.referrer</quote> as <literal>$1</literal>, and the part following
6746  that string, up to and including the closing tag, as <literal>$2</literal>.
6747 </para>
6748
6749 <para>
6750  Now the pattern is deciphered, but wasn't this about substituting things? So
6751  lets look at the substitute: <literal>$1"Not Your Business!"$2</literal> is
6752  easy to read: The text remembered as <literal>$1</literal>, followed by
6753  <literal>"Not Your Business!"</literal> (<emphasis>including</emphasis>
6754  the quotation marks!), followed by the text remembered as <literal>$2</literal>.
6755  This produces an exact copy of the original string, with the middle part
6756  (the <quote>document.referrer</quote>) replaced by <literal>"Not Your
6757  Business!"</literal>.
6758 </para>
6759
6760 <para>
6761  The whole job now reads: Replace <quote>document.referrer</quote> by
6762  <literal>"Not Your Business!"</literal> wherever it appears inside a
6763  &lt;script&gt tag. Note that this job won't break JavaScript syntax,
6764  since both the original and the replacement are syntactically valid
6765  string objects. The script just won't have access to the referrer
6766  information anymore.
6767 </para>
6768
6769 <para>
6770  We'll show you two other jobs from the JavaScript taming department, but
6771  this time only point out the constructs of special interest:
6772 </para>
6773
6774  <screen>
6775 # The status bar is for displaying link targets, not pointless blahblah
6776 #
6777 s/window\.status\s*=\s*(['"]).*?\1/dUmMy=1/ig</screen>
6778
6779 <para>
6780  <literal>\s</literal> stands for whitespace characters (space, tab, newline,
6781  carriage return, form feed), so that <literal>\s*</literal> means: <quote>zero
6782  or more whitespace</quote>. The <literal>?</literal> in <literal>.*?</literal>
6783  makes this matching of arbitrary text ungreedy. (Note that the <literal>U</literal>
6784  option is not set). The <literal>['"]</literal> construct means: <quote>a single
6785  <emphasis>or</emphasis> a double quote</quote>. Finally, <literal>\1</literal> is
6786  a back-reference to the first parenthesis just like <literal>$1</literal> above,
6787  with the difference that in the <emphasis>pattern</emphasis>, a backslash indicates
6788  a back-reference, whereas in the <emphasis>substitute</emphasis>, it's the dollar.
6789 </para>
6790
6791 <para>
6792  So what does this job do? It replaces assignments of single- or double-quoted
6793  strings to the <quote>window.status</quote> object with a dummy assignment
6794  (using a variable name that is hopefully odd enough not to conflict with
6795  real variables in scripts). Thus, it catches many cases where e.g. pointless
6796  descriptions are displayed in the status bar instead of the link target when
6797  you move your mouse over links.
6798 </para>
6799
6800  <screen>
6801 # Kill OnUnload popups. Yummy. Test: http://www.zdnet.com/zdsubs/yahoo/tree/yfs.html
6802 #
6803 s/(&lt;body [^&gt;]*)onunload(.*&gt;)/$1never$2/iU</screen>
6804
6805 <para>
6806  Including the
6807  <ulink url="http://www.w3.org/TR/2000/REC-DOM-Level-2-Events-20001113/events.html#Events-eventgroupings-htmlevents">OnUnload
6808  event binding</ulink> in the HTML DOM was a <emphasis>CRIME</emphasis>.
6809  When I close a browser window, I want it to close and die. Basta.
6810  This job replaces the <quote>onunload</quote> attribute in
6811  <quote>&lt;body&gt</quote> tags with the dummy word <literal>never</literal>.
6812  Note that the <literal>i</literal> option makes the pattern matching
6813  case-insensitive. Also note that ungreedy matching alone doesn't always guarantee
6814  a minimal match: In the first parenthesis, we had to use <literal>[^&gt;]*</literal>
6815  instead of <literal>.*</literal> to prevent the match from exceeding the
6816  &lt;body&gt tag if it doesn't contain <quote>OnUnload</quote>, but the page's
6817  content does.
6818 </para>
6819
6820 <para>
6821  The last example is from the fun department:
6822 </para>
6823
6824  <screen>
6825 FILTER: fun Fun text replacements
6826
6827 # Spice the daily news:
6828 #
6829 s/microsoft(?!\.com)/MicroSuck/ig</screen>
6830
6831 <para>
6832  Note the <literal>(?!\.com)</literal> part (a so-called negative lookahead)
6833  in the job's pattern, which means: Don't match, if the string
6834  <quote>.com</quote> appears directly following <quote>microsoft</quote>
6835  in the page. This prevents links to microsoft.com from being trashed, while
6836  still replacing the word everywhere else.
6837 </para>
6838
6839  <screen>
6840 # Buzzword Bingo (example for extended regex syntax)
6841 #
6842 s* industry[ -]leading \
6843 |  cutting[ -]edge \
6844 |  customer[ -]focused \
6845 |  market[ -]driven \
6846 |  award[ -]winning # Comments are OK, too! \
6847 |  high[ -]performance \
6848 |  solutions[ -]based \
6849 |  unmatched \
6850 |  unparalleled \
6851 |  unrivalled \
6852 *&lt;font color="red"&gt;&lt;b&gt;BINGO!&lt;/b&gt;&lt;/font&gt; \
6853 *igx</screen>
6854
6855 <para>
6856  The <literal>x</literal> option in this job turns on extended syntax, and allows for
6857  e.g. the liberal use of (non-interpreted!) whitespace for nicer formatting.
6858 </para>
6859
6860 <para>
6861  You get the idea?
6862 </para>
6863 </sect2>
6864
6865 <!--   ~~~~~~~~       New section Header    ~~~~~~~~~     -->
6866
6867 <sect2 id="predefined-filters"><title>The Pre-defined Filters</title>
6868
6869 <!--
6870
6871  Note each filter is also listed in the +filter action section above. Please
6872  keep these listings in sync.
6873
6874 -->
6875
6876 <para>
6877 The distribution <filename>default.filter</filename> file contains a selection of
6878 pre-defined filters for your convenience:
6879 </para>
6880
6881 <variablelist>
6882  <varlistentry>
6883   <term><emphasis>js-annoyances</emphasis></term>
6884   <listitem>
6885    <para>
6886     The purpose of this filter is to get rid of particularly annoying JavaScript abuse.
6887     To that end, it
6888    </para>
6889    <itemizedlist>
6890     <listitem>
6891      <para>
6892       replaces JavaScript references to the browser's referrer information
6893       with the string "Not Your Business!". This compliments the <literal><link
6894       linkend="hide-referrer">hide-referrer</link></literal> action on the content level.
6895      </para>
6896     </listitem>
6897     <listitem>
6898      <para>
6899       removes the bindings to the DOM's
6900       <ulink url="http://www.w3.org/TR/2000/REC-DOM-Level-2-Events-20001113/events.html#Events-eventgroupings-htmlevents">unload
6901       event</ulink> which we feel has no right to exist and is responsible for most <quote>exit consoles</quote>, i.e.
6902       nasty windows that pop up when you close another one.
6903      </para>
6904     </listitem>
6905     <listitem>
6906      <para>
6907       removes code that causes new windows to be opened with undesired properties, such as being
6908       full-screen, non-resizeable, without location, status or menu bar etc.
6909      </para>
6910     </listitem>
6911    </itemizedlist>
6912    <para>
6913     Use with caution. This is an aggressive filter, and can break sites that
6914     rely heavily on JavaScript.
6915    </para>
6916   </listitem>
6917  </varlistentry>
6918
6919  <varlistentry>
6920   <term><emphasis>js-events</emphasis></term>
6921   <listitem>
6922    <para>
6923     This is a very radical measure. It removes virtually all JavaScript event bindings, which
6924     means that scripts can not react to user actions such as mouse movements or clicks, window
6925     resizing etc, anymore. Use with caution!
6926    </para>
6927    <para>
6928     We <emphasis>strongly discourage</emphasis> using this filter as a default since it breaks
6929     many legitimate scripts. It is meant for use only on extra-nasty sites (should you really
6930     need to go there).
6931    </para>
6932   </listitem>
6933  </varlistentry>
6934
6935 <varlistentry>
6936   <term><emphasis>html-annoyances</emphasis></term>
6937   <listitem>
6938    <para>
6939     This filter will undo many common instances of HTML based abuse.
6940    </para>
6941    <para>
6942     The <literal>BLINK</literal> and <literal>MARQUEE</literal> tags
6943     are neutralized (yeah baby!), and browser windows will be created as
6944     resizeable (as of course they should be!), and will have location,
6945     scroll and menu bars -- even if specified otherwise.
6946    </para>
6947   </listitem>
6948  </varlistentry>
6949
6950  <varlistentry>
6951   <term><emphasis>content-cookies</emphasis></term>
6952   <listitem>
6953    <para>
6954     Most cookies are set in the HTTP dialog, where they can be intercepted
6955     by the
6956     <literal><link linkend="crunch-incoming-cookies">crunch-incoming-cookies</link></literal>
6957     and <literal><link linkend="crunch-outgoing-cookies">crunch-outgoing-cookies</link></literal>
6958     actions. But web sites increasingly make use of HTML meta tags and JavaScript
6959     to sneak cookies to the browser on the content level.
6960    </para>
6961    <para>
6962     This filter disables most HTML and JavaScript code that reads or sets
6963     cookies. It cannot detect all clever uses of these types of code, so it
6964     should not be relied on as an absolute fix. Use it wherever you would also
6965     use the cookie crunch actions.
6966    </para>
6967   </listitem>
6968  </varlistentry>
6969
6970  <varlistentry>
6971   <term><emphasis>refresh-tags</emphasis></term>
6972   <listitem>
6973    <para>
6974     Disable any refresh tags if the interval is greater than nine seconds (so
6975     that redirections done via refresh tags are not destroyed). This is useful
6976     for dial-on-demand setups, or for those who find this HTML feature
6977     annoying.
6978    </para>
6979   </listitem>
6980  </varlistentry>
6981
6982  <varlistentry>
6983   <term><emphasis>unsolicited-popups</emphasis></term>
6984   <listitem>
6985    <para>
6986     This filter attempts to prevent only <quote>unsolicited</quote> pop-up
6987     windows from opening, yet still allow pop-up windows that the user
6988     has explicitly chosen to open. It was added in version 3.0.1,
6989     as an improvement over earlier such filters.
6990    </para>
6991    <para>
6992     Technical note: The filter works by redefining the window.open JavaScript
6993     function to a dummy function, <literal>PrivoxyWindowOpen()</literal>,
6994     during the loading and rendering phase of each HTML page access, and
6995     restoring the function afterward.
6996    </para>
6997    <para>
6998     This is recommended only for browsers that cannot perform this function
6999     reliably themselves. And be aware that some sites require such windows
7000     in order to function normally. Use with caution.
7001    </para>
7002   </listitem>
7003  </varlistentry>
7004
7005  <varlistentry>
7006   <term><emphasis>all-popups</emphasis></term>
7007   <listitem>
7008    <para>
7009     Attempt to prevent <emphasis>all</emphasis> pop-up windows from opening.
7010     Note this should be used with even more discretion than the above, since
7011     it is more likely to break some sites that require pop-ups for normal
7012     usage. Use with caution.
7013    </para>
7014   </listitem>
7015  </varlistentry>
7016
7017  <varlistentry>
7018   <term><emphasis>img-reorder</emphasis></term>
7019   <listitem>
7020    <para>
7021     This is a helper filter that has no value if used alone. It makes the
7022     <literal>banners-by-size</literal> and <literal>banners-by-link</literal>
7023     (see below) filters more effective and should be enabled together with them.
7024    </para>
7025   </listitem>
7026  </varlistentry>
7027
7028  <varlistentry>
7029   <term><emphasis>banners-by-size</emphasis></term>
7030   <listitem>
7031    <para>
7032     This filter removes image tags purely based on what size they are. Fortunately
7033     for us, many ads and banner images tend to conform to certain standardized
7034     sizes, which makes this filter quite effective for ad stripping purposes.
7035    </para>
7036    <para>
7037     Occasionally this filter will cause false positives on images that are not ads,
7038     but just happen to be of one of the standard banner sizes.
7039    </para>
7040    <para>
7041     Recommended only for those who require extreme ad blocking. The default
7042     block rules should catch 95+% of all ads <emphasis>without</emphasis> this filter enabled.
7043    </para>
7044   </listitem>
7045  </varlistentry>
7046
7047  <varlistentry>
7048   <term><emphasis>banners-by-link</emphasis></term>
7049   <listitem>
7050    <para>
7051     This is an experimental filter that attempts to kill any banners if
7052     their URLs seem to point to known or suspected click trackers. It is currently
7053     not of much value and is not recommended for use by default.
7054    </para>
7055   </listitem>
7056  </varlistentry>
7057
7058  <varlistentry>
7059   <term><emphasis>webbugs</emphasis></term>
7060   <listitem>
7061    <para>
7062     Webbugs are small, invisible images (technically 1X1 GIF images), that
7063     are used to track users across websites, and collect information on them.
7064     As an HTML page is loaded by the browser, an embedded image tag causes the
7065     browser to contact a third-party site, disclosing the tracking information
7066     through the requested URL and/or cookies for that third-party domain, without
7067     the user ever becoming aware of the interaction with the third-party site.
7068     HTML-ized spam also uses a similar technique to verify email addresses.
7069    </para>
7070    <para>
7071     This filter removes the HTML code that loads such <quote>webbugs</quote>.
7072    </para>
7073   </listitem>
7074  </varlistentry>
7075
7076  <varlistentry>
7077   <term><emphasis>tiny-textforms</emphasis></term>
7078   <listitem>
7079    <para>
7080     A rather special-purpose filter that can be used to enlarge textareas (those
7081     multi-line text boxes in web forms) and turn off hard word wrap in them.
7082     It was written for the sourceforge.net tracker system where such boxes are
7083     a nuisance, but it can be handy on other sites, too.
7084    </para>
7085    <para>
7086     It is not recommended to use this filter as a default.
7087    </para>
7088   </listitem>
7089  </varlistentry>
7090
7091  <varlistentry>
7092   <term><emphasis>jumping-windows</emphasis></term>
7093   <listitem>
7094    <para>
7095     Many consider windows that move, or resize themselves to be abusive. This filter
7096     neutralizes the related JavaScript code. Note that some sites might not display
7097     or behave as intended when using this filter. Use with caution.
7098    </para>
7099   </listitem>
7100  </varlistentry>
7101
7102  <varlistentry>
7103   <term><emphasis>frameset-borders</emphasis></term>
7104   <listitem>
7105    <para>
7106     Some web designers seem to assume that everyone in the world will view their
7107     web sites using the same browser brand and version, screen resolution etc,
7108     because only that assumption could explain why they'd use static frame sizes,
7109     yet prevent their frames from being resized by the user, should they be too
7110     small to show their whole content.
7111    </para>
7112    <para>
7113     This filter removes the related HTML code. It should only be applied to sites
7114     which need it.
7115    </para>
7116   </listitem>
7117  </varlistentry>
7118
7119  <varlistentry>
7120   <term><emphasis>demoronizer</emphasis></term>
7121   <listitem>
7122    <para>
7123     Many Microsoft products that generate HTML use non-standard extensions (read:
7124     violations) of the ISO 8859-1 aka Latin-1 character set. This can cause those
7125     HTML documents to display with errors on standard-compliant platforms.
7126    </para>
7127    <para>
7128     This filter translates the MS-only characters into Latin-1 equivalents.
7129     It is not necessary when using MS products, and will cause corruption of
7130     all documents that use 8-bit character sets other than Latin-1. It's mostly
7131     worthwhile for Europeans on non-MS platforms, if weird garbage characters
7132     sometimes appear on some pages, or user agents that don't correct for this on
7133     the fly.
7134 <!--
7135     My version of Mozilla (ancient) shows litte square boxes for quote
7136     characters, and apostrophes on moronized pages. So many pages have this, I
7137     can read them fine now. HB 08/27/06
7138 -->
7139    </para>
7140   </listitem>
7141  </varlistentry>
7142
7143  <varlistentry>
7144   <term><emphasis>shockwave-flash</emphasis></term>
7145   <listitem>
7146    <para>
7147     A filter for shockwave haters. As the name suggests, this filter strips code
7148     out of web pages that is used to embed shockwave flash objects.
7149    </para>
7150    <para>
7151    </para>
7152   </listitem>
7153  </varlistentry>
7154
7155  <varlistentry>
7156   <term><emphasis>quicktime-kioskmode</emphasis></term>
7157   <listitem>
7158    <para>
7159     Change HTML code that embeds Quicktime objects so that kioskmode, which
7160     prevents saving, is disabled.
7161    </para>
7162   </listitem>
7163  </varlistentry>
7164
7165  <varlistentry>
7166   <term><emphasis>fun</emphasis></term>
7167   <listitem>
7168    <para>
7169     Text replacements for subversive browsing fun. Make fun of your favorite
7170     Monopolist or play buzzword bingo.
7171    </para>
7172   </listitem>
7173  </varlistentry>
7174
7175  <varlistentry>
7176   <term><emphasis>crude-parental</emphasis></term>
7177   <listitem>
7178    <para>
7179     A demonstration-only filter that shows how <application>Privoxy</application>
7180     can be used to delete web content on a keyword basis.
7181    </para>
7182   </listitem>
7183  </varlistentry>
7184
7185  <varlistentry>
7186   <term><emphasis>ie-exploits</emphasis></term>
7187   <listitem>
7188    <para>
7189     An experimental collection of text replacements to disable malicious HTML and JavaScript
7190     code that exploits known security holes in Internet Explorer.
7191    </para>
7192    <para>
7193     Presently, it only protects against Nimda and a cross-site scripting bug, and
7194     would need active maintenance to provide more substantial protection.
7195    </para>
7196   </listitem>
7197  </varlistentry>
7198
7199  <varlistentry>
7200   <term><emphasis>site-specifics</emphasis></term>
7201   <listitem>
7202    <para>
7203     Some web sites have very specific problems, the cure for which doesn't apply
7204     anywhere else, or could even cause damage on other sites.
7205    </para>
7206    <para>
7207     This is a collection of such site-specific cures which should only be applied
7208     to the sites they were intended for, which is what the supplied
7209     <filename>default.action</filename> file does. Users shouldn't need to change
7210     anything regarding this filter.
7211    </para>
7212   </listitem>
7213  </varlistentry>
7214
7215  <varlistentry>
7216   <term><emphasis>google</emphasis></term>
7217   <listitem>
7218    <para>
7219     A CSS based block for Google text ads. Also removes a width limitation
7220     and the toolbar advertisement.
7221    </para>
7222   </listitem>
7223  </varlistentry>
7224
7225   <varlistentry>
7226   <term><emphasis>yahoo</emphasis></term>
7227   <listitem>
7228    <para>
7229     Another CSS based block, this time for Yahoo text ads. And removes
7230     a width limitation as well.
7231    </para>
7232   </listitem>
7233  </varlistentry>
7234
7235   <varlistentry>
7236   <term><emphasis>msn</emphasis></term>
7237   <listitem>
7238    <para>
7239     Another CSS based block, this time for MSN text ads. And removes
7240     tracking URLs, as well as a width limitation.
7241    </para>
7242   </listitem>
7243  </varlistentry>
7244
7245  <varlistentry>
7246   <term><emphasis>blogspot</emphasis></term>
7247   <listitem>
7248    <para>
7249     Cleans up some Blogspot blogs. Read the fine print before using this one!
7250    </para>
7251    <para>
7252     This filter also intentionally removes some navigation stuff and sets the
7253     page width to 100%. As a result, some rounded <quote>corners</quote> would
7254     appear to early or not at all and as fixing this would require a browser
7255     that understands background-size (CSS3), they are removed instead.
7256    </para>
7257   </listitem>
7258  </varlistentry>
7259
7260   <varlistentry>
7261   <term><emphasis>xml-to-html</emphasis></term>
7262   <listitem>
7263    <para>
7264     Server-header filter to change the Content-Type from xml to html.
7265    </para>
7266   </listitem>
7267  </varlistentry>
7268
7269   <varlistentry>
7270   <term><emphasis>html-to-xml</emphasis></term>
7271   <listitem>
7272    <para>
7273     Server-header filter to change the Content-Type from html to xml.
7274    </para>
7275   </listitem>
7276  </varlistentry>
7277
7278   <varlistentry>
7279   <term><emphasis>no-ping</emphasis></term>
7280   <listitem>
7281    <para>
7282     Removes the non-standard <literal>ping</literal> attribute from
7283     anchor and area HTML tags.
7284    </para>
7285   </listitem>
7286  </varlistentry>
7287
7288   <varlistentry>
7289   <term><emphasis>hide-tor-exit-notation</emphasis></term>
7290   <listitem>
7291    <para>
7292     Client-header filter to remove the <command>Tor</command> exit node notation
7293     found in Host and Referer headers.
7294    </para>
7295    <para>
7296     If &my-app; and <command>Tor</command> are chained and &my-app;
7297     is configured to use socks4a, one can use <quote>http://www.example.org.foobar.exit/</quote>
7298     to access the host <quote>www.example.org</quote> through the
7299     <command>Tor</command> exit node <quote>foobar</quote>.
7300    </para>
7301    <para>
7302     As the HTTP client isn't aware of this notation, it treats the
7303     whole string <quote>www.example.org.foobar.exit</quote> as host and uses it
7304     for the <quote>Host</quote> and <quote>Referer</quote> headers. From the
7305     server's point of view the resulting headers are invalid and can cause problems.
7306    </para>
7307    <para>
7308     An invalid <quote>Referer</quote> header can trigger <quote>hot-linking</quote>
7309     protections, an invalid <quote>Host</quote> header will make it impossible for
7310     the server to find the right vhost (several domains hosted on the same IP address).
7311    </para>
7312    <para>
7313     This client-header filter removes the <quote>foo.exit</quote> part in those headers
7314     to prevent the mentioned problems. Note that it only modifies
7315     the HTTP headers, it doesn't make it impossible for the server
7316     to detect your <command>Tor</command> exit node based on the IP address
7317     the request is coming from.
7318    </para>
7319   </listitem>
7320  </varlistentry>
7321
7322 <!--
7323  <varlistentry>
7324   <term><emphasis> </emphasis></term>
7325   <listitem>
7326    <para>
7327    </para>
7328    <para>
7329    </para>
7330   </listitem>
7331  </varlistentry>
7332 -->
7333 </variablelist>
7334
7335 </sect2>
7336
7337 <!--   ~~~~~~~~       New section Header    ~~~~~~~~~     -->
7338 <sect2 id="external-filter-syntax"><title>External filter syntax</title>
7339 <para>
7340  External filters are scripts or programs that can modify the content in
7341  case common <literal><link linkend="filter">filters</link></literal>
7342  aren't powerful enough.
7343 </para>
7344 <para>
7345  External filters can be written in any language the platform &my-app; runs
7346  on supports.
7347 </para>
7348 <para>
7349  They are controlled with the
7350  <literal><link linkend="external-filter">external-filter</link></literal> action
7351  and have to be defined in the <literal><link linkend="filterfile">filterfile</link></literal>
7352  first.
7353 </para>
7354 <para>
7355  The header looks like any other filter, but instead of pcrs jobs, external
7356  filters contain a single job which can be a program or a shell script (which
7357  may call other scripts or programs).
7358 </para>
7359 <para>
7360  External filters read the content from STDIN and write the rewritten
7361  content to STDOUT.
7362  The environment variables PRIVOXY_URL, PRIVOXY_PATH, PRIVOXY_HOST,
7363  PRIVOXY_ORIGIN, PRIVOXY_LISTEN_ADDRESS can be used to get some details
7364  about the client request.
7365 </para>
7366 <para>
7367  &my-app; will temporary store the content to filter in the
7368  <literal><link linkend="temporary-directory">temporary-directory</link></literal>.
7369 </para>
7370
7371  <screen>
7372 EXTERNAL-FILTER: cat Pointless example filter that doesn't actually modify the content
7373 /bin/cat
7374
7375 # Incorrect reimplementation of the filter above in POSIX shell.
7376 #
7377 # Note that it's a single job that spans multiple lines, the line
7378 # breaks are not passed to the shell, thus the semicolons are required.
7379 #
7380 # If the script isn't trivial, it is recommended to put it into an external file.
7381 #
7382 # In general, writing external filters entirely in POSIX shell is not
7383 # considered a good idea.
7384 EXTERNAL-FILTER: cat2 Pointless example filter that despite its name may actually modify the content
7385 while read line; \
7386 do \
7387   echo "$line"; \
7388 done
7389
7390 EXTERNAL-FILTER: rotate-image Rotate an image by 180 degree. Test filter with limited value.
7391 /usr/local/bin/convert - -rotate 180 -
7392
7393 EXTERNAL-FILTER: citation-needed Adds a "[citation needed]" tag to an image. The coordinates may need adjustment.
7394 /usr/local/bin/convert - -pointsize 16 -fill white  -annotate +17+418 "[citation needed]" -
7395 </screen>
7396
7397 <warning>
7398  <para>
7399   Currently external filters are executed with &my-app;'s privileges!
7400   Only use external filters you understand and trust.
7401  </para>
7402 </warning>
7403 <para>
7404  External filters are experimental and the syntax may change in the future.
7405 </para>
7406 </sect2>
7407
7408 </sect1>
7409
7410 <!--  ~  End section  ~  -->
7411
7412
7413
7414 <!--   ~~~~~       New section      ~~~~~     -->
7415
7416 <sect1 id="templates">
7417 <title>Privoxy's Template Files</title>
7418 <para>
7419  All <application>Privoxy</application> built-in pages, i.e. error pages such as the
7420  <ulink url="http://show-the-404-error.page"><quote>404 - No Such Domain</quote>
7421  error page</ulink>, the <ulink
7422  url="http://ads.bannerserver.example.com/nasty-ads/sponsor.html"><quote>BLOCKED</quote>
7423  page</ulink>
7424  and all pages of its <ulink url="http://config.privoxy.org/">web-based
7425  user interface</ulink>, are generated from <emphasis>templates</emphasis>.
7426  (<application>Privoxy</application> must be running for the above links to work as
7427  intended.)
7428 </para>
7429
7430 <para>
7431  These templates are stored in a subdirectory of the <link linkend="confdir">configuration
7432  directory</link> called <filename>templates</filename>. On Unixish platforms,
7433  this is typically
7434  <ulink url="file:///etc/privoxy/templates/"><filename>/etc/privoxy/templates/</filename></ulink>.
7435 </para>
7436
7437 <para>
7438  The templates are basically normal HTML files, but with place-holders (called symbols
7439  or exports), which <application>Privoxy</application> fills at run time. It
7440  is possible to edit the templates with a normal text editor, should you want
7441  to customize them. (<emphasis>Not recommended for the casual
7442  user</emphasis>). Should you create your own custom templates, you should use
7443  the <filename>config</filename> setting <link linkend="templdir">templdir</link>
7444  to specify an alternate location, so your templates do not get overwritten
7445  during upgrades.
7446  </para>
7447  <para>
7448  Note that just like in configuration files, lines starting
7449  with <literal>#</literal> are ignored when the templates are filled in.
7450 </para>
7451
7452 <para>
7453  The place-holders are of the form <literal>@name@</literal>, and you will
7454  find a list of available symbols, which vary from template to template,
7455  in the comments at the start of each file. Note that these comments are not
7456  always accurate, and that it's probably best to look at the existing HTML
7457  code to find out which symbols are supported and what they are filled in with.
7458 </para>
7459
7460 <para>
7461  A special application of this substitution mechanism is to make whole
7462  blocks of HTML code disappear when a specific symbol is set. We use this
7463  for many purposes, one of them being to include the beta warning in all
7464  our user interface (CGI) pages when <application>Privoxy</application>
7465  is in an alpha or beta development stage:
7466 </para>
7467
7468  <screen>
7469 &lt;!-- @if-unstable-start --&gt;
7470
7471   ... beta warning HTML code goes here ...
7472
7473 &lt;!-- if-unstable-end@ --&gt;</screen>
7474
7475 <para>
7476  If the "unstable" symbol is set, everything in between and including
7477  <literal>@if-unstable-start</literal> and <literal>if-unstable-end@</literal>
7478  will disappear, leaving nothing but an empty comment:
7479 </para>
7480
7481  <screen>&lt;!--  --&gt;</screen>
7482
7483 <para>
7484  There's also an if-then-else construct and an <literal>#include</literal>
7485  mechanism, but you'll sure find out if you are inclined to edit the
7486  templates ;-)
7487 </para>
7488
7489 <para>
7490  All templates refer to a style located at
7491  <ulink url="http://config.privoxy.org/send-stylesheet"><literal>http://config.privoxy.org/send-stylesheet</literal></ulink>.
7492  This is, of course, locally served by <application>Privoxy</application>
7493  and the source for it can be found and edited in the
7494  <filename>cgi-style.css</filename> template.
7495 </para>
7496
7497 </sect1>
7498
7499 <!--  ~  End section  ~  -->
7500
7501
7502
7503 <!--   ~~~~~       New section      ~~~~~     -->
7504
7505 <sect1 id="contact"><title>Contacting the Developers, Bug Reporting and Feature
7506 Requests</title>
7507
7508 <!-- Include contacting.sgml boilerplate: -->
7509  &contacting;
7510 <!-- end boilerplate -->
7511
7512 </sect1>
7513
7514 <!--  ~  End section  ~  -->
7515
7516
7517 <!--   ~~~~~       New section      ~~~~~     -->
7518 <sect1 id="copyright"><title>Privoxy Copyright, License and History</title>
7519
7520 <!-- Include copyright.sgml: -->
7521  &copyright;
7522 <!-- end copyright -->
7523
7524 <para>
7525  <application>Privoxy</application> is free software; you can
7526  redistribute it and/or modify it under the terms of the
7527  <citetitle>GNU General Public License</citetitle>, version 2,
7528  as published by the Free Software Foundation and included in
7529  the next section.
7530 </para>
7531
7532 <!--   ~~~~~       New section      ~~~~~     -->
7533 <sect2 id="license"><title>License</title>
7534
7535  <screen><![ RCDATA [ &GPLv2; ]]></screen>
7536
7537 </sect2>
7538 <!--  ~  End section  ~  -->
7539
7540
7541 <!--   ~~~~~       New section      ~~~~~     -->
7542
7543 <sect2 id="history"><title>History</title>
7544 <!-- Include history.sgml: -->
7545  &history;
7546 <!-- end history -->
7547 </sect2>
7548
7549 <sect2 id="authors"><title>Authors</title>
7550 <!-- Include p-authors.sgml: -->
7551  &p-authors;
7552 <!-- end authors -->
7553 </sect2>
7554
7555 </sect1>
7556
7557 <!--  ~  End section  ~  -->
7558
7559
7560 <!--   ~~~~~       New section      ~~~~~     -->
7561 <sect1 id="seealso"><title>See Also</title>
7562 <!-- Include seealso.sgml: -->
7563  &seealso;
7564 <!-- end seealso -->
7565 </sect1>
7566
7567
7568
7569 <!--   ~~~~~       New section      ~~~~~     -->
7570 <sect1 id="appendix"><title>Appendix</title>
7571
7572
7573 <!--   ~~~~~       New section      ~~~~~     -->
7574 <sect2 id="regex">
7575 <title>Regular Expressions</title>
7576 <para>
7577  <application>Privoxy</application> uses Perl-style <quote>regular
7578  expressions</quote> in its <link linkend="actions-file">actions
7579  files</link> and <link linkend="filter-file">filter file</link>,
7580  through the <ulink url="http://www.pcre.org/">PCRE</ulink> and
7581 <!--
7582  dead 08/27/06
7583  <ulink url="http://www.oesterhelt.org/pcrs/">PCRS</ulink> libraries.
7584 -->
7585  <application>PCRS</application> libraries.
7586 </para>
7587
7588 <para>
7589  If you are reading this, you probably don't understand what <quote>regular
7590  expressions</quote> are, or what they can do. So this will be a very brief
7591  introduction only. A full explanation would require a <ulink
7592  url="http://www.oreilly.com/catalog/regex/">book</ulink> ;-)
7593 </para>
7594
7595 <para>
7596  Regular expressions provide a language to describe patterns that can be
7597  run against strings of characters (letter, numbers, etc), to see if they
7598  match the string or not. The  patterns are themselves (sometimes complex)
7599  strings of literal characters, combined with  wild-cards, and other special
7600  characters, called meta-characters. The <quote>meta-characters</quote> have
7601  special meanings and are used to build complex patterns to be matched against.
7602  Perl Compatible Regular Expressions are an especially convenient
7603  <quote>dialect</quote> of the regular expression language.
7604 </para>
7605
7606 <para>
7607  To make a simple analogy, we do something similar when we use wild-card
7608  characters when listing files with the <command>dir</command> command in DOS.
7609  <literal>*.*</literal> matches all filenames. The <quote>special</quote>
7610  character here is the asterisk which matches any and all characters. We can be
7611  more specific and use <literal>?</literal> to match just individual
7612  characters. So <quote>dir file?.text</quote> would match
7613  <quote>file1.txt</quote>, <quote>file2.txt</quote>, etc. We are pattern
7614  matching, using a similar technique to <quote>regular expressions</quote>!
7615 </para>
7616
7617 <para>
7618  Regular expressions do essentially the same thing, but are much, much more
7619  powerful. There are many more <quote>special characters</quote> and ways of
7620  building complex patterns however. Let's look at a few of the common ones,
7621  and then some examples:
7622 </para>
7623
7624 <simplelist>
7625  <member>
7626   <emphasis>.</emphasis> - Matches any single character, e.g. <quote>a</quote>,
7627   <quote>A</quote>, <quote>4</quote>, <quote>:</quote>, or <quote>@</quote>.
7628  </member>
7629 </simplelist>
7630
7631 <simplelist>
7632  <member>
7633   <emphasis>?</emphasis> - The preceding character or expression is matched ZERO or ONE
7634   times. Either/or.
7635  </member>
7636 </simplelist>
7637
7638 <simplelist>
7639  <member>
7640   <emphasis>+</emphasis> - The preceding character or expression is matched ONE or MORE
7641   times.
7642  </member>
7643 </simplelist>
7644
7645 <simplelist>
7646  <member>
7647   <emphasis>*</emphasis> - The preceding character or expression is matched ZERO or MORE
7648   times.
7649  </member>
7650 </simplelist>
7651
7652 <simplelist>
7653  <member>
7654   <emphasis>\</emphasis> - The <quote>escape</quote> character denotes that
7655   the following character should be taken literally. This is used where one of the
7656   special characters (e.g. <quote>.</quote>) needs to be taken literally and
7657   not as a special meta-character. Example: <quote>example\.com</quote>, makes
7658   sure the period is recognized only as a period (and not expanded to its
7659   meta-character meaning of any single character).
7660  </member>
7661 </simplelist>
7662
7663 <simplelist>
7664  <member>
7665   <emphasis>[ ]</emphasis> - Characters enclosed in brackets will be matched if
7666   any of the enclosed characters are encountered. For instance, <quote>[0-9]</quote>
7667   matches any numeric digit (zero through nine). As an example, we can combine
7668   this with <quote>+</quote> to match any digit one of more times: <quote>[0-9]+</quote>.
7669  </member>
7670 </simplelist>
7671
7672 <simplelist>
7673  <member>
7674   <emphasis>( )</emphasis> - parentheses are used to group a sub-expression,
7675   or multiple sub-expressions.
7676  </member>
7677 </simplelist>
7678
7679 <simplelist>
7680  <member>
7681   <emphasis>|</emphasis> - The <quote>bar</quote> character works like an
7682   <quote>or</quote> conditional statement. A match is successful if the
7683   sub-expression on either side of <quote>|</quote> matches. As an example:
7684   <quote>/(this|that) example/</quote> uses grouping and the bar character
7685   and would match either <quote>this example</quote> or <quote>that
7686   example</quote>, and nothing else.
7687  </member>
7688 </simplelist>
7689
7690 <para>
7691  These are just some of the ones you are likely to use when matching URLs with
7692  <application>Privoxy</application>, and is a long way from a definitive
7693  list. This is enough to get us started with a few simple examples which may
7694  be more illuminating:
7695 </para>
7696
7697 <para>
7698  <emphasis><literal>/.*/banners/.*</literal></emphasis> - A  simple example
7699  that uses the common combination of <quote>.</quote> and <quote>*</quote> to
7700  denote any character, zero or more times. In other words, any string at all.
7701  So we start with a literal forward slash, then our regular expression pattern
7702  (<quote>.*</quote>) another literal forward slash, the string
7703  <quote>banners</quote>, another forward slash, and lastly another
7704  <quote>.*</quote>. We are building
7705  a directory path here. This will match any file with the path that has a
7706  directory named <quote>banners</quote> in it. The <quote>.*</quote> matches
7707  any characters, and this could conceivably be more forward slashes, so it
7708  might expand into a much longer looking path. For example, this could match:
7709  <quote>/eye/hate/spammers/banners/annoy_me_please.gif</quote>, or just
7710  <quote>/banners/annoying.html</quote>, or almost an infinite number of other
7711  possible combinations, just so it has <quote>banners</quote> in the path
7712  somewhere.
7713 </para>
7714
7715 <para>
7716  And now something a little more complex:
7717 </para>
7718
7719 <para>
7720  <emphasis><literal>/.*/adv((er)?ts?|ertis(ing|ements?))?/</literal></emphasis> -
7721  We have several literal forward slashes again (<quote>/</quote>), so we are
7722  building another expression that is a file path statement. We have another
7723  <quote>.*</quote>, so we are matching against any conceivable sub-path, just so
7724  it matches our expression. The only true literal that <emphasis>must
7725  match</emphasis> our pattern is <application>adv</application>, together with
7726  the forward slashes. What comes after the <quote>adv</quote> string is the
7727  interesting part.
7728 </para>
7729
7730 <para>
7731  Remember the <quote>?</quote> means the preceding expression (either a
7732  literal character or anything grouped with <quote>(...)</quote> in this case)
7733  can exist or not, since this means either zero or one match. So
7734  <quote>((er)?ts?|ertis(ing|ements?))</quote> is optional, as are the
7735  individual sub-expressions: <quote>(er)</quote>,
7736  <quote>(ing|ements?)</quote>, and the <quote>s</quote>. The <quote>|</quote>
7737  means <quote>or</quote>. We have two of those. For instance,
7738  <quote>(ing|ements?)</quote>, can expand to match either <quote>ing</quote>
7739  <emphasis>OR</emphasis> <quote>ements?</quote>. What is being done here, is an
7740  attempt at matching as many variations of <quote>advertisement</quote>, and
7741  similar, as possible. So this would expand to match just <quote>adv</quote>,
7742  or <quote>advert</quote>, or <quote>adverts</quote>, or
7743  <quote>advertising</quote>, or <quote>advertisement</quote>, or
7744  <quote>advertisements</quote>. You get the idea. But it would not match
7745  <quote>advertizements</quote> (with a <quote>z</quote>). We could fix that by
7746  changing our regular expression to:
7747  <quote>/.*/adv((er)?ts?|erti(s|z)(ing|ements?))?/</quote>, which would then match
7748  either spelling.
7749 </para>
7750
7751 <para>
7752  <emphasis><literal>/.*/advert[0-9]+\.(gif|jpe?g)</literal></emphasis> - Again
7753  another path statement with forward slashes. Anything in the square brackets
7754  <quote>[ ]</quote> can be matched. This is using <quote>0-9</quote> as a
7755  shorthand expression to mean any digit one through nine. It is the same as
7756  saying <quote>0123456789</quote>. So any digit matches. The <quote>+</quote>
7757  means one or more of the preceding expression must be included. The preceding
7758  expression here is what is in the square brackets -- in this case, any digit
7759  one through nine. Then, at the end, we have a grouping: <quote>(gif|jpe?g)</quote>.
7760  This includes a <quote>|</quote>, so this needs to match the expression on
7761  either side of that bar character also. A simple <quote>gif</quote> on one side, and the other
7762  side will in turn match either <quote>jpeg</quote> or <quote>jpg</quote>,
7763  since the <quote>?</quote> means the letter <quote>e</quote> is optional and
7764  can be matched once or not at all. So we are building an expression here to
7765  match image GIF or JPEG type image file. It must include the literal
7766  string <quote>advert</quote>, then one or more digits, and a <quote>.</quote>
7767  (which is now a literal, and not a special character, since it is escaped
7768  with <quote>\</quote>), and lastly either <quote>gif</quote>, or
7769  <quote>jpeg</quote>, or <quote>jpg</quote>. Some possible matches would
7770  include: <quote>//advert1.jpg</quote>,
7771  <quote>/nasty/ads/advert1234.gif</quote>,
7772  <quote>/banners/from/hell/advert99.jpg</quote>. It would not match
7773  <quote>advert1.gif</quote> (no leading slash), or
7774  <quote>/adverts232.jpg</quote> (the expression does not include an
7775  <quote>s</quote>), or <quote>/advert1.jsp</quote> (<quote>jsp</quote> is not
7776  in the expression anywhere).
7777 </para>
7778
7779 <para>
7780  We are barely scratching the surface of regular expressions here so that you
7781  can understand the default <application>Privoxy</application>
7782  configuration files, and maybe use this knowledge to customize your own
7783  installation. There is much, much more that can be done with regular
7784  expressions. Now that you know enough to get started, you can learn more on
7785  your own :/
7786 </para>
7787
7788 <para>
7789  More reading on Perl Compatible Regular expressions:
7790  <ulink url="http://perldoc.perl.org/perlre.html">http://perldoc.perl.org/perlre.html</ulink>
7791 </para>
7792
7793 <para>
7794  For information on regular expression based substitutions and their applications
7795  in filters, please see the <link linkend="filter-file">filter file tutorial</link>
7796  in this manual.
7797 </para>
7798 </sect2>
7799
7800 <!--  ~  End section  ~  -->
7801
7802
7803 <!--   ~~~~~       New section      ~~~~~     -->
7804 <sect2 id="internal-pages">
7805 <title>Privoxy's Internal Pages</title>
7806
7807 <para>
7808  Since <application>Privoxy</application> proxies each requested
7809  web page, it is easy for <application>Privoxy</application> to
7810  trap certain special URLs. In this way, we can talk directly to
7811  <application>Privoxy</application>, and see how it is
7812  configured, see how our rules are being applied, change these
7813  rules and other configuration options, and even turn
7814  <application>Privoxy's</application> filtering off, all with
7815  a web browser.
7816 </para>
7817
7818 <para>
7819  The URLs listed below are the special ones that allow direct access
7820  to <application>Privoxy</application>. Of course,
7821  <application>Privoxy</application> must be running to access these. If
7822  not, you will get a friendly error message. Internet access is not
7823  necessary either.
7824 </para>
7825
7826  <itemizedlist>
7827
7828  <listitem>
7829   <para>
7830    Privoxy main page:
7831   </para>
7832   <blockquote>
7833    <para>
7834      <ulink url="http://config.privoxy.org/">http://config.privoxy.org/</ulink>
7835    </para>
7836   </blockquote>
7837   <para>
7838    There is a shortcut: <ulink url="http://p.p/">http://p.p/</ulink> (But it
7839    doesn't provide a fall-back to a real page, in case the request is not
7840    sent through <application>Privoxy</application>)
7841   </para>
7842  </listitem>
7843
7844  <listitem>
7845   <para>
7846     Show information about the current configuration, including viewing and
7847     editing of actions files:
7848   </para>
7849    <blockquote>
7850    <para>
7851     <ulink url="http://config.privoxy.org/show-status">http://config.privoxy.org/show-status</ulink>
7852    </para>
7853   </blockquote>
7854  </listitem>
7855
7856  <listitem>
7857   <para>
7858     Show the source code version numbers:
7859   </para>
7860   <blockquote>
7861    <para>
7862     <ulink url="http://config.privoxy.org/show-version">http://config.privoxy.org/show-version</ulink>
7863    </para>
7864   </blockquote>
7865  </listitem>
7866
7867  <listitem>
7868   <para>
7869    Show the browser's request headers:
7870   </para>
7871   <blockquote>
7872    <para>
7873     <ulink url="http://config.privoxy.org/show-request">http://config.privoxy.org/show-request</ulink>
7874    </para>
7875   </blockquote>
7876  </listitem>
7877
7878  <listitem>
7879   <para>
7880    Show which actions apply to a URL and why:
7881   </para>
7882    <blockquote>
7883    <para>
7884     <ulink url="http://config.privoxy.org/show-url-info">http://config.privoxy.org/show-url-info</ulink>
7885    </para>
7886   </blockquote>
7887  </listitem>
7888
7889  <listitem>
7890   <para>
7891    Toggle Privoxy on or off. This feature can be turned off/on in the main
7892    <filename>config</filename> file. When toggled <quote>off</quote>, <quote>Privoxy</quote>
7893    continues to run, but only as a pass-through proxy, with no actions taking
7894    place:
7895   </para>
7896    <blockquote>
7897    <para>
7898     <ulink url="http://config.privoxy.org/toggle">http://config.privoxy.org/toggle</ulink>
7899    </para>
7900   </blockquote>
7901   <para>
7902    Short cuts. Turn off, then on:
7903   </para>
7904    <blockquote>
7905    <para>
7906      <ulink url="http://config.privoxy.org/toggle?set=disable">http://config.privoxy.org/toggle?set=disable</ulink>
7907    </para>
7908   </blockquote>
7909    <blockquote>
7910    <para>
7911      <ulink url="http://config.privoxy.org/toggle?set=enable">http://config.privoxy.org/toggle?set=enable</ulink>
7912    </para>
7913   </blockquote>
7914  </listitem>
7915
7916  </itemizedlist>
7917
7918 </sect2>
7919
7920
7921 <!--   ~~~~~       New section      ~~~~~     -->
7922 <sect2 id="chain">
7923 <title>Chain of Events</title>
7924 <para>
7925  Let's take a quick look at how some of <application>Privoxy's</application>
7926  core features are triggered, and the ensuing sequence of events when a web
7927  page is requested by your browser:
7928 </para>
7929
7930  <itemizedlist>
7931  <listitem>
7932   <para>
7933    First, your web browser requests a web page. The browser knows to send
7934    the request to <application>Privoxy</application>, which will in turn,
7935    relay the request to the remote web server after passing the following
7936    tests:
7937   </para>
7938  </listitem>
7939  <listitem>
7940   <para>
7941    <application>Privoxy</application> traps any request for its own internal CGI
7942    pages (e.g <ulink url="http://p.p/">http://p.p/</ulink>) and sends the CGI page back to the browser.
7943   </para>
7944  </listitem>
7945  <listitem>
7946   <para>
7947    Next, <application>Privoxy</application> checks to see if the URL
7948    matches any <link
7949    linkend="BLOCK"><quote>+block</quote></link> patterns. If
7950    so, the URL is then blocked, and the remote web server will not be contacted.
7951    <link linkend="HANDLE-AS-IMAGE"><quote>+handle-as-image</quote></link>
7952    and
7953    <link linkend="HANDLE-AS-EMPTY-DOCUMENT"><quote>+handle-as-empty-document</quote></link>
7954    are then checked, and if there is no match, an
7955    HTML <quote>BLOCKED</quote> page is sent back to the browser. Otherwise, if
7956    it does match, an image is returned for the former, and an empty text
7957    document for the latter. The type of image would depend on the setting of
7958    <link linkend="SET-IMAGE-BLOCKER"><quote>+set-image-blocker</quote></link>
7959    (blank, checkerboard pattern, or an HTTP redirect to an image elsewhere).
7960   </para>
7961  </listitem>
7962  <listitem>
7963   <para>
7964    Untrusted URLs are blocked. If URLs are being added to the
7965    <filename>trust</filename> file, then that is done.
7966   </para>
7967  </listitem>
7968  <listitem>
7969   <para>
7970    If the URL pattern matches the <link
7971    linkend="FAST-REDIRECTS"><quote>+fast-redirects</quote></link> action,
7972    it is then processed. Unwanted parts of the requested URL are stripped.
7973   </para>
7974  </listitem>
7975  <listitem>
7976   <para>
7977    Now the rest of the client browser's request headers are processed. If any
7978    of these match any of the relevant actions (e.g. <link
7979    linkend="HIDE-USER-AGENT"><quote>+hide-user-agent</quote></link>,
7980    etc.), headers are suppressed or forged as determined by these actions and
7981    their parameters.
7982   </para>
7983  </listitem>
7984  <listitem>
7985   <para>
7986    Now the web server starts sending its response back (i.e. typically a web
7987    page).
7988   </para>
7989  </listitem>
7990  <listitem>
7991   <para>
7992    First, the server headers are read and processed to determine, among other
7993    things, the MIME type (document type) and encoding. The headers are then
7994    filtered as determined by the
7995    <link linkend="CRUNCH-INCOMING-COOKIES"><quote>+crunch-incoming-cookies</quote></link>,
7996    <link linkend="SESSION-COOKIES-ONLY"><quote>+session-cookies-only</quote></link>,
7997    and <link linkend="DOWNGRADE-HTTP-VERSION"><quote>+downgrade-http-version</quote></link>
7998    actions.
7999   </para>
8000  </listitem>
8001  <listitem>
8002   <para>
8003    If any <link linkend="FILTER"><quote>+filter</quote></link> action
8004    or <link
8005    linkend="DEANIMATE-GIFS"><quote>+deanimate-gifs</quote></link>
8006    action applies (and the document type fits the action), the rest of the page is
8007    read into memory (up to a configurable limit). Then the filter rules (from
8008    <filename>default.filter</filename> and any other filter files) are
8009    processed against the buffered content. Filters are applied in the order
8010    they are specified in one of the filter files. Animated GIFs, if present,
8011    are reduced to either the first or last frame, depending on the action
8012    setting.The entire page, which is now filtered, is then sent by
8013    <application>Privoxy</application> back to your browser.
8014   </para>
8015   <para>
8016    If neither a <link linkend="FILTER"><quote>+filter</quote></link> action
8017    or <link
8018    linkend="DEANIMATE-GIFS"><quote>+deanimate-gifs</quote></link>
8019    matches, then <application>Privoxy</application> passes the raw data through
8020    to the client browser as it becomes available.
8021   </para>
8022  </listitem>
8023  <listitem>
8024   <para>
8025    As the browser receives the now (possibly filtered) page content, it
8026    reads and then requests any URLs that may be embedded within the page
8027    source, e.g. ad images, stylesheets, JavaScript, other HTML documents (e.g.
8028    frames), sounds, etc. For each of these objects, the browser issues a
8029    separate request (this is easily viewable in <application>Privoxy's</application>
8030    logs). And each such request is in turn processed just as above. Note that a
8031    complex web page will have many, many such embedded URLs. If these
8032    secondary requests are to a different server, then quite possibly a very
8033    differing set of actions is triggered.
8034   </para>
8035  </listitem>
8036
8037  </itemizedlist>
8038
8039 <para>
8040  NOTE: This is somewhat of a simplistic overview of what happens with each URL
8041  request. For the sake of brevity and simplicity, we have focused on
8042  <application>Privoxy's</application> core features only.
8043 </para>
8044
8045 </sect2>
8046
8047
8048 <!--   ~~~~~       New section      ~~~~~     -->
8049 <sect2 id="actionsanat">
8050 <title>Troubleshooting: Anatomy of an Action</title>
8051
8052 <para>
8053  The way <application>Privoxy</application> applies
8054  <link linkend="ACTIONS">actions</link> and <link linkend="FILTER">filters</link>
8055  to any given URL can be complex, and not always so
8056  easy to understand what is happening. And sometimes we need to be able to
8057  <emphasis>see</emphasis> just what <application>Privoxy</application> is
8058  doing. Especially, if something <application>Privoxy</application> is doing
8059  is causing us a problem inadvertently. It can be a little daunting to look at
8060  the actions and filters files themselves, since they tend to be filled with
8061  <link linkend="regex">regular expressions</link> whose consequences are not
8062  always so obvious.
8063 </para>
8064
8065 <para>
8066  One quick test to see if <application>Privoxy</application> is causing a problem
8067  or not, is to disable it temporarily. This should be the first troubleshooting
8068  step (be sure to flush caches afterward!). Looking at the
8069  logs is a good idea too. (Note that both the toggle feature and logging are
8070  enabled via <filename>config</filename> file settings, and may need to be
8071  turned <quote>on</quote>.)
8072 </para>
8073 <para>
8074  Another easy troubleshooting step to try is if you have done any
8075  customization of your installation, revert back to the installed
8076  defaults and see if that helps. There are times the developers get complaints
8077  about one thing or another, and the problem is more related to a customized
8078  configuration issue.
8079 </para>
8080
8081 <para>
8082  <application>Privoxy</application> also provides the
8083  <ulink url="http://config.privoxy.org/show-url-info">http://config.privoxy.org/show-url-info</ulink>
8084  page that can show us very specifically how <application>actions</application>
8085  are being applied to any given URL. This is a big help for troubleshooting.
8086 </para>
8087
8088 <para>
8089  First, enter one URL (or partial URL) at the prompt, and then
8090  <application>Privoxy</application> will tell us
8091  how the current configuration will handle it. This will not
8092  help with filtering effects (i.e. the <link
8093  linkend="FILTER"><quote>+filter</quote></link> action) from
8094  one of the filter files since this is handled very
8095  differently and not so easy to trap! It also will not tell you about any other
8096  URLs that may be embedded within the URL you are testing. For instance, images
8097  such as ads are expressed as URLs within the raw page source of HTML pages. So
8098  you will only get info for the actual URL that is pasted into the prompt area
8099  -- not any sub-URLs. If you want to know about embedded URLs like ads, you
8100  will have to dig those out of the HTML source. Use your browser's <quote>View
8101  Page Source</quote> option for this. Or right click on the ad, and grab the
8102  URL.
8103 </para>
8104
8105 <para>
8106  Let's try an example, <ulink url="http://google.com">google.com</ulink>,
8107  and look at it one section at a time in a sample configuration (your real
8108  configuration may vary):
8109 </para>
8110
8111  <screen>
8112  Matches for http://www.google.com:
8113
8114  In file: default.action <guibutton>[ View ]</guibutton> <guibutton>[ Edit ]</guibutton>
8115
8116  {+change-x-forwarded-for{block}
8117  +deanimate-gifs {last}
8118  +fast-redirects {check-decoded-url}
8119  +filter {refresh-tags}
8120  +filter {img-reorder}
8121  +filter {banners-by-size}
8122  +filter {webbugs}
8123  +filter {jumping-windows}
8124  +filter {ie-exploits}
8125  +hide-from-header {block}
8126  +hide-referrer {forge}
8127  +session-cookies-only
8128  +set-image-blocker {pattern}
8129 /
8130
8131  { -session-cookies-only }
8132  .google.com
8133
8134  { -fast-redirects }
8135  .google.com
8136
8137 In file: user.action <guibutton>[ View ]</guibutton> <guibutton>[ Edit ]</guibutton>
8138 (no matches in this file)
8139 </screen>
8140
8141 <para>
8142  This is telling us how we have defined our
8143  <link linkend="ACTIONS"><quote>actions</quote></link>, and
8144  which ones match for our test case, <quote>google.com</quote>.
8145  Displayed is all the actions that are available to us. Remember,
8146  the <literal>+</literal> sign denotes <quote>on</quote>. <literal>-</literal>
8147  denotes <quote>off</quote>. So some are <quote>on</quote> here, but many
8148  are <quote>off</quote>. Each example we try may provide a slightly different
8149  end result, depending on our configuration directives.
8150 </para>
8151 <para>
8152  The first listing
8153   is for our <filename>default.action</filename> file. The large, multi-line
8154   listing, is how the actions are set to match for all URLs, i.e. our default
8155   settings. If you look at your <quote>actions</quote> file, this would be the
8156   section just below the <quote>aliases</quote> section near the top. This
8157   will apply to all URLs as signified by the single forward slash at the end
8158   of the listing -- <quote> / </quote>.
8159 </para>
8160
8161 <para>
8162  But we have defined additional actions that would be exceptions to these general
8163  rules, and then we list specific URLs (or patterns) that these exceptions
8164  would apply to. Last match wins. Just below this then are two explicit
8165  matches for <quote>.google.com</quote>. The first is negating our previous
8166  cookie setting, which was for <link
8167  linkend="SESSION-COOKIES-ONLY"><quote>+session-cookies-only</quote></link>
8168  (i.e. not persistent). So we will allow persistent cookies for google, at
8169  least that is how it is in this example. The second turns
8170  <emphasis>off</emphasis> any <link
8171  linkend="FAST-REDIRECTS"><quote>+fast-redirects</quote></link>
8172  action, allowing this to take place unmolested. Note that there is a leading
8173  dot here -- <quote>.google.com</quote>. This will match any hosts and
8174  sub-domains, in the google.com domain also, such as
8175  <quote>www.google.com</quote> or <quote>mail.google.com</quote>. But it would not
8176  match <quote>www.google.de</quote>! So, apparently, we have these two actions
8177  defined as exceptions to the general rules at the top somewhere in the lower
8178  part of our <filename>default.action</filename> file, and
8179  <quote>google.com</quote> is referenced somewhere in these latter sections.
8180 </para>
8181
8182 <para>
8183  Then, for our <filename>user.action</filename> file, we again have no hits.
8184  So there is nothing google-specific that we might have added to our own, local
8185  configuration. If there was, those actions would over-rule any actions from
8186  previously processed files, such as <filename>default.action</filename>.
8187  <filename>user.action</filename> typically has the last word. This is the
8188  best place to put hard and fast exceptions,
8189 </para>
8190
8191 <para>
8192  And finally we pull it all together in the bottom section and summarize how
8193  <application>Privoxy</application> is applying all its <quote>actions</quote>
8194  to <quote>google.com</quote>:
8195 </para>
8196
8197  <screen>
8198  Final results:
8199
8200  -add-header
8201  -block
8202  +change-x-forwarded-for{block}
8203  -client-header-filter{hide-tor-exit-notation}
8204  -content-type-overwrite
8205  -crunch-client-header
8206  -crunch-if-none-match
8207  -crunch-incoming-cookies
8208  -crunch-outgoing-cookies
8209  -crunch-server-header
8210  +deanimate-gifs {last}
8211  -downgrade-http-version
8212  -fast-redirects
8213  -filter {js-events}
8214  -filter {content-cookies}
8215  -filter {all-popups}
8216  -filter {banners-by-link}
8217  -filter {tiny-textforms}
8218  -filter {frameset-borders}
8219  -filter {demoronizer}
8220  -filter {shockwave-flash}
8221  -filter {quicktime-kioskmode}
8222  -filter {fun}
8223  -filter {crude-parental}
8224  -filter {site-specifics}
8225  -filter {js-annoyances}
8226  -filter {html-annoyances}
8227  +filter {refresh-tags}
8228  -filter {unsolicited-popups}
8229  +filter {img-reorder}
8230  +filter {banners-by-size}
8231  +filter {webbugs}
8232  +filter {jumping-windows}
8233  +filter {ie-exploits}
8234  -filter {google}
8235  -filter {yahoo}
8236  -filter {msn}
8237  -filter {blogspot}
8238  -filter {no-ping}
8239  -force-text-mode
8240  -handle-as-empty-document
8241  -handle-as-image
8242  -hide-accept-language
8243  -hide-content-disposition
8244  +hide-from-header {block}
8245  -hide-if-modified-since
8246  +hide-referrer {forge}
8247  -hide-user-agent
8248  -limit-connect
8249  -overwrite-last-modified
8250  -prevent-compression
8251  -redirect
8252  -server-header-filter{xml-to-html}
8253  -server-header-filter{html-to-xml}
8254  -session-cookies-only
8255  +set-image-blocker {pattern} </screen>
8256
8257 <para>
8258  Notice the only difference here to the previous listing, is to
8259  <quote>fast-redirects</quote> and <quote>session-cookies-only</quote>,
8260  which are activated specifically for this site in our configuration,
8261  and thus show in the <quote>Final Results</quote>.
8262 </para>
8263
8264 <para>
8265  Now another example, <quote>ad.doubleclick.net</quote>:
8266 </para>
8267
8268  <screen>
8269  { +block{Domains starts with "ad"} }
8270   ad*.
8271
8272  { +block{Domain contains "ad"} }
8273   .ad.
8274
8275  { +block{Doubleclick banner server} +handle-as-image }
8276   .[a-vx-z]*.doubleclick.net
8277 </screen>
8278
8279 <para>
8280  We'll just show the interesting part here - the explicit matches. It is
8281  matched three different times. Two <quote>+block{}</quote> sections,
8282  and a <quote>+block{} +handle-as-image</quote>,
8283  which is the expanded form of one of our aliases that had been defined as:
8284  <quote>+block-as-image</quote>. (<link
8285  linkend="ALIASES"><quote>Aliases</quote></link> are defined in
8286  the first section of the actions file and typically used to combine more
8287  than one action.)
8288 </para>
8289
8290 <para>
8291  Any one of these would have done the trick and blocked this as an unwanted
8292  image. This is unnecessarily redundant since the last case effectively
8293  would also cover the first. No point in taking chances with these guys
8294  though ;-) Note that if you want an ad or obnoxious
8295  URL to be invisible, it should be defined as <quote>ad.doubleclick.net</quote>
8296  is done here -- as both a <link
8297  linkend="BLOCK"><quote>+block{}</quote></link>
8298  <emphasis>and</emphasis> an
8299  <link linkend="HANDLE-AS-IMAGE"><quote>+handle-as-image</quote></link>.
8300  The custom alias <quote><literal>+block-as-image</literal></quote> just
8301  simplifies the process and make it more readable.
8302 </para>
8303
8304 <para>
8305  One last example. Let's try <quote>http://www.example.net/adsl/HOWTO/</quote>.
8306  This one is giving us problems. We are getting a blank page. Hmmm ...
8307 </para>
8308
8309  <screen>
8310  Matches for http://www.example.net/adsl/HOWTO/:
8311
8312  In file: default.action <guibutton>[ View ]</guibutton> <guibutton>[ Edit ]</guibutton>
8313
8314  {-add-header
8315   -block
8316   +change-x-forwarded-for{block}
8317   -client-header-filter{hide-tor-exit-notation}
8318   -content-type-overwrite
8319   -crunch-client-header
8320   -crunch-if-none-match
8321   -crunch-incoming-cookies
8322   -crunch-outgoing-cookies
8323   -crunch-server-header
8324   +deanimate-gifs
8325   -downgrade-http-version
8326   +fast-redirects {check-decoded-url}
8327   -filter {js-events}
8328   -filter {content-cookies}
8329   -filter {all-popups}
8330   -filter {banners-by-link}
8331   -filter {tiny-textforms}
8332   -filter {frameset-borders}
8333   -filter {demoronizer}
8334   -filter {shockwave-flash}
8335   -filter {quicktime-kioskmode}
8336   -filter {fun}
8337   -filter {crude-parental}
8338   -filter {site-specifics}
8339   -filter {js-annoyances}
8340   -filter {html-annoyances}
8341   +filter {refresh-tags}
8342   -filter {unsolicited-popups}
8343   +filter {img-reorder}
8344   +filter {banners-by-size}
8345   +filter {webbugs}
8346   +filter {jumping-windows}
8347   +filter {ie-exploits}
8348   -filter {google}
8349   -filter {yahoo}
8350   -filter {msn}
8351   -filter {blogspot}
8352   -filter {no-ping}
8353   -force-text-mode
8354   -handle-as-empty-document
8355   -handle-as-image
8356   -hide-accept-language
8357   -hide-content-disposition
8358   +hide-from-header{block}
8359   +hide-referer{forge}
8360   -hide-user-agent
8361   -overwrite-last-modified
8362   +prevent-compression
8363   -redirect
8364   -server-header-filter{xml-to-html}
8365   -server-header-filter{html-to-xml}
8366   +session-cookies-only
8367   +set-image-blocker{blank} }
8368    /
8369
8370  { +block{Path contains "ads".} +handle-as-image }
8371   /ads
8372 </screen>
8373
8374 <para>
8375  Ooops, the <quote>/adsl/</quote> is matching <quote>/ads</quote> in our
8376  configuration! But we did not want this at all! Now we see why we get the
8377  blank page. It is actually triggering two different actions here, and
8378  the effects are aggregated so that the URL is blocked, and &my-app; is told
8379  to treat the block as if it were an image. But this is, of course, all wrong.
8380   We could now add a new action below this (or better in our own
8381   <filename>user.action</filename> file) that explicitly
8382   <emphasis>un</emphasis> blocks (
8383   <link linkend="BLOCK"><quote>{-block}</quote></link>) paths with
8384   <quote>adsl</quote> in them (remember, last match in the configuration
8385   wins). There are various ways to handle such exceptions. Example:
8386 </para>
8387
8388  <screen>
8389  { -block }
8390   /adsl
8391 </screen>
8392
8393 <para>
8394  Now the page displays ;-)
8395  Remember to flush your browser's caches when making these kinds of changes to
8396  your configuration to insure that you get a freshly delivered page! Or, try
8397  using <literal>Shift+Reload</literal>.
8398 </para>
8399
8400 <para>
8401  But now what about a situation where we get no explicit matches like
8402  we did with:
8403 </para>
8404
8405  <screen>
8406  { +block{Path starts with "ads".} +handle-as-image }
8407  /ads
8408 </screen>
8409
8410 <para>
8411  That actually was very helpful and pointed us quickly to where the problem
8412  was. If you don't get this kind of match, then it means one of the default
8413  rules in the first section of <filename>default.action</filename> is causing
8414  the problem. This would require some guesswork, and maybe a little trial and
8415  error to isolate the offending rule. One likely cause would be one of the
8416  <link linkend="FILTER"><quote>+filter</quote></link> actions.
8417  These tend to be harder to troubleshoot.
8418  Try adding the URL for the site to one of aliases that turn off
8419  <link linkend="FILTER"><quote>+filter</quote></link>:
8420 </para>
8421
8422  <screen>
8423  { shop }
8424  .quietpc.com
8425  .worldpay.com   # for quietpc.com
8426  .jungle.com
8427  .scan.co.uk
8428  .forbes.com
8429 </screen>
8430
8431 <para>
8432  <quote><literal>{ shop }</literal></quote> is an <quote>alias</quote> that expands to
8433  <quote><literal>{ -filter -session-cookies-only }</literal></quote>.
8434  Or you could do your own exception to negate filtering:
8435 </para>
8436
8437  <screen>
8438  { -filter }
8439  # Disable ALL filter actions for sites in this section
8440  .forbes.com
8441  developer.ibm.com
8442  localhost
8443 </screen>
8444
8445 <para>
8446  This would turn off all filtering for these sites. This is best
8447  put in <filename>user.action</filename>, for local site
8448  exceptions. Note that when a simple domain pattern is used by itself (without
8449  the subsequent path portion), all sub-pages within that domain are included
8450  automatically in the scope of the action.
8451 </para>
8452
8453 <para>
8454  Images that are inexplicably being blocked, may well be hitting the
8455 <link linkend="FILTER-BANNERS-BY-SIZE"><quote>+filter{banners-by-size}</quote></link>
8456  rule, which assumes
8457  that images of certain sizes are ad banners (works well
8458  <emphasis>most of the time</emphasis>  since these tend to be standardized).
8459 </para>
8460
8461 <para>
8462  <quote><literal>{ fragile }</literal></quote> is an alias that disables most
8463  actions that are the most likely to cause trouble. This can be used as a
8464  last resort for problem sites.
8465 </para>
8466
8467  <screen>
8468  { fragile }
8469  # Handle with care: easy to break
8470  mail.google.
8471  mybank.example.com</screen>
8472
8473
8474 <para>
8475  <emphasis>Remember to flush caches!</emphasis> Note that the
8476  <literal>mail.google</literal> reference lacks the TLD portion (e.g.
8477  <quote>.com</quote>). This will effectively match any TLD with
8478  <literal>google</literal> in it, such as <literal>mail.google.de.</literal>,
8479  just as an example.
8480 </para>
8481 <para>
8482  If this still does not work, you will have to go through the remaining
8483  actions one by one to find which one(s) is causing the problem.
8484 </para>
8485
8486 </sect2>
8487
8488 </sect1>
8489
8490  <!--
8491
8492  This program is free software; you can redistribute it
8493  and/or modify it under the terms of the GNU General
8494  Public License as published by the Free Software
8495  Foundation; either version 2 of the License, or (at
8496  your option) any later version.
8497
8498  This program is distributed in the hope that it will
8499  be useful, but WITHOUT ANY WARRANTY; without even the
8500  implied warranty of MERCHANTABILITY or FITNESS FOR A
8501  PARTICULAR PURPOSE.  See the GNU General Public
8502  License for more details.
8503
8504  The GNU General Public License should be included with
8505  this file.  If not, you can view it at
8506  http://www.gnu.org/copyleft/gpl.html
8507  or write to the Free Software Foundation, Inc.,
8508  51 Franklin Street, Fifth Floor, Boston, MA 02110-1301,
8509  USA
8510
8511  -->
8512
8513 </article>