re_filterfile

   1 # ********************************************************************
   2 #
   3 #  File        :  $Source: /cvsroot/ijbswa/current/re_filterfile,v $
   4 #
   5 #  Purpose     :  Rules to process the content of web pages
   6 #
   7 #  Copyright   :  Written by and Copyright (C) 2001 the SourceForge
   8 #                 IJBSWA team.  http://ijbswa.sourceforge.net
   9 #
  10 #                 This program is free software; you can redistribute it
  11 #                 and/or modify it under the terms of the GNU General
  12 #                 Public License as published by the Free Software
  13 #                 Foundation; either version 2 of the License, or (at
  14 #                 your option) any later version.
  15 #
  16 #                 This program is distributed in the hope that it will
  17 #                 be useful, but WITHOUT ANY WARRANTY; without even the
  18 #                 implied warranty of MERCHANTABILITY or FITNESS FOR A
  19 #                 PARTICULAR PURPOSE.  See the GNU General Public
  20 #                 License for more details.
  21 #
  22 #                 The GNU General Public License should be included with
  23 #                 this file.  If not, you can view it at
  24 #                 http://www.gnu.org/copyleft/gpl.html
  25 #                 or write to the Free Software Foundation, Inc., 59
  26 #                 Temple Place - Suite 330, Boston, MA  02111-1307, USA.
  27 #
  28 #  Revisions   :
  29 #     $Log: re_filterfile,v $
  30 #     Revision 1.22  2002/03/12 13:42:50  oes
  31 #     Fixing & Optimizing REs
  32 #
  33 #     Revision 1.21  2002/03/12 11:59:20  oes
  34 #     Beefed up Buzzword Bingo
  35 #
  36 #     Revision 1.20  2002/03/12 01:42:50  oes
  37 #     Introduced modular filters
  38 #
  39 #     Revision 1.19  2002/03/10 19:49:24  oes
  40 #     Added expression to kill referer tracking in JavaScripts
  41 #
  42 #     Revision 1.18  2002/03/08 17:14:12  oes
  43 #     PNG -> image in comments
  44 #
  45 #     Revision 1.17  2002/03/07 03:50:54  oes
  46 #     Adapted comments to new built-in images
  47 #
  48 #     Revision 1.16  2002/02/21 00:12:19  jongfoster
  49 #     Modifying the banner regexps to use long URLS and to autodetect
  50 #     whether to show a logo or a transparent GIF, based on actionsfile
  51 #     setting.
  52 #
  53 #     Revision 1.15  2001/12/28 23:54:20  steudten
  54 #     Fix for feature Req #495374: http-equiv problem
  55 #
  56 #     Revision 1.14  2001/12/09 18:55:11  david__schmidt
  57 #     Updated CODE_STATUS to beta, commented out microsuck line in re_filterfile
  58 #     for 2.9.10 beta
  59 #
  60 #     Revision 1.13  2001/10/13 13:11:20  joergs
  61 #     Fixed WebBug filter.
  62 #
  63 #     Revision 1.12  2001/10/07 15:46:42  oes
  64 #     Followed Guy's proposal to change the document.cookie job
  65 #
  66 #     Revision 1.11  2001/09/21 12:34:00  joergs
  67 #     Added filter to replace "Nimda" code by a warning.
  68 #
  69 #     Revision 1.10  2001/07/20 11:04:26  oes
  70 #     Added Rodneys javascript cookie filter
  71 #
  72 #     Revision 1.9  2001/07/13 14:03:48  oes
  73 #     Elimiated yet another bug in the banner-by-size jobs. Shame on me!
  74 #
  75 #     Revision 1.8  2001/06/29 13:34:00  oes
  76 #     - Added explanation for U and T options
  77 #     - Added hint on image replacement by CGI call
  78 #     - Fixed bug in banner-by-size jobs
  79 #
  80 #     Revision 1.7  2001/06/19 14:21:56  oes
  81 #     Fixed microsuck line
  82 #
  83 #     Revision 1.6  2001/06/09 14:01:57  swa
  84 #     header. cosmetics. default: no messing ala microsuck.
  85 #
  86 #
  87 #
  88
  89 #################################################################################
  90 #
  91 # Syntax:
  92 #
  93 #################################################################################
  94 #
  95 # Filters start with a line "FILTER: name description". They are then referrable
  96 # from the actionsfile with +filter{name}
  97 #
  98 # Inside the filters, write one Perl-Style substitution (job) per line.
  99 # Jobs that precede the first FILTER: line are ignored.
 100 #
 101 # For Details see the pcrs manpage contained in this distribution.
 102 # (and the perlre, perlop and pcre manpages)
 103 #
 104 # Note that you are free to choose the delimter as you see fit.
 105 #
 106 # Note2: In addidion to the Perl options gimsx, the following nonstandard
 107 # options are supported:
 108 #
 109 # 'U' turns the default to ungreedy matching.  Add ? to quantifiers to
 110 #     switch back to greedy.
 111 # 'T' (trivial) prevents parsing for backreferences in the substitute.
 112 #     Use if you want to include text like '$&' in your substitute without
 113 #     quoting.
 114 #
 115 #################################################################################
 116
 117
 118 #################################################################################
 119 #
 120 # html-annoyances: Get rid of particularly annoying HTML abuse
 121 #
 122 #################################################################################
 123 FILTER: html-annoyances Get rid of particularly annoying HTML abuse
 124
 125 # New browser windows (if allowed -- see no-popups filter below) should be
 126 # resizeable and have a location and status bar
 127 #
 128 s/(<a\s+href[^>]+)resizable=['"]?(no|0|false)['"]?(.*>)/$1resizable=1$3/igU
 129 s/(<a\s+href[^>]+)location=['"]?(no|0)['"]?(.*>)/$1location=1$3/igU
 130 s/(<a\s+href[^>]+)status=['"]?(no|0)['"]?(.*>)/$1status=1$3/igU
 131 s/(<a\s+href[^>]+)scrolling=['"]?(no|0|auto)['"]?(.*>)/$1scrolling=no$3/igU
 132 s/(<a\s+href[^>]+)menubar=['"]?(no|0)['"]?(.*>)/$1menubar=1$3/igU
 133
 134 # The <BLINK> tag was a crime!
 135 #
 136 s*<blink>|</blink>**ig
 137
 138 # Is this evil?
 139 #
 140 #s/margin(height|width)=[0-9]*//gi
 141 #s/noresize/yesresize/igU
 142
 143
 144 #################################################################################
 145 #
 146 # js-annoyances: Get rid of particularly annoying JavaScript abuse
 147 #
 148 #################################################################################
 149 FILTER: js-annoyances Get rid of particularly annoying JavaScript abuse
 150
 151 # Get rid of Javascript referrer tracking. Test page: http://www.randomoddness.com/untitled.htm
 152 #
 153 s|(<script.*)document\.referrer(.*</script>)|$1"Not Your Business!"$2|Usg
 154
 155 # The status bar is for displaying link targets, not pointless blahblah
 156 #
 157 s/status='.*?';*//ig
 158
 159 # Kill OnUnload popups. Yummy. Test: http://www.zdnet.com/zdsubs/yahoo/tree/yfs.html
 160 #
 161 s/(<body .*)onunload(.*>)/$1never$2/iU
 162
 163
 164 #################################################################################
 165 #
 166 # content-cookies: Kill cookies that come in the HTML or JS content
 167 #
 168 #################################################################################
 169 FILTER: content-cookies Kill cookies that come in the HTML or JS content
 170
 171 # JS cookies, like found on privacy.net:
 172 #
 173 s|(document\.cookie)([ \t\r\n]*=)|documenZapCooky$2|g
 174
 175 # HTML cookies:
 176 #
 177 s|<meta\s+http-equiv=['"]?set-cookie['"]?\s+content=[^>].*>|<!--no cookies here -->|iUT
 178
 179
 180 ##################################################################################
 181 #
 182 # no-popups: Kill all popups in JS and HTML
 183 #
 184 #################################################################################
 185 FILTER: no-popups Kill all popups in JS and HTML
 186
 187 s/window\.open\(/1;''\.concat\(/ig           # JavaScript
 188 s/target=['"]?_blank['"]?/target_crunched/ig # HTML
 189 s/target=['"]?_new['"]?/target_crunched/ig   # HTML
 190
 191 #################################################################################
 192 #
 193 # frameset-borders: Give frames a border and make them resizable
 194 #
 195 #################################################################################
 196 FILTER: frameset-borders Give frames a border and make them resizable
 197
 198 s/(<frameset [^>]+)framespacing=['"]?(no|0)['"]?(.*>)/$1$3/igU
 199 s/(<frameset [^>]+)frameborder=['"]?(no|0)['"]?(.*>)/$1$3/igU
 200 s/(<frame [^>]+)border=['"]?(no|0)['"]?(.*>)/$1$3/igU
 201 s/(<frame [^>]+)resizable=['"]?(no|0|false)['"]?(.*>)/$1$3/igU
 202
 203 #################################################################################
 204 #
 205 # webbugs: Squish WebBugs (1x1 invisible GIFs used for user tracking)
 206 #
 207 #################################################################################
 208 FILTER: webbugs Squish WebBugs (1x1 invisible GIFs used for user tracking)
 209
 210 s/<img\s+[^>]*?(width|height)\s*=\s*['"]?1\D[^>]*?(width|height)\s*=\s*['"]?1(\D[^>]*?)?>/<!-- Squished WebBug -->/sig
 211
 212
 213 #################################################################################
 214 #
 215 # no-refresh: Kill automatic refresh tags (for dial-on-demand setups)
 216 #
 217 #################################################################################
 218 FILTER: no-refresh Kill automatic refresh tags (for dial-on-demand setups)
 219
 220 s/<meta\s+http-equiv=['"]?refresh['"]?\s+content=['"]?[0-9]*;\s+url=([^>]*)['"]?>/<link rev="x-refresh" href=$1>/iU
 221 s/<meta\s+http-equiv=['"]?page-enter['"]?\s+content=[^>].*>/<!--no page enter for me-->/iU
 222
 223
 224 #################################################################################
 225 #
 226 # fun: Text replacements for subversive browsing fun!
 227 #
 228 #################################################################################
 229 FILTER: fun Text replacements for subversive browsing fun!
 230
 231 s/microsoft(?!.com)/MicroSuck/ig
 232
 233 # Buzzword Bingo (example for extended syntax)
 234 #
 235 s* industry[ -]leading \
 236 |  cutting[ -]edge \
 237 |  award[ -]winning # Comments are OK, too! \
 238 |  high[ -]performance \
 239 |  solutions[ -]based \
 240 |  unmatched \
 241 |  unparalleled \
 242 |  unrivalled \
 243 *<font color=red><b>BINGO!</b></font> \
 244 *igx
 245
 246
 247 #################################################################################
 248 #
 249 # nimda: Remove Nimda (virus) code
 250 #
 251 #################################################################################
 252 FILTER: nimda Remove Nimda (virus) code
 253
 254 s%<script language="JavaScript">(window\.open|1;''\.concat)\("readme\.eml", null, "resizable=no,top=6000,left=6000"\)</script>%<br><hr><font size=7><b>Internet J</b></font><b><font size=6>UNK</font><font size=5 color="red"><i>BUSTER</i></font></b><font size=7> WARNING: This Server is infected with <a href="http://www.cert.org/advisories/CA-2001-26.html">Nimda</a>!</font>%g
 255
 256
 257 #################################################################################
 258 #
 259 # banners-by-size: Kill banners by size
 260 #
 261 #################################################################################
 262 #
 263 # Standard banner sizes taken from http://www.iab.net/iab_banner_standards/bannersizes.html
 264 #
 265 # Note: Use http://ijbswa.sourceforge.net/config/send-banner?type=trans for a transparent 1x1 image
 266 #       Use http://ijbswa.sourceforge.net/config/send-banner?type=logo  for the logo image
 267 #       Use http://ijbswa.sourceforge.net/config/send-banner?type=logo  for a grey/white pattern image
 268 #       Use http://ijbswa.sourceforge.net/config/send-banner?type=auto  to auto-select.
 269 #
 270 #################################################################################
 271 FILTER: banners-by-size Kill banners by size
 272
 273 s|<img\s+[^>]*?(width=['"]?468\D)[^>]*(height=['"]?60[^>]*?)>|<img src=http://ijbswa.sourceforge.net/config/send-banner?type=auto $1 $2>|sig
 274 s|<img\s+[^>]*?(width=['"]?234\D)[^>]*(height=['"]?60[^>]*?)>|<img src=http://ijbswa.sourceforge.net/config/send-banner?type=auto $1 $2>|sig
 275 s|<img\s+[^>]*?(width=['"]?88\D)[^>]*(height=['"]?31[^>]*?)>|<img src=http://ijbswa.sourceforge.net/config/send-banner?type=auto $1 $2>|sig
 276 s|<img\s+[^>]*?(width=['"]?120\D)[^>]*(height=['"]?90[^>]*?)>|<img src=http://ijbswa.sourceforge.net/config/send-banner?type=auto $1 $2>|sig
 277 s|<img\s+[^>]*?(width=['"]?120\D)[^>]*(height=['"]?600[^>]*?)>|<img src=http://ijbswa.sourceforge.net/config/send-banner?type=auto $1 $2>|sig
 278 s|<img\s+[^>]*?(width=['"]?120\D)[^>]*(height=['"]?60[^>]*?)>|<img src=http://ijbswa.sourceforge.net/config/send-banner?type=auto $1 $2>|sig
 279 s|<img\s+[^>]*?(width=['"]?160\D)[^>]*(height=['"]?600[^>]*?)>|<img src=http://ijbswa.sourceforge.net/config/send-banner?type=auto $1 $2>|sig
 280 s|<img\s+[^>]*?(width=['"]?125\D)[^>]*(height=['"]?125[^>]*?)>|<img src=http://ijbswa.sourceforge.net/config/send-banner?type=auto $1 $2>|sig
 281 s|<img\s+[^>]*?(width=['"]?120\D)[^>]*(height=['"]?240[^>]*?)>|<img src=http://ijbswa.sourceforge.net/config/send-banner?type=auto $1 $2>|sig
 282 s|<img\s+[^>]*?(width=['"]?180\D)[^>]*(height=['"]?150[^>]*?)>|<img src=http://ijbswa.sourceforge.net/config/send-banner?type=auto $1 $2>|sig
 283 s|<img\s+[^>]*?(width=['"]?300\D)[^>]*(height=['"]?250[^>]*?)>|<img src=http://ijbswa.sourceforge.net/config/send-banner?type=auto $1 $2>|sig
 284 s|<img\s+[^>]*?(width=['"]?250\D)[^>]*(height=['"]?250[^>]*?)>|<img src=http://ijbswa.sourceforge.net/config/send-banner?type=auto $1 $2>|sig
 285 s|<img\s+[^>]*?(width=['"]?240\D)[^>]*(height=['"]?400[^>]*?)>|<img src=http://ijbswa.sourceforge.net/config/send-banner?type=auto $1 $2>|sig
 286 s|<img\s+[^>]*?(width=['"]?336\D)[^>]*(height=['"]?280[^>]*?)>|<img src=http://ijbswa.sourceforge.net/config/send-banner?type=auto $1 $2>|sig
 287
 288 # One more. (Where is 200x50 from?)
 289 #
 290 s|<img\s+[^>]*?(width=['"]?200\D)[^>]*(height=['"]?50[^>]*?)>|<img src=http://ijbswa.sourceforge.net/config/send-banner?type=auto $1 $2>|sig
 291
 292
 293 #################################################################################
 294 #
 295 # crude-parental: Crude parental filtering?  (Use along with a suitable blocklist).
 296 #                 Shows how to deny access to whole page based on a keyword.
 297 #
 298 #################################################################################
 299 #
 300 # (Note: Middlesex, Sussex and Essex are counties in the UK, not rude words)
 301 # (Note #2: Is 'sex' a rude word?!)
 302 #
 303 #################################################################################
 304 FILTER: crude-parental Crude parental filtering (demo only)
 305
 306 s%^.*(?<!middle)(?<!sus)(?<!es)sex.*$%<html><head><title>Blocked</title></head><body><h3>Blocked due to possible adult content. Please see <a href="http://dmoz.org/Kids_and_Teens/">this site</a>.</h3></body></html>%is
 307 s+^.*warez.*$+<html><head><title>No Warez</title></head><body><h3>You're not searching for illegal stuff, are you?</h3></body></html>+is