added better support for article urls in PDF files
[mir.git] / source / mircoders / servlet / ServletModuleOpenIndy.java
index 93fe4d5..6769e42 100755 (executable)
-/*\r
- * Copyright (C) 2001, 2002  The Mir-coders group\r
- *\r
- * This file is part of Mir.\r
- *\r
- * Mir is free software; you can redistribute it and/or modify\r
- * it under the terms of the GNU General Public License as published by\r
- * the Free Software Foundation; either version 2 of the License, or\r
- * (at your option) any later version.\r
- *\r
- * Mir is distributed in the hope that it will be useful,\r
- * but WITHOUT ANY WARRANTY; without even the implied warranty of\r
- * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the\r
- * GNU General Public License for more details.\r
- *\r
- * You should have received a copy of the GNU General Public License\r
- * along with Mir; if not, write to the Free Software\r
- * Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA\r
- *\r
- * In addition, as a special exception, The Mir-coders gives permission to link\r
- * the code of this program with the com.oreilly.servlet library, any library\r
- * licensed under the Apache Software License, The Sun (tm) Java Advanced\r
- * Imaging library (JAI), The Sun JIMI library (or with modified versions of\r
- * the above that use the same license as the above), and distribute linked\r
- * combinations including the two.  You must obey the GNU General Public\r
- * License in all respects for all of the code used other than the above\r
- * mentioned libraries.  If you modify this file, you may extend this exception\r
- * to your version of the file, but you are not obligated to do so.  If you do\r
- * not wish to do so, delete this exception statement from your version.\r
- */\r
-\r
-package mircoders.servlet;\r
-\r
-import java.io.*;\r
-import java.lang.*;\r
-import java.sql.*;\r
-import java.util.*;\r
-import java.net.*;\r
-import java.lang.reflect.*;\r
-import javax.servlet.*;\r
-import javax.servlet.http.*;\r
-\r
-import freemarker.template.*;\r
-import com.oreilly.servlet.multipart.*;\r
-import com.oreilly.servlet.*;\r
-\r
-import org.apache.commons.net.smtp.*;\r
-\r
-import org.xml.sax.InputSource;\r
-import org.xml.sax.XMLReader;\r
-\r
-import org.apache.fop.apps.Driver;\r
-import org.apache.fop.apps.Version;\r
-import org.apache.fop.apps.XSLTInputHandler;\r
-\r
-import org.apache.lucene.analysis.standard.StandardAnalyzer;\r
-import org.apache.lucene.search.*;\r
-import org.apache.lucene.document.Document;\r
-import org.apache.lucene.document.Field;\r
-import org.apache.lucene.analysis.standard.*;\r
-import org.apache.lucene.queryParser.*;\r
-\r
-import org.apache.log.*;\r
-\r
-import mir.servlet.*;\r
-import mir.module.*;\r
-import mir.misc.*;\r
-import mir.entity.*;\r
-import mir.storage.*;\r
-import mir.media.*;\r
-import mir.log.*;\r
-import mir.util.StringRoutines;\r
-\r
-import mircoders.entity.*;\r
-import mircoders.storage.*;\r
-import mircoders.module.*;\r
-import mircoders.producer.*;\r
-import mircoders.media.MediaRequest;\r
-import mircoders.global.*;\r
-import mircoders.localizer.*;\r
-import mircoders.search.*;\r
-\r
-/*\r
- *  ServletModuleOpenIndy -\r
- *   is the open-access-servlet, which is responsible for\r
- *    adding comments to articles &\r
- *    open-postings to the newswire\r
- *\r
- * @author mir-coders group\r
- * @version $Id: ServletModuleOpenIndy.java,v 1.57 2003/01/21 18:32:03 zapata Exp $\r
- *\r
- */\r
-\r
-public class ServletModuleOpenIndy extends ServletModule\r
-{\r
-\r
-  private String        commentFormTemplate, commentFormDoneTemplate,\r
-    commentFormDupeTemplate;\r
-  private String        postingFormTemplate, postingFormDoneTemplate,\r
-    postingFormDupeTemplate;\r
-  private String        searchResultsTemplate;\r
-  private String        prepareMailTemplate,sentMailTemplate;\r
-  private ModuleContent contentModule;\r
-  private ModuleComment commentModule;\r
-  private ModuleImages  imageModule;\r
-  private ModuleTopics  themenModule;\r
-  private String        directOp ="yes";\r
-  private String        passwdProtection ="yes";\r
-  // Singelton / Kontruktor\r
-  private static ServletModuleOpenIndy instance = new ServletModuleOpenIndy();\r
-  public static ServletModule getInstance() { return instance; }\r
-\r
-  private ServletModuleOpenIndy() {\r
-    try {\r
-      logger = new LoggerWrapper("ServletModule.OpenIndy");\r
-\r
-      commentFormTemplate = MirConfig.getProp("ServletModule.OpenIndy.CommentTemplate");\r
-      commentFormDoneTemplate = MirConfig.getProp("ServletModule.OpenIndy.CommentDoneTemplate");\r
-      commentFormDupeTemplate = MirConfig.getProp("ServletModule.OpenIndy.CommentDupeTemplate");\r
-      postingFormTemplate = MirConfig.getProp("ServletModule.OpenIndy.PostingTemplate");\r
-      postingFormDoneTemplate = MirConfig.getProp("ServletModule.OpenIndy.PostingDoneTemplate");\r
-      postingFormDupeTemplate = MirConfig.getProp("ServletModule.OpenIndy.PostingDupeTemplate");\r
-      searchResultsTemplate = MirConfig.getProp("ServletModule.OpenIndy.SearchResultsTemplate");\r
-      prepareMailTemplate = MirConfig.getProp("ServletModule.OpenIndy.PrepareMailTemplate");\r
-      sentMailTemplate = MirConfig.getProp("ServletModule.OpenIndy.SentMailTemplate");\r
-      directOp = MirConfig.getProp("DirectOpenposting").toLowerCase();\r
-      passwdProtection = MirConfig.getProp("PasswdProtection").toLowerCase();\r
-      mainModule = new ModuleComment(DatabaseComment.getInstance());\r
-      contentModule = new ModuleContent(DatabaseContent.getInstance());\r
-      themenModule = new ModuleTopics(DatabaseTopics.getInstance());\r
-      imageModule = new ModuleImages(DatabaseImages.getInstance());\r
-      defaultAction="addposting";\r
-\r
-    }\r
-    catch (StorageObjectException e) {\r
-      logger.error("servletmoduleopenindy could not be initialized: " + e.getMessage());\r
-    }\r
-  }\r
-\r
-\r
-  /**\r
-   *  Method for making a comment\r
-   */\r
-\r
-  public void addcomment(HttpServletRequest req, HttpServletResponse res) throws ServletModuleException\r
-  {\r
-    String aid = req.getParameter("aid"); // the article id the comment will belong to\r
-    String language = req.getParameter("language");\r
-\r
-    if (aid!=null && !aid.equals("")) {\r
-      try {\r
-        SimpleHash mergeData = new SimpleHash();\r
-\r
-        // onetimepasswd\r
-        if (passwdProtection.equals("yes")) {\r
-          String passwd = this.createOneTimePasswd();\r
-          System.out.println(passwd);\r
-          HttpSession session = req.getSession(false);\r
-          session.setAttribute("passwd", passwd);\r
-          mergeData.put("passwd", passwd);\r
-        }\r
-\r
-        if (language != null) {\r
-          HttpSession session = req.getSession(false);\r
-          session.setAttribute("Locale", new Locale(language, ""));\r
-          session.setAttribute("passwd", language);\r
-        }\r
-\r
-        mergeData.put("aid", aid);\r
-\r
-        SimpleHash extraInfo = new SimpleHash();\r
-        extraInfo.put("languagePopUpData", DatabaseLanguage.getInstance().getPopupData());\r
-\r
-        deliver(req, res, mergeData, extraInfo, commentFormTemplate);\r
-      }\r
-      catch (Throwable t) {\r
-        throw new ServletModuleException("ServletModuleOpenIndy.addcomment: " + t.getMessage());\r
-      }\r
-    }\r
-    else throw new ServletModuleException("aid not set!");\r
-  }\r
-\r
-  /**\r
-   *  Method for inserting a comment into the Database and delivering\r
-   *  the commentDone Page\r
-   */\r
-\r
-  public void inscomment(HttpServletRequest req, HttpServletResponse res)\r
-    throws ServletModuleException,ServletModuleUserException\r
-  {\r
-    String aid = req.getParameter("to_media"); // the article id the comment will belong to\r
-    if (aid!=null && !aid.equals(""))\r
-      {\r
-        // ok, collecting data from form\r
-        try {\r
-          HashMap withValues = getIntersectingValues(req, DatabaseComment.getInstance());\r
-\r
-          //no html in comments(for now)\r
-          for (Iterator i=withValues.keySet().iterator(); i.hasNext(); ){\r
-            String k=(String)i.next();\r
-            String v=(String)withValues.get(k);\r
-\r
-            withValues.put(k,StringUtil.removeHTMLTags(v));\r
-          }\r
-          withValues.put("is_published","1");\r
-          withValues.put("to_comment_status","1");\r
-\r
-          //checking the onetimepasswd\r
-          if(passwdProtection.equals("yes")){\r
-            HttpSession session = req.getSession(false);\r
-            String sessionPasswd = (String)session.getAttribute("passwd");\r
-            if ( sessionPasswd == null){\r
-              throw new ServletModuleUserException("Lost password");\r
-            }\r
-            String passwd = req.getParameter("passwd");\r
-            if ( passwd == null || (!sessionPasswd.equals(passwd))) {\r
-              throw new ServletModuleUserException("Missing password");\r
-            }\r
-            session.invalidate();\r
-          }\r
-\r
-          // inserting into database\r
-          String id = mainModule.add(withValues);\r
-          logger.debug("id: "+id);\r
-          //insert was not successfull\r
-          if(id==null){\r
-            deliver(req, res, new SimpleHash(), commentFormDupeTemplate);\r
-          } else {\r
-            DatabaseContent.getInstance().setUnproduced("id="+aid);\r
-\r
-            try {\r
-              EntityComment comment = (EntityComment) DatabaseComment.getInstance().selectById(id);\r
-              MirGlobal.localizer().openPostings().afterCommentPosting(comment);\r
-            }\r
-            catch (Throwable t) {\r
-              throw new ServletModuleException(t.getMessage());\r
-            }\r
-          }\r
-\r
-          // redirecting to url\r
-          // should implement back to article\r
-          SimpleHash mergeData = new SimpleHash();\r
-          deliver(req, res, mergeData, commentFormDoneTemplate);\r
-        }\r
-        catch (StorageObjectException e) { throw new ServletModuleException(e.toString());}\r
-        catch (ModuleException e) { throw new ServletModuleException(e.toString());}\r
-\r
-      }\r
-    else throw new ServletModuleException("aid not set!");\r
-\r
-  }\r
-\r
-  /**\r
-   *  Method for delivering the form-Page for open posting\r
-   */\r
-\r
-  public void addposting(HttpServletRequest req, HttpServletResponse res)\r
-    throws ServletModuleException {\r
-    SimpleHash mergeData = new SimpleHash();\r
-\r
-    // onetimepasswd\r
-    if(passwdProtection.equals("yes")){\r
-      String passwd = this.createOneTimePasswd();\r
-      System.out.println(passwd);\r
-      HttpSession session = req.getSession(false);\r
-      session.setAttribute("passwd",passwd);\r
-      mergeData.put("passwd", passwd);\r
-    }\r
-\r
-    String maxMedia = MirConfig.getProp("ServletModule.OpenIndy.MaxMediaUploadItems");\r
-    String defaultMedia = MirConfig.getProp("ServletModule.OpenIndy.DefaultMediaUploadItems");\r
-    String numOfMedia = req.getParameter("medianum");\r
-\r
-    if(numOfMedia==null||numOfMedia.equals("")){\r
-      numOfMedia=defaultMedia;\r
-    }\r
-    else if(Integer.parseInt(numOfMedia) > Integer.parseInt(maxMedia)) {\r
-      numOfMedia = maxMedia;\r
-    }\r
-\r
-    int mediaNum = Integer.parseInt(numOfMedia);\r
-    SimpleList mediaFields = new SimpleList();\r
-    for(int i =0; i<mediaNum;i++){\r
-      Integer mNum = new Integer(i+1);\r
-      mediaFields.add(mNum.toString());\r
-    }\r
-    mergeData.put("medianum",numOfMedia);\r
-    mergeData.put("mediafields",mediaFields);\r
-\r
-\r
-    SimpleHash extraInfo = new SimpleHash();\r
-    try{\r
-      extraInfo.put("languagePopUpData", DatabaseLanguage.getInstance().getPopupData() );\r
-      extraInfo.put("themenPopupData", themenModule.getTopicsAsSimpleList());\r
-\r
-      extraInfo.put("topics", themenModule.getTopicsList());\r
-\r
-    }\r
-    catch (Exception e) {\r
-      logger.error("languagePopUpData or getTopicslist failed "+e.toString());\r
-      throw new ServletModuleException("OpenIndy -- failed getting language or topics: "+e.toString());\r
-    }\r
-\r
-\r
-\r
-    deliver(req, res, mergeData, extraInfo, postingFormTemplate);\r
-  }\r
-\r
-  /**\r
-   *  Method for inserting an open posting into the Database and delivering\r
-   *  the postingDone Page\r
-   */\r
-\r
-  public void insposting(HttpServletRequest req, HttpServletResponse res)\r
-    throws ServletModuleException, ServletModuleUserException\r
-  {\r
-    SimpleHash mergeData = new SimpleHash();\r
-    boolean setMedia=false;\r
-    boolean setTopic = false;\r
-\r
-    try {\r
-\r
-      WebdbMultipartRequest mp = null;\r
-      EntityList mediaList = null;\r
-      try {\r
-        // new MediaRequest, "1" is the id for the openPosting user\r
-        MediaRequest mediaReq = new MediaRequest("1", true, true);\r
-        mp = new WebdbMultipartRequest(req, (FileHandler)mediaReq);\r
-        mediaList = mediaReq.getEntityList();\r
-      }\r
-      catch (FileHandlerUserException e) {\r
-        throw new ServletModuleUserException(e.getMessage());\r
-      }\r
-\r
-      HashMap withValues = mp.getParameters();\r
-\r
-      //checking the onetimepasswd\r
-      if(passwdProtection.equals("yes")){\r
-        HttpSession session = req.getSession(false);\r
-        String sessionPasswd = (String)session.getAttribute("passwd");\r
-        if ( sessionPasswd == null){\r
-          throw new ServletModuleUserException("Lost password");\r
-        }\r
-        String passwd = (String)withValues.get("passwd");\r
-        if ( passwd == null || (!sessionPasswd.equals(passwd))) {\r
-          throw new ServletModuleUserException("Missing password");\r
-        }\r
-        session.invalidate();\r
-      }\r
-\r
-      if ((((String)withValues.get("title")).length() == 0) ||\r
-          (((String)withValues.get("description")).length() == 0) ||\r
-          (((String)withValues.get("content_data")).length() == 0))\r
-        throw new ServletModuleUserException("Missing field");\r
-\r
-      // call the routines that escape html\r
-\r
-      for (Iterator i=withValues.keySet().iterator(); i.hasNext(); ){\r
-        String k=(String)i.next();\r
-        String v=(String)withValues.get(k);\r
-\r
-        if (k.equals("content_data")){\r
-          //this doesn't quite work yet, so for now, all html goes\r
-          //withValues.put(k,StringUtil.approveHTMLTags(v));\r
-          withValues.put(k,StringUtil.deleteForbiddenTags(v));\r
-        } else if (k.equals("description")) {\r
-          String tmp = StringUtil.deleteForbiddenTags(v);\r
-          withValues.put(k,StringUtil.deleteHTMLTableTags(tmp));\r
-        } else {\r
-          withValues.put(k,StringUtil.removeHTMLTags(v));\r
-        }\r
-\r
-      }\r
-\r
-      withValues.put("date", StringUtil.date2webdbDate(new GregorianCalendar()));\r
-      withValues.put("publish_path", StringUtil.webdbDate2path((String)withValues.get("date")));\r
-      withValues.put("is_produced", "0");\r
-      // by default stuff is published, they can be un-published through the\r
-      // admin interface.\r
-      withValues.put("is_published","1");\r
-      // if op direct article-type == newswire\r
-      if (directOp.equals("yes")) withValues.put("to_article_type","1");\r
-\r
-      withValues.put("to_publisher","1");\r
-\r
-      // owner is openposting user\r
-      //      ML: this is not multi-language friendly and this can be done in a template\r
-      //      if (withValues.get("creator").toString().equals(""))\r
-      //        withValues.put("creator","Anonym");\r
-\r
-      // inserting  content into database\r
-      String cid = contentModule.add(withValues);\r
-      logger.debug("id: "+cid);\r
-      //insert was not successfull\r
-      if(cid==null){\r
-        //How do we know that it was not succesful cause of a\r
-        //dupe, what if it failed cause of "No space left on device"?\r
-        //Or is there something I am missing? Wouldn't it be better\r
-        //to have an explicit dupe check and then insert? I have no\r
-        //idea what I am talking about. this comment is in case\r
-        //I forget to explicitely ask. -mh\r
-        deliver(req, res, mergeData, postingFormDupeTemplate);\r
-      }\r
-\r
-      String[] to_topicsArr = mp.getParameterValues("to_topic");\r
-\r
-      if (to_topicsArr != null && to_topicsArr.length > 0) {\r
-        try{\r
-          DatabaseContentToTopics.getInstance().setTopics(cid,to_topicsArr);\r
-          setTopic = true;\r
-        }\r
-        catch (Exception e) {\r
-          logger.error("setting content_x_topic failed");\r
-          contentModule.deleteById(cid);\r
-          throw new ServletModuleException("smod - openindy :: insposting: setting content_x_topic failed: "+e.toString());\r
-        } //end try\r
-      } //end if\r
-\r
-      //if we're here all is ok... associate the media to the article\r
-      for(int i=0;i<mediaList.size();i++) {\r
-        Entity mediaEnt = (Entity)mediaList.elementAt(i);\r
-        DatabaseContentToMedia.getInstance().addMedia(cid,mediaEnt.getId());\r
-      }\r
-\r
-      try {\r
-        MirGlobal.localizer().openPostings().afterContentPosting(\r
-                                                                 (EntityContent)contentModule.getById(cid));\r
-      }\r
-      catch (Throwable t) {\r
-        throw new ServletModuleException(t.getMessage());\r
-      }\r
-    }\r
-    catch (FileHandlerException e) {\r
-      e.printStackTrace(System.out);\r
-      throw new ServletModuleException("MediaException: "+ e.getMessage());\r
-    }\r
-    catch (IOException e) { throw new ServletModuleException("IOException: "+ e.getMessage());}\r
-    catch (StorageObjectException e) { throw new ServletModuleException("StorageObjectException" + e.getMessage());}\r
-    catch (ModuleException e) { throw new ServletModuleException("ModuleException"+e.getMessage());}\r
-\r
-    deliver(req, res, mergeData, postingFormDoneTemplate);\r
-  }\r
-\r
-    /*\r
-   * Method for preparing and sending a content as an email message\r
-   */\r
-\r
-  public void mail(HttpServletRequest req, HttpServletResponse res)\r
-    throws ServletModuleException, ServletModuleUserException {\r
-    String aid = req.getParameter("mail_aid");\r
-    if (aid == null){\r
-      throw new ServletModuleUserException("An article id must be specified in requests to email an article.  Something therefore went badly wrong....");\r
-    }\r
-\r
-    String to = req.getParameter("mail_to");\r
-    String from = req.getParameter("mail_from");\r
-    String from_name = req.getParameter("mail_from_name");\r
-    String comment = req.getParameter("mail_comment");\r
-    String mail_language = req.getParameter("mail_language");\r
-\r
-    SimpleHash mergeData = new SimpleHash();\r
-\r
-    if (to == null || from == null || from_name == null|| to.equals("") || from.equals("") || from_name.equals("") || mail_language == null || mail_language.equals("")){\r
-\r
-      for (Enumeration theParams = req.getParameterNames(); theParams.hasMoreElements() ;) {\r
-        String pName=(String)theParams.nextElement();\r
-        if (pName.startsWith("mail_")){\r
-          mergeData.put(pName,new SimpleScalar(req.getParameter(pName)));\r
-        }\r
-      }\r
-      deliver(req,res,mergeData,prepareMailTemplate);\r
-    }\r
-    else {\r
-      //run checks on to and from and mail_language to make sure no monkey business occurring\r
-      if (mail_language.indexOf('.') != -1 || mail_language.indexOf('/') != -1 ){\r
-        throw new ServletModuleUserException("Sorry, you've entered an illegal character into the language field.  Go back and try again, asshole.");\r
-      }\r
-      if (to.indexOf('\n') != -1\r
-          || to.indexOf('\r') != -1\r
-          || to.indexOf(',') != -1\r
-          || from.indexOf('\n') != -1\r
-          || from.indexOf('\r') != -1\r
-          || from.indexOf(',') != -1 ){\r
-        throw new ServletModuleUserException("Sorry, you've entered an illegal character into the from or to field.  Go back and try again.");\r
-      }\r
-      EntityContent contentEnt;\r
-      try{\r
-        contentEnt = (EntityContent)contentModule.getById(aid);\r
-      }\r
-      catch (ModuleException e){\r
-        throw new ServletModuleUserException("Couldn't get content for article "+aid);\r
-      }\r
-      String producerStorageRoot=MirConfig.getProp("Producer.StorageRoot");\r
-      String producerDocRoot=MirConfig.getProp("Producer.DocRoot");\r
-      String publishPath = StringUtil.webdbDate2path(contentEnt.getValue("date"));\r
-      String txtFilePath = producerStorageRoot + producerDocRoot + "/" + mail_language +\r
-         publishPath + "/" + aid + ".txt";\r
-\r
-\r
-      File inputFile = new File(txtFilePath);\r
-      String content;\r
-\r
-      try{\r
-        FileReader in = new FileReader(inputFile);\r
-        StringWriter out = new StringWriter();\r
-        int c;\r
-        while ((c = in.read()) != -1)\r
-          out.write(c);\r
-        in.close();\r
-        content= out.toString();\r
-      }\r
-      catch (FileNotFoundException e){\r
-        throw new ServletModuleUserException("No text file found in " + txtFilePath);\r
-      }\r
-      catch (IOException e){\r
-        throw new ServletModuleUserException("Problem reading file in " + txtFilePath);\r
-      }\r
-      // add some headers\r
-      content = "To: " + to + "\nReply-To: "+ from + "\n" + content;\r
-      // put in the comment where it should go\r
-      if (comment != null) {\r
-        String commentTextToInsert = "\n\nAttached comment from " + from_name + ":\n" + comment;\r
-        try {\r
-          content=StringRoutines.performRegularExpressionReplacement(content,"!COMMENT!",commentTextToInsert);\r
-        }\r
-        catch (Exception e){\r
-          throw new ServletModuleUserException("Problem doing regular expression replacement " + e.toString());\r
-        }\r
-      }\r
-      else{\r
-        try {\r
-          content=StringRoutines.performRegularExpressionReplacement(content,"!COMMENT!","");\r
-        }\r
-        catch (Exception e){\r
-          throw new ServletModuleUserException("Problem doing regular expression replacement " + e.toString());\r
-        }\r
-      }\r
-\r
-      SMTPClient client=new SMTPClient();\r
-      try {\r
-        int reply;\r
-        client.connect(MirConfig.getProp("ServletModule.OpenIndy.SMTPServer"));\r
-        System.out.print(client.getReplyString());\r
-\r
-        reply = client.getReplyCode();\r
-\r
-        if(!SMTPReply.isPositiveCompletion(reply)) {\r
-          client.disconnect();\r
-          throw new ServletModuleUserException("SMTP server refused connection.");\r
-        }\r
-\r
-        client.sendSimpleMessage(MirConfig.getProp("ServletModule.OpenIndy.EmailIsFrom"),to,content);\r
-\r
-        client.disconnect();\r
-        //mission accomplished\r
-        deliver(req,res,mergeData,sentMailTemplate);\r
-\r
-      } catch(IOException e) {\r
-        if(client.isConnected()) {\r
-          try {\r
-            client.disconnect();\r
-          } catch(IOException f) {\r
-            // do nothing\r
-          }\r
-        }\r
-        throw new ServletModuleUserException(e.toString());\r
-      }\r
-    }\r
-  }\r
-\r
-\r
-  /*\r
-   * Method for querying a lucene index\r
-   */\r
-  public void search(HttpServletRequest req, HttpServletResponse res)\r
-    throws ServletModuleException, ServletModuleUserException {\r
-    try {\r
-      int increment=10;\r
-\r
-      HttpSession session = req.getSession(false);\r
-\r
-      String queryString="";\r
-\r
-      SimpleHash mergeData = new SimpleHash();\r
-\r
-      KeywordSearchTerm dateTerm = new KeywordSearchTerm("date_formatted","search_date","webdb_create_formatted","webdb_create_formatted","webdb_create_formatted");\r
-      UnIndexedSearchTerm whereTerm = new UnIndexedSearchTerm("","","","where","where");\r
-      TextSearchTerm creatorTerm = new TextSearchTerm("creator","search_creator","creator","creator","creator");\r
-      TextSearchTerm titleTerm = new TextSearchTerm("title","search_content","title","title","title");\r
-      TextSearchTerm descriptionTerm =  new TextSearchTerm("description","search_content","description","description","description");\r
-      ContentSearchTerm contentTerm = new ContentSearchTerm("content_data","search_content","content","","");\r
-      TopicSearchTerm topicTerm = new TopicSearchTerm();\r
-      ImagesSearchTerm imagesTerm = new ImagesSearchTerm();\r
-      AudioSearchTerm audioTerm = new AudioSearchTerm();\r
-      VideoSearchTerm videoTerm = new VideoSearchTerm();\r
-\r
-      //make the query available to subsequent iterations\r
-\r
-      for (Enumeration theParams = req.getParameterNames(); theParams.hasMoreElements() ;) {\r
-        String pName=(String)theParams.nextElement();\r
-        if (pName.startsWith("search_")){\r
-          mergeData.put(pName,new SimpleScalar(req.getParameter(pName)));\r
-        }\r
-      }\r
-\r
-      try{\r
-        mergeData.put("topics", themenModule.getTopicsAsSimpleList());\r
-      }\r
-      catch(ModuleException e) {\r
-        logger.debug("Can't get topics: " + e.toString());\r
-      }\r
-\r
-      String searchBackValue = req.getParameter("search_back");\r
-      String searchForwardValue = req.getParameter("search_forward");\r
-\r
-      if (searchBackValue != null){\r
-        int totalHits = ((Integer) session.getAttribute("numberOfHits")).intValue();\r
-        int newPosition=((Integer)session.getAttribute("positionInResults")).intValue()-increment;\r
-        if (newPosition<0)\r
-          newPosition=0;\r
-        if (newPosition >= totalHits)\r
-          newPosition=totalHits-1;\r
-        session.setAttribute("positionInResults",new Integer(newPosition));\r
-      }\r
-      else {\r
-        if (searchForwardValue != null){\r
-          int totalHits = ((Integer) session.getAttribute("numberOfHits")).intValue();\r
-          int newPosition=((Integer)session.getAttribute("positionInResults")).intValue()+increment;\r
-          if (newPosition<0)\r
-            newPosition=0;\r
-          if (newPosition >= totalHits)\r
-            newPosition=totalHits-1;\r
-\r
-          session.setAttribute("positionInResults",new Integer(newPosition));\r
-        }\r
-        else {\r
-          String indexPath=MirConfig.getProp("IndexPath");\r
-\r
-\r
-          String creatorFragment = creatorTerm.makeTerm(req);\r
-          if (creatorFragment != null){\r
-            queryString = queryString + " +" + creatorFragment;\r
-          }\r
-\r
-          // search title, description, and content for something\r
-          // the contentTerm uses param "search_boolean" to combine its terms\r
-          String contentFragment = contentTerm.makeTerm(req);\r
-          if (contentFragment != null){\r
-            logger.debug("contentFragment: " + contentFragment);\r
-            queryString = queryString + " +" + contentFragment;\r
-          }\r
-\r
-          String topicFragment = topicTerm.makeTerm(req);\r
-          if (topicFragment != null){\r
-            queryString = queryString + " +" + topicFragment;\r
-          }\r
-\r
-          String imagesFragment = imagesTerm.makeTerm(req);\r
-          if (imagesFragment != null){\r
-            queryString = queryString + " +" + imagesFragment;\r
-          }\r
-\r
-          String audioFragment = audioTerm.makeTerm(req);\r
-          if (audioFragment != null){\r
-            queryString = queryString + " +" + audioFragment;\r
-          }\r
-\r
-          String videoFragment = videoTerm.makeTerm(req);\r
-          if (videoFragment != null){\r
-            queryString = queryString + " +" + videoFragment;\r
-          }\r
-\r
-          if (queryString == null || queryString == ""){\r
-            queryString = "";\r
-          }\r
-          else{\r
-            try{\r
-              Searcher searcher = null;\r
-              try {\r
-                searcher = new IndexSearcher(indexPath);\r
-              }\r
-              catch(IOException e) {\r
-                logger.debug("Can't open indexPath: " + indexPath);\r
-                throw new ServletModuleUserException("Problem with Search Index! : "+ e.toString());\r
-              }\r
-\r
-              Query query = null;\r
-              try {\r
-                query = QueryParser.parse(queryString, "content", new StandardAnalyzer());\r
-              }\r
-              catch(Exception e) {\r
-                searcher.close();\r
-                logger.debug("Query don't parse: " + queryString);\r
-                throw new ServletModuleUserException("Problem with Query String! (was '"+queryString+"')");\r
-              }\r
-\r
-              Hits hits = null;\r
-              try {\r
-                hits = searcher.search(query);\r
-              }\r
-              catch(IOException e) {\r
-                searcher.close();\r
-                logger.debug("Can't get hits: " + e.toString());\r
-                throw new ServletModuleUserException("Problem getting hits!");\r
-              }\r
-\r
-              int start = 0;\r
-              int end = hits.length();\r
-\r
-              String sortBy=req.getParameter("search_sort");\r
-              if (sortBy == null || sortBy.equals("")){\r
-                throw new ServletModuleUserException("Please let me sort by something!(missing search_sort)");\r
-              }\r
-\r
-              // here is where the documents will go for storage across sessions\r
-              ArrayList theDocumentsSorted = new ArrayList();\r
-\r
-              if (sortBy.equals("score")){\r
-                for(int i = start; i < end; i++) {\r
-                  theDocumentsSorted.add(hits.doc(i));\r
-                }\r
-              }\r
-              else{\r
-                // then we'll sort by date!\r
-                HashMap dateToPosition = new HashMap(end,1.0F); //we know how big it will be\r
-                for(int i = start; i < end; i++) {\r
-                  String creationDate=(hits.doc(i)).get("creationDate");\r
-                  // do a little dance in case two contents created at the same second!\r
-                  if (dateToPosition.containsKey(creationDate)){\r
-                    ((ArrayList) (dateToPosition.get(creationDate))).add(new Integer(i));\r
-                  }\r
-                  else{\r
-                    ArrayList thePositions = new ArrayList();\r
-                    thePositions.add(new Integer(i));\r
-                    dateToPosition.put(creationDate,thePositions);\r
-                  }\r
-                }\r
-                Set keys = dateToPosition.keySet();\r
-                ArrayList keyList= new ArrayList(keys);\r
-                Collections.sort(keyList);\r
-                if (sortBy.equals("date_desc")){\r
-                  Collections.reverse(keyList);\r
-                }\r
-                else{\r
-                  if (!sortBy.equals("date_asc")){\r
-                    throw new ServletModuleUserException("don't know how to sort by: "+ sortBy);\r
-                  }\r
-                }\r
-                ListIterator keyTraverser = keyList.listIterator();\r
-                while (keyTraverser.hasNext()){\r
-                  ArrayList positions = (ArrayList)dateToPosition.get((keyTraverser.next()));\r
-                  ListIterator positionsTraverser=positions.listIterator();\r
-                  while (positionsTraverser.hasNext()){\r
-                    theDocumentsSorted.add(hits.doc(((Integer)(positionsTraverser.next())).intValue()));\r
-                  }\r
-                }\r
-              }\r
-\r
-              try{\r
-                searcher.close();\r
-              }\r
-              catch (IOException e){\r
-                logger.debug("Can't close searcher: " + e.toString());\r
-                throw new ServletModuleUserException("Problem closing searcher(normal)!");\r
-              }\r
-\r
-\r
-              session.removeAttribute("numberOfHits");\r
-              session.removeAttribute("theDocumentsSorted");\r
-              session.removeAttribute("positionInResults");\r
-\r
-              session.setAttribute("numberOfHits",new Integer(end));\r
-              session.setAttribute("theDocumentsSorted",theDocumentsSorted);\r
-              session.setAttribute("positionInResults",new Integer(0));\r
-\r
-            }\r
-            catch (IOException e){\r
-              logger.debug("Can't close searcher: " + e.toString());\r
-              throw new ServletModuleUserException("Problem closing searcher!");\r
-            }\r
-          }\r
-        }\r
-      }\r
-\r
-      try {\r
-        ArrayList theDocs = (ArrayList)session.getAttribute("theDocumentsSorted");\r
-        if (theDocs != null){\r
-\r
-          mergeData.put("numberOfHits", ((Integer)session.getAttribute("numberOfHits")).toString());\r
-          SimpleList theHits = new SimpleList();\r
-          int pIR=((Integer)session.getAttribute("positionInResults")).intValue();\r
-          int terminus;\r
-          int numHits=((Integer)session.getAttribute("numberOfHits")).intValue();\r
-\r
-          if (!(pIR+increment>=numHits)){\r
-            mergeData.put("hasNext","y");\r
-          }\r
-          if (pIR>0){\r
-            mergeData.put("hasPrevious","y");\r
-          }\r
-\r
-          if ((pIR+increment)>numHits){\r
-            terminus=numHits;\r
-          }\r
-          else {\r
-            terminus=pIR+increment;\r
-          }\r
-          for(int i = pIR; i < terminus; i++) {\r
-            SimpleHash h = new SimpleHash();\r
-            Document theHit = (Document)theDocs.get(i);\r
-            whereTerm.returnMeta(h,theHit);\r
-            creatorTerm.returnMeta(h,theHit);\r
-            titleTerm.returnMeta(h,theHit);\r
-            descriptionTerm.returnMeta(h,theHit);\r
-            dateTerm.returnMeta(h,theHit);\r
-            imagesTerm.returnMeta(h,theHit);\r
-            audioTerm.returnMeta(h,theHit);\r
-            videoTerm.returnMeta(h,theHit);\r
-            theHits.add(h);\r
-          }\r
-          mergeData.put("hits",theHits);\r
-        }\r
-      }\r
-      catch (Exception e) {\r
-        logger.debug("Can't iterate over hits: " + e.toString());\r
-        throw new ServletModuleUserException("Problem getting hits!");\r
-      }\r
-\r
-      mergeData.put("queryString",queryString);\r
-      deliver(req,res,mergeData,searchResultsTemplate);\r
-    }\r
-    catch (NullPointerException n){\r
-      n.printStackTrace();\r
-      throw new ServletModuleUserException("Null Pointer"+n.toString());\r
-    }\r
-  }\r
-\r
-  /*\r
-   * Method for dynamically generating a pdf from a fo file\r
-   */\r
-  public void getpdf(HttpServletRequest req, HttpServletResponse res)\r
-    throws ServletModuleException, ServletModuleUserException {\r
-    String ID_REQUEST_PARAM = "id";\r
-    String language = req.getParameter("language");\r
-\r
-    String generateFO=MirConfig.getProp("GenerateFO");\r
-    String generatePDF=MirConfig.getProp("GeneratePDF");\r
-\r
-    //don't do anything if we are not making FO files, or if we are\r
-    //pregenerating PDF's\r
-    if (generateFO.equals("yes") && generatePDF.equals("no")){\r
-      //fop complains unless you do the logging this way\r
-      org.apache.log.Logger log = null;\r
-      Hierarchy hierarchy = Hierarchy.getDefaultHierarchy();\r
-      log = hierarchy.getLoggerFor("fop");\r
-      log.setPriority(Priority.WARN);\r
-\r
-      String producerStorageRoot=MirConfig.getProp("Producer.StorageRoot");\r
-      String producerDocRoot=MirConfig.getProp("Producer.DocRoot");\r
-      //      String templateDir=MirConfig.getPropWithHome("HTMLTemplateProcessor.Dir");\r
-      String xslSheet=MirConfig.getProp("Producer.HTML2FOStyleSheet");\r
-      try {\r
-        String idParam = req.getParameter(ID_REQUEST_PARAM);\r
-        if (idParam != null) {\r
-          EntityContent contentEnt =\r
-            (EntityContent)contentModule.getById(idParam);\r
-          String publishPath = StringUtil.webdbDate2path(contentEnt.getValue("date"));\r
-          String foFile;\r
-\r
-          if (language == null){\r
-            foFile = producerStorageRoot + producerDocRoot + "/"\r
-              + publishPath  + idParam + ".fo";\r
-          }\r
-          else{\r
-            foFile = producerStorageRoot + producerDocRoot + "/"\r
-              + language + publishPath  + idParam + ".fo";\r
-          }\r
-          logger.debug("USING FILES" + foFile + " and " + xslSheet);\r
-          XSLTInputHandler input = new XSLTInputHandler(new File(foFile),\r
-                                                        new File(xslSheet));\r
-\r
-          ByteArrayOutputStream out = new ByteArrayOutputStream();\r
-          res.setContentType("application/pdf");\r
-\r
-          Driver driver = new Driver();\r
-          driver.setLogger(log);\r
-          driver.setRenderer(Driver.RENDER_PDF);\r
-          driver.setOutputStream(out);\r
-          driver.render(input.getParser(), input.getInputSource());\r
-\r
-          byte[] content = out.toByteArray();\r
-          res.setContentLength(content.length);\r
-          res.getOutputStream().write(content);\r
-          res.getOutputStream().flush();\r
-        } else {\r
-          throw new ServletModuleUserException("Missing id parameter.");\r
-        }\r
-      } catch (Exception ex) {\r
-        logger.error(ex.toString());\r
-        throw new ServletModuleException(ex.toString());\r
-      }\r
-    } else {\r
-      throw new ServletModuleUserException("Can't generate a PDF because the config tells me not to.");\r
-    }\r
-  }\r
-\r
-  private void _throwBadContentType (String fileName, String contentType)\r
-    throws ServletModuleUserException {\r
-\r
-    logger.error("Wrong file type uploaded!: " + fileName+" "\r
-                          +contentType);\r
-    throw new ServletModuleUserException("The file you uploaded is of the "\r
-                                         +"following mime-type: "+contentType\r
-                                         +", we do not support this mime-type. "\r
-                                         +"Error One or more files of unrecognized type. Sorry");\r
-  }\r
-\r
-  protected String createOneTimePasswd(){\r
-    Random r = new Random();\r
-    int random = r.nextInt();\r
-    long l = System.currentTimeMillis();\r
-    l = (l*l*l*l)/random;\r
-    if(l<0) l = l * -1;\r
-    String returnString = ""+l;\r
-    return returnString.substring(5);\r
-  }\r
-\r
-\r
-  /* this is an overwritten method of ServletModule in order\r
-     to use different bundles for open and admin */\r
-  public void deliver(HttpServletRequest req, HttpServletResponse res,\r
-                      TemplateModelRoot rtm, TemplateModelRoot popups,\r
-                      String templateFilename)\r
-    throws ServletModuleException {\r
-    if (rtm == null) rtm = new SimpleHash();\r
-    try {\r
-      PrintWriter out = res.getWriter();\r
-      HTMLTemplateProcessor.process(res, templateFilename, rtm, popups, out,\r
-                                    getLocale(req), "bundles.open");\r
-      out.close();\r
-    }  catch (HTMLParseException e) {\r
-      throw new ServletModuleException(e.toString());\r
-    } catch (IOException e) {\r
-      throw new ServletModuleException(e.toString());\r
-    }\r
-  }\r
-}\r
-\r
-\r
-\r
+/*
+ * Copyright (C) 2001, 2002 The Mir-coders group
+ *
+ * This file is part of Mir.
+ *
+ * Mir is free software; you can redistribute it and/or modify
+ * it under the terms of the GNU General Public License as published by
+ * the Free Software Foundation; either version 2 of the License, or
+ * (at your option) any later version.
+ *
+ * Mir is distributed in the hope that it will be useful,
+ * but WITHOUT ANY WARRANTY; without even the implied warranty of
+ * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
+ * GNU General Public License for more details.f
+ *
+ * You should have received a copy of the GNU General Public License
+ * along with Mir; if not, write to the Free Software
+ * Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
+ *
+ * In addition, as a special exception, The Mir-coders gives permission to link
+ * the code of this program with  any library licensed under the Apache Software License,
+ * The Sun (tm) Java Advanced Imaging library (JAI), The Sun JIMI library
+ * (or with modified versions of the above that use the same license as the above),
+ * and distribute linked combinations including the two.  You must obey the
+ * GNU General Public License in all respects for all of the code used other than
+ * the above mentioned libraries.  If you modify this file, you may extend this
+ * exception to your version of the file, but you are not obligated to do so.
+ * If you do not wish to do so, delete this exception statement from your version.
+ */
+
+package mircoders.servlet;
+
+import gnu.regexp.RE;
+import gnu.regexp.REMatch;
+import mir.bundle.Bundle;
+import mir.generator.Generator;
+import mir.misc.StringUtil;
+import mir.servlet.ServletModule;
+import mir.servlet.ServletModuleExc;
+import mir.servlet.ServletModuleFailure;
+import mir.servlet.ServletModuleUserExc;
+import mir.session.HTTPAdapters;
+import mir.session.Request;
+import mir.session.Session;
+import mir.session.SessionHandler;
+import mir.session.SimpleResponse;
+import mir.util.FileRoutines;
+import mir.util.HTTPParsedRequest;
+import mir.util.HTTPRequestParser;
+import mir.util.StringRoutines;
+import mir.module.ModuleExc;
+import mircoders.entity.EntityContent;
+import mircoders.global.CacheKey;
+import mircoders.global.MirGlobal;
+import mircoders.module.ModuleContent;
+import mircoders.pdf.PDFGenerator;
+import mircoders.search.AudioSearchTerm;
+import mircoders.search.ContentSearchTerm;
+import mircoders.search.ImagesSearchTerm;
+import mircoders.search.KeywordSearchTerm;
+import mircoders.search.TextSearchTerm;
+import mircoders.search.TopicMatrixSearchTerm;
+import mircoders.search.TopicSearchTerm;
+import mircoders.search.UnIndexedSearchTerm;
+import mircoders.search.VideoSearchTerm;
+import mircoders.storage.DatabaseTopics;
+import mircoders.localizer.MirLocalizerExc;
+import org.apache.commons.net.smtp.SMTPClient;
+import org.apache.commons.net.smtp.SMTPReply;
+import org.apache.lucene.analysis.standard.StandardAnalyzer;
+import org.apache.lucene.document.Document;
+import org.apache.lucene.queryParser.QueryParser;
+import org.apache.lucene.search.Hits;
+import org.apache.lucene.search.IndexSearcher;
+import org.apache.lucene.search.Query;
+import org.apache.lucene.search.Searcher;
+import org.apache.lucene.store.FSDirectory;
+
+import javax.servlet.http.HttpServletRequest;
+import javax.servlet.http.HttpServletResponse;
+import javax.servlet.http.HttpSession;
+import java.io.ByteArrayOutputStream;
+import java.io.File;
+import java.io.IOException;
+import java.io.PrintWriter;
+import java.io.StringWriter;
+import java.util.ArrayList;
+import java.util.Arrays;
+import java.util.Collections;
+import java.util.GregorianCalendar;
+import java.util.HashMap;
+import java.util.Iterator;
+import java.util.List;
+import java.util.ListIterator;
+import java.util.Locale;
+import java.util.Map;
+import java.util.Random;
+import java.util.Set;
+
+/*
+ */
+
+public class ServletModuleOpenIndy extends ServletModule {
+  private String        searchResultsTemplate;
+  private String        prepareMailTemplate,sentMailTemplate,emailAnArticleTemplate;
+  private ModuleContent contentModule;
+
+  public ServletModuleOpenIndy() {
+    searchResultsTemplate = getConfiguration().getString("ServletModule.OpenIndy.SearchResultsTemplate");
+    prepareMailTemplate = getConfiguration().getString("ServletModule.OpenIndy.PrepareMailTemplate");
+    emailAnArticleTemplate = getConfiguration().getString("ServletModule.OpenIndy.MailableArticleTemplate");
+    sentMailTemplate = getConfiguration().getString("ServletModule.OpenIndy.SentMailTemplate");
+
+    contentModule = new ModuleContent();
+  }
+
+  /**
+   * Perform the default open posting action
+   */
+  public void defaultAction(HttpServletRequest aRequest, HttpServletResponse aResponse) throws ServletModuleExc, ServletModuleUserExc, ServletModuleFailure {
+    opensession(aRequest, aResponse);
+  }
+
+  /**
+   * Method to return an out of service notice when open postings are disabled
+   *
+   * @param aRequest
+   * @param aResponse
+   * @throws ServletModuleExc
+   * @throws ServletModuleUserExc
+   * @throws ServletModuleFailure
+   */
+  public void openPostingDisabled(HttpServletRequest aRequest, HttpServletResponse aResponse) throws ServletModuleExc, ServletModuleUserExc, ServletModuleFailure {
+    deliver(aRequest, aResponse, null, null, getConfiguration().getString("ServletModule.OpenIndy.PostingDisabledTemplate"));
+  }
+
+  /**
+   * Due to a serious shortcoming of Tomcat 3.3, an extra sessionid parameter is
+   *   generated into open session urls. Tomcat 3.3 makes it impossible to
+   *   distinguish between sessions that are identified using a url and those
+   *   that are identified using cookies: if both a sessionid cookie and a sessionid
+   *   url are available, tomcat 3.3 pretends the url wasn't there...
+   */
+  private static final String SESSION_REQUEST_KEY="sessionid";
+
+  /**
+   * Determines the Locale to be used for the current session
+   */
+  protected Locale getResponseLocale(HttpSession aSession, HttpServletRequest aRequest) {
+    String requestLanguage = aRequest.getParameter("language");
+    String sessionLanguage = (String) aSession.getAttribute("language");
+    String acceptLanguage = aRequest.getLocale().getLanguage();
+    String defaultLanguage = getConfiguration().getString("Mir.Login.DefaultLanguage", "en");
+
+    String language = requestLanguage;
+
+    if (language==null)
+      language = sessionLanguage;
+
+    if (language==null)
+      language = acceptLanguage;
+
+    if (language==null)
+      language = defaultLanguage;
+
+    aSession.setAttribute("language", language);
+
+    return new Locale(language, "");
+  }
+
+  /**
+   * Dispatch method for open sessions: a flexible extensible and customizable way
+   *   for open access. Can be used for postings, but also for lots of other stuff.
+   *
+   * @param aRequest
+   * @param aResponse
+   * @throws ServletModuleExc
+   * @throws ServletModuleUserExc
+   * @throws ServletModuleFailure
+   */
+  public void opensession(HttpServletRequest aRequest, HttpServletResponse aResponse)
+      throws ServletModuleExc, ServletModuleUserExc, ServletModuleFailure {
+
+    try {
+      Request request =
+          new HTTPAdapters.HTTPParsedRequestAdapter(new HTTPParsedRequest(aRequest,
+              getConfiguration().getString("Mir.DefaultEncoding"),
+              getConfiguration().getInt("MaxMediaUploadSize")*1024,
+              getConfiguration().getString("TempDir")));
+
+      if (aRequest.isRequestedSessionIdValid() && !aRequest.isRequestedSessionIdFromURL() &&
+          !aRequest.getRequestedSessionId().equals(aRequest.getParameter(SESSION_REQUEST_KEY))) {
+        aRequest.getSession().invalidate();
+      }
+
+      Session session = new HTTPAdapters.HTTPSessionAdapter(aRequest.getSession());
+
+      SimpleResponse response = new SimpleResponse(
+          ServletHelper.makeGenerationData(aRequest, aResponse,
+              new Locale[] {
+                  getResponseLocale(aRequest.getSession(), aRequest),
+                  getFallbackLocale(aRequest)
+              },
+             "etc/bundles/open"));
+
+      response.setResponseValue("actionURL", aResponse.encodeURL(MirGlobal.config().getString("RootUri") + "/servlet/OpenMir")+"?"+SESSION_REQUEST_KEY+"="+aRequest.getSession().getId());
+
+      SessionHandler handler = MirGlobal.localizer().openPostings().getOpenSessionHandler(request, session);
+
+      handler.processRequest(request, session, response);
+      ServletHelper.generateOpenPostingResponse(aResponse.getWriter(), response.getResponseValues(), response.getResponseGenerator());
+    }
+    catch (Throwable t) {
+      getLogger().error(t.toString(), t);
+
+      throw new ServletModuleFailure(t);
+    }
+  }
+
+  /**
+   * Method for preparing and sending a content as an email message
+   */
+  public void mail(HttpServletRequest aRequest, HttpServletResponse aResponse)
+      throws ServletModuleExc, ServletModuleUserExc, ServletModuleFailure {
+    String aid = aRequest.getParameter("mail_aid");
+    if (aid == null){
+      throw new ServletModuleExc("An article id must be specified in requests " +
+          "to email an article.  Something therefore went badly wrong....");
+    }
+
+    String to = aRequest.getParameter("mail_to");
+    String from = aRequest.getParameter("mail_from");
+    String from_name = aRequest.getParameter("mail_from_name");
+    String from_ip = aRequest.getRemoteAddr();
+    String comment = aRequest.getParameter("mail_comment");
+    String mail_language = aRequest.getParameter("mail_language");
+
+    Map mergeData = new HashMap();
+    mergeData.put("mail_to",to);
+    mergeData.put("mail_from",from);
+    mergeData.put("mail_from_name",from_name);
+    mergeData.put("mail_comment",comment);
+    mergeData.put("mail_aid",aid);
+    mergeData.put("mail_language",mail_language);
+
+
+    if (to == null || from == null || from_name == null|| to.equals("") || from.equals("") || from_name.equals("") || mail_language == null || mail_language.equals("")){
+      deliver(aRequest, aResponse, mergeData, null, prepareMailTemplate);
+    }
+    else {
+      //run checks on to and from and mail_language to make sure no monkey business occurring
+      if (mail_language.indexOf('.') != -1 || mail_language.indexOf('/') != -1 ) {
+        throw new ServletModuleExc("Invalid language");
+      }
+      if (to.indexOf('\n') != -1
+          || to.indexOf('\r') != -1
+          || to.indexOf(',') != -1) {
+        throw new ServletModuleUserExc("email.error.invalidtoaddress", new String[] {to});
+      }
+      if (from.indexOf('\n') != -1 || from.indexOf('\r') != -1 || from.indexOf(',') != -1 ) {
+        throw new ServletModuleUserExc("email.error.invalidfromaddress", new String[] {from});
+      }
+
+      CacheKey theCacheKey=new CacheKey("email",aid+mail_language);
+      String theEmailText;
+
+      EntityContent article;
+      try {
+        article = (EntityContent) contentModule.getById(aid);
+      }
+      catch (ModuleExc e) {
+        throw new ServletModuleExc("Couldn't retrieve article " + aid);
+      }
+
+      if (!MirGlobal.localizer().openPostings().allowArticlePublication(article)) {
+        throw new ServletModuleExc("Illegal article");
+      }
+
+      if (MirGlobal.mruCache().hasObject(theCacheKey)){
+        getLogger().info("fetching email text for article "+aid+" from cache");
+        theEmailText = (String) MirGlobal.mruCache().getObject(theCacheKey);
+      }
+      else {
+        StringWriter theEMailTextWriter = new StringWriter();
+        PrintWriter dest = new PrintWriter(theEMailTextWriter);
+        try {
+          Map articleData = new HashMap();
+          try {
+            articleData.put("article",
+                MirGlobal.localizer().dataModel().adapterModel().makeEntityAdapter("content", article));
+          }
+          catch (MirLocalizerExc e) {
+            throw new ServletModuleExc("Can't retrieve article " + aid, e);
+          }
+          articleData.put("languagecode", mail_language);
+          deliver(dest, aRequest, aResponse, articleData, null, emailAnArticleTemplate, mail_language);
+        }
+        finally {
+          dest.close();
+        }
+        theEmailText = theEMailTextWriter.toString();
+        MirGlobal.mruCache().storeObject(theCacheKey, theEmailText);
+      }
+
+      String content = theEmailText;
+
+      // add some headers
+      content = "To: " + to + "\nReply-To: "+ from + "\nX-Originating-IP: "+ from_ip + "\n" + content;
+      // put in the comment where it should go
+      if (comment != null) {
+        String commentTextToInsert = "\n\nAttached comment from " + from_name + ":\n" + comment;
+        try {
+          content=StringRoutines.performRegularExpressionReplacement(content,"!COMMENT!",commentTextToInsert);
+        }
+        catch (Throwable e){
+          throw new ServletModuleFailure("Problem doing regular expression replacement " + e.toString(), e);
+        }
+      }
+      else{
+        try {
+          content=StringRoutines.performRegularExpressionReplacement(content,"!COMMENT!","");
+        }
+        catch (Throwable e){
+          throw new ServletModuleFailure("Problem doing regular expression replacement " + e.toString(), e);
+        }
+      }
+
+      SMTPClient client=new SMTPClient();
+      try {
+        int reply;
+        client.connect(getConfiguration().getString("ServletModule.OpenIndy.SMTPServer"));
+
+        reply = client.getReplyCode();
+
+        if (!SMTPReply.isPositiveCompletion(reply)) {
+          client.disconnect();
+          throw new ServletModuleExc("SMTP server refused connection.");
+        }
+
+        client.sendSimpleMessage(getConfiguration().getString("ServletModule.OpenIndy.EmailIsFrom"), to, content);
+
+        client.disconnect();
+        //mission accomplished
+        deliver(aRequest, aResponse, mergeData, null, sentMailTemplate);
+      }
+      catch(IOException e) {
+        if(client.isConnected()) {
+          try {
+            client.disconnect();
+          } catch(IOException f) {
+            // do nothing
+          }
+        }
+        throw new ServletModuleFailure(e);
+      }
+    }
+  }
+
+
+
+  /**
+   * Method for querying a lucene index
+   *
+   * @param req
+   * @param res
+   * @throws ServletModuleExc
+   * @throws ServletModuleUserExc
+   * @throws ServletModuleFailure
+   */
+
+  public void search(HttpServletRequest req, HttpServletResponse res) throws ServletModuleExc, ServletModuleUserExc, ServletModuleFailure {
+    try {
+      final String[] search_variables = {
+          "search_content", "search_boolean", "search_creator",
+          "search_topic", "search_hasImages", "search_hasAudio", "search_hasVideo", "search_sort",
+          "search_submit", "search_back", "search_forward"};
+      HTTPRequestParser requestParser = new HTTPRequestParser(req);
+
+      int increment = 10;
+
+      HttpSession session = req.getSession(false);
+
+      String queryString = "";
+
+      Map mergeData = new HashMap();
+
+      KeywordSearchTerm dateTerm = new KeywordSearchTerm("date_formatted", "search_date", "webdb_create_formatted", "webdb_create_formatted", "webdb_create_formatted");
+      UnIndexedSearchTerm whereTerm = new UnIndexedSearchTerm("", "", "", "where", "where");
+      TextSearchTerm creatorTerm = new TextSearchTerm("creator", "search_creator", "creator", "creator", "creator");
+      TextSearchTerm titleTerm = new TextSearchTerm("title", "search_content", "title", "title", "title");
+      TextSearchTerm descriptionTerm = new TextSearchTerm("description", "search_content", "description", "description", "description");
+      ContentSearchTerm contentTerm = new ContentSearchTerm("content_data", "search_content", "content", "", "");
+      TopicSearchTerm topicTerm = new TopicSearchTerm();
+      TopicMatrixSearchTerm topicMatrixTerm = new TopicMatrixSearchTerm();
+      ImagesSearchTerm imagesTerm = new ImagesSearchTerm();
+      AudioSearchTerm audioTerm = new AudioSearchTerm();
+      VideoSearchTerm videoTerm = new VideoSearchTerm();
+
+      //make the query available to subsequent iterations
+
+      Iterator j = Arrays.asList(search_variables).iterator();
+      while (j.hasNext()) {
+        String variable = (String) j.next();
+
+        mergeData.put(variable, requestParser.getParameter(variable));
+      }
+
+      try {
+        mergeData.put("topics", DatabaseTopics.getInstance().getPopupData());
+      }
+      catch (Throwable e) {
+        getLogger().debug("Can't get topics: " + e.toString());
+      }
+
+      String searchBackValue = req.getParameter("search_back");
+      String searchForwardValue = req.getParameter("search_forward");
+
+      if (searchBackValue != null) {
+        int totalHits = ( (Integer) session.getAttribute("numberOfHits")).intValue();
+        int newPosition = ( (Integer) session.getAttribute("positionInResults")).intValue() - increment;
+        if (newPosition < 0)
+          newPosition = 0;
+        if (newPosition >= totalHits)
+          newPosition = totalHits - 1;
+        session.setAttribute("positionInResults", new Integer(newPosition));
+      }
+      else {
+        if (searchForwardValue != null) {
+          int totalHits = ( (Integer) session.getAttribute("numberOfHits")).intValue();
+          int newPosition = ( (Integer) session.getAttribute("positionInResults")).intValue() + increment;
+          if (newPosition < 0)
+            newPosition = 0;
+          if (newPosition >= totalHits)
+            newPosition = totalHits - 1;
+
+          session.setAttribute("positionInResults", new Integer(newPosition));
+        }
+        else {
+          File indexFile = FileRoutines.getAbsoluteOrRelativeFile(getConfiguration().getHome(), getConfiguration().getString("IndexPath"));
+
+          String creatorFragment = creatorTerm.makeTerm(req);
+          if (creatorFragment != null) {
+            queryString = queryString + " +" + creatorFragment;
+          }
+
+          // search title, description, and content for something
+          // the contentTerm uses param "search_boolean" to combine its terms
+          String contentFragment = contentTerm.makeTerm(req);
+          if (contentFragment != null) {
+            getLogger().debug("contentFragment: " + contentFragment);
+            queryString = queryString + " +" + contentFragment;
+          }
+
+          String topicFragment = topicTerm.makeTerm(req);
+          if (topicFragment != null) {
+            queryString = queryString + " +" + topicFragment;
+          }
+
+          String topicMatrixFragment = topicMatrixTerm.makeTerm(req);
+          if (topicMatrixFragment != null) {
+            queryString = queryString + " +" + topicMatrixFragment;
+          }
+
+          String imagesFragment = imagesTerm.makeTerm(req);
+          if (imagesFragment != null) {
+            queryString = queryString + " +" + imagesFragment;
+          }
+
+          String audioFragment = audioTerm.makeTerm(req);
+          if (audioFragment != null) {
+            queryString = queryString + " +" + audioFragment;
+          }
+
+          String videoFragment = videoTerm.makeTerm(req);
+          if (videoFragment != null) {
+            queryString = queryString + " +" + videoFragment;
+          }
+
+          if (queryString == null || queryString.length()==0) {
+            queryString = "";
+          }
+          else {
+            try {
+              Searcher searcher = null;
+
+              try {
+                searcher = new IndexSearcher(FSDirectory.getDirectory(indexFile,false));
+              }
+              catch (IOException e) {
+                getLogger().debug("Can't open indexPath: " + indexFile.getAbsolutePath());
+                throw new ServletModuleExc("Problem with Search Index! : " + e.toString());
+              }
+
+              Query query;
+              try {
+                query = QueryParser.parse(queryString, "content", new StandardAnalyzer());
+              }
+              catch (Exception e) {
+                searcher.close();
+                getLogger().debug("Query don't parse: " + queryString);
+                throw new ServletModuleExc("Problem with Query String! (was '" + queryString + "')");
+              }
+
+              Hits hits = null;
+              try {
+                hits = searcher.search(query);
+              }
+              catch (IOException e) {
+                searcher.close();
+                getLogger().debug("Can't get hits: " + e.toString());
+                throw new ServletModuleExc("Problem getting hits!");
+              }
+
+              int start = 0;
+              int end = hits.length();
+
+              String sortBy = req.getParameter("search_sort");
+              if (sortBy == null || sortBy.equals("")) {
+                throw new ServletModuleExc("Please let me sort by something!(missing search_sort)");
+              }
+
+              // here is where the documents will go for database across sessions
+              ArrayList theDocumentsSorted = new ArrayList();
+
+              if (sortBy.equals("score")) {
+                for (int i = start; i < end; i++) {
+                  theDocumentsSorted.add(hits.doc(i));
+                }
+              }
+              else {
+                // then we'll sort by date!
+                Map dateToPosition = new HashMap(end, 1.0F); //we know how big it will be
+                for (int i = start; i < end; i++) {
+                  String creationDate = (hits.doc(i)).get("creationDate");
+                  // do a little dance in case two contents created at the same second!
+                  if (dateToPosition.containsKey(creationDate)) {
+                    ( (ArrayList) (dateToPosition.get(creationDate))).add(new Integer(i));
+                  }
+                  else {
+                    ArrayList thePositions = new ArrayList();
+                    thePositions.add(new Integer(i));
+                    dateToPosition.put(creationDate, thePositions);
+                  }
+                }
+                Set keys = dateToPosition.keySet();
+                ArrayList keyList = new ArrayList(keys);
+                Collections.sort(keyList);
+                if (sortBy.equals("date_desc")) {
+                  Collections.reverse(keyList);
+                }
+                else {
+                  if (!sortBy.equals("date_asc")) {
+                    throw new ServletModuleExc("don't know how to sort by: " + sortBy);
+                  }
+                }
+                ListIterator keyTraverser = keyList.listIterator();
+                while (keyTraverser.hasNext()) {
+                  ArrayList positions = (ArrayList) dateToPosition.get( (keyTraverser.next()));
+                  ListIterator positionsTraverser = positions.listIterator();
+                  while (positionsTraverser.hasNext()) {
+                    theDocumentsSorted.add(hits.doc( ( (Integer) (positionsTraverser.next())).intValue()));
+                  }
+                }
+              }
+
+              try {
+                searcher.close();
+              }
+              catch (IOException e) {
+                getLogger().debug("Can't close searcher: " + e.toString());
+                throw new ServletModuleFailure("Problem closing searcher(normal):" + e.getMessage(), e);
+              }
+
+              session.removeAttribute("numberOfHits");
+              session.removeAttribute("theDocumentsSorted");
+              session.removeAttribute("positionInResults");
+
+              session.setAttribute("numberOfHits", new Integer(end));
+              session.setAttribute("theDocumentsSorted", theDocumentsSorted);
+              session.setAttribute("positionInResults", new Integer(0));
+
+            }
+            catch (IOException e) {
+              getLogger().debug("Can't close searcher: " + e.toString());
+              throw new ServletModuleFailure("Problem closing searcher: " + e.getMessage(), e);
+            }
+          }
+        }
+      }
+
+      try {
+        ArrayList theDocs = (ArrayList) session.getAttribute("theDocumentsSorted");
+        if (theDocs != null) {
+
+          mergeData.put("numberOfHits", (session.getAttribute("numberOfHits")).toString());
+          List theHits = new ArrayList();
+          int pIR = ( (Integer) session.getAttribute("positionInResults")).intValue();
+          int terminus;
+          int numHits = ( (Integer) session.getAttribute("numberOfHits")).intValue();
+
+          if (! (pIR + increment >= numHits)) {
+            mergeData.put("hasNext", "y");
+          }
+          else {
+            mergeData.put("hasNext", null);
+          }
+          if (pIR > 0) {
+            mergeData.put("hasPrevious", "y");
+          }
+          else {
+            mergeData.put("hasPrevious", null);
+          }
+
+          if ( (pIR + increment) > numHits) {
+            terminus = numHits;
+          }
+          else {
+            terminus = pIR + increment;
+          }
+          for (int i = pIR; i < terminus; i++) {
+            Map h = new HashMap();
+            Document theHit = (Document) theDocs.get(i);
+            whereTerm.returnMeta(h, theHit);
+            creatorTerm.returnMeta(h, theHit);
+            titleTerm.returnMeta(h, theHit);
+            descriptionTerm.returnMeta(h, theHit);
+            dateTerm.returnMeta(h, theHit);
+            imagesTerm.returnMeta(h, theHit);
+            audioTerm.returnMeta(h, theHit);
+            videoTerm.returnMeta(h, theHit);
+            theHits.add(h);
+          }
+          mergeData.put("hits", theHits);
+        }
+      }
+      catch (Throwable e) {
+        getLogger().error("Can't iterate over hits: " + e.toString());
+
+        throw new ServletModuleFailure("Problem getting hits: " + e.getMessage(), e);
+      }
+
+      mergeData.put("queryString", queryString);
+
+      deliver(req, res, mergeData, null, searchResultsTemplate);
+    }
+    catch (NullPointerException n) {
+      throw new ServletModuleFailure("Null Pointer: " + n.toString(), n);
+    }
+  }
+
+  /*
+   * Method for dynamically generating a pdf using iText
+   */
+
+  public void getpdf(HttpServletRequest aRequest, HttpServletResponse aResponse)
+      throws ServletModuleExc, ServletModuleUserExc, ServletModuleFailure {
+
+    long starttime = System.currentTimeMillis();
+
+    String ID_REQUEST_PARAM = "id";
+    int maxArticlesInNewsleter = 15; // it is nice not to be dos'ed
+    try {
+      String idParam = aRequest.getParameter(ID_REQUEST_PARAM);
+      if (idParam != null) {
+        RE re = new RE("[0-9]+");
+
+        REMatch[] idMatches = re.getAllMatches(idParam);
+        String cacheSelector = "";
+
+        for (int i = 0; i < idMatches.length; i++) {
+          cacheSelector = cacheSelector + "," + idMatches[i].toString();
+        }
+
+        String cacheType = "pdf";
+
+        CacheKey theCacheKey = new CacheKey(cacheType, cacheSelector);
+
+        byte[] thePDF;
+
+        if (MirGlobal.mruCache().hasObject(theCacheKey)) {
+          getLogger().debug("fetching pdf from cache");
+          thePDF = (byte[]) MirGlobal.mruCache().getObject(theCacheKey);
+        }
+        else {
+          getLogger().debug("generating pdf and caching it");
+          ByteArrayOutputStream out = new ByteArrayOutputStream();
+          PDFGenerator pdfMaker = new PDFGenerator(out);
+
+          if (idMatches.length > 1) {
+            pdfMaker.addLine();
+            for (int i = 0; i < idMatches.length && i < maxArticlesInNewsleter; i++) {
+              REMatch aMatch = idMatches[i];
+              String id = aMatch.toString();
+              EntityContent contentEnt = (EntityContent) contentModule.getById(id);
+
+
+              pdfMaker.addIndexItem(contentEnt);
+            }
+          }
+
+          for (int i = 0; i < idMatches.length; i++) {
+            REMatch aMatch = idMatches[i];
+            String id = aMatch.toString();
+            EntityContent article = (EntityContent) contentModule.getById(id);
+
+            if (!MirGlobal.localizer().openPostings().allowArticlePublication(article)) {
+              throw new ServletModuleExc("Illegal article");
+            }
+
+            pdfMaker.add(article, getLocale(aRequest));
+          }
+
+          pdfMaker.stop();
+          thePDF = out.toByteArray();
+
+          //and save all our hard work!
+          MirGlobal.mruCache().storeObject(theCacheKey, thePDF);
+        }
+
+        aResponse.setContentType("application/pdf");
+        aResponse.setContentLength(thePDF.length);
+        aResponse.getOutputStream().write(thePDF);
+        aResponse.getOutputStream().flush();
+        String elapsedtime = (new Long(System.currentTimeMillis() - starttime)).toString();
+        getLogger().info("pdf retireval took " + elapsedtime + " milliseconds");
+
+      }
+      else {
+        throw new ServletModuleExc("Missing id.");
+      }
+    }
+    catch (Throwable t) {
+      getLogger().error(t.toString());
+
+      throw new ServletModuleFailure(t);
+    }
+  }
+
+
+  public String generateOnetimePassword() {
+    Random r = new Random();
+    int random = r.nextInt();
+
+    long l = System.currentTimeMillis();
+
+    l = (l * l * l * l) / random;
+    if (l < 0)
+      l = l * -1;
+
+    String returnString = "" + l;
+
+    return returnString.substring(5);
+  }
+
+  public void deliver(HttpServletRequest aRequest, HttpServletResponse aResponse, Map aData, Map anExtra, String aGenerator) throws ServletModuleFailure {
+    try {
+      deliver(aResponse.getWriter(), aRequest, aResponse, aData, anExtra, aGenerator);
+    }
+    catch (Throwable t) {
+      throw new ServletModuleFailure(t);
+    }
+  }
+
+  public void deliver(PrintWriter anOutputWriter, HttpServletRequest aRequest, HttpServletResponse aResponse, Map aData, Map anExtra, String aGenerator)
+      throws ServletModuleFailure {
+    try {
+      Map responseData = ServletHelper.makeGenerationData(aRequest, aResponse, new Locale[] { getLocale(aRequest), getFallbackLocale(aRequest)}, "etc/bundles/open");
+      responseData.put("data", aData);
+      responseData.put("extra", anExtra);
+
+
+      Generator generator =
+          MirGlobal.localizer().generators().makeOpenPostingGeneratorLibrary().makeGenerator(aGenerator, null);
+      generator.generate(anOutputWriter, responseData, getLogger());
+
+      anOutputWriter.close();
+    }
+    catch (Throwable e) {
+      getLogger().error("Error while generating " + aGenerator + ": " + e.getMessage());
+
+      throw new ServletModuleFailure(e);
+    }
+  }
+
+  public void deliver(PrintWriter anOutputWriter, HttpServletRequest aRequest, HttpServletResponse aResponse, Map aData, Map anExtra, String aGenerator,String aLocaleString)
+      throws ServletModuleFailure {
+    try {
+      Map responseData = ServletHelper.makeGenerationData(aRequest, aResponse, new Locale[] { new Locale(aLocaleString,""), getFallbackLocale(aRequest)}, "etc/bundles/open");
+      responseData.put("data", aData);
+      responseData.put("extra", anExtra);
+
+
+      Generator generator =
+          MirGlobal.localizer().generators().
+              makeOpenPostingGeneratorLibrary().makeGenerator(aGenerator, null);
+      generator.generate(anOutputWriter, responseData, getLogger());
+
+      anOutputWriter.close();
+    }
+    catch (Throwable e) {
+      getLogger().error("Error while generating " + aGenerator + ": " + e.getMessage());
+
+      throw new ServletModuleFailure(e);
+    }
+  }
+
+
+  public void handleError(HttpServletRequest aRequest, HttpServletResponse aResponse,PrintWriter out, Throwable anException) {
+    try {
+      getLogger().error("Error during open action", anException);
+      Map data = new HashMap();
+
+      data.put("errorstring", anException.getMessage());
+      data.put("date", StringUtil.date2readableDateTime(new GregorianCalendar()));
+
+      deliver(out, aRequest, aResponse, data, null, getConfiguration().getString("ServletModule.OpenIndy.ErrorTemplate"));
+    }
+    catch (Throwable e) {
+      throw new ServletModuleFailure(e);
+    }
+  }
+
+  public void handleUserError(HttpServletRequest aRequest, HttpServletResponse aResponse,
+                               PrintWriter out, ServletModuleUserExc anException) {
+    try {
+      getLogger().warn("user error: " + anException.getMessage());
+      Map data = new HashMap();
+
+      Bundle bundle =
+          MirGlobal.getBundleFactory().getBundle("etc/bundles/open", new
+              String[] { getLocale(aRequest).getLanguage() });
+      data.put("errorstring", bundle.getValue(anException.getMessage(), Arrays.asList(anException.getParameters())));
+      data.put("date", StringUtil.date2readableDateTime(new GregorianCalendar()));
+
+      deliver(out, aRequest, aResponse, data, null, getConfiguration().getString("ServletModule.OpenIndy.UserErrorTemplate"));
+    }
+    catch (Throwable e) {
+      throw new ServletModuleFailure(e);
+    }
+  }
+}