update of the open session system: articles can now also be posted
[mir.git] / source / mircoders / servlet / ServletModuleOpenIndy.java
1 /*
2  * Copyright (C) 2001, 2002 The Mir-coders group
3  *
4  * This file is part of Mir.
5  *
6  * Mir is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License as published by
8  * the Free Software Foundation; either version 2 of the License, or
9  * (at your option) any later version.
10  *
11  * Mir is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with Mir; if not, write to the Free Software
18  * Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
19  *
20  * In addition, as a special exception, The Mir-coders gives permission to link
21  * the code of this program with  any library licensed under the Apache Software License,
22  * The Sun (tm) Java Advanced Imaging library (JAI), The Sun JIMI library
23  * (or with modified versions of the above that use the same license as the above),
24  * and distribute linked combinations including the two.  You must obey the
25  * GNU General Public License in all respects for all of the code used other than
26  * the above mentioned libraries.  If you modify this file, you may extend this
27  * exception to your version of the file, but you are not obligated to do so.
28  * If you do not wish to do so, delete this exception statement from your version.
29  */
30
31 package mircoders.servlet;
32
33 import java.io.ByteArrayOutputStream;
34 import java.io.File;
35 import java.io.FileNotFoundException;
36 import java.io.FileReader;
37 import java.io.IOException;
38 import java.io.PrintWriter;
39 import java.io.StringWriter;
40 import java.util.ArrayList;
41 import java.util.Arrays;
42 import java.util.Collections;
43 import java.util.Enumeration;
44 import java.util.GregorianCalendar;
45 import java.util.HashMap;
46 import java.util.Iterator;
47 import java.util.List;
48 import java.util.ListIterator;
49 import java.util.Locale;
50 import java.util.Map;
51 import java.util.Random;
52 import java.util.Set;
53 import java.util.Vector;
54 import javax.servlet.http.HttpServletRequest;
55 import javax.servlet.http.HttpServletResponse;
56 import javax.servlet.http.HttpSession;
57 import javax.servlet.http.HttpUtils;
58
59 import org.apache.commons.fileupload.FileItem;
60 import org.apache.commons.net.smtp.SMTPClient;
61 import org.apache.commons.net.smtp.SMTPReply;
62 import org.apache.lucene.analysis.standard.StandardAnalyzer;
63 import org.apache.lucene.document.Document;
64 import org.apache.lucene.queryParser.QueryParser;
65 import org.apache.lucene.search.Hits;
66 import org.apache.lucene.search.IndexSearcher;
67 import org.apache.lucene.search.Query;
68 import org.apache.lucene.search.Searcher;
69 import org.apache.struts.util.MessageResources;
70 import gnu.regexp.RE;
71 import gnu.regexp.REMatch;
72
73 import mir.entity.Entity;
74 import mir.generator.Generator;
75 import mir.log.LoggerWrapper;
76 import mir.misc.StringUtil;
77 import mir.servlet.ServletModule;
78 import mir.servlet.ServletModuleExc;
79 import mir.servlet.ServletModuleFailure;
80 import mir.servlet.ServletModuleUserExc;
81 import mir.session.HTTPAdapters;
82 import mir.session.Request;
83 import mir.session.Session;
84 import mir.session.SessionHandler;
85 import mir.session.SimpleResponse;
86 import mir.session.UploadedFile;
87 import mir.storage.StorageObjectFailure;
88 import mir.util.ExceptionFunctions;
89 import mir.util.HTTPParsedRequest;
90 import mir.util.HTTPRequestParser;
91 import mir.util.StringRoutines;
92 import mircoders.entity.EntityComment;
93 import mircoders.entity.EntityContent;
94 import mircoders.global.MirGlobal;
95 import mircoders.media.MediaUploadProcessor;
96 import mircoders.module.*;
97 import mircoders.module.ModuleContent;
98 import mircoders.module.ModuleImages;
99 import mircoders.module.ModuleTopics;
100 import mircoders.pdf.PDFGenerator;
101 import mircoders.search.AudioSearchTerm;
102 import mircoders.search.ContentSearchTerm;
103 import mircoders.search.ImagesSearchTerm;
104 import mircoders.search.KeywordSearchTerm;
105 import mircoders.search.TextSearchTerm;
106 import mircoders.search.TopicSearchTerm;
107 import mircoders.search.UnIndexedSearchTerm;
108 import mircoders.search.VideoSearchTerm;
109 import mircoders.storage.DatabaseComment;
110 import mircoders.storage.DatabaseContent;
111 import mircoders.storage.DatabaseContentToMedia;
112 import mircoders.storage.DatabaseContentToTopics;
113 import mircoders.storage.DatabaseImages;
114 import mircoders.storage.DatabaseLanguage;
115 import mircoders.storage.DatabaseTopics;
116
117 /*
118  *  ServletModuleOpenIndy -
119  *   is the open-access-servlet, which is responsible for
120  *    adding comments to articles &
121  *    open-postings to the newswire
122  *
123  * @author mir-coders group
124  * @version $Id: ServletModuleOpenIndy.java,v 1.81 2003/04/26 00:42:22 zapata Exp $
125  *
126  */
127
128 public class ServletModuleOpenIndy extends ServletModule
129 {
130
131   private String        commentFormTemplate, commentFormDoneTemplate, commentFormDupeTemplate;
132   private String        postingFormTemplate, postingFormDoneTemplate, postingFormDupeTemplate;
133   private String        searchResultsTemplate;
134   private String        prepareMailTemplate,sentMailTemplate;
135   private ModuleContent contentModule;
136   private ModuleComment commentModule;
137   private ModuleImages  imageModule;
138   private ModuleTopics  topicsModule;
139   private String        directOp ="yes";
140   // Singelton / Kontruktor
141   private static ServletModuleOpenIndy instance = new ServletModuleOpenIndy();
142   public static ServletModule getInstance() { return instance; }
143
144   private ServletModuleOpenIndy() {
145     super();
146     try {
147       logger = new LoggerWrapper("ServletModule.OpenIndy");
148
149       commentFormTemplate = configuration.getString("ServletModule.OpenIndy.CommentTemplate");
150       commentFormDoneTemplate = configuration.getString("ServletModule.OpenIndy.CommentDoneTemplate");
151       commentFormDupeTemplate = configuration.getString("ServletModule.OpenIndy.CommentDupeTemplate");
152
153       postingFormTemplate = configuration.getString("ServletModule.OpenIndy.PostingTemplate");
154       postingFormDoneTemplate = configuration.getString("ServletModule.OpenIndy.PostingDoneTemplate");
155       postingFormDupeTemplate = configuration.getString("ServletModule.OpenIndy.PostingDupeTemplate");
156
157       searchResultsTemplate = configuration.getString("ServletModule.OpenIndy.SearchResultsTemplate");
158       prepareMailTemplate = configuration.getString("ServletModule.OpenIndy.PrepareMailTemplate");
159       sentMailTemplate = configuration.getString("ServletModule.OpenIndy.SentMailTemplate");
160       directOp = configuration.getString("DirectOpenposting").toLowerCase();
161       commentModule = new ModuleComment(DatabaseComment.getInstance());
162       mainModule = commentModule;
163       contentModule = new ModuleContent(DatabaseContent.getInstance());
164       topicsModule = new ModuleTopics(DatabaseTopics.getInstance());
165       imageModule = new ModuleImages(DatabaseImages.getInstance());
166       defaultAction="addposting";
167     }
168     catch (StorageObjectFailure e) {
169       logger.error("servletmoduleopenindy could not be initialized: " + e.getMessage());
170     }
171   }
172
173   /**
174    * Method to return an "apology" when open postings are disabled
175    *
176    * @param aRequest
177    * @param aResponse
178    * @throws ServletModuleExc
179    * @throws ServletModuleUserExc
180    * @throws ServletModuleFailure
181    */
182   public void openPostingDisabled(HttpServletRequest aRequest, HttpServletResponse aResponse) throws ServletModuleExc, ServletModuleUserExc, ServletModuleFailure {
183     deliver(aRequest, aResponse, (Map) null, null,
184        configuration.getString("ServletModule.OpenIndy.PostingDisabledTemplate"));
185   }
186
187   /**
188    *  Method for making a comment
189    */
190
191   public void addcomment(HttpServletRequest req, HttpServletResponse res) throws ServletModuleExc, ServletModuleUserExc, ServletModuleFailure {
192     if (MirGlobal.abuse().getOpenPostingDisabled()) {
193       openPostingDisabled(req, res);
194
195       return;
196     }
197
198     String aid = req.getParameter("aid"); // the article id the comment will belong to
199
200     if (aid != null && !aid.equals("")) {
201       try {
202         Map mergeData = new HashMap();
203
204         // onetimepasswd
205         if (MirGlobal.abuse().getOpenPostingPassword()) {
206           String passwd = this.createOneTimePasswd();
207           HttpSession session = req.getSession(false);
208           session.setAttribute("passwd", passwd);
209           mergeData.put("passwd", passwd);
210         }
211         else {
212           mergeData.put("passwd", (String)null);
213         }
214         mergeData.put("aid", aid);
215
216         Map extraInfo = new HashMap();
217         extraInfo.put("languagePopUpData", DatabaseLanguage.getInstance().getPopupData());
218
219         deliver(req, res, mergeData, extraInfo, commentFormTemplate);
220       }
221       catch (Throwable t) {
222         throw new ServletModuleFailure("ServletModuleOpenIndy.addcomment: " + t.getMessage(), t);
223       }
224     }
225     else
226       throw new ServletModuleExc("aid not set!");
227   }
228
229   /**
230    *  Method for inserting a comment into the Database and delivering
231    *  the commentDone Page
232    */
233
234   public void inscomment(HttpServletRequest req, HttpServletResponse res) throws ServletModuleExc, ServletModuleUserExc, ServletModuleFailure {
235     if (MirGlobal.abuse().getOpenPostingDisabled()) {
236       openPostingDisabled(req, res);
237
238       return;
239     }
240
241     String aid = req.getParameter("to_media"); // the article id the comment will belong to
242     if (aid != null && !aid.equals("")) {
243       // ok, collecting data from form
244       try {
245         Map withValues = getIntersectingValues(req, DatabaseComment.getInstance());
246
247         //no html in comments(for now)
248         for (Iterator i = withValues.keySet().iterator(); i.hasNext(); ) {
249           String k = (String) i.next();
250           String v = (String) withValues.get(k);
251
252           withValues.put(k, StringUtil.removeHTMLTags(v));
253         }
254         withValues.put("is_published", "1");
255         withValues.put("to_comment_status", "1");
256         withValues.put("is_html", "0");
257
258         //checking the onetimepasswd
259         HttpSession session = req.getSession(false);
260         String sessionPasswd = (String) session.getAttribute("passwd");
261         if (sessionPasswd != null) {
262           String passwd = req.getParameter("passwd");
263           if (passwd == null || passwd.length() == 0) {
264             throw new ServletModuleUserExc("comment.error.missingpassword", new String[] {});
265           }
266           if (!sessionPasswd.equals(passwd)) {
267             throw new ServletModuleUserExc("comment.error.invalidpassword", new String[] {});
268           }
269           session.invalidate();
270         }
271
272         String id = mainModule.add(withValues);
273
274         SimpleResponse response = new SimpleResponse();
275         response.setResponseGenerator(commentFormDoneTemplate);
276
277         if (id == null) {
278           deliver(req, res, (Map)null, null, commentFormDupeTemplate);
279         }
280         else {
281           DatabaseContent.getInstance().setUnproduced("id=" + aid);
282
283           try {
284             EntityComment comment = (EntityComment) DatabaseComment.getInstance().selectById(id);
285             MirGlobal.localizer().openPostings().afterCommentPosting(comment);
286             MirGlobal.abuse().checkComment(
287                 comment, new HTTPAdapters.HTTPRequestAdapter(req), res);
288           }
289           catch (Throwable t) {
290             throw new ServletModuleExc(t.getMessage());
291           }
292         }
293
294         // redirecting to url
295         // should implement back to article
296         deliver(req, res, response.getResponseValues(), null, response.getResponseGenerator());
297       }
298       catch (Throwable e) {
299         throw new ServletModuleFailure(e);
300       }
301     }
302     else
303       throw new ServletModuleExc("aid not set!");
304
305   }
306
307   /**
308    *  Method for delivering the form-Page for open posting
309    */
310
311   public void addposting(HttpServletRequest req, HttpServletResponse res)
312       throws ServletModuleExc, ServletModuleUserExc, ServletModuleFailure
313   {
314     try {
315       if (MirGlobal.abuse().getOpenPostingDisabled()) {
316         openPostingDisabled(req, res);
317
318         return;
319       }
320
321       Map mergeData = new HashMap();
322
323       // onetimepasswd
324       if (MirGlobal.abuse().getOpenPostingPassword()) {
325         String passwd = generateOnetimePassword();
326         HttpSession session = req.getSession(false);
327         session.setAttribute("passwd", passwd);
328         mergeData.put("passwd", passwd);
329       }
330       else {
331         mergeData.put("passwd", (String)null);
332       }
333
334       String maxMedia = configuration.getString("ServletModule.OpenIndy.MaxMediaUploadItems");
335       String defaultMedia = configuration.getString("ServletModule.OpenIndy.DefaultMediaUploadItems");
336       String numOfMedia = req.getParameter("medianum");
337
338       if (numOfMedia == null || numOfMedia.equals("")) {
339         numOfMedia = defaultMedia;
340       }
341       else if (Integer.parseInt(numOfMedia) > Integer.parseInt(maxMedia)) {
342         numOfMedia = maxMedia;
343       }
344
345       int mediaNum = Integer.parseInt(numOfMedia);
346       List mediaFields = new Vector();
347       for (int i = 0; i < mediaNum; i++) {
348         Integer mNum = new Integer(i + 1);
349         mediaFields.add(mNum.toString());
350       }
351       mergeData.put("medianum", numOfMedia);
352       mergeData.put("mediafields", mediaFields);
353       mergeData.put("to_topic", null);
354
355       Map extraInfo = new HashMap();
356       extraInfo.put("languagePopUpData", DatabaseLanguage.getInstance().getPopupData());
357       extraInfo.put("themenPopupData", topicsModule.getTopicsAsSimpleList());
358
359       extraInfo.put("topics", topicsModule.getTopicsList());
360       deliver(req, res, mergeData, extraInfo, postingFormTemplate);
361     }
362     catch (Throwable t) {
363       throw new ServletModuleFailure(t);
364     }
365   }
366
367   /**
368    *  Method for inserting an open posting into the Database and delivering
369    *  the postingDone Page
370    */
371
372   public void insposting(HttpServletRequest aRequest, HttpServletResponse aResponse) throws
373       ServletModuleExc, ServletModuleUserExc, ServletModuleFailure {
374     if (MirGlobal.abuse().getOpenPostingDisabled()) {
375       openPostingDisabled(aRequest, aResponse);
376
377       return;
378     }
379
380     try {
381       HTTPParsedRequest parsedRequest = new HTTPParsedRequest(
382           aRequest,
383           configuration.getString("Mir.DefaultEncoding"),
384           configuration.getInt("MaxMediaUploadSize")*1024,
385           configuration.getString("TempDir"));
386
387       Map mergeData = new HashMap();
388
389       HttpSession session = aRequest.getSession(false);
390       String sessionPasswd = (String) session.getAttribute("passwd");
391       if (sessionPasswd != null) {
392         String passwd = (String) parsedRequest.getParameter("passwd");
393
394         if (passwd == null || passwd.length() == 0) {
395           throw new ServletModuleUserExc("posting.error.missingpassword", new String[] {});
396         }
397         if (!sessionPasswd.equals(passwd)) {
398           throw new ServletModuleUserExc("posting.error.invalidpassword", new String[] {});
399         }
400         session.invalidate();
401       }
402
403       if ((((String) parsedRequest.getParameter("title")).length() == 0) ||
404           (((String) parsedRequest.getParameter("description")).length() == 0) ||
405           (((String) parsedRequest.getParameter("content_data")).length() == 0))
406         throw new ServletModuleUserExc("posting.error.missingfield", new String[] {});
407
408       List mediaList = new Vector();
409       Iterator i = parsedRequest.getFiles().iterator();
410
411       while (i.hasNext()) {
412         UploadedFile file = new mir.session.CommonsUploadedFileAdapter((FileItem) i.next());
413         Map mediaValues = new HashMap();
414
415         String suffix = file.getFieldName().substring(5); // media${m}
416         logger.debug("media_title" + suffix);
417         String title = parsedRequest.getParameter("media_title" + suffix);
418
419         mediaValues.put("title", StringUtil.removeHTMLTags(title));
420         mediaValues.put("creator", StringUtil.removeHTMLTags(parsedRequest.getParameter("creator")));
421         mediaValues.put("to_publisher", "0");
422         mediaValues.put("is_published", "1");
423         mediaValues.put("to_media_folder", "7");
424
425         mediaList.add(MediaUploadProcessor.processMediaUpload(file, mediaValues));
426       }
427
428       Map withValues = new HashMap();
429       i = DatabaseContent.getInstance().getFields().iterator();
430       while (i.hasNext()) {
431         String field = (String) i.next();
432         String value = parsedRequest.getParameter(field);
433         if (value!=null)
434           withValues.put(field, value);
435       }
436
437
438       for (i = withValues.keySet().iterator(); i.hasNext(); ) {
439         String k = (String) i.next();
440         String v = (String) withValues.get(k);
441
442         if (k.equals("content_data")) {
443           //this doesn't quite work yet, so for now, all html goes
444           //withValues.put(k,StringUtil.approveHTMLTags(v));
445           withValues.put(k, StringUtil.deleteForbiddenTags(v));
446         }
447         else if (k.equals("description")) {
448           String tmp = StringUtil.deleteForbiddenTags(v);
449           withValues.put(k, StringUtil.deleteHTMLTableTags(tmp));
450         }
451         else {
452           withValues.put(k, StringUtil.removeHTMLTags(v));
453         }
454       }
455
456       withValues.put("date", StringUtil.date2webdbDate(new GregorianCalendar()));
457       withValues.put("publish_path",
458                      StringUtil.webdbDate2path( (String) withValues.get("date")));
459       withValues.put("is_produced", "0");
460       withValues.put("is_published", "1");
461       if (directOp.equals("yes"))
462         withValues.put("to_article_type", "1");
463
464       withValues.put("to_publisher", "1");
465
466       // inserting  content into database
467       String cid = contentModule.add(withValues);
468       logger.debug("id: " + cid);
469       //insert was not successfull
470       if (cid == null) {
471         deliver(aRequest, aResponse, mergeData, null, postingFormDupeTemplate);
472         return;
473       }
474
475       List topics = parsedRequest.getParameterList("to_topic");
476       if (topics.size() > 0) {
477         try {
478           DatabaseContentToTopics.getInstance().setTopics(cid, topics);
479         }
480         catch (Throwable e) {
481           logger.error("setting content_x_topic failed");
482           contentModule.deleteById(cid);
483           throw new ServletModuleFailure(
484               "smod - openindy :: insposting: setting content_x_topic failed: " +
485               e.toString(), e);
486         }
487       }
488
489       i = mediaList.iterator();
490       while (i.hasNext()) {
491         Entity mediaEnt = (Entity) i.next();
492         DatabaseContentToMedia.getInstance().addMedia(cid, mediaEnt.getId());
493       }
494
495       EntityContent article = (EntityContent) contentModule.getById(cid);
496       try {
497         MirGlobal.abuse().checkArticle(
498             article, new HTTPAdapters.HTTPRequestAdapter(aRequest), aResponse);
499         MirGlobal.localizer().openPostings().afterContentPosting(article);
500       }
501       catch (Throwable t) {
502         logger.error("Error while post-processing article: " + t.getMessage());
503       }
504       deliver(aRequest, aResponse, mergeData, null, postingFormDoneTemplate);
505     }
506     catch (Throwable e) {
507       e.printStackTrace(logger.asPrintWriter(LoggerWrapper.DEBUG_MESSAGE));
508       Throwable cause = ExceptionFunctions.traceCauseException(e);
509
510       if (cause instanceof ModuleMediaType.UnsupportedMimeTypeExc) {
511         throw new ServletModuleUserExc("media.unsupportedformat", new String[] {});
512       }
513       throw new ServletModuleFailure(e);
514     }
515   }
516
517   /**
518    * Due to a serious shortcoming of Tomcat 3.3, an extra sessionid parameter is
519    *   generated into open session urls. Tomcat 3.3 makes it impossible to
520    *   distinguish between sessions that are identified using a url and those
521    *   that are identified using cookies: if both a sessionid cookie and a sessionid
522    *   url are available, tomcat 3.3 pretends the url wasn't there...
523    */
524   private static final String SESSION_REQUEST_KEY="sessionid";
525
526   /**
527    * Dispatch method for open sessions: a flexible extensible and customizable way
528    *   for open access. Can be used for postings, but also for lots of other stuff.
529    *
530    * @param aRequest
531    * @param aResponse
532    * @throws ServletModuleExc
533    * @throws ServletModuleUserExc
534    * @throws ServletModuleFailure
535    */
536
537   public void opensession(HttpServletRequest aRequest, HttpServletResponse aResponse)
538       throws ServletModuleExc, ServletModuleUserExc, ServletModuleFailure {
539
540     try {
541       Request request = new HTTPAdapters.HTTPParsedRequestAdapter(new HTTPParsedRequest(aRequest, 1000000, "/tmp"));
542
543       if (aRequest.isRequestedSessionIdValid() && !aRequest.isRequestedSessionIdFromURL() &&
544           !aRequest.getRequestedSessionId().equals(aRequest.getParameter(SESSION_REQUEST_KEY)))
545         aRequest.getSession().invalidate();
546
547       Session session = new HTTPAdapters.HTTPSessionAdapter(aRequest.getSession());
548
549       SimpleResponse response = new SimpleResponse(
550           ServletHelper.makeGenerationData(new Locale[] {getLocale(aRequest), getFallbackLocale(aRequest)},
551              "bundles.open"));
552
553       response.setResponseValue("actionURL", aResponse.encodeURL(HttpUtils.getRequestURL(aRequest).toString())+"?"+SESSION_REQUEST_KEY+"="+aRequest.getSession().getId());
554
555       SessionHandler handler = MirGlobal.localizer().openPostings().getOpenSessionHandler(request, session);
556
557       handler.processRequest(request, session, response);
558       ServletHelper.generateOpenPostingResponse(aResponse.getWriter(), response.getResponseValues(), response.getResponseGenerator());
559     }
560     catch (Throwable t) {
561       logger.error(t.toString());
562       t.printStackTrace(logger.asPrintWriter(LoggerWrapper.DEBUG_MESSAGE));
563
564       throw new ServletModuleFailure(t);
565     }
566   }
567
568   /**
569    * Method for preparing and sending a content as an email message
570    */
571
572   public void mail(HttpServletRequest req, HttpServletResponse res)
573       throws ServletModuleExc, ServletModuleUserExc, ServletModuleFailure
574   {
575     String aid = req.getParameter("mail_aid");
576     if (aid == null){
577       throw new ServletModuleExc("An article id must be specified in requests to email an article.  Something therefore went badly wrong....");
578     }
579
580     String to = req.getParameter("mail_to");
581     String from = req.getParameter("mail_from");
582     String from_name = req.getParameter("mail_from_name");
583     String comment = req.getParameter("mail_comment");
584     String mail_language = req.getParameter("mail_language");
585
586     Map mergeData = new HashMap();
587
588     if (to == null || from == null || from_name == null|| to.equals("") || from.equals("") || from_name.equals("") || mail_language == null || mail_language.equals("")){
589
590       for (Enumeration theParams = req.getParameterNames(); theParams.hasMoreElements() ;) {
591         String pName=(String)theParams.nextElement();
592         if (pName.startsWith("mail_")){
593           mergeData.put( pName,req.getParameter(pName) );
594         }
595       }
596
597       deliver(req, res, mergeData, null, prepareMailTemplate);
598     }
599     else {
600       //run checks on to and from and mail_language to make sure no monkey business occurring
601       if (mail_language.indexOf('.') != -1 || mail_language.indexOf('/') != -1 ) {
602         throw new ServletModuleExc("Invalid language");
603       }
604       if (to.indexOf('\n') != -1
605           || to.indexOf('\r') != -1
606           || to.indexOf(',') != -1) {
607         throw new ServletModuleUserExc("email.error.invalidtoaddress", new String[] {to});
608       }
609       if (from.indexOf('\n') != -1 || from.indexOf('\r') != -1 || from.indexOf(',') != -1 ) {
610         throw new ServletModuleUserExc("email.error.invalidfromaddress", new String[] {from});
611       }
612
613
614       EntityContent contentEnt;
615       try{
616         contentEnt = (EntityContent)contentModule.getById(aid);
617       }
618       catch (Throwable e){
619         throw new ServletModuleFailure("Couldn't get content for article "+aid + ": " + e.getMessage(), e);
620       }
621       String producerStorageRoot=configuration.getString("Producer.StorageRoot");
622       String producerDocRoot=configuration.getString("Producer.DocRoot");
623       String publishPath = contentEnt.getValue("publish_path");
624       String txtFilePath = producerStorageRoot + producerDocRoot + "/" + mail_language +
625                                                                                                          publishPath + "/" + aid + ".txt";
626
627
628       File inputFile = new File(txtFilePath);
629       String content;
630
631       try{
632         FileReader in = new FileReader(inputFile);
633         StringWriter out = new StringWriter();
634         int c;
635         while ((c = in.read()) != -1)
636           out.write(c);
637         in.close();
638         content= out.toString();
639       }
640       catch (FileNotFoundException e){
641         throw new ServletModuleFailure("No text file found in " + txtFilePath, e);
642       }
643       catch (IOException e){
644         throw new ServletModuleFailure("Problem reading file in " + txtFilePath, e);
645       }
646       // add some headers
647       content = "To: " + to + "\nReply-To: "+ from + "\n" + content;
648       // put in the comment where it should go
649       if (comment != null) {
650         String commentTextToInsert = "\n\nAttached comment from " + from_name + ":\n" + comment;
651         try {
652           content=StringRoutines.performRegularExpressionReplacement(content,"!COMMENT!",commentTextToInsert);
653         }
654         catch (Throwable e){
655           throw new ServletModuleFailure("Problem doing regular expression replacement " + e.toString(), e);
656         }
657       }
658       else{
659         try {
660           content=StringRoutines.performRegularExpressionReplacement(content,"!COMMENT!","");
661         }
662         catch (Throwable e){
663           throw new ServletModuleFailure("Problem doing regular expression replacement " + e.toString(), e);
664         }
665       }
666
667       SMTPClient client=new SMTPClient();
668       try {
669         int reply;
670         client.connect(configuration.getString("ServletModule.OpenIndy.SMTPServer"));
671
672         reply = client.getReplyCode();
673
674         if (!SMTPReply.isPositiveCompletion(reply)) {
675           client.disconnect();
676           throw new ServletModuleExc("SMTP server refused connection.");
677         }
678
679         client.sendSimpleMessage(configuration.getString("ServletModule.OpenIndy.EmailIsFrom"), to, content);
680
681         client.disconnect();
682         //mission accomplished
683         deliver(req, res, mergeData, null, sentMailTemplate);
684       }
685       catch(IOException e) {
686         if(client.isConnected()) {
687           try {
688             client.disconnect();
689           } catch(IOException f) {
690             // do nothing
691           }
692         }
693         throw new ServletModuleFailure(e);
694       }
695     }
696   }
697
698
699
700
701     /**
702      * Method for querying a lucene index
703      *
704      * @param req
705      * @param res
706      * @throws ServletModuleExc
707      * @throws ServletModuleUserExc
708      * @throws ServletModuleFailure
709      */
710
711     public void search(HttpServletRequest req, HttpServletResponse res)
712         throws ServletModuleExc, ServletModuleUserExc, ServletModuleFailure {
713       try {
714         final String[] search_variables = { "search_content", "search_boolean", "search_creator",
715             "search_topic", "search_hasImages", "search_hasAudio", "search_hasVideo", "search_sort",
716             "search_submit", "search_back", "search_forward" };
717         HTTPRequestParser requestParser = new HTTPRequestParser(req);
718
719         int increment=10;
720
721         HttpSession session = req.getSession(false);
722
723         String queryString="";
724
725         Map mergeData = new HashMap();
726
727         KeywordSearchTerm dateTerm = new KeywordSearchTerm("date_formatted","search_date","webdb_create_formatted","webdb_create_formatted","webdb_create_formatted");
728         UnIndexedSearchTerm whereTerm = new UnIndexedSearchTerm("","","","where","where");
729         TextSearchTerm creatorTerm = new TextSearchTerm("creator","search_creator","creator","creator","creator");
730         TextSearchTerm titleTerm = new TextSearchTerm("title","search_content","title","title","title");
731         TextSearchTerm descriptionTerm =  new TextSearchTerm("description","search_content","description","description","description");
732         ContentSearchTerm contentTerm = new ContentSearchTerm("content_data","search_content","content","","");
733         TopicSearchTerm topicTerm = new TopicSearchTerm();
734         ImagesSearchTerm imagesTerm = new ImagesSearchTerm();
735         AudioSearchTerm audioTerm = new AudioSearchTerm();
736         VideoSearchTerm videoTerm = new VideoSearchTerm();
737
738         //make the query available to subsequent iterations
739
740         Iterator j = Arrays.asList(search_variables).iterator();
741         while (j.hasNext()) {
742           String variable = (String) j.next();
743
744           mergeData.put(variable, requestParser.getParameter(variable));
745         }
746
747         try{
748           mergeData.put("topics", topicsModule.getTopicsAsSimpleList());
749         }
750         catch(Throwable e) {
751           logger.debug("Can't get topics: " + e.toString());
752         }
753
754         String searchBackValue = req.getParameter("search_back");
755         String searchForwardValue = req.getParameter("search_forward");
756
757         if (searchBackValue != null){
758           int totalHits = ((Integer) session.getAttribute("numberOfHits")).intValue();
759           int newPosition=((Integer)session.getAttribute("positionInResults")).intValue()-increment;
760           if (newPosition<0)
761             newPosition=0;
762           if (newPosition >= totalHits)
763             newPosition=totalHits-1;
764           session.setAttribute("positionInResults",new Integer(newPosition));
765         }
766         else {
767           if (searchForwardValue != null){
768             int totalHits = ((Integer) session.getAttribute("numberOfHits")).intValue();
769             int newPosition=((Integer)session.getAttribute("positionInResults")).intValue()+increment;
770             if (newPosition<0)
771               newPosition=0;
772             if (newPosition >= totalHits)
773               newPosition=totalHits-1;
774
775             session.setAttribute("positionInResults",new Integer(newPosition));
776           }
777           else {
778             String indexPath=configuration.getString("IndexPath");
779
780
781             String creatorFragment = creatorTerm.makeTerm(req);
782             if (creatorFragment != null){
783               queryString = queryString + " +" + creatorFragment;
784             }
785
786             // search title, description, and content for something
787             // the contentTerm uses param "search_boolean" to combine its terms
788             String contentFragment = contentTerm.makeTerm(req);
789             if (contentFragment != null){
790               logger.debug("contentFragment: " + contentFragment);
791               queryString = queryString + " +" + contentFragment;
792             }
793
794             String topicFragment = topicTerm.makeTerm(req);
795             if (topicFragment != null){
796               queryString = queryString + " +" + topicFragment;
797             }
798
799             String imagesFragment = imagesTerm.makeTerm(req);
800             if (imagesFragment != null){
801               queryString = queryString + " +" + imagesFragment;
802             }
803
804             String audioFragment = audioTerm.makeTerm(req);
805             if (audioFragment != null){
806               queryString = queryString + " +" + audioFragment;
807             }
808
809             String videoFragment = videoTerm.makeTerm(req);
810             if (videoFragment != null){
811               queryString = queryString + " +" + videoFragment;
812             }
813
814             if (queryString == null || queryString == ""){
815               queryString = "";
816             }
817             else{
818               try{
819                 Searcher searcher = null;
820                 try {
821                   searcher = new IndexSearcher(indexPath);
822                 }
823                 catch(IOException e) {
824                   logger.debug("Can't open indexPath: " + indexPath);
825                   throw new ServletModuleExc("Problem with Search Index! : "+ e.toString());
826                 }
827
828                 Query query = null;
829                 try {
830                   query = QueryParser.parse(queryString, "content", new StandardAnalyzer());
831                 }
832                 catch(Exception e) {
833                   searcher.close();
834                   logger.debug("Query don't parse: " + queryString);
835                   throw new ServletModuleExc("Problem with Query String! (was '"+queryString+"')");
836                 }
837
838                 Hits hits = null;
839                 try {
840                   hits = searcher.search(query);
841                 }
842                 catch(IOException e) {
843                   searcher.close();
844                   logger.debug("Can't get hits: " + e.toString());
845                   throw new ServletModuleExc("Problem getting hits!");
846                 }
847
848                 int start = 0;
849                 int end = hits.length();
850
851                 String sortBy=req.getParameter("search_sort");
852                 if (sortBy == null || sortBy.equals("")){
853                   throw new ServletModuleExc("Please let me sort by something!(missing search_sort)");
854                 }
855
856                 // here is where the documents will go for storage across sessions
857                 ArrayList theDocumentsSorted = new ArrayList();
858
859                 if (sortBy.equals("score")){
860                   for(int i = start; i < end; i++) {
861                     theDocumentsSorted.add(hits.doc(i));
862                   }
863                 }
864                 else{
865                   // then we'll sort by date!
866                   Map dateToPosition = new HashMap(end,1.0F); //we know how big it will be
867                   for(int i = start; i < end; i++) {
868                     String creationDate=(hits.doc(i)).get("creationDate");
869                     // do a little dance in case two contents created at the same second!
870                     if (dateToPosition.containsKey(creationDate)){
871                       ((ArrayList) (dateToPosition.get(creationDate))).add(new Integer(i));
872                     }
873                     else{
874                       ArrayList thePositions = new ArrayList();
875                       thePositions.add(new Integer(i));
876                       dateToPosition.put(creationDate,thePositions);
877                     }
878                   }
879                   Set keys = dateToPosition.keySet();
880                   ArrayList keyList= new ArrayList(keys);
881                   Collections.sort(keyList);
882                   if (sortBy.equals("date_desc")){
883                     Collections.reverse(keyList);
884                   }
885                   else{
886                     if (!sortBy.equals("date_asc")){
887                       throw new ServletModuleExc("don't know how to sort by: "+ sortBy);
888                     }
889                   }
890                   ListIterator keyTraverser = keyList.listIterator();
891                   while (keyTraverser.hasNext()){
892                     ArrayList positions = (ArrayList)dateToPosition.get((keyTraverser.next()));
893                     ListIterator positionsTraverser=positions.listIterator();
894                     while (positionsTraverser.hasNext()){
895                       theDocumentsSorted.add(hits.doc(((Integer)(positionsTraverser.next())).intValue()));
896                     }
897                   }
898                 }
899
900                 try{
901                   searcher.close();
902                 }
903                 catch (IOException e){
904                   logger.debug("Can't close searcher: " + e.toString());
905                   throw new ServletModuleFailure("Problem closing searcher(normal):" + e.getMessage(), e);
906                 }
907
908
909                 session.removeAttribute("numberOfHits");
910                 session.removeAttribute("theDocumentsSorted");
911                 session.removeAttribute("positionInResults");
912
913                 session.setAttribute("numberOfHits",new Integer(end));
914                 session.setAttribute("theDocumentsSorted",theDocumentsSorted);
915                 session.setAttribute("positionInResults",new Integer(0));
916
917               }
918               catch (IOException e){
919                 logger.debug("Can't close searcher: " + e.toString());
920                 throw new ServletModuleFailure("Problem closing searcher: " + e.getMessage(), e);
921               }
922             }
923           }
924         }
925
926         try {
927           ArrayList theDocs = (ArrayList)session.getAttribute("theDocumentsSorted");
928           if (theDocs != null){
929
930             mergeData.put("numberOfHits", ((Integer)session.getAttribute("numberOfHits")).toString());
931             List theHits = new Vector();
932             int pIR=((Integer)session.getAttribute("positionInResults")).intValue();
933             int terminus;
934             int numHits=((Integer)session.getAttribute("numberOfHits")).intValue();
935
936             if (!(pIR+increment>=numHits)){
937               mergeData.put("hasNext","y");
938             }
939             else {
940               mergeData.put("hasNext", null);
941             }
942             if (pIR>0){
943               mergeData.put("hasPrevious","y");
944             }
945             else {
946               mergeData.put("hasPrevious", null);
947             }
948
949             if ((pIR+increment)>numHits){
950               terminus=numHits;
951             }
952             else {
953               terminus=pIR+increment;
954             }
955             for(int i = pIR; i < terminus; i++) {
956               Map h = new HashMap();
957               Document theHit = (Document)theDocs.get(i);
958               whereTerm.returnMeta(h,theHit);
959               creatorTerm.returnMeta(h,theHit);
960               titleTerm.returnMeta(h,theHit);
961               descriptionTerm.returnMeta(h,theHit);
962               dateTerm.returnMeta(h,theHit);
963               imagesTerm.returnMeta(h,theHit);
964               audioTerm.returnMeta(h,theHit);
965               videoTerm.returnMeta(h,theHit);
966               theHits.add(h);
967             }
968             mergeData.put("hits",theHits);
969           }
970         }
971         catch (Throwable e) {
972           logger.error("Can't iterate over hits: " + e.toString());
973
974           throw new ServletModuleFailure("Problem getting hits: " + e.getMessage(), e);
975         }
976
977         mergeData.put("queryString",queryString);
978
979         deliver(req, res, mergeData, null, searchResultsTemplate);
980       }
981       catch (NullPointerException n){
982         throw new ServletModuleFailure("Null Pointer: "+n.toString(), n);
983       }
984     }
985
986     /*
987      * Method for dynamically generating a pdf using iText
988      */
989
990
991     public void getpdf(HttpServletRequest req, HttpServletResponse res)
992         throws ServletModuleExc, ServletModuleUserExc, ServletModuleFailure {
993       String ID_REQUEST_PARAM = "id";
994       try {
995           String idParam = req.getParameter(ID_REQUEST_PARAM);
996           if (idParam != null) {
997             ByteArrayOutputStream out = new ByteArrayOutputStream();
998             PDFGenerator pdfMaker = new PDFGenerator(out);
999
1000             RE re = new RE("[0-9]+");
1001
1002
1003             REMatch[] idMatches=re.getAllMatches(idParam);
1004
1005             if (idMatches.length > 1){
1006               pdfMaker.addLine();
1007               for (int i = 0; i < idMatches.length; i++){
1008                 REMatch aMatch = idMatches[i];
1009                 String id=aMatch.toString();
1010                 EntityContent contentEnt = (EntityContent)contentModule.getById(id);
1011                 pdfMaker.addIndexItem(contentEnt);
1012
1013               }
1014             }
1015
1016             for (int i = 0; i < idMatches.length; i++){
1017               REMatch aMatch = idMatches[i];
1018
1019               String id=aMatch.toString();
1020
1021               EntityContent contentEnt = (EntityContent)contentModule.getById(id);
1022               pdfMaker.add(contentEnt);
1023
1024             }
1025
1026             pdfMaker.stop();
1027             res.setContentType("application/pdf");
1028             byte[] content = out.toByteArray();
1029             res.setContentLength(content.length);
1030             res.getOutputStream().write(content);
1031             res.getOutputStream().flush();
1032
1033           }
1034           else {
1035             throw new ServletModuleExc("Missing id.");
1036           }
1037       }
1038       catch (Throwable t) {
1039         logger.error(t.toString());
1040         throw new ServletModuleFailure(t);
1041       }
1042
1043     }
1044   public String generateOnetimePassword() {
1045     Random r = new Random();
1046     int random = r.nextInt();
1047
1048     long l = System.currentTimeMillis();
1049
1050     l = (l * l * l * l) / random;
1051     if (l < 0)
1052       l = l * -1;
1053
1054     String returnString = "" + l;
1055
1056     return returnString.substring(5);
1057   }
1058
1059   public void deliver(HttpServletRequest aRequest, HttpServletResponse aResponse, Map aData, Map anExtra, String aGenerator)
1060       throws ServletModuleFailure {
1061     try {
1062       deliver(aResponse.getWriter(), aRequest, aResponse, aData, anExtra, aGenerator);
1063     }
1064     catch (Throwable t) {
1065       throw new ServletModuleFailure(t);
1066     }
1067   }
1068
1069   public void deliver(PrintWriter anOutputWriter, HttpServletRequest aRequest, HttpServletResponse aResponse, Map aData, Map anExtra, String aGenerator)
1070       throws ServletModuleFailure {
1071     try {
1072       Map responseData = ServletHelper.makeGenerationData(new Locale[] { getLocale(aRequest), getFallbackLocale(aRequest)}, "bundles.open");
1073       responseData.put("data", aData);
1074       responseData.put("extra", anExtra);
1075
1076
1077       Generator generator = MirGlobal.localizer().generators().makeOpenPostingGeneratorLibrary().makeGenerator(aGenerator);
1078       generator.generate(anOutputWriter, responseData, logger);
1079
1080       anOutputWriter.close();
1081     }
1082     catch (Throwable e) {
1083       logger.error("Error while generating " + aGenerator + ": " + e.getMessage());
1084
1085       throw new ServletModuleFailure(e);
1086     }
1087   }
1088
1089   public void handleError(HttpServletRequest aRequest, HttpServletResponse aResponse,PrintWriter out, Throwable anException) {
1090     try {
1091       logger.error("error: " + anException);
1092       Map data = new HashMap();
1093
1094       data.put("errorstring", anException.getMessage());
1095       data.put("date", StringUtil.date2readableDateTime(new GregorianCalendar()));
1096
1097       deliver(out, aRequest, aResponse, data, null, configuration.getString("ServletModule.OpenIndy.ErrorTemplate"));
1098     }
1099     catch (Throwable e) {
1100       throw new ServletModuleFailure(e);
1101     }
1102   }
1103
1104   public void handleUserError(HttpServletRequest aRequest, HttpServletResponse aResponse,
1105                                PrintWriter out, ServletModuleUserExc anException) {
1106     try {
1107       logger.warn("user error: " + anException.getMessage());
1108       Map data = new HashMap();
1109
1110       MessageResources messages = MessageResources.getMessageResources("bundles.open");
1111       data.put("errorstring", messages.getMessage(getLocale(aRequest), anException.getMessage(), anException.getParameters()));
1112       data.put("date", StringUtil.date2readableDateTime(new GregorianCalendar()));
1113
1114       deliver(out, aRequest, aResponse, data, null, configuration.getString("ServletModule.OpenIndy.UserErrorTemplate"));
1115     }
1116     catch (Throwable e) {
1117       throw new ServletModuleFailure(e);
1118     }
1119   }
1120
1121   private String createOneTimePasswd() {
1122     return "";
1123   }
1124 }