博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
lucene-JE中文分词
阅读量:5900 次
发布时间:2019-06-19

本文共 5376 字,大约阅读时间需要 17 分钟。

hot3.png

首先需要导入两个jar包(lucene-core-2.4.1.jar,je-analysis-1.5.1.jar,lucene-highlighter-2.4.1.jar),注意版本的兼容问题,这里提供一个共享网盘的链接:

链接:http://pan.baidu.com/s/1dFFf3A5 密码:djez

//采用正向最大匹配的中文分词算法,相当于分词粒度等于0

MMAnalyzer analyzer = new MMAnalyzer();
//参数为分词粒度:当字数等于或超过该参数,且能成词,该词就被切分出来
MMAnalyzer analyzer = new MMAnalyzer(int wordLength);
//字符串切分,常用于客户的关键字输入
analyzer.segment(String text, String separator);
词典维护API(静态方法):
//增加一个新词典,采用每行一个词的读取方式(注意:多线程状态下此时的分词效果将不可预料)
MMAnalyzer.addDictionary(Reader reader);
//增加一个新词
MMAnalyzer.addWord(String newWord);
//删除词库中的全部词语(注意:非常危险的操作,在没有加载新的词库前所有的分词都将失效)
MMAnalyzer.clear();
//词库中是否包含该词
MMAnalyzer.contains(String word);
//从词库中移除该词
MMAnalyzer.removeWord(String word);
//当前词库中包含的词语总数
MMAnalyzer.size();

3、使用说明

符串切分  
package demo.analysis;  
   
import java.io.IOException;  
   
import jeasy.analysis.MMAnalyzer;  
   
public class Segment  
{
 
   
public static void main(String[] args)  
{
 
String text = "据路透社报道,印度尼西亚社会事务部一官员星期二(29日)表示,"  
+ "日惹市附近当地时间27日晨5时53分发生的里氏6.2级地震已经造成至少5427人死亡,"  
+ "20000余人受伤,近20万人无家可归。";  
   
MMAnalyzer analyzer = new MMAnalyzer();  
try  
{
 
System.out.println(analyzer.segment(text, " | "));  
}  
catch (IOException e)  
{
 
e.printStackTrace();  
}  
}  
}  
   
生成效果:  
   

据 | 路透社 | 报道 | 印度尼西亚 | 社会 | 事务 | 部 | 官员 | 星期二 | 29日 | 表示 | 日惹 | 市 |

附近 | 当地时间 | 27日 | 晨 | 5时 | 53分 | 发生 | 里氏 | 6.2级 | 地震 | 已经 | 造成 | 至少 |

5427人 | 死亡 | 20000 | 余人 | 受伤 | 近 | 20万人 | 无家可归 |

 
Lucene搜索  
package demo.analysis;  
   
import jeasy.analysis.MMAnalyzer;  
   
import org.apache.lucene.analysis.Analyzer;  
import org.apache.lucene.document.Document;  
import org.apache.lucene.document.Field;  
import org.apache.lucene.index.IndexWriter;  
import org.apache.lucene.queryParser.QueryParser;  
import org.apache.lucene.search.Hits;  
import org.apache.lucene.search.IndexSearcher;  
import org.apache.lucene.search.Query;  
import org.apache.lucene.store.Directory;  
import org.apache.lucene.store.RAMDirectory;  
   
public class Segment  
{
 
   
public static void main(String[] args)  
{
 
String fieldName = "text";  
String text = "据路透社报道,印度尼西亚社会事务部一官员星期二(29日)表示,"  
+ "日惹市附近当地时间27日晨5时53分发生的里氏6.2级地震已经造成至少5427人死亡,"  
+ "20000余人受伤,近20万人无家可归。"; //检索内容  
   
//采用正向最大匹配的中文分词算法  
Analyzer analyzer = new MMAnalyzer();  
   
Directory directory = new RAMDirectory();  
//Directory directory = FSDirectory.getDirectory("/tmp/testindex", true);  
   
try  
{
 
IndexWriter iwriter = new IndexWriter(directory, analyzer, true);  
iwriter.setMaxFieldLength(25000);  
Document doc = new Document();  
doc.add(new Field(fieldName, text, Field.Store.YES, Field.Index.TOKENIZED));  
iwriter.addDocument(doc);  
iwriter.close();  
   
IndexSearcher isearcher = new IndexSearcher(directory);  
QueryParser parser = new QueryParser(fieldName, analyzer);  
Query query = parser.parse("印度尼西亚 6.2级地震");//检索词  
Hits hits = isearcher.search(query);  
System.out.println("命中:" + hits.length());  
   
for (int i = 0; i < hits.length(); i++)  
{
 
Document hitDoc = hits.doc(i);  
System.out.println("内容:" + hitDoc.get(fieldName));  
}  
   
isearcher.close();  
directory.close();  
}  
catch (Exception e)  
{
 
e.printStackTrace();  
}  
}  
   
}  
   
生成效果:  
   
命中:1  
内容:据路透社报道,印度尼西亚社会事务部一官员星期二(29日)表示,日惹市附近当地时间27日晨5时53分发生的
里氏6.2级地震已经造成至少5427人死亡,20000余人受伤,近20万人无家可归。
 
 
搜索词加亮  
package demo.analysis;  
   
import jeasy.analysis.MMAnalyzer;  
   
import org.apache.lucene.analysis.Analyzer;  
import org.apache.lucene.analysis.TokenStream;  
import org.apache.lucene.document.Document;  
import org.apache.lucene.document.Field;  
import org.apache.lucene.index.IndexReader;  
import org.apache.lucene.index.IndexWriter;  
import org.apache.lucene.index.TermPositionVector;  
import org.apache.lucene.queryParser.QueryParser;  
import org.apache.lucene.search.Hits;  
import org.apache.lucene.search.IndexSearcher;  
import org.apache.lucene.search.Query;  
import org.apache.lucene.search.highlight.Highlighter;  
import org.apache.lucene.search.highlight.QueryScorer;  
import org.apache.lucene.search.highlight.TokenSources;  
import org.apache.lucene.store.Directory;  
import org.apache.lucene.store.RAMDirectory;  
   
public class Segment  
{
 
   
public static void main(String[] args)  
{
 
String fieldName = "text";  
String text = "据路透社报道,印度尼西亚社会事务部一官员星期二(29日)表示,"  
+ "日惹市附近当地时间27日晨5时53分发生的里氏6.2级地震已经造成至少5427人死亡,"  
+ "20000余人受伤,近20万人无家可归。"; //检索内容  
   
//采用正向最大匹配的中文分词算法  
Analyzer analyzer = new MMAnalyzer();  
   
Directory directory = new RAMDirectory();  
//Directory directory = FSDirectory.getDirectory("/tmp/testindex", true);  
   
try  
{
 
IndexWriter iwriter = new IndexWriter(directory, analyzer, true);  
iwriter.setMaxFieldLength(25000);  
Document doc = new Document();  
doc.add(new Field(fieldName, text, Field.Store.YES,  
Field.Index.TOKENIZED,  
Field.TermVector.WITH_POSITIONS_OFFSETS));  
iwriter.addDocument(doc);  
iwriter.close();  
   
IndexSearcher isearcher = new IndexSearcher(directory);  
QueryParser parser = new QueryParser(fieldName, analyzer);  
Query query = parser.parse("印度尼西亚 6.2级地震");//检索词  
Hits hits = isearcher.search(query);  
System.out.println("命中:" + hits.length());  
   
Highlighter highlighter = new Highlighter(new QueryScorer(query));  
for (int i = 0; i < hits.length(); i++)  
{
 
text = hits.doc(i).get(fieldName);  
TermPositionVector tpv = (TermPositionVector) IndexReader.open(  
directory).getTermFreqVector(hits.id(i), fieldName);  
TokenStream tokenStream = TokenSources.getTokenStream(tpv);  
String result = highlighter.getBestFragments(tokenStream, text, 3, "...");  
System.out.println("内容:" + result);  
}  
   
isearcher.close();  
directory.close();  
}  
catch (Exception e)  
{
 
e.printStackTrace();  
}  
}  
   
}

转载于:https://my.oschina.net/githubhty/blog/680536

你可能感兴趣的文章
win10安装tomcat9
查看>>
两种方式分别改变alertdialog的宽和高
查看>>
TextView-setCompondDrawables用法
查看>>
由扭结理论中的琼斯多项式的证明想到的
查看>>
淘宝Hadoop集群的概况
查看>>
Centos7安装rabbitmq server 3.6.0
查看>>
关于eclipse的ADT(插件)对xml的android:text属性检查修改
查看>>
linux生成自验证ssl证书的具体命令和步骤
查看>>
Mvc 提交表单的4种方法全程详解
查看>>
iostat命令学习
查看>>
SQL 三种分页方式
查看>>
查看linux是ubuntu还是centos
查看>>
html video的url更新,自动清缓存
查看>>
IOS Xib使用——为控制器添加Xib文件
查看>>
CentOS 7.0默认使用的是firewall作为防火墙,这里改为iptables防火墙步骤
查看>>
react 取消 eslint
查看>>
codeforces 960C Subsequence Counting
查看>>
【11】ajax请求后台接口数据与返回值处理js写法
查看>>
Python菜鸟之路:Jquery Ajax的使用
查看>>
LeetCode算法题-Maximum Depth of Binary Tree
查看>>