php应用nltk技巧_大年夜狗干货铺子Python NLP教程

本日大狗简要先容一下Python自然措辞处理(NLP)，利用Python的NLTK库。
NLTK是Python的自然措辞处理工具包，在NLP领域中，最常利用的一个Python库。

什么是NLP

大略来说，自然措辞处理(NLP)便是开拓能够理解人类措辞的运用程序或做事。

这里谈论一些自然措辞处理(NLP)的实际运用例子，如语音识别、语音翻译、理解完全的句子、理解匹配词的同义词，以及天生语法精确完全句子和段落。

这并不是NLP能做的所有事情。

搜索引擎: 比如谷歌，Yahoo等。
谷歌搜索引擎知道你是一个技能职员，以是它显示与技能干系的结果；

社交网站推送:比如Facebook News Feed。
如果News Feed算法知道你的兴趣是自然措辞处理，就会显示干系的广告和帖子。

语音引擎:比如Apple的Siri。

垃圾邮件过滤:如谷歌垃圾邮件过滤器。
和普通垃圾邮件过滤不同，它通过理解邮件内容里面的的深层意义，来判断是不是垃圾邮件。

下面是一些开源的自然措辞处理库(NLP)：

Natural language toolkit (NLTK);

Apache OpenNLP;

Stanford NLP suite;

Gate NLP library

个中自然措辞工具包(NLTK)是最受欢迎的自然措辞处理库(NLP)，它是用Python编写的，而且背后有非常强大的社区支持。

NLTK也很随意马虎上手，实际上，它是最大略的自然措辞处理(NLP)库。

在这个NLP教程中，我们将利用Python NLTK库。

如果您利用的是Windows/Linux/Mac，您可以利用pip安装NLTK:

打开python终端导入NLTK检讨NLTK是否精确安装：

如果统统顺利，这意味着您已经成功地安装了NLTK库。
首次安装了NLTK，须要通过运行以下代码来安装NLTK扩展包:

import nltk

nltk.download()

这将弹出NLTK 下载窗口来选择须要安装哪些包:

你可以安装所有的包，由于它们的大小都很小，以是没有什么问题。

首先，我们将抓取一个web页面内容，然后剖析文本理解页面的内容。

我们将利用urllib模块来抓取web页面:

import urllib.request

response = urllib.request.urlopen('http://php.net/')

html = response.read()

print (html)

从打印结果中可以看到，结果包含许多须要清理的HTML标签。

然后BeautifulSoup模块来洗濯这样的笔墨:

from bs4 import BeautifulSoup

import urllib.request

response = urllib.request.urlopen('http://php.net/')

html = response.read()

soup = BeautifulSoup(html,\公众html5lib\"大众)

# 这须要安装html5lib模块

text = soup.get_text(strip=True)

print (text)

现在我们从抓取的网页中得到了一个干净的文本。

下一步，将文本转换为tokens,像这样:

from bs4 import BeautifulSoup

import urllib.request

response = urllib.request.urlopen('http://php.net/')

html = response.read()

soup = BeautifulSoup(html,\公众html5lib\"大众)

text = soup.get_text(strip=True)

tokens = text.split()

print (tokens)

text已经处理完毕了，现在利用Python NLTK统计token的频率分布。

可以通过调用NLTK中的FreqDist()方法实现:

from bs4 import BeautifulSoup

import urllib.request

import nltk

response = urllib.request.urlopen('http://php.net/')

html = response.read()

soup = BeautifulSoup(html,\"大众html5lib\"大众)

text = soup.get_text(strip=True)

tokens = text.split()

freq = nltk.FreqDist(tokens)

for key,val in freq.items():

print (str(key) + ':' + str(val))

如果搜索输出结果，可以创造最常见的token是PHP。

您可以调用plot函数做出频率分布图:

freq.plot(20, cumulative=False)

# 须要安装matplotlib库

这上面这些单词。
比如of,a,an等等，这些词都属于停用词。

一样平常来说，停用词该当删除，防止它们影响剖析结果。

NLTK自带了许多种措辞的停用词列表，如果你获取英文停用词:

stopwords.words('english')

现在，修正下代码,在绘图之前打消一些无效的token:

clean_tokens = list()

sr = stopwords.words('english')

for token in tokens:

if token not in sr:

clean_tokens.append(token)

终极的代码该当是这样的:

from bs4 import BeautifulSoup

import urllib.request

import nltk

from nltk.corpus import stopwords

response = urllib.request.urlopen('http://php.net/')

html = response.read()

soup = BeautifulSoup(html,\"大众html5lib\"大众)

text = soup.get_text(strip=True)

tokens = text.split()

clean_tokens = list()

sr = stopwords.words('english')

for token in tokens:

if not token in sr:

clean_tokens.append(token)

freq = nltk.FreqDist(clean_tokens)

for key,val in freq.items():

print (str(key) + ':' + str(val))

现在再做一次词频统计图，效果会比之前好些，由于剔除了停用词:

现在我们利用NLTK来Tokenize文本。

文本没有Tokenize之前是无法处理的，以是对文本进行Tokenize非常主要的。
token化过程意味着将大的部件分割为小部件。

你可以将段落tokenize成句子，将句子tokenize成单个词，NLTK分别供应了句子tokenizer和单词tokenizer。

假如有这样这段文本:

利用句子tokenizer将文本tokenize成句子:

from nltk.tokenize import sent_tokenize

mytext = \"大众Hello Adam, how are you? I hope everything is going well. Today is a good day, see you dude.\"大众

print(sent_tokenize(mytext))

输出如下:

这时你可能会想，这也太大略了，不须要利用NLTK的tokenizer都可以，直策应用正则表达式来拆分句子就行，由于每个句子都有标点和空格。

那么再来看下面的文本:

这样如果利用标点符号拆分,Hello Mr将会被认为是一个句子，如果利用NLTK:

from nltk.tokenize import sent_tokenize

mytext = \"大众Hello Mr. Adam, how are you? I hope everything is going well. Today is a good day, see you dude.\"大众

print(sent_tokenize(mytext))

输出如下:

这才是精确的拆分。

接下来试试单词tokenizer:

from nltk.tokenize import word_tokenize

mytext = \"大众Hello Mr. Adam, how are you? I hope everything is going well. Today is a good day, see you dude.\公众

print(word_tokenize(mytext))

输出如下:

Mr.这个词也没有被分开。
NLTK利用的是punkt模块的PunktSentenceTokenizer，它是NLTK.tokenize的一部分。
而且这个tokenizer经由演习，可以适用于多种措辞。

Tokenize时可以指定措辞:

from nltk.tokenize import sent_tokenize

mytext = \公众Bonjour M. Adam, comment allez-vous? J'espère que tout va bien. Aujourd'hui est un bon jour.\"大众

print(sent_tokenize(mytext,\"大众french\"大众))

输出结果如下:

利用nltk.download()安装界面，个中一个包是WordNet。

WordNet是一个为自然措辞处理而建立的数据库。
它包括一些同义词组和一些简短的定义。

你可以这样获取某个给定单词的定义和示例:

from nltk.corpus import wordnet

syn = wordnet.synsets(\公众pain\公众)

print(syn[0].definition())

print(syn[0].examples())

输出结果是:

['the patient developed severe pain and distension']

WordNet包含了很多定义：

from nltk.corpus import wordnet

syn = wordnet.synsets(\"大众NLP\"大众)

print(syn[0].definition())

syn = wordnet.synsets(\"大众Python\"大众)

print(syn[0].definition())

结果如下:

the branch of information science that deals with natural language information

large Old World boas

可以像这样利用WordNet来获取同义词:

from nltk.corpus import wordnet

synonyms = []

for syn in wordnet.synsets('Computer'):

for lemma in syn.lemmas():

synonyms.append(lemma.name())

print(synonyms)

输出:

也可以用同样的方法得到反义词：

from nltk.corpus import wordnet

antonyms = []

for syn in wordnet.synsets(\公众small\"大众):

for l in syn.lemmas():

if l.antonyms():

antonyms.append(l.antonyms()[0].name())

print(antonyms)

输出：

措辞形态学和信息检索里，词干提取是去除词缀得到词根的过程，例如working的词干为work。

搜索引擎在索引页面时就会利用这种技能，以是很多人为相同的单词写出不同的版本。

有很多种算法可以避免这种情形，最常见的是波特词干算法。
NLTK有一个名为PorterStemmer的类，便是这个算法的实现:

from nltk.stem import PorterStemmer

stemmer = PorterStemmer()

print(stemmer.stem('working'))

print(stemmer.stem('worked'))

输出结果：

work

work

还有其他的一些词干提取算法，比如 Lancaster词干算法。

除了英文之外，SnowballStemmer还支持13种措辞。

支持的措辞:

from nltk.stem import SnowballStemmer

print(SnowballStemmer.languages)

你可以利用SnowballStemmer类的stem函数来提取像这样的非英文单词：

from nltk.stem import SnowballStemmer

french_stemmer = SnowballStemmer('french')

print(french_stemmer.stem(\"大众French word\"大众)

单词变体还原类似于词干，但不同的是，变体还原的结果是一个真实的单词。
不同于词干，当你试图提取某些词时，它会产生类似的词:

stemmer = PorterStemmer()

print(stemmer.stem('increases'))

结果:

现在，如果用NLTK的WordNet来对同一个单词进行变体还原，才是精确的结果:

from nltk.stem import WordNetLemmatizer

lemmatizer = WordNetLemmatizer()

print(lemmatizer.lemmatize('increases')

结果:

结果可能会是一个同义词或同一个意思的不同单词。

有时候将一个单词做变体还原时，总是得到相同的词。

这是由于措辞的默认部分是名词。
要得到动词，可以这样指定：

from nltk.stem import WordNetLemmatizer

lemmatizer = WordNetLemmatizer()

print(lemmatizer.lemmatize('playing', pos=\"大众v\"大众))

结果：

实际上，这也是一种很好的文本压缩办法，终极得到文本只有原来的50%到60%。

结果还可以是动词(v)、名词(n)、形容词(a)或副词(r)：

from nltk.stem import WordNetLemmatizer

lemmatizer = WordNetLemmatizer()

print(lemmatizer.lemmatize('playing', pos=\"大众v\"大众))

print(lemmatizer.lemmatize('playing', pos=\公众n\"大众))

print(lemmatizer.lemmatize('playing', pos=\"大众a\公众))

print(lemmatizer.lemmatize('playing', pos=\公众r\公众))

输出;

play

playing

playing

playing

通过下面例子来不雅观察:

from nltk.stem import PorterStemmer

stemmer = PorterStemmer()

lemmatizer = WordNetLemmatizer()

print(stemmer.stem('stones'))

print(stemmer.stem('speaking'))

print(stemmer.stem('bedroom'))

print(stemmer.stem('jokes'))

print(stemmer.stem('lisa'))

print(stemmer.stem('purple'))

print('----------------------')

print(lemmatizer.lemmatize('stones'))

print(lemmatizer.lemmatize('speaking'))

print(lemmatizer.lemmatize('bedroom'))

print(lemmatizer.lemmatize('jokes'))

print(lemmatizer.lemmatize('lisa'))

print(lemmatizer.lemmatize('purple'))

输出：

speak

bedroom

joke

lisa

purpl

---------------------

stone

speaking

bedroom

joke

lisa

purple

词干提取不会考虑语境，这也是为什么词干提取比变体还原快且准确度低的缘故原由。

个人认为，变体还原比词干提取更好。
单词变体还原返回一个真实的单词，纵然它不是同一个单词，也是同义词，但至少它是一个真实存在的单词。

如果你只关心速率，不在意准确度，这时你可以选用词干提取。

——End——