• 自然语言处理(NLP)入门 2017-11-21 20:32:26
    本文简要介绍Python自然语言处理(NLP),使用Python的NLTK库。NLTK是Python的自然语言处理工具包,在NLP领域中,最常使用的一个Python库。什么是NLP?简单来说,自然语言处理(NLP)就是开发能够理解人类语言的应用程序...
    本文简要介绍Python自然语言处理(NLP),使用Python的NLTK库。NLTK是Python的自然语言处理工具包,在NLP领域中,最常使用的一个Python库。
    
    什么是NLP?
    
    简单来说,自然语言处理(NLP)就是开发能够理解人类语言的应用程序或服务。
    
    这里讨论一些自然语言处理(NLP)的实际应用例子,如语音识别、语音翻译、理解完整的句子、理解匹配词的同义词,以及生成语法正确完整句子和段落。
    
    这并不是NLP能做的所有事情。
    
    NLP实现
    
    搜索引擎: 比如谷歌,Yahoo等。谷歌搜索引擎知道你是一个技术人员,所以它显示与技术相关的结果;
    
    社交网站推送:比如Facebook News Feed。如果News Feed算法知道你的兴趣是自然语言处理,就会显示相关的广告和帖子。
    
    语音引擎:比如Apple的Siri。
    
    垃圾邮件过滤:如谷歌垃圾邮件过滤器。和普通垃圾邮件过滤不同,它通过了解邮件内容里面的的深层意义,来判断是不是垃圾邮件。
    
    NLP库
    
    下面是一些开源的自然语言处理库(NLP):
    
    Natural language toolkit (NLTK);
    Apache OpenNLP;
    Stanford NLP suite;
    Gate NLP library
    
    其中自然语言工具包(NLTK)是最受欢迎的自然语言处理库(NLP),它是用Python编写的,而且背后有非常强大的社区支持。
    
    NLTK也很容易上手,实际上,它是最简单的自然语言处理(NLP)库。
    
    在这个NLP教程中,我们将使用Python NLTK库。
    
    安装 NLTK
    
    如果您使用的是Windows/Linux/Mac,您可以使用pip安装NLTK:
    
    ```
    pip install nltk
    ```
    
    打开python终端导入NLTK检查NLTK是否正确安装:
    
    ```
    import nltk
    ```
    
    如果一切顺利,这意味着您已经成功地安装了NLTK库。首次安装了NLTK,需要通过运行以下代码来安装NLTK扩展包:
    
    ```
    import nltk
     
    nltk.download()
    ```
    这将弹出NLTK 下载窗口来选择需要安装哪些包:
    ![这里写图片描述](https://img-blog.csdn.net/20171121202435026?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQvcXFfMjc0OTI3MzU=/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/SouthEast)
    您可以安装所有的包,因为它们的大小都很小,所以没有什么问题。
    
    使用Python Tokenize文本
    
    首先,我们将抓取一个web页面内容,然后分析文本了解页面的内容。
    
    我们将使用urllib模块来抓取web页面:
    
    ```
    import urllib.request
     
    response = urllib.request.urlopen('http://php.net/')
    html = response.read()
    print (html)
    ```
    
    从打印结果中可以看到,结果包含许多需要清理的HTML标签。
    
    然后BeautifulSoup模块来清洗这样的文字:
    
    ```
    from bs4 import BeautifulSoup
     
    import urllib.request
    response = urllib.request.urlopen('http://php.net/')
    html = response.read()
    soup = BeautifulSoup(html,"html5lib")
    ```
    
    # 这需要安装html5lib模块
    
    ```
    text = soup.get_text(strip=True)
    print (text)
    ```
    
    现在我们从抓取的网页中得到了一个干净的文本。
    
    下一步,将文本转换为tokens,像这样:
    
    ```
    from bs4 import BeautifulSoup
    import urllib.request
     
    response = urllib.request.urlopen('http://php.net/')
    html = response.read()
    soup = BeautifulSoup(html,"html5lib")
    text = soup.get_text(strip=True)
    tokens = text.split()
    print (tokens)
    ```
    
    统计词频
    
    text已经处理完毕了,现在使用Python NLTK统计token的频率分布。
    
    可以通过调用NLTK中的FreqDist()方法实现:
    
    ```
    from bs4 import BeautifulSoup
    import urllib.request
    import nltk
     
    response = urllib.request.urlopen('http://php.net/')
    html = response.read()
    soup = BeautifulSoup(html,"html5lib")
    text = soup.get_text(strip=True)
    tokens = text.split()
    freq = nltk.FreqDist(tokens)
    for key,val in freq.items():
        print (str(key) + ':' + str(val))
    
    ```
    
    如果搜索输出结果,可以发现最常见的token是PHP。
    
    您可以调用plot函数做出频率分布图:
    
    ```
    freq.plot(20, cumulative=False)
    # 需要安装matplotlib库
    ```
    ![这里写图片描述](https://img-blog.csdn.net/20171121202646948?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQvcXFfMjc0OTI3MzU=/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/SouthEast)
    
    
    
    这上面这些单词。比如of,a,an等等,这些词都属于停用词。
    
    一般来说,停用词应该删除,防止它们影响分析结果。
    
    处理停用词
    
    NLTK自带了许多种语言的停用词列表,如果你获取英文停用词:
    
    ```
    from nltk.corpus import stopwords
     
    stopwords.words('english')
    ```
    
    现在,修改下代码,在绘图之前清除一些无效的token:
    
    ```
    clean_tokens = list()
    sr = stopwords.words('english')
    for token in tokens:
        if token not in sr:
            clean_tokens.append(token)
    ```
    
    最终的代码应该是这样的:
    
    ```
    from bs4 import BeautifulSoup
    import urllib.request
    import nltk
    from nltk.corpus import stopwords
     
    response = urllib.request.urlopen('http://php.net/')
    html = response.read()
    soup = BeautifulSoup(html,"html5lib")
    text = soup.get_text(strip=True)
    tokens = text.split()
    clean_tokens = list()
    sr = stopwords.words('english')
    for token in tokens:
        if not token in sr:
            clean_tokens.append(token)
    freq = nltk.FreqDist(clean_tokens)
    for key,val in freq.items():
        print (str(key) + ':' + str(val))
    ```
    
    现在再做一次词频统计图,效果会比之前好些,因为剔除了停用词:
    
    ```
    freq.plot(20,cumulative=False)
    ```
    
    ![这里写图片描述](https://img-blog.csdn.net/20171121202747052?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQvcXFfMjc0OTI3MzU=/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/SouthEast)
    
    使用NLTK Tokenize文本
    
    在之前我们用split方法将文本分割成tokens,现在我们使用NLTK来Tokenize文本。
    
    文本没有Tokenize之前是无法处理的,所以对文本进行Tokenize非常重要的。token化过程意味着将大的部件分割为小部件。
    
    你可以将段落tokenize成句子,将句子tokenize成单个词,NLTK分别提供了句子tokenizer和单词tokenizer。
    
    假如有这样这段文本:
    
    ```
    Hello Adam, how are you? I hope everything is going well. Today is a good day, see you dude
    ```
    
    使用句子tokenizer将文本tokenize成句子:
    
    ```
    from nltk.tokenize import sent_tokenize
     
    mytext = "Hello Adam, how are you? I hope everything is going well. Today is a good day, see you dude."
    print(sent_tokenize(mytext))
    ```
    
    输出如下:
    
    ```
    ['Hello Adam, how are you?', 'I hope everything is going well.', 'Today is a good day, see you dude.']
    ```
    
    这是你可能会想,这也太简单了,不需要使用NLTK的tokenizer都可以,直接使用正则表达式来拆分句子就行,因为每个句子都有标点和空格。
    
    那么再来看下面的文本:
    
    ```
    Hello Mr. Adam, how are you? I hope everything is going well. Today is a good day, see you dude.
    ```
    
    这样如果使用标点符号拆分,Hello Mr将会被认为是一个句子,如果使用NLTK:
    
    ```
    from nltk.tokenize import sent_tokenize
     
    mytext = "Hello Mr. Adam, how are you? I hope everything is going well. Today is a good day, see you dude."
    print(sent_tokenize(mytext))
    ```
    
    输出如下:
    
    ```
    ['Hello Mr. Adam, how are you?', 'I hope everything is going well.', 'Today is a good day, see you dude.']
    ```
    
    这才是正确的拆分。
    
    接下来试试单词tokenizer:
    
    ```
    from nltk.tokenize import word_tokenize
     
    mytext = "Hello Mr. Adam, how are you? I hope everything is going well. Today is a good day, see you dude."
    print(word_tokenize(mytext))
    ```
    
    输出如下:
    
    ```
    ['Hello', 'Mr.', 'Adam', ',', 'how', 'are', 'you', '?', 'I', 'hope', 'everything', 'is', 'going', 'well', '.', 'Today', 'is', 'a', 'good', 'day', ',', 'see', 'you', 'dude', '.']
    ```
    
    Mr.这个词也没有被分开。NLTK使用的是punkt模块的PunktSentenceTokenizer,它是NLTK.tokenize的一部分。而且这个tokenizer经过训练,可以适用于多种语言。
    
    非英文Tokenize
    
    Tokenize时可以指定语言:
    
    ```
    from nltk.tokenize import sent_tokenize
     
    mytext = "Bonjour M. Adam, comment allez-vous? J'espère que tout va bien. Aujourd'hui est un bon jour."
    print(sent_tokenize(mytext,"french"))
    ```
    
    输出结果如下:
    
    ```
    ['Bonjour M. Adam, comment allez-vous?', "J'espère que tout va bien.", "Aujourd'hui est un bon jour."]
    ```
    
    同义词处理
    
    使用nltk.download()安装界面,其中一个包是WordNet。
    
    WordNet是一个为自然语言处理而建立的数据库。它包括一些同义词组和一些简短的定义。
    
    您可以这样获取某个给定单词的定义和示例:
    
    ```
    from nltk.corpus import wordnet
     
    syn = wordnet.synsets("pain")
    print(syn[0].definition())
    print(syn[0].examples())
    ```
    
    输出结果是:
    
    ```
    a symptom of some physical hurt or disorder
    ['the patient developed severe pain and distension']
    ```
    
    WordNet包含了很多定义:
    
    ```
    from nltk.corpus import wordnet
     
    syn = wordnet.synsets("NLP")
    print(syn[0].definition())
    syn = wordnet.synsets("Python")
    print(syn[0].definition())
    ```
    
    结果如下:
    
    ```
    the branch of information science that deals with natural language information
    large Old World boas
    
    ```
    
    可以像这样使用WordNet来获取同义词:
    
    ```
    from nltk.corpus import wordnet
     
    synonyms = []
    for syn in wordnet.synsets('Computer'):
        for lemma in syn.lemmas():
            synonyms.append(lemma.name())
    print(synonyms)
    ```
    
    输出:
    
    ```
    ['computer', 'computing_machine', 'computing_device', 'data_processor', 'electronic_computer', 'information_processing_system', 'calculator', 'reckoner', 'figurer', 'estimator', 'computer']
    ```
    
    反义词处理
    
    也可以用同样的方法得到反义词:
    
    ```
    from nltk.corpus import wordnet
     
    antonyms = []
    for syn in wordnet.synsets("small"):
        for l in syn.lemmas():
            if l.antonyms():
                antonyms.append(l.antonyms()[0].name())
    print(antonyms)
    
    ```
    
    输出:
    
    ```
    ['large', 'big', 'big']
    ```
    
    词干提取
    
    语言形态学和信息检索里,词干提取是去除词缀得到词根的过程,例如working的词干为work。
    
    搜索引擎在索引页面时就会使用这种技术,所以很多人为相同的单词写出不同的版本。
    
    有很多种算法可以避免这种情况,最常见的是波特词干算法。NLTK有一个名为PorterStemmer的类,就是这个算法的实现:
    
    ```
    from nltk.stem import PorterStemmer
     
    stemmer = PorterStemmer()
    print(stemmer.stem('working'))
    print(stemmer.stem('worked'))
    ```
    
    输出结果是:
    
    ```
    work
    work
    ```
    
    还有其他的一些词干提取算法,比如 Lancaster词干算法。
    
    非英文词干提取
    
    除了英文之外,SnowballStemmer还支持13种语言。
    
    支持的语言:
    
    ```
    from nltk.stem import SnowballStemmer
     
    print(SnowballStemmer.languages)
    
    'danish', 'dutch', 'english', 'finnish', 'french', 'german', 'hungarian', 'italian', 'norwegian', 'porter', 'portuguese', 'romanian', 'russian', 'spanish', 'swedish'
    ```
    
    你可以使用SnowballStemmer类的stem函数来提取像这样的非英文单词:
    
    ```
    from nltk.stem import SnowballStemmer
     
    french_stemmer = SnowballStemmer('french')
     
    print(french_stemmer.stem("French word"))
    ```
    
    单词变体还原
    
    单词变体还原类似于词干,但不同的是,变体还原的结果是一个真实的单词。不同于词干,当你试图提取某些词时,它会产生类似的词:
    
    ```
    from nltk.stem import PorterStemmer
     
    stemmer = PorterStemmer()
     
    print(stemmer.stem('increases'))
    ```
    
    结果:
    
    ```
    increas
    ```
    
    现在,如果用NLTK的WordNet来对同一个单词进行变体还原,才是正确的结果:
    
    ```
    from nltk.stem import WordNetLemmatizer
     
    lemmatizer = WordNetLemmatizer()
     
    print(lemmatizer.lemmatize('increases'))
    ```
    
    结果:
    
    ```
    increase
    ```
    
    结果可能会是一个同义词或同一个意思的不同单词。
    
    有时候将一个单词做变体还原时,总是得到相同的词。
    
    这是因为语言的默认部分是名词。要得到动词,可以这样指定:
    
    ```
    from nltk.stem import WordNetLemmatizer
     
    lemmatizer = WordNetLemmatizer()
     
    print(lemmatizer.lemmatize('playing', pos="v"))
    ```
    
    结果:
    
    ```
    play
    ```
    
    实际上,这也是一种很好的文本压缩方式,最终得到文本只有原先的50%到60%。
    
    结果还可以是动词(v)、名词(n)、形容词(a)或副词(r):
    
    ```
    from nltk.stem import WordNetLemmatizer
     
    lemmatizer = WordNetLemmatizer()
    print(lemmatizer.lemmatize('playing', pos="v"))
    print(lemmatizer.lemmatize('playing', pos="n"))
    print(lemmatizer.lemmatize('playing', pos="a"))
    print(lemmatizer.lemmatize('playing', pos="r"))
    
    ```
    
    输出:
    
    ```
    play
    playing
    playing
    playing
    
    ```
    
    词干和变体的区别
    
    通过下面例子来观察:
    
    ```
    from nltk.stem import WordNetLemmatizer
    from nltk.stem import PorterStemmer
     
    stemmer = PorterStemmer()
    lemmatizer = WordNetLemmatizer()
    print(stemmer.stem('stones'))
    print(stemmer.stem('speaking'))
    print(stemmer.stem('bedroom'))
    print(stemmer.stem('jokes'))
    print(stemmer.stem('lisa'))
    print(stemmer.stem('purple'))
    print('----------------------')
    print(lemmatizer.lemmatize('stones'))
    print(lemmatizer.lemmatize('speaking'))
    print(lemmatizer.lemmatize('bedroom'))
    print(lemmatizer.lemmatize('jokes'))
    print(lemmatizer.lemmatize('lisa'))
    print(lemmatizer.lemmatize('purple'))
    
    ```
    
    输出:
    
    ```
    stone
    speak
    bedroom
    joke
    lisa
    ```
    
    purpl
    ---------------------
    
    ```
    stone
    speaking
    bedroom
    joke
    lisa
    purple
    ```
    
    词干提取不会考虑语境,这也是为什么词干提取比变体还原快且准确度低的原因。
    
    个人认为,变体还原比词干提取更好。单词变体还原返回一个真实的单词,即使它不是同一个单词,也是同义词,但至少它是一个真实存在的单词。
    
    如果你只关心速度,不在意准确度,这时你可以选用词干提取。
    
    在此NLP教程中讨论的所有步骤都只是文本预处理。在以后的文章中,将会使用Python NLTK来实现文本分析。
    
    我已经尽量使文章通俗易懂。希望能对你有所帮助。
    
    展开全文
  • 1、自然语言处理圣经---《自然语言处理综论》2、视频课程《深度学习与自然语言处理-2018》3、Natural Language Processing (NLP)4、吴恩达经典课程 - Machine Learning —Coursera5、斯坦福 Natural Language ...
  • 从零开始自然语言处理 2020-05-27 13:41:29
    本课程隶属于自然语言处理(NLP)实战系列。自然语言处理(NLP)是数据科学里的一个分支,它的主要覆盖的内容是:以一种智能与高效的方式,对文本数据进行系统化分析、理解与信息提取的过程。通过使用NLP以及它的组件,...
  • 自然语言处理知识太庞大了,网上也都是一些...主要参考书为宗成庆老师的《统计自然语言处理》,虽然很多内容写的不清楚,但好像中文NLP书籍就这一本全一些,如果想看好的英文资料,可以到我的GitHub上下载: http://...
  • 自然语言处理NLP概述 2018-01-04 21:39:10
    自然语言处理NLP概述 版权声明:本文为博主chszs的原创文章,未经博主允许不得转载。 自然语言处理(Natural language processing,NLP)是计算机和人类语言之间的关系纽带。更具体地说,自然语言处理是计算机对...
  • 在人工智能背景技术下,自然语言处理NLP)技术被越来越多的人看好,并受到重视。其中,以微软小冰为代表的聊天机器人,如今却成了网红,迅速刷爆了微信和朋友圈,一个17岁纯情少女懂礼貌、有素质和会作诗,众多...
  • 自然语言处理NLP国内研究方向机构导师 文|中文信息协会《中文信息处理发展报告2016》,数据简化DataSimp 文字语言VS数字信息 数字、文字和自然语言一样,都是信息的载体,他们之间原本有着天然的联系。语言和数学...
  • 自然语言处理大体包括了自然语言理解和自然语言生成两个部分,实现人机间自然语言通信意味着要使计算机既能理解自然语言文本的意义,也能以自然语言文本来表达给定的意图、思想等,前者称为自然语言理解,后者称为...
  • 技术资产支持自然语言处理NLP) 问答系统开发 自然语言处理NLP)正迅速成为现代组织获得竞争优势的基本技能。它已成为许多新业务功能的重要工具,从聊天机器人和问答系统到情感分析,合规性监控,医疗见解...
  • 本达人课,作为中文自然语言处理边学边实战的入门级教程,以小数据量的“简易版”实例,通过实战带大家快速掌握 NLP 在中文方面开发的基本能力。 本课程共包含 18 节。各小节之间并没有紧密耦合,但是整个内容还是...
  • 目录 自然语言处理概述 ...自然语言处理入门基础 ...自然语言处理的主要技术范畴 ...自然语言处理(Natural Language Processing,NLP)是计算机科学领域与人工智能领域中的一个重要方向。它研究人与计算机之间...
  • NLP自然语言处理简述 2018-09-16 20:31:11
    什么是自然语言处理自然语言处理是研究在人与人交际中以及人与计算机交际中的语言问题的一门学科。自然语言处理要研制表示语言能力(linguistic competence)和语言应用(linguistic performance)的模型,建立...
  • 自然语言处理是计算机科学领域与人工智能领域中的一个重要方向。它研究能实现人与计算机之间用自然语言进行有效通信的各种理论和方法。自然语言处理是一门融语言学、计算机科学、数学于一体的科学。因此,这一领域的...
  • NLP-自然语言处理入门 1.书籍-理论篇  吴军老师的的《数学之美》 《统计自然语言处理(第2版)》(宗成庆)蓝皮版 《统计学习方法》(李航) 《自然语言处理简明教程》(冯志伟) 《自然语言处理综论》(Daniel...
  • 自然语言处理NLP)相关学习资料/资源 书籍推荐 自然语言处理方面 1. 统计自然语言处理(第2版) 作者:宗成庆 出版社:清华大学出版社 出版年:2013 页数:570 内容简介:系统地描述了神经网络之前的基于统计的...
  • *博客地址... *排名不分先后。收集不全,欢迎留言完善。 中国大陆地区: 腾讯人工智能实验室(Tencent AI Lab) ... https://ai.tencent.com/ailab/nlp/ ...苏州大学自然语言处理实验室 http:/...
  • 自然语言处理实战入门 2019-03-18 10:43:59
    随着人工智能的快速发展,自然语言处理和机器学习技术的应用愈加广泛。要想快速入门这些前沿技术总是存在着各种各样的困难,本教程力求为同学们对该领域整体概况有一个明晰的认识,并选择网络爬虫,汉语分词,可视化...
  • 文章目录1. 什么是NLP2. NLP主要研究方向3. NLP的发展4. NLP任务的一般步骤5. 我的NLP启蒙读本6. NLP、CV,选哪个? 1. 什么是NLP 自然语言处理 (Natural Language ...**为了建设和完善语言模型,自然语言处理建立计...
1 2 3 4 5 ... 20
收藏数 320,184
精华内容 128,073