2016-10-29 21:57:39 u011028771 阅读数 2320
  • Java经典算法讲解

    在面试中,算法题目是必须的,通过算法能够看出一个程序员的编程思维,考察对复杂问题的设计与分析能力,对问题的严谨性都能够体现出来。一个算法的好坏,直接影响一个方法调用的性能,进而影响软件的整体性能。算法是学习所有编程语言的基础,在Java的学习过程中首先也会选择以算法起步,本次课程重点讲解Java开发中常用的基本算法。

    29956 人正在学习 去看看 张中强

在上一篇博客中介绍了KMP算法和朴素模式匹配算法的区别,本文主要针对这两种算法的C语言实现进行讲解。

#include<stdio.h>
#define OK 0
#define ERROR -1
#define FAILED 1
int readFile(char **buffer) {
    FILE *fp;
    int length;
    int error;
    fp = fopen("readFile.txt", "rt");
    if (fp == NULL) {
        printf("open file failed!\n");
        return ERROR;
    }
    fseek(fp, 0, SEEK_SET);
    fseek(fp, 0, SEEK_END);
    length = ftell(fp);
    (*buffer) = (char *)malloc(length);
    if ((*buffer) == NULL) {
        printf("malloc failed!\n");
        return ERROR;
    }

    fseek(fp, 0, SEEK_SET);
    error = fread((*buffer), sizeof(char), length / sizeof(char), fp);
    if (error == 0 ) {
        printf("Read file failed!\n");
        return ERROR;
    }
    fclose(fp);
    return OK;
}
//朴素的模式匹配算法
int index(char *buffer, char *check, int *inx,
    int sizeBuffer,int sizeCheck) {
    int i = *inx;
    int j = 0;
    while (i < sizeBuffer && j < sizeCheck) {
        if (buffer[i] == check[j]) {
            i++;
            j++;
        }
        else {
            i = i - j+1;
            j = 0;
        }
    }
    if (j == sizeCheck)
        *inx = i - sizeCheck;
    else
        return FAILED;
    return OK;
}
//KMP模式匹配算法
//计算next数组
int compNext(char *check, int *next, int sizeCheck) {
    int j = 1;
    int i = 0;
    int count = 0;
    while (j < sizeCheck-1) {
        if (check[i] == check[j]) {
            i++;
            count++;
            j++;
            next[j] = count;    
        }
        else {
            count = 0;
            if (i == 0) {
                j++;
                next[j] = i;
            }
            else 
                i--;        
        }   
    }
//  for (i = 0; i < sizeCheck; i++) {
//      printf("%d", next[i]);
//  }
    return OK;
}
//KMP字符匹配
int index_kmp(char *buffer, char *check,
    int sizeCheck, int sizeBuffer, int *inx) {
    int i = *inx;
    int j = 0;
    int flag = 0;
    int count = 0;
    int next[5] = { 0 };
    compNext(check, next, sizeCheck);
    while (i <sizeBuffer && j<sizeCheck) {
        if (buffer[i] == check[j]) {
            i++;
            j++;
        }
        else {
            if (j == 0)
                i++;
            j = next[j];
        }
    }
    if (j == sizeCheck)
        *inx = i - sizeCheck;
    else
        return FAILED;
    return OK;
}
int main() {
    int error;
    char *buffer;
    char checkChar[6] = "aware";
    int i = 0;
    int flag = 0;
    int count = 0;
    int inx = 0;
    int sizeCheck = sizeof(checkChar)/sizeof(char)-1;
    error = readFile(&buffer);
    if (error == ERROR) {
        getchar();
    }
    while (buffer[i] != '\0') {
        for (int j = 0; j < sizeCheck; j++) {
            if (checkChar[j] == buffer[i + j])
                flag++;
        }
        if (flag == 5) 
            count++;
        flag = 0;
        i++;    
    }
    printf("The total number is %d\n", count);
    printf("The local of them are:\n");
    while (error != 1) {
        error = index(buffer, checkChar, &inx, i, sizeCheck);
        if (error == OK) {
            printf("%d\n", inx);
        }
        inx = inx + 4;
    }
    inx = 0;
    error = 0;
    printf("The local of them are:\n");
    while (error != 1) {
        error = index_kmp(buffer, checkChar, sizeCheck, i,&inx);
        if (error == OK) {
            printf("%d\n", inx);
        }
        inx = inx + 4;
    }
    free(buffer);
    return 0;
}

本文的代码主要包含120行到130行,求取该文本中aware的个数;132行到138行,利用朴素模式匹配方法求着8个单词的位置;142行到148行利用KMP算法求8个单词的位置;
感兴趣的朋友可以利用朴素匹配方法和KMP算法求单词总数;
下面针对代码进行说明:
朴素模式匹配方法:

int index(char *buffer, char *check, int *inx,
    int sizeBuffer,int sizeCheck) {
    int i = *inx;
    int j = 0;
    while (i < sizeBuffer && j < sizeCheck) {
        if (buffer[i] == check[j]) {
            i++;
            j++;
        }
        else {
            i = i - j+1;
            j = 0;
        }
    }
    if (j == sizeCheck)
        *inx = i - sizeCheck;
    else
        return FAILED;
    return OK;
}

跳出while循环的条件有两个,i大于等于文档字符总数(sizeBuffer)或者j大于匹配字符串字符总数(本文是5:aware)。
当有5个字符连续匹配成功,则j为5,跳出循环;*inx = i - sizeCheck;计算出单词起始位置。
inx表示开始查询的位置;

KMP算法
next数组的求取

//计算next数组
int compNext(char *check, int *next, int sizeCheck) {
    int j = 1;
    int i = 0;
    int count = 0;
    while (j < sizeCheck-1) {
        if (check[i] == check[j]) {
            i++;
            count++;
            j++;
            next[j] = count;    
        }
        else {
            count = 0;
            if (i == 0) {
                j++;
                next[j] = i;
            }
            else 
                i--;        
        }   
    }
//  for (i = 0; i < sizeCheck; i++) {
//      printf("%d", next[i]);
//  }
    return OK;
}

请注意这里的i和j与上一篇博文中的i和j意义不同,上一篇文章中的i表示文本的索引;j表示匹配字符串的索引;这篇文章中i表示匹配字符串前缀的索引,j表示后缀的索引;
j的取值最大为当前字符的前一个字符,所以为aware中j最大取到r及j=0到j=3;所以j小于sizeChar.
当check[i] == check[j]成立,count增加,同时i和j继续增加;
若不成立
说明字符不是连续相等,计数器count清零;
此时,如果前缀索引为0及第一个字母,则后缀需要向后增加一个字符;否则后缀不变,前缀向前移动一个字符;
关于i的回溯;
举个例子:
ababaaba
第一个字符和第二个字符不相等;
那么以后无论哪个字符从第二个字符b开始的后缀都不可能和前缀相等;以为第二个b开始的后缀对应的是第一个a开始的前缀;
此时最大的前后缀只能是以第三个a开始的后缀;
本程序的回溯存在一些问题,但是目前测试的字符串计算的结果都是正确的,以后发现更好的回溯方法再更正,欢迎指正;
关于next数组的求取办法及详细代码实现分析和i的回溯问题请查看如下博客:
http://blog.csdn.net/u011028771/article/details/52993198
http://blog.csdn.net/u011028771/article/details/52966473
KMP程序

//KMP字符匹配
int index_kmp(char *buffer, char *check,
    int sizeCheck, int sizeBuffer, int *inx) {
    int i = *inx;
    int j = 0;
    int flag = 0;
    int count = 0;
    int next[5] = { 0 };
    compNext(check, next, sizeCheck);
    while (i <sizeBuffer && j<sizeCheck) {
        if (buffer[i] == check[j]) {
            i++;
            j++;
        }
        else {
            if (j == 0)
                i++;
            j = next[j];
        }
    }
    if (j == sizeCheck)
        *inx = i - sizeCheck;
    else
        return FAILED;
    return OK;
}

仔细观察就会发现,朴素匹配是

else {
            i = i - j+1;
            j = 0;
        }

而KMP算法是

else {
            if (j == 0)
                i++;
            j = next[j];
        }

可以看到二者的区别是i值得变化;朴素匹配法回溯的是i值;KMP算法回溯的是j值;所以对于匹配字符串中相同的字符串比较多时,KMP算法的效率会优于朴素匹配;若匹配字符串中字符全部不相同,KMP算法优势并不明显。
关于KMP算法还有改进的方法,以后会继续讨论。
这里写图片描述

欢迎指正

2017-03-07 02:54:55 ItJavawfc 阅读数 4303
  • Java经典算法讲解

    在面试中,算法题目是必须的,通过算法能够看出一个程序员的编程思维,考察对复杂问题的设计与分析能力,对问题的严谨性都能够体现出来。一个算法的好坏,直接影响一个方法调用的性能,进而影响软件的整体性能。算法是学习所有编程语言的基础,在Java的学习过程中首先也会选择以算法起步,本次课程重点讲解Java开发中常用的基本算法。

    29956 人正在学习 去看看 张中强

最近帮别人的车载系统整了一个小项目,分享一下最原始的Demo!

**说明:**XF的语音服务很多,类似提供语音服务的国内巨头还有百度!

客户需求:实现简单的语音控制指令【听音乐、暂停、下一首、上一曲、声音大一点、声音小一点】,程序入口:打开某某应用,嵌入到项目中实现TTS服务,人机交互。

如下简单的实现了命令控制,使用XF的离线命令词识别+TTS服务。

第一步:编写离线命令词文件,遵守它的语法规则
BNF文件如下:

#BNF+IAT 1.0 UTF-8;
!grammar call;
!slot <usOprate>;
!slot <usAccess>;
!slot <FuncTemp>;
!slot <FuncModel>;
!slot <ModelType>;
!slot <acModel>;
!start <acStart>;
<acStart>:<Model>;
<Model>: <ModelType>;
<ModelType>:暂停!id(101)|上一曲!id(102)|下一曲!id(103)|关机!id(104)|大点声!id(105)|大声!id(106)|小点声!id(107)|小声!id(108)
|后退!id(109)|天气!id(110)|天气!id(111)|唱首歌!id(112)|唱歌!id(113)|讲故事!id(114)|打开地图!id(115)
|打电话!id(116)|打开相册!id(117)|音乐!id(118)|拍照!id(119)|QQ!id(120)|扣扣!id(121)|口口!id(122)|叩叩!id(123)|微信!id(124);

配上语法详解:
这里写图片描述

第二步:接口调用
封装XF的离线命令词识别和和TTS服务,基于接口的实现而已。当用户说的话是命令词的时候,就直接触发命令执行相关业务逻辑。系统始终监听声音。
采用多态思想,让抽象方法实现接口,使得具体运用时候可以不实现接口中所有的方法,而且在抽象类中实现想实现的方法,需要时候,直接用抽象类的实例直接调用就OK。
部分代码如下:

public interface IVoiceCommandListener {
    // 打电话
    void onCallSomebody();
    // 打开的相册
    void onViewPhoto();
    // 我想听歌
    void onPlayMusic();
    // 查询天气命令
    void onViewQQ();
    // 拍照、照相
    public void onTakePhoto();
    // 微信
    public void onViewWX();
}
public abstract class VoiceCmdListener implements IVoiceCommandListener {

    private Context mContext;

    public VoiceCmdListener(Context context) {
        mContext = context;

    }
    @Override
    public void onCallSomebody() {
        String pkg = "com.example.news.movenews";
        String cls = "com.wxzh.news.MainActivity";
        ComponentName componet = new ComponentName(pkg, cls);
        Intent intent = new Intent();
        intent.setComponent(componet);
        intent.setFlags(Intent.FLAG_ACTIVITY_NEW_TASK);
        mContext.startActivity(intent);

    }

实例化:

voiceCommandListener = new VoiceCmdListener(UnderstanderService.this) {
 };

直接调用抽象类中实现的方法:
voiceCommandListener.onPlayMusic();

这里写图片描述

此项目主要为最原始的测试的离线命令词+TTS服务的Demo,有非常大的借鉴的意义,项目已经运用到市场中去了。读者拿了之后直接更换资源即可测试,更改拓展项目。

项目下载地址
可参考前几天的demo,机器人语音系统的文章:
机器人语音系统项目

2018-11-22 17:29:31 m0_38055352 阅读数 1231
  • Java经典算法讲解

    在面试中,算法题目是必须的,通过算法能够看出一个程序员的编程思维,考察对复杂问题的设计与分析能力,对问题的严谨性都能够体现出来。一个算法的好坏,直接影响一个方法调用的性能,进而影响软件的整体性能。算法是学习所有编程语言的基础,在Java的学习过程中首先也会选择以算法起步,本次课程重点讲解Java开发中常用的基本算法。

    29956 人正在学习 去看看 张中强

一、概述

      对于语音识别来说,大体上就分为三个方面,一个是声学模型(acoustical model)的训练,一个是语言模型(language model)的训练,最后就是对给定一段语音的解码了,当然,咱们今天讨论的是第二部分,其他的就先丢到一边吧!(在这给大家打一打气,其实语言模型是这三个方面里最复杂的部分了,这部分搞懂之后,其他的也就so easy啦)
      现如今,无论是从流行程度还是经典程度来说,n-gram模型都可以说排在前面,而且思想也比较好理解,比较适合入门,这篇博文和之后的代码实现也都是基于此。


二、n-gram语言模型

      话不多说,先来简要介绍一下n-gram语言模型吧。
n-gram的作用
      先说一说它的作用,语音识别,就是要把一串连续的语音转变为一个合理的句子,那么很容易想到的就可以分为两个步骤,先根据语音中的帧识别出音素,如果对于中文的话就是拼音,然后再根据拼音转化为语义正确的汉字,那么前一部分比较好理解,就找到大量的语音,然后标注好每个语音中所具有的拼音,常规的机器学习的思想,当然这也是有特定的模型的,最经典的就是hmm-gmm模型,当然还有各种各样的神经网络模型,感兴趣的同学可以去查看,但关键是,就算你成功识别出了拼音,但也没有音调,有的就是类似wo ni ta这样形式的拼音,如何把它组合成我们日常生活中的句子呢?
n-gram的原理
      这就要用到我们的语言模型了,假定S表示一个有意义的句子,它由一串特定顺序排列的词(w1,w2,…,wm)组成,m表示句子的长度,即单词个数。计算S在整个语料库中出现的可能性P(s),或表示成P(w1,w2,…,wm),可根据链式法则分解为:
n-gram
其中P(w2|w1)就表示当w1出现了,w2再出现的概率,P(w3|w1w2)就表示当w1w2同时出现了,w3再在他们之后出现的概率,之后的以此类推,这就是最原始的n-gram模型,但这个概率是不好算的,你要一直统计前m-1个字出现了,Wm出现的概率。
      由此就出现了诸如1-gram、2-gram模型,聪明的你应该可以想到了,对于1-gram模型,其计算公式就是:
1-gram
2-gram模型计算公式就是:
2-gram
      这些说起来是个模型,但其实就是一个很简单的统计概率问题,最重要的部分还是对数据的爬取以及对其进行解码的优化。虽然解码思路也很简单,但如果直接暴力解码的话是一个NLP问题,所以要寻找合适的方法解决,关于数据的爬取,如果有同学没有什么思路的话可以关注我之后的博文,会专门讲解一个简单使用的每日百万级数据的Python程序。


三、python代码实现过程详解

      接下来,就开始上干货了,我会大致讲解一下我这一部分的实现思路,然后在最后附上我的python源码,需要的同学可以下载下去再研究。
      首先,咱们大体把你要实现的东西梳理一下。

  • 统计数据库中相邻两个汉字各种情况出现的次数
  • 用上述统计出来的结果生成2-gram模型,也就是将频数转换为频率
  • 如果需要进行平滑处理的话,还需要编写平滑处理的代码
  • 最后,完成2-gram模型统计后,为了验证成果,写一个小的demo,这个demo就类似于一个简单的输入法。

      OK,理清了这四件我们要完成的事情之后,让我们分别来干掉他们。
统计数据库中相邻汉字的频数
      首先,对于第一个任务,要统计数据库中的相邻汉字的频数,这其实还是很好实现的,前提是你选择了合适的数据库。在这次的程序中我选择了MongoDB存储我爬虫爬取到的文本数据,遍历这些数据很容易,就和Python中字典的使用方法差不多,而对于取到文本之后的工作,就不用我说了吧,就是对字符串的操作。
      比如"今天天气真好啊"这句话,你需要做的就是分别统计"今天"、“天天”、"天气"等等,再继续下去,好像有点问题哈,"气真"不是个词的样子,但没关系,这是在分词之前的一个实现,自然就没有考虑词的问题,之后加入了分词之后,这个问题就不在存在了,或者说就减少了。然后将这样统计的结果存入一个字典类似的东西,然后再最后写入磁盘就OK啦
      下面贴出我实现的部分代码:
twoGram_improve/run.py(其中用于统计的部分)

def statistics():
    """
    用于统计数据库中相邻两词出现次数,并存入字典
    :return: 具有所有字词统计次数的字典
    """
    result = {}
    count = 0
    for content in table.find().batch_size(500):
        content = content['content'].strip()
        count += 1
        i = 0
        for i in range(len(content)-2):
            if is_Chinese(content[i]) and is_Chinese(content[i+1]):
                pText = '{0}{1}'.format(content[i], content[i + 1])
                if pText in result:
                    result[pText] += 1
                else:
                    result[pText] = 1
        print('统计完成数据: {0}'.format(count))
        # print('完成统计: {0}.'.format(content))
    return result

twoGram_improve/run.py(其中用于写入磁盘的部分)

def write_to_file(filename, result):
    with open(filename, 'w') as fw:
        for key, value in result.items():
            fw.write('\'{0}\'在数据库中出现的次数为: {1}\n'.format(key, value))
        fw.close()

平滑操作
      关于平滑操作的原理,我在这里就不过多赘述了,但我之前总结过一片博文,大致讲述了一下平滑操作的目的和原理,可以参考【总结】几个简单语言模型平滑方法,这里只给出一个极为简单的Laplace平滑变换(其实就是加1)。
twoGram_improve\utils\Smooth.py(Laplace平滑部分)

def Laplace(filename):
    pattern = re.compile(r'(.*?)\.txt')
    forename = re.search(pattern, filename)
    if forename:
        forename = forename.group(1)
        newfilename = forename + '-Laplace.txt'
        fw = open(newfilename, 'w')
        with open(filename, 'r') as fr:
            pattern = re.compile(': (\d+)')
            patternWord = re.compile('(.*?)\d+')
            for line in fr.readlines():
                perNum = re.search(pattern, line)
                perWord = re.search(patternWord, line)
                if perNum and perWord:
                    perNum = int(perNum.group(1)) + 1
                    perWord = str(perWord.group(1))
                    fw.write(perWord + str(perNum) + '\n')
            fr.close()
            fw.close()

根据统计结果生成2-gram模型
      现在到了重点,终于要生成模型了,既然都已经了解原理了,这部分的工作也就显得没有那么复杂了,其实就是要把频数转换为频率存储起来,那么首先要做的就是计算总数喽!
twoGram_improve\generateTwoGram.py

def get_all():
    with open(r_filename, 'r') as fr:
        pattern = re.compile(r': (\d+)')
        num = 0
        for line in fr.readlines():
            perNum = re.search(pattern, line)
            if perNum:
                perNum = int(perNum.group(1))
                num += perNum
        return num

然后就是生成频率,其实就是把之前统计频数的文件读入,然后再将他们除以总数存入即可。
twoGram_improve\generateTwoGram.py

def get_frequency(all):
    """
    获取2-gram
    :param all: 总字数
    :return: None
    """
    fw = open(w_filename, 'w')
    with open(r_filename, 'r') as fr:
        patternNum = re.compile(r': (\d+)')
        patternWord = re.compile(r'\'([\u4e00-\u9fa5]+)\'')
        for line in fr.readlines():
            perNum = re.search(patternNum, line)
            perWord = re.search(patternWord, line)
            if perNum and perWord:
                perNum = int(perNum.group(1))/all
                perWord = perWord.group(1)
                fw.write('P({0}|{1}) = {2}\n'.format(perWord[1], perWord[0], perNum))
        fr.close()
        fw.close()

验证加demo
      截至到现在,我们的2-gram未分词的语言模型就建立完成了,是不是感觉很简单?但前面我只说那是重点,并没有说是难点,难点其实在解码部分呢!
      我们试想一下,当我给你一句话的拼音的时候,你要怎么根据2-gram模型来生成一句完整的汉字呢?肯定是先匹配第一个拼音,看看其对应的汉字是哪些,然后看第二个拼音,找到第二个拼音对应的所有汉字,对其两两计算概率,然后对之后的每一个拼音也要重复的进行这个过程,并且把其概率乘起来,得到最终的所有可能情况的概率,再比较大小,把概率最大的那一个输出,对不对?用图来描述的话就是下面这个样子。
在这里插入图片描述
      这只是一个示意图,那么假设每一列有20个字的话,如果你输入了10个拼音,那么需要计算的次数就是20的10次方!这是一般的计算机远远承受不了的,其实这就是一个NLP问题,靠穷举是完成不了的。
      在这里我参考了微软输入法的方法,一种类似动态规划的思想,就是每次就计算20*20,也就是当前两个字的概率,对于以上图示过程来说,就是,首先计算"jin"和"tian"的各个汉字组合概率,假设jin对应20个汉字,然后对于"tian"中的每一个汉字,会计算出20个概率,取其中最大的一个,存入一个实现给定的数组中,然后接着计算"tian"和"tian",用同样的方法计算,这样,多利用了一个二维数组,就将一个n×n×n×n…的问题,变成了n×n+n×n+n×n的问题,大大减少了问题的复杂度。
twoGram_improve\demo\run.py

def function_p(dict, result):
    while True:
        pinyin = str(input('请输入拼音: '))
        if pinyin == 'exit':
            break
        li = split_word(pinyin)  # 将各个拼音分开
        M = 0  # 词表的列数     每个拼音可能出现的最多汉字数
        T = len(li)  # 词表的行数     即拼音的个数
        table = []  # 词表
        for item in li:  # 求得词表   以及词表的 M 参数
            pattern = re.compile('\n' + str(item) + '=([\u4e00-\u9fa5]+)')
            characters = re.search(pattern, result)
            if characters:
                characters = characters.group(1)
                if len(characters) > M:
                    M = len(characters)
                table.append(characters)

        prob = [[-1000000 for i in range(M)] for i in range(T)]  # 存储此时对应的最大概率
        ptr = [[0 for i in range(M)] for i in range(T)]  # 存储最大概率的路径

        if not table:  # 如果输入的不是合法的拼音或没输入则返回重新输入
            continue
        for j in range(len(table[0])):  # 将第一个拼音初始化
            ptr[0][j] = j
            prob[0][j] = 0

        for i in range(1, T):  # 对于每一个拼音   也就是词表的每一行
            for j in range(0, len(table[i])):  # 对于当前行的每一个汉字
                maxP = -1000000
                idx = 0
                for k in range(0, len(table[i - 1])):  # 遍历当前拼音的前一个拼音对应的所有汉字
                    if table[i - 1][k] + table[i][j] not in dict:  # 若在统计的词典中不存在 则加入
                        dict[table[i - 1][k] + table[i][j]] = -16.57585272128594
                    thisP = prob[i - 1][k] + dict[table[i - 1][k] + table[i][j]]
                    if thisP > maxP:
                        maxP = thisP
                        idx = k
                prob[i][j] = maxP
                ptr[i][j] = idx

        # 获取最后一行最大值的索引
        maxP = max(prob[T - 1])
        idx = prob[T - 1].index(maxP)

        # 输出结果
        i = T - 1
        string = ''
        while i >= 0:
            string += table[i][idx]
            idx = ptr[i][idx]
            i -= 1

        # 字符串逆序输出
        print(string[::-1])

      到这里,全部的功能我们就都实现了,当然以上我只贴了部分代码,展现了基本的处理思路,如果想要更加详细的了解并且学习的话,可以去我的github上下载查阅。
      下面附上我的源代码链接:
      https://github.com/AndroidStudio2017/TwoGram

      如有叙述有误,欢迎指正!
      在之后我也会再更新一篇关于爬虫分享的博文和一篇分词之后2-gram的博文,有兴趣的小伙伴可以关注一下orz

2015-11-04 11:04:03 zhaonin 阅读数 878
  • Java经典算法讲解

    在面试中,算法题目是必须的,通过算法能够看出一个程序员的编程思维,考察对复杂问题的设计与分析能力,对问题的严谨性都能够体现出来。一个算法的好坏,直接影响一个方法调用的性能,进而影响软件的整体性能。算法是学习所有编程语言的基础,在Java的学习过程中首先也会选择以算法起步,本次课程重点讲解Java开发中常用的基本算法。

    29956 人正在学习 去看看 张中强
      最近在做乐曲识别,听几秒乐曲,然后查询,返回乐曲的相关信息。因为查询的乐曲与库中乐曲可能是同一乐曲的不同版本,不同版本音乐之间,曲调、乐器、音乐速度有差别,所以一般音频指纹的算法并不适用。在多版本音乐检测中,chroma特征用的较多,有很多不同版本的chroma特征,基本思想是提取每一个音阶的能量,形成12维度特征(每个时间窗或是每个beat),然后进行匹配。但是从实验效果来看,其识别率较低,不到50%。从我实际测试来看,不同音乐版本速度、乐器、以及局部改编带来的差异对chroma特征还是有影响,乐曲差异小,识别率相对高一些。目前来看,多版本音乐检测已然处于学术科研阶段,距离实际应用还有很大差距。
2016-12-30 10:51:16 u014473682 阅读数 924
  • Java经典算法讲解

    在面试中,算法题目是必须的,通过算法能够看出一个程序员的编程思维,考察对复杂问题的设计与分析能力,对问题的严谨性都能够体现出来。一个算法的好坏,直接影响一个方法调用的性能,进而影响软件的整体性能。算法是学习所有编程语言的基础,在Java的学习过程中首先也会选择以算法起步,本次课程重点讲解Java开发中常用的基本算法。

    29956 人正在学习 去看看 张中强
   关于语音识别的基础知识和sphinx的知识,具体可以参考我的另外的博文:

语音识别的基础知识与CMUsphinx介绍:

http://blog.csdn.net/zouxy09/article/details/7941585

PocketSphinx语音识别系统的编译、安装和使用:

http://blog.csdn.net/zouxy09/article/details/7942784

PocketSphinx语音识别系统语言模型的训练和声学模型的改进:

http://blog.csdn.net/zouxy09/article/details/7949126

PocketSphinx语音识别系统声学模型的训练与使用

http://blog.csdn.net/zouxy09/article/details/7962382

 

        本文主要实现PocketSphinx语音识别系统的编程使用,主要分两个方面,一个是编程解码语音文件(主要参考CMU sphinxwikihttp://cmusphinx.sourceforge.net/wiki/),二是编程识别麦克风的语音(主要参考PocketSphinx源码包里的pocketsphinx.c文件)。对于后面加入我的人机交互系统的话,采用的是识别麦克风的语音的编程,具体使用时还需要对其进行精简。

 

一、编程解码语音文件

1、编程:

  1. #include <pocketsphinx.h>  
  2.   
  3. int main(int argc, char *argv[])  
  4. {  
  5.     ps_decoder_t *ps;  
  6.     cmd_ln_t *config;  
  7.     FILE *fh;  
  8.     char const *hyp, *uttid;  
  9.         int16 buf[512];  
  10.     int rv;  
  11.     int32 score;  
  12.   
  13.     //1、初始化:创建一个配置对象 cmd_ln_t *  
  14.     //cmd_ln_init函数第一个参数是我们需要更新的上一个配置,因为这里是初次创建,所以传入NULL;  
  15.     //第二个参数是一个定义参数的数组,如果使用的是标准配置的参数集的话可以通过调用ps_args()去获得。  
  16.     //第三个参数是是一个标志,它决定了参数的解释是否严格,如果为TRUE,那么遇到重复的或者未知的参  
  17.     //数,将会导致解释失败;  
  18.     //MODELDIR这个宏,指定了模型的路径,包括声学模型,语言模型和字典三个文件,是由gcc命令行传入,  
  19.     //我们通过pkg-config工具从PocketSphinx的配置中去获得这个modeldir变量  
  20.     config = cmd_ln_init(NULL, ps_args(), TRUE,  
  21.                  "-hmm", MODELDIR "/hmm/en_US/hub4wsj_sc_8k",  
  22.                  "-lm", MODELDIR "/lm/en/turtle.DMP",  
  23.                  "-dict", MODELDIR "/lm/en/turtle.dic",  
  24.                  NULL);  
  25.     if (config == NULL)  
  26.         return 1;  
  27.       
  28.     //2、初始化解码器(语言识别就是一个解码过程,通俗的将就是将你说的话解码成对应的文字串)  
  29.     ps = ps_init(config);  
  30.     if (ps == NULL)  
  31.         return 1;  
  32.   
  33.     //3、解码文件流  
  34.     //因为音频输入接口(麦克风)受到一些特定平台的影响,不利用我们演示,所以我们通过解码音频文件流  
  35.     //来演示PocketSphinx API的用法,goforward.raw是一个包含了一些诸如“go forward ten meters”等用来  
  36.     //控制机器人的短语(指令)的音频文件,其在test/data/goforward.raw。把它复制到当前目录  
  37.     fh = fopen("/dev/input/event14""rb");  
  38.     if (fh == NULL) {  
  39.         perror("Failed to open goforward.raw");  
  40.         return 1;  
  41.     }  
  42.       
  43.     //4、使用ps_decode_raw()进行解码  
  44.       
  45.     rv = ps_decode_raw(ps, fh, NULL, -1);  
  46.     if (rv < 0)  
  47.         return 1;  
  48.       
  49.     //5、得到解码的结果(概率最大的字串) hypothesis  
  50.     hyp = ps_get_hyp(ps, &score, &uttid);  
  51.     if (hyp == NULL)  
  52.         return 1;  
  53.     printf("Recognized: %s\n", hyp);  
  54.   
  55.     //从内存中解码音频数据  
  56.     //现在我们将再次解码相同的文件,但是使用API从内存块中解码音频数据。在这种情况下,首先我们  
  57.     //需要使用ps_start_utt()开始说话:  
  58.     fseek(fh, 0, SEEK_SET);  
  59.       
  60.     rv = ps_start_utt(ps, NULL);  
  61.     if (rv < 0)  
  62.         return 1;  
  63.         while (!feof(fh)) {  
  64.     rv = ps_start_utt(ps, NULL);  
  65.         if (rv < 0)  
  66.                 return 1;  
  67.   
  68.         printf("ready:\n");  
  69.             size_t nsamp;  
  70.             nsamp = fread(buf, 2, 512, fh);  
  71.         printf("read:\n");  
  72.             //我们将每次从文件中读取512大小的样本,使用ps_process_raw()把它们放到解码器中:  
  73.             rv = ps_process_raw(ps, buf, nsamp, FALSE, FALSE);  
  74.         printf("process:\n");  
  75.         }  
  76.         //我们需要使用ps_end_utt()去标记说话的结尾处:  
  77.         rv = ps_end_utt(ps);  
  78.     if (rv < 0)  
  79.         return 1;  
  80.           
  81.     //以相同精确的方式运行来检索假设的字符串:  
  82.     hyp = ps_get_hyp(ps, &score, &uttid);  
  83.     if (hyp == NULL)  
  84.         return 1;  
  85.     printf("Recognized: %s\n", hyp);  
  86.     }  
  87.     //6、清理工作:使用ps_free()释放使用ps_init()返回的对象,不用释放配置对象。  
  88.     fclose(fh);  
  89.         ps_free(ps);  
  90.     return 0;  
  91. }  


 

 

2、编译:

编译方法:

gcc -o test_ps test_ps.c \

    -DMODELDIR=\"`pkg-config --variable=modeldir pocketsphinx`\" \

    `pkg-config --cflags --libs pocketsphinx sphinxbase`

//gcc-D选项,指定宏定义,如-Dmacro=defn   相当于C语言中的#define macro=defn那么上面就表示在test_ps.c文件中,新加入一个宏定义:

#define MODELDIR=\"`pkg-config --variable=modeldir pocketsphinx`\"

\表示转义符,把“号转义。

         这么做是为什么呢?因为程序中需要指定MODELDIR这个变量,但是因为不同的使用者,这个变量不一样,没办法指定死一个路径,所以只能放在编译时,让用户去根据自己的情况来指定。

 

pkg-config工具可以获得一个库的编译和连接等信息;

#pkg-config --cflags --libs pocketsphinx sphinxbase

显示:

-I/usr/local/include/sphinxbase  -I/usr/local/include/pocketsphinx

-L/usr/local/lib -lpocketsphinx -lsphinxbase –lsphinxad

 

#pkg-config --variable=modeldir pocketsphinx

显示结果输出:/usr/local/share/pocketsphinx/model

二、编程解码麦克风的录音

1、编程

       麦克风录音数据的获得主要是用sphinxbase封装了alsa的接口来实现。

  1. #include <stdio.h>  
  2. #include <string.h>  
  3. #include <sys/types.h>  
  4. #include <sys/time.h>  
  5. #include <signal.h>  
  6. #include <setjmp.h>  
  7.   
  8. #include <sphinxbase/err.h>  
  9. //generic live audio interface for recording and playback  
  10. #include <sphinxbase/ad.h>  
  11. #include <sphinxbase/cont_ad.h>  
  12.   
  13. #include "pocketsphinx.h"  
  14.   
  15. static ps_decoder_t *ps;  
  16. static cmd_ln_t *config;  
  17.   
  18. static void print_word_times(int32 start)  
  19. {  
  20.     ps_seg_t *iter = ps_seg_iter(ps, NULL);  
  21.     while (iter != NULL)   
  22.     {  
  23.         int32 sf, ef, pprob;  
  24.         float conf;  
  25.           
  26.         ps_seg_frames (iter, &sf, &ef);  
  27.         pprob = ps_seg_prob (iter, NULL, NULL, NULL);  
  28.         conf = logmath_exp(ps_get_logmath(ps), pprob);  
  29.         printf ("%s %f %f %f\n", ps_seg_word (iter), (sf + start) / 100.0, (ef + start) / 100.0, conf);  
  30.         iter = ps_seg_next (iter);  
  31.     }  
  32. }  
  33.   
  34. /* Sleep for specified msec */  
  35. static void sleep_msec(int32 ms)  
  36. {  
  37.     struct timeval tmo;  
  38.   
  39.     tmo.tv_sec = 0;  
  40.     tmo.tv_usec = ms * 1000;  
  41.   
  42.     select(0, NULL, NULL, NULL, &tmo);  
  43. }  
  44.   
  45. /* 
  46.  * Main utterance processing loop: 
  47.  *     for (;;) { 
  48.  *     wait for start of next utterance; 
  49.  *     decode utterance until silence of at least 1 sec observed; 
  50.  *     print utterance result; 
  51.  *     } 
  52.  */  
  53. static void recognize_from_microphone()  
  54. {  
  55.     ad_rec_t *ad;  
  56.     int16 adbuf[4096];  
  57.     int32 k, ts, rem;  
  58.     char const *hyp;  
  59.     char const *uttid;  
  60.     cont_ad_t *cont;  
  61.     char word[256];  
  62.   
  63.     if ((ad = ad_open_dev(cmd_ln_str_r(config, "-adcdev"),  
  64.                           (int)cmd_ln_float32_r(config, "-samprate"))) == NULL)  
  65.         E_FATAL("Failed top open audio device\n");  
  66.   
  67.     /* Initialize continuous listening module */  
  68.     if ((cont = cont_ad_init(ad, ad_read)) == NULL)  
  69.         E_FATAL("Failed to initialize voice activity detection\n");  
  70.     if (ad_start_rec(ad) < 0)  
  71.         E_FATAL("Failed to start recording\n");  
  72.     if (cont_ad_calib(cont) < 0)  
  73.         E_FATAL("Failed to calibrate voice activity detection\n");  
  74.   
  75.     for (;;) {  
  76.         /* Indicate listening for next utterance */  
  77.         printf("READY....\n");  
  78.         fflush(stdout);  
  79.         fflush(stderr);  
  80.   
  81.         /* Wait data for next utterance */  
  82.         while ((k = cont_ad_read(cont, adbuf, 4096)) == 0)  
  83.             sleep_msec(100);  
  84.   
  85.         if (k < 0)  
  86.             E_FATAL("Failed to read audio\n");  
  87.   
  88.         /* 
  89.          * Non-zero amount of data received; start recognition of new utterance. 
  90.          * NULL argument to uttproc_begin_utt => automatic generation of utterance-id. 
  91.          */  
  92.         if (ps_start_utt(ps, NULL) < 0)  
  93.             E_FATAL("Failed to start utterance\n");  
  94.         ps_process_raw(ps, adbuf, k, FALSE, FALSE);  
  95.         printf("Listening...\n");  
  96.         fflush(stdout);  
  97.   
  98.         /* Note timestamp for this first block of data */  
  99.         ts = cont->read_ts;  
  100.   
  101.         /* Decode utterance until end (marked by a "long" silence, >1sec) */  
  102.         for (;;) {  
  103.             /* Read non-silence audio data, if any, from continuous listening module */  
  104.             if ((k = cont_ad_read(cont, adbuf, 4096)) < 0)  
  105.                 E_FATAL("Failed to read audio\n");  
  106.             if (k == 0) {  
  107.                 /* 
  108.                  * No speech data available; check current timestamp with most recent 
  109.                  * speech to see if more than 1 sec elapsed.  If so, end of utterance. 
  110.                  */  
  111.                 if ((cont->read_ts - ts) > DEFAULT_SAMPLES_PER_SEC)  
  112.                     break;  
  113.             }  
  114.             else {  
  115.                 /* New speech data received; note current timestamp */  
  116.                 ts = cont->read_ts;  
  117.             }  
  118.   
  119.             /* 
  120.              * Decode whatever data was read above. 
  121.              */  
  122.             rem = ps_process_raw(ps, adbuf, k, FALSE, FALSE);  
  123.   
  124.             /* If no work to be done, sleep a bit */  
  125.             if ((rem == 0) && (k == 0))  
  126.                 sleep_msec(20);  
  127.         }  
  128.   
  129.         /* 
  130.          * Utterance ended; flush any accumulated, unprocessed A/D data and stop 
  131.          * listening until current utterance completely decoded 
  132.          */  
  133.         ad_stop_rec(ad);  
  134.         while (ad_read(ad, adbuf, 4096) >= 0);  
  135.         cont_ad_reset(cont);  
  136.   
  137.         printf("Stopped listening, please wait...\n");  
  138.         fflush(stdout);  
  139.         /* Finish decoding, obtain and print result */  
  140.         ps_end_utt(ps);  
  141.         hyp = ps_get_hyp(ps, NULL, &uttid);  
  142.         printf("%s: %s\n", uttid, hyp);  
  143.         fflush(stdout);  
  144.   
  145.         /* Exit if the first word spoken was GOODBYE */  
  146.         if (hyp) {  
  147.             sscanf(hyp, "%s", word);  
  148.             if (strcmp(word, "goodbye") == 0)  
  149.                 break;  
  150.         }  
  151.   
  152.         /* Resume A/D recording for next utterance */  
  153.         if (ad_start_rec(ad) < 0)  
  154.             E_FATAL("Failed to start recording\n");  
  155.     }  
  156.   
  157.     cont_ad_close(cont);  
  158.     ad_close(ad);  
  159. }  
  160.   
  161. static jmp_buf jbuf;  
  162. static void sighandler(int signo)  
  163. {  
  164.     longjmp(jbuf, 1);  
  165. }  
  166.   
  167. int main(int argc, char *argv[])  
  168. {  
  169.       
  170.     config = cmd_ln_init(NULL, ps_args(), TRUE,  
  171.                  "-hmm", MODELDIR "/hmm/en_US/hub4wsj_sc_8k",  
  172.                  "-lm", MODELDIR "/lm/en/turtle.DMP",  
  173.                  "-dict", MODELDIR "/lm/en/turtle.dic",  
  174.                  NULL);  
  175.     if (config == NULL)  
  176.         return 1;  
  177.       
  178.     ps = ps_init(config);  
  179.     if (ps == NULL)  
  180.         return 1;  
  181.   
  182.     signal(SIGINT, &sighandler);  
  183.     if (setjmp(jbuf) == 0)   
  184.         recognize_from_microphone();  
  185.       
  186.         ps_free(ps);  
  187.     return 0;  
  188. }  

 

2、编译

1.2一样。

 

       至于说后面把PocketSphinx语音识别系统加入我的人机交互系统这个阶段,因为感觉这个系统本身的识别率不是很高,自己做了适应和重新训练声学和语言模型后,提升还是有限,暂时实用性还不是很强,所以暂时搁置下,看能不能通过其他方法去改进目前的状态。希望有牛人指导下。另外,由于开学了,需要上课,所以后续的进程可能会稍微减慢,不过依然期待各位多多交流!呵呵

没有更多推荐了,返回首页