机器学习入门篇——感知器

1. 机器学习的基本概念:

三种主要的学习方式:

监督学习:使用有类标的训练数据构建模型,即在训练过程中,所有的数据都是知道它的类别的。通过构建的这个模型对未来的数据进行预测。在监督学习的下面,又可以分为分类(利用分类对类标进行预测),以及回归(使用回归预测连续输出值)。

无监督学习:在没有已知输出变量(分类问题中是数据的类标)和反馈函数指导的情况下提取有效信息来探索数据的整体结构。子领域:1.通过聚类发现数据的子群;2,数据压缩中的降维。

强化学习:构建一个系统,在与环境交互的过程中提高系统的性能。我们可以将强化学习视为与监督学习相关的一个领域。但是强化学习与监督学习不同的是,在强化学习中,并没有一个确定的类标或一个连续类型的值,而是一个通过反馈函数产生的一个反馈值。该反馈值是对当前的系统行为的一个评价。强化学习解决的主要是交互式问题。象棋对弈就是一个常用的强化学习的例子。


机器学习的工作流程(使用预测模型进行数据分析):


如图,机器学习的学习分为两个部分,第一部分是训练阶段,通过数据带入模型中,训练生成最终模型,第二部分是测试阶段,通过新的数据经验模型的泛化能力。

2.感知器

2.1 感知器原理

感知器由费兰克·罗森布拉特(Frank Rossenblatt)基于MPC神经元模型提出。感知器可以看作一个处理二分类问题的算法。

感知器的训练过程如下图:


第一步:得到净输入函数z;z为矩阵X与权值矩阵W的乘积,再加上一个权值偏差得到z:


第二步:通过激励函数得到输出的类标:


第三步,在训练阶段,通过激励函数获得到模型输出的类标y,在将类标与实际类标进行计算得到误差,进行权值更新。进行权值更新是以下的方法更新


其中


η为学习速率,y(i)为第i个样本数据的真实类标,y(i)’为第i个样本预测得出的目标,xj(i)为第i个样本中第j个值。

2.2 实现算法

定义一个perception 类,

实现算法:
① 初始化权值,
② 计算输出值,
③ 训练模型:计算误差,进行权值更新。

public class perception {    
    public float[] weigth;//权值     
    public float[][] x;//输入值     
    public int[] y;//样本的真实类标     
    public float rate;//学习数率,决定每一次循环训练中所产生的权值变化;     
    public float[] output;//输出的类标     
    public float b=0;//阈值,也称为偏差
 
    /**
     * 实例化感知器
     * @param x 输入的数据
     * @param d  学习速率
     */
    public perception(float[][] x, float d,int[] y) {
        super();
        this.x = x;//输入数据
        this.rate = d;//学习数率
        this.y=y;//样本的真实类标
        weigth=new float[x[0].length];//初始化权值数组
        randomWeigth(x[0].length);//随机给权值赋值
    }
    /**
     * 给权值进行赋值,初始值为0
     * @param n 权值数组的大小
     */
    public void randomWeigth(int n){
         
       // Random random = new Random();
        for(int i=0;i<n;i++){
            weigth[i]=0;
        }
    }
 
    /**
     * 训练感知器:计算出误差,然后进行权值更新
     */
    public void train(){
        output=new float[x.length];
        //获取输出值
        for(int i=0;i<x.length;i++){
            output[i]=getoutput(x[i]);
        }
        //更新
        for(int i=0;i<output.length;i++){
            float update=rate*(y[i]-output[i]);
            //更新权重
            for(int j=0;j<weigth.length;j++){
                weigth[j]=weigth[j]+update*x[i][j];
            }
            //更新偏差
            b=b+update;
        }
           
    }
    //计算输出值
    public int getoutput(float[] x){
        int output;//输出值
                //计算净输入
        float z = 0;
        for(int i=0;i<x.length;i++){
            z+=x[i]*weigth[i];
        }
                //激励函数
        if(z > =b)
            output=1;
        else
            output=-1;
        return output;
    } 
}

本文转自:博客园 - 元墨,转载此文目的在于传递更多信息,版权归原作者所有。
原文链接:https://www.cnblogs.com/hesi/p/7149678.html

推荐阅读