Python的numpy和matlab之间，还是有很多区别……

没系统研究过。干中学（虽然很不好，但没办法），零星总结。

文中部分代码摘自 用 有限差分方法 为 欧式看跌期权 定价。

 

矩阵求逆运算、LU分解、矩阵乘法、矩阵每列都加上同一列

https://docs.scipy.org/doc/scipy-0.14.0/reference/generated/scipy.linalg.lu.html#scipy.linalg.lu permute_l : bool Perform the multiplication P*L (Default: do not permute)

import numpy as np
from scipy import linalg as lg  # 导入scipy库的linalg模块

# 解方程，Ax = b
# A = np.random.randint(1, 10, size=(3, 3))
A = np.array([[1, 2, 1], [2, -1, 3], [3, 1, 2]])
b = np.array([7, 7, 18]).T
print(A)

A_1 = lg.inv(A) # 逆矩阵
x = np.matmul(A_1, b) # 矩阵相乘
print(x)

# LU分解（限于数学知识有限，不知道P的作用）
P, L, U = lg.lu(A, permute_l=False)
A_3 = np.matmul(P, np.matmul(L, U)) # 矩阵乘法
print(A_3)
print(L)
print(U)

L, U = lg.lu(A, permute_l=True)
print(L)
print(U)
A_2 = np.matmul(L, U)
print(A_2)
# where P is a permutation matrix, L lower triangular with unit diagonal elements, and U upper triangular.

L_1 = lg.inv(L) 
U_1 = lg.inv(U)

y = np.matmul(L_1, b)
x = np.matmul(U_1, y)

print(x)


# 矩阵和向量相加（逐列相加）
A = np.array([[1, 2, 1], [2, -1, 3], [3, 1, 2]])
b = np.array([7, 7, 18]).T
B = np.add(A, b)
print(B)


 

生成特殊矩阵、reshape

全0矩阵

    Smax = 10
    M = 100
    N = 200
    matval = np.zeros((M + 1, N + 1)) # 全0矩阵，注意，里面是tuple，不是np.zeros(3,4)
    vetS = np.linspace(0, Smax, M + 1).T # 列向量
    # veti = 0:M;
    veti = np.arange(M + 1)
    # vetj = 0:N;
    vetj = np.arange(N + 1)

    # % set up boundary conditions
    matval[:, N] = np.maximum(K - vetS, 0)  # np.max 和 np.maximum 有区别
    matval[0, :] = K * np.exp(-r * dt * (N - vetj))
    matval[M, :] = 0

    
    # np.max(n_arr, 0) ，一个array里面 和 这个0，所有元素最大值
    # np.maximum(n_arr, 0)， 逐个元素跟0比较，输出是一个arr，第i个元素是 max(n_arr[i], 0)

对角阵、三对角阵

coeff = scipy.sparse.diags([a_arr[2:M], b_arr[1:M], c_arr[1:M - 1]], [-1, 0, 1]).toarray()

其中，-1，0，1是指a,b,c这三个arr分别放在矩阵的哪条对角线上。

 

reshape

array, (100, 1), (100, ) 是不一样的。虽然看上去一样

考虑用 mat[0:10, 3].reshape(-1, 1) 转化为 (10, ) ，是一个真正的array

 

插值运算

线性插值

f1 = scipy.interpolate.interp1d(x_arr, y_arr)
f1(这里填想得到插值结果的数x0)


 

人体感知与线性系统 


    线性系统是经典信号处理的基石之一。如果没有系统线性性的假设，数字信号处理的很多内容，如数字滤波、频谱分析等，可能都需要重新改写。系统的线性性是如此重要，以致于我们常常视而不见，或者说视其为理所当然。就像空气对我们是如此重要，以致于我们也常常将其忽略。这也正是老子所谓的“大音无声，大象无形”。
 事实上，很多常见的系统都是线性系统，比如积分器，微分器，放大器等等。但我们很多人可能不知道的是，人体本身也是一个线性系统。
 早在19世纪初，生理学研究先驱之一的Weber就进行了一系列的实验，率先揭示人体系统的线性性这个秘密。
 当时他实验的目的主要是想发现人体针对不同的触觉刺激时，人体能感受到的最小刺激量是多少，也即是说想实验出人体的触觉刺激的灵敏度。其中最著名的是一组人体对重量的反应的实验。
 实验的过程是这样的。左手和右手各拿一个同样的袋子，分别往两个袋子中放同样的硬币，看什么时候能区分出两个袋子之间重量的不同。经过不断的实验发现，当左手的袋子放29个硬币，右手的袋子放30个硬币的时候，大多数的实验对象能区分出两者的差别。这时，我们直观地想，人体对重量的灵敏度是1个硬币。但继续实验，结果却令人大吃一惊。当左手的袋子放58个硬币，右手的放59个硬币的时候，大多数实验对象都不能感知出来，但当右手的袋子放60个硬币时，大多数实验对象能感知左手和右手袋子中重量的不同。同样地，当左手为116个硬币时，右手要120个硬币，其重量的差别才能为大多数实验对象所感知，而无论是118或者119个硬币都不能被感知。如果以人体对重量灵敏度的感知这个系统来建模，系统的输出用表示，其含义是人体能感知重量差别时的最小硬币数；为系统输入，表示手中袋子中的硬币数。这时有：
                        y = x/29=K*x
即当x为29时，y为1；x为58时，y为2；...。
 如果抛开具体的背景，仅从系统的观点看，y=K*x是一个明显的线性系统。Weber的实验结果不仅对人体的重量灵敏度成立，在其它的很多方面的灵敏度的感知上也成立，只是常数K的取值有所不同。
 当夜深人静的时候，你也许还在网上冲浪，忙得不亦乐乎，旁边闹钟却在滴滴答答叫个不停，似乎在催促你，时间不早了，该休息了。而在白天，同样的闹钟，你却很难听到这种“时光如流水”的声音。同样是在夜幕中，当你推开窗户，呼吸着外面的新鲜空气，顺便伸个懒腰，一不小心抬头看见天上的星星正对你眨眼。星星还是那个星星，在白天你却无法感知到它们的存在。这就是Weber原理在听觉和视觉上的应用。从线性系统的理论，我们就能很容易理解这些物理现象背后的奥秘。

目录

系统整体特性概述 

1. 记忆性VS非记忆性

2. 稳定性与非稳定性

3. 可逆性与非可逆性

4. 时不变性与时变性

5. 线性与非线性: 重要！！！

6 目标系统的综合特性

系特整体性概述 

系统是系统对输入信号的变化与处理，根据系统表现出来的整体特性，可以把系统分为：

记忆性VS非记忆性、稳定性与非稳定性、可逆性与非可逆性、时不变性与时变性、线性与非线性



1. 记忆性VS非记忆性



无记忆系统，又称为组合逻辑系统。没有全局变量的函数，都是无记忆系统。在实际系统中，无记忆系统通常是一个大系统的子部件。

记忆系统，又称为时序逻辑系统。大多数实际的系统都是记忆系统。输出信息，不仅仅与输入有关，还取决于系统当前的状态和条件。

（1）记忆系统的案例



积分运算：就是当前输入+以往输入的累计和，从而得到新的累计和。
	
移位运算：是对当前状态数据的移位，而输入只是指定移动的位数。
	
累计和运算：与积分相似，就是当前输入+以往输入的累计和，从而得到新的累计和。
	
差分运算：是当前状态-之前的状态
（2）无记忆系统的案例



输出值，只取决于当前的输入信息，与之前的输入无关，与系统当前的状态无关。

 

2. 稳定性与非稳定性

（1）图形化表示



（2）数学表示



所有设计的电子系统，都必须是稳定的系统，不稳定的系统又称为发散系统，系统终将陷入崩溃，因为系统的能量是有限的。

当然，时候时候，也会通过限制输入信号，防止“发散系统”陷入崩溃。

3. 可逆性与非可逆性

（1）定义



（2）可逆系统的模型



通信系统都是可逆系统：各层的编码与解码、调制与解调、扩频与解扩、加扰与去扰、封装与解封装、加密与解码，都表明通信系统是一个可逆系统。

接收过程就是发送过程的逆过程。

整体上讲，一个不可逆的系统，是无法完成输入数据的还原的，也就无法完成通信的需求！

当然，通信系统的不是所有环节都是可逆的，如数据完整性检查过程的Hash运算，就是不可逆的过程，在通信系统中，利用不可逆过程完成系统安全性相关的功能。

 

4. 时不变性与时变性

时不变系统，亦称确定性系统，指特性（不是输出）不随时间变化的系统。通俗的讲，时不变系统在特定的输入下和特定的条件下，输出是固定的。

时不变系统，就像一个人格稳定的人，它的行为模式是可以预测的。时不变系统的行为都是预先设计好的、确定性的。

时变系统是不确定的系统，就是常说的“反复无常”。体现在系统软件开发中，就是变量的值，没有初始化，就直接使用，其值都是不确定的。



 



 

5. 线性与非线性: 重要！！！

（1）定义

线性系统是指同时满足叠加性（加减运算）与均匀性（系数乘除运算）的系统。

所谓叠加性（加减运算）：是指当几个输入信号共同作用于系统时，总的输出等于每个输入单独作用时产生的输出之和；

均匀性（系数乘除运算）：是指当输入信号增大若干倍时，输出也相应增大同样的倍数。

不满足叠加性和均匀性的系统即为非线性系统

（2）图形描述

系统对多路的输入信号，先进行线性运算、累加后在进行变换。




系统对多路信号先进行变换，后进行线性运算、累加
如果上述两种情况，得到的输出是一致的，则这个系统是线性系统，符合叠加性特征！

（3）数学描述



（4）应用

可以这样说，《信号与系统》的研究，就是建立在线性系统之上的，现代通信系统，基本上是一个线性系统。

线性系统的线性特征被应用在通信系统的方方面面：信号的复用与解复用，如2G的频分多址、3G的码分多址、4G正交频发复用，功率放大器等等，否是线性系统的线性特征的应用。

 

6 目标系统的综合特性

信号与系统中，研究的系统主要是：有记忆性、稳定性、可逆性、时不变性、线性系统。

 

 

 

前言
物理系统天生都具有非线性，所以在某种程度上来说所有的系统都是非线性的。非线性系统可以用非线性差分方程表示。如果一些非线性系统在小范围内顺滑，通过一些假设，并且限定工作范围，它是可以被等效为线性系统并且用线性差分方程来描述的。在讲解非线性之前，我们先来回顾一下线性系统
线性系统

线性控制理论主要就是研究线性时不变(LTI)控制系统，一个具有如下形式的简单的LTI系统(x是状态向量，A是系统矩阵)



有以下几个性质：

如果A是非奇异矩阵的话那么该线性系统只有一个平衡点
如果无论任何初始条件下A的所有特征值都有负实部，那么系统的平衡点是稳定的
线性系统的瞬时响应是由系统的natural modes(不知道咋翻译)组成的，且它的一般解具有解析解
如果系统存在外部输入，公式变成



这样的系统有几个有趣的性质。1.满足叠加原理 2.具有有限输入有限输出稳定性 3.正弦输入会得到频率一样的正弦输出

非线性

非线性可以分成自然非线性和人为的非线性，自然非线性来自于系统硬件本身以及运动。例子有旋转运动的离心力以及接触平面的库仑摩擦力。通常这样的非线性特征是我们不希望遇到的，需要用控制系统补偿它们。而人为的非线性是由系统设计着引入的非线性。例如自适应控制以及启停式控制，都是传统的人为引入的非线性。
非线性也可以根据数学性质分为连续的和离散的。离散的非线性不能被局部等效为线性方程，因此离散非线性也被称为强非线性（滞后，回转间隙，精摩擦力等）。对于这样的强非线性系统，是否要在小范围内等效成线性取决于非线性的程度，这个我们后面5.2节会讲。
一个非线性系统特征举例

由于不满足线性和叠加原理，非线性系统的行为要比线性系统更复杂。举个例子
例1.1 一个简化的水下探测器的运动模型可以表示为：



v探测器的速度，u是控制输入。其中的非线性部分|v|v对应了一个经典的平方律拖拽现象，假设我们给一个正向单位阶跃输入，5秒后再给一个反向单位阶跃输入。系统的响应如下图(这里系统五秒后的输入图像貌似不对，不过不影响理解)：



我们稍微解释一下这个输出，探测器在恒定推力的情况下速度上升，但受到的阻力也在上升。最终在4秒左右的时候达到平衡。我们发现系统对于正向输入的响应速度要比逆向的快，而且减速的时候高速区的减速要比低速区的快来不少，这是因为方程里明显的的阻尼项|v|在高速时的值要比低速时大
如果我们把输入变成10，系统响应变成下图。



可以发现系统是变快了，但是稳定时间不像线性系统并没有快十倍，最高速度也没有大十倍。我们算出两次不同输入得到的稳定速度



这是一个很传统的水下探测器的非线性特征，因此如果要实现对探测器良好的控制的话，需要仔细考虑其中的非线性部分
一些常见的非线性系统特征

现在我们总结一下非线性系统具有哪些值得注意的特征
1.多平衡点

不像线性系统只有一个平衡状态，非线性系统往往有多个平衡状态，即可以一直停在那里的状态，举个栗子

例1.2：一个一阶系统



如果假定初始状态为x(0)=xo，那么它的线性化为



可以求得它的解为(惭愧，不会算)

下图画出了不同初值时x(t)的值

可以发现无论初值怎么变，它只有一个平衡状态就是x=0
如果不采用线性化直接求导，得到解析解为



对于不同的初值得到的图像如下


可以发现有两个与初值相关的平衡点x=0与x=1。有了上面的例子我们现在可以简单讨论运动稳定性的问题。对于一个稳定的线性系统，它的稳定性不随初值变化，始终保持稳定，且有一个平衡点。但对非线性系统来说，由于初值的不同会导致系统去到不同的平衡点，甚至变得不稳定（通常在有限时间内变得不稳定，被称之为有限逃逸时间）。这告诉了我们非线性系统的稳定性与初值有关。

另外对于一个有界的外部输入，输入值也会影响非线性系统的稳定性产生影响，比如下面这个系统



如果输入u=-1，x收敛于0；如果u=1，|x|趋向于无穷大
2.极限环

非线性系统可能会呈现固定振幅固定周期无外部激励的自震荡现象，这些自震荡被称之为极限环或者自激励震荡。这个重要的现象由荷兰电子工程师Van der Pol在1920年代第一次研究发现

例1.3 范德玻尔方程

考虑如下二阶非线性差分方程：



m,c,k都是正的常量。该方程可以看成是一个带有与位置相关的阻尼项2c(x2-1)的质量-弹簧-阻尼 系统，如果x值大一些，那么阻尼项是正的且在消耗系统里的能量，这表示该系统有一个收敛的趋势。而当x小一些时，阻尼项为负并开始往系统里面增加能量（这里能量的减少与增加是怎么看出来的？），表示系统有一个发散的趋势。因此，由于非线性项随着x一直改变，系统的运动呈现一个持续不断，且与初值无关的震荡，既不会无限发散也不会收敛到0。如下图所示



这个“极限环”通过阻尼项一直从环境中吸收和释放能量来维持周期性的震荡，这与传统的质量弹簧系统是不一样的，传统的质量弹簧系统不会在震荡过程中与环境有能量交互。
线性系统里面也有周期震荡，但线性系统的周期震荡和这里的极限环是有区别的。首先，非线性系统的自激励震荡幅度与初值无关，而线性系统的周期震荡幅度由初值决定；另外，线性系统的对于系统参数的变化十分敏感，而非线性系统极限环受参数变化的影响很小。
极限环代表了一类非线性系统里面很重要的一个现象，在自然与工程中很常见。比如机翼的风抖，一种由结构振动和空气动力引发的极限环现象，这很常见也对飞行器很不安全。另外腿结构机器人的单足跳跃运动也是极限环的一个例子。可以发现，极限环有的时候对系统是有害的，有的时候是有用的。有害的时候作为一个控制工程师就要知道怎么消除它，有用的时候就要知道怎么激励并利用它。要做到这个需要理解极限环的性质，以及熟悉一些操控极限环的方法工具
3.分岔

当非线性动态系统的一些参数变化时，平衡点的稳定性和平衡点的数量有可能会随之改变，这就叫分岔现象，这些使系统发生质变的参数数值被称之为关键数值或者分岔数值(critical value or bifurcation value)，研究分析现象就是分岔理论所要讨论的问题。
拿烟囱里的烟雾上升现象举个栗子，烟一开始会加速上升，因为它比周围空气轻。上升到一定程度后变成涡流。我们可以用无阻尼达芬方程来描述：



我们画出平衡点随着α变化的曲线



当α从正慢慢变成负的时候，平衡点从一个平衡点分裂成三个平衡点。这代表了α=0就是一个分岔数值，这样的分岔被称之为干草叉分岔。
还有另一种分岔，这种分岔往往包含了极限环的出现。在这种情况下，参数的变化使得一对复共轭特征值从左平面跨越到右平面，不稳定的系统分岔成了一个极限环，如下图



4.混沌

对于稳定线性系统，初值的小变化只能引起输出的小变化。而非线性系统，可能会呈现出混沌现象，意思是系统响应对初值十分敏感。混沌的一个重要特征就是输出结果的不可预测性，即便我们有了准确的非线性系统模型以及很强的计算机，系统的长期响应依旧不能很好地预测。
我们必须要能区分混沌与随机运动的区别，在随机运动中，系统模型或者输入有很强的不确定性，因此造成了输出的不可预测。在混沌中，系统与输入有着很小的不确定性，但依旧不可预测输出。让我们考虑这样一个简单的非线性系统



该方程代表了一类轻阻尼，受正弦力驱动并承受较大弹性形变的机械结构。下图展现了该系统两种不同初值下的输出



其中一个初值为(粗线)

另外一个初值为(细线)



可以发现由于x的五次方项带来的强非线性，系统在一段时间后呈现很大的差异，且基本看不出规律。

混沌现象在很多物理系统中都存在，最常见的就是流体力学中的扰动，大气动力学也呈现出明显的混沌行为，因此长期的气候预测是不可能的。
混沌主要在强非线性系统中出现，因此如果一个给定的系统初值或者外部输入使系统呈现强非线性区域，那么发生混沌的可能性也会相应增加。线性系统中不会有混沌，任意幅度的正弦输入得到的总是同样频率的正弦输出。
在反馈控制的内容中，研究混沌啥时候出现并且如何避免它是一个热点研究课题。
5.其他行为

除了上述行为还有其他非线性会出现的行为，都充分说明了非线性系统要比线性系统更复杂且难以预测