我使用了 6678 芯片
当使用/TI/displib里面的库函数DSPF_sp_svd_cmplx 对复数矩阵进行奇异值分解的时候,会出现nan
对R进行奇异值分解,R定义为
R = a*A*A'+b*I
R是M*M维复数矩阵
A是M*1维复数向量
' 表示共轭转置
I是M*M维实数单位矩阵
a和b是实数比例系数
M表示维数
对某些数值计算结果是对的,但是对某些数值,奇异值就会出现nan,这是为什么呢?
我使用了 6678 芯片
当使用/TI/displib里面的库函数DSPF_sp_svd_cmplx 对复数矩阵进行奇异值分解的时候,会出现nan
对R进行奇异值分解,R定义为
R = a*A*A'+b*I
R是M*M维复数矩阵
A是M*1维复数向量
' 表示共轭转置
I是M*M维实数单位矩阵
a和b是实数比例系数
M表示维数
对某些数值计算结果是对的,但是对某些数值,奇异值就会出现nan,这是为什么呢?