solve解方程组 结果不准,整数变小数

m_ab=matrix(DOUBLE, 2, 2)

m_ab[0:1,0:2]=[1,1]

m_ab[1:2,0:2]=[2450,2449]

x_c=[69,168981]

resoults=m_ab.solve(x_c)

----output---

offset   0                      1

0         0.0000         68.9999    




请先 登录 后评论

1 个回答

Wendyaa

问题复现不了,可能是浮点数精度的问题,请问可以提供一下您的脚本吗?

请先 登录 后评论
  • 2 关注
  • 1 收藏,646 浏览
  • 提出于 2023-05-04 03:02

相似问题