MATLABで小数点以下を増やす方法

著者: Robert White
作成日: 27 Aug. 2021
更新日: 14 11月 2024
Anonim
FPGA Design with MATLAB, Part 2: Modeling Hardware in Simulink
ビデオ: FPGA Design with MATLAB, Part 2: Modeling Hardware in Simulink

コンテンツ

MATLABは、データを処理および分析するために科学および工学の分野で使用される技術計算ソフトウェアです。配列(1次元配列)と行列に含まれるデータは、複雑なアルゴリズムを含む「m」ファイルへの入力として使用され、それらをバッチで処理します。精度、処理時間、メモリ使用量は、分析プロセスで使用される数値の精度に依存します。精度が高いほど、データの記述に使用される小数点以下の桁数が増えるため、計算がより正確になります。ただし、それを減らすと、数値は小数点第4位で四捨五入されるため、メモリに格納される数値の数が減ります。選択は、計算に必要な精度、処理ステップの数、およびデータ収集で使用される許容誤差によって異なります。

ステップ1

MATLABコマンドウィンドウで「clear all」と入力して、ワークスペースのすべての変数をクリアします。


ステップ2

無限小数を含む数を作成します。たとえば、コマンドウィンドウに「x = pi()」と入力します。 MATLABは "x = 3.1416"という出力を表示します。

ステップ3

「format long」と入力して、出力の小数点以下の桁数を増やします。これにより、精度が15桁に向上します。ここで「x = pi()」と入力すると、出力として「x = 3.141592653589793」が表示されます。

ステップ4

「format short」と再度入力し、「x = pi()」と入力します。このコマンドは、小数点以下の桁数を4に設定します。したがって、MATLAB出力は "x = 3.1416"になります。