SetPrecision

利用可能

Sets the precision of a number to a specified number of digits

形式

SetPrecision[expr, p]

検証済みの例SetPrecision[2.1, 20] → 2.10000000000000008881784197001252323389`20.SetPrecision[a + 2 b + 3 c, 20] → a + 2.`20.*b + 3.`20.*c SetPrecision[a + 2 b + 3c, MachinePrecision] → a + 2.*b + 3.*c

Qurakで実行リファレンスを検索

トピック

Precision And Accuracy Control - Machine Numbers

関連

N Precision Chop SetAccuracy PrecisionGoal Rationalize Accuracy AccuracyGoal MachineNumberQ MachinePrecision WorkingPrecision

全 6300 関数 · MCPクライアントから使う