SetPrecision

Tilgjengelig

Sets the precision of a number to a specified number of digits

Former

SetPrecision[expr, p]

Verifiserte eksemplerSetPrecision[2.1, 20] → 2.10000000000000008881784197001252323389`20.SetPrecision[a + 2 b + 3 c, 20] → a + 2.`20.*b + 3.`20.*c SetPrecision[a + 2 b + 3c, MachinePrecision] → a + 2.*b + 3.*c

Kjør dette på Qurak Søk i referansen

Emner

Precision And Accuracy Control - Machine Numbers

Relatert

N Precision Chop SetAccuracy PrecisionGoal Rationalize Accuracy AccuracyGoal MachineNumberQ MachinePrecision WorkingPrecision

Alle 6300 funksjoner · Bruk dette fra en MCP-klient