SetPrecision

Beschikbaar

Sets the precision of a number to a specified number of digits

Vormen

SetPrecision[expr, p]

Geverifieerde voorbeeldenSetPrecision[2.1, 20] → 2.10000000000000008881784197001252323389`20.SetPrecision[a + 2 b + 3 c, 20] → a + 2.`20.*b + 3.`20.*c SetPrecision[a + 2 b + 3c, MachinePrecision] → a + 2.*b + 3.*c

Voer dit uit op Qurak Doorzoek de referentie

Onderwerpen

Precision And Accuracy Control - Machine Numbers

Gerelateerd

N Precision Chop SetAccuracy PrecisionGoal Rationalize Accuracy AccuracyGoal MachineNumberQ MachinePrecision WorkingPrecision

Alle 6300 functies · Gebruik dit vanuit een MCP-client