Вопросы с тегом «dc»

Я хочу напечатать число с плавающей запятой ровно с двумя значащими цифрами в bash (возможно, с помощью обычного инструмента, такого как awk, bc, dc, perl и т. Д.). Примеры: 76543 должно быть напечатано как 76000 0.0076543 должно быть напечатано как 0.0076 В обоих случаях значимые цифры 7 и 6. Я …

17 bash  awk  bc  floating-point  dc 

Я хочу использовать dcдля обработки некоторых базовых 16 чисел с шестнадцатеричными точками, но я сталкиваюсь с проблемами точности. Например, ниже я умножаю F423F.FDна 100оба гекса. Ожидаемый ответ F423FFD, вместо этого, дает F423FFA.E1близкий, но не достаточно точный, даже после округления. $ dc 16 d i o F423F.FD 100 * p F423FFA.E1 …

12 dc