@Alex_V, Спасибо! Пошел курить матчасть.
В этом-то и была изначальная суть моего вопроса.
это обусловлено самой системой хранения данных
Вот об этом я тоже вспомнил. Когда-то давно пробовал програмировать на асемблере, еще во времена MS-DOS. Помню, что дроби в машинном коде хранятся и обрабатываются в формате целых чисел или целочисленных выражений(не знаю как правильно обозвать). То-есть машина вычисляет разницу 7.2 - 2.4 также как разницу 72 - 24 и не видит между ними разницы, результат первой только впоследствии предоставляется в виде выражения - результат умножен на 10^-1. Вот это я понимаю под системой хранения и предоставления данных.0.5 = (2^-1)
В каком формате мне работать с числами в LUA, чтобы в приведенном мной примере (4.8-7.2-2.4) было достаточно точности что-бы получить хотя-бы 0,0000пофигпофигпофиг.Да, там где нужны вычисления и преобразования без потери точности, например, для финансовых расчетов, используются другие форматы хранения вещественных чисел, например BCD:
В этом-то и была изначальная суть моего вопроса.
Последнее редактирование: