Доброе время суток.
Сравнение вещественных чисел происходит с помощью операции вычитания по модулю и сравнением с числом 0.000001. В интернете такой же способ предлагается. Вопрос: число 0.000001 взято с чего? это условно принятое значение большинством или есть другое обоснование? И следовательно можно считать его числом по умолчанию?
Спасибо.
Евгений Тимофеев
12 уровень
Сравнение вещественных чисел
Комментарии (1)
- популярные
- новые
- старые
Для того, чтобы оставить комментарий Вы должны авторизоваться
Денис Enterprise Java Developer
24 марта 2023, 12:54
Наверняка я тебе не отвечу, но могу предположить, что это максимально доступная точность для формата double. Потому если разница будет не велика то где-то в этом допущении.
Придумал с потолка, нужно проверить детально по коду, как это там реализовано (зачем это сравнение в целом и как именно оно работает), посмотреть какая часть в double отвечает за дробную и какие у нее ограничения. Как-то так.
0