я же сказал - точность до 1/256 (~0,004), правда забыл уточнить, что округление всегда в меньшую сторону (по модулю)
откуда ваша формула? можно ссылку?
PS тем временем сделал вариант с 4мя итерациями, получается точность 1/8192,
так же добавил выходы с ln(x) и lg(x), с учётом понижающего коэффициента, точность получается 1e-4