10^(-15) - 10^(-16),наилучший вариант 10^(-20)
это числа с 15-20 разрядами, можно программно создать целое число с таким разрядом (пример array) и сделать ФБ для присвоения и вычисления мат. функций над этими числами (поразрядное сложение вычитание и тп. как в школе на тетрадке во 2 класе).