Страница 2 из 3 ПерваяПервая 123 ПоследняяПоследняя
Показано с 11 по 20 из 21

Тема: Округление вещественного числа

  1. #11
    Пользователь Аватар для Сергей0308
    Регистрация
    25.06.2011
    Адрес
    Галактика Андромеды (M31)
    Сообщений
    5,299

    По умолчанию

    Цитата Сообщение от sertol64 Посмотреть сообщение
    Доброго дня! Уважаемые Волшебники, всю голову сломал как округлить вещественное число до десятой доли. А именно есть таблица, что к температуре 16,0грд соответствует некий коэффициент, а к температуре 16,5 соответствует другой коэффициент. И так далее с прибавлением 0,5 вплоть до 30грд. Но на аналоговый вход от датчика приходит и 16,1 и 16,2 и 16,3 и 16,4 и т.д. Как умудриться, чтоб если уж 16,1(16,2) соответствовало 16,0 а 16,3(16,4)соответствовало16,5. В базе есть макрос floor(по-моему) но он округляет до целого числа в меньшую сторону. МоЖ у кого есть какие решения?!
    Очень интересно и как такое округление следует правильно называть? Есть округление до целых, до десятых, до сотых, до тысячных долей, это наверно называется до "полуцелых" или до 1/2?
    Если проблему можно решить за деньги, это не проблема, это расходы. Бог каждому посылает проблемы по его силам. Так что одно из двух. Либо ты можешь-таки
    справиться с проблемами, либо это не твои проблемы.

  2. #12
    Пользователь
    Регистрация
    27.11.2011
    Адрес
    Краснодар
    Сообщений
    7,425

    По умолчанию

    Есть правила округления и их несколько, можете найти в Вики, там еще проверяется четность и нечетность следующего знака, до которого хотите округлять и значение уже округленное может быть 3,25 или 3,26 в зависимости от следующего знака.
    з.ы. я когда-то выкладывал макросы, один из которых работал по этому правилу округления.

    з.ы. 16.3 никогда не может стать 16.5, а вот 16.4 в некоторых случаях может. Других правил вроде не существует, если конечно сами не напишите
    Последний раз редактировалось melky; 19.06.2020 в 20:34.

  3. #13
    Пользователь
    Регистрация
    23.09.2008
    Адрес
    Центророссийск
    Сообщений
    2,648

    По умолчанию

    Вики тута не библия. Причем тут каких-то "знаков" в применении к правилам округления ? 16.3 может стать чем угодно по всем правилам округления.
    Не надо частные случаи выдавать за абсолют

    Я еще и неполное определение округления привел - линейность/нелинейность и и точку отсчета кванта пропустил.
    А то что Вы приводите - линейная дискретизация по степени десятки с точкой отсчета 0.
    Сама по себе вещественное число уже округлено в форме хранения по "нелинейная дискретизация по степени 2 с точкой отсчета 0". Причем это все пока в узких рамках числовой прямой рассматриваем ))

  4. #14
    Пользователь
    Регистрация
    27.11.2011
    Адрес
    Краснодар
    Сообщений
    7,425

    По умолчанию

    какие частные случаи ? в математике есть правила округления, вот например https://ibrain.kz/matematika/pravila-okrugleniya
    Вот один из макросов я и делал кажется по правилу 3.

    а так, можно округлять как самому захочется, вот как автор написал - 16.1, 16.2 = 16, а 16.3, 16.4 = 16.5
    Никто же не запрещает в принципе
    Последний раз редактировалось melky; 21.06.2020 в 19:35.

  5. #15
    Пользователь Аватар для capzap
    Регистрация
    25.02.2011
    Адрес
    Киров
    Сообщений
    10,891

    По умолчанию

    Цитата Сообщение от melky Посмотреть сообщение
    в математике есть правила округления
    а здесь форум математиков школьного курса?
    правило которое предложил Валенок это обычная офисная функция, например для бухгалтеров, вот пару ссылочек
    https://support.google.com/docs/answer/3093426?hl=ru
    https://support.microsoft.com/ru-ru/...b-d2d5b3baf427
    из вполне значимых источников не хуже вики

    и потом уже от программистов
    https://www.internet-technologies.ru...avascript.html
    раздел "Округление до ближайшего кратного числа"
    Последний раз редактировалось capzap; 21.06.2020 в 20:25.
    Bad programmers worry about the code. Good programmers worry about data structures and their relationships

    среди успешных людей я не встречала нытиков
    Барбара Коркоран

  6. #16
    Пользователь
    Регистрация
    27.11.2011
    Адрес
    Краснодар
    Сообщений
    7,425

    По умолчанию

    О да, в ОЛ есть .toPrecision(3);..... речь то об ОЛ больше, и как округление реализовать в нем. самое простое это на 0.5 но если людям надо иначе, для этого и делались макросы.

  7. #17
    Пользователь
    Регистрация
    27.11.2011
    Адрес
    Краснодар
    Сообщений
    7,425

    По умолчанию

    да макросы вроде в соответствующей ветке есть. Вероятно и в менеджере тоже.

  8. #18
    Пользователь
    Регистрация
    27.11.2011
    Адрес
    Краснодар
    Сообщений
    7,425

    По умолчанию

    а в чем проверка заключается ? скачать и установить в программе ?

  9. #19
    Пользователь
    Регистрация
    27.11.2011
    Адрес
    Краснодар
    Сообщений
    7,425

    По умолчанию

    да ни при чем, просто сделал такой макрос и все.

  10. #20

    По умолчанию

    Цитата Сообщение от Сергей0308 Посмотреть сообщение
    Очень интересно и как такое округление следует правильно называть? Есть округление до целых, до десятых, до сотых, до тысячных долей, это наверно называется до "полуцелых" или до 1/2?
    Наверное, дискретизация.

Страница 2 из 3 ПерваяПервая 123 ПоследняяПоследняя

Похожие темы

  1. Детектор изменения числа
    от ИльяИлья в разделе ПЛК1хх [М02]
    Ответов: 1
    Последнее сообщение: 13.12.2019, 11:57
  2. Дробные числа
    от Алмаз Нафиков в разделе Master SCADA 3
    Ответов: 2
    Последнее сообщение: 06.03.2019, 22:03
  3. Вещественные числа
    от The-Boss в разделе Master SCADA 3
    Ответов: 5
    Последнее сообщение: 27.11.2015, 16:47
  4. Округление значения в СП270
    от Valentin. в разделе Панели оператора (HMI)
    Ответов: 3
    Последнее сообщение: 28.04.2014, 09:18
  5. Вещественные числа
    от Александр86 в разделе ПЛК1хх
    Ответов: 2
    Последнее сообщение: 21.02.2013, 16:34

Ваши права

  • Вы не можете создавать новые темы
  • Вы не можете отвечать в темах
  • Вы не можете прикреплять вложения
  • Вы не можете редактировать свои сообщения
  •