Страница 2 из 2 ПерваяПервая 12
Показано с 11 по 17 из 17

Тема: Некорректно переводит float в integer

  1. #11
    Пользователь Аватар для Сергей0308
    Регистрация
    25.06.2011
    Адрес
    Галактика Андромеды (M31)
    Сообщений
    8,168

    По умолчанию

    Цитата Сообщение от capzap Посмотреть сообщение
    да, не понятно, каким образом статья про стандартный вид числа отвечает на вопрос, что в неком приложении ОвенЛоджик округление вещественных чисел идет по одним правилам, а экспоненциальная запись совершенно по противоположным правилам
    И даже если взять как бы первоисточник
    https://ru.wikipedia.org/wiki/%D0%AD...B8%D1%81%D1%8C
    про округление там ни чего не сказано
    Если Вы прослеживаете какую-то взаимосвязь, не томите народ, поделитесь вашими открытиями! Я такой лабудой голову не забиваю!
    Если проблему можно решить за деньги, это не проблема, это расходы. Бог каждому посылает проблемы по его силам. Так что одно из двух. Либо ты можешь-таки
    справиться с проблемами, либо это не твои проблемы.

  2. #12

    По умолчанию

    Итак, реальное число 59.95, отображение с одним знаком после запятой - 60, преобразование работает не с отображением а с реальным числом и даёт 59
    Всё просто, никакой ошибки.
    Тролль-наседка, добрый, нежный и ласковый

  3. #13
    Пользователь Аватар для Сергей0308
    Регистрация
    25.06.2011
    Адрес
    Галактика Андромеды (M31)
    Сообщений
    8,168

    По умолчанию

    Цитата Сообщение от capzap Посмотреть сообщение
    так и я про то же и сделал Вам замечание, зачем давать с пафосом ссылки если они не на что не отвечают
    , голову включать надо
    Так объясните, не надо пустословием заниматься, что не так со стандартным видом числа? Он позволяет сократить до минимума число используемых знаков, при этом само значение остается в легко понимаемом виде!
    Если проблему можно решить за деньги, это не проблема, это расходы. Бог каждому посылает проблемы по его силам. Так что одно из двух. Либо ты можешь-таки
    справиться с проблемами, либо это не твои проблемы.

  4. #14

    По умолчанию

    Цитата Сообщение от capzap Посмотреть сообщение
    реальное число это в примере 2.56, обрезав целую часть и умножив на сто в каком языке программирования будет 55? Что бы не считать это ошибкой
    При чем тут 2.56?fl.png
    С уважением, Ревака Юрий.
    Инженер группы технической поддержки компании "ОВЕН"
    e-mail: yu.revaka@owen.ru

    Шаблон описания ошибки ПР или OL http://ftp-ow.owen.ru/softupdate/OWE...s/Shablon.docx
    Видео уроки по ПР200 и OWEN Logic http://edu.owen.ru/series/pr200_rev/
    Другие видеоролики по тематике ПР https://www.youtube.com/channel/UCj4...H5H3d_t6iDlQOQ

  5. #15

    По умолчанию

    Цитата Сообщение от capzap Посмотреть сообщение
    Вложение 57303 наглядно, пример который я обычно привожу про не стыковки вещественных чисел, не проходит проверку
    а этот пример должен работать и в ОЛ тоже, но этого не происходит,
    Да я уже увидел, до этого я как-то не обратил внимание что там вычитание, думал умножение на 2
    С уважением, Ревака Юрий.
    Инженер группы технической поддержки компании "ОВЕН"
    e-mail: yu.revaka@owen.ru

    Шаблон описания ошибки ПР или OL http://ftp-ow.owen.ru/softupdate/OWE...s/Shablon.docx
    Видео уроки по ПР200 и OWEN Logic http://edu.owen.ru/series/pr200_rev/
    Другие видеоролики по тематике ПР https://www.youtube.com/channel/UCj4...H5H3d_t6iDlQOQ

  6. #16
    Пользователь
    Регистрация
    31.01.2019
    Адрес
    РФ/РБ
    Сообщений
    917

    По умолчанию

    Тему почистили что-ли? Не вижу сообщений, которые процитированы...

  7. #17
    Пользователь Аватар для capzap
    Регистрация
    25.02.2011
    Адрес
    Киров
    Сообщений
    10,225

    По умолчанию

    нашел я подобный разговор, про округление именно чисел формата ieee754 https://owen.ru/forum/showthread.php...l=1#post353358
    Был не прав, разность 2.56 - 2 подпадает под эту же проблему, решение на последнем скрине из приведенной сылки
    Bad programmers worry about the code. Good programmers worry about data structures and their relationships

    среди успешных людей я не встречала нытиков
    Барбара Коркоран

Страница 2 из 2 ПерваяПервая 12

Похожие темы

  1. Плк 270 прошивка некорректно работает без пк
    от qweevitch в разделе Трёп (Курилка)
    Ответов: 1
    Последнее сообщение: 28.08.2019, 10:07
  2. как передать переменную integer по modbus
    от Линар в разделе СПК2хх
    Ответов: 7
    Последнее сообщение: 25.08.2016, 13:59
  3. как передать переменную integer по modbus
    от Линар в разделе Трёп (Курилка)
    Ответов: 1
    Последнее сообщение: 25.08.2016, 13:32
  4. ТРМ12. Некорректно показывает температуру
    от Mister в разделе Эксплуатация
    Ответов: 5
    Последнее сообщение: 13.01.2016, 14:36
  5. Переход от float (Nullable) к просто float
    от ASo в разделе Master SCADA 3
    Ответов: 1
    Последнее сообщение: 12.11.2014, 14:21

Ваши права

  • Вы не можете создавать новые темы
  • Вы не можете отвечать в темах
  • Вы не можете прикреплять вложения
  • Вы не можете редактировать свои сообщения
  •