разные вопросы новичка

[ProRus]

Не дурите голову, в ОЛ используется Float (IEEE754)

О каких 15 знаках может идти речь?
Точность переменной с плавающей точкой IEEE754 (для мантиссы отводится всего 23 бита из 32) всего лишь 7 цифр, даже неважно где будет стоять запятая, т.е.

0.ххххххх
х.хххххх
хх.ххххх
ххх.хххх
хххх.ххх
ххххх.хх
хххххх.х
ххххххх

таким образом всего 9 999 999

Понял, пошел изучать мат. часть...
Спасибо!

[EFrol]

Подскажите как число с плавающей запятой состоящее из 15 цифр разделить на три числа по 5 цифр и превратить в целочисленное?
Например имею число 123456789123456, хочу его разделить на 12345, 67891, 23456.
Такое возможно?
На Python такое получается на раз, в Owen Logic не выходит.
2024-04-01_17-19-41.jpg
float32 вообще в пр102 32 бита?
Может на ST такой фокус пройдет?

Да мантисса этого числа займет 46 бит. Если есть желание Вы можете представить это число как два 32-битных, например:
28744 * 2³² + 2249167232 = 123456789123456
Далее воспользоваться макросом https://owen.ru/forum/showthread.php...l=1#post431974

Owen.jpg

[ProRus]

Да мантисса этого числа займет 46 бит. Если есть желание Вы можете представить это число как два 32-битных, например:
28744 * 2³² + 2249167232 = 123456789123456
Далее воспользоваться макросом https://owen.ru/forum/showthread.php...l=1#post431974

Owen.jpg

Спасибо за подсказку!

[ProRus]

в итоге то что, в ОЛ не получилось, где скрин, что выходит вместо нужного

2024-04-01_18-09-58.jpg
2024-04-01_18-10-17.jpg

[capzap]

2024-04-01_18-09-58.jpg
2024-04-01_18-10-17.jpg

а теперь повторите результат в питоне, приведя число действительно к float32 Screenshot 2024-04-01 143709.png

[Валенок]

Да там не 32 бита, а какой-то long
нету ж точки после 2-й шестерки

[Traveller]

Доброго времени суток коллеги!
Сейчас делаю один проект и отрабатываю один алгоритм, суть состоит в том что мне нужно некую в некотором плане хаотичную последовательность импульсов идущую с частотой порядка 2-5 Гц. разделять на минимальные и максимальные значения этой частоты + выделять среднее значение, в принципе я макрос этот сваял как сумел один макрос взял из базы и он как бы работает, в режиме отладки, т.е. если я руками задаю ему числа, он их селектирует по нужным критериям, но вот если я его вставляю в программу и запускаю ее в режиме симулятора, то на выходах этого макроса значки бесконечности, т.е. макрос не работает, что я делаю не так?
Ну и собственно саму тестовую программку выкладываю
https://owen.ru/forum/attachment.php...1&d=1714061798
https://owen.ru/forum/attachment.php...1&d=1714061809
Сама программка
https://owen.ru/forum/attachment.php...1&d=1714061866

[kondor3000]

Доброго времени суток коллеги!
Сейчас делаю один проект и отрабатываю один алгоритм, суть состоит в том что мне нужно некую в некотором плане хаотичную последовательность импульсов идущую с частотой порядка 2-5 Гц. разделять на минимальные и максимальные значения этой частоты + выделять среднее значение, в принципе я макрос этот сваял как сумел один макрос взял из базы и он как бы работает, в режиме отладки, т.е. если я руками задаю ему числа, он их селектирует по нужным критериям, но вот если я его вставляю в программу и запускаю ее в режиме симулятора, то на выходах этого макроса значки бесконечности, т.е. макрос не работает, что я делаю не так?

У вас в первом цикле, происходит деление на 0 и в макросе в Max и Avg записывается бесконечность, что логично 1 Деление на 0 .jpg
Достаточно было включить проект по шагам и всё видно. Сделайте задержку на входе макроса или не делите на 0.

[Traveller]

У вас в первом цикле, происходит деление на 0 и в макросе в Max и Avg записывается бесконечность, что логично 1 Деление на 0 .jpg
Достаточно было включить проект по шагам и всё видно.

Странно, в режиме отладки самого макроса, такого не было, хотя там тоже ноль присутствовал, ну да ладно, значит нужно устранять эту лажу, что по моему не так сложно... Большое спасибо за подсказку!!!

[Сергей0308]

Так какой смысл, велосипед изобретать, тем более если он не получается, в смысле, на форуме много раз выкладывали макросы экстремумов и расчёта среднего значения, например среднее за период или среднее скользящим окном.