Переполнение DINT

[petera]

ок, попробую, спасибо )

Возможно придется немного модифицировать код

VAR
	SumPlus: UDINT;
	SumMinus: UDINT;
	Curr: DINT;
	Sum: UDINT;
	Sign: BOOL;
END_VAR

IF Curr >=0 THEN
SumPlus:=SumPlus + Curr;
ELSE
SumMinus:=SumMinus - Curr;
END_IF

Sum:=ABS(SumPlus - SumMinus);
Sign:= SumMinus > SumPlus;

Здесь для итоговой суммы (Sum) используется UDINT (от 0 до 4294967295) и ввел переменную Sign для знака Sum.
Т.е. фактически диапазон вычислений Sum от - 4294967295 до 4294967295.
В конце вычислений (после деления), умножить результат на "-1", если Sign был BOOL.

[capzap]

чето какой то ерундой занимаетесь, у нас что уже преобразования DINT_TO_REAL и/или обратно перестали работать?

[petera]

чето какой то ерундой занимаетесь, у нас что уже преобразования DINT_TO_REAL и/или обратно перестали работать?

Не хочет ТС REAL использовать
Пост #1

В REAL тоже не все так гладко, так как к большой сумме прибавляются малые значения и накапливается ошибка (нужно допиливать напильником).

[capzap]

ну наверное на самом деле что изменилось в этом мире, раз целочисленные начали в реале ошибку привносить

[petera]

ну наверное на самом деле что изменилось в этом мире, раз целочисленные начали в реале ошибку привносить

Так REAL ведь не точные числа
Например при сложении
4 000 000 + 0.005
получим результат 4 000 000

ЗЫ.
Даже
40 000 + 0.005
получим результат 40 000

[lazy]

petera, пока не пробовал, только в фильтре циклов нет для скорости. есть буфер приходящих значений. новое прлюсуецо а старое отнимаецо. как то так:

m_yNew: BYTE := 0;
m_yOld: BYTE;
m_aData: ARRAY [0..255] OF F_DATA;

m_aData[m_yNew].dwX := i_dwX;
m_aData[m_yNew].dnY := i_dnY;

m_yOld := m_yNew - m_yLen; (* m_yLen - глубина *)
m_dnSXY := m_dnSXY + i_dwX * i_dnY - m_aData[m_yOld].dwX * m_aData[m_yOld].dnY;
m_yNew := m_yNew + 1;

поэтому думаю с разделением сумм тоже траблы получацо =(

[BETEP]

Написал некий фильтр в котором суммируются данные в переменной DINT итд, при маленькой глубине фильтра (8-16 значений) все работает,

INT для входящих тоже не вариант так как значения могут быть больше 32767

2147483647 / 16 = 134 217 727

130 миллионов, что такое измеряете? неужели аналоговый сигнал разрешением в 27 бит получаете? или что то напутали всётаки?

[petera]

petera, пока не пробовал, только в фильтре циклов нет для скорости. есть буфер приходящих значений. новое прлюсуецо а старое отнимаецо. как то так:

m_yNew: BYTE := 0;
m_yOld: BYTE;
m_aData: ARRAY [0..255] OF F_DATA;

m_aData[m_yNew].dwX := i_dwX;
m_aData[m_yNew].dnY := i_dnY;

m_yOld := m_yNew - m_yLen; (* m_yLen - глубина *)
m_dnSXY := m_dnSXY + i_dwX * i_dnY - m_aData[m_yOld].dwX * m_aData[m_yOld].dnY;
m_yNew := m_yNew + 1;

поэтому думаю с разделением сумм тоже траблы получацо =(

В структуре F_DATA
dwX: DINT ???
dnY: DINT ???

И m_dnSXY тоже DINT ???

[lazy]

dwX: DWORD
dnY: DINT
m_dnSXY DINT

[lazy]

Вопрос снят. без циклов внутри фильтра все же не обойтись. ту дело еще и в dwX. это миллисекунды. изменяюцо от нуля в плюс с шагом где то около 20. так что долго этот фильтр все равно без переполнения не проработал бы. решение найдено. всем респект )