В Lua нельзя явно указать битность числа.
Но проблема решается очень просто - после сдвига примените маску по "Логическое И" с числом 255 (8 единиц).