Ошибки, связанные с конечной разрядностью арифметики

content Янв 14, 2019 0 Комментарии

Как было показано, целочисленная арифметика в ограниченном числе разрядов несколько отличается от обычной. При выполнении арифметических действий в целочисленной k-разрядной арифметике возможно возникновение следующих ошибок: левые цифры результата, выходящие за…