Тотальная неудачница и убийца жёстких дисков.
#post-id: 7245-19-05
#original-date: 27.05.2020 Wed
#original-time: 7:05 PM
#original-day: 7245
#original-host: WinXP Home SP3 (Build 2600)
В VB есть два вида деления: обычно и с отбрасыванием дробной части. Ну тоесть:
Сегодня не могла понять, почему у меня при делении двух чисел вместо 255 получается 260. Вроде бы всё должно быть правильно. Были сомнения в точности одного из чисел, но там тогда получилось бы 256 или 254, но не такая разница. Поэкспериментировала, выяснила, что перед делением у чисел отбрасывается дробная часть, потом они делятся, и дробная часть отбрасывается снова. Вот и получилось.
Честно говоря, обычно делю только целые числа и о такой особенности каждый раз очень хорошо забываю =_=
#upd(27.05.2020 - 7:08 PM):
Из справки VB5:
Before division is performed, the numeric expressions are rounded to Byte, Integer, or Long expressions.
#original-date: 27.05.2020 Wed
#original-time: 7:05 PM
#original-day: 7245
#original-host: WinXP Home SP3 (Build 2600)
В VB есть два вида деления: обычно и с отбрасыванием дробной части. Ну тоесть:
Сегодня не могла понять, почему у меня при делении двух чисел вместо 255 получается 260. Вроде бы всё должно быть правильно. Были сомнения в точности одного из чисел, но там тогда получилось бы 256 или 254, но не такая разница. Поэкспериментировала, выяснила, что перед делением у чисел отбрасывается дробная часть, потом они делятся, и дробная часть отбрасывается снова. Вот и получилось.
Честно говоря, обычно делю только целые числа и о такой особенности каждый раз очень хорошо забываю =_=
#upd(27.05.2020 - 7:08 PM):
Из справки VB5:
Before division is performed, the numeric expressions are rounded to Byte, Integer, or Long expressions.