gmz: (Default)
Михалыч ([personal profile] gmz) wrote2019-09-08 06:16 pm

Мелкомягкая арифметика

Майкрософтовский калькулятор (версия 10.1906.53.0) говорит в инженерном* режиме, что (0 – 1) ^ 2.2 = 1. А ваш как думает?

Проверил на десятке: именно так и думает. Если степень 2.3, то invalid input.

Проверил на семёрке: (0 – 1) ^ 2.2 = -1, при 2.3 тоже invalid input.

* – scientific по-аглицки

akatsija: (Default)

А что именно Вас удивляет?

[personal profile] akatsija 2019-09-08 08:13 pm (UTC)(link)
Степень в действительных числах имеет смысл только при положительном основании.

Вот если бы Вы пытались вычислить (-1 + 0*i)^2.2 - было бы логично ожидать результата (если комплексные числа поддерживаются).

Гораздо удивительнее то, что вообще что-то было вычислено.

--
А.Кац и Я
akatsija: (Default)

Re: А что именно Вас удивляет?

[personal profile] akatsija 2019-09-08 08:53 pm (UTC)(link)
Логично.

--
А.Кац и Я