gmz | Мелкомягкая арифметика

Entry tags:

арифметика,
программирование

Мелкомягкая арифметика

Майкрософтовский калькулятор (версия 10.1906.53.0) говорит в инженерном* режиме, что (0 – 1) ^ 2.2 = 1. А ваш как думает?

Проверил на десятке: именно так и думает. Если степень 2.3, то invalid input.

Проверил на семёрке: (0 – 1) ^ 2.2 = -1, при 2.3 тоже invalid input.

* – scientific по-аглицки