Ноль в нулевой степени

Выражение 0⁰ (ноль в нулевой степени) многие учебники считают неопределённым и лишённым смысла. Связано это с тем, что функция двух переменных $f(x,y)=x^{y}$ в точке $(0,0)$ имеет неустранимый разрыв. В самом деле, вдоль положительного направления оси $X,$ где $y=0,$ она равна единице, а вдоль положительного направления оси $Y,$ где $x=0,$ она равна нулю. Поэтому никакое соглашение о значении 0⁰ не может дать непрерывную в нуле функцию.

График функции z = x^y вблизи x = 0, y = 0

Соглашение 0⁰ = 1: аргументация сторонников

Некоторые авторы предлагают принять соглашение о том, что $0^{0}$ равно 1. В пользу подобного варианта приводятся несколько доводов. Например, разложение в ряд экспоненты:

$e^{x}=1+\sum _{n=1}^{\infty }{\frac {x^{n}}{n!}}$

можно записать короче, если принять $0^{0}=1$:

$e^{x}=\sum _{n=0}^{\infty }{\frac {x^{n}}{n!}}$

(рассматриваемое соглашение используется при $x=0,\ n=0$).

Другое обоснование соглашения $0^{0}=1$ опирается на «Теорию множеств» Бурбаки: число различных отображений n-элементного множества в m-элементное равно $m^{n},$ при $m=n=0$ получаем отображение пустого множества в пустое, а оно единственно. Разумеется, это нельзя считать доказательством (соглашения не нуждаются в доказательствах), тем более что в самой теории множеств соглашение $0^{0}=1$ не используется.

В любом случае соглашение $0^{0}=1$ чисто символическое, и оно не может использоваться ни в алгебраических, ни в аналитических преобразованиях из-за разрывности функции в этой точке, в противном случае может возникнуть ошибка. Пример для аналитических вычислений: функция $f(t)=(a^{-1/t})^{t},$ где $a$ — произвольное положительное вещественное число. При $t\to 0$ мы получаем неопределённость типа $0^{0},$ и, если не отличать тип предела $0^{0}$ (где каждый из нулей обозначает стремление к нулю) и значение $0^{0}$ (где каждый из нулей и есть ноль), можно ошибочно посчитать, что предел равен 1. На самом деле данное выражение тождественно равно $a^{-1}.$ Это означает, что бесконечно малая в бесконечно малой степени может в пределе дать любое значение, не обязательно единицу. Аналогичные ошибки могут быть сделаны, если использовать соглашение в алгебраических преобразованиях.

История различных точек зрения

Дискуссия по поводу определения $0^{0}$ продолжается, по крайней мере, с начала XIX века. Многие математики тогда принимали соглашение $0^{0}=1$, но в 1821 году Коши причислил $0^{0}$ к неопределённостям, таким, как ${\frac {0}{0}}.$ В 1830-х годах Либри опубликовал неубедительный аргумент в пользу $0^{0}=1$ (см. Функция Хевисайда § История), и Мёбиус встал на его сторону, ошибочно заявив, что $\lim _{t\to 0^{+}}f(t)^{g(t)}=1$ всякий раз, когда $\lim _{t\to 0^{+}}f(t)=\lim _{t\to 0^{+}}g(t)=0$. Обозреватель, который подписал своё имя просто как «S», предоставил приведённый выше контрпример $(e^{-1/t})^{t}$, и это немного успокоило дебаты. Больше исторических деталей можно найти в статье Кнута (1992).

Более поздние авторы интерпретируют ситуацию выше по-разному. Часть математиков считает, что $0^{0}$ должно быть определено как 1. Например, Кнут (1992) уверенно утверждает, что $0^{0}$ «должно быть 1», делая различие между значением $0^{0}$, которое должно равняться 1, как это было предложено Либри, и предельной формой $0^{0}$ (аббревиатура для предела $f(x)^{g(x)}$ где $f(x),g(x)\to 0$), что обязательно является неопределённостью, как указано Коши: «И Коши, и Либри были правы, но Либри и его защитники не понимали, почему истина на их стороне». Авторитетный сайт MathWorld, приведя мнение Кнута, всё же констатирует, что обычно значение $0^{0}$ считается неопределённым, несмотря на то, что соглашение $0^{0}=1$ позволяет в некоторых случаях упростить запись формул.

Другие математики утверждают, что наилучшее значение для $0^{0}$ зависит от контекста, и поэтому определение его раз и навсегда проблематично. Согласно Бенсону (1999), «Выбор, следует ли определять $0^{0},$ основан на удобстве, а не на правильности. Если мы воздержимся от определения $0^{0}$, то некоторые утверждения становятся излишне неудобными. <…> Консенсус заключается в использовании определения $0^{0}=1$, хотя есть учебники, которые воздерживаются от определения $0^{0}$».

В России Большая российская энциклопедия, Большая советская энциклопедия, Математический энциклопедический словарь, Справочник по элементарной математике Выгодского, школьные учебники и другие источники однозначно характеризуют $0^{0}$ как выражение, не имеющее смысла (неопределённость).

Раскрытие неопределённости 0⁰

Если даны две функции $f(x)$ и $g(x)$, которые стремятся к нулю, то предел $f(x)^{g(x)}$ в общем случае, как показано выше, может быть любым. Таким образом, с этой точки зрения $0^{0}$ является неопределённостью. Для нахождения предела $f(x)^{g(x)}$ в этом случае пользуются методами раскрытия неопределённости — как правило, сначала взяв логарифм от данного выражения:

$\ln \left(f(x)^{g(x)}\right)={\frac {g(x)}{\frac {1}{\ln f(x)}}}$,

а потом воспользовавшись правилом Лопиталя.

Однако при определённых условиях этот предел будет действительно равен единице. А именно: если функции $f$ и $g$ являются аналитическими в точке $0$ (то есть в некоторой окрестности точки $0$ совпадают со своим рядом Тейлора), и $f(0)=g(0)=0$, а $f(x)>0$ в окрестности $(0,\delta )$, то предел $f(x)^{g(x)}$ при $x$ стремящемся к нулю справа равен 1.

Например, таким образом можно сразу убедиться, что

$\lim _{x\to 0^{+}}x^{x}=1,$

$\lim _{x\to 0^{+}}(\sin x)^{\operatorname {tg} x}=1,$

$\lim _{x\to 0^{+}}\left(e^{x+1}-e\right)^{x}=1.$

При этом надо не забывать, что если хотя бы одна из функций не разлагается в ряд Тейлора в точке 0 или $f(x)$ тождественно равен 0, то предел может быть любым, или может не существовать. Например,

$\lim _{x\to 0^{+}}x^{a/\ln x}=e^{a},$

$\lim _{x\to 0^{+}}\left(e^{-1/x}\right)^{x}=e^{-1},$

$\lim _{x\to 0^{+}}0^{x}=0.$

Комплексный случай

Для комплексных чисел $u,v$ выражение вида $u^{v}$ для $u\neq 0$ многозначно и определяется как $e^{v\operatorname {Ln} u}$, Однако комплексный логарифм $\operatorname {Ln} 0$ не определён ни в какой своей ветви, и это лишает смысла любое соглашение не только для $0^{0},$ но и для любого $0^{z},$ хотя часть авторов предлагает при $z\neq 0$ принять соглашение $0^{z}=0$.

В компьютерах

Стандарт IEEE 754-2008, описывающий формат представления чисел с плавающей запятой, определяет три функции возведения в степень:

• Функция для возведения в целую степень: $\operatorname {pown} (x,y)$. Согласно стандарту, $\operatorname {pown} (x,0)=1$ для любого $x$, в том числе, когда $x$ равен нулю, NaN или бесконечности.
• Функция для возведения в произвольную степень: $\operatorname {powr} (x,y)$ — по сути равная $\exp {\big (}y\ln(x){\big )}$. Согласно стандарту, $\operatorname {powr} (\pm 0,\pm 0)$ возвращает значение «не число» NaN.
• Функция для возведения в произвольную степень, которая особо определена для целых чисел: $\operatorname {pow} (x,y)$. Согласно стандарту, $\operatorname {pow} (x,\pm 0)=1$ для всех $x$ (так же, как и $\operatorname {pown} (x,0)$). Данное соглашение в целом имеет разумное обоснование (см. ниже), однако вопрос может вызывать случай, когда x=NaN.

Во многих языках программирования ноль в нулевой степени равен 1. Например, в C++: pow(0, 0) == 1, в языке Haskell это верно для всех трёх стандартных операций возведения в степень: 0^0 == 1, 0^^0 == 1, 0**0 == 1. То же касается и стандартного калькулятора MS Windows.

Хотя общеизвестно, что $0^{0}$ — это неопределённость, поведение некоторых функций, возвращающих в данном случае $1$, не является результатом соглашения или ошибкой, оно имеет логическое обоснование. Дело в том, что в компьютерной арифметике числовые данные подразделяются на целые и вещественные. Это может неявно использоваться в некоторых функциях, реализующих операцию возведения в степень. Например, так сделано в калькуляторе Windows и функции pow в C++. Для целого и вещественного показателя степени используются различные алгоритмы, и функция возведения в степень анализирует показатель: если он равен целому числу, то вычисление степени идёт по другому алгоритму, в котором отрицательные и нулевое основания степени являются допустимыми. Если показатель степени принадлежит множеству целых чисел и равен 0, а основание - вещественное число, то операцию $0^{0}$ следует определять не иначе как $\lim _{x\to 0}x^{0}$. Поскольку 0 в показателе точный, предельный переход касается только основания и (в отличие от случая, когда показатель тоже вещественный) определён однозначно и равен $1$. Сказанное в полной мере относится и к случаю вычисления выражения $(\pm \infty )^{0}$.

Литература

• Степенная функция // Большая советская энциклопедия. — М.: Советская энциклопедия, 1969—1978.
• Степенная функция : [арх. 19 октября 2022] // Большая российская энциклопедия : [в 35 т.] / гл. ред. Ю. С. Осипов. — М. : Большая российская энциклопедия, 2004—2017.