Предел последовательности 🎯

Запусти обучение любой модели и смотри на кривую лосса. Первые шаги — обвал: было $2{,}31$, стало $1{,}44$, потом $0{,}98$. Дальше падение замедляется: $0{,}71$, $0{,}62$, $0{,}58$, $0{,}561$, $0{,}5548$, $0{,}55211$. Числа не стоят на месте, но и никуда больше не уходят — они прижимаются к какому-то значению около $0{,}55$. И вот тут появляется вопрос, который в реальной работе стоит денег: обучение уже закончилось или ещё нет? Модель вышла на плато или продолжает медленно улучшаться? Через сколько эпох разница станет меньше, чем шум от случайного сида?

Все три вопроса — про одно и то же математическое понятие. Мы уже несколько уроков подряд ходим вокруг него и говорим «члены становятся сколь угодно малыми», «числа упираются в потолок», «прогрессия затухает, но нуля не достигает». В уроке 128 про геометрическую прогрессию сумма $1 + \frac12 + \frac14 + \dots$ подбиралась к двойке и никак не могла её перешагнуть. В уроке 112 числа $\left(1+\frac{1}{n}\right)^n$ упирались в $2{,}718281828\ldots$, и я честно предупредил: строгого языка для слова «упирались» у нас пока нет. Сегодня мы его получаем.

Понятие называется предел последовательности. Его вклад в математику примерно такой же, как вклад системы типов в язык программирования: сама по себе идея «числа приближаются» интуитивно понятна и без формализма, но пока она не записана строго, невозможно ни доказать теорему, ни поймать ошибку, ни отличить «сошлось» от «выглядит, будто сошлось». Формальное определение предела выглядит пугающе — две кванторные конструкции подряд, буквы $\varepsilon$ и $N$. Но за ним стоит очень простая мысль, и мы к ней подойдём постепенно: сначала на пальцах, потом на таблицах, и только потом на кванторах.

Важная оговорка о границах темы. Сегодня речь только о пределе последовательности — то есть о поведении набора чисел $a_1, a_2, a_3, \dots$, занумерованных натуральными числами. Предел функции — родственное, но другое понятие, и оно ждёт в уроке 131. Так что весь урок мы работаем ровно с тем объектом, который построили в уроках 126–128.

🎯 Ты узнаешь:

• Что на самом деле значит «последовательность стремится к числу» и почему обиходной формулировки недостаточно
• Как читать и как применять определение через $\varepsilon$ и $N$ — построчно, без магии
• Почему предел не может быть двумя разными числами и почему всякая сходящаяся последовательность ограничена
• Как считать пределы, не возвращаясь каждый раз к определению: арифметика пределов и приём «делим на старшую степень»
• Что такое бесконечно малая и почему это самый удобный рабочий инструмент во всей теме
• Почему монотонная ограниченная последовательность обязана сходиться (признак Вейерштрасса) — и как из этого рождается число $e$
• Как всё это превращается в критерий останова обучения, анализ сходимости градиентного спуска и расписание затухания learning rate

История: откуда это взялось?

Идея предела старше своего определения на две тысячи лет. Ещё в V веке до н. э. Зенон Элейский сформулировал парадоксы, которые бьют ровно в это место: Ахиллес не догонит черепаху, потому что пока он пробегает расстояние до неё, она успевает отползти, и так бесконечно много раз. Отрезки, которые пробегает Ахиллес, образуют геометрическую прогрессию с $q < 1$ — ту самую, что мы считали в прошлом уроке. Грекам не хватало ровно одного: способа сказать «бесконечно много слагаемых дают конечную сумму» так, чтобы это было не поэтической метафорой, а проверяемым утверждением. Евдокс Книдский и позже Архимед подошли очень близко — их «метод исчерпывания» вычислял площадь круга через вписанные многоугольники с растущим числом сторон, и логика там была буквально предельная. Но записать её в общем виде они не могли.

В XVII веке Ньютон и Лейбниц построили матанализ, и он блестяще работал — вот только на вопрос «а что такое бесконечно малая величина?» ответа не было. Ньютон говорил о «последнем отношении исчезающих величин», Лейбниц оперировал бесконечно малыми $dx$ как числами, которые одновременно и не нули, и меньше любого положительного числа. Философ Джордж Беркли в 1734 году язвительно назвал их «призраками почивших величин» — и был прав по существу: аппарат давал верные ответы, но обоснования у него не было. Полтора века математика жила на этом противоречии, пока накопившиеся парадоксы не потребовали ремонта фундамента.

Ремонт сделали в XIX веке. Огюстен Луи Коши в «Курсе анализа» (1821) первым дал определение, близкое к современному: «Когда значения, последовательно приписываемые одной переменной, неограниченно приближаются к фиксированному значению так, что в конце концов отличаются от него сколь угодно мало, это последнее называют пределом всех остальных». Слова «сколь угодно мало» здесь ключевые, но у Коши они всё ещё были словами. Финальную полировку выполнил Карл Вейерштрасс в берлинских лекциях 1860-х годов: он заменил все словесные обороты на неравенства с $\varepsilon$ и $N$, убрав из определения любые следы движения и времени. Именно вейерштрассовскую формулировку ты прочтёшь ниже — ей сто шестьдесят лет, и она не изменилась ни на символ.

Мостик в сегодня прямой. Каждый раз, когда численный метод объявляют сходящимся, когда в статье пишут «алгоритм сходится со скоростью $O(1/n)$», когда в коде стоит условие while abs(loss_prev - loss) > tol, — работает язык Коши и Вейерштрасса. Более того, вся теория оптимизации, на которой стоит машинное обучение, — это по сути каталог ответов на вопрос «к чему и как быстро сходится вот эта последовательность приближений».

Что значит «стремится»: интуиция сходимости

Интуиция: игра с придирчивым заказчиком

Представь, что ты сдаёшь заказчику алгоритм, который итеративно уточняет какое-то число. Заказчик подозрителен и играет так: он называет допуск, а ты обязан показать, с какого шага алгоритм в этот допуск уложился и больше из него не вылезает.

Пусть твой алгоритм выдаёт последовательность $a_n = 3 + \frac{1}{n}$, то есть $4;\ 3{,}5;\ 3{,}333\ldots;\ 3{,}25;\ \dots$ Ты утверждаешь, что она стремится к тройке. Игра:

Заказчик может называть какие угодно допуски — хоть $10^{-100}$, — и у тебя всегда найдётся ответ: возьми $n$ больше, чем $\frac{1}{\varepsilon}$. Вот это «на любой допуск найдётся номер» и есть содержание слова «стремится».

А теперь другой алгоритм: $b_n = (-1)^n$, то есть $-1;\ 1;\ -1;\ 1;\dots$ Ты пытаешься утверждать, что он стремится к нулю. Заказчик говорит: «Отличайся от нуля меньше чем на $0{,}5$». И ты проигрываешь: сколько бы шагов ты ни отсчитал, дальше всегда будут члены, равные $1$ и $-1$, а они отстоят от нуля на единицу. Игра проиграна — предела нет.

Заметь три тонкости, которые видны уже из этой игры.

Первая: важен только хвост. Тебе никто не запрещает иметь сколь угодно дикое начало. Последовательность $1000;\ -500;\ 42;\ 3{,}1;\ 3{,}01;\ 3{,}001;\ \dots$ прекрасно стремится к трём — первые три члена ни на что не влияют. Предел — это свойство бесконечного хвоста, а не первых элементов.

Вторая: «попали и остались». Недостаточно один раз залезть внутрь допуска. Последовательность $\frac{1}{n}$ для чётных $n$ и $5$ для нечётных бесконечно много раз оказывается близко к нулю — и всё равно предела не имеет, потому что бесконечно много раз оттуда вылетает.

Третья: достигать не обязательно. Ни один член последовательности $3 + \frac1n$ не равен трём. Предел — это не «значение, которое принимается», а «значение, около которого сгущаются». Постоянная последовательность $a_n = 3$ тоже имеет предел $3$ — но это частный случай, а не общее правило.

Первое, наглядное определение

Определение (наглядное): Число $L$ называют пределом последовательности $(a_n)$, если для любой, сколь угодно малой окрестности числа $L$ найдётся номер, начиная с которого все члены последовательности лежат в этой окрестности.

Записывают так:

Последовательность, у которой предел существует, называют сходящейся. Если предела нет — расходящейся.

Слово «окрестность» здесь можно понимать буквально как полосу на графике. Нарисуй точки $(n;\ a_n)$ и горизонтальную прямую $y = L$. Возьми полосу шириной $2\varepsilon$ вокруг этой прямой — от $L - \varepsilon$ до $L + \varepsilon$. Сходимость означает: как бы узко ты ни сжал полосу, вне её останется лишь конечное число точек, а весь бесконечный хвост окажется внутри.

Именно эта картинка — «полоса и хвост внутри неё» — и есть содержание всей темы. Формальное определение, к которому мы сейчас перейдём, просто переводит её на язык неравенств.

Строгое определение: язык $\varepsilon$–$N$

Как переводится картинка

Разберём перевод по частям.

«Число $a_n$ лежит в полосе вокруг $L$ полуширины $\varepsilon$» означает $L - \varepsilon < a_n < L + \varepsilon$, а это то же самое, что $|a_n - L| < \varepsilon$. Модуль разности — это расстояние между числами на прямой, так что неравенство читается как «расстояние от $a_n$ до $L$ меньше $\varepsilon$».

«Начиная с некоторого номера» означает: существует натуральное $N$ такое, что условие выполнено для всех $n > N$.

«Для любой сколь угодно узкой полосы» означает: для всякого $\varepsilon > 0$.

Собираем всё вместе.

Определение (Коши–Вейерштрасса): Число $L$ называется пределом последовательности $(a_n)$, если для любого $\varepsilon > 0$ существует такой номер $N$ (вообще говоря, зависящий от $\varepsilon$), что для всех номеров $n > N$ выполняется неравенство

$$|a_n - L| < \varepsilon.$$

В кванторной записи: $\ \forall \varepsilon > 0 \ \ \exists N \in \mathbb{N} \ \ \forall n > N: \ |a_n - L| < \varepsilon$.

Порядок кванторов принципиален и является главным источником недопонимания. Сначала дают $\varepsilon$ — произвольное, не тобой выбранное. Потом ты ищешь $N$, и оно имеет право зависеть от $\varepsilon$: чем строже допуск, тем дальше приходится уходить по номерам. И только потом идёт утверждение про все $n > N$ сразу.

Полезно смотреть на это как на функцию: определение требует существования отображения $\varepsilon \mapsto N(\varepsilon)$. Доказать сходимость — значит эту функцию предъявить. Например, для $a_n = 3 + \frac1n$ подходит $N(\varepsilon) = \left[\frac{1}{\varepsilon}\right]$, где квадратные скобки — целая часть.

📌 Две технические ремарки, которые снимают половину вопросов.

Во-первых, $N$ не обязано быть наименьшим возможным. Если условие выполняется с $N = 100$, то оно выполняется и с $N = 10^{6}$. Задача «найди минимальное $N$» — это отдельная арифметическая задача, а для доказательства сходимости годится любая грубая оценка. Это очень облегчает жизнь: можно смело усиливать неравенства.

Во-вторых, достаточно проверять малые $\varepsilon$. Если ты умеешь удовлетворить требование при $\varepsilon = 0{,}001$, то при $\varepsilon = 5$ то же самое $N$ подходит автоматически. Поэтому в доказательствах всегда мысленно считают $\varepsilon$ маленьким.

Отрицание: что значит «предела нет»

Чтобы доказать расходимость, определение надо аккуратно отрицать. Меняем кванторы на противоположные:

Определение: Число $L$ не является пределом последовательности $(a_n)$, если существует такое $\varepsilon_0 > 0$, что для любого номера $N$ найдётся номер $n > N$, для которого $|a_n - L| \geqslant \varepsilon_0$.

По-человечески: есть один «плохой» допуск, из которого последовательность вылетает бесконечно много раз. Именно так мы разоблачали $(-1)^n$: плохой допуск $\varepsilon_0 = 0{,}5$, и сколько бы далеко мы ни ушли, впереди всегда найдутся члены на расстоянии $1$ от предполагаемого предела.

Пример 1 (простой): $\lim\limits_{n\to\infty} \dfrac{1}{n} = 0$

Возьмём произвольное $\varepsilon > 0$. Нужно найти $N$, после которого $\left|\frac1n - 0\right| < \varepsilon$.

Шаг 1. Упрощаем модуль: при натуральном $n$ дробь $\frac1n$ положительна, значит $\left|\frac1n\right| = \frac1n$.

Шаг 2. Решаем неравенство $\frac1n < \varepsilon$ относительно $n$. Обе части положительны, умножаем на $n$ и делим на $\varepsilon$:

Шаг 3. Предъявляем номер: берём $N = \left[\frac{1}{\varepsilon}\right] + 1$. Тогда для всякого $n > N$ автоматически $n > \frac1\varepsilon$, и требуемое неравенство выполнено.

Шаг 4. Проверяем на конкретном числе. Пусть $\varepsilon = 0{,}004$. Тогда $\frac{1}{\varepsilon} = 250$, берём $N = 251$. Действительно, $a_{251} = \frac{1}{251} \approx 0{,}003984 < 0{,}004$ ✅

Определение выполнено для любого $\varepsilon$, значит $\lim\limits_{n\to\infty}\frac1n = 0$.

Пример 2 (средний): $\lim\limits_{n\to\infty} \dfrac{2n+1}{n+3} = 2$

Здесь предел уже не ноль, и модуль придётся сворачивать.

Шаг 1. Считаем разность и приводим к общему знаменателю:

Заметь, как «сработала» дробь: $n$ в числителе сократился полностью, и осталась убывающая величина. Это типичная картина для дробей, у которых степени числителя и знаменателя совпадают.

Шаг 2. Требуем $\frac{5}{n+3} < \varepsilon$, откуда $n + 3 > \frac{5}{\varepsilon}$, то есть $n > \frac{5}{\varepsilon} - 3$.

Шаг 3. Берём $N = \left[\frac{5}{\varepsilon}\right]$ — это заведомо больше, чем $\frac{5}{\varepsilon} - 3$, а большего нам и не нужно (помнишь: $N$ не обязано быть минимальным).

Шаг 4. Проверка при $\varepsilon = 0{,}01$: $N = 500$. Считаем $a_{501} = \frac{1003}{504} \approx 1{,}99008$, отличие от двойки $\approx 0{,}00992 < 0{,}01$ ✅

Пример 3 (сложный): $\lim\limits_{n\to\infty} q^{\,n} = 0$ при $|q| < 1$

Это утверждение мы фактически использовали в уроке 128, когда говорили «при $|q|<1$ члены прогрессии затухают». Пора его доказать — приём здесь красивый и пригодится ещё не раз.

Шаг 1. Случай $q = 0$ тривиален: все члены равны нулю. Пусть $0 < |q| < 1$.

Шаг 2. Раз $|q| < 1$, число $\frac{1}{|q|}$ больше единицы, и его можно записать как $1 + h$, где

Шаг 3. Применяем неравенство Бернулли: для любого $h > 0$ и натурального $n$

Оно очевидно при $n=1$ и дальше усиливается на каждом шаге: домножая обе части на $(1+h)$, получаем $(1+h)^{n+1} \geqslant (1+nh)(1+h) = 1 + (n+1)h + nh^2 \geqslant 1 + (n+1)h$.

Шаг 4. Отсюда

Шаг 5. Теперь берём произвольное $\varepsilon > 0$ и требуем $\frac{1}{nh} < \varepsilon$, то есть $n > \frac{1}{h\varepsilon}$. Значит, годится $N = \left[\frac{1}{h\varepsilon}\right] + 1$.

Шаг 6. Проверка числами. Пусть $q = 0{,}9$, тогда $h = \frac{1}{0{,}9} - 1 = \frac19 \approx 0{,}1111$. Для $\varepsilon = 0{,}01$ формула даёт $N = \left[\frac{1}{0{,}1111 \cdot 0{,}01}\right] + 1 = 901$. Оценка грубая: на самом деле $0{,}9^{44} \approx 0{,}0097 < 0{,}01$ уже с 44-го шага. Но для доказательства грубость не помеха — нам нужен хоть какой-то номер, а не лучший.

Ответ: $q^n \to 0$ при $|q| < 1$; при $|q| > 1$ последовательность неограниченно растёт по модулю; при $q = 1$ она постоянна и стремится к $1$; при $q = -1$ предела нет.

Почему это важно

Определение через $\varepsilon$ и $N$ выглядит как формальная церемония, но оно решает совершенно практическую задачу: даёт проверяемый критерий там, где интуиция врёт. Интуиция уверенно говорит, что последовательность $\ln n$ растёт «почти как константа» — числа-то меняются на сотые доли, — а на самом деле она неограниченно уходит вверх. Интуиция говорит, что если разности соседних членов стремятся к нулю, то последовательность сходится, — а это неправда, и в задании 30 ты увидишь контрпример, который стоит запомнить на всю жизнь. Единственный способ не попасться — свести вопрос к неравенству и посчитать.

Есть и прямая инженерная польза. Функция $N(\varepsilon)$ — это ровно ответ на вопрос «сколько итераций нужно для заданной точности». Когда в статье пишут, что метод сходится со скоростью $O(1/n)$, это означает $N(\varepsilon) \sim \frac{C}{\varepsilon}$: чтобы улучшить точность в 10 раз, нужно в 10 раз больше шагов. А «линейная сходимость» — это $|a_n - L| \leqslant Cq^n$, откуда $N(\varepsilon) \sim \frac{\ln(1/\varepsilon)}{\ln(1/q)}$: улучшение точности в 10 раз стоит фиксированной добавки к числу шагов. Разница между этими двумя режимами — разница между часом и неделей вычислений.

Расходимость: как последовательность может не иметь предела

Не всякая последовательность сходится, и полезно понимать, какими именно способами она может «сломаться». Способов ровно два.

Способ первый: неограниченный рост. Последовательность $a_n = n^2$ или $a_n = 2^n$ уходит в бесконечность. Никакого числа $L$ рядом с ней нет и быть не может.

Определение: Последовательность $(a_n)$ называется бесконечно большой, если для любого числа $M > 0$ найдётся номер $N$ такой, что $|a_n| > M$ для всех $n > N$. Пишут $a_n \to \infty$.

Обрати внимание: запись $\lim a_n = \infty$ — это удобное сокращение, а не утверждение о существовании предела. Бесконечность не число, и такая последовательность считается расходящейся. Если вдобавок все члены с некоторого места положительны, пишут $a_n \to +\infty$.

Способ второй: колебания. Последовательность $b_n = (-1)^n$ ограничена (все члены лежат между $-1$ и $1$), но предела не имеет: она бесконечно долго прыгает между двумя значениями. То же самое с $c_n = \sin n$ — эти числа плотно заполняют отрезок $[-1;\ 1]$ и никуда не сходятся.

Есть и комбинированный вариант: $d_n = (-1)^n \cdot n$ даёт $-1;\ 2;\ -3;\ 4;\ \dots$ — и не ограничена, и колеблется.

Очень удобный инструмент для доказательства расходимости — подпоследовательности. Если из последовательности выбрать члены с номерами $n_1 < n_2 < n_3 < \dots$, получится новая последовательность. Ключевой факт: если исходная последовательность сходится к $L$, то любая её подпоследовательность сходится к тому же $L$ (это следует прямо из определения: условие выполнено для всех $n > N$, значит и для выбранных). Отсюда рабочий приём: нашёл две подпоследовательности с разными пределами — предела нет.

Для $(-1)^n$: чётные номера дают одни единицы (предел $1$), нечётные — одни минус единицы (предел $-1$). Пределы разные, значит исходная последовательность расходится. Три строчки вместо возни с отрицанием определения.

Единственность предела и ограниченность

Два первых свойства, которые нужно доказать про любой новый объект, — «а он вообще один?» и «а он не может быть каким угодно?». Для предела ответы такие: предел единственный, и сходящаяся последовательность обязательно ограничена.

Теорема о единственности

Теорема: Если последовательность имеет предел, то этот предел единственный.

Доказательство (от противного). Предположим, что $a_n \to L_1$ и одновременно $a_n \to L_2$, причём $L_1 \neq L_2$. Тогда расстояние между ними положительно, и мы можем взять

Это ровно половина расстояния между кандидатами — то есть две полосы полуширины $\varepsilon$ вокруг $L_1$ и вокруг $L_2$ не пересекаются.

Из $a_n \to L_1$ найдётся $N_1$: при $n > N_1$ выполняется $|a_n - L_1| < \varepsilon$. Из $a_n \to L_2$ найдётся $N_2$: при $n > N_2$ выполняется $|a_n - L_2| < \varepsilon$.

Возьмём любой номер $n$, больший обоих: $n > \max(N_1, N_2)$. Тогда член $a_n$ обязан лежать сразу в двух непересекающихся полосах — что невозможно. Формально:

Получили $|L_1 - L_2| < |L_1 - L_2|$ — противоречие. Значит, $L_1 = L_2$. ∎

Приём «взять $\varepsilon$ равным половине расстояния» — классика, он встречается в анализе десятки раз. Запомни его как готовый ход.

Теорема об ограниченности

Теорема: Всякая сходящаяся последовательность ограничена: существует число $C$ такое, что $|a_n| \leqslant C$ для всех $n$.

Доказательство. Пусть $a_n \to L$. Возьмём конкретное значение $\varepsilon = 1$ (определение работает для любого, а нам удобно это). Найдётся $N$ такое, что при $n > N$ выполняется $|a_n - L| < 1$, откуда по неравенству треугольника

Итак, весь бесконечный хвост зажат числом $|L| + 1$. А снаружи осталось конечное число членов: $a_1, a_2, \dots, a_N$. Конечный набор всегда ограничен — просто возьмём наибольший из модулей. Положим

Тогда $|a_n| \leqslant C$ для всех $n$ без исключения. ∎

Логика здесь стоит того, чтобы её усвоить: хвост контролируется пределом, начало — тем, что его конечно много. Этот приём «разрежем последовательность на хвост и конечный кусок» работает во множестве задач.

Обратное неверно — и это важно

Ограниченность не влечёт сходимость. Контрпример у нас уже есть: $(-1)^n$ ограничена единицей, а предела не имеет. Так что теорема об ограниченности — это только необходимое условие, а не критерий.

Зато в отрицательной форме она работает отлично: если последовательность не ограничена, она точно расходится. Проверить неограниченность обычно проще, чем возиться с определением.

Пример 1 (простой)

Сходится ли $a_n = \frac{n^2 + 1}{n}$?

Шаг 1. Упростим: $a_n = n + \frac1n$.

Шаг 2. Оценим снизу: $a_n > n$ для всех $n$, а числа $n$ неограниченно растут.

Шаг 3. Значит, последовательность не ограничена сверху, и по теореме об ограниченности сходиться не может.

Ответ: расходится (бесконечно большая, $a_n \to +\infty$).

Пример 2 (средний)

Может ли последовательность $a_n = \frac{(-1)^n n}{n+1}$ иметь предел?

Шаг 1. Она ограничена: $\left|\frac{(-1)^n n}{n+1}\right| = \frac{n}{n+1} < 1$. Так что теорема об ограниченности запрета не даёт — нужен другой инструмент.

Шаг 2. Смотрим подпоследовательности. При чётных $n = 2k$: $a_{2k} = \frac{2k}{2k+1} \to 1$ (числитель и знаменатель отличаются на единицу, отношение прижимается к единице).

Шаг 3. При нечётных $n = 2k+1$: $a_{2k+1} = -\frac{2k+1}{2k+2} \to -1$.

Шаг 4. Две подпоследовательности имеют разные пределы $1$ и $-1$, значит предела у исходной последовательности нет.

Ответ: предела нет, последовательность ограничена, но расходится.

Пример 3 (сложный)

Известно, что $a_n \to 5$. Докажи, что начиная с некоторого номера все члены положительны и больше $4$.

Шаг 1. Формализуем задачу: нужно найти $N$, после которого $a_n > 4$.

Шаг 2. Подберём $\varepsilon$ так, чтобы полоса вокруг пятёрки целиком лежала правее четвёрки. Расстояние от $5$ до $4$ равно единице, значит годится любое $\varepsilon \leqslant 1$; возьмём $\varepsilon = \frac12$.

Шаг 3. По определению предела для $\varepsilon = \frac12$ найдётся номер $N$ такой, что при $n > N$ выполнено $|a_n - 5| < \frac12$, то есть

Шаг 4. В частности, $a_n > 4{,}5 > 4 > 0$ для всех $n > N$.

Ответ: такой номер существует; более того, доказанное свойство общее — если предел последовательности положителен, то все члены с некоторого места положительны. Именно поэтому в формулировках теорем про частное пределов требуют $\lim b_n \neq 0$, а не «все $b_n \neq 0$»: ненулевой предел сам гарантирует, что хвост от нуля отделён.

Почему это важно

Единственность предела — это то, что позволяет вообще говорить «предел равен» и писать знак равенства. Без неё запись $\lim a_n = L$ была бы бессмысленной.

Теорема об ограниченности постоянно используется как быстрый детектор расходимости: увидел, что величина неограниченно растёт, — сразу вывод, никаких вычислений. В обучении моделей это ровно ситуация «лосс улетел в nan»: последовательность неограниченна, значит процесс не сходится, и дальше можно не ждать. А следствие из третьего примера — про сохранение знака — это математическая основа многих проверок вида «если метрика сходится к положительному значению, то с некоторой эпохи она гарантированно положительна».

Бесконечно малые: главный рабочий инструмент

Интуиция

Всё, что мы делали, сводилось к оценке величины $|a_n - L|$ — расстояния до предела. У этой величины есть имя и своя маленькая алгебра, которая сильно упрощает жизнь.

Определение: Последовательность $(\alpha_n)$ называется бесконечно малой, если $\lim\limits_{n\to\infty}\alpha_n = 0$. То есть для любого $\varepsilon > 0$ найдётся $N$: при $n > N$ выполняется $|\alpha_n| < \varepsilon$.

Примеры бесконечно малых: $\frac1n$, $\frac{1}{n^2}$, $\frac{(-1)^n}{n}$, $0{,}9^n$, $\frac{1}{\ln n}$ (при $n \geqslant 2$), $\frac{5}{n+3}$.

🚨 Важно не путать: бесконечно малая — это последовательность, а не число. Никакого «бесконечно малого числа» в математике нет, и все споры XVIII века закончились именно на этом. $0{,}001$ — не бесконечно малая, это просто маленькое число.

Связь с пределом

Лемма: $a_n \to L$ тогда и только тогда, когда $a_n = L + \alpha_n$, где $(\alpha_n)$ — бесконечно малая.

Доказательство состоит из одного наблюдения: условие $|a_n - L| < \varepsilon$ и условие $|\alpha_n - 0| < \varepsilon$ при $\alpha_n = a_n - L$ — это буквально одно и то же неравенство. ∎

Практическая ценность огромна: любое утверждение про пределы можно переписать в терминах бесконечно малых, а с ними работать проще, потому что у них есть удобные свойства.

Свойства бесконечно малых

Свойство 1. Сумма двух бесконечно малых — бесконечно малая.

Доказательство. Пусть $\alpha_n \to 0$ и $\beta_n \to 0$. Дано $\varepsilon > 0$. Возьмём половинку: по определению найдётся $N_1$, при $n > N_1$ имеем $|\alpha_n| < \frac{\varepsilon}{2}$; найдётся $N_2$, при $n > N_2$ имеем $|\beta_n| < \frac{\varepsilon}{2}$. При $n > \max(N_1, N_2)$:

Приём «взять $\frac{\varepsilon}{2}$ для каждого слагаемого» — второй классический ход после «половины расстояния». По индукции отсюда следует, что сумма любого фиксированного числа бесконечно малых бесконечно мала. Слово «фиксированного» здесь не украшение: сумма $n$ штук величин $\frac1n$ равна единице и никуда не стремится.

Свойство 2. Произведение ограниченной последовательности на бесконечно малую — бесконечно малая.

Доказательство. Пусть $|b_n| \leqslant C$ для всех $n$ (можно считать $C > 0$) и $\alpha_n \to 0$. Дано $\varepsilon > 0$. Найдётся $N$: при $n > N$ выполняется $|\alpha_n| < \frac{\varepsilon}{C}$. Тогда

Это свойство — рабочая лошадка. Из него сразу: $\frac{\sin n}{n} \to 0$ (синус ограничен единицей, $\frac1n$ бесконечно мала), $\frac{(-1)^n}{n^2} \to 0$, $\frac{\cos(n!)}{\sqrt{n}} \to 0$. Никаких оценок вручную.

Следствие: произведение двух бесконечно малых бесконечно мало (сходящаяся последовательность ограничена — а бесконечно малая сходится).

Пример 1 (простой)

Докажи, что $\alpha_n = \frac{3}{n} + \frac{(-1)^n}{n^2}$ — бесконечно малая.

Шаг 1. $\frac3n = 3 \cdot \frac1n$ — произведение ограниченной (постоянной) последовательности на бесконечно малую, значит бесконечно малая.

Шаг 2. $\frac{(-1)^n}{n^2} = (-1)^n \cdot \frac{1}{n^2}$ — произведение ограниченной последовательности $(-1)^n$ на бесконечно малую $\frac{1}{n^2}$, значит бесконечно малая.

Шаг 3. Сумма двух бесконечно малых бесконечно мала.

Ответ: $\alpha_n \to 0$.

Пример 2 (средний)

Найди $\lim\limits_{n\to\infty} \frac{4n + \sin n}{n}$.

Шаг 1. Разделим почленно: $\frac{4n + \sin n}{n} = 4 + \frac{\sin n}{n}$.

Шаг 2. Величина $\frac{\sin n}{n}$ — бесконечно малая по свойству 2.

Шаг 3. По лемме о представлении $a_n = 4 + \alpha_n$ с бесконечно малой $\alpha_n$ означает $a_n \to 4$.

Ответ: $4$.

Пример 3 (сложный)

Докажи, что если $\alpha_n$ — бесконечно малая, а $b_n \to L \neq 0$, то $\frac{\alpha_n}{b_n}$ — бесконечно малая.

Шаг 1. Ключевая трудность: делить на $b_n$ можно, только если знаменатель не подбирается к нулю. Покажем, что он отделён от нуля.

Шаг 2. Применим определение предела к $\varepsilon = \frac{|L|}{2} > 0$: найдётся $N_0$ такое, что при $n > N_0$ выполнено $|b_n - L| < \frac{|L|}{2}$. Тогда

Шаг 3. Значит, при $n > N_0$ величина $\frac{1}{|b_n|} < \frac{2}{|L|}$ — то есть последовательность $\frac{1}{b_n}$ ограничена на хвосте.

Шаг 4. Произведение ограниченной на бесконечно малую бесконечно мало, поэтому $\frac{\alpha_n}{b_n} = \alpha_n \cdot \frac{1}{b_n} \to 0$.

Ответ: доказано. Попутно мы получили лемму, которая понадобится в следующем разделе: если $b_n \to L \neq 0$, то на некотором хвосте $|b_n| > \frac{|L|}{2}$.

Почему это важно

Язык бесконечно малых превращает громоздкие $\varepsilon$-$N$-выкладки в короткую алгебру. Вместо того чтобы каждый раз строить $N(\varepsilon)$, ты раскладываешь выражение на «главную часть плюс бесконечно малая» и читаешь ответ.

Ровно эта же логика лежит в основе анализа численных методов: погрешность записывают как $O(h^2)$ или $O(1/n)$, и все рассуждения ведут в терминах порядка малости, а не конкретных констант. И когда в машинном обучении говорят «этот член пренебрежимо мал по сравнению с тем», за фразой стоит сравнение бесконечно малых — тема, которую подробно разбирают в вузовском курсе (урок 182).

Арифметика пределов

Считать каждый предел по определению — как складывать числа через аксиомы Пеано: возможно, но невыносимо. Есть набор теорем, который позволяет собирать сложные пределы из простых.

Теорема (арифметика пределов): Пусть $a_n \to A$ и $b_n \to B$. Тогда

1. $a_n + b_n \to A + B$
2. $a_n - b_n \to A - B$
3. $a_n \cdot b_n \to A \cdot B$
4. $\dfrac{a_n}{b_n} \to \dfrac{A}{B}$ при условии $B \neq 0$
5. $c \cdot a_n \to c A$ для любой постоянной $c$

Докажем два пункта — остальные устроены так же.

Пункт 1. По лемме $a_n = A + \alpha_n$, $b_n = B + \beta_n$ с бесконечно малыми $\alpha_n, \beta_n$. Складываем:

Сумма бесконечно малых бесконечно мала, значит по той же лемме предел равен $A + B$. ∎

Пункт 3. Перемножаем представления:

Каждое из трёх слагаемых в скобке бесконечно мало: первые два — постоянная на бесконечно малую, третье — произведение бесконечно малых. Сумма трёх бесконечно малых бесконечно мала. ∎

Для пункта 4 нужна ровно та лемма про отделённость знаменателя от нуля, которую мы доказали в предыдущем разделе, — поэтому там и стоит условие $B \neq 0$.

🚨 Все эти теоремы требуют, чтобы оба предела существовали и были конечны. Это не формальная придирка: например, $a_n = n$ и $b_n = -n$ по отдельности пределов не имеют, а их сумма тождественно равна нулю. Из «$a_n + b_n$ сходится» ничего про $a_n$ и $b_n$ по отдельности не следует.

Главный приём: делим на старшую степень

Дробь вида $\frac{P(n)}{Q(n)}$, где сверху и снизу многочлены, напрямую под теорему не подходит: и числитель, и знаменатель стремятся к бесконечности, и получается неопределённость $\frac{\infty}{\infty}$. Лечение стандартное: разделить числитель и знаменатель на старшую степень $n$, встречающуюся в знаменателе. После этого все слагаемые превращаются либо в константы, либо в бесконечно малые $\frac{c}{n^k}$, и теорема применяется без проблем.

Результат легко предсказать заранее по степеням:

• степень числителя меньше степени знаменателя → предел $0$
• степени равны → предел равен отношению старших коэффициентов
• степень числителя больше → последовательность бесконечно большая, предела нет

Пример 1 (простой): $\lim\limits_{n\to\infty}\dfrac{3n+5}{n-2}$

Шаг 1. Старшая степень в знаменателе — $n^1$. Делим на $n$ числитель и знаменатель:

Шаг 2. В числителе: $3 \to 3$, $\frac5n \to 0$, сумма стремится к $3$. В знаменателе: $1 - \frac2n \to 1$.

Шаг 3. Знаменатель стремится к $1 \neq 0$, значит применима теорема о частном:

Проверка: $a_{100} = \frac{305}{98} \approx 3{,}1122$; $a_{10000} = \frac{30005}{9998} \approx 3{,}0011$ ✅

Ответ: $3$.

Пример 2 (средний): $\lim\limits_{n\to\infty}\dfrac{4n^2 - n + 7}{2n^2 + 3n}$

Шаг 1. Старшая степень знаменателя — $n^2$. Делим на $n^2$:

Шаг 2. Числитель: $4 - 0 + 0 = 4$. Знаменатель: $2 + 0 = 2$.

Шаг 3. Частное: $\frac42 = 2$.

Проверка: $a_{1000} = \frac{4\,000\,000 - 1000 + 7}{2\,000\,000 + 3000} = \frac{3\,999\,007}{2\,003\,000} \approx 1{,}9965$ ✅

Ответ: $2$.

Пример 3 (сложный): $\lim\limits_{n\to\infty}\left(\sqrt{n^2+n} - n\right)$

Здесь неопределённость другого типа: $\infty - \infty$. Делить не на что — сначала нужно преобразовать выражение.

Шаг 1. Домножаем и делим на сопряжённое $\sqrt{n^2+n} + n$ (оно положительно, так что делить на него законно):

Шаг 2. Разность превратилась в дробь — теперь работает стандартный приём. Делим числитель и знаменатель на $n$. Под корнем деление на $n$ означает деление на $n^2$:

Шаг 3. Внутри корня $1 + \frac1n \to 1$, сам корень стремится к $1$, знаменатель — к $2$.

Проверка: при $n = 1000$: $\sqrt{1\,001\,000} \approx 1000{,}49988$, разность $\approx 0{,}49988$ ✅

Ответ: $\frac12$. Обрати внимание, насколько интуиция здесь бессильна: разность двух неограниченно растущих величин дала аккуратную конечную половинку.

Почему это важно

Арифметика пределов — это то, что делает предел вычислимым. Без неё каждая задача была бы отдельным исследованием с построением $N(\varepsilon)$; с ней большинство пределов считаются в три строчки по шаблону.

Правило про степени числителя и знаменателя стоит запомнить намертво: оно мгновенно отвечает на вопросы вида «как ведёт себя сложность алгоритма при больших $n$», «какое слагаемое доминирует в оценке», «выйдет ли метрика на плато». Это по сути то же самое рассуждение, что стоит за нотацией $O(\cdot)$ в анализе алгоритмов: отбрасываем всё, кроме старшего члена, потому что остальное — бесконечно малое по сравнению с ним.

Признак Вейерштрасса: монотонная и ограниченная сходится

Проблема, которую он решает

Все наши инструменты требуют знать предел заранее: определение проверяет конкретное $L$, арифметика собирает известные пределы. А что делать, если последовательность задана рекуррентно и никакой формулы для $a_n$ нет? Например:

Числа считаются легко: $1;\ 1{,}7321;\ 1{,}9319;\ 1{,}9829;\ 1{,}9957;\ 1{,}9989;\dots$ Похоже, что они идут к двойке. Но «похоже» — не доказательство: мы не имеем права подставить предел в рекуррентное соотношение, пока не знаем, что предел вообще существует. Нужен инструмент, который доказывает существование, не предъявляя значения.

Интуиция: лифт и потолок

Представь лифт, который едет только вверх и никогда не спускается. Над ним на высоте 20 метров — бетонный потолок. Что произойдёт? Лифт не может ехать вверх бесконечно (потолок), но и остановиться «просто так» не может — он либо приближается к какой-то высоте всё точнее, либо упирается. В любом случае существует единственная высота, к которой он прижимается: это точная верхняя граница всех достигнутых им положений.

Ровно это и утверждает признак Вейерштрасса.

Теорема (признак Вейерштрасса): Всякая монотонно возрастающая и ограниченная сверху последовательность сходится. Всякая монотонно убывающая и ограниченная снизу последовательность сходится.

Строгое доказательство опирается на свойство полноты множества действительных чисел (существование точной верхней грани у ограниченного сверху множества) — это отдельная тема вузовского курса. Идея же ровно лифтовая: предел равен $\sup\{a_n\}$, наименьшей из верхних границ. Все члены её не превосходят, а подойти к ней сколь угодно близко последовательность обязана — иначе нашлась бы верхняя граница поменьше.

📌 Оба условия обязательны и оба «односторонние». Монотонная, но неограниченная последовательность $a_n = n$ расходится. Ограниченная, но немонотонная $(-1)^n$ расходится. Признак — это достаточное условие, а не критерий: последовательность $\frac{(-1)^n}{n}$ сходится к нулю, не будучи монотонной.

Практический алгоритм применения такой.

1. Доказать монотонность — обычно через знак разности $a_{n+1} - a_n$ или через отношение $\frac{a_{n+1}}{a_n}$, если все члены положительны.

2. Доказать ограниченность — обычно индукцией: «если $a_n < M$, то и $a_{n+1} < M$».

3. Сослаться на теорему: предел $L$ существует.

4. Только теперь найти $L$, перейдя к пределу в рекуррентном соотношении: последовательность $a_{n+1}$ — это та же последовательность со сдвинутой нумерацией, поэтому её предел тот же $L$.

Пример 1 (простой)

Докажи, что $a_n = 1 - \frac1n$ сходится, и найди предел.

Шаг 1. Монотонность. $a_{n+1} - a_n = \left(1 - \frac{1}{n+1}\right) - \left(1 - \frac1n\right) = \frac1n - \frac{1}{n+1} = \frac{1}{n(n+1)} > 0$. Возрастает.

Шаг 2. Ограниченность сверху. $a_n = 1 - \frac1n < 1$ для всех $n$.

Шаг 3. По признаку Вейерштрасса предел существует.

Шаг 4. Здесь его легко назвать напрямую: $\frac1n$ бесконечно мала, значит $a_n \to 1$.

Ответ: сходится, предел $1$. Заметь: единица не достигается ни разу, но она и есть точная верхняя грань.

Пример 2 (средний)

$a_1 = 0$, $a_{n+1} = \frac{a_n + 6}{2}$. Докажи сходимость и найди предел.

Шаг 1. Посчитаем первые члены: $0;\ 3;\ 4{,}5;\ 5{,}25;\ 5{,}625;\ 5{,}8125;\dots$ Похоже на рост к шестёрке.

Шаг 2. Ограниченность сверху числом 6 — индукция. База: $a_1 = 0 < 6$. Переход: пусть $a_n < 6$, тогда

Значит, $a_n < 6$ для всех $n$.

Шаг 3. Монотонность. Считаем разность, используя доказанное неравенство:

потому что $a_n < 6$. Последовательность строго возрастает.

Шаг 4. Возрастает и ограничена сверху → по Вейерштрассу предел $L$ существует.

Шаг 5. Находим $L$. Переходим к пределу в обеих частях равенства $a_{n+1} = \frac{a_n+6}{2}$. Слева предел равен $L$ (сдвиг нумерации предел не меняет), справа по арифметике пределов $\frac{L+6}{2}$:

Ответ: сходится к $6$.

🚨 Порядок шагов принципиален. Если сразу решить уравнение $L = \frac{L+6}{2}$, не доказав существование предела, метод начинает выдавать чушь на расходящихся последовательностях. Возьми $a_{n+1} = 2a_n + 1$ с $a_1 = 1$: она уходит в бесконечность ($1, 3, 7, 15, 31, \dots$), но «уравнение на предел» $L = 2L+1$ послушно даёт $L = -1$ — число, к которому последовательность даже не приближается. Сначала существование, потом значение.

Пример 3 (сложный)

$a_1 = 1$, $a_{n+1} = \sqrt{2 + a_n}$ — та самая последовательность из начала раздела.

Шаг 1. Ограниченность сверху двойкой — индукция. База: $a_1 = 1 < 2$. Переход: пусть $a_n < 2$, тогда

Шаг 2. Все члены положительны (корень из положительного), так что можно спокойно сравнивать квадраты.

Шаг 3. Монотонность. Сравним $a_{n+1}$ и $a_n$ через квадраты:

Так как $a_n < 2$, множитель $(a_n - 2)$ отрицателен, а $(a_n+1)$ положителен; их произведение отрицательно, значит вся разность положительна: $a_{n+1}^2 > a_n^2$. Оба числа положительны, поэтому $a_{n+1} > a_n$.

Шаг 4. Возрастает и ограничена сверху → предел $L$ существует, причём $1 \leqslant L \leqslant 2$.

Шаг 5. Переходим к пределу: $L = \sqrt{2+L}$. Возводим в квадрат: $L^2 = 2 + L$, то есть $L^2 - L - 2 = 0$, корни $L = 2$ и $L = -1$.

Шаг 6. Отрицательный корень отбрасываем: все члены положительны, значит и предел неотрицателен.

Ответ: $L = 2$. Численная проверка: $a_6 \approx 1{,}99893$, $a_{10} \approx 1{,}9999993$ ✅

Почему это важно

Признак Вейерштрасса — первый инструмент, который доказывает существование предела «вслепую». Это принципиальный скачок: раньше мы могли только проверять готовые гипотезы, теперь умеем утверждать, что ответ есть, даже не зная его.

В вычислительной практике это ровно то, чем обосновывают сходимость итерационных методов. Если удалось показать, что последовательность приближений монотонна и не выходит за границы, — метод сойдётся, и можно смело крутить цикл до нужной точности. И, наконец, именно этот признак даёт корректное определение числа $e$ — к нему и переходим.

Число $e$ как предел: возвращаемся к уроку 112

В уроке 112 мы строили число $e$ из задачи про непрерывное начисление процентов и получили последовательность

Мы честно посчитали её значения: $c_1 = 2$, $c_2 = 2{,}25$, $c_{12} \approx 2{,}61304$, $c_{365} \approx 2{,}71457$, $c_{1\,000\,000} \approx 2{,}7182805$. Числа явно упирались в $2{,}718281828\ldots$, но фразу «упираются» мы тогда произнесли на птичьем языке. Теперь у нас есть аппарат, чтобы сказать это правильно.

Что нужно доказать: последовательность $c_n$ возрастает и ограничена сверху. Тогда по признаку Вейерштрасса у неё есть предел — и вот его-то и называют числом $e$.

Возрастание. Разложим $c_n$ по формуле бинома:

При переходе от $n$ к $n+1$ происходят сразу две хорошие вещи: каждая скобка вида $\left(1 - \frac{j}{n}\right)$ становится больше (потому что $\frac{j}{n+1} < \frac{j}{n}$), и вдобавок добавляется ещё одно положительное слагаемое. Значит, $c_{n+1} > c_n$.

Ограниченность. В том же разложении заменим каждую скобку на единицу — сумма от этого только вырастет:

Дальше оценим факториалы через степени двойки: $k! = 1\cdot 2\cdot 3 \cdots k \geqslant 2^{k-1}$, значит $\frac{1}{k!} \leqslant \frac{1}{2^{k-1}}$. Получаем

В скобках — сумма геометрической прогрессии из урока 128 с $b_1 = 1$ и $q = \frac12$:

Итого $c_n < 1 + 2 = 3$ для всех $n$.

Вывод. Последовательность возрастает и ограничена сверху числом $3$, значит по признаку Вейерштрасса она сходится.

Определение: Число $e$ — это предел последовательности $\left(1+\frac1n\right)^n$:

$$e = \lim_{n\to\infty}\left(1 + \frac{1}{n}\right)^{n} \approx 2{,}718281828459045.$$

Заодно из доказательства бесплатно выпало неравенство $2 < e < 3$ — то самое, которое в уроке 112 мы принимали на веру по таблице.

Из этого предела механически получаются другие, часто встречающиеся. Приём один и тот же: свести выражение к виду «единица плюс единица делить на что-то большое, в степени это самое что-то».

Пример: $\lim\limits_{n\to\infty}\left(1 + \frac{1}{n}\right)^{n+3}$.

Шаг 1. Разделяем степень: $\left(1+\frac1n\right)^{n+3} = \left(1+\frac1n\right)^{n}\cdot\left(1+\frac1n\right)^{3}$.

Шаг 2. Первый множитель стремится к $e$, второй — к $1^3 = 1$.

Шаг 3. По теореме о произведении предел равен $e \cdot 1 = e$.

Ответ: $e$. Общий вывод: любая фиксированная добавка в показателе на ответ не влияет.

Пример посложнее: $\lim\limits_{n\to\infty}\left(1 + \frac{2}{n}\right)^{n}$.

Шаг 1. Хотим вид $\left(1+\frac1m\right)^m$. Обозначим $m = \frac n2$, тогда $\frac2n = \frac1m$ и $n = 2m$:

Шаг 2. Внутренняя скобка стремится к $e$ (при росте $n$ величина $m$ тоже неограниченно растёт), значит вся конструкция — к $e^2$.

Ответ: $e^2 \approx 7{,}389$.

Почему это важно

Число $e$ — не декоративная константа, а объект, определённый через предел. Это значит, что все его свойства выводятся, а не постулируются, и что для него есть честный способ вычисления с контролируемой точностью.

В машинном обучении $e$ живёт буквально везде: сигмоида $\frac{1}{1+e^{-x}}$, softmax, кросс-энтропия с натуральным логарифмом, экспоненциальные расписания learning rate, гауссова плотность. И почти всегда рядом с ним оказывается предельный переход: «непрерывная» версия чего-то дискретного получается как предел при измельчении шага. Экспоненциальное расписание lr *= gamma — это дискретная геометрическая прогрессия из урока 128; её непрерывный предел — экспонента с основанием $e$.

Пределы в обучении моделей: три прикладных сюжета

Сюжет 1: сходимость градиентного спуска

Возьмём простейшую модель обучения: один параметр $x$, а шаг метода задан рекуррентно

где $\eta > 0$ — скорость обучения (learning rate), а $\lambda > 0$ — характеристика «крутизны» задачи. Ты уже узнал конструкцию: это геометрическая прогрессия со знаменателем $q = 1 - \eta\lambda$, и по формуле из урока 128

По доказанному в примере 3 раздела про $\varepsilon$–$N$ такая последовательность стремится к нулю тогда и только тогда, когда $|1 - \eta\lambda| < 1$, что равносильно

Три режима видны сразу, и все три знакомы каждому, кто подбирал learning rate руками.

• $0 < \eta < \frac{1}{\lambda}$: знаменатель положителен и меньше единицы — плавное монотонное затухание.

• $\eta = \frac{1}{\lambda}$: знаменатель равен нулю, метод попадает в цель за один шаг.

• $\frac{1}{\lambda} < \eta < \frac{2}{\lambda}$: знаменатель отрицателен, но по модулю меньше единицы — затухающие колебания вокруг нуля, знакомая «пила» на кривой лосса.

• $\eta \geqslant \frac{2}{\lambda}$: модуль знаменателя не меньше единицы — расходимость, лосс улетает в nan.

Обрати внимание, что скорость сходимости здесь линейная в терминологии численных методов: погрешность умножается на постоянный множитель $|q|$ каждый шаг, то есть убывает как геометрическая прогрессия. Это очень быстро: чтобы уменьшить ошибку в $10$ раз, нужно фиксированное число шагов $\approx \frac{\ln 10}{\ln(1/|q|)}$, не зависящее от того, на каком уровне точности ты находишься.

Сюжет 2: критерий останова

Как понять, что обучение закончилось? Наивный ответ — «когда лосс перестал меняться»:

while abs(loss_prev - loss) > tol:
    loss_prev = loss
    loss = train_one_epoch()

Логика опирается на неявное убеждение: если $|a_{n+1} - a_n| \to 0$, то последовательность сходится. Это убеждение ложно. Классический контрпример — гармоническая последовательность

Разности соседних членов равны $\frac{1}{n+1}$ и стремятся к нулю, а сама $H_n$ неограниченно растёт (доказательство — в задании 30). Условие «изменение меньше tol» на ней срабатывает почти сразу, а «сходимости» нет и в помине.

На практике это ровно та ситуация, когда обучение объявляют законченным на плато, которое на самом деле плато не является: модель улучшается медленно, но неограниченно долго — и остановка стоит нескольких процентов метрики. Поэтому реальный early stopping устроен иначе:

• следят не за одним шагом, а за лучшим значением на валидации за последние patience эпох;

• используют относительный порог $\frac{|a_{n+1}-a_n|}{|a_n|} < \delta$, а не абсолютный;

• сглаживают шум скользящим средним, потому что $a_n$ на минибатчах — величина случайная;

• ставят жёсткий лимит по числу эпох как страховку.

Математически строгий критерий сходимости без знания предела существует и называется условием Коши: последовательность сходится тогда и только тогда, когда для любого $\varepsilon>0$ найдётся $N$, после которого $|a_m - a_k| < \varepsilon$ сразу для всех пар $m, k > N$. Разница с наивным критерием ровно в этом «для всех пар», а не только для соседей — гармоническая последовательность на нём честно проваливается. Подробно этот критерий разбирают в вузовском курсе, но интуицию полезно унести уже сейчас.

Сюжет 3: затухание learning rate

Расписания вида

обе задают последовательности, стремящиеся к нулю, — первая как $\frac{c}{n}$, вторая как геометрическая прогрессия. Зачем вообще гасить скорость обучения? Потому что при стохастических градиентах шаг постоянной длины не даёт «осесть»: параметры вечно скачут вокруг минимума в шаре радиуса порядка $\eta$. Убывающая $\eta_n$ этот шар стягивает.

Но есть тонкость, которая объясняет, почему в теории оптимизации предпочитают $\frac{c}{n}$, а не слишком быстрое затухание. Шаги не должны гаснуть настолько стремительно, чтобы суммарный путь оказался конечным, — иначе метод «замёрзнет», не дойдя до цели. Сравни: сумма $\sum \gamma^n$ при $\gamma<1$ конечна (это бесконечная геометрическая прогрессия — тема следующего урока), а сумма $\sum \frac{1}{n}$ бесконечна (та самая гармоническая расходимость). Именно поэтому классические условия сходимости стохастических методов требуют, чтобы сумма шагов расходилась, а сумма их квадратов сходилась: первое гарантирует, что дойдём куда угодно, второе — что шум в итоге погасится. Расписание $\eta_n = \frac{c}{n}$ удовлетворяет обоим.

Полный язык для сумм бесконечного числа слагаемых мы получим в уроке 130 (для геометрического случая) и в вузовской части курса (общая теория рядов). Но фундамент под ним — ровно то понятие предела, которое ты разобрал сегодня: сумма бесконечного ряда определяется как предел последовательности частичных сумм.

Практика: 30 заданий

Базовые (задания 1-10)

Задание 1: Докажи по определению, что $\lim\limits_{n\to\infty}\dfrac{3}{n} = 0$, и найди номер $N$, годящийся для $\varepsilon = 0{,}01$.

Задание 2: Вычисли $\lim\limits_{n\to\infty}\dfrac{n+5}{n}$.

Задание 3: Найди $\lim\limits_{n\to\infty}\dfrac{2n-1}{3n+7}$.

Задание 4: Найди $\lim\limits_{n\to\infty}\dfrac{(-1)^n}{n}$.

Задание 5: Сходится ли последовательность $a_n = (-1)^n$? Ответ обоснуй.

Задание 6: Вычисли $\lim\limits_{n\to\infty}\dfrac{5n^2+3n}{2n^2-1}$.

Задание 7: Последовательность $a_n = 0{,}9^{\,n}$ описывает вес градиента, полученного $n$ шагов назад, в экспоненциальном скользящем среднем. Найди её предел и наименьшее $n$, при котором $a_n < 0{,}01$.

Задание 8: Исследуй на сходимость $a_n = \dfrac{3n^3-2}{n^2+5}$.

Задание 9: Для последовательности $a_n = 2 + \dfrac1n$ найди предел и номер $N$, начиная с которого все члены отличаются от предела меньше чем на $0{,}05$.

Задание 10: Значение функции потерь на эпохе $n$ моделируется формулой $L_n = 0{,}4 + \dfrac{1}{n+1}$. Найди предел и определи, с какой эпохи лосс отличается от предельного значения меньше чем на $0{,}001$.

Средние (задания 11-20)

Задание 11: Найди $\lim\limits_{n\to\infty}\left(\sqrt{n+1} - \sqrt{n}\right)$.

Задание 12: Вычисли $\lim\limits_{n\to\infty}\dfrac{n^2+3n}{2n^2-n+1}$.

Задание 13: Найди $\lim\limits_{n\to\infty}\dfrac{2^n+3^n}{3^n}$.

Задание 14: Найди $\lim\limits_{n\to\infty}\dfrac{1+2+3+\dots+n}{n^2}$.

Задание 15: Докажи по определению, что $\lim\limits_{n\to\infty}\dfrac{3n+1}{n+2} = 3$, и найди $N$ для $\varepsilon = 0{,}001$.

Задание 16: Сходится ли последовательность $a_n = \dfrac{(-1)^n\, n}{n+1}$?

Задание 17: Вычисли $\lim\limits_{n\to\infty}\dfrac{2n+\cos n}{n+1}$.

Задание 18: Дана геометрическая прогрессия $b_n = 5\cdot\left(\frac13\right)^{n-1}$. Найди $\lim b_n$ и $\lim S_n$, где $S_n$ — сумма первых $n$ членов.

Задание 19: Расписание learning rate задано формулой $\eta_n = \dfrac{0{,}1}{1+0{,}05n}$. Найди предел и наименьший шаг $n$, на котором $\eta_n < 0{,}001$.

Задание 20: Метрика модели описывается формулой $a_n = \dfrac{3n^2+5}{n^2+2n}$. Найди предел и подбери $N$, после которого $|a_n - L| < 0{,}01$.

Продвинутые (задания 21-30)

Задание 21: Последовательность задана рекуррентно: $a_1 = 1$, $a_{n+1} = \sqrt{6+a_n}$. Докажи, что она сходится, и найди предел.

Задание 22: Метод Герона для извлечения корня: $a_1 = 1$, $a_{n+1} = \dfrac12\left(a_n + \dfrac{2}{a_n}\right)$. Докажи сходимость и найди предел.

Задание 23: Докажи, что $\lim\limits_{n\to\infty}\sqrt[n]{2} = 1$.

Задание 24: Докажи, что $\lim\limits_{n\to\infty}\sqrt[n]{n} = 1$.

Задание 25: Вычисли $\lim\limits_{n\to\infty}\left(1+\dfrac{1}{2n}\right)^{n}$.

Задание 26: Вычисли $\lim\limits_{n\to\infty}\left(\dfrac{n+3}{n+1}\right)^{n}$.

Задание 27: Докажи, что $\lim\limits_{n\to\infty}\dfrac{2^n}{n!} = 0$.

Задание 28: В обучении с подкреплением суммарная дисконтированная награда за $n$ шагов при единичной награде на каждом шаге равна $S_n = 1 + 0{,}95 + 0{,}95^2 + \dots + 0{,}95^{\,n-1}$. Найди $\lim\limits_{n\to\infty} S_n$ и наименьшее $n$, при котором $S_n > 19$.

Задание 29: Итерации простейшего градиентного метода задаются рекуррентно: $x_{n+1} = x_n - \eta\,(6x_n - 12)$, старт $x_0 = 0$. При каких $\eta > 0$ последовательность сходится и к чему? Посчитай явную формулу при $\eta = 0{,}1$.

Задание 30: Гармоническая последовательность $H_n = 1 + \frac12 + \frac13 + \dots + \frac1n$. Докажи, что разности соседних членов стремятся к нулю, но сама последовательность расходится. Какой вывод отсюда следует для критерия останова обучения?

Частые ошибки

❌ Ошибка 1: путают порядок кванторов в определении

Неправильно: «существует $N$ такое, что для любого $\varepsilon$ выполняется $|a_n - L| < \varepsilon$ при $n > N$».

Правильно: сначала произвольное $\varepsilon > 0$, потом $N$, зависящее от него: $\forall \varepsilon > 0\ \exists N\ \forall n>N: |a_n - L| < \varepsilon$.

💡 Почему важно: перестановка кванторов меняет смысл на несовместимый с жизнью. «Существует $N$, годящееся сразу для всех $\varepsilon$» означало бы, что начиная с этого номера расстояние до предела меньше любого положительного числа — то есть равно нулю, и последовательность просто постоянна с номера $N$. Под такое определение подошли бы только тривиальные примеры, а $\frac1n$ уже нет. Мнемоника: чем строже допуск, тем дальше приходится идти — значит $N$ обязано зависеть от $\varepsilon$.

❌ Ошибка 2: считают, что предел — это значение, которое достигается

Неправильно: «$\frac1n$ не стремится к нулю, ведь она никогда нулю не равна».

Правильно: предел — это число, к которому расстояние становится сколь угодно малым. Достижение не требуется и обычно не происходит.

💡 Почему важно: ровно на этом ломается вся интуиция про сходимость итерационных методов. Градиентный спуск на квадратичной задаче никогда не попадает в минимум точно — он лишь подходит на любое заданное расстояние. Если ждать точного попадания, цикл не завершится никогда; поэтому останов всегда по достижению точности, а не по равенству.

❌ Ошибка 3: делают вывод о сходимости по первым членам

Неправильно: «первые сто членов почти не меняются, значит последовательность сошлась».

Правильно: предел — свойство бесконечного хвоста; любое конечное число членов о нём не говорит ничего.

💡 Почему важно: гармоническая последовательность из задания 30 выглядит как сошедшаяся уже на сотом члене (изменения уже в сотых долях), а на самом деле уходит в бесконечность. В обучении моделей это ловушка «ложного плато»: сеть может простоять на месте тысячу шагов и потом резко улучшиться. Единственная защита — либо теоретическая оценка, либо запас по числу эпох с контролем лучшего значения.

❌ Ошибка 4: применяют арифметику пределов к тому, у чего пределов нет

Неправильно: $\lim\left(\sqrt{n^2+n} - n\right) = \lim\sqrt{n^2+n} - \lim n = \infty - \infty = 0$.

Правильно: теорема о пределе разности требует, чтобы оба предела существовали и были конечны. Здесь это не так, и выражение надо сначала преобразовать (домножить на сопряжённое), а уже потом брать предел. Правильный ответ — $\frac12$, а вовсе не $0$.

💡 Почему важно: «неопределённость» — это не ноль и не какое-то фиксированное число, а сигнал «теорема неприменима, работай руками». Один и тот же по виду случай $\infty-\infty$ даёт $0$ для $\sqrt{n+1}-\sqrt n$, $\frac12$ для $\sqrt{n^2+n}-n$ и $+\infty$ для $n^2 - n$. Без преобразования ответа не существует.

❌ Ошибка 5: подставляют предел в рекуррентное соотношение, не доказав, что он есть

Неправильно: для $a_1 = 1$, $a_{n+1} = 2a_n + 1$ написать $L = 2L+1$ и объявить предел равным $-1$.

Правильно: сначала доказать существование предела (монотонность плюс ограниченность), и только потом переходить к пределу в соотношении. Здесь последовательность $1, 3, 7, 15, 31,\dots$ неограниченна и расходится, никакого предела нет.

💡 Почему важно: «уравнение на предел» — это условное утверждение вида «если предел существует, то он удовлетворяет уравнению». Само по себе оно ничего не доказывает и на расходящихся последовательностях выдаёт правдоподобную чушь. То же самое в численных методах: неподвижная точка итерации существует всегда, а вот сходится к ней метод далеко не при любых параметрах — см. задание 29.

❌ Ошибка 6: считают ограниченность достаточной для сходимости

Неправильно: «члены не выходят за пределы отрезка $[-1;1]$, значит последовательность к чему-то сходится».

Правильно: ограниченность необходима, но не достаточна. Контрпримеры: $(-1)^n$, $\sin n$, $\frac{(-1)^n n}{n+1}$ — все ограничены и все расходятся.

💡 Почему важно: это ровно ситуация «лосс болтается в коридоре и не падает». Значения ограничены, метрика не улетает в nan — но обучение не сходится, а колеблется вокруг минимума с амплитудой порядка learning rate. Диагноз ставится не по границам, а по поведению: нужна либо монотонность, либо затухание амплитуды.

❌ Ошибка 7: суммируют бесконечно малые, забыв, что их число растёт

Неправильно: $\lim\limits_{n\to\infty}\left(\frac1n + \frac1n + \dots + \frac1n\right)$ ($n$ слагаемых) $= 0 + 0 + \dots + 0 = 0$.

Правильно: сумма $n$ слагаемых по $\frac1n$ тождественно равна $1$, и предел равен $1$. Теорема о пределе суммы работает только для фиксированного числа слагаемых.

💡 Почему важно: это первая ловушка в теории рядов и в оценках погрешности численных методов. Локальная ошибка одного шага бесконечно мала, но шагов делается всё больше — и суммарная ошибка вполне может не стремиться к нулю. Правильный ход — сначала свернуть сумму формулой (как в задании 14), потом брать предел.

Главное запомнить

📝 Ключевые понятия

✅ Предел последовательности: число $L$ такое, что $\forall \varepsilon>0\ \exists N\ \forall n>N: |a_n - L| < \varepsilon$. Обозначение $\lim\limits_{n\to\infty}a_n = L$. Геометрически: как бы узко ни сжали полосу вокруг $L$, снаружи останется лишь конечное число членов.

✅ Сходимость — свойство хвоста: изменение любого конечного числа членов на предел не влияет; попасть в полосу нужно не разово, а навсегда; достигать предел не обязательно.

✅ Расходимость доказывается двумя способами: через неограниченность (тогда последовательность бесконечно большая) или через две подпоследовательности с разными пределами (как у $(-1)^n$).

✅ Единственность: у сходящейся последовательности предел ровно один. Доказательство — взять $\varepsilon$ равным половине расстояния между кандидатами.

✅ Ограниченность: всякая сходящаяся последовательность ограничена, но не наоборот. В отрицательной форме это быстрый детектор: не ограничена → точно расходится.

✅ Бесконечно малая — это последовательность с пределом $0$, а не «маленькое число». Ключевая лемма: $a_n \to L \ \Longleftrightarrow\ a_n = L + \alpha_n$, где $\alpha_n \to 0$.

✅ Два свойства бесконечно малых: сумма фиксированного числа бесконечно малых бесконечно мала; произведение ограниченной на бесконечно малую бесконечно мало (отсюда мгновенно $\frac{\sin n}{n}\to 0$).

✅ Арифметика пределов: если $a_n \to A$ и $b_n \to B$, то сумма, разность и произведение стремятся к $A+B$, $A-B$, $AB$, а частное — к $\frac{A}{B}$ при $B \neq 0$. Обязательное условие — существование обоих пределов.

✅ Рабочий приём для дробей: делим числитель и знаменатель на старшую степень $n$ из знаменателя. Степень числителя меньше → предел $0$; степени равны → отношение старших коэффициентов; степень числителя больше → расходимость.

✅ Геометрическая прогрессия: $q^n \to 0$ при $|q|<1$; при $|q|>1$ бесконечно большая; при $q=1$ предел $1$; при $q=-1$ предела нет. Доказательство — через неравенство Бернулли.

✅ Признак Вейерштрасса: монотонная и ограниченная последовательность сходится. Порядок работы: монотонность → ограниченность → вывод о существовании → и только потом переход к пределу в рекуррентном соотношении.

✅ Число $e$: $e = \lim\limits_{n\to\infty}\left(1+\frac1n\right)^n \approx 2{,}718281828$. Существование предела — прямое следствие признака Вейерштрасса, попутно получается $2 < e < 3$.

Связь с другими темами курса

Что было раньше: урок 126 дал само понятие последовательности, а заодно монотонность и ограниченность — два условия, из которых сегодня собран признак Вейерштрасса. Урок 127 про арифметическую прогрессию дал формулу суммы $1+2+\dots+n$, без которой не решается задание 14. Урок 128 про геометрическую прогрессию — главный поставщик примеров: именно там мы говорили «члены затухают, но нуля не достигают», а сегодня доказали, что $q^n \to 0$ при $|q| < 1$. Урок 112 определил число $e$ наглядно, честно отложив строгость до этого момента, — долг возвращён. Логарифмы из уроков 116–118 работали инструментом всякий раз, когда нужно было найти номер шага по заданной точности.

Что дальше: урок 130 применит понятие предела к сумме бесконечной геометрической прогрессии — формула $S = \frac{b_1}{1-q}$ определяется именно как предел частичных сумм $S_n$, и все нужные для этого куски у тебя уже есть (задания 18 и 28 — фактически репетиция). Урок 131 введёт предел функции: та же идея «сколь угодно близко», но аргумент пробегает не натуральные числа, а всю числовую прямую. Урок 132 определит через предел непрерывность. А в уроке 133 предел станет фундаментом производной — она определяется как предел отношения приращений, и без сегодняшнего материала это определение просто нельзя записать. Дальше по курсу пределы стоят под интегралом (уроки 145–150) и под всей теорией рядов в вузовской части (уроки 178–208).

Где это применяется в жизни и в ML/данных:

🤖 В машинном обучении: анализ сходимости градиентного спуска и его вариантов (последовательность параметров и последовательность лоссов), критерии останова и early stopping, расписания затухания learning rate и условия на скорость затухания, сходимость EM-алгоритма и k-means, дисконтированная награда в RL как предел частичных сумм, оценка «сколько итераций нужно для заданной точности».

💻 В программировании: любой численный метод — это последовательность приближений, и вопрос «сходится ли» стоит буквально в каждом цикле while. Метод Герона для корня (задание 22), итерации простой неподвижной точки, бисекция, разложения в ряд для вычисления exp и log — везде фундамент один и тот же.

📊 В анализе данных: асимптотика оценок при росте объёма выборки (состоятельность оценки — это буквально сходимость последовательности оценок к истинному значению), сходимость средних, скользящие средние и их предельное поведение, поведение метрик при увеличении данных.

🔬 В науке и технике: метод конечных разностей и сеточные методы, где решение получают как предел при измельчении сетки; периоды полураспада; переходные процессы в цепях; итерационные схемы в моделировании.

📐 В самой математике: предел — это точка входа во весь математический анализ. Определение действительного числа, непрерывность, производная, интеграл, сумма ряда, площадь и длина кривой — всё это определяется через предельный переход. Из одного понятия, разобранного сегодня, вырастает весь остальной курс.

Интересные факты

💡 Слово «предел» появилось на два тысячелетия позже самой идеи. Архимед в III веке до н. э. вычислил площадь параболического сегмента, разбивая её на бесконечно много треугольников, площади которых образуют геометрическую прогрессию со знаменателем $\frac14$. По сути он посчитал сумму бесконечного ряда $1 + \frac14 + \frac{1}{16} + \dots = \frac43$ — и обосновал результат методом двойного исчерпывания: показал, что площадь не может быть ни больше, ни меньше найденной. Это была работающая теория пределов без единого слова «предел».

💡 Символ $\lim$ ввёл не Коши. Обозначение появилось у швейцарского математика Симона Люилье в 1786 году — он писал $\lim$ как сокращение латинского limes («граница, межа»). Стрелку под ним ($n \to \infty$) добавил английский математик Джон Литлвуд уже в начале XX века; до этого писали громоздко: $\lim_{n = \infty}$. А знак бесконечности $\infty$ придумал Джон Валлис в 1655 году, и, по одной из версий, взял за основу римскую запись для десяти тысяч.

💡 Гармоническая последовательность растёт медленнее, чем можно вообразить. Чтобы её сумма превысила $10$, нужно около $12\,367$ слагаемых, чтобы превысить $20$ — около $272$ миллионов, а чтобы превысить $100$ — примерно $1{,}5\cdot10^{43}$ слагаемых, что больше числа атомов в Солнечной системе. И тем не менее она превысит любое число: скорость роста здесь примерно $\ln n$, а логарифм неограничен. Это самая наглядная иллюстрация того, что «медленно» и «конечно» — разные вещи.

💡 Число $e$ вылезает там, где его никто не ждёт. Если брать случайные числа из отрезка $[0;1]$ и складывать, пока сумма не превысит единицу, то среднее количество взятых чисел равно ровно $e$. Если случайным образом перемешать $n$ писем по $n$ конвертам, вероятность того, что ни одно не попадёт в свой конверт, стремится к $\frac1e \approx 0{,}368$ — и уже при $n = 7$ совпадает с предельным значением до четвёртого знака. Обе задачи решаются через пределы последовательностей.

💡 Вейерштрасса называли «отцом современного анализа» — а работал он школьным учителем. До 40 лет Карл Вейерштрасс преподавал в гимназии математику, физику, ботанику и гимнастику, а исследования вёл по ночам. Опубликованная в 1854 году статья принесла ему мгновенное признание и почётную докторскую степень, а к 1864 году — кафедру в Берлине. Именно там он изгнал из анализа все нестрогие обороты про «бесконечно малые величины» и заменил их языком $\varepsilon$–$\delta$, которым математика пользуется до сих пор.

Лайфхаки и полезные трюки

1. Сначала предскажи ответ по степеням, потом считай

Для дроби из многочленов ответ виден мгновенно: сравни степени числителя и знаменателя. Меньше → $0$, равны → отношение старших коэффициентов, больше → расходится. Считай только затем, чтобы подтвердить прогноз, — и если результат разошёлся с прогнозом, ищи ошибку в вычислениях.

Пример: в $\frac{7n^3 - n}{2n^3 + 5n^2}$ степени равны, старшие коэффициенты $7$ и $2$ → ответ $\frac72$. Деление на $n^3$ это подтверждает за одну строчку.

2. Не ищи минимальное $N$, ищи любое подходящее

Определение не требует наилучшего номера. Смело усиливай неравенства в удобную сторону: выбрасывай слагаемые из знаменателя, добавляй в числитель. Задача «докажи сходимость» и задача «найди минимальное $N$» — совершенно разные по трудоёмкости.

Пример: вместо возни с $\frac{6n-5}{n^2+2n} < \varepsilon$ пиши $\frac{6n-5}{n^2+2n} < \frac{6n}{n^2} = \frac6n$ и решай простое неравенство $\frac6n<\varepsilon$.

3. Ограниченный множитель — сразу в отдельный карман

Увидел $\sin n$, $\cos n$, $(-1)^n$, дробную часть или что угодно с известными границами — не пытайся считать их предел (его может не быть). Выдели их как ограниченный множитель, а остальное сведи к бесконечно малой.

Пример: $\frac{(-1)^n\sqrt{n}}{n+1} = (-1)^n \cdot \frac{\sqrt n}{n+1}$; второй множитель меньше $\frac{\sqrt n}{n} = \frac{1}{\sqrt n} \to 0$, значит всё произведение стремится к нулю.

4. Две подпоследовательности — самый быстрый способ доказать расходимость

Если в формуле есть $(-1)^n$ или что-то периодическое, не мучайся с отрицанием определения. Посчитай предел по чётным номерам и по нечётным. Разные ответы — расходимость, три строчки.

Пример: $a_n = \frac{n + (-1)^n n}{n+1}$. Чётные: $\frac{2n}{n+1}\to 2$. Нечётные: $\frac{0}{n+1} = 0 \to 0$. Пределы разные → расходится.

5. В рекуррентных задачах порядок шагов железный

Монотонность → ограниченность → «предел существует» → уравнение на предел. Никогда не начинай с уравнения: оно даёт ответ даже там, где предела нет.

Пример: для $a_{n+1} = \sqrt{6+a_n}$ уравнение $L=\sqrt{6+L}$ даёт $L=3$ — но само по себе оно так же охотно «решается» и для расходящихся схем. Сначала докажи, что искать есть что.

6. Ограниченность в рекуррентных задачах ищи через неподвижную точку

Подсказка, какое число брать за границу в индукции, лежит прямо в уравнении на предел. Реши его сразу, «начерно», — и полученное число используй как кандидата в верхнюю (или нижнюю) границу.

Пример: для $a_{n+1} = \sqrt{6+a_n}$ черновое уравнение даёт $3$; значит, в индукции доказываем именно $a_n < 3$, а не какое-то случайное число.

7. Всё, что похоже на $e$, сводится к эталону подгонкой степени

Приведи основание к виду $1 + \frac{1}{\text{нечто}}$, посмотри, какая степень нужна эталону, и дострой её: недостающие множители домножь и подели, лишние вынеси отдельным множителем с пределом $1$.

Пример: $\left(1+\frac{3}{n}\right)^{n+2} = \left[\left(1+\frac{3}{n}\right)^{n}\right]\cdot\left(1+\frac3n\right)^{2} \to e^3 \cdot 1 = e^3$.

8. Сомневаешься — посчитай десяток членов

Три строчки в Python ([f(n) for n in [10, 100, 1000, 10000]]) отвечают на вопрос «а куда оно вообще идёт» надёжнее любой интуиции и мгновенно ловят арифметическую ошибку. Численный расчёт не заменяет доказательства, но экономит время: если числа идут к $2{,}5$, а у тебя в ответе $2$, доказательство искать уже не нужно — нужно искать опечатку.

Пример: для $\sqrt{n^2+n}-n$ значения при $n=10, 100, 1000$ дают $0{,}4881$, $0{,}49876$, $0{,}499875$ — ответ $\frac12$ виден сразу, остаётся его вывести.

9. Помни про иерархию скоростей роста

Для больших $n$: $\ln n \ll n^{a} \ll c^{\,n} \ll n! \ll n^n$ (при $a>0$, $c>1$). Отношение более медленной величины к более быстрой всегда бесконечно мало. Это снимает половину вопросов «что тут доминирует» без вычислений.

Пример: $\frac{n^{10}}{1{,}01^{\,n}} \to 0$ — да, десятая степень проигрывает экспоненте с основанием чуть больше единицы. Просто «чуть позже»: перелом наступает где-то после $n \approx 3000$.

Сегодня ты получил то, чего математике не хватало две тысячи лет: точный смысл слова «стремится». Теперь фраза «последовательность приближается к числу» — не описание ощущения, а проверяемое утверждение с конкретным алгоритмом проверки. И заметь, сколько всего сразу стало доказуемым: затухание геометрической прогрессии, существование числа $e$, сходимость метода Герона, расходимость гармонической суммы. Все эти вещи ты видел раньше, но обосновать их было нечем.

💡 Совет: возьми любую формулу с $n$, которая встретится тебе на этой неделе — время работы алгоритма, вес градиента в скользящем среднем, размер шага в расписании, — и задай ей два вопроса: сходится или нет, и если да, то с какого номера отличие от предела меньше процента. Оба вопроса решаются приёмами из этого урока, а второй — это буквально ответ на «сколько итераций нужно», за который в реальных проектах платят вычислительным бюджетом. Привычка задавать эти вопросы автоматически — то, что отличает человека, который читает кривую лосса, от человека, который на неё смотрит.

Дальше — короткий и очень красивый урок 130. Мы возьмём формулу суммы геометрической прогрессии из урока 128, применим к ней предел из сегодняшнего урока и получим одну из самых элегантных формул школьной математики: $S = \frac{b_1}{1-q}$. Ту самую, что даёт бесконечной сумме бесконечного числа слагаемых конечное и очень аккуратное значение — и заодно окончательно закрывает спор Зенона про Ахиллеса и черепаху. Все инструменты у тебя уже есть, осталось их применить. Поехали!