Нахождение непрерывного решения функционального уравнения - как правило, непростая задача. Вся трудность обычно состоит в использовании самого факта непрерывности функции. (Здесь речь не идёт об уравнениях, для которых решение находится без использования этого факта.) Поэтому для начала напомним определение непрерывности.

Определение. Функцию F(x) будем называть непрерывной в точке x₀, если для неё выполняются следующие два условия:

1) x₀ О D(F), т. е. x₀ принадлежит области определения функции;

2)

lim x® x0  F(x) = F(x0)

, в предположении, естественно, что этот предел существует.

Если хотя бы одно из данных условий не выполняется, то функция не будет непрерывной в точке x₀, т. е. является разрывной.

Определение непрерывности в точке часто используется как один из методов в решении функциональных уравнений. В частности его мы будем применять при нахождении общих решений основных уравнений Коши и Даламбера (§§ 2, ?).

Будем называть функцию непрерывной на отрезке [a, b], если она непрерывна в каждой точке этого отрезка. В этом случае широкое применение находит следующее интуитивно понятное утверждение:

"Если функция f(x) непрерывна в некотором промежутке [a, b] и на концах этого промежутка принимает неравные значения f(a) = A и f(b) = B, то она также принимает все промежуточные между A и B значения на промежутке [a, b]."

Данное утверждение носит название теоремы Больцано-Коши, строгое доказательство которой можно найти в любом курсе анализа, например, [1]. Здесь мы доказательство не рассматриваем. Теорема имеет простой геометрический смысл: если провести прямую y = C, где C - любое число между A и B, то график исходной функции обязательно её пересечёт.

В качестве примера применения этой теоремы рассмотрим следующие две задачи.

Пример 3. Функция f непрерывна на вещественной прямой и удовлетворяет равенству f(f(x)) = x для всех x. Доказать, что уравнение f(x) = x имеет хотя бы один корень.

Решение. Рассмотрим функцию g(x) = f(x)-x. Допустим, что f(x) № x для всех x. Тогда g(x) № 0 для любого x. Поэтому функция g(x) либо везде положительная, либо везде отрицательная. (Если бы существовали a и b такие, что g(a) < 0, g(b) > 0, то по теореме Больцано-Коши функция должна принимать все промежуточные между g(a) и g(b) значения, в том числе и нуль, что невозможно.) Пусть для определённости g(x) < 0, т. е. f(x) < x. Обозначим y = f(x), y < x. Поскольку f(f(x)) = x, то f(y) = x > y, откуда g(y) = f(y)-y > 0. Противоречие. Значит, при некотором x имеем f(x) = x.

Пример 4. Функция F задана на всей вещественной оси, причём для любого x имеет место равенство: F(x+1)·F(x)+F(x+1)+1 = 0. Доказать, что функция F не может быть непрерывной.

Решение. Покажем, что значения функции F не могут изменяться непрерывно. Во-первых, понятно, что функция F не может принимать значение -1. Действительно, если F(x) = -1, то из исходного уравнения имеем: F(x+1)+F(x+1)+ 1 = 0, что невозможно. Кроме того, функция F должна принимать значения как меньшие, так и большие чем -1. Проверим это. Перепишем исходное функциональное уравнение так:

Теперь рассмотрим типичную задачу, в которой главной идеей решения является использование непрерывности функции в точке.

Пример 5. Найти все непрерывные функции f(x), удовлетворяющие соотношению f(2x) = f(x) для любого x.

Решение. В данное функциональное уравнение вместо x подставим ^x/₂ (это можно сделать, поскольку функция f определена для всех x), получим f(x) = f(^x/₂). Аналогичную операцию проделаем ещё несколько раз: