Нейросети Основы

Обратное распространение ошибки

Обратное распространение ошибки (backpropagation) – это ключевой алгоритм для обучения многослойных нейронных сетей. Этот метод позволяет эффективно вычислять градиенты функции потерь по отношению к каждому параметру сети, что необходимо для их последующего обновления. Весь процесс состоит из нескольких этапов: прямое распространение, вычисление функции потерь, обратное распространение и обновление параметров.

1. Прямое распространение

На этапе прямого распространения входные данные проходят через все слои нейронной сети. Для каждого узла (нейрона) в сети вычисляются промежуточные результаты – активации. На каждом слое выполняется следующее: входные данные умножаются на веса, добавляется смещение, и результат передается через функцию активации. Эти промежуточные значения используются на следующих слоях, пока не будет получен итоговый выходной сигнал сети. Этап прямого распространения позволяет получить предсказание модели на основе текущих параметров (весов и смещений).

2. Вычисление функции потерь

После получения предсказанного выхода сети необходимо оценить, насколько он отличается от истинного значения. Это осуществляется с помощью функции потерь, которая измеряет ошибку модели. Общие функции потерь включают среднеквадратичную ошибку (для задач регрессии) и кросс-энтропийную потерю (для задач классификации). Функция потерь рассчитывается на основе разницы между предсказанными значениями и истинными значениями, и ее значение показывает, насколько хорошо модель справляется с задачей предсказания.

3. Обратное распространение

На этапе обратного распространения ошибки начинают распространяться обратно через сеть, начиная с выходного слоя и заканчивая входным. Цель этого этапа – вычислить градиенты функции потерь по отношению к каждому параметру (весу и смещению) в сети. Для этого используется правило цепочки из математического анализа, которое позволяет вычислить производные сложных функций. Для каждого слоя вычисляются градиенты ошибок, которые указывают, насколько изменение каждого параметра повлияет на итоговую ошибку. Эти градиенты затем используются для корректировки параметров.

4. Обновление параметров

После вычисления градиентов на этапе обратного распространения параметры модели обновляются, чтобы уменьшить ошибку. Это осуществляется с помощью метода градиентного спуска. Веса и смещения корректируются в направлении, противоположном градиенту, с использованием некоторой скорости обучения. Этот процесс обновления повторяется многократно, пока модель не достигнет желаемого уровня точности или не будет выполнено заданное число итераций. Обновление параметров позволяет модели постепенно улучшать свои предсказания, уменьшая значение функции потерь с каждым шагом обучения.

Пример кода для обратного распространения ошибки

Рассмотрим пример, демонстрирующий выполнение обратного распространения ошибки на простом искусственном нейроне. Этот пример поможет понять, как вычисляются и обновляются параметры модели.

```python

import numpy as np

# Функция активации (сигмоида) и ее производная

def sigmoid(x):

return 1 / (1 + np.exp(-x))

def sigmoid_derivative(x):

return x (1 – x)

# Входные данные (4 примера, 3 входных значения)

inputs = np.array([[0, 0, 1],

[1, 1, 1],

[1, 0, 1],

[0, 1, 1]])

# Истинные выходы

outputs = np.array([[0], [1], [1], [0]])

# Инициализация весов случайными значениями

weights = np.random.rand(3, 1)

# Параметры обучения

learning_rate = 0.1

n_iterations = 10000

# Обучение

for iteration in range(n_iterations):

# Прямое распространение

input_layer = inputs

predictions = sigmoid(np.dot(input_layer, weights))

# Вычисление ошибки

error = outputs – predictions

# Обратное распространение

adjustments = error sigmoid_derivative(predictions)

# Обновление весов

weights += np.dot(input_layer.T, adjustments) learning_rate

print("Обученные веса:")

print(weights)

# Тестирование

test_input = np.array([[1, 0, 0]])

test_output = sigmoid(np.dot(test_input, weights))

print("Предсказание для [1, 0, 0]:", test_output)

```

Объяснение кода

1. Функция активации и ее производная:

– Мы используем функцию активации сигмоида и ее производную для вычисления активаций и градиентов.

2. Входные данные и истинные выходы:

– Заданы входные данные и соответствующие им истинные выходы для обучения.

3. Инициализация весов:

– Веса инициализируются случайными значениями.

4. Параметры обучения:

– Устанавливаются скорость обучения и количество итераций.

5. Обучение:

– На каждом шаге выполняется прямое распространение, вычисление ошибки, обратное распространение и обновление весов.

6. Тестирование:

– После завершения обучения веса используются для предсказания выхода для нового входного примера.

Этот пример иллюстрирует, как реализуется обратное распространение ошибки и как оно используется для обновления параметров модели, чтобы уменьшить ошибку и улучшить предсказательные способности сети.

Стохастический градиентный спуск

Стохастический градиентный спуск (SGD) – это вариант градиентного спуска, который обновляет параметры модели на основе одного случайного примера из набора данных на каждой итерации. Это делает процесс обучения более быстрым и гибким, особенно для больших наборов данных. В этом разделе рассмотрим основные этапы стохастического градиентного спуска: инициализация параметров, обновление на основе одного примера и быстрые обновления.

1. Инициализация параметров

Первый шаг стохастического градиентного спуска – инициализация параметров модели. Веса и смещения модели задаются случайными значениями. Случайная инициализация параметров помогает избежать ситуаций, когда все параметры начинают с одного и того же значения, что могло бы привести к симметричным обновлениям и, следовательно, к плохой сходимости. Эти начальные случайные значения обеспечивают разнообразие в обновлениях параметров, что помогает модели эффективнее находить глобальный минимум функции потерь.

2. Обновление на основе одного примера

В отличие от классического градиентного спуска, который использует весь набор данных для вычисления градиентов и обновления параметров, стохастический градиентный спуск обновляет параметры на основе одного случайного примера за итерацию. На каждой итерации случайным образом выбирается один пример из набора данных. Градиент функции потерь вычисляется только для этого примера, что позволяет сразу же обновить параметры модели. Этот подход значительно снижает вычислительную нагрузку на каждом шаге и делает процесс обучения более динамичным и адаптивным к изменениям в данных.

3. Быстрые обновления

Одной из ключевых особенностей стохастического градиентного спуска является частота обновлений. Поскольку параметры модели обновляются на основе одного примера, обновления происходят намного чаще по сравнению с обычным градиентным спуском, который обновляет параметры после вычисления градиентов по всему набору данных. Такие быстрые обновления ускоряют процесс обучения, что особенно полезно при работе с большими объемами данных. Однако частые обновления могут добавить шум в процесс обучения, поскольку каждое обновление основывается на одном примере, который может не полностью представлять весь набор данных. Этот шум может мешать модели найти точный глобальный минимум, но он также может помочь избежать локальных минимумов, предоставляя возможность выйти из них и продолжить оптимизацию.

Пример кода для стохастического градиентного спуска

Рассмотрим пример использования стохастического градиентного спуска для обучения модели линейной регрессии.

```python

import numpy as np

# Генерация данных для примера

np.random.seed(42)

X = 2 np.random.rand(100, 1)

y = 4 + 3 X + np.random.randn(100, 1)

# Инициализация параметров

theta = np.random.randn(2, 1)

# Добавление столбца единиц к X (для смещения)

X_b = np.c_[np.ones((100, 1)), X]

# Параметры стохастического градиентного спуска

learning_rate = 0.1

n_epochs = 50

m = len(X_b)

# Стохастический градиентный спуск

for epoch in range(n_epochs):

for i in range(m):

random_index = np.random.randint(m)

xi = X_b[random_index:random_index+1]

yi = y[random_index:random_index+1]

gradients = 2 xi.T.dot(xi.dot(theta) – yi)

theta = theta – learning_rate gradients

print("Найденные параметры:", theta)

# Визуализация результатов

import matplotlib.pyplot as plt

plt.scatter(X, y)

plt.plot(X, X_b.dot(theta), color='red')

plt.xlabel('X')

plt.ylabel('y')

plt.title('Линейная регрессия с использованием стохастического градиентного спуска')

plt.show()

```

Объяснение кода

1. Генерация данных:

– Мы генерируем случайные точки для переменной X и соответствующие значения y с добавлением шума. Эти данные используются для обучения модели линейной регрессии.

2. Инициализация параметров:

– Параметры модели (веса и смещения) инициализируются случайными значениями.

3. Добавление столбца единиц:

– К матрице X добавляется столбец единиц, чтобы учесть смещение в модели.

4. Параметры стохастического градиентного спуска:

– Устанавливаются скорость обучения и количество эпох (n_epochs), за которые модель будет обучаться.

5. Стохастический градиентный спуск:

– Для каждой эпохи выполняется цикл по каждому примеру из набора данных. На каждой итерации случайным образом выбирается один пример, и параметры модели обновляются на основе градиента, вычисленного для этого примера.

6. Визуализация результатов:

– После завершения обучения результаты визуализируются. Исходные данные отображаются в виде точек, а линия регрессии, найденная методом стохастического градиентного спуска, отображается красной линией.

Этот пример иллюстрирует, как стохастический градиентный спуск используется для эффективного и быстрого обучения модели, обновляя параметры на основе отдельных примеров и тем самым ускоряя процесс оптимизации.

Каждый из этих алгоритмов имеет свои преимущества и применяется в зависимости от задачи и размера данных. Градиентный спуск и его вариации играют ключевую роль в обучении современных моделей машинного обучения.