Взвешенная сумма входов

история вопроса

кто когда зачем почему

определение нейросети

Нейросеть — это параметризованная функция от множества переменных, параметры которой подбираются численным методом (обучением) для приближения целевой зависимости данных

Структура нейрона Персептрон Синапс

Принцип обучений нейросети

Принцип работы нейросетевой модели На вход нейросети подаются данные представленные в виде вектора чисел каждый нейрон умножает входящий вектор на вес синапса, по которому пришел сигнал, смещает его(bias) и суммирует дальше сигнал иден на выход на выходном слое нейронов добавляется еще функция активации, которая тормозит сигнал если он ниже порогового

Принцип обучения нейронной сети Установка начальных значений весов подаем обучающие данные на вход каждый нейрон умножает входящий вектор на вес синапса, по которому пришел сигнал, смещает его(bias) и суммирует дальше сигнал иден на выход на выходном слое функция активации и после неё функция ошибки градиентный спуск чтобы найти минимум функции ошибки и обратное распространение ошибки для корректировки весов и смещений нейронов

Чем является обученная модель По сути она является математической регрессионной моделью, потому как предсказывает выходные данные по входным

Какая математика используется Линейная алгебра Произведения веторов

Реализация Структура данных для хранения нейронов Программирование математики Структура класса нейрона Работа с

Математический анализ Численный метод поиска градиента

Что такое градиентный спуск? Градиент это поиск минимума функции от нескольких переменных, так как в нашем случае модель не задана аналитически, то нам необходим численный вариант градиента, для поиска минимума функции ошибки - градиентный спуск

Зачем нужен тензор?

Список литературы

• Численные методы (ISBN 978-5-93208-875-3)
• Глубокое обучение. Погружение в мир нейронных сетей (ISBN 978-5-496-02536-2)
• Самообучающиеся системы (ISBN 978-5-94057-506-1)