ZackMercury

Сигмоида - это функция, которая позволяет преобразовать любое число от -∞ до +∞ в число от 0 до 1.


Она используется в более совершенной, сигмоидной модели нейрона для того, чтобы преобразовать выход из вида


в выход с любым числом от 0 до 1. При этом порог, который мы определяли в перцептроне мы переименуем в "уклон"(bias), и будем прибавлять к взвешенной сумме ...

ZackMercury

Перцептрон(от англ. to perception - восприятие) - это самая первая модель нейронной сети, состоящая из всего одного нейрона, которая разрабатывалась в 1950-ых и 1960-ых учёным Френком Розенблаттом, вдохновлённым более ранней работой Уолтера Питтса и Уоррена Мак-Каллока.
Сегодня основной моделью нейрона является сигмоидный нейрон, о котором мы поговорим позже.

Идея состояла в том, чтобы подавать на вход некоторые числа, 0 или 1, проводить над ними некоторые операции, и таким ...

ZackMercury

Давайте взглянем на вот такую функцию:


Что, если мы впервые увидели это выражение, под рукой нет ничего, кроме обычного калькулятора, и нам нужно нарисовать график этой функции? Что-ж, для начала нам стоило бы найти 2 изгиба, которые находятся приблизительно в точках -2 и 2, однако как? Как мы можем узнать, где они находятся?

Что-ж, давайте взглянем на производную нашей функции, что с ней происходит на этом интервале.

...

ZackMercury

В двух предыдущих частях мы узнали, что такое наклон(slope) линейной функции и что такое предел.

Я хочу рассеять все догадки и фантазии о том, что такое производная, поэтому я начну с того, что наконец скажу, что это такое. Готовы?
Производная функции - это скорость её возрастания.

Наклон - это и есть производная?
Да, для линейной функции наклон и будет являться производной функции. Он на всех промежутках одинаков, поэтому мы с уверенностью можем сказать, ...

ZackMercury

В прошлой части мы узнали, что такое наклон или slope у уравнения прямой. Сейчас я исхожу из того мнения, что вы прочитали предыдущую часть, поэтому не буду повторять вступление, однако в этот раз мы не будем говорить о наклоне вообще, сегодня мы поговорим об отдельной концепции, которая невероятно важна в математике, и которая позволит вам подойти ближе к производной функции, которая откроет вам новый взгляд на функции и методы работы с ними.
Ньютон, который изобрёл дифференциальное исчисление(differential ...

ZackMercury

Зачем нужна производная? Что такое производная?

Производная используется в алгоритме обучения нейронных сетей, который называется Gradient Descent(градиентный спуск), о котором мы поговорим чуть позже.
Производная используется в физике и математике для того, чтобы получить графическое представление о каком-либо математическом выражении, при этом не подставляя в функцию поочерёдно ... -3 -2 -1 0 1 2 3 ...
Производная также позволяет делать вещи, которые без неё делать ...