Презентация на тему Введение в нейросети

века. Первые работы, в которых были получены основные результаты

в данном направлении, были проделаны Мак-Каллоком и Питтсом. В 1943 году ими была разработана компьютерная модель нейронной сети на основе математических алгоритмов и теории деятельности головного мозга.
Они выдвинули предположение, что нейроны можно упрощённо рассматривать как устройства, оперирующие двоичными числами, и назвали эту модель «пороговой логикой». Подобно своему биологическому прототипу нейроны Мак-Каллока–Питтса были способны обучаться путём подстройки параметров, описывающих синптическую проводимость.
Исследователи предложили конструкцию сети из электронных нейронов и показали, что подобная сеть может выполнять практически любые вообразимые числовые или логические операции. Мак-Каллок и Питтс предположили, что такая сеть в состоянии также обучаться, распознавать образы, обобщать, т. е. обладает всеми чертами интеллекта.

Источник: https://neuronus.com/history/5-istoriya-nejronnykh-setej.html

бинарных условия (да или нет) и одно бинарное решение

на выходе (да или нет):

выводом. Эта модель может абсолютно отлично работать для разных

людей и выдавать им разные результаты, в зависимости от того, как они обучили нейронную сеть.

Источник: https://habr.com/post/416211/

выводом — это нейроны. Пока что они ни с

чем не связаны, но это и отражает их главную особенность, о которой все забывают сказать: они — это полностью абстрактны. 

Источник: https://habr.com/post/416211/

или 1, да или нет. Давайте добавим эти значения

вводу, предположим, что на вечеринке не будет водки, будут друзья да будет идти дождь:

Источник: https://habr.com/post/416211/

связей. Помните, что нейроны — это абстракция? Так вот,

связи — это именно то, из чего и состоит нейронная сеть. 

Источник: https://habr.com/post/416211/

вы можете ее использовать для любых нужд. Если сумма

получается больше 0.5 — идти на вечеринку нужно. Если меньше или равно — на вечеринку идти не нужно. Спасибо за внимание!

Источник: https://habr.com/post/416211/

мы делаем два и снова все перебираем по точно

тем же самым принципам, только уже все нейроны отдают значения другим нейронам. Если сначала у нас было только 3 связи, то теперь 3 + 9 связей с весами. А потом три слоя, четыре, рекурсивные слои, зацикленные на себе и тому подобная дичь:

Источник: https://habr.com/post/416211/

каждый раз, когда нейронная сеть проходит один тренировочный сет.

Другими словами, это общее количество тренировочных сетов пройденных нейронной сетью. Эпоха
При инициализации нейронной сети эта величина устанавливается в 0 и имеет потолок, задаваемый вручную. Чем больше эпоха, тем лучше натренирована сеть и соответственно, ее результат. Эпоха увеличивается каждый раз, когда мы проходим весь набор тренировочных сетов, в нашем случае, 4 сетов или 4 итераций.

между ожидаемым и полученным ответами. Ошибка формируется каждую эпоху

и должна идти на спад. Если этого не происходит, значит, вы что-то делаете не так. Ошибку можно вычислить разными путями, но мы рассмотрим лишь три основных способа: Mean Squared Error (далее MSE), Root MSE и Arctan. 

MSE

Root MSE

Arctan

Строим таблицу истинности
 
 
 
6. Выбираем ФА (например пороговую)
 

from itertools import product as p return(p(range(2),

repeat=2)) def f(x): return(x[0] or x[1]) x_vectors = generate_vectors() t_vector = np.array([f(x) for x in x_vectors]) x_vectors = generate_vectors() nu = 0.3 weight = np.array([0., 0.]) epoch = 1 error = 1

x_vectors = generate_vectors() print(f'\n*************** epoch {epoch} ***************')

print(f'weight = {weight}') print(f'_____________________________________________') error = 0 for i, x_vec in enumerate(x_vectors): net = sum(x_vec[j]*weight[j] for j in range(2)) if net >= 0.5: y = 1 else: y = 0 delta = t_vector[i] - y err = t_vector[i] - net print(f'| net = {net:.3f} | y = {y}| t = {t_vector[i]} | err = {abs(err):.3f} |') if delta != 0: error += 1 weight = [weight[j] + nu * abs(err) * x_vec[j] for j in range(2)] epoch += 1 print(f'¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯') print(f'{error} errors\n')

[0. 0.]
_____________________________________________
| net = 0.000 | y = 0|

t = 0 | err = 0.000 |
| net = 0.000 | y = 0| t = 1 | err = 1.000 |
| net = 0.000 | y = 0| t = 1 | err = 1.000 |
| net = 0.600 | y = 1| t = 1 | err = 0.400 |
¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯
2 errors

*************** epoch 2 ***************
weight = [0.3, 0.3]
_____________________________________________
| net = 0.000 | y = 0| t = 0 | err = 0.000 |
| net = 0.300 | y = 0| t = 1 | err = 0.700 |
| net = 0.300 | y = 0| t = 1 | err = 0.700 |
| net = 1.020 | y = 1| t = 1 | err = 0.020 |
¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯
2 errors

*************** epoch 3 ***************
weight = [0.51, 0.51]
_____________________________________________
| net = 0.000 | y = 0| t = 0 | err = 0.000 |
| net = 0.510 | y = 1| t = 1 | err = 0.490 |
| net = 0.510 | y = 1| t = 1 | err = 0.490 |
| net = 1.020 | y = 1| t = 1 | err = 0.020 |
¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯¯
0 errors