Презентация на тему Нейронные сети

из направлений компьютерной индустрии, в основе которого лежит идея

создания искусственных интеллектуальных устройств по образу и подобию человеческого мозга.

мозг содержит примерно 1011 нейронов
каждый нейрон связан с 103-104

другими нейронами
мозг человека содержит 1014-1015 взаимосвязей

Мак-Каллок и Вальтер Питтс выдвинули гипотезу математического нейрона
математический нейрон

имеет несколько входов и один выход
через входы (j) математический нейрон принимает входные сигналы (xj)
входные сигналы умножаются на весовой коэффициент (wj) и суммируются


выходной сигнал нейрона у является нелинейная функция f(S), которая называется активационной

чувствительности нейрона); б) линейный порог (гистерезис); в) и г)

сигмоид (логистическая функция).



S

y

0

1

S

y

0

1

а)

б)

S

y

0

1

y

1

в)

г)

S

0

вход – стрелкой
тормозящий вход – маленьким кружочком
рядом может записываться

число, показывающее значение порога 

x1

x2

y

 = 2

"И"

x1

x2

y

 = 1

"ИЛИ"

x

y

 = 0

"НЕТ"

Фрэнком Розенблаттом:
1958 г. в виде компьютерной программы
1960 г. в

виде электронного устройства, моделирующего человеческий глаз

входной образ и вычислить выход персептрона у
Шаг 2, а.

Если выход правильный, то перейти на шаг 1
Шаг 2, б. Если выход неправильный и равен нулю, то увеличить веса активных входов, например:
wj(t + 1) = wj(t) + хj
Шаг 2, в. Если выход неправильный и равен единице, то уменьшить веса активных входов, например:
wj(t + 1) = wj(t) - хj
Шаг 3. Перейти на шаг 1 или завершить процесс обучения.

своей книге "Персептроны" строго математически доказали, что однослойные персептроны

в принципе не способны решать многие простые задачи
Многие понимали, что надо усложнять структуру персептронов

и смещений
Шаг 2. Представление из обучающей выборки входного вектора

Xq = (х1, х2, ..., xN)q и соответствующего ему выходного вектора Dq = (d1, d2, …, dM)q
Шаг 3. Прямой проход



Шаг 4. Обратный проход




Шаг 5. Повторение шагов 2–4 необходимое число раз

по всем обучающим примерам:




также вычисляется максимальная разность между желаемым

и фактическим выходами персептрона:



итерационный процесс заканчивается после того, как погрешность , достигнет заданной величины, либо при достижении предельного числа эпох обучения.

какого-то процесса, то изучая влияние входных параметров на выходные,

можно решить задачу оптимизации моделируемого процесса
если математическая модель является нестационарной, то её можно использовать для решения задач прогнозирования
если математическая модель работает в реальном режиме времени, то результаты математического моделирования могут быть оперативно переданы оператору, управляющему объектом, или могут быть непосредственно введены в приборы, что позволяет решать задачи управления моделируемым объектом или процессом
нейронные сети могут решать задачи распознавания и классификации образов, причем под образами понимаются зрительные изображения, символы, тексты, запахи, звуки, шумы

нейросеть способна выводить закономерности, делать догадки, открывать законы природы.

Но, так же, как и человек, нейросеть не способна к чёткой формулировке алгоритма, позволившего сделать то или иное умозаключение.
Известны случаи, когда нейросети демонстрируют феномен, называемый в жизни шестым чувством. Они с успехом извлекают знания из анализа информации, из которой, казалось бы, эти знания извлечь невозможно.

последовательность действий
подстройка весов производится на основе действий, подчиняющихся некоторому

случайному процессу

поверхность функции ошибок обычно имеет очень сложную форму со

множеством локальных минимумов.
актуальным является развитие методов глобальной оптимизации, которые позволяют найти глобальный минимум многоэкстремальной целевой функции

оптимизационный процесс, происходящий при эволюции живых организмов
основные идеи теории

Чарльза Дарвина: естественный отбор и генетическое наследование
мутация – изменение генов

матери
a1
b2
Хромосома 1-го потомка
b1
a2
Хромосома 2-го потомка

зависит от удачного подбора обучающих примеров
следует учитывать, что

не все параметры предметной области влияют на выходной вектор Y
незначимые параметры не следует включать в список параметров входного вектора X
на первом этапе в вектор X включают как можно больше параметров

Если у какого-либо входного нейрона синаптические веса значительно меньше,

чем у других нейронов, то этот входной нейрон скорее всего соответствует незначимому параметру вектора X
возмущения значений входных параметров и анализа реакции сети на эти возмущения. Если сеть не реагирует или слабо реагирует на изменения значения какого-либо входного параметра, то этот параметр не является значимым