WEBVTT

00:00:11.710 --> 00:00:13.830
Здравствуйте, уважаемые студенты.

00:00:14.390 --> 00:00:19.189
Мы продолжаем знакомиться с системами
искусственного интеллекта.

00:00:19.909 --> 00:00:23.588
На что ещё необходимо обратить внимание?

00:00:24.548 --> 00:00:28.227
Э-э, в примерах, которые мы ранее
рассмотрели,

00:00:29.311 --> 00:00:35.385
Мы ознакомились с некоторыми видами
активационных функций.

00:00:36.304 --> 00:00:42.619
Вначале, прежде всего, это была
ступенчатая пороговая функция, и потом мы

00:00:42.778 --> 00:00:47.374
обратили внимание, что с развитием теории
искусственного интеллекта нейросетей

00:00:48.222 --> 00:00:54.655
Очень часто стала использовать
сигмоидальная активационная функция.

00:00:55.694 --> 00:01:01.727
На самом деле существует большое
количество различных активационных функций

00:01:02.726 --> 00:01:03.565
на экране.

00:01:03.905 --> 00:01:10.152
представлены некоторые основные из них —
это и линейная,

00:01:10.232 --> 00:01:16.359
пороговая, простолинейная, сигмоидальная,
которая может быть как униполярная, так и

00:01:16.479 --> 00:01:18.681
биполярная, гаусиано

00:01:19.204 --> 00:01:21.885
Экспоненциальная, есть ещё и другие.

00:01:22.686 --> 00:01:28.648
Обратите внимание, что у всех этих функций
есть некоторые параметры.

00:01:28.768 --> 00:01:34.210
Ну, например, величина порога или
величины, если это другая функция,

00:01:34.330 --> 00:01:35.371
параметры функции

00:01:36.231 --> 00:01:40.674
Э-э, вот, например, в сигмоидальной
функции, в аналитическом её представлении,

00:01:40.834 --> 00:01:44.796
есть параметр, влияющий на формы функции и
так далее.

00:01:45.356 --> 00:01:52.000
По большому счёту, э-э, они, по сути,
различаются главным образом

00:01:52.521 --> 00:01:54.842
видом переходной характеристики.

00:01:55.654 --> 00:01:57.093
Что здесь имеется в виду?

00:01:57.973 --> 00:02:03.610
Когда мы рассматривали, например, хмм,
ступенчатую пороговую функцию, в чём был

00:02:03.810 --> 00:02:10.006
её смысл? Значение функции было равно,
например, нулю, но по достижению

00:02:10.446 --> 00:02:14.044
значения аргумента некоторого значения,
некоторого порога

00:02:14.774 --> 00:02:16.575
Она стала равна единице.

00:02:16.895 --> 00:02:21.939
Обратите внимание, э-э, на её
аналитическое представление.

00:02:22.060 --> 00:02:28.785
Функция F равна нулю при S меньше ма и,
допустим, единице при S больше, равна a.

00:02:29.025 --> 00:02:33.309
То есть, когда аргумент доходит до
некоторого порога, она меняет

00:02:33.973 --> 00:02:35.371
Резко своё значение.

00:02:35.531 --> 00:02:39.008
В этом и смысл здесь переходной
характеристики.

00:02:39.567 --> 00:02:43.724
У ряда других функций такого скачка нет.

00:02:43.963 --> 00:02:49.558
В частности, как мы заметили,
сигмоидальная, например, функция, функция

00:02:49.598 --> 00:02:50.517
активации, да?

00:02:50.976 --> 00:02:55.092
Она дифференцируемая на всей области
определения.

00:02:57.688 --> 00:03:02.922
Предлагаю в качестве ну такого
самостоятельного работы

00:03:06.638 --> 00:03:07.277
построить

00:03:07.875 --> 00:03:14.478
Графики всех этих функций, чтобы увидеть,
как они реально выглядят.

00:03:14.918 --> 00:03:19.560
Для этого вы можете использовать различные
инструменты.

00:03:19.760 --> 00:03:24.443
Ну, например, вы можете использовать там
Excel, где по

00:03:25.479 --> 00:03:32.476
Значением точек, то есть по координатам,
например, X-аргумент и грек

00:03:32.596 --> 00:03:35.674
или F, вы можете построить любую функцию.

00:03:35.714 --> 00:03:41.032
И таким образом вы можете наглядно
увидеть, чем они отличаются друг от друга,

00:03:41.112 --> 00:03:43.551
есть ли там скачки, есть ли там пороги и
так далее.

00:03:44.802 --> 00:03:50.964
Изменяя параметры, которые здесь заданы
при изображении графическом данной

00:03:51.084 --> 00:03:57.327
функции, вы тоже сможете увидеть, каким
образом тот или иной параметр

00:03:57.727 --> 00:04:01.529
влияет на данную функцию, на её внешний
вид.

00:04:04.950 --> 00:04:11.352
Как мы уже отмечали, нейронная сеть
представляет собой совокупность

00:04:11.712 --> 00:04:17.434
нейронов, которые определённым образом
соединены друг с другом, также могут быть

00:04:17.594 --> 00:04:19.514
соединены и с внешней средой.

00:04:19.834 --> 00:04:24.635
То есть есть некий набор связей между
нейронами прежде всего.

00:04:25.268 --> 00:04:30.670
И эти связи, в частности, характеризуются
определёнными весовыми коэффициентами.

00:04:31.191 --> 00:04:37.393
Так вот, э-э, можно классифицировать
нейронные сети по

00:04:37.793 --> 00:04:39.434
различным основаниям.

00:04:39.754 --> 00:04:40.435
В частности,

00:04:41.462 --> 00:04:46.342
В зависимости от функции, которые
выполняют нейронные сети, можно выделить

00:04:46.663 --> 00:04:48.103
три их типа.

00:04:53.104 --> 00:04:58.025
Входные нейроны, на которые подаётся
вектор входного воздействия или образ

00:04:58.305 --> 00:04:59.185
внешней среды.

00:05:00.047 --> 00:05:05.927
Обычно эти нейроны не осуществляют никаких
вычислений, а лишь передают информацию со

00:05:06.047 --> 00:05:09.647
своего входа на выход путём собственной
активации.

00:05:10.447 --> 00:05:15.727
Второй вариант — выходные нейроны,
выходные значения которых представляют

00:05:15.807 --> 00:05:17.247
выходы нейронной сети.

00:05:17.407 --> 00:05:19.887
Преобразование нейронов этого типа
происходит

00:05:20.753 --> 00:05:22.790
В соответствии с заданными формулами.

00:05:23.030 --> 00:05:28.784
И наконец, промежуточные нейроны, которые
составляют основу нейронных сетей.

00:05:28.943 --> 00:05:34.377
Преобразование в них также выполняется на
основе заданных аналитических выражений.

00:05:35.176 --> 00:05:36.654
В процессе функционирования

00:05:37.335 --> 00:05:42.099
В нейронной сети осуществляется
преобразование входного вектора в

00:05:42.139 --> 00:05:45.943
выходной, то есть осуществляется
переработка информации.

00:05:46.583 --> 00:05:51.147
Конкретный вид преобразования,
выполняемого сетью, обусловливается не

00:05:51.308 --> 00:05:55.672
только характеристиками составляющих их
нейронов.

00:05:56.180 --> 00:05:58.740
Но и особенностями архитектуры сети.

00:05:59.060 --> 00:06:02.541
А именно, что мы имеем в виду под
архитектурой сети?

00:06:03.021 --> 00:06:08.342
Топологией межнейронных связей, выбором
определённых подмножеств нейронов для

00:06:08.422 --> 00:06:12.703
ввода и вывода информации, способами
обучения сети.

00:06:13.508 --> 00:06:18.027
...наличием или отсутствием, ну, скажем
так, конкуренции между нейронами или

00:06:18.506 --> 00:06:24.184
способами управления и синхронизации
процессов информационного обмена между

00:06:24.704 --> 00:06:31.181
нейронами. С точки зрения топологии...

00:06:31.685 --> 00:06:35.845
Можно выделить три основных типа нейронных
сетей.

00:06:36.245 --> 00:06:43.166
А именно: полносвязные, многослойные или
слоистые и

00:06:43.366 --> 00:06:46.366
слабосвязные, то есть с локальными
связями.

00:06:46.927 --> 00:06:47.367
Данные

00:06:48.222 --> 00:06:54.505
Три основных типа приведены на рисунке, на
экране,

00:06:54.625 --> 00:06:57.746
соответственно, AB или B.

00:06:58.386 --> 00:07:03.948
Обратите внимание, в полносвязных
нейронных сетях, а это рисунок A, каждый

00:07:04.068 --> 00:07:06.749
нейрон передаёт свой выходной сигнал.

00:07:07.660 --> 00:07:10.458
...остальным нейронам, в том числе и
самому себе.

00:07:10.818 --> 00:07:15.854
Все входные сигналы подаются на входы всех
нейронов.

00:07:15.934 --> 00:07:22.328
Обратите внимание, от каждого нейрона идут
связи ко всем остальным нейронам

00:07:23.407 --> 00:07:25.086
сети данного типа.

00:07:28.238 --> 00:07:34.640
Выходными сигналами сети в этом случае
могут быть все или некоторые выходные

00:07:34.800 --> 00:07:39.761
сигналы нейронов после нескольких тактов
функционирования сети.

00:07:40.641 --> 00:07:43.682
Следующий тип — многослойные нейронные
сети.

00:07:44.336 --> 00:07:48.892
В сетях такого типа нейроны объединяются в
слои.

00:07:49.292 --> 00:07:55.327
Каждый слой содержит совокупность нейронов
с едиными входными

00:07:55.567 --> 00:08:00.762
сигналами. Число нейронов в слое может
быть любым и не зависит от количества

00:08:00.922 --> 00:08:03.240
нейронов в других слоях.

00:08:04.204 --> 00:08:10.481
В общем случае сеть состоит, ну, пусть из
кю-слоёв, пронумерованных слева направо.

00:08:10.761 --> 00:08:17.718
Внешние входные сигналы подаются на входы
нейрона входного нулевого слоя, а выходами

00:08:17.918 --> 00:08:21.837
сети являются выходные сигналы последнего
слоя.

00:08:23.081 --> 00:08:29.165
Кроме входного и выход и выходного слоёв
многослойной нейронной сети есть один или

00:08:29.445 --> 00:08:31.326
несколько скрытых слоёв.

00:08:31.726 --> 00:08:36.569
Связи от выходов нейронов некоторого слоя
к выходам нейронов следующего слоя

00:08:36.929 --> 00:08:38.610
называются последовательными.

00:08:39.175 --> 00:08:44.616
Вот рисунок Б иллюстрирует понятие
многослойной нейронной сети.

00:08:45.256 --> 00:08:50.816
Обратите внимание, даже в этом простом
рисунке, ну, например, число нейронов не

00:08:51.017 --> 00:08:53.697
зависит от количества нейронов в других
слоях.

00:08:53.897 --> 00:08:58.137
Так, на входе у- вот средний слой,
смотрите, пять

00:08:58.801 --> 00:09:05.124
Но он передаёт управляющее воздействие,
сигналы на слой, в котором уже не пять, а

00:09:05.284 --> 00:09:11.567
три нейрона. В многослойных нейронных
сетях тоже

00:09:11.968 --> 00:09:14.689
могут быть различные определены типы.

00:09:15.343 --> 00:09:22.068
нейросетей. Так монотонные нейронные сети

00:09:22.268 --> 00:09:27.432
являются частным случаем слоистых сетей,
но отличаются от последней рядом

00:09:27.552 --> 00:09:31.435
дополнительных условий, накладываемых на
связи нейронов.

00:09:32.528 --> 00:09:38.332
Каждый слой, кроме последнего выходного,
разбивается на два блока: возбуждающий и

00:09:38.452 --> 00:09:44.736
тормозящий. Связи между блоками также
разделены на тормозящие и возбуждающие.

00:09:45.216 --> 00:09:48.418
Если от нейронов блока A к нейронам блока
B

00:09:49.036 --> 00:09:54.113
Если ведут только возбуждающие связи, то
это означает, что любой выходной сигнал

00:09:54.792 --> 00:10:01.428
блока является монотонной, неубывающей
функцией любого выходного сигнала блока A.

00:10:01.788 --> 00:10:04.226
Если же эти связи только тормозящие

00:10:05.529 --> 00:10:11.851
То любой выходной сигнал блока B является
невозрастающей функцией любого выходного

00:10:12.011 --> 00:10:13.411
сигнала блока A.

00:10:13.932 --> 00:10:19.693
Для нейронов, э-э, сетей подобного типа
монотонных сетей необходима монотонная

00:10:19.853 --> 00:10:24.575
зависимость выходного сигнала нейрона от
параметров входных сигналов.

00:10:25.994 --> 00:10:32.916
Ещё тип э-э возможный — это нейронная сеть
без обратных

00:10:33.036 --> 00:10:39.798
связей, в которых нейроны входного слоя
получают входные сигналы, преобразуют их и

00:10:39.998 --> 00:10:43.519
передают нейронам первого скрытого слоя и
так далее.

00:10:43.953 --> 00:10:49.635
Вплоть до выходного, который выдаёт
сигналы для интерпретатора и пользователя.

00:10:50.036 --> 00:10:56.958
Если они не оговоренно противное, то
каждый выходной сигнал, ну, скажем, слоя Q

00:10:57.518 --> 00:10:59.679
подаётся на вход всех нейронов.

00:11:00.126 --> 00:11:01.727
Клюс первого слоя.

00:11:01.887 --> 00:11:07.129
Однако возможен вариант, понятно,
соединения ну Кютового слоя с

00:11:07.210 --> 00:11:13.092
произвольным, э-э, каким-то слоем всей
нейросети.

00:11:15.093 --> 00:11:18.695
Вот среди многослойных сетей без обратных
связей

00:11:20.230 --> 00:11:26.791
Различает полносвязные, то есть выход
каждого нейрона связан с входом каждого

00:11:26.871 --> 00:11:31.832
нейрона следующего слоя и частично
полносвязны.

00:11:32.112 --> 00:11:37.473
Ну, классическим вариантом слоистых сетей
является полносвязные сети.

00:11:37.865 --> 00:11:40.064
прямого распространения.

00:11:42.223 --> 00:11:48.542
Обратите внимание на рисунок, на нём как
раз изображён пример многослойной сети

00:11:48.741 --> 00:11:54.460
прямого распространения, где есть входной
слой, скрытый слой

00:11:55.510 --> 00:11:57.108
И выходной слой.

00:11:57.628 --> 00:12:04.341
И ещё раз обратите внимание, что каждый
нейрон некоторого

00:12:04.541 --> 00:12:09.936
слоя текущего связан с входом каждого
нейрона следующего слоя.

00:12:11.654 --> 00:12:12.573
Ещё вариант.

00:12:15.500 --> 00:12:21.418
Нейронная сеть с обратными связями, в
которых информация с последующих слоёв

00:12:21.778 --> 00:12:25.257
может передаваться на предыдущие слои
нейронов.

00:12:25.617 --> 00:12:31.175
Эти сети также могут быть подразделены на
следующие классы: слои стациклические.

00:12:31.860 --> 00:12:38.373
которые отличаются тем, э-э, что слои
замкнуты в кольцо.

00:12:38.773 --> 00:12:45.286
Последний слой при этом все слои

00:12:45.406 --> 00:12:49.801
равноправны и могут как получать входные
сигналы, так и выдавать выходные.

00:12:51.592 --> 00:12:54.749
Ещё тип слоисто-полносвязные.

00:12:55.029 --> 00:13:01.504
Это сети, которые состоят из слоёв, каждая
из которых представляет собой

00:13:01.984 --> 00:13:03.582
полносвязную сеть.

00:13:03.902 --> 00:13:07.699
Сигналы передаются как от слоя к слою, так
и внутри слоя.

00:13:08.437 --> 00:13:15.083
В каждом слое цикл работы распадается на
три этапа: приём сигналов с предыдущего

00:13:15.203 --> 00:13:22.089
слоя, обмен сигналами внутри слоя,
выработка выходного сигнала и передачу его

00:13:22.249 --> 00:13:23.570
последующему слою.

00:13:24.050 --> 00:13:27.213
И наконец, ещё один тип —
полносвязнослоистый.

00:13:27.738 --> 00:13:32.772
Они аналогичны по своей структуре
слоисто-полносвязанным, но функционируют

00:13:32.852 --> 00:13:39.844
другим образом. В таких нейросетях фаза
обмена информации внутри слоя

00:13:40.004 --> 00:13:42.761
и передачи её следующему не разделяется.

00:13:42.961 --> 00:13:45.278
На каждом такте нейроны всех слоёв

00:13:45.895 --> 00:13:50.934
принимает сигналы от нейронов как своего
слоя, так и последующих.

00:13:51.534 --> 00:13:58.452
Может где-то показаться, что классификация
подобной нейросети является избыточной,

00:13:58.652 --> 00:14:02.931
потому что сколь много вариантов мы уже
только назвали.

00:14:03.580 --> 00:14:10.099
С другой стороны, необходимо понимать, что
задачи, эээ, которые сейчас

00:14:11.099 --> 00:14:16.777
решаются с помощью нейросетей, тоже очень
многообразны и требуют, ну, очень

00:14:16.937 --> 00:14:18.537
серьёзного моделирования.

00:14:18.737 --> 00:14:21.616
То есть когда-то был простейший
математический нейрон

00:14:22.295 --> 00:14:28.049
Да. Прошло-прошло более 60 лет, да, и

00:14:28.249 --> 00:14:35.122
естественно, уже возникли новые модели,
новые подходы, новая теория

00:14:35.562 --> 00:14:37.240
при создании нейросетей.

00:14:37.320 --> 00:14:38.439
И, соответственно, решения

00:14:39.100 --> 00:14:45.425
...которые сейчас, ну, мы получаем,
используя нейросети, это, ну,

00:14:46.385 --> 00:14:52.149
зачастую решения, которые просто вызывают,
ну, скажем так,

00:14:52.269 --> 00:14:56.632
восхищение. Потому что нейросеть — это
такая вещь, которая

00:14:57.473 --> 00:15:02.791
Ну, сейчас звучит с экранов телевизоров,
постоянно мы видим сообщения о разработке

00:15:02.951 --> 00:15:07.749
тех или иных нейросетей, которые решают
самые различные вопросы.

00:15:08.189 --> 00:15:09.389
Следует отметить, что

00:15:11.530 --> 00:15:15.328
Есть фирмы, которые разрабатывают
нейросети под заказ для предметной

00:15:15.488 --> 00:15:22.044
области. Есть некие хмм такие типовые
нейронные сети обучить, которые

00:15:22.524 --> 00:15:27.401
можно также под какую-то, под какую-то уже
конкретную предметную задачу.

00:15:29.130 --> 00:15:35.566
Примером сетей с обратными связями могут
служить частично рекурентные сети

00:15:35.806 --> 00:15:39.444
Элмана и Джордана.

00:15:41.842 --> 00:15:44.041
Обратите внимание, на экране как раз

00:15:44.678 --> 00:15:50.958
Представленные частично рекурентные сети
Элмана и всё-таки

00:15:51.558 --> 00:15:58.198
Джордана Также можно обратить

00:15:58.318 --> 00:16:01.678
внимание, что в слабосвязных нейронных
сетях

00:16:02.391 --> 00:16:07.276
Нейроны располагаются в узлах
прямоугольной, гиксогональной или

00:16:07.476 --> 00:16:09.077
кактогональной решётки.

00:16:09.317 --> 00:16:15.643
В таких нейросетях нейрон связан с
четырьмя шестью или

00:16:15.883 --> 00:16:16.604
восьмью.

00:16:17.207 --> 00:16:22.889
Э-э, своими ближайшими соседями,
называемыми окрестностями Фонеймана, Галеи

00:16:23.010 --> 00:16:24.730
и Мура, соответственно.

00:16:26.491 --> 00:16:33.374
Ну, говоря о рекурентных сетях, рисунок на
или частично рекурентных сетях, обратите

00:16:33.494 --> 00:16:36.055
внимание, почему они называются
рекурентными.

00:16:36.799 --> 00:16:42.439
Потому что рекурентность по большому
счёту, это возврат к самому себе.

00:16:42.679 --> 00:16:46.039
И можно обратить внимание, что нейрон,
например,

00:16:49.880 --> 00:16:52.000
генерируя некий выходной сигнал

00:16:52.634 --> 00:16:58.355
На входе получают уже переработанный, да,
из каких-то контекстных нейронов сигнал

00:16:58.715 --> 00:17:00.355
для последующей обработки.

00:17:00.635 --> 00:17:05.436
В этом и суть рекурентности, что обращение
к самому себе

00:17:09.517 --> 00:17:12.037
по типам структур нейронов

00:17:13.262 --> 00:17:18.822
Нейронные сети можно разделить на
гомогенные, однородные, состоящие из

00:17:18.942 --> 00:17:25.462
нейронов одного типа, с единой функцией
активации и гетерогенные сети, типы

00:17:25.622 --> 00:17:28.102
функции активации нейронов, которых
различны

00:17:29.118 --> 00:17:33.673
Также можно выделить бинарные и аналоговые
сети.

00:17:34.272 --> 00:17:41.185
Первые бинарные сети оперируют только
двоичными сигналами, и выход каждого

00:17:41.305 --> 00:17:46.339
нейрона может принимать значение либо
логического нуля.

00:17:47.370 --> 00:17:51.446
Э-э, которое раньше мы называли
заторможенным состоянием, либо логическая

00:17:51.605 --> 00:17:53.683
единица, возбуждённое состояние.

00:17:53.883 --> 00:17:57.598
По-простому — бинарное, то есть двоичное,
ноль или один.

00:17:58.837 --> 00:18:03.352
Соответственно, аналогов допускают много
различных

00:18:04.427 --> 00:18:10.710
Значение. Ещё одна классификация делит
нейронные сети на синхронные и

00:18:10.870 --> 00:18:17.835
ассинхронные. В первом случае в каждый
момент времени лишь один нейрон меняет

00:18:17.955 --> 00:18:19.315
своё состояние.

00:18:19.996 --> 00:18:24.358
Во втором же случае состояние изменяется
одновременно.

00:18:24.917 --> 00:18:26.637
У целой группы нейронов.

00:18:26.837 --> 00:18:32.397
Ну, как правило, у всех нейронов
конкретного слоя.

00:18:32.877 --> 00:18:37.756
Алгоритмически ход времени в нейронных
сетях задаётся итерационно выполнением

00:18:38.116 --> 00:18:40.396
однотипных действий над нейронами.

00:18:41.800 --> 00:18:45.601
Сети можно классифицировать ещё по
различным основаниям.

00:18:45.641 --> 00:18:48.802
Ну, например, наглядно: по числу слоёв.

00:18:49.082 --> 00:18:55.523
Теоретически, число слоёв и число нейронов
в каждом слое может быть произвольным,

00:18:55.603 --> 00:18:56.443
однако фактически

00:18:58.399 --> 00:19:03.445
Оно ограничено ресурсами компьютера, на
котором реализована нейронная сеть.

00:19:03.805 --> 00:19:08.290
Чем сложнее сеть, тем более сложные задачи
она может решать.

00:19:10.012 --> 00:19:13.256
Отмечена высокая результативность.

00:19:13.821 --> 00:19:20.709
И эффективность применения нейронных сетей
во многом в последние

00:19:20.909 --> 00:19:27.236
годы как раз и определялась ресурсами
компьютеров, э-э суперкомпьютеры

00:19:27.916 --> 00:19:30.880
с огромным быстродействием, с огромной
памятью.

00:19:31.798 --> 00:19:38.078
При параллельном развитии, так сказать,
аппарата математического, связанного с

00:19:38.158 --> 00:19:43.398
моделированием нейронных сетей, позволяет
решать самые сложные, разнообразные

00:19:43.598 --> 00:19:45.038
задачи. Вот.

00:19:45.158 --> 00:19:46.918
То есть вот тут напрямую

00:19:48.105 --> 00:19:54.857
Имеется связь между ресурсами компьютера и
эффективностью применения нейронных сетей.

00:19:56.535 --> 00:20:02.448
Вообще, независимо от того, каким образом
реализована нейронная сеть, в общем случае

00:20:03.008 --> 00:20:04.166
её можно рассматривать

00:20:04.845 --> 00:20:08.046
...как некий взвешенный ориентированный
граф.

00:20:08.406 --> 00:20:13.969
Узлы этого графа, естественно,
соответствуют нейронам, а рёбрам, связям

00:20:14.089 --> 00:20:19.691
между ними. С каждой связью, э-э,
поскольку мы называем этот граф

00:20:19.771 --> 00:20:22.453
взвешенным, ассоциирован некоторый вес.

00:20:22.653 --> 00:20:22.693
Это

00:20:23.515 --> 00:20:29.314
Рациональное число, хмм, отображающее
оценку возбуждающего или тормозящего

00:20:29.434 --> 00:20:35.392
сигнала, передаваемого по этой связи на
ход нейроноприёмника при возбуждении

00:20:35.552 --> 00:20:37.072
нейрона-передатчика.

00:20:37.432 --> 00:20:42.511
Нейронная сеть образуется путём
объединения ориентированным взвешенными

00:20:42.591 --> 00:20:43.111
рёбрами.

00:20:43.653 --> 00:20:45.491
Выходов нейронов с входами.

00:20:46.091 --> 00:20:51.606
Граф межнейронных соединений может быть
ациклическим либо произвольным

00:20:51.726 --> 00:20:58.121
циклическим, что также может служить
одним, ну, из оснований классификации

00:20:58.361 --> 00:20:59.440
нейронных сетей.

00:21:02.840 --> 00:21:08.921
Также можно принять некоторое соглашение о
тактировании

00:21:09.081 --> 00:21:13.363
сети, то есть времени срабатывания
нейронов, да, что

00:21:15.443 --> 00:21:20.965
обеспечивает вот существующим аппаратом
задание алгоритмов посредством нейронных

00:21:21.045 --> 00:21:21.445
сетей.

00:21:22.408 --> 00:21:27.283
Разнообразие этих алгоритмов, в принципе,
ничем не ограничено, так как можно

00:21:27.602 --> 00:21:33.556
использовать нейроны с различными
функциями активации и состояния, а также

00:21:33.675 --> 00:21:38.550
двоичными, целочисленными, вещественными и
другими форматами.

00:21:39.121 --> 00:21:41.799
Представление значений весов и входа.

00:21:42.478 --> 00:21:47.794
Это даёт возможность описывать в терминах
нейронных сетей решение как хорошо

00:21:48.153 --> 00:21:52.870
формализованных задач из области
математики, например, или физики, так и

00:21:52.989 --> 00:21:57.186
плохо формализованных задач распознавания,
классификации.

00:21:57.835 --> 00:22:03.477
обобщения, хмм, ассоциативного запоминания
и так далее.

00:22:04.117 --> 00:22:10.919
В этой связи, вот, комментируя данный
подход к классификации

00:22:11.079 --> 00:22:14.320
нейронных сетей, даже можно обратиться к
предыдущему.

00:22:14.957 --> 00:22:20.518
Обратите внимание, да, на вход, на вход,
на нейрон поступает некоторый вход,

00:22:21.318 --> 00:22:25.639
генерируется выход, который передаётся на
другой нейрон.

00:22:25.919 --> 00:22:32.160
Но данные, данная схема изображения или
да-да, хмм, соответствующая методология

00:22:32.320 --> 00:22:34.400
изображения данной сети никак

00:22:35.315 --> 00:22:40.237
Не описывает то время, в течение которого
генерируется

00:22:41.998 --> 00:22:44.199
выход на основе входа.

00:22:44.599 --> 00:22:49.642
Ну, условно говоря, пришёл на нейрон вход,
и мы не знаем, сколько там будет

00:22:49.882 --> 00:22:51.203
осуществляться обработка.

00:22:51.901 --> 00:22:57.779
...там секунду, миллиардная доля секунды
там или час и так далее.

00:22:58.058 --> 00:23:04.936
Именно в этой связи как раз вот возможна
классификация, основанная на времени

00:23:05.056 --> 00:23:06.895
срабатывания нейронов.

00:23:09.454 --> 00:23:13.332
Сети также могут быть конструируемыми или
обучаемыми.

00:23:14.144 --> 00:23:20.907
Конструируемой сети число и тип нейронов,
граф межнейронных связей,

00:23:20.987 --> 00:23:27.390
веса входов нейронов определяется при
создании сети, исходя из решаемой задачи.

00:23:27.751 --> 00:23:33.833
Например, если конструируется нейросеть,
функционирующая как ассоциативная память

00:23:34.793 --> 00:23:40.472
Каждая входная последовательность из
заранее определённого набора,

00:23:40.712 --> 00:23:45.551
предназначенного для запоминания сетью,
участвует в определении весов входов

00:23:45.671 --> 00:23:50.790
нейронной сети. После конструирования
функционирования сети заключается в

00:23:50.870 --> 00:23:51.430
следующем.

00:23:52.050 --> 00:23:57.894
При подаче на входы частичной или
ошибочной входной последовательности сеть

00:23:58.014 --> 00:24:03.617
через какое-то время переходит в одно из
устойчивых состояний, предусмотренных при

00:24:03.818 --> 00:24:05.259
её конструировании.

00:24:05.499 --> 00:24:10.342
При этом на входах сети появляется одна из
запомненных последовательностей,

00:24:10.422 --> 00:24:11.663
признаваемой сетью.

00:24:12.074 --> 00:24:15.036
...как наиболее близкое к изначально
поданным.

00:24:16.316 --> 00:24:22.800
В обучаемых сетях графы межнейронных
связей, веса входов изменяются при

00:24:22.960 --> 00:24:24.961
выполнении алгоритма обучения.

00:24:25.361 --> 00:24:27.842
Алгоритмы обучения сети делятся на

00:24:28.529 --> 00:24:33.327
Наблюдаемые, ненаблюдаемые и смешанные, то
есть гибридные.

00:24:33.887 --> 00:24:40.525
Первые при обучении сравнивают заранее
известный выход с получившимся

00:24:40.605 --> 00:24:41.845
значением.

00:24:43.884 --> 00:24:48.602
Вторые обучаются, не зная заранее
правильных выходных значений.

00:24:49.207 --> 00:24:55.080
Но группирует при этом близкие входные
векторы так, чтобы они формировали один и

00:24:55.200 --> 00:24:56.558
тот же выход сети.

00:24:56.918 --> 00:25:00.674
Не наблюдаемое обучение используется, в
частности, при решении задачи

00:25:00.794 --> 00:25:04.349
кластеризации при смешанном алгоритме
обучения

00:25:05.040 --> 00:25:11.721
Часть весов определяется при наблюдаемом,
а часть при ненаблюдаемом обучении.

00:25:12.681 --> 00:25:19.161
Обучение осуществляется путём предъявления
примеров, состоящих из наборов

00:25:19.562 --> 00:25:20.602
входных данных.

00:25:20.890 --> 00:25:26.015
...в совокупности с соответствующими
результатами при наблюдаемом обучении и

00:25:26.216 --> 00:25:28.698
без последних, при ненаблюдаемом.

00:25:29.139 --> 00:25:33.783
Но обратите внимание, примеры,
рассмотренные ранее, как раз иллюстрируют

00:25:33.863 --> 00:25:36.386
данное положение. То есть предъявляется
пример...

00:25:39.230 --> 00:25:40.748
Буква ли это?

00:25:41.667 --> 00:25:45.263
Число ли это, цифра точнее, чётная или
нечётное, да?

00:25:45.902 --> 00:25:50.777
Потому что в данной ситуации мы знаем
результат и их соотносим:

00:25:50.857 --> 00:25:53.813
правильно-неправильно. То есть идёт
обучение.

00:25:54.895 --> 00:26:00.420
Как правило, выбор структуры нейронной
сети осуществляется в соответствии с

00:26:00.500 --> 00:26:02.622
особенностями и сложностью задачи.

00:26:03.302 --> 00:26:09.907
Ну, известно, что есть наработанные
решения отдельных типов задач и,

00:26:09.987 --> 00:26:11.108
соответственно, для них

00:26:11.720 --> 00:26:14.562
Уже разработаны оптимальные конфигурации.

00:26:15.042 --> 00:26:20.926
Если же задача не может быть сведена ни к
одному из известных типов, то приходится

00:26:21.047 --> 00:26:25.570
решать сложную проблему синтеза новой
конфигурации.

00:26:26.330 --> 00:26:30.854
При этом необходимо помнить, что
возможности сети возрастают с увеличением

00:26:30.934 --> 00:26:32.215
числа нейронов сети.

00:26:32.757 --> 00:26:35.873
плотности связи между ним и числом слоёв.

00:26:36.073 --> 00:26:41.507
Однако введение обратных связей наряду с
увеличением возможностей сети уже, в

00:26:41.587 --> 00:26:46.221
частности, поднимает вопрос о динамической
устойчивости сети.

00:26:47.180 --> 00:26:47.460
Вообще

00:26:48.693 --> 00:26:55.536
Все задачи решаемые нейронными сетями,
можно условно

00:26:55.977 --> 00:26:59.058
подразделить на несколько основных групп.

00:27:00.019 --> 00:27:04.061
Первое — аппроксимация, задачи
аппроксимации, интерполяции.

00:27:04.141 --> 00:27:04.421
Второе

00:27:05.804 --> 00:27:08.642
Задачи распознавания и классификации
образов.

00:27:08.881 --> 00:27:11.839
Третье — задачи сжатия данных.

00:27:12.798 --> 00:27:15.516
Четвёртое — задачи прогнозирования.

00:27:16.116 --> 00:27:18.793
Пятое — задачи идентификации.

00:27:19.393 --> 00:27:21.591
Шестое — задачи управления.

00:27:22.561 --> 00:27:25.083
Седьмое задача ассоциации.

00:27:25.603 --> 00:27:32.248
По сути, в каждом из указанных приложений
нейронная сеть играет роль универсального

00:27:32.328 --> 00:27:38.132
аппроксиматора функции от нескольких
переменных, реализуя заданную нелинейную

00:27:38.452 --> 00:27:38.972
функцию.