Язык Пролог для искусственного интеллекта
По нейронным сетям накоплен огромный материал, способный привести в растерянность неискушенного читателя, пытающегося понять, что такое нейросети. С этой проблемой столкнулся автор данной книги при чтении курса лекций по нейроинформатике студентам технического вуза, обладающим традиционным объемом математических знаний, и несформированным формальнологическим мышлением. Помогла схемотехническая направленность их знаний в области конструирования электронных схем и программирования. Устранение излишней «математизированности» проблемы и смещение ее на уровень прагматический, оперирующий лишь с простыми логическими элементами, — одна из основных целей настоящей книги.
Как же добиться доступности изложения? Один путь уже указан: использование простых принципов схемотехники. Другой путь — в применении методов распараллеливания обработки информации, присущих такой универсальной нейронной сети, какой является мозг. Однако параллельные вычислительные процессы «обладают» теорией, несложными методами расчета и организации, известными специалистам. Представляется логичным приложение простейших методов и концепции распараллеливания к такой же параллельной системе, как нейросеть.
Подобный подход оказался плодотворным и, в частности, привел к простым и уже знакомым аудитории алгоритмам обучения нейросети, позволяющим полностью устранить взаимное влияние эталонов, по которым производится обучение.
И наконец, основной способ достижения доступности изложения состоит в строгом следовании идеям искусственного интеллекта, воспроизводящим работу мозга. Именно в этом случае нейросети обеспечивают простое и естественное решение тех проблем, о которых заявлено в названии книги.
Мозг умеет все, и, что очень важно, логика его работы весьма проста. Она использует связи «если то», «посылка следствие». Более того, это основные отношения, складывающиеся на этапе обучения в незримые таблицы. В свою очередь, основной вопрос: «На что более всего похож предъявляемый образ и что из этого следует?», в то же время является основной функцией обучения нейросети, воспроизводящей работу мозга и ассоциативное мышление. И мы уже видим, как с помощью такого принципа решаются представленные здесь задачи.
Защищая принципы искусственного интеллекта и нейросетевые технологии, спросим читателя, много ли он считает, т.е. оперирует с числами, в своей обыденной жизни? Как находит угол поворотарулевого колеса, чтобы удержать автомобиль на дороге? Как выбирает значения массы параметров, чтобы попасть мячом в баскетбольную корзину? Как вообще он передвигается по дороге, не спотыкаясь о бугорки и обходя лужицы?
Интерполируя по тем самым незримым таблицам, реализованным и развиваемым в нейронной сети нашего мозга, мы можем безбедно прожить жизнь, не ставя перед собой тяжелых творческих задач. И только взаимодействие таких таблиц, содержащихся в них отношений (в совокупности с образной памятью), позволяет строить логические цепочки, называемые умозаключениями.
Книга содержит девять разделов. В разд. 1 обсуждаются проблемы построения и применения нейронных сетей. В разд. 2 строится обученная нейросеть на основе «схемотехнического» подхода. В разд. 3 приводятся пример и формальный алгоритм обучения нейронной сети методом трассировки. В разд. 4 исследуется проблема динамического, постепенного обучения нейросети в процессе ее эксплуатации. В разд. 5 рассматривается построение нейронных сетей с обратными связями. Разд. 6 посвящен построению самообучающихся систем управления. В разд. 7 представлена нейросетевая реализация АЛГОЛпрограммы. В разд. 8 аппарат «карт Кохонена», реализуется на универсальной нейросети, позволяющей значительно увеличить число рассматриваемых факторов. Разд. 9 посвящен перспективе применения нейросетевых технологий в сфере обеспечения безопасности, в системах защиты информации, при управлении следованием поездов и др.
Книга рассчитана на любознательных, предприимчивых компьютерщиков и программистов, желающих найти область приложения своим интересам для личных успехов в Computer Art Studio в науке, экономике и бизнесе, а также в индустрии развлечений и зрелищ.
Введение
В моменты принятия сложных решений человек старается «заглянуть в себя» и постичь, каким образом он справляется с трудными и порой не решаемыми формальной логикой задачами. Естественное беспокойст
Введение 2
Особый интерес ученых и разработчиков сложных управляющих систем к нейросетевым технологиям, как и к другим технологиям искусственного интеллекта, возник в начале 1980х годов (известный «японский
Введение 3
Теперь обратимся к «естественному» интеллекту. Природа не создала ничего лучшего, чем человеческий мозг. Значит, мозг является и носителем базы знаний, и средством логического вывода на ее основе
Модель мозга
Нейросеть содержит узлы — аналоги нервных клеток — нейронов (нейроподобных элементов, НПЭ) и их соединения — синапсические связи (рис.1.1). Модель нейрона во взаимодействии с другими нейронами ней
Модель мозга 2
В соответствии с законом распределения энергии величина пропорционально значениям весов дендритов «принимающих» нейронов. (В практических моделях такое распределение энергии обычно не реализуют.)
Модель мозга 3
Изображенный на рис. 1.3 фрагмент нейросети позволяет представить следующее: функции f бывают различны, но просты по объему вычислений. В простейшем случае f совпадает с линейной формой — указанны
Модель мозга 4
сеть работает в двух режимах:режиме обучения и режиме распознавания (рабочем режиме). Установим случайным образом начальные значения весов дендритов всей сети. Пусть нейросеть предназначена для ра
Модель мозга 5
Расширим функцию входного слоя, связав его не с изображением, а в общем случае с некоторыми характеристиками исходной ситуации (входного вектора), по которой необходимо принимать решение — формиро
Устойчивость и помехозащищенность
В рассмотренном в разд. 1.1 примере относительно жесткого закрепления нейронов выходного слоя между образами принцип ассоциативности или ответ на вопрос: «На что более всего это похоже?», пока не
Ввод и «разглядывание» эталонов и образов
Устройства ввода информации — эталонов, входных векторов, исходных ситуаций — имеют для нейросети определяющее значение. С их помощью формируются и поддерживаются возбуждения входного слоя. Однако
Ввод и «разглядывание» эталонов и образов 2
Указанный процесс выделения и размещения в попытке инициировать распознавание сравним с концентрацией внимания и с фокусировкой: ведь зрение в каждый момент времени сконцентрировано на элементе из
Пространство признаков
Рассмотрим подробнее процесс восприятия, например, строчной буквы а рецепторами — входным слоем нейросети. Конфигурация возбужденных рецепторов, порождая прохождение возбуждения через внутренние с
Кора
Понятно, что примитивная оптимизация целевой функции, принимающей только два значения: «хорошо» и «плохо», может быть использована лишь на начальной стадии изучения и применения принципов нейросет
Локализация максимального возбуждения на выходном слое
Проанализировав сказанное выше, попытаемся собрать некоторую универсальную модель нейросети с входным и выходным слоями. Картина возбуждений выходного слоя при подаче изображения на входной слой п
Локализация максимального возбуждения на выходном слое 2
Тогда в течение очередного периода тактовой частоты на входе нейрона у) появится подавляющий сигнал а на входе нейрона (i, j+1), имеющего меньшее значение величины возбуждения, — больший подавляющ
Локализация максимального возбуждения на выходном слое 3
несомненно, уменьшится, но в еще большей степени уменьшится значение В следующем такте «сильный» нейрон еще более «ослабит» «слабый» нейрон, который, в свою очередь, сможет еще в меньшей степени «