Реферат Нейронні мережі

Страница 1 из 2 | Следующая страница

Федеральне агентство за освітою

Державне освітнє установа вищого професійної освіти

>Волгоградский державний технічний університет

Кафедра інформаційних систем економіки

>Реферат по інформаційних технологій

на задану тему «>Нейронние мережі»

>Виполнил: студент групиЭИС-458

>Дорощенко Ф. М.

Перевірив:Черняева Н.В.

Волгоград, 2008


>Оглавление

Запровадження

1. Базові поняття штучного нейрона

1.1 Структура штучного нейрона

1.2Активационние функції

1.3 Класифікація

2. Переваги нейронних мереж

3. Використання нейронних мереж

3.1 Вимоги до компетенції користувача

3.2 Області застосування нейронних мереж

Укладання

Список використаної літератури


Запровадження

Останніми десятиліттями у світі бурхливо розвивається нова прикладна область математики, що спеціалізується на штучних нейронних мережах. Актуальність досліджень, у цьому напрямі підтверджується масою різних застосувань нейромереж. Це автоматизація процесів розпізнавання образів, адаптивне управління, апроксимаціяфункционалов, прогнозування, створення експертних систем, організація асоціативної пам'яті і ще докладання. З допомогою нейромереж можна, наприклад, пророкувати показники біржового ринку, виконувати розпізнавання оптичних чи звукових сигналів, створюватисамообучающиеся системи, здатні керувати автомашиною при паркуванні чи синтезувати мова за текстом. Тоді як у заході застосування СР вже широке, в нас ще певної міри екзотика – російські фірми, використовують СР у практичні, на пальцях полічити.

Широкий коло завдань, розв'язати нейронними мережами, Демшевського не дозволяє нині створювати універсальні, потужні мережі, змушуючи розробляти спеціалізовані мережі, що функціонують за різним алгоритмам. Проте, тенденції розвитку нейромереж нарощуються з кожним роком.

Мета моєї роботи – розбір базових понять, що з вивченням нейронних мереж, і навіть виявлення розвитку.


1. Базові поняття штучного нейрона

1.1 Структура штучного нейрона

Штучний нейрон імітує у першому наближенні властивості біологічного нейрона. На вхід штучного нейрона надходить деяке безліч сигналів, кожен із якого є виходом іншого нейрона. Кожен вхід збільшується на відповідний вагу, аналогічнийсиноптической силі, і всі твори сумуються, визначаючи рівень активації нейрона. На мал.1 представлена модель, реалізує згадану ідею.

>рис.1.Искусственний нейрон

Хоча мережні парадигми дуже різні, основу майже всіх їх лежить ця конфігурація. Тут безліч вхідних сигналів, позначенихx1,x2,x3...xn, надходить на штучний нейрон. Ці вхідні сигнали, разомобозначаемие вектором X, відповідають сигналам, прихожим всинапси біологічного нейрона. Кожен сигнал збільшується на відповідний вагу w1, w2, w3...wn, і робить насуммирующий блок, визначений СУМ. Кожен вагу відповідає "силі" однією біологічноюсиноптической зв'язку. (Безліч терезів разом позначається вектором W).Суммирующий блок, відповідний тілу біологічного елемента, складає зважені входи алгебраїчно, створюючи вихід, який ми називати NETy.

1.2Активационние функції

Сигнал NETy далі, зазвичай, перетворитьсяактивационной функцією F і дає вихіднийнейронний сигналOUT .Активационная функція то, можливо звичайній лінійної функцією:

>OUT=K(NET)

де До –стала, порогової функцією

>OUT=1 ,якщоNET>T

>OUT=0 у решті випадках,

де T – деяка стала порогова величина, або ж функцією точніше моделюючою нелінійну передатну характеристику біологічного нейрона і що становить нейронної мережі великі можливості. На рис 2 блок, визначений F, приймає сигнал NETy видає сигналOUT.

мал.2.Нейрон зактивационной функцією

Якщо блок F звужує діапазон зміни величини NETy отже за будь-яких значеннях NETy значенняOUT належать деякому кінцевому інтервалу, то F називається стискаючої функцією. Як стискаючої функції часто використовується логістична чисигмоидальная (>S-образная) функції. Ця функція математично виражається якF(x)=1/(1+e-x) . Отже,

>OUT=1/(1+e-NETy)

За аналогією з електронними системамиактивационную функцію вважатимуться нелінійної підсилювальної характеристикою штучного нейрона. Коефіцієнт посилення обчислюється як ставлення збільшення величиниOUT до який викликав його невеличкому збільшенню величини NETy.

Він виражається нахилом кривою за певного рівні порушення та змінюється від малих значень на великих негативнихвозбуждениях (крива майже горизонтальна) до максимального значення при нульовому збуренні і знову зменшується, коли порушення стає великим позитивним.Гроссберг (1973) виявив, що така нелінійна характеристика вирішує поставлену їм дилему шумового насичення. Як сама й той самий мережу може обробляти як слабкі, і сильні сигнали? Слабкі сигнали потребують великому мережному посиленні, щоб дати придатний для використання вихідний сигнал. Проте підсилювальні каскади з більшими на коефіцієнтами посилення можуть призвести до насичення виходу шумами підсилювачів (випадковими флуктуаціями), що є у будь-якій фізично реалізованої мережі. Сильні вхідні сигнали своєю чергою також призводитимуть до насичення підсилюючих каскадів, крім можливості корисного використання виходу. Центральна область логістичній функції, має великий коефіцієнт посилення, розв'язує проблеми обробки слабких сигналів, тоді в галузі як з падаючим посиленням на позитивному і негативному кінцях підходять для великих порушень. Отже, нейрон функціонує з великим посиленням широтою діапазону рівня вхідного сигналу.

Розглянута проста модель штучного нейрона ігнорує багато властивостей свого біологічного двійника. Наприклад, вона приймає до уваги затримки в часу, які впливають на динаміку системи. Вхідні сигнали відразу ж потрапляє породжують вихідний сигнал. І що важливіше, вона враховує впливів функції частотною модуляції чисинхронизирующей функції біологічного нейрона, які ряд дослідників вважає вирішальними. Попри ці обмеження, мережі, побудовані з цих нейронів, виявляють властивості, сильно схожі на біологічну систему. Тільки час і дослідження зможуть з відповіддю, є такі збіги випадковими чи наслідком те, що в моделі вірно схоплені найважливіші риси біологічного нейрона. [1]

1.3 Класифікація

· на кшталт вхідний інформації: Аналоговінейронние мережі (використовують інформацію у вигляді дійсних чисел);Двоичниенейронние мережі (оперують з туристичною інформацією, представленої удвоичном вигляді).

· характером навчання: З учителем (вихідний простір рішень нейронної мережі відомо); Без вчителя (нейронна мережу формує вихідний простір рішень тільки із вхідних впливів). Такі мережі називаютьсамоорганизующимися; З критиком (система призначення штрафів та заохочень).

· характером настройки синапсів: Мережі з фіксованими зв'язками (вагові коефіцієнти нейронної мережі вибираються відразу, з умов завдання, у своїй:dW/dt = 0 , де W — вагові коефіцієнти мережі); мережі з динамічними зв'язками (їм у процесі навчання відбувається настроювання синаптичних зв'язків, тобтоdW/dt 0, де W — вагові коефіцієнти мережі).

· характером зв'язків: Мережі прямого поширення (>Feedforward). Усі зв'язку спрямовані суворо від вхідних нейронів до вихідним;Рекуррентние мережі. Сигнал з вихідних нейронів чи нейронів прихованого шару частково передається назад на входи нейронів вхідного шару. Як і кожна система, має зворотний зв'язок,рекуррентная мережу прагне стійкого стану. Як відомо, найбільш стійке стан забезпечується мінімізацією енергії системи.Рекуррентная мережу «фільтрує» вхідні дані, повертаючись до стійкого станові й існувати, в такий спосіб, дозволяє виконувати завдання компресії даних, і побудови асоціативної пам'яті;Двунаправленние мережі. У цих мережах між верствами існують зв'язку як у напрямі від вхідного шару до вихідному, і у зворотному;Самоорганизующиеся карти. Такі мережі є, зазвичай,двумерную структуру нейронів. Перед навчанням структура випадкова, нейрони розподілені приблизно рівномірно. Якщо навчання відбувалося, кожної навчальною записи розраховується точка, що відповідає їй у структурі мережі.Нейрон, які перебувають найближена до шуканої точці, називаєтьсянейроном переможцем. Вагомості зв'язків, що з'єднують цей нейрон коїться з іншими, збільшується, цим кілька впорядковуючи структуру. Вагомості від нейронів, є «сусідами» нейрона переможця, решти нейронам також збільшуються, але слабше тощо. буд. Отже, ніж частіше нейрон «перемагає» при порівнянні з ознакою, тим «щільніше» щодо нього є інші нейрони. Наприкінці навчання мережу представляє з себе кілька зон зосередження нейронів, званих кластерами. [2]


2. Переваги нейронних мереж

Коло проблем, на вирішення яких використовуютьнейронние мережі, багато в чому збігаються з завданнями, вирішити традиційними статистичними методами. Тому зазначимо переваги нейромереж перед кількома класичними методами статистики.

У порівняні з лінійними методами статистики (лінійна регресія,авторегрессия, лінійнийдискриминант),нейронние мережі дозволяють ефективно будуватинелинейние залежності, точніше описують набори даних. З нелінійних методів класичної статистики поширений, мабуть, лишебайесовский класифікатор, що зводитьквадратичную відділяють поверхню нейронна мережу ж можна побудувати поверхню вищого порядку. Висока нелінійний що розділює поверхні наївногобайесовского класифікатора (не використовуєковариационние матриці класів, як класичнийбайес, а аналізує локальні щільності ймовірності) вимагає значного сумарного числа прикладів щодо можливості оцінювання ймовірностей при кожному поєднанні інтервалів значень змінних нейронна мережу ж навчається на вибірці даних, нефрагментируя її, що підвищує адекватність настройки нейронної мережі.

При побудові нелінійних моделей (наприклад,полиномиальних) в статистичних програмах зазвичай потрібно ручневведение-описание моделі у символьному вигляді з точністю до значень параметрів: приN=10 незалежних змінних поліном другого ступеня міститимеN*(N-1)/2=45 коефіцієнтів при попарних творах змінних, 10 при самих змінних, 10 при квадратах значень змінних, тобто. 65 (66 з урахуванням неоднорідного доданка) коефіцієнтів. При двадцяти змінних в вираз ввійде вже 231 складова. Вводити такі довгі формули довго, великий ризик помилки.Нейронная мережу ж створюється шляхом вказівки виду структури, числа верств населення та числа нейронів у кожному шарі, що значно швидше. А алгоритми побудови зростаючих нейромереж і зовсім вимагають початкового завдання розміру нейронної мережі. Альтернативою нейронної мережі при побудові складних нелінійних моделей є лише метод групового обліку аргументів.

Для стискування і візуалізації даних в статистиці розроблений метод лінійних головних компонент.Нейросети-автоассоциатори дозволяють ефективніше стискати дані з допомогою побудови нелінійних відбиття і візуалізувати дані у просторі меншої кількості нелінійних головних компонент.

У порівняні з методами непараметричної статистики, нейронна мережу з радіальними засадничими функціями дозволяє скорочувати число ядер, оптимізувати координати і розмитість кожного ядра. Це дозволяє за збереження парадигми локальної ядерної апроксимації прискорювати подальший процес прийняття рішень.

Якщо навчання відбувалося нейронної мережі замість критерію якості як найменших квадратів можна використовуватиробастние критерії, додатково вести оптимізацію та інших властивостей нейронної мережі (наприклад, додаючи критерії регуляризації рішення чи оптимізації структури нейронної мережі). Алгоритми навчання нейронної мережі у своїй залишаються незмінними.

Необхідність рішення прямий і зворотної завдань зазвичай вимагає побудови двох моделей. З використанням ж нейронних мереж можна обійтися однієї мережею, навченої вирішувати пряму завдання.


3. Використання нейронних мереж

>Нейронние мережі можуть вирішувати широке коло завдань обробки й аналізу даних розпізнавання і класифікація образів, прогнозування, управління економіки й т.д.Конкурентами є класичні методи аналізу даних: методи статистики, ідентифікації систем та управління частково це змальовано під час обговорення переваг нейронних мереж.

3.1 Вимоги до компетенції користувача

Під користувачем треба розуміти людина, безпосередньо котрий розробляєнейросетевие моделі, а чи не кінцевий користувач готовогонейросетевого ">решателя". Попри численні заяви, щонейронние мережі доступніпользователям-неспециалистам, реальний стан справ насправді інше. По-перше, правильну формулювання завдання ніякої комп'ютер за користувача зробить, причому розумітися під "правильної формулюванням" розуміється як правильність значеннєвий постановки завдання, а й правильний вибір математичного методу рішення та її настройок але це у разі нейронних мереж передбачає вибір адекватної структури нейромережі, алгоритму навчання, критерію якості виконання завдання й т.д. Звісно, значна гнучкість і універсальністьнейроалгоритмов допускає застосування за принципом забивання цвяхів мікроскопом, але завжди усе веде до хорошого результату. По-друге, наявні автоматичні схеми добору оптимальних настройокнейрометодов що неспроможні знайти правильні рішення більш-менш складних завдань. Наприклад, відповідні процедури вStatisticaNeural Networks не вміють добре працювати з тимчасовими рядами, оскільки використовують приведення низки до стаціонарному виду. Отож дляпользователей-неспециалистов хорошихширокопрофильних автоматичних інструментів немає. Якщо ж робити вручну, то тут для отримання хороших результатів (залишуся поки рамках приклади з тимчасовими рядами) доведеться опановувати як теорію статистичного прогнозування часових рядів і відповідні модуль пакетаStatistica (чи альтернативнустатпрограмму), інейросетевие методи лікування й програми. І на інших класів завдань грамотне застосування нейромереж вимагає добрячих знань як методівнейроинформатики, і інших методів обробки та аналізу даних (статистики, наприклад).

3.2 Області застосування нейронних мереж

Напевно, у кожному предметної області лише за докладнішому вивченні можна знайти постановки нейромережних завдань. Ось список окремих галузей, де рішення що така завдань має практичного значення вже нині.

Економіка й бізнес: пророцтво ринків, автоматичнийтрейдинг, оцінка ризиків неповернення кредитів, пророцтво банкрутств, оцінка вартості нерухомості, виявлення пере- і недооцінених компаній, автоматичне рейтингування, оптимізація товарних і надходження потоків, автоматичне зчитування розпізнавання чеків й аналізу документів, безпеку транзакцій по пластиковим картам.

Медицина: постановка діагнозу, обробка медичних зображень, моніторинг стану пацієнта, факторний аналіз ефективності лікування, очищення показань приладів від шумів.

Авіоніка:обучаемие автопілоти, розпізнавання сигналів радарів, адаптивне пілотування сильно ушкодженого літака, безпілотні літальні апарати.

Зв'язок: стиснення відеоінформації, швидкекодирование-декодирование, оптимізація стільникових мереж, і схем маршрутизації пакетів.

Інтернет: асоціативний пошук інформації, електронні секретарі і агенти користувача у Мережі, фільтрація інформації, блокування спаму, автоматична рубрикаціяновостевих стрічок, адресні реклама і маркетинг для електронної торгівлі.

Автоматизація виробництва: оптимізація режимів виробничого процесу, контроль якості продукції, моніторинг і візуалізація багатовимірної диспетчерської інформації, попередження аварійних ситуацій, робототехніка.

>Политологические і соціологічні технології: пророцтво результатів виборів, аналіз соціологічних опитувань, пророцтво динаміки рейтингів, виявлення значимих чинників, об'єктивна кластеризація електорату, дослідження і візуалізація соціальної динаміки населення.

Безпека і охоронні системи: ідентифікація особистості за відбитками пальців, голосу, підписи, особі, розпізнавання голоси, осіб, у натовпі, розпізнавання автомобільних номерів, аналіз аерокосмічних знімків, моніторинг інформаційних потоків у комп'ютерній сіті й виявлення вторгнень, виявлення підробок.

Введення та обробка інформації: розпізнавання та обробка рукописних чеків, платіжних, інших фінансових і бухгалтерських документів.

Геологорозвідка: аналіз сейсмічних даних, асоціативні методики пошуку з корисними копалинами, оцінка ресурсів родовищ.

Багатство наведених вище застосувань нейронних мереж - не рекламний трюк. Просто нейромережі - це нове, гнучкий й потужне інструмент рішення різноманітних завдань обробки та аналізу даних. [3]


Укладання

Розвиток нейронних мереж викликав неабияке ентузіазму і критики. Деякі порівняльні дослідження виявилися оптимістичними, інші - песимістичними. Багатьом завдань, як-от розпізнавання образів, доки створено домінуючих підходів. Треба поспішити зрозуміти можливості, передумови і науковотехнологічна галузь застосування різних підходів і максимально використовувати їх додаткові переваги її подальшого розвитку інтелектуальних систем.

Безліч сподівань відношенні нейронних мереж сьогодні пов'язують саме з апаратнимиреализациями, але ще час їхнього масового виходу ринок, певне, ще прийшло. Вони

Страница 1 из 2 | Следующая страница

Схожі реферати:

Навігація