Реферати українською » Наука и техника » Небезпечно розумний


Реферат Небезпечно розумний

Євген Корнієнко

Свідомі машини розвиватимуться за експонентою, тому що їм непотрібно витрачати час навчання з того що вже відомо попереднім поколінням.

Я передбачаю свідоме зброю.

Що відбудеться, якщо алгоритм штучного розуму стане загальнодоступний? Це ж буде напівживий комп'ютерний вірус, а добре думаюча бездушна машина. Така машина неспроможна співчувати людині чи зрозуміти його почуття, оскільки "вищі" почуття (гумор, самотність) походить від самозбереження, що є ознакою життя, а чи не розуму.

Штучний інтелект - це складна й дорога атомна технологія. Це просто-таки програма, яку легко копіювати. А що як цей алгоритм не вимагає величезних обчислень? Я підозрюю, що добре організований асоціативний мозок, той самий смышлёный, як мозок тварин, може розміститися в настільному комп'ютері.

Кожен тиран і бандит побажає такого спільника.

Розуміння небезпеки штучного розуму замало запобігання цій небезпеці, особливо після випадку, коли ця технологія поступово заполонить увесь світ. Війни і самогубства теж небезпечні. Але ми це.

Найбільш реальна надія уникнути небезпечних наслідків нову технологію - це сила грошей. Державного бюджету і особиста гаманець можуть подолати можливе військове застосування штучного розуму, позаяк у мирного життя ця технологія ще потрібніші, ніж у оборонної галузі.

Проблема штучного розуму незабаром вирішена. Але до цього неможливо морально підготуватися.

Спочатку ми вчити роботів з того що вважаємо корисним. Потім вони розвиватися за експонентою, тому що їм непотрібно витрачати час на вивчення те, що знають їх предки. Знання накопичуватимуться над книгах (і учителів), а мізках цих роботів.

Неможливо, щоб робот, який розумнішими моїй 10 раз, був моїм слугою. Швидше ми станемо слугами наступних поколінь роботів, які множити знання удесятеро щорічно.

Пробудження кибер свідомості.

Чи не викличе особливих заперечень ідея у тому, що свідомість розвинулося як адаптації. Тому, винаходячи адаптуються роботів, ми створюємо розумні системи. Спочатку вони виглядають просто адаптирующиеся програми. Тож навіть найбільш прозорливі людей не сприймають їх свідомими. Новонароджений дитина також здається занадто розумним.

Слово інтелект зараз перетворилася на атрибут реклами. Ми вже готові бачити елементи свідомості в операційній системі. А тварини, вони лише розумні (раціонально поводяться) або їх відчувають усвідомлюють себе? Перехід від машино-подобного інтелекту свідомості відбувається тоді, коли істота виявляє зв'язок між своїм дією й звертається своєю станом. Виникає відчуття. Свідома річ усвідомлює своє поведінка. Вона відрізняє своє поведінка з інших подій. Вона відрізняє себе з інших речей.

Отже, кожна більш-менш складна адаптирующаяся система, що її схильні вважати розумної, є свідомої. Розумна річ спочатку веде себе розумно, а свідома річ сама винаходить розумна поведінка - адаптується. А ми суб'єктивно оцінюємо це поведінка. Чи воно розумно? Можу уявити систему, що добре каже, але цілком запрограмована. З іншого боку, така проста істота, як морської заєць - Aplysia, винаходить своє просте поведінка це без будь-якого попереднього програмування. Його мозок не знає заздалегідь, за яких доведеться жити. Вона має крихітне зерно справжнього свідомості. Свідомість відбувається з адаптації, а чи не з складності.

Тварини адаптуються до місцевих умов свого життя не оскільки вони усвідомлюють "необхідність виживання". Вони дбають про їжі, про уникнення болю. Виживання, народження та зміряй - це недоступні абстракції. Таракан втікає не оскільки він боїться смерті, тому, що він передбачає, що буде гірше. Природний відбір, переймаючись виживання таргана, дав йому здатність передбачення.

Еволюційно мозок має допомагати виживання виду, а не думати. Необхідна для виживання передбачення поступово розвинулося в обмірковування майбутніх подій і "своїх дій. Цей подарунок природи тим, кому подобається думати, мабуть, теж допомагає нам виживати. Розуміючи і його високо цінуючи це, ми розпочали розробці машин, котрі вважають усвідомлюють себе. Гадаю, такі машини зажадають набагато менших обчислювальних ресурсів, ніж людський мозок, оскільки спочатку їм потрібно стане піклуватися про підтримці свого життя.

Ми поширимо такі машини скрізь.

Неправильно, що розробник робота точно задає її поведінка. Мало який захоче і кожен зможе ознайомитися з подальшою долею свого твори. Іноді винахідник спеціально відпускає своє створення за грати, наприклад, якщо це комп'ютерний вірус. І взагалі, багато речей, які ми створюємо, ми можемо цілком контролювати. Наприклад, дітей. Штучний розум - це ще одне приклад.

Перші ледь розумні речі матимуть ледь вільну волю. Але ми претендуємо створення справжнього розуму, нічого й не поступався людському. Тому "просто розумність" - це перший крок такої справи. Зрештою, завдання створення штучного розуму, має волю й прагнення, буде остаточно вирішена.

Якщо ви хоч дозволите розумної машині приймати рішення, то не зможете знати заздалегідь, що це за рішення. Ви теж можете бути впевнені, що рішення вас влаштують. Хіба ви задоволені навіть своїми рішеннями? Тому машина зможе здійснити своєї волі відповідно до своїми судженнями, навіть якщо не хочете.

Штучний відбір роботів.

Для вирощування поколінь розумних машин, які мають лише корисними ознаками, можна використовувати штучний відбір. Такий відбір як знищення непридатних штучних створінь успішно перевірений, наприклад, при виведенні нових порід собак. Але як ви вже уявляєте собі знищення істоти, яке розумніший, і чуйніші вас, якщо воно цінує себе і своє свідомість?

Досить розумні роботи зможуть винайти спосіб проходження наших тестів, щоб задовольнити критеріям штучного відбору. Якщо розумне істота цінує себе, воно намагатиметься вижити в селектирующей м'ясорубці, застосовуючи усі кошти та хитрості. У цьому роботи стануть ще небезпечніше, аніж за досить вільному вихованні.

Я бачу тільки єдиний шлях, дає сподіватися безпечне співіснування з роботами. Коли вони знайдено й перевершать людський рівень інтелекту і проявлять прагнення проводити громадські процеси, треба дати їм франшиза право на обрання. Тоді моральний відбір, котрий діє у суспільстві, буде також відбирати і окремих представників штучного покоління відповідно до бажаннями виборців. Поки що це процес стане стабільним, сподіваюся, зможемо утриматися від створення занадто потужних і дуже розумних роботів. Хоча цей надія логічно не обгрунтована.

Зрештою, ніщо живе нічого очікувати потрібно нового покоління синтетичної життя. Пильнуйте, коли ми станемо домашніми годованцями чи іграшками.

Список літератури

Для підготовки даної роботи було використані матеріали із російського сайту http://webcenter.ru/

Схожі реферати:

Навігація