Людина й комп'ютер - Сторінка 2

Машина перебрала на себе найвиснажливішу фізичну працю, й ні в кого вже не виникає бажання повернутися від екскаваторів назад до лопати. Так і тепер, коли дедалі ширше застосовуються комп'ютери, заміняти їх знову численними арміями бухгалтерів і рахівників аж ніяк не випадає.

Більше того, ми вже просунулися так далеко, що просто неспроможні були б упоратися старими засобами з. усією безліччю сучасних проблем. Навіть як-тби кожен мешканець Землі заходивсь енергійно орудувати лопатою, то на спорудження гігантських мостів .або автострад, хмарочосів чи гребель пішло б у сотні разів більше часу, ніж при застосуванні машин та механізмів. Так само неможливими виявилися б усі оті досягнення людської думки, які вимагають громіздких обчислень, навіть коли б усе людство, озброївшись авторучками, посідало за розрахунки.

Машини, народжені першою революцією, поступово зменшувались. Якщо спочатку їх використовували тільки на заводах та фабриках, то нині кожен може придбати й використовувати той чи той моторизований пристрій, починаючи від автомобіля й кінчаючи електричною зубною щіткою.

В такий же спосіб (але набагато швидше) відбувся перехід од велетенських монстрів ЕОМ, якими могли володіти лише великі університети та урядові установи, до універсальних міні-комп'ютерів,, без яких уже годі уявити собі навіть найдрібніші підприємства. Бо навіть для приватних осіб стало звичкою мати при собі досить дешевий кишеньковий комп'ютер, щоб підраховувати свої витрати, банківські рахунки чи процент податків.

Серед найважливіших завдань комп'ютера одне з перших місць посідає визначення правильної стратегічної лінії людства, щодо проблем, породжених розвитком. Ми тепер, плануючи те або те значне нововведення, напевно, могли б з достатньою чіткістю передбачати всі його можливі наслідки.

Це буде нелегко. Належить навчитись правильно ставити запитання; виробити такий апарат програмування, який дозволить комп'ютерам швидко відповідати на запитання; сконструювати досконалі комп'ютери.

Ми повинні з усім цим упоратися, бо комп'ютери не тільки вдосконалюються, а & стають різноманітнішими та більш ефективними в роботі. Вже є комп'юте-ри-шахісти, комп'ютери-композитори, комп'ютери-перекладачі. З'являться й комп'ютери — конструктори комп'ютерів і навіть такі комп'ютери, що формулюватимуть наші запитання. Цілком можна уявити собі той день, коли ми зможемо питати в комп'ютера, які запитання слід йому задати, й вмітимемо "націлювати" їх на те, щоб вони самі поліпшували свої програми.

Та коли все це стане реальністю й ми одержимо змогу використовувати досягнення другої, мозкової революції для того, щоб ліквідувати або принаймні звести до мінімуму недоліки, породжені першою, м'язовою революцією, то чи можемо бути певні, що згодом друга революція сама не принесе нових, ще більших нещасть? Зрештою, кожне рішення здебільшого породжує нові проблеми.

Звісно, ми можемо створити суспільство, де буде здійснено мрію про Утопію, але тільки завдяки комп'ютерам. Та хіба вже саме це не насторожує? Чи не стануть колись комп'ютери такими досконалими, що врешті перевершать людський розум? Чи не переважать над нами? Чи не винищать усіх нас, щоб самим стати господарями Землі?

Протягом тридцяти п'яти років я в ряді науково-фантастичних оповідань писав про людиноподібні4 комп'ютери, так званих роботів. Я завжди вірив у те, що комп'ютери лишаться творінням людини, тож у її власних інтересах тримати їх у певних рамках. Так поступово склалися мої "Три Закони робототехніки":

1. Робот не повинен шкодити людині або допустити, щоб людина своєю бездіяльністю завдала собі шкоди сама.

2. Робот має виконувати накази людини, якщо тільки вони не суперечать Першому Законові.

3. Робот мусить захищати своє існування, якщо це не заходить у протиріччя з Першим або Другим законами.

Я не твердитиму, ніби саме ці закони керуватимуть комп'ютерами майбутнього (хоч не здивувався б, коли б сталося й так), але видається необхідним ужити застережливих заходів. Ідея обережності така ж стара, як і сама техніка. Ніж має колодочку, шпага — ефес, курок — запобіжник, ліфт обладнано автоматичною системою зупинки, будинки споруджують з вогнетривких матеріалів,— отже й комп'ютери мусять мати щось подібне до тих трьох законів.

Втім, комп'ютери — найскладніші з усіх приладів, створених людиною, й вони увесь час ускладнюються. Чи можемо ми довіряти їм? Чи не вийдуть колись вони з-під контролю всупереч усім нашим зусиллям? А коли й не вийдуть і лишаться нашими відданими служниками, то чи не станеться так, що всезростаюча залежність від них поступово вб'є в людині здатність мислити, виявляти ініціативу й взагалі робити те, задля чого створено розум?

Та чи слід нам цього побоюватися? Можна припустити, що з прогресом комп'ютерів прогресуватиме й людський розум. Дотепер еволюція відбувалася шляхом випадкових генних змін і досить грубого природного добору. Інакше кажучи, була дуже повільним процесом, який нерідко заводив у глухі кути.

Тепер ми досягли нової стадії й розквіт генної інженерії дозволяє вірити, що нам пощастить планувати свою власну еволюцію. Причому межі такого втручання визначатимуться не технічними, а виключно етичними факторами: нам доведеться вирішувати, яким, хто й чому бажає стати, нарешті, які критерії цього.

Людство ще не знало делікатніших проблем, і ми, напевно, зможемо сформулювати їх так, щоб удосконалені комп'ютери майбутнього спромоглися з ними впоратись. Користуючись порадами комп'ютерів, навіть маючи приклади того, як розум спрямовує їхні дії, ми ві римо, що вдосконалення людського розуму відбуватиметься з допомогою безперервно вдосконалюваного комп'ютера.

Людина й комп'ютер зможуть колись крокувати плече в плече, або, точніше, мозок у мозок. Розум людини з його здатністю до інтуїції та творчості й розум комп'ютера з його швидкістю й точністю зможуть вирішувати будь-які завдання набагато краще, ніж кожен окремо.

І коли такий час надійде, то не стане меж досконалості.

Безперечно, я не втішаю себе ілюзією, що цими нарисами зможу розвіяти страх людини перед комп'ютерами, але я цього прагну. Зрештою, коли врахувати, якої шкоди завдали й завдають людям самі ж люди (не кажучи вже про інших істот) без усяких комп'ютерів, то мені важко уявити собі, що можуть додати до цих страхіть комп'ютери.

З англійської переклав Вадим ХАЗІН