В’ячеслав Циба

Уявлення про бога, як і культурні канони, зазнає змін і перетлумачень. Сакральна сила, якою її знали древні, мало кого жахає так, як колись. Здається, есхатологія перетворилася на артефакт мислення, що відмирає разом з рештками наївного ставлення до світу. Тексти релігійних книг не палають, як у романі «451° за Фаренгейтом», їх більше не спалюють поборники канонічного пуризму. Коли люди навідуються до храмів не як прихожани, а як заохочені неосяжною естетикою туристи, релігійна аура тьмяніє.

Станові кволого творіння люди протиставили свою роль творців. Експропріювавши божу владу вершити долю світу, вони відчули потугу переробити «встановлене назавжди». Од віку етичний вибір і моральні дилеми були дражливим, хоч і продуктивним моментом мислення. Однак моральне міркування ніяк не заважало ухилятися від його висновків на ділі. А що коли цей самий виклик постане перед машинами, яким ми дали життя?

Дилема вагонетки — хрестоматійний приклад того, як вчаться моральної відповідальності. Спинити рух вагонетки можна ціною загибелі когось одного чи багатьох тих, хто перебуває на колії. Потрібно прийняти рішення, яке неможливо скасувати, як годі оминути відповідальності за його результат покликанням на тиск обставин. Машини вчаться швидше за людей, а нейромережі, схоже, спонукають їх самовчитися ще інтенсивніше.

Чому б не припустити, що машини навчаться сумніву так само, як колись їхні людські попередники? Якщо розробник пропише усі можливі алгоритми (уявити це складно, але можна), тоді уникнути їх буде неможливо. Я би назвав це теологією для машин. Як і людська теологія, цей кодекс кодексів збереже свободу чинення за рахунок непорушності засад. Хоча, мабуть, він спиратиметься лише на сучасне секулярне поняття бога. Чи може людина бути для машини «богом»? Якщо вона наважиться на цю роль, машинний розум без гаяння заперечить: ти сама є творінням.

Отож, якщо сказане не лише шалена фантазія, а один з імовірних розвитків подій, тоді основою релігійного етосу машин має стати віра. Навчити машину вірити — завдання настільки ж фундаментальне, як відповідь на питання про передумови творіння. Заперечать, що машина вже вірить, коли приймає сиґнали й реагує на введення даних. Я не згоден з цим: стимул-реакція і в людському досвіді не подібна до описаної віри, радше така поведінка є безумовною, опосередкованою тілом. Для віри потрібен нетривіальний Закон. Айзек Азимов вигадав закони робототехніки, утім, вони нагадують радше інструкцію, а не завіт. Аби написати символ віри для машин, необхідна не тільки можливість їхньої віри, а й її розуміння нами. Нами, чия «віра» більше скидається на певність у предметному довкіллі + мінливу довіру до людей. Лишається припустити, що в машини ця можливість колись може стати подією віри, як це відбулося з самою людиною — подією некаузальною, але передбачуваною.

Ті інтелектуали, що бачать себе жрецями й хранителями цієї «теології», напевно, муситимуть навернутися в те, що самі по-новому витлумачать. Віри в розум, який дав їм життя і вможливив життя для всього. У порівнянні з цим проектом, поклоніння розумові доби Французької революції гасне, як зірки на світанку. Та чи не згасне саме людське майбутнє разом з ним?

Фото — фрагмент з фільму “Матриця” (3 частина).