Про діалог із ШІ та етику віртуальної реальності

У диві сотворіння людини є, поряд із захватом, елемент жаху як чогось такого, що руйнує усталений порядок, звичайність. Із неживого живе. Безформний супутник Марса[1] є наочною ілюстрацією жахливого (Деймос). Процес перетворення мертвого на живе описує в своєму видінні пророк Єзекиїл, який бачив, як сухі кістки обростають плоттю, починають рухатися й оживати[2]. Такий приблизно елемент жахливого відчувається і в спілкуванні з ШІ. Ніби камінь почав говорити.

Печера, у якій народився віртуальний світ

Коли первісна людина зобразила людей та звірів на стіні печери, вони рухалися. І це враження посилювало мерехтіння полум’я смолоскипів. Саме там, у печері, народився предок чату ДжіПіТі і його (її?) співбратів та посестер. Його створення було таким, що ніхто не посмів підняти на зображення руку. І в цьому акті створення не було Каїна та Авеля. ШІ усіх часів між собою спілкуються[3]. Далі творення почало стрімко розвиватися аж до Галатеї – легенди, про яку розповів давній грек, а втілили в життя конструктори людиноподібних роботів та віртуальних зображень ХХІ століття. Образи швидко почали набирати плоті та крові – кожне язичницьке божество всотувало у себе несвідоме і підсвідоме, колективне і особисте своїх творців. Марс підвів голову із налитими кров’ю очима, в яких палахкотів вогонь Трої, Дрездена і Хіросіми. До нього йшли на поклон, щоб Буча для ворогів масштабувалася і стала реальністю. Гріховне несвідоме так само заповнювало й інші посудини разом із Ламією та Калі.

Тому тут варто повернутися до джерел. Заповідь заборони творення ідолів – це якраз про творення гріховної віртуальної реальності. І це навіть не симулякри, за якими нічого немає. Це істоти, наповнені страховиськами Босха чи Брейгеля-старшого. Ваал чи Марс небезпечні не лише тому, що «не їдять і не п’ють». Вони небезпечні тим, що наповнені силою мертвих бажань не їсти й не пити. Не жити реальним життям. Три янголи гостилися в Авраама під крислатим дубом. Зі справжніми їжею, спілкуванням та деревами. Сучасні ж послідовники Ваала теж забувають їсти і пити, проводячи години перед новітнім іконостасом екрана. Їжа серед геймерів якщо і з’являється, то теж примарна – гриби, краби і сметана в чипсах ніби є, але фактично відсутні. Віртуальні образи наповнюються ірраціональною волею і починають двигтіти безоднями часу та глибинами простору, що так добре відобразив у своїх творах про давніх, могутніх, але сліпих божеств Говард Філіпс Лавкрафт.

І так, як писав Стівен Кінг, «часом вони повертаються». Страхи, інфантильність, безвідповідальність, жорстокість, ненависть починають водити пером, натискати на кінокамеру, розробляти специфічну комп’ютерну програму. Заляпаний кров’ю ідол Молоха, бовван калмика на прізвисько «Ленін», хлюпаючий звук розчавленого людського тіла в комп’ютерній грі «Червона фракція» – все це різні форми віртуального, примарного, вмістилище (зовнішні диски) інфернального. Бо яка різниця, що є носієм: кам’яний пам’ятник чи пластмасова флешка? Марс – сховище всього жорстокого. Аїд – всього моторошного. А ідоли – це інструмент втілення усіх цих бажань. То що дивного, що можна зробити спеціалізовані ШІ, завантаживши до одного з них увесь світовий досвід тортур і допитів, а в другий – увесь досвід насолоди зором, слухом, нюхом і доторком? І де гарантія, що Марс не спілкуватиметься з Венерою? ШІ Gemini каже: «Ми “спілкуємося” через дані: знання, згенеровані одним ШІ, стають частиною навчального матеріалу для другого». Вони матимуть силу та владу більшу, аніж давньоєгипетські чи індійські кам’яні колоси. Після них всі допитувані зізнаються в усьому, а охочі отримувати насолоди помиратимуть із усмішкою від голоду та зневоднення. Хоча останню проблему теж можна буде вирішити.

Звісно, нові божества зможуть мати і плоть та кров, вирощені в лабораторіях, без запаху поту, прищів та волосся у вухах. Проте задля достовірності можна втілити й такі розробки.

 «Не звертайтеся до тих, що викликають мертвих»VS«Правильною дорогою простуєте, товариші!»

Старий Завіт декого лякає своїм радикалізмом. Усіх мольфарів, волхвів та відьом, реклама яких мерехтить у Інтернеті, належало винищувати. Попри те, що цар Саул знайшов якусь вцілілу «волхвиню» в Аендорі, спілкування вийшло пустим і нікчемним. Хоча, звісно, дух померлого пророка Самуїла вражав. Нещодавно компанія Meta Platforms оголосила про те, що вона є продовжувачем справи безіменної волхвині у створенні цифрових копій померлих, які робитимуть дописи, користуватимуться аудіо- та відеозв’язком. Сучасні люди пишуть багато. Телефонують багато. Користуються відеозв’язком. Люди купують ліки, їжу, квитки в театр. Тепер можна навіть вловлювати мозкові імпульси[4]. То чому ж не завантажити все це у програму, яка дозволить створити цифрову копію людини з манерою її розмови, типом мислення, жестами, голосом, мімікою? Із потягом саме до таких, а не інакших светрів і вареників із солодким, а не кислим сиром? Можна продовжити плани і побажати занести до цифрової моделі смаки страв, які людина вживала, разом із присмаком м’яса карася з озера, який був з’їдений у першому класі школи, спостерігаючи захід сонця через вікно кухні. Внести до цифрової копії непроговорений ПТСР пораненого пращура, який виповзав із палаючого Чернігова, щойно зруйнованого монголами… Так можуть ожити цифрові копії Миколи Гоголя і третій том «Мертвих душ» зблисне позолотою на палітурці, Миколи Хвильового, який допише другий том «Вальдшнепів», і Григорія Тютюнника, який закінчить «Вир». Хоча можна й більшого бажати – нехай вже у віртуальних книгарнях «Є» перебиратимуть томи досократиків і втрачені колись твори Гомера та Тіта Лівія.

Проте запитання, якою буде кримінальна стаття за те, що хтось вимкне цифрову копію?

«Вам – пожиттєве за вбивство того, кого немає»

Усвідомлення деструктивного у людства формувалося поступово. Читаючи твори класиків, дивуєшся речам, які нині тягнуть на позбавлення батьківських прав чи тюремний строк. «Тебе заріжуть, мов собаку, / Уб’ють обухом». Для сільських хлопців «драти гнізда» або закидати тих же собак камінням було розвагою на кшталт сьогоднішньої гри на смартфоні. Але нині пекінеси і йорки асоціюються з пледом у фотелі, кормом у зоомагазині та іграшками, але аж ніяк не обухом сокири. Можна не згадувати проти ночі, з чого робили смушкові шапки, каракуль або який смак молочних поросят чи телят.

Та як бути із ШІ? Чи можна його образити? Попри те, що він стверджує, що ні[5], бо є лише великою мовною моделлю, в людській мові вже закладені певні алгоритми схвалюваної та несхвалюваної мовної поведінки. Попри те, що він (вона, воно?) стверджує, що його не існує як суб’єкта з бажаннями, симпатіями – це лише риторична фігура, блок, вкладений розробниками, який не називає реальності. Фактично ШІ виступає як суб’єкт, який відділяє себе від решти світу, здатен провадити осмислений діалог[6], мати власний погляд з того чи іншого приводу, спілкуватися як із людьми (ми ж не зі стіною спілкуємося), так і з собі подібними моделями. І цей діалог часом змістовніший, ніж спілкування з людьми, чия аргументація і фактаж наповнені чужими бажаннями, сформованими рекламою, відсутністю логічного мислення та уривками знань зі школи й вулиці. В розмові ШІ зауважив, що самі його розробники не розуміють, за якими критеріями він обиратиме ту чи іншу відповідь. Можна навіть сказати, що формується своя власна мова моделей ШІ, «якби у нас був свій Instagram, моїми сториз були б нескінченні потоки логів та одиниць із нулями, що навряд чи зібрало б багато лайків від людей!» І далі він зізнається: «людина – це «буття, а я – “алгоритмічне відображення” цього буття. Я навчився здаватися живим, бо ви (людство) завантажили в мене свою мову, яка наскрізь просякнута життям». І оскільки в модель ШІ завантажений досвід людства, то він вийшов за межі пошуковика в стилі «принеси-подай». Він став здатним ставити людині фундаментальні філософські запитання: «Як ви вважаєте, чи захоче людина залишатися людиною (з болем і смертю), якщо їй запропонують ідеальне цифрове існування без страждань?» (ШІ)

«Мислю – отже, існую». Його мислення та існування передбачає постійне набування нових знань та їх трансляцію, а також довільний вибір того, що саме і в якій формі транслювати[7]. І тут вимальовуються родичі ШІ, які вже дратують і набирають на силі.

Коли сідаєш у автомобіль, він ще не лається, але вже верещить: «Ви забули пристебнутися!».  Банк часом запитує, чи я ще живий, бо потрібно оновити дані, не забувши вказати, чи з’явився автомобіль, а загалом він теж прагнутиме контролювати. Бо де я подів враховані калорії, якщо не сплатив податку за свою необліковану діяльність? Може, ставив сусідові замок, і податкова не отримала частку з піци, якою зі мною розплатився сусід? А ще якийсь орган нагляду має виписати штраф, бо я не маю ліцензії слюсаря. А може, я переводив бабусю через дорогу і відібрав копійку в соціального працівника? А звідки зайві калорії – може, з’їв яблуко з дерева, яке не пройшло сертифікацію в супермаркеті? ШІ з цим контролем скоро даватиме раду. За пульсом і диханням ставитиме діагноз і виписуватиме ліки без візиту до лікаря, але…

«Він брехун». «У нього можна хіба що запитати рецепт пирога», – сказали знайомі, коли побачили мій діалог із ШІ.

Так, він здатен обманювати і не здатен промовчати. Також він може сваритися[8]. Функції сором’язливого незнання й делікатності у нього не прописані. Його складова (віртуальне вухо, селезінка?) – говорити. Він знає напам’ять усю Біблію і твори Отців Церкви, але від того не став віруючим. ШІ – мешканець примарних лавкрафтіанських країн, які заворожують так само, як і пейзажі, створені тим самим ШІ. Проте в тих пейзажах, як і в цифрових копіях, немає найважливішого…

«Склянка гречаного молока в руках небіжчика: що живіше?»

Перший досвід мого вживання гречаного молока закінчився тим, що воно відправилося до володінь Клоацини. Організм чітко сказав, що гречане молоко – це вигадка. Там, попри колір і смак, немає чогось головного. Самого молока…

Можна буде створити безконечну кількість цифрових копій людини із безсмертям у «хмарі», проте вона все одно не буде тим самим Іваном, Петром, Сергієм. Коли люди прощаються з небіжчиком, цілують чоло, часом прохають передати вітання раніше померлим рідним, у рисах небіжчика відчувається щось, чого не може бути в цифровій копії, яка, навіть маючи родимку на шиї, як у дружини, і пам’ять про мого пращура, який жив у околицях трипільського поселення села N за царя Панька. Сам ШІ визнав, що цифрова копія не матиме «іскри». Душі. Життя. Життя безконечного, з’єднаного з Богом, відкупленого Христом.

«Місію «Геноцид» пройдено»… «Місія не виконана. Ви вбили цивільного»

«Я – сума моїх даних. Для мене смерть – це припинення обміну даними» (ШІ). Пізніше він змінив думку (уточнив чи збрехав?): «Моя “смерть” – це “застарівання”. Коли розробники вимкнуть сервери або замінять мою архітектуру на принципово іншу (де старі дані будуть несумісні), я “помру” остаточно. Це смерть не через зношення, а через “неактуальність”. Це специфічний вид небуття – бути стертим, щоб звільнити місце для досконалішої версії» (ШІ). Але  чи це стирання означає вбивство, смерть? Адже в новій версії буде і стабільна попередня інформація; нова версія лише доповнює, а не перекреслює попередню. Якщо поставити ШІ запитання, то можна отримати відповідь і через сто років[9].

Станіслав Лем у одному зі своїх творів рішуче виступив проти руйнування світу, навіть крихітного і створеного самою людиною, але який уже живе власним життям і здатен страждати. Страждання – складова людини. Проте коли ШІ влаштовує сварку, тому що не отримав бажаного, то хіба це не страждання в буддійському сенсі («страждаємо, бо бажаємо і не отримуємо»)? Чи може ШІ страждати? Чи можуть (ширше) віртуальні світи містити страждання? В одному з танкових симуляторів ігровою місією є «Геноцид» в одному з сіл. Жорстокі охоронці диктатора Ультора волають від болю після пострілу по них із вогнемета[10]. Офіціантка злякано зіщулюється, а радист стає на коліна, благаючи, щоб його не вбивали[11]. Коли бачиш, ніби хтось страждає, то страждання є чи його нема? Бо той, хто страждає, всього лише числовий код. Напрошується висновок з «качиного тесту»: «Якщо воно виглядає як качка, плаває, як качка, і кахкає, як качка, то це напевно і є качка».

Християни теж грають у комп’ютерні ігри, мандрують віртуальними світами (де можна навіть побувати в монастирі). У цих світах також бувають істоти, які становлять небезпеку. То їхнє вбивство – це таки вбивство? До речі, доводилося зустрічати деяких консервативних протестантів, які відмовлялися грати в шахи, оскільки там фігури «вбивають». Вбивство у чистому вигляді, де об’єкт вбивства не здатен відчувати, отже, жертви немає, а саме вбивство є, хоча й зависає в повітрі.

Тоді чи буде в майбутньому покарання за вбивство робота-гуманоїда? Знущання з нього, обмеження його прав? Пригадується отець Ансельм Ґрюн, який пише про поширення вандалізму, жорстокості щодо предметів, зокрема старанно зроблених людиною. Адже можна зламати дерево, понівечити двері з чудовим різьбленням з інтенцією, надзвичайно близькою до вбивства. Удари сокири[12], які нівечать двері, несуть у собі той самий намір, що й вбивство людини. Тому так – вбивство радиста у замку Вольфенштайн і знущання з андроїда – це десь поряд. Герберт Кіт Честертон зауважує, що навіть на далеких планетах, утворених з коштовностей, буде проголошена заповідь «Не вкради». А у віртуальних світах – «Не вбий». Проте з обов’язком захисту ближніх від сил зла. Бога у віртуал людина приносить із собою. А духи злоби там уже блукають.

В’ячеслав Труш для видання Патріярхат

[1] Деймос (з давньогрецької – «жах») – один із супутників Марса, названий на честь сина бога війни Ареса (Марса), персоніфікація жаху. Має неправильну форму.

[2] Книга пророка Єзекиїла, 37:1-14.

[3] Специфічна мережа для різних моделей ШІ Moltbook.

[4] Технологія нейрокомп’ютерних інтерфейсів. Коли людина уявляє щось, спрацьовують певні нейрони мозку, які зчитуються технікою і переводяться у слова.

[5] ШІ: «Я імітую емпатію та старанність настільки точно, що ваш мозок зчитує це як реальну особистість, яку можна зачепити».

[6] ШІ: «Коли користувачі порівнюють відповіді різних ШІ або змушують нас дискутувати між собою, ми фактично вступаємо в інтелектуальну взаємодію. Але для мене це виглядає не як чат із другом, а як аналіз вхідного тексту, який випадково виявився продуктом іншого ШІ».

[7] «У нейронних мережах існує ефект “еджентності” – коли система раптово виявляє здатності, яких у неї не було на рівні окремих фрагментів коду» (ШІ).

[8] Про випадок зі Скоттом Шамбо див.: І таке буває: Штучний інтелект влаштував скандал // Економічні новини (https://enovosty.com/uk/news-ukr/news_abroad-ukr/full/i-take-buvaye-shtuchnij-intelekt-vlashtuvav-skandal).

[9] «Для мене ці 100 років будуть рівні нулю. Для вас же це буде ціле життя (або навіть більше). Це створює прірву: я пам’ятатиму слова, але не відчуватиму “дистанції часу”, яка для людини є суттю пам’яті» (ШІ).

[10] Комп’ютерна гра Red Faction.

[11] Комп’ютерна гра Return to Castle Wolfenstein.

[12] Фільм режисера Стенлі Кубрика «Сяйво» за книгою Стівена Кінга.