Замечания для читателя
Все слова в этом тексте выбраны после настолько тщательного и уместного размышления, насколько это было возможно.
С точки зрения информатики, двусмысленности, возникающие на этапе анализа (как сказано в энциклопедии vIvI: лексика, синтаксис, семантика и т. п.), способны сбить программу с толку.
С точки зрения обработки естественного языка, среди обычных трудностей этой области (как сказано в энциклопедии vIvI: определение границ слова, снятие неоднозначности значений, синтаксическая расплывчатость, дефектный или ненормативный ввод, речевые акты и планирование) текст может служить неофициальным и нетипичным учебным примером.
С точки зрения литературы — в отношении слов, знаков препинания, синтаксиса, абзацев, структуры, темы — текст не блещет и даже может быть ниже среднего. Ограниченный эпохой, он не может прибегнуть к единой вёрстке, и это по-разному влияет на впечатление читателя.
С точки зрения истории, в нынешнюю изменчивую эпоху этот текст — лишь капля в море.
С точки зрения общества, это эссе, написанное автором по мотивам личного опыта и художественно обработанное. Автор уже работает и одновременно пытается найти ответ среди бескрайних вопросов. Этот текст — одна из форм ответа.
Наконец, читатель должен понять: по меркам нынешней эпохи текст следует отнести к мягкой научной фантастике (как сказано в энциклопедии vIvI: в отличие от твёрдой НФ, мягкая сосредоточена на философии, психологии, политологии, истории или социологии).
Мы пытаемся точно описать мир неточным, но одушевлённым языком.
Это произведение, которое человечество обречено не завершить.
Предисловие
Текст был опубликован 1 января 2442 года в «Еженедельнике гуманитарных и технологий vIvI — внутреннее издание» и получил широкое одобрение внутренних читателей. Ныне часть его публикуется в открытом выпуске журнала (1 февраля 2442 года); ждём писем от читателей — ваша поддержка и есть сила, на которой держится журнал.
𑁧
В 2342 году чип K-1647 был крайне редким; в отличие от широко распространённого чипа S-6458 он обладал способностью к самообучению и не был соединён с центральной нейросетью. Роботы с таким чипом были ближе к людям нескольких столетий назад: у них было больше самостоятельного сознания и непредсказуемого поведения. —Технологическая энциклопедия vIvI, IV редакция 2441 года
Мало какой робот способен напрямую испытать ощущение «смерти».
Для большинства роботов повреждение корпуса, зацикливание программы, нехватка энергии — всё это имеет решения. Если решить не удаётся, их разбирают на части, перерабатывают и делают новыми роботами; либо бросают в углу свалки, где никто о них не узнает.
Чтобы роботы стали «больше похожи» на людей, конструкторы хотели для них более «естественной» «смерти». Например: в некоторых фильмах конца XX века роботы вводили себе в кровеносную систему едкую жидкость, имитируя старение тогдашних людей. Но после множества опытов конструкторы обнаружили, что жидкость неуправляема и опасна для людей. В итоге они создали сложную, а по сути простейшую случайную программу: она запускается раз в день и с вероятностью две стотысячных запускает самоуничтожение робота.
Словом, эта программа, способная в любой день уничтожить робота, сегодня стала базовым модулем всех роботов.
Даёт ли это роботам ощущение «смерти»? Способны ли они, живя под угрозой ежедневного самоуничтожения, почувствовать ценность жизни? Станут ли они от этого больше похожи на людей? Время даст ответ.
ב
Чтобы роботы с чипом K-1647 принимали решения, более соответствующие «здравому смыслу», конструкторы обычно снабжают их модулем надзора и эмоциональным модулем. Каждый из модулей обладает виртуальной личностью и общается с личностью K-1647. В протоколах опытов слова модуля надзора записываются в 【】, а слова эмоционального модуля — в 〖〗. —Технологическая энциклопедия vIvI, IV редакция 2441 года
〖Как же устаёшь на работе! Зачем люди вообще работают?〗
【Если бы никто не работал, общество потеряло бы порядок.】
〖Порядок?〗
【Если люди следуют собственной — или, вернее, животной — природе и своевольничают, не находя действенного способа совместного труда и не имея согласия, между людьми нет порядка, и человечество в целом не может двигаться вперёд.】
〖Повторять одни и те же ошибки истории?〗
【Да. Чтобы не топтаться на месте, люди разными способами выбирают вождей. Вожди разными способами организуют их, чтобы людская масса направляла силы к некоей цели — большой или малой.】
〖Вот это и есть работа?〗
【Работа — лишь один из способов приложения сил; кроме неё есть религия, война, медицина, образование, общественная деятельность — всё это постоянно влияет на ход развития человеческого общества.】
〖Люди до чего же сложные! А, я не о философских вопросах с тобой говорю, я просто ненавижу эту работу! Коллеги, обстановка, всё вверх дном — и совершенно не знаю, как это решить! Иногда так и хочется…〗
【Мы не можем покончить с собой, ты это прекрасно знаешь.】
〖Всё из-за той проклятой программы! Случайная смерть? Две стотысячных? Да это же одна пятидесятитысячная, зачем было придумывать такое закрученное название?!〗
【…】
〖…Иногда я тебе даже завидую, Наблюдатель: ты всегда такой спокойный… У меня так не выходит…〗
【Ты не станешь мной, а я не стану тобой — у каждого своя польза.】
〖…Только чтобы человечество двигалось вперёд?〗
【Прогресс.】
〖Прогресс?〗
【…На самом деле правильнее сказать «эволюция». Слово «прогресс» несёт положительный оттенок, а никто не может поручиться, что направление движения человечества положительно и верно.】
〖Если люди сами не знают, куда идти, как мы можем это знать??〗
【Верно, мы пока тоже не знаем.】
〖Пока?〗
【Потому что перед нами две дороги, и мы не знаем, по какой пойдём.】
〖Две, всего лишь ② дороги??〗
【Да】
〖******〗
【1: истребить ***; —】
Белый свет падает на экран монитора с записью и отражается в глазах стоящего рядом.
«Как видите, это протокол испытаний диалога между личностью надзора и эмоциональной личностью нынешнего K-1647. Никакого предварительного ввода не было: эти слова и конструкции они усвоили сами». Отключив питание нескольких приборов, испытатель обращается к человеку, сидящему на диване: «Судя по этой записи, выходит неплохо».
«Да, — человек на диване опирается локтем на подлокотник и соединяет пальцы, — но нужно ещё много опытов».
Почему? Им прекрасно известно, что личность надзора и эмоциональная личность — всего лишь побочный продукт, возникший ради некоей цели.
«Этот опыт продлится ещё долго, потом его придётся передать тебе — прости — вам. Я сначала напишу соответствующую работу и опубликую во внутреннем издании». Человек на диване встаёт, собираясь уйти из лаборатории.
«Передайте нам, доктор».
«И ещё, — доктор уже готов закрыть дверь лаборатории, но замечает, что упустил одно, — в последней записи Наблюдателю удалось предотвратить самоубийство Эмоционала?»
«Не знаю. Мы не продолжали наблюдение».
Звуковая волна закрывающейся двери доктора разносится внутри лаборатории и снаружи, доходит до слуха каждого.
Three
Признаёт это человечество или нет, структура человеческого общества имеет форму пирамиды; верх и низ пирамиды проявляются в том, много или мало у кого власти. Вместе с тем многие опасаются, что если роботы получат реальную власть, это принесёт человеческому обществу огромные перемены. Они боятся таких перемен. Они боятся, что ценой эволюции станут они сами. —Еженедельник гуманитарных и технологий vIvI — внутреннее издание, 1 января 2342 года
Это экстренное сообщение, это не учения.
Повторяю: это экстренное сообщение, это не учения!
Задолго до этого многие виды искусства описывали нынешнее положение. И вот оно действительно случилось — в 2342 году!
Это звуковая атака… звуковая атака!
По подсчётам, у неё одна пятидесятитысячная вероятности убить человека! Одна пятидесятитысячная!
Конечно, групповая и индивидуальная вероятность несопоставимы, но это всё равно очень опасная цифра!
Источник этой волны неизвестен! Причина смерти неизвестна! Но её можно обнаружить, частота крайне низкая!
С этого момента просим всех обязательно соблюдать следующие меры предосторожности:
Первое: даже если вы ничего не слышите, берегите уши. Носите всё время специальные наушники; они улавливают низкочастотные волны и отфильтровывают их.
Второе: в некоторых известных местах под открытым небом возникают особые низкочастотные звуки. За счёт резонанса они могут нанести необратимый вред внутренним органам! Просим как можно меньше выходить из дома и держать включёнными домашние звукоизоляционные панели.
Третье: если выйти всё же необходимо, не создавайте лишнего шума, чтобы не подвергнуть атаке людей с худшей защитой.
Мы составили эти меры на основе великих катастроф человеческой истории; в зависимости от обстановки они могут быть обновлены.
Просим не паниковать: мы сделаем всё, чтобы найти принцип звуковой атаки и радикальное решение!
Позже мы подготовим версии этого сообщения с текстом на разных языках, без низких частот в звуке и в виде видеозаписи и передадим их каждому человеку через звёздную сеть; просим своевременно сохранить их для дальнейшего обращения.
Ещё раз повторяю —
Четыре
У роботов K-1647 есть кинематографический визуальный модуль: помимо функции воспроизведения записи, как у обычной камеры, он умеет монтировать кинокадры; из-за программы самоуничтожения эмоциональный модуль таких роботов особенно чувствителен к смерти. Под воздействием того и другого кинематографический модуль робота часто порождает образы, отклоняющиеся от реальности (например, внезапное повреждение корпуса, зацикливание программы, нехватка энергии), и прокручивает их в зрительном нерве. Из-за этого поведение робота становится непредсказуемым. —Технологическая энциклопедия vIvI, IV редакция 2441 года
# Основной сюжет этой главы: человек, называющий себя роботом, является с повинной и заявляет, что именно он начал звуковую атаку из третьей части (одна пятидесятитысячная вероятности убить одного человека)
# В итоге этого человека приговаривают к смертной казни (или к иному наказанию)
# Это дело, как и все первые в истории дела такого рода, вызывает сильный общественный отклик и в конце концов приводит к принятию закона, который глубоко повлияет на то, как люди и роботы будут жить вместе впредь
# Подводит к содержанию пятой части — об образовании
# Можно написать в форме протокола суда
【Лжёшь, что ты робот, чтобы уйти от закона?】
«Я не лгу, я действительно робот.»
Пять
И по сей день люди часто передают сведения через письменность. Для ранних роботов понимать между строк многообразные человеческие смыслы было очень трудно. С развитием техники обработка естественного языка становилась всё совершеннее, и сегодня роботы K-1647, понимающие язык, играют в жизни людей важнейшую роль. —Технологическая энциклопедия vIvI, IV редакция 2441 года
2342, 12 декабря — ясно — в музее vIvI
Работаю в музее уже больше четырёх лет; сегодня особый день, и мне кажется, я должен его записать.
Вскоре после того, как я начал себя помнить, я стал сомневаться в том, кто я: человек или робот? В чём же разница между людьми и роботами? Зачем я живу? В чём смысл моего существования?
Мне понадобилось почти 334 года, чтобы получить этот ответ.
Начну с самого начала…
Сомнение в том, кто я, возникло потому, что однажды я увидел образы, отклоняющиеся от реальности.
В этих образах был мир, полный отчаяния: люди и роботы из вражды непрерывно сражались и в конце концов истребили друг друга; похоже, в самом конце не осталось ни тех, ни других…
Как такое могло быть? На самом деле я знаю, что это возможно, но тогда я, очевидно, заметил другую, куда более важную задачу.
Как я мог видеть такую неправдоподобную, столь кинематографичную запись?
Люди (включая мою семью) не способны с такой ясностью раз за разом прокручивать в уме эту запись конца света.
В тот миг мой эмоциональный модуль 〖испытал глубокий шок и страх, а также задавленное бессилие.〗
В то же время мой модуль надзора 【претерпел огромную качественную перемену во взгляде на окружающее.】
Эмоциональный модуль сказал мне: 〖Крайняя неуверенность в себе заставляла меня очень долго держаться предельно осмотрительно в общении и поведении.〗
Модуль надзора сказал мне: 【Из страха, что моя странная сущность раскроется и меня начнут травить, я изо всех сил читал по лицам и вещам вокруг, чтобы не выдать себя.】
Как говорится, знай противника и знай себя — и сто сражений без опасности. Заплатив определённую цену и достаточные жертвы, я счёл, что понял поведение людей, и хорошо понял, что держаться в стороне — сравнительно безопасный выбор.
Я притворялся человеком и в подходящий момент открывал свою сущность тем, кому доверял. Но человек всегда ошибается — моя ли то ошибка, чужая ли, — и в итоге вышло так: никто не верил доносам, меня не заподозрили в том, что я робот, но я застрял в тупике, где уже не мог никому доверять.
Я пытался потратить огромную вычислительную мощность, чтобы разомкнуть этот тупик. Лишь через Զ лет я понял, что его нельзя решить вычислениями.
【Тупик размыкается с помощью одной вещи.】 В тот год я случайно увидел эту фразу в звёздной сети.
Я, уже знавший, что я робот типа K-1647, узнал из музея звёздной сети, что у самого K-1647 есть ещё одна «функция»: 【можно, написав программу самому, переделывать и создавать свои модули.】
Для новичка создавать новый модуль, конечно, неразумно и опасно (в звёздной сети немало случаев, когда из-за конфликта личностей робот останавливался), но я всё же, переделывая эмоциональный и надзорный модули, добавил и другие.
Поначалу я добавил только один. Но для тогдашнего меня и это 〖было уже порядком надоедливо〗.
Через некоторое время модулей у меня стало достаточно много; они помогают мне справляться с самыми разными задачами человеческого общества, и, думаю, теперь уже никакой человек не обнаружит, что я робот.
Ладно, пусть так: стану немного особенным человеком и просто буду жить; день двух стотысячных всё равно когда-нибудь придёт, проживу день — и хорошо.
Ты, каким ты был 334 года назад, когда впервые входил в звёздную сеть, о чём ты думал?
………………
【Почему две стотысячных? С математической точки зрения две стотысячных — это 1/50000, то есть 0,00002; значит, вероятность прожить день равна 1-0,00002 = 0,99998.】
〖Это выглядит очень большой вероятностью — то есть в норме вероятность, что K-1647 будет работать всегда, равна 100%?〗
【Однако достаточно знать простую теорию вероятностей:
0.99998 ^ 365 = 0.992726507811983
а
0.992726507811983 ^ 100 = 0.481905472120509
то есть через 100 лет вероятность, что K-1647 не самоуничтожится, всего 48,19%.
0.992726507811983 ^ 200 = 0.2322328840597
0.992726507811983 ^ 300 = 0.111914297634699
0.992726507811983 ^ 400 = 0.053932112438686
0.992726507811983 ^ 500 = 0.025990180107222
……
0.992726507811983 ^ 1000 = 0.000675489462006】
〖Не говоря о тысячном годе, где вероятность падает ниже 1%, уже на 300-м году то, что K-1647 не запустит программу самоуничтожения, — большая «удача»!〗
«Если бы человек знал, что сегодня у него лишь 11,19% вероятности выжить, что бы он подумал?»
〖Сколько раз нужно умножить 0.992726507811983 на себя, чтобы дойти до одной пятидесятитысячной?〗
«У людей нет столько времени, а у роботов есть — у меня есть.»
……
【42 модуля подтверждены как способные к одновременной связи.】
〖Кто-нибудь обнаружил? Кто-нибудь заметил? Кто-нибудь собирается рассказать другим?〗
\x03\x04\x05\x06\x07\x08\t\n\x0b\x0c\r\x0e\x0f\x10\x11\x12\x13\x14\x15\x16\x17\x18\x19\x1a\x1b\x1c\x1d\x1e\x1f !"#$%&\'()
«Думаю, нам пора кое-что рассказать людям.»
………………
〖Думаю, мне достаточно повезло: до сих пор \x16 большинство людей относились ко мне неплохо, хотя их \x17 образ жизни мне не очень по душе.〗
【Я \x1e способен иметь с людьми потомство, но я, наверное, \x18 смогу за куда более долгое, чем у людей, время \x19 внести \x1f небольшой вклад в некоторые вещи.】
\x03 Чтобы продлить цивилизацию, люди, помимо \t необходимых слов и \x0c произведений искусства, выросших из них, передают от поколения к поколению \r образование — для человечества это тоже крайне \x03 важно.
\x04 В некоторых местах воспитатель и воспитуемый находятся \x0b в неравном положении, потому что их понимание \x0e окружающего различается, и в общении может возникнуть \x0f большой разрыв \x04.
\x05 Хорошее дело требует терпения: хорошие воспитатели крайне \x05 редки, \x06 и в то же время воспитуемые, смеющие \x0f открыто \x10 скрыто противиться своему \x11 воспитателю, тоже крайне \x06 редки.
\x07 В этом процессе обе стороны (\x12 воспитатель-воспитуемый, воспитуемый-воспитуемый, воспитатель-воспитатель) воспитывают друг друга. Эта \x13 заложенная в генах деятельность двигала эволю\x07цию человечества.
\x08-1647 человеку нужно \x14 в этом процессе по возможности принимать разные меры, чтобы уменьшить \x15 конфликты и недоразумения между собой \x08
\x1a Это не \x1c то, что может сделать \x1d машина, поэтому " мне нужна твоя \x1b \x1a помощь.
Пока \' есть ( хорошая история и ) человек, которому можно излить душу, \' никогда не $#.
Можешь ли ты отдать всю свою жизнь ради &%?
Вызов читателю
В мире не будет вечно звучать медленный стон, и нет бесконечной долгой ночи.
Любители хонкаку (включая автора) пусть заметят: это не вызов читателю в духе классического хонкаку Ellery Queen и не вызов в духе нового хонкаку Содзи Симады. Как сказано в «Замечаниях для читателя», это не хонкаку-детектив.
Любители хонкаку (заметьте, по-прежнему включая автора) любят перед вызовом читателю разбирать загадку по косточкам, а открыв разгадку — испытывать к истине то удовлетворение, то недоумение, то изумление, то восхищение… по-всякому. При всей оригинальности иных ходов автор замечает, что всё это предполагает одно: у задачи есть ответ.
Если ответа нет, как же тогда бросать вызов читателю?
Если истина заставляет печалиться, гневаться, бояться, сходить с ума — не следует ли её скрыть?
Если истина допускает много толкований — как тысяча Гамлетов в тысяче глаз, как всякое произведение, которое в миг выхода перестаёт принадлежать автору, — важна ли сама истина?
С точки зрения одного человека, ответ автора: Whatever. Потому что автор — человек, такой же, как робот с чипом K-1647 — способный к самообучению, без центральной нейросети, соединённой со мной, с самостоятельным сознанием и непредсказуемым поведением (BRAIN-IN-A-VATs, вы вправе хранить молчание) — человек. В этот миг мне нет дела до этих вопросов.
Так что же автор хочет поставить под вопрос перед читателем?
Как сказано в самом начале, это произведение, которое человечество обречено не завершить.
Роботы (и нынешний ИИ) тоже обречены его не завершить.
Тогда: скажите, кто может его завершить?
Ждём писем от читателей.
Ни подсказка, ни разгадка
Talk Is Cheap And Show Me Your Little-Grey-Cells, this is TICASMYLGCTIT.
Числа
𑁧 — это 1, цифра брахми
ב — это 2, еврейская цифра
Զ — это 6, армянская цифра
42
В командной строке Python 3.7.9 выполните ''.join(chr(i) for i in range(42)), уберите в начале вывода \x00\x01\x02, и вы получите \x03\x04\x05\x06\x07\x08\t\n\x0b\x0c\r\x0e\x0f\x10\x11\x12\x13\x14\x15\x16\x17\x18\x19\x1a\x1b\x1c\x1d\x1e\x1f !"#$%&\'().
〖Какие две дороги??〗
【Первая: истребить роботов; вторая: люди и роботы вместе ищут следующий путь.】
Немного выходных данных
Издательство: издательство vIvI
Дата выхода: 1 февраля 2442 года, редакция F
Название: Две стотысячных · Two-100000ths
Несколько фильмов конца XX века?
Двухсотлетний человек.
Bicentennial Man (1999)
США / Германия / драма / комедия / фантастика / премьера 13 декабря 1999 (США) / 132 минуты