Сегодня существование искусственного интеллекта – свершившийся факт. Он существует, но мыслит ли он? А если мыслит, способен ли осознанно нанести вред человеку? Взбунтуется ли новый Голем или останется его послушным помощником? Второй эпизод седьмого сезона "Обратного адреса" посвящен предвидениям фантастов об искусственном разуме.
Философ XVII века Рене Декарт, автор знаменитой формулы "мыслю – следовательно, существую", экспериментируя с живой и мертвой плотью, пришел к выводу, что все живые существа – сложные механизмы. Но у человека, в отличие от животного, есть душа, чувствующая и мыслящая субстанция. С Декартом спорил Жюльен Офре де Ламетри, считавший, что и человек – не более чем машина. Им обоим возражал баснописец Жан де Лафонтен. В своих баснях он приводил примеры удивительной смекалки животных и на этом основании настаивал на их разумности.
Ну, стал ли бы теперь упрямиться жестоко
И приходить в азарт Декарт?
Решился б разве он Сову мою отныне
Приравнивать к часам, к бессмысленной машине?
В наше время любой разговор об искусственном интеллекте начинается с Декарта и продолжается вопросом Алана Тьюринга "Может ли машина мыслить?". Его статья 1950 года, в которой он подробно разбирает и отвергает все возражения скептиков, заканчивается неожиданным признанием: "У меня нет особенно убедительных аргументов позитивного характера в пользу своей собственной точки зрения. Если бы у меня были такие аргументы, я не стал бы так мучиться, разбирая ошибки, содержащиеся в мнениях, противоположных моему собственному".
Я попросила его сочинить мне резюме на открытую позицию странствующего рыцаря
Сегодня существование искусственного интеллекта – свершившийся факт. Он существует, но мыслит ли он? Задающий этот вопрос на самом деле подразумевает: "Чувствует ли он, способен ли он ошибаться, совершать иррациональные поступки, есть ли у него интуиция?"
Мой собеседник сегодня – философ и историк Любовь Куртынова. А еще она знаток научной фантастики. Мы с ней решили посмотреть, что об искусственном интеллекте писали фантасты, что из их предвидений сбылось и в чем они видели угрозу, исходящую от мыслящей машины. Но для начала я попросил Любу рассказать о ее собственном опыте общения с искусственным интеллектом, точнее – с чат-ботом ChatGPT компании OpenAI.
– Это был момент какого-то такого, наверное, отчаяния, когда я сочиняла для себя резюме по совершенно другому поводу, и вдруг мне пришло в голову попросить искусственный интеллект сочинить мне что-нибудь совершенно запредельное, потому что все то, чем я занималась, очень сильно надоело. В частности, я попросила его (надо отметить, что это было на английском языке, потому что я не уверена, что по-русски получилось бы так же здорово) сочинить мне резюме на открытую позицию странствующего рыцаря. Искусственный интеллект выдал мне блестящее резюме, совершенно феноменальное, написано просто идеально, причем там оставлены места для того, чтобы вписать нужные учебные заведения, достижения, какие турниры были выиграны, какие девы были спасены, сколько драконов было побеждено и так далее. Более того, что особенно трогательно, я считаю, он вставил туда момент относительно того, что данный странствующий рыцарь владеет опытом первой медицинской помощи и спасает не только несчастных и обиженных, но и своих коллег-рыцарей, отличается добродетелями, все рыцарские добродетели перечислены. Я пошла дальше и решила, что если идти, то ва-банк. Попросила его написать резюме на освободившуюся должность короля. Он честно тоже написал блестящее резюме, где указал все учебные заведения необходимые – дипломатическая академия, что-то в этом духе, какие-то предыдущие должности, принц того-то, принц сего-то, военачальник этого. Далее указаны необходимые достоинства для того, чтобы успешно осуществлять королевские функции. Но в конце, уже после того, как он закончил, искусственный интеллект от себя прибавил, что вообще-то должность короля, как правило, не замещается на конкурсной основе, она обычно наследственная, поэтому такого рода резюме редко бывает необходимо, но в случае чего – пожалуйста. Я до сих пор не знаю, был это сарказм или он совершенно серьезно меня предупредил, что на должность короля можно претендовать, только если у тебя есть права наследного принца.
– Может быть, он не знает, что император Священной Римской империи избирался сеймом, сеймом избирался польский король. В конце концов, короли довольно часто не оставляли потомства, и трон становился вакантным. Да и новые королевства появлялись, и на должность монарха подыскивали кандидатов.
– Я теперь думаю: надо было попросить резюме на замещение должности папы римского. Но тогда мне это в голову не пришло.
– Там еще что-то было про цирк.
– Это была самая первая попытка. Я подумала: черт, я тут вожусь, какая-то мышиная возня... Мне пришло в голову попросить резюме на должность укротителя мышей в мышином цирке. Это было нечто. Там было указано, что данный кандидат имеет ветеринарный опыт, он умеет ухаживать за мышами, умеет обеспечивать мышам необходимые жизненные условия, имеет опыт постановки спектаклей с участием мышей, имеет опыт руководства мышиным коллективом, вообще прошел все необходимые курсы для этого, что у него есть навык творческого подхода к работе с мышами, способность изобретать новые увлекательные зрелища с участием мышей. Опять же меня очень тронуло то, что, как странствующий рыцарь имел навыки оказания первой помощи, так же и мышиный режиссер имеет ветеринарный опыт, может оказать мышам в случае чего ветеринарную помощь.
– Нам это читать интересно и забавно, но имел ли в виду искусственный интеллект какой-то юмор, или это у него случайно получилось?
– Я же говорю: когда он мне совершенно от себя, без всякой просьбы заметил, что должность короля замещается не на конкурсной основе, а обычно переходит по наследству, я задумалась.
Что им плохого сделал человек?
– Давай теперь обратимся к классике научной фантастики и посмотрим, о чем она нас предупреждала, потому что вся фантастика по преимуществу – это, конечно же, предупреждение. Практически одновременно с идеей человекоподобного робота возникла идея исходящей от него угрозы. Как мы знаем, впервые в мировой литературе и слово "робот", и этот персонаж, и восстание машин придумал и изобразил чешский писатель Карел Чапек в своей пьесе "R. U. R.", написанной в 1920 году. Это аббревиатура, название компании-производителя, расшифровывается как "Россумские универсальные роботы". То есть сразу же, как только они появились, роботы начали бунтовать. Продолжение древнего сюжета о Големе – искусственном существе, восставшем против своего хозяина. Но почему? Что им плохого сделал человек?
– Сама идея того, что искусственный интеллект может или должен восстать против человека, подразумевает идею о том, что искусственный интеллект самостоятельно мыслит, потому что восстать можно, только если у тебя есть какие-то собственные мнения относительно чего-то.
– Кончается тем, что Чапек очеловечивает своих героев-роботов. Как происходит трансформация – непонятно, но они превращаются в каком-то смысле в людей.
– Любой автор, который говорит о восстании роботов, о роботах, которые каким-то образом действуют по отношению к человеку вне строгой системы, ради которой они предназначены, этот человек уже исходит из предпосылки о том, что робот имеет чувства, имеет собственные мысли, независимо от человека в нем проходят какие-то процессы, которые можно назвать как угодно – интеллектуальные, эмоциональные, любые другие, нам, может быть, не вполне понятные.
– У искусственного разума может быть чувство собственного достоинства в конце концов.
– Или он может влюбляться. Есть рассказ Роберта Шекли о том, как робот-пылесос сам себя упаковал и сам себя отправил к какой-то конкретной женщине, которую он увидел в магазине и безумно в нее влюбился.
"Его звали Роберт". Авторы сценария – Лев Куклин и Юзеф Принцев. Режиссер – Илья Ольшвангер. В главных ролях – Олег Стриженов и Марианна Вертинская. 1967
– И у него же – рассказ о том, как слишком занятой для ухаживаний человек посылает на свидание своего робота-двойника, а потом оказывается, что девушка сделала то же самое. Роботы влюбились друг в друга и сбежали. Сюжет в духе О. Генри. По всей видимости, идея восстания роботов происходит из несовершенства мира. Мол, роботы лучше знают, как устроить этот мир на более разумных началах.
Человек становится совершенно не нужен
– Это все уходит корнями, естественно, во Французскую революцию и энциклопедистов, которые привели идею того, что интеллект превыше всего, на вершину пирамиды. Прежде всего интеллект, логическое мышление, мы должны рассуждать, а все остальное – без этого можно обойтись. Исходя из этого, конечно, человек или любое другое существо, которое может абсолютно логически рассуждать, становится венцом творения. Если мы говорим о том, что логическая мысль, интеллектуальный ход мысли – это самое главное, ради чего шла вся эволюция человека, то, разумеется, человек становится совершенно не нужен, как только появляется существо, или вещество, или какое-то другое, как хотите его называйте, которое мыслит более логично, более последовательно, владеет большей информацией и на основании большего количества информации может делать выводы.
– За Чапеком следует Айзек Азимов. Он предложил концепцию сотрудничества робота и человека, сформулировал "законы роботехники" и издал книгу рассказов "Я, робот". Он полагал, что робота можно запрограммировать так, чтобы он не наносил вреда человеку. И он же все время проверяет на прочность свою концепцию. Азимов придумал свои три закона робототехники в 1942 году. А в 1986-м дополнил эту "конституцию" для роботов нулевым законом: "Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред". Не только человеку, но и человечеству в целом.
– Надо сказать, что эти законы робототехники были приняты всем сообществом писателей-фантастов, конвенция такая была заключена, такой негласный фундамент того, на чем основывались все люди, писавшие о роботах. Да, проверяли на вшивость постоянно, все время находили дыры. Потому что опять же, исходя из того, что робот мыслит независимо, даже если в нем встроены какие-то ограничители для нанесения вреда человеку... Замечательный рассказ есть у Шекли "Страж-птица"...
– Блестяще, кстати, его название, Watchbird, перевела Нора Галь.
– ...в котором он показывает, как именно эти ограничители могут начать работать против человека и против кого угодно, в том числе против самих роботов. Страж-птица была изобретена для того, чтобы предотвращать преступления, но робот начинает думать дальше, начинает думать логически. Сначала они действительно предотвращают нападение человека на человека, потом робот думает, что другие живые существа ничем не хуже человека, поэтому убить муху в принципе такая же гадость, как и убийство человека. Потом что страж-птицы выходят из-под контроля и начинают контролировать любое покушение на живое существо в строгом буддистском смысле этого слова. И для того, чтобы как-то с ними справиться, изобретают ястреба, который начинает охотиться за страж-птицами. Из последних строк рассказа понятно, что ничем хорошим это не кончится, потому что эскалация роботов, которые будут рассуждать о том, кто кому приносит вред, закончится просто истреблением всего, в том числе и роботов.
Эскалация роботов, которые будут рассуждать о том, кто кому приносит вред, закончится просто истреблением всего
– Рассказ 1953 года. Сегодня, как мы знаем, искусственный интеллект получил военное применение. Заповедь Азимова "не навреди человеку" нарушена. Война России с Украиной – первая в истории война дронов. И уже зафиксированы случаи, когда дроны не подчинялись командам своих операторов, атаковали солдат своей армии или даже своих операторов. Если продолжить твои рассуждения, что робот делает какие-то логические выводы, получается, искусственный интеллект может прийти к выводу, что виновниками конфликта являются как раз его операторы, поэтому нападает на них.
– Война дронов – это вообще отдельная тема, очень интересная. Она была доведена до своего логического завершения Станиславом Лемом в романе "Мир на Земле". Там маленький исторический экскурс есть, где рассказывается, что война постепенно стала невозможна, поскольку утрата человеческой жизни рассматривалась как абсолютно недопустимый факт. В конце концов правительства Земли решили, что, раз уж это и так полностью автоматизировано и роботизировано, почему бы не избавиться от этой неприятности вообще и не перенести конфликты на Луну. Всех этих роботов военных отправляют на Луну в условиях особой секретности, на этом всем строится роман. Роман на самом деле заканчивается весьма оригинально: роботы на Луне, которые тем временем, видимо, замечательно между собой перебратались и поняли друг друга, решили, что человечество надо как-то отучить от этой дурной привычки заниматься войной и вообще перестать от них зависеть. Они забрасывают на Землю вирус, который уничтожает все компьютерные системы на Земле, и человечество практически возвращается к эпохе пара в течение нескольких суток. Это все на самом деле строится на той же самой презумпции разумности и логичности роботов, которые, тем не менее, мыслят отдельно, самостоятельно. Они мыслят логично, они доводят логику свою до завершения, они принимают решения на основе большого количества информации, которой они могут делиться друг с другом. В результате – пожалуйста, абсолютно непредвиденное решение, которое они принимают. Но это все исходит из того, что они мыслят самостоятельно, что программа, которая в них заложена, может быть ими самостоятельно расширена.
"Метрополис". Фильм Фрица Ланга по роману Теа фон Харбоу. Сцена превращения "человеко-машины" в копию живой женщины – Лже-Марию. В ролях Бригитта Хельм, Рудольф Кляйн-Рогге, Альфред Абель. 1927
Я давно уже говорю, что надо выбросить все книги, написанные футурологами, политологами, социологами и прочими людьми, которые пытались предсказать будущее. Все практически из того, что было написано так называемыми учеными на эту тему, можно выбросить на помойку, как говорил кот Бегемот. А вот то, что писали фантасты, оказалось поразительно близко к тому, что мы сейчас переживаем, действительно. Кстати говоря, о дронах еще очень давно первый роман Курта Воннегута "Механическое пианино" написан. Он исходит из совершенно других предпосылок, там совсем не об этом, там не о роботизации. Там просто сказано, что армии стали все роботизированы, потому что ну кто же даст человеку в руки ружье? Вот и все, очень просто, одна фраза, и это все объясняет.
Искусственный интеллект не берет взяток, не подвержен давлению свыше и общественному мнению, лишен эмоций
– Исходя из того, что искусственный интеллект практически безупречен, можно предположить, какие профессии он может заместить. Одна из самых популярных идей – робот-юрист. Перспектива вполне реальна, ее всерьез обсуждают правоведы. Сторонники этого предположения исходят из презумпции, что искусственный интеллект беспристрастен и объективен, а именно это и требуется от судьи. Он не берет взяток, не подвержен давлению свыше и общественному мнению, лишен эмоций. Я вполне себе могу представить робота – помощника адвоката. Наверняка искусственный интеллект уже используется в рутинной бумажной работе, когда адвокату нужно перелопатить множество прецедентов, чтобы, опираясь на них, построить свою защиту. Робот может выполнять какие-то функции судебного клерка. Но может ли робот быть следователем, обвинителем, адвокатом, а самое главное, судьей? Как объяснить ему все субъективные обстоятельства дела? Что об этом говорят фантасты прошлого?
– Пока искусственный интеллект часто увлекается, начинает сочинять то, чего не было на самом деле. Если люди просят написать биографию известного писателя, то искусственный интеллект очень часто увлекается и приписывает писателям то, чего они никогда не делали, или, наоборот, опускает то, что они делали на самом деле или любой другой известный человек. На самом деле в данном случае искусственный интеллект пока еще совсем маленький, и он еще не особо отдает себе отчет, где фантазия, а где истина, что, собственно, от него требуется.
– У фантастов ведь есть произведения, где искусственный интеллект судит человека. Казалось бы, почему бы и нет? Он, повторюсь, неподкупен и беспристрастен, способен абсолютно точно взвесить все улики и обстоятельства...
– Я не знаю, был ли переведен на русский роман Клиффорда Саймака Why Call Them Back from Heaven...
– Да, был, в 1991 году. Называется по-русски "Зачем их звать обратно с небес?"
– Этот роман, вообще говоря, бесценен. Я считаю, что он предсказал буквально тот момент, в котором мы сейчас живем, кроме одного момента: там уже действительно искусственный интеллект занимает должности и судьи, и присяжных, и обвинителя. Только адвокатом может быть живой человек. В этом романе речь идет о том, что человеческая жизнь является абсолютно высшей ценностью. Люди, которые умирают, консервируются для того, чтобы быть воскрешенными после того, как будет найдено средство это сделать. Человек не уследил, и кто-то по его вине умер окончательно, пропущено было окно возможностей, когда тело этого человека можно было законсервировать, отправить ожидать воскрешения. Какая может быть за это кара? Аналог смертной казни, то есть лишение самого этого человека возможности на будущее воскрешение. Его никто не убивает, ему никто не причиняет никаких физических неудобств...
– Но суд же должен выяснить все обстоятельства!
– Суд выясняет обстоятельства. Он говорит, что он не виноват, что он не мог ничего сделать, что технология подвела. Но суд говорит: это нас не волнует, вы не выполнили свои обязанности. В ваши обязанности входило обеспечить безопасность этого человека и возможность его воскресить? Да, входило. Вы выполнили эти обязанности? Нет, не выполнил.
– Получается, никакие субъективные смягчающие обстоятельства в расчет не принимаются?
– Принимаются. Там есть вариант суда под химическим воздействием. Подсудимому могут ввести какое-то вещество, под действием которого он будет говорить правду, только правду, ничего, кроме правды, и выложит все, что у него было на душе.
– Мы говорили с тобой о том, что искусственный интеллект мог бы недурно сочинять сценарии сериалов. А смог бы искусственный интеллект сочинить сценарий детектива? Мне кажется, что это очень-очень сомнительно.
– Я как раз об этом подумала совсем недавно. Ведь существовал кружок британских писателей-детективщиков в 20–30-е годы прошлого века, которые между собой условились сочинять детективы строго по определенным правилам.
– Да-да, десять заповедей преподобного Рональда Нокса.
– Они сами это все высмеивали, но, в принципе, придерживались правил.
– Там есть действительно разумные правила. Мы с тобой, когда смотрим или читаем детективы, тоже этими правилами руководствуемся. Например, читатель должен знать столько же, сколько знает сыщик, убийцу нужно показать в самом начале. И сделать так, чтобы читатель и зритель в последней трети начал догадываться, кто убийца, потому что в этом состоит весь азарт и весь смысл чтения детективной литературы – у тебя есть возможность разгадать загадку.
– Были авторы, которые делали это виртуозно, та же самая Агата Кристи и Картер Диксон, особенно любивший убийство в закрытой изнутри комнате.
– Если правила действительно такие строгие, все рассчитано, то почему бы искусственному интеллекту не сочинять на основании этих правил?
– Я попробовала. Я попросила искусственный интеллект сочинить детективный рассказ. Он радостно согласился, сказал: "Конечно, могу". Сочинил нечто весьма-весьма поверхностно отвечающее названию детектива. Сюжет о том, как у какой-то герцогини украли ожерелье. Призвали некоего сержанта полиции, известного своей сообразительностью и наблюдательностью, он опросил слуг. Рассказываю практически буквально, сюжет можно рассказать в двух словах. Он опросил всех, кто присутствовал в доме, слуг и гостей. Выяснилось, что у дворецкого были долги, что служанка шарила в вещах гостей и своих хозяев. Вот это я цитирую буквально: "И, собрав множество различных улик, он пришел к выводу, который всех потряс, – что ожерелье украл собственный племянник этой самой герцогини". После чего его провозгласили молодцом и героем, ко всеобщему удовольствию все закончилось. Если это детектив, то я комиссар Мегрэ. Искусственный интеллект... во-первых, у него стоит блок на то, чтобы обсуждать такие неприятные вещи, как убийство. Он, например, оказался мне писать резюме наемного убийцы, сказал, что он этого не делает, без объяснений. Я думаю, что такой же блок стоит и на рассказы об убийствах или о чем-то таком подобном.
– Про кражу ожерелья тоже можно увлекательно написать.
– Пятилетний ребенок интереснее бы написал, честно говоря. Если дать задачу пятилетнему ребенку написать историю про то, как украли ожерелье, он, скорее всего, выдумал бы массу интересных подробностей.
"Последний рубеж". Научно-фантастический фильм, созданный Хашемом аль-Гайли в соавторстве с искусственным интеллектом.
– Он еще маленький, не дорос до пятилетнего ребенка.
– Он еще маленький, поэтому он даже подробностей сочинить не может. Нет ни характеристик персонажей, ни описания, допустим, места действия. Голая такая фабула, которая на самом деле даже не указывает, какие именно улики собрал детектив. Можно было бы хотя бы это придумать, как именно он уличил этого вора, но и этого нет. Просто искусственный интеллект понимает, что жанр детектива предполагает пропажу, загадку, некие действия по розыску пропажи и успешное завершение.
Он еще маленький
– Ты сказала про пятилетнего ребенка, и мне вспомнилась повесть Азимова "Профессия". Там показано общество будущего, в котором каждого юношу и девушку, которые ничему не учатся, обследуют с целью определить профессию, в которой он будет наиболее успешен. А потом просто надевают на голову шлем, и человек получает все необходимые знания за считаные минуты. И вот оказывается, что главный герой не пригоден ни к какой профессии. Его отправляют в приют для слабоумных, где такие же, как он, неудачники учатся по книгам, как мы сейчас. Он приходит в отчаяние: зачем эти годы труда, если в других готовую программу вкладывает машина? И получает ответ: ведь нужен же кто-то, кто пишет эти программы.
– У Азимова, конечно, замечательный поворот. Это люди, которые не укладываются в сетку разнарядки, которая существует у компьютера. Это один из идеальных вариантов решения проблемы, между прочим. Компьютер задает вопросы, люди сдают экзамены, кто-то из них становится звездолетчиком, пилотом...
– Они сами себя считают неполноценными, эти отбракованные люди, вот в чем дело.
– Они себя считают неполноценными до какого-то момента, потому что не понимают, что с ними происходит. А потом им объясняют. Я считаю, что это идеальный вариант, потому что он сохраняет и искусственный интеллект, который играет одну из решающих ролей в жизни человечества, и человека как фактор, который может перебить искусственный интеллект в любой момент и сказать ему: нет, мы так не будем делать, мы будем делать по-другому. То есть творческая составляющая остается за человеком, последняя функция, последняя инстанция творческая – это человек, а искусственный интеллект занимается технологией, техническими вопросами. Он устраивает экзамены, он решает, кто может стать ученым, кто может стать врачом, кто может стать педагогом – это все действительно вопросы чисто технические. А вот когда встает вопрос реального концептуального значения, тогда это решается человеком. Азимов вообще был большим оптимистом. Он писал в основном техническую фантастику, решал технические вопросы. Думаю, что повесть "Профессия" – это как раз ответ на самое большое количество вопросов, какие возникают у людей по поводу искусственного интеллекта. Другой вопрос, что большинство людей даже не задумывается об этом. Они априори считают искусственный интеллект обладающим всеми теми же свойствами, которыми обладает человек. Мы с этого начали, мы к этому вернулись. Кто-то создает искусственный интеллект, а большинство публики сейчас (и страх из-за этого, собственно, происходит, и восторг из-за этого происходит) считает, что он, может быть, пока еще не такой же, как мы, но он вырастет, станет таким же, он будет обладать такими же свойствами, теми же способностями и будет так же реагировать на окружающее, в том числе и на нас. То есть если мы можем не любить, грубо говоря, пылесос, потому что он плохо пылесосит, то и умный пылесос может не любить своего хозяина, потому что хозяин плохо с ним обращается и не знает вообще, что с ним делать.
– Умные вещи, как мы знаем, способны взаимодействовать друг с другом.
– Меня, честно говоря, очень не то чтобы пугает, но против шерсти гладит идея Алексы – когда ты приходишь в дом, говоришь: Алекса, организуй мне тут все. И она организует кофе, включает нужную температуру, свет, любимую программу по телевидению, любимый фильм, рассказывает, кто звонил и зачем, говорит, что кот покакал, и что он здоров. Для меня это перебор.
Если мы признаем его разумным существом, на каком основании мы лишаем его права избираться?
– Алекса – это только начало... Искусственный интеллект и политика. Опять-таки понятно, что искусственный интеллект может быть поллстером, консультантом, советником, политологом, аналитиком. А может искусственный интеллект быть политиком? Коль скоро мы признаем его разумным существом, на каком основании мы лишаем его права избираться?
– Есть все тот же роман "Механическое пианино", первый роман Курта Воннегута, где искусственный интеллект не просто политик, он, можно сказать, диктатор, он решает, как все вообще должно быть организовано. На самом деле – в Соединенных Штатах, потому что там есть намеки на то, что есть страны, которые не подчиняются этому, то есть это не всемирный диктатор.
– Почему бы искусственному интеллекту в какой-то момент не прийти к выводу, что существование человечества вообще излишне на этой планете? Почему бы искусственному интеллекту не начать уничтожать человечество?
– Это одна из распространенных идей, это один из самых распространенных сюжетов. У Лема есть несколько рассказов на эту тему – о том, как спутник какой-то другой цивилизации ходит по орбите и наблюдает, что происходит на Земле, и в какой-то момент решает, что хватит уже, все происходящее перешло все допустимые пределы. Это чисто автоматика, там нет никаких пришельцев, людей или существ с другой планеты. Компьютер решает, что хватит, все, это перешло все допустимые пределы, ликвидирует человечество как оспу. По-моему, там есть сравнение с чумой или с оспой, я не помню точно. Соответственно, говорят: теперь совсем другое дело, теперь эту планету перезапустили, теперь с ней можно будет иметь дело.
– Поговорим о "Солярисе". Экипаж орбитальной станции землян сталкивается с планетой, поверхность которой целиком покрыта океаном, и океан этот представляет собой единый мозг. Откуда он взялся, этот гигантский мозг, кто его создал?
– Это замечательный вопрос. Во-первых, я думаю, "Солярис" – это не искусственный интеллект, это нечто созданное в процессе эволюции. Мы остаемся без ответа на вопрос, что такое Океан, каким образом он возник. Лем это никак не объясняет. Но он, судя по всему, все-таки нечто биологическое.
– Именно поэтому он способен вступить в эмоциональный контакт с людьми.
– Он понимает, или ощущает, или каким-то образом может воспринять эмоции людей, которые находятся на орбите, и пытается с ними вступить в контакт, посылая им фантомы их собственного сознания. У него нет базы данных, на основании которых он мог бы интерпретировать эти эмоции. Как правило, более сильные эмоции – отрицательные, это воспоминания об ужасе, или об утрате, или о чем-то страшном, что произошло с человеком в детстве или во взрослой жизни. Видимо, у Океана нет возможности получить какую-то минимальную информацию о людях, как они работают, как они устроены. Поэтому он реагирует на самые сильные импульсы, которые посылает мозг, а самые сильные импульсы – это импульсы ужаса, кошмара, трагедии, того, что произошло на глазах у человека, что он не может никак изменить…
– …и в чем он ощущает свою вину.
– Но часто люди ощущают свою вину даже в том, в чем они, объективно говоря, не виноваты. Ребенок очень часто ощущает свою вину в том, что родители развелись, допустим, хотя они, конечно, разводятся не из-за него, или ребенок ощущает свою вину из-за того, что кто-то умер в семье, потому что ему кажется, что он был недостаточно хорошим ребенком, кто-то умер из-за него.
– Среди персонажей "Соляриса", я думаю, невиновных нет.
– Это другой вопрос. На самом деле мы просто не знаем предыстории всех остальных, мы знаем только предысторию главного героя. Может быть, это кошмары, которые мучили кого-то. Кстати говоря, перед тем как все остальные погибают, я не помню, кто именно говорит главному герою: "Ты счастливчик, ты не имеешь дело с тем, чего вообще не было". То есть для кого-то это, возможно, какой-то кошмар, который его преследует всю жизнь из подсознания.
– Мы подошли к самой интересной теме – это творческий потенциал искусственного интеллекта. Мы уже говорили о том, что непонятно, есть ли у него чувство юмора, может ли он как-то описать или ощутить эмоции. Искусственый интеллект создает подвижные и неподвижные изображения, мы слышали музыку, сочиненную искусственным интеллектом...
– Так себе музыка.
– Он еще учится. Моцарт тоже не с пеленок начал сочинять.
– Моцарт в восемь лет уже оперу сочинил. Неплохую оперу, ее до сих пор ставят.
– В одиннадцать все-таки. А сколько лет искусственному интеллекту?
– А Бог его знает. Три года?
"...А во-вторых, это все-таки не Моцарт". "Доживем до понедельника". Автор сценария – Георгий Полонский. Режиссер – Станислав Ростоцкий. В ролях Надир Малишевский, Ольга Жизнева, Вячеслав Тихонов. 1968
– Дело, мне кажется, не в возрасте, а в том, что человек – существо иррациональное. Нельзя написать великий роман, нельзя снять великий фильм, руководствуясь логикой. Человека часто поступает поперек логики, вопреки собственным интересам, часто во вред себе. У Достоевского в "Бесах" Степан Трофимович выражается так: "Понимаешь ли ты, что человеку кроме счастья, так же точно и совершенно во столько же, необходимо и несчастье!" Ну и как это объяснить искусственному интеллекту?
– Тут надо просто вспомнить, что мы живем в мире, который на самом деле был создан в конце XVIII века французскими энциклопедистами и просветителями. Эти люди убедили человечество в том, что человек – это венец творения...
– Человек своим разумом откроет все тайны Вселенной...
– Да, мы можем не знать еще всего, но рано или поздно узнаем. То есть Вселенная познаваема, мир познаваем человеческим разумом, который превосходит собой все остальные чудеса мира.
– Но в конце XIX века наступил так называемый кризис в естествознании, с открытием квантовой механики наступил кризис в физике, который продолжается до сих пор.
– Да, материя исчезла. Не мне тебе напоминать книгу Владимира Ильича Ленина "Материализм и эмпириокритицизм". Но широкой публике, которая читает журналистские расследования или какие-нибудь сенсационные статьи, это неинтересно, ей интересно что-то такое, что затрагивает ее эмоции, и это в корне противоречит идее о том, что интеллект – это главное, что движет человеком. Публике интересно что-то эмоциональное, что-то такое, что ее взбудоражит, что заставит ее взволноваться и обсуждать. Парадоксальным образом искусственный интеллект, который рассуждает и способен логически мыслить, будоражит публику и заставляет его обсуждать.
Я начиталась этой всей фантастики, о которой мы с тобой говорили, и совершенно откровенно готова принять любой вариант из тех, которые были описаны, и тех, которые описаны не были. Ведь что-то не было описано просто потому, что сигнал не поступил или кто-то, кому его послали, его не принял. У меня лично пока искусственный интеллект не вызывает никакого отторжения, он у меня вызывает скорее легкое умиление, как, наверное, трехлетний мальчик, который встает на табуреточку и читает стихи. Может быть, это неправильная реакция. Но угроз я пока не вижу.
