“Клара и Солнце” Кадзуо Исигуро объясняет, почему мы никогда не полюбим ИИ

Новый роман лауреата Нобелевской премии Казуо Исигуро проецирует такие человеческие черты, как верность, любовь и дружба на ИИ.

Ваша зрительная кора делает две невероятные вещи тысячи раз в секунду. Во-первых, она принимает всю информацию, поступающую через сетчатку, и передает ее через серию шагов — сначала ища участки темного и светлого, затем такие особенности, как линии и края, а затем простые узнаваемые формы, такие как эта буква “А”, работая с предметами домашнего обихода, такими как тостер или чайник, или отдельными лицами, например, вашей бабушкой или человеком, которого вы обычно видели каждый день на автобусной остановке по дороге на работу. Вторая невероятная вещь, которую она делает, — это полностью забывает, что она вообще сделала что-то из этого. Внутреннее устройство нашего разума недоступно для нас — и это одна из вещей, которая всегда будет отделять нас от машин с искусственным интеллектом, подобных тем, что изображены в новом романе британского писателя Казуо Исигуро «Клара и Солнце» .

Действие книги разворачивается в недалеком будущем, где роботизированные гуманоиды, называемые «искусственными друзьями» или «AF», являются предпочтительным приобретением для богатых подростков, которых — по неуказанным причинам — обучают удаленно, и которые редко получают возможность общаться со своими сверстниками лицом к лицу. AF рекламируют как лекарство от одиночества, но и сами они живут в одиноком мире.

В начале книги мы встречаем Клару, AF, выставленную в магазине в американском городе, похожем на Нью-Йорк, которая целыми днями болтает с другими AF и ждет, пока ее выберет покупатель. Хотя она выглядит почти полностью человеком — она ​​ходит, разговаривает и выглядит как человек — Клара видит мир совсем по-другому.

Ее машинный мозг разбивает все, что она видит, на постоянно меняющиеся прямоугольники — сетку квадратов, подобных ограничивающим прямоугольникам, используемым алгоритмами обработки изображений, которые рисуют красные квадраты вокруг потенциальных угроз. Когда она смотрит в окно на уличную сцену снаружи, она иногда видит раздробленную картину мира — сердитое лицо разбивается на осколки, как отражение в разбитом зеркале, пара, обнимающаяся под зонтиком, становится единым массивным существом с восемь конечностей и две головы, прежде чем превратиться во что-то поддающееся расшифровке.

Это было почти так, как если бы я наблюдал за проезжающим транспортом на оживленной улице, и когда мне удалось перебросить взгляд на другую сторону, я обнаружил, что он был разделен на множество коробок неравных размеров.

Это напоминание об инаковости ИИ — идеи, десятилетиями исследуемой в менее “литературных” формах научной фантастики, что машины не работают в соответствии с теми же предположениями, что и люди, и что на них проецируются человеческие желания и мотивации. Это опасное заблуждение.

Клара и Солнце — восьмой роман Исигуро, и его первая книга с тех пор, как он получил Нобелевскую премию. У него есть тематическое сходство с его предыдущими работами — в частности, Never Let Me Go , в котором рассказывается о жизни человеческих клонов, воспитываемых в качестве будущих доноров органов. Он бросается в глаза во многих из тех же нот — наивный, несколько ребячливый рассказчик, кажущаяся нормальной жизнь, в которой скрывается ползучий ужас.

Исигуро, кажется, одержим расслоением общества через классовые системы — что, возможно, неудивительно, учитывая, что он родился в Японии и переехал в Великобританию в детстве — и это снова проявляется в Klara and the Sun, где дети богатых имеют возможность «поднять» свой интеллект с помощью генной инженерии, при этом места в лучших университетах будут закрыты для тех, кто не прошел эту процедуру. AF занимают одну из нижних ступеней лестницы — они следуют за своими хозяевами, как верные щенки, пока они не перестают быть желанными.

В конце концов, Клара выбрана клиентом и доставлена ​​в новый дом, где она с головой погрузилась в сложность человеческих взаимоотношений. Хотя Клара видит мир как машину, это не всезнающий, разрушающий мир искусственный интеллект из множества антиутопических фильмов. AF учатся, наблюдая за миром вокруг себя, и, хотя они видят мир совершенно по-другому, в конечном итоге путают причину и следствие так же, как и мы.

Столкнувшись с запутанной, неконтролируемой ситуацией, связанной с ее новым владельцем, Клара, работающая на солнечной энергии, развивает суеверную фиксацию на солнце, которое она могла видеть, пересекая небо со своего места в магазине AF, и которое она наполняет божественным, точно так же, как цивилизации на протяжении всей истории выдумывали божеств, чтобы понять необъяснимое.

Мы все еще далеки от того, чтобы увидеть искусственных друзей в реальном мире, но ИИ проникает во все аспекты общества, от заявлений о приеме на работу до алгоритмов свиданий. Клара и Солнце могут быть оптимистичны в проецировании таких черт, как любовь, верность и дружба, на существо с искусственным интеллектом, которое видит мир совершенно по-другому.

Но в том, как она использует идеи, которые она может уловить, как линзу, через которую она видит то, чего она не видит, собственное путешествие Клары по книге отражает наше собственное, поскольку мы пытаемся понять непрозрачную работу технологии, которая станет огромной особенностью. нашей жизни ещё при нашей жизни.