Понять - значит упростить

Умер философ Джон Серль (Серл, Сёрл, пишут по-разному). Главное, чем он был знаменит, это философский мысленный эксперимент "Китайская комната". Представьте себе, что вы смогли сделать компьютерную программу, которая умеет по-настоящему, как человек, общаться на китайском языке. Серль говорит: представим себе, что все инструкции программы записаны на миллионах маленьких листков бумаги, разложенных на сотнях полок в большой комнате, а внутри комнаты сидите вы. В окошко вползает новая фраза по-китайски, на которую надо ответить. Листочки дают вам указания, что делать с ее символами: может, записать каких-то других листочках, сравнить с чем-то, если такой-то символ, то сделать то-то, и так далее и так далее и так миллион раз. В итоге вы, механически следуя указаниям на листочках, и не зная ни китайских иероглифов, ни самого языка, записываете на последнем листочке ответ по-китайски и выталкиваете его наружу. Это "китайская комната". Очевидно, что сами механические действия не помогли вам выучить китайский язык и понять фразу на нем, вы как не понимали его, так и не понимаете. Следовательно, говорит Серль, настоящий компьютер, который делает то же самое, даже если он выдаст фразу на китайском, все равно не понимает китайский язык, потому что компьютер это просто вид китайской комнаты.

"Китайская комната" - довольно интересный пример аргумента, который в довольно широких кругах ценится за то, что считается неверным. Большая часть философов и исследователей искусственного интеллекта, которых я уважаю, относятся к "китайской комнате" как к почти очевидному софизму, путанице в терминах, которая не доказывает ничего про гипотетические ограничения искусственного интеллекта (как считал Серль), но полезна тем, что предельно ясно формулирует определенную "ловушку" в мышлении. То и дело про какой-то другой аргумент читаешь "на самом деле это всего лишь вид аргумента китайской комнаты, и вот почему". Я тоже так считал, и тем не менее из уважения к покойному решил пойти и прочитать статью в Стэнфордской философской энциклопедии про китайскую комнату: https://plato.stanford.edu/entries/chinese-room/

Эта статья очень хорошо написана, и я рад, что ее прочитал, и советую всем, кто хочет приобрести несколько менее поверхностные знания о "китайской комнате". В частности, меня обрадовал тот факт, что очевидное с моей точки зрения возражение Серлю (так называемый "системный ответ": что понимание китайского существует и спрятано в сложности всей системы, объединяющей листки и выполняющего программу агента, и что это не более удивительно, чем то, что обычное понимание китайского спрятано в сложности всей системы нейронов мозга) было очевидно не только мне, но и самому Серлю, и что у него был какой-никакой ответ на него, еще даже в первоначальной статье 1980 года. Этот ответ - что человек может гипотетически запомнить всю программу, выйти из комнаты на улицу (не выходи из комнаты -- не совершай ошибку--), неся ее в голове, и все равно у него не будет никакого понимания - не то чтобы меня переубеждает, но заставил подумать. В статье в энциклопедии это описано подробно и исключительно ясно, если вам это интересно, еще раз повторю рекомендацию прочитать. В целом у меня сохранилось отношение к К.К. как к примеру определенного вида софизма, но с более трезвой оценкой того, что если присмотреться внимательнее, то там "все сложно" (как обычно бывает в философии сознания/мышления) и есть небезынтересные аргументы с обеих сторон.

Другая важная сторона вопроса о китайской комнате - это почему это вообще важно. Предположим, у компьютера, общающегося с вами по-китайски, нет "понимания" китайского языка; почему это вас должно беспокоить, если он нормально общается? Почему это вообще не бессмысленный вопрос? Он был таковым, по-видимому, для Тьюринга - ведь знаменитый тест Тьюринга для проверки искусственного интеллекта как раз основан на том, что мы сравниваем ответы компьютера и человека, общаясь с обоими как с "черными ящиками" - как с агентом внутри китайской комнаты, посредством листков через окошки - специально отказываясь строить теории о том, что там у них внутри, "понимание" или нет. Для Серля его аргумент был следующим шагом после теста Тьюринга, шагом, демонстрирующим недостаточность теста Тьюринга. Компьютер, с точки зрения Серля, может только манипулировать символами, а у человека есть "семантика", настоящее понимание, и китайская комната демонстрирует эту разницу так, что это очевидно нашей интуиции. Но эта разница, для Серля, не заключалась только в схоластическом заявлении "нет настоящего понимания!", у нее есть реальные последствия. То, что человек внутри китайской комнаты не понимает китайский, имеет последствия в реальном мире. Он может, с помощью листков, ответить на любые вопросы по-китайски, но если показать ему гамбургер и спросить, как это будет по-китайски, он не сможет ответить (а человек с "пониманием" китайского сможет!). В этом для Серля была существенная разница. Настоящая семантика рано или поздно сыграет свою роль, она неизбежным образом богаче и вернее, чем чистый синтаксис, чем чистая - пустая - манипуляция символами.

Серль дожил до компьютеров, умеющих без проблем отвечать на китайском (или любом другом языке), но я не знаю, писал ли он под конец жизни что-то об LLMах и их связи с китайской комнатой. Можно представить себе Серля (допустим для простоты, что он знает китайский язык), общающегося с ChatGPT на китайском, но потом заявляющего, что он все равно не знает, как будет "гамбургер" по-китайски - ведь он понимает только текст, символы, если ему написать "гамбургер" на другом языке, то это слишком сильная подсказка. Но потом OpenAI выпускает новую версию ChatGPT, которая умеет понимать картинки, и если показать камере лаптопа гамбургер, то ChatGPT легко напишет - на китайском, если угодно, - что это такое. Как это случилось, ведь настоящая семантика и все такое? "Настоящая семантика", которая у человека возникает в голове при виде зрительного образа гамбургера, перешла в символы - набор пикселей компьютерной картинки, нейронную сетку, переводящую картинки в слова, а слова ChatGPT знает и умеет отвечать. Серль может отступить на этом фронте и сказать "все равно нет понимания, машина не может осязать гамбургер или ощущать его вкус". Но добавляя в будущем новые сенсоры, мы научим нейронные сети вести себя так, будто они все это понимают, и это возвращает нас к вопросу о том, где тут фундаментальная разница с тем, как мозг обрабатывает зрительные, осязательные итд. символы, и не является ли эта "настоящая семантика" фантомом, самообманом?

Очень интересная брошюра "Оказывается, я еврей" математика Григория Фреймана. Написана в 1976 году, когда ему было 50 лет, издана в английском переводе на Западе в 1980-м. Сам Фрейман через несколько лет после написания уехал в Израиль, продолжал много лет математическую работу здесь.

Процитирую только один отрывок, это на мой взгляд отличная кинематографическая сцена. Действие происходит в 1952-м году, Фрейман пытается попасть в аспирантуру где-нибудь (в МГУ или в Казани), его везде отфутболивают под разными предлогами.

=============================
А разговор с Петровским!

Ректор МГУ Иван Георгиевич Петровский сам был математиком.
Летом 1943 года он был деканом мехмата. Впервые я встретился с ним, когда переводился из Казанского университета в МГУ. Он произвёл самое приятное впечатление: разговаривал неторопливо, интересовался собеседником, его делами. Был он тогда худощав, интеллигентен, тонок.

И вот теперь Петровский согласился меня выслушать после того, как мой учитель Александр Осипович Гельфонд рекомендовал меня как подающего надежды юношу.

Принял он меня в своём большом кабинете в старом здании МГУ на Моховой.

Я рассказал ему о своих злоключениях, о большом желании заниматься математикой.

Петровский слушал внимательно, и, казалось, доброжелательно.

— Теперь я уже не могу изменить решение приёмной комиссии — сказал он, — ...
— Если не в очную, то хотя бы в заочную, — перебил я его.

— Нет, это тоже не удастся. — Вот что, — сказал он, подумав, — Вам надо бы сдать кандидатские экзамены.

Я увидел, что он ни в чём не идёт мне навстречу, этот, казалось бы, всемогущий человек, приятель и однокурсник моего учителя, а главное, математик, учёный, который должен бы понять моё острое желание заниматься обоими нами любимым делом.

— Да что же это, — возопил я с горечью, — я иду влево, Вы меня посылаете вправо, я — вправо, а Вы меня посылаете влево. Куда же мне деваться?

Он не понял, о чём я говорю, поднял на меня вопросительный взгляд.

— Вы советуете мне сдавать кандидатские экзамены, отказывая в поступлении в аспирантуру. Посмотрите, что Вы написали, когда я просил о сдаче кандидатского минимума.

Я положил перед ним мою просьбу разрешить сдачу кандидатского минимума с его резолюцией: «Рекомендую поступить в заочную аспирантуру 15/Ѵ-52 г. И. Петровский».

Он прочёл и ничего не сказал. Сидел неподвижно и не говорил ни слова. Я тоже молчал, вначале от волнения, а потом, когда пришёл в себя, напряжённо ждал, что же он всё-таки скажет. Но он сидел, сидел неподвижно и молчал. Продолжалось это не менее трёх минут, целую вечность. Затем, повинуясь какому-то безотчётному импульсу, не желая, чтобы это молчаливое признание прервалось жалким лицемерным лепетом, а может быть, повинуясь чувству жалости, я встал, взял бумажку, лежавшую перед ним, свернул её, положил в карман и вышел. А он так и сидел, не шевелясь.

Недавний пост LanguageHat напомнил мне о немного странном выражении "души не чаять в ком-то" (безгранично любить). Вопрос о его происхождении возникает снова и снова, например в ЖЖ-сообществе ru_etymology его задавали раз пять. Напомню, что "чаять" - архаичный глагол с значением "ожидать чего-то, надеяться на что-то".

В фразеологических словарях обычно предлагают считать, что первоначально было "души не чуять", и это исказилось в "чаять". Мне это поначалу показалось маловероятным, но по мере того, как я собирал цитаты и ссылки, мой скептицизм уменьшался. Приведу выжимку того, что я нашел.

1. Словарь Даля, первое издание (1863): "Онъ отъ нея безъ души, она въ немъ души не слышитъ, не чаетъ, безумно, безотчетно любитъ его." Даль приводит "не слышит" наравне с "не чает", но не фиксирует "не чует".

2. "Большой словарь русских поговорок" (Мокиенко, 1987) фиксирует следующие варианты:

Души не ведать в ком. Прикам. То же, что души не чаять. МФС, 16.
Души не помнить (не чуять, не чувствовать). Пск. 1. Быть вне себя от радости. 2. в ком. Безгранично любить, обожать кого-л. ПОС, 10, 65.
Души не чаять (не слышать) в ком. Народн. Очень любить кого-л. ФСРЯ, 152; БТС, 290, 1469; ШЗФ 2001, 71; Ф 2, 166; ДП, 304.
Души не чуять в ком. Курск. То же. БотСан, 93.

3. В книге Д.Н.Шмелева "Очерки по семасиологии русского языка" (1964) я нашел следующий интересный пассаж:

"Затемнение «образности», заложенной во фразеологическом словосочетании (вследствие изменения исторических условий жизни носителей яызка, расширения сферы применения фразеологизма, сдвигов в значении или употребительности какого-либо из входящих в него слов и т. д.), нередко ведет к его изоляции в языке, к разрушению синонимических и иных соответствий.

Например, фразеологизм не чаять души (в ком-либо), лишенный в современном языке отчетливо выраженной мотивированности, в прошлом поддерживался такими выражениями, как быть без души (от кого-либо), не слышать (слыхать) души (в ком-либо). В «Толковом
словаре...» В. И. Даля значение этих оборотов объясняется так: «Он от нее без души, она в нем души не слышит, не чает, безумно, безотчетно любит его». Ср.: «Отец и мать не слыхали в нем души, избаловали его, и любимый их сынок Иванушка (настоящее имя его я
позабыл) вышел в двадцать лет невежда, пьяница и буян...» (Измайлов, Редкая жена); «Отец Савелий главенствовал над всем положением; его маленькая протопопица чтила его и не слыхала в нем души» (Лесков, Соборяне); «...она училась, работала и раза два в год набегала домой, чтобы провести праздники с отцом и с братьями... а особенно с младшей сестрой, в которой не слыхала души» (Лесков, Захудалый род)."

4. Наконец, собственные поиски источников в Google Books показали следующую картину:
- до 19 века ни одно из этих выражений в печати вообще не найдено. В частности, в толковом словаре Академии (18 век) есть много фразеологизмов с "душой", но нет "души не чаять/чуять/слышать".
- выглядит так, что в 1820-1840 годах все три варианта "чаять/чуять/слышать" начинают употребляться в художественной литературе. К 20-му веку слышать/чуять уходят из употребления, а "чаять" остается и доживает до наших дней.
- самое раннее появление варианта "чаять", что я нашел, это 1824 год, басня Крылова "Две собаки" (На счастье грех роптать, - Жужутка отвечает, - Мой господин во мне души не чает...). В 1830-х появляется вариант "слышать", в 1840-х "чуять", и дальше до конца века можно встретить все три варианта. Если кто-то будет искать вслед за мной, отмечу, что некоторые книги/журналы, записанные в Google Books раньше 1824, на самом деле куда позже и надо проверять по титульной странице.

Исходя из этих поисков, я даже сформулировал гипотезу, что "души не чаять" вошло в литературный язык с легкой руки Крылова, а потом уже исказилось в "чуять" и по аналогии с ним в "слышать". Но все-таки, поразмыслив, думаю, что это вряд ли так было, и что вернее полагать, что все три варианта были в народных говорах, перешли из них в литературный язык в тот период, когда очень активно из народной речи заимствовались выражения, но потом "слышать" и "чуять" сошли на нет. Меня в этом убеждают как материалы из словаря поговорок, так и цитата из монографии Шмелева, в которой подчеркивается роль целого кластера похожих выражений, даже и не только слышать/чуять/чаять, но и "быть без души" (от кого-то), еще одно выражение, ушедшее из язяка - синоним "без ума", которое дошло до нас. А то, что чаять/слышать/чуять входят именно в этом порядке в литературные источники в 1820-е/30-е/40-е - просто случайность (да и кроме того, я легко мог упустить что-то в поисках, и Google Books не полностью покрывает всю литературу).

4. Последнее замечание. Даже если считать чуять/слышать первоначальными, а чаять модификацией, остается вопрос о том, как объяснить прямой смысл: если "я в тебе не чувствую души", почему это должно означать "я тебя очень люблю"? Возможно, прав автор подробного ответа на Stack Overflow. Он цитирует "души не помнить" из словаря поговорок Мокиенко (см. выше) и продолжает так:

"Отметим, что последнее выражение может употребляться без "в ком". В этом случае эта фраза "души не помнить, души не чуять, души не чувствовать" означает "быть вне себя от радости", не указывая на источник этих чувств (необязательно любви и необязательно по отношению к другому человеку).

Таким образом, на основании всех приведенных материалов мне кажется что выражение приобрело современную форму таким путем:

Исходная форма: души в себе не чуять от счастья/радости;
Сокращение экспрессивного выражения: души не чуять;
Замена слова по созвучности: души не чаять;
Указание на источник счастья/радости (а именно любовь к кому-то): души не чаять в ком-то.

Загадка появления предлога "в", на мой взгляд объясняется тем что при объяснении источника этого чувства, когда "человек не чует души" а именно от любви к кому-то (а не просто от счастья или от радости), внешняя синтаксическая форма выражения диктует выбор именно предлога в: [души не чаять] [в ком-то]. (для примера "счастье в личной жизни", "нашел себя в спорте". Т.е. "в" здесь изначально не связывает "душу" и этого "кого-то", а соединяет форму "души не чаять" с дополнением, объясняющим источник этого чувства."

Мне кажется удачной мысль о том, что это [души не чаять] [в ком-то], так, что душа своя, а не "кого-то". Сложность тут в том, что все равно я бы ожидал в таком случае предлога "от", а не "в", с предложным падежом: как "без души" (от кого-то), так и "души не чаять" (от кого-то). Именно *источник чувства* предполагаете, как источник, предлог "от", а не "в". Но это вполне может быть вопросом без ответа - так когда-то сложилось и запомнилось и все; выбор предлога в выражении не всегда можно объяснить рационально.

Недавно снова посмотрели с детьми первого и второго Терминаторов.

И так вышло, что второй Терминатор попался под руку в расширенной версии, которая занимает 2 часа 36 минут (оригинальная театральная версия - 1 час 52 минуты). Я не сразу это заметил, а потом решил, ну и ладно, посмотрим.

Оказалось, что добавочное время - 44 минуты! - распределяется между многими относительно небольшими дополнительными сценами или кадрами. Часть из них я заметил во время просмотра, потому что не помнил такого в фильме. Часть упустил, как понял потом, когда прочитал в интернете список различий. Это, например, сцена, когда T-1000 (тот Терминатор, который не Шварцнеггер) обыскивает комнату мальчика и находит письма от Сары Коннор. Или сцена, в которой мальчик достает CPU из головы Шварцнеггера, и меняет там какой-то переключатель, чтобы он мог учиться новым вещам. Или сцена, когда T-1000 убивает собаку приемных родителей Джона. И еще несколько таких.

Если представить в уме отдельно весь фильм (театральную версию) и эти добавочные сцены, то кажется понятным и логичным, почему Камерон их вырезал: они замедляют действие и недостаточно добавляют важного. Но когда смотришь фильм, у меня по крайней мере не было впечатления, что вот эта сцена дурацкая и не нужна (кроме дурацкой альтернативной концовки, которая реально ни к селу ни к городу). Они все кажутся логичными по сюжету, развивающими персонажей итд. Подозреваю, что мне было бы невероятно трудно решиться вырезать любую из них.

Мне кажется, что вот сесть с этими двумя версиями и буквально по секунде фильм разобрать и обсудить (с собой или другими) каждый вырезанный кадр и сцену, и почему, и как с этим/без этого работает, и что другое можно было вырезать - это должно быть полезное упражнение для сценаристов или режиссеров. Наверное, они таким занимаются в своих школах.

А еще я в Википедии прочитал - тоже меня поразило - что когда Камерон с соавтором писали сценарий, сначала они хотели сделать двух T-800 (двух Шварцнеггеров), хорошего и плохого, потом по каким-то причинам отказались от этого, и придумали, как "плохой" будет выглядеть. Почему-то это кажется странным, что такая фундаментальная часть замысла появилась поздно, а думали сделать совсем другое. Хотя ведь это обычно так и бывает, буквально с чем угодно.

Запись из дневника Анхеля Гутьерреса (советско-испанского театрального режиссера, 1932-2024) за сентябрь 1973 года.

======
Встретил Наташу Климову. Рассказала о своей жизни за эти годы: как её выгнали из «Современника» (поставила на открытом голосовании в труппе; голосовали только что принятые в театр молодые актёры под давлением и озверевшим взглядом подвыпившего О.). За год до этого ушёл из театра её муж Владимир Заманский, поругавшись с Ефремовым и высказавший откровенно «всё, что он о нём думал». О. решил мстить Заманскому через Наташу. Он всячески намекал ей переспать с ним, ухаживал откровенно за ней и всякий раз, и наедине, и в присутствии актёров театра (в ресторане), поливал её мужа грязью: «Как ты можешь жить с таким подонком и предателем! Это же не мужчина, да и как актёр он ничего не представляет — просто подонок...»

«Как вы смеете, О., мне, женщине, говорить так о моём муже, да ещё при них. Так откровенно нагло и цинично предлагаете мне изменить ему с вами, переспать с вами... Вы пользуетесь тем, что вы главный режиссёр, и вам всё можно, и вы сила и власть, и в два счёта можете со мной расправиться. Что я могу вам ответить на все гадости, которые вы о моём муже говорите? Это нечестно, не порядочно. Вы всё это ему в лицо скажите...»

Целый год или два О. добивался Наташи. Все в театре обсуждали этот вопрос и все, начиная от первой жены О. и кончая заведующим труппой, все подходили ко мне, уговаривая отдаться ему: «Дура ты, дура!» Что тебе стоит, что от тебя, убудет, что ли? Или мир перевернётся, если ты дашь ему?! Какая ты странная. Иди и дай ему, и будешь жить спокойно в театре, и всё будешь играть».

И вот — её исключили из театра. Два года после этого пролежала в больнице в ужасном состоянии — туберкулёз желез. Ночами во сне бредила, кричала, плакала, какие-то сцены играла в бреду.

«Как я их всех ненавижу! Какие они все грязные и мерзкие людишки! Все они ничем не брезгуют, на любую подлость готовы ради своей выгоды, цели и собственного удовольствия. И всё это прикрывают высокими фразами о партийности, гуманизме, нравственности. Это самые безнравственные скоты, предатели, фашисты. Как я их всех ненавижу!» (плачет). Жалкие, ничтожные твари, дебилы. Господи! Как Г. говорила Владику: «Ты бери, хватай из общего пирога, хватай кусок побольше да пожирнее, тяни к себе из общего пирога, не стесняйся, хватай, хватай! А ты неверно живёшь. Всё ждёшь, когда тебе готовенькое на блюдечке с каёмочкой преподнесут. Чёрта с два дождёшься! Так не проживёшь. Тяни из общего пирога кусок побольше, хватай!»
===================

PS Под О. имеется в виду Олег Ефремов, видимо, больше некому.

PPS дневник Гутьерреса советских времен издан в двух томах в 2017-м, но я не смог найти цифровой версии, буду благодарен, если кто-то поможет. Эта запись и возможно многие другие, может даже и все, выложена в проекте "Прожито", спасибо Светлане Мироновой за цитату.

https://x.com/alexandr_wang/status/1971295156411433228

Химически чистая AI-бурда от Мета. Как они умудрились сделать рекламу своего продукта, которую так неприятно смотреть?