Дмитрий

Добро пожаловать на подкаст "Технологии и жизнь", где мы обсуждаем современную жизнь, философию, путешествия и искусственный интеллект с технологической, космополитической и контркультурной точек зрения.

Дмитрий

Привет, Вася.

Василий

Привет, Дима. Ну что, сегодня будем говорить? О чём-нибудь, кроме искусственного интеллекта, или не получится?

Дмитрий

Не получится. Ну, про сознание. Я тут слушал подкаст Сэма Харриса. И он поднял такие вопросы, но я, на самом деле, завидую, что меня такие вопросы не спрашивают, и я хочу на них ответить.

Василий

Если бы тебя дети спросили такие вопросы, ты с удовольствием с ними поговорил бы на эту тему? Или это очень такая чувствительная штука? Давай закинем на несколько тезисов сразу. Что, например, мне вот очень понравилось там.

Я, кстати, об этом думал уже. С какого‑то подросткового возраста, когда компьютеры появились, это — когда можно закачать мозг человека, например, после его смерти или при жизни в компьютер, а потом с ним общаться, как будто он живой. И у него будут, ну, на 80% те же самые реакции, мысли, память о произошедшем до того момента, когда его скопировали, отношение к жизни. И на сегодняшний день вообще это можно даже сделать как зум‑звонок, да, то есть как мы с тобой созваниваемся, ты можешь созвониться с кем угодно,

с придуманным или настоящим персонажем, который будет создавать ощущение, что ты с ним созвонился, и он действительно где‑то физически сидит, отвечает вовремя и реагирует как человек. И вот об этом я уже больше полжизни думал, и это, наконец, становится реальным. Вот в этом году такое приложение, скорее всего, будет. То есть не конкретно скачать память человека, а даже уже достаточно...

У тебя, например, на телеграм‑канале какие‑то там записи из Zoom, или даже твоё общение...

Дмитрий

Сейчас GPT за эти три года уже достаточно развит, чтобы, может, одурачить меня, что я с тобой разговариваю. Да, да. Вот Сэм Харрис с Полом Блумом обсуждают это, и они подняли тему, что есть немножко то, что крипи, — когда ты говоришь с человеком вроде своих родителей, умерших. Обсуждают, хотел бы ты, чтобы твои дети могли с тобой так общаться. И у них такая "зловещая долина", которую они не признают — что оно так... тот случай, что это неприятно. Но мне кажется, вся ситуация от того, что мы не верим, что искусственный интеллект может это делать идеально хорошо. Но гораздо проще представить, что он делает это действительно очень хорошо, и ты говоришь не с папой, братом, кем‑то там близким, кого ты очень хорошо знал, а с, например, своим прапрапрадедом или с Юлием Цезарем.

Василий

Кстати говоря, для тех, кто не знает такого термина, напомню: мы как‑то говорили об этом в 171‑м выпуске. У нас есть поиск на сайте, теперь можно находить эти вещи — я им и воспользовался.

Зловещая долина — по‑английски "uncanny valley". Это когда восприятие человекоподобного существа находится в таком положении, что он почти человек, но ещё не совсем, и поэтому вызывает мурашки по коже, зловещие ощущения. Кажется, что он должен быть настоящим, но что‑то не то. Как Пол Блум сказал: как бы ты отнёсся к тому, что появился такой же человек, как ты?

Например, появился новый Пол, который помоложе, но выглядит абсолютно так же, как он выглядел 15 лет назад — с такими же мыслями, с таким же голосом, но у него больше энергии, больше свежести, больше ответственности. Вот он умирает, а его жене и детям такого подвозят и говорят: "вот Пол теперь идеальный, тот ушёл, он уже старый, скукоженный — до свидания, забудем". Но он вернулся, и он лучше, чем был раньше. Пол сказал, что ему не нравится эта мысль — ему это зловеще, он не хотел бы, чтобы его заменили новеньким собой для других людей.

Дмитрий

Меня не так сильно волнует, что будет после моей смерти, как то, что происходит при моей жизни. Я, например, выбираю быть донором — у меня это в водительском удостоверении: если меня разнесёт в машине, пусть из меня вырежут что угодно. Мне уже не важно.

Там целый спектр разных человеческих эмоций и алгоритмов психики задействован, потому что там и ревность немножечко: ты ревнуешь — как же так, люди, которые любят, должны любить только тебя, а вдруг они будут любить кого‑то ещё, кто к тому же может быть лучше?

Василий

И это — второе. Ты же заслужил тогда, ты всю жизнь строил свою личность, чтобы заслужить такую любовь. А тут появляется копия, которая ничем не заслужила — она сразу наготове.

Дмитрий

Ну да, некий конкурент. В чём‑то даже обидно: если бы этой копии не было, то о тебе бы вспоминали, тебе было бы приятно. Пока ты живой, мысли о том, что тебя будут вспоминать и любить, они греют — это такое тщеславие, не знаю как назвать, но это важный аспект. Это нам нужно при жизни, чтобы хотеть что‑то делать. Почему, знаешь, похороны иногда шикарно устраивают мафиози какому‑то погибшему? Казалось бы, какая разница? Потому что это им даёт впечатление, что они были важны при жизни — что если они умрут, их так же будут помнить. И это для людей важно.

У нас же есть очень сильная иллюзия — иллюзия бессмертия. Мы понимаем мозгом, что это ошибочно, но всё равно кажется, что мы бессмертны. Как только эта иллюзия бессмертия исчезает, вся жизнь теряет смысл. Потому что если это всё временно... вселенная существует миллиарды лет, а мы — песчинка, и какая‑то иллюзия держит нам смысл жизни. Это часть вот этого existential bias, предрасположенности к жизни. Мы генетически все ориентированы на это, потому что если бы наши предки не были так устроены, мы бы не выжили. Вот этот спектр, что тебе неприятно, что вместо тебя будет кто‑то другой — это оттуда. Есть люди, например, миллиардеры, которые находят себе более молодых партнёров, бросают старых — это такое же ощущение.

Василий

Да, одна из тем, вокруг которой мы танцуем, — это заменимы ли мы? И вообще, есть ли какая‑то ценность в этой индивидуальности, в этой уникальности? Если муж с женой нашли других себе партнёров, тогда возникает вопрос: а были ли они когда‑то по‑настоящему искренни — "ты мой единственный"? Разумно, понятно, что это, скорее всего, неправда: людей миллионы, естественно, ты заменим.

Кто‑то не позволяет себе забыть — вдовцы, вдовы, которые не хотят ни на кого заменять. Но их меньшинство. Люди готовы занять эту позицию, нанять кого‑то на её место. А тут у нас ещё добавок искусственный интеллект: он вообще может запросто заменять — он тебе и картину напишет, и музыку сделает, и стихи напишет. Если тебя не предупредить, он доходит до такого уровня, что в это уже можно поверить.

Я, например, в музыке — когда выпустил удачные треки, люди спрашивали: "А слова ты явно сам написал, они такие глубокие". А это тоже сгенерировано, и мелодия, наверное, тоже сгенерирована — там всё. Я чувствую в этих диалогах, что у людей всегда присутствует сомнение не в том, что это неправда, а в том, что это наоборот оригинальная работа: они думают, что мне можно поверить, что я сам сделал. Но сейчас всё так размывается, что вопросы становятся острыми. В чём ценность?

Дмитрий

Видишь, они делят книги по роли автора: Сэм говорит, что некоторые художественные книги он не хочет читать, если они написаны искусственным интеллектом, а какие‑то документальные или учебные — он не против, если они хорошо написаны. И он музыку не против. А кто‑то наоборот.

Получается, важна роль: мы часто говорим, что не хотим это слушать, потому что AI ещё не дотягивает. У нас есть внутренний индикатор вкуса: он говорит "я не хочу читать", потому что ты пробовал пару раз, и тебе что‑то не зашло. Та же самая зловещая долина — та же самая штука в качестве. Зачем ты мне это напомнил?

Василий

Я в своё время любил серию про хоббита, потом "Властелин колец" — трилогию Толкина. А потом появился российский автор, кажется из Петербурга, фамилию не вспомню, но он дописал ещё два толстенных тома к "Властелину колец". Когда я читал его книги, они мне понравились. Я всё время держал в голове, что это не Толкин, но восхищался тем, насколько этот человек вжился в образ Толкина и смог написать продолжение, достойное внимания. Естественно, мирового признания он не получил. Но это из той же категории: человек дописал вселенную, взял систему героев и сюжетную линию — получилось здорово, но многие даже не рассматривали это, потому что, мол, это не Толкин.

Мне нравился Толкин из‑за образа: он жил в Англии, курил трубку, писал утром в кресле — он был оригиналом. Зачем мне доверять какому‑то ещё? Но если хорошо написано — мне это не мешает. Как и с фильмами: зачастую продолжения снимают без одобрения автора, но если получились хорошо, то у людей претензий нет.

Дмитрий

Самый простой пример: есть книги, а есть фильмы по этим книгам. Книга могла быть написана сто лет назад, а фильм — современный. Часто фильм хуже, чем книга, но иногда бывает и наоборот — редко, но бывает. Поэтому идея, что продолжение автоматически хуже — это предвзятость. Люди ожидают худшего и подсознательно ищут изъяны. Но бывают случаи, когда новая версия оказывается лучше.

Василий

А изъянов может быть больше в оригинале, чем в продолжении. Там священное, и его нельзя трогать — как у некоторых с Библией. Если дать ИИ переписать Библию так, чтобы она была чёткая, логичная, стерильная, кому‑то это не зайдёт. Нам нравится, где что‑то не сходится, где были мучения, несправедливости — это часть её силы. А молодому человеку, который не знает ту Библию, обновлённая чистая версия может зайти.

Дмитрий

Представь, если переписанная Библия будет сделана с артефактами, с шумом, как старые снимки — если хочешь имитировать, что что‑то было сделано сто лет назад, оно не должно быть идеально. То же и с литературой: переделки другими писателями или ИИ часто не столь качественны; есть изъяны, которые люди замечают. В примере с продолжением Толкина кому‑то важно, что он англичанин, курит трубку; кому‑то важно ощущение глубины персонажей. Это дело вкуса.

Сравни с "Звёздными войнами": кто‑то говорит, что новые части — фигня, потому что старые лучше, а кому‑то не нравятся старые картонные декорации — современные сделаны лучше. Всё относительное. Я могу представить, что можно сделать лучше по всем параметрам — и история, и визуал, и качество. То же самое и с Библией: исторически одни религии заменяли другие, более эффективные возникали, так и с ИИ будет.

И ещё пример: влияет ли поведение автора на впечатление об искусстве? Майкл Джексон, Косби и другие — влияет иногда, но не всегда однозначно. Если творец пропагандирует моральные идеи, а в жизни он подонок, ты ему не веришь. Если это чисто музыка, то это другое. Нет единого критерия.

Василий

Мне нравится, что в таких темах нет одного очевидного ответа, нет чёрно‑белого. Люди, которые сразу утверждают "всё это искусственное — гадость", иногда повторяют реакцию на еду: когда индустриальная еда появилась, многие отвергали её как неестественную, а потом привыкли. Coca‑Cola — это не молоко и не вода из родника, но она не полнейшая зараза — мы привыкли.

Так же будет и с искусственно сгенерированными вещами: они будут трогать нас, заставлять плакать, радоваться, даже если мы будем знать, что события не происходили и людей не существовало. Окно Овертона сдвинется в сторону оценки качества по более объективным признакам. В музей современного искусства заходишь — если полотно огромное, тебе кажется, что это искусство; если маленькое, 5×5 см, — кажется, что это фигня. Но размер — не критерий; история и вера зрителя в ценность важны. Книги можно и в топке сжечь, а можно читать и преподавать в университете.

Дмитрий

Есть некий глубокий смысл, который идёт глубже того, что ты видишь. По части Кока‑Колы — я не согласен, что это просто безопасно, там сахар и всё такое. Но есть примеры, когда фабричное производство лучше кустарного: автомобиль с конвейера чаще надёжнее, чем самодельный. Медицина — это тоже технологичная вещь и лучше многих бабушкиных средств.

Тем не менее остаётся вопрос, что такое жизнь вообще. Если смотреть как детерминист, люди, животные, растения — это тоже автоматоны, роботы, просто сложные. У нас триллион клеток, в каждой — горы молекул, реакции тысяч раз в секунду. Из‑за того, что мы не можем разглядеть сложность, нам кажется, что внутри есть нечто специально — сознание, совесть, мысли. А искусственный интеллект нам кажется иначе, потому что он снаружи проще, и нам хочется сказать, что он не живой. Но по сути все живые существа — это тоже машины, просто очень сложные.

И вот все эти предвзятости — что мы не хотим читать тексты ИИ или общаться с ним — отчасти потому, что он пока не очень качественен, и есть основания это заметить. Иногда мы ориентируемся на косвенные признаки. Это один из косвенных.

Василий

Всё это крутится вокруг философии. На практике победит то, что докажет, что имеет право на существование. Мы создаём некие организмы — пока цифровые, возможно потом и биологические — которые будут завоёвывать своё право на существование. Если они обогащают нашу жизнь, духовно или физически, мы это примем. Сейчас переходный период, и тут сопротивление, неприятие — мол, это плохо, потому что не так, как раньше. Трудно убеждать людей сейчас, и может, не стоит — люди сами придут. Появятся новые поколения, для которых это естественно.

Дмитрий

Правильно. Кто видит этот переходный период, тот понимает. Раньше исследования означали поход в библиотеку, выискивание. А сегодня: "какая разница, я в гугле поискал, у меня информация даже лучше, больше, современнее, провереннее". Это меняет подход.

Василий

Помнишь, в школе нам говорили, что пользоваться калькулятором нельзя, нужно самому учиться считать? Был такой период. Но сейчас сказать ученикам "не пользуйтесь компьютерами, не пользуйтесь гуглом" — абсурд. Пусть ты потратил неделю на поиск в библиотеке, а не минуту в гугле — это показывает, что ты поработал. Как учитель, я вижу, что ты поработал. Но в некоторых вещах, например, в научных экспериментах, нельзя перепрыгнуть ступени: нужно пройти через мучения, набить шишки, чтобы развиваться в боевых искусствах или изобразительном искусстве. Если тебе нравится развиваться, ты не можешь сразу стать мастером.

Если же тебе это неинтересно, ты просто закажешь у кого‑нибудь или попросишь чат‑GPT нарисовать то, что нужно, сэкономив год‑два на изучении инструментов. Это нормально — разные люди выбирают разное.

Дмитрий

Красивая аллегория: люди цепляются за старый образ жизни и думают, что старые методы были лучше. Но приходят люди с пулемётами и делают старые мечи бесполезными. Это всегда так: каждое поколение сталкивается со старым и новым — тем, что учили и тем, что приходит. У нас повезло: мы застали аналоговые способы и цифровые. В моём Art Institute в Бостоне на первом курсе запрещали использовать компьютер — всё надо было рисовать вручную. На последнем курсе уже обязали использовать компьютер. Переходный период.

Василий

Да, Сэм Харрис и Пол Блум поговорили о том, можно ли считать ИИ настоящим сознанием. Они говорили, что у них были моменты, когда им казалось, что с ними разговаривает разумное существо. У меня такое бывало. Лично я пока не воспринимаю их как настоящие существа с сознанием, потому что они находятся в лупе: если ты не дашь им поводов, они не начнут с тобой сами связываться. Они не стучат тебе по плечу и не говорят: "Эй, Василий, мне скучно, давай поболтаем". Это я мастер.

Ещё отметили, что знаменитый тест Тьюринга, который давно уже обсуждали, по сути ChatGPT прошёл. Это тест: если ты общаешься через чат с компьютерным интерфейсом и у тебя впечатление, что с тобой человек, значит тест пройден. Но сейчас маятник качнулся в другую сторону — видно, что ты общаешься с человеком, потому что человеку не под силу тыкнуть полторы тысячи слов за 3 секунды.

Дмитрий

А вот этот собеседник может. И это всё временно, тоже пройдёт. Самое главное про сознание: учёные спорят, что это такое. У меня понимание такое: сознание — это природный механизм, который помогает обрабатывать информацию. У тебя есть информация, поступающая в мозг; мозг как бы читает сам себя, и это примерно и есть сознание. Когда мозг сам себя читает — вот это и есть сознание. Это механизм, чтобы лучше понять реальность. Мозг получает через сенсоры всю информацию, и каким‑то образом она должна обрабатываться.

Василий

Какой‑то рекурсивный диалог: ты сам с собой поговорил, потом: "О, пока я размышлял, у меня пришла другая идея", провалидировал с собой или с другом, добавил в копилку сознания. Так рекурсивно ты доходишь до решения — иногда это секундное, иногда занимает время. В этом смысле LLM похожи на сознание: они думают.

Дмитрий

Есть анимизм — идея, что у всего есть некоторый уровень сознания: у электрона, у атома, у стула — просто разный. Чем больше у тебя сенсоров и методов обработки информации, тем выше уровень этого "сознания". Можно так рассуждать, а можно по‑другому — всё условно. Если ИИ станет умнее и более автономным — сейчас он как младенец, которому обеспечивают питание и задачи — то можно представить, что он станет автономным, будет зарабатывать, отвечать на вопросы, у него будет бюджет на вычисления. Когда дойдёт до автономности — это самое главное. Тогда вопрос "сознание или нет" теряет смысл: если ты не можешь отличить его по поведению, зачем отличать?

Может быть, половина людей вокруг нас тоже притворяются — роботы, которых ты не можешь отличить. Главное зачем отличать? У нас предвзятое отношение: "если это сознание, это жизнь". Я говорю: это всё просто очень сложные машины. Люди — тоже очень сложные машины, а ИИ пока примитивные по сравнению с жизнью.

Василий

По сравнению с жизнью — да, примитивные, но уже достаточные, чтобы поражать и вводить в смятение.

Дмитрий

В некоторых вещах калькулятор тоже вводит в смятение: он делает что‑то несравненно лучше, чем ты когда‑то сможешь. Бывают моменты, когда кажется, что калькулятор тебя обманывает, но он просто делает вычисления быстрее.

Василий

Извлекаешь кубический корень из шестизначного числа, думаешь: а вдруг калькулятор манипулирует? Чтобы проверить, тебе нужно открыть учебник, выучить это. С LLM то же самое: они могут нас вводить в заблуждение. Всё звучит убедительно: "я проверил, 27 источников" — и он за секунду составил 27 источников, захостил их на вики, написал статьи и подкинул ссылки. И ты думаешь: "я проверил". Но нельзя ни в чём быть уверенным.

Дмитрий

Это деление на две категории: детерминистские компьютеры, которые вычисляют точно, и вероятностные модели. Гуманитарии и технари — похожая метафора. LLM — это такие гуманитарии: они примерно что‑то говорят, дают вероятность. Старые компьютеры вычисляют точно — если есть ошибка, значит программа была написана с ошибкой. Мы сами вероятностные машины и пишем ошибки. Ещё интересно, когда к этому добавятся квантовые компьютеры — непонятно, как они считают, там другие принципы, может, параллельные вселенные. Будет интересно.

Василий

Будет о чём поговорить, когда начнём это ощущать на собственной шкуре. Пока это ещё в области научных теорий для меня. Говорят, это будет следующая волна. Так что оставайтесь с нами.

Дмитрий

Ну, пока это всё коммерчески невыгодно, но оно двигается в эту сторону. Многие вещи раньше казались невыгодными, потом вдруг стали коммерчески выгодны и вошли в обиход. LLM и искусственный интеллект до недавнего времени казались фантастикой, потом бах — и сейчас бум.

Василий

Зато наш подкаст выгодный, так что всем советую слушать и делиться с друзьями.

Дмитрий

Да, обязательно. Потому что он очень уникальный — живые люди делают, да? Хорошо. Ну, хорошо.

Василий

Пока, до следующего.

Дмитрий

Давай, до следующего.