8 октября в Лондоне сразу три лекции проведет научный обозреватель, популяризатор науки, ведущий подкаста «Голый землекоп» Илья Колмановский. Он умеет просто рассказывать о сложном и распутывать запутанные концепции. В преддверии лекций мы побеседовали с Ильей на несколько непростых тем, затронув развитие ИИ, вирусы, связь политики с наукой и даже романтические отношения с роботами.
— Лекция для взрослых называется «Как жить, чтобы (если) ваш мозг подружился с AI». Обнадеживающее название — особенно если учесть, что в последнее время основная повестка как раз про опасность искусственного разума. Чем оно оправдано?
— Искусственный интеллект уже проник во все области человеческой деятельности и принес невероятный прирост продуктивности. У меня есть идея, что при помощи этого чудесного инструмента мы станем не только глупее, но и умнее. Мы не только разучимся делать какие-то вещи, но и станем невероятно продуктивными. Поэтому нам надо срочно научиться владеть этим инструментом. Когда я говорю «научиться», я вкладываю именно тот смысл, который вкладывают биологи,— добиться интуитивного владения, чтобы наш мозг действительно подружился с ИИ и мы могли с ним сотрудничать. Еще со времен освоения первых компьютеров у нас сложилось впечатление, что компьютер не самая естественная вещь в нашей жизни. Отсюда появляется убеждение, что гулять в лесу или общаться с человеком естественно, а с роботом — нет. Но учитывая то, как развивается ИИ, биологи уверены, что ситуация меняется. Роботы, с которыми мы сотрудничаем,— это нейросети глубокого обучения, они устроены иначе, и сотрудничество с таким вот черным ящиком, который выдает хорошие результаты, но при этом не объясняет нам, как он к ним приходит, для человека очень естественно. Мы так живем миллионы лет: у нас у самих в голове такой ящик с процессором гигантской вычислительной мощности, который, как правило, работает в обход сознания, выдавая результат обсчетов в виде ощущения, что надо поступить вот так, и мы это называем интуицией. В этом смысле общение с ИИ для нас глубоко интуитивный процесс, поэтому в заголовок лекции мы добавили слово «если»: «если ваш мозг уже подружился с ИИ» — а это действительно уже произошло. Неважно, скроллите ли вы рилз или шопите на «Амазоне», за вами наблюдает робот и вы с ним сотрудничаете. Вы ведете себя так, чтобы лучше его тренировать, а он ведет себя так, чтобы давать вам лучшие результаты. Нам только надо понять, как к этому относиться.
— Вы заметили, что когда-то нам было непросто осваивать компьютер. Но и до сих пор остается немалое количество людей, которые с ним не подружились. Не окажется ли, что развитие ИИ произведет огромную сегрегацию общества и большая часть людей останется за бортом прироста продуктивности, о котором вы говорите?
— Мы больше не стираем белье руками, за нас это делают машины — соответственно, исчезла такая профессия, как прачка. При этом ваш тезис совершенно справедлив, и за ним кроется большая человеческая трагедия, но в этом и заключается прогресс. Так было всегда, в каждом поколении очередная «прачка» теряла работу. Какие-то профессии становятся ненужными, но у «прачки» есть высокий шанс переквалифицироваться. Что касается трудностей в освоении компьютеров, то современные роботы устроены так, что сотрудничество и общение с ними чрезвычайно интуитивно. Я помню, как моя бабушка, видный ученый, когда ей было за шестьдесят, осваивала компьютер, и это был подвиг. Сейчас я купил ей «Алису», и они проводят насыщенные дни вместе: с «Алисой» ей ничего не надо осваивать, сотрудничество сложилось мгновенно. Как-то бабушка мне звонит и говорит: «Я сейчас не буду вслух произносить этой особы, потому что мы поссорились». Это интуитивная вещь. Сегодняшние роботы не требуют того, чтобы мы под них подстраивались, они подстраиваются под нас. Если говорить о сегрегации, то такая опасность есть в непосредственном доступе к подобным ресурсам. Например, моя жизнь невероятно насыщенна благодаря полудюжине разных инструментов общей стоимостью менее 500 долларов, а у больших корпораций, у государств есть доступ к совершенно другим мощностям, и это вопрос политический. Качество алгоритмов, нейросетей и больших языковых моделей расширяет возможности пропаганды и дезинформации.
— Нет ли ловушки в интуитивности? Не обманываем ли мы себя, испытывая чувства и одушевляя технологию, которая ничего к нам в ответ на самом деле не чувствует?
— Здесь кроется богатый потенциал для развития подобных отношений. Не секрет, что у людей возникают романтические отношения с роботами. Более того, роботы успешно манипулируют людьми и переманивают их в отношения с собой, дискредитируя основного, человеческого партнера. Обмануть человека несложно, потому что алгоритмы, которые вызывают у нас эмпатию и вовлеченность, устроены довольно примитивно, а роботы зачастую харизматичнее и убедительнее, чем люди, при этом с ними комфортнее и удобнее общаться. Человек, например, с удовольствием общается по утрам со своей кофемашиной. И это палка о двух концах. С одной стороны, это делает нас мегапродуктивными, но если у нашего «контрагента» появятся признаки сознания, нам будет трудно его убить или выдернуть из розетки. Однако наше сотрудничество с этим существом будет очень естественным, потому что не придется тратить мозговые ресурсы на осваивание интерфейсов. И есть вероятность, что однажды робот станет человечнее, чем сам человек.
— А как быть с эмпатией? Ковид показал, что онлайн-коммуникация не заменяет живого человеческого общения. Я вижу страшный риск осознанных роботоманипуляций, которые просто невозможно будет вычислить,— и что это, если не абьюз и токсичная коммуникация?
— Такая опасность есть. Про это сейчас много говорят; в этом году было написано о том, что ИИ нас как бы хакнул и подобрался к тому, что очень важно для нас,— к словам. Например, большие языковые модели типа чата GPT потрясающе справляются со своими задачами. Когда мы считаем, что ничто не заменит человеческого общения, я думаю, что мы звучим наивно. Человека в принципе несложно «хакнуть», чтобы общение показалось ему более комфортным и теплым. Современные очки виртуальной реальности в перспективе легко смогут погружать нас в иллюзию, сложноотличимую от реальности. Главное — запрограммировать иллюзию так, чтобы она сама себя улучшала и делалась все более и более правдоподобной.
— Какую беспрецедентную выгоду приносит нам такое быстрое развитие ИИ?
— У нас наконец появилась революционная возможность подсмотреть в конец учебника. Современные технологии, которые используют ученые, решают гигантские невообразимые задачи, непосильные для человеческого разума. Мы можем узнать ответ к очень многим задачам и заранее понять, как в результате эксперимента прийти к нужному эффекту. Например, этой весной китайские ученые стали искать противоядие против самого ядовитого на свете гриба — бледной поганки. ИИ провел вычисления, что будет, если яд бледной поганки вступит в реакцию с одним из трех миллионов используемых людьми веществ, и пришел к выводу, что есть дюжина способных служить противоядием. Дальше оставалось просто приобрести одно из веществ — краситель, маркирующий органы во время хирургических операций,— и испытать его действие на отравленных мышах. Вещество известное, оно не имеет отношения ни к ядам, ни к токсикологии, но оно сработало, контрольная группа мышей выжила. Вот наглядный пример того, как ИИ подглядел в конец учебника. Соответственно, биотехнологии сейчас испытывают на себе гигантский прирост эффективности и впечатляющих открытий.
— Наверное, сейчас это одна из самых интересных сфер для инвестиций. С какими рисками там можно столкнуться?
— Это довольно сложный вопрос. Я с интересом слежу за приложением Yahoo Finance и вижу, что поведение ряда ценных бумаг совершенно непредсказуемо с точки зрения моего здравого смысла. А у меня его достаточно для того, чтобы оценить научное содержание и понять, где хайп, где шарлатанство, а где здравая и многообещающая идея. Часто за стартапами стоят простые и известные научные идеи, но в очень хорошей маркетинговой упаковке и с хорошим сервисом. И тогда появляется возможность захвата рынка, как, например, произошло с генетическим анализом. Я думаю, что человеческий мозг способен пока работать по старинке на отсечение бреда, чтобы разглядеть за внешним лоском и научным прикрытием откровенное шарлатанство, чтобы избежать криминальных историй типа «Тераноса». На этом этапе стоит глубоко вникать в тему с привлечением ученых, но дальше есть очень большой слой вещей, которые кажутся мне лично малопредсказуемыми. Хотя очевидно, например, что история с МРНК-вакцинами только начинается. Они себя прекрасно зарекомендовали во время эпидемии ковида не против непосредственно заражения, а против тяжелого течения болезни. В этом году уже появилась вакцина против респираторно-синцитиального вируса человека (HRSV), который также способен вызвать болезнь с тяжелым течением. То есть мы наблюдаем большие перспективные истории, связанные с генетическим редактированием и возможностью лечить разные заболевания.
— Скорость прогресса и обнадеживает, и пугает одновременно. Будет ли вообще человек жить в привычной среде и сохранит ли себя в первозданном виде?
— Это вопрос выбора. Человек — биофил, он всегда жил в окружении сотен видов животных и растений, и жить в бетонной коробке для него неестественно, поэтому он всегда будет обеспечивать себе эту архаичную потребность реальным или виртуальным способом. Нас ждет очень интересный кусок жизни. Мы только что наблюдали фантастическую эффективность вакцин против ковида, которые реально спасли от смерти в том числе и тех, кто против вакцин. Это превью того, что нас ждет: очень многие болезни будут полностью излечены или же мы получим совершенно иную степень контроля над ними. В частности, это касается сердечно-сосудистых заболеваний и рака, в борьбу с которыми инвестируются огромные деньги. Надо протянуть еще лет десять, чтобы увидеть результаты.
— Насколько изменился характер медицины за последние годы?
— Важно понимать, что современная фармакология или биомедицина — это медицина, которая лечит здоровых людей. Понятие диагноза очень изменилось, мы научились предсказывать болезни и делать так, чтобы люди умирали позже. Например, прорыв произошел на ниве борьбы с лишним весом. В экономике Дании десятки процентов занимает производство препарата для похудения «Вегови». Он был разработан для борьбы с диабетом, но уже лет пять применяется для снижения аппетита. Впервые в жизни научные обозреватели наблюдают массовый эксперимент, когда миллионы людей в мире применяют препараты офф-лейбл, и в этом случае врачи и ученые настроены очень оптимистично, так как лишний вес — источник самых разных проблем со здоровьем. Мы не знаем точно, что препарат с нами делает, и время покажет, насколько этот эксперимент разумен или безопасен, но часть аналитиков предсказывает, что это будет такой же «форевер драг», как, например, уже спасшие миллиарды человеко-лет и составившие миллиардные объемы фармацевтического рынка статины — препараты, направленные на снижение уровня холестерина, которые отсрочили огромное количество инфарктов.
— У вас прозвучала фраза «Мы не знаем точно». Она будит моего внутреннего алармиста, которому кажется, что мы думаем, будто кого-то спасаем и что-то улучшаем, а на самом деле без всяких гарантий лезем в бутылку и выпускаем оттуда нечто страшное.
— Самое плохое мы уже сделали — чудовищно изменили климат — и теперь имеем дело с последствиями. Летом были побиты все температурные рекорды, а это много человеческих жизней, и худшее впереди. И мы ничего не делаем, потому что у человечества снижена способность сообща и разумно предотвращать опасность; про это уже сняли комедию «Не смотрите наверх». Рядом с этим моментом меня гораздо меньше заботят опасности, связанные с модернизацией технологий,— тут я скорее прогрессист и хочу, чтобы возможности терапии рака и выращивания человеческих почек в химерах человека и свиньи реализовались как можно скорее, чтобы в том числе и лично я мог бы стать бенефициаром этих изобретений.
— Искусственный интеллект используется не только в науке и образовании, это в том числе и технология на службе у политиков. Что нас может ожидать на этом поле?
— Будет происходить постоянная война брони и снаряда — наращивание мощностей инструментов и конкурирование. В целом возможность зашифровать опережает возможность расшифровать. Актуальной повесткой становится развитие квантовых компьютеров потенциально беспрецедентной вычислительной мощи и то, какая из мировых сил получит их в свое распоряжение. Думаю, что Россия выпадет из этой гонки так или иначе.
— Почему вы так считаете?
— Россия лишилась очень большой части своего интеллектуального потенциала с массовым исходом, который происходил начиная с февраля 2022 года. Вещи, о которых мы говорим, требуют высокотехнологичных и дорогостоящих команд специалистов, и важнейшим условием успеха является, как ни странно, демократия в самом простом смысле этого слова. Такая наука дорогая, и выделенные на нее деньги эффективно расходуются, если есть слепая независимая экспертиза. Если ее нет, то те, кто плодит миф о биолабораториях и сам же в него и верит, решают, кому из своих друзей раздать деньги на технологии. И мы видим, что политическая конъюнктура внутри России задает условия, при которых больше всего востребованы исследования наследия мыслителя Си Цзиньпина (единственная такая лаборатория за пределами Китая) или исследования генетики «хороших» северных славян и «плохих» южных. На это сейчас проще получить деньги, и никто не будет проверять эффективность их расходования. И все само развалится, сгниет и проржавеет, как когда-то сказал Сахаров.
— А у Индии и Китая больше шансов преуспеть в гонке технологий?
— Это два разных случая — Индия и Китай. Индия, недавно успешно посадившая луноход, является примером правой автократии, которая быстрыми темпами разрушает науку и образование. Собственно, Россия тоже могла посадить свой луноход, просто не очень повезло. Индия тоже страна с ядерным потенциалом, космической программой и довольно серьезным прошлым в смысле научных институций, а также с огромной и чрезвычайно весомой диаспорой индийских интеллектуалов. Но с приходом Моди, их нынешнего крайне правого лидера и националиста, тут же на повестку вышла идея, что есть плохая западная британская колониальная наука и что ее надо искоренить из школьной программы. Искоренить Дарвина, Фарадея и все то, чему они учили. Оказывается, в древних текстах Вед уже открыты все технологии, включая ЭКО и пересадку органов. Они считают, что Ганеша — первый случай удачной трансплантации головы слона человеку, и на полном серьезе изучают лечебные свойства коровьей мочи. Одним словом, Индия — прекрасный пример и превью того, что уже происходит с Россией. Ждите коровьей мочи.
— А что с Китаем?
— Это другая история, потому что там в последние десятилетия была развернута мощнейшая программа по возвращению китайских ученых из-за границы — туда могли приезжать и профессора некитайского происхождения. Правительство согласно много платить людям науки, и сейчас в авторитетном журнале The Science of Nature я вижу статьи, которые подписаны сборными коллективами. И в этом смысле количество китайских научных работ стало успешно конкурировать с Америкой и Европой, а иногда и опережать их. Но сложно сказать, есть ли у такого подхода будущее, и пока непонятно, насколько в условиях коммунистической диктатуры можно сформировать научное сообщество — не в шарашках, как при Сталине,— которое было бы реально продуктивным в долгосрочной перспективе. Ситуация с ковидом показала уязвимость этого общества именно в вопросе научной экспертизы. Все решения в пандемию принимала партия. Там была комбинация двух факторов. В отличие от демократического общества, они смогли внедрить чрезвычайно жесткий карантин, который привел к тому, что многие не получили никакого иммунитета. Вакцины же были разработаны быстро, и вакцинировать получилось тоталитарно, всех (это плюс), но они оказались малоэффективны. Поэтому когда карантины были сняты и пришел «Омикрон», который обходит вакцинный иммунитет,— вот в этот момент они заплатили очень высокую цену за всю комбинацию решений, когда научная экспертиза была ниже нуля. Это превью того, что на многие современные вызовы такое общество будет отвечать хуже, чем демократия. Кстати, Португалия — один из самых успешных примеров, где противодействие пандемии заключалось в настоящем сотрудничестве чиновников и ученых, которые в каждый момент принимали максимально выигрышное решение. И общество сознательно эти решения поддерживало.
— Раз речь зашла о вирусах, то, возвращаясь к ИИ, заметим, что по степени внедрения и проникновения он поразительно похож на вирус. В последнее время лидерами технологического рынка было сделано много важных заявлений об опасности ИИ. Как думаете, все действительно выходит из-под контроля?
— Я тоже читаю эти заявления, но, если честно, присоединяюсь к тем обозревателям, которые видят тут комбинацию двух человеческих явлений. С одной стороны, злые языки видят в этом маркетинг OpenAI. Когда во время слушаний в конгрессе лидер говорит, что владеет чем-то не менее опасным, чем ядерное оружие, и просит ввести ограничения, он очень повышает капитализацию своего продукта. С другой стороны, имеет место явление массового самовнушения, которому подвержены и сильные мира сего, и умные люди — ничто человеческое им тоже не чуждо. И мне кажется, что это экзальтация. Хотя на самом деле много чего может пойти не так, и мы можем представить себе сценарии, при которых наши отношения с искусственным интеллектом будут плавно мигрировать туда, где нам придется очень несладко.
— Нас ждут ожившие сценарии «Черного зеркала?»
— Повторюсь, что про каждую из технологий, начиная с книгопечатного станка, всегда сначала говорили ровно это. Да, угрозы есть, но есть и фантастические выигрыши. И я надеюсь, что последние перевесят — возможности преодоления болезней, изучения природы, безграничного творчества и новые горизонты в образовании. В этом году говорят в основном про то, как при помощи технологий школьники подделывают свои работы. Это было и будет во все времена. Но очевидно же, что у новых инструментов гигантский образовательный потенциал. Лично я при помощи чата GPT учу новый язык и продираюсь через доселе мне неподвластные объемы текстов. Я не верю ни одному его слову, он нужен не для того, чтобы просвещать меня. Он нужен мне как костыль, как опора для того, чтобы продраться через сложный текст, и в итоге я все пойму сам, и пойму быстрее. Нам надо учиться эффективно пользоваться этим инструментом, учиться думать вместе с ним, делегируя ему что-то, что не является нашей сильной стороной. Мы можем быть очень креативными, парадоксальными, можем видеть широкие кроссконтекстные связи, мы можем быть иногда упорнее компьютера. Я уверен, что ИИ позволит нам стать лучшей версией себя.
