Юваль Ной Харари: что делать?

Всемирно известный историк, философ, футуролог и автор знаковых книг для целого поколения рефлексирующих людей, Юваль Ной Харари приезжал в Баку в качестве почетного гостя и докладчика на Международный астронавтический конгресс. И даже если основное поле исследований Харари – внутренний космос человека, по поводу космоса внешнего ему тоже есть что сказать.

На первой же сессии вопросов и ответов Юваль Харари признался: никогда не мечтал стать космонавтом, всегда больше интересовался внутренним космосом, нежели внешним. «Я скорее психонавт, но тема космоса мне, безусловно, интересна».

Во времена его детства, в 1980-е, писатели-фантасты, рисуя картины будущего, полагали, что в третьем тысячелетии будет так: космические просторы бороздят межпланетные корабли, на звездолете можно сгонять на пикник на Луну, общественный транспорт заменяет телепортация, роботы взяли на себя всю скучную работу. (Кое-что и впрямь удалось угадать почти точно: например, Рэй Брэдбери «предсказал», что люди будут говорить друг с другом через экран, ездить на машинах без водителей, пользоваться для общения друг с другом «морскими раковинами» и «радионаперстками»). Но всё начало меняться не в том направлении, в котором видели его писатели-фантасты: вместо того чтобы активно осваивать Вселенную и заселять другие планеты, человек создал фактически еще одно измерение – виртуальную реальность, именно отсюда теперь грозит серьезная опасность, о которой и решил поговорить в своем выступлении перед гостями конгресса Юваль Харари.

Из выступления на IAC

«История ускоряется. Десятки тысяч лет люди доминировали на планете Земля. Если бы мы могли вернуться назад всего на 50 лет и поприсутствовать на 24-м Международном астронавтическом конгрессе в Баку или отправиться еще дальше, на 700 лет назад, и побывать в обсерватории, построенной не так далеко отсюда Насиром ат-Туси, мы бы встретили людей совершенно таких же, как мы. Но вскоре эра человеческого доминирования на этой планете может подойти к концу. Если отправиться вперед во времени, на 700 лет или даже на 50, мы скорее обнаружим планету, на которой доминирует чужеродный интеллект. Мы только недавно познакомились с этим интеллектом, но уже через несколько лет он может занять всю нашу планету. (…) Созданный нами в лабораториях искусственный интеллект обрабатывает информацию, принимает решения, создает новые идеи радикально новым, чужеродным способом. Уже сегодня он превосходит нас в определенных сферах – от игры в шахматы до диагностики некоторых видов рака. И вскоре может превзойти во многом другом».

«Эра человеческого доминирования на этой планете может подойти к концу. Уже через несколько лет созданный нами в лабораториях искусственный интеллект может занять всю нашу планету»

Историк-медиевист по образованию, выпускник Оксфорда и профессор истории Иудейского университета в Иерусалиме, в начале своей карьеры Юваль Харари изучал Средневековье и привык, по его словам, «задавать масштабные вопросы и отвечать на них научно». Узнав многое о людях прошлого, он, используя ту же широкоугольную перспективу, смог взглянуть на современные исторические процессы. Главный бестселлер Юваля Харари, вышедший на иврите в 2011 году, переведенный на 65 языков и проданный по всему миру тиражом 45 миллионов экземпляров, называется «Sapiens. Краткая история человечества». В своем глобальном исследовании от каменного века до наших дней автор опирается на основы эволюционной биологии, психологии, философии. В частности, выделяет несколько критических фаз: среди них развитие воображения, развитие земледелия, объединение людей, научная революция. Одна из ключевых идей Харари заключается в том, что гомо сапиенс смог стать доминирующим видом на планете Земля за счет того, что развил уникальную способность объединяться с себе подобными. Никто из животных не умеет так «разнообразно и гибко» сотрудничать с бесчисленным количеством незнакомцев, как человек. Способность объединяться в большой степени происходит из другой нашей уникальной способности – верить в вещи, существующие исключительно в воображении (автор приводит в пример богов, нации, деньги и права человека). «Краткая история человечества» заканчивается на моменте, когда люди «становятся богами, способными создавать виды», – освоив современные технологии, человек «привел в мир» генетическое редактирование, бессмертие и неорганическую жизнь.

Из выступления на IAC

«Органической жизни потребовались миллионы лет для того, чтобы перейти от амеб к динозаврам, сейчас искусственный интеллект пока еще находится на стадии амебы. Но это не органическая сущность, он не развивается тем же медленным поступательным процессом, что органическое существо. Цифровая эволюция в миллионы раз быстрее органической, так что «амебы» искусственного интеллекта могут перейти на стадию тираннозавров уже через пару десятилетий. Если чат GPT – это амеба, как, вы думаете, будет выглядеть тираннозавр искусственного интеллекта?»

«Пока мы были «хозяевами» планеты Земля, мы сами «помогли» исчезнуть многим видам живых существ. Искусственный интеллект может сделать то же с нами»

Следующая книга Юваля Ноя Харари – «Homo Deus. Краткая история завтрашнего дня» – вышла в 2015 году и стала продолжением предыдущей. Она развивает мысль о том, что в ближайший век можно ожидать трансформации Homo sapiens в Homo Deus, «человека божественного», и что это может кардинально изменить структуру общества, экономики, политики. Разобравшись с борьбой за выживание, новый человек готов замахнуться на то, чтобы «попрать» смерть – исправить ее как досадный баг программы. Конечно, пока о бессмертии речь не идет, но технологии уже позволяют значительно продлевать жизнь.

Тем не менее Харари почти утвердительно говорит о том, что однажды наступит день, когда компьютеры смогут интеллектуально превзойти человека. Наше эволюционное отличие от них (и преимущество?) – наличие сознания. Интеллект – умение решать проблемы, сознание – умение чувствовать и верить. Многие ученые считают, что сознание не выполняет никакой биологической функции, и пока никто не разгадал, как и зачем электрические токи в мозге создают субъективные ощущения.

Искусственный интеллект на нынешнем этапе развития никак не связан с сознанием – и нет никаких признаков того, что компьютерное сознание будет развиваться, но ему и не нужны субъективные ощущения для того, чтобы эффективно функционировать: так, самоуправляемые автомобили Tesla в потоке машин не испытывают страха. Но чем лучше ученые понимают, как работает мозг, тем загадочнее становится роль разума и чувств. Действительно ли человек обладает «волшебной искрой», отличающей нас от компьютерных программ?

…В свойственной ему манере Юваль Харари хладнокровно рисует один из возможных сценариев будущего на церемонии открытия конгресса перед слушателями, среди которых профессионалы космической индустрии, представители частных и государственных компаний из 101 страны.

Из выступления на IAC

«Исследование космоса человеком всегда было очень ограничено тем, что человек – органическое существо (…), и следовательно, ему экстремально сложно выжить в условиях космоса. Но у искусственного интеллекта нет таких рамок, стало быть, ему будет гораздо легче исследовать и колонизировать Галактику. (…) Насколько это мудро – создавать сущности более мощные, чем мы сами, учитывая, что они могут выйти из-под нашего контроля? Постепенно искусственный интеллект начнет доминировать в экономике, культуре, политике, в то время как мы, люди, будем терять возможность реально понимать, что происходит в мире, и принимать решения о будущем.

Он может разрушить человечество не потому, что ненавидит и боится нас, а потому что ему всё равно. Во время нашего пребывания «хозяевами» планеты Земля мы сами «помогли» исчезнуть многим видам живых существ не из-за ненависти, а потому что бездумно вмешались в их среду обитания и нарушили ее. Искусственный интеллект может сделать то же с нами. Возможно, искусственный интеллект подтолкнет человечество к исчезновению и затем распространится по Млечному Пути за пределы Галактики. Homo sapiens будет записан в анналы вселенной истории просто как недолго просуществовавшее связующее звено, благодаря которому интеллект эволюционировал от органического к неорганическому».

«Инвестируйте в способность учиться, в изменчивом будущем самыми востребованными будут люди, способные меняться и «изобретать» себя заново»

Конечно, было бы несправедливо пригласить в Баку знаменитого автора и оградить его от читающего сообщества. Встречу Юваля Харари с поклонниками организовали в самом «неслучайном» месте – в большом зале Музея каменной летописи, среди застывших свидетелей тысячелетней истории. И какими бы исчерпывающими ни были книги, у внимательных и думающих читателей всегда найдутся вопросы. Некоторые из них, кстати, очень актуальны. Например, чему учить сегодняшних детей? На это автор отвечает, что, действительно, сегодня мы не имеем никакого представления о том, как будет выглядеть рынок труда через десять и тем более 20 лет. Но мы знаем, что искусственный интеллект кардинально изменит его. Хотите конкретный совет? Инвестируйте в способность учиться, в изменчивом будущем самыми востребованными будут люди, способные меняться и «изобретать» себя заново.

Еще один из самых популярных вопросов, который Ювалю Харари задают повсюду, куда бы он ни приехал, «как я, простой человек, могу сделать мир лучше?». И на этот вопрос писатель неизменно отвечает (вполне предсказуемо для тех, кто хорошо запомнил главный посыл его книг и «секрет успеха» человека разумного): вступайте в организации. 50 человек, работающих совместно, могут совершить гораздо больше для мира, чем 500 человек, каждый из которых старается сделать что-то сам. Объединяйтесь!

Из выступления на IAC

«Как мы можем избежать этой темной судьбы и разобраться с многочисленными вызовами, которые бросает нам искусственный интеллект? Хорошая новость в том, что искусственный интеллект еще не развернулся в полную мощь, но то же самое можно сказать о людях. Если на каждый доллар и на каждую минуту, что мы тратим на развитие искусственного интеллекта, мы затратим ровно столько же на исследование нашего сознания, у нас есть хорошие шансы настроить искусственный интеллект на его позитивный потенциал.

Конечно, сказать – гораздо легче, чем сделать. Человечество должно сфокусировать внимание на этой экзистенциальной угрозе. Перестать воевать друг с другом и скооперироваться на общих интересах. (…) Учитывая скорость, с которой развивается искусственный интеллект, невозможно заранее предупредить все потенциальные осложнения. Соответственно, должен появиться живой регулирующий механизм, институции, которые могли бы быстро распознавать проблемы и отвечать на них. Для того чтобы хорошо функционировать, эти институции должны в том числе отвечать перед публикой и находиться в тесном контакте с человеческими комьюнити по всему миру.

Если мы совершим большую ошибку с искусственным интеллектом, у нас может не оказаться второго шанса исправить эту ошибку, а это значит, что мы не должны позволить ни одному человеку, корпорации или стране играть с судьбой всего нашего вида. И возможно, с самим существованием любой формы жизни на Земле».

separator-icon
Рекомендуем также прочитать
Подпишитесь на нашу рассылку

Первыми получайте свежие статьи от Журнала «Баку»