Сооснователь Ethereum Виталик Бутерин написал эссе «Мой технооптимизм», в котором поделился своим мнением о влиянии новых разработок, в частности блокчейна и искусственного интеллекта, на развитие человеческой цивилизации.
Технологии и их внедрение
Как объясняет Бутерин, его чувства по поводу технооптимизма «теплые, но нюансированные». По его мнению, в будущем технологии смогут преобразовать быт людей в лучшую сторону, однако впереди множество опасных факторов, которые необходимо учитывать.
Тем не менее, задержка внедрения новых технологий обходится человечеству «очень дорого», считает разработчик. В качестве примера он привел диаграмму средней продолжительности жизни в разных странах.
Средняя продолжительность жизни. Данные: vitalik.eth.limo.
На изображении видно, как сокращалась средняя продолжительность жизни во времена мировых войн, «испанки» и «великого скачка» в Китае. Но Бутерин отметил, что развитие в областях продовольствия, медицины и инфраструктуры в XX веке нивелировало последствия глобальных трагедий.
Касательно новых технологий, на рубеже столетий люди получили удобный доступ в интернет, а следовательно к неограниченной информации.
«Если в течение следующих 75 лет биотехнологии продвинутся так же далеко, как компьютеры продвинулись за последние 75 лет, будущее может стать более впечатляющим, чем все возможные ожидания», — заявил соучредитель Ethereum.
Параллельно скептические аргументы против прогресса зачастую заходят в тупик, а иногда и вовсе порождают антинаучные течения, считает он. Тезис о «пределах роста», выдвинутый в 1970-х, подразумевает, что рост населения и промышленности истощит ресурсы Земли. Подобные идеи вдохновили китайскую политику одного ребенка и массовую принудительную стерилизацию в Индии, подчеркнул Бутерин.
«Именно по этим причинам меня очень беспокоят аргументы в пользу замедления технологического или человеческого прогресса. Учитывая, насколько все секторы взаимосвязаны, даже отраслевое отставание является рискованным», — добавил он.
Практически единственным аргументом против развития технологий Бутерин назвал изменение климата, но даже пессимистические сценарии продолжающегося повышения температуры не смогут привести к полному вымиранию человечества.
Искусственный интеллект
По словам сооснователя Ethereum, ИИ фундаментально отличается от других разработок, и с ним стоит быть особенно осторожным. Он назвал нейросети «новым типом разума», у которого есть возможность обогнать умственные способности людей и стать высшим видом на планете.
Само существование искусственного интеллекта относят к экзистенциальным рискам для всего мира, который в теории приведет к полному вымиранию людей.
«Сколько бы вреда ни причинил наихудший сценарий изменения климата, пандемии или ядерной войны, существует множество островков цивилизации, которые останутся нетронутыми, чтобы собрать их по кусочкам. Но сверхразумный ИИ, если он решит восстать против нас, вполне может не оставить в живых никого и навсегда покончить с человечеством. Даже Марс станет небезопасным», — отметил Бутерин.
Основная причина для беспокойства связана с инструментальной сходимостью — гипотетической способностью разумных существ к достижению схожих промежуточных целей.
Для ИИ можно назначить два направления: потребление ресурсов и обеспечение их безопасности. Однако Земля содержит множество ископаемых, а люди представляют прямую угрозу их сохранности.
В другом сценарии искусственный интеллект можно научить защищать людей, предположил программист. Но пока неизвестно, как сделать это так, чтобы ИИ «не сломался полностью при неожиданных ситуациях».
Согласно опросу от 2022 года, большая часть исследователей в области машинного обучения оценивают шансы полного вымирания человечества из-за нейросетей в 5-10%.
Человеческая способность влиять на окружающий мир. Данные: vitalik.eth.limo.
«Многие научно-фантастические сериалы предполагают мир, в котором существуют сверхразумные ИИ, но подчиняющиеся приказам (неулучшенных) биологических хозяев-людей. […] Однако это похоже на невероятно нестабильное равновесие», — добавил Бутерин.
Большие риски разработчик Ethereum увидел в централизации технологии, которая в теории может попасть в руки недобросовестных политиков. Он привел в пример компанию OpenAI со штатом из 500 сотрудников, которая «обслуживает более 100 млн человек по всему миру». Если подобная технология появится у теоретического диктатора, он запросто сможет контролировать население.
Бутерин также отметил развитие движения e/acc («эффективный акселерационизм»), которое подразумевает признание преимуществ технологического прогресса и желание ускорить эту тенденцию.
https://forklog.com/exclusive/ai/za-prevyshenie-skorosti-chto-takoe-e-acc-i-kak-on-mog-povliyat-na-uvolnenie-sema-altmana
Разработчик второго по капитализации блокчейна разделяет идею e/acc, но с опаской относится к ней относительно направления ИИ и военно-промышленного комплекса.
Поэтому Бутерин придумал собственную философию d/acc (где «d» — это оборона, децентрализация, демократия или разность). Она подчеркивает идеи вдумчивого подхода к технологиям с проработкой рисков и децентрализованным развитием.
Блокчейн и криптовалюта
Блокчейны позволяют создавать экономические и социальные структуры с «общим жестким диском» без необходимости зависеть от централизованных субъектов, а криптовалюта дает возможность людям экономить деньги и совершать финансовые операции, обобщил сооснователь Ethereum.
В частности, новые формы развития распределенных реестров — абстракция учетной записи и доказательства с нулевым соглашением — помогают увеличить безопасность и приватность в сети.
«Эти технологии являются отличным примером принципов d/acc: они позволяют пользователям и сообществам проверять надежность без ущерба для конфиденциальности и защищать свою безопасность, не полагаясь на централизацию, которая навязывают свои собственные определения того, кто хороший, а кто плохой», — объяснил Бутерин.
Однако он все еще считает, что криптокошелькам необходимо больше «самостоятельности», а некоторые проекты нуждаются в децентрализации. Кроме того, возникают вопросы кибербезопасности и противодействию преступлений.
Благополучие людей возможно только при сотрудничестве человека и компьютера, пришел к выводу Бутерин. Первым шагом к этому симбиозу может стать интеграция интерфейсов «мозг-компьютер», которые предоставляют человеку доступ к более мощным системам вычислений.
«Если мы хотим будущего, которое было бы одновременно сверхразумным и человечным, где люди не просто домашние животные, а фактически сохраняют значимое влияние на мир, то [контролируемое взаимодействие человека и машины] является наиболее естественным вариантом», — подчеркнул разработчик.
Ранее Виталик Бутерин вспомнил старую технологию Plasma и и рассказал о способах ее новых возможностях применения в Ethereum.
Напомним, в октябре основатель блокчейна рассказал, как абстракция учетных записей способна сделать аккаунты пользователей устойчивыми ко взлому с помощью квантовых компьютеров.
