2
8
-0,6·10
6
Шелль. Огонь. Рубила, топоровидные орудия
3
9
-0,22·10
8
Ашель. Симметричные рубила, топоровидные орудия с прямым лезвием
4
11
-29000
Верхнепалеолитическая революция. Охотничья автоматика. Вымирание неандертальцев,
Homo sapiens
— лидер эволюции
5
12
-9000
Неолитическая революция. Земледелие, скотоводство
6
13
-3000
Городская революция, письменность, начало древнего мира
7
14
-500
Железный век, Осевая революция (Сократ, Будда, Конфуций)
8
15
600
Начало Средневековья, мировые религии
9
16
1500
Промышленная революция
10
17
1840
Механизированное производство (пар)
11
18
1950
Информационная революция, конец мировых войн, холодная война
12
19
1991
Крах социалистической системы, конец холодной войны, мировая компьютерная сеть
На основании этой таблицы Панов составил график революционных переходов в развитии жизни и общества.
Итак, любые рассуждения об ускорении развития неизбежно приводят к идее о сингулярности — некой точке.
Сингулярность
Говоря о сингулярности, мы подразумеваем технологическую сингулярность — гипотетическую точку во времени в ближайшем будущем, в которой ускорение прогресса приводит к качественному переходу. Впервые термин «сингулярность» в контексте технологического прогресса был применен С. Уламом в 1958 году.
Это наиболее общее определение скрывает внутри себя несколько разных трактовок, которые мы обсудим ниже.
Практически все прогнозы о наступлении сингулярности ориентируются примерно на одну и ту же дату. Разные люди, применяя разные методики экстраполяции по разным данным, получали одну и ту же дату в будущем для этого ключевого события в человеческой истории, а именно — в районе 2030 года.
Прогнозы о наступлении сингулярности
Автор прогноза
Когда был сделан прогноз, год
На чем основан прогноз
Предсказанная дата сингулярности
Генри Адамс
1909
Бесконечное ускорение циклов фазовых переходов истории
Между 1921 и 2025 годами
Хейнц фон Ферстер
1960
Обращение численности населения Земли в бесконечность
13 ноября 2026 года
Вернор Виндж
1993
Создание сверхчеловеческого ИИ, на основе закона Мура и самоусиления ИИ
2005–2030 годы
Рэймонд Курцвейл
1998
На законе Мура
2045 год
Деннис Медоуз
1972
Спад численности населения в несколько раз в результате ресурсного кризиса
Середина XXI века
Колин Мейсон
2003
Основания изложены в книге «Пик в 2030 году: отсчет до глобальной катастрофы»
2030 год
Робин Хансен
Начало XXI в.
Новый скачок экономической продуктивности в 60–250 раз
XXI век
Сергей Переслегин
2009
Когнитивный переход
2050 год
Бен Гёрцель
2006–2007
Создание самосовершенствующегося универсального ИИ, «если мы очень-очень постараемся»
2016 год
Интерес к идее о технологической сингулярности возник в 1993 году после публикации доклада Вернора Винджа «Приближающаяся технологическая сингулярность: как выжить в пост-человеческую эру».
Виндж высказал свою идею о том, что с того момента, как человек создаст машину, более умную, чем он сам, история станет непредсказуемой, поскольку невозможно предсказать поведение интеллектуально превосходящей системы. При этом неважно, будет ли ИИ создан с помощью компьютеров или путем манипуляции человеческими генами, создавая нейринтерфейсы и объединяя людей.
Три основные школы в дискуссии о сингулярности (классификация Юдковски)
Название школы
Основное заявление
Главное следствие
Сторонники
Ускорение изменении
Наши представления об изменениях линейны; мы ожидаем, что в будущем произойдет примерно столько же изменений, сколько имело место в прошлом в течение нашей жизни. Но технологические изменения усиливают сами себя и за счет этого ускоряются. Изменения сейчас быстрее, чем 500 лет назад, которые, в свою очередь, быстрее тех, что были 5000 лет назад. Наше недавнее прошлое не является надежным источником знаний о том, что мы должны ожидать в будущем
Технологические изменения следуют плавным кривым, в основном экспоненциальным. В силу этого мы можем предсказать с достаточно большой точностью, когда новые технологии появятся и когда они пересекут определенные пороговые уровни, такие как создание ИИ
Рэймонд Курцвейл, Элвин Тоффлер, Джон Смарт
Горизонт событий
В течение последних нескольких сот тысяч лет люди были умнейшими существами на планете. Весь наш социальный и технологический прогресс был создан человеческими мозгами. Коротко говоря, технологии будут ускоряться до той точки, когда станет возможным улучшение человеческого интеллекта (интерфейс мозг-компьютер, ИИ). Это создаст будущее, гораздо более странное, чем то, что описывается в большинстве произведений научной фантастики: оно будет качественно другим, а не просто заполнено сияющими удивительными гаджетами
Чтобы знать, что будет делать сверхчеловеческий интеллект, вы должны быть по крайней мере настолько же умным. Чтобы знать, как пойдет Дип Блю при игре в шахматы, вы должны играть на его уровне. Таким образом, будущее после создания сверхчеловеческого интеллекта станет абсолютно непредсказуемым
Вернор Виндж
Взрыв интеллекта
Интеллект всегда был ядром технологии. Если технология сможет значительно улучшить человеческий интеллект — создать умы, более умные, чем самые интеллектуальные люди, то тогда кольцо замкнется и возникнет положительная обратная связь. Что люди с интерфейсом мозг-компьютер будут делать со своим усиленным интеллектом? Весьма вероятно, что они будут создавать следующее поколение интерфейсов мозг-компьютер. Усиление интеллекта — это классическая точка перелома. Чем умнее вы становитесь, тем больше интеллекта вы можете использовать, чтобы стать еще умнее
Этот цикл положительной обратной связи начнет резко усиливаться, подобно цепной ядерной реакции, когда достигается критическая масса. Каждое усиление интеллекта приводит к >1,000 усилений интеллекта в следующем цикле такого же масштаба, хотя и необязательно в виде гладкой экспоненциальной кривой. Технологический прогресс начинает происходить с характерной скоростью работы транзисторов (или супертранзисторов), а не человеческих нейронов. Рост резко ускоряется и быстро создает суперинтеллект (на много порядков превосходящий человека) — до того, как он достигает физических пределов роста
Ирвинг Гуд, Элиезер Юдковски
