Скорость прогресса и искусственный интеллект

На geektimes опубликовали большую статью, во многом обобщающую широко распространенные на данный момент идеи футурологов - стремительно ускоряющий прогресс, скорая сингулярность, всемогущий ИИ. Так как я с большинсвтом этих рассуждений не согласне, то решил собрать свои возражения в одном месте. Статья, как и большинство схожих рассуждений, рассчитана на крайне некритическое восприятие - в ней масса логических противоречий.

Основная идея в том, что прогресс всё время ускоряется. Это и есть то, что футурист Рэй Курцвейл называет Законом Ускоряющейся Отдачи. Это происходит потому, что более развитое общество имеет свойство развиваться быстрее, чем менее развитое.

В начале автор критикует линейную экстраполяцию в отношении человеческого прогресса - из-за следования которой наши предшественники не могли предсказать скорость прогресса в XIX-XX веках. А в следующем абзаце делает предсказания в отношении будущего на основании той же самой линейной экстраполяции, которую ругал абзацем выше. Видимо предполагается что читатель не способен воспринимать более-менее крупные и связные объемы информации и уже забыл о том что говорилось чуть выше и полностью увлечен разглядыванием красивых графиков.

Хотя банальная логика говорит что если мы считаем сам подход линейной экстраполяции прошлого ошибочным то это в равной мере относится и к предсказаниями, основанным на линейной экстраполяции скорости прогресса XIX-XX века. И предсказать на ее основании ту же скорость в будущем, что и раньше, мы не можем по тем же самым причинам, по которым не могли предсказать скорость прогресса XIX-XX века на основании скорости предыдущих веков. Собственно это простое соображение делает бессмысленным большую часть статьи, основанную на логически неверном выводе. Но в ней хватает и других косяков.

переносимся обратно в 2015-й год, после чего, прогуливаясь с ним по любому современному городу, наблюдаем за его реакцией на привычные для нас вещи. Мы даже не можем себе представить что он испытает, наблюдая за сверкающими капсулами, проносящимися мимо по шоссе, разговаривая с людьми, ещё утром находившимися на другом континенте, наблюдая за хоккеистами, играющими на стадионе в тысячах километрах от нас, прослушивая музыкальное произведение, которое оркестр играл 50 лет назад или рассматривая мой волшебный прямоугольник, позволяющий нарисовать реалистичный портрет любого человека за одно мгновение, посмотреть карту и увидеть своё местоположение в реальном времени, или разговаривать с человеком находящимся на другом конце страны, и другие вещи магического происхождения

А теперь давайте вспомни когда были изобретены все эти замечательные вещи. Автомобили более 100 лет назад, двигатель внутреннего сгорания - 1860 год, бензиновый двигатель - 1885, а первые паровые автомобили вообще 1768. Звукозапись - более 100 лет назад, первый фоноавтограф - 1857 год. Радиосвязь - больше 100 лет назад. Система спутниковой навигации - это комбинация радиосвязи (изобретена более 100 лет назад) и спутников (первый запущен более 50 лет назад, сами технологии изобретены еще раньше).

И внезапно мы замечаем что почти все чудеса, описанные в этом отрывке, были изобретены более 100 лет назад.

И весь сверхбыстрый прогресс последних десятилетий сводится к улучшенным реализациям изобретений вековой давности. Более удобные и красивые автомобили, более быстрая и удобная радиосвязь, более компактные устройства звукозаписи.

Даже генная инженерия, компьютеры на транзисторах, ядерная энергетика и космические корабли (включая ядерные двигатели) основаны на изобретениях и открытиях которым уже больше полувека.

И никаких открытий сравнимых с изобретением радио (атомной энергетики, реактивных двигателей, самолетов, двигателя внутреннего сгорания, электричества) нет и не предвидится, есть только реализация всех тех же радиостанций с более красивыми кнопками и более плавным прокручиванием списков в меню.

И если человечество с его скудным умом смогло изобрести WI-FI, то для столь умного “существа” вряд ли будет проблемой управлять всеми атомами и их движением как ему заблагорассудится.

Автор как-то тихо и не заметно делает крайне любопытный логический вывод.

1) ИИ будет очень умным, умнее человека, умнее Эйнштейна. Это утверждение вполне обосновано.
2) Этот ум позволит ему обрести абсолютное, божественное всемогущество и игнорировать законы физики

Утверждение 2 никак не следует логически из 1. Сколь угодно высокий интеллект никак не гарантирует того, что его обладатель сможет игнорировать известные законы физики .

Интеллект Эйнштейна не давал ему никаких волшебных возможностей по управлению движениями атомов по сравнению даже с животным. И нет никакой гарантии что крутой интеллект не упрется в фундаментальный ограничения на уровне законов физики.

Революция в области искусственного разума: путь к Сверхразуму - geektimes


Добавить комментарий