Искусственный интеллект: что ждёт людей в мире умных машин?

Профессор факультета философии Оксфордского университета Ник Бостром пытается осознать проблему, встающую перед человечеством в связи с перспективой появления сверхразума.

Евгений Касперский, генеральный директор «Лаборатории Касперского»

«Автор считает, что смертельная угроза связана с возможностью создания искусственного интеллекта, превосходящего человеческий разум. Катастрофа может разразиться как в конце XXI века, так и в ближайшие десятилетия. Вся история человечества показывает: когда происходит столкновение представителя нашего вида, человека разумного, и любого другого, населяющего нашу планету, побеждает тот, кто умнее. До сих пор умнейшими были мы, но у нас нет гарантий, что так будет длиться вечно.

Ник Бостром пишет, что если умные компьютерные алгоритмы научатся самостоятельно делать ещё более умные алгоритмы, а те, в свою очередь, ещё более умные, случится взрывной рост искусственного интеллекта, по сравнению с которым люди будут выглядеть приблизительно как сейчас муравьи рядом с людьми, в интеллектуальном смысле, конечно".

Сценарии

На сегодняшний день, если брать уровень общего интеллектуального развития, машины абсолютно уступают людям. Но однажды разум машины, скорее всего, превзойдёт разум человека. Можно представить три типа сценариев взлёта интеллектуальной системы с человеческого на сверхразумный уровень — медленный, быстрый и умеренный:

1. Медленный взлёт. Будет происходить на долгих временных интервалах — от десятилетий до столетий. Такие сценарии представляют собой отличные возможности, чтобы человечество смогло обдумать свои дальнейшие политические ходы, адаптировать их к ситуации и правильно реагировать на происходящее. Можно будет последовательно тестировать разные подходы, обучить и подготовить новых специалистов.

Предвыборные кампании будут ориентированы на сторонников и противников происходящих процессов. Если выяснится, что нужны новые системы безопасности и общественного контроля над исследованиями в области искусственного интеллекта, будет достаточно времени, чтобы их разработать и развернуть.

2. Быстрый взлёт. Произойдет в течение очень короткого промежутка времени — минуты, часы, дни. В сценариях быстрого взлёта у людей почти не остаётся возможности реагировать на него. Никто не успеет ничего заметить, а игра уже окажется проигранной.

В любом сценарии быстрого взлёта судьба человечества в основном зависит от подготовительной работы, уже проведённой к этому моменту. В самом медленном из быстрых сценариев со стороны людей ещё могут быть произведены какие-то элементарные телодвижения вроде потянуться открыть «ядерный чемоданчик», но тогда алгоритмы этих действий должны быть или действительно элементарны, или запланированы, запрограммированы и отрепетированы заранее.

3. Умеренный взлёт. Произойдёт в течение относительно короткого временного интервала — от нескольких месяцев до нескольких лет. В этом случае у человечества остаётся некоторая возможность отреагировать на происходящее, но не будет времени проанализировать его, протестировать разные подходы и решить сложные задачи координации действий.

На создание и развертывание новых систем, таких как политические меры, механизмы контроля, протоколы безопасности компьютерных сетей, времени тоже не останется, но возможно, получится приспособить к новым обстоятельствам уже существующие нормы.

О лошадях и людях

Универсальный искусственный интеллект мог бы стать заменой человеческому интеллекту. Причём УИИ будет способен выполнять не только умственную работу, но и физический труд — правда, последним он займётся не сам, а заменит людей на исполнительные устройства и роботизированные механизмы. Предположим, работники-машины, которых очень легко воспроизводить, стали и дешевле, и способнее работников-людей почти во всех профессиях. Что тогда произойдет?

Человек сохранит свою конкурентоспособность только в тех сферах деятельности, где клиенты-люди будут искать общения с себе подобными, а не машинами. Неясно только, сколько продлятся эти предпочтения. Ведь если киберальтернативы станут заметно превосходить людей на всех направлениях, возможно, ценить их начнут больше.

Сократится количество рабочих мест для людей, поскольку дешёвый машинный труд сможет заменить человеческий. В принципе, ужас перед наступлением автоматизации производства и потерей из-за этого работы не нов. И тем не менее, хотя машины выполняют многие виды работ, они остаются дополнением к человеческому труду. Впрочем, всё, что начинается как дополнение, со временем занимает главное место. Поначалу лошадь дополняла повозки и плуги, значительно повышая их производительность. Позднее она полностью уступила своё место автомобилям и тракторам. Не ждёт ли аналогичная судьба и наш вид?

В результате резкого падения спроса на человеческий труд зарплаты могут упасть ниже уровня прожиточного минимума. То есть потенциально работники-люди рискуют очень сильно: речь идёт о перспективах голодной смерти. Если владельцами капитала останутся люди, совокупный доход человечества вырастет до астрономических масштабов, несмотря на тот факт, что в этом сценарии мы уже не будем получать доходы в виде зарплаты. То есть человечество в целом может сказочно разбогатеть. Вопрос в том, как будет распределено это богатство.

О других возможных сценариях и о том, как человечеству готовиться к появлению сверхразума, читайте в книге Ника Бострома «Искусственный интеллект».