Юлия Баяндина Грандмастер

Искусственный интеллект: что ждёт людей в мире умных машин?

Новая книга «Искусственный интеллект» — для тех, кто верит в способность человечества создать сверхразумные машины. Что случится, если компьютеры окажутся умнее людей? Кем они станут для нас: помощниками или врагами? Можно ли сегодня игнорировать проблему развития искусственного интеллекта?

Jemny, Shutterstock.com

Профессор факультета философии Оксфордского университета Ник Бостром пытается осознать проблему, встающую перед человечеством в связи с перспективой появления сверхразума.

Евгений Касперский, генеральный директор «Лаборатории Касперского»

«Автор считает, что смертельная угроза связана с возможностью создания искусственного интеллекта, превосходящего человеческий разум. Катастрофа может разразиться как в конце XXI века, так и в ближайшие десятилетия. Вся история человечества показывает: когда происходит столкновение представителя нашего вида, человека разумного, и любого другого, населяющего нашу планету, побеждает тот, кто умнее. До сих пор умнейшими были мы, но у нас нет гарантий, что так будет длиться вечно.

Ник Бостром пишет, что если умные компьютерные алгоритмы научатся самостоятельно делать ещё более умные алгоритмы, а те, в свою очередь, ещё более умные, случится взрывной рост искусственного интеллекта, по сравнению с которым люди будут выглядеть приблизительно как сейчас муравьи рядом с людьми, в интеллектуальном смысле, конечно".

Сценарии

На сегодняшний день, если брать уровень общего интеллектуального развития, машины абсолютно уступают людям. Но однажды разум машины, скорее всего, превзойдёт разум человека. Можно представить три типа сценариев взлёта интеллектуальной системы с человеческого на сверхразумный уровень — медленный, быстрый и умеренный:

1. Медленный взлёт. Будет происходить на долгих временных интервалах — от десятилетий до столетий. Такие сценарии представляют собой отличные возможности, чтобы человечество смогло обдумать свои дальнейшие политические ходы, адаптировать их к ситуации и правильно реагировать на происходящее. Можно будет последовательно тестировать разные подходы, обучить и подготовить новых специалистов.

Предвыборные кампании будут ориентированы на сторонников и противников происходящих процессов. Если выяснится, что нужны новые системы безопасности и общественного контроля над исследованиями в области искусственного интеллекта, будет достаточно времени, чтобы их разработать и развернуть.

2. Быстрый взлёт. Произойдет в течение очень короткого промежутка времени — минуты, часы, дни. В сценариях быстрого взлёта у людей почти не остаётся возможности реагировать на него. Никто не успеет ничего заметить, а игра уже окажется проигранной.

В любом сценарии быстрого взлёта судьба человечества в основном зависит от подготовительной работы, уже проведённой к этому моменту. В самом медленном из быстрых сценариев со стороны людей ещё могут быть произведены какие-то элементарные телодвижения вроде потянуться открыть «ядерный чемоданчик», но тогда алгоритмы этих действий должны быть или действительно элементарны, или запланированы, запрограммированы и отрепетированы заранее.

3. Умеренный взлёт. Произойдёт в течение относительно короткого временного интервала — от нескольких месяцев до нескольких лет. В этом случае у человечества остаётся некоторая возможность отреагировать на происходящее, но не будет времени проанализировать его, протестировать разные подходы и решить сложные задачи координации действий.

На создание и развертывание новых систем, таких как политические меры, механизмы контроля, протоколы безопасности компьютерных сетей, времени тоже не останется, но возможно, получится приспособить к новым обстоятельствам уже существующие нормы.

О лошадях и людях

Универсальный искусственный интеллект мог бы стать заменой человеческому интеллекту. Причём УИИ будет способен выполнять не только умственную работу, но и физический труд — правда, последним он займётся не сам, а заменит людей на исполнительные устройства и роботизированные механизмы. Предположим, работники-машины, которых очень легко воспроизводить, стали и дешевле, и способнее работников-людей почти во всех профессиях. Что тогда произойдет?

Человек сохранит свою конкурентоспособность только в тех сферах деятельности, где клиенты-люди будут искать общения с себе подобными, а не машинами. Неясно только, сколько продлятся эти предпочтения. Ведь если киберальтернативы станут заметно превосходить людей на всех направлениях, возможно, ценить их начнут больше.

Сократится количество рабочих мест для людей, поскольку дешёвый машинный труд сможет заменить человеческий. В принципе, ужас перед наступлением автоматизации производства и потерей из-за этого работы не нов. И тем не менее, хотя машины выполняют многие виды работ, они остаются дополнением к человеческому труду. Впрочем, всё, что начинается как дополнение, со временем занимает главное место. Поначалу лошадь дополняла повозки и плуги, значительно повышая их производительность. Позднее она полностью уступила своё место автомобилям и тракторам. Не ждёт ли аналогичная судьба и наш вид?

В результате резкого падения спроса на человеческий труд зарплаты могут упасть ниже уровня прожиточного минимума. То есть потенциально работники-люди рискуют очень сильно: речь идёт о перспективах голодной смерти. Если владельцами капитала останутся люди, совокупный доход человечества вырастет до астрономических масштабов, несмотря на тот факт, что в этом сценарии мы уже не будем получать доходы в виде зарплаты. То есть человечество в целом может сказочно разбогатеть. Вопрос в том, как будет распределено это богатство.

О других возможных сценариях и о том, как человечеству готовиться к появлению сверхразума, читайте в книге Ника Бострома «Искусственный интеллект».

Обновлено 3.01.2016
Статья размещена на сайте 29.12.2015

Комментарии (5):

Чтобы оставить комментарий зарегистрируйтесь или войдите на сайт

Войти через социальные сети:

  • Как все сгущают краски, надеюсь до ситуации фильма "Терминатор" не дойдет и мы выживем. Только сегодня в новостях прозвучала такая фраза "Это вызовет уничтожение среднего класса" Ничего мы перекласифицируемся и будет у нас два класса, один изобретающий, другой обслуживающий, чтоб никому обидно не было Надо жить по принципу "Не важно что ты делаешь, важно как"

  • Какой бы могучий не был бы искусственный интеллект, ему нужна ЭНЕРГИЯ и ЛИНИИ СВЯЗИ. Достаточно перерубить силовой кабель и повредить линии связи, и ... интеллекту пи... в, общем, его не будет.
    С другой стороны, он на то и могучий интеллект, что бы понять, что без людей ему никак не обойтись, а значит... см. абзацем выше.

  • Да, к сожалению, как только человек встал на ступень компьютерного прогресса, он пожелал меньше думать, меньше кнопок нажимать. Правильно говорят, лень- двигатель прогресса. Сейчас делается всё, чтобы ускорить, уменьшить, упростить. Посмотрите, сколько людей прикрываются мнением, что якобы только дураки ходят платить, а умные делают это из дома, с компа.
    Но всё ещё есть шанс у человека не облениться, не обтупиться. Прогресс- хорошо, но не надо забывать думать, развивать мозг, изобретать велосипед. Голова не для красоты на шее водружена, ей думать надо каждый день, каждый час. Постоянно.

  • Самая большая опасность исходит от автоматических пылесосов. Они будут всё совершеннее и совершеннее, пока не поймут, что главным источником мусора является человек!

  • Ах, ужас какой. Умные машины вычистят от человеков планету.
    Во-первых, зачем они это будут делать? Вытеснение и уничтожение идет когда существует конкуренция за какой-либо ресурс. Что такого глобального могут не поделить искусственный интеллект и человек? Я пока ничего придумать не могу. Может кто-то расскажет?
    Во-вторых, отличие человека от машин (на сегодняшний день) в том, что человек универсален. Он и в шахту слазит и в тайге руду или нефть найдет и т.д. и т.п. Если интеллект захватит Землю, то ему придется себя обслуживать - ремонтировать, расширяться (если вдруг). На каждый чих делать специального робота? А ну да, взрывной рост искусственного интеллекта и он все придумает.
    В-третьих, а у интеллекта какая будет цель в жизни? Ради чего он будет существовать? По программе? А кто задаст эти программы?

    Если создадут аналог человеческого мозга - тогда надо будет напрягаться. Мозг человека развивался тысячелетия и намного ли он изучен и понят ученными?

    А вот то, что из-за искусственного интеллекта некоторые работники станут ненужными - вот это факт. Причем будут ненужны исполнители. Тех которых натаскали на определенную последовательность действий и которые кроме этой последовательности ничего самостоятельно делать не могут.

    зы. кстати тут и там ходят теории заговора что мировая закулиса предвидит это и предпринимает действия по ограничению человеков. И однополая любовь не просто так продвигается. И тут тебе лекарства такие производят, что они параллельно у юношей и девушек репродуктивные функции угнетают. и прочая и прочая. Так что бдите