Законы и безопасность
Анатолий Пастухов Грандмастер

Появится ли цивилизация роботов?

Если внимательно проанализировать появившиеся в последнее десятилетие литературные произведения и художественные фильмы на темы фантастического будущего, то можно заметить один любопытный крен. Читателям и зрителям усиленно «вдалбливается» в сознание неизбежность гибели человеческой цивилизации в ходе войны с роботами.

Фрэнк Теран, «Терминатор», фрагмент Источник: artchive.ru

И не просто с некими автоматами, а с устройствами, наделенными искусственным разумом и самовоспроизводящимися. Точнее, саморазвивающимися на уровне техногенной цивилизации.

Никто не спорит — фантазировать в нашем обществе не запрещено. Придумать можно что угодно и в каком угодно направлении. Даже на уровне полного бреда. Особенно, если придуманное будет «читабельно» и «смотрибельно». Тут тогда под денежный поток границ разумности фантастическим посылам нет.

Цивилизация роботов? А почему бы и не быть ей в будущем, если электроника развивается очень бурно и искусственный разум уже решает задачи на уровне ребенка? Два-три десятилетия еще — и роботы смогут «договариваться» между собой. Тем более что способности к обучению у них на несколько порядков выше, чем у человека.

Появится ли цивилизация роботов?
Фото: kellepics, pixabay.com

Рассуждая так, мы упускаем из анализа такого прогноза будущего очень важные моменты.

Во-первых, роботы не делают самих себя. Их создают люди. В конкретном случае это не только программисты, но и специалисты, отвечающие за длительность безремонтной эксплуатации роботов. Однако ничего вечного не бывает. В случае неполадок именно люди устраняют их. Нет еще роботов, которые занимались бы ремонтом роботов. Простите за каламбур.

Во-вторых, «самостоятельность» роботов полностью зависит от заложенных в них программ. Что мешает программистам предусмотреть дополнительные резервные «тормоза» в кодах? А это три знаменитых закона роботехники писателя-фантаста Айзека Азимова, сформулированные им еще в 1942 году в рассказе «Хоровод».

Айзек Азимов
Айзек Азимов
Фото: Phillip Leonian, ru.wikipedia.org
  • Суть в том, что робот не может навредить человеку или не реагировать на то, что человеку вредят.
  • Второй закон: робот обязан подчиняться человеку. Кроме моментов, когда по первому закону не появится противоречие. Например, если человек совершает опрометчивый поступок за рулем машины и может погибнуть, робот должен предотвратить это.
  • Третий закон вообще не дает роботам шанса выйти из-под контроля людей, поскольку в программах у них будет заложено «поведение», соответствующее первому и второму законам роботехники. Проще говоря, исключается какая-либо попытка со стороны роботов навредить человечеству.

Айзек Азимов тему «поведения» роботов рассмотрел в целом ряде своих произведений. Если эти произведения внимательно прочитать, то вывод будет закономерный:

цивилизация роботов не может появиться, поскольку без помощи со стороны людей у роботов ничего не получится.

Действительно, роботы очень зависимы от человеческой цивилизации. И это не только зависимость от технологий, но и зависимость типа «нажал на кнопку и выключил робота».

Стивен Юлл, «Робот»
Стивен Юлл, «Робот»
Источник: artchive.ru

Если проблема надуманна, тогда с какой стати эта страшилка с возможностью появления цивилизации роботов подпитывается все новыми и новыми романами и фильмами? Ответ на этот вопрос уже дан в самом начале статьи: в нашем обществе есть спрос на адреналин. И чтобы его получить, достаточно прочитать книгу или посмотреть фильм. Как говорится, бизнес далеко не всегда слышит мнение ученых, когда дело касается прибыли.

Обновлено 24.07.2018
Статья размещена на сайте 11.07.2018

Комментарии (1):

Чтобы оставить комментарий зарегистрируйтесь или войдите на сайт

Войти через социальные сети: