• Мнения
  • |
  • Обсуждения
Законы и безопасность
Анатолий Пастухов Грандмастер

Появится ли цивилизация роботов?

Если внимательно проанализировать появившиеся в последнее десятилетие литературные произведения и художественные фильмы на темы фантастического будущего, то можно заметить один любопытный крен. Читателям и зрителям усиленно «вдалбливается» в сознание неизбежность гибели человеческой цивилизации в ходе войны с роботами.

Фрэнк Теран, «Терминатор», фрагмент Источник: artchive.ru

И не просто с некими автоматами, а с устройствами, наделенными искусственным разумом и самовоспроизводящимися. Точнее, саморазвивающимися на уровне техногенной цивилизации.

Никто не спорит — фантазировать в нашем обществе не запрещено. Придумать можно что угодно и в каком угодно направлении. Даже на уровне полного бреда. Особенно, если придуманное будет «читабельно» и «смотрибельно». Тут тогда под денежный поток границ разумности фантастическим посылам нет.

Цивилизация роботов? А почему бы и не быть ей в будущем, если электроника развивается очень бурно и искусственный разум уже решает задачи на уровне ребенка? Два-три десятилетия еще — и роботы смогут «договариваться» между собой. Тем более что способности к обучению у них на несколько порядков выше, чем у человека.

Появится ли цивилизация роботов?
Фото: kellepics, pixabay.com

Рассуждая так, мы упускаем из анализа такого прогноза будущего очень важные моменты.

Во-первых, роботы не делают самих себя. Их создают люди. В конкретном случае это не только программисты, но и специалисты, отвечающие за длительность безремонтной эксплуатации роботов. Однако ничего вечного не бывает. В случае неполадок именно люди устраняют их. Нет еще роботов, которые занимались бы ремонтом роботов. Простите за каламбур.

Во-вторых, «самостоятельность» роботов полностью зависит от заложенных в них программ. Что мешает программистам предусмотреть дополнительные резервные «тормоза» в кодах? А это три знаменитых закона роботехники писателя-фантаста Айзека Азимова, сформулированные им еще в 1942 году в рассказе «Хоровод».

Айзек Азимов
Айзек Азимов
Фото: Phillip Leonian, ru.wikipedia.org
  • Суть в том, что робот не может навредить человеку или не реагировать на то, что человеку вредят.
  • Второй закон: робот обязан подчиняться человеку. Кроме моментов, когда по первому закону не появится противоречие. Например, если человек совершает опрометчивый поступок за рулем машины и может погибнуть, робот должен предотвратить это.
  • Третий закон вообще не дает роботам шанса выйти из-под контроля людей, поскольку в программах у них будет заложено «поведение», соответствующее первому и второму законам роботехники. Проще говоря, исключается какая-либо попытка со стороны роботов навредить человечеству.

Айзек Азимов тему «поведения» роботов рассмотрел в целом ряде своих произведений. Если эти произведения внимательно прочитать, то вывод будет закономерный:

цивилизация роботов не может появиться, поскольку без помощи со стороны людей у роботов ничего не получится.

Действительно, роботы очень зависимы от человеческой цивилизации. И это не только зависимость от технологий, но и зависимость типа «нажал на кнопку и выключил робота».

Стивен Юлл, «Робот»
Стивен Юлл, «Робот»
Источник: artchive.ru

Если проблема надуманна, тогда с какой стати эта страшилка с возможностью появления цивилизации роботов подпитывается все новыми и новыми романами и фильмами? Ответ на этот вопрос уже дан в самом начале статьи: в нашем обществе есть спрос на адреналин. И чтобы его получить, достаточно прочитать книгу или посмотреть фильм. Как говорится, бизнес далеко не всегда слышит мнение ученых, когда дело касается прибыли.

Статья опубликована в выпуске 25.07.2018
Обновлено 22.07.2020

Комментарии (1):

Чтобы оставить комментарий зарегистрируйтесь или войдите на сайт

Войти через социальные сети: