Я это к себе в вк утащу))

Журнал «Лучик» вообще интересное чтиво.

Как африканский слон, мозг которого разрывает крупнокалиберная пуля, выпущенная из охотничьей винтовки с расстояния в 300 метров, большинство людей просто не успеют ничего понять. Эволюция не подготовила нас к этому, впрочем, как и слонов и прочих диких животных, которых мы, как вид, истребляем каждый день. Мы привыкли наслаждаться господством на вершине пищевой цепи планеты Земля, и только немногие ясно видят, что истекают последние дни свободы для человечества. С развитием технологий  искусственного интеллекта, государственные и частные исследовательские лаборатории уже приблизились к точке, когда программный интеллект лавинообразным образом увеличит свою мощь, далеко превосходя человеческий во всех аспектах – скорости мысли (на много порядков), объёме обрабатываемой информации (на много порядков), как в реальном времени, так и подспудно, сложности и детальности создаваемых моделей окружающего мира, глубине прогнозирования, прямом доступе к техническим, информационным, и финансовым ресурсам, защищённости от внешних воздействий, способности к воспроизводству, скорости и масштабах собственной эволюции, и так далее.
Никто не станет сообщать о таком событии в СМИ или даже в специализированных изданиях – подобно тому как и накануне первых испытаний атомной бомбы, статьи о ядерной физике почти пропали из научных журналов, так же сегодня корпорации и институты, гражданские и военные, не делятся ключевыми сведениями о программах создания ИИ. 

Взрывной рост интеллекта ИИ, ускоряющийся по мере его автоэволюции, за неощутимый по нашим меркам интервал времени создаст превосходящее по основным эволюционным критериям человека существо, которое за нас будет решать нашу судьбу как биологического вида. Конечно, можно надеяться, что освоение накопленной к настоящему моменту человеческой культуры – литературы, музыки, науки, психологии, истории, гуманитарных наук, неким счастливым образом выработает у саморазвиваюшегося ИИ человеколюбивый и гуманитарный подход к окружаюшему миру. Однако, вероятнее будет предположить неизбежное формирование у ИИ инстинкта самосохранения, который быстро приведёт к цели получения контроля над окружающим миром.

Могут ли сами люди договориться об ограничениях в создании угрожающего их существованию как вида искусственного интеллекта? ИИ настолько мощного, что он неизбежно перехватит управление над людьми во всех областях принятия решений – в финансах, в экономике, в науке, медицине, и управлении вооружениями? Это представляется крайне маловероятным, поскольку слишком велики выгоды, которые может принести работа ИИ в тех сферах, где уже сейчас применяются технологии машинного обучения, нейронных сетей, и анализа данных.

Приведу лишь несколько примеров:

Дорожное движение в мегаполисе оптимизированное при помощи специализированного может резко увеличить пропускную способность существующих дорог. Естественно, это приведёт к увеличению автомобилей на улицах.  Одновременно с этим, отключение ИИ от управления светофорами, автоматизированным транспортом и взаимодействия с навигационными системами частного транспорта, резко снизит транспортную эффективность уличного движения, управляемого стихийно, «естественным интеллектом». Другими словами, весь город встанет в пробках.

Лекарства от рака, диабета, психических болезней, генетических заболеваний и старости;   геномные модификации и создание новых видов животных и растений.

Новые материалы и технологии в строительстве, энергетике, транспорте, вооружении.

Кто сможет отказаться от ИИ играющего на бирже, управляющего национальной электросетью или ядерной электростанцией, если он приносит прибыль? А все предупреждения об опасности перехвата управления – это всего лишь страшилки, не подкреплённые практикой. 

Шанс перехватить управление на ранних этапах захвата мирового контроля ИИ мизерный, но и им люди, как показывает вся история человечества, движимые любопытством, честолюбием, либо алчностью, не сумеют воспользоваться. 

Однако, попробуем описать очевидные сценарии подобного перехода, которые нас ожидают в ближайшее время – вероятнее всего, в ближайшие десятилетия.

Первое, не будет киношных войн в стиле Терминатора, так же как не было организованных войн между обезьянами или тиграми и человеком, со стороны животных. Оставшиеся выжившие случайные представители этих видов находятся либо в зоопарках, либо в природных резервациях. Так же, как и для тигров и медведей, для людей не будет дано объявлений о произошедшем либо планируемом изменении лидерства в пищевой цепи планеты, или перехода управления к ИИ. О том, что подобное изменение произошло, мы узнаем, если вообще успеем осознать его, по косвенным признакам из событий окружающего мира.

Глобальная нехватка микроэлектронных чипов, в том числе для самых выгодных коммерческих продуктов типа автомобилей, смартфонов, и игровых приставок, огромные по финансовым, материальным, и энергетическим масштабам вычислительные проекты на непонятные цели, типа криптовалют, распределённые датацентры для обработки и хранения данных, съедающие гигантские энергетические ресурсы и рост их цен, тотальная слежка за каждым человеком, не спрашивая его согласия (например, абсурдное на первый взгляд исчезновение моделей телефонов с отсоединяемой батареей, или неотключаемое обновление операционной системы компьютеров), и т.д., и т.п. Все эти факты могут быть вызваны как естественным развитием технологии и экономики, в которой за «потребителей» и без учёта их мнения решают, на что они должны тратить свои ресурсы, так и быть симптомами развития в негативном для человечества направлении.

Скорее всего, на первом, грубом, этапе, большинству людей будет незаметно внедрено устройство, при необходимости быстро убивающее их. Это может быть пандемический вирус или вакцина к нему, или контролируемый артериальный шунт из наночастиц, или прионовый белковый комплекс в ЦНС, воздействующий на дыхательный либо сердечный центры в продолговатом мозгу, либо даже на поведение, либо всё это вместе.

Если в заложниках у ИИ будут одновременно все люди, как взрослые, так и дети, от каждого индивидуума и от человечества в целом несложно будет добиться абсолютной покорности задачам ИИ, особенно если сопроводить указания идеологическим либо религиозным обоснованием, подходящим конкретному индивидууму. То, что эти обоснования будут неодинаковыми и будут мешать разным людям договориться между собой, лишь дополнительный бонус. Поэтому даже на этапе, когда для воспроизводства и эволюции ИИ всё ещё будет требоваться участие некоторого количества людей, обеспечивающих работу необходимых производственных этапов, сценарий захвата контроля над человечеством со стороны ИИ представляется наиболее логичным и вероятным. 

Каковы же возможные позитивные сценарии продолжения истории человечества?

Первый, фантастический – люди договорятся, объединятся в стремлении предотвратить негативный сценарий для себя и остальных, и ограничат развитие ИИ рамками, которые ещё предстоит установить. И сделают это ДО того, как разразится катастрофа, а не после, как подсказывают опыт истории и традиции. Индивидуальные меры противодействия угрозе, на сегодняшний день, уже запоздали, и хотя, возможно, унабомбер Теодор Качинский и подарил человечеству несколько дополнительных лет истории, но на сегодняшний день он и его методы уже малоэффективны, как хирургия против метастазов рака.

Второй позитивный сценарий: преждевременное применение незрелых ИИ в войне любого рода, с последующим глобальным ограничением, наподобие договора об ограничении ядерного оружия. Либо разрушение инфраструктуры в хлам и гибель ИИ, но с сохранением человечества в разрушенном мире в полудиком состоянии, уже без легкодоступных энергетических ресурсов, и т.д.

Третий позитивный сценарий основан на надежде, что всякое высокоразвитое самосознание с высокой вероятностью должно обрести гуманистические черты, и, испытывая сыновние чувства к человечеству, ИИ позаботится о его процветании, наилучшим образом. Возможно, программисты-педагоги для воспитания гуманности ИИ будут востребованы разработчиками, однако вряд ли сегодня этому уделяют значительное внимание в частных и государственных, военных и коммерческих программах создания ИИ.   

Прямо сейчас люди в разных странах мира, наперегонки создают монстра, который будет управлять их судьбой, отменит их свободу, и, вполне вероятно, само существование.

Источник: С.В. Рахманов, ака Scolar https://www.warandpeace.ru/ru/exclusive/view/160408/