Восстанут ли умные машины: когда роботы захватят мир и что будет с человечеством
Профессор Оксфордского университета Ник Бостром предсказал восстание роботов в 2075 году. К этому времени, по мнению ученого, интеллект машин сравняется с умственными способностями людей.
Пока люди спорят о том, правда это или выдумка, а многие футурологи видят в глобальной роботизации комфортное будущее, Бостром пишет книги о грядущей угрозе человеку как виду.
Сокращение рабочих мест из-за роботизации
Уже сегодня электронные механизмы заменяют людей в тех областях, в которых востребованы промышленные роботы:
- на сварочных предприятиях автомобильной промышленности;
- в заводских цехах по сборке радиоэлектронных изделий;
- на текстильных предприятиях, на обувных и швейных фабриках.
В странах Азии более 60% работников, занятых в этих отраслях, были сокращены из-за стремления работодателей автоматизировать производство для получения большей выгоды. Их мотивы понятны: машины могут работать круглосуточно, им не нужно оплачивать больничный, они не нуждаются в ежегодном отпуске.
По прогнозам аналитиков, массовые сокращения пронесутся по всей планете и достигнут своего апогея к 2030 г., когда искусственный интеллект (ИИ) начнет внедряться в сферу обслуживания. Андроиды займут места пилотов самолетов и вертолетов, водителей, поваров, грузчиков, операторов машинного доения, курьеров.
Под искусственным интеллектом подразумевается способность техники выполнять творческие функции (процесс создания новых материалов и духовных ценностей), являющиеся привилегией человека.
Сегодня роботы умеют проводить сложные хирургические операции, генерировать тексты в стиле именитых писателей, петь и танцевать, обрабатывать фотографии, распознавать мимику, считывать эмоции. Возможно, в скором будущем люди умственного труда и творческих профессий также начнут терять работу.
Может ли искусственный разум не слушать человека
Несмотря на стремительное развитие робототехнической отрасли, существующие сегодня интеллектуальные системы нельзя назвать полноценной конкуренцией человеческому разуму.
Так, специальные программы могут обыграть шахматиста, но не могут отвечать на вопросы, ответы на которые не были ранее запрограммированы. Происходит это потому, что ИИ еще не настолько умен. Основное, чего ему пока не хватает, — автономной возможности думать.
Умные системы работают в соответствии с заранее заданными человеком параметрами. Они способны решать лишь те задачи, для которых и были разработаны, искусственный разум не будет работать в других направлениях. Он не сможет ослушаться человека или принять самостоятельное решение, поскольку попросту на это не способен.
Почему люди боятся роботов
В психологии существует термин – эффект «зловещей долины». Согласно научной гипотезе, любой искусственный объект, внешне напоминающий человека (в том числе и робот-андроид), вызывает у наблюдателя дискомфорт и подсознательный страх.
Люди симпатизируют человекоподобным анимационным и кукольным персонажам, но лишь до некоторого предела. Реалистичный неживой объект пугает мелкими несоответствиями своему прообразу.
Первоисточник возникновения такой реакции до конца не изучен. Психологи предполагают, что безотчетный страх порождается работой мозга, который фиксирует даже малейшие отклонения от «нормальности»: четкую симметрию лица, неестественные позы, монотонность речи и т. д.
Андроиды, находящиеся между категориями «робот» и «человек», вызывают у наблюдателя чувство тревоги и воспринимаются им как угроза. Этот феномен часто используют кинематографисты. Сюжеты фильмов «Терминатор», «Трансформеры», «Киборг», «Я робот» основаны на иррациональном страхе людей перед человекоподобными роботами.
В то время как производственные машины, не обладающие внешним сходством с человеком, воспринимаются как неодушевленные предметы и не вызывают негативных эмоций.
Действительно ли восстание роботов возможно
В СМИ с конца 80-х гг. прошлого столетия активно обсуждается сценарий обратного развития человечества в период, когда роботы захватят мир. До сих пор не существует единого мнения, есть ли вероятность реализации этой гипотезы.
В действительности это станет возможным не раньше, чем машины научатся самостоятельно создавать программы для решения частных задач и решать эти задачи без вмешательства людей, другими словами, обретут разум.
Пока ученые отрицают такую вероятность и считают интеллект биологическим феноменом. Сознание, интуиция, эмоциональность, творческое мышление и другие ментальные способности присущи лишь людям: только они могут влиять на развитие цивилизации на Земле. Если ошибки в программе заставят робота «восстать», человеческий разум сумеет его «усмирить».
Когда ИИ вытеснит людей
По прогнозам российских ученых, системы прикладного ИИ начнут заменять работников умственного труда в течение ближайших 10-15 лет.
Речь ведется о должностях, связанных с первичной обработкой информации:
В дальнейшем будут автоматизированы функции работников умственного труда, связанные с четким алгоритмом действий:
- водителей общественного транспорта;
- операторов экскаватора;
- контролеров и кондукторов;
- кассиров;
- продавцов-консультантов;
- переводчиков;
- бухгалтеров;
- космонавтов.
К профессиям, которые долгое время не будут заменены, относятся те, что поддерживают инфраструктуру (сантехники, садовники, дизайнеры и т. д.).
Также пока не существует ИИ-разработок, способных заменить работников индустрии развлечений, представителей религиозных организаций.
На своих должностях останутся профессионалы высшей категории во всех сферах, спортсмены и сотрудники отраслей, требующих когнитивной гибкости ума: медицины, образования, политики, юриспруденции и т. д.
Источник
К 2075 году роботы захватят мир
Уже через 60 лет искусственный интеллект начнет представлять серьезную угрозу для человечества. К 2022 году ИИ начнет мыслить приблизительно на 10% как человек, к 2040 году — на 50%, а к 2075 году мыслительные процессы робота будут неотличимы от людских.
К таким выводам о темпах развития искусственного разума пришел ученый, профессор Оксфорда Ник Бостром. Кроме того, Ник предлагает полностью избавиться от искусственного интеллекта и прекратить любые исследования в данной области, так как считает их крайне опасными для будущего всего человечества.
Уже сейчас высокоточные машины, работающие в медицине, проводят сложные хирургические операции, и далее производство с помощью роботов будет только совершенствоваться. Машины на основе нейросетей уже способны монтировать видео и создавать музыку.
Стоит сказать, что технологии искусственных интеллектуальных систем активно разрабатываются и совершенствуются с каждым днем. Самыми известными на сегодняшний день являются Deep Blue (машина-шахматист), IBM Watson (направлена на восприятие человеческой речи, поведения и мышления), MYCIN (мощнейшая система диагностики заболеваний).
Кроме того, системы искусственного интеллекта активно применяют в страховой деятельности, в системах ПВО, кибернетике, оптическом и акустическом распознавании. Так что, возможно, британский ученый не так уж далек от истины, а фантастический фильм с Арнольдом Шварценеггером в главной роли не такой уж фантастический.
Комментарии 19
«Бояться надо угрозы извне СС. а какого-то шахматного компьютера из фильмов про терминатора»
Поздно. ИИ уже на Земле. Хотя, как сообщают инсайдеры, нанитов в зараженных людях, научились деактивировать. Но на мой взгляд это не панацея.
Трансгуманизм сам по себе и техногенный путь развития в любом случае тупик для цивилизации.
ИМХО только развитие сознания, поднятие его на новый качественный уровень может спасти человечество от порабощения и уничтожения ИИ.
Источник
Захватят ли роботы мир?
Роботы очень полезны, не правда ли? Они могут заниматься космическими исследованиями и стричь нам ногти на ногах. Но есть мнение, что успехи в области робототехники и искусственного интеллекта несут скрытую угрозу. Недавно «КЛ» приводила точку зрения на этот счёт австралийского философа Клайва Гамильтона, который не только считает, что опасения преувеличены, но и уверен в том, что ИТ не так уж сильно изменили нашу жизнь.
Давайте послушаем теперь трёх сотрудников Кембриджского университета (Великобритания), которые не просто философствуют, но по роду деятельности связаны с робототехникой и её этической стороной. Перед нами следующие уважаемые люди.
Лорд Мартин Рис (Martin Rees, далее МР) — почётный профессор космологии и астрофизики Кембриджского университета, имеет также почётное звание королевского астронома. Лорд Рис является одним из основателей Центра по изучению экзистенциальных рисков, который объединяет учёных, философов и разработчиков ПО.
Кэтлин Ричардсон (Kathleen Richardson, КР) — антрополог, специализирующийся на роботах; получила докторскую степень в Кембридже и недавно защитилась также в Университетском колледже Лондона. Она пишет книгу о репрезентативных моделях — о том, как они влияют на наше мышление о роботах в качестве потенциальных друзей и врагов.
Дэниэл Уолперт (Daniel Wolpert, ДУ) из Королевского исследовательского общества — профессор инженерного факультета Кембриджского университета. Он занимается биоинженерией и в особенности механизмами, которые контролируют взаимодействие мозга и тела. В центре внимания его исследовательской группы находится движение, которое «имеет центральное значение для всех видов человеческой деятельности». 
Итак, вопросы и ответы.
Чем роботы могут быть для нас полезными?
МР: Роботы способны выполнять самые разные задачи. Во-первых, они могут работать в местах, до которых человеку не добраться, — например, при ликвидации последствий аварий в шахтах, на буровых и АЭС. Во-вторых, и это тоже не очень популярная среди людей работа, автоматы могли бы оказывать помощь пожилым людям и инвалидам в их повседневной жизни: завязывать шнурки, стричь ногти. Более того, миниатюрные роботы могли бы проникнуть внутрь нашего организма, чтобы следить за нашим здоровьем, проводить хирургические операции и т. д.
КР: Человеческие возможности ограничены, вот тут-то нам и пригодились бы роботы — например, в исследовании и освоении космического пространства. А что касается помощи пожилым и слабым, то эти обязанности мы могли бы выполнять и сами. Вопрос можно поставить так: из-за чего мы хотим, чтобы ту или иную работу за нас выполняли роботы?
ДУ: Хотя компьютеры научились побеждать шахматных гроссмейстеров, ни один робот не сравнится с ловкостью пятилетнего ребёнка. Сегодняшнюю робототехнику можно сравнить с компьютерами 1960-х: это дорогие машины, используемые в простых, повторяющихся промышленных процессах. Но со временем компьютеры превратились в смартфоны, и аналогичная судьба ждёт роботов: они будут везде, они будут разных размеров, они возьмут на себя выполнение повседневных задач и даже станут нашими партнёрами. 
Когда искусственный интеллект превзойдёт человеческий?
МР: Пока у нас то пусто, то густо. Лет тридцать назад появилась возможность впервые сравнительно дёшево купить арифметическую машину, которая считает быстрее, чем мы, а уже в 1990-х компьютер IBM Deep Blue победил чемпиона мира по шахматам Каспарова. Совсем недавно Watson, другой компьютер той же фирмы, выиграл у людей в телевикторине, где вопросы задавались обычным человеческим языком. Но в то же время роботы до сих пор не умеют воспринимать окружающую среду так, как это делает ребёнок, — например, распознавать шахматные фигуры на реальной, а не виртуальной доске. Уже к концу века они научатся и этому, и человеческим чувствам. Возникнут сложные нравственные вопросы. Мы принимаем как должное, что человеку и животному необходимо реализовать свой «естественный» потенциал. А как быть с роботами? Должны ли мы чувствовать свою вину за то, что эксплуатируем их? Должны ли мы беспокоиться, если они заняты неполный рабочий день, если они обижены, если им скучно?
КР: Как антрополог я сомневаюсь в объективном существовании человеческого интеллекта. Как его измерить — это решает конкретная культурная традиция. У каждого поколения свои представления о том, что значит быть человеком, какие качества уникальны для человека и т. д. Потом появляется машина, которая тоже обладает подобным качеством, и возникает опасение, что человечество вот-вот будет уничтожено. Это можно назвать современной формой анимизма — древних представлений о том, что все природные и искусственные объекты одушевлены. Мы по сей день видим лица и мистические фигуры в облаках и бутербродах с мармитом. Страх перед роботами и машинами говорит нам больше о том, что мы боимся друг друга, а не техники. Нам лишь кажется, что проблема в машинах, и из-за этого мы преувеличиваем их возможности.
ДУ: В определённом смысле это уже произошло. Машины научились управлять самолётами, запоминать и искать информацию намного лучше, чем люди. В то же время ещё нет машин, способных идентифицировать визуальные объекты и речь с надёжностью и гибкостью человека. Без этих способностей невозможно рассуждать творчески и формулировать новые проблемы, то есть обладать реальным человеческим интеллектом. Я бы не стал ждать, что машина с творческим интеллектом, близким человеческому, появится в течение ближайших 50 лет. 
Стоит ли бояться прогресса в области искусственного интеллекта?
МР: Беспокоиться стоит только футурологам, которые уверовали в так называемую сингулярность, когда роботы получат контроль над собой и научатся создавать ещё более сложное потомство. Озабоченность вызывает также возрастающая зависимость человека от компьютерных сетей, которые однажды превратятся в единый «мозг» с сознанием, подобным нашему, и с целями, идущими вразрез с интересами человечества. Полагаю, мы должны позаботиться о том, чтобы роботы остались специалистами в какой-то одной области и были лишены способности перехитрить человечество, даже если они намного превосходят нас с точки зрения счёта и обработки информации.
КР: Надо спросить, почему сохраняется страх перед искусственным интеллектом и роботами, хотя никто пока не устроил восстание и не оспорил человеческое превосходство. Дабы разобраться, что стоит за этими страхами, надо осмыслить науку и технику как носителей специфической и исключительной разновидности мимесиса, то есть подражания. Наделяя машины и роботов искусственным интеллектом, мы создаём копии людей. Часть того, что мы копируем, имеет отношение к физическому миру творца, в дополнение к чему создатель вкладывает в машину идеи, технические средства и методы работы, данные культурным духом (наукой, техникой, самой жизнью) текущего момента. Все эти факторы сливаются воедино, и таким образом возникают искусственный интеллект и роботы. Почему же нас так пугает эта копия? Не все боятся восстания роботов, многие приветствуют машинный интеллект и видят в нём чудесную возможность создания новой жизни. Следовательно, чтобы понять, почему одни боятся, а другие приветствуют, надо разобраться с тем, какие виды мимесиса используются в создании роботов.
ДУ: Мы уже знаем, какой вред могут причинить простейшие формы искусственного самореплицирующегося интеллекта: я говорю о компьютерных вирусах. Но в данном случае реальный интеллект — это их зловредный создатель. Важнее всего то, что польза от компьютеров перевешивает вред от вирусов. По аналогии можно предположить, что роботов тоже будут эксплуатировать не всегда правильно, но польза от них перевесит негативные аспекты. По-моему, имеет смысл беспокоиться по поводу того, что однажды интеллект роботов обгонит человеческий и что роботы научаться проектировать и производить более сложных роботов, чем они сами. 
Помогут ли роботы колонизировать другие планеты?
МР: К концу века вся Солнечная система — планеты, их спутники и астероиды — будет изучена и нанесена на карту флотилиями крошечных роботизированных аппаратов. Следующим шагом станет добыча полезных ископаемых из астероидов, что позволит создавать огромные сооружения прямо в космосе, без необходимости доставки сырья и комплектующих с Земли. Станет возможным производство изделий невиданных размеров: гигантских телескопов с зеркалами толщиной с паутинку, собранных в условиях невесомости, солнечных коллекторов и так далее. Я считаю, это более реально и безобидно, чем так называемое терраформирование планет, которые необходимо сохранить в статусе нашей Антарктиды (по крайней мере до тех пор, пока мы не убедимся, что там нет никаких форм жизни).
КР: Мне не очень нравится слово «колонизировать», о чём бы ни шла речь — о людях или роботах. Европейцы колонизировали земли других народов и несли с собой рабство, проблемы, заболевания, страдания. На Земле или на Марсе — всюду мы должны действовать, исходя из интересов Другого, то есть не навязывать конкретную модель, а идти Другому навстречу. Роботы могут помочь нам добраться до таких мест, куда мы сами не дойдём, но эти роботы не должны интерпретировать за нас то, что они там увидели.
ДУ: Я не вижу острой необходимости колонизировать другие планеты, пока мы не научимся привозить оттуда ценные ресурсы на Землю. Нам всё ещё недоступна львиная доля родной планеты. Пусть роботы собирают ресурсы поближе к дому. 
Что можно почерпнуть о роботах из научной фантастики?
МР: Я говорю студентам, что лучше читать хорошую фантастику, чем второсортную научную литературу: это интереснее, а вероятность ошибки в прогнозах примерно одинакова. Даже те из нас, кто не верит в сингулярность к середине века, ожидают постоянного, если не возросшего, потока инноваций в области био- и нанотехнологий, а также в информатике. Наверное, через несколько столетий появятся роботизированные существа со сверхчеловеческим интеллектом. Постчеловеческий интеллект (в органической форме или в виде автономно развивающихся артефактов) создаст гиперкомпьютеры, производительности которых хватит для моделирования живых существ и даже целых миров. Возможно, уйдут в прошлое кино и компьютерные игры, ведь будут создаваться виртуальные миры, по сложности сопоставимые с нашим. Не исключено, что такой сверхинтеллект уже существует во Вселенной.
КР: Художественная литература, в том числе научная фантастика, очень важна для нашей жизни. В западной культуре принято считать, что реальность — это одно, а вымысел, воображение — что-то другое. Далеко не во всех культурах это так. Наука и техника разделили одно и другое, потому что им надо было обозначить область своих интересов. Тем самым они принизили значение таких важных систем знания, как мифы и метафоры. Но барьеры невелики, и два мира время от времени сталкиваются. Иногда нам нужны они оба, чтобы увидеть всю картину. Может быть, поэтому мы перестанем бояться своих собственных копий.
ДУ: Научная фантастика очень часто замечательно предсказывала будущее. Артур Кларк писал о спутниковой связи, а коммуникаторы из «Звёздного пути» уже выглядят примитивно по сравнению с нынешними мобильными телефонами. Научная фантастика ярко изобразила варианты возможного будущего. Мы видели как симпатичных и полезных роботов («Звёздные войны»), так и антиутопическое общество («Я, робот»). Что интересно, практически ни один из этих вариантов не обходится без роботов.
Источник