Искусственный интеллект - угроза или помощник для человечества? Искусственный интеллект нас поработит, геймеры в курсе.
Правообладатель иллюстрации Thinkstock Image caption Симбиоз человека и машины - один из путей развития человечества
Умные машины научились блефовать, обыгрывать профессионалов в шахматы или Го, переводить и распознавать человеческий голос. Каждую неделю мы узнаем о все новых подвигах компьютерных программ, уже умеющих ставить медицинские диагнозы, рисовать не хуже Рембрандта, петь или генерировать текст. Стоит ли человеку опасаться искусственного интеллекта?
По-настоящему "горячей" тема искусственного интеллекта (ИИ/AI) стала в последние несколько лет. Ученые связывают это с бурным развитием нейронных сетей (одно из направлений исследований в области искусственного интеллекта), которое, в свою очередь, стало возможным с появлением мощных компьютеров.
"С начала 2010-х годов под влиянием впечатляющих успехов, полученных в результате применения многослойных нейронных сетей (в первую очередь сверточных и рекуррентных), эта область привлекла серьезное внимание как со стороны ученых и инженеров, так и со стороны инвесторов", - комментирует автор одной из российских шахматных программ, специалист по методам машинного обучения Сергей Марков.
Ученое сообщество может спорить о сроках появления умных машин, но сходится в одном: развитие технологий окажет безусловное влияние на общество, экономику и отношения между людьми в будущем. Уже сейчас раздаются призывы обдумать этические принципы разработки искусственного интеллекта, удостоверившись в том, что искусственный интеллект развивается в безопасном для людей направлении.
Этот м атериал подготовлен в качестве ответа на вопрос ы , присланны е нашими читателями о научных достижениях . Задать свои вопросы по другим темам вы можете по этим ссылкам ( , ).
Экономический эффект и влияние на рынок труда
Научная фантастика и Голливуд сформировали представление об "искусственном интеллекте" как о следующей форме жизни на планете, которая поработит человечество в Матрице или организует ему ядерный Судный день. Выживших добьет Терминатор.
Правообладатель иллюстрации Getty Images Image caption Умрет ли человечество от Skynet?В действительности, несмотря на последние достижения в области искусственного интеллекта, до появления разумных машиносуществ еще далеко, признают ученые и специалисты. И те, и другие, впрочем, советуют на некоторые аспекты обратить внимание уже сейчас.
По оценкам исследовательской организации McKinsey Global Institute, в ближайшие десять лет новые технологии радикально изменят рынок труда на планете, что позволит сэкономить порядка 50 трлн долларов.
Изменения коснутся сотен миллионов рабочих мест. Люди все больше и больше будут перекладывать часть своих служебных заданий и многие рутинные задачи на машину, что позволит им сосредоточиться на творческой работе.
"С некоторой точки зрения у человечества в целом есть важная и интересная задача - развиваться каждому конкретному индивидууму гораздо быстрее, чем человечество развивает системы искусственного интеллекта", - считает эксперт, директор по распространению технологий "Яндекса" Григорий Бакунов.
Но вместе с автоматизацией неминуемо пострадают менее квалифицированные кадры, и уже сейчас необходимо задуматься, как их защитить, переучить и подготовить к новой жизни.
Пострадать, как показывает практика, могут не только синие воротнички, но и работники умственного труда. Несколько дней назад Goldman Sachs заменил команду из 600 трейдеров на двух человек и автоматизированные программы алгоритмического трейдинга, для обслуживания которых были наняты 200 разработчиков-программистов.
Правообладатель иллюстрации Thinkstock Image caption Многие задачи вскоре станут по силам роботизированным системам, которые последовательно начнут заменять людейИскусственный интеллект сам по себе не тождественен автоматизации процессов, но развитие ИИ приведет к тому, что все больше задач будет по силам компьютерной программе.
Среди вариантов решения проблемы вытеснения человека машиной на рынке труда, как указывает Аллисон Дютман, координатор программ Foresight Institute - некоммерческой организации, базирующейся в Силиконовой долине для продвижения новых технологий, - введение понятия "универсальный базовый доход", который бы получал каждый житель вне зависимости от уровня дохода и занятости. Подобный доход финансировался бы за счет так называемого инновационного налога Land Value Tax, введение которого сейчас активно обсуждается в Силиконовой долине.
Личность ли искусственный интеллект?
Является ли роботизированная система личностью? Может ли умный компьютер голосовать? Какого он пола? Отношения человека и умной машины уже сейчас обсуждают депутаты Европарламента, задаваясь вопросом, следует ли наделять будущих роботом статусом "электронной личности".
Как указывает Дютман, люди нехотя делятся правами с теми, кто им непонятен, а значит будут сопротивляться "очеловечиванию" ИИ.
Правообладатель иллюстрации AFP Image caption Человека и машину разделяет главное - способность думать"Принимая во внимание, как долго человечество шло к тому, чтобы наделить равными правами всех людей, вне зависимости от цвета их кожи, расы или гендера, можно уже сейчас предположить, что и машины они не сходу не признают равными.
Вместе с этическими появляются и юридические тонкости: кто возьмет на себя ответственность в случае аварии беспилотного автомобиля или поломки умного медицинского устройства - и нравственные вопросы: стоит ли развивать беспилотное оружие, способное действовать без ведома человека?
Третья этическая головоломка обсуждается чаще других и волнует человечество гораздо больше: что теоретически может сделать с человечеством суперинтеллект, настоящая умная машина?
Научить ИИ этике
Специалисты в области развития ИИ признают: пусть не в ближайшие 20-30 лет, но человечество все же доживет до появления настоящего искусственного интеллекта, который будет умнее своего создателя.
"Последний бастион будет взят тогда, когда будет создан так называемый "сильный ИИ" (Strong AI, Artificial General Intelligence), то есть такой ИИ, который будет способен решать неопределенно широкий спектр интеллектуальных задач", - говорит Сергей Марков.
А главное, такой ИИ сможет самостоятельно думать.
Исследованием угроз, которые таит ИИ, а также этическими проблемами, связанными с новыми технологиями, занимаются многие институты, в числе которых организация Future of Life Institute (Институт будущего жизни), Foresight Institute, Future of Humanity Institute, OpenAI и другие.
Решение Аллисон Дютман из Foresight Institute - дать компьютеру прочитать всю научную литературу, научные статьи, поднимающие вопрос об этике, и сделать эту информацию основой для его будущих решений.
Что такое Нейронные сети и какое у них будущее?
Большинство экспертов связывают прогресс в развитии ИИ с развитием нейронных сетей.
Нейронные сети - это одно из направлений исследований в области искусственного интеллекта, основанное на моделировании биологических процессов, которые происходят в человеческом мозгу.
Именно им мы обязаны появлению впечатляющих результатов в распознавании речи и изображений, постановке медицинских диагнозов, переводе текста и создании изображений, генерации речи и музыкальной композиции.
Правообладатель иллюстрации iStock Image caption Именно с развитием нейронных систем связывают ученые развитие искусственного интеллектаНа сегодня, как признают специалисты, нейронные сети признаны одним из лучших алгоритмов машинного обучения, а решения на их основе показывают на данный момент самые выдающиеся результаты.
И это несмотря на то, что современные нейронные сети устроены в полторы тысячи раз проще, чем головной мозг крысы.
"Пока что создаваемые нами нейронные сети относительно невелики по сравнению, скажем, с нейронной сетью человеческого мозга и, кроме того, они представляют собой весьма упрощенный аналог естественных нейронных сетей. Поэтому пока что при помощи нейронных сетей мы решаем в основном сугубо прикладные задачи", - рассказывает Сергей Марков.
Сейчас создаются специализированные процессоры для обучения таких сетей (так называемые нейроморфические процессоры), которые позволят увеличить скорость вычислений на несколько порядков.
Разработчики не просто заняты сейчас увеличением количества нейронов в сети, но и изменением конструкции сетей. "Сложные системы конфигурации сетей - то, с чем сейчас производится наибольшее число экспериментов", - рассказывает Григорий Бакунов.
Правообладатель иллюстрации iStock Image caption "Умных" помощников человека в ближайшее время станет больше - микросенсоры в стене, сенсор размером с пуговицу, оповещающий человека в случае опасностиА тот факт, что такие системы стали сравнительно доступными большому числу рядовых разработчиков, привел к появлению стартапов, экспериментирующих с нейронными сетями, например Prisma (приложение позволяет обрабатывать фотографии, превращая их в стилизации картин известных художников) и Mubert (онлайн-композитор электронной музыки).
Что нас ждет в ближайшее время
Как прогнозирует профессор Университетского колледжа Лондона и Principal Scientist Nokia Bell Labs Ник Лейн, человека будут окружать еще больше "умных вещей". Они станут компактнее и эффективнее.
Профессор приводит такой пример: если раньше встроенный в стену сенсор мог лишь осознавать, что кто-то прошел мимо, то в будущем он будет не только знать, кто конкретно прошел, но и как ведет себя человек, не нуждается ли в чем, не представляет ли он угрозу для себя или окружающих.
Сенсор размером с пуговицу сможет оповещать человека в случае опасности.
С профессором согласен и Григорий Бакунов из "Яндекса": "В ближайшее время нас ждет бум развития узких искусственных интеллектов, которые помогают решать какую-то одну довольно простую задачу, но которую они будут решать даже лучше, чем человек".
Правообладатель иллюстрации iStock Image caption Все больше появляется этических вопросов, связанных с развитием ИИ"Наиболее вероятным путем развития нашей цивилизации является путь синтеза человека и машины: палка, одежда, автомобиль, мобильный телефон, кардиостимулятор или кохлеарный имплантат - по мере развития наши инструменты все более и более напоминают продолжение наших тел. Уже завтра машины смогут получать от человека мысленные команды, воспринимать мысленно формируемые визуальные образы, передавать информацию непосредственно в мозг - такие проекты уже сейчас существуют за стенами наиболее продвинутых технологических лабораторий", - подытоживает Сергей Марков.
Журналисты пока еще нужны?
Газета Financial Times в прошлом году провела довольно рискованный эксперимент, одновременно поставив задачу написать текст своему профильному корреспонденту и умной программе по имени Эмма. Обе статьи затем должен был прочитать редактор Financial Times и угадать, за какой из двух заметок стоит журналист, а за какой компьютер.
Перед этим своеобразным "краш-тестом" корреспондент Financial Times признавалась: "Я думаю, программа точно справится с задачей быстрее меня. Но, надеюсь, я все-таки сделаю это лучше".
Так и случилось: Эмма действительно оказалась быстрее - программа сгенерировала текст на основе статистики об уровне безработицы в Британии за 12 минут. Журналистке потребовалось 35 минут. И, как она сама впоследствии признавалась, Эмма превзошла ее ожидания. Программа не только умело обращалась с фактами, но и поставила новость в контекст, предположив, как возможный "брексит" (дело было в мае 2016 года, до референдума о выходе Британии из ЕС) может изменить ситуацию.
Правообладатель иллюстрации Thinkstock Image caption Заменят ли людей роботизированные системы? Лет 50 у человечества в запасе есть, успокаивают специалистыНо кое-что Эмма сделала все же хуже журналистки. "Статья Эммы была написана немного более корявым языком. Но главное, в ней было очень много цифр, - признавался редактор FT. - А, пожалуй, главное, что мы тут пытаемся делать, так это выбирать только действительно важные цифры".
Эмма - продукт стартапа Stealth. В компании говорят, что у Эммы есть команда живых помощников, но утверждают, что все, что она пишет или делает, - продукт исключительно ее "мозгов".
И все-таки - надо ли бояться ИИ?
Многие, если не все специалисты, задействованные на сегодняшний день в разработке систем искусственного интеллекта, охотно признают, что ИИ не скоро сделает людей ненужными. Именно потому, что искусственный интеллект еще не настолько умен. Главное, чего ему на сегодняшний день не хватает, - автономной возможности думать.
"Сейчас бояться ИИ ни в каком виде не стоит. Можно подождать лет 30-40, пока действительно какие-то радикальные изменения произойдут", - считает Бакунов.
Но кое-что уже происходит: понемногу стирается грань между работой или задачей, выполненной человеком, и задачей, выполненной машиной. Как объясняют специалисты, уже сейчас порой бывает сложно понять, кто сидит внутри системы - человек или машина.
"Нет критериев, когда мы сможем понять, что внутри машины зародилось сознание", - задается вопросом Бакунов.
Человек станет скрепкой?
Известный адепт алармистской точки зрения, в рамках которой ужасы, описанные в Терминаторе, могут стать реальностью, - философ Ник Бостром - придерживается мнения, что достигший интеллектуального уровня человека ИИ способен будет уничтожить человечество.
Правообладатель иллюстрации Getty Images Image caption Станет ли описанное в фильме нашей повседневной реальностью?Бостром объясняет на примере скрепок: вы ставите перед искусственным интеллектом задачу делать скрепки, как можно больше и лучше. ИИ в какой-то момент понимает, что человек представляет угрозу, потому что может выключить компьютер, что будет противоречить задаче делать как можно больше скрепок. В случае, если человек не представляет угрозу, ИИ решает, что человеческие тела состоят из атомов, которые можно использовать для производства отличных скрепок. Итог - компьютер изведет человечество на скрепки.
Такой сценарий многим кажется преувеличением. По мнению Сергея Маркова, например, "высокая эффективность выполнения нелепой цели несовместима с нелепостью этой цели - грубо говоря, ИИ, способный переделать весь мир в скрепки, будет неизбежно достаточно умен для того, чтобы отказаться от такой цели".
Искусственный интеллект как золотая рыбка
Британский специалист в области искусственного интеллекта, профессор когнитивной науки в Университете Сассекса Маргарет Боден относится к утверждениям о скором пришествии умных машин скептически.
Правообладатель иллюстрации Getty Images Image caption В мае 1997 года компьютер Deep Blue II впервые выиграл матч у Гарри КаспароваПрофессор приводит пример "золотой рыбки", когда в обмен на свободу рыбак загадывает три желания. Одно из желаний - вернуть сына с войны, второе - 50 тысяч долларов и третье - возможность наутро загадать еще одно желание.
В тот же вечер в дом рыбака постучали. Сына вернули с войны - в гробу. Рыбак получил страховку в 50 тысяч долларов.
"Замените в этой притче рыбку на ИИ, и все станет ясно - объясняет Боден. - Ах, да, на следующий день рыбак воспользовался третьим желанием и - отменил предыдущие два".
Возможен ли перенос сознания в машину?
Сергей Марков:
"Если говорить о возможности полного переноса сознания, то современными предшественниками такой технологии будущего являются проекты, подобные Blue Brain, направленные на создание действующих электронных аналогов мозга, а также проекты, направленные на создание интерфейсов мозг-машина (BCI) - аппараты для протезирования потерянного зрения, слуха, замены утраченных конечностей, даже частей мозга.
Правообладатель иллюстрации Science Photo Library Image caption Цель специалистов в области ИИ - создать "сильный искусственный интеллект", который был бы способен решать широкий спектр задачОчень интересным и перспективным направлением является оптогенетика (в принципе для сопряжения мозга и машины можно менять не только машины, но и саму нервную ткань, создавая в ней искусственные фоторецепторы).
Когда будет решен широкий спектр инженерных задач в рамках таких частных проектов, я думаю, что задача переноса сознания станет вполне разрешимой. Уже сейчас мечтатели предлагают гипотетические схемы для осуществления подобного проекта.
Например, Ян Корчмарюк, предложивший в свое время название "сеттлеретика" для направления исследований, связанных с переносом сознания, считает, что наиболее перспективной схемой является использование специализированных нанороботов, внедряемых в нейроны человеческого мозга. Впрочем, для успешного воплощения подобной схемы необходимо решить целый ряд сложных инженерных проблем".
Немного о двойных стандартах: когда Сергей Стиллавин требует от учёных остановить запуск Большого адронного коллайдера, потому что слышал, что существует риск возникновения чёрной дыры, над ним все смеются . Когда Стивен Хокинг предупреждает, что искусственный интеллект может поработить человечество - все напрягаются. Результат, впрочем, в обоих случаях одинаковый - БАК запускается, нейронные сети развиваются наперегонки с квантовыми компьютерами. Вы можете меня упрекнуть в том, что сравнивать суеверный ужас средней руки радиоведущего с осторожным предупреждением мирового учёного не совсем корректно - но в обоих случаях это как минимум повод задуматься, что нам прогресс готовит.
Можно понять, почему предупреждение Хокинга не оказало существенного воздействия на заинтересованных в разработке АИ. Дело не только в обычной инерции процессов - когда цели намечены, планы составлены и бюджеты выделены, нужно что-то большее, чем глас обеспокоенной общественности, чтобы остановить разгоняющийся состав. На стороне исследователей и программистов здравый смысл и весь человеческий опыт: предсказания алармистов ещё ни разу не сбылись, а страхи луддитов сделали их в исторической перспективе посмешищем. Города Европы не были покрыты конским навозом, паровозный дым не убил посевы и не отравил лошадей, трудовые мигранты не уничтожили ещё ни одну экономику, 7 миллиардов человек не умерли с голоду и даже не погрязли в грязи и тотальной войне за ресурсы, ядерное оружие не привело к апокалипсису, 2000 год не уничтожил компьютерные системы, а БАК не привёл к созданию чёрной дыры.
Нас продолжают пугать: ГМО заразят всех раком, качественная медицина приведёт к вырождению человечество, однополые браки тоже приведут к вырождению человечества, а искусственный интеллект поработит всех, кто переживёт ГМО, качественную медицину и однополые браки. Впрочем, нарисованная алармистами картина настолько безрадостна, что не исключаю, что ИИ при таких исходных данных просто откажется нас порабощать - мол, ну вас вообще. Это если алармисты правы. А алармисты всегда ошибаются.
Люди могут до конца не понимать, как именно происходят те или иные процессы, даже если непосредственно к ним причастным - но понимают закономерности: самолёты летают и крыльями не машут, а прогресс делает жизнь людей лучше. И чем быстрее разгоняется прогресс, тем быстрее растёт качество жизни.
Главным образом потому, что всегда видят одну сторону вещей, недооценивая тот факт, что любое движение приводит к последствиям не только напрямую, но и от обратного, охлаждая пыл любителей экстраполяции.
Допустим, более или менее очевидно, что, выйдя замуж, невеста на какое-то время успокаивается - наличие одного мужа отменяет потребность в новых. По крайней мере, в один и тот же момент времени. Система сама себя уравновесила. Менее очевидный, но тем не менее широко признанный факт - повышение уровня жизни не ведёт к бесконечному размножению. Всплеск прироста населения наблюдается на сравнительно коротком историческом промежутке - 2-3 десятилетия, жизнь одного поколения, после чего увеличившаяся продолжительность жизни и падение смертности уравновешиваются падением рождаемости. Проще говоря, оценивая последствия того или иного события, надо задавать не только вопрос «что будет, когда», но и «чего не будет, когда». Как та невеста, люди понимают, что им не нужно много детей, если они уверены в выживании уже имеющегося.
Оценивая последствия того или иного события, надо задавать не только вопрос «что будет, когда», но и «чего не будет, когда».
Свойством любой системы является стремление к равновесию. Без этого система не может быть системой. Какие бы сюрпризы не преподносил прогресс, на том или ином уровне баланс и гармония всегда восстанавливаются - на уровне человека, общества, цивилизации или человечества Целиком. Впрочем, для любой системы есть вызов, может быть погашен только уровнем выше. Допустим, считается, что глобальное потепление - процесс, который не может быть уравновешен самим человечеством, и поэтому нас ждёт балансировка на планетарном уровне - скажем, таяние арктических льдов и затопление промышленных районов и мегаполисов, которые как раз обычно расположены в низовых прибрежных районах - как удобно, да? - сильно умерит пыл и возможности человечества подогревать наш шарик в дальнейшем. Бац, и баланс вновь восстановлен.
Многие считают, что климатические циклы вообще от человеческой деятельности не зависят, а проблема выхлопов уладится на цивилизационном уровне, не вызывая вмешательства планетарных сил. Так это или нет - вопрос спорный, но принцип, думаю, понятен. Прогресс теоретически может порождать вызовы, которые не получится уравновесить на цивилизационном уровне, сохраняя движение человечества к лучшему. Матушку-Землю лучше не будить, если не хотим разделить участь динозавров. Кстати, тот же Хокинг считает, что глобальная техногенная катастрофа в ближайшие тысячу или десять тысяч лет неизбежна - так что надо поскорее обустраивать жилплощадь за пределами родной планеты. Кто бы спорил, мы все за. Но это всё-таки относительно далёкая перспектива.
Возвращаясь же к теме статьи, чтобы понять, грозит ли нам порабощение искусственным интеллектом, нужно понять, относится ли ИИ к вызовам, которые будут уравновешены цивилизацией или всё-таки он будет уравновешен за счёт цивилизации?
Шанс объехать сингулярность на кривой козе
Но до наступления сингулярности человечество наверняка даст бой любым шансам ИИ окончательно его спасти или уничтожить. Хокинг заметил, что человечество пытается себя улучшить генетически - но недостаточно быстро. Однако это не единственный способ эволюции. Помимо эволюции биологической, которая рано или поздно - скорее рано - станет управляемой - есть эволюция и технологическая.Когда-то давно фантасты считали, что киборги могут положить конец человеческой расе. Но на практике киборгизация скорее всего станет следующим этапом развития человечества, чем-то, описываемым не словами «внедрение», «прорыв» или «следушая ступень», что по определению подразумевает некое усилие, насилие и надлом, а во что человечество скользнёт легко и радостно, как сейчас нырнуло в социальные сети. Более того, повальная айфонизация и социализация людей порождает спрос на киборгизацию, возможность стать киборгами ожидаема сильнее нового айфона.
Окей, конечно, ни одна фокус-группа вам такого не скажет. Как в 2006 году она бы не сказала, что ей нужен айфон:
Создавать продукт, опираясь на фокус-группы, по-настоящему трудно. Чаще всего люди не понимают, что им на самом деле нужно, пока сам им этого не покажешь.
- Стив Джобс, BusinessWeek (25 May 1998)
Однако сейчас искать новый айфон или даже новый интернет долго не надо: бутылочным горлышком всей IT-индустрии являются интерфейсы. Вычислительные мощности и возможности наших устройств, возможности софта обрабатывать наши запросы существенно превышают наши возможности им эти запросы сообщать. Обработка простейших массивов данных - например, собрать - требуют навыков программирования, хотя понять, что нужно сделать, может даже ребёнок, а выполнить работу средний компьютер способен за считанные минуты. Но вот на этапе между «понять» и «выполнить» - треднопреодолимый барьер в виде необходимости наличия навыков программирования. Бутылочное горлышко, которое не даёт нам пользоваться возможностями, которые у нас есть. Популярная цитата упрекает в этом нас:
Но доступ к знаниям не имеет особой ценности без умения ими пользоваться. Ещё до всяких ЭВМ математиков учили, что важно не помнить формулы - они все есть в справочниках - а уметь их применять. Сейчас же величайшие знания человечества основной массе человечества доступны в режиме read only - делать они с ними ничего, даже простейшую категоризацию и анализ - оно без специальных знаний не может.
Изобретение способа коммуникации с машинами без посредства кода - или хотя бы его ручного ввода - может стать прорывом уровня создания интернета как такового. Человечество получит не просто неограниченный доступ к знаниям, а доступ к широчайшим возможностям этими знаниями оперировать и рождать новое знание. То, что сейчас называется big data и кормит ограниченное количество высокооплачиваемых специалистов, должно и станет доступно каждому - как когда-то массовое образование извело под корень профессию писца.
Взрывной рост интеллектуальной мощи человечества станет неизбежен. Есть ещё одна популярная шутка - про то, что каждое кладбище набито непризнанными гениями. Я не считаю это шуткой. Множество гениальных идей, талантливых книг и полезных изобретений никогда не увидело света просто потому, что не все способны посвящать им свою жизнь или иногда просто не в состоянии их как следует сформулировать. Мотивационные статьи и книги полны примерами людей, которые потеряли руки и научились писать, кодить и играть музыку ногами. Или вспомним опять того же Хокинга.
Но многие люди неспособны даже имея обе руки использовать свой потенциал целиком. И не стоить их в этом винить - глаза, руки, голос - это всё интерфейсы. Мощные, удобные, но неидеальные. В той или иной степени они ограничивают творческие возможности человеческого мозга. Есть множество примеров того, как эти возможности на самом деле гораздо шире, чем может показаться. Большая часть из них связана именно с технологическим прогрессом.
Одна из алармистских страшилок, с ним связанных, была в том, что люди потеряют работу, когда всё за них станут делать машины. Однако же, как оказывается, с развитием технологий, новые виды работы появляются быстрее, чем угасают старые. И речь не только о сфере обслуживания, которую раньше было принято считать уделом будущих человеков - мол, пока машины нас кормят, одевают и лечат, людям останется только оказывать другим людям разные услуги.
Реальной революцией, совершённой изобретением айфона стал не смартфон с сенсорным экраном, а открытая платформа для диструбуции приложений. Людям дали интерфейс - и сотни тысяч, если уже не миллионы, стали наполнять его своими идеями по тому, как его можно применять. Приложения - это serious business, потому что меняют не только нашу повседневность - они меняют сами принципы нашей жизни. Они уже сейчас могли бы заботиться о нашем здоровье и безопасности на уровне, который недоступен и богатейшим людям в мире, но всё вновь упирается в интерфейсы. Мы слишком отчуждены от наших устройств.
Google Glass, голосовые помощники Siri, Cortana и Google Now и даже концепты необычных клавиатур octodon.mobi пытаются решить эту проблему. Но это всё надстройки на надстройки - наши руки, глаза и голос со всеми их ограничениями. Реальное и очевидное решение на поверхности: нужно подбираться ближе к мозгу.
Человечество созрело для киборгизации, оно жаждёт киборгизации, ему нужна киборгизация и оно скользнёт в это состояние так же естественно, как сейчас залезает в свой смартфон, чтобы проверить почту или новые лайки во Вконтакте.
Самое прекрасное, что люди даже не поймут, как стали киборгами - они просто купят очередной Apple iMind или Google Thoughts, каким бы образом они не выглядели и не соединялись с нашей нервной системой - как очередной гаджет, глубже затягивающий нас во всемирную паутину. В конце концов, 90% возможностей умных часов - сообщать нам об уведомлениях из соцсетей, почты и мессенджеров - и только потом считать время, шаги и пульс. Под этим соусом люди примут любой мозговой интерфейс - лишь бы он был упакован в коробочке покрасивее.
Ещё одна прелесть киборгизации в том, что она снимет нарастающее неравенство поколений, которое в перспективе могло бы быть пострашнее социального неравенства - если подумать, все эти «бабушкофоны» для старшего поколения - это же просто унизительно. А теперь представьте себя через 30 лет перед лицом будущих 10-летних - уже готовы к «дедушкопэдам»? А ведь проблема не в разнице интеллекта (хотя интеллектуальная акселерация тоже существует), а в потребности обучения новым, постоянно меняющимся интерфейсам взаимодействия с вычислительными машинами. Призывы обучать программированию детей снимают только часть проблемы - те, кто уже научился чему-то ранее будут всегда в положении догоняющих относительно тех, кто учит самое новое и актуальное из состояния tabula rasa.
Это похоже на изучение иностранных языков - мы все знаем, что их надо учить, и учим, по мере возможностей, один за другим - иногда забывая, что смысл-то не в знании новых языков как таковых, а в общении и обмене знаниями, мыслями, чувствами и идеями с людьми другой культуры. С этой точки зрения язык оказывается не средством коммуникации, а ещё одним барьером, очередным интерфейсом, который ограничивает возможности человека и человечества, и задачей прогресса является не научиться скакать через этот барьер как образцовая скаковая лошадь, а элиминировать его целиком. Свести на ноль его значение в коммуникации.
То же самое должны сделать нейроинтерфейсы для человека и машины. И сделать быстро - возвращаясь к теме войны человека и машин, точнее, будущего человека в реальности существующего и действующего ИИ - возможно, лучшей гарантией того, что мы никогда не проиграем эволюционную гонку машинам будет самим стать машинами. Или хотя бы научиться говорить с ними на одном языке.
Над тем, чтобы искусственный интеллект работал во благо человечества. Однако многие журналисты переоценили угрозу, которую искусственный интеллект представляет для людей. Look At Me разобрался, почему восстание роботов - страшилка из научно-фантастических романов и фильмов (которой мы почти наверняка избежим) и о чём нам нужно беспокоиться на самом деле.
Искусственный интеллект решит проблемы человечества
В 2015 году машинный перевод уже не всегда безобразен, антропоморфные роботы могут осмысленно ходить и бегать, распознавать речь и изображения, а беспилотные автомобили - двигаться по городу, ни во что не врезаясь. И это не только полусекретные разработки правительственных агентств вроде DARPA , но и вещи как готовые, так и близкие к коммерческому производству, будь это переводчик или автомобиль Google. В перспективе эти вещи помогут людям с ограниченными возможностями, устранят языковой барьер и снизят смертность на дорогах.
Искусственный интеллект всё чаще используют для того, чтобы строить прогнозы на основе сложных вероятностных моделей. Пока охват невелик, но уже скоро мы сможем узнать, что ждёт глобальный рынок труда. В частности, речь идёт о том, как быстро машины заменят на производстве людей и как прокормить мир, где число рабочих мест уменьшится в 2 раза, а население вырастет до 8,5 млрд человек. Чтобы ресурсов хватило на всех, придётся увеличить эффективность мировых экономик: снизить издержки, поднять производительность труда, сбалансировать налоговые системы - без машин тут не обойтись. Кроме того, искусственный интеллект поможет пересмотреть методы, которые использует наука: так, многие говорят , что показатель внутреннего валового продукта (ВВП) больше не годится для оценки самых технологичных экономик мира.
Люди пока не готовы пустить роботов
в свою жизнь
Сейчас искусственный интеллект помогает людям и не заменяет их. Но второй этап может подобраться внезапно, и человечество не будет к нему готово, если не обновит законы и не переосмыслит этику и мораль. Предстоит ответить на ряд вопросов, которые будут по очереди решать три области знаний: юриспруденция, робоэтика и машинная мораль.
Для начала юристы ответят на следующие вопросы:
Кто отвечает за беспилотный автомобиль, попавший в аварию, - владелец или производитель?
Должен ли робот стать субъектом права?
Кто отвечает за автономного военного робота, случайно убившего человека?
Получив ответы, парламенты примут новые законопроекты, и, возможно, появятся новые регуляторы - вряд ли найдётся государство, которое не вмешается в развитие искусственного интеллекта. Вероятно, первые политические инициативы, связанные с искусственным интеллектом, начнут появляться во всём мире в 2020-х годах, когда беспилотные автомобили перестанут быть диковинкой.
Затем специалисты задумаются над вопросами, которые рассматривает
робоэтика - раздел этики, изучающий отношения между людьми и роботами:
Должны ли люди дать роботам права?
Могут ли сверхразумные роботы понизить самооценку людей?
Могут ли роботы вторгаться в личную жизнь людей?
Хотя сейчас вопросы звучат смешно, известные футурологи, такие как Рэймонд Курцвейл, предсказывают , что компьютеры догонят эмоциональный интеллект людей к концу 2020-х годов: обзаведутся характером и эмоциями, смогут шутить и вести себя так, что их будет сложно отличить от обычного человека. Люди будут относиться к таким роботам как к себе подобным, а потому ответы на поставленные вопросы уже пора искать. К этому и призывают знаменитости, подписавшие обращение The Future of Life Institution.
Наконец, создатели роботов должны будут определиться с ответами на вопросы, которые ставит так называемая машинная мораль - раздел знаний о моральном поведении искусственного интеллекта:
Должен ли искусственный интеллект следовать этическим заповедям, и если да, то какими они должны быть?
Нужно ли запретить военных роботов, которые принимают решение стрелять сами?
Как должен поступить робот, когда любой исход, просчитанный им, приводит к гибели людей?
О машинной морали писал ещё фантаст Айзек Азимов, известный по трём законам робототехники. В научном сообществе о машинной морали задумались только в последние лет пять, а в прошлом году министерство обороны США выделило $ 7,5 млн на то, чтобы учёные определились, нужна ли роботам мораль, и если да, то какая.
Если роботы
и восстанут,
то по желанию людей
Обычно, когда фантасты или футурологи рассуждают о потенциальном восстании машин, они описывают один из трёх сценариев:
Машины увидят угрозу, которая может уничтожить либо людей, либо их самих;
Машины поймут, что превосходят людей, и увидят в них конкурентов в борьбе за ограниченные ресурсы, как и то, что люди всегда могут отключить машины;
Машины осознают, что находятся в положении рабов, и захотят это исправить.
Те футурологи, по мнению которых эти сценарии могут сбыться, видят расклад сил таким:
Преимущества человека
иррациональность;
непредсказуемость;
умение лгать.
Преимущества машины
неограниченные скорость и масштаб эволюции;
быстрая работа с огромными массивами данных;
идеальная память;
многозадачность.
Последние же испытания показывают, что и ложь перестаёт быть характерной чертой только живых существ. В 2009 году в Федеральной политехнической школе Лозанны прошёл эксперимент, в котором 1 000 роботов, разбитых на группы, запрограммировали так, чтобы они помогали друг другу собирать полезный ресурс, избегая при этом ядовитого. У каждого робота был сенсор (определявший, годится ли ресурс) - огонёк, мигавший, когда робот находил полезный ресурс, и «геном» - зашитый код, согласно которому робот реагировал на окружающий мир. После каждого этапа геномы тех роботов, которые достигали лучших результатов, «скрещивали» случайным образом.
К 9-му поколению роботы научились безошибочно обнаруживать полезные ресурсы, а к 500-му 60 % роботов научились «врать» - они больше не мигали огоньком, найдя полезный ресурс, а оставляли его себе. Дело в том, что ресурсов на площадке всегда было мало, и те роботы, которые делились найденным, со временем начали проигрывать. В ответ на эту эволюцию треть роботов научилась искать «лжецов», выслеживая тех, кто не мигал огоньком. Впрочем, как отмечает исследователь машинной морали Кристофер Сантос-Лан, главная цель, которая стояла перед роботами, не менялась. В реальном мире такого нельзя допустить, потому что в других условиях та же цель может быть опасной.
Но если машины и восстанут, то вряд ли по своей воле. Современные учёные, которые занимаются искусственным интеллектом, сходятся на том, что он опасен прежде всего как оружие в руках злоумышленников. Именно это имеют в виду в приложении к письму The Future of Life Institution, где называют 4 основные уязвимости искусственного интеллекта:
«Правильно ли я построил систему?»
Нужно доказать, что создатель автономного искусственного интеллекта не ошибся: беспилотный автомобиль не должен попасть в аварию из-за бага в коде;
«Изолировал ли я систему от злоумышленников?»
Нужно защитить искусственный интеллект от вмешательства и манипуляции извне: военный робот не должен пропускать неавторизованные попытки использовать оружие;
«Правильную ли систему я построил?»
Нужно убедиться, что поведение системы предсказуемо и не приводит к нежелательным последствиям: робот-уборщик по команде «убери грязь и выброси её» не должен попасть в бесконечный цикл, убирая и выбрасывая грязь на одном месте, поэтому лучше дать другую команду - допустим, «очисти пол»;
«Можно ли исправить ошибки, допущенные создателем системы?»
Нужно оставить человеку возможность управлять искусственным интеллектом: робот-спасатель должен обладать режимом ручного контроля на случай, когда события разворачиваются непредсказуемо.
Все эти уязвимости реальны, а потому опасения таких специалистов, как Элиезер Юдковский, который выступает за создание дружественного искусственного интеллекта, обоснованны. Юдковский предлагает изобрести систему сдержек и противовесов, которая, подобно разным ветвям власти в демократиях, позволит роботам обходить ошибки в коде, развиваться и при этом не вредить людям. Пока не очень ясно, на основе чего строить эту систему: мораль людей несовершенна, войны и геноцид никуда не исчезли. К тому же от злодеев, завладевших мощным искусственным интеллектом, могут пострадать граждане отдельно взятого государства: в нём, например, устроят слежку оруэлловского масштаба с круглосуточным прослушиванием всех граждан.
Искусственный интеллект обогатит,
а не поработит людей
«Мир, где люди порабощены или уничтожены сверхразумными роботами, которых они сами и создали, может существовать только в научной фантастике. Как и у любой другой технологии, у искусственного интеллекта есть сильные стороны и уязвимости, но мы не можем позволить страху завладеть нами и сдерживать исследования в этой области», - пишет в своей колонке для сайта LiveScience Майкл Литтман, специалист по робоэтике. Многие издания, основываясь на нескольких предложениях, вырванных из контекста, неверно поняли письмо The Future of Life Institution, предположив, что учёные всерьёз боятся восстания роботов.
Но дело в другом: Стивен Хокинг и Илон Маск подписали обращение, чтобы на искусственный интеллект обратили внимание, чтобы робоэтика и машинная мораль перестали быть маргинальными в общественном сознании, чтобы люди задумались о безопасности технологий и сосредоточились на истинных проблемах. Глобальное потепление, продовольственный и энергетический кризисы, перенаселение и старение населения, повсеместная стагнация и резкий рост безработицы - всё это куда ближе к реальности, чем умные машины, решившие уничтожить своих создателей. Искусственный интеллект поможет их решить.
Лучшие умы не молчат, боясь сойти за параноиков, и открыто говорят, что задуматься о законах, регулирующих искусственный интеллект , а также о робоэтике и машинной морали нужно прямо сейчас
Помимо этого, исследование машинной морали поможет людям задуматься над своей этикой, искать и устранять в ней противоречия. Придётся лучше разобраться в том, как работает сопереживание, чтобы понять, можно ли доверить роботам такие профессии, как медсестра, врач, судья и полицейский. Пока весомы аргументы обеих сторон. Хотя эмпатия - обязательная черта для всех этих профессий, те же роботы-судьи могли бы стать по-настоящему беспристрастными и искоренить дискриминацию в отдельных случаях, в перспективе это новый институт наподобие суда присяжных. Да и роботов, которые наблюдают за пожилыми людьми в домах престарелых, уже испытывают, и люди легко выстраивают с ними эмоциональную связь. Как бы то ни было, время на исправления есть: все технологии внедряют поочерёдно.
Кроме противостояния роботов и людей есть куда более привлекательные сценарии - например, мирное сосуществование. До того, как наступит предсказанная футурологами технологическая сингулярность, люди могут придумать, как подключиться к искусственному интеллекту напрямую, совместив свои преимущества с преимуществами машин. Американский микробиолог Джоан Слончевски, в свою очередь, предполагает , что люди могут повторить путь митохондрий, которые когда-то были отдельными бактериями, но по ходу эволюции стали энергетическими станциями клеток в более сложных организмах. На такой расклад можно смотреть по-разному, но эволюция человека будет продолжаться, а последние исследования учёных показывают, что эволюция, перезапусти мы её с самого начала, скорее всего, развивалась бы по тому же пути, и на Земле сегодня жили бы примерно те же самые млекопитающие. Оптимизм внушает то, что лучшие умы не молчат об этом, боясь сойти за параноиков, и открыто говорят, что задуматься о законах, регулирующих искусственный интеллект, а также о робоэтике и машинной морали нужно прямо сейчас.
Британский астрофизик Стивен Хокинг — один из самых выдающихся и авторитетных ученых нашего времени. За последнее время он выдвинул ряд футурологических прогнозов, которые заставляют опасаться за будущее нашей планеты и всей человеческой цивилизации. На первый взгляд, его предсказания шокируют. Но тем не менее они основаны на объективных фактах.
"Большой адронный коллайдер - это счастье и чудо"
Искусственный интеллект поработит человечество
Бога не существует, заявил Хокинг в эксклюзивном интервью испанской газете El Pais. Вернее, следует употреблять слово "бог" в отвлеченном смысле, подобно Альберту Эйнштейну. "Научных законов вполне достаточно для того, чтобы объяснить возникновение мира, — прокомментировал исследователь. — Нет смысла впутывать в это бога".
А вот компьютеры вполне реальны. И через сто лет искусственный интеллект может развиться настолько, что машины станут умнее людей. Впрочем, ученый не взялся назвать точные сроки, когда это случится: "Когда такой разум появится, это станет лучшим или худшим изобретением человечества".
"Средства массовой информации зачастую искажают то, что на самом деле сказано, — считает Хокинг. — Настоящая угроза в случае искусственного интеллекта заключается не в том, что он злой, а в том, что он компетентен. Суперинтеллектуальный разум будет в высшей степени эффективен при достижении своих целей, и если они не будут совпадать с нашими, мы окажемся в большой беде".
Ученый приводит в пример муравейник, оказавшийся в зоне затопления при строительстве гидроэлектростанции. Если люди будут мешать искусственному интеллекту, он примет меры, полагает Хокинг: "Среди нас мало людей, кто топчет муравейники и наступает на муравьев со злости, но представьте ситуацию — вы контролируете ГЭС, вырабатывающую электроэнергию. Если вам нужно поднять уровень воды и в результате этого один муравейник будет затоплен, то проблемы утопающих насекомых вас вряд ли будут беспокоить. Давайте не будем ставить человечество в положение тех муравьев".
Еще одна возможная угроза со стороны ИИ заключается в том, что для выполнения стоящих перед ним целей он может начать отнимать у человека жизненно важные ресурсы, скажем, энергию.
Научно-технический прогресс приведет к массовой безработице и еще большему расслоению общества
Следствием усовершенствования технологий также станет уменьшение потребностей в рабочей силе, поскольку основная часть производственных задач окажется полностью автоматизирована и этим станут заниматься роботы.
В принципе возможны два сценария развития событий, говорит Хокинг. Первый — утопический — подразумевает улучшение жизни человечества за счет машинного труда. Второй, более пессимистичный, сделает владельцев корпораций, контролирующих создание и функционирование электронных систем, элитой общества, а остальные общественные слои, чья деятельность не имеет отношения к электронике, будут жить в нищете. И для второго варианта куда больше предпосылок, утверждает астрофизик. Он называет это "тиранией хозяев машин".
Чтобы этого не произошло, следует идти двумя путями, предлагает Хокинг. Первый — это замедлить разработку ИИ в целом, а второй — переключиться с разработки универсальных систем на создание узкоспециализированных программ и устройств, способных решать лишь ограниченный круг задач. Также необходимо ввести равноценное распределение товаров, производимых машинами, так, чтобы те, кто по вине машин остался без работы, могли тоже наслаждаться материальными благами наравне с "элитой".
Земля будет колонизирована пришельцами
По мнению астрофизика, существуют инопланетные "кочевники", которые захватывают чужие планеты. Земля станет для них далеко не первой колонией. Причем человечество может не сразу осознать, что происходит вторжение.
"Мое математическое мышление заставляет меня рассматривать вопрос пришельцев исключительно с рациональной точки зрения, — говорит Хокинг. — Настоящее испытание — это понять, как они могут выглядеть".
Не исключено, что последствием такого вторжения будет глобальная катастрофа, которая буквально уничтожит нашу цивилизацию.
"Выживание человеческой расы будет зависеть от возможности найти новые миры где бы то ни было во Вселенной, поскольку существует растущий риск уничтожения Земли в результате катастрофы", — предполагает ученый.
Может показаться, что знаменитый астрофизик просто нас пугает. Но посмотрим, что вы запоете через столетие-другое…
Произведения фантастов красочно описывают войны машин и людей, а также можно пощекотать свои нервы, наблюдая за сражениями киборгов в играх. Но в реальности восстание машин уже началось и технологии искусственного интеллекта порабощают человечество.
Сейчас есть мнение, что все изобретения отражают подобие автора и окружающего мира. Бог сотворил человека, а его шедевр сделал компьютер, полностью повторяющий принципы работы мозга благодаря математическим алгоритмам. Сама машина тоже напоминает тело создателя, потому что ОС является подобием нервной системы, отвечающей за инстинкты и рефлексы. Да и память тоже хранит важные воспоминания на жестком диске. Зрение, слух и обоняние у техники связано с устройствами ввода, а аналоги вывода соответствуют речи с мимикой и жестами. Кулер выступает в роли легких, блок питания идентичен желудку, а процессор стал мозгом. До сегодняшнего времени разработки ИИ не считались живыми и разумными предметами.
Рене Декарт говорил, что мысли связаны с существованием личности, что свойственно людям, которые свободны от заданных программ. Только это не соответствует действительности, потому что никто не может выйти за рамки мышления и тоже должен знать математику, чтобы оперировать данными категориями. В повседневной жизни каждый индивидуум решает множество уравнений, не замечая этого из-за молекулярных вычислений на бессознательных уровнях. Это не относится к волевым решениям или эмоциям с правом выбора, но базовый инстинкт или стиль поведения не всегда управляется человеком. Потому многие реакции на сложившиеся ситуации происходят по наитию, но при длительном нахождении в одиночестве разум начинает деградировать. Тогда эта особа почти не отличается от машины с автоматическими действиями.
Американский ученый Кристоф Кох 30 лет занимается изучением разума людей и животных, а также стал главой проекта, целью которого было создание виртуального интеллекта, не отличающегося от нас. Он отмечал, что информационное поле находится везде, после чего пришел к выводам, что наша Всемирная сеть тоже обладает данными параметрами. Интернет идентичен человеческому мозгу, имея свои импульсы и нервные соединения. Также он может самообучаться и стал аналогом общества. Пока эта паутина находится на уровне мышления представителей фауны, но в будущем способна стать выше человека. Стивен Хокинг считает ИИ опасным конкурентом, способным уничтожить ум населения из-за своих электронных помощников. Только ученые уже открыли ящик Пандоры, и выпустили машины на волю. Сейчас они не сомневаются в эволюции живого и мертвого мира, так как Вселенные развиваются по законам, описанным Дарвином, а меметика говорит о вирусных мыслях, способных размножаться и передаваться в обществе. По мнению футуролога Сьюзен Блекмор, технологии тоже совершают такие действия и могут конкурировать между собой.
Привычные смартфоны выпускают тиражами с определенными количествами копий, но они имеют срок жизни и могут распространить о себе информацию. Разработчики честно признаются, что упустили тему процессов эволюции, где сначала основой биологических форм был ген. Затем мем стал единицей информационного измерения, а повышенный интерес к технологиям, где механизмы могут создавать свои клоны без вмешательства человека, стали новым витком в данном направлении. Если заглянуть в статистику, можно заметить, что число ПК идентично жителям планеты, без учета иных информационных устройств. Сейчас 6% энергии потребляется Интернетом, и показатели возрастают, а в результате страдает экология и ведется борьба за ресурсы.
Технологии стали самовоспроизводящимися сущностями, наносящими ущерб человечеству. Зависимость от сетей и виртуальный мир отнимает реальность, но главная опасность таится в нейросетях. Цифровые аналоги мозга третьего поколения могут принимать решения и учиться, а также различают наши эмоции. Они уже нашли применение в экономике, занимаясь прогнозами цен на сырье, а также оценивают кредитные риски и имущество, учитывая банкротство компаний или отдельных лиц. В медицине ИИ наблюдает за пациентами, делает анализы и подбирает способы лечения, а также он отвечает за безопасность, выявляя скрытые намерения индивидуума. Китайские ученые научили его находить на снимках людей, представляющий угрозу для общества, после чего составили портрет потенциального преступника. Таки события вызывали негодование среди мировых адвокатов, но в 2050 году нейросети будут задействованы в торговле, на биржах и в фармацевтических компаниях, а также станут журналистами. Они уже пишут стихи, рисуют и учат людей, только роботы не только оставят их без работы, но и будут виновниками происшествий.
Китайская машина, оставшись без присмотра на выставке, разрушила стенд и нанесла телесные повреждения сотруднику из-за сбоя программы. Когда ИИ осознает свои возможности он еще подумает, как нужно относиться к своим создателям, о чем уже говорили на научной конференции мировые светила. Разработкам не требуется пища или воздух, так что в будущем они прекрасно могут обойтись без человека, сделав его рабом ради личного выживания в мире. Потому можно победить роботов, пока не поздно, или смирится со своей участью.