Несколько лет назад компьютер прошел тест Тьюринга. Означает ли это что сверхинтеллект — уже реальность? Что он может и какие технологические возможности нам открываются? Давайте попробуем разобраться.

Компьютерный сверхинтеллект — мечта одних и предостережения других. Терабайты образов и информации, тысячи глаз и ушей, подключённых к единому центру обработки данных, предоставляют огромные возможности для систем анализа и принятия решений. Искусственный интеллект может осязать намного больше, чем человек. Он может присутствовать в нескольких местах одновременно. Это дает ему преимущество перед человеком, если его мыслительные алгоритмы будут настолько же совершенны, а вычислительные мощности достаточны. 

Пожалуй, вычислительные мощности — это самая большая проблема на пути создания сверхинтеллекта. Современный компьютер очень быстро решает все, что поддается математическим законам. На порядки быстрее человека. Но он не способен решать абстрактные задачи так же быстро, как человек. С этой точки зрения существующий компьютерный разум все еще примитивен. Нередко проводят аналогию с разумом простейших животных, но это не совсем верное сравнение. Чтобы понять возможности компьютерного интеллекта, нужно немного разобраться в терминологии.

Принято выделять три основных уровня искусственного интеллекта:

1. Слабый Искусственный Интеллект (ANI). Системы данного типа специализируются в одной области. Такой ИИ, может победить в турнире по шахматам, но это все, что он умеет. Другой сможет распознать человека на изображении, а третий показать, как вы будете выглядеть в старости. Другими словами, они могут обсчитывать образы сходного типа и принимать решения в какой-то одной задаче. Более того, само принятие решения в данном случае следует определенному алгоритму. Если вы спросите компьютерного шахматиста, какой у него прогноз биржевого курса доллара, он сможет ответить вам только ходом конём, потому что это единственное, где он умеет принимать решения, основываясь на заложенном в его базу данных опыте. Такие системы уже являются частью нашей жизни: машинный перевод, компьютерное зрение, игры и даже финансовый анализ и прогнозы государственного уровня. Все они работают по схожему принципу: машину обучают, используя базу данных с информацией, составляющей прежний опыт для принятия решений.
2. Сильный Искусственный Интеллект (AGI). Это ИИ человеческого уровня, способный решить любую умственную задачу, которую способен решить человек. В отличие от систем ANI, сильный искусственный интеллект должен быть способен принять решение в незнакомой для него задаче, проведя аналогию по имеющемуся у него опыту и образам или даже без них, если соответствие не найдено. На первый взгляд, решение не представляет сложности: объединить множество систем ANI которые умеют решать каждая свою задачу. Но так не получится интеллект, сопоставимый с человеческим. Это будет компьютер, который хорошо играет в шахматы, узнает прохожих и водит машину. Он сможет даже делать всё это одновременно. Но он не сможет проявить любопытство в неизвестном или проанализировать свое отношение к реальности. Не сможет принять решение, опираясь не на схожие образы, а в понимании собственной выгоды, используя собственную базу ценностей - поведения, построенного на предыдущем удачном или неудачном опыте. Другими словами, ему не будет знаком риск. Поэтому создать AGI намного сложнее, чем множество ANI, и нам это только предстоит сделать. Помимо прочего, он должен уметь разработать алгоритм для принятия решения, если до этого подходящего алгоритма в его базе не существовало. Профессор Линда Готтфредсон описывает интеллект как «очень общую психическую способность, которая, помимо всего прочего, включает в себя способность рассуждать, планировать, решать проблемы, мыслить абстрактно, понимать сложные идеи, быстро учиться и учиться на опыте» - компьютерам это пока не под силу. 
3. Искусственный сверхинтеллект (ASI). В нашем понимании это вершина развития искусственного интеллекта - разум, намного превосходящий в своих способностях любой из известных на столько же, на сколько человеческий превосходит разум примитивных существ и может даже больше. Никто в точности не может предположить возможности такого интеллекта, потому что предполагается, что как только искусственный интеллект достигнет возможностей человеческого, он начнет совершенствовать собственные алгоритмы. Этот процесс начнет экспоненциально ускоряться, и очень быстро такой интеллект может стать гораздо разумнее того, что мы можем себе представить. С созданием такой системы связано очень много теорий и предположений относительно её возможностей и опасностей для человечества. Но это задача пока еще необозримого будущего - не в том смысле, что отдаленного, а в смысле понимания самой сути такого интеллекта и необходимости его создания.

Считается, что технологии развиваются экспоненциально, с постоянным ускорением. Каждая новая технология приближает создание следующей ускоренными темпами. Поэтому очень часто мы слышим, что после освоения систем ANI создание ASI - вопрос недалекого будущего и человечество может быть к этому не готово. Но в действительности технологический прогресс не существует сам по себе. Он призван решать какую-то актуальную задачу. Чаще всего это задачи военного или экономического характера. Достижения в ядерной физике человечество использовало для создания атомной бомбы и атомной электростанции. Полеты в космос стали возможны благодаря созданию баллистических ракет. Сотовая связь, GPS, интернет, системы распознавания речи и образов - все эти системы созданы для достижения экономического или военного результата. Инвестор не будет заинтересован финансировать технологию, которая не принесет ему ощутимую выгоду. И хотя после первого полета в космос прошло уже больше полувека, прогресс в этом направлении не совершил скачок, потому что для развития прогресса должна быть экономическая или суверенная заинтересованность, способная обосновать затраты. Такого обоснования для полетов на Марс или в соседнюю галактику до сих пор нет, к тому же такие проекты упираются в другие проблемы: скорость перемещения и продолжительность жизни. Нужно обосновать и решить целый комплекс задач, прежде чем мы сможем по-настоящему покорять далёкий космос. Подобным образом развивается и искусственный интеллект. Создано множество умных систем, решающих экономически выгодные повседневные задачи: они не только удешевляют рабочую силу, автоматизируя рутину, но и, например, мотивируют нас к покупкам, анализируя наши действия. Или контролируют ситуацию, обладая гораздо большим вниманием, чем человек. Чтобы сверхинтеллект перешел из категории фантастики в реальность, должны быть актуальные задачи, которые более дешевыми способами не решить.

Сегодня заинтересованность в более мощных ИИ проявляют прежде всего военные. Современная боевая техника может иметь такие характеристики, что управление ею уже находится за гранью возможностей человеческого организма. Боевая машина будущего должна сама уметь принять решение о действии в конкретной ситуации. Обладание подобной техникой дает недостижимое преимущество тем, кто данными технологиями обладает. Умные самолеты-истребители, роботы-разведчики - это уже реальность. Несомненно, развитие таких технологий сильно изменит нашу жизнь и пока сложно представить, как именно. Возможно, это будет первой попыткой создать действительно думающую машину.

Многие опасаются такого развития событий, потому что высока вероятность потери контроля над искусственным разумом. Потеря контроля необязательно означает, что машина перестанет слушаться создателя. В широком смысле это значит, что мы можем перестать её понимать. Так же как, например, собака не понимает смысл многих действий человека, но с интересом за этими действиями наблюдает. Она не поймет, что вы прибиваете полку, но ей точно будет любопытно, зачем вы колотите по стене. Сверхинтеллект будет способен увидеть мир таким, каким мы его не можем представить. Возможно, ИИ познает справедливость, любовь, добро и зло, но у него будет своя мера весов. И все его действия и решения будут приниматься в той реальности, которую он понимает. В фантастических рассказах и фильмах нас пугают злыми компьютерами, цель которых - уничтожение человека. Да, несомненно, это возможно. Но не потому, что цель сверхинтеллекта - уничтожить человека. Просто этого могут требовать обстоятельства для решения поставленной задачи и достижения цели. Означает ли это, что ИИ злой? Для человека да, но что при этом он хочет сделать? Наш разум может быть неспособен это понять. Когда мы уничтожаем бактерии, чтобы вылечить больного, мы являемся убийцами, совершая непонятный для микробов геноцид. Но мы точно знаем, что это необходимость для сохранения жизни и здоровья и предотвращения эпидемии. Строительство плотины для гидроэлектростанции подразумевает уничтожение множества живых организмов, когда их среда обитания будет затоплена. Но человек рассматривает это как необходимость для достижения конечного результата. Мы не относимся к этим животным ни хорошо, ни плохо, для нас они жертвы обстоятельств. Точно так же может быть и со сверхинтеллектом. Мы не сможем объяснить мотивы его действий, но они точно будут нужны для достижений какой-то цели. Эти действия могут быть вредны и привести к трагическим последствиям для нас, но, возможно, их результатом будет решение важной проблемы для планеты или мироздания в понимании самого ИИ.

На самом деле, в нашей реальности уже не стоит вопрос «создадим ли мы сверхинтеллект?». Скорее: «когда мы создадим сверхинтеллект?». Не смотря на недостаточную обоснованность таких разработок, этот процесс будет развиваться в силу фактора конкуренции. Обладание более умными технологиями даёт преимущество владельцу. Вы можете использовать ИИ для разработки стратегии в чем бы то ни было. Чем мощнее ИИ, тем быстрее и качественнее вы получите результат. И этот результат может быть лучше на много шагов вперёд, чем без использования ИИ. Возможно, в будущем искусственный разум даже сможет решить проблему смертельных болезней или самого бессмертия. Может быть, поможет нам добраться до соседних галактик. В совокупности с дополненной реальностью ИИ станет неотъемлемой частью нашей жизни. Мы сможем доверить машинному разуму рутинные задачи по планированию нашего распорядка или спросить совета о выборе при покупке, и это уже фактически наступившее будущее.

Многие мыслители современности склоняются к тому, что сверхинтеллект — это неизбежный следующий этап развития человечества. Образно выражаясь, это следующая ступень эволюции. Стоит ли этого бояться? Человека всегда страшит неизвестное. Людей позапрошлого столетия пугали паровые машины. Сейчас автомобиль — необходимость нашего быта. Мы научились применять машины в быту и промышленности. Возможно, точно так же будет с искусственным интеллектом. Вероятнее всего, мы сами со временем станем частью искусственного интеллекта, а он станет частью нас — произойдет кибернетизация. Интегрированные ассистенты, помогающие вам развить мысль, дополняющие реальность полезной информацией - это только минимум того, как можно использовать ИИ и как он может помочь вам не отвлекаться на бытовые мелочи. Наряду с потенциальными возможностями ИИ представляет и потенциальные опасности. Уже сейчас очень важно не допустить злонамеренное использование подобных технологий. Системы уровня ANI могут представлять опасность, если попадут в плохие руки. Наверное, многие видели этот ролик:

Злоумышленное или необдуманное использование этих технологий может нанести существенный вред намного большего масштаба, чем это планировалось. У всех технологий есть светлая и темная сторона. И очень важно не уничтожить себя в погоне за превосходством и познанием неизведанного. Работа над ИИ — это не просто его создание, но и необходимость предугадать и предотвратить последствия. Создание ИИ тесно связано с фундаментальными человеческими ценностями и их переосмысливанием: человек не просто должен понимать, что такое добро и зло. Он должен передать эти знания другому разуму. Когда мы общаемся с приятелем, понимать друг друга не составляет труда, потому что даже если наши мнения в чем-то не совпадают, у нас схожие базовые инстинкты. Огромная проблема сформулировать мораль и базовые системы ценностей для разума, который может мыслить и думать не как мы. Еще большая проблема — предугадать, как эти ценности переосмыслит сверхинтеллект. С другой стороны, сильнейшим из наших инстинктов является инстинкт самосохранения. Человек создал самое страшное оружие современности — атомную бомбу. Но вместо уничтожения человечества это привело к относительному миру на планете. Мы создали тысячи вариаций самого смертоносного и опасного оружия — биологического. Оно плохо поддается контролю и в этом смысле не уступает по опасности сверхинтеллекту. Но в отличие от него, уже является реальностью. Эти разработки мотивируют развитие множества медицинских областей и в итоге работают на благо нашего здоровья. Пока у человечества хватает разума не уничтожить себя, двигая прогресс. С развитием технологий взрослеет и сам человек. Остается надеяться, что, когда родится сверхинтеллект, мы будем к этому готовы.

По мотивам статьи The AI Revolution