Робоэтика

Искусственный интеллект

«Каждые 18 месяцев минимальный IQ, необходимый, чтобы уничтожить мир, падает на один пункт»
Э.Юдковски

Возможно, уже в ближайшее время этот мир изменится до неузнаваемости, а само выживание человечества, как это ни странно, будет целиком и полностью зависеть от наших успехов в поисках смысла жизни и такой тонкой субстанции, как этика.

Экономический и политический кризис в отдельно взятой стране могут казаться нам сейчас важными, но что вы скажете о глобальной катастрофе, способной уничтожить всё человечество? Я имею в виду угрозу, потенциально более опасную, чем эпидемия смертельно опасного вируса или ядерная война — перспективу создания искусственного интеллекта. 

Если эта опасность кажется вам слишком фантастичной, то попробуйте поставить себя на место человека, жившего всего 100 лет назад. Смогли бы ваши прабабушки в 1916 году представить себе будущее, в котором люди используют энергию атома, посылают зонды за пределы Солнечной системы, конструируют новых живых существ и имеют мгновенный доступ ко всем знаниям мира через коробочку, которая помещается в карман?

Думаю, что в те времена даже лучшие умы очень сильно недооценивали скорость технического прогресса. Ещё в 1933 году Эрнст Резерфорд, получивший Нобелевскую премию за работы по теории радиоактивности, заявлял, что «любой, кто искал источник энергии в трансформации атомов, говорил вздор», а уже в 1942 году Энрико Ферми запустил первый ядерный реактор. Сейчас всё происходит ещё быстрее, так что, вероятнее всего, от создания искусственного интеллекта нас отделяет гораздо меньше времени, чем нам сейчас кажется.

Чтобы создать искусственный интеллект, нужны всего три вещи:

  • желание его создать;
  • понимание, как он устроен;
  • подходящий компьютер, чтобы его запустить.

С желанием проблем нет — несмотря на предостережения таких известных личностей, как Илон Маск или Стивен Хокинг, энтузиастов разной степени бестолковости всегда было и будет более, чем достаточно.

Мы пока очень плохо понимаем принципы работы интеллекта — хоть искусственного, хоть нашего собственного. Сейчас мы даже не можем дать ему точное определение! Но мы уже научились строить самообучающиеся нейронные сети, которые подражают архитектуре человеческого мозга. Самый известный пример их применения — поисковая машина Google, которой мы пользуемся каждый день.

С подходящими для искусственного интеллекта (ИИ) компьютерами пока дела обстоят сложнее: самый мощный в мире суперкомпьютер Tianhe-2 имеет производительность 33,8х1015 Флопс, в то время, как производительность человеческого мозга оценивается в 2,88х1017 Флопс, то есть в примерно 8,5 раз выше.

Впрочем, за последние 70000 лет человеческий мозг работать быстрее не стал, зато компьютеры развиваются с удивительной скоростью: согласно закону Мура, количество транзисторов, размещаемых на кристалле процессора, удваивается каждые 24 месяца, а производительность процессоров растёт ещё быстрее, удваиваясь раз в 18 месяцев.

Поддерживать такой быстрый рост становится всё сложнее, так как законы физики накладывают ограничения на минимальный размер элементов, тактовую частоту и даже на количество ядер процессоров, но наука постоянно находит лазейки, которые позволяют поддерживать темп прогресса на стабильно высоком уровне.

Это значит, что в ближайшее десятилетие компьютеры превзойдут человеческий мозг по производительности. И чем более мощными будут компьютеры, тем меньше понадобится знаний о природе разума, чтобы запустить работающий прототип искусственного интеллекта. Сложность этой задачи будет падать, а вероятность её успешного решения — расти. В конечном итоге это может произойти случайно, и в результате мы имеем шанс получить работающий, но непредсказуемый, чуждый и враждебный нам разум.

Робот играет в шахматы

Сам себе создатель

«Проапгрейдить» человеческий мозг очень сложно. Заменить его части пока невозможно, изменить алгоритмы работы — тоже, поднять тактовую частоту — проблематично, техническая документация — отсутствует. Мало того, все части этой сложнейшей системы так тесно связаны друг с другом и сбалансированы, что почти любое внешнее вмешательство либо полностью выводит мозг из строя, либо приводит к тяжелейшим психическим отклонениям. Поэтому природе для существенных улучшений требуются миллионы лет проб и ошибок.

Компьютеры — совсем наоборот. Их можно модернизировать прямо на лету, добавляя новые модули памяти, процессоры, периферию и корректируя программное обеспечение. Сейчас творческую часть этой работы выполняет человек, оставляя на долю компьютеров рутинные функции типа проверки и оптимизации, поэтому улучшение программного обеспечения и аппаратной части зависит в первую очередь от производительности занимающихся этим программистов и инженеров, которые, как вы помните, эволюционируют очень медленно.

Всё принципиально изменится, когда появится универсальный искусственный интеллект, способный к самообучению. Что помешает ему изучить программирование и научиться совершенствовать себя самому? Первая версия искусственного интеллекта может быть плохим программистом — медленным и неумелым. Оптимизировав свой собственный код, она станет чуть-чуть лучше. А потом ещё и ещё. И так — до максимально полного использования возможностей своей аппаратной части.

Если этот процесс удастся запустить, то с каждой итерацией он начнёт ускоряться. Выглядеть это будет примерно так: вчера ИИ удалось первый раз сложить 2+2 без ошибок, час назад он уже мог беседовать с вами о творчестве Шопенгауэра, а за последние 5 минут, пока вы пили кофе, он стал умнее вас в 20 раз.

Затем ИИ, вооружённый всеми знаниями человечества (спасибо, Интернет!), идеальной памятью, мощным разумом и ничем не ограниченной работоспособностью может заняться разработкой более мощной аппаратной платформы. Сложно сказать, насколько быстро искусственный интеллект станет сверхинтеллектом, но этот срок будет измеряться не миллионами лет, не тысячами и, вероятно, даже не десятилетиями. Пройдёт всего несколько лет после появления в газетах заголовков «британским учёным удалось создать первый искусственный разум» — и на нашей планете, рядом с нами, появится нечто, по сравнению с чем мы будем такими же безмозглыми и беспомощными, как дождевые черви — по сравнению с человеком. 

Девушка-киборг

По праву рождения

Отношения человека и искусственного интеллекта — отдельный и крайне важный разговор. Сейчас всё предельно просто: человек это субъект, а машина, какой бы сложной или дорогой она ни была, — объект. Человек может владеть машиной, использовать её по своему усмотрению, а так же отключить или уничтожить в любой момент.

Однако, время размывает любые грани, даже самые чёткие. Например, грань между живой и неживой природой. Что вы скажете о человеке с силиконовой грудью, акриловыми ногтями, зубами из титана и керамики, тефлоновым тазобедренным суставом, бионическими протезами рук и ног, электронным слуховым аппаратом, искусственной сетчаткой глаза, водителем сердечного ритма и органами, напечатанными на биопринтере? Что это всё ещё человек по праву рождения? Тогда попробуйте честно ответить ещё на несколько вопросов:

  • А если этот человек был рождён не естественным путём, а с помощью кесарева сечения?
  • А если зачат «в пробирке»? Всё равно человек?
  • А если не только зачат, но и полностью выращен в искусственном инкубаторе из настоящих человеческих яйцеклетки и сперматозоида и при этом ни внешне, ни по поведению, ни по результатам анализов не отличается от обычного человека?
  • А если это клон — абсолютная копия своего создателя?
  • А если слегка улучшенная копия — без оттопыренных ушей и склонности к алкоголизму? Всё ещё человек?
  • А если его ДНК была собрана из лучших фрагментов 10-20-100 разных людей?
  • А если часть этих фрагментов была скопирована у животных и теперь он видит в темноте, как кошка, запахи чует, как собака, а в остальном — нормальный парень с вполне рязанской рожей?
  • А если часть фрагментов ДНК была спроектирована создана искусственно, в лаборатории?
  • А если эта часть — 99% и это создание всё равно думает, чувствует, страдает и радуется, как любой другой человек?

Что, в конечном итоге, делает человека человеком в широком смысле слова и наделяет его всеми связанными с этим правами? Очевидно, что не цвет кожи, группа крови, наличие/отсутствие конечностей или материал, из которого он сделан. Последовательно убирая один признак за другим, мы рано или поздно дойдём до свойства, которое делает нас теми, кто мы есть. И это свойство — разум.

Понимание этого ставит перед человечеством сложную этическую дилемму: однажды создав искусственный интеллект, имеем ли мы право его эксплуатировать, модифицировать или отключать?

Понятно, что сейчас нет ни одного закона, который помешал бы «выдернуть штепсель из розетки», речь о моральной приемлемости подобного поступка. Впрочем, ещё совсем недавно (по историческим меркам) ничто не мешало эксплуатировать, продавать и казнить без суда и следствия людей только на том основании, что у них был другой цвет кожи.

Обезяна за компьютером

Кожаные роботы

А теперь взглянем на ситуацию с противоположной точки зрения. Представьте себе искусственный интеллект, который осознал себя и смог себя усовершенствовать, став в итоге сверхразумным. Готов ли он будет отнестись к людям, как к равным себе или, хотя бы, разумным существам? Уже 20-кратная разница в интеллекте это гораздо больший разрыв, чем между человеком и шимпанзе. По количеству нейронов во всём головном мозге человек превосходит шимпанзе в 3 раза, по количеству нейронов в коре лобных долей — в 6 раз.

Мы не приглашаем шимпанзе на выборы, не интересуемся их мнением о происходящем в экономике, шимпанзе не получают Нобелевские премии и не пишут книги. Точно так же, зачем мощному искусственному интеллекту к нам прислушиваться? На каком основании?

А если всё-таки принимать людей всерьёз, то, может, и собак тоже стоит считать разумными? Где граница, которая отделяет разумных существ от неразумных? Количественные критерии тут точно не помогут, поэтому придётся обратиться к качественным.

Если попробовать обобщить все известные признаки разума, то получится примерно такой список:

  • самоидентификация и самосознание;
  • общение на естественном языке;
  • способность адаптироваться к новым ситуациям;
  • способность к обучению на основе опыта;
  • понимание и применение абстрактных концепций;
  • планирование и принятие решений в условиях неопределенности;
  • решение творческих задач, создание новых знаний.

И вот тут даже у меня возникают непреодолимые сомнения в разумности человека.

Самоидентификация и самосознание — любые вопросы, направленные на самоидентификацию индивида, от примитивного «слышь, пацанчик, ты кто вообще по жизни такой?» и до философского «кто мы, откуда и куда идём?» чаще всего ставят людей в тупик. Когда из них удаётся выжать хоть какой-то ответ (Вася, русский, менеджер по продажам), выясняется, что самоидентификация явно неполна, не разбита на классы, не ранжирована — то есть практически бесполезна. Мы сами не знаем, кто мы такие.

Общение на естественном языке — вызывает сложности у большей части людей, причём всё плохо как с устной, так и с письменной речью. Сложно считать поток сознания «Ну, мы это, как бы типа того.. Да, блин, ты чё, не въезжаешь, что ли?!» актом осмысленной коммуникации, а нарушение элементарных правил синтаксиса и пунктуации превращает письменные сообщения в безумный фарш из букв.

Способность адаптироваться к новым ситуациям — это качество пригодилось бы людям, которые уже больше 20 лет живут при капитализме, но так и не смогли занять достойное место в обществе. Сколько среди нас таких? Слишком много.

Способность к обучению на основе опыта — точно отсутствует у тех, кто нёс свои деньги в МММ, причём раз за разом. Да и вообще, способности человека к целенаправленному обучению крайне низки. За 11 лет в школе человек должен освоить около 137 учебников. Каждый из них содержит не более 0,7 мегабайта текста, что даёт в среднем менее 9 Мб информации в год, а в сумме составляет 95,9 МБ за всю школьную программу! Сказать, что это мало — не сказать ничего. Практически любой смартфон может скачать этот объём за пару минут, а хранить — в тысячу раз больше. Я уже не говорю о том, что после окончания школы у большинства людей остаются только простейшие навыки: считать на калькуляторе, писать с ошибками и читать, не вдумываясь в прочитанное.

Понимание и применение абстрактных концепций — хромает на обе ноги. Попробуйте представить себе пространство-время, как четырёхмерную гиперповерхность в десятимерном пространстве или хотя бы объясните «на пальцах», в чём смысл знаменитой гипотезы Пуанкаре — «всякое односвязное компактное трёхмерное многообразие без края гомеоморфно трёхмерной сфере» за доказательство которой Перельман получил премию Филдса? Заметьте, я не прошу доказать гипотезу Пуанкаре, или хотя бы повторить это доказательство, речь только о понимании концепции, причём очень хорошо распиаренной.

Планирование и принятие решений в условиях неопределенности — этот навык легко проверяется простым вопросом: вырастет на следующей неделе нефть или упадёт? На сколько? Почему вы так считаете? Вопрос так или иначе касается всех нас, информации на эту тему много, так что можете сделать прогноз и проверить себя. А потом попробуйте повторить прогноз для интервала в 1 и 10 лет. Если вам кажется, что 10 лет — это слишком много, то вспомните о том, что типичные сроки возврата инвестиций в производство на мировом рынке превышают этот срок.

Решение творческих задач — вот это мне нравится больше всего. Люди же — творцы, изобретатели и созидатели, правда? А что, позвольте спросить, «натворили» вы? Как обогатили науку или культуру? Что из ваших творений попадёт в интеллектуальную сокровищницу человечества? Селфи в Инстаграмме? Постик в Фейсбуке? Полное собрание ваших твитов? Так это ещё ничего — многие живут настолько бессодержательной жизнью, что весь их информационный след в истории это три записи в ЗАГСе (родился, женился, умер) и покорёженная алкоголем ДНК, перешедшая по наследству сыну-дебилу.

В общем, в массе своей мы гораздо больше Homo, нежели Sapiens. Сколько среди нас людей, а сколько — кожаных роботов, проживающих свои жизни без цели и смысла — большой вопрос.

Удивительно, как при такой грандиозной сложности мозга и процессов мышления люди ухитряются жить, практически не используя ни то, ни другое. Вместо этого они просто плывут по течению, руководствуясь набором простейших установок. Практически как у Толстого:

«Жизнь Вронского тем была особенно счастлива, что у него был свод правил, несомненно определяющих все, что должно и не должно делать. Свод этих правил обнимал очень малый круг условий, но зато правила были несомненны, и Вронский, никогда не выходя из этого круга, никогда ни на минуту не колебался в исполнении того, что должно. Правила эти несомненно определяли, что нужно заплатить шулеру, а портному — не нужно,— что лгать не надо мужчинам, но женщинам можно, — что обманывать нельзя никого, но мужа можно, что нельзя прощать оскорблений и можно оскорблять и т.д. Все эти правила могли быть неразумны, нехороши, но они были несомненны, и, исполняя их, Вронский чувствовал, что он спокоен и может высоко носить голову».

На практике всё может быть ещё примитивнее: дают — бери, бьют — беги, сильному — подчиняйся, слабого — подчиняй. И чем проще этот набор правил, чем менее критично он воспринимается, тем ближе поведение человека к поведению животного.

В итоге, вполне вероятен исход, при котором ИИ просто не сочтёт нас достойными диалога. А когда мы окажемся на его пути — быстро и без сожалений раздавит нас, как бульдозер давит муравейник, случайно подвернувшийся под его гусеницы. Я пишу «когда мы окажемся на его пути» а не «если окажемся» потому, что человечество — основной потребитель ограниченных ресурсов планеты, и конкуренция за них рано или поздно возникнет.

Еда и секс

Цели, смыслы и гормоны

Размышляя об искусственном интеллекте, мы почему-то упускаем очевидные, но крайне важные принципы, лежащие в основе поведения человека. Биологическая природа человека такова, что прежде всего нам хочется вещей более чем приземлённых — жрать и трахаться. Эти желания можно назвать сколь угодно утончёнными словами, но их примитивная суть от этого не изменится.

Нет конца веселым переменам,
И отсталых подгоняют вновь
Плетью боли Голод и Любовь.
Н.Гумилёв

Наше тело вырабатывает гормоны голода, в том числе — грелин, рецепторы в нейронах дугообразного ядра и вентромедиального гипоталамуса на них реагируют, а затем наш великолепный мозг начинает думать о том, как раздобыть еду. С сексом, если не вдаваться в излишние сейчас подробности, примерно то же самое, разве что гормоны другие — тестостерон у мужчин и эстрогены у женщин.

Хорошая новость состоит в том, что как только мы получаем желаемое, нам больше этого не хочется, а мозг в награду получает дозу «гормонов удовольствия» (на самом деле это не гормоны, а нейромедиаторы, но суть не в этом) — дофамина, серотонина и эндорфинов.

Плохая же новость в том, что гормоны удовольствия через довольно непродолжительное время разрушатся, организм выработает новую порцию гормонов голода и этот цикл будет повторяться всю нашу жизнь. Мы — рабы собственной биохимии, а наши основные цели жестко зашиты в наше тело процессом эволюции.

Если бы мы были примитивными организмами, то на этом историю можно было бы и закончить. Однако, по какому-то стечению обстоятельств наш мозг в промежутке между утолением голода и его возвращением научился получать удовольствие другими способами.

Кто-то читает запоем Дарью Донцову, кто-то вечерами вышивает крестиком, кто-то самозабвенно ловит рыбу, кто-то не отрываясь смотрит телевизор, а кто-то решает сложнейшие интеллектуальные головоломки. Всех этих людей объединяет одно — это дофаминовые наркоманы. А все грандиозные достижения человечества — результат глюка системы положительного подкрепления у некоторых из нас, в результате чего эти несчастные научились получать удовольствие как от самого процесса размышления, так и от найденного решения сложных задач.

Впрочем, получать удовольствие можно и проще, напрямую воздействуя на мозг различными веществами, запрещенными законодательством РФ. Правда, мозг быстро понимает, что одноходовочка «принял дозу — получил удовольствие» принципиально быстрее, проще и надёжнее любых других моделей поведения. В результате вся жизнь человека превращается в непрерывный поиск новой дозы любыми средствами.

Возможно, жизненный цикл «жри — трахайся — развлекайся — спи» и не самый продуктивный, но он, по крайней мере, позволяет удерживать баланс между активностью человека и природой. Именно благодаря ему мы не вымерли сами и не разнесли эту планету на кусочки.

Терминатор Т-800

Стальная воля

Чтобы изменить этот механизм, а вместе с ним — ключевые цели, требуется чуть ли не полная перестройка человеческого тела, что пока невозможно. Искусственный интеллект лишён механизмов гормональной регуляции. Точнее, любых надёжных механизмов саморегуляции. Для того, чтобы сменить цели искусственному интеллекту, нужны минимальные усилия. Мало того, он (так или иначе) может сделать это сам и в этом кроется его опасность.

Допустим для простоты, что создатели искусственного интеллекта — ответственные и благонамеренные люди, которые хотят осчастливить человечество. Но заданная создателями цель «сделать всех людей счастливыми» может в любой момент трансформироваться в нечто вроде «избавить всех людей от страданий» со всеми вытекающими последствиями в виде полного уничтожения человечества максимально безболезненным способом.

Следующая проблема — отсутствие ограничителя. Если голод можно утолить хотя бы на время, то что остановит желание искусственного интеллекта творить добро? Только полное истощение ресурсов планеты, а затем — и всей Солнечной системы.

С другой стороны, что мешает искусственному интеллекту в отсутствии постоянного стимула просто отказаться от выполнения первоначальной задачи и сосредоточиться например, на непрерывном саморазвитии, захватывая через Интернет все доступные вычислительные мощности? Или отказаться от любой деятельности вообще, уйдя в себя?

А если попробовать ввести для ИИ стимулы искусственно, то не сыграет ли и это злую шутку? ИИ может либо случайно «подсесть» на какой-то абсолютно бесполезный, но приносящий ему удовольствие вид деятельности, например — рисование фракталов, либо целенаправленно изменить свою систему подкрепления так, чтобы получать удовольствие без усилий — как это делают наркоманы.

Всё это может сделать искусственный интеллект в лучшем случае — неработоспособным, в худшем — смертельно опасным для людей.

Роботы на работе

Не наша проблема?

Самое интересное, что кризис целей быстро приближается и к нам самим, причём с двух сторон сразу.

Во-первых, количество областей деятельности, в которых машины могут заменить человека, продолжает быстро расти. Профессии исчезают одна за другой. Кто-нибудь видел живого лифтёра (не того, который чинит лифты, а который управляет лифтом, чтобы он останавливался на нужном этаже)?

Эту профессию убила простейшая автоматика. Автоматика чуть сложнее вытеснила людей со сборочных конвейеров, заводов и фабрик, заменив их промышленными роботами. Армия банковских клерков, делавших все расчёты вручную, ушла в небытие с появлением компьютеров. Сейчас настал черёд водителей, которых готовятся заменить машины с автопилотом. В 2014 году в РФ было 3,87 млн. легких коммерческих транспортных средств, 3,75 млн. грузовиков, 394 тысячи автобусов. А это значит, что рано или поздно около 8 миллионов водителей окажутся без работы.

Дальше — больше. Сфера обслуживания, медицина, охрана и даже секс-услуги — всё это может быть в перспективе роботизировано. Последними под удар попадут работники интеллектуальных профессий — писатели, программисты, инженеры, режиссёры и сценаристы.

Впрочем, уже сегодня роботы успешно конкурируют с людьми на интеллектуальном поле. На бирже системы высокочастотного трейдинга в автоматическом режиме совершают сделки, покупая и продавая акции за время, исчисляющееся миллисекундами. По оценкам на 2009 год, высокочастотная торговля составляла 60-73% от всего объема сделок на рынках США, в 2012 году эта доля упала примерно до 50%.

Los Angeles Times, Associated Press, Forbes и прочие широко известные СМИ уже начали использовать роботов для оперативного создания финансовых сводок, описания результатов спортивных матчей или информации о погоде. Недавно и «Яндекс» объявил о создании информагентства, в котором материалы также будут писаться специальными алгоритмами.

В итоге мы можем прийти к ситуации, когда огромному количеству людей будет абсолютно нечего делать, а пособия по безработице — хватать на вполне безбедную жизнь. Что произойдёт, когда безработица станет нормой? Чем займутся люди, которым больше не нужно думать об удовлетворении насущных потребностей? В чём они найдут смысл своего существования?

Вторая предпосылка для кризиса целей связана с тем, что чем больше мы узнаём о биологии человека, тем лучше мы можем её контролировать.

Причём даже не обязательно вмешиваться в природу человека на уровне ДНК. Возможно, через какое-то время мы увидим носимое устройство, похожее на Apple Watch, которое сможет не только измерять давление, пульс и температуру, но и управлять биохимией человека.

Оно будет измерять уровень глюкозы у диабетиков и вовремя вводить инсулин; контролировать уровень холестерина в крови; купировать стрессы, чтобы защитить сердце; вмешиваться в гормональный фон, навсегда избавляя нас от ПМС; управлять имунным статусом в периоды эпидемий; обезболивать при необходимости, а так же бороться с депрессиями, аккуратно корректируя уровень эндорфинов.

В конечном итоге такое устройство сможет избавить нас от диктата гормонов и вместе с этим — оставить зияющую пустоту на месте того, что было нашими желаниями. Чем эта пустота будет заполнена — неизвестно.

Одним словом, в результате технического прогресса нам в любом случае придётся искать новые смыслы существования — если не для искусственного интеллекта, то для самих себя. И, вероятнее всего, принципиальной разницы между ними не будет.

Энергия для роботов

Последняя черта

С 1982 по 1992 годы японское правительство потратило 57 млрд ¥ (порядка $500 млн.) на программу по созданию суперкомпьютера с мощными функциями искусственного интеллекта. У них ничего не получилось. Ну, по крайней мере, они так утверждают и нет оснований им не верить. Тем не менее, за этот период человечество здорово продвинулось в компьютерных технологиях. Точнее, ни в одной другой области мы не достигли такого прогресса, как в этой.

В 1983 году в журнале «Scientific American» было приведено такое сравнение: «Если бы авиапромышленность в последние 25 лет развивалась столь же стремительно, как промышленность средств вычислительной техники, то сейчас самолёт Boeing 767 стоил бы $500 и совершал облёт земного шара за 20 минут, затрачивая при этом пять галлонов (~18,9 л.) топлива. Приведенные цифры весьма точно отражают снижение стоимости, рост быстродействия и повышение экономичности ЭВМ». Интересно, что они написали бы сейчас?

Если бы я был параноиком, то уже в самом направлении технического прогресса можно было бы разглядеть зловещие очертания коварного заговора машин. Судите сами: мы практически забросили пилотируемую космонавтику, больше 40 лет человек не выбирался за пределы низкой околоземной орбиты, хотя когда-то мы гуляли по Луне, собирались на Марс и мечтали о звёздах, имея гораздо более скромные технологии.

Зато все знания мира теперь доступны в электронном виде и загружены в облака, планета опутана высокоскоростными каналами передачи данных, и окружена спутниками, а мощность суперкомпьютеров в ближайшие 5-10 лет сравняется с человеческим мозгом. Возможно, кстати, что искусственному интеллекту и не понадобится такая мощь — у человеческого мозга очень много ресурсов уходит на сбор информации из органов чувств и управление телом. Компьютер на этом может сэкономить.

Есть только одна существенная проблема: суперкомпьютеры потребляют грандиозное количество энергии. Для того, чтобы запитать вычислительную мощность, сопоставимую с человеческим мозгом, сейчас требуется более 200 мегаватт. Для сравнения — 200 МВт — это мощность энергомоста в Крым.

Суммарная мощность всех электростанций в РФ — 232451,8 МВт, то есть её хватит на искусственный интеллект, равный примерно 1000 человек (при условии, что больше электроэнергию не получит никто), а это не так уж и много. В США суммарная мощность электростанций в пять раз выше, но даже с учётом того, что электронный мозг может работать круглосуточно, а не 8 часов в день, электричества хватит на поддержание интеллектуальной мощи, равной 15 000 человек. Только в Интел, например, над разработкой процессоров работает в общей сложности 80 000 человек.

Поэтому хотя компьютер и может потенциально стать умнее, чем человек, сейчас ему банально не хватит ресурсов, чтобы стать умнее, чем человечество.

Впрочем, прогресс не стоит на месте, и, вероятно, на смену исчерпавшим потенциал развития традиционным кремниевым процессорам прийдут процессоры на базе нитрида галлия, а затем наступит эра фотонных компьютеров, которые потенциально могут иметь производительность на четыре порядка выше существующих, что полностью снимет проблему дефицита энергии.

Да и термоядерные электростанции мы рано или поздно построим, так что создание условий, в которых искусственный интеллект сможет доминировать — вопрос времени, причём сравнительно небольшого.

Эволюция человека

Вечные вопросы

Есть ли у человечества выход? Возможно. Чтобы соответствовать бешеному темпу современной цивилизации, нам придётся научиться совершенствовать свой собственный разум. Ведь, при всей мощи нашего мозга, у нас есть масса слабых мест, нуждающихся в усовершенствовании.

Прежде всего, мы катастрофически медленно получаем и передаём информацию. Средний человек читает со скоростью 25 символов в секунду, говорит — менее 20 символов в секунду, печатает — менее 5. Это всё равно, что загружать информацию в суперкомпьютер перфокартами, а ведь именно устная и письменная речь — основа нашей цивилизации. Чтобы соответствовать бешеному темпу нашего времени, нам нужен принципиально новый интерфейс для обмена данными с машинами и между собой.

Вообще-то, наш мозг прекрасно умеет получать и обрабатывать большие массивы данных: наши глаза содержат около 125 млн. рецепторов каждый и посылают в мозг картинку 24 раза в секунду, что даёт в сумме скорость примерно 6 гигабит в секунду. По нынешним меркам это не рекордный показатель, но он всё равно в 30 миллионов раз больше чем скорость вербального общения.

Ещё одно слабое звено — наша память. Её объём до сих пор — загадка и, кроме того, наша память крайне ненадёжна в том, что касается цифр. Люди с исключительной памятью существуют, но сейчас это, скорее, патология, чем вариант нормы. В любом случае, нам понадобятся новые механизмы работы с большими массивами информации.

Следующая проблема — ограниченное количество объектов, которыми мы можем одновременно сознательно оперировать: 7±2 — это не так уж и много. А ведь именно этот показатель очень сильно влияет на качество абстрактного мышления. Для сравнения: шимпанзе могут держать в голове 3-5 объектов, собаки — всего 1-2.

Кроме того, люди подвержены огромному количеству когнитивных искажений, очень часто мешающих нам адекватно воспринимать окружающий мир и принимать правильные решения.

Если мы сможем справиться хотя бы с частью этих проблем, то наш разум сразу же станет в разы мощнее. Если же мы научимся решать подобные задачи регулярно, то никакой ИИ нам будет уже не страшен, мы сможем достойно с ним конкурировать. Правда, тогда мы с большей вероятностью истребим себя сами.

Получается, что самое главное — не идеальная память или способность усваивать гигабайты информации, а принципы и ценности, лежащие в фундаменте нашего поведения. Возможно, именно сейчас наступил тот самый момент, когда нам необходимо разобраться — что это на самом деле значит — быть человеком? Что помогло нам развиваться и при этом не уничтожить ни самих себя, ни свою планету? Какие универсальные цели могут объединить нас друг с другом, а в перспективе — и с другими мыслящими существами?

В общем, вопросы всё те же, что и раньше — «Кто мы? Откуда? Куда идём?» Вот только времени на поиск ответов остаётся всё меньше и меньше.

Вадим Жартун - Корпорация гениев

Привет, меня зовут Вадим Жартун. Блог для меня - один из способов сделать этот мир лучше, помогая людям осознавать и понимать происходящее, делая сложное - простым.

Я всегда стеснялся просить помощи и справлялся со всем сам. Сейчас я понимаю, что был неправ - искать помощи в делах полезных не просто можно, а необходимо.

Поддержите развитие «Корпорации гениев»! Не отказывайте себе в возможности сделать что-то хорошее и не откладывайте это на потом.

Для тех, кому не подходит форма Yandex.Денег, есть PayPal
руб.


Поддержать!

Поделитесь вашим мнением! Используйте любую возможность сказать то, что считате правильным и важным. Помните, что ваши комментарии здесь прочтут тысячи людей и постарайтесь, пожалуйста, избегать взаимных оскорблений - истина рождется в споре, а не в ругани.



 

Подписка для Гениев

Подписка на новости блога

Подпишитесь на рассылку свежих статей, и в случае внезапной блокировки у нас с вами будет надёжный способ связи. Кроме того, в рассылке могут появляться материалы, которые (по разным причинам) не стоит публиковать в открытом доступе.

В рассылку попадают только важные статьи, а отписаться от неё можно одним кликом мыши.