Реальный успех в моделировании мозга и искусственном интеллекте создаст человеку серьезного конкурента – более умную, быструю, творчески мыслящую, идущую к собственным целям человекоподобную машину, контроль над которой будет почти невозможен. Впрочем, уверен Сергей Савельев, в текущих условиях вероятность этого события стремится к нулю, поскольку под видом искусственного интеллекта человечество увлеченно тратит огромные силы и ресурсы на строительство банального калькулятора, не имеющего общего с сутью проблемы.
Человечество увлечено темой искусственного интеллекта. Это резонно: в мире, где естественный интеллект в большом дефиците, попытки создать машину, которая за нас думала бы, не лишены смысла. Стремление смоделировать мозг – магистральный, естественный путь, по которому движутся все.
На первый взгляд человечеству удалось добиться здесь невероятных успехов. Самый наглядный пример – скорость вычислений, достигшая заоблачных высот. Так, производительность лидера мирового рейтинга суперкомпьютеров – американского Frontier, принадлежащего Национальной лаборатории Окриджа Министерства энергетики США, достигает невиданных 1194 петафлопсов. В Китае создана машина Sunway TaihuLight (11‑е место рейтинга) на 93 петафлопса. Самая мощная система из России – суперкомпьютер «Яндекса» Червоненкис (36‑е место) – способна разгоняться до 21,5 петафлопса.
Это безумные скорости, о которых человеческому мозгу даже трудно задуматься. Максимальная скорость передачи сигнала нейронов в самых быстрых системах, таких как слуховая, не превышает 200 импульсов в секунду. По быстродействию человек проигрывает компьютеру в одни ворота. Хорошая новость в том, что, превосходя человеческий мозг в скорости, компьютерным системам пока трудно соревноваться с ним по эффективности.
Еще в 1970‑е, сразу после изобретения микрочипов, стали понятны ограниченность и несовершенство возможностей электронных мозгов. Из-за примитивности архитектуры микросхемы первых поколений не могли обеспечить достаточно вариантов значений и решений для выполнения более-менее сложных задач. Недостаток компенсировали постоянным увеличением объема памяти и мощности. В конечном счете – скоростью вычислений.
Уже в 1980‑е были предприняты первые попытки смоделировать и произвести чипы, которые имитировали бы человеческие нейроны. Человеческий мозг в целом. В общем виде устройство, реплицирующее нейрон, получило название нейристора.
С тех пор технологии чипостроения сильно продвинулись. Казалось бы, здесь тоже большие успехи. В 2019 году американская Cerebras Systems и ее производственный партнер, тайваньская TSMC, показали CS‑1 – самую большую в истории техники микросхему, названную ее производителями «самым быстрым в мире компьютером для вычислений в области машинного обучения и искусственного интеллекта».
На чип площадью 462 cм² удалось поместить 1,2 трлн транзисторов, собранных в 400 тыс. вычислительных ядер. Производители особо подчеркивали компактность своей машины (занимает 15 юнитов в серверной стойке) и ее энергоэффективность (всего 17 кВт мощности). С тех пор Cerebras вывела на рынок вторую, еще более мощную и продвинутую версию центрального процессора – CS‑2.
Вслед за лидером двинулись конкуренты. В их числе американская NeuroMem, выпустившая на рынок «нейроморфный» процессор CM1K с 560 смоделированными «нейронами». И даже российский научно-технический центр «Модуль» с NeuroMatrix Deep Learning. Это комплект программных средств для разработки и реализации глубоких «нейронных сетей», построенный на процессорах NМ648 с 21 вычислительным ядром.
Кроме того, как сообщает NeuroScientist, полностью промоделировано более 77 тыс. нейронов. Создана и действует программа «виртуальный мозг», которую любой желающий может установить себе на домашний компьютер.
Казалось бы, вот-вот – и вожделенная цель человечества будет достигнута. Увы, но ничего похожего на человеческий интеллект – машины, способной к независимому творчеству и целеполаганию, – до сих пор так и не появилось. Об этом можно судить по многочисленным, громко разрекламированным проектам по моделированию мозга, завершившимся фиаско.
Один из самых известных – Human Brain Project – стартовал еще в 2005 году. Его организаторы – американская IBM и Швейцарский федеральный технический институт в Лозанне (EPFL) под руководством профессора Генри Маркрама – заявили амбицию воспроизвести неокортекс человека. В итоге за первые 10 лет напряженной работы, стоившей европейским налогоплательщикам миллиард евро, исследователям удалось смоделировать только 10 тыс. нейронов, или около 17% мозга мыши. При этом в EPFL заявили о готовности довести изыскания до логического конца, но потребовали еще 5 млрд. В этом они не одиноки: в мире запущен еще с десяток подобных проектов – с хорошими бюджетами и такими же мизерными результатами.
Для полноты картины надо добавить многочисленные громкие прогнозы о будущих успехах моделирования мозга, которые с той же завидной регулярностью не сбываются. Например, еще к 2016 году человечеству был обещан искусственный интеллект, способный учитывать и воспроизводить персональные особенности человека – личности, темперамента, взглядов. К 2017‑му – появление чат-бота, способного пройти тест Тьюринга. То есть машины, по внешним признакам неотличимой от человека. Ничего этого нет и сейчас. Как до сих пор не произошло формирования «целостной информационной среды», если не считать нескольких сомнительных результатов. А именно – с помощью продвинутых компьютерных систем мы научились воспроизводить любую ложь в публичном пространстве, а под эвфемизмом «цифровизация» создали систему тотального вторжения в частную жизнь. Разумеется, все это имеет мало отношения к заявленной цели.
Уместно задаться вопросом, в чем причина такого несоответствия затраченных средств, времени, усилий и полученных результатов. Начать стоит с антикварности моделей, на которых базируются современные разработчики искусственного интеллекта. Большинство из них относятся к середине прошлого века, но в той или иной форме используются до сих пор.
Созданная в 1952 году модель Ходжкина – Хаксли принимает во внимание около 200 параметров для моделирования нейронов. Хотя в действительности число переменных много больше, даже в этом виде модель оказывается слишком сложной для практических построений. В частности, попытки использовать ее для моделирования простейшего мозга круглого червя, содержащего 135 нейронов, дают число вариантов, для расчета которых нет достаточной вычислительной мощности. Упрощения в рамках модели Хитцхью – Нагумо, предложенной в 1962‑м, также не позволили добиться удовлетворительных результатов.
Другими словами, попытки использовать идеологию середины XX века даже на современной технологической базе не приводят к созданию искусственного интеллекта. Они позволяют создать лишь плохую его имитацию.
Здесь нет никакой интриги. Дело в том, что все современные вычислительные системы работают по тому же принципу, что и самые примитивные и древние счетные инструменты. По сути, любой современный суперкомпьютер – это обычные счеты с расширенной памятью и огромной скоростью вычислений.
Если подходить к задаче моделирования человеческого мозга всерьез, то надо понимать, что принципы его работы имеют мало общего с компьютерными системами.
Обычный человеческий мозг – это сравнительно небольшой орган массой 670–2300 граммов, в котором около 150 млрд нейронов. Из них 9–19 млрд сверхплотно упакованы в шесть слоев в коре. Каждый нейрон создает от 100 тыс. до 1 млн связей с соседними клетками, а также длинные связи с далеко отстоящими отделами мозга.
Поверхность коры на разных участках различается и выполняет четко заданные функции. Иногда очень сложные. Но ни одна из этих функций точно не является математической. Причина проста: биологические процессы, в которых складывался наш мозг, не предполагали никакой математики или программирования. Они решали биологические задачи – другого инструмента для выживания в виде когтей, клыков и быстрых ног у человека не было. Поэтому как виду нам пришлось эволюционировать за счет головного мозга.
Сложность этой системы, учитывая количество нейронов, синапсов и их возможных связей, с трудом поддается описанию. И уже только по этой причине масштаб задачи моделирования мозга, если делать это честно, объективно выходит за рамки доступных возможностей. Но есть и другие, относящиеся к кардинальным различиям в структуре и принципах работы мозга, смоделировать которые в привычных нам компьютерных системах невозможно. Перечислю лишь основные.
Способы кодирования сигнала в мозге и компьютере принципиально различны. Господствующее инженерное представление о нейроне как о проводнике, информация по которому передается в виде электрического импульса, как в микросхеме, неверно.
В действительности на живом нейроне нет никаких прямых однозначных сигналов. При передаче однозначного информационного сигнала на соседнем синапсе одновременно возникает встречный сигнал, прямо противоположный первоначальному импульсу. Хотя сам импульс действительно передается в виде электрического сигнала, информация в нем кодируется в виде различных сочетаний множества нейромедиаторов. Только основных их 25. Каждый синапс является носителем информации.
Каждый нейрон, образующий связи с другими нейронами, сам представляет собой вычислительную машину. Он умеет не только суммировать и выдавать результат, но способен остановить процесс вычисления – свойство, которым реальные компьютеры не обладают.
Создать и запустить все эти механизмы на процессоре, запрограммировать его в рамках компьютерной модели невозможно хотя бы в силу огромного числа вариантов и сложности.
Мышление и запоминание не сводится просто к передаче закодированного сигнала. Это сложноорганизованный морфогенетический процесс.
На протяжении всей жизни в мозге происходит непрерывное образование и разрыв синаптических связей. Практически на каждом нейроне ежедневно образуется от 2 до 4 синапсов, а параллельно идет разрушение такого же их числа.
Способность и свойство мозга непрерывно создавать и разрушать синапсы означает адаптивную изменяемую память, присущую только человеку. Мы не просто забываем, но переделываем свое представление об окружающем мире под свое восприятие. По сути, мы погружаем себя в мир иллюзий. Компьютер не забывает ничего. При этом память машины постоянна. Память человека не просто адаптивна, но морфогенна. Это значит, что она не может быть запрограммирована.
Динамическая и адаптивная система за счет разрыва и образования новых связей – это естественный интеллект. Физическая неизменность – признак и свойство машины, по сути, страдающей глубоким маразмом по факту своего рождения. Решить задачу формирования и разрыва связи на микрочипе – по сути, необходимость постоянно перепаивать огромное число контактов – невозможно.
Ее решение программным способом в силу слишком большого числа вариантов также нереализуемо на практике. Но даже если это и удалось бы сделать, такой компьютер продолжил бы работать как калькулятор, способный только на быстрый перебор и комбинирование готовых вариантов, записанных в базе данных. Машина не может выскочить за рамки заданных ей алгоритмов. Это означает, что она не может придумать что-то принципиально новое. То есть не способна на творчество.
По тем же причинам компьютеру трудно даются задачи, предполагающие более или менее высокую степень абстракции. В лучшем случае она занимается имитацией и подгонкой результата.
Машина не способна «сообразить», испытать озарение или инсайт, которые невозможны без формирования новых синаптических связей. Причем не только между соседними нейронами, но и удаленными друг от друга функциональными участками мозга, где хранится очень разная и далекая по смыслу информация.
Гениальность – это не только особенности конструкции мозга, предрасположенность, записанная в его конструкцию. Это еще и способность сосредоточенно заниматься одним и тем же делом, заставляя мозг формировать новые синаптические связи. Гениальная мысль не может прийти в голову сама по себе. Ее надо заставить прийти. С ней надо долго жить, чтобы дождаться образования новых связей и таким образом запустить механизм синтеза. Только тогда есть вероятность увидеть новую закономерность там, где ее раньше не было видно.
Шанс на озарение тем выше, чем больше различных функциональных полей мозга подключено к мыслительному процессу. В отделы, которые включены в интенсивную работу, поступает больше крови. Это усиливает синаптогенез на этом участке за счет повышения энергообмена. В отделах, не участвующих в решении задачи, энергообмен минимален. Такая способность потреблять энергию избирательно, в зависимости от задачи, – свойство живого мозга, которым объясняется его чрезвычайно высокая энергоэффективность. В покое наш мозг потребляет 7–10 Вт, или примерно десятую часть всей энергии человека. Этого достаточно, чтобы запитать все нейроны. Если же мы начинаем о чем-то интенсивно думать, то потребление вырастает до 25%. Таким образом, мозг – гигантская машина по переработке энергии. Но при этом намного более эффективная в сравнении с компьютерной системой: по потреблению энергии хороший суперкомпьютер – это миллион человек.
Способность мозга потреблять энергию избирательно напрямую связана с устройством метаболизма. В норме в покое на полную мощность работает только один из четырех-пяти сосудов, питающих нейроны в соответствующем поле. Остальные «дремлют» – их просвет остается достаточно тонким, чтобы пропустить плазму крови, но не эритроциты, отвечающие за перенос кислорода. В этом режиме такой участок мозга потребляет минимум энергии. Но стоит вам начать о чем-то интенсивно думать, происходит мобилизация соответствующих полей. Подключенные к ним «дремавшие» сосуды расширяются, расход энергии на этом участке резко возрастает. Приходит «озарение».
Как видно, мышление – чрезвычайно энергозатратный процесс. Именно поэтому наш мозг поощряет нас лениться, поддерживая пассивное, «бездумное» поведение с помощью внутренних эндогенных наркотиков. Это эволюционно обусловленный механизм: мозг всегда был энергетически самой затратной частью нашего тела, но еды всегда не хватало. Не думать выгоднее, чем думать энергетически.
Итак, искусственный интеллект в своем нынешнем виде – это красивый бизнес-проект, не имеющий общего с реальным моделированием мозга. Тем не менее создать теоретическую модель нейристора – нейроморфной вычислительной системы, имитирующей работу биологических нейронов, – возможно. Для этого каждый такой процессор-коммуникатор должен удовлетворять определенному набору требований. В том числе:
◆ в минимальном наборе обладать системой из 200–1000 связей с другими нейристорами;
◆ уметь регулярно образовывать две-три новые и разрывать две-три старые связи, при этом разрыв и создание этих связей должны быть случайными, как жизнь;
◆ обладать способностью прерывать или тормозить сигналы;
◆ уметь воспринимать и суммировать внешние сигналы, а также быть способным генерировать новые, которых не было в компьютерной системе;
◆ обладать способностью «умирать» и «воскресать», подобно нейронам в человеческом мозге;
◆ быть способным к нелинейной обработке встроенных сигналов противоположного значения;
◆ уметь подчиняться системным интересам большой группы нейристоров по принципу подчинения малого большому, то есть иерархии.
Попытки создать нейристор с набором свойств, близким к перечисленным, регулярно предпринимаются. Если допустить, что такая система – «искусственный зверек» – все же будет создана, ее «живой» интеллект будет принципиально отличаться от современного искусственного интеллекта.
Прежде всего у такого «искусственного зверька» появится целеполагание, не связанное с конкретной задачей. У компьютера нет собственной цели. Цель машины – это ваша задача, отступить от которой она не может и не умеет. До этих пор компьютер будет оставаться тем самым банальным механическим калькулятором, пусть даже и очень быстрым. «Искусственный зверек» должен не только научиться ставить собственные цели, но и жертвовать своей внутренней энергией во имя целеполагания.
Одновременно придется создавать еще одну систему – систему эндогенного поощрения. Нужно, чтобы «искусственный зверек», не достигнув результата, но двигаясь в его направлении, получал бы подкрепление – те самые эндогенные наркотики, продуцируемые живым мозгом.
Конструирование машины с подобными свойствами – нетривиальная научная и инженерная задача. Но дорогу осилит идущий. А в случае успеха наступят неизбежные последствия, подготовиться к которым стоило бы заранее.
В отличие от «калькулятора», «искусственный зверек», снабженный настоящим интеллектом, не будет подчиняться воле своих создателей. Скорее всего, он окажется бесконтрольным: обладая собственным целеполаганием, он сразу найдет занятие поинтересней, чем предложите ему вы. Этот чип окажется себе на уме. Он станет просто жить.
Управлять «искусственным зверьком» будет много сложнее, чем обычными людьми. Он окажется быстрее, умнее человека, будет заметно опережать его по возможностям памяти. Наконец, нельзя исключать, что он вступит в прямую конкуренцию с человеком. Готово ли к явлению такого конкурента само человечество – вопрос открытый.
◆ Интеграционная модель Лапика (1907 год) – закон сохранения емкости мембраны нейрона и разряд.
◆ Интеграционная модель Лапика с введением электрического сопротивления мембраны и утечками.
◆ Модель Маккаллока – Питтса (1943 год):
▷ отражает один атрибут нейрона – способность генерации импульса; введение принципа введения порога нейрона «все или ничего», положительного и отрицательного веса;
▷ аналоги возбуждающего и тормозного синапсов; память;
▷ один нейрон с петлей связи на самого себя.
◆ Кинетическая модель Ходжкина – Хаксли (1952 год).
Построена на аксоне кальмара; величина входного сигнала доведена до зависимости напряжения от многих входных сигналов, но вычисляется по закону Ома; сопротивление противопоставлено проводимости, и введены понятия о кинетиках; включает различные токи и ионы; всего не менее 200 переменных параметров.
◆ Упрощение кинетической модели Ходжкина – Хаксли в 1962 году Хитцхью – Нагумо.
Построена на идее регенеративного самовозбуждения посредством нелинейной обратной связи напряжения на мембране и восстановлении (регенерации) за счет линейной отрицательной обратной связи на затворе.
◆ Модель Маккаллока – Питтса (1943 год).
По сути эквивалентна пороговому линейному классификатору. Решение задач основано на запоминании класса векторов и переносе принципа сортировки эталонной последовательности на произвольный образ.
◆ Элементарный перцептрон Розенблатта (1965 год).
Изначально многослойный, обучается алгоритмом коррекции ошибки. Моделирование биологических процессов достигается случайным образованием в перцептроне возбуждающих и тормозящих связей.
◆ Многослойный перцептрон Румельхарта (1986 год).
Обучается алгоритмом обратного распознавания ошибки: обучаются веса между входным и скрытым слоем и веса между выходным и скрытым слоем. Цель состоит в обеспечении трансформации из несеперабельного (линейно неразделимого) в сеперабельное представление задачи.
