Левые и правые технологического спектра - Wealth Navigator

Левые и правые технологического спектра

Руслан Юсуфов спорит с Марком Андриссеном, Сэмом Альтманом, Сундаром Пичаи и Брайаном Чески, предсказывает протесты новых луддитов и пытается понять, «каким будет столкновение идеального видения будущего ИИ с реальностью его реализации».

Руслан Юсуфов, футуролог, основатель и управляющий партнер компании MINDSMITH

Эффективный акселерационизм – это философское движение XXI века, которое выступает за радикально протехнологическую позицию. Его сторонники считают неограниченный технологический прогресс решением общечеловеческих проблем – бедности, вой­н и изменения климата. В 2023 году движение перестало быть маргинальным – ряд известных венчурных капиталистов, включая Марка Андриссена и Гарри Тана, добавили в свои публичные профили в социальных сетях соответствующую приписку «e/acc». Технологическое лидерство, к сожалению, не всегда идет рука об руку с высокими моральными качествами: сторонники e/acc называют людей с более осторожными взглядами на инновации уничижительными прозвищами, например «обреченными» (от англ. doomer) или «децелами» (от англ. decel, сокращения от deceleration – замедление). Если «e/acc» стремятся к утопическому образу будущего, то «децелы» боятся реализации антиутопического сценария.

Больше чем огонь

В своем «Манифесте технооптимиста» Андриссен пишет: «У нас есть враги. Наши враги не плохие люди, а скорее плохие идеи. Наше современное общество на протяжении шести десятилетий подвергалось массовой деморализации против технологий и против жизни – под разными названиями: “экзистенциальный риск”, ESG, “цели устойчивого развития”, “социальная ответственность”, “капитализм стейкхолдеров”, “принцип предосторожности”, “доверие и безопасность”, “техноэтика”, “управление рисками”, “антирост”, “пределы роста”. Кампания по деморализации основана на идеях прошлого – идеях зомби, многие из которых произошли от коммунизма, катастрофических тогда и сейчас, – которые отказались умирать».

Нарративы про страшных и опасных коммунистов добрую половину XX века сопровождали любую западную политическую аргументацию, и в попытке оправдать необходимость внедрения искусственного интеллекта мы вновь возвращаемся к этим простым тезисам: если ты против ИИ и прогресса, то ты коммунист. Даже больше: если ты не с нами, то ты коммунист и убийца и кровь невинно убиенных – на твоих руках. Не правда ли, достаточно экстремально, особенно с учетом того, что подобная философская концепция исходит от венчурных капиталистов, напрямую заинтересованных в продвижении технологического раз­вития?

Процитирую высказывания нескольких технологических лидеров. «У ИИ есть потенциал сделать жизнь намного-­намного лучше» – Марк Андриссен. «Не хочу звучать как утопический технарь, но увеличение уровня жизни, который может привнести ИИ, экстраординарно» – Сэм Альтман, CEO OpenAI. «ИИ – самая всеобъемлющая технология, над которой работает человечество, более всеобъемлющая, чем огонь или электричество» – Сундар Пичаи, CEO Google. «У ИИ есть потенциал в помощи ученым в лечении и предотвращении всех болезней уже в этом веке» – Марк Цукерберг, CEO Meta (в РФ признана экстремистской организацией и запрещена. – Прим. ред.).

Сегодняшние технологические визионеры говорят нам, что с приходом искусственного интеллекта все будет «намного лучше», но то же самое говорили инноваторы, стоявшие у истоков социальных сетей. Вот только объединили ли нас социальные сети или разъединили и фрагментиро­вали?

Даже если поверить на слово людям, у которых есть явный коммерческий интерес в продвижении технологий (да, Сэм Альтман?), а также людям, которые уже злоупотребляли нашим доверием, продавая данные пользователей для политических кампаний (да, Марк Цукерберг?) или обманом собирая данные пользователей в режиме «инкогнито», хотя обещали никаких данных не собирать (да, Сундар Пичаи?), и не сомневаться в потенциале искусственного интеллекта в решении глобальных проблем человечества, почему предлагаемые решения не решают эти проблемы, а порождают новые?

«Произойдет повсеместное замещение на рынке труда» – Сатья Наделла, CEO Microsoft. «Вы можете сделать ту же самую работу силами меньшего количества людей, это просто природа продуктивности» – Арвинд Кришна, CEO IBM. «Это, по сути, инструменты, замещающие человека» – Мустафа Сулейман, CEO Microsoft AI. Отдельно процитируем умозаключение о природе ИИ Брайана Чески, CEO Airbnb: «Так получается, что это продуктивность, но без лишнего налога в виде большего количества людей». Американский комик и ведущий популярной телепередачи The Daily Show остро прокомментировал этот тезис: «Налог в виде людей, ранее известных как “работники”».

Пустой стол переговоров

Почему разработки техногигантов направлены на замену человека (порождая новые социальные кризисы), если можно выбрать своим фокусом что-то уже явно насущное – например, образование, бедность или изменение климата? А что, если замена человека – это и есть цель внед­рения ИИ, а вовсе не косвенный ущерб? Действительно, а почему бы не претендовать на гигантский мировой рынок – рынок заработных плат всех людей? Каким будет столкновение идеального видения будущего ИИ (или манипулятивной пропаганды визионеров) с реальностью его реализации?

Отказ людей от использования и внедрения технологий из-за связанных с ними рисков, а также по идеологическим причинам приведет к появлению сообществ, нацеленных на заморозку развития технологий или откат уровня технологического развития. Неизбежны стихийные протесты людей, которые борются с достижениями инновационных технологий – современных луддитов. Разрушение передающих и ретранслирующих станций 5G в Великобритании и Нидерландах еще в 2020 году, а также установка дорожных конусов на капоты беспилотных автомобилей в Сан-­Франциско с целью их блокировки – яркие примеры современного луддизма. В начале 2024 года десятки активистов собрались возле головного офиса компании OpenAI в Сан-­Франциско, призывая инженеров прекратить работу над продвинутыми ИИ-системами. Демонстрация была организована двумя группами – Pause AI и No AGI, выступающими за остановку развития искусственного интеллекта, которое может привести к появлению общего искусственного интеллекта, а также против любых связей с военными структурами. Pause AI уже зарегистрированы в качестве НКО в Нидерландах, США и Великобритании, и это далеко не первый их протест.

Контекст, жизненные позиции, принципы принятия решений, политические взгляды техноконсерваторов и акселерационистов уже настолько разные, что договориться будет непросто. А что, если к идейным разногласиям добавятся физические? Как и о чем договариваться людям и киборгам? Ведь им придется как-то взаимодействовать. Какой путь проделает тыква, произведенная фермером из общины амишей в экологически чистых условиях без применения пестицидов, чтобы оказаться на столе у трансгуманиста, которому системы анализа крови прописали есть такую тыкву на завтрак?

Движения и проекты вроде Pause AI активизировались на фоне многомиллиардных инвестиций корпораций и массовых увольнений, но появились сравнительно недавно – спустя короткое время после выхода ChatGPT. Что нас ждет дальше? Если трансгуманисты, в числе которых мы видим влиятельных венчурных капиталистов, будут все активнее призывать к отказу от ограничений на расширение возможностей человека, а технофобы будут требовать более жесткого регулирования и моратория на рискованные технологии, отказываясь от прогресса, будет ли это противостояние мирным и кто победит? Можно с уверен­ностью прогнозировать рост напряженности по вопросу границ и рисков технологической трансформации. Для преодоления экзистенциальных рисков и согласования противоречий потребуется совместная работа – будет ли она в принципе возможна, если два сообщества будут настолько далеки друг от друга идеологически, что не смогут сесть за стол переговоров?