Фрэнсис Фукуяма – о генетической сегрегации элит, Хесус Серрано – о миллиардных потерях бизнеса из-за дезинформации, и Пол Грэм – о писательском мастерстве.
Технологии, которые могут изменить мир и человека, угрожают либеральной демократии, убежден Фрэнсис Фукуяма, научный сотрудник Стэнфорда, автор книги «Конец истории и последний человек». Своими мыслями об универсальном ИИ и новом начале истории он поделился в популярном подкасте австралийца Джо Волкера.
72‑летний философ считает опасным и весьма вероятным увеличение продолжительности жизни. Понятно, что никто не хочет умирать. Но в общественном смысле это будет кошмар: со сменой поколений не станет и социальных перемен.
Еще один повод для тревоги Фукуямы: весьма вероятно, что элиты начнут отделять себя от общества не только с точки зрения социального статуса, бэкграунда и образования, но и генетически. А ведь концепция равенства – это основа либерализма и демократии. Его не будет, если народ согласится, что существуют разные категории людей.
Речь не только о генной инженерии. Технологии в целом сильно влияют на жизнеспособность политических систем. Интернет оказался более разрушительной силой, чем представлялось изначально, признал Фукуяма. В 1990‑е ожидали, что распространение информации в Сети будет способствовать демократизации. А на самом деле разрушается основа общепринятого эмпирического знания. Отсутствие авторитетных источников, содержащих только достоверную информацию, по мнению Фукуямы, серьезная проблема для демократий.
В отличие от блокчейна и криптовалют (их философ называет бесполезными технологиями), внедрение ИИ принесет большие и быстрые изменения. Высокая скорость в данном случае – это плохо, потому что социальные институты способны адаптироваться к новым технологиям, но с большим временным лагом. Искусственный интеллект хоть и не имеет сознания, может потребовать признания своих «прав».
Фукуяма предполагает, что постепенно произойдет слияние машины и человеческого мозга, которые будут действовать довольно схожим образом: «Мы уже доверяем принятие решений компьютерам, которые обрабатывают информацию, сообщают нам о происходящем. Но действительно ли мы собираемся делегировать им право принимать решения, которые напрямую влияют на жизнь и смерть других людей?»
Еще одна угроза – рыночно ориентированный авторитаризм. Техномиллиардеры, которые становятся «новой аристократией», склонны считать, что определенные люди умнее и профессиональнее, а потому у них должно быть неотъемлемое право управлять другими, предупреждает Фукуяма.
Профиль типичного фаундера ИИ-стартапа меняется. В вертикальных SaaS-компаниях традиционно это был эксперт в предметной отрасли, который нанимал команду для разработки софта. Теперь многими ИИ-компаниями управляют основатели-технари, которые хорошо понимают, как работать с большими языковыми моделями, делится наблюдениями партнер А16z Давид Абер. Это не инсайдеры в отраслях, в которые они встраиваются, а эксперты по инструментарию. У таких основателей есть преимущество: они строят сильные модели, которые в десятки или даже тысячи раз эффективнее человеческого труда. Это создает волшебный пользовательский опыт, что позволяет командам быстро двигаться, разрабатывать новые интерфейсы и изобретать революционные продукты.
Но дифференциация не то же самое, что и защищенность. То, что продукт кажется волшебным, не значит, что его трудно скопировать или подделать. Защищенность по-прежнему достигается за счет полного контроля над рабочим процессом, глубокой интеграции в клиентские системы, завоевания доверия. Эти преимущества зависят не от понимания возможностей ИИ, а от знания контекста и осознания того, почему это важно в данной области.
ИИ радикально расширяет технические возможности. Но он не расскажет, что полезно и нужно именно сейчас. Чтобы перевести возможности модели в продуктовую ценность, по-прежнему нужно знание отрасли, отмечает Абер.
Дезинформация – в том числе фейковые новости, взломанные аккаунты и дипфейки – дорого обходится компаниям, пишет в блоге Всемирного экономического форума менеджер по репутации и кризисным коммуникациям Хесус Серрано. К последствиям репутационных и финансовых рисков он относит, в частности, колебания курса акций, ежегодные потери от которых исследователи Университета Балтимора в 2019 году оценили в 39 млрд долларов. Еще 17 млрд – убыток от неверных финансовых решений, вызванных дезинформацией. К этому добавляются расходы на кризисный менеджмент.
ИИ-технологии, способные создавать реалистичные, но фальшивые образы, видео и аудио, делают дезинформацию еще быстрее и убедительнее, а соцсети позволяют стремительно распространять ее. Дипфейки могут использоваться как для манипулирования общественным мнением и нанесения ущерба репутации, так и для кражи миллионов долларов у компаний по всему миру.
Фальшивые рейтинги на маркетплейсах, сайтах бронирования и платформах для отзывов влияют на решения покупателей. Ложные отзывы обходятся бизнесу в 152 млрд долларов.
Когда доверие становится основным активом, компаниям следует инвестировать в раннее обнаружение репутационных угроз, разработку стратегий кризисных коммуникаций, повышение цифровой грамотности сотрудников, призывает Серрано. Он рекомендует привлекать к поиску ложной информации специалистов по фактчекингу и инструменты ИИ-мониторинга. Вызывающий доверие спикер, заранее выстроенные и проверенные планы реагирования, моделирование ситуаций – гарантии, что предприятие не будет застигнуто врасплох. Растет и роль регулирования. Кодекс практики ЕС по борьбе с дезинформацией, являющийся частью Закона о цифровых услугах, создает основу для противодействия распространению ложной информации в интернете, сохраняя при этом свободу слова, уверен автор.
Эссе должно сообщать людям то, чего они еще не знают, делится рекомендациями с читателями предприниматель Пол Грэм, продолжающий свои заметки о писательском ремесле. Прежде чем писать, он советует авторам задаться вопросом: почему люди еще не знают о том, что будет положено в основу повествования?
Если тема не очень важна, ответа на этот вопрос не существует, ведь случайные вещи знать необязательно. А вот если ты пишешь о чем-то важном, то существуют три причины незнания: отсутствие интереса к теме, недалекость читателя или его неопытность.
Если вы пишете о важном для умных людей (Грэм признается, что это его цель), вы пишете для молодых. Точнее, именно здесь будет максимальный эффект. То, что вы сообщаете, должно быть хотя бы в какой-то степени новым и для вас. И это не зависит от возраста. Ведь пишут для того, чтобы в чем-то разобраться самому («Я не стараюсь удивить читателя. Я стараюсь удивить себя», – формулирует это правило Грэм). Но для юной аудитории выводы будут еще большим сюрпризом, чем для автора.
Эффект эссе – в изменении мышления читателя, умноженном на важность темы. Поменять отношение к не очень важным вещам проще, чем сказать что-то новое на серьезную тему. Если аудитория молодая, то формула немного сдвигается – шансов изменить мышление молодых больше.
