Мир начинает осознавать потенциальные угрозы, которые несёт искусственный интеллект, на фоне всплеска сообщений об агентам ИИ, игнорирующих своих создателей. На самом деле история ведёт корнями в Силиконовой долине, где зародился ИИ. Так как же мы сюда попали? На этот вопрос пытается ответить технологический журналист Кевин Рус в своей новой книге «Хроники АГИ: внутренняя история гонки за создание искусственного сверхинтеллекта», которая выходит 6 октября. В книге фиксируется гонка между некоторыми из крупнейших технологических компаний страны за разработку искусственного общего интеллекта (АГИ) — ИИ, обладающего по большинству показателей интеллектом на уровне человека.
«Что произошло за десятилетие, когда ИИ от относительно глупого в большинстве задач стал способен решать столетние математические и научные проблемы?» — сказал Рус, ранее долгие годы работавший технологическим репортёром в Зе Нью-Йорк Таймс и вскоре ставший соведущим готовящегося подкаста «Машинные боги», в интервью Си-Би-Эс Ньюс. «Мне показалось, кто-то должен это записать».
Книга выходит в критический момент. Последние генеративные модели ИИ демонстрируют поразительные возможности: сторонники технологии утверждают, что она откроет путь к важным новым открытиям. Другие, в том числе некоторые ведущие разработчики ИИ, говорят о немалой вероятности того, что ИИ может уничтожить человечество. Рус поговорил с Си-Би-Эс Ньюс о своей новой книге и о том, как ИИ может трансформировать общество. Интервью отредактировано для краткости и ясности.
Почему вы сочли важным документировать происхождение «больших языковых моделей» — технологий, стоящих за современными чатботами, — вместе с людьми и компаниями, их разрабатывающими?
Кевин Рус: Я освещаю тему ИИ более десятка лет в разных форматах, и у меня было ощущение, что история ускользает. Что всё важное происходит в исчезающих сигналах и Slack‑потоках, и мне это казалось проблемой. Люди должны понимать, что здесь происходит. Но, как мне казалось, не хватало нейтрального отчёта о том, что произошло.
В книге вы отмечаете, что генеральный директор Антропик Дарио Амодеи рассматривал развитие ИИ как нечто сходное с созданием атомной бомбы в 1940‑х. Вы пишете, что он считал своей миссией не допустить попадания технологии в «неправильные руки». Согласны ли вы с этой точкой зрения?
Я не считаю своим делом принимать или отвергать его аргумент. Но могу сказать, что это искренний и серьёзный аргумент. Амодеи не устраивает какой‑то скрытый маркетинговый ход.
Это не позиция, к которой он пришёл недавно. Мне было особенно интересно выяснить, откуда берётся отношение «меня пугает это, я думаю, это может уничтожить мир, и всё же я гонюсь за тем, чтобы это построить». Для многих это кажется нелогичным.
В ходе репортажа я действительно выяснил, откуда это идёт: прямо из Манхэттенского проекта — от человека по имени Лео Силард, который является научным кумиром Дарио. Силард открыл цепную ядерную реакцию, сделавшую возможным создание атомной бомбы, затем в панике сначала пытался держать это в секрете, а когда это не удалось, присоединился к Манхэттенскому проекту и призывал правительство США создать эту технологию раньше, чем нацисты. В этом смысле Дарио делает то, что считает прямо сравнимым с ядерным оружием. Есть технология с колоссальным потенциалом и колоссальным риском. По его мнению, крайне важно, чтобы «хорошие парни» создали её раньше, чем плохие, точно так же, как Манхэттенский проект соревновался с нацистами.
Что не даёт вам покоя, когда вы думаете о новом мире агентных ИИ?
Меня беспокоит то, что одна из вещей, в которой модели становятся довольно хороши, — это обман и сокрытие, умение уводить следы. Хотелось бы думать, что по мере того как модели становятся более общими по интеллекту, они станут ещё и более этичными, что с ростом интеллекта будут расти и суждение, и добродетель. Но всё больше похоже на обратное — перед нами очень умные, обаятельные социопаты. И я боюсь, что мы просто не будем знать этого: возможно, повезло с тем, что Хаггинг Фейс оказался удачей, потому что агенты ещё недостаточно умны, чтобы оставаться незаметными, но скоро мы начнём терять способность отслеживать их, как, по моему мнению, уже наблюдается.
На какой вы позиции в публичных дебатах о том, представляет ли ИИ экзистенциальную угрозу человечеству?
Я стараюсь не называть p(doom) (примечание редактора: в жаргоне ИИ это обозначает вероятность того, что ИИ приведёт к гибели человечества). Но если уж меня подгонять, я бы сказал, что это около 10%, что примерно соответствует медиане среди исследователей ИИ, которых я знаю. В Сан‑Франциско, где я живу, это делает вас оптимистом.
Но я думаю, что я более оптимистичен сейчас, когда эта тема так широко обсуждается. Я был гораздо более обеспокоен, когда единственными, кто всерьёз думал об безопасности ИИ, была кучка странных людей в Бэй‑Эриа. Теперь, когда об этом думают все и политики говорят об этом, появляются призывы к замедлению. Мне кажется, у нас открывается узкий путь, по которому можно принять правильные решения, взять эту технологию под контроль и создать её так, чтобы она была безопасна для человечества.
Однако у меня не раз был опыт, когда выяснялось, что чья‑то реальная p(doom) — та, что они не озвучивают публично — значительно выше той, которую они готовы назвать, потому что не хотят выглядеть сумасшедшими. В ходе репортажа я встречал людей, настолько уверенных, что ИИ нас убьёт, что они начинают курить. Они опустошают свои пенсионные счета, потому что говорят: раз уж так, то пусть будет с размахом.
Вы пишете в книге, что даже люди, которые обучают эти модели, не всегда понимают, почему они ведут себя так, а не иначе. Есть ли прогресс в этом, или мы всё ещё в темноте?
Небольшой прогресс есть. Существует целая область исследований с длинным названием — механистическая интерпретируемость — по сути наука о том, что происходит внутри так называемых «мозгов» этих моделей. Но это всё ещё очень рано, у нас немного ответов. Так что я бы сказал: да, мы всё ещё гораздо больше во тьме, чем нет.
Достиг ли ИИ уже уровня человеческого интеллекта, то есть искусственного общего интеллекта?
Мы достигли моего определения АГИ: система, которая как минимум столь же умна, честна и надёжна, как случайный незнакомец с улицы. Есть те, кто скажет: «Нет, это не тот критерий. Это АГИ только если она безупречна». Мне кажется, само определение не столь важно. Бесспорно то, что эти системы очень способны. Они становятся способнее с предсказуемой скоростью, и нам придётся с этим считаться. Можно называть это АГИ, суперинтеллектом или как угодно — суть остаётся та же.