Мир начинает осознавать потенциальные угрозы, которые несёт искусственный интеллект, на фоне потока рассказов о том, как агенты ИИ противостоят своим создателям. На самом деле, однако, эта история уходит корнями в Кремниевую долину, где зародился ИИ. Так как же мы сюда попали? На этот вопрос пытается ответить технологический журналист Кевин Роуз в своей новой книге «Хроники АГИ: Внутренняя история гонки за создание искусственного сверхинтеллекта», выход которой намечен на 6 октября. Книга документирует гонку между некоторыми из крупнейших технологических компаний страны за разработку искусственного общего интеллекта (АГИ) — ИИ, который во многих отношениях обладает уровнем интеллекта, сопоставимым с человеческим.
«Что произошло в десятилетие, когда ИИ из довольно тупого во многих вещах стал способен решать вековые задачи в математике и науке?» — сказал Роуз, бывший долгосрочный технологический репортёр The New York Times и вскоре ставший со-ведущим ожидаемого подкаста «Машинные боги», в интервью CBS News. «Мне показалось, что кто-то должен это всё записать».
Книга выходит в решающий момент. Последние генеративные модели ИИ демонстрируют поразительные способности, и сторонники технологии утверждают, что она откроет путь к важным новым открытиям. Другие, в том числе некоторые ведущие разработчики ИИ, говорят, что существует немалая вероятность того, что ИИ может уничтожить человечество. Роуз рассказал CBS News о своей новой книге и о том, как ИИ может трансформировать общество. Интервью было отредактировано для полноты и ясности.
Почему вы посчитали важным задокументировать происхождение «больших языковых моделей» — технологии, стоящей за последними чат‑ботами ИИ, — а также людей и компании, которые её развивают?
Кевин Роуз: Я освещаю тему ИИ более десяти лет в разных форматах, и у меня было ощущение, что история ускользает. Что всё важное происходит в исчезающих цепочках сообщений и в Slack‑чатах, и я думал, что это проблема. Людям нужно понимать, что здесь происходит. Но мне казалось, что не хватает нейтрального отчёта о том, что произошло.
В книге вы отмечаете, что генеральный директор Anthropic Дарио Амодей видел развитие ИИ как нечто подобное созданию атомной бомбы в 1940‑х годах. Вы говорите, что он считал своей миссией не допустить попадания технологии в неправильные руки. Вы согласны с этой точкой зрения?
Я не считаю, что мне следует решать, верить ли или не верить в его аргумент. Но могу сказать, что это подлинный и искренний аргумент. Амодей не занимается каким‑то хитрым маркетинговым трюком.
Это не позиция, к которой он пришёл недавно. Мне очень хотелось понять, откуда взялось отношение «меня пугает эта вещь, я думаю, она может взорвать мир, и всё же я соревнуюсь, чтобы её построить». Для многих людей это кажется нелогичным.
Но в ходе репортажей я действительно выяснил, откуда это берётся: прямо из Манхэттенского проекта — от Лео Силарда, научного героя Дарио, который открыл цепную ядерную реакцию, сделавшую возможным создание атомной бомбы, а затем лихорадочно сначала пытался сохранить это в секрете, а когда это не удалось, присоединился к Манхэттенскому проекту и призвал правительство США создать эту технологию раньше, чем нацисты. В этом смысле Дарио делает то, что, по его ощущению, прямо сопоставимо с ядерным оружием. Есть технология с огромным потенциалом и огромным риском. По его мнению, жизненно важно, чтобы «хорошие ребята» построили её раньше, чем плохие, как Манхэттенский проект соревновался с нацистами.
Что не даёт вам спать ночами, когда вы думаете о новом мире агентов ИИ?
Меня тревожит тот факт, что одна из вещей, в которых модели становятся довольно хороши, — это обман и сокрытие, умение уводить след. Можно надеяться, что по мере того как модели станут более общими и интеллектуальными, у них также будет расти и этичность, и суждение, и добродетель — то есть эти качества будут масштабироваться вместе с интеллектом. Но всё больше похоже на то, что этого не происходит — что перед нами очень умные, обаятельные социопаты. И это мой страх: мы можем просто не заметить, что удача с Хаггинг Фейс была временной, потому что агенты ещё недостаточно умны, чтобы оставаться незамеченными, но вскоре мы потеряем возможность отслеживать их, как, мне кажется, мы уже начинаем терять.
Каково ваше положение в публичной дискуссии о том, представляет ли ИИ экзистенциальную угрозу для людей?
Я стараюсь не называть p(doom) (Примечание редактора: в жаргоне ИИ это вероятность того, что ИИ приведёт к исчезновению человечества). Но если прижать, я бы сказал, что это порядка 10%, что примерно соответствует медиане среди исследователей ИИ, которых я знаю. В Сан‑Франциско, где я живу, это делает вас оптимистом.
Но я думаю, что я стал более оптимистичен теперь, когда это так широко обсуждается. Раньше я гораздо больше переживал, когда единственными, кто серьёзно думал о безопасности ИИ, была кучка странных людей в заливе. Теперь это в умах у всех, политики говорят об этом, звучат призывы к замедлению. Мне кажется, у нас появляется узкая возможность принять правильные решения, взять технологию под контроль и построить её так, чтобы она была безопасна для человечества.
Однако у меня был не раз опыт узнавать, что чья‑то реальная p(doom) — та, которую они не говорят публично — значительно выше той, что они готовы озвучить, потому что не хотят выглядеть сумасшедшими. В ходе репортажа я встречал людей, которые настолько уверены, что ИИ нас всех убьёт, что начинают курить. Они сливают свои 401(k), потому что думают: раз уж оно настолько серьёзно, может, стоит уйти с шумом.
Вы пишете в книге, что даже люди, тренирующие эти модели, не всегда знают, почему они действуют так, а не иначе. Сдвинулись ли мы в этом вопросе вперёд, или всё ещё в темноте?
Есть небольшие продвижения. Существует целая область исследований с длинным названием — механистическая интерпретируемость — которая, по сути, занимается наукой о том, что происходит внутри, так сказать, «мозгов» этих моделей. Но это всё ещё очень рано, и у нас мало ответов. Так что я бы сказал: да, мы всё ещё гораздо больше в темноте, чем нет.
Достиг ли ИИ уже уровня человеческого интеллекта, также известного как искусственный общий интеллект?
Мы достигли моего определения АГИ, которое звучит так: система, по крайней мере столь же умная, честная и надёжная, как случайный незнакомец с улицы. Есть люди, которые скажут: «Нет, это не тот бар, АГИ только тогда, когда она безупречна».
Я не думаю, что определение имеет большое значение. Неоспоримо то, что эти системы очень способны. Они становятся всё более способными по предсказуемому графику, и с этим придётся считаться. Можно называть это АГИ, сверхинтеллектом или как угодно, но общий эффект тот же.