Две недавно вышедшие книги — The Optimist журналистки Кич Хэйджи и Empire of AI Карен Хао — предлагают две версии одного и того же кризиса. Хэйджи, получившая доступ к самому Альтману и его окружению, выстраивает портрет лидера, балансирующего между харизмой, неформальной властью и верой в собственную исключительность. Хао, работавшая без санкционированных интервью, анализирует OpenAI как замкнутую систему, утратившую связь с декларируемыми принципами. Вместе они показывают, как институциональные формы оказываются бессильны перед масштабом амбиций — и как центральная фигура, даже в организации, созданной ради общего блага, может стать источником системного риска.
В греческом мифе Прометей украл у богов огонь и принес его людям. За это он был обречен на вечные мучения: прикованный к скале, он ежедневно становился жертвой орла, клюющего его печень. Такова была цена первого великого технологического дара человечеству. В XXI веке история Сэма Альтмана, сооснователя и главы OpenAI, отзывается похожими мотивами.
Именно он стал двигателем создания ChatGPT — системы, запущенной в конце 2022 года, которая ошеломила мир своими возможностями. Вместе с этой технологической мощью человечество внезапно столкнулось с рисками генеративного искусственного интеллекта.
Спустя год «капризные боги» — то есть независимый некоммерческий совет директоров OpenAI — попытались изгнать Альтмана. Но в отличие от мифологического Прометея, он вышел из этой схватки целым и даже усилившимся.
Эта история стала темой сразу двух выдающихся книг, вышедших почти одновременно — 20 мая, через полтора года после драматических событий в OpenAI. Обе работы посвящены сложной смеси миссионерского энтузиазма, конкуренции и недоверия внутри компании — сначала на этапе создания ChatGPT, а затем во время кризиса управления в ноябре 2023 года, когда совет директоров безуспешно попытался отстранить Сэма Альтмана.
Авторам — профессиональным журналистам — удалось превратить эту внутреннюю драму Кремниевой долины в захватывающее и глубоко исследованное повествование. Каждая книга рассказывает историю по-своему.
The Optimist Кич Хэйджи — можно назвать полублагословленной версией. Автор получила доступ к самому Альтману и ключевым фигурам его окружения, включая семью и друзей. Личность главного героя — сложная, местами противоречивая — удерживает внимание на протяжении всей книги. Это не панегирик, но и не разнос.
Карен Хао, автор Empire of AI, работала без такого доступа: OpenAI держала ее на расстоянии. Но именно это придало ее книге остроты. Обе работы выявляют тревожные черты — как в характере самого Альтмана, так и в корпоративной культуре OpenAI и более широкой среде технологических элит Кремниевой долины. В эпоху эйфории вокруг генеративного ИИ такие наблюдения особенно важны.
Сэм Альтман — фигура завораживающая. Как пишет Хэйджи, первое, что бросается в глаза, — его хрупкое телосложение и взгляд, полон напряженной сосредоточенности, «словно он говорит с самым важным человеком в мире».
Родом из американского Среднего Запада, Альтман с юности проявлял выдающиеся технические способности, при этом обладая неожиданным чувством юмора. Уже в 17 лет он стал общественным активистом, публично совершив каминг-аут перед школьным собранием в поддержку прав ЛГБТ.
Свою карьеру он выстроил на стыке технологических амбиций и умения рассказывать истории — именно это позволяет ему привлекать капиталы для реализации масштабных замыслов. Его путь начался с приложения Loopt для геолокации. Затем последовали инвестиции в криптовалюту, основанную на сканировании сетчатки глаза (в попытке верифицировать цифровую личность в эпоху ИИ), стартапы по продлению жизни, проекты в области ядерного синтеза — и, конечно, ставка на создание сверхинтеллекта.
Некоторые сравнивают харизму Альтмана с так называемым «полем искажения реальности» Стива Джобса — способностью внушать людям веру в невозможное. Но если Джобс часто был резким и неудобным собеседником, то Альтман — внимательный слушатель, умеющий облечь свои идеи в форму, от которой трудно отказаться.
Эти качества с ранних лет привлекали к нему влиятельных наставников. Сооснователь акселератора Y Combinator (YC) Пол Грэм однажды сказал: «Вы можете сбросить Сэма с парашютом на остров каннибалов — и через пять лет он станет там королем». Вместе со своей партнершей Джессикой Ливингстон он доверил Альтману руководство YC — наделив его почти безграничной властью в экосистеме стартапов Кремниевой долины, когда тому было всего 28 лет.
Однако даже тогда в его адрес звучали упреки в излишней скрытности. «Если Сэм улыбается — значит, это очень обдуманный жест», — приводит Карен Хао слова одного из основателей YC. — «Единственный раз, когда он улыбался искренне — это когда [Пол Грэм] предложил ему возглавить YC». В Loopt, своем первом стартапе, проданном за $43 млн в 2012 году, Альтман дважды сталкивался с попытками совета директоров сместить его с поста CEO — за то, что он продвигал собственные идеи без согласования с коллегами.
Схожие конфликты возникли и в YC. Альтман, все еще возглавляя акселератор, параллельно запустил OpenAI в 2015 году вместе с Илоном Маском и рядом других инвесторов. По словам Хэйджи, Ливингстон в итоге уволила его, оставшись недовольной тем, что он использовал долю в YC, чтобы привлекать людей в новый проект. Некоторые партнеры увидели в этом не только конфликт интересов, но и попытку приватизировать бренд YC в личных целях.
Эти детали важны, потому что обе книги сходятся в главном: стиль управления Альтмана — стремительный, амбициозный и манипулятивный — неоднократно ставил OpenAI на грань кризиса. И все же именно эти качества помогли компании собрать колоссальные объемы финансирования, вычислительных мощностей и данных, что и вывело ее в лидеры гонки генеративного ИИ.
В 2021 году одна такая коллизия — впоследствии названная «разводом» — закончилась уходом группы исследователей по безопасности, которые основали конкурирующую компанию Anthropic. В другой — более известной как «сбой» — Альтман был уволен после того, как совет и его ближайшие соратники потеряли к нему доверие. По словам обоих авторов, он давал противоречивую информацию и уходил от прямых ответов касательно инвестиционной деятельности компании. Однако уже через несколько дней его вернули — осознав, что без него OpenAI может попросту не выжить.
В основе этих эпизодов — идеологический конфликт, который пронизывает обе книги: между сторонниками скорости и сторонниками осторожности в развертывании ИИ. Внутри OpenAI борьба между «пессимистами» и «оптимистами» (в терминах авторов — doomers и boomers) достигла разрушающей остроты. Первые, часто ассоциирующие себя с движением эффективного альтруизма, фокусируются на рисках катастрофического масштаба. Вторые — так называемые эффективные акселерационисты — убеждены, что, если Америка не победит в ИИ-гонке, победит Китай.
Как отмечает Хао, на деле это две стороны одной монеты: и те, и другие стремятся продвинуть развитие сверхинтеллекта настолько далеко, насколько это возможно — одни пугая «огнем и серой», другие рисуя «видения рая».
Не менее интересны и описанные в обеих книгах амбициозные соперничества — в среде, где каждый второй претендует на звание визионера, а технологический прогресс движется рывками, чтобы не отстать от конкурентов. Особое место в повествовании занимает конфликт между Илоном Маском и Сэмом Альтманом, развернутый на страницах судебного иска, поданного Маском против OpenAI, ее руководителя и главного инвестора коммерческого подразделения компании — Microsoft.
Несмотря на общее сюжетное ядро, книги расходятся в интерпретациях — и именно это расхождение высвечивает главный вопрос всей истории: оправдывают ли цели средства, когда речь идет о гонке за сверхинтеллектом?
Кич Хэйджи, по всей видимости, склонна отвечать утвердительно. Некоторые черты поведения Альтмана она объясняет нежеланием вступать в конфликты и типичным для Кремниевой долины подходом «действовать быстро, ломая старое».
Карен Хао, напротив, обвиняет OpenAI в предательстве собственных принципов. Она критикует не только Альтмана, но и руководителей других ИИ-компаний, рассматривая их как участников одной и той же борьбы за власть. В ее оценке генеративные модели — «монструозны», поскольку потребляют чрезмерные объемы данных, энергии и природных ресурсов.
Возможно, Хао заходит слишком далеко, сравнивая OpenAI и аналогичные лаборатории с колониальными империями. Однако ее сомнения в отношении Альтмана вполне обоснованны. В любой организации генеральный директор, вызывающий вопросы о своей надежности, — это проблема. Но в случае OpenAI, компании, разрабатывающей технологии масштаба Прометея, — это риск совершенно иного порядка.
Об ИИ
Идеология — сверху, инфраструктура — снизу
Пока Вашингтон говорит о светлом будущем ИИ, его создатели требуют электричества, земли и преференций прямо сейчас
Углеродный парадокс ИИ
Технология, которая может спасти планету, вполне может ускорить ее разрушение
