Индустрия ИИ строится на вере в бесконечный рост

Бум искусственного интеллекта основан на серии ставок — на вере в то, что логика экспоненциального роста способна определять будущее.

Экспоненциальный рост — это не просто увеличение чисел, а их ускорение. Технологическая индустрия убеждена, что эти постоянно крутеющие кривые будут одновременно улучшать саму технологию, усиливать человеческий спрос на ее продукты и расширять способность общества обеспечивать все более растущие потребности ИИ в вычислительной мощности, энергии и данных. В эту идею уже вложены триллионы долларов — ставка, сделанная не отдельными компаниями, а фактически всем миром.

Разработчики ИИ полагают, что технология способна подпитывать собственное развитие, создавая «добродетельный цикл». Скептики же предупреждают: за очередным витком ускорения может последовать столкновение со стеной — и затем мировой финансовый кризис. В теории экспоненциальные кривые могут продолжаться бесконечно, но в реальности каждая из них рано или поздно достигает предела. Закон Мура, определявший темп развития полупроводников, натолкнулся на физические ограничения теплоотдачи на атомном уровне. Закон Меткалфа, связывающий ценность сети с числом ее участников, столкнулся с границами человеческого общества и несовершенством его институтов. Искусственный интеллект, если только не станет исключением из исторического правила, однажды столкнется с собственным пределом.

Оптимисты верят, что это исключение возможно — когда ИИ начнет создавать сам себя. Они ждут «момента взлета»: точки, в которой рост возможностей и надежности перейдет в фазу самопереписывания моделей, замыкая цикл самоулучшения. Из этой идеи выросли и утопические, и апокалиптические представления о будущем.

Но экспоненциальные уравнения описывают замкнутые, предсказуемые системы. Мир, в котором мы живем, устроен иначе — он хаотичен, взаимозависим и непредсказуем. «Все вещи глубоко переплетены», — заметил еще полвека назад технологический визионер Тед Нельсон. «Люди продолжают делать вид, что могут выстраивать все в иерархии, категории и последовательности, хотя на самом деле не могут».

Модели машинного обучения, лежащие в основе ИИ, тоже представляют собой взаимосвязанную сеть. Но крупнейшие игроки — OpenAI, Google и Anthropic — выбрали путь грубой силы. Они полагаются на так называемые «законы масштабирования», связывающие размер модели с ростом производительности. Их руководители уверены: если продолжать строить те же системы, только крупнее, они будут неизбежно лучше — пока не пересекут некую загадочную черту, за которой начнется самоулучшение.

История же показывает, что любое экспоненциальное ускорение в конце концов выравнивается. Вопрос лишь в том, как долго продержится кривая ИИ и сколько «удвоений» выдержит технология, прежде чем достигнет своего предела.

Этот предел может быть экологическим — когда центры обработки данных начнут потреблять больше энергии и воды, чем способны предоставить страны, или когда климатические потрясения вызовут отторжение технологии из-за ее расточительности. Он может быть финансовым — если внешние факторы вроде войны, пандемии или политического кризиса, либо внутренние сбои индустрии приведут к резкому обвалу рынков. И наконец, пределом может стать простое разочарование, если обещания — персональные тьюторы уровня PhD, победа над старением, изобилие и колонизация Марса — так и не материализуются.

Силиконовая долина выросла на капиталистической идее бесконечного роста. Но рост без справедливого распределения выгод превращается в источник коррупции и социального недовольства, а рост без этических ориентиров — в эксплуатацию и хаос. «Рост ради самого роста — это идеология раковой клетки», — говорил эколог Эдвард Эбби.

Индустрия ИИ уже усвоила «горький урок»: вместо того чтобы обучать машины структурированным знаниям, она предпочла наращивать мощность систем, способных учиться самостоятельно. Но если она продолжит расти без цели и направления, ей предстоят новые, куда более болезненные уроки.

Главный вопрос остается прежним: готовы ли мы поверить, что «в этот раз все иначе» — или все же вспомним старое правило, которое пока еще никому не удалось обойти — все, что растет, когда-нибудь падает.