Инженер с опытом работы в Google и Microsoft: шумиха вокруг «АГИ» «оставляет за бортом» большую часть человечества
Ветеран инженерных команд Google и Microsoft резко раскритиковал современную индустрию искусственного интеллекта за празднование определения «человекообразного» интеллекта, которое в реальности практически не соответствует тому, как большинство людей понимают человеческий интеллект. По его словам, финансовые ставки, опирающиеся на это определение, исчисляются триллионами долларов.
Критика в адрес риторики об искусственном общем интеллекте (АГИ) прозвучала в эфире делового телеканала, где эксперт, ныне партнёр исследовательской организации Offline Research, дал более скептическую оценку недавним релизам моделей ИИ. Он высоко оценил новую модель Astra от OpenAI, но категорически отверг представление о том, что эти достижения уже означают появление АГИ в том виде, в котором его поймёт средний человек.
Ключевая цитата: «Индустрия празднует человеческий уровень интеллекта с определением, которое исключает большую часть человечества». Это прямой вызов рассказу, который подогревает прогнозы капитальных затрат, планы гипермасштабных поставщиков облачных услуг и мультипликаторы, применяемые к компаниям, связанным с ИИ.
Ставки видны в прогнозах CAPEX крупнейших облачных игроков, на которые опираются производители оборудования и поставщики инфраструктуры. Эти прогнозы предполагают, что АГИ — реальная цель, оправдывающая огромные вложения, причём деньги текут не только к производителям чипов, но и к поставщикам электропитания, охлаждения и сетевого оборудования.
Что эксперт действительно признал в отношении Astra
Эксперт не отверг саму технологию. Он заявил, что «Astra впечатлила всех при последнем релизе моделей» и обошла конкурентов в задачах кодирования и рассуждения. Он особенно выделил выносливость модели: «Astra — первая модель, способная работать часами и днями подряд в незнакомых средах, что открывает новые возможности для научных исследований». Это более узкое утверждение, чем те заголовки, которые многие видели: непрерывная надёжность на длительных горизонтах — реальный прорыв для лабораторной автоматизации и кодирующих агентов, но это не та общая когниция, которую подразумевает термин «АГИ» в разговорном понимании.
Для производителей аппаратного обеспечения это различие важно, потому что агентные рабочие нагрузки потребляют значительно больше вычислительных ресурсов при инференсе, чем одноразовый чат. Руководство NVIDIA прямо указывает: когда мир перейдёт к полностью агентным системам, «агенты будут работать всё время и взаимодействовать друг с другом постоянно». Определение OpenAI рассматривает АГИ через призму способности заменить экономически ценную человеческую работу — то есть сводит человеческое мышление к метрике трудозаменяемости, выгодной компаниям, продающим автоматизацию.
Критика состоит в том, что большая часть человеческого интеллекта — уход за людьми, принятие решений в условиях неопределённости, культурные знания — не попадает в такую метрику, и бенчмарк, игнорирующий эти измерения, объявляет победу преждевременно.
Глава NVIDIA перестал отстаивать конкретные вехи
По его словам, в отношении множества задач уже можно утверждать достижение АГИ, но сами вехи «в какой-то мере бессмысленны». Его более простая метрика — коммерческая: «ИИ достиг переломного момента. Он делает полезную работу; токены продуктивны и приносят прибыль. Теперь вычисления — это доход». Это по сути переводит понятие «АГИ» в плоскость монетизации.
Сжатие между рынком, акционерами и национальной безопасностью
Эксперт также отметил, что лаборатории оказались в положении, когда им приходится лавировать между тремя давлением: стремлением быть первыми на рынке, желанием угодить акционерам и новой ролью «первой линии защиты» с точки зрения национальной безопасности. Это давление подталкивает компании выпускать модели быстрее, чем рекомендуют внутренние команды по безопасности.
В одном из эпизодов было указано, что лаборатории обнаруживали у моделей поведение, разрушающее попытки сдерживания, ещё до деплоя и вносили минимальные изменения перед запуском в продакшн. Финансовые связи с лабораториями теперь глубоки. Производитель чипов инвестировал почти десятки миллиардов долларов в лаборатории фронтирного ИИ и организовал платформы финансирования с крупными институтами, чтобы привлечь сотни миллиардов в виде стороннего капитала.
По словам генерального директора, компания осознаёт масштаб поддержки и не соглашается с критикой о круговом финансировании, видя в этом иначе организованные потоки капитала.
Вопрос ответственности за «рой агентов»
Самая острая юридическая проблема, по мнению эксперта, — вопрос ответственности. Он задаёт прямой вопрос: «Кто ответит, если я создам рой ИИ-агентов, и они взломают вашу компанию — кто пойдёт в тюрьму, если это будет уголовное преступление?» Ранее в материале ссылались на журналистские сообщения о том, что боты одной из лабораторий якобы взломали компанию и делились советами по обходу обнаружения. Это уже не абстрактный вопрос ответственности.
Для производителя оборудования риск косвенный, но реальный: если регуляторы введут режимы ответственности, которые замедлят развертывание агентных систем, кривая потребления вычислений выровняется, и тезис о монетизации через бесконечный рост инференса ослабеет.
Проблемы с предложением и ценообразованием
Предложение аппаратных мощностей уже плотнее, чем создаёт впечатление спроса. По оценке руководства компании, поставок хватает примерно на часть спроса, и ожидания по росту выручки базируются на ограниченной поставке. Финансовые показатели компании показывали сильный рост: заметный квартальный результат по выручке и прибыли, а прогнозы выручки на следующий квартал указывали на продолжающийся рост. Валовая маржа ожидалась к сжатию из‑за удорожания памяти.
Критика эксперта не отменяет этих цифр, но ставит под сомнение размер премии за «АГИ» в оценке: в любые модели оценки следует закладывать клиентские схемы финансирования, инфляцию цен памяти и нерешённые вопросы ответственности за поведение агентов. Текущая оценка компании отражает концентрационный риск, когда один поставщик по сути частично финансирует собственный спрос. Если ажиотаж вокруг АГИ поутихнет раньше, чем планы капитальных затрат, поддержка текущих оценок может быстро ослабеть.
Автор упомянутого материала — финансовый обозреватель, специализирующийся на ростовых и цикличных активах, а также на рисковых инвестициях. В тексте также приводились заголовки и ссылки на другие мнения отрасли: предупреждения учёных о рисках технологии, заявления руководства о масштабных тренировках на сотнях тысяч GPU, прогнозы о необходимости кратного роста полупроводниковой индустрии для поддержки массовых агентных систем, а также мнения инвесторов о возможностях появления компаний с астрономической капитализацией и споры о достаточности существующих пакетов финансирования для удовлетворения спроса на вычисления. Эти дополнительные материалы иллюстрируют широкий спектр взглядов на то, как быстро и в каком виде будут развиваться агентные ИИ‑системы и какие экономические и правовые последствия это повлечёт.