Глава NVIDIA Дженсен Хуанг: «Мы продвинули искусственный интеллект примерно в миллион раз»

В феврале акции Nvidia — мирового лидера в производстве графических процессоров — взлетели на 16% после публикации финансовой отчётности компании за последний квартал 2023 года.

Сегодня рыночная капитализация компании составляет более $2 трлн — это больше ВВП таких стран, как Россия, Южная Корея или Австралия. Похоже, гендиректор Nvidia Дженсен Хуанг скоро войдёт в двадцатку богатейших людей мира.

На фоне этих новостей репортёр журнала Wired Лорен Гуд встретилась с Дженсеном Хуангом и попыталась узнать, о каком новом проекте он сейчас больше всего думает, а также поговорила о горизонтальной структуре организации, генеративном ИИ и сорока отжиманиях в день. Мы перевели этот материал на русский язык и публикуем его с некоторыми сокращениями.

Хуанг, безусловно, человек года. Может быть, даже десятилетия. Технокомпаниям нужно всё больше графических процессоров Nvidia. И речь уже давно не идёт о видеокартах для компьютерных игр. Это новый мир, в котором мы разговариваем с компьютерами, а они нам отвечают и, возможно, в итоге нас поработят.

На нашу встречу 61-летний Хуанг пришёл в своей привычной кожаной куртке и минималистичных чёрных кедах. Он сказал, что терпеть не может утро понедельника: всё воскресенье он работает и к официальному началу рабочей недели уже без сил. Хотя со стороны это незаметно: через два дня я попала на симпозиум по инвестициям в сфере здравоохранения, и Хуанг на сцене выглядел бодрым и энергичным.

Хуанг старается поставить Nvidia во главе каждого заметного технотренда. В 2012 году небольшая группа исследователей выпустила революционную систему распознавания изображений AlexNet, которая использовала внешний графический процессор (GPU) вместо центрального процессора (CPU), чтобы быстрее обрабатывать код. Так началась новая эра глубокого обучения — и именно тогда Хуанг направил все ресурсы на поддержку искусственного интеллекта.

А когда в 2017 году Google выпустила новую архитектуру нейросети, трансформер (буква Т в аббревиатуре ChatGPT) и в сфере ИИ началась золотая лихорадка, в Nvidia уже были готовы продавать новые графические процессоры, заточенные под ИИ-технологии.

Сейчас продажи Nvidia на рынке ИИ-чипов составляют более 70% и оцениваются в $2 трлн. Прибыль компании в последнем квартале 2023 года составила $22 млрд — 265% от того, что было заработано годом ранее. А стоимость акций Nvidia за последний год выросла на 231%. Либо Хуанг очень хорош в своём деле, либо ему чертовски везёт (а может и то и другое) — и всем очень хочется узнать, как ему это удаётся.

Впрочем, никакой успех не вечен. Сейчас Nvidia сильно зависит от технологической гонки США и Китая — и от соответствующих законодательных решений. Многие из его конкурентов — Google, Amazon, Meta, Microsoft — гораздо известнее, да и карманы у них глубже. В конце декабря 2023 года производитель полупроводников AMD выпустил процессор, который может потеснить Nvidia на рынке. Стартапы тоже не отстают: только в третьем квартале прошлого года венчурные капиталисты вложили в AI-чипы более $800 млн.

• Начну с того, что рассказал мне другой крупный менеджер. Он отметил, что Nvidia на год старше Amazon, но во многих отношениях у Nvidia до сих пор подход к вопросам как у стартапа. Как вам удаётся поддерживать такой взгляд на вещи?

Я просыпаюсь каждое утро, как будто это наш первый день: ведь мы всегда делаем что-то совершенно новое. Вот только что у меня было совещание, на котором мы обсуждали одну новинку, и мы ещё сами не понимаем, как всё сделать правильно.

• А о чём именно речь?

Центр обработки данных нового типа. Мы называем это фабрикой искусственного интеллекта. Современные центры обработки данных построены так, что множество людей используют один большой кластер компьютеров и размещают там все свои файлы. Фабрика искусственного интеллекта в целом похожа на огромный генератор.

• У него уже есть имя?

Ещё нет, но поверьте, эта технология будет везде. Её будем создавать и мы, и поставщики облачных технологий. Она понадобится каждой биотехнологической, розничной, логистической компании. В будущем у любой автомобильной компании будет завод, который производит автомобили — реальные товары, «атомы», и завод, который создаёт искусственный интеллект для автомобилей — «электроны». На самом деле Илон Маск уже это делает, пока мы с вами разговариваем. Он намного опережает других с точки зрения видения производства будущего.

• Вы говорили, что управляете горизонтальной организацией, в которой от 30 до 40 руководителей подчиняются непосредственно вам. Почему это для вас важно?

Информация действительно необязательно должна выстраиваться сверху вниз, как это было в «доисторические» времена — до электронной почты и всего такого. Сегодня информация может передаваться намного быстрее. И иерархическое дерево, в котором информация интерпретируется сверху вниз, уже просто не нужно. Горизонтальная, или плоская, сеть позволяет нам намного быстрее адаптироваться — а это необходимо, поскольку технологии развиваются очень быстро.

И что в итоге? Классический закон Мура предполагает удвоение производительности каждые два года (по закону Мура технологии становятся в два раза эффективнее и во столько же дешевле примерно каждые два года. — Прим. The Mag Business). А мы за последние десять лет продвинули искусственный интеллект примерно в миллион раз. Это во много раз больше.

• Можете вспомнить что-то, что сильно заинтересовало вас буквально недавно?

Есть пара вещей. Одна из них — это часть работы, которую мы проводим в области фундаментальной роботехники. Если можно генерировать тексты и изображения, можно ли так же генерировать движение? Вероятно, да. А значит, если можно сгенерировать движение, то можно будет сделать его преднамеренным. Следовательно, человекоподобная робототехника не за горами.

Ещё я думаю вот о чём — о работе с моделями пространства и состояний, которые позволяют нам изучать чрезвычайно длинные модели и последовательности без квадратичного увеличения вычислений. Наверное, это самая возможная следующая новинка.

• Как это применимо на практике?

Можно будет вести длительную беседу с компьютером, и он будет помнить контекст. Вы даже можете на некоторое время сменить тему и вернуться к более ранней, но контекст беседы сохранится. Ещё, вероятно, мы сможем понять последовательность какой-нибудь чрезвычайно длинной цепочки, например генома человека. Понять значение генетического кода, просто взглянув на него.

• И когда это станет возможно?

AlexNet развились до нынешнего уровня всего за пять лет. Поэтому, думаю, описанная мной модель тоже близко — предполагаю, она появится через год. В следующие пять лет вы увидите ещё много удивительных вещей.

• Какая отрасль больше всего выиграет от обученной модели поведения роботов?

Допустим, тяжёлая промышленность — крупнейшая отрасль в мире. Перемещать электроны нелегко, ну а перемещать атомы вообще чрезвычайно сложно. Транспорт, логистика, перемещение тяжёлых предметов из одного места в другое или открытие новых лекарств — всё это требует понимания процесса на уровне атомов и молекул. На такие отрасли искусственный интеллект пока ещё не повлиял.

• Nvidia инвестирует во множество стартапов в области искусственного интеллекта. В прошлом году сообщалось, что вы инвестировали более чем в 30 проектов. Стоят ли эти стартапы в очереди за вашим оборудованием?

Они сталкиваются с тем же дефицитом поставок, что и все остальные, потому что большинство из них используют общедоступное облако. Однако у нас они получают технологии искусственного интеллекта — а значит, доступ к нашим инженерным возможностям и нашим специальным методам оптимизации моделей ИИ. Мы повышаем их эффективность. Вот зачем мы им нужны.

• Считаете ли вы себя ответственным за их успех?

Нет. Мы инвестируем в эти компании, потому что они невероятны в том, что они делают. Это для нас большая честь, а не наоборот. Это одни из самых ярких умов в мире. Им не нужно, чтобы мы поддерживали их авторитет.

• Что происходит, когда машинное обучение больше ориентируется на инференс, а не на обучение — по сути, если работа ИИ становится менее интенсивной с точки зрения вычислений? Снижает ли это спрос на ваши графические процессоры?

Инференс — это круто (инференс — процесс, когда нейросеть умеет сама делать логические выводы на основе накопленной информации, а не только повторяет процессы, которым её научили. — Прим. The Mag Business). На самом деле Nvidia сегодня процентов на 40 занимается логическими выводами и процентов на 60 — обучением. Это значит, что искусственный интеллект наконец-то «умнеет».

Если бы бизнес Nvidia на 90% состоял из обучения и на 10% из логических выводов, можно было бы утверждать, что ИИ всё ещё находится в стадии разработки. Так было семь или восемь лет назад. Сегодня, когда вы вводите запрос в облако и он что-то генерирует (это может быть видео или изображение, 2D или 3D, текст или график), скорее всего, за этим стоит графический процессор Nvidia.

• Вы предполагаете хотя бы гипотетически, что спрос на ваши графические процессоры для ИИ в какой-то момент может снизиться?

Я думаю, что мы находимся в начале революции генеративного ИИ. Сегодня большая часть вычислений в мире по-прежнему основана на поиске. Чтобы найти информацию, вам нужно коснуться экрана смартфона, он отправляет сигнал в облако, которое составляет ответ из нескольких разных элементов и, используя Java, представляет его на том же экране вашего устройства.

В будущем же вычисления будут в большей степени основаны на RAG. (генерация с расширенным поиском — фреймворк, который позволяет большой языковой модели извлекать данные за пределами её обычных параметров. — Прим. Wired). Поиск станет менее важен, а персонализированная генерация выйдет на первый план.

Этот процесс будет выполняться где-то на графическом процессоре. И я думаю, что мы находимся в начале этой революции в области генеративных вычислений, дополненных поиском. Генеративный ИИ станет неотъемлемой частью всех процессов.

• Недавно я как раз разговаривала с главой компании, специализирующейся на генеративном ИИ. Я спросила, кто может стать конкурентами Nvidia в будущем, и он назвал проект TPU от Google (Tensor Processing Unit, нейронный тензорный процессор. — Прим. The Mag Business). Другие упоминают AMD. Кого вы считаете своим главным конкурентом? Кто не даёт вам спать по ночам?

Лорен, они все мне мешают спать! Команда TPU действительно великолепна, команды AWS Trainium и AWS Inferentia (AWS — Amazon Web Services, облачная компания. — Прим. The Mag Business) так вообще проделывают экстраординарную работу. У Microsoft есть внутренняя разработка ASIC. Каждый поставщик облачных услуг в Китае создаёт свои внутренние чипы. Ещё есть куча стартапов, которые тоже производят чипы. А полупроводниковые компании!

***

• Я хотела бы задать несколько личных вопросов. Например, как часто вы сами используете ChatGPT?

Я использую Perplexity, и ChatGPT мне тоже нравится. Использую их почти каждый день.

• Для чего?

Ищу информацию. Например, о разработке лекарств с помощью компьютерных технологий. Допустим, вы хотите узнать о последних достижениях в этой сфере и поэтому сформулировать общую тему так, чтобы было от чего оттолкнуться и чтобы можно было задавать всё больше конкретных вопросов. Мне действительно нравится эта возможность в больших языковых моделях.

• Вы раньше занимались силовыми упражнениями, а что делаете сейчас?

Стараюсь делать по сорок отжиманий в день. Это занимает не больше пары минут. Я ленивый спортсмен — могу поприседать, пока чищу зубы.

• Недавно завирусился ваш комментарий для подкаста Acquired. Ведущие спросили: если бы вам сегодня было 30 лет и вы думали о создании компании, с чего бы начали? И вы сказали, что вообще не стали бы основывать компанию. Можете прокомментировать свои слова?

Я тогда ответил так: если бы я знал всё то, что знаю сейчас, я перепугался бы и ничего бы не стал делать. В этом преимущество неопытности. Вы ещё не знаете, насколько всё будет тяжело. Когда я встречаюсь с предпринимателями и они говорят мне, как всё будет легко, я их очень поддерживаю и пытаюсь не разрушать их надежд. Но в глубине души я думаю: «О боже, всё пойдёт абсолютно не так, как вы себе представляете!»

• Чем вам пришлось пожертвовать в жизни ради Nvidia?

Тем же, чем обычно жертвуют все предприниматели. Ты работаешь очень, очень усердно. И долгое время никто не думает, что ты добьёшься успеха. Ты один веришь, что у тебя всё получится. Неуверенность, уязвимость, иногда унижение — всё это бывает. Никто об этом не говорит, но это так. Руководители и предприниматели такие же люди, как и все остальные.

Поэтому когда меня спрашивают: «Дженсен, с твоим нынешним багажом знаний стал бы ты начинать собственный бизнес?» — я отвечаю: «Нет-нет, ни в коем случае». Но если бы я тогда знал, что Nvidia станет именно такой, конечно, тогда бы я пожертвовал чем угодно.

Текст: Лорен Гуд, Wired, Перевод: Катерина Рубинская