Компания Кремниевой долины

Если вы хотите получить представление о том, что компании на самом деле делают с инфраструктурой искусственного интеллекта, а также о проблемах обработки и сетевой мощности, электропитании и охлаждении, с которыми они сталкиваются, вам нужно поговорить с некоторыми поставщиками центров обработки данных совместного размещения. Итак, мы собираемся сделать это, начиная с Colovore, который находится в Санта-Кларе, в самом сердце Кремниевой долины и, возможно, худшем месте для управления центром обработки данных.

Или, если вы все сделаете правильно, возможно, это лучшее место, потому что потребительский спрос зашкаливает. Именно так на это смотрит Бен Кофлин, соучредитель, председатель и финансовый директор Colovore.

Коловор привлек наше внимание, потому что именно здесь Cerebras Systems размещает свой кластер «Андромеда», состоящий из шестнадцати вычислительных систем CS-2 в масштабе пластины, которые обеспечивают более 1 эксафлопс математических вычислений с плавающей запятой FP16 половинной точности для обучения моделей искусственного интеллекта. , который показан на изображении выше в центре обработки данных на улице Спейс-Парк-Драйв недалеко от международного аэропорта Сан-Хосе Минета – и, как ни странно, через дорогу от компьютерного магазина UNIXSurplus и в двух шагах от центров обработки данных, которыми управляют Digital Realty, Equinix, Evocative. и Tata Communications.

Основанная в 2012 году, как раз тогда, когда начался бум искусственного интеллекта с графическим ускорением, компания Colovore на сегодняшний день привлекла финансирование в размере 8 миллионов долларов США и на данный момент имеет только один центр обработки данных. Центр обработки данных SJC01 компании весит 24 000 квадратных футов, он компактен благодаря жидкостному охлаждению и работает с 2014 года. Объект SJC01 расширялся постепенно: в феврале 2022 года внутри объекта было произведено расширение на 2 мегаватта, чтобы приблизиться к полной нагрузке в 9 мегаватт. Стойки изначально имели мощность и охлаждение 20 киловатт, а затем выросли до 35 киловатт. Ее центр обработки данных SJC02, открытие которого запланировано на второй квартал 2024 года, будет занимать здание UNIXSurplus, которое компания арендует у Ellis Partners. (Это метафора, если мы когда-либо ее видели...) Его площадь составляет около 29 000 квадратных футов, и, как и SJC01, он будет предлагать только стойки с жидкостным охлаждением и, возможно, некоторое прямое жидкостное охлаждение, если об этом попросят клиенты. (И мы думаем, что так и будет.) С самого начала в новом центре обработки данных стойки масштабируются до 50 киловатт.

Соучредителем Colovore выступил Шон Хольцкнехт, который был вице-президентом по операциям в Evocative и основал еще одного оператора центров обработки данных под названием Emerytech Data Center после того, как управлял несколькими центральными офисами в Сан-Франциско для Pacific Bell. Кофлин — человек денег, он был партнером Spectrum Equity Investors, частной инвестиционной компании с капиталом в 5 миллиардов долларов, которая занималась телекоммуникациями и цифровыми медиа. Питер Харрисон, третий соучредитель Colovore, управлял глобальным центром обработки данных Google, проектом оптоволоконной связи с помещениями и сетью доставки контента YouTube. Харрисон был операционным директором eBay, а также помогал Netflix запустить сервис потокового видео.

Кафлин обратился к нам, потому что он видит, что все хотят начать использовать ИИ, но они еще не совсем усвоили проблемы охлаждения этих монстров матричной математики, которые им необходимы для управления механизмами рекомендаций и большими языковыми моделями. Коловор находится в самом эпицентре событий, управляя установкой мощностью 9 мегаватт в самом центре событий, которая полностью охлаждается жидкостью и готова принять на себя самые плотные вычисления, которые могут потребоваться ее компаниям. Мы не говорим о 100 киловаттах на стойку, которые могут потребоваться в наши дни массивному суперкомпьютеру экзафлопсного класса с напрямую подключаемыми холодными пластинами с жидкостным охлаждением, но они приближаются к этому. И если вам это нужно, у Кофлина есть команда и оборудование, которые могут расширить этот диапазон прямо в сердце Силиконовой долины.

Бен Кофлин: Очевидно, мы уже некоторое время следим за вашими репортажами об этой отрасли. И мы находимся на интересном перекрестке в Коловоре, потому что мы поддерживаем большую часть новой инфраструктуры искусственного интеллекта здесь, в Кремниевой долине, отчасти потому, что мы предлагаем жидкостное охлаждение. Существует много дискуссий о развитии искусственного интеллекта и о том, как они внедряют инновации в базовые серверные платформы, но очень мало дискуссий о центрах обработки данных. Подавляющее большинство центров обработки данных не предназначены для поддержки этих систем искусственного интеллекта. Если центр обработки данных не может это поддерживать, Хьюстон, у нас тут небольшая проблема.