OpenAI изучает возможность создания собственных чипов искусственного интеллекта. Компания может вложиться в покупку стороннего производителя или запустить своё производство.
Такая идея рассматривается с 2022 года. В OpenAI задумались о разработке ИИ-чипов из-за нехватки продукции от сторонних производителей.
В настоящее время компания использует аппаратное обеспечение на базе графических процессоров для разработки таких моделей, как ChatGPT, GPT-4 и DALL-E 3. Однако резкий подъём в разработке генеративного ИИ сильно повысил нагрузку на производителей, таких как Nvidia. Так, Microsoft сталкивается с нехваткой серверного оборудования, необходимого для запуска ИИ,что может привести к перебоям в обслуживании. Самые производительные ИИ-чипы Nvidia, как сообщается, будут распроданы до 2024 года.
Графические процессоры также необходимы для запуска и обслуживания моделей OpenAI; компания полагается на их кластеры в облаке для выполнения рабочих нагрузок клиентов. Но использование таких систем оказалось слишком дорогим. Так, один запрос пользователя к ChatGPT стоит четыре цента. Аналитик Bernstein Стейси Расгон говорит, что, если запросы ChatGPT достигнут хотя десятой доли запросов поисковика Google, то для годового поддержания работоспособности системы потребуется приобрести графические процессоры на сумму $48,1 млрд и чипы на сумму около $16 млрд.
Между тем у Google уже есть процессор TPU для обучения больших генеративных систем искусственного интеллекта, таких как PaLM-2 и Imagen. Amazon предлагает клиентам AWS собственные чипы как для обучения (Trainium), так и для вывода (Inferentia). Сообщается, что Microsoft работает с AMD над разработкой собственного ИИ-чипа под названием Athena, который тестирует OpenAI.
При этом компании по производству ИИ-чипов испытывают трудности. Так, Graphcore заявил, что планирует сократить рабочие места из-за «чрезвычайно сложной» макроэкономической ситуации. Habana Labs, компания по производству ИИ-чипов, принадлежащая Intel, уволила около 10% работников.
Ранее Nvidia опубликовала новый «закон Хуанга», который гласит, что ускорение в «производительности вывода одного чипа» будет расти. Сам Дженсен Хуанг заявил, что «закон Мура мёртв». По его мнению, чипы в перспективе будут только дорожать. Также Хуанг заявлял о том, что полупроводниковая промышленность близка к пределу своих возможностей, а способ вычислений нужно менять.
Источник: habr.com
