Генеральный директор OpenAI Сэм Альтман о нехватке чипов и будущем ChatGPT

Нехватка специализированных компьютерных чипов, необходимых для запуска программного обеспечения искусственного интеллекта, сдерживает бизнес OpenAI, и компания не намерена выпускать продукт, ориентированный на потребителя, помимо ChatGPT. Это лишь два из раскрытий Сооснователь и генеральный директор OpenAI Сэм Альтман, как сообщается, обратился к группе разработчиков программного обеспечения и генеральным директорам стартапов на частной встрече в Лондоне две недели назад, согласно сообщению в блоге, написанному одним из участников. Отчет о закрытой встрече, на которой, как сообщается, присутствовало около 20 человек, позже был удален по запросу OpenAI, согласно примечанию, прикрепленному к странице, где он первоначально появился:но это не помешало сообществу ИИ внимательно изучить (предполагаемые) комментарии влиятельного генерального директора.

На одном из интернет-архивов уже сохранилась копия оригинального поста в блоге, и с тех пор она распространилась в социальных сетях и на нескольких дискуссионных форумах, ориентированных на программистов. Альтман сказал, что неспособность OpenAI получить доступ к достаточному количеству графических процессоров (GPU), специализированных компьютерных чипов, используемых для запуска приложений AI, задерживает краткосрочные планы OpenAI и создает проблемы для разработчиков, использующих услуги OpenAI, согласно сообщению в блоге, написанному Разой Хабибом: эксперт по искусственному интеллекту, который также является соучредителем и генеральным директором Humanloop. Лондонский стартап Хабиба разработал методы, позволяющие сделать обучение больших языковых моделей, таких как те, которые лежат в основе OpenAI ChatGPT, более эффективными. Из-за нехватки графических процессоров OpenAI стало сложнее позволять пользователям передавать больше данных через большие языковые модели, которые поддержала ее программное обеспечение, такое как ChatGPT, и замедлила запланированное компанией развертывание дополнительных функций и услуг. Согласно сообщению в блоге, это также сделало существующие сервисы OpenAI более медленными и менее надежными, и этот факт расстраивает клиентов и заставляет их неохотно создавать корпоративные приложения на основе технологии OpenAI. Сокращение поставок чипов поставило под угрозу преимущество первопроходца OpenAI в буме генеративного искусственного интеллекта, поскольку Google — как и менее известные конкуренты — смогли развернуть конкурирующие услуги, а конкуренты с открытым исходным кодом завоевали большую позицию.

Альтман изложил несколько вещей, которые OpenAI пока просто не может сделать из-за отсутствия аппаратного обеспечения (т. е. чипов).. К ним относится предоставление более длинного «контекстного окна» большинству клиентов больших языковых моделей GPT, написал Хабиб в своем блоге. Контекстное окно определяет, какой объем данных можно использовать в одном приглашении, передаваемом в модель, и насколько продолжительным может быть ответ модели. У большинства пользователей GPT-4 контекстное окно имеет длину 8000 токенов (токен — это сегмент данных, на основе которого базовая модель ИИ делает прогноз, что эквивалентно примерно полутора словам английского языка). OpenAI объявила об окне в 32 000 токенов для избранных пользователей модели в марте, но немногим пользователям был предоставлен доступ к этой функции, и Альтман обвинил этот факт в нехватке графических процессоров, пишет Хабиб.

Большинство мировых приложений искусственного интеллекта обучаются и работают на графических процессорах — своего рода компьютерных чипах, предназначенных для обработки данных с использованием параллельной обработки на высоких скоростях. Большинство этих чипов производятся только одной компанией, Nvidia, и могут стоить от тысяч до сотен тысяч долларов. Наблюдатели за рынком уже знают, что акции Nvidia взлетели вверх благодаря ее связи с бумом генеративного искусственного интеллекта, а ее рыночная оценка недавно превысила порог в 1 триллион долларов.

Согласно сообщению Хабиба, соучредитель и генеральный директор OpenAI также заверил разработчиков, что OpenAI не планирует выпускать какие-либо потребительские продукты, кроме ChatGPT. Хабиб сказал, что многие разработчики, присутствовавшие на встрече, сказали Альтману, что они обеспокоены использованием моделей искусственного интеллекта OpenAI в качестве основы для дальнейшего внедрения конкурирующих продуктов. Сообщается, что Альтман заявил, что ChatGPT будет его единственным продуктом, ориентированным на потребителя, и что его видение будущего - это «суперумный помощник для работы», но что многие отраслевые случаи, связанные с базовыми моделями больших языков GPT OpenAI, «не будут касаться». "