Groq, пионер в области быстрого вывода, и HUMAIN, компания Государственного инвестиционного фонда Саудовской Аравии и ведущий поставщик услуг ИИ в Саудовской Аравии, объявили о доступности двух открытых моделей OpenAI на GroqCloud. Предлагаются две модели — gpt-oss-120B и gpt-oss-20B — с полным контекстом на 128 000 токенов, ответами в режиме реального времени и интегрированными серверными инструментами на оптимизированной платформе вывода Groq с дня запуска.
Groq уже давно поддерживает усилия OpenAI по открытому исходному коду, включая крупномасштабное внедрение Whisper. Этот запуск базируется на этом фундаменте, давая возможность использования новейших моделей на производстве с глобальным доступом и местной поддержкой со стороны HUMAIN.
«OpenAI устанавливает новый стандарт высокой производительности в моделях с открытым исходным кодом», — сказал Джонатан Росс (Jonathan Ross), генеральный директор Groq. «Groq был создан для быстрого и доступного запуска таких моделей, поэтому разработчики во всем мире могут использовать их со дня запуска. Работа с Humain способствует доступу и поддержке моделей в Королевстве Саудовская Аравия, позволяя разработчикам в регионе работать «умнее» и быстрее».
«Groq обеспечивает непревзойденную скорость вывода, масштабируемость и экономическую эффективность, необходимые для внедрения передового ИИ в Королевстве», — сказал Тарек Амин (Tareq Amin), генеральный директор Humain. «Вместе мы поддерживаем новую волну инноваций в Саудовской Аравии, основанных на лучших моделях с открытым исходным кодом и инфраструктуре для их масштабирования по всему миру. Мы гордимся тем, что поддерживаем лидерство OpenAI в области ИИ с открытым исходным кодом».
Для максимального использования возможностей новых моделей OpenAI Groq предоставляет расширенный контекст и встроенные инструменты, такие как выполнение кода и веб-поиск. Веб-поиск помогает предоставлять релевантную информацию в режиме реального времени, в то время как выполнение кода отвечает за логическую обработку и сложные рабочие процессы. Платформа Groq предоставляет эти возможности с дня запуска с полной длиной контекста в 128 000 токенов.
Специально созданный стек Groq обеспечивает самую низкую стоимость токена для новых моделей OpenAI, сохраняя при этом скорость и точность. gpt-oss-120B в настоящее время работает со скоростью 500+ т/с, а gpt-oss-20B — со скоростью 1 000+ т/с на GroqCloud.
HUMAIN, компания Государственного инвестиционного фонда Саудовской Аравии, является глобальной компанией по искусственному интеллекту, предоставляющей возможности ИИ с полным стеком в четырех основных областях — центры обработки данных следующего поколения, гиперпроизводительная инфраструктура и облачные платформы, передовые модели ИИ, включая новейшие арабские мультимодальные LLM, и преобразующие ИИ-решения.