Nvidia ИИ чиптер нарығын өзіне бағындырды, бастапқыда видеойындар үшін әзірленген жартылай өткізгіштерді қайта бағыттап. Енді сегіз жыл бұрын құрылған Groq атты шағын стартап әлемдегі ең қымбат компаниялардың біріне қарсы тұруды көздеп, нейрондық желілер үшін арнайы нөлден жасалған жаңа чипті шығармақ.
2024 жылдың ақпанында Ослода аудитория алдында сөз сөйлеген Groq стартапының 42 жастағы бас директоры Джонатан Росс, бір сәтте не болып жатқанын түсіне алмай қалды. Росс Норвегия парламентінің мүшелері мен технологиялық компаниялардың басшыларына өзінің әзірлемесінің демоверсиясын көрсетіп, чиптер шығаратын компаниясының ұзаққа созылған дағдарыстан шығуына көмектеседі деп үміттенді. Groq чат-бот әзірледі, ол сұрақтарға дерлік лезде жауап бере алады, тіпті адам оқығаннан да жылдамырақ. Бірақ демонстрация барысында чат-бот сәл баяулады. Бұл Росс үшін өте нервозды болды, өйткені ол Groq негізінде Еуропада деректер орталығын ашу жобасына қолдау алу үшін үміттенді, осылайша нейрондық желілердің осындай жоғары жылдамдықта жұмыс істеуінің барлық артықшылықтарын көрсетуі керек еді. «Мен көрсеткіштерді қайта-қайта тексеріп отырдым», – деп еске алады ол. «Ал презентациядағы адамдар неге мен соншалықты жиі алаңдап жүргенімді түсіне алмай жатты».
Боттың демонстрациялық нұсқасының баяу жауап беруінің себебі жаңа пайдаланушылардың ағыны болып шықты. Росс Ослодағы презентациядан бір күн бұрын, табысты стартаптың бір негізін қалаушы Twitter-де «супер жылдам ИИ көмекшісі» туралы жоғары бағамен жазды. Нәтижесінде демоверсияның бетіне сонша жаңа трафик келді, компанияның серверлері жүктемені көтере алмады. Бұл проблема болды, бірақ онымен жұмыс істеу жағымды.
Росс Groq-ты сегіз жыл бұрын «инференция» деп аталатын салада, яғни жасанды интеллектінің адамдардың ойлауын имитациялау қабілетіне арналған чиптерді әзірлеу мақсатында құрды. Инференция сіздің смартфоныңызға бірінші рет жүктелген суретте корги тұқымды итіңізді тануға, ал сурет генераторына Баленсиага плащында папа римскийдің шынайы бейнесін жасауға мүмкіндік береді. Бұл ИИ-дің үлкен деректер массивтерінде модельдерді оқыту сияқты басқа, есептеу қуатын көп талап ететін міндеттен айтарлықтай ерекшеленеді.
Алайда OpenAI 2022 жылдың соңында ChatGPT-ны шығарғанға дейін, бұл әлемде нейрондық желілерге деген қызығушылықтың жылдам өсуіне себеп болды, супер жылдам инференцияға сұраныс шектеулі болды, және Росс стартапы қиындықпен өмір сүрді. «Groq бірнеше рет батып кетудің алдында тұрды», – дейді Росс Сан-Хосе, Калифорниядағы жартылай өткізгіштер зертханасында өткен сұхбатында. Ол 2019 жылы компанияның қаржысы бір айлық өмір сүруге жетпейтін кез келген сәтті еске алады: «Мүмкін, біз Groq-ты тым ерте бастаған шығармыз».
Бірақ қазір, нейрондық желілерді құру мен жұмыс істеу үшін есептеу қуатына сұраныс өте жоғары, бұл жаһандық энергетикалық дағдарысқа себеп болып отыр, Groq-тың уақыты келген сияқты – не жаңа нарықтың ықтимал көшбасшысы, не ірі ойыншылардың жұтылу мақсаты ретінде.
Сұраныс соншалықты жоғары, Nvidia-ның нарықтық капитализациясы 2023 жылы $60,9 млрд-тан $3 трлн-ға дейін өсті. Осыған байланысты Groq әзірге $2 млн деңгейіндегі кірісімен кішкентай ғана. Дереккөздердің хабарлауынша, қызығушылықтың осындай күрт өсуімен, компания биыл $100 млн сатуды болжап отыр. «Есептеу қуаты – жаңа мұнай», – дейді Росс.
ИИ негізіндегі өнімдерді әзірлеушілер біздің тоғызыншы жыл сайынғы Cloud 100 рейтингімізде 16 орын алады, бұл әлемдегі ең үздік жеке компанияларды қамтиды. Өткен жылғы рейтингте олардың саны сегіз ғана болды, ал бес жыл бұрын мүлдем болмады. ИИ чиптер нарығы 2027 жылға қарай $1,1 трлн-ға дейін өседі деп күтілуде, Росс Nvidia-ның қазіргі уақытта 80 % нарықты иеленетін үлесін алу мүмкіндігін көреді. Groq тек инференцияға арналған әзірлемелермен айналысады. IDC зерттеу компаниясының бағалауы бойынша, осы нарықтың көлемі биыл $39 млрд-қа жетеді, ал келесі төрт жылда $60,7 млрд-қа дейін өседі.
Groq сияқты стартаптар оптимистік көзқараста, себебі Nvidia чиптері бастапқыда ИИ үшін арналмаған. 1999 жылы бас директор Дженсен Хуанг графикалық процессорларды (GPU) алғаш рет таныстырғанда, бұл графикасы бай видеойындар үшін әзірленген өнім болды. Олардың ИИ-ді оқыту үшін ең қолайлы процессорлар болып шыққаны – жай ғана сәттілік. Бірақ Groq, Cerebras ($4 млрд бағалау) және SambaNova ($5,1 млрд бағалау) сияқты жаңа буын чиптерін шығаратын стартаптар мұнда жаңа мүмкіндіктердің мол екенін көреді. «Егер біз қазір ИИ-мен жұмыс істей бастасақ, ешкім нейрондық желілермен жұмыс істеу үшін GPU қолдануды ойламас еді», – дейді Cerebras-тың бас директоры Эндрю Фельдман.
Nvidia-ны көшбасшылық позициясынан ығыстыруды тек стартаптар ғана емес, Amazon мен Microsoft та өздерінің нейрондық желілер үшін процессорларын әзірлеп жатыр. Бірақ Groq чиптері – «тілдік процессорлар» (Language Processing Units, LPUs) – соншалықты әсерлі жылдамдықпен ерекшеленеді, сондықтан компанияның жеңіске жету мүмкіндіктері бар. Биыл инвесторларға арналған презентациясында компания инференция үшін чиптерінің Nvidia GPU-дан 4 есе жылдам, 5 есе арзан және 3 есе энергия тиімді екенін мәлімдеді. Қазіргі уақытта стартап D сериялы инвестиция кезеңінде BlackRock қорының жетекшілігімен жаңа инвестициялар тартатынын жариялады. Groq компаниясының бағасы кемінде $2 млрд болуы тиіс, дереккөздердің айтуынша, компания $350 млн-нан кем емес қаражат тартуды жоспарлап отыр. «Олардың инференция чиптерінің жылдамдығы нарықтағы барлық өнімдерден айтарлықтай асып түседі», – дейді Groq-тың бірнеше қаржыландыру раундтарына қатысқан General Global Capital қорының тең құрылтайшысы Эмиш Шах.
Groq өз чиптерін екі жыл бұрын нарыққа шығарды, ал оның клиенттерінің арасында Аргонн ұлттық зертханасы бар. Бұл «Манхэттен жобасы» аясында құрылған мемлекеттік зерттеу орталығы, Groq чиптерін термоядролық синтезді зерттеу үшін пайдаланады – күннің энергиясын өндіру тәсілі. Groq процессорларын Aramco Digital – Сауд Арабиясының мұнай компаниясының технологиялық бөлімшесі де қолданады.
Наурызда Groq GroqCloud қызметін іске қосты, ол онлайн интерфейс арқылы процессорларға қолжетімділікті жалға алуға мүмкіндік береді. Өнімнің артықшылықтарын әзірлеушілерге көрсету үшін Groq бұлттық өнімге тегін қолжетімділік ұсынды. Бірінші айда сайтта 70 000 пайдаланушы тіркелді. Қазір олардың саны 280 000-ға жетті, және өсу тоқтаған жоқ. 30 маусымда компания ақылы жазылымдарды іске қосты және жақында Intel-дің бұрынғы қызметкері Стюарт Панды операциялық директор лауазымына шақырды, кірістерді арттыру және операцияларды масштабтау үшін. Пандада болашаққа оптимистік көзқараспен қарауға барлық негіз