AI-Farabium деген не
AI-Farabium — Қазақстандағы деректер орталықтарында орналастырылған NVIDIA H200 графикалық процессорларына негізделген суперкомпьютерлік GPU-бұлт. Сіз нейрондық желілерді іске қосу және оқыту үшін есептеу ресурстарына қол жеткізесіз — сағаттық төлеммен, есептер көлеміне шектеусіз және өз инфрақұрылымыңызды орналастыру қажеттілігінсіз.
Кластер сипаттамалары
  • NVIDIA H200 үлгісіндегі 400 графикалық процессор
  • 100 ТБ жедел жад
  • NVIDIA референстік архитектурасы
  • GPU видеожады — 56 ТБ
  • ИИ модельдерін оқыту үшін 26,8 петафлопс (FP64)
  • Жоғары жылдамдықты сақтау жүйесі — 6 ПБ
  • ИИ инференсі үшін 1583 петафлопс (FP8)
  • Өткізу қабілеті 665 ТБ/с болатын InfiniBand желісі
Характеристики кластера




Сервер конфигурациялары

Виртуалды GPU-сервер

• NVIDIA H200 үлгісіндегі 1 графикалық процессор (виртуализацияланған)
• GPU видеожады — 142 ГБ
• 48 vCPU ядросы (3,25 ГГц)
• DDR5 жедел жады — 256 ГБ
• NVMe SSD дискілік кеңістік — 3 ТБ
• HDD дискілік кеңістік — 7 ТБ

Bare-metal сервер

• NVIDIA H200 үлгісіндегі 8 графикалық процессор
• GPU видеожады — 1,128 ТБ
• 384 vCPU ядросы
• Жедел жады — 2 ТБ
• HDD дискілік кеңістік — 56 ТБ

Қосымша

Сұраныс бойынша қосымша ұсынылады:
• SSD NVMe дискілік кеңістік
• HDD дискілік кеңістік
• 8 статикалық IP-мекенжайдан тұратын блокты қолдау
Пайдаланушыларға арналған мүмкіндіктер
  • NVIDIA H200 GPU негізіндегі есептеу қуаттарын жалға алу

  • Өз міндеттеріне бейімделген виртуалды ИТ-инфрақұрылым (VDC) құру

  • Модельдерді іске қосу, оқыту және масштабтау
    — шектеусіз

  • Гибридті және мультибұлтты сценарийлерді қолдай отырып,
    деректерді ел ішінде өңдеу

  • Қорғалған байланыс арналары арқылы қосылу
    (VPN, L2/L3)

  • Қолданыстағы цифрлық сервистер мен
    платформалармен интеграция

  • API арқылы дайын ЖИ модельдеріне қол жеткізу

  • LiteLLM Gateway арқылы токендер шығынын бақылау

API арқылы қолжетімді дайын ЖИ модельдері
  • Мәтін және аналитика

    ЖИ көмекшілерін жасау, мәтіндерді талдау, есептерді автоматты түрде дайындау, инциденттердің басымдығын анықтау және оларды тиісті мамандарға бағыттау

    Модельдер:
    openai/gpt-oss-120b, DeepSeek-V4.1-Flash, Qwen3.6-35B-A3B, gemma-4-31B-it
  • Кескіндер мен құжаттарды талдау

    Сканерленген материалдар мен құжаттарды тану, кескіндер мен бейнеағындарды талдау, инциденттерді тексеру және жалған іске қосылуларды азайту

    Модель:
    Qwen3-VL-32B-Instruct
  • Қазақ тілі және аударма

    Машиналық аударма, қазақ және орыс тілдерінде хабарламалар жасау, екі тілде есептер дайындау

    Модельдер:
    InflexionLab/sybyrla, google/translate-gemma
  • Корпоративтік іздеу

    Ішкі құжаттар мен регламенттер негізінде білім базаларын құру, корпоративтік деректер бойынша семантикалық және гибридті іздеу

    Модельдер:
    bge-m3, bge-m3-sparse, bge-reranker
  • Сөйлеуді тану

    Дауыстық өтініштер мен аудиожазбаларды әрі қарай өңдеу және талдау үшін мәтінге айналдыру

    Модель:
    whisper
  • Код және күрделі тапсырмалар

    Код жазу және талдау, презентациялардың құрылымы мен мазмұнын дайындау, бір сұрау аясында көлемді құжаттармен жұмыс істеу

    Модель:
    Kimi K3
Төлем және басқару
  • Нақты пайдаланғаныңыз үшін төлем

    Жеке GPU серверлерін жалға алмай, тек кіріс және шығыс токендері үшін төлеңіз. Пилоттық жобаларды іске қосып, жабдықтың бос тұруына шығындалмай, модельдерді пайдалану ауқымын кеңейтіңіз

  • LiteLLM Gateway арқылы басқару

    Әртүрлі модельдерді бірыңғай API арқылы қосып, токендер шығынын, жауап беру жылдамдығын және шығындарды бақылаңыз. Командалар мен жобалар үшін бөлек API кілттерін жасаңыз, лимиттерді белгілеңіз және резервтік модельдерді баптаңыз

GPU жалға алу немесе LLM as a Service
GPU жалға алу мен LLM as a Service салыстыруы
Параметр GPU жалға алу (Virtual / Bare-metal) LLM as a Service (API)
Кімге арналған Өз модельдерін қосымша оқыту (Fine-tuning) және стандартты емес өңдеу процестерін құру үшін ML командаларына Дайын LLM модельдерін өнімдер мен жұмыс процестеріне жылдам енгізу үшін әзірлеушілер мен бизнеске
Төлем үлгісі NVIDIA H200 негізіндегі бөлінген есептеу қуаттарын сағаттық немесе айлық төлеммен жалға алу Нақты пайдаланылған токендер үшін төлем — қанша пайдалансаңыз, сонша төлейсіз
Басқару және бақылау Виртуалды инфрақұрылымға (VDC) толық root-қолжетімділік Дайын API кілті және LiteLLM Gateway жүйесіндегі жеке аналитика кабинеті
Жобаның мақсаттары мен міндеттері
Негізгі стратегиялық мақсат — Қазақстанда әзірлеушілерге, зерттеушілерге және мемлекеттік ұйымдарға қолжетімді, жасанды интеллект үшін суверенді инфрақұрылым құру.
Деректерді ел ішінде сақтау және өңдеуді қамтамасыз ету
Әзірлеушілер мен ұйымдарға қуатты есептеу ресурстарына тікелей қолжетімділік беру
ЖИ және үлкен деректермен жұмыс істеу бойынша өңірлік орталықтың қалыптасуын қолдау
Шетелдік бұлттар мен сервистерге тәуелділікті азайту
Мемлекеттік секторда, білім беру, медицина және бизнесте ЖИ-технологияларды енгізуді жеделдету
Деректерді қорғау және локализациялау бойынша ұлттық талаптарға сәйкестікті қамтамасыз ету
Қолдану салалары
  • Білім беру

    ИИ-курстарын іске қосу, студенттерді оқыту, I–Mektep және НОБД жүйелерімен жұмыс

  • Денсаулық сақтау

    Медициналық бейнелерді талдау, телемедицина, MED365 жүйесімен интеграция

  • Мемлекеттік сектор

    Бейнебақылау, чат-боттар, цифрлық егіздер, Smart City үшін аналитика

  • Бизнес

    Контент генерациясы, ұсыным жүйелері, машиналық оқыту

  • Телеком және IT-қызметтер

    AituCloud, BTS Digital, TV+ платформасымен интеграция

  • Инновациялар

    Ұшқышсыз аппараттар, бейне-жетондар, сөйлеу технологиялары және ML-прототиптеу

Толығырақ білгіңіз келе ме?
Өз міндеттеріңізге сәйкес келетін баға, конфигурациялар және ұсыныстар көрсетілген жеке коммерциялық ұсыныс алу үшін форманы толтырыңыз.
Өтінім қалдыру