AI-Farabium деген не
AI-Farabium — Қазақстандағы деректер орталықтарында орналастырылған NVIDIA H200 графикалық процессорларына негізделген суперкомпьютерлік GPU-бұлт. Сіз нейрондық желілерді іске қосу және оқыту үшін есептеу ресурстарына қол жеткізесіз — сағаттық төлеммен, есептер көлеміне шектеусіз және өз инфрақұрылымыңызды орналастыру қажеттілігінсіз.
Кластер сипаттамалары
- NVIDIA H200 үлгісіндегі 400 графикалық процессор
- 100 ТБ жедел жад
- NVIDIA референстік архитектурасы
- GPU видеожады — 56 ТБ
- ИИ модельдерін оқыту үшін 26,8 петафлопс (FP64)
- Жоғары жылдамдықты сақтау жүйесі — 6 ПБ
- ИИ инференсі үшін 1583 петафлопс (FP8)
- Өткізу қабілеті 665 ТБ/с болатын InfiniBand желісі
Сервер конфигурациялары
Виртуалды GPU-сервер
• NVIDIA H200 үлгісіндегі 1 графикалық процессор (виртуализацияланған)
• GPU видеожады — 142 ГБ
• 48 vCPU ядросы (3,25 ГГц)
• DDR5 жедел жады — 256 ГБ
• NVMe SSD дискілік кеңістік — 3 ТБ
• HDD дискілік кеңістік — 7 ТБ
• GPU видеожады — 142 ГБ
• 48 vCPU ядросы (3,25 ГГц)
• DDR5 жедел жады — 256 ГБ
• NVMe SSD дискілік кеңістік — 3 ТБ
• HDD дискілік кеңістік — 7 ТБ
Bare-metal сервер
• NVIDIA H200 үлгісіндегі 8 графикалық процессор
• GPU видеожады — 1,128 ТБ
• 384 vCPU ядросы
• Жедел жады — 2 ТБ
• HDD дискілік кеңістік — 56 ТБ
• GPU видеожады — 1,128 ТБ
• 384 vCPU ядросы
• Жедел жады — 2 ТБ
• HDD дискілік кеңістік — 56 ТБ
Қосымша
Сұраныс бойынша қосымша ұсынылады:
• SSD NVMe дискілік кеңістік
• HDD дискілік кеңістік
• 8 статикалық IP-мекенжайдан тұратын блокты қолдау
• SSD NVMe дискілік кеңістік
• HDD дискілік кеңістік
• 8 статикалық IP-мекенжайдан тұратын блокты қолдау
Жобаның мақсаттары мен міндеттері
Негізгі стратегиялық мақсат — Қазақстанда әзірлеушілерге, зерттеушілерге және мемлекеттік ұйымдарға қолжетімді, жасанды интеллект үшін суверенді инфрақұрылым құру.
Деректерді ел ішінде сақтау және өңдеуді қамтамасыз ету
Әзірлеушілер мен ұйымдарға қуатты есептеу ресурстарына тікелей қолжетімділік беру
ЖИ және үлкен деректермен жұмыс істеу бойынша өңірлік орталықтың қалыптасуын қолдау
Шетелдік бұлттар мен сервистерге тәуелділікті азайту
Мемлекеттік секторда, білім беру, медицина және бизнесте ЖИ-технологияларды енгізуді жеделдету
Деректерді қорғау және локализациялау бойынша ұлттық талаптарға сәйкестікті қамтамасыз ету
Пайдаланушыларға арналған мүмкіндіктер
NVIDIA H200 GPU негізіндегі есептеу қуаттарын жалға алу
Модельдерді іске қосу, оқыту және масштабтау — шектеусіз
Қорғалған байланыс арналары арқылы қосылу (VPN, L2/L3)
Өз міндеттеріне бейімделген виртуалды ИТ-инфрақұрылым (VDC) құру
Гибридті және мультибұлтты сценарийлерді қолдай отырып, деректерді ел ішінде өңдеу
Қолданыстағы цифрлық сервистер мен платформалармен интеграция
Қолдану салалары
Білім беру
ИИ-курстарын іске қосу, студенттерді оқыту, I–Mektep және НОБД жүйелерімен жұмыс
Денсаулық сақтау
Медициналық бейнелерді талдау, телемедицина, MED365 жүйесімен интеграция
Мемлекеттік сектор
Бейнебақылау, чат-боттар, цифрлық егіздер, Smart City үшін аналитика
Бизнес
Контент генерациясы, ұсыным жүйелері, машиналық оқыту
Телеком және IT-қызметтер
AituCloud, BTS Digital, TV+ платформасымен интеграция
Инновациялар
Ұшқышсыз аппараттар, бейне-жетондар, сөйлеу технологиялары және ML-прототиптеу
