Новий стандарт HBF: Прорив у високошвидкісній пам’яті для систем штучного інтелекту
Компанії SanDisk та SK hynix спільно представили технічну специфікацію HBF (High Bandwidth Flash) у межах ініціативи Open Compute Project (OCP). Цей новий стандарт покликаний оптимізувати роботу систем штучного інтелекту, забезпечуючи значно вищу пропускну здатність пам’яті.
Джерело зображення: skhynix.com
Розробка стандарту відбувалася під егідою робочої групи OCP з технології HBF. SanDisk та SK hynix виступили ключовими учасниками, доклавши значних зусиль до формування цього рішення. До консорціуму також приєдналися Google та Tensorrent, чий вагомий внесок допоміг у перевірці технології та фіналізації стандарту.
Ключові переваги HBF
- Загальна технічна основа: Специфікація надає єдиний технічний фундамент для компаній та розробників, які створюють системи та прискорювачі для виведення даних у сфері ШІ.
- Висока пропускна здатність: Технологія забезпечує швидкий доступ до великих обсягів пам’яті, що є критично важливим для сучасних завдань.
- Оптимізація енергоспоживання: Покращені показники ефективності споживання енергії.
- Підвищення продуктивності: Збільшення загальної продуктивності систем.
- Зниження вартості володіння: Економічна вигода завдяки оптимізації ресурсів.
Сучасні системи для інференсу ШІ потребують високошвидкісної пам’яті з миттєвим доступом для обчислювальних ядер. Особливо це стосується роботи з великими мовними моделями та новими робочими навантаженнями, що вимагають значної ємності сховища. Технологія HBF покликана задовольнити ці нагальні потреби.
Специфікація детально описує системний інтерфейс, електричні та інші технологічні рекомендації для проектування систем з підтримкою HBF. Вона також включає специфікації інтерфейсу xPU-HBF, рекомендації щодо надійності та пакування стеків HBF, а також посібники для розробки програмного забезпечення, що забезпечує операції читання та запису.
Випуск специфікації в рамках Open Compute Project означає, що ця інформація є відкритою та доступною для всіх представників галузі. SanDisk та SK hynix мають на меті встановити HBF як галузевий стандарт для зберігання даних у сфері ШІ. Стратегія компаній передбачає розвиток екосистеми на ранніх етапах, підвищення обізнаності клієнтів про переваги HBF та її застосування через відкриту співпрацю та членство в консорціумі.
Порада від Soft Portal:
Ця новина є надзвичайно важливою для всіх, хто працює або планує працювати з технологіями штучного інтелекту. Новий стандарт HBF відкриває двері до значно швидшої обробки даних, що може суттєво прискорити розробку та впровадження інноваційних ШІ-рішень. Зверніть увагу на цю технологію, якщо ви займаєтеся дослідженнями, розробкою або використанням потужних обчислювальних систем.