KumoScale™ Software

- Wichtiger Hinweis -

Vielen Dank für Ihr Interesse an der KumoScale™-Software ("Produkt"). Es sind keine Erweiterungen über Version 3.22 hinaus vorgesehen, da das Produkt inzwischen nur noch gewartet wird und keine neuen Test- oder Produktionslizenzen mehr vergeben werden. Wenn Sie Fragen haben, kontaktieren Sie uns bitte hier.

Disaggregiertes NVMe-oF™-Speichermanagement für Rechenzentren

KumoScale™ Software implementiert NVMe™ over Fabrics (NVMe-oF™). Dadurch stellt das Produkt einen schnellen, vernetzten Blockspeicherdienst zwischen Initiator und Ziel über eine Hochgeschwindigkeitsnetzwerkverbindung bereit. Die Software wird auf Speicherknoten ausgeführt, die mit NVMe™-SSDs bestückt sind, und sorgt für Speicherdisaggregation. KumoScale Software unterstützt sowohl RDMA als auch NVMe over TCP für Netzwerkübertragung und bietet einen gemeinsamen, geclusterten Speicherpool, der bei einer Reihe von SSDs eine logische Aufteilung nach NVMe-Namespace ermöglicht. Im Vergleich zu Direct Attached Storage (DAS) erlaubt die Volume-Verwaltungsfunktion von KumoScale viel Flexibilität beim Steuern großer Speicherpools, die aus großen einzelnen SSDs bestehen.

Anwendungsfall

Typische Anwendung und Anwendungsfall

  • Leistungsstarker Speicherdienst für Cloud-native Anwendungen
  • Persistenter Speicherdienst für OpenStack™ und Kubernetes®
  • Hochgeschwindigkeits-Blockspeicherdienst für HPC-Anwendungen und andere wissenschaftliche Anwendungen
  • Backend-Speicher für KI/ML/DL-Anwendungen

KumoScale™ Software sollte mit allgemein verfügbarer NVMe-oF™- Initiator-Software sowie standardmäßigen NVMe-SSDs funktionieren. Proprietäre Softwaretreiber oder Hardware sind nicht erforderlich.

Funktion

Verbesserte Speicherauslastung und mehr Flexibilität bei der Verwaltung von gepoolten schnellen NVMe™-SSDs

Kapazität und Leistung der neuesten PCIe® Gen 4 NVMe-SSDs sind im Vergleich zu PCIe Gen 3 explodiert und bieten weit mehr als ein einziger Rechenknoten verbrauchen kann. Eine gemeinsame Nutzung von SSDs über verschiedene Benutzeranwendungen und Server/VMs hinweg ist dringend erforderlich. Bis zur Einführung und Verbreitung von NVMe-oF™ war vernetzter Speicher entweder langsam oder teuer – oder gar beides. Bei NVMe-oF™ ist das nicht mehr der Fall. KumoScale™ Software erhöht die Speicherauslastung durch gemeinsame Nutzung von SSDs sowie Aufteilung von gemeinsam genutzten SSDs nach NVMe-Namespace. Sie erleichtert es, über die Software die richtige Kapazität aus dem Pool zur Performance der NVMe™-SSD bereitzustellen.

Unterstützt RDMA und NVMe over TCP-Protokoll

KumoScale Software unterstützt RDMA und das TCP-Übertragungsprotokoll. Wenn Sie einen schnelleren Speicherdienst mit niedriger Latenz von KumoScal Software wünschen, sollte RoCEv2 (RDMA over Converged Ethernet) geeignet sein. Wenn Sie jedoch Netzwerkkompatibilität in einem bestehenden Rechenzentrumsnetzwerk bevorzugen, könnte TCP/IP für KumoScale Software verwendet werden. Informationen zur Netzwerkkarte, die mit neuester KumoScale Software validiert wurde, finden Sie in der HCL (Hardware-Kompatibilitätsliste).

Anpassung der Kundenbereitstellungs- und Telemetriearchitektur

  • Für OpenStack® bietet die KumoScale™-Software einen OpenStack Cynder®-Treiber, der die Wallaby-Version und darüber hinaus unterstützt.
  • Bei Kubernetes® werden containerisierte Anwendungen über den KumoScale Container Storage Interface (CSI)-Treiber mit dem KumoScale™ Speicherknoten verbunden.
  • In Baremetal-Umgebungen können Ansible™-Playbooks oder andere beliebte Automatisierungstools für ein automatisiertes Deployment und die Bereitstellung von Speicher für Rechenknoten verwendet werden.
  • Für die Telemetrieintegration bietet KumoScale™ Software eine Schnittstelle, um einen Push-/Pull-Datenaustausch in bestehender Telemetrieinfrastruktur (Zeitreihenmetriken) und Protokollierungsinfrastruktur (asynchrone Ereignisse) zu ermöglichen.

Datenschutz und hohe Verfügbarkeit

Datenschutz – Cross Domain Data Replication (CDDR) –
KumoScale™ Software sorgt mittels einer Technik namens Cross Domain Data Replication (CDDR) für Datenschutz.  CDDR erstellt auf gepoolten SSDs mehrere Replikate eines logischen Volumes und ordnet sie Speicherknoten zu, die sich in verschiedenen Ausfalldomänen befinden. Die Replikation basiert auf dem Initiator und Replikate können über den zweiten oder dritten KumoScale™ Speicherknoten platziert werden. Zur Replikation wird der KumoScale Agent auf dem Initiator ausgeführt, um die Verfügbarkeit des Volumes zu überprüfen. Sobald der Agent  aus irgendeinem Grund Volum-Fehler erkennt, wird das Volume automatisch wieder mit dem replizierten Volume auf einem anderen Speicherknoten verbunden. Nachdem das widerstandsfähige Volumen aus dem fehlerhaften Zustand zurückkehrt, werden alle Daten automatisch neu erstellt, um das widerstandsfähige Volume zu aktualisieren.

Hohe Verfügbarkeit sicherstellen
KumoScale™ Speicherknoten unterstützen L3 BGP (Border Gate Protocol), sodass der Netzwerkpfad automatisch auf den verfügbaren Netzwerkpfad umgeleitet wird, basierend auf einer vordefinierten optimalen Routing-Tabelle, wenn es ein Problem mit der Netzwerkverbindung gibt.

V3.22 Highlight

Zusätzliche Bereitstellungsoptionen:
Zusätzlich zur optimierten Anwendungsinstallation der KumoScale Software bietet KumoScale Softwareversion 3.20 eine Option zur Bereitstellung auf allgemein verfügbaren kommerziellen Betriebssystemen. Für große Rechenzentren ist die notwendige Speicherinfrastruktur eng mit einer Vielzahl von Untersystemen wie Bereitstellung, Überwachung, Telemetrie und Netzwerk integriert. „Managed Mode“ von KumoScale bietet Engineering- und Sicherheitsadministratoren volle Flexibilität bei der Konfiguration, Integration und Steuerung der Speicherschicht-OS-Umgebung, während „Appliance Mode“ der KumoScale Software eine einfachere Installation und automatisierte Bereitstellung mit reduzierter Komplexität für kleine und mittelgroße Unternehmenskunden erlaubt, allerdings mit begrenzter OS-Konfigurierbarkeit.

NVIDIA GPUDirect® Speicherunterstützung:
Version 3.20 unterstützt zusätzlich NVIDIA GPUDirect Storage. GPUDirect Storage ist eine Technologie, die in NVIDIA Kepler™-Grafikprozessoren und NVIDIA CUDA™ 5.0 eingeführt wurde. Die Lösung bietet einen direkten Pfad für den Datenaustausch zwischen der GPU und dem Peer-Gerät eines Drittanbieters unter Verwendung der Standardfunktionen von PCI Express®. Beispiele für Geräte von Drittanbietern sind Netzwerkschnittstellen, Videoerfassungsgeräte und Speicheradapter. Die KumoScale Software fungiert als Speicheradapter für GPUDirect Storage.

OpenID® Connect™-Unterstützung:
Version 3.20 bietet nun Unterstützung für OpenID Connect 1.0 von Drittanbietern. OpenID Connect ist eine Identitätsschicht auf dem OAuth 2.0-Protokoll, die es Clients ermöglicht, die Identität von Benutzern und Sitzungen basierend auf der von einem Autorisierungsserver für Dienstkontoberechtigungen durchgeführten Authentifizierung zu überprüfen. Unterstützung von KumoScale Software für OpenID Connect vereinfacht die Sicherheitsintegration in CSP-Rechenzentrumsumgebungen.

Volume-Migration:
Im Rahmen der verbesserten Volume-Migration kann ein Administrator ein Volume ohne Unterbrechung der Wartung und Nutzung über verschiedene Storageknoten hinweg migrieren. Die Volumes bleiben weiterhin online und ermöglichen während des Verschiebens der Daten an ihren neuen Speicherort weiterhin E/A. Der Vorgang ist für die das Volume nutzenden Anwendungen völlig transparent, wodurch die Ausfallsicherheit des Storageclusters erhöht wird. 

Cluster Manager CLI v2:
Eine verbesserte Cluster Manager CLI ergänzt die 3.21 CLI v1 um operatorgesteuerte Lifecycle-Automatisierungsfunktionen, die auf der Kontrollplattform von KumoScale™ verfügbar sind. Mit der 3.22 Cluster Manager CLI erhalten Administratoren jetzt über eine einzige, intuitive CLI vollen Zugriff auf die Funktionen zur Verwaltung von Cluster-Services und Speicherbereitstellung.

Flexible Volume-Klasse:
Eine neue flexible Volume-Klasse bietet Anbietern von Rechenzentrumsinfrastrukturen die Möglichkeit, ihre Kunden zunächst mit einem nicht replizierten Volume zu versorgen und ihnen später ein ausfallsicheres repliziertes Volume anzubieten. Dadurch können Anbieter von Rechenzentrumsinfrastrukturen ihre Mandanten schnell einrichten und in späteren Phasen eine angemessene Ausfallsicherheit gewährleisten.

In der Version 3.22 der KumoScale™-Software sind außerdem eine verbesserte technische Online-Dokumentation, eine Überarbeitung von Ansible® zur einfacheren Anpassung von Skripten für Speicheradministratoren und eine modifizierbare Cluster-VIP-Adresse enthalten.

Architektur

Systemarchitektur für Rechenzentren

KumoScale™ Architektur KumoScale™ Architektur

Funktionen (Module)

1. KumoScale™ Speicherknoten
Speicherserver, auf dem KumoScale™ Software ausgeführt wird.

2. Datenpfad
Netzwerkdatenpfad zur Verbindung zwischen Serveranwendung und Speicher via NVMe-oF.

3. Kontrollpfad
Netzwerkkontrollpfad zur Verwaltung interner Datendienste, die von KumoScale bereitgestellt werden.

4. Bereitstellungsservice
Ausarbeitung der entsprechenden Speicherkapazität und Bereitstellung der bevorzugten QoS-Stufe vom Speicherknoten anhand vordefinierter Parameter.

5. CSI-Treiber
Container Storage Interface-Laufwerk für KumoScale. Eng gekoppelt mit CSI-Treiber.

6. Telemetriedatenbank
Datenbank zum Speichern verschiedener statistischer Daten im Server und KumoScale Speicherknoten.

Plattformanforderungen

KumoScale™ Software wurde in Bare-Metal-, OpenStack- und Kubernetes®-Umgebungen auf einer Vielzahl von branchenüblichen Servern getestet. Es kann jeder NVMe-oF™-kompatible Initiator verwendet werden, einschließlich Linux®-Kernelversion 4.8 oder höher. Die unterstützte Plattform wird unten angezeigt.

Komponenten

Mindestanforderung

Speicher

64 GB DDR4

Systemlaufwerk

2 x 128 GB SATA DOM

NIC

MCX516A-CCAT oder MCX545A-CCAN ConnectX-5 EN-Netzwerkschnittstellenkarte, 100 GbE Dual/Single Port QSFP28, PCIe® 3.0 x16 ROHS R6 MCX416A-CCAT ConnectX-4 EN-Netzwerkschnittstellenkarte, 100 GbE Dual/Single Port QSFP28, PCIe® 3.0 x16 ROHS R6 Solarflare Communications XtremeScale SFC9250 10/25/40/50/100G Ethernet-Controller

  • MCX516A-CCAT oder MCX545A-CCAN ConnectX®-5 EN Netzwerkschnittstellenkarte, 100GbE-Dual/Single-Port-QSFP28, PCIe® 3.0 x16 ROHS R6
  • MCX416A-CCAT ConnectX®-4 EN Netzwerkschnittstellenkarte, 100GbE-Dual/Single-Port-QSFP28, PCIe® 3.0 x16 ROHS R6
  • Intel® 810

Stromversorgung

Doppeltes Netzteil, Hot-Swap-fähig

Managementschnittstelle

Ein dedizierter Managementport ist optional. KumoScale™ kann für die Verwaltung des Datenverkehrs den Datenport oder einen dedizierten Managementport verwenden.

KumoScale™ Provisioner

KumoScale™ Provisioner benötigt weder zusätzliche Server noch einen Container.

V3.22 Benutzerhandbuch

Das Benutzerhandbuch für KumoScale V3.22 enthält:

  • Hardware-Kompatibilitätsliste (HCL)
  • Welchen KumoScale-Bereitstellungsmodus sollte ich verwenden?
  • Versionshinweise
  • Installationsanleitung für den Gerätemodus
  • Installationsanleitung für den Managed-Modus mit Kubernetes
  • NVMe™Host-Patch
  • Benutzerhandbuch
  • Cluster Manager CLI
  • Kubernetes™-CSI-Treiber-Handbuch
  • Openstack™-Benutzerhandbuch
  • Handbuch zur REST API von Provisioner
  • Metriksammlung für KumoScale
  • Handbuch für das Grafana™-Dashboard
  • Benutzerhandbuch für Ansible™

Dokumente

Dieses Dokument beinhaltet eine Übersicht über die Funktionen und Vorteile von KumoScale™ Software sowie typische Anwendungsfälle und Umgebungsdaten für die Bereitstellung.

In diesem Dokument werden die Architektur und Bereitstellung von domänenübergreifender Datenreplikation beschrieben, die in KumoScale für Datenschutz sorgt. KumoScale CDDR implementiert Schutz und einen automatischen Selbstheilungsmechanismus, um Systemprobleme zu beheben.

In diesem Dokument wird der Leistungsvorteil von KumoScale™ Software, die als NVMe-oF™-Ziel  ausgeführt wird, im Vergleich zu Ceph-Software beschrieben, die ähnliche Speichersystemfunktionen für Rechenzentren bietet.

In diesem Dokument wird das Ergebnis von Leistungstests mit KumoScale™ Software beschrieben, die als NVMe-oF™-Ziel mit RDMA-Übertragung auf der PCIe® Gen 4-Serverplattform und der CM6-SSD ausgeführt wird. Das Leistungsergebnis umfasst die Leistung einer SSD sowie Skalierbarkeit durch Erhöhung der Anzahl an SSDs.

KIOXIA arbeitet an der Entwicklung genauerer Zuverlässigkeitsalgorithmen in Ergänzung zur bestehenden ECC-Technologie für NAND-Speichergeräte. In diesem Dokument wird der interne Anwendungsfall der KumoScale™-Software von KIOXIA beleuchtet, die zu diesem Zweck schnellen Blockspeicher für die Verarbeitung von Machine Learning und Deep Learning einsetzt.

Schneller Block-Storage ist immer wichtiger für die KI/ML-Verarbeitung. In diesem Dokument wird das Testergebnis der Kombination mit NVIDIA GPUDirect-Speicher und NVMe™-Speicher der KumoScale™-Software erläutert und wie diese Kombination die Verarbeitungszeit für den gesamten Workflow reduziert.

Schnelle Blockspeicher werden für die KI/ML-Verarbeitung immer wichtiger. In diesem Dokument werden die Testergebnisse für die Kombination mit NVIDIA GPUDirect-Speicher und NVMe™-Speicher durch die KumoScale™-Software erörtert. Zudem wird erläutert, wie diese Kombination die Verarbeitungszeit für den gesamten Workflow reduziert.

Anfragen

Bitte kontaktieren Sie uns über das Anfrageformular.

  •  Bevor Sie eine Anfrage übermitteln, lesen Sie sich bitte die wichtigen Überlegungen sorgfältig durch und akzeptieren Sie sie. Wählen Sie dann im Dropdown-Menü "Produkte" des Anfrageformulars die Option "KumoScale" aus.
  • : 15 µs mehr Latenz bei 4-KB-Lesegeschwindigkeit im Vergleich zu DAS. Gemessen von KIOXIA im Juni 2020 mit einem von KIOXIA spezifizierten Messtool. 15 µs ist der Unterschied bei der 4-KB-Leselatenz zwischen einer DAS- und einer NVMe-oF™-Speicherkonfiguration auf derselben Hardware.
  • NVMe und NVMe-oF sind eingetragene oder nicht eingetragene Marken von NVM Express, Inc. in den USA und anderen Ländern.
  • PCIe ist eine eingetragene Marke von PCI-SIG.
  • Kubernetes ist eine eingetragene Marke von The Linux Foundation in den USA und/oder anderen Ländern.
  • Ansible ist eine eingetragene Marke von Red Hat, Inc. in den USA und anderen Ländern.
  • Linux ist eine eingetragene Marke von Linus Torvalds in den USA und anderen Ländern.
  • Das OpenStack Word Mark ist eine eingetragene Marke der OpenStack Foundation in den USA und anderen Ländern und wird mit Genehmigung der OpenStack Foundation verwendet. Wir sind nicht mit der OpenStack Foundation oder der OpenStack-Community verbunden und werden auch nicht von ihnen unterstützt oder gesponsert.
  • Prometheus ist eine eingetragene Marke von The Linux Foundation.
  • Grafana und Loki sind Marken oder eingetragene Marken von Grafana Labs, Inc.
  • Intel ist eine Marke der Intel Corporation oder ihrer Tochtergesellschaften.
  • Alle weiteren Firmen-, Produkt- und Servicenamen, die hier erwähnt werden, können Marken der jeweiligen Unternehmen sein.