Graphcore und Cirrascale stellen Graphcloud vor: Cloud-Computing-Lösung für KI-Anwendungen

Graphcore kündigt den nächsten Schritt seines Engagements an, Kunden dabei zu helfen, ihre Innovationen zu beschleunigen und die Vorteile künstlicher Intelligenz (KI) in großem Maßstab zu nutzen.

Zusammen mit Cirrascale Cloud Services hat Graphcore mit dem ersten öffentlich verfügbaren Mk2 IPU-POD Scale-Out-Cluster etwas völlig Neues für KI in der Cloud entwickelt, das eine einfache Möglichkeit bietet, Rechenkapazität nach Bedarf hinzuzufügen, ohne dass ein eigenes Rechenzentrum betrieben werden muss.

Graphcore weiß, dass die enormen Möglichkeiten, die KI bietet, einzigartige Herausforderungen für das Computing mit sich bringen. Die Größe der Modelle wächst schnell und eine immer bessere Genauigkeit wird gefordert. Wollen Kunden neueste Innovationen optimal nutzen, benötigen sie ein eng integriertes Hardware- und Softwaresystem, das speziell für KI entwickelt wurde.

Graphcloud ist ein sicherer und zuverlässiger Cloud-Service der IPU-POD-Produktserie, mit dem Kunden auf die Leistungsfähigkeit der Intelligence Processing Unit (IPU) von Graphcore zugreifen können, während sie von Experimenten über Proof-of-Concept- und Pilotprojekten hin zu größeren Fertigungssystemen skalieren.




Zum Start stehen zwei Graphcloud-Angebote bereit. In den kommenden Monaten werden größere Scale-Out-Systeme hinzugefügt:

• IPU-POD16 – mit 4 PetaFLOPS KI-Rechenleistung (16 GC200 IPUs in 4 IPU-M2000s)
• IPU-POD64 – mit 16 PetaFLOPS KI-Rechenleistung (64 GC200 IPUs in 16-IPU-M2000s)

IPU-POD-Systeme bieten im Vergleich zu neuesten GPU-Systemen geringere Gesamtkosten für das Training und kürzere Zeiten bis zur Lösung.

Graphcloud-Systeminstanzen sind mit Poplar und Systemsoftware vorinstalliert. Beispielcode und Anwendungsbeispiele sind lokal für die in den Graphcore-Benchmarks genutzten Modelle verfügbar, einschließlich BERT, EfficientNet etc. Nutzer haben auch Zugriff auf umfassende Dokumentation, um einen schnellen Einstieg in mehrere Frameworks wie PyTorch und TensorFlow zu ermöglichen.

Einer der ersten Graphcore-Kunden, der Graphcloud einsetzt, ist das britische Unternehmen Healx, dessen KI-Plattform zur Medikamentenforschung neue Behandlungsmethoden für seltene Krankheiten identifiziert. Das Unternehmen wurde bei den AI Awards 2019 mit dem Preis „Best Use of AI in Health and Medicine“ ausgezeichnet.

„Wir haben Ende Dezember 2020 damit begonnen, einen IPU-POD16 in der Graphcloud zu verwenden und unseren bestehenden Mk1-IPU-Code auf das Mk2-System zu portieren“, so Dan O’Donovan, Technischer Leiter, Machine Learning Engineering bei Healx. „Es war ein reibungsloser Prozess, der einen enormen Leistungsvorteil brachte. Da mehr Speicher für unsere Modelle zur Verfügung stand, mussten wir unser Modell nicht mehr sharden und konnten uns stattdessen auf das Sharding unserer Daten konzentrieren. Dies führte zu einem einfacheren Code und effizienteren Modelltraining.“




O’Donovan weiter: „Während der gesamten Zusammenarbeit mit Graphcore haben wir stets Zugriff auf neueste Hardware, SDKs und Tools erhalten. Darüber hinaus fand ein ständiger Dialog mit den fachkundigen Hardware- und Softwareentwicklern von Graphcore statt – über direkte Treffen und den Support Desk.“

Nigel Toon, CEO von Graphcore, begrüßt die Einführung von Graphcloud: „Mit Graphcloud war es noch nie so einfach, unsere IPU zu nutzen – unabhängig davon, ob unsere Hardware und der Poplar-Software-Stack zum ersten Mal evaluiert oder KI-Rechenressourcen skaliert werden sollen. Wir freuen uns, mit Cirrascale zusammenzuarbeiten, um Graphcloud noch bekannter zu machen. Neben unserem globalen Partnerprogramm, dem eigenen Vertrieb und technischen Support ist dies ein weiterer wichtiger Bestandteil des mittlerweile umfassenden Angebots von Graphcore.“

PJ Go, CEO von Cirrascale Cloud Services, fügte hinzu: „Cirrascale ist stolz auf die strategische Zusammenarbeit mit Graphcore, die die Ära der Cloud-basierten Lösungen für maschinelles Lernen weiter vorantreiben, um bei einigen der spannendsten Fortune-500-Unternehmen einen kommerziellen Einsatz in großem Maßstab zu erreichen.“

Preise und Spezifikationen

Verfügbare Systeme:

• IPU-POD16: 4x IPU-M2000-System
• IPU-POD64: 16x IPU-M2000-System

Preise (in US-Dollar)




Spezifikationen

• Beide Systeme nutzen die Vorteile der IPU-Fabric-Interconnect-Architektur von Graphcore. Die IPU-Fabric beseitigt Kommunikationsengpässe und ermöglicht Tausenden von IPUs, Maschinenintelligenz-Workloads als eine einzige, leistungsstarke und schnelle, zusammenhängende Einheit zu verarbeiten
• Jede IPU-POD64-Instanz wird von vier Dell R6525-Hostservern mit Dual-Socket AMD EPYC2-CPUs unterstützt, wie sie auch in leistungsstärksten lokalen KI-Rechenzentren verwendet werden, während jede IPU-POD16 über einen dedizierten Server mit derselben Spezifikation verfügt
• 16 TB sicherer lokaler NVMe-Speicher für IPU-POD64 und 4 TB für IPU-POD16
• Jede IPU-POD64 bietet 57,6 GB prozessorinternen Speicher und 2048 GB Streaming-Speicher (32 x 64GB DIMMs)
• Jede IPU-POD16 bietet 14,4 GB prozessorinternen Speicher und 512 GB Streaming-Speicher (8 x 64GB DIMMs)

Weitere Informationen über Graphcloud unter www.graphcore.ai/graphcloud

www.graphcore.ai

  Fordern Sie weitere Informationen an…