Neuer Riesen-Chip von Cerebras Systems
Der neue Deep-Learning-Chip von Cerebras Systems ist so groß wie Ihre Tastatur und der größte aller Zeiten.
Nein, das wirst du auf deinem PC nicht sehen. Aber es ist ein auffälliges Beispiel dafür, woran CPU-Designer denken, wenn sie tief lernende Chips entwickeln, um die Server-Workloads zu beschleunigen.
Wenn Sie sich daran gewöhnt haben, an CPUs und GPUs zu denken, die in die Handfläche passen, denken Sie noch einmal nach – Cerebras Systems sagt, dass es der größte Chip aller Zeiten ist, einer, der so groß wie die Tastatur Ihres Computers ist.
Cerebras soll heute Abend auf der Hot Chips-Konferenz an der Stanford University diesen Whopper of a Chip enthüllen. Während der größte GPU 21,1 Milliarden Transistoren umfasst und 815 Quadratmillimeter Platz benötigt, beinhaltet der Cerebras Systems Chip 1,2 Billionen Transistoren und benötigt 46.225 Quadratmillimeter Silizium. Das sind 71,64 Quadratzoll oder ein rechteckiger Chip, der etwa 8 Zoll x 9 Zoll messen würde. Es ist so groß, dass Cerebras Fotos veröffentlicht hat, die es mit einer PC-Tastatur vergleichen!
Nein, der Cerebras-Chip ist nicht für Ihren PC ausgelegt. Aber ist es echt? Cerebras sagt, dass sie bereits Kunden-Workloads laufen lassen. Aber auch wichtige Details wie die Anzahl der Kerne und die Menge des Speichers sowie die Kosten für die Herstellung behielten das Unternehmen zurück. Interessanterweise wird es in einer relativ alten 16nm-Prozesstechnologie von TSMC hergestellt.
Die Spezifikationen des Cerebras Systems Chips.
Cerebras hat seinen Chip für Deep Learning entwickelt, wie man einen großen und wachsenden Teil der Workloads im Rechenzentrum nennt. Cerebras charakterisierte seinen Chip als eine „wafer-scale“-Implementierung eines neuronalen Netzwerks, das im Wesentlichen die Logik, die Verbindung und den Speicher auf einem einzigen Stück Silizium bündelt. Obwohl die Herstellung kostspielig sein kann, ist das Unternehmen der Ansicht, dass On-Chip-Verbindungen sowohl schneller als auch kostengünstiger sind als das Bauen und Verbinden diskreter Kerne.
Es ist die augenfällige Größe des Chips, die jedoch nicht anders kann, als die Augenbrauen anzuheben. Bedenke: Intels ursprünglicher Itanium-Prozessor mit dem Codenamen McKinley galt als absolut massiv, als er 2002 mit 221 Millionen Transistoren debütierte. Aber der Cerebras-Chip hat über 5.000 mal mehr Transistoren als McKinley, bei über 56 mal größerer Form! Selbst die kommende Power9-Iteration von IBM, die hier bei Hot Chips angekündigt wurde, hat nur 8 Milliarden Transistoren.
Hier ist der Cerebras-Chip, dargestellt gegen einen Baseball als zusätzliche Skala.
Die Herstellung eines so riesigen Chips birgt eine Reihe von großen Herausforderungen, darunter die bloße Herstellung und Kühlung. Auch die Herstellung eines so riesigen Chips ohne Herstellungsfehler ist einfach unmöglich, Cerebras gibt zu – jeder Chiphersteller leidet an Herstellungsfehlern, und eine bestimmte Anzahl von „schlechten“ Chips auf jedem Wafer wird einfach entsorgt. Im Falle von Cerebras entwirft das Unternehmen redundante Verarbeitungskerne und geht davon aus, dass Fehler einige von ihnen unbrauchbar machen werden. (Wie viele aber hat die Firma nicht gesagt. Insgesamt gibt es über 400.000 Kerne.) Eine I/O-Fabric, die einen Kern mit dem nächsten verbindet, kann um fehlerhafte Kerne herumrouten.
Der kontraintuitive Entwurf eines einzelnen monolithischen Chips spart tatsächlich Fertigungskosten. „Da es sich um nur einen Chip handelt, erhalten Sie das Ganze bei wesentlich geringerem Stromverbrauch und weniger Platz“, sagt Sean Lie, ehemaliger Chief Hardware Architect von SeaMicro, der später von AMD übernommen wurde, sowie das Data Center Server Solutions Geschäft von AMD.
Die Kühlung eines so massiven Chips erfordert mehr als nur einen Kühlkörper und einen Lüfter. Cerebras sagt, dass eine „Kühlplatte“ über dem Silizium angebracht ist, die mehrere vertikal montierte Wasserrohre verwendet, um den Chip direkt zu kühlen. Da der Chip zu groß ist, um in ein herkömmliches Gehäuse zu passen, hat Cerebras sein eigenes Design entwickelt und kombiniert eine Leiterplatte, den Wafer, einen kundenspezifischen Stecker, der die beiden verbindet, und die Kühlplatte.
Zahlreiche Chips debütieren auf der Hot Chips Konferenz und werden nie wieder gesehen. Cerebras werden mit ziemlicher Sicherheit in die gleiche Kategorie fallen – so etwas wird man in einem PC nie sehen, und sie werden im Serverraum vielleicht nicht einmal langfristig überleben. Aber der Reiz von Hot Chips besteht darin, dass man nie genau weiß, was man sehen wird – und der Cerebras-Prozessor ist sicherlich erstaunlich.
Test und Bild: Cerebras Systems Übersetzung und Bearbeitung: Institut für seltene Erden und Metalle
