AMD und Cerebras tun sich zusammen, damit KI-Antworten schneller erscheinen
Zwei Chipunternehmen teilen die Arbeit beim Ausführen eines KI-Modells untereinander auf, um die Latenz zu senken und die Energieeffizienz zu verbessern. Hier die verständliche Version.
AMD und Cerebras haben diese Woche eine Partnerschaft angekündigt, um KI-Modelle schneller auszuführen, indem sie die Aufgabe zwischen zwei sehr unterschiedlichen Chiparten aufteilen. Das klingt nach tiefgreifender Hardwaretechnik, aber das Ziel spürst du jeden Tag: die Wartezeit zwischen dem Drücken der Eingabetaste und dem Beginn der Antwort.
Die Idee einfach erklärt: Wenn ein KI-Modell dir antwortet, erledigt es zwei Aufgaben. Zuerst liest und verarbeitet es deine Eingabe samt angehängten Dokumenten oder dem bisherigen Verlauf. Dann schreibt es die Antwort Stück für Stück zurück. Diese Aufgaben haben unterschiedliche Anforderungen. Eine lange Eingabe zu lesen ist eine Massenaufgabe, bei der hoher Durchsatz hilft; die Antwort Wort für Wort zu schreiben, profitiert von hoher Geschwindigkeit pro Schritt. AMDs „Helios“-Racks auf Basis von EPYC-Prozessoren und Instinct-GPUs übernehmen den Leseteil, bei dem sie viele große Anfragen gleichzeitig verarbeiten können. Cerebras, bekannt für einen Chip in der Größe eines Esstellers, eine „Wafer-Scale Engine“, im Grunde ein einziger riesiger Prozessor statt vieler kleiner, die zusammengeschaltet werden, übernimmt den Schreibteil und erzeugt Tokens mit sehr geringer Verzögerung. AMD und Cerebras sagen, dass die Aufteilung die Energieeffizienz bis zu verfünffacht. Der gemeinsame Dienst soll in der zweiten Jahreshälfte zunächst über Cerebras Cloud verfügbar werden.
Was passiert hier also wirklich? Die KI-Branche hat jahrelang darum gewetteifert, größere Modelle zu bauen. Der neue Wettbewerb dreht sich darum, sie gut bereitzustellen: schnell, günstig und ohne absurd viel Energie zu verbrauchen. „Disaggregierte“ Systeme wie dieses, bei denen für jeden Teil der Aufgabe der passende Chip eingesetzt wird statt eines Chips für alles, sind ein wichtiger Teil der Antwort. Für Cerebras, das in einer von Nvidia dominierten Welt lange der ungewöhnliche Außenseiter war, und für AMD, das kürzlich einen separaten Inferenzdeal mit Anthropic unterzeichnet hat, ist das ebenfalls ein bemerkenswerter Moment. Eine Einschränkung ist wichtig: Das sind Leistungsangaben der Unternehmen selbst, und das gemeinsame Produkt ist noch nicht verfügbar. Die Werte aus der Praxis müssen sich also erst zeigen.
Was das für dich bedeutet: Du wirst nie einen AMD- oder Cerebras-Chip sehen, und das musst du auch nicht. Wenn der von dir genutzte Assistent schneller antwortet oder ein Anbieter seine Preise senkt, ist Arbeit wie diese im Hintergrund ein Grund dafür. Eine schnellere, günstigere Bereitstellung macht aus einer beeindruckenden Demo etwas, das du tatsächlich den ganzen Tag nutzen möchtest. Für die meisten ändert sich heute nichts; es ist lediglich ein gutes Zeichen dafür, wohin sich die technische Infrastruktur entwickelt.
Quellen
Chinas neue Regeln für KI-Begleiter sind jetzt in Kraft. Das bewirken sie
Neue chinesische Regeln für KI-„Begleiter“-Apps sind vergangene Woche in Kraft getreten. Sie verbieten romantische Chatbots für Minderjährige und verlangen Schutzmaßnahmen gegen Abhängigkeit. Ein Blick auf die Änderungen und darauf, warum die Welt sie beobachtet.
