Dieser Artikel ist Teil einer Sonderausgabe für VB. Lesen Sie hier die vollständige Serie: The CIO Agenda: 2023 Roadmap for IT Leaders.
Und verpassen Sie nicht zusätzliche Artikel, die neue Brancheneinblicke, Trends und Analysen darüber liefern, wie KI Unternehmen verändert. Finden Sie sie alle hier.
Unternehmen auf der ganzen Welt haben die zentrale Rolle der künstlichen Intelligenz (KI) bei der Förderung von Transformation und Unternehmenswachstum erkannt. 2023 werden viele CIOs vom „Warum“ der KI zum „Wie“ wechseln. Genauer: “Was ist der beste Weg, um die KI-Produktion schnell und wirtschaftlich in einem Maßstab zu steigern, der Wert und Geschäftswachstum liefert? “
Es ist ein Balanceakt mit hohem Einsatz: CIOs müssen eine schnelle und breitere Entwicklung und Bereitstellung ermöglichen und wirkungsvolle KI-Workloads aufrechterhalten. Gleichzeitig müssen IT-Führungskräfte von Unternehmen ihre Ausgaben, einschließlich kostspieliger „Schatten-KI“, genau verwalten, damit sie strategische Investitionen in Technologie besser fokussieren und maximieren können. Dies wiederum kann dazu beitragen, kontinuierliche und profitable KI-Innovationen zu finanzieren und einen positiven Kreislauf zu schaffen.
Eine leistungsstarke KI-Infrastruktur – speziell entwickelte Plattformen und Clouds mit optimierten Prozessoren, Beschleunigern, Netzwerken, Speichern und Software – bietet IT-Managern und ihren Organisationen eine leistungsstarke Möglichkeit, diese scheinbar konkurrierenden Anforderungen erfolgreich auszugleichen, sodass sie kostengünstig und effizient verwalten können Wachstum und „Manufacturing“ der Produktion künstlicher Intelligenz systematisch beschleunigen.
Insbesondere die Standardisierung auf einer öffentlichen Cloud-basierten „AI-first“-Plattform bietet On-Demand-Dienste, die zum schnellen Erstellen und Bereitstellen robuster, leistungsstarker KI-Anwendungen verwendet werden können. Diese End-to-End-Umgebung kann Unternehmen dabei helfen, die damit verbundenen Ausgaben zu verwalten, die Barriere für KI zu verringern, wertvolles geistiges Eigentum wiederzuverwenden und vor allem wertvolle interne Ressourcen auf Data Science und KI und nicht auf Infrastruktur zu konzentrieren.
Drei Hauptanforderungen, um das Wachstum der künstlichen Intelligenz zu beschleunigen
Einer der Hauptvorteile der Fokussierung auf die KI-Infrastruktur als Schlüsselfaktor für KI und Geschäftswachstum besteht darin, dass sie Unternehmen dabei helfen kann, drei Schlüsselanforderungen erfolgreich zu erfüllen. Wir und andere haben dies bei unserer Pionierarbeit in der Region und im weiteren Sinne bei der Technologieentwicklung und -einführung in den letzten 20 Jahren festgestellt. Diese sind: Standardisierung, Kostenmanagement und Governance.
Werfen wir einen kurzen Blick auf jeden von ihnen.
1. Standardisierung der künstlichen Intelligenz
Ermöglichen Sie eine geordnete, schnelle und kostengünstige Entwicklung und Bereitstellung
Wie zuvor Big Data, die Cloud, mobile Geräte und Computer ist KI ein radikaler Wendepunkt – mit noch größeren potenziellen Auswirkungen innerhalb und außerhalb des Unternehmens. Wie bei diesen früheren Innovationen – einschließlich Virtualisierung, Big Data, Datenbanken, SaaS und vielen mehr – werden intelligente Unternehmen nach sorgfältiger Bewertung ihre beschleunigten KI-Plattformen und Cloud-Infrastrukturen standardisieren wollen. Dies bringt eine Reihe wohlverstandener Vorteile für dieses neuere Set universeller Tools mit sich. Große Banken zum Beispiel verdanken einen Großteil ihrer optimistischen Fähigkeit, schnell zu skalieren und zu wachsen, einheitlichen globalen Plattformen, die eine schnelle Entwicklung und Bereitstellung ermöglichen.
Mithilfe von KI, Standardisierung auf optimierte Pakete, vorintegrierte Plattformen und Cloud-Umgebungen können Unternehmen eine Vielzahl von Nachteilen vermeiden, die häufig aus einer chaotischen Vielfalt von Produkten und Dienstleistungen resultieren. Die wichtigsten davon sind: nicht verwaltete Beschaffung, suboptimale Entwicklung und Modellleistung, Doppelarbeit, ineffiziente Arbeitsabläufe, Pilotprojekte, die schwer zu replizieren oder zu skalieren sind, teurer und komplexer Support und ein Mangel an engagiertem Personal. Am schwerwiegendsten ist vielleicht der übermäßige Zeit- und Kostenaufwand, der mit der Auswahl, Erstellung, Integration, Abstimmung, Bereitstellung und Wartung eines komplexen Stapels von Hardware, Software, Plattformen und Infrastrukturen verbunden ist.
Um es klar zu sagen: Enterprise-Standardisierung der KI-Plattform und Cloud bedeutet nicht Einheitsbrei, Exklusivität bei einem oder zwei Anbietern oder Rückkehr zur starren zentralen Kontrolle der IT.
Im Gegenteil, moderne KI-Clouds müssen skalierbare Dienste bieten, die für eine Vielzahl von Anwendungsfällen optimiert sind. Die „einheitliche“ KI-Plattform und -Infrastruktur muss auf unterschiedliche KI-Arbeitslasten zugeschnitten sein und die entsprechende Skalierbarkeit, Leistung, Software, Vernetzung und andere Fähigkeiten bereitstellen. Der Cloud-Marktplatz, der vielen Unternehmensanwendern bekannt ist, bietet KI-Entwicklern eine Vielzahl von Einführungsmöglichkeiten.
Für die Portabilität: Containerisierung, Kubernetes und andere offene, Cloud-native Ansätze bieten eine einfache Mobilität über mehrere Cloud- und Serviceanbieter hinweg und zerstreuen Bedenken hinsichtlich des Versicherungsbetriebs. Während die Standardisierung in der Organisation dem CIO die allgemeine Transparenz und Kontrolle zurückgibt, kann sie bestehende Beschaffungsrichtlinien und -verfahren, einschließlich dezentraler Ansätze, überlagern – eine Win-Win-Situation.
2. KI-Kostenmanagement
Fokus und freie Mittel für kontinuierliche Innovation und Wertschöpfung
Verschiedenen Schätzungen zufolge werden die Technologiebudgets durch nicht autorisierte Ausgaben, häufig von Unternehmensgruppen, um 30–50 % erhöht. Während es schwierig ist, genaue Zahlen für „Schatten-KI“ zu ermitteln, zeigen Umfragen zu den IT-Prioritäten von Unternehmen für 2023, dass man gut darauf setzen kann, dass versteckte Investitionen in Produkte und Dienstleistungen einen erheblichen Teil der Kosten für die KI-Infrastruktur verschlingen werden. Die gute Nachricht ist, dass die zentralisierte Beschaffung und Bereitstellung von Standard-KI-Diensten für Unternehmen die institutionelle Kontrolle und Disziplin wiederherstellt und gleichzeitig den Unternehmenskunden Flexibilität bietet.
Bei KI hängen die Kosten wie bei jeder Workload davon ab, wie viel Infrastruktur Sie kaufen oder leasen müssen. CIOs möchten Gruppen, die KI entwickeln, dabei helfen, beides zu vermeiden bei Vorlage (meist mit Aufwand, aber nicht ausgelasteter lokaler Infrastruktur) f Mangel an Ersparnissen (Was die Modellentwicklung und -bereitstellung verlangsamen und zu ungeplanten Kapitalkäufen oder einer Erhöhung der Cloud-Dienste führen könnte).
Um diese Extreme zu vermeiden, ist es ratsam, die KI-Kosten neu zu denken. Eine schnelle Verarbeitung von Inferenzen oder Training (oder auch nicht) kann mit einer robusten und optimierten Plattform zunächst mehr kosten. Die Arbeit kann jedoch schneller erledigt werden, was bedeutet, dass weniger Infrastruktur für weniger Zeit gemietet und die Rechnung gesenkt werden muss. Noch wichtiger ist, dass das Modell früher eingesetzt werden kann, was einen Wettbewerbsvorteil bieten kann. Diese beschleunigte Amortisationszeit ist vergleichbar mit der Differenz zwischen der Gesamtzeit, die für die Fahrt von Chicago nach Dallas (15 Stunden) oder den Nonstop-Flug (5 Stunden) benötigt wird. Einer könnte weniger kosten (oder bei aktuellen Benzinpreisen mehr); Der andere bringt dich viel schneller ans Ziel. Was ist “wertvoller”?
In der KI kann die Betrachtung der Entwicklungskosten aus der Sicht der Gesamtbetriebskosten (TCO) Ihnen helfen, den häufigen Fehler zu vermeiden, nur die Vorabkosten zu betrachten. Wie diese Analyse zeigt, ist es eine klügere Wahl für unseren Roadtrip, schneller ans Ziel zu kommen, mit weniger Verschleiß und weniger Potenzial für Umwege, Unfälle, Staus oder falsches Abbiegen. Dies ist bei schneller und optimierter KI-Verarbeitung der Fall.
Kürzere Schulungszeiten verkürzen die Erkenntnisgewinnung, steigern die Produktivität der Data-Science-Teams eines Unternehmens und stellen das geschulte Netzwerk früher bereit. Hinzu kommt ein weiterer wichtiger Vorteil: geringere Kosten. Kunden erleben oft eine Kostensenkung von 40-60 % gegenüber einem nicht beschleunigten Ansatz.
Ein anspruchsvolles LLM-Modell auf Tausenden von GPUs trainieren? Ein bestehendes Modell auf ein paar GPUs optimieren? Führen Sie weltweite Echtzeit-Inferenz für Inventar durch? Wie oben erwähnt, müssen Sie KI-Arbeitslasten verstehen und budgetieren Vor- Hilft sicherzustellen, dass eine Versorgung gut auf Funktion und Budget abgestimmt ist.
3. KI-Governance
Stellen Sie Verantwortlichkeit, Messung und Transparenz sicher
In letzter Zeit hat der Begriff KI-Governance eine Vielzahl von Bedeutungen angenommen, von ethisch bis interpretierbar. Hier bezieht es sich auf die Fähigkeit, Kosten, Wert, Überprüfbarkeit und Einhaltung gesetzlicher Standards zu messen, insbesondere in Bezug auf Daten und Kundeninformationen. Mit der Ausweitung der KI wird die Fähigkeit von Unternehmen, die fortlaufende Rechenschaftspflicht mit Leichtigkeit und Transparenz sicherzustellen, wichtiger denn je.
Auch hier kann die Cloud-KI-Infrastruktur die Automatisierung und Metriken bereitstellen, um diese kritische Anforderung zu unterstützen. Darüber hinaus tragen mehrere Sicherheitsmechanismen, die in verschiedene Schichten speziell entwickelter Infrastrukturdienste integriert sind – von GPUs bis hin zu Netzwerken, Datenbanken, Entwicklergruppen und mehr, die bald verdecktes Computing umfassen werden – dazu bei, die tiefgreifende und lebenswichtige Geheimhaltung von KI-Modellen und zu gewährleisten Daten. sensibel.
Eine letzte Erinnerung an Rollen und Verantwortlichkeiten: Das schnelle Erreichen von profitablem, konformem KI-Wachstum und maximalem Wert und Gesamtbetriebskosten mit einer fortschrittlichen KI-Infrastruktur kann zunächst nicht die Soloaufgabe eines CIO sein. Wie bei anderen KI-Initiativen ist eine enge Zusammenarbeit mit dem Chief Data Officer (oder einem gleichwertigen Mitarbeiter), dem Lead for Data Science und in einigen Organisationen mit dem Chief Architect erforderlich.
Fazit: Konzentrieren Sie sich auf das Wie. im Augenblick.
Die meisten CIOs kennen heute das „Warum“ für den Einsatz von KI. Es ist an der Zeit, das „Wie“ zu einer strategischen Priorität zu machen.
Unternehmen, die diese entscheidende Fähigkeit beherrschen – die Beschleunigung der agilen Entwicklung und des Einsatzes von KI – werden in einer viel besseren Position sein, um die Wirkung ihrer KI-Investitionen zu maximieren. Dies kann bedeuten, Innovationen und die Entwicklung neuer Anwendungen zu beschleunigen, eine einfachere und breitere Einführung von KI im gesamten Unternehmen zu ermöglichen oder ganz allgemein die Wertschöpfung der Produktionszeit zu beschleunigen. Technologieführer, die dies nicht tun, riskieren die Schaffung künstlicher Intelligenz, die in teuren Patches exponentiell wächst, die Entwicklung und Einführung verlangsamt und den Vorteil gegenüber schnelleren und besser verwalteten Wettbewerbern verliert.
Wo möchten Sie Ende 2023 stehen?
Besuchen Sie den Hub „Machen Sie KI zu Ihrer Realität“, um weitere KI-Einblicke zu erhalten.
#Erstellen Sie Ihr eigenes #AzureHPCAI #NVIDIAonAzure
Nidhi Chappell ist General Manager von Azure HPC, AI, SAP und Confidential Computing bei Microsoft.
Manuvir Das ist Vice President of Enterprise Computing bei Nvidia.
Die Inhalte von VB Lab Insights werden in Zusammenarbeit mit einem Unternehmen erstellt, das für die Veröffentlichung bezahlt oder mit VentureBeat in Geschäftsbeziehung steht, und sind immer eindeutig gekennzeichnet. Weitere Informationen erhalten Sie unter [email protected]
