Wichtige Überlegungen für IT-Führungskräfte

By | January 18, 2024

Mark Mahle ist CEO von NetActuate.

Wir befinden uns mitten in einem seismischen Wandel in der Technologielandschaft. Künstliche Intelligenz verändert Branchen und definiert die Grenzen des Möglichen neu.

Auf der McKinsey-Liste der acht wichtigsten Prioritäten für CEOs im Jahr 2024 steht die generative KI auf Platz 1 und die Technologie auf Platz 2. George Colony, Gründer und CEO von Forrester, nannte generative KI „den wichtigsten Technologiesturm der letzten 40 Jahre“, und die KI-Umfrage des Unternehmens vom September 2023 ergab, dass 62 % der Unternehmen damit experimentieren (29 %) oder GenAI ausbauen (33 %). .

Neue KI-Anwendungen entstehen in rasender Geschwindigkeit, eine Realität, die sowohl aufregend als auch beängstigend ist. Ich habe das Gefühl, dass wir am Anfang eines Goldrauschs stehen, bei dem wir unseren Ehrgeiz mit Vorsicht zügeln müssen. Das Endergebnis ist, dass KI-Anwendungen ressourcenintensiv sind und ein beispielloses Maß an Rechenleistung, GPU-Nutzung, Bandbreite und Speicher erfordern.

Ich sehe, dass Führungskräfte von den Möglichkeiten der KI begeistert sind und sofort KI in ihre bestehenden Tools integrieren oder KI-Anwendungen von Grund auf neu erstellen möchten. Der Einsatz von KI erfordert jedoch komplexe Faktoren, die das Budget eines Unternehmens schnell um Tausende oder Millionen Dollar schmälern können. Ich liebe es, neue Technologien zu nutzen und Kunden dabei zu helfen, sie zu ihrem Vorteil zu implementieren, aber ich denke, es ist entscheidend, dass IT-Führungskräfte einen Schritt zurücktreten und alle Auswirkungen abwägen, bevor sie sich kopfüber in eine Investition in KI stürzen. Hier sind vier Schlüsselelemente, deren Berücksichtigung ich empfehle.

1. KI und Rechenleistung

KI-Anwendungen bieten eine beeindruckende Leistung, stellen jedoch erhebliche Verarbeitungsanforderungen. Beispielsweise kann ein einzelner Server mit KI-Chips doppelt so viel Strom verbrauchen wie ein ganzes Rack mit 40 Servern.

Die für die effiziente Ausführung von KI erforderlichen GPUs können viel teurer sein als andere Arten von Anwendungen ohne KI-Funktionen. Auch Engpässe können ein Problem sein, da die Nachfrage derzeit extrem hoch ist. Planen Sie also im Voraus. Überlegen Sie genau, ob der Besitz von Geräten oder die Nutzung öffentlicher Cloud-Ressourcen aus Kostensicht sinnvoller ist. Es kann teuer sein, Ihre Hardware ständig zu aktualisieren, aber es kann auch teuer sein, Ressourcen von einem öffentlichen Cloud-Anbieter zu verbrauchen. Schauen Sie sich alle Optionen an und prüfen Sie diese sorgfältig, bevor Sie eine Entscheidung treffen.

2. Auswirkungen von KI auf Rechenzentren

Der enorme Energiebedarf der KI erhöht die ohnehin schon hohe Belastung der Rechenzentren in der heutigen Online-Dienstlandschaft. Heutzutage sind Rechenzentren für etwa 1 bis 1,5 % des weltweiten Energieverbrauchs verantwortlich. Eine aktuelle Analyse schätzt jedoch, dass NVIDIA bis 2027 jedes Jahr 1,5 Millionen KI-Servereinheiten ausliefern wird, wenn sich die aktuellen KI-Trends fortsetzen. Diese Server werden dazu in der Lage sein verbrauchen etwa 85,4 Terawatt. -Stunden Strom pro Jahr, was den Energieverbrauch vieler kleiner Länder übersteigt.

Sofern Sie Ihre Anwendungen nicht lokal ausführen, nutzen Sie Rechenzentren für den Betrieb Ihrer KI-Server und Speicher. Diese Rechenzentren werden wahrscheinlich erhebliche Mengen an Energie verbrauchen, um diese extrem leistungsstarke Infrastruktur zu verarbeiten, zu kühlen und zu warten. Mit KI lässt sich viel mehr erreichen als mit anderen Technologien, doch KI-Anwendungen haben hohe Kapital- und Betriebskosten. Analysieren Sie die harten Zahlen und bewerten Sie Kosten und Nutzen von KI-Anwendungen.

Beachten Sie die kleinen Details, die im Laufe der Zeit große Auswirkungen haben können. Ist beispielsweise die physische Nähe wichtig für die Informationen, die Sie verarbeiten müssen? Wenn die Nutzung eines Rechenzentrums in 100 Meilen Entfernung statt in 10 Meilen Entfernung einen Penny mehr pro Transaktion kostet, könnte sich dieser Unterschied in der Größenordnung auf Millionen von Dollar belaufen. Wie können Sie die Effizienz von Anwendungen steigern, sodass diese weniger Ressourcen verbrauchen? Wenn Sie Anwendungen auf Ihren eigenen Geräten ausführen, fragen Sie potenzielle Anbieter nach deren Strom- und Kühlkapazität und Plänen für die zukünftige Nutzung. Erwägen Sie die Diversifizierung Ihrer Lieferanten, um Redundanz zu gewährleisten und das Risiko im Katastrophenfall zu mindern.

3. KI am Rande

KI-Anwendungen müssen am Rande bereitgestellt werden, so nah wie möglich am Rand des Netzwerks und der Benutzer, Geräte und Datenquellen. Die Arten von Anwendungen, die sich am Rande befinden sollten, sind diejenigen, mit denen die Benutzer so schnell wie möglich interagieren sollen, wie z. B. GenAI-Konversationsanwendungen oder andere Echtzeitdienste, Warnungen und Prüfungen.

Latenz ist ein wichtiger Gesichtspunkt, um sicherzustellen, dass diese Anwendungen reibungslos funktionieren. Wie können Sie den Lastausgleich verwalten, um den Datenverkehr effektiv zu verteilen? Welche Technologie können Sie verwenden, um Endbenutzern Zugriff auf den nächstgelegenen Anwendungsressourcenknoten zu gewähren und sicherzustellen, dass genügend proximale Knoten vorhanden sind, um alle eingehenden Anforderungen zu verarbeiten?

4. KI-Suite

KI ist nicht gleich KI, unabhängig davon, ob Sie Anwendungen intern erstellen und bereitstellen oder mit Drittpartnern zusammenarbeiten. Es ist wichtig, nicht nur die für die Entwicklung einer KI-Anwendung erforderlichen Ressourcen zu bewerten, sondern auch die Infrastruktur und das Netzwerk, auf denen sie funktionieren muss. Erwägen Sie einen modularen Ansatz für KI am Edge, der Ensemble-KI verwendet, die aus mehreren kleineren KI-Engines besteht, von denen jede spezifische Aufgaben hat und intelligent zusammenarbeitet. Mit Ensemble AI können Sie Ihre eigenen Anwendungsfälle aus geschäftlichen oder technologischen Gründen priorisieren und zusätzliche Funktionen an andere KI-Anwendungen innerhalb oder außerhalb Ihres Stacks übergeben.

KI wird sicherlich die Zukunft von Wirtschaft und Technologie prägen. Dies kann Ihrem Unternehmen außergewöhnliche Möglichkeiten eröffnen, aber auch Ihre Ressourcen blitzschnell erschöpfen. Gehen Sie bei Investitionen in KI überlegt und klar vor. Analysieren Sie Risiken und Chancen, Kosten und Nutzen – und treffen Sie eine fundierte Entscheidung über Ihre nächsten Schritte.


Der Forbes Technology Council ist eine Community nur auf Einladung für erstklassige CIOs, CTOs und Technologiemanager. Bin ich qualifiziert?


Leave a Reply

Your email address will not be published. Required fields are marked *