Mengadopsi Generative AI (Gen AI) bukan lagi sekadar spekulasi masa depan. Dengan potensi besar yang ditawarkannya, perusahaan-perusahaan sudah mulai memaksimalkan penggunaannya untuk menyederhanakan operasi, meningkatkan produktivitas, dan memberikan manfaat ini kepada klien mereka.
Namun, transformasi ini datang dengan tantangan baru. Ketika klien mulai mengimplementasikan AI di tempat mereka, langkah pertama adalah mengevaluasi apakah pusat data mereka sudah siap: meningkatkan infrastruktur TI melibatkan penyediaan daya dan pendinginan yang memadai, mempersiapkan jaringan untuk menangani volume data yang besar, mengoptimalkan dan memperluas kapasitas infrastruktur, serta menerapkan langkah-langkah perlindungan sambil memungkinkan skalabilitas. Menurut laporan dari IBM Institute for Business Value (IBM IBV), yang bekerja sama dengan Oxford Economics dan melakukan survei terhadap 2.500 pemimpin di 34 negara dan 26 industri, 43% eksekutif teknologi tingkat C mengatakan kekhawatiran mereka tentang infrastruktur teknologi meningkat dalam enam bulan terakhir karena Gen AI, dan mereka kini fokus untuk meningkatkan infrastruktur mereka agar dapat menskalakan teknologi ini.
Organisasi harus memiliki strategi implementasi yang membantu memastikan operasi yang efisien, waktu henti yang minimal, dan respons yang cepat terhadap kebutuhan TI, sambil menangani kepatuhan regulasi, pertimbangan etika, dan ancaman keamanan. Memiliki mitra kunci dengan keahlian AI internal dan kemampuan untuk mengelola seluruh siklus hidup infrastruktur ini sangat penting untuk memanfaatkan manfaat dari evolusi teknologi ini.
IBM Technology Lifecycle Services (TLS) menawarkan rangkaian solusi yang komprehensif untuk dukungan dan layanan infrastruktur dari implementasi hingga penghentian, membantu organisasi mengoptimalkan infrastruktur TI mereka dengan ketersediaan dan ketahanan. IBM TLS membantu dalam peningkatan pusat data agar siap digunakan untuk AI, dengan menggunakan rantai pasokan global dan kerangka logistik untuk memenuhi tuntutan beban kerja AI intensif untuk produk IBM dan berbagai Original Equipment Manufacturers (OEM), dalam skala besar. Berikut adalah beberapa tantangan utama yang dapat dihadapi pusat data saat menjalankan beban kerja AI, beserta cara IBM TLS mengatasinya:
1. Mengelola tumpukan infrastruktur AI yang kompleks dengan berbagai teknologi vendor
Pusat data saat ini menjadi lebih kompleks karena adopsi AI dan ketergantungan pada teknologi dari berbagai vendor. Menurut laporan “Navigating the Evolving AI Infrastructure Landscape” dari TechTarget Enterprise Strategy Group, 30% organisasi mengharapkan untuk menerapkan AI dalam lingkungan cloud hibrida, yang menunjukkan pentingnya memiliki infrastruktur yang dimodernisasi dan konektivitas yang efektif.
Memelihara ketahanan operasional membutuhkan infrastruktur yang terbaru dan manajemen risiko yang proaktif, tetapi mengawasi berbagai kontrak dan memecahkan masalah bisa menjadi sulit dan mahal bagi staf TI internal. IBM TLS meningkatkan kemampuan yang ada pada klien tidak hanya dengan menyebarkan dan mendukung produk IBM (IBM Z, Power, dan Storage), tetapi juga dengan mengintegrasikan teknologi multi-vendor yang kompatibel dengan AI.
Model bahasa besar membutuhkan sumber daya yang signifikan dan beberapa komputer yang beroperasi secara paralel dalam konfigurasi kluster jaringan besar. Sebagai tulang punggung infrastruktur, jaringan ini harus mendukung arsitektur bandwidth tinggi, latensi rendah, dan skalabilitas, dengan optimasi khusus untuk komunikasi GPU, akses penyimpanan, dan tugas-tugas AI terdistribusi. Laporan IDC “2023 AI View” mencatat bahwa jaringan adalah item pengeluaran infrastruktur terbesar untuk pelatihan Gen AI, yang menyumbang 44%. Dengan menawarkan pendekatan terintegrasi dan holistik yang berfokus pada ketahanan dan ketersediaan, dengan tim khusus di seluruh dunia dan kemitraan strategis, IBM TLS bertindak sebagai satu tempat untuk klien dan sebagai penasihat untuk pengadaan, perencanaan, penyebaran, dukungan, optimasi, dan penyegaran infrastruktur pusat data (server, jaringan, penyimpanan, dan perangkat lunak), memfasilitasi transisi yang mulus ke lingkungan yang siap untuk AI.
Jika AI membawa tantangan yang semakin kompleks ke pusat data, mengatasi masalah ini mungkin juga memanfaatkan AI itu sendiri. Di garis depan pergeseran ini, IBM TLS mengintegrasikan AI ke dalam alat dan proses untuk memberdayakan agen dan meningkatkan pengalaman pelanggan.
2. Meningkatkan ketahanan dan melindungi data
Sistem Gen AI, yang mengandalkan komponen kompleks seperti GPU, jaringan, dan penyimpanan, dapat menghadapi tingkat kegagalan yang lebih tinggi karena beban kerja yang intens, dan jumlah data yang besar yang diproses dan dibagikan juga dapat meningkatkan kerentanannya. Waktu henti yang tidak direncanakan dan potensi kebocoran data sangat merugikan bisnis, tetapi dukungan proaktif mempercepat penyelesaian masalah dan mengantisipasi masalah sebelum terjadi.
Survei IBM IBV “Panduan CEO untuk Generative AI: Platform, Data, dan Tata Kelola” mengungkapkan bahwa sebagian besar CEO mengatakan kekhawatiran mereka tentang keturunan dan asal usul data (61%) dan keamanan data (57%) akan menjadi hambatan untuk mengadopsi Gen AI. Untuk mengatasi tantangan ini, IBM TLS menawarkan solusi seperti IBM Support Insights, yang mengelola inventaris lebih dari 3.000 klien dan 3,5 juta aset TI, mengidentifikasi dan memberi peringatan lebih dari 1,5 juta kerentanannya dengan rekomendasi untuk penyelesaiannya. Pendekatan ini membantu menjaga integritas infrastruktur AI, mengurangi gangguan, dan mendukung masalah dari kontrak yang kedaluwarsa. Selain itu, IBM TLS membantu klien dalam menghapus data dari aset lama dan menyediakan layanan penghancuran media, membantu memastikan sanitasi sesuai dengan Pedoman Sanitasi Media dari U.S. National Institute of Standards and Technology (NIST).
IBM TLS menawarkan tingkat dukungan premium dalam Expert Care untuk produk IBM dan Multivendor Enterprise Care untuk beberapa produk non-IBM, yang memiliki waktu perbaikan cepat untuk masalah kritis dan menyediakan Manajer Akun Teknis (TAM) khusus untuk klien. TAM adalah Pakar Materi Subjek (SME) yang meninjau seluruh lingkungan TI, bertindak sebagai titik kontak tunggal, dan fokus pada langkah-langkah proaktif serta penyelesaian masalah untuk meningkatkan efisiensi operasional bisnis.
3. Memberikan saran tentang konsumsi daya dan emisi karbon
Tuntutan energi yang semakin meningkat dari pusat data, yang disebabkan oleh integrasi AI yang lebih banyak, dapat menyebabkan biaya operasional yang lebih tinggi akibat konsumsi daya dan emisi karbon, yang menghambat tujuan keberlanjutan. Seperti yang dilaporkan oleh International Energy Agency (IEA) pada bulan Januari, konsumsi listrik pusat data global dapat meningkat menjadi lebih dari 1.000 TWh pada tahun 2026, naik dari perkiraan 460 TWh pada tahun 2022. Adopsi AI tidak boleh mengabaikan target keberlanjutan, dan portofolio IBM TLS membantu klien membuat keputusan yang tepat dengan mengevaluasi tuntutan beban kerja dan pemanfaatan infrastruktur, serta memantau konsumsi daya dan jejak karbon. IBM IT Sustainability Optimization Assessment menggunakan perangkat lunak IBM Turbonomic, yang menjalankan skenario perencanaan “bagaimana jika” untuk memahami kemungkinan dan dampak optimasi pusat data. Setelah penilaian, klien menerima laporan terperinci dengan rekomendasi tindakan, perkiraan pengurangan biaya, konsumsi energi yang diproyeksikan, dan perbaikan jejak karbon, membantu mereka menyelaraskan inisiatif AI mereka dengan tujuan keberlanjutan.
Seiring dengan munculnya hambatan baru, persiapan yang baik, antisipasi terhadap potensi masalah, dan bermitra dengan mitra dukungan dan layanan TI yang tepercaya serta berpengalaman dapat memengaruhi kesuksesan adopsi AI dan pemeliharaan berkelanjutan. Selama beberapa dekade, IBM telah mengikuti prinsip inti yang mendukung tumpukan solusi AI lengkap dengan berbagai teknologi vendor. Tidak peduli di mana klien berada dalam perjalanan mereka, IBM siap memanfaatkan keahliannya untuk membantu organisasi dengan infrastruktur untuk peluang AI, penawaran produk yang disesuaikan, konsultasi yang luas, layanan siklus hidup teknologi, dan kolaborasi dengan ekosistem mitra yang luas.