Kita mencoba meluangkan waktu untuk mengikuti kecenderungan terkini tentang isu-isu strategis perkembangan dan penerapan teknologi AI dalam praktek-praktek dunia bisnis kontemporer. Kita coba melakukan pendalaman secara komprehensif tentang isu yang sedang dibahas pada artikel terbaru yang diambil dari tulisan Blog IBM karya tulis Sascha Brodsky, tertanggal 14 Oktober 2024, sebagai berikut:
Dalam upaya untuk merangkul AI generatif, perusahaan-perusahaan tersandung pada rintangan yang tak terduga: melonjaknya biaya komputasi yang mengancam akan menggagalkan upaya inovasi dan transformasi bisnis.
Pemain AI utama juga merasakan tekanan ekonomi. OpenAI dilaporkan mengalami pertumbuhan pendapatan yang eksplosif, dengan pendapatan bulanan mencapai USD 300 juta pada bulan Agustus 2024. Pada awal Oktober, perusahaan mengumumkan telah mengumpulkan USD 6,6 miliar dalam putaran pendanaan baru dengan valuasi 157 miliar—upaya untuk mengimbangi biaya yang meroket dan rencana pertumbuhan yang ambisius.
Laporan baru dari Institute for Business Value (IBV) IBM menggambarkan gambaran yang gamblang tentang tantangan ekonomi para eksekutif saat mereka mengarungi revolusi AI. Laporan yang berjudul “Panduan CEO untuk AI generatif: Biaya komputasi” mengungkapkan bahwa biaya komputasi rata-rata diperkirakan akan naik 89% antara tahun 2023 dan 2025. Sebanyak 70% eksekutif yang disurvei IBM menyebut AI generatif sebagai pendorong utama peningkatan ini. Dampaknya sudah terasa di seluruh industri, dengan setiap eksekutif melaporkan pembatalan atau penundaan setidaknya satu inisiatif AI generatif karena masalah biaya.
“Saat ini, banyak organisasi yang bereksperimen, jadi biaya ini belum tentu muncul sebanyak yang akan terjadi saat mereka mulai meningkatkan skala AI,” kata Jacob Dencik, Direktur Riset di IBV. “Biaya komputasi, yang sering tercermin dalam biaya cloud, akan menjadi masalah utama yang perlu dipertimbangkan, karena berpotensi menjadi penghalang bagi mereka untuk meningkatkan skala AI dengan sukses.”
Persamaan biaya AI
Ekonomi AI muncul sebagai faktor penting dalam menentukan dampak bisnisnya yang sebenarnya. Seperti yang ditunjukkan Dencik, “Bahkan jika sesuatu secara teknis layak dilakukan dengan AI, jika kasus bisnis tidak sesuai karena biaya komputasi atau biaya pelatihan model ini, maka kita tidak akan melihat dampak AI pada aktivitas bisnis seperti yang diantisipasi banyak orang.”
Adnan Masood, Kepala Arsitek AI di UST, membingkai tantangan ini dengan istilah yang gamblang: “Kita memasuki titik perubahan strategis, di mana inovasi—yang dulunya dipandang sebagai kebutuhan kompetitif—kini membawa risiko finansial yang substansial.” Ia menambahkan: “Perjalanan panjang menuju dominasi AI bukanlah untuk orang yang lemah hati. Kita melihat masa depan di mana perusahaan harus membuat taruhan strategis tentang apakah akan terus mendorong batasan AI, atau mengambil risiko tertinggal… dalam perlombaan senjata AI.”
Banyak organisasi beralih ke arsitektur cloud hibrida untuk mengatasi kenaikan biaya. “Cloud hibrida menjadi mekanisme untuk memastikan Anda dapat mengelola biaya komputasi,” kata Dencik. “Menggunakan platform cloud hybrid yang mencakup bidang kontrol umum dan kemampuan operasi keuangan memberi Anda visibilitas yang Anda butuhkan untuk menjalankan data, beban kerja, dan aplikasi di lingkungan berbiaya terendah. Platform ini akan memungkinkan Anda melihat di mana biaya dihasilkan, dan cara mengoptimalkannya.”
Meningkatkan efisiensi
Para ahli mengatakan bahwa jalan ke depan bukan hanya tentang pemotongan biaya. “Anda dapat menggunakan AI generatif untuk meningkatkan efisiensi pengodean Anda; cara Anda mengodekan aplikasi dapat membuatnya lebih atau kurang boros energi dalam penggunaannya. Beberapa perkiraan menunjukkan Anda dapat mengurangi konsumsi energi dalam penggunaan aplikasi hingga 50% dengan beralih ke bahasa pengodean yang lebih baik dan kode yang lebih efisien.”
Organisasi juga menggunakan AI generatif untuk mengoptimalkan tata letak pusat data dan meningkatkan desain server. “Ada berbagai cara di mana AI generatif dapat mendukung efisiensi komputasi dan efisiensi sumber daya komputasi Anda,” kata Dencik. “AI dapat menjadi bagian dari solusi, bukan hanya sumber masalah.”
Masood menyarankan strategi tambahan: “Ada cara-cara kreatif untuk mengatasi tantangan ini, seperti perutean LLM, atau secara cerdas mengarahkan permintaan masuk ke model bahasa besar yang paling sesuai berdasarkan faktor-faktor seperti kompleksitas, biaya, dan kinerja, memastikan pemanfaatan sumber daya yang efisien dan hasil yang optimal.” Ia juga menyebutkan “mengurangi biaya menjalankan LLM dengan mengecilkan ukurannya dan membuatnya lebih cepat. Menggunakan kuantisasi untuk mengurangi memori yang dibutuhkan untuk model dan penyempurnaan yang efisien untuk mempercepat pelatihan berarti biaya perangkat keras yang lebih rendah dan waktu pemrosesan yang lebih cepat, membuat model ini lebih terjangkau untuk digunakan dan diterapkan.”
Meningkatnya kompleksitas model AI merupakan faktor lain yang mendorong kenaikan biaya. Dencik merekomendasikan pendekatan strategis: “Anda tidak perlu menggunakan model bahasa besar untuk semuanya,” katanya. “Model kecil yang dilatih pada data berkualitas tinggi dapat lebih efisien dan mencapai hasil yang sama—atau lebih baik—tergantung pada tugas yang sedang dikerjakan. Memilih model yang tepat adalah kuncinya, sementara menggunakan kembali dan menyempurnakan model yang ada dapat lebih baik daripada membuat model baru untuk setiap tugas baru yang ingin Anda gunakan AI.”
Ia menganjurkan pendekatan multimodal dan multimodel untuk penerapan AI: “Agar hemat biaya, Anda harus memungkinkan organisasi Anda bergerak menuju penggunaan AI multimodal dan multimodel. dan memiliki platform yang memungkinkan Anda melakukannya di dalam organisasi,” katanya. “Meskipun kedengarannya lebih rumit, ini adalah cara bagi organisasi Anda untuk mendapatkan hasil maksimal dari AI dengan cara yang paling hemat biaya.”
Masalah keberlanjutan juga memengaruhi total biaya kepemilikan untuk sistem AI. Meskipun biaya energi mungkin sebagian besar tersembunyi dalam pengeluaran cloud, alih-alih muncul langsung pada tagihan listrik, ada kesadaran yang semakin meningkat tentang dampak lingkungan dari AI generatif. “Ini bukan sekadar biaya ekonomi; ini adalah biaya lingkungan yang terkait dengan penggunaan AI,” kata Dencik. Ia menunjuk praktik yang muncul seperti “operasi hijau,” yang bertujuan untuk mengoptimalkan penggunaan cloud guna mengurangi dampak lingkungan.
Saat perusahaan bergulat dengan tantangan ini, mempelajari cara mengelola biaya komputasi secara efektif dapat menjadi pembeda pasar yang utama. Laporan tersebut menyimpulkan bahwa “CEO yang mengelola biaya ini dengan baik akan dapat menjalankan bisnis mereka seperti mesin berkinerja tinggi—mengurangi hambatan sambil menggunakan teknologi terkini untuk mengungguli pesaing.”
Pendalaman Komprehensif tentang “Biaya Tersembunyi AI: Bagaimana Model Generatif Membentuk Ulang Anggaran Perusahaan”
Artikel ini, berdasarkan tulisan Sascha Brodsky, menyoroti salah satu isu krusial dalam penerapan AI generatif, yaitu lonjakan biaya komputasi yang menjadi tantangan besar bagi perusahaan. Pendalaman ini akan membahas poin-poin penting dari artikel tersebut, yaitu:
- Kenaikan Biaya Komputasi dalam Penerapan AI Generatif
Laporan IBV IBM memperkirakan bahwa biaya komputasi akan naik sebesar 89% antara 2023 hingga 2025. Mayoritas eksekutif melihat AI generatif sebagai pendorong utama peningkatan ini. Peningkatan biaya ini memaksa banyak perusahaan membatalkan atau menunda inisiatif AI. - Tekanan Finansial pada Perusahaan AI
OpenAI, salah satu pemimpin dalam AI, telah mengalami peningkatan pendapatan yang signifikan—USD 300 juta per bulan pada Agustus 2024. Meskipun begitu, perusahaan ini harus menggalang dana hingga USD 6,6 miliar untuk menutupi biaya operasional dan mendukung rencana pertumbuhan mereka. - Solusi Cloud Hybrid dan Efisiensi Biaya
Banyak organisasi mulai mengadopsi arsitektur cloud hibrida untuk mengontrol biaya. Dengan cloud hybrid, perusahaan dapat memindahkan beban kerja ke lingkungan yang paling hemat biaya dan memastikan transparansi dalam pemantauan biaya. - Optimasi AI untuk Mengurangi Konsumsi Energi dan Biaya
Salah satu solusi untuk mengurangi biaya adalah dengan kode yang lebih efisien dan mengoptimalkan desain infrastruktur. Contohnya, AI dapat membantu meningkatkan tata letak pusat data atau merancang server yang lebih hemat energi. Selain itu, pengurangan ukuran model dan kuantisasi dapat memangkas biaya perangkat keras dan waktu pemrosesan. - Manajemen Strategis Model AI dan Pemilihan yang Tepat
Artikel ini menekankan bahwa perusahaan tidak harus selalu menggunakan model bahasa besar (LLM) untuk setiap tugas. Model yang lebih kecil dan spesifik bisa lebih efektif dan efisien untuk beberapa aplikasi tertentu. Pemilihan model yang tepat adalah kunci untuk mencapai keseimbangan antara kinerja dan biaya. - Keberlanjutan dan Biaya Lingkungan AI
Selain biaya finansial, penggunaan AI generatif juga membawa dampak lingkungan. Banyak perusahaan mulai mempertimbangkan operasi hijau, yaitu praktik mengoptimalkan penggunaan cloud agar lebih ramah lingkungan dan mengurangi jejak karbon.
Implikasi Bisnis dan Rekomendasi
- Perusahaan Harus Lebih Teliti dalam Evaluasi Kasus Bisnis AI
Meskipun AI menjanjikan peningkatan efisiensi, perusahaan perlu memastikan bahwa manfaat ekonomis sepadan dengan biaya komputasi dan operasional. - Inovasi dengan Risiko Finansial yang Terkendali
Inovasi tetap penting, namun perusahaan harus mengambil pendekatan terukur. Memilih proyek AI dengan ROI tertinggi dan melakukan pilot test sebelum implementasi skala besar dapat mengurangi risiko finansial. - Penggunaan Multimodal dan Multimodel
Pendekatan multimodal dan multimodel memungkinkan organisasi untuk menggunakan kombinasi model AI yang paling efisien untuk berbagai tugas. Hal ini dapat mengurangi ketergantungan pada model besar yang boros sumber daya. - Membangun Infrastruktur Cloud yang Adaptif
Investasi dalam cloud hybrid dan teknologi pemantauan biaya menjadi semakin penting untuk membantu perusahaan menavigasi tantangan biaya dan memastikan pengelolaan sumber daya yang optimal. - Fokus pada Efisiensi Energi dan Keberlanjutan
Mengintegrasikan praktik keberlanjutan dalam operasional AI bisa menjadi langkah strategis untuk menurunkan biaya jangka panjang sekaligus memperbaiki citra perusahaan terkait isu lingkungan.
Kesimpulan
Artikel ini menunjukkan bahwa penerapan AI generatif tidak hanya membawa tantangan teknis tetapi juga masalah finansial dan keberlanjutan. Biaya komputasi yang melonjak dapat menjadi penghambat utama bagi perusahaan dalam mengejar inovasi. Untuk itu, perusahaan perlu mengadopsi strategi yang terukur, memanfaatkan cloud hybrid, dan menggunakan AI secara efisien. Mengatasi tantangan ini dengan baik akan memberikan keunggulan kompetitif dan memungkinkan perusahaan untuk tetap berada di garis depan dalam era AI.
[Dikutip langsung dari: https://www.ibm.com/blog/ai-economics-compute-cost/?utm_medium=Email&utm_source=Outbound&utm_content=CAAWW&utm_term=15MSC&utm_campaign=241318&utm_id=OutboundMK4ENCTA4&mkt_tok=Mjk4LVJTRS02NTAAAAGWPrjTqCRx2wYMuLVuDkpgGle_whHVln249IHecqMGhqJP9qojFWWBIx5gIVdoVJNDkdZJ_EeMzuhZMeNxrx78pSBVvr-D-9cDh–BhKxVB9MkFtGlXuo]