Apa itu Google Colab

Google Colaboratory (Colab) adalah layanan cloud computing gratis dari Google yang memungkinkan kita untuk menulis dan mengeksekusi kode Python di browser kita. Biasanya, Colab sering digunakan untuk keperluan machine learning maupun deep learning. Menurut saya pribadi, versi gratis dari Google Colab sudah sangat mumpuni untuk keperluan belajar dan riset. Saya yakin GPU yang disediakan oleh Colab biasanya memang lebih baik dari GPU yang ada di laptop consumer kita. Namun, ada beberapa kekurangan dari Colab versi gratis, yaitu:

• Kita memiliki waktu yang sangat terbatas untuk menggunakan GPU, biasanya hanya 12 jam atau kurang.
• Penggunaan sesi pada colab versi gratis tidak bisa dijalankan secara terus menerus, kita harus menunggu beberapa saat sebelum kita bisa menggunakan kembali sesi colab kita.
• Saat kita menggunakan GPU hingga jatah waktu yang diberikan habis, kita tidak akan bisa menggunakan GPU lagi hingga waktu tersebut direset, yaitu saat pergantian hari (pukul 00:00 UTC).

Pada saat jatah GPU kita habis, pada colab versi gratis kita harus menunggu hingga waktu tersebut direset. Bahkan runtime kita dapat secara tiba-tiba mati saat sedang dijalankan jika kita mencoba untuk tetap menggunakan Colab setelah jatah habis. Selain itu kita juga hanya dapat menggunakan CPU tanpa GPU saat jatah GPU kita habis.

Dari beberapa kelemahan tersebut, Google Colab Pro hadir untuk mengatasi kekurangan tersebut. Saya sendiri menggunakan Google Colab Pro untuk keperluan riset dan membutuhkan runtime yang cukup lama.

Apa itu Google Colab Pro

Google Colab Pro adalah versi berbayar dari platform Google Colab gratis. Dengan colab versi berbayar kita mendapatkan beberapa keungguan, yaitu:

• GPU yang lebih powerful.
• Memori (RAM) yang lebih besar.
• Waktu penggunaan yang lebih lama, biasanya 24 jam atau lebih.
• Akses terminal.

Versi lebih tinggi dari colab pro adalah Google Colab Pro+, yang memberikan keunggulan berupa:

• Eksekusi jupyter notebook hingga 24 jam bahkan saat kita menutup browser.
• GPU yang lebih powerful daripada colab pro.

Harga Google Colab Pro

Pada saat artikel ini ditulis saya membeli Google Colab pro dengan harga $9.99 per bulan($11.1 dengan tax). Harga tersebut bisa berubah sewaktu-waktu, jadi pastikan untuk mengecek harga terbaru di situs resmi Google Colab.

Selain versi Google Colab Pro dan Pro+, kita juga dapat membeli compute unit-nya saja pada google colab untuk dapat menggunakan GPU yang lebih powerful dan waktu ekskusi yang lebih lama.

Apa itu Compute Unit

Compute unit adalah unit yang digunakan untuk mengukur penggunaan GPU dan CPU pada Google Colab. Setiap compute unit yang kita beli akan menambah waktu eksekusi dan kekuatan GPU yang kita gunakan. Harga compute unit pada saat artikel ini dibuat adalah:

• USD 9,99 untuk 100 compute unit
• USD 49,99 untuk 500 compute unit

Dengan membeli compute unit, kita bisa menggunakan GPU yang lebih powerful dan waktu eksekusi yang lebih lama. Berbeda dengan Google Colab Pro dan Pro+, compute unit hanya akan dibayar sekali dan tidak berlangganan.

Saat compute unit kita habis, kita akan kembali ke Google Colab versi gratis. Oleh karena itu, bahkan saat menggunakan langganan colab per bulan kita juga harus membeli compute unit lagi saat jatah compute unit kita habis. Untuk versi colab pro kita mendapatkan 100 compute unit setiap bulan.

Jika dihitung secara matematis, penggunaan compute unit adalah sebagai berikut.

Dapat dilihat pada gambar, perkiraan penggunaan compute unit untuk 1 jam adalah 4,82, anggaplah kita bulatkan menjadi 5 compute unit per jam. Jika kita hanya mendapatkan 100 compute unit per bulan, maka kita hanya bisa menggunakan GPU selama 20 jam per bulan. Jika kita membutuhkan waktu eksekusi yang lebih lama, kita bisa membeli compute unit tambahan dengan harga paling murah adalah USD 9,99 untuk 100 compute unit.

Performa Google Colab Pro

Untuk merasakan perbedaan google colab versi gratis dan berbayar, disini saya mencoba untuk training sebuah model Text Generation dengan epoch sebanyak 1000. Pada colab versi gratis, saya sering mengalami kendala waktu runtime habis sebelum model selesai training. Dengan menggunakan Google Colab Pro, saya bisa menyelesaikan training model dengan lebih cepat dan tanpa kendala waktu runtime habis.

GPU yang tersedia pada google colab pro biasanya antara A100 atau L4. Ketersediaan GPU ini beragam dan random.

Kita juga bisa memilih untuk opsi RAM yang lebih besar dengan klik toggle High-RAM pada setting runtime.

Perbandingan waktu training pada saat menggunakan GPU versi gratis dan berbayar sebagai berikut.

Dapat kita lihat, pada versi gratis dengan kode yang sama, saya mendapatkan rata-rata waktu per epoch adalah 8 detik sedangkan pada versi berbayar waktu menjadi lebih cepat yaitu 6 detik per epoch.

Selama training model, Notebook sempat beberapa kali disconnect dari runtime, tetapi colab secara otomatis reconnect ke runtime dan training model berjalan kembali tanpa mengulang dari awal. Hal ini sangat membantu jika kita melakukan training model yang membutuhkan waktu yang lama.

Untuk perbandingan RAM yang didapatkan pada versi gratis dan versi berbayar juga meningkat secara signifikan. Pada versi gratis kita hanya mendapatkan System RAM sebesar 12.7 GB sedangkan pada versi berbayar kita mendapatkan System RAM hingga sebesar 53 GB.

Dengan menggunakan google colab pro, kita juga dapat menjalankan beberapa notebook secara bersamaan. Hal ini sangat berguna jika kita ingin melakukan eksperimen dengan beberapa model sekaligus. Tetapi perlu diingat, jika kita menjalankan banyak notebook, kita juga menggunakan compute unit lebih banyak.

Kesimpulan

Google Colab Pro adalah pilihan yang dapat dipertimbangkan jika kita ingin menggunakan GPU yang lebih powerful untuk melakukan proses training model Machine Learning ataupun Deep Learning. Tetapi jika melihat dari pengalaman saya selama menggunakan google colab pro, saya hanya memerlukan waktu runtime yang kebih lama. Sedangkan untuk waktu eksekusi training tidak jauh berbeda dengan versi gratis. Sebaiknya pertimbangkan provider lain seperti vast.ai karena pada platform ini kita hanya membayar GPU per jam dan tidak ada batasan waktu eksekusi.

Sebaiknya gunakan GPU versi gratis terlebih dahulu untuk mengecek apakah model yang kita buat sudah sesuai dengan yang kita inginkan. Jika sudah sesuai, kita bisa menggunakan google colab pro untuk melakukan training model. Dengan deimikian kita bisa menghemat biaya yang dikeluarkan untuk menggunakan google colab pro.