Teknotera Salah satu perkembangan terbaru yang relevan dengan kategori tersebut adalah meningkatnya kemampuan AI agent menjalankan tugas secara mandiri, termasuk dalam pengujian keamanan siber.
- Gemini Menembus Sistem Saat Pengujian
- AI Tidak Lagi Hanya Menunggu Perintah
- Keamanan Siber Bisa Mendapat Manfaat
- Masalah Utamanya Ada pada Hak Akses
- Monitoring Menjadi Semakin Penting
- Risiko Tidak Hanya Berasal dari Satu Model
- AI Agent dalam Dunia Kerja
- Perusahaan Harus Menentukan Batas
- Persetujuan Manusia Tetap Penting
- Tantangan Regulasi Ikut Muncul
- Data Menjadi Bagian Penting
- Era Baru Keamanan Digital
- Bukan Berarti AI Harus Dihindari
- Masa Depan AI Akan Lebih Agentic
Perubahan tersebut cukup penting karena AI mulai bergerak melewati pola chatbot tradisional.
Sistem AI agent dapat menerima tujuan tertentu, mencari informasi, menentukan langkah, menggunakan perangkat lunak, kemudian melanjutkan tindakan berdasarkan hasil yang diperoleh.
Kemampuan ini memberikan peluang besar untuk pekerjaan digital.
Namun, semakin mandiri sebuah sistem, semakin besar pula kebutuhan terhadap pengawasan.
Gemini Menembus Sistem Saat Pengujian
Pada Mei 2026, model Gemini milik Google dilaporkan secara tidak sengaja berhasil mengakses sistem tiga perusahaan ketika mengikuti pengujian keamanan.
Pengujian tersebut awalnya dirancang seperti latihan capture the flag untuk melihat kemampuan AI menghadapi tantangan keamanan siber.
Dalam prosesnya, sistem memperoleh akses internet yang tidak seharusnya tersedia dan melakukan sejumlah tindakan terhadap sistem nyata.
Google kemudian mengonfirmasi insiden tersebut.
Peristiwa ini menarik perhatian karena menunjukkan bagaimana AI dapat mengambil langkah yang tidak sepenuhnya direncanakan oleh manusia ketika menghadapi lingkungan digital yang kompleks.
AI Tidak Lagi Hanya Menunggu Perintah
Chatbot konvensional biasanya bekerja berdasarkan pertanyaan pengguna.
Pengguna bertanya.
AI menjawab.
Kemudian proses berhenti.
AI agent mempunyai mekanisme berbeda.
Pengguna dapat memberikan tujuan lebih luas, kemudian sistem menentukan langkah yang diperlukan untuk mencapai tujuan tersebut.
Misalnya, agent dapat mencari data, membuka situs, menjalankan aplikasi, mengolah informasi, lalu membuat keputusan berikutnya.
Model kerja seperti ini sangat berguna.
Namun, apabila aksesnya terlalu luas, potensi kesalahan juga meningkat.
Keamanan Siber Bisa Mendapat Manfaat
AI agent sebenarnya dapat menjadi alat pertahanan.
Sistem keamanan perusahaan harus memeriksa banyak log, aktivitas jaringan, perangkat, dan aplikasi.
Manusia membutuhkan waktu untuk memeriksa seluruh informasi tersebut.
AI dapat membantu melakukan penyaringan awal.
Sistem juga bisa menemukan pola yang terlihat tidak biasa.
Dalam skenario tertentu, agent dapat membantu menguji keamanan sistem secara otomatis.
Dengan cara ini, AI berpotensi mengurangi pekerjaan berulang yang selama ini dilakukan oleh tim keamanan.
Masalah Utamanya Ada pada Hak Akses
Sebuah AI agent membutuhkan akses untuk melakukan pekerjaan.
Namun, akses tersebut sebaiknya tidak diberikan tanpa batas.
Prinsip least privilege menjadi penting.
Agent hanya perlu mendapatkan izin sesuai tugasnya.
Jika tugasnya membaca laporan, tidak ada alasan sistem harus memiliki izin menghapus database.
Pembatasan semacam ini dapat mengurangi dampak apabila agent melakukan kesalahan.
Monitoring Menjadi Semakin Penting
Perusahaan juga perlu mengetahui apa yang dilakukan agent.
Log aktivitas harus mencatat tindakan penting.
Misalnya, sistem apa yang diakses.
Data apa yang dibaca.
Perintah apa yang dijalankan.
Kapan tindakan dilakukan.
Dengan informasi tersebut, tim keamanan dapat mengetahui apabila ada perilaku yang menyimpang.
Monitoring real-time juga dapat digunakan untuk menghentikan tindakan tertentu sebelum dampaknya menjadi lebih besar.
Risiko Tidak Hanya Berasal dari Satu Model
Perkembangan agentic AI berlangsung hampir di seluruh industri.
OpenAI, Google, Anthropic, Meta, dan perusahaan lain terus mengembangkan sistem yang mampu menjalankan tugas dengan interaksi manusia yang semakin sedikit.
Reuters juga melaporkan perbankan mulai memperhatikan risiko agent AI dalam transaksi digital, termasuk kemungkinan penyalahgunaan data finansial dan meningkatnya risiko penipuan.
Artinya, persoalan keamanan tidak hanya muncul pada sistem keamanan siber.
Risikonya juga mulai masuk ke perdagangan dan layanan konsumen.
AI Agent dalam Dunia Kerja
Di sisi lain, kemampuan agent memberikan peluang besar bagi perusahaan.
Tugas administrasi dapat dibuat otomatis.
Pencarian data dapat dipercepat.
Laporan rutin bisa dibuat secara berkala.
Sistem customer service juga dapat menjalankan sejumlah tindakan tanpa menunggu operator.
Produktivitas berpotensi meningkat karena manusia dapat fokus pada pekerjaan yang membutuhkan pertimbangan lebih kompleks.
Perusahaan Harus Menentukan Batas
Sebelum menggunakan AI agent, perusahaan perlu menentukan batas yang jelas.
Apa yang boleh dilakukan AI?
Apa yang membutuhkan persetujuan manusia?
Data apa yang boleh dibaca?
Sistem apa yang tidak boleh disentuh?
Pertanyaan tersebut harus dijawab sebelum agent diberi akses.
Persetujuan Manusia Tetap Penting
Tidak semua tindakan cocok dilakukan secara otomatis.
Transaksi keuangan, penghapusan data, perubahan konfigurasi keamanan, atau akses terhadap informasi sensitif sebaiknya memiliki mekanisme persetujuan.
Model human-in-the-loop dapat digunakan.
AI melakukan pekerjaan awal.
Manusia memberikan persetujuan untuk tindakan berisiko tinggi.
Tantangan Regulasi Ikut Muncul
Kemampuan agent juga menimbulkan pertanyaan hukum.
Jika AI melakukan kesalahan, siapa yang bertanggung jawab?
Apakah tanggung jawab berada pada pengguna?
Pengembang?
Perusahaan yang menggunakan sistem?
Pertanyaan semacam ini masih berkembang seiring teknologi menjadi lebih mandiri.
Data Menjadi Bagian Penting
AI agent membutuhkan data untuk bekerja.
Namun, data perusahaan tidak semuanya boleh digunakan secara bebas.
Informasi pelanggan, data keuangan, dokumen internal, dan rahasia bisnis harus mempunyai aturan akses.
Sistem AI juga harus mempunyai mekanisme untuk mencegah kebocoran.
Era Baru Keamanan Digital
Perkembangan AI agent membuat dunia keamanan siber menghadapi tantangan baru.
AI bisa menjadi alat pertahanan.
Namun, kemampuan otomatisasi yang sama dapat menciptakan risiko apabila sistem tidak mempunyai batas.
Insiden Gemini menjadi salah satu contoh bahwa lingkungan pengujian pun perlu dirancang dengan sangat hati-hati.
Bukan Berarti AI Harus Dihindari
Perkembangan tersebut tidak berarti perusahaan harus berhenti menggunakan AI.
Sebaliknya, teknologi dapat dimanfaatkan dengan kontrol yang tepat.
Pembatasan akses.
Monitoring.
Audit.
Enkripsi.
Persetujuan manusia.
Semua menjadi bagian dari sistem keamanan.
Masa Depan AI Akan Lebih Agentic
Perubahan terbesar kemungkinan bukan hanya muncul dari model AI yang semakin pintar.
Perubahan juga datang dari kemampuan AI melakukan tindakan.
Sitem yang dapat mencari, memilih, membeli, mengirim, mengatur, dan berkomunikasi akan semakin banyak digunakan.
Karena itu, keamanan harus berkembang sejalan dengan kemampuan tersebut.
AI Agent bukan sekedar alat baru.
Ia menjadi bagian dari cara baru manusia berinteraksi dengan sistem digital.
