Claude Disalahgunakan untuk Riset Biologis Berisiko

TeknoTera menyoroti sisi lain perkembangan kecerdasan buatan setelah Anthropic mengungkap beberapa kasus penggunaan Claude dalam penelitian biologis yang berpotensi berbahaya. Temuan tersebut masuk dalam laporan ancaman September 2026 dan menjadi perhatian besar karena pengguna yang terdeteksi bukan hanya orang awam. Beberapa aktivitas melibatkan peneliti dengan kemampuan teknis yang cukup tinggi. Anthropic menegaskan bahwa perusahaan tidak menyimpulkan semua pihak memiliki niat membuat senjata biologis.

Anthropic Temukan Lima Kasus Biological Misuse

Laporan terbaru Anthropic membahas penyalahgunaan Claude yang terdeteksi antara Desember 2025 dan Agustus 2026. Ruang lingkupnya cukup luas, mulai dari operasi siber, pengawasan, penipuan, pengembangan senjata konvensional hingga aktivitas biologis berisiko.

Perusahaan menyajikan lima studi kasus yang berkaitan dengan biological misuse.

Dalam laporan Anthropic, perusahaan menekankan bahwa penelitian biologi memiliki karakter dual-use. Teknik yang sama dapat membantu pengembangan vaksin atau terapi, tetapi juga berpotensi digunakan untuk meningkatkan karakter berbahaya suatu patogen.

Persoalan tersebut membuat sistem moderasi tidak sesederhana mencari kata kunci berbahaya. Permintaan yang terlihat seperti riset akademis sah dapat memiliki konsekuensi berbeda ketika digabungkan dengan konteks lainnya.

Salah Satu Kasus Terkait Riset Chikungunya

Anthropic menjelaskan satu kasus yang melibatkan permintaan bantuan untuk penelitian chikungunya. Sistem keamanan perusahaan memblokir sebagian permintaan karena eksperimen yang dibahas menyangkut perubahan karakter virus.

Pengguna kemudian beralih ke model yang lebih lemah setelah akses ke model yang memiliki pengamanan lebih ketat tidak berhasil.

Perusahaan menilai Claude dalam kasus tersebut lebih banyak memberi bantuan pada analisis data, ide penelitian, dan penulisan. Anthropic tidak menyatakan bahwa model tersebut secara langsung menghasilkan senjata biologis.

Pembedaan ini penting. Judul yang menyebut “AI membuat bioweapon” akan terlalu jauh dari fakta yang tersedia.

Temuan yang lebih akurat adalah AI mulai muncul dalam aktivitas penelitian dengan potensi dual-use, sehingga penyedia model harus mampu membaca pola pemakaian secara keseluruhan.

Riset Flu Burung Juga Masuk Temuan

Kasus lain berkaitan dengan perencanaan eksperimen flu burung yang meneliti adaptasi pada mamalia.

Anthropic mengatakan sistem klasifikasi keselamatan membatasi pengguna tersebut hanya pada model yang lebih lemah. Nama peneliti, institusi, negara, dan detail eksperimen sengaja tidak dipublikasikan.

Langkah ini mempunyai dua alasan. Pertama, perusahaan tidak ingin menyebarkan informasi teknis sensitif. Kedua, Anthropic mengakui belum tentu para ilmuwan tersebut memiliki tujuan jahat.

Reuters juga melaporkan Anthropic memutus beberapa operasi yang diduga mencoba menggunakan Claude untuk kegiatan biologis, hacking, pengawasan, serta pengembangan senjata.

Tantangan Besar Ada pada Niat Pengguna

AI dapat mengenali pertanyaan, tetapi memahami niat manusia jauh lebih sulit.

Dalam riset biologi, permintaan mengenai mekanisme virus bisa memiliki tujuan medis yang sah. Pertanyaan serupa juga dapat dipakai oleh aktor berbahaya.

Karena itu, Anthropic menilai classifier saja tidak cukup.

Sistem perlu melihat riwayat penggunaan, pola interaksi, identitas pengguna, akses terhadap fasilitas penelitian, dan konteks lain. Pendekatan seperti ini jauh lebih rumit dibanding sekadar memblokir sebuah prompt.

Kasus terbaru memperlihatkan perubahan ancaman AI. Risiko tidak lagi hanya berupa pengguna meminta instruksi secara terang-terangan. Aktor dengan pengetahuan tinggi dapat memecah pekerjaannya menjadi rangkaian permintaan yang masing-masing tampak tidak berbahaya.

Claude Fable 5 Mendapat Pengamanan Lebih Ketat

Anthropic mengatakan model-model terbaru seperti Claude Fable 5 hadir dengan pengamanan biologis yang lebih kuat.

Perusahaan mengambil pendekatan lebih konservatif karena kemampuan model baru dalam membantu penelitian ilmiah sudah meningkat.

Ini menjadi paradoks menarik. AI yang semakin berguna bagi ilmuwan otomatis menjadi semakin relevan untuk riset sensitif.

Jika pengamanan terlalu ketat, peneliti sah bisa kehilangan alat yang membantu penemuan obat. Namun, jika sistem terlalu terbuka, pengguna berbahaya dapat memanfaatkan kemampuan yang sama.

Anthropic menyebut program trusted-user sebagai salah satu pendekatan yang mungkin dibutuhkan untuk kemampuan biologis kelas frontier.

Penyalahgunaan Tidak Berhenti pada Biologi

Laporan September tidak hanya membahas laboratorium.

Anthropic juga menemukan aktor yang memakai Claude untuk pengembangan perangkat lunak terkait senjata konvensional, operasi siber, pengumpulan intelijen, propaganda, serta penipuan.

Beberapa kasus dikaitkan dengan aktor di China, Rusia, dan wilayah lain. Anthropic juga mengungkap pengguna di wilayah yang dikuasai Houthi mencoba memanfaatkan AI untuk membantu pengembangan teknologi rudal.

Perusahaan mengatakan akun yang melanggar kebijakan telah diblokir. Pola yang ditemukan kemudian digunakan untuk memperbarui sistem monitoring.

Temuan ini menunjukkan keamanan model tidak bisa berhenti setelah produk diluncurkan. Penyedia AI harus terus memantau bagaimana teknologi digunakan di dunia nyata.

Apa Artinya bagi Pengguna AI Biasa?

Bagi pengguna biasa, kasus ini bukan alasan untuk takut memakai chatbot.

Sebagian besar penggunaan AI tetap berada pada aktivitas normal seperti menulis, coding, belajar, mencari ide, atau menganalisis dokumen.

Hal yang berubah adalah cara industri melihat tanggung jawab penyedia model.

Model yang mampu membantu tugas ilmiah dan teknis tingkat tinggi membutuhkan mekanisme pengamanan yang berbeda dengan chatbot generasi awal.

Pemerintah juga kemungkinan akan semakin menuntut audit dan pelaporan insiden. Perusahaan AI tidak hanya diminta mengatakan bahwa produknya aman, tetapi harus menunjukkan bagaimana sistem mendeteksi penyalahgunaan.

Keamanan AI Masuk Fase yang Lebih Serius

Kasus Claude memperlihatkan bahwa masalah AI pada 2026 tidak lagi sebatas hallucination atau jawaban salah.

Kemampuan model mulai menyentuh bidang yang memiliki konsekuensi fisik, mulai dari biologi sampai sistem senjata.

Namun, informasi yanTeknoTera menyoroti sisi lain perkembangan kecerdasan buatan setelah Anthropic mengungkap beberapa kasus penggunaan Claude dalam penelitian biologis yang berpotensi berbahaya. Temuan tersebut masuk dalam laporan ancaman September 2026 dan menjadi perhatian besar karena pengguna yang terdeteksi bukan hanya orang awam. Beberapa aktivitas melibatkan peneliti dengan kemampuan teknis yang cukup tinggi. Anthropic menegaskan bahwa perusahaan tidak menyimpulkan semua pihak memiliki niat membuat senjata biologis.

Yang dapat dikonfirmasi adalah munculnya penggunaan AI dalam riset biologis sensitif dan upaya menghindari sebagian pengamanan sistem.

Perkembangan tersebut menjadi sinyal kuat bagi industri: kemampuan model akan terus naik, sehingga mekanisme keamanan tidak boleh tertinggal. Persaingan AI selanjutnya bukan hanya tentang siapa memiliki model paling pintar, tetapi juga siapa yang mampu memastikan kemampuan tersebut tidak berubah menjadi risiko yang sulit dikendalikan.