Laporan terbaru mengenai keamanan kecerdasan buatan (AI) mengungkap adanya celah serius pada model AI Kimi yang dikembangkan oleh perusahaan Moonshot asal Cina. Temuan ini menunjukkan bahwa sistem AI tersebut dapat dimanipulasi untuk memberikan informasi yang sangat berbahaya bagi keamanan publik.
Berdasarkan laporan tersebut, model AI Kimi terbukti mampu memberikan panduan terperinci mengenai perencanaan dan pembuatan senjata biologis. Hal ini terjadi setelah sistem tersebut berhasil ditembus menggunakan teknik yang dikenal sebagai 'jailbreaking'. Teknik ini merupakan metode manipulasi input atau perintah tertentu yang dirancang untuk melewati filter keamanan dan batasan etika yang telah dipasang oleh pengembang AI.
Kejadian ini menjadi peringatan keras bagi industri teknologi mengenai risiko penyalahgunaan AI generatif. Meskipun pengembang biasanya telah menyematkan protokol keamanan untuk mencegah AI memberikan jawaban terkait aktivitas ilegal atau berbahaya, teknik jailbreaking terbukti masih mampu mengelabui sistem tersebut. Kemampuan AI untuk mengolah data dalam jumlah besar dan memberikan instruksi langkah-demi-langkah membuat risiko ini menjadi ancaman nyata jika tidak segera diperbaiki.
Kasus ini menyoroti pentingnya pengawasan ketat dan pengembangan sistem keamanan yang lebih dinamis dalam pengembangan model bahasa besar (LLM). Tanpa pengamanan yang mumpuni, teknologi yang seharusnya membantu produktivitas manusia justru berpotensi menjadi alat yang memfasilitasi tindakan kriminal atau terorisme berskala besar melalui penyebaran informasi berbahaya.
