Sejumlah peneliti kecerdasan buatan (AI), termasuk tokoh yang dijuluki sebagai 'Bapak AI', memberikan peringatan serius kepada pemerintah di seluruh dunia mengenai fenomena yang disebut sebagai 'ledakan kecerdasan'. Kekhawatiran ini muncul seiring dengan semakin masifnya integrasi teknologi AI ke dalam proses penelitian dan pengembangan (R&D).
Inti dari peringatan tersebut terletak pada potensi otomatisasi dalam bidang riset. Para ahli menyoroti risiko di mana sistem AI mulai mampu melakukan pengembangan diri mereka sendiri secara mandiri. Jika proses penelitian dan pengembangan AI dilakukan oleh AI itu sendiri, maka akan tercipta siklus percepatan yang tidak terkendali. Hal ini dikhawatirkan dapat memicu lonjakan kemampuan intelektual mesin yang melampaui kendali manusia dalam waktu singkat.
Otomatisasi R&D dianggap sebagai pemicu utama karena mampu menghilangkan hambatan manusia dalam proses inovasi. Jika sebelumnya penemuan baru membutuhkan waktu bertahun-tahun melalui eksperimen manual, sistem AI yang terotomatisasi dapat melakukan ribuan simulasi dan iterasi dalam hitungan detik. Kondisi inilah yang dikhawatirkan akan menciptakan 'ledakan' kemampuan yang sulit diprediksi dampaknya terhadap stabilitas sosial dan keamanan global.
Oleh karena itu, para peneliti mendesak pemerintah untuk segera menetapkan regulasi yang ketat dan pengawasan yang komprehensif. Langkah preventif dianggap sangat krusial agar perkembangan teknologi ini tetap selaras dengan nilai-nilai kemanusiaan dan tidak berkembang menjadi ancaman yang tidak dapat dikelola.
