MOSKOW – Perserikatan Bangsa-Bangsa (PBB) mendorong penguatan tata kelola dan standar keselamatan kecerdasan buatan (AI) seiring pesatnya perkembangan teknologi tersebut. Langkah ini dinilai penting agar kemajuan AI tetap memberikan manfaat bagi umat manusia sekaligus mencegah potensi risiko serius di masa depan.
Komisaris Tinggi PBB untuk Hak Asasi Manusia Volker Turk mengatakan teknologi AI canggih memiliki potensi menghadirkan risiko eksistensial bagi umat manusia apabila tidak disertai pengamanan yang memadai.
“Saya sependapat dengan kekhawatiran para pelaku industri bahwa AI canggih dapat menimbulkan risiko eksistensial bagi umat manusia,” kata Turk dalam sesi ke-63 Dewan HAM PBB, Senin (7/9/2026).
Turk menyerukan upaya maksimal untuk memastikan adanya jaminan kuat terhadap keselamatan dan keamanan AI sebelum perkembangan teknologi tersebut melaju terlalu jauh.
Sebagai bagian dari langkah tersebut, Turk menyatakan akan mengirimkan surat kepada sejumlah perusahaan pengembang AI terkemuka dalam beberapa hari mendatang. Komunikasi itu diharapkan dapat mendorong para pelaku industri memperkuat standar keselamatan dalam pengembangan dan penggunaan AI.
Menurut Turk, tantangan AI bukan hanya menyangkut perkembangan teknologi, tetapi juga persoalan tata kelola dan distribusi kekuasaan. Ia menyoroti kondisi ketika kekuasaan besar atas teknologi AI hanya berada di tangan segelintir pihak.
“Setidaknya, kita membutuhkan negara-negara tempat AI dikembangkan dan negara-negara yang terlibat dalam rantai pasoknya untuk bersama-sama menyepakati batas-batas yang tidak boleh dilanggar,” ujarnya.
Pernyataan tersebut memperkuat seruan agar pengembangan AI dilakukan melalui kerja sama internasional. Regulasi yang jelas dinilai diperlukan untuk memastikan inovasi teknologi tetap berjalan, namun berada dalam koridor keselamatan, hak asasi manusia, dan kepentingan publik.
Kekhawatiran mengenai penggunaan AI juga sebelumnya disampaikan sejumlah pejabat PBB. Pada Desember 2025, Kepala Ekonom Biro Regional Asia-Pasifik Program Pembangunan PBB (UNDP) Philip Schellekens memperingatkan potensi bahaya penggunaan AI untuk kepentingan militer.
Schellekens menekankan perlunya regulasi yang bertanggung jawab untuk mengendalikan pemanfaatan AI di bidang militer, terutama guna mencegah dampak kemanusiaan yang besar.
Sementara itu, Sekretaris Jenderal PBB Antonio Guterres pada Januari 2025 juga pernah memasukkan AI yang tidak terkendali sebagai salah satu ancaman eksistensial yang perlu mendapat perhatian serius, bersama perubahan iklim dan senjata nuklir.
Dengan perkembangan tersebut, dorongan PBB menunjukkan bahwa masa depan AI tidak semata-mata ditentukan oleh kemampuan teknologi, tetapi juga oleh kemampuan negara, industri, dan masyarakat internasional membangun aturan keselamatan yang kuat. Tujuannya agar AI dapat terus dikembangkan sebagai alat kemajuan manusia tanpa mengorbankan keamanan dan hak-hak dasar masyarakat. (r/isl)