Raja Charles III Soroti Bahaya AI, Pemimpin Teknologi Diminta Jangan Kehilangan Kendali

FAKTANASIONAL.NET - Perkembangan kecerdasan buatan (AI) yang semakin pesat mulai mendapat perhatian serius dari Raja Inggris Charles III.

Dalam sebuah pertemuan dengan sejumlah pemimpin senior perusahaan teknologi, ia meminta agar keamanan AI menjadi bagian penting dalam pengembangan teknologi tersebut.

Raja Charles III mengakui kemajuan AI membawa banyak hal menarik. Namun, di balik perkembangan itu terdapat kekhawatiran tentang kemampuan manusia dalam mengendalikan teknologi yang semakin kuat.

“Mereka di dunia ini menghargai kemanusiaan kita dan komponen moralnya yang vital berharap Anda bisa meyakinkan kita bahwa tidak akan kehilangan kendali atas takdir,” ujar Charles, dikutip dari CNBC Internasional, pada 21 September 2026.

Dalam pertemuan tersebut, Charles juga mendorong para peserta untuk membahas bagaimana kekuatan AI dapat dimanfaatkan dengan tetap mengutamakan aspek keselamatan.

Ia turut menekankan pentingnya membangun kerja sama dan konsensus internasional. Menurutnya, perkembangan AI tidak hanya menjadi persoalan satu negara atau perusahaan, tetapi memiliki dampak yang lebih luas terhadap masyarakat dunia.

Charles mengingatkan para pengusaha teknologi bahwa keputusan yang dibuat saat ini dapat menentukan arah perkembangan teknologi pada masa mendatang.

“Oleh karena itu, tugas yang ada di hadapan Anda bukan hanya untuk memajukan teknologi, namun untuk memastikan teknologi itu bisa tetap melayani kemanusiaan, masyarakat dan alam,” jelasnya.

Kekhawatiran mengenai perkembangan AI yang sulit dikendalikan juga sebelumnya disampaikan sejumlah tokoh industri teknologi. Mereka antara lain CEO OpenAI Sam Altman, CEO Anthropic Dario Amodei, pendiri DeepMind Demis Hassabis, serta Elon Musk.

Perdebatan mengenai pengendalian AI juga berlangsung di Amerika Serikat. Sejumlah anggota Kongres dari Partai Demokrat dan Republik mendukung gagasan penyusunan aturan untuk mengendalikan perkembangan teknologi tersebut.

Namun, Presiden AS Donald Trump menolak adanya aturan baru terkait AI.

Perbedaan pandangan itu menunjukkan bahwa perkembangan AI kini bukan hanya persoalan inovasi teknologi. Keamanan, etika, tanggung jawab, serta batas kendali manusia ikut menjadi bagian penting dalam perdebatan global mengenai masa depan kecerdasan buatan.[dit]