8 hours ago
8
REPUBLIKA.CO.ID, JAKARTA -- Raja Charles III memperingatkan para pemimpin industri teknologi mengenai "bahaya eksistensial" kecerdasan buatan atau artificial intelligence (AI) apabila teknologi itu jatuh ke tangan yang salah. Raja Inggris tersebut mendesak perusahaan-perusahaan pengembang AI membangun mekanisme pengendalian sebelum kemampuan teknologi berkembang melampaui kemampuan manusia mengantisipasi dampaknya.
Peringatan itu disampaikan Charles dalam pertemuan tingkat tinggi para pemimpin industri AI di Dumfries House, East Ayrshire, Skotlandia, Kamis, 17 September 2026. Pertemuan tersebut menghadirkan perwakilan Nvidia, Google DeepMind, OpenAI, Anthropic, pemerintah Inggris serta sejumlah tokoh yang bekerja dalam bidang etika dan teknologi.
Reuters pada Kamis, 17 September 2026, melaporkan Charles memperingatkan AI tidak hanya mempunyai kemampuan luar biasa untuk memperbaiki dan menyelamatkan kehidupan manusia, tetapi juga berpotensi mengembangkan kemampuan yang jauh lebih gelap apabila tidak dikendalikan.
"AI sudah menunjukkan kapasitas luar biasa untuk meningkatkan dan menyelamatkan kehidupan," kata Charles dalam pidatonya sebagaimana dipublikasikan situs resmi Kerajaan Inggris pada Kamis, 17 September 2026.
Namun, ia mengingatkan semakin banyak pencipta teknologi tersebut yang memperingatkan kemampuan AI dapat berkembang ke arah yang berbahaya, termasuk berpotensi menyebabkan hilangnya nyawa.
Menurut Charles, situasi tersebut membuat dunia perlu segera memikirkan ancaman apabila teknologi yang sangat kuat jatuh ke pihak yang berniat menggunakannya untuk tujuan destruktif.
Ia kemudian melontarkan pertanyaan paling tajam dalam pidatonya: apakah umat manusia telah memiliki mekanisme kontrol yang cukup "sebelum semuanya terlambat".
Kemanusiaan Harus Tetap Sakral
Pidato Charles tidak mengambil posisi bahwa AI harus dihentikan. Sebaliknya, ia mengakui teknologi tersebut telah memperlihatkan manfaat konkret, terutama di bidang ilmu hayati dan kedokteran. Namun, menurut dia, kemajuan teknologi tidak dapat dipisahkan dari pertanyaan mengenai siapa yang mengendalikannya dan tujuan apa yang dilayani teknologi tersebut.
Charles mengatakan keputusan yang dibuat saat AI masih berada dalam fase perkembangan sangat cepat akan menentukan dunia yang diwariskan kepada generasi mendatang.
Karena itu, menurutnya, tugas para pemimpin teknologi tidak semata menciptakan sistem yang semakin cerdas dan efisien.
Teknologi harus tetap melayani manusia, masyarakat, serta alam. Charles menegaskan bahwa di tengah perubahan teknologi yang begitu cepat, "kemanusiaan kita harus tetap sakral".
Ia juga menekankan pentingnya kerja sama internasional agar manfaat dan risiko AI tidak ditentukan sepihak oleh segelintir negara atau perusahaan.
Pertemuan di Dumfries House secara khusus membahas kemungkinan membangun prinsip bersama yang dapat menjadi panduan dalam pengembangan dan penggunaan AI. Situs resmi Kerajaan Inggris menyebut kerangka itu diharapkan dapat memastikan teknologi tidak hanya mendorong kemampuan dan efisiensi, tetapi juga mempertahankan martabat manusia serta kesejahteraan masyarakat dan lingkungan.
