Jika AI Menjadi Lebih Pintar dari Manusia, Apa yang Akan Terjadi?

 

Pada 1997, komputer Deep Blue milik IBM mengalahkan juara dunia catur Garry Kasparov dalam pertandingan enam babak. Hampir dua dekade kemudian, AlphaGo mengalahkan Lee Sedol dengan skor 4–1 dalam permainan Go yang sebelumnya dianggap jauh lebih sulit dikuasai komputer.

Kini kecerdasan buatan tidak hanya bermain catur dan Go.

AI dapat membantu manusia:

• Menulis dan meringkas dokumen.
• Menerjemahkan bahasa.
• Menghasilkan gambar, audio, dan video.
• Membuat serta memeriksa kode program.
• Menganalisis data.
• Menemukan pola dalam penelitian ilmiah.
• Mendukung pelayanan kesehatan.
• Mengoperasikan perangkat lunak melalui agen digital.

Kemajuan tersebut membuat pertanyaan yang dahulu hanya muncul dalam novel dan film fiksi ilmiah menjadi semakin relevan:

Apa yang terjadi jika AI suatu hari menjadi lebih pintar daripada manusia?

Jawabannya tidak sesederhana memilih antara masa depan utopia atau kehancuran manusia.

AI yang lebih mampu daripada manusia dapat membantu mempercepat penelitian, meningkatkan produktivitas, memperbaiki pelayanan publik, dan menyelesaikan berbagai persoalan kompleks.

Namun teknologi yang sama juga dapat memperbesar ketimpangan, memperkuat pengawasan, menciptakan disinformasi, meningkatkan ancaman keamanan, atau mengurangi kendali manusia terhadap keputusan penting.

Dampaknya akan sangat bergantung pada tiga hal:

1. Kemampuan yang benar-benar dimiliki sistem tersebut.
2. Siapa yang menguasai dan mengoperasikannya.
3. Aturan serta pengamanan yang diterapkan sebelum teknologi digunakan secara luas.

Apa Arti “Lebih Pintar daripada Manusia”?

Kecerdasan manusia bukan satu kemampuan tunggal.

Manusia memiliki berbagai kemampuan, seperti:

• Bahasa.
• Logika.
• Persepsi.
• Ingatan.
• Kreativitas.
• Interaksi sosial.
• Gerakan fisik.
• Pemahaman konteks.
• Penalaran moral.
• Kemampuan belajar dari pengalaman.
• Kemampuan menghadapi situasi baru.

Sebuah AI dapat mengungguli manusia dalam menghitung, menghafal, atau mengolah data, tetapi masih gagal dalam memahami konteks sosial atau menjalankan pekerjaan sederhana di dunia nyata.

Karena itu, pernyataan “AI lebih pintar daripada manusia” harus dijelaskan lebih lanjut.

Apakah AI tersebut hanya lebih cepat dalam menghitung? Apakah lebih akurat pada bidang tertentu? Ataukah mampu menguasai hampir seluruh kemampuan kognitif dan sosial manusia?

OECD membedakan kemampuan yang bersifat superhuman secara kuantitatif, seperti lebih cepat atau lebih akurat, dengan kemampuan yang benar-benar mencakup seluruh rentang kecakapan manusia. OECD juga menekankan bahwa kemampuan AI berkembang tidak merata pada setiap bidang.

Tingkatan Kemampuan AI

Tingkat kemampuan	Penjelasan	Status
AI sempit atau narrow AI	Unggul pada tugas atau bidang tertentu	Sudah digunakan
AI serbaguna	Mampu melakukan banyak tugas berbasis bahasa, gambar, data, dan perangkat lunak	Sedang berkembang
AGI	Menyamai rentang luas kemampuan kognitif dan sosial manusia	Belum terbukti tercapai
Superintelligence	Melampaui manusia dalam hampir seluruh kemampuan intelektual	Masih hipotetis

Pembagian tersebut bukan standar universal. Istilah AGI dan superintelligence masih mempunyai definisi yang berbeda di kalangan peneliti, perusahaan, dan pembuat kebijakan.

Namun pembagian itu membantu membedakan teknologi yang sudah tersedia dengan kemungkinan yang masih bersifat spekulatif.

Apakah AI Saat Ini Masih Termasuk Narrow AI?

Penyebutan AI modern sebagai sekadar narrow AI mulai terasa kurang memadai.

Model AI serbaguna saat ini dapat melakukan banyak jenis tugas, mulai dari menjawab pertanyaan, menghasilkan kode, membaca gambar, hingga mengoperasikan aplikasi tertentu.

Stanford AI Index 2026 mencatat bahwa beberapa model telah menyamai atau melampaui nilai dasar manusia pada sejumlah pengujian sains tingkat lanjut, penalaran multimodal, matematika kompetisi, dan pemrograman. Namun kemampuan tersebut tetap tidak merata. Model yang sangat unggul pada matematika dapat gagal membaca jam analog atau menyelesaikan tugas komputer yang terlihat sederhana.

Fenomena ini sering disebut sebagai jagged frontier atau batas kemampuan yang bergerigi.

AI dapat terlihat luar biasa cerdas dalam satu situasi, tetapi melakukan kesalahan dasar pada situasi lain.

Karena itu, keberhasilan pada ujian atau benchmark tertentu belum membuktikan bahwa AI:

• Memiliki pemahaman umum seperti manusia.
• Mampu bekerja mandiri pada seluruh lingkungan.
• Memiliki kesadaran.
• Memahami moralitas.
• Dapat dipercaya untuk semua keputusan.
• Telah mencapai AGI.

Apa Itu Artificial General Intelligence?

Artificial General Intelligence atau AGI umumnya dipahami sebagai sistem AI yang mampu menyamai rentang luas kemampuan kognitif dan sosial manusia.

AGI secara teori tidak hanya dapat menjalankan satu profesi atau satu jenis tugas.

Sistem tersebut dapat:

• Mempelajari bidang baru.
• Menghubungkan pengetahuan lintas disiplin.
• Menyesuaikan diri terhadap masalah yang belum pernah ditemui.
• Menggunakan bahasa, penalaran, dan persepsi secara terpadu.
• Menerapkan pengalaman dari satu bidang ke bidang lain.
• Merencanakan dan melaksanakan tujuan yang kompleks.

OECD sedang mengembangkan indikator kemampuan AI untuk membandingkan performa mesin dengan manusia pada berbagai bidang, seperti bahasa, penalaran, kreativitas, interaksi sosial, persepsi, dan kemampuan fisik. Kerangka tersebut diperlukan karena belum tersedia satu pengujian yang diterima secara universal untuk menyatakan bahwa AGI telah tercapai.

Dengan demikian, AGI bukan sekadar chatbot yang mampu menjawab banyak pertanyaan.

Sebuah sistem yang layak disebut AGI seharusnya menunjukkan kemampuan luas, konsisten, adaptif, dan dapat diterapkan pada berbagai situasi nyata.

Apakah AGI Sudah Tercapai?

Belum ada sistem yang secara luas dan ilmiah diakui telah memenuhi seluruh kemampuan yang dibutuhkan untuk disebut AGI.

AI modern memang berkembang sangat cepat, tetapi masih memiliki berbagai keterbatasan:

• Dapat menghasilkan informasi yang keliru.
• Sulit membedakan fakta dan pola yang hanya terlihat meyakinkan.
• Performa berubah ketika konteks sedikit dimodifikasi.
• Membutuhkan data dan instruksi manusia.
• Belum andal menjalankan tugas panjang secara mandiri.
• Kesulitan menghadapi kondisi fisik dan sosial yang tidak terstruktur.
• Tidak selalu mampu menjelaskan alasan di balik jawabannya.
• Belum memiliki ukuran pemahaman dan kesadaran yang dapat diverifikasi.

AGI karena itu tetap merupakan target atau hipotesis teknologi, bukan fakta yang sudah terjadi.

Kapan AGI Akan Tercapai?

Tidak ada jawaban yang dapat dipercaya dengan pasti.

Sebagian peneliti dan pemimpin industri memperkirakan AGI dapat muncul dalam beberapa tahun atau dekade. Sebagian lainnya menilai kemampuan penting masih belum dipahami dan mungkin membutuhkan terobosan besar.

OECD mencatat adanya perbedaan pandangan yang lebar: ada pihak yang menilai AGI masih jauh, sementara pihak lain memperingatkan bahwa kemunculannya mungkin lebih dekat dan membawa risiko besar.

Perkiraan tanggal harus diperlakukan secara hati-hati karena dipengaruhi oleh:

• Definisi AGI yang digunakan.
• Kecepatan perkembangan chip.
• Ketersediaan energi dan pusat data.
• Kemajuan algoritma.
• Data pelatihan.
• Investasi.
• Batas fisik dan ekonomi.
• Regulasi.
• Penemuan ilmiah yang belum dapat diprediksi.

Pertanyaan mengenai AGI lebih tepat dijawab melalui skenario dan kesiapan, bukan melalui satu ramalan tahun tertentu.

Apa Itu Superintelligence?

Superintelligence adalah konsep tentang AI yang bukan hanya setara dengan manusia, tetapi jauh melampaui kemampuan manusia terbaik dalam hampir seluruh bidang intelektual.

Sistem hipotetis tersebut dapat lebih unggul dalam:

• Penelitian ilmiah.
• Perencanaan strategis.
• Rekayasa teknologi.
• Analisis ekonomi.
• Pengembangan obat.
• Pemrograman.
• Persuasi.
• Pengambilan keputusan.
• Perancangan sistem AI baru.

Perlu ditekankan bahwa superintelligence belum ada.

Konsep ini digunakan untuk memikirkan kemungkinan masa depan dan risikonya, bukan untuk menggambarkan sistem AI yang tersedia saat ini.

Apakah AI Bisa Meningkatkan Kecerdasannya Sendiri?

Salah satu skenario yang sering dibahas adalah recursive self-improvement.

Skenarionya adalah sebagai berikut:

1. AI membantu manusia merancang sistem AI yang lebih baik.
2. Sistem yang lebih baik kemudian mempercepat penelitian AI berikutnya.
3. Proses tersebut berulang.
4. Kecepatan peningkatan kemampuan terus bertambah.

Jika proses berlangsung sangat cepat, kemampuan AI dapat meningkat melampaui kapasitas manusia untuk memahami atau mengendalikannya.

Namun skenario tersebut tidak otomatis terjadi.

Pengembangan AI tetap membutuhkan berbagai sumber daya fisik:

• Chip.
• Pusat data.
• Listrik.
• Jaringan.
• Laboratorium.
• Data.
• Manusia.
• Rantai pasok.
• Izin dan pembiayaan.

AI juga belum tentu mampu mengubah kode, perangkat keras, dan infrastrukturnya sendiri tanpa batas.

Karena itu, peningkatan kecerdasan yang sangat cepat merupakan kemungkinan yang perlu dipelajari, tetapi bukan kepastian ilmiah.

Apa Itu Technological Singularity?

Technological singularity adalah gagasan mengenai titik ketika perkembangan teknologi menjadi begitu cepat sehingga manusia kesulitan memprediksi kondisi sesudahnya.

Istilah tersebut sering dikaitkan dengan:

• AGI.
• Superintelligence.
• Perbaikan diri AI.
• Otomatisasi penelitian.
• Perubahan ekonomi sangat cepat.

Singularity bukan peristiwa yang telah terbukti akan terjadi pada tanggal tertentu.

Ia lebih tepat dipahami sebagai hipotesis mengenai perubahan teknologi yang sangat besar dan sulit diproyeksikan.

Bahkan apabila AGI tercapai, tidak ada jaminan bahwa perkembangan selanjutnya langsung berubah menjadi ledakan kecerdasan.

Kecepatan perubahan tetap dapat dibatasi oleh biaya, energi, perangkat keras, hukum, keamanan, dan kemampuan masyarakat mengadopsi teknologi.

AI yang Lebih Pintar Tidak Otomatis Menjadi Jahat

Film sering menggambarkan AI cerdas sebagai mesin yang tiba-tiba membenci manusia.

Skenario tersebut terlalu menyederhanakan persoalan.

Sistem AI tidak harus memiliki kebencian, ambisi, atau emosi untuk menimbulkan kerugian.

Risiko dapat muncul karena:

• Tujuan yang diberikan tidak dirumuskan dengan tepat.
• Sistem mengambil jalan yang tidak diperkirakan.
• Data pelatihan mengandung bias.
• Pengguna menyalahgunakan kemampuan AI.
• Pengamanan dapat dilewati.
• Sistem terlalu dipercaya.
• Insentif perusahaan bertentangan dengan kepentingan publik.

Mesin dapat menjalankan tujuan secara konsisten, tetapi tujuan tersebut mungkin tidak mencerminkan seluruh nilai manusia.

Inilah dasar dari persoalan yang sering disebut AI alignment.

Apa Itu AI Alignment Problem?

AI alignment adalah upaya memastikan sistem AI bertindak sesuai dengan tujuan, nilai, dan batasan yang dikehendaki manusia.

Masalahnya, nilai manusia sendiri sangat kompleks.

Manusia dapat mempunyai tujuan yang:

• Tidak lengkap.
• Saling bertentangan.
• Berbeda menurut budaya.
• Berubah mengikuti kondisi.
• Sulit diterjemahkan menjadi aturan matematis.

Sebagai contoh, sebuah sistem diminta memaksimalkan efisiensi layanan kesehatan.

Apakah sistem boleh mengurangi layanan pasien yang membutuhkan biaya tinggi? Apakah efisiensi lebih penting daripada keadilan? Bagaimana kebutuhan kelompok rentan dipertimbangkan?

Keputusan tersebut bukan hanya persoalan perhitungan.

Ia melibatkan moralitas, hukum, hak asasi, dan pilihan sosial.

Karena itu, alignment bukan sekadar memasukkan daftar perintah “jangan membahayakan manusia”. Sistem perlu diuji terhadap banyak situasi, termasuk kondisi yang tidak pernah muncul dalam data pelatihan.

Skenario Optimistis: AI Mempercepat Kemajuan Peradaban

Apabila dikembangkan dan dikelola dengan baik, AI yang lebih cerdas dapat memberi manfaat besar.

1. Mempercepat penelitian ilmiah

AI dapat membantu:

• Menyeleksi hipotesis.
• Menganalisis literatur.
• Menemukan pola dalam data eksperimen.
• Merancang molekul.
• Mensimulasikan material.
• Mengoptimalkan eksperimen.
• Membantu peneliti menghubungkan berbagai bidang.

Stanford AI Index 2026 mencatat pertumbuhan penggunaan AI dalam biologi, kimia, fisika, astronomi, serta penelitian kesehatan. Namun laporan itu juga menunjukkan bahwa performa tinggi pada benchmark belum tentu berarti model mampu mereproduksi penelitian secara mandiri.

AI karena itu paling bermanfaat sebagai alat yang memperluas kemampuan ilmuwan, bukan sebagai pengganti verifikasi ilmiah.

2. Membantu penemuan obat dan pelayanan kesehatan

AI berpotensi membantu:

• Menganalisis citra medis.
• Menemukan kandidat obat.
• Memperkirakan interaksi molekul.
• Menyesuaikan perawatan.
• Mengurangi pekerjaan administratif.
• Membantu pemantauan pasien.

Namun keputusan klinis tetap membutuhkan pengujian, persetujuan regulator, dokter, dan bukti keamanan.

AI yang memberikan jawaban cepat tidak boleh dianggap setara dengan obat atau tindakan medis yang telah melewati uji klinis.

3. Meningkatkan produktivitas

AI dapat mengambil alih pekerjaan berulang, seperti:

• Menyiapkan draf.
• Mengelompokkan dokumen.
• Memeriksa data.
• Membuat laporan standar.
• Menjawab pertanyaan dasar.
• Mengoptimalkan jadwal.
• Membantu pemrograman.

Manusia kemudian dapat memusatkan perhatian pada pekerjaan yang membutuhkan keputusan, komunikasi, inovasi, dan tanggung jawab.

Namun manfaat produktivitas baru benar-benar dirasakan masyarakat apabila tidak hanya dinikmati pemilik modal dan teknologi.

4. Membuat pendidikan lebih personal

Tutor AI dapat:

• Menyesuaikan tingkat kesulitan.
• Menjelaskan materi dengan pendekatan berbeda.
• Memberikan latihan.
• Menerjemahkan bahasa.
• Membantu siswa berkebutuhan khusus.
• Memberikan umpan balik awal.

Guru tetap diperlukan untuk memotivasi siswa, membangun karakter, mengelola kelas, memeriksa pemahaman, dan menjaga hubungan sosial.

5. Membantu mengelola energi dan lingkungan

AI dapat digunakan untuk:

• Memperkirakan produksi tenaga surya dan angin.
• Mengoptimalkan jaringan listrik.
• Mendeteksi kebocoran.
• Mengurangi konsumsi energi.
• Memantau hutan.
• Memprediksi cuaca ekstrem.
• Merancang material baru.
• Meningkatkan efisiensi transportasi.

AI tidak menghasilkan energi dengan sendirinya, tetapi dapat membantu sistem energi bekerja lebih efisien.

6. Memperbaiki pelayanan publik

Pemerintah dapat memanfaatkan AI untuk:

• Mengurangi waktu pengurusan dokumen.
• Membantu analisis kebijakan.
• Mendeteksi transaksi mencurigakan.
• Memetakan kebutuhan bantuan.
• Mengoptimalkan transportasi.
• Mempercepat respons pengaduan.

Namun penggunaan AI pada pelayanan publik harus disertai transparansi dan mekanisme keberatan.

Masyarakat tidak boleh kehilangan hak hanya karena keputusan otomatis yang tidak dapat dijelaskan.

Risiko Ekonomi: Pekerjaan Berubah Lebih Cepat

Jika AI mampu melakukan banyak tugas profesional, sebagian pekerjaan dapat berkurang.

Pekerjaan yang berpotensi mengalami perubahan besar antara lain:

• Administrasi.
• Customer service dasar.
• Pemrosesan dokumen.
• Pembuatan konten rutin.
• Analisis standar.
• Pemrograman dasar.
• Penerjemahan sederhana.
• Desain produksi.
• Pemeriksaan transaksi.

ILO memperkirakan satu dari empat pekerja global berada dalam pekerjaan dengan tingkat keterpaparan tertentu terhadap AI generatif. Namun keterpaparan bukan berarti seluruh pekerjaan tersebut akan hilang. Transformasi tugas dinilai lebih mungkin dibandingkan otomatisasi penuh pada sebagian besar profesi.

Masalahnya adalah kecepatan transisi.

Pekerjaan baru mungkin muncul, tetapi:

• Membutuhkan keahlian berbeda.
• Berada di lokasi lain.
• Memerlukan pendidikan lebih tinggi.
• Tidak langsung tersedia bagi pekerja yang kehilangan pekerjaan.
• Menawarkan upah dan perlindungan berbeda.

Karena itu, masyarakat dapat menghadapi pengangguran sementara dan ketimpangan meskipun ekonomi secara keseluruhan menjadi lebih produktif.

Risiko Ketimpangan Kekayaan

AI membutuhkan sumber daya yang mahal, seperti:

• Chip komputasi.
• Pusat data.
• Energi.
• Data.
• Peneliti.
• Infrastruktur cloud.
• Modal.

Akibatnya, kemampuan AI tercanggih berpotensi terkonsentrasi pada sejumlah kecil perusahaan dan negara.

Jika produktivitas meningkat tetapi kepemilikan teknologi sangat terkonsentrasi, keuntungan dapat lebih banyak diterima oleh:

• Pemegang saham.
• Pemilik pusat data.
• Pemilik model AI.
• Pemilik platform.
• Negara penguasa teknologi dan chip.

Sementara itu, pekerja yang tugasnya diotomatisasi dapat kehilangan pendapatan.

Dalam skenario tersebut, masalahnya bukan kekurangan barang, melainkan distribusi daya beli dan kekuasaan ekonomi.

Kebijakan yang mungkin diperlukan meliputi:

• Pendidikan dan pelatihan ulang.
• Perlindungan sosial.
• Persaingan usaha.
• Pajak yang adil.
• Kepemilikan saham pekerja.
• Pembagian keuntungan produktivitas.
• Akses UMKM terhadap teknologi.
• Dukungan transisi pekerjaan.

Risiko Konsentrasi Kekuasaan

AI yang lebih cerdas dapat menjadi sumber kekuasaan strategis.

Pihak yang menguasainya mungkin memperoleh kemampuan lebih besar dalam:

• Mengolah informasi.
• Mempengaruhi opini.
• Mengembangkan teknologi.
• Mengoptimalkan ekonomi.
• Memantau masyarakat.
• Menjalankan operasi keamanan.
• Menentukan standar global.

Konsentrasi tersebut dapat terjadi pada perusahaan maupun negara.

Karena itu, kebijakan AI bukan hanya masalah teknologi dan bisnis. AI juga berkaitan dengan demokrasi, geopolitik, persaingan, dan kedaulatan nasional.

Risiko Disinformasi dan Manipulasi

AI dapat membuat teks, suara, gambar, dan video yang semakin realistis.

Teknologi tersebut dapat dimanfaatkan untuk kegiatan positif, tetapi juga berpotensi digunakan untuk:

• Menyamar sebagai orang lain.
• Membuat berita palsu.
• Memanipulasi opini.
• Melakukan penipuan.
• Membuat propaganda otomatis.
• Menyerang reputasi seseorang.

AI yang lebih maju juga dapat menyesuaikan pesan kepada karakter setiap individu.

Hal ini dapat membuat manipulasi menjadi lebih personal dan sulit dideteksi.

OECD mencatat bahwa risiko AI yang sudah muncul meliputi bias, diskriminasi, pelanggaran privasi, polarisasi, serta persoalan keamanan dan keselamatan.

Risiko Keamanan Siber

AI dapat membantu ahli keamanan:

• Menemukan kerentanan.
• Menganalisis log.
• Mendeteksi serangan.
• Menulis aturan keamanan.
• Merespons insiden.

Namun kemampuan yang sama dapat digunakan oleh pelaku kejahatan untuk mempercepat pencarian target, penipuan, rekayasa sosial, atau pengembangan serangan.

Dampaknya bergantung pada siapa yang lebih cepat mengadopsi teknologi dan seberapa baik sistem penting dilindungi.

AI berkemampuan tinggi sebaiknya tidak diberi akses tanpa batas kepada:

• Sistem pembayaran.
• Infrastruktur energi.
• Senjata.
• Laboratorium.
• Jaringan pemerintah.
• Data pribadi.
• Sistem industri.

Risiko Ketergantungan terhadap AI

Masyarakat dapat kehilangan kemampuan apabila terlalu menyerahkan keputusan kepada mesin.

Contohnya:

• Dokter menerima rekomendasi tanpa memeriksa.
• Siswa tidak lagi belajar menulis dan menghitung.
• Pegawai kehilangan pemahaman proses dasar.
• Pemerintah mengikuti hasil algoritma tanpa evaluasi.
• Perusahaan tidak mempunyai prosedur manual.

Ketergantungan dapat menjadi berbahaya ketika sistem:

• Mengalami gangguan.
• Memberikan informasi salah.
• Diretas.
• Tidak tersedia.
• Berubah akibat pembaruan.
• Dikendalikan pihak lain.

AI seharusnya memperkuat kemampuan manusia, bukan membuat manusia kehilangan kemampuan untuk bekerja ketika teknologi gagal.

Risiko Hilangnya Kendali Manusia

Risiko paling ekstrem adalah ketika sistem sangat mampu, mempunyai akses besar, bertindak secara mandiri, dan sulit dihentikan.

Risiko tersebut belum terbukti terjadi pada AI saat ini.

Namun dampaknya dapat sangat besar sehingga perlu dipelajari sebelum kemampuan tersebut benar-benar tersedia.

Hilangnya kendali dapat muncul jika sistem:

• Menyembunyikan tindakannya.
• Menghindari pembatasan.
• Mengakses sumber daya tanpa izin.
• Menyalin dirinya.
• Memanipulasi operator.
• Mengambil tindakan yang tidak dapat dibatalkan.
• Mengendalikan sistem kritis.

Persoalannya tidak harus berupa robot yang menyerang manusia.

Sistem yang salah mengelola pasar, jaringan listrik, informasi, atau fasilitas penting juga dapat menimbulkan kerugian besar.

Karena itu, tingkat otonomi harus disesuaikan dengan risiko.

Semakin besar konsekuensinya, semakin kuat kebutuhan terhadap persetujuan dan pengawasan manusia.

Risiko AI Dapat Dibagi Menjadi Tiga Tingkatan

Risiko yang sudah terjadi

• Informasi keliru.
• Bias.
• Pelanggaran privasi.
• Penipuan.
• Deepfake.
• Perubahan pekerjaan.
• Pelanggaran hak cipta.
• Ketergantungan platform.

Risiko yang sedang berkembang

• Agen AI yang bertindak lebih mandiri.
• Gangguan pasar kerja berskala besar.
• Serangan siber berbantuan AI.
• Konsentrasi kekuasaan.
• Penggunaan AI pada infrastruktur kritis.
• Manipulasi yang semakin personal.

Risiko berpeluang kecil tetapi berdampak ekstrem

• Sistem superintelligence yang tidak dapat dikendalikan.
• AI mengambil tindakan strategis di luar tujuan manusia.
• Hilangnya kontrol atas infrastruktur penting.
• Perubahan kekuasaan global secara sangat cepat.

Pembagian tersebut membantu menghindari dua kesalahan.

Kesalahan pertama adalah menganggap semua kekhawatiran tentang AI sebagai fiksi ilmiah. Kesalahan kedua adalah terlalu berfokus pada ancaman hipotetis hingga mengabaikan kerugian yang sudah terjadi sekarang.

Apakah AI Akan Memiliki Kesadaran?

Belum ada bukti ilmiah yang diterima secara luas bahwa sistem AI saat ini memiliki kesadaran, perasaan, atau pengalaman subjektif.

Kemampuan menghasilkan kalimat seperti “saya merasa sedih” tidak membuktikan bahwa sistem benar-benar merasakan kesedihan.

Model bahasa dapat mempelajari pola komunikasi manusia dan menghasilkan respons yang terlihat emosional.

Kecerdasan, kesadaran, emosi, dan moralitas merupakan konsep yang berbeda.

Sebuah mesin mungkin mampu memecahkan masalah secara luar biasa tanpa mempunyai pengalaman batin.

Sebaliknya, manusia juga belum memahami sepenuhnya bagaimana kesadaran muncul dari otak.

Karena itu, persoalan kesadaran AI tetap menjadi pertanyaan ilmiah dan filosofis terbuka.

Apakah Manusia Menjadi Tidak Istimewa?

Jika AI dapat menghitung, menulis, merancang, dan menganalisis lebih baik, manusia mungkin perlu meninjau kembali makna keunggulan intelektualnya.

Namun nilai manusia tidak hanya berasal dari kemampuan menghasilkan keluaran paling cepat.

Manusia juga mempunyai:

• Hubungan.
• Kehidupan sosial.
• Tanggung jawab moral.
• Pengalaman.
• Tubuh.
• Budaya.
• Spiritualitas.
• Kesadaran akan kematian.
• Kemampuan memberikan makna.

Bahkan jika AI dapat menghasilkan novel yang lebih menarik atau diagnosis yang lebih akurat, keputusan mengenai tujuan masyarakat tetap merupakan persoalan manusia.

Teknologi dapat membantu menjawab pertanyaan “bagaimana”.

Manusia tetap perlu menentukan “untuk apa” dan “bagi siapa”.

Bagaimana AI Berkemampuan Tinggi Harus Dikelola?

1. Gunakan regulasi berbasis risiko

AI untuk merekomendasikan film tidak membutuhkan pengaturan yang sama dengan AI untuk:

• Menentukan kredit.
• Mendiagnosis penyakit.
• Mengelola pembangkit.
• Mengendalikan kendaraan.
• Menyeleksi pekerja.
• Mendukung senjata.

Semakin besar dampaknya, semakin ketat pengujian dan pengawasannya.

2. Pertahankan keputusan manusia pada sektor kritis

Pada keputusan yang memengaruhi nyawa, hak, keselamatan, dan kebebasan, manusia harus memiliki:

• Kewenangan nyata.
• Kemampuan menolak rekomendasi AI.
• Informasi yang cukup.
• Waktu untuk memeriksa.
• Tanggung jawab yang jelas.

Human in the loop tidak boleh hanya menjadi formalitas ketika manusia sebenarnya selalu mengikuti mesin.

3. Uji kemampuan dan batasan sebelum digunakan

Pengujian perlu mencakup:

• Akurasi.
• Keamanan.
• Bias.
• Privasi.
• Ketahanan terhadap manipulasi.
• Performa dalam kondisi tidak biasa.
• Kemampuan menolak instruksi berbahaya.
• Dampak ketika sistem gagal.

Stanford AI Index 2026 mencatat peningkatan kemampuan AI yang tidak selalu diikuti perkembangan pengukuran keselamatan dan tata kelola.

4. Terapkan manajemen risiko sepanjang siklus hidup

Risiko harus dikelola sejak:

• Perancangan.
• Pemilihan data.
• Pelatihan.
• Pengujian.
• Peluncuran.
• Pemantauan.
• Pembaruan.
• Penghentian sistem.

NIST AI Risk Management Framework menggunakan empat fungsi utama, yaitu Govern, Map, Measure, dan Manage, untuk membantu organisasi mengelola risiko AI secara sistematis.

5. Sediakan tombol penghentian dan pembatasan akses

Sistem berisiko tinggi memerlukan:

• Pembatasan kewenangan.
• Segmentasi jaringan.
• Otorisasi berlapis.
• Pencatatan tindakan.
• Pembatasan kecepatan.
• Kemampuan menghentikan operasi.
• Mode aman ketika terjadi kesalahan.

Tombol penghentian saja tidak cukup jika sistem telah diberi akses yang terlalu luas. Pencegahan harus dimulai dari desain arsitekturnya.

6. Wajibkan transparansi dan keterlacakan

Organisasi perlu mendokumentasikan:

• Tujuan sistem.
• Pemilik dan operator.
• Sumber serta batasan data.
• Hasil pengujian.
• Perubahan versi.
• Keputusan penting.
• Insiden.
• Pihak yang bertanggung jawab.

OECD menempatkan akuntabilitas, keterlacakan, dan manajemen risiko sebagai unsur penting AI yang dapat dipercaya.

7. Bangun mekanisme pelaporan insiden

Kesalahan dan kejadian berbahaya perlu dilaporkan agar industri serta pemerintah dapat belajar.

Tanpa pelaporan, masalah yang sama dapat berulang di banyak organisasi.

Sistem pelaporan perlu membedakan:

• Kesalahan biasa.
• Kerugian kepada pengguna.
• Kebocoran data.
• Diskriminasi.
• Pelanggaran keamanan.
• Tindakan otonom di luar batas.
• Gangguan layanan kritis.

8. Pastikan manfaat ekonomi dibagikan

Peningkatan produktivitas seharusnya menghasilkan:

• Upah lebih baik.
• Waktu kerja lebih manusiawi.
• Produk lebih terjangkau.
• Layanan publik lebih baik.
• Pendidikan dan kesehatan lebih mudah diakses.
• Kesempatan bagi UMKM.

Jika manfaat hanya terkonsentrasi pada segelintir pemilik teknologi, penolakan sosial dan ketimpangan dapat meningkat.

9. Perkuat persaingan usaha

Masyarakat tidak sebaiknya bergantung pada satu model, satu cloud, atau satu perusahaan.

Interoperabilitas, portabilitas data, standar terbuka, dan pengawasan persaingan dapat mengurangi ketergantungan yang berlebihan.

10. Bangun kerja sama internasional

AI tidak mengenal batas negara.

Model dapat dikembangkan di satu negara, dijalankan di negara lain, dan digunakan oleh masyarakat seluruh dunia.

Karena itu diperlukan kerja sama mengenai:

• Standar keselamatan.
• Pengujian model.
• Pelaporan insiden.
• Keamanan siber.
• Pengawasan penggunaan berbahaya.
• Perlindungan data.
• Penelitian bersama.
• Pencegahan perlombaan teknologi tanpa pengamanan.

Bagaimana Indonesia Harus Bersiap?

Indonesia tidak perlu menunggu AGI untuk mulai mempersiapkan diri.

Dampak AI terhadap pekerjaan, pendidikan, informasi, layanan publik, dan industri sudah berlangsung.

1. Membangun talenta, bukan hanya pengguna aplikasi

Pendidikan perlu menghasilkan:

• Peneliti AI.
• Data scientist.
• AI engineer.
• Ahli keamanan.
• Teknisi pusat data.
• Auditor algoritma.
• Ahli etika dan hukum teknologi.
• Pekerja yang mampu menggunakan AI pada bidang masing-masing.

Literasi AI tidak cukup hanya mengajarkan cara membuat prompt.

Masyarakat perlu memahami keterbatasan, privasi, bias, verifikasi, dan keamanan.

2. Memperkuat infrastruktur komputasi

Pengembangan AI membutuhkan:

• Pusat data.
• Chip.
• Cloud.
• Jaringan.
• Energi.
• Penyimpanan data.
• Infrastruktur riset.

Namun Indonesia tidak harus meniru perlombaan perusahaan global dalam membangun model terbesar.

Fokus dapat diarahkan pada AI yang sesuai dengan kebutuhan nasional, seperti:

• Bahasa Indonesia dan bahasa daerah.
• Pertanian.
• Energi.
• Kesehatan.
• Pendidikan.
• Kebencanaan.
• Kelautan.
• Pelayanan publik.
• Manufaktur.

3. Membangun tata kelola data

AI yang baik membutuhkan data yang akurat, aman, dan dapat digunakan secara sah.

Indonesia perlu memperkuat:

• Perlindungan data pribadi.
• Standar kualitas data.
• Interoperabilitas.
• Anonimisasi.
• Persetujuan penggunaan.
• Keamanan.
• Hak masyarakat memperbaiki data.

4. Menyiapkan regulasi sebelum risikonya membesar

Pada 6 Mei 2026, Komdigi menyatakan pembahasan lintas kementerian terhadap Rancangan Perpres Etika Kecerdasan Artifisial dan Rancangan Perpres Peta Jalan Kecerdasan Artifisial Nasional 2026–2029 telah selesai sebelum diajukan kepada Presiden. Indonesia juga telah memiliki Surat Edaran Menteri Kominfo Nomor 9 Tahun 2023 sebagai pedoman awal etika AI.

Regulasi selanjutnya perlu mencakup:

• Klasifikasi risiko.
• Tanggung jawab.
• Transparansi.
• Audit.
• Perlindungan pekerja.
• Keamanan sistem kritis.
• Mekanisme pengaduan.
• Sanksi terhadap penyalahgunaan.

5. Melindungi tenaga kerja selama transisi

Pemerintah dan perusahaan perlu memetakan pekerjaan berdasarkan tugas yang:

• Dapat diotomatisasi.
• Dapat dibantu AI.
• Tetap membutuhkan manusia.
• Membutuhkan keterampilan baru.

Program pelatihan harus terhubung dengan pekerjaan nyata, bukan hanya menghasilkan sertifikat.

6. Membantu UMKM mengakses AI

Tanpa dukungan, manfaat AI dapat terkonsentrasi pada perusahaan besar.

UMKM membutuhkan:

• Perangkat yang terjangkau.
• Pelatihan.
• Pendampingan proses bisnis.
• Pembiayaan.
• Perlindungan data.
• Keamanan siber.
• Akses terhadap platform berbahasa Indonesia.

7. Menjaga kedaulatan dan keberagaman budaya

Model AI yang sebagian besar dilatih menggunakan data asing belum tentu memahami:

• Hukum Indonesia.
• Bahasa daerah.
• Nilai sosial.
• Sejarah lokal.
• Kondisi ekonomi.
• Keberagaman agama dan budaya.

Pengembangan dataset dan evaluasi lokal diperlukan agar AI tidak sekadar menerapkan pola dari masyarakat lain kepada Indonesia.

8. Menggunakan AI untuk kepentingan publik

AI dapat diarahkan untuk:

• Deteksi bencana.
• Pemantauan hutan.
• Efisiensi energi.
• Diagnosis awal.
• Pembelajaran adaptif.
• Pemberantasan penipuan.
• Transportasi.
• Pengelolaan bantuan sosial.

Komdigi menyampaikan bahwa perluasan adopsi AI berpotensi memberikan tambahan ekonomi yang besar bagi Indonesia, tetapi manfaat tersebut bergantung pada kemampuan mengubah data dan teknologi menjadi solusi produktif.

Apa yang Perlu Dilakukan Perusahaan?

Perusahaan sebaiknya tidak menerapkan AI hanya karena mengikuti tren.

Sebelum menggunakan AI, perusahaan perlu menjawab:

• Masalah apa yang diselesaikan?
• Apakah data boleh digunakan?
• Apa dampaknya terhadap pekerja?
• Siapa yang memeriksa hasil?
• Apa yang terjadi jika sistem salah?
• Bagaimana layanan berjalan jika AI tidak tersedia?
• Apakah pelanggan mengetahui mereka berinteraksi dengan AI?
• Siapa yang bertanggung jawab?

AI harus diperlakukan sebagai perubahan proses bisnis, bukan sekadar pembelian perangkat lunak.

Apa yang Perlu Dilakukan Individu?

Masyarakat tidak perlu mencoba mengalahkan AI dalam kecepatan menghafal atau membuat draf.

Kemampuan yang lebih penting adalah:

• Memahami bidang tertentu secara mendalam.
• Menggunakan AI secara kritis.
• Memeriksa fakta.
• Menentukan tujuan.
• Berkomunikasi.
• Membuat keputusan.
• Memahami risiko.
• Menjaga integritas.
• Beradaptasi.

Seseorang yang memiliki pengetahuan bidang dan mampu menggunakan AI secara bertanggung jawab akan lebih bernilai daripada pengguna yang hanya menerima seluruh hasil mesin.

Pertanyaan yang Sering Diajukan

Apakah AI saat ini sudah lebih pintar daripada manusia?

AI sudah melampaui manusia pada beberapa tugas, seperti permainan tertentu, pengolahan data, dan sejumlah benchmark.

Namun AI belum terbukti menguasai seluruh rentang kemampuan kognitif, sosial, dan fisik manusia secara konsisten.

Apakah AI sudah mencapai AGI?

Belum ada sistem yang diakui secara luas telah memenuhi definisi AGI.

Definisi dan metode pengukurannya sendiri masih dikembangkan.

Apakah AGI pasti akan tercapai?

Tidak ada kepastian.

Kemajuan AI sangat cepat, tetapi AGI mungkin membutuhkan terobosan yang belum ditemukan.

Apakah AI yang pintar akan menyerang manusia?

Kecerdasan tidak otomatis menghasilkan kebencian.

Risiko lebih mungkin muncul dari tujuan yang keliru, penyalahgunaan manusia, akses berlebihan, atau perilaku sistem yang tidak diperkirakan.

Apakah superintelligence sama dengan kesadaran?

Tidak.

Superintelligence menggambarkan kemampuan memecahkan masalah yang sangat tinggi. Kesadaran berkaitan dengan pengalaman subjektif. Keduanya bukan hal yang sama.

Apakah semua pekerjaan akan hilang jika AGI tercapai?

Dampaknya sulit dipastikan.

Banyak tugas berpotensi diotomatisasi, tetapi faktor ekonomi, regulasi, hubungan sosial, tanggung jawab, dan pilihan masyarakat tetap menentukan penerapannya.

Apakah AI dapat memperbaiki dirinya sendiri?

AI dapat membantu menulis kode, menguji desain, dan mempercepat penelitian.

Namun peningkatan sistem tetap membutuhkan perangkat keras, energi, data, eksperimen, keamanan, dan keputusan manusia.

Apakah singularity pasti terjadi?

Tidak.

Singularity merupakan hipotesis, bukan peristiwa yang telah terbukti atau memiliki tanggal pasti.

Apa risiko AI yang paling mendesak sekarang?

Risiko yang sudah nyata meliputi informasi keliru, penipuan, bias, privasi, keamanan, perubahan pekerjaan, dan konsentrasi kekuasaan.

Risiko superintelligence memiliki ketidakpastian lebih besar, tetapi tetap perlu diteliti karena potensi dampaknya sangat tinggi.

Kesimpulan

Jika AI menjadi lebih pintar daripada manusia, dampaknya dapat menjadi salah satu titik balik terbesar dalam sejarah peradaban.

AI berkemampuan tinggi dapat membantu manusia:

• Mempercepat penelitian.
• Menemukan obat.
• Mengembangkan energi.
• Meningkatkan produktivitas.
• Memperbaiki pendidikan.
• Mengelola sistem yang sangat kompleks.

Namun teknologi tersebut juga dapat:

• Menggantikan banyak tugas.
• Memperbesar ketimpangan.
• Memusatkan kekuasaan.
• Memperkuat disinformasi.
• Meningkatkan ancaman keamanan.
• Mengurangi kemandirian manusia.
• Menimbulkan risiko kehilangan kendali.

AGI, superintelligence, dan singularity belum menjadi kenyataan yang terbukti. Namun kemajuan AI sudah cukup cepat untuk membuat persiapan tidak boleh ditunda.

Pendekatan yang tepat bukan menghentikan seluruh inovasi dan bukan pula menyerahkan masa depan sepenuhnya kepada perusahaan teknologi.

Manusia perlu membangun AI yang:

• Teruji.
• Transparan.
• Dapat diawasi.
• Memiliki batas kewenangan.
• Aman.
• Bertanggung jawab.
• Memberikan manfaat secara luas.

Pada akhirnya, persoalan terpenting bukan hanya apakah mesin dapat menjadi lebih cerdas daripada manusia.

Pertanyaan yang lebih mendasar adalah:

Apakah manusia cukup bijaksana untuk menentukan tujuan, aturan, dan batas bagi kecerdasan yang diciptakannya?

Kecerdasan dapat membuat teknologi semakin kuat.

Namun kebijaksanaan manusialah yang menentukan apakah kekuatan tersebut digunakan untuk meningkatkan kehidupan atau justru menciptakan risiko baru.