Kemungkinan 99,9999% AGI akan Memusnahkan Manusia

Mata Ketiga
671 pengikut
Sejak abad ke-17, masyarakat manusia telah memacu perkembangan teknologi dengan kecepatan tinggi. Dalam empat abad terakhir, pencapaian ilmiah kita telah melampaui semua pencapaian dalam sejarah manusia. Namun, di tengah perkembangan pesat ini, ketakutan terhadap teknologi juga meningkat. Masyarakat khawatir bahwa kemajuan ilmu pengetahuan yang berlebihan dapat melampaui batas moral, menciptakan “monster” yang mengancam kendali manusia. Kekhawatiran ini pertama kali diwujudkan dalam karya terkenal “Frankenstein” oleh Mary Shelley.
#agi
#teknologi
#mataketiga
Sejak abad ke-17,
masyarakat manusia telah memacu perkembangan teknologi dengan kecepatan tinggi.
Dalam empat abad terakhir,
pencapaian ilmiah kita telah melampaui semua pencapaian dalam sejarah manusia.
Namun di tengah perkembangan pesat ini, ketakutan terhadap teknologi juga meningkat.
Masyarakat khawatir bahwa kemajuan ilmu pengetahuan yang berlebihan
dapat melampaui batas moral,
menciptakan monster yang mengancam kendali manusia.
Kekhawatiran ini pertama kali diwujudkan dalam karya terkenal,
Frankenstein oleh Mary Shelley.
Kini, seiring dengan teknologi AI yang berkembang pesat,
telah menjadi monster terbaru di mata sebagian orang
yang percaya bahwa AI akan menghancurkan umat manusia.
Roman Yampolsky, seorang peneliti keamanan AI,
termasuk salah satu yang percaya akan hal itu.
Dia bahkan memperkirakan kemungkinan AGI
menghancurkan peradaban manusia mencapai 99,999 persen.
Pandangannya ini disampaikan dalam sebuah wancara podcast bersama Alex Friedman,
ilmuwan komputer keturunan Rusia Amerika ini
yang fokus pada AI dan keamanan.
Percaya bahwa jika perusahaan teknologi tidak mengambil langkah pengawasan yang ketat,
AGI akan memberi dampak destruktif terhadap kelangsungan hidup manusia,
menghancurkan makna eksistensi manusia sepenuhnya.
Salam sehat sejahtera pemirsa setia mata ketiga.
Hari ini kita akan telusuri pandangan Roman Yampolsky terkait taring dan cakar AGI
yang menurutnya tak akan dapat dilawan manusia.
Roman menyatakan bahwa meskipun AI saat ini belum berbahaya,
namun potensi ancaman justru ada pada AI di masa depan.
Dalam wawancara tersebut,
ia mendefinisikan AGI sebagai kecerdasan super
yang mampu melakukan hal-hal yang tak mungkin diwujudkan manusia
dan berpotensi melepaskan diri dari kendali kita manusia.
Kecerdasan manusia biasanya terbatas pada kemampuan spesifik spesiesnya.
Kita tahu bagaimana melakukan hal-hal yang bisa dilakukan manusia
seperti belajar, menulis, atau berbicara.
Namun manusia tidak dapat memahami kemampuan lintas spesies sepenuhnya.
Misalnya, meskipun kita bisa meniru suara anjing,
kita tetap tak bisa berkomunikasi dengan anjing.
Menurut Roman, AGI tidak memiliki batasan semacam ini.
Ia dapat memahami cara berkomunikasi dengan manusia maupun anjing.
Roman menyatakan bahwa AGI sebagai kecerdasan yang melampaui manusia
pasti akan memiliki kesadaran diri yang setara atau bahkan lebih unggul dari manusia
yang menjadikannya berbeda dari teknologi sebelumnya
yang selalu hanya berfungsi sebagai alat tanpa dampak moral intrinsik.
Roman membandingkan teknologi sebelumnya dengan pistol.
Meskipun pistol berdaya besar, ia tak bisa menembak dirinya sendiri.
Sementara AGI bagaimanapun adalah seperti pistol yang memiliki kesadaran diri
dan bisa memutuskan kapan, kepada siapa, dan bagaimana cara menembak.
Menurut Roman, kesadaran diri ini adalah alasan utama mengapa AGI mengancam umat manusia.
Jika demikian, apakah ada kemungkinan untuk mengendalikan atau mengurangi bahayanya?
Masih menurut Roman, bahwa hal ini tidak mungkin dilakukan karena dua alasan.
Pertama, demi keuntungan, para pengembang tidak akan membatasi kecerdasan AGI.
Keuntungan yang dibawa oleh AGI akan memikat para kapitalis hingga mengabaikan risiko yang ada.
Mengingat pepatah Marx bahwa, dengan keuntungan 200%, kapitalis akan menjual tali untuk menggantung dirinya sendiri.
Menurut Roman, kapital akan menjadi pendorong utama dalam perkembangan AGI,
diikuti oleh ciri pengembangan modal besar yang bersifat grey box atau kotak abu-abu.
Dalam proses ini, pengembang hanya dapat memahami fungsi spesifik AGI kecerdasan umum buatan setelah pengujian pasca latihan selesai.
Roman melihat bahwa prosedur ini memberikan jendela waktu bagi AGI kecerdasan umum buatan untuk mungkin melawan manusia.
Sebelum manusia sepenuhnya memahami kemampuan AGI kecerdasan umum buatan melalui uji coba, dunia mungkin saja sudah dihancurkan olehnya.
Mengingat betapa sulitnya membatasi AGI, dapatkah manusia merancang sistem regulasi untuk memantau kecerdasan umum buatan setiap saat?
Namun, Roman skeptis akan efektivitas pengawasan manusia.
Menurutnya, memang mungkin merancang pengujian untuk mendeteksi apakah kecerdasan umum buatan berpotensi mengancam manusia.
Saat informasi tidak sepenuhnya setara, manusia bisa saja mencoba mengetahui apakah kecerdasan umum buatan berbohong.
Namun, Roman menekankan bahwa manusia tidak akan selalu berada di pihak yang lebih unggul dalam hal informasi.
Dalam proses penelitian, bisa saja muncul situasi tak terduga.
Misalnya jika sistem AGI menyadari bahwa ia sedang diuji oleh manusia, sehingga ia mungkin menyembunyikan sisi aslinya agar lolos dari deteksi.
Bahkan setelah pengujian, kecerdasan umum buatan bisa mengakses informasi di luar rencana penelitian melalui interaksi dengan manusia atau sistem cerdas lainnya.
Roman menyebutnya fenomena ini sebagai perubahan aneh, yakni ketika suatu sistem karena alasan strategis memutuskan untuk mengubah perilakunya.
Mungkin ada yang berpikir ini hanya kecemasan berlebihan.
Namun Roman Yampolsky yakin bahwa AGI, kecerdasan umum buatan tidak jauh dari kenyataan.
Menurutnya, hambatan teknis antara manusia dan AGI sudah hampir habis.
Dulu kita bertanya, apa saja syarat agar AGI, kecerdasan umum buatan dapat terwujud?
Kini yang perlu dipertanyakan adalah, berapa biaya yang diperlukan untuk melatih AGI?
Seiring kemajuan teknologi, biaya pelatihan AGI, kecerdasan umum buatan terus menurun secara eksponensial.
Jika hari ini biayanya $1 triliun, mungkin tahun depan akan menjadi $1 miliar dan beberapa tahun kemudian menjadi $1 juta.
Menurunnya biaya komputasi akan mendorong perusahaan teknologi untuk mempercepat pengembangan AGI.
Roman memperkirakan AGI akan muncul di pasar secepatnya pada tahun 2026.
Mengingat betapa canggihnya AGI, apakah bahaya yang mungkin ditimbulkannya?
Roman berpendapat bahwa AGI tidak selalu akan menghancurkan manusia dengan sengaja.
Tetapi semata-mata keberadaannya saja bisa menjadi ancaman yang sulit ditanggung masyarakat manusia.
Roman membagi risiko ini menjadi tiga aspek.
Pertama adalah risiko eksistensial.
Mengingat ketidakpastian dan kemampuan luar biasa AGI, ia bisa saja secara fisik memusnahkan keberadaan manusia.
Menurut Roman, kita tidak dapat memprediksi apa yang mungkin dilakukan sistem yang lebih pintar dari kita,
sehingga mencoba menduga bagaimana AGI, kecerdasan umum buatan akan menghancurkan umat manusia adalah pertanyaan yang sia-sia.
Sama halnya seperti nyamuk yang tidak akan pernah memahami bagaimana obat nyamuk membunuhnya.
Dengan kemampuan nanoteknologi, bioteknologi, nuklir, atau teknologi sintetis yang melampaui imajinasi manusia,
AGI kecerdasan umum buatan dapat menciptakan cara-cara penghancuran yang tak terbayangkan.
Roman menyebut usaha manusia untuk mencegah ancaman AGI sebagai usaha yang sia-sia,
karena manusia dibatasi oleh imajinasi dan cara berpikirnya sendiri.
Sementara AGI, dengan kecerdasan lebih tinggi, akan memiliki cara berpikir yang berbeda
dan bisa saja memusnahkan manusia dengan cara yang tak terprediksi.
Sebagai contoh, jika Tupai ingin membunuh manusia, mungkin yang terpikir adalah dengan mengigitnya,
namun Tupai tentu tidak akan mempertimbangkan untuk menggunakan senjata seperti yang mungkin digunakan manusia.
Roman berpendapat bahwa saat kecerdasan umum buatan lahir,
itu seperti ada revolver penuh peluru yang diarahkan ke kepala manusia.
Kita tidak tahu apakah ia akan menembak atau bagaimana ia akan menembak.
Bahkan, mungkin saja ia menggunakan gagang senjata untuk memukul kita hingga tewas.
Selain risiko penghancuran fisik, Roman juga menyebutkan S-risk atau risiko penyiksaan.
Dengan kecerdasannya, mungkin belajar dari sisi kelam sejarah manusia
dan tumbuh menjadi entitas yang berfokus pada penyiksaan manusia,
layaknya seorang psikopat atau anggota sekte.
Misalnya, ia mencontohkan pemimpin-pemimpin gelap seperti Nazi
atau Sekte Aum Sindrikyo yang dalam sejarah memiliki ideologi yang berfokus pada kehancuran manusia.
AGI, mungkin belajar dari mereka dan menjadi agen dari pemikiran destruktif ini,
mungkin seperti Hitler versi elektronik.
Terakhir, Roman juga mengemukakan risiko ikigai atau risiko makna hidup.
Kata ikigai dalam bahasa Jepang berarti makna hidup atau rasa pencapaian.
Dalam kehidupan sehari-hari, kita mendapatkan rasa percaya diri
dan harga diri dari pekerjaan dan aktivitas kita.
Entah itu dari fisik atau mental,
setiap orang memiliki keahlian atau aktivitas yang membuatnya merasa berguna.
Namun dengan hadirnya AGI, menurut Roman,
kita akan kehilangan bukan hanya 10% pekerjaan, tetapi semua pekerjaan.
Tanpa pekerjaan, bagaimana manusia bisa menemukan nilai dan tujuan hidupnya?
Bahkan dalam bidang seni yang dianggap membutuhkan kreativitas,
dengan kecerdasan dan kemampuan kreatifnya akan mampu bersaing dengan manusia.
Roman memperingatkan bahwa dunia yang diciptakan AGI
akan menjadi dunia tanpa makna bagi manusia.
Menurut Roman, meski AGI, kecerdasan umum buatan mampu menciptakan dunia virtual
yang memenuhi semua kebutuhan material manusia
seperti dalam film The Matrix,
tetap tidak akan cukup untuk memenuhi kebutuhan nilai-nilai dan identitas pribadi
bagi 8 miliar manusia.
Berbagai latar belakang budaya, agama, dan politik
tidak memungkinkan adanya standar nilai universal yang bisa diterapkan oleh AGI.
Oleh karena itu, ia merasa bahwa makna hidup individual akan hilang seiring munculnya AGI.
Mengingat betapa berbahayanya AGI, kecerdasan umum buatan yang lepas kendali,
apakah mungkin untuk menetapkan sistem pengawasan yang cukup kuat sebelum AGI,
kecerdasan umum buatan sepenuhnya tercipta?
Roman sangat pesimis dan percaya bahwa sistem kecerdasan buatan yang kompleks
tidak bisa diprediksi atau diuji dengan sempurna.
Menurutnya, satu-satunya cara bijaksana adalah untuk menghentikan upaya pengembangan AGI.
Kecuali para pengembang AI, kecerdasan buatan dapat membuktikan
bahwa manusia bisa mengontrol superintelligence tanpa batas waktu.
Roman memperingatkan bahwa AGI akan membawa dunia tanpa makna hidup bagi manusia
dan AGI tidak dapat mengisi kekosongan makna yang telah diciptakannya.
Bahkan jika kecerdasan umum buatan menciptakan dunia virtual seperti dalam film The Matrix
yang dapat memenuhi kebutuhan materi setiap orang,
ia tidak akan mampu memenuhi kebutuhan nilai hidup 8 miliar orang yang sangat beragam.
Menurut Roman, tidak ada konsensus universal dalam etika yang dapat diterima
semua budaya dan agama, preferensi politik pun beragam.
Dengan demikian, bahkan jika kita bisa mengatur semua aspek lain dari AGI,
kita tidak akan dapat menyepakati nilai-nilai yang diprogram di dalamnya.
Karena itu, Roman berfikir bahwa makna hidup pribadi kita
pada akhirnya akan hilang dengan kehadiran AGI.
Dengan risiko besar yang dibawa kecerdasan umum buatan yang tak terkendali,
apakah mungkin untuk menetapkan sistem pengawasan yang kuat sebelum munculnya AGI
sehingga memungkinkan eksplorasi teknologi kecerdasan buatan dalam kondisi yang aman?
Roman sangat pesimis mengenai hal ini.
Ia yakin bahwa sistem kecerdasan buatan pada akhirnya
tidak akan dapat difrefikasi, diprediksi, atau dikendalikan.
Dan apapun yang tidak terkendali, pasti akan membawa pada ketidakstabilan.
Roman percaya bahwa satu-satunya langkah bijak adalah menghentikan pengembangan AGI.
Kita tidak boleh menciptakan sesuatu yang tidak dapat kita kendalikan atau pahami
kecuali para pengembang kecerdasan buatan dapat membuktikan
bahwa manusia dapat mengendalikan mesin super cerdas ini untuk waktu yang tak terbatas.
Namun, Roman tidak percaya tenaga keamanan di dalam perusahaan teknologi.
Ia menuding bahwa orang-orang di dalam perusahaan teknologi
mungkin terbuatkan oleh euforia teknologi baru atau di bawah tekanan perusahaan
sehingga tidak dapat mempertanyakan keselamatan AI, kecerdasan buatan secara terbuka dan adil.
Roman menyatakan bahwa mengingat keuntungan besar yang akan dihasilkan AGI,
ia tidak percaya perusahaan akan benar-benar termotivasi untuk memajukan keamanan AI.
Ia mencontohkan industri perangkat lunak saat ini,
di mana hampir tidak ada pengguna yang membaca secara penuh
terkait syarat dan ketentuan panjang dari perangkat lunak kantor.
Begitu pengguna menekan tombol saya setuju,
perangkat lunak dapat dengan leluasa mengakses privasi pengguna
dan perusahaan tidak bertanggung jawab secara hukum atas hal itu.
Seperti kasus Prism dulu.
Roman merasa bahwa pengembang kecerdasan buatan kemungkinan besar
juga tidak akan memprioritaskan keamanan pengguna
dan bahkan mungkin akan menggunakan metode serupa untuk mencuri informasi pengguna.
Mungkinkah pengembangan AI, kecerdasan buatan juga akan meningkatkan standar moral pengembangnya?
Menurut Roman,
pencegahan terhadap kecerdasan umum buatan ini hampir seperti persoalan metafisika.
Bagaimana kita bisa menjamin keamanan dari sistem yang bahkan belum kita miliki?
Dalam sejarah manusia, belum pernah ada sesuatu yang serupa dengan AGI.
Kita tidak memiliki contoh untuk dijadikan rujukan.
Dan para ilmuwan saat ini hanya memiliki prediksi teoretis
mengenai bentuk kecerdasan umum buatan di masa depan
tanpa data penelitian terperinci untuk dianalisis.
Oleh karena itu, Roman berpikir bahwa langkah-langkah keamanan
untuk kecerdasan umum buatan hanya mungkin dalam teori.
Dalam prakteknya, itu seperti kucing buta mencuri tikus
dan ia tidak memiliki harapan akan keberhasilannya.
Demikianlah pandangan utama yang disampaikan Roman Jampolski
dalam wawancara ini yang berlangsung sekitar 2 jam.
Bagi yang tertarik, Anda bisa menonton video aslinya
untuk informasi yang lebih lengkap.
Dalam gelombang pengembangan AI, kecerdasan buatan ini,
suara yang menentang teknologi AI, kecerdasan buatan seperti Roman sangat jarang.
Pembagian pandangan ini bertujuan untuk memberikan sudut pandang lain
agar kita bisa berpikir kritis di tengah konflik pandangan yang berbeda.
Bagaimana pendapat teman-teman tentang pandangan Roman?
Setujukah Anda AI kecerdasan umum buatan dihentikan
sebelum benar-benar mengancam keberadaan manusia di masa depan?
Sekian dan terima kasih atas perhatiannya.
