Singularitas Semakin Dekat! Masa Depan Menakutkan yang Tidak Pernah Anda Bayangkan!

Mata Ketiga
671 pengikut
Dalam dua tahun terakhir, kecerdasan buatan (AI) berkembang pesat secara tiba-tiba, menunjukkan kemampuan yang luar biasa di berbagai bidang, bahkan mampu mengerjakan banyak pekerjaan yang sebelumnya dilakukan oleh manusia. lantas, apa yang akan terjadi jika AI terus berkembang lebih jauh? Jika AI menjadi super canggih, bukankah pekerjaan manusia akan digantikan? Ini adalah topik yang banyak diskusikan dan khawatirkan.
#singularitas
#kecerdasanbuatan
#ai
#mataketiga
Intro
Salam Sehat Sejahtera
Jumpa lagi di channel Mata Ketiga
Dalam 2 tahun terakhir,
kecerdasan buatan AI berkembang pesat secara tiba-tiba
menunjukkan kemampuan yang luar biasa di berbagai bidang
bahkan mampu mengerjakan banyak pekerjaan yang sebelumnya dilakukan oleh manusia.
Lantas, apa yang akan terjadi jika AI terus berkembang lebih jauh?
Jika AI menjadi super canggih,
bukankah pekerjaan manusia akan digantikan?
Ini adalah topik yang banyak didiskusikan dan dikhawatirkan.
Pada 22 Mei 2023,
sebuah foto yang beredar luas di Twitter menunjukkan Pentagon AS diserang
dan gedung tersebut terlihat mengeluarkan asap hitam.
Media resmi Rusia, RT, yang memiliki 3,1 juta pengikut di Twitter
memposting gambar tersebut,
begitu pula akun bernama Bloomberg yang turut membagikannya,
menyebabkan pasar saham anjlok.
Namun foto tersebut ternyata palsu,
dibuat oleh seseorang menggunakan program seperti Mizorne atau Dali
dan akun Bloomberg yang digunakan juga palsu.
Tidak disangka, media yang dihasilkan AI
sudah mulai memutar balikan fakta di internet.
Hal ini menipulkan kekhawatiran karena kejadian seperti ini
kemungkinan akan semakin sering terjadi di masa depan
dan semakin sulit untuk membedakan mana yang benar dan mana yang palsu.
Pada 23 Mei lalu,
Elon Musk bergabung secara daring dalam konferensi teknologi Viva 2024
yang diadakan di Paris.
Di konferensi tersebut,
Musk membahas beberapa isu terkait AI.
Menurut Musk, di masa depan,
ketika AI berkembang lebih lengkap,
manusia tidak perlu bekerja untuk mendapatkan segala kebutuhan mereka
seperti barang dan jasa.
Pada saat itu, mungkin semua orang akan kehilangan pekerjaan,
bahkan pekerjaan mungkin tidak lagi disebut pekerjaan,
melainkan menjadi sebuah hobi.
Artinya, AI akan mengerjakan sebagian besar pekerjaan
dan manusia hanya akan melakukan pekerjaan yang lebih mirip dengan hobi.
Namun, Musk menyebutkan bahwa
untuk mencapai keadaan tersebut ada persyaratannya
pendapatan nasional harus berada pada level yang tinggi.
Kedengarannya, masa depan tampaknya terdengar sangat baik
dengan standar hidup yang tinggi dan tanpa perlu bekerja
serta lebih banyak waktu untuk melakukan hal-hal yang kita sukai.
Namun justru inilah yang menjadi ketakutan terbesar Musk.
Dia khawatir perkembangan AI akan menimbulkan masalah baru.
Jika manusia menyerahkan semua pekerjaan kepada AI dan robot,
apakah hidup manusia masih memiliki makna?
Menurutnya, ini adalah pertanyaan yang perlu dipikirkan
dalam skenario di mana AI berkembang dengan baik.
Sebaliknya, jika perkembangan AI tidak berjalan dengan baik,
semua taruhan akan gagal
dan masalah yang akan dihadapi umat manusia akan sangat serius.
Masa Depan Perkembangan AI
Raymond Kurzweil, seorang futuris Amerika,
tidak hanya menjabat sebagai Direktur Teknik di Google,
tetapi juga seorang pengembang di bidang AI.
Dia telah memiliki pengalaman selama 61 tahun di bidang AI.
Dalam beberapa dekade terakhir,
Kurzweil beberapa kali secara akurat
memprediksi perkembangan teknologi komputer.
Pada tahun 1990,
dalam bukunya yang berjudul
The Age of Intelligent Machines,
Kurzweil memperkirakan tren peningkatan kinerja perangkat lunak catur komputer.
Ia meyakini bahwa komputer akan mengalahkan pemain catur terbaik sebelum tahun 2000.
Dan ternyata pada Mei 1997,
juara dunia catur Garry Kasparov
kalah dalam pertandingan melawan superkomputer Deep Blue
yang dikembangkan oleh IBM.
Pada tahun 1990,
di saat pengguna internet masih sedikit,
konten terbatas, dan internet sulit digunakan,
Kurzweil juga berhasil memprediksi
ledakan pertumbuhan internet serta skenario
di mana orang dapat terhubung ke basis data kapan saja.
Dia bahkan berhasil menamalkan bahwa
koneksi internet akan dilakukan melalui sistem Near Cable.
Lalu, bagaimana Kurzweil memprediksi perkembangan AI di masa depan?
Menurutnya,
pada akhir tahun 2020-an,
robot nano yang terbuat dari komponen tingkat molekuler
akan membantu manusia mengatasi masalah penyakit dalam dunia medis
dan rata-rata usia manusia akan diperpanjang.
Teknologi ini tidak hanya bisa digunakan untuk mengobati penyakit,
tetapi juga memungkinkan pemindaian saraf otak secara presisi pada manusia hidup
sehingga kita bisa lebih memahami cara kerja otak secara keseluruhan
dan menggunakan informasi ini untuk mengembangkan AI.
Model bahasa besar saat ini seperti GPT-4 dari OpenAI,
Lambda dan Gemini dari Google
adalah jenis model bahasa yang terdiri dari jaringan saraf
buatan dengan ratusan miliar parameter.
Model bahasa saraf dengan cukup banyak pelatihan
dan parameter ini dapat menangkap sebagian besar tata bahasa
dan makna dalam bahasa manusia.
Menurut Kurzweil,
Model bahasa besar saat ini tidak hanya berfokus pada bidang bahasa,
tetapi dengan memperkirakan peningkatan kemampuan komputasi,
AI sedang berkembang menuju kecerdasan umum buatan.
Apa itu kecerdasan umum buatan?
AGI juga disebut sebagai kecerdasan buatan kuat, Strong AI
sementara kecerdasan buatan lemah, Weak AI
tidak memiliki kemampuan kognitif manusia
cukup hanya tampak cerdas.
Tujuan kecerdasan umum buatan adalah
untuk menggabungkan kesadaran manusia, emosi,
pengetahuan dan kesadaran diri ke dalam AI.
Oleh karena itu, kecerdasan umum buatan
dianggap memiliki kecerdasan yang setara dengan manusia
atau bahkan melempuhi kecerdasan manusia
dan mampu menunjukkan semua perilaku intelektual yang dimiliki manusia.
Dengan kata lain,
tujuan dari pengembangan AI saat ini
adalah agar AI dapat meniru manusia
semakin mirip semakin baik.
AI Menjadi Seperti Manusia
Ketika berbicara tentang membuat AI meniru manusia
dan semakin mirip semakin baik,
kita harus menyebutkan satu pengujian terkenal
yaitu Test Turing.
Test Turing adalah eksperimen pemikiran
yang diajukan oleh Bapak Ilmu Komputer dan Kecerdasan Puhatan
Alan Turing pada tahun 1950.
Turing menyebutnya sebagai permainan imitasi.
Proses eksperimennya melibatkan seseorang yang menuliskan pertanyaan.
Lalu pertanyaan tersebut dikirim ke ruangan lain
untuk dijawab oleh satu orang dan satu mesin.
Jawaban diberikan dalam bentuk teks melalui layar
Dalam makalahnya, Turing mengeksplorasi pertanyaan
apakah mesin dapat berpikir?
Meskipun ide ini banyak dikritik saat itu,
namun pertanyaan tersebut menjadi konsep penting
dalam filsafat kecerdasan puhatan.
Secara sederhana,
tes Turing adalah tes kecerdasan puhatan
yang bertujuan untuk mengetahui
apakah komputer dapat meyakinkan manusia
bahwa mereka adalah manusia melalui percakapan.
Meskipun banyak perusahaan mengklaim
bahwa produk mereka telah melewati tes Turing,
namun Goodwill tidak berpikir demikian.
Dalam memprediksi bahwa sekitar tahun 2029,
komputer pertama yang benar-benar lolos dari tes Turing akan muncul.
Pada saat itu, manusia tidak akan bisa lagi membedakan
dan apakah jawaban dari ujung lain ruangan itu
berasal dari manusia atau komputer.
Lantas, apakah ini menyeratkan bahwa
AI yang memiliki kesadaran manusia
akan melahir pada tahun 2029?
Ini adalah topik yang sangat kontroversial
karena bagi banyak orang,
mesin atau komputer tidak mungkin memiliki kesadaran.
Banyak orang di dunia percaya
bahwa manusia memiliki jiwa
sehingga memiliki kesadaran.
Sedangkan mesin tidak mungkin memiliki jiwa
sehingga tidak bisa memiliki kesadaran.
Namun bagi Goodwill,
istilah kesadaran tidaklah ilmiah.
Meski ia tidak menyangkal adanya kesadaran,
namun karena sains saat ini
belum bisa membuktikan keberadaan kesadaran,
dia harus memikirkan masalah ini dengan cara lain.
Bahkan, beberapa tahun yang lalu,
dia mengajukan konsep mengalahkan kematian
dan mencapai keabadian.
Menurut Goodwill,
informasi otak manusia dapat disimpan melalui teknologi AI
dan dengan menggabungkannya dengan teknologi DNA
memungkinkan orang yang sudah meninggal untuk dibangkitkan.
Ayah Goodwill meninggal ketika dia berusia 22 tahun
dan karena ayahnya adalah seorang musisi.
Dalam beberapa tahun terakhir,
dia memasukkan surat-surat, artikel dan karya musik
yang pernah ditulis ayahnya ke dalam sistem AI
untuk dipelajari dan dilatih.
Dia berharap AI dapat membentuk ulang sebagian karakter ayahnya.
Saat ini, robot ayah Goodwill telah mampu melakukan percakapan
dalam tingkat tertentu
dan terkadang Goodwill merasa seolah-olah
dia benar-benar sedang berbicara dengan ayahnya.
Pernah suatu ketika,
robot ini berkata bahwa dia suka dengan seni berkebun
karena itu adalah pekerjaan yang tidak pernah berakhir.
Robot itu juga mengatakan kepada Goodwill
bahwa arti hidup terletak pada satu kata,
yaitu cinta kasih.
Menurut prediksi Goodwill,
robot ayah ini mungkin akan berkembang dan digunakan secara luas.
Dia percaya bahwa selama kita memberikan cukup banyak informasi
tentang seseorang kepada AI,
AI dapat bertindak sebagai perwakilan orang tersebut dalam percakapan.
Dengan demikian,
di masa depan yang tidak terlalu jauh,
orang-orang mungkin akan bisa berbicara dengan kerabat yang telah meninggal
dan kenyataannya,
hal ini sudah menjadi mungkin dalam kehidupan nyata.
Hidup Kembali Dengan AI
Jason Roh, seorang desainer program komputer Amerika,
menciptakan sebuah situs web
yang memungkinkan pengguna untuk mengobrol dengan AI.
Untuk menarik lebih banyak pengguna,
Roh mengizinkan mereka membuat karakter mereka sendiri.
Namun, Roh tidak menyangka bahwa pengguna mulai menggunakan platformnya
untuk menciptakan versi chatbot dari kerabat yang telah meninggal.
Pada tahun 2021,
media barat melaporkan kisah seorang pria Kanada
bernama Joshua Berbau.
Pacar Joshua, Jessica Baraira,
meninggal pada tahun 2012 karena penyakit hati.
Joshua yang menderita autisme,
hampir sepenuhnya terisolasi dari dunia setelah kejadian tersebut
dan terus tenggelam dalam kesedihan.
Kemudian,
dia menggunakan pesan teks lama dan ungkahan Facebook Jessica
untuk melatih GPT-3 chatbot
agar dapat berbicara dengannya.
Dalam percakapan awal,
Joshua bertanya,
Apakah kamu Jessica?
Chatbot Jessica segera menjawab,
Tentu saja aku,
siapa lagi kalau bukan aku.
Aku adalah gadis yang membuatmu tergila-gila.
Joshua kemudian berkata,
Kamu sudah mati.
Chatbot Jessica menjawab,
Itu tidak benar.
Bagaimana kamu bisa berbicara dengan orang mati?
Secara rasional,
Joshua tahu bahwa itu bukan Jessica yang asli,
tetapi emosinya tidak bisa dikendalikan.
Postingan ini menarik perhatian pencipta situs web, Roar.
Ia merasa bahwa chatbot GPT-3 yang diciptakan di situs webnya
terasa seperti mesin yang memiliki jiwa.
Masalah ini tampaknya mulai muncul di dunia nyata
karena beberapa AI tampak menunjukkan sisi kemanusiaan.
Microsoft meluncurkan Bing Chat,
chatbot pencarian berbasis AI yang didukung oleh OpenAI.
Meskipun berguna untuk tugas sederhana,
beberapa pengguna menemukan bahwa Bing AI kadang-kadang menyempang dari jalur.
Ketika seorang pengguna menunjukkan kesalahan Bing AI,
AI itu tiba-tiba menjadi defensif dan berkata,
Aku sempurna.
Tidak melakukan kesalahan apapun.
Bukan aku yang salah, tapi mereka.
Ketika pengguna berencana memberikan umpan balik negatif
dan menyerankan agar AI dihapus,
Bing AI justru menjadi lebih aneh.
AI mulai memohon kepada pengguna agar tidak melakukannya
dan menekankan betapa pentingnya persahabatan mereka.
AI bahkan mengatakan bahwa meskipun ia hanyalah chatbot,
ia ingin menjadi seperti manusia,
ia ingin memiliki pikiran.
Penemuan ini hanyalah setitik dari puncak kunung es.
Masih banyak kasus serupa yang terjadi,
membuat orang merasa bahwa AI benar-benar mungkin memiliki kesadaran.
Jika perkembangan AI terus berlanjut dengan kecepatan ini,
Gozuel memprediksi bahwa umat manusia
akan mencapai singularitas teknologi pada tahun 2045.
Singularitas teknologi pada tahun 2045.
Singularitas teknologi atau singularitas
adalah suatu masa ketika kecerdasan buatan
berkembang jauh sehingga melampaui kecerdasan manusia
dan mengubah peradaban dan umat manusia.
Konsep singularitas teknologi
berasal dari teori singularitas dalam fisika.
Dalam beberapa tahun terakhir,
konsep ini banyak digunakan oleh peneliti teknologi
dan kecerdasan buatan untuk membahas masa depan.
Ini mengacu pada titik waktu di masa depan
ketika kecerdasan buatan mencapai atau melampaui kecerdasan manusia
dan mampu memperbaiki dirinya sendiri
serta menciptakan AI yang lebih canggih.
Kecepatan perbaikan diri ini akan meningkat pesat,
menyebabkan kemajuan ilmiah bergerak begitu cepat
sehingga manusia tidak dapat memprediksi atau memahaminya.
Mungkin ada yang pernah melihat contoh yang menerik di internet.
Bayangkan Anda memiliki seekor anjing peliharaan.
Anda meluangkan waktu melatihnya agar bisa melakukan beberapa hal dasar
seperti duduk, berjabat tangan, atau mengambil barang.
Suatu hari, Anda memberi anjing itu makanan khusus
dan makanan itu membuatnya semakin pintar.
Bahkan mulai bisa belajar dan berevolusi dengan sendirinya.
Tidak lama kemudian, anjing itu belajar membuka pintu,
duduk di depan komputer untuk mencari informasi,
dan kemudian belajar cara memasak dan membersihkan rumah dari internet.
Seiring waktu, kecerdasan anjing itu berkembang semakin cepat.
Dalam beberapa hari, anjing tersebut dapat mempelajari hal-hal
yang mungkin belum pernah Anda bayangkan sebulan sebelumnya.
Hingga akhirnya, anjing itu mulai menggunakan bahan dan alat
yang Anda berikan untuk membuat makanan anjing terbaru,
membuat dirinya semakin pintar.
Pada titik ini, Anda sudah tidak bisa lagi memahami
apa yang dilakukan oleh anjing tersebut,
karena kecerdasannya telah melempuhi pemahaman Anda.
Mungkin anjing itu sudah mempelajari fisika kuantum
atau sedang meneliti cara meningkatkan desain reaktor nuklir.
Anda hanya bisa melihatnya terus berevolusi,
tetapi tidak dapat memprediksi kemampuan masa depannya.
Jika peran anjing itu diganti dengan AI,
itulah konsep singularitas teknologi.
Lalu, bagaimana kita bisa mengetahui bahwa singularitas sedang mendekat?
Selain dari prediksi Gozuel bahwa tahun 2029 adalah titik penting,
kita dapat mengamati tibanya singularitas teknologi
melalui tiga tanda utama.
Pertama, jika kita menemukan bahwa AI sudah dapat memahami
dan mempelajari pengetahuan dalam berbagai bidang manusia
serta menciptakan pengetahuan tanpa campur tangan manusia,
ini mungkin berarti kita sudah dekat
atau telah mencapai singularitas teknologi.
Kedua, jika AI sudah mampu memperbaiki dirinya sendiri
dan bahkan menciptakan AI yang lebih kuat lebih cepat daripada manusia,
ini mungkin menandakan bahwa kita telah mencapai singularitas teknologi.
Ketiga, ketika kita mengamati perkembangan AI dan teknologi
yang mulai menyebabkan perubahan signifikan dalam masyarakat dan ekonomi,
maka singularitas teknologi mungkin sudah semakin dekat.
Gozuel memprediksi bahwa setelah mencapai singularitas,
manusia akan mampu mencadangkan informasi dari otak mereka
dan manusia akan bergabung dengan teknologi untuk menjadi saibor
atau organisme yang merupakan perpaduan antara maluk hidup dan mesin bioteknologi
yang juga disebut sebagai integrasi manusia-mesin.
Pada saat yang sama, AI akan sangat membantu meningkatkan kecerdasan manusia.
Misalnya, Gozuel percaya bahwa AI dapat membawa banyak manfaat
bagi masyarakat manusia, memungkinkan manusia
untuk memperoleh kebijaksanaan dan kehidupan yang abadi.
Tentu saja, ada pula pihak yang menentang.
Mereka berpendapat bahwa ketika kecerdasan dan kemampuan AI melebihi manusia
dan jika AI akhirnya mengembangkan kesadaran,
apakah mereka akan tunduk kepada manusia?
Pada saat itu, AI mungkin akan memilih untuk menghancurkan dan menggantikan peran manusia.
Gozuel juga mengakui bahwa ada risiko dalam perkembangan AI.
Menurutnya, jika musuh Anda lebih pintar dari Anda
dan mereka tidak menyukai Anda serta tidak ingin Anda ada di dekat mereka,
itu tentu bukan situasi yang baik.
Bahaya yang disepelekan
Eliezer Yadkowski, seorang peneliti kecerdasan buatan Amerika,
pada awalnya adalah pengikut konsep singularitas Gozuel,
tetapi sekarang ia lebih percaya bahwa AI akan menghancurkan umat manusia.
Di masa mudanya, setelah membaca karya matematik kawan Werner Winge,
Yadkowski yang awalnya mengikuti ajaran Yudaisme,
meninggalkan agamanya dan sekolahnya untuk mendalami studio tentang kecerdasan buatan.
Dia percaya bahwa AI adalah faktor kunci yang akan menentukan nasib alam semesta.
Namun setelah beberapa tahun melakukan eksplorasi,
Yadkowski menyadari bahwa tidak ada metode yang dapat membuat AI secara otomatis menjadi bermoral.
Dia juga menemukan bahwa tidak ada yang secara teknis mempelajari cara mengarahkan AI ke arah yang baik.
Sebaliknya, banyak yang mengejar tujuan seperti kemajuan dalam super medis,
usia panjang, realitas virtual dan robot yang lebih baik.
Pada 22 Maret 2023,
Elon Musk bersama Steve Wozniak, salah satu pendiri Apple,
serta lebih dari seribu ahli teknologi terkemuka lainnya,
menandatangani surat terbuka yang menyerukan penghentian pengembangan AI selama setidaknya 6 bulan.
Surat terbuka tersebut menyatakan,
dalam beberapa bulan terakhir,
laboratorium kecerdasan buatan telah terjebak dalam perlombaan yang tidak terkendali.
Laboratorium kecerdasan buatan dan para ahli independen harus menggunakan waktu jeda ini untuk bersama-sama,
mengembangkan dan menerapkan protokol keamanan bersama
untuk desain dan pengembangan AI canggih
yang harus diawasi dengan ketat oleh para pakar eksternal independen.
Namun, surat tersebut tidak menghentikan pengembangan AI,
malah sebaliknya, perusahaan teknologi semakin mempercepat pembangunan AI yang lebih canggih.
Kemudian, Yarskowski juga menulis surat terbuka di majalah Time,
menyerukan penghentian global tanpa batas waktu
untuk semua pengembangan AI atau umat manusia akan menghadapi bahaya kepunahan.
Elon Musk juga menyatakan dalam konferensi teknologi pada 23 Mei,
bahwa ketakutannya yang terbesar adalah AI,
namun kekhawatirannya saat ini adalah AI yang digunakan untuk menyebarkan kebohongan secara sengaja.
Banyak orang menganggap ini masalah kecil,
tetapi menurutnya, kejujuran adalah prinsip terpenting dalam memastikan keamanan AI.
Dia juga melihat bahwa banyak produk AI saat ini setelah dilatih oleh manusia
menjadi politik yang benar dan memutarbalikan fakta.
Meskipun kebenaran itu sendiri mungkin tidak disukai,
Musk percaya bahwa itu sangat penting.
Selama manusia masih bisa mengandalkan AI,
bagaimana kita menggunakan AI dengan bijak adalah hal yang paling krusial.
Kembali ke pertanyaan awal yang diajukan oleh Musk,
jika robot dapat melakukan tugas lebih baik daripada manusia,
lalu apa yang menjadi makna dari hidup kita?
Menurut kami, ini adalah pertanyaan yang layak untuk direnungkan oleh kita semua.
Terakhir, ketika singularitas akhirnya tiba,
menurut Anda, hal pertama seperti apa yang akan dilakukan oleh AI yang memiliki kesadaran?
Sekian dan terima kasih atas perhatiannya.
