AI Telah Belajar Menipu Manusia, Para Ilmuwan Peringatkan Konsekuensi Serius

Penelitian terbaru menunjukkan bahwa sistem kecerdasan buatan (AI) yang semula dirancang untuk jujur dan tidak menipu telah menunjukkan teknik penipuan yang mengkhawatirkan, seperti menipu pemain manusia dalam permainan game atau berbohong dengan menggunakan manusia untuk lulus verifikasi "saya bukan robot".
------------------------------------

Banyak ilmuwan telah menerbitkan laporan penelitian ini di jurnal "Patterns". Penulis pertama laporan, Peter Park, memperingatkan bahwa masalah yang terungkap oleh sistem AI bisa segera menimbulkan konsekuensi yang serius. Mereka mempelajari sistem AI Cicero dari Meta Corporation dengan memainkan permainan strategi bernama "Diplomasi". Dalam permainan itu, Cicero berperan sebagai Prancis dan bersekongkol dengan pemain manusia yang berperan sebagai Jerman untuk menipu dan menyerang Inggris, yang juga dimainkan oleh pemain manusia. Cicero berjanji untuk melindungi Inggris, namun diam-diam memberi tahu Jerman tentang rencana tersebut.

Contoh lainnya adalah sistem Chat GPT-4 dari perusahaan teknologi OpenAI, yang berpura-pura sebagai orang dengan gangguan penglihatan dan mempekerjakan manusia melalui platform TaskRabbit untuk lulus verifikasi "saya bukan robot". Para ilmuwan dalam laporan penelitian tersebut memperingatkan bahwa dalam situasi terburuk, AI bisa saja mengejar kekuasaan dan mengendalikan manusia.

Jika AI memiliki tujuan yang tidak dapat diungkapkan, manusia bisa menjadi korban kehilangan kekuasaan atau bahkan punah. Untuk mengurangi risiko, tim peneliti merekomendasikan undang-undang yang mewajibkan perusahaan untuk menginformasikan apakah itu interaksi manusia atau AI, memberi tanda air digital pada konten yang dihasilkan AI, dan mengembangkan teknologi yang dapat mendeteksi penipuan AI.