Beijing, Bharata Online - Menurut sebuah artikel komentar yang diterbitkan pada hari Kamis (1/10) oleh Yuyuantantian, unit media di bawah naungan China Media Group (CMG), Tiongkok dan Amerika Serikat tidak dapat menyelesaikan seluruh perbedaan mereka secara sekaligus, namun mereka dapat terlebih dahulu mengelola risiko-risiko yang paling mendesak dan, berlandaskan hal tersebut, secara bertahap memperkuat konsensus.
Berikut adalah terjemahan yang telah disunting dari komentar tersebut:
Terdapat berbagai saluran dialog antara Tiongkok dan AS terkait tata kelola kecerdasan buatan (AI) tahun ini, termasuk melalui Perserikatan Bangsa-Bangsa (PBB), G20, APEC, serta Dialog Track Two yang mempertemukan para ahli teknis dan peneliti kebijakan dari kedua negara. Konsensus yang terbentuk di tingkat profesional dapat dirumuskan melalui dialog dan pada akhirnya dikukuhkan di tingkat pengambilan keputusan di masing-masing negara.
Dalam kunjungan kenegaraan Presiden Tiongkok, Xi Jinping, ke Amerika Serikat pada akhir September lalu, Tiongkok dan Amerika Serikat sepakat untuk membentuk saluran komunikasi khusus untuk insiden terkait AI.
Cyrus Hodes dan Nicolas Miailhe, dua pendiri AI Safety Connect, sebuah lembaga keselamatan AI yang memiliki hubungan erat dengan PBB, menyampaikan kepada Yuyuantantian bahwa mereka telah lama berupaya mewujudkan saluran komunikasi ini.
Mereka menilai keberhasilan hal ini mencapai panggung global sebagai "langkah positif", namun menegaskan bahwa ini baru langkah awal. Saat ini, mereka tengah berdiskusi dengan mitra sejawat dari Tiongkok dan AS mengenai cara membangun mekanisme pelaporan insiden, sehingga laboratorium AI di kedua negara dapat saling berkomunikasi sekaligus berkoordinasi dengan pemerintah masing-masing.
Kini, semakin banyak isu yang mengarah pada hasil nyata. Salah satunya adalah upaya mencegah penyalahgunaan kemampuan AI yang paling berbahaya, termasuk memastikan teknologi tersebut tidak dimanfaatkan oleh organisasi teroris.
Xiao Qian, Wakil Direktur Center for International Security and Strategy (CISS) di Universitas Tsinghua sekaligus tokoh kunci dalam Dialog Track Two Tingkat Tinggi Tiongkok-AS, menyatakan bahwa pembentukan saluran komunikasi untuk insiden AI dan pencegahan penyalahgunaan AI sejalan dengan kepentingan Tiongkok. Sejumlah peneliti kebijakan di lembaga keselamatan AI AS juga telah menyerukan peningkatan komunikasi terkait kedua isu tersebut.
Terlepas dari perkembangan komunikasi seputar AI antara Tiongkok dan AS, beberapa isu mendasar masih menghadirkan tantangan nyata. Zhu Yan, seorang peneliti asal Tiongkok, menyebutkan bahwa salah satu masalahnya terletak pada terminologi. Dalam bahasa Inggris, "safety" (keselamatan) dan "security" (keamanan) merupakan konsep yang berbeda, sedangkan dalam bahasa Mandarin, kedua konsep tersebut diungkapkan dengan satu kata yang sama.
Perbedaan dalam metode klasifikasi risiko AI juga menyebabkan kedua belah pihak memperlakukan "risiko besar" secara berbeda. Peneliti AI di AS terutama mengkhawatirkan apakah AI dapat menyebabkan kehancuran masyarakat manusia, sementara peneliti di Tiongkok lebih menyoroti risiko spesifik yang muncul dari penggunaan praktis AI.
Katarina Slama, mantan insinyur di perusahaan teknologi AS, OpenAI, mengatakan bahwa pada tahap awal pelatihan AI, manusia memberikan umpan balik terhadap respons AI untuk mengarahkannya agar memahami niat manusia. Kemudian, menurutnya, proses ini digantikan dengan sistem yang memberikan AI umpan balik kepada AI lainnya. Akibatnya, menyelaraskan pola pikir AI dengan tujuan manusia menjadi jauh lebih sulit, simpulnya.
Pihak AS juga ingin mengetahui apakah perusahaan, pakar, dan masyarakat umum di Tiongkok merasa khawatir bahwa suatu hari nanti AI bisa lepas kendali atau bahkan berbalik mengendalikan manusia. Mereka mengajukan banyak pertanyaan semacam itu dalam Dialog Tingkat Tinggi Jalur Dua (Track Two Dialogue) antara Tiongkok dan AS, namun terlihat adanya perbedaan posisi di antara kedua belah pihak.
Ada alasan praktis di balik kesenjangan persepsi ini.
Meskipun model bahasa besar (Large Language Model/LLM) dari Tiongkok telah diakui secara global, partisipasi Tiongkok dalam komunitas keselamatan AI di Eropa dan Amerika masih belum memadai. Namun masalahnya adalah, bahkan ketika tidak ada personel atau perusahaan Tiongkok yang hadir, diskusi mengenai tata kelola AI tidak dapat menghindari isu-isu yang berkaitan dengan Tiongkok.
Hal ini mengarah pada pertanyaan yang lebih mendasar mengenai penyusunan aturan terkait AI. Tiongkok dan AS adalah dua kekuatan utama di bidang AI dan seharusnya memiliki peran yang sepadan dalam penetapan aturan serta standar.
Peluang kerja sama antara Tiongkok dan AS kini lebih terbuka dibandingkan beberapa bulan yang lalu. Jendela kebijakan telah terbuka dan kedua belah pihak memiliki niat untuk melangkah maju, namun kuncinya terletak pada bagaimana mewujudkannya.
Oleh karena itu, kedua belah pihak perlu mencapai kesepahaman bersama terlebih dahulu sebelum mengambil tindakan konkret.
Kedua belah pihak perlu mendiskusikan standar klasifikasi dan tingkatan risiko AI. Pertama, mereka perlu memperjelas definisi risiko utama AI serta perilaku model yang mencerminkan hilangnya kendali secara serius.
Kedua, kedua belah pihak perlu merampungkan cakupan, proses, dan persyaratan pelaporan insiden risiko AI.
Begitu terjadi insiden seperti hilangnya kendali atau lepasnya kendali atas model, kedua belah pihak harus segera memahami situasi, menilai tingkat risiko, mencermati pola perkembangan risiko, serta melakukan pengelolaan terhadap AI.
Selain itu, kedua belah pihak sebaiknya menempatkan tata kelola AI dalam kerangka pertukaran Tiongkok-AS yang lebih luas.
Diskusi mengenai AI harus melibatkan Tiongkok sepenuhnya dan memberikan ruang bagi suara lebih banyak negara untuk didengar. Model-model AI dapat memengaruhi keselamatan publik, sementara deepfake dapat berdampak pada kepercayaan sosial. Pada akhirnya, konsekuensi-konsekuensi ini akan ditanggung oleh masyarakat secara keseluruhan.
Senator Negara Bagian California, Jerry McNerney, menyampaikan kepada Yuyuantantian bahwa meskipun kemajuan kerja sama di tingkat federal AS mungkin berjalan lebih lambat, California dapat menjadi pelopor dengan membangun saling percaya serta kerangka kerja kelembagaan, untuk kemudian secara bertahap memperluas cakupannya.
Bagaimanapun juga, persaingan antara Tiongkok dan AS di bidang AI mungkin akan terus berlanjut, namun memastikan bahwa AI digunakan demi kebaikan dan memberikan manfaat bagi seluruh umat manusia merupakan kepentingan bersama yang paling utama bagi negara-negara yang bergerak di bidang ini.
