OpenAI telah mengambil tindakan tegas dengan memblokir akun sekelompok pengguna asal China yang mencoba menggunakan ChatGPT untuk kegiatan yang tidak etis. Kampanye yang dilakukan oleh OpenAI disebut sebagai Peer Review, dimana kelompok tersebut berusaha menggunakan ChatGPT untuk membuat promosi penjualan program yang dirancang untuk memantau sentimen anti-China di berbagai platform media sosial.
Aksi Operasi ChatGPT oleh Kelompok China
Kelompok pengguna asal China ini terdiri dari akun ChatGPT yang beroperasi dalam pola waktu yang konsisten dengan jam kerja di China daratan. Mereka meminta model bahasa Mandarin dari ChatGPT dan menggunakan alat tersebut dengan volume dan variasi yang konsisten dengan permintaan manual, bukan otomatisasi. Operator kelompok ini menggunakan model AI untuk mengoreksi klaim bahwa wawasan yang mereka dapatkan telah dikirim ke kedutaan besar China di luar negeri dan kepada agen intelijen yang memantau protes di negara-negara seperti Amerika Serikat, Jerman, dan Inggris.
Respon dari OpenAI
Ben Nimmo, seorang peneliti utama di OpenAI, menyatakan bahwa ini adalah pertama kalinya perusahaan menemukan alat AI semacam ini. Menurutnya, pelaku ancaman terkadang memberikan gambaran sekilas tentang kegiatan mereka di bagian lain internet melalui cara penggunaan model AI. Sebagian besar kode untuk alat pengawasan media sosial ini didasarkan pada versi sumber terbuka dari model Llama milik Meta. Kelompok ini juga menggunakan ChatGPT untuk membuat tinjauan kinerja akhir tahun di mana mereka mengklaim telah menulis email phishing atas nama klien di China.
Dampak dari Kegiatan Ini
OpenAI menyatakan bahwa menilai dampak dari aktivitas ini membutuhkan masukan dari berbagai pemangku kepentingan, termasuk operator model open-source yang dapat menjelaskan aktivitas ini. Selain itu, OpenAI juga melarang sebuah akun yang menggunakan ChatGPT untuk membuat postingan media sosial yang mengkritik Cai Xia, seorang ilmuwan politik China yang tinggal di AS dalam pengasingan.
Penyalahgunaan ChatGPT untuk Kegiatan Negatif
Kelompok yang sama juga menggunakan chatbot untuk membuat artikel dalam bahasa Spanyol yang mengkritik AS. Artikel-artikel ini diterbitkan oleh organisasi berita ‘arus utama’ di Amerika Latin dan sering kali dikaitkan dengan individu atau perusahaan China. Tindakan ini menunjukkan bahwa teknologi seperti ChatGPT dapat disalahgunakan untuk menyebarkan informasi yang tendensius dan merugikan.
Kesimpulan
Dengan adanya penyalahgunaan ChatGPT oleh sekelompok pengguna asal China, OpenAI telah mengambil langkah untuk memblokir akun mereka. Hal ini menunjukkan pentingnya pengawasan dan kontrol terhadap penggunaan teknologi AI untuk mencegah penyebaran informasi yang tidak benar atau merugikan. Diperlukan kerjasama dari berbagai pihak untuk melindungi integritas dan keamanan dalam penggunaan teknologi AI.
(jsn/rns)
