Penjahat dunia maya menerobos pembatasan ChatGPT untuk memperburuk malware, dan email phishing menjadi lebih baik
Ini adalah ringkasan yang dibuat oleh AI, yang mungkin memiliki kesalahan. Untuk konteksnya, selalu rujuk artikel selengkapnya.
Para peneliti di CheckPoint mengatakan penjahat dunia maya dapat menerobos hambatan ChatGPT dan membuat konten berbahaya, seperti email phishing dan kode malware, dengan menggunakannya.
MANILA, Filipina – Penjahat dunia maya menemukan cara untuk melewati batasan pada alat kecerdasan buatan (AI) ChatGPT OpenAI, sehingga mereka dapat melakukan perbaikan yang didukung AI pada kode malware atau email phishing.
Kata perusahaan keamanan siber CheckPoint pada 7 Februari postingan blog bahwa para penelitinya menemukan kasus penjahat dunia maya yang menggunakan ChatGPT untuk memperbaiki kode malware tahun 2019 yang dikenal sebagai InfoStealer. Ars Teknika menambahkan dalam laporan tanggal 9 Februari bahwa antarmuka pemrograman aplikasi (API) untuk model OpenAI GPT-3 yang dikenal sebagai text-davinci-003 digunakan sebagai pengganti ChatGPT untuk menghindari pembatasan.
Peneliti CheckPoint menulis: “Versi API OpenAI saat ini digunakan oleh aplikasi eksternal (misalnya, mengintegrasikan model GPT-3 OpenAI dengan saluran Telegram) dan hanya memiliki sedikit tindakan anti-penyalahgunaan, jika ada.”
“Hasilnya, hal ini memungkinkan pembuatan konten berbahaya, seperti email phishing dan kode malware, tanpa batasan atau hambatan yang ditempatkan ChatGPT pada antarmuka pengguna mereka,” tambah para peneliti.
Akibatnya, pengguna forum bawah tanah menjual layanan yang menggabungkan API dengan aplikasi perpesanan Telegram, sehingga pihak yang berkepentingan dapat membuat pertanyaan yang didukung AI tanpa batasan. Meskipun 20 kueri pertama gratis, kueri selanjutnya dijual seharga $5,50 untuk setiap rangkaian 100 kueri tambahan.
Sementara itu, penjahat dunia maya lainnya telah membuat skrip berbasis API OpenAI untuk menerobos pembatasan anti-penyalahgunaan yang disebutkan sebelumnya.
Ars Technica menambahkan bahwa, ketika dimintai komentar, OpenAI tidak segera menanggapi email yang menanyakan apakah mereka mengetahui temuan CheckPoint, juga tidak mengomentari rencana masa depan mengenai pembaruan API untuk mencegah penyalahgunaan lebih lanjut.
Laporan mengikuti kemitraan Microsoft
Kembali pada bulan Desember, CheckPoint, ada di sisinya Blog Penelitian CheckPointsebelumnya membahas kemungkinan menggunakan ChatGPT untuk menulis malware dan meningkatkan pesan phishing.
Laporan Checkpoint dan Ars Technica mengikuti pengumuman Microsoft pada bulan Januari tentang kemitraan berkelanjutan dengan OpenAI. Hal ini juga terjadi sekitar saat pengumuman bahwa mesin pencari Bing Microsoft dan browser Edge akan diperbarui dengan kecerdasan buatan untuk meningkatkan pengalaman pengguna. – Rappler.com
