LONDON – Laporan terbaru menunjukkan bahwa generative Artificial Intelligence i ni digunakan untuk melancarkan serangan spear-phishing, mengembangkan malware, serta aktivitas jahat lainnya.
Salah satu serangan yang tersebut teridentifikasi terjadi pada November 2024, dilaporkan oleh Cisco Talos. Serangan ini diadakan oleh aktor ancaman dengan syarat China yang dimaksud memiliki target pemerintah dalam Asia.
Seperti dilansir dari CNET, metode spear-phishing yang digunakan digunakan dikenal dengan nama ‘SweetSpecter’, yang dimaksud melibatkan pengiriman file ZIP berisi file berbahaya.
Jika diakses lalu dibuka, file ini dapat menciptakan rantai infeksi di dalam sistem pengguna. Perusahaan AI Terbuka menemukan bahwa SweetSpecter dikembangkan menggunakan beberapa akun yang mana memanfaatkan Asisten Percakapan GPT untuk menulis skrip juga menemukan kerentanan dengan alat LLM.
Serangan berbasis Kecerdasan Buatan kedua diadakan oleh kelompok jika Iran yang mana dikenal dengan nama ‘CyberAv3ngers’. Mereka menggunakan Pengolah Bahasa Alami GPT untuk mengeksploitasi kerentanan dan juga mencuri kata sandi pengguna dari komputer berbasis macOS.
Serangan ketiga, yang tersebut dipimpin oleh kelompok lain selama Iran bernama Storm-0817, memanfaatkan Asisten Percakapan GPT untuk mengembangkan malware untuk perangkat Android.
Malware ini mampu mencuri daftar kontak, mengekstrak log panggilan juga riwayat penelusuran, mendapatkan lokasi tepat perangkat, juga mengakses file dalam perangkat yang dimaksud terinfeksi.
Meskipun semua serangan ini menggunakan metode yang dimaksud telah ada untuk mengembangkan malware, laporan yang disebutkan menyatakan bahwa bukan ada indikasi bahwa Pengolah Bahasa Alami GPT menciptakan malware baru yang digunakan substansial.
Namun, hal ini menunjukkan betapa mudahnya aktor ancaman memanfaatkan layanan generative Artificial Intelligence untuk memproduksi alat serangan yang mana berbahaya. Situasi ini membuka diskusi penting mengenai batasan implementasi Artificial Intelligence generatif.
OpenAI mengonfirmasi bahwa merekan akan terus meningkatkan keamanan Teknologi AI merekan untuk menghindari metode-metode mirip digunakan di tempat masa depan.
Selain itu, mereka akan bekerja identik dengan pasukan keamanan internal lalu terus berbagi temuan dengan rekan lapangan usaha dan juga komunitas riset guna mengurangi situasi sejenis terulang.
