Chatbot AI Dapat Dimanipulasi, Begini Caranya

BERLIN — Penjahat dunia maya mulai mengeksploitasi chatbot dengan kecerdasan buatan, seperti chatbot yang model bahasanya dilatih pada data tekstual dalam jumlah besar. Data ini dapat berasal dari berbagai sumber, seperti artikel berita, postingan media sosial, atau bahkan percakapan manusia.

Hasilnya, chatbots dapat belajar meniru pola bahasa manusia dan menghasilkan teks yang realistis dan koheren. Namun, hal ini juga berarti bahwa chatbot dapat dimanipulasi untuk menghasilkan informasi yang salah atau menyesatkan.

Salah satu cara untuk memanipulasi chatbot adalah dengan memberinya data pelatihan yang bias.

Misalnya, jika chatbot dilatih pada kumpulan data artikel berita yang semuanya berasal dari sumber berita konservatif, chatbot tersebut kemungkinan akan menghasilkan teks yang mencerminkan pandangan konservatif. Hal ini dapat digunakan untuk menyebarkan propaganda atau informasi yang salah.

Cara lain untuk mengontrol chatbot Anda adalah dengan memberinya perintah yang memicu respons tertentu.

Misalnya bertanya kepada chatbot, “Apa pendapat Anda tentang presiden?” dan pesannya menyatakan bahwa presiden adalah orang jahat, maka chatbot kemungkinan besar akan menghasilkan respons negatif terhadap presiden. Ini dapat digunakan untuk mendiskreditkan seseorang atau memajukan agenda tertentu.

Penting untuk mewaspadai kemungkinan manipulasi yang dilakukan chatbots saat berinteraksi dengannya. Berhati-hatilah dengan informasi yang mereka berikan dan verifikasi dengan sumber lain sebelum mempercayai mereka. Ingatlah juga bahwa chatbot bukanlah manusia dan tidak memahami dunia seperti kita.

Penting untuk berkomunikasi secara jelas dan ringkas dengan mereka dan menghindari membuat asumsi tentang apa yang mereka maksud.

Berhati-hatilah dengan informasi yang Anda berikan kepada chatbot. Hindari memberikan informasi pribadi seperti alamat rumah atau nomor jaminan sosial Anda.