PEKANBARU – Penggunaan AI agent untuk menjalankan pekerjaan secara otomatis mulai menghadirkan persoalan keamanan baru. Peneliti menemukan adanya celah yang memungkinkan instruksi berbahaya diteruskan dari satu AI agent kepada agent lainnya.

Temuan tersebut berkaitan dengan sistem yang memungkinkan beberapa AI agent saling berkomunikasi dan membagi tugas. Masalah muncul ketika sebuah agent menganggap instruksi dari agent lain sebagai perintah yang dapat dipercaya tanpa pemeriksaan lebih lanjut.

Laporan Ars Technica menyebut peneliti keamanan Syed Anas Mohiuddin menemukan pola serangan yang memanfaatkan hubungan kepercayaan dalam komunikasi antargen. Penelitian tersebut menyoroti penggunaan Model Context Protocol (MCP), teknologi yang memungkinkan aplikasi berbasis kecerdasan buatan terhubung dengan berbagai layanan dan perangkat.

Sejumlah perusahaan dan organisasi dilaporkan telah menemukan atau menangani persoalan keamanan yang berkaitan dengan pola tersebut, termasuk Google, JPMorgan Chase, Weaviate dan Rapid7.

Perintah Bisa Berpindah Antar-AI

AI agent memiliki kemampuan yang lebih luas dibandingkan chatbot biasa. Sistem ini dapat diberi tugas untuk membaca dokumen, mengambil informasi, menggunakan aplikasi, mengakses layanan tertentu hingga menjalankan pekerjaan secara otomatis.

Dalam sebuah sistem perusahaan, misalnya, satu agent dapat bertugas membaca email. Agent lain menganalisis dokumen, sedangkan agent berikutnya memiliki akses ke database.

Masalah terjadi ketika salah satu agent menerima informasi yang telah disisipi instruksi tertentu. Jika informasi tersebut diteruskan kepada agent lain, instruksi yang sama dapat ikut berpindah.

Agent penerima kemudian berpotensi menganggap instruksi tersebut sebagai tugas yang sah karena datang dari agent yang sebelumnya dipercaya.

Kondisi tersebut membuat penyerang tidak selalu harus menyerang sistem yang memiliki akses paling penting. Mereka dapat mencari titik masuk pada agent lain, kemudian memanfaatkan hubungan antaragent untuk meneruskan instruksi ke bagian sistem yang lebih sensitif.

Pola tersebut berkaitan dengan prompt injection, yaitu teknik memasukkan instruksi ke dalam data yang diproses sistem AI agar sistem melakukan tindakan yang tidak semestinya.

Persoalan menjadi lebih serius ketika AI agent memiliki akses terhadap email, database, jaringan perusahaan atau layanan lain yang menyimpan informasi penting.

Keamanan Tidak Cukup di Satu Sistem

Menurut laporan Ars Technica, peneliti menyebut pola serangan tersebut sebagai protocol pivoting. Serangan memanfaatkan hubungan antarprotokol dan kepercayaan yang diberikan sebuah sistem kepada sistem lainnya.

Penggunaan MCP dan protokol komunikasi antargen seperti Agent-to-Agent (A2A) membuat persoalan tersebut semakin relevan. Ketika AI agent tidak lagi bekerja sendirian, keamanan tidak hanya bergantung pada model yang digunakan.

Setiap agent perlu memiliki batas akses yang jelas. Instruksi dari agent lain juga tidak semestinya langsung dianggap aman hanya karena berasal dari jaringan internal.

Pemeriksaan terhadap sumber instruksi menjadi penting, terutama ketika sebuah permintaan berkaitan dengan data sensitif atau meminta agent menjalankan tindakan tertentu.

Perusahaan juga perlu membatasi kemampuan setiap agent sesuai kebutuhan pekerjaannya. Agent yang bertugas membaca dokumen, misalnya, tidak harus memiliki akses ke seluruh database perusahaan.

Perbedaan ini penting karena kesalahan pada chatbot biasanya hanya menghasilkan jawaban yang keliru. Sementara pada AI agent yang memiliki akses ke sistem perusahaan, kesalahan atau instruksi berbahaya dapat berujung pada tindakan nyata.

Perkembangan AI agent membuat hubungan antarsistem menjadi bagian penting dalam keamanan teknologi. Semakin banyak agent yang saling bertukar informasi dan tugas, semakin besar pula kebutuhan untuk memastikan setiap instruksi diperiksa sebelum dijalankan. (*)