Perkembangan AI yang semakin pesat membuka peluang sekaligus risiko baru. Serangan siber terhadap agen AI dapat menimbulkan dampak sistemik jika tidak ditangani secara terbuka dan terkoordinasi. SAFE hadir sebagai panduan untuk mengubah insiden menjadi pembelajaran bersama, sehingga seluruh ekosistem dapat lebih tangguh menghadapi ancaman.
SAFE Guidelines menekankan empat hal pokok: pengumpulan dan analisis insiden secara rahasia untuk menjaga integritas data, pemberitahuan kepada pihak terdampak agar dapat segera melakukan mitigasi, identifikasi kegagalan berulang guna mencegah risiko sistemik, serta publikasi rekomendasi berbasis bukti sebagai acuan industri.
Aliansi ini melibatkan nama-nama besar seperti NVIDIA, Cisco, CrowdStrike, Hugging Face, Red Hat, Amazon, Microsoft, dan Okta. NVIDIA menyumbangkan berbagai alat, mulai dari NOOA research harness untuk pengujian perilaku agen, OpenShell runtime untuk membatasi aksi berbahaya, hingga model terbuka seperti Nemotron, Cosmos, Isaac GR00T, dan BioNeMo.
Microsoft menghadirkan PyRIT dan RAMPART untuk red teaming serta evaluasi keamanan. Amazon memperkenalkan Strands Agents toolkit dan bahasa otorisasi Cedar. Cisco meluncurkan DefenseClaw sebagai lapisan tata kelola, sementara CrowdStrike berhasil melakukan fine-tuning pada Nemotron Nano untuk pertahanan siber dengan akurasi tinggi. Mistral merilis Shieldstral, sebuah multimodal safety classifier yang memperkuat deteksi ancaman.
Peluncuran SAFE bertepatan dengan konferensi Black Hat di Las Vegas, salah satu ajang keamanan siber terbesar dunia. Kehadiran SAFE di forum ini menegaskan urgensi kolaborasi lintas industri dalam menghadapi serangan yang semakin kompleks.
Dengan SAFE, komunitas AI diharapkan mampu membangun lapisan pertahanan berlapis yang lebih kokoh, mempercepat respons kolektif terhadap ancaman baru, serta mendorong transparansi dan kepercayaan publik terhadap teknologi AI.
Jadikan Medcom.id sumber informasi pilihan Anda
(MMI)
Komentar (0)