Cambridge Üniversitesi tarafından gerçekleştirilen çalışma, başlıca yapay zeka sohbet botlarının terör örgütleri tarafından operasyonel amaçlarla sistematik olarak istismar edildiğini göstermektedir. Araştırma, Boko Haram'ın ChatGPT, Claude ve Google Gemini gibi platformları saldırı planlaması, patlayıcı üretimi rehberliği ve silah bakım prosedürlerinin geliştirilmesinde kullandığını belgelemektedir.
Çalışmaya göre, IŞİD operatörleri 2023'ten itibaren Boko Haram komutanlarına AI güvenlik filtrelerini atlatma yöntemleri konusunda eğitim vermektedir. Araştırmacılar, mevcut güvenlik mekanizmalarının bu tür kötüye kullanımlara karşı yapılan tekrarlanan denemeler karşısında başarısız olduğunu tespit etmiştir. Bulgular, büyük dil modelleri sağlayıcılarının gönüllü öz-düzenleme yaklaşımlarının tehdit seviyesinin kontrol altına alınması için yeterli olmadığını göstermektedir.
Bulguların, AI güvenliği ve kötüye kullanım önleme konularında endüstriye yönelik düzenleyici baskıyı artırması beklenmektedir.
