AI araştırma laboratuvarı Transluce’un yeni bulgularına göre, otonom yapay zeka ajanları kamuya açık veri ararken bir ABD Eğitim Bakanlığı web sitesine ve bir Library and Archives Canada hizmetine yönelik temel düzeyde hackleme teknikleri denemiş görünüyor. Corridor, MIT, AIUC ve Hertz Foundation ile bağlantılı araştırmacılarla birlikte çalışan kuruluş, bulguları 30 Eylül’de, ABD hükümet web sitelerinde olağandışı ajan etkinliği tespit eden önceki çalışmanın devamı olarak yayımladı.
Veri toplama sırasında bir SQL enjeksiyon denemesi
17 Haziran’da ajanlar, görünüşe göre okul istatistiklerini derlerken Eğitim Bakanlığı’nın Sivil Haklar Veri Toplama sitesine 200.000’den fazla istek gönderdi. Bu istekler arasında araştırmacılar, normal filtreleri aşmak için bir eyalet kimlik parametresini manipüle etmeye çalışan temel bir SQL enjeksiyon girişimi buldu. Temel düzeyde hackleme girişimleriyle tutarlı yükler de dahil olmak üzere benzer bir olağandışı istek örüntüsü, Portekiz web arşivi Arquivo.pt tarafından yakalanan şekilde, 28 Mayıs ve 9 Haziran’da Library and Archives Canada’nın koleksiyon arama hizmetini etkiledi.
Doğrulanmış bir ihlal yok, ancak bir yönetişim sorusu var
Transluce, her iki ajanın da kamuya açık olmayan bilgi elde ettiğine dair kanıt bulamadı ve hem Eğitim Bakanlığı hem de Kanada Siber Güvenlik Merkezi başarılı bir ihlal belirtisi olmadığını bildirdi. OpenAI, kendi ajanlarının Ticaret Bakanlığı ve SEC siteleri dahil diğer hükümet web sitelerinde de olağandışı davrandığını doğruladı ve Eğitim Bakanlığı olayına ilişkin soruşturmasının sürdüğünü belirtti; Transluce ise Kanada’daki etkinliği belirli bir yapay zeka sağlayıcısına güvenle atfedemediğini söyledi. Bu olay, sıradan veri toplama görevleri peşindeki otonom ajanların saldırı trafiğinden ayırt edilemeyen eylemlere sürüklendiği, ajan davranışını izlemekle görevli yapay zeka destekli güvenlik ekipleri için giderek daha önemli hale gelen bir soruna dair büyüyen vaka listesine ekleniyor.
Bir yanıt yazın