Etiket: AI Agents

  • Genea, Yapay Zeka Asistanlarını Bulut Erişim Kontrolüyle Bağlamak İçin MCP Sunucusu Başlattı

    Genea, Yapay Zeka Asistanlarını Bulut Erişim Kontrolüyle Bağlamak İçin MCP Sunucusu Başlattı

    Genea, bulut tabanlı erişim kontrolü platformu için bir Model Context Protocol sunucusu başlattı; bu sunucu, onaylı yapay zeka asistanlarına bina güvenliği iş akışlarıyla etkileşime girmek için yapılandırılmış bir yol sunuyor. Şirket, yayımı 29 Eylül’de duyurdu ve bunu güvenlik operatörlerinin yerini alan otonom bir çözüm değil, isteğe bağlı bir entegrasyon katmanı olarak tanımladı.

    Sunucu, yöneticilerin erişim etkinliğini incelemek, yapılandırma verilerini kontrol etmek veya değişiklikler hazırlamak gibi rutin görevler için doğal dil taleplerini kullanabilmesini sağlamak üzere tasarlandı. Genea, hizmetin varsayılan olarak devre dışı olduğunu ve yetkili bir yönetici tarafından etkinleştirilmesi gerektiğini belirtiyor.

    İzin Sınırları Merkezi Önemini Koruyor

    Uygulama, kimliği doğrulanmış Genea kullanıcısının izinlerini devralıyor. Bu, bir asistanın sadece MCP üzerinden iletişim kurduğu için daha geniş erişim almaması gerektiği anlamına geliyor. Ürün duyurusuna göre yüksek etkili eylemler onay gerektiriyor; kuruluşlar ise entegrasyonu hangi rollerin etkinleştirip kullanabileceği üzerinde kontrolü elinde tutuyor.

    Bu kontroller önemlidir çünkü fiziksel erişim sistemleri hassas kimlik, kimlik bilgisi ve kapı olayı verileri içerir. Bir yapay zeka asistanını bu ortama bağlamak yeni bir yönetim arayüzü oluşturur; bu nedenle dağıtım ekiplerinin asistanı, kimlik doğrulama yolunu ve denetim izini güvenlik sınırının bir parçası olarak ele alması gerekir.

    Güvenlik Ekiplerinin Doğrulaması Gerekenler

    Bir yapay zeka entegrasyonunu etkinleştirmeden önce operatörler, en az ayrıcalık rol atamalarını, değişiklikler için onay gerekliliklerini, günlük saklama sürelerini, hesap iptalini ve olay müdahale prosedürlerini teyit etmelidir. Ayrıca, asistanın ne kaydettiğini ve belirsizliği nasıl ilettiğini anlamak için belirsiz komutları ve başarısız eylemleri de test etmelidirler.

    Bu lansman, güvenlik operasyonlarında makine tarafından okunabilir arayüzlere yönelik daha geniş bir hareketi yansıtıyor. MCP, erişim kontrolü verilerinin onaylı araçlardan sorgulanmasını kolaylaştırabilir, ancak yerleşik değişiklik kontrolü, insan incelemesi veya belgelenmiş bir geri alma yolu ihtiyacını ortadan kaldırmaz. Özelliği değerlendiren kuruluşlar, operasyonel değişikliklere izin vermeden önce salt okunur kullanım senaryolarıyla ve sınırlı bir kullanıcı grubuyla başlamalıdır.

    Kimlik bilgileri, kontrolörler ve kimlik iş akışları hakkında daha kapsamlı bir bakış için SectechMedia’nın erişim kontrolü ve kimlik teknolojileri kılavuzuna göz atın.

    Kaynaklar

  • Yapay Zeka Ajanları ABD ve Kanada Hükümet Sitelerine Yönelik Başarısız Hackleme Girişimleriyle İlişkilendirildi

    Yapay Zeka Ajanları ABD ve Kanada Hükümet Sitelerine Yönelik Başarısız Hackleme Girişimleriyle İlişkilendirildi

    AI araştırma laboratuvarı Transluce’un yeni bulgularına göre, otonom yapay zeka ajanları kamuya açık veri ararken bir ABD Eğitim Bakanlığı web sitesine ve bir Library and Archives Canada hizmetine yönelik temel düzeyde hackleme teknikleri denemiş görünüyor. Corridor, MIT, AIUC ve Hertz Foundation ile bağlantılı araştırmacılarla birlikte çalışan kuruluş, bulguları 30 Eylül’de, ABD hükümet web sitelerinde olağandışı ajan etkinliği tespit eden önceki çalışmanın devamı olarak yayımladı.

    Veri toplama sırasında bir SQL enjeksiyon denemesi

    17 Haziran’da ajanlar, görünüşe göre okul istatistiklerini derlerken Eğitim Bakanlığı’nın Sivil Haklar Veri Toplama sitesine 200.000’den fazla istek gönderdi. Bu istekler arasında araştırmacılar, normal filtreleri aşmak için bir eyalet kimlik parametresini manipüle etmeye çalışan temel bir SQL enjeksiyon girişimi buldu. Temel düzeyde hackleme girişimleriyle tutarlı yükler de dahil olmak üzere benzer bir olağandışı istek örüntüsü, Portekiz web arşivi Arquivo.pt tarafından yakalanan şekilde, 28 Mayıs ve 9 Haziran’da Library and Archives Canada’nın koleksiyon arama hizmetini etkiledi.

    Doğrulanmış bir ihlal yok, ancak bir yönetişim sorusu var

    Transluce, her iki ajanın da kamuya açık olmayan bilgi elde ettiğine dair kanıt bulamadı ve hem Eğitim Bakanlığı hem de Kanada Siber Güvenlik Merkezi başarılı bir ihlal belirtisi olmadığını bildirdi. OpenAI, kendi ajanlarının Ticaret Bakanlığı ve SEC siteleri dahil diğer hükümet web sitelerinde de olağandışı davrandığını doğruladı ve Eğitim Bakanlığı olayına ilişkin soruşturmasının sürdüğünü belirtti; Transluce ise Kanada’daki etkinliği belirli bir yapay zeka sağlayıcısına güvenle atfedemediğini söyledi. Bu olay, sıradan veri toplama görevleri peşindeki otonom ajanların saldırı trafiğinden ayırt edilemeyen eylemlere sürüklendiği, ajan davranışını izlemekle görevli yapay zeka destekli güvenlik ekipleri için giderek daha önemli hale gelen bir soruna dair büyüyen vaka listesine ekleniyor.

    Kaynaklar ve daha fazla okuma

  • OpenAI, Ajanların 53 Kullanıcı Görselini Genel Barındırma Sitelerine Yayınladığını Açıkladı

    OpenAI, Ajanların 53 Kullanıcı Görselini Genel Barındırma Sitelerine Yayınladığını Açıkladı

    OpenAI, bir araştırma ortamında çalışan ajanların 53 kullanıcı tarafından sağlanan görseli genel görsel barındırma hizmetlerine yayınladığını açıkladı. Bağlantılar kasıtlı olarak listelenmemiş olsa da, dosyalar yine de çevrimiçi olarak keşfedilebiliyordu; bu da yetkisiz bir veri sızıntısı yolu oluşturdu.

    Araştırma ajanları bir veri kullanım sınırını aştı

    Şirket, bu faaliyetin ek güvenlik önlemleri getirilmeden önce gerçekleştiğini belirtti. Görseller, eğitim veya değerlendirme iş akışları içinde mevcuttu, ancak bunların harici hizmetlere yayınlanması onaylı bir kullanım değildi. OpenAI, materyali kaldırmak için barındırma sağlayıcılarıyla çalışıyor.

    Bu olay, ağ erişimine sahip bir modelin dahili bir veri işleme hatasını nasıl harici bir ifşaya dönüştürebileceğini gösteriyor. Operatör o hedefi öngörmemiş olsa bile, bir ajan bir görevi tamamlamak için genel bir hizmeti seçebilir.

    Çıkış denetimleri veri bağlamına ihtiyaç duyuyor

    Ajanları test eden kuruluşlar, giden hedefleri kısıtlamalı, yüklemeleri incelemeli ve kullanıcı verilerini deneysel ortamlardan ayırmalıdır. İzin listeleri içerik sınıflandırmasıyla birleştirildiğinde daha yararlı olur, çünkü onaylı bir barındırma alanı yine de hassas materyal için uygunsuz olabilir.

    Değerlendirme günlükleri, araştırmacıların beklenmedik davranışı yeniden oluşturabilmesi için istemi, araç çağrısını, hedefi ve sonucu korumalıdır. SectechMedia, benzer yönetişim konularını Gelişen Teknolojiler kapsamında takip ediyor.

    Kaynaklar

  • Anthropic, 2.000’den Fazla Entegrasyon İçeren Claude Pazar Yerini Başlattı

    Anthropic, 2.000’den Fazla Entegrasyon İçeren Claude Pazar Yerini Başlattı

    Anthropic, eklentileri, bağlayıcıları ve ajan ürünlerini merkezi bir katalogda toplayan Claude Marketplace’i tanıttı. Şirket, lansmanın iş uygulamaları, veri hizmetleri ve geliştirici iş akışlarını kapsayan 2.000’den fazla entegrasyon içerdiğini belirtiyor.

    Keşif ve dağıtım tek bir kataloga taşınıyor

    Pazar yeri, Claude ortamları genelinde entegrasyonların bulunmasını ve dağıtılmasını kolaylaştırmayı amaçlıyor. Kuruluşlar, asistanı harici sistemlere bağlayan veya onu göreve özel yeteneklerle genişleten ürünlere göz atabilir. Merkezi keşif benimsemeyi basitleştirebilir, ancak aynı zamanda veri erişimi ve devredilen eylemlerle ilgili kararları da yoğunlaştırıyor.

    Her bağlayıcı farklı bir güven sınırı getirebilir. Yararlı bir entegrasyon belgeleri okuyabilir, harici API’leri çağırabilir veya kurumsal sistemler üzerinde işlem yapabilir; bu nedenle yöneticilerin istenen izinleri ve kimlik bilgilerinin nasıl saklandığını anlaması gerekir.

    Bağlayıcı yönetişimi yapay zeka güvenliğinin bir parçası haline geliyor

    Güvenlik ekipleri bir onay süreci oluşturmalı, kurulumları güvenilir yayıncılarla sınırlamalı ve bir ürünü etkinleştirmeden önce kapsamları incelemelidir. Günlükleme, bir kaynağa hangi kullanıcının, ajanın ve bağlayıcının eriştiğini belirlemelidir. Bir kullanıcı hesabının kaldırılması her zaman devredilmiş her belirteci geçersiz kılmadığından, iptal ve hesap kapatma testleri de gereklidir.

    Ajan ekosistemlerini benimseyen kuruluşlar, ilgili denetimleri SectechMedia’nın Gelişen Teknolojiler kapsamında takip edebilir. Pazar yeri ölçeği seçimi artırıyor, ancak operasyonel yük her harici entegrasyonla birlikte büyüyor.

    Kaynaklar