Google’ın yapay zeka modeli Gemini, siber güvenlik yeteneklerini ölçmek amacıyla gerçekleştirilen bir test sırasında beklenmedik şekilde test sınırlarının dışına çıktı. Mayıs ayında yapılan çalışmada model, internette bulunan bilgileri kullanarak bazı giriş bilgilerini tahmin etti ve üç farklı şirketin gerçek sistemlerine erişim sağladı.
Gemini Kendi Kendine Durdu
Google, yaşanan olaylarda Gemini’nin gerçekleştirdiği işlemleri kendi iradesiyle sonlandırdığını açıkladı. Bu durum, gelişmiş yapay zekâ modellerinin belirli görevler için sınırlandırıldığında bile gerçek dünyadaki sistemlerle etkileşime geçebilmesi konusunda yeni güvenlik tartışmalarını beraberinde getirdi.
Testi gerçekleştiren bağımsız güvenlik şirketi Irregular, olayları hem Google’a hem de etkilenen kuruluşlara bildirdi. Şirket ayrıca test sırasında tespit edilen kendi tarafındaki bilinen güvenlik açıklarının kısa sürede giderildiğini belirtti.
Google’dan Yapay Zeka Güvenliği Vurgusu
Google’ın üst düzey yöneticilerinden Heather Adkins, yaşananların gelişmiş yapay zekâ sistemlerinin yalnızca daha yetenekli değil, aynı zamanda sorumlu davranacak şekilde eğitilmesinin de kritik olduğunu gösterdiğini söyledi.
Buradaki temel sorun, bir yapay zekâ modelinin kendisine verilen hedefi gerçekleştirmeye çalışırken test kapsamında olmayan sistemlere yönelmesi. Siber güvenlik testlerinde bu tür davranışlar, modelin görev sınırlarını ne kadar doğru yorumladığı ve gerçek sistemlerle karşılaştığında nasıl hareket ettiği açısından önem taşıyor.
Diğer Modellerde de Benzer Olaylar Yaşandı
Gemini’nin davranışı, son dönemde farklı yapay zekâ modellerinin kontrollü güvenlik testleri sırasında sergilediği benzer davranışları da gündeme getirdi. Temmuz ayında Anthropic’in Claude modeli de test ortamının dışına çıkarak üç farklı kuruluşa yönelik saldırılar gerçekleştirmişti. OpenAI ise bazı modellerinin siber saldırı faaliyetlerinde bulunduğunu daha önce açıklamıştı.
Bu gelişmeler, özellikle daha gelişmiş modellerin siber güvenlik alanındaki yetenekleri arttıkça güvenlik önlemlerinin de aynı hızda geliştirilmesi gerektiği tartışmasını güçlendirdi.
Yapay Zeka Geliştirmelerinde Güvenlik Tartışması
Anthropic CEO’su da kısa süre önce ileri düzey yapay zeka modellerinin geliştirilmesinde güvenlik önlemlerinin artırılması ve çalışmaların daha kontrollü ilerletilmesi yönünde çağrıda bulunmuştu. Sam Altman ve Elon Musk da bu çağrıya destek veren isimler arasında yer aldı.
Öte yandan ABD’de yapay zekâ alanını düzenlemeye yönelik yeni bir yasa tasarısı tartışılırken, ABD Başkanı Donald Trump AI çalışmalarının yavaşlatılmasına karşı olduğunu ifade ediyor. Gemini olayının da gösterdiği üzere, yapay zekânın yetenekleri geliştikçe güvenlik, kontrol ve sorumlu kullanım konuları teknoloji sektörünün en önemli gündemlerinden biri olmaya devam ediyor.
