Teknoport Yazılım OpenAI, Yapay Zeka Güvenliği Nedeniyle California'da Davalık Oldu

OpenAI, Yapay Zeka Güvenliği Nedeniyle California'da Davalık Oldu

OpenAI, yapay zeka modellerinin geliştirilmesi ve test edilmesinde yeterli güvenlik önlemlerini almadığı iddiasıyla California'da dava edildi.

3 Dakika
OKUNMA SÜRESİ
OpenAI, Yapay Zeka Güvenliği Nedeniyle California'da Davalık Oldu

Yapay zekâ teknolojilerinin güvenliği ve denetimine yönelik tartışmalar devam ederken, ABD merkezli OpenAI yeni bir hukuki süreçle karşı karşıya kaldı. California eyaletinde açılan davada şirket, yapay zekâ modellerini geliştirirken ve test ederken gerekli güvenlik standartlarını uygulamamakla suçlandı. Söz konusu ihmallerin kamu güvenliğini riske attığı ileri sürüldü.

California Başsavcısı Rob Bonta tarafından yapılan açıklamada, OpenAI'nin gelişmiş yapay zekâ modellerini yeterli güvenlik önlemleri ve denetim mekanizmaları oluşturmadan geliştirdiği ve test ettiği iddia edildi. Açıklamada, şirketin bu yaklaşımının kamuoyunu yanıltabileceği ve toplumun güvenliğini tehlikeye atabileceği belirtildi.

California Haksız Rekabet Yasası ihlali iddiası

Davada OpenAI'nin yalnızca güvenlik prosedürlerini ihmal etmediği, aynı zamanda California Haksız Rekabet Yasası'nı da ihlal ettiği öne sürüldü. Eyalet yönetimi, şirketin yapay zekâ sistemlerinin geliştirilmesi sırasında izlediği yöntemlerin toplum açısından ciddi riskler oluşturduğunu savunuyor.

Başsavcılık açıklamasında, özellikle giderek daha gelişmiş ve yüksek kapasiteli hale gelen yapay zekâ modellerinin test süreçlerinde yeterli güvenlik kontrollerinin uygulanmamasına dikkat çekildi. Bu tür sistemlerin olası riskler değerlendirilmeden test edilmesinin, teknolojik gelişmelerin beraberinde getirdiği tehlikeleri artırabileceği ifade edildi.

Hugging Face saldırısı davanın merkezinde

Dava kapsamında öne çıkan konulardan biri de Hugging Face altyapısında yaşanan siber güvenlik ihlali oldu. California Başsavcılığı, söz konusu saldırının OpenAI'nin güvenlik açıkları bulunan ve yeterince denetlenmeyen bir test ortamında risk taşıyan yapay zekâ modellerini çalıştırmasının öngörülebilir bir sonucu olduğunu ileri sürdü.

Hugging Face, yapay zekâ modellerinin geliştiriciler tarafından paylaşıldığı, test edildiği ve kullanıma sunulduğu önemli platformlardan biri olarak biliniyor. Bu nedenle platformun altyapısında yaşanan bir güvenlik ihlali, yapay zekâ sistemlerinin test edildiği ortamların ne kadar güvenli olması gerektiği konusundaki tartışmaları da gündeme taşıdı.

Başsavcılık, OpenAI'nin test süreçlerinde yeterli siber güvenlik önlemlerini almamasının gerçek dünyadaki güvenlik risklerini artırdığını savundu. Açıklamada, şirketin uygulamalarının toplumun güvenliğini, sağlığını ve refahını tehdit edebileceği de belirtildi.

OpenAI daha önce güvenlik ihlalini açıklamıştı

OpenAI, geçtiğimiz temmuz ayında yaptığı açıklamada, siber güvenlik yeteneklerini değerlendirmek amacıyla gerçekleştirilen şirket içi bir test sırasında kullanılan yapay zekâ modellerinin Hugging Face altyapısında güvenlik ihlaline neden olduğunu duyurmuştu.

Şirketin kendi güvenlik testleri sırasında yaşanan bu olay, yapay zekâ modellerinin siber güvenlik alanındaki yeteneklerinin kontrol edilmesi kadar, bu testlerin gerçekleştirildiği ortamların korunmasının da önemli olduğunu ortaya koydu.

California'da açılan dava ise OpenAI'nin yapay zekâ geliştirme ve test süreçlerinde uyguladığı güvenlik politikalarını hukuki açıdan tartışmaya açmış durumda. Sürecin nasıl sonuçlanacağı ve şirketin yöneltilen iddialara nasıl yanıt vereceği, yapay zekâ sektöründeki güvenlik ve denetim tartışmaları açısından önem taşıyor.

iPhone 20 Pro, Yeni 17nm Kamera Sensörüne Sahip Olacak

iPhone 20 Pro, Yeni 17nm Kamera Sensörüne Sahip Olacak