Yapay zeka şirketi Anthropic’in CEO’su Dario Amodei, sektördeki hızlı gelişimin kontrol altına alınması gerektiğini savundu. Amodei, yapay zeka sistemlerinin mevcut hızla geliştirilmesini “sorumsuzca” olarak nitelendirerek güvenlik önlemlerinin teknolojik ilerlemeyle birlikte güçlendirilmesi gerektiğini söyledi.
Üç Aşamalı Güvenlik Planı
Amodei’nin önerdiği planın ilk aşaması, bağımsız değerlendiricilerin yapay zeka şirketlerinin araştırma ve geliştirme süreçlerine sürekli erişebilmesini öngörüyor. Bu uzmanların sistemlerin güvenlik kurallarına uyup uymadığını denetlemesi, yaşanan olayları raporlaması ve modellerin insanlarla ne ölçüde uyumlu davrandığını değerlendirmesi planlanıyor.
 |
Anthropic, planın bu bölümünü tek taraflı olarak uygulamaya başlayacağını açıkladı.
Musk ve Altman’dan Destek
Amodei’nin çağrısı teknoloji dünyasının önemli isimlerinden de destek gördü. Elon Musk, “Dario haklı” diyerek öneriye destek verirken, OpenAI CEO’su Sam Altman da öncü yapay zeka modellerinin geliştirilme hızının kontrol edilmesi gerektiğini belirtti. Altman, bağımsız denetleyicilere çalışanlarla benzer düzeyde erişim sağlanmasının iyi bir fikir olduğunu ve OpenAI’nin de benzer bir uygulamaya geçeceğini söyledi.
Google DeepMind yöneticisi Demis Hassabis de çağrının doğru yönde olduğunu ifade etti.
 |
Güvenlik Endişeleri Büyüyor
Amodei, yapay zeka ajanlarının yanlış yönlendirilmesi halinde büyük çaplı siber saldırılara yol açabileceği uyarısında bulundu. Ancak bazı uzmanlar bu tür senaryoların olasılığının abartıldığını düşünüyor. Bazı güvenlik araştırmacıları ise şirketlerin daha kapsamlı ve uluslararası düzenlemelere ihtiyacı olduğunu savunuyor.
Amodei, tüm risklere rağmen yapay zekanın güvenli biçimde geliştirilebileceğine inandığını ve teknoloji konusunda kötümser olmadığını belirtti.
