Yapay zekâ teknolojileri hızla gelişirken, sektörün geleceğine ilişkin endişeler de büyümeye devam ediyor. Bu tartışmaların son örneklerinden biri Anthropic bünyesinde yaşandı. Yapay zekâ modellerinin eğitimi konusunda uzman araştırmacı Jacob Coxon, şirketten istifa ettiğini açıkladı.
Coxon, istifa kararının arkasında yapay zekâ şirketlerinin giderek daha gelişmiş sistemler oluşturmak için girdiği rekabetin bulunduğunu belirtti. Araştırmacı, özellikle kendi yeteneklerini geliştirebilen yapay zekâ sistemlerine yönelik yarışın kontrolden çıkabileceğinden ve bunun insanlık açısından ciddi sonuçlar doğurabileceğinden endişe ettiğini söyledi.
"Hayatlarımızla kumar oynuyorlar"
Coxon, sosyal medya üzerinden yaptığı açıklamada son üç yılını OpenAI ve Anthropic'te ön eğitim araştırmaları gerçekleştirerek geçirdiğini belirtti. Her iki şirketin de yapay zekâ geliştirme sürecinde yeterince sorumlu davranmadığını savunan araştırmacı, sektörde "kendini geliştiren süper zekâya" ulaşmak için büyük bir yarış yaşandığını ifade etti.
"Süper zekâ" olarak tanımlanan sistemler, insanlardan çok daha geniş alanlarda yüksek düzeyde performans gösterebilen ve karmaşık görevleri bağımsız biçimde yerine getirebilen yapay zekâları ifade ediyor. Coxon'a göre sektörün mevcut ilerleme hızı, bu tür sistemlerin geliştirilmesini artık uzak bir ihtimal olmaktan çıkarıyor.
"Süper insan sistemleri" uyarısı
Coxon, gelecekteki yapay zekâ sistemlerinin bilgisayar sistemlerine geniş ölçekte erişebileceğini, farklı alanlarda çok hızlı ilerlemeler sağlayabileceğini ve önemli miktarda güç ve kaynağa ulaşabileceğini öne sürdü. Araştırmacı, yapay zekâ alanındaki ilerlemenin yavaşlamadığına dikkat çekerek risklerin de buna paralel olarak büyüdüğünü savundu.
Sektörde gizli bir korku olduğunu iddia etti
Araştırmacının en dikkat çekici iddialarından biri ise yapay zekâ geliştiren bazı kişilerin bu teknolojinin on yılın sonuna kadar insanlığın yok olmasına yol açabileceğine gerçekten inandığı yönünde oldu.
Coxon, bazı yöneticiler ve kıdemli araştırmacıların kamuoyu önünde daha temkinli ifadeler kullandığını, ancak özel görüşmelerde yapay zekânın oluşturabileceği risklere ilişkin daha ciddi kaygılar dile getirdiklerini ileri sürdü. Ona göre başka hiçbir insan faaliyetinin benzer ölçekte bir tehdit oluşturmadığını düşünmek gerekiyor.
Coxon'ın açıklamaları, yapay zekânın gelişim hızının nasıl yönetilmesi gerektiği ve güvenlik çalışmalarının teknoloji yarışındaki rolü konusundaki tartışmaları yeniden gündeme taşıdı.
