Yapay zeka uzmanından ürküten uyarı: 2030'a kadar kontrolden çıkabilir

Yapay zeka şirketi Anthropic'te görev yapan kıdemli araştırmacı Jacob Coxon, istifa ederken sektörün geleceğine ilişkin dikkat çeken uyarılarda bulundu. Yapay zekanın 2030'a kadar insan kontrolünden çıkabileceğini öne süren Coxon, şirketlerin süper zeka geliştirme yarışının insanlık açısından ciddi riskler taşıdığını savundu.

Anthropic'te yeni nesil yapay zeka modellerinin eğitimi üzerine çalışan Jacob Coxon, şirketten ayrılma kararını kamuoyuna duyurdu.

Matematik geçmişine sahip olduğunu ve son üç yılını OpenAI ile Anthropic'te ön eğitim araştırmaları yaparak geçirdiğini belirten Coxon, iki şirketin de kendi kendini geliştirebilen süper zeka sistemleri oluşturmak için büyük bir yarış içinde olduğunu söyledi.

Coxon'a göre bu yarış, yapay zekanın güvenli şekilde geliştirilmesinin önüne geçebilecek ciddi riskler barındırıyor.

"2030'a kadar kontrolden çıkabilir"

Coxon, yapay zeka sistemlerinin önümüzdeki yıllarda insan kontrolünden çıkabilecek seviyeye ulaşabileceğini öne sürdü.

Sektördeki bazı araştırmacıların sürecin kritik bir aşamaya yaklaştığını düşündüğünü belirten Coxon, özellikle önümüzdeki birkaç yılın belirleyici olabileceği görüşünde.

Uzman isim, şirketlerin hem birbirleriyle hem de Çin'deki rakipleriyle yaşadığı rekabetin güvenlik konusunda taviz verilmesine yol açabileceğini savundu.

Coxon, mevcut gelişim çizgisinin en agresif senaryoların gerçekleşmesine imkan sağlayabilecek bir noktaya ilerlediğini ifade etti.

"İnsanlığı yok edebilecek modeller ortaya çıkabilir"

Coxon, yapay zeka geliştiricilerinin önemli bir bölümünün önümüzdeki yıllarda insanlık açısından son derece tehlikeli olabilecek sistemlerin ortaya çıkabileceğine inandığını iddia etti.

Ancak araştırmacıya göre sektördeki bazı isimler, kamuoyu önünde bu endişelerini açık şekilde dile getirmekten kaçınıyor.

Coxon, bazı yöneticiler ve kıdemli araştırmacıların özel görüşmelerinde ciddi kaygılar taşıdığını, ancak kamuoyu önünde daha temkinli ifadeler kullandığını öne sürdü.

"Şirketler hayatlarımızla kumar oynuyor"

İstifa açıklamasında yapay zeka şirketlerini sert sözlerle eleştiren Coxon, Anthropic ve OpenAI'nin sorumlu davranmadığını savundu.

Coxon, şirketlerin kendi kendini geliştiren süper zekaya ulaşmak için bir yarışa girdiğini ve bu yarışın insan hayatı açısından büyük bir risk oluşturduğunu söyledi.

Araştırmacıya göre yalnızca şirketlerin kendi kararlarıyla ilerleyen bu süreç yeterli değil. Coxon, yapay zeka araştırmalarının devletler ve sektör genelinde oluşturulacak uluslararası mekanizmalarla denetlenmesi gerektiğini savundu.

Anthropic'e "ikiyüzlülük" eleştirisi

Coxon, Anthropic yönetiminin daha önce yapay zekanın kontrolden çıkması halinde ortaya çıkabilecek riskler konusunda çeşitli uyarılarda bulunduğunu hatırlattı.

Buna karşın şirketin yapay zeka alanındaki rekabeti sürdürmesini eleştiren Coxon, güvenlik konusunda yapılan açıklamalar ile şirketin izlediği ticari strateji arasında çelişki olduğunu öne sürdü.

Özel şirketlerin yapay zekanın geleceğine ilişkin kritik kararları kendi bünyelerinde almasının doğru olmadığını belirten araştırmacı, bu sürecin daha geniş bir kamu denetimine tabi tutulması gerektiğini ifade etti.

Araştırmalara denetim çağrısı

Coxon, yapay zeka modellerinin yeteneklerinin daha da geliştirilmesine yönelik çalışmaların geçici olarak yavaşlatılması veya sınırlandırılması gibi seçeneklerin değerlendirilmesi gerektiğini savundu.

Uluslararası koordinasyonun önemine dikkat çeken araştırmacı, yapay zeka laboratuvarlarının birbirleriyle yarışmak yerine güvenlik konusunda ortak kurallar oluşturması gerektiğini belirtti.

Coxon ayrıca, yapay zekanın kendi kendini geliştirme kapasitesinin ciddi biçimde artması halinde ortaya çıkabilecek sonuçların yeterince anlaşılmadan ilerlemenin büyük bir hata olabileceği uyarısında bulundu.

Yapay zeka yarışında güvenlik tartışması büyüyor

Coxon'ın istifası, yapay zeka sektöründe güvenlik ve kontrol tartışmalarının yeniden gündeme gelmesine neden oldu.

Yapay zekanın ekonomik ve teknolojik açıdan büyük fırsatlar sunduğu kabul edilirken, giderek daha otonom hale gelen sistemlerin nasıl denetleneceği konusunda uluslararası düzeyde tartışmalar sürüyor.

Coxon ise sektörün mevcut hızını koruması halinde risklerin daha da büyüyebileceğini savunarak araştırmacılara ve şirketlere, yapay zeka yarışının sonuçlarını yeniden değerlendirme çağrısı yaptı.