YAPAY ZEKA BİZİ AŞMADAN
30 Mart
Yapay Zeka Deneylerini GPT-4’ün Ötesinde Duraklatmak İçin Acil Çağrı: Ne Anlama Geliyor ve Neden Önemli?
AElon Musk , Steve Wozniak ve Emad Mostaque gibi ünlü uzmanlar tarafından desteklenen yakın zamanda yayınlanan açık mektup , GPT-4’ten daha güçlü yapay zeka sistemlerinin geliştirilmesinde acil bir duraklama çağrısında bulunuyor .
Tüm yapay zeka laboratuvarlarını GPT-4’ten daha güçlü yapay zeka sistemlerinin eğitimine en az 6 ay ara vermeye çağırıyoruz.
Neden?
Asıl endişe, AI sistemlerinin çok hızlı bir şekilde çok güçlü hale gelme ve istenmeyen ve potansiyel olarak feci sonuçlara yol açma potansiyelidir.
20 saatten kısa bir süre içinde 1.300’den fazla kişi bu hareketi desteklemek için kaydoldu.
Bu yazıda mektubun içeriğini ve arkasındaki araştırmayı derinlemesine incelemeye ve konuyla ilgili düşüncelerimi paylaşmaya çalışacağım.
Arkaplan
Mektup, hiç kimsenin, yaratıcılarının bile anlayamayacağı, tahmin edemeyeceği veya güvenilir bir şekilde kontrol edemeyeceği daha güçlü dijital zihinler geliştirmek ve dağıtmak için kontrolden çıkmış bir yarışa kilitlenmiş yapay zeka laboratuvarlarının bir resmini çiziyor.
Mektup, tatmin edici olanlar da dahil olmak üzere tüm işleri otomatikleştirmemiz gerekip gerekmediği ve artık insan olmayan zihinler sonunda sayıca üstün gelme, zekamızı alt etme ve yerimizi alma yolundayken medeniyetimizin kontrolünü kaybetme riskini alıp almamamız gerektiği gibi soruları kendimize sormamız gerektiğini savunuyor.
Anahtar Noktalar
- Açık mektubun ana talebi, OpenAI gibi AI laboratuvarlarının GPT-4’ten daha güçlü AI sistemlerinin eğitimine en az altı ay ara vermesidir.
- Böyle bir duraklama hızlı bir şekilde yasalaştırılamazsa, hükümetler devreye girmeli ve bir moratoryum başlatmalıdır.
- Mektup, AI geliştiricileri ve politika yapıcılar arasında, AI’nın gelecekte neden olabileceği yıkıcı etkilerle başa çıkmak için sağlam AI yönetişim sistemlerinin gelişimini hızlandırmak için işbirliğine dayalı bir çaba çağrısında bulunuyor.
- Mektup ayrıca, risklerinin yönetilebileceğinden emin olmadan önce daha güçlü AI sistemlerinin geliştirilmesine ve konuşlandırılmasına acele etmeden, toplumun yapay zekanın (AI) faydalarından yararlanabileceği bir süreyi ifade eden “AI yazı” çağrısında bulunuyor.
Ancak AI’daki en son gelişme gerçekten bu kadar korkutucu mu?
OpenAI CEO’su Sam Altman , blogunda birçok insanın insanüstü makine zekasının geliştirilirse çok tehlikeli olacağına inandığını yazdı, ancak o aksini düşünüyor .
Pek çok insan, geliştirildiği takdirde SMI’nin çok tehlikeli olacağına inanıyor, ancak bunun ya asla olmayacağını ya da kesinlikle çok uzak olduğunu düşünüyor. Bu baştan savma, tehlikeli bir düşünce. — Sam Altman
Son düşünceler
Yapay zeka sistemlerini anlama ve insani değerlerle uyumlu hale getirme konusunda ilerleme kaydedilirken, konunun aciliyeti hafife alınamaz.
Mektuba katılsanız da katılmasanız da, yapay zeka teknolojilerinin sorumlu bir şekilde geliştirilmesini ve uygulanmasını sağlamak için daha fazlasının yapılması gerektiğini hatırlatır.AI teknolojilerinin sorumlu bir şekilde geliştirilmesini ve devreye alınmasını sağlamak için daha fazlasının yapılması gerekiyor.
Sıcak koltukta olan sadece GPT-4 değil. MidJourney gibi AI görüntü oluşturucular, son zamanlarda ultra gerçekçi görüntüler oluşturma yetenekleriyle manşetlere girerek yeni bir derin sahtecilik biçimini ateşledi .
Yapay zeka gelişmeye devam ederken, araştırmacıların, sektör liderlerinin ve politika yapıcıların bir araya gelerek güçlü yapay zeka sistemleriyle ilişkili etik ve güvenlik endişelerini ele alması çok önemlidir.
Geliştirmeye ara vermenin doğru çözüm olup olmadığı bir tartışma konusu olmaya devam ediyor, ancak yapay zekanın potansiyel risklerini ve sonuçlarını çevreleyen konuşma her zamankinden daha önemli.
Peki ya sen? AI deneylerini GPT-4’ün ötesinde duraklatmayı kabul ediyor musunuz?
BU GENÇ BİLİŞMCİNİN YORUMUNU “MEDIUM” SİTESİNDE OKUDUM SİZLERLE PAYLAŞMAK İSTEDİM.