Ne kadar tehlikeli?

Şöyle başlayalım… Yapay zekanın gelişimiyle ilgili endişe duymak için birçok neden var. Örneğin, insanların bilgisayarlar ile yer değiştirmesi konusunda endişelenmek.

Şöyle başlayalım… Yapay zekanın gelişimiyle ilgili endişe duymak için birçok neden var. Örneğin, insanların bilgisayarlar ile yer değiştirmesi konusunda endişelenmek. Yapay zeka ne kadar yararlı veya tehlikeli olacak? Bunu kimse kesin olarak bilmiyor. Çok az bilim insanı yapay zekanın ilerlemesini durdurmak istiyor. Yapay Zeka, teknoloji, bilim, tıp ve eğitim de dahil olmak üzere birçok alanı dönüştürmeyi vaat ediyor. Ancak, aynı zamanda, birçok yapay zeka araştırmacısı da onun yükselişi hakkında korkunç uyarılarda bulunuyor.
* * * *
Bu yıl Nobel Fizik Ödülü , yapay sinir ağları ile makine öğrenimini mümkün kılan temel keşifler ve icatlar nedeniyle Amerikalı John Hopfield ve Kanadalı araştırmacı Geoffrey Hinton'a verildi. Ama Hinton insanlığı yapay zekaya karşı uyarıyor? Hinton'a sık sık yaptığı işten pişman olup olmadığı soruluyor. Pişman değil. Öyleyse neden uyarıyor? Çünkü güçlü insanlar onu kötüye kullandığında ne olacağından korkuyor.
* * * *
Hinton, ‘Yapay Zeka‘nın babalarından biri olarak kabul ediliyor. Hinton'un çalışmaları beyni anlama arzusundan kaynaklanıyor. Cambridge'deki eğitimi sırasında fizik de dahil olmak üzere çeşitli disiplinleri denemiş. Bir yıl sonra matematiğin üstesinden gelemediği için vazgeçtiğini söylüyor. Bunun yerine psikoloji diploması almış ve Edinburgh Üniversitesi'nde doktora çalışmasını yapay zeka üzerine yoğunlaştırmış.
* * * *
Daha sonra Kanada'ya giderek yapay zekanın belirli bir biçimi olan sinir ağlarını araştırmış. Bu sistemler beynin yapısına göre modellenmiş. Nobel Ödülü'nü paylaştığı John Hopfield'ın çalışmasını temel alarak, 1980'lerde, örnekleri kullanarak tanımayı öğrenen sinir ağları geliştirmiş. Araştırmasına başladığında, hiç kimse başarılı olacağını düşünmemiş; başarılı olmaya başladığında bile, hiç kimse bu kadar çabuk başarılı olacağını düşünmemiş, ama başarılı olmuş.
* * * *
1980'lerden bu yana temellerinin geliştirilmesine yardımcı olduğu ChatGPT'dekiler gibi dil modelleri, öğrenen makineler. Bu öncü çalışması nedeniyle şimdi Nobel Fizik Ödülü'nü aldı. Nobel Ödülü'nü kazandıktan sonraki ilk röportajda ‘Umarım bu ödül bana bu şeylerin gerçekten anlaşılabileceğini söyleme konusunda daha fazla güvenilirlik sağlar‘ demiş. ‘Bu şeyler‘ derken, günümüzün günlük yaşamının bir parçası olan yapay zekayı kastediyor:
* * * *
Böyle birinin neden daha fazla güvenilirliğe ihtiyacı var? Çünkü o, çok önemli bir uyarı yapıyor. ‘Yapay zeka, biz insanların anladığı gibi anlıyor; Yakında entelektüel olarak bizi aşabilir ve kontrolümüzü ele geçirebilir.‘ diyor. Bu konuda o yalnız değil. Diğer bazı araştırmacılar da yapay zeka devrimini hem kaçınılmaz hem de dünyayı mahvedebilecek bir şey olarak niteliyor. Uyarılar çoğalıyor, ancak ‘yapay zeka‘nın yürüyüşü devam ediyor.
* * * *
2010 yılına kadar sadece bir avuç araştırmacı yapay zeka üzerinde çalışıyordu. 2012'de Google'a giden Hinton da buna dahil. Şirket, sonunda konuşmayı işleyebilmek için ağları önemli ölçüde daha da geliştirdi. Bu gelişme modern dil modellerinin ortaya çıkmasına yol açtı. Bu sistemler bilgisayarları programlayabiliyor, karmaşık zihinsel görevleri çözebiliyor veya internette araştırma yapabiliyor; Hinton, ‘Bu çok korkutucu. Beş yıl içinde makineler bizden daha akıllı olabilir‘ diyor.
* * * *
2023’e gelince yani geçen yıl Hinton, giderek daha güçlü dil modelleri için Microsoft'la şiddetli bir rekabet içinde olan Google'dan istifa etmiş. Endişe duymaya başlamış. Yapay zeka sistemlerinin biz insanlardan daha akıllı hale gelebileceğini söylüyor. Şimdi bunun beş ila yirmi yıl içinde gerçekleşebileceğini tahmin ediyor. Peki o zaman tam olarak ne olacak? Bunu kimse bilmiyor.
* * * *
Bu konuda Hinton yalnız değil. Aralarında modern yapay zekanın babalarından biri olarak kabul edilen Kanadalı bilgisayar bilimcisi Yoshua Bengio’nun da bulunduğu beş yapay zeka uzmanından acil bir çağrı bir süre önce Science dergisinde yayınlanmıştı. Çağrıda hükümetleri yapay zekanın yarattığı varoluşsal riskleri ele almak için hemen harekete geçmeye çağırıyorlardı. Sanıyorum, tarihin yapay zeka tehditiyle gerekirse başa çıkmanın bir yolu olup olmadığını anlamamız gereken bir dönüm noktasındayız.

Bu haber 157 defa okunmuştur

:

:

:

: