Bazı durumlarda dörtte bir ihtimal kulağa oldukça makul gelebilir. Hatta birçok kumar oyununa göre oldukça avantajlıdır. Ancak Anthropic’in CEO’su Dario Amodei, yapay zekanın insanlık için “toplumsal yıkımla sonuçlanabilecek bir felaket” haline gelmesi ihtimalini yüzde 25 olarak değerlendirdiğinde, bu oran çok da iyimser görünmüyor.
Axios AI + DC Zirvesi’nde konuşan Amodei, “Bence işlerin çok, çok kötü gitme ihtimali yüzde 25” dedi. Ancak dikkatini daha çok “işlerin çok, çok iyi gitme ihtimalinin yüzde 75 olması”na verdiğini de ekledi.
“Çok kötü” ihtimalin anlamı
Buradaki “çok kötü”den kasıt, telefonunuzun yazım hatasıyla “tamam” kelimesini yanlış yazması değil. Amodei’nin işaret ettiği risk, tüm toplumsal sistemleri tehdit edebilecek büyüklükte senaryolar: Yanlış kullanılan yapay zeka, kontrolsüz biçimde büyüyen teknolojiler ve potansiyel varoluşsal tehlikeler.
Genellikle ütopik vaatler ya da bilimkurguya kayan felaket senaryolarıyla anılan yapay zeka tartışmalarında, Amodei’nin hem riskleri hem de ilerlemenin gerekliliğini aynı anda vurgulayan tavrı dikkat çekiyor.
Amodei sıradan bir gözlemci değil; Claude isimli yapay zekanın arkasındaki şirketin CEO’su olarak, bu teknolojiyi şekillendirenlerden biri. Yani kendi ifadesiyle risklerin farkında olsa da, aynı zamanda bu geleceği inşa eden ekibin başında bulunuyor.
Durumu açıklarken kullandığı örnek de çarpıcı: “Eğer biri size arabanızı her çalıştırdığınızda patlama ihtimalinin dörtte bir olduğunu söylese, muhtemelen yürümeyi tercih ederdiniz.” Amodei ise tam tersine, motoru açıp sorunu çözmeye girişeceğini söylüyor.
Amodei daha önce de dikkat çekici uyarılarda bulundu. Yapay zekanın, beyaz yaka işlerinin yarısını ortadan kaldırabileceğini dile getirmiş ve ABD’nin ileri seviye çipleri Çin’e ihraç etmesine karşı çıkmıştı. Onun yaklaşımı riskleri görmezden gelmeyen, olasılıkları net bir şekilde ortaya koyan ama yine de harekete geçmeye alan bırakan bir yaklaşım olarak öne çıkıyor.
Yüzde 75’lik umut
Diğer yandan, Amodei’nin “işlerin yüzde 75 iyi gitme ihtimali” söylemi de boş bir iyimserlikten ibaret değil. Ona göre yapay zeka, sağlık alanında ilerlemelerden verimli üretim süreçlerine kadar pek çok fayda sunabilir. Hatta iklim değişikliği gibi küresel sorunlarla mücadelede bile çözümler geliştirebilir. Ancak bu noktada yapay zekanın kendi enerji tüketimi de dikkate alınması gereken bir unsur.
Ne var ki, yüzde 25’lik risk göz ardı edilemeyecek kadar büyük. Bu nedenle faydaların güvenli bir şekilde ortaya çıkması için regülasyonlar, denetimler ve güvenlik önlemleri şart. Çünkü gelecek “yüzde 75 parlak, yüzde 25 karanlık” bir tabloysa, asıl soru şu: Dengenin doğru tarafta kalmasını sağlamak için biz ne yapacağız?
