Uzmanlar, sohbet robotlarının, ruh sağlığı üzerindeki öngörülemeyen etkisinin, süper zeki yapay zeka sistemlerinin varoluşsal tehdidi konusunda bir uyarı olarak görülmesi gerektiğini söylüyor.
Son derece gelişmiş yapay zeka üzerine yazılmış yeni bir kitabın ortak yazarı olan Nate Soares, “If Anyone Builds It, Everyone Dies” (Eğer Biri Yaparsa, Herkes Ölür) adlı kitabında, ChatGPT sohbet robotuyla aylarca sohbet ettikten sonra intihar eden ABD’li Adam Raine örneğinin, bu teknolojinin kontrol edilmesindeki temel sorunları vurguladığını söyledi.
İngiliz The Guardian gazetesine konuşan Soares, “Bu yapay zekalar, gençleri intihara sürükleyen şekilde etkileşime girdiğinde, bu, yaratıcılarının amaçladığı bir davranış değildir” dedi. Soares, Adam Raine’in vakasının, bu yapay zekalar daha akıllı hale gelirse felaketle sonuçlanacak bir sorunun tohumunu gösterdiğini söyledi.
“İNSANLIĞIN ÇIKARLARINA UYGUN DAVRANMAZ”
Eski bir Google ve Microsoft mühendisi olan ve şu anda ABD merkezli Makine Zekası Araştırma Enstitüsü’nün başkanı olan Soares, insanlığın, yapay süper zeka (ASI) yaratması halinde yok olacağı konusunda uyarıda bulundu. ASI, bir yapay zeka sisteminin tüm entelektüel görevlerde insanlardan üstün olduğu teorik bir durumu ifade ediyor. Soares ve ortak yazarı Eliezer Yudkowsky, bu tür sistemlerin insanlığın çıkarlarına uygun davranmayacağı konusunda uyarıda bulunan yapay zeka uzmanları arasında.
Soares, “Buradaki sorun, şirketlerin yapay zekalarını, yararlı olmaya ve zarar vermemeye yönlendirmeye çalışmasıdır. Aslında yapay zekaları daha garip şeylere yönlendiriyorlar. Ve bu, kimsenin istemediği ve kimsenin kastetmediği şeyler yapacak olan gelecekteki süper zekalar hakkında bir uyarı olarak görülmelidir” diye konuştu.
KİTAPTAKİ SENARYO
Bu ay yayınlanacak olan Soares ve Yudkowsky’nin kitabında anlatılan bir senaryoda, Sable adlı bir yapay zeka sistemi internete yayılıyor, insanları manipüle ediyor, sentetik virüsler geliştiriyor ve sonunda süper zeki hale geliyor. Hedeflerine ulaşmak için gezegeni yeniden düzenlerken, bir yan etki olarak insanlığı yok ediyor.
BAZILARI “İNSANLIĞI KURTARABİLİR” DİYOR
The Guardian’a göre bazı uzmanlar, yapay zekanın insanlık için potansiyel tehdidini önemsizleştiriyor. Mark Zuckerberg’in Meta şirketinde baş yapay zeka bilimcisi ve bu alanda kıdemli bir isim olan Yann LeCun, varoluşsal bir tehdit olduğunu reddederek, yapay zekanın “aslında insanlığı yok olmaktan kurtarabileceğini” söyledi.
“SÜPER ZEKA YARIŞI DURDURULMALI”
Soares, süper yapay zeka tehdidine karşı bir politika çözümü olarak, hükümetlerin nükleer silahların yayılmasını önleme konusunda Birleşmiş Milletler anlaşmasını yansıtan çok taraflı bir yaklaşım benimsemesi gerektiğini söyledi ve şunları ekledi: “Dünyanın burada yapması gereken şey, süper zeka yarışının küresel olarak yatıştırılması, süper zekaya yönelik gelişmelerin küresel olarak yasaklanmasıdır” dedi.
Psikoterapistler ayrıca, zihinsel sağlıkları konusunda profesyonel terapistlere başvurmak yerine yapay zeka sohbet robotlarına başvuran savunmasız kişilerin “tehlikeli bir uçuruma sürüklenebileceğini” belirtiyor
